Anthropic: jesteśmy „dobrymi gośćmi”, dlatego musimy budować najpotężniejsze AI

👁 157 przeczytań

Anthropic, firma wyceniana na niemal bilion dolarów i należąca dziś do czołowych dostawców zaawansowanych modeli AI, przekonuje, że bezpieczne wprowadzenie sztucznej inteligencji wymaga, by to właśnie ona pozostała na czele wyścigu - wynika z relacji byłych pracowników cytowanych przez WIRED.

Od pięciu lat Anthropic ostrzega przed katastrofalnymi skutkami zaawansowanej AI, a jednocześnie agresywnie rozwija własne modele i pozyskuje klientów, w tym armię USA. Według rozmówców WIRED firma działa na podstawie dwóch założeń: że AI to najbardziej przełomowa technologia w historii, a jej nadejście jest nieuniknione, oraz że świat na tym zyska, jeśli Anthropic utrzyma pozycję lidera. Wewnętrznie pracownicy i kierownictwo nazywają siebie „dobrymi gośćmi”, a gromadzenie kapitału, mocy obliczeniowej i wpływów politycznych traktują jako cenę realizacji misji.

Helen Toner z Georgetown porównuje strategię firmy do wejścia w las pełen skarbów i potworów: „Ludzie i tak wchodzą do lasu, więc my musimy zrobić to pierwsi”. Dyrektor generalny Dario Amodei ujął to wprost: „Trzeba znaleźć sposób, by być konkurencyjnym (…) a mimo to robić rzeczy bezpiecznie. Jeśli ci się to uda, przyciąganie grawitacyjne, jakie wywierasz, jest ogromne”.

Anthropic powstał w 2021 roku, założony przez byłych pracowników OpenAI, którzy stracili zaufanie do Sama Altmana. Wewnętrznie OpenAI, Meta i xAI Elona Muska wciąż bywają przywoływane jako przykłady, których Anthropic chce unikać.

// czytaj dalejNajpotężniejszy model Anthropic miał być zbyt groźny dla ludzi. Mógł trafić do ChinNewsyBiały Dom zmusił Anthropic do wyłączenia najpotężniejszych modeli. Nikt nie wie dokładnie za coNewsySzef Banku Anglii: musimy mieć prawo interwencji w AI, bo modele zagrażają systemowi finansowemuNewsy