Mentionsy

David Sachs, czyli car AI w administracji Trumpa, nazwał tę firmę częścią kultokatastrofy.

Od kilku dni ludzie kasują swoje konta w czat GPT i zaczynają sprawdzać, jak wygląda korzystanie z AI tej firmy.

Oczywiście chodzi o firmę Anthropic, największego rywala OpenAI.

To spółka, która zbudowała wizerunek najbardziej etycznej w branży AI, a dziś jest w samym centrum potężnej politycznej awantury w Stanach Zjednoczonych o bezpieczeństwo sztucznej inteligencji.

Anthropic próbuje być takim sumieniem branży AI.

Zanim jednak odwiedzimy świat AI i wojskowości i walki o to, kto powinien mieć kontrolę nad tą technologią, no w którym trzeba przyznać, że w tym świecie AI trochę nas już nie było.

I też mamy do Was taką prośbę, jak uważacie, że na przykład ten odcinek jest ciekawy, to podeślijcie go komuś ze znajomych, kogo też mógłby ten temat zainteresować.

I tak się składa, że to właśnie AI należąca do firmy, o której dzisiaj chciałyśmy Wam opowiedzieć.

Owszem, tej administracji zdarzało się w ten sposób wykręcać ramiona dotychczasowym sojusznikom albo państwom, takim jak Ukraina, ale i tak wobec swoich zachowywali wspólny front.

Historia Anthropica dobrze pokazuje, co dzieje się, gdy firma pracuje nad technologią, na którą służby, a przede wszystkim wojsko oczywiście, mają apetyt, a że takich technologii podwójnego użycia, czyli szczególnie opartych na AI, będzie dużo więcej, no to możemy mieć do czynienia nie z pojedynczym przypadkiem, ale raczej z większym trendem, albo przynajmniej z jego początkiem.

Jest takie pojęcie, które nazywa się poręczami, guardrails angielskiego, to znaczy to, że model czasami jak stwierdza, że coś jest złośliwe, coś jest takie niefajne, to on nie będzie szedł w tym kierunku, żeby pomagać krzywdzić, pomagać robić coś złego.

Sygnalizowała, w jakim kierunku będą szły badania i przede wszystkim ambicje tego, czym chce być nowy podmiot na rynku AI.

Firma została założona przez rodzeństwo Dario i Daniela Amodei, którzy wcześniej pracowali w OpenAI.

I razem z nimi Anthropic założyło kilku byłych pracowników OpenAI.

I cała ta grupa uchodźców z OpenAI w tej swojej poprzedniej firmie nadzorowała tworzenie dużych modeli językowych, no czyli tej technologii, która ostatecznie zasiliła chatbota ChatGPT.

Co bardzo ciekawe, w 2019 roku, kiedy Amodei wciąż pracował w OpenAI, był częścią zespołu, który ogłosił, że nie opublikuje wczesnego modelu językowego GPT-2.

Oni byli niezadowoleni z tego, że OpenAI związało się chociażby z Microsoftem, umową, która wymagała udostępniania technologii temu gigantowi.

Obawiali się, że OpenAI zmierza w zbyt komercyjnym kierunku, co z kolei utrudni kontrolę nad jego technologią.

To był ten odcinek o tym, jak Indie rozwijają swoje technologie i jak szykują się do AI Impact w Delhi.

Było takie nagranie, w którym wszyscy tam uczestnicy, najważniejsi tego AI Impact, na koniec na scenie chwytali się za ręce i podnosili je w takim uścisku w imię rozwoju sztucznej inteligencji dla dobra ludzkości.

My pewnie wielu rzeczy nie wiemy, a i się pewnie kiedyś dowiemy, jak jakiś proces wybuchnie i znowu trzeba będzie te wszystkie maila opublikować, ale to dobrze było, znaczy widać było doskonale.

Podejście dwóch, jakby nie było, bardzo bliskich ludzi, bo pamiętajmy, że Amodei po prostu był pracownikiem OpenAI, wyszedł właśnie nie zgadzając się na kierunek, w którym podąża OpenAI, więc widać, że ta linia, nie wiem jak ją nazwać, bardziej właśnie związana z pryncypiami, jest dla obu panów bardzo ważna.

Praktycznie w nowej firmie Amodei i jego zespół postanowili być bardziej samodzielni i asertywni i mocno odróżniać się od OpenAI.

No więc można brać te deklaracje dosłownie, ale jednocześnie trzeba zauważyć, że z perspektywy czasu, no one brzmią nieco naiwnie, skoro jednak przedsiębiorstwo powstało i na początku tego roku przecież Anthropic osiągnąłby cenę 350 miliardów dolarów, więc no ojejku, ojejku, nie chcieliśmy, ale tak jakoś wyszło.

Co więcej, ona wciąż pozycjonuje się jako przeciwwaga dla OpenAI, tyle że znowu, to brzmi dosyć tak kuriozalnie, jak sobie przypomnimy, że OpenAI też powstawało jako organizacja non-profit i przedstawiało się jako przeciwwaga dla korporacyjnego i żarłocznego Google.