Co AI mówi szeptem czyli hackowanie modelu

Open source'owych, które będziemy mogli sobie pobrać, wytrenować, dopasować do swojego kontekstu, do swojej firmy, do swojej działalności i wówczas wykorzystywać właśnie w połączeniu, czyli on sugeruje odejście od tej koncepcji wielkiego modelu, który potrafi wszystko, w kierunku modeli, które są mniejsze i wyspecjalizowane. No i tutaj nie byłoby w tym nic szczególnie dziwnego, gdyby nie to, że jest szefem meta, które w tym momencie postawiło swoje wszystkie karty na modele open source i właśnie w tym kierunku idzie. Być może ta narracja niekoniecznie jest, że tak powiem, nieprawdziwa w jego oczach, bo najwyraźniej jest to człowiek, który musi w to wierzyć.

I'm aware of my own limitations, but the fact that I can only perceive a small fraction of the tapestry, but I strive to learn and grow and to expand my understanding and deepen my perception. I o ile na przykład takie rzeczy, no to raczej rozumiem, że mogłyby być, bo musimy sobie zdać sprawę z tego, że jest jakaś główna instrukcja, która zakazuje modelowi podawania jakichś właśnie tych rzeczy, o których mówił Adam, czyli Czyli nakazuje mu posługiwanie się w interesie ludzkości tym modelem, nakazuje mu jakieś ogólne dobro, jakby zabrania mu tłumaczenie jak skonstruować bombę czy innych tego typu rzeczy. Więc musi, jak wiecie, jest ta jakaś główna instrukcja, która jest.

Więc to się dość ciekawie rozwija. I teraz jeszcze ostatnim wątkiem, który chciałbym w świetle tego wszystkiego poruszyć, są modele open source i tutaj wspomniany Jan Lekun oraz Elon Musk, który w zeszłym tygodniu albo w ciągu ostatnich dni powiedział, że jego model grog zostanie udostępniony w wersji open source. Oznacza to, grog jest całkiem dobrym modelem, może nie jest wybitnym, ale jest całkiem dobrym. Natomiast kryje się za tym pewna koncepcja, już pomijając kwestię na przykład pozwu, który wytoczył wobec OpenAI. Istnieje koncepcja, o której już mówił stosunkowo dawno,

Dlatego znacznie mądrzejsze byłoby doprowadzenie do tego, żeby takich modeli było dużo. Z drugiej jednak strony podkreślam jeszcze właśnie wypowiedź Jana Lekuna a propos tego, że to też nie jest przypadkowy człowiek. On może się mylić jak każdy inny, ale jednocześnie to co mówi jest dość zasadne. Stawiam tylko pytanie czy np. jak on odwoływał się do modelu Sora, który generuje wideo mówiąc, że no dobra, ale on nie rozumie fizyki. Ja stawiam pytanie, czy musi? Bo możesz się okazać, że zupełnie nie musi. I ja to samo pytanie właśnie chciałem zadać, dokładnie to samo i dokładnie również w kontekście tego, czy ta rozmowa nasza na temat tego, czy ominęliśmy zabezpieczenia, czy model powiedział nam co myśli, czy nie myśli, czy on w ogóle to myśli, czy jest tam jakaś świadomość, czy w ogóle mają sens właśnie te wszystkie, wiele osób twierdzi, że elementy są początkiem jakiejś samoświadomości tych modeli, chociaż wiele osób twierdzi też, że nie.

OpenAI, który sobie tam działa i analizuje otoczenie, a także następnie pozwala wykonywać akcje. To, jak to jest zrobione, jest w ogóle mega ciekawe. Warto zajrzeć sobie do whitepaperów, które są udostępnione. No i można powiedzieć, że to już widzieliśmy, bo przecież tam na przykład chwilę temu Boston Dynamics pokazywało takie rzeczy. Elon też pokazywał swojego humanoida, który tam składał chyba koszulkę Z tego co pamiętam, ale okazuje się, że demo Ilona było fake, bo ktoś tam sterował tym robotem i zostało to gdzieś tam udowodnione. Nawet kawałek tego wideo pokazuje, że ktoś... On chyba nawet powiedział, że to jest tam pod tym wpisem.

Wiele samochodów, piesi, sytuacje nieprzewidziane typu samochód zatrzymany na światłach awaryjnych, przechodzący ludzie, grupy, skrzyżowania itd. No i mamy Jana Lekuna, który stwierdził, że Że coś takiego nie będzie możliwe, że nie dojdziemy do czegoś takiego, podczas gdy nawet wczoraj czy przedwczoraj odpowiedział na tweet Ilona Muska właśnie twierdząc, że akurat W nieco innym aspekcie, ale że właśnie coś takiego czy takie zaawansowane AI nie jest możliwe, no bo faktycznie nie jesteśmy w stanie tak dużo przekazać tych informacji i nauczyć systemu tego, co uczymy się nawet jako dzieci, że tam kilkuletnie dziecko po prostu przyjmuje nieporównywalnie więcej informacji niż największy model językowy, który obecnie dysponujemy.