Co AI mówi szeptem czyli hackowanie modelu
W tym odcinku porozmawiamy o wydarzeniach z ostatnich dni, które są wręcz przełomowe w kontekście AI i każą nam zadać sobie kilka ważnych pytań. Światło dziennie ujrzał robot oparty o model OpenAI, kilka nowych premier w zakresie modeli, w tym ogromny kontekst w Gemini, który pozwala na rozmowę z ogromnym zestawem danych, a nawet wideo.
OpenAI, który sobie tam działa i analizuje otoczenie, a także następnie pozwala wykonywać akcje. To, jak to jest zrobione, jest w ogóle mega ciekawe. Warto zajrzeć sobie do whitepaperów, które są udostępnione. No i można powiedzieć, że to już widzieliśmy, bo przecież tam na przykład chwilę temu Boston Dynamics pokazywało takie rzeczy. Elon też pokazywał swojego humanoida, który tam składał chyba koszulkę Z tego co pamiętam, ale okazuje się, że demo Ilona było fake, bo ktoś tam sterował tym robotem i zostało to gdzieś tam udowodnione. Nawet kawałek tego wideo pokazuje, że ktoś... On chyba nawet powiedział, że to jest tam pod tym wpisem.
Wiele samochodów, piesi, sytuacje nieprzewidziane typu samochód zatrzymany na światłach awaryjnych, przechodzący ludzie, grupy, skrzyżowania itd. No i mamy Jana Lekuna, który stwierdził, że Że coś takiego nie będzie możliwe, że nie dojdziemy do czegoś takiego, podczas gdy nawet wczoraj czy przedwczoraj odpowiedział na tweet Ilona Muska właśnie twierdząc, że akurat W nieco innym aspekcie, ale że właśnie coś takiego czy takie zaawansowane AI nie jest możliwe, no bo faktycznie nie jesteśmy w stanie tak dużo przekazać tych informacji i nauczyć systemu tego, co uczymy się nawet jako dzieci, że tam kilkuletnie dziecko po prostu przyjmuje nieporównywalnie więcej informacji niż największy model językowy, który obecnie dysponujemy.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Adam i Grzegorz omawiają temat AI, w szczególności Devinga, który jest autonomicznym programistą.
Adam i Grzegorz analizują potencjalne możliwości i ograniczenia Devinga, w tym jego skuteczność i potrzebę dalszego rozwoju.
Adam i Grzegorz porównują ChatDev i Gemini 1.5 Pro, omawiając ich potencjał i ograniczenia.
Adam i Grzegorz omawiają potencjalną świadomość modeli AI, w tym ich zdolność do szczerych wyznań i potencjalne techniki hackowania modeli.
Adam i Grzegorz omawiają różne techniki hackowania modeli AI, takie jak jailbreakingu i używanie kodów ASCII, a także omawiają potencjalne konsekwencje tych technik.
Adam i Grzegorz dyskutują o potencjalnej ominięciu instrukcji modelu AI i ich zdolności do generowania treści niezgodnych z regulaminem.
Rozmowa skupia się na technikach hackowania modeli AI i ominięciu ich instrukcji, podkreślając niepewność co do tego, czy AI ma świadomość swoich działań.
Kwestia modeli open source, ich zasięg i wpływ na rozwój AI, z uwzględnieniem wypowiedzi Jana Lekuna i Elona Musk'a.
Rozważania na temat zastosowań AI w codzienności, takie jak rozmowy z sztuczną inteligencją i roboty, oraz ich wpływ na przyszłość różnych zawodów.
Wywiady na temat możliwości i ograniczeń autopilota Tesla oraz etycznych aspektów jego działania.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.