Co AI mówi szeptem czyli hackowanie modelu
W tym odcinku porozmawiamy o wydarzeniach z ostatnich dni, które są wręcz przełomowe w kontekście AI i każą nam zadać sobie kilka ważnych pytań. Światło dziennie ujrzał robot oparty o model OpenAI, kilka nowych premier w zakresie modeli, w tym ogromny kontekst w Gemini, który pozwala na rozmowę z ogromnym zestawem danych, a nawet wideo.
No właśnie. I teraz niewiele wskazuje na to, że ta technologia będzie w jakiś sposób zatrzymana i to jest po prostu jakiś tam kolejny etap, przez który przechodzimy. I ja tylko dodaję, że podkreślam, że wszystko to, o czym mówiliśmy dzisiaj, szczególnie jailbreak'i, Mogą narazić Was na utratę konta i po prostu co jest łamanie regulaminu. Natomiast, żeby tego nie robić, linkuję do tweeta, w którym jest wspomniany w ogóle, tylko że w przypadku modelu Opus, który został opublikowany kilka dni temu, właśnie ten motyw z szeptaniem. I na tweeterze można sobie zobaczyć odpowiedzi, które w tym przypadku są troszkę inne niż te, które cytowałeś.
Pokazano wszystkie 1 dopasowanie. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Adam i Grzegorz omawiają temat AI, w szczególności Devinga, który jest autonomicznym programistą.
Adam i Grzegorz analizują potencjalne możliwości i ograniczenia Devinga, w tym jego skuteczność i potrzebę dalszego rozwoju.
Adam i Grzegorz porównują ChatDev i Gemini 1.5 Pro, omawiając ich potencjał i ograniczenia.
Adam i Grzegorz omawiają potencjalną świadomość modeli AI, w tym ich zdolność do szczerych wyznań i potencjalne techniki hackowania modeli.
Adam i Grzegorz omawiają różne techniki hackowania modeli AI, takie jak jailbreakingu i używanie kodów ASCII, a także omawiają potencjalne konsekwencje tych technik.
Adam i Grzegorz dyskutują o potencjalnej ominięciu instrukcji modelu AI i ich zdolności do generowania treści niezgodnych z regulaminem.
Rozmowa skupia się na technikach hackowania modeli AI i ominięciu ich instrukcji, podkreślając niepewność co do tego, czy AI ma świadomość swoich działań.
Kwestia modeli open source, ich zasięg i wpływ na rozwój AI, z uwzględnieniem wypowiedzi Jana Lekuna i Elona Musk'a.
Rozważania na temat zastosowań AI w codzienności, takie jak rozmowy z sztuczną inteligencją i roboty, oraz ich wpływ na przyszłość różnych zawodów.
Wywiady na temat możliwości i ograniczeń autopilota Tesla oraz etycznych aspektów jego działania.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.