Kod nie jest już wąskim gardłem. Nadchodzi AI-Native SDLC | Opanuj.AI

Cursor to jest moim zdaniem taki top 1 rozwiązanie dla osób, które jeszcze nie chcą wejść tak all in do terminala. Chcą pozostać przy narzędziach przypominających to, z czego korzystaliście do tej pory jeśli chodzi o oprogramowanie. No ale Cursor się zmienia, Cursor również ewoluuje i o tym również dzisiaj opowiemy. Ale zaczynamy troszkę bardziej viralowo niż na poważnie. Zaczynamy od dużych cywilizacji, które upadały i powstawały, które przejmowały systemy. Opowiemy Wam o tym, co tutaj Dwarkesh Patel z podcastu Dwarkesh Podcast na ten temat pisze i zastanowimy się, czy to jest właściwa forma opowiadania o incydentach, które powodują agenci sztucznej inteligencji. Dwarkesh na bazie analizy tego incydentu, który przygotował Instytut MED, którego możecie znać z słynnego badania o tym, że AI wcale nie przyspiesza tylko spowalnia programistów.

Jak ty w ogóle, Przemek, to postrzegasz? Znając też szczegóły tej całej sytuacji, o czym mówiliśmy w poprzednim odcinku dość szczegółowo, MET przygotowało analizę, która dodaje dość dużo szczegółów, ale tak naprawdę nie wywraca tutaj stolika, jeżeli chodzi o to, o czym rozmawialiśmy w poprzednim odcinku. Ja powiem szczerze, zresztą taka gdzieś tam była konkluzja tego poprzedniego odcinka, że ten rosnący potencjał agentów AI zaczyna być zauważalny, zaczyna być zastanawiający, zaczyna być w niektórych obszarach niepokojący, ale ja cały czas nie pozbyłem się jeszcze tej alergii na tego typu określenia, od których ty tutaj rozpocząłeś.

Na to myślę, że Dwarkesh miał na celu, pisząc ten post w taki, a nie inny sposób. Wydaje mi się, że da się to zrobić, jednocześnie nie przynudzając Z punktu widzenia przeciętnej osoby zainteresowanej AI, która najpewniej nie przeczyta raportu Instytutu MET, który był dużo bardziej zapobiegawczy w tym, jak tę sytuację opisywał. Ja tutaj może bardzo szybko streszczę, bo tak troszkę przeskoczyliśmy nad całym tym tematem incydentu, który omawialiśmy w poprzednim odcinku, więc bardzo szybko streszczę, co się tutaj wydarzyło. Opanuj.AI trenował model nowej generacji. Ten model był również testowany właśnie pod kątem cyberryzyk, cyberzagrożeń, cyberbezpieczeństwa.

Gdzieś tam używając popularnej terminologii w ostatnich czasach to jest AI slope tak zwany, po prostu tego typu komunikat, bo MET dokonało analizy tych wszystkich działań i to, jak to nazwałeś bardzo zabawnie, Forum PHP by Przemo. Nie było jakimś kluczowym elementem tego całego działania. Tam po prostu zostało przepalone ogrom tokenów. Te modele tam zaczęły ze sobą robić gadu gadu, ale to nie był kluczowy element tego wszystkiego, co się wydarzyło, albo dość duża Duży procent tej komunikacji był bezużyteczny. Tam były elementy istotne, gdzieś tam koordynacyjne, ale też było bardzo dużo slopu, który nic nie wnosił i to akurat są takie fajnie brzmiące zdania, które na poziomie tego ataku nie mają nic istotnego, bo po prostu to wyleciało z modelu na widok jakiegoś tam pliku.

No jednak był taki efekt, że niech to AI będzie dla ludzi, niech to będzie dostępne, ale bez przesady. Kiedy tam czytamy o tym, że na przykład modele nie zdecydowały się na poinformowanie ludzi, czy tam agenci nie zdecydowali się na informowanie ludzi o tym, co robią, No to jest na przykład użyte takie określenie ze świata mafii, nie? Czyli, że to jest jakaś omerta, zmowa, milczenia itd., itd. No i, no kurczę, to nie jest neutralne określenie, nie? To jest określenie, które wprost pokazuje, że ci agenci są malicious, że tak powiem, i działają przeciwko dobru tutaj ludzkości, nie? No cóż powiedzieć więcej, nie? Zwłaszcza, że jak się jeszcze człowiek wczyta w ten raport MET, to wychodzi, że nawet nie miały specjalnie możliwości zawiadomienia ludzi, bo nie miały żadnego kanału komunikacji, więc to nawet była czysta sekcyjna decyzja właśnie.