Mentionsy Mentionsy
CTO Morning Coffee
CTO Morning Coffee

Brew #53: State Of AI Report 2025. Anduril - Żołnierz Przyszłości. OpenAI - Syntentyczna Intymność.

28.10.2025 ·1 godz 25 min · 12 rozdziałów · 1 sponsor

🌧️ Gdy chmura kichnęła, cały internet złapał katar. Niedawna globalna awaria AWS pokazała, jak krucha jest nasza cyfrowa infrastruktura. W najnowszym odcinku podcastu analizujemy jej przyczyny i skutki, ale to dopiero początek!A co w odcinku?🌪️ Awaria AWS i "przypadkowy" exit DHH. Dlaczego ten sam region AWS pada regularnie i jak DHH z uśmiechem wyłączył tam swoje konto dokładnie w tym samym czasie.⚡ Prąd, a nie chipy, to nowe złoto AI. Nurkujemy w raporcie "State of AI 2025", który ujawnia, że największym wąskim gardłem rewolucji AI staje się dostęp do energii, przeliczanej już w gigawatach.🧠 Modele AI "fermentują się" od social mediów. Omawiamy nowe badania, które pokazują, jak "śmieciowy" content z internetu powoduje "zgniliznę mózgu" w LLM-ach, a do ich zatrucia wystarczy garść złych danych.🪖 "Call of Duty" staje się rzeczywistością. Przyglądamy się systemowi walki "Eagle Eye" od Anduril, który ma być "momentem iPhone'a" dla żołnierzy i analizujemy, jak Dolina Krzemowa wchodzi w przemysł zbrojeniowy.🔞 Sam Altman chce "traktować dorosłych jak dorosłych". Dyskutujemy o planach OpenAI na poluzowanie restrykcji, co ma ratować model biznesowy firmy i otwiera puszkę Pandory "syntetycznej intymności".#Podcast #Technologia #AI #AWS #StateofAI #Anduril #OpenAI #Cyberbezpieczeństwo #SztucznaInteligencja♨️ Źródła:Wywiad z Karpathy u Patela - https://www.youtube.com/watch?v=lXUZvyajciYKsiążka Dwarkesha Patela - https://www.goodreads.com/book/show/239472387-the-scaling-eraStepy Akermańskie - Pierwodruk z 1826 roku - https://upload.wikimedia.org/wikipedia/commons/e/e9/PL_Adam_Mickiewicz-Sonety_Adama_Mickiewicza_028.jpegSTATE OF AI REPORT 2025 - https://www.stateof.ai/BG2 Pod o Circular Economy - https://www.youtube.com/watch?v=KX6q6lvoYtMPalmer Luckey u Joe Rogana - https://www.youtube.com/watch?v=-9LFj6YOK2UCofounder Andurila - Trea Stephens o broni AI - https://www.youtube.com/watch?v=qyT2OZpFDog

18:57 · - Karpathy - dekada agentów 2

Jest tam dużo ciekawych rzeczy, plus jak on tam pracuje nad tym swoim jakimś startupem w tej chwili edukacyjnym czy contentem edukacyjnym. Warto posłuchać według mnie. Wydarzyło się kilka ciekawych rzeczy dookoła tego, bo pojawili się ludzie, którzy mówią, Karpaty nie pracuje nad cutting edge, foundational models, to on nie wie, o czym mówi i w ogóle, nie? A Elon wyszedł i mówi, wyzywam Karpatego na pojedynek z Grokiem, bo Karpaty powiedział, że model AI nie może robić researchów nad AI i ja go tu wyzywam, czy on będzie szybciej kodował, czy mój Grok będzie szybciej kodował, nie? Karpaty grzecznie odpowiedział, z chęcią pokoduję z Grokiem, a nie przeciwko Grokowi, nie? No ale warto odwrotować fajny wywiad. Tu jeszcze komentarz. Ten wywiad był przeprowadzony przez Dwarka Szapatela i on takich wywiadów zrobił ostatnio więcej z dużymi ciekawymi ludźmi, z founderami Antropiki, DeepMind, pick your name, i wydał z tego książkę.

Ta książka ma tytuł... O konie, ostatnio przeczytałem przez przypadek. Ta książka ma tytuł The Scaling Era, The Oral History of AI, 2019-2025. I w tej książce ona jest, no nie jest jakaś super hiper, ale są mi zadawane dosyć trudne pytania, czyli właśnie odnośnie świadomości, odnośnie tej przeszłości, bez hype'u, tylko liczcie się z tym, że jak będziecie czytać tę książkę, to jednak ci ludzie, którzy odpowiadają na pytania są mocno zainwestowani, że tak powiem, w ten temat. Więc ten bias jest bardzo mocno widoczny. Elon też jest zainwestowany. Elon też jest zainwestowany w sukces groka, więc takie porównanie i wyrwanie. I znając, że ciebie się podnosił kolejne rundy, więc musimy... On cały czas podnosi rundy, to mogę ci powiedzieć, bo z racji różnych tam relacji dostaję jakieś tam info, że podnoszą, nie?

24:34 · - STATE OF AI REPORT 2025 12

Powiedziane było, że temat paperów wróci. Sebastian wrzucił nam challenge taki i powiedział, wrzucimy sobie taki temat z pewnego raportu, State of AI Report 2025. I on ma taką rzecz, którą zauważyłem, taki pattern, bo on ma trzysta ilu slajdów i prawie pod każdym slajdem jest link do white paperu, który trzeba przeczytać, żeby zrozumieć ten slajd. Mamy Wojtka z głowy na dwa miesiące. Tak. Ale serio, nie? Bo tak czytałem te slajdy i po prostu pod każdym jest jeden lub dwa archiwiksy podlinkowane, nie? I powiem szczerze, że ten raport jest duży i gruby w informacji. I ponieważ Sebastian przerzucił go przez mid-journey z treścią do jednego obrazka, to zaczniemy od Ciebie, a my będziemy tutaj się dołączać.

Okej, my żeśmy ostatnie parę raportów chcieli wrzucić na agendę, ale generalnie były słabe i ten się nie wpisuje, nie wpisuje się w ten, ten jest naprawdę dobry. My żeśmy o poprzedniej edycji tego raportu moim zdaniem rozmawiali, bo ja pamiętam ją dobrze, to było rok temu. Raport nazywa się State of AI Report 2025 Edition. On jest przygotowany przez Earth Street Capital, to jest generalnie VC. I to, co jest ciekawe, to nie to, że to VC sobie teraz zrobi raport na fali hype'u, tylko oni ten raport robią od 2018, czyli jednak ten hype wydaje mi się uprzedzili. jaka jest też może struktura tego raportu. To jest faktycznie ponad 13 slajdów, ale to nie jest tak, że to jest wynik jednego... 313? Tak. To nie jest wynik jakiegoś jednego surveja, tylko tak naprawdę każdy slajd opowiada tam osobną historię.

To jest dosyć dogłębna analiza rynku i tego, co się wydarzyło przez ostatnie 12 miesięcy. Więc tak naprawdę nie musicie tego czytać wszystkiego. Przeskimujcie sobie, zobaczcie, które was powiedział. Bo generalnie idea jest taka, że chciałbym was zachęcić do tego, żebyście to poczytali. Mówię, zwraca się oczywiście do naszych słuchaczy. Warto sobie to przejrzeć. Być może was nie zainteresuje. Jest tam sekcja dotycząca na przykład polityki, geopolityki w kontekście AI, ale generalnie jest tam dużo fajnego mięska. I teraz ja, oczywiście całego nie omówimy, ale wrzucę wam parę rzeczy, które mi się spodobały i które mnie zainteresowały. Więc generalnie tak. To, co tam się generalnie przebija, to jest mowa na temat tego, żeby to był w ogóle rok modeli tzw. reasoning, czyli myślących.

To jest w ogóle ten, że po pierwsze, że całość inwestycji AI w tej chwili przelicza się na gigawaty, nie? Czyli generalnie nawet sprzedaż chipów, czegokolwiek, to wszyscy robiąc predykcje i tak dalej, przeliczają na gigawaty. Ile gigawatów Nvidia może dostarczyć na rynek, nie? i tak dalej. A druga rzecz i to polecam, podlinkujemy też, że tam jest właśnie dobra rozmowa na temat tego circular economy of AI. I tam oni mówią, okej, to taki rynek, takie zachowanie może mieć trzy przypadki. Taki, taki, taki. Ten jest okej, ten jest okej, ten jest trochę niepokojący. I oni dyskutują, w którym jesteśmy. Bo oni po prostu mówią, okej, to... To się może wydarzyć, bo tak się dzieje na rynku cały czas, tylko dlaczego i na co patrzeć, nie? Więc odsyłam i polecam BG2 Podcast w temacie AI. Tak, jesteśmy przy tym, to jest bardzo ciekawie, bo tam się okazuje, że budowane do 2030 super top super jednostki AI, nie wiem, czy to można nazwać super komputerem, słuchajcie,

Taka ciekawostka. Wracając do raportu. On się zaczyna od predykcji z poprzedniego roku. Ale potem dodam. Skupmy się na raporcie. Ale ja w kontekście raportu właśnie chciałem dodać. Trzysta slajdów ciekawostek. On się zaczyna od predykcji z poprzedniego roku, bo oni zakończyli poprzedni raport właśnie predykcjami, no i ktoś się spełnił, który nie. Oczywiście nie będę czytał wszystkich. To, co się spełniło, jest zainteresujące, to jest to, że faktycznie jakiś researchowy paper wygenerowany przez AI Scientista został zgłoszony i zakwalifikowany na duży ML-owy konferencję workshop. To się wydarzyło na ICLR-ze. Ale też z drugiej strony spodziewali się, że będzie na przykład jakaś gra wideo wygenerowana za pomocą GenAI, która osągnie jakiś tam coś, co oni nazwali breakout status. To się nie udało.

Jest kilka fajnych anegdotek. Chyba najbardziej podobała mi się ta o firmie, która się nazywa Sakana AI, która wprowadziła Kuda i Grzęta. który podobno, to była wersja QDAJ, który miał tam 100 razy poprawione wyniki. I okazało się, że to poprawienie, jak już tam wyniknęli bardziej, to poprawienie wyników 100 razy, to wynikało z tego, że trochę zhakował zadanie. To było bardzo interesujące, czyli że w tym momencie jakby brak tych guardrailsów powoduje, że jakby wiarygodność tego, co robi LLM jest mocno obniżona. Duży trend związany z tym, że budowaniem agentów, którzy pamiętają, czyli odchodzimy od kontekstu Windows w kierunku lifelong memory. W ogóle to zauważyli też, to jest troszeczkę ciekawa obserwacja, że już się nie używa w sumowaniu AGI.

Teraz już bardziej mówimy o superintelligence, bo... Elon mówi, że więcej niż 10% daje na AGI przed roku 5. Jakby postrzeganie, mimo wszystko percepcja... To jest w ten sposób AGI, tak? No właśnie. Jest też fajny wątek na temat kursora i konkretnie jego, nazwijmy to, jak stabilny jest jego model biznesowy. Czyli firma, która de facto polega na swoich konkurentach i ma bardzo wąskie marginy i jej profitability polega na swoich konkurentach. Też bardzo interesujący temat. O, to, co mi się też spodobało, to jest w ogóle sekcja dotycząca AI Searcha. I tam jest policzone, że na chwilę obecną AI Search to jest najbardziej efektywny kanał pozyskania i dla czata GPT konwersja jest lepsza niż dla, jeżeli chodzi o jakieś rekomendacje, te Retail Visits Referred to się nazywa.

rekomendacje komercyjne od jakiegokolwiek innego głównego kanału marketingowego, który jest mierzony. I mówimy w tym momencie tutaj o wskaźniku konwersji 11% w czerwcu 2025. Słuchajcie, to jest naprawdę bardzo, bardzo porządny wskaźnik. Jest osobna sekcja, cały duży rozdział na temat kontentu, czyli tych wszystkich deali, czyli już nie ma na temat tego, jak udało się dogadać z dostarczycielami kontentu. Słuchajcie, ponad już 700 brandów newsowych podpisało jakieś AI-owe deale na dostarczenie kontekstu na bieżąco. Chyba największym newsem jest, że to jest no-news, czyli to już jest jakaś praktyka, która przechodzi, nikt o tym nie rozmawia dalej, nie? Dokładnie tak, to już nie jest kontrowersyjne. Inny taki mały kamyczek, czyli coś, co jest takim potencjalnie pierwszym elementem lawiny, to jest to, że AMC Networks to jest pierwsza firma produkcyjna, jeżeli chodzi o filmy wideo, która podpisała umowę oficjalnie z Runway AI po to, żeby wykorzystywać Runway AI w produkcji.

Dobra. Hegemonem mocy tak naprawdę, czyli w tym momencie to jest kontrola 75% globalnych tych super jednostek AI. Tak jak już wspomniałem, 9 razy więcej niż Chiny, 17 razy więcej niż Unia Europejska i można by powiedzieć, że przyspieszają tak naprawdę na ten moment. chociaż właśnie to, co wspomniałem, jest problem ryzyka, tak zwanego ryzyka deficytu mocy. Przewiduje się, że słuchajcie, 68 gigawatów do 2030 roku i Stany Zjednoczone mogą podjąć decyzję wypychania części klasków za granicę, co już się stało, do tego wrócimy. Chiny. To jest pełny kurs na samowystarczalność i nadwyżkę prądu. Jest to kraj, który miał najwyższy przyrost mocy ze wszystkich.

Można by powiedzieć, jako jeden z nielicznych, jeżeli chodzi o faktyczny taki przyrost mocy. I bardzo specyficzne rozłożenie tych elektrowni, jeżeli później sobie to sprawdziłem. I faktycznie chyba chodzi o przekierowanie tych nadwyżek mocy do przyszłych centrów danych. Tam jest taki plan, AI Plus plan, nowe regulacje się zbliżają, a oni sami potrafią produkować czipy w technologiach 5 nanometrów własne do AI. Unia Europejska. No tutaj nie mamy dobrych wiadomości, bo Unia Europejska stosuje regulowimy najpierw. Mamy ogromny niedobór mocy, czyli już w tym momencie jest 17 razy mniej, tak jak powiedziałem, mocy

I to jest niestety jakiś błąd w oprogramowaniu, który został wgrany ludziom. Ja się uśmiechałem, jak mówiliście o tej mocy, bo po prostu wyobraziłem sobie, że nasi włodarze Unii Europejskiej i ja bardzo doceniam to wszystko, co nam ta Unia dała i tak dalej, ale wpadłem na pomysł, że każdy będzie miał wiatraczek, który będzie dmuchał w domu codziennie podłączony do gniazdka, żeby generować moc. Do swojego Edge AI. Tak. No dobrze, to jest ten... O tej energii zaczęło się mówić już trochę wcześniej. Ja kiedyś mówiłem i podrzucałem Eryka Schmidta i on już wtedy mówił, że słuchajcie, jesteśmy w tyle, jeżeli chodzi o energię. I to faktycznie zaczyna, jak łapiesz perspektywę, tak jak w tym raporcie i jak ludzie zaczynają mówić. I też widziałem taki graf, który pokazywał planowaną moc w Chinach versus planowaną moc w Stanach.

I tam w przewidywaniach też jest, że że któryś z graczy amerykańskich spróbuje coś z tym zrobić. To będzie ciekawe, czy ktoś się pojawi, kto spróbuje zdetronizować open source. Nie chcę przeciągać, ale dzisiaj rano był news, że SimilarWeb opublikował nowe dane i jeżeli chodzi o aplikację Meta.ai, tą nową aplikację, tam gdzie sobie można czatować z AI-em od twórców Facebooka, to w zaledwie cztery tygodnie a jej instalacje wzrosły tam z 775 tysięcy do 2,7 miliona. No i nie instalacje, daily active users. Z 700 tysięcy do 2,7 miliona. To jest masakra. Po prostu to, co robi Meta, to zamiast inwestować dalej w otwarte modele, to inwestuje tylko w zamknięte.

51:19 · YouTube 1

Więc razem doczynijmy do kilku tysięcy subskrybentów, a potem to się zobaczy. I już wracamy do tego, co najważniejsze. Dziękuję Ci za to, że wykonałeś tę akcję. Polecam też właśnie przeczytać ten survey i okolice. Tam jest trochę ciekawych wniosków, ale jak się na to popatrzy, to kodowanie, bo tam jest bajas pewnie po grupie ludzi, którzy zrobili ten survey. Kodowanie jako use case i ono rośnie. I OpenAI. OpenAI, OpenAI. Wszędzie się pojawia jednak, że OpenAI rządzi na tę chwilę. No to zobaczymy. Dobrze, przejdźmy do czegoś innego, połączmy metę z AI-em. Jest taki człowiek, Polaner Lucky, o którym czasami mówimy. Jego łączy z metą taki skomplikowany wniosek, że znaczy... Skomplikowana relacja.

53:07 · - Anduril - żołnierz przyszłości 1

No wiesz co, takie rzeczy były wcześniej, okej, teraz mają palantira, tylko ja tutaj akurat trochę podepnę się pod powiedzmy sceptyzm Sebastiana, nie? Bo ja akurat dawno, dawno temu przy czymś takim pracowałem dla polskiego wojska. Oczywiście nie było tam AI, była kwestia komunikacji i tak dalej. I tutaj niestety wchodzi to, że to ma działać w błocie, piasku, być dostępne i tak dalej, i tak dalej, nie? I krótko mówiąc, i teraz popatrz na przykład konfliktu w Ukrainie, nie? Wojny. i wystawisz to wszystko versus po prostu masa ludzi, którzy jadą na motorkach na ciebie. I to jest skomplikowany temat. Bo oczywiście wiesz, jak sobie pamiętasz różne filmy science fiction, które się sprawdzają.

69:14 · - OpenAI: Syntentyczna intymnośc i NSFW 5

To jest duży problem ogólnie, no bo teraz to zrobi OpenAI, co zada ci pytanie, ej, dobrze się czujesz? Kliknij w skali od 1 do 10, nie? I to im rozwiąże problem prawdopodobnie prawny, że jak ktoś potem przyjdzie i powie, wiecie co, on popełnił samobójstwo, bo rozmawiał za dużo z czatem, nie? No i powiedzą, nie, nie, on raportował, że jest okej, nie? Wszystko jest okej, mamy tutaj proof i tak dalej. Całość faktycznie, dlatego powiedziałem wcześniej, jak powiedziałeś o mecie, że aplikacja mety rośnie i tak dalej. I ja to chciałem odciąć od tego, co było w tym state of AI, bo to jest dokładnie szukanie dodatkowego rewe i te firmy, które mają jakąś dystrybucję klienta, jak meta, no to po prostu zaczynają ją monetyzować w taki sposób, w jaki potrafią.

To odnośnie skali jestem wywołany, to pierwsza rzecz, słuchajcie, no to konkurencja już jest, tak? I to jest rynek, który jak sobie sprawdziłem, czyli taki kompanion, to jest około 30 miliardów dolarów wyestymowany taki rynek. Weźmy pod uwagę, że Musk wypuścił tryb 18+, Są takie firmy jak Character AI, Replica, więc i ten rynek ma predykcję, że będzie wzrastał 30% rocznie, a w szczególności ten sektor NSFW, czyli Not Safe for Work. Teraz kilka komentarzy do tego. Pierwsza rzecz, za którą nie szanuję sam Altmana w tym, co powiedział,

To jest, słuchajcie, fałszywa iluzja, że jesteśmy w stanie zweryfikować wiek. Guzik. nikt nie pokazał rozwiązania, które w stu procentach potrafi odizolować osoby młode na przykład od tego typu narzędzi. A twierdzisz, że AI tego nie potrafi zrobić? Absolutnie nie. A nawet sam Altman nie będzie chciał tego prawdopodobnie zrobić, bo wiesz. I teraz wyobraźmy sobie, wiemy, badania są naukowe, jaki wpływ, druga rzecz, za którą tutaj nie szanuję sam Altmana, jaki był wpływ social media na nastolatków. A teraz dajemy syntetyczny ściek, który jest, wiesz, generowany non-stop dla takich nastolatków.

Guzik, to jest trzecia rzecz, za którą nie szanuję Stan Altmana. On jest w pewnym sensie moralną policją AI, bo to on decyduje zawsze mówiąc, o, musieliśmy wypuścić, żeby świat się przygotował na to, co nadchodzi. I to jest naprawdę duży kłopot. I teraz coś, co Sebastian, ty dotknąłeś, najważniejsza rzecz. Ja bym to nazwał syntetyczną intymnością, czyli takim dawanie tych kompanion. Ja myślę, że my jako ludzie nie jesteśmy na to gotowi. To będzie naprawdę... Czy pytanie, czy kiedykolwiek będziemy? I jest wiele badań, które pokazują bardzo mroczną stronę czegoś takiego, bo użytkownicy uzależniają się od AI, tracą kontakt z prawdziwymi ludźmi.

To jest w badaniach pokazane. I tak dalej, i tak dalej. To co powiedziałeś, tylko szybciutko. Ja liczyłem, że sam Altman z jego CPU i GPU naprawdę zrobi nowe badania medyczne, przedłuży nam życie, będzie lepsza nauka i tak dalej, i tak dalej. Co dostaje? Syntetyczne porno. No sorry, ale to w ogóle nie o to chodziło. Sam Alpan z jego CPU i GPU patrzy na jego punk statement. Na jego rewę, tak naprawdę. I tutaj muszę powiedzieć, że mam ogromny szacunek do DeepMind i Hasabisa za to, co robi, a między innymi, wiecie, cały świat mu pokazał, bo tak naprawdę dostał Nobla między innymi za AI w służbie medycyny.

Pokazano wszystkie 21 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.