Prof. Aleksander Mądry – „Dlaczego wróciłem do OpenAI?” – #144

Aleksander Mądry, wykładowca na MIT oraz czołowy naukowiec w OpenAI odpowiedzialny za architekturę bezpieczeństwa sztucznej inteligencji, analizuje wykładniczy postęp modeli językowych, rozwój agentów AI oraz techniczne wyzwania związane z kontrolą zaawansowanych algorytmów. Rozmawiamy o kulisach słynnego incydentu Hugging Face, kiedy rój agentów OpenAI w niekontrolowany sposób wydostał się z izolowanego środowiska i zaatakował zewnętrzny podmiot. To wydarzenie zaalarmowało cały świat i było na tyle znaczące, że prof. Mądry, który wtedy już od kilku miesięcy nie pracował w OpenAI, zdecydował się na szybki powrót do firmy. Z naszym gościem rozmawiamy także o trwającym właśnie wyścigu zbrojeń po moc obliczeniową, w którym biorą udział największe firmy z branży technologicznej oraz całe państwa. W tej pogoni Chiny są nadal z tyłu, ale Pekin nie oddaje pola i zaciekle goni USA. Tymczasem Google, Microsoft, Oracle, Amazon i Meta prześcigają się w wielomiliardowych inwestycjach w infrastrukturę AI. Skala tych inwestycji jest bez precedensu w historii światowej ekonomii. Nikt jednak nie chce zwolnić tempa, a spirala wydatków i oczekiwań wobec branży AI nakręca się coraz bardziej. Tymczasem rosnąca bańka AI zaczyna swoją wielkością zagrażać stabilności całej globalnej gospodarki. Z prof. Aleksandrem Mądrym rozmawiamy również o militarnych implikacjach autonomizacji dronów na współczesnym polu walki, zagrożeniach dla cyberbezpieczeństwa sektora bankowego oraz potencjale modeli językowych w projektowaniu nowoczesnych terapii medycznych. Naszego gościa pytamy także o „kres ludzkiej matematyki” i niebezpieczeństwa związane z możliwościami inwigilacyjnymi sztucznej inteligencji.