💻 Programiści kochają AI, 💾 Chip dla pamięci, 🏦 Czystka w finansach

To jest podcast AI Codziennie. Dziś porozmawiamy o tym, jak złudzenia mogą kosztować firmy miliony. Programiści zakochali się w AI tak bardzo, że nie chcą bez niej pracować, nawet kiedy AI generuje więcej problemów niż rozwiązuje. Porozmawiamy też o startupie, który postanowił, że prawdziwe wąskie gardło sztucznej inteligencji to nie procesory, tylko pamięć. A na koniec wrócimy do czegoś, co od miesięcy niepokoi analityków finansowych. Raport brytyjski mówi wprost, że AI może wyeliminować połowę miejsc pracy w sektorze finansowym do 2035 roku. Zacznijmy od programistów i trendu, który ma wdzięczną angielską nazwę Token Maxing. Badacze z organizacji METR przeprowadzili w lutym tego roku eksperyment.

Poprosili programistów, żeby przez jakiś czas pracowali bez narzędzi AI. Developerzy odmówili. Nie chcieli uczestniczyć w badaniu, jeśli miałoby to oznaczać rezygnację z asystentów w stylu GitHub Copilot czy Cursor. W maju METR przeprowadził ankietę wśród tych samych developerów. Sami ocenili, że z AI są dwa razy bardziej wartościowi niż bez niej. Problem polega na tym, że twarde dane mówią co innego. Amazon uruchomił wewnętrzny ranking produktywności oparty na liczbie tokenów. Im więcej kodu generujesz przy pomocy AI, tym wyżej jesteś w rankingu. Szybko okazało się, że pracownicy zaczęli grać pod metrykę zamiast pod jakość. Koszty wzrosły, a mierzalnej produktywności nie przybyło.

Amazon Ranking zamknął. Uber wydał cały roczny budżet na AI w ciągu czterech miesięcy. Dyrektor operacyjny firmy powiedział wprost. Żadnego mierzalnego wzrostu produktywności nie zaobserwowano. Firma analityczna Intelligence AI sprawdziła na co programiści faktycznie zużywają tokeny. 44% to naprawianie błędów wygenerowanych przez AI. CodRabbit, narzędzie do przeglądu kodu, ustalił, że kod pisany przez AI generuje prawie dwa razy więcej problemów niż kod pisany przez człowieka. Badanie z Southern Methodist University opublikowane w kwietniu wskazuje, że AI generuje długoterminowe koszty utrzymania, których nie widać w krótkim horyzoncie.

Jeden z ekspertów podsumował to obrazowo, zamieniasz chwilowe przyspieszenie na permanentne uzależnienie. Drugi temat to startup XCENA i hipoteza, że branża AI skupiła się na złym, wąskim gardle. Wszyscy mówią o procesorach GPU, o chipach, o mocy obliczeniowej. Założyciele XCENA, weterani Samsunga i SK Hynix twierdzą, że problem leży gdzie indziej. Przy każdym zapytaniu do modelu AI dane muszą pokonać trasę z pamięci RAM do procesora CPU, a potem do GPU i wracać. Ten wielokrotny transfer jest strukturalnym wąskim gardłem systemu, którego nie rozwiązuje się kupując lepsze GPU. XCENA buduje chip o nazwie MX1, który umieszcza moc obliczeniową bezpośrednio przy pamięci DRAM łącząc je przez interfejs CXL.

Brytyjska organizacja Financial Services Skills Commission opublikowała analizę zatytułowaną Przekształcona siła robocza. Przygotowali ją wspólnie Lloyds Banking Group, PwC, City of London i organizacja The City UK. Wniosek jest trudny. Od 30 do 50% zadań wykonywanych w większości ról w sektorze finansowym zostanie zautomatyzowanych przez AI. Do 35 roku sektor może stracić 450 tysięcy z 780 tysięcy wysoko wykwalifikowanych pracowników przez emerytury, rotacje i właśnie automatyzację. Najbardziej narażone są stanowiska juniorskie, co tworzy paradoks. AI eliminuje właśnie te miejsca, przez które kiedyś zdobywało się doświadczenie, a na których brak cierpi cały sektor.

Prezesi wielkich banków nie kryją się z tym, co nadchodzi. Szef HSBC powiedział wprost, że generatywna AI zniszczy pewne miejsca pracy i stworzy nowe. Prezes Standard Chartered ogłosił 7800 zwolnień. Prezes JP Morgan Jamie Dimon stwierdził, że AI zmniejszy liczbę pracowników w jego banku. Będzie więcej specjalistów od AI, mniej tradycyjnych bankowców w pewnych kategoriach. Raport zaleca inwestowanie w kompetencje cyfrowe, myślenie krytyczne i aktywne planowanie kariery. To nie jest prognoza z odległej przyszłości. To harmonogram na 9 lat, który już się zaczął. To tyle na dziś. Do usłyszenia jutro.