Limity AI: 2026 #2 Przepis na porażkę: Jak nie wdrażać AI

Witaj w podcaście MIT Sloan Management Review Polska. Inspirujemy liderów przyszłości. Witamy w Limitach AI, pierwszym polskim podcaście dehypującym AI, w którym konsekwentnie od marca ubiegłego roku krytycznie badamy dyskusję wokół syntetycznych modeli ludzkich inteligencji i próbujemy zrozumieć o co właściwie chodzi. Co jest dziś rzetelnym, popartym naukowo faktem, a co clickbaitowym, marketingowym spinem, futurystyczną spekulacją czy wręcz dezinformacją służącą grze kapitału. Naszym celem nie jest tu krytykanstwo czy kwestionowanie korzyści jakie oferuje AI, ale wręcz przeciwnie, precyzyjne ustalenie spektrum tych korzyści, wdrożeń i zastosowań przy jednoczesnym określeniu ryzyk i ograniczeń, czyli tytułowych limitów.

Przypominam, że w tym roku nasz podcast powstaje we współpracy z Business Program AI, który dołączył do redakcji MIT Sloan Management Review jako partner strategiczny kanału Limity AI. Cieszymy się z tego partnerstwa, bo łączą nas wspólne ambicje, jakościowe, rzetelne edukowanie słuchaczy w temacie sztucznej inteligencji bez uproszczeń, hype'u, technopropagandy, fantazjowania i marketingowego szumu. Subskrybuj jedyny w Polsce magazyn biznesowy, portal i społeczność dla menedżerów i liderów najwyższego szczebla. Czytaj MIT Sloan Management Review Polska i każdego dnia otrzymuj inspiracje warte miliony. A dzisiaj naszym gościem jest Rafał Bałdys-Rembowski. Cześć Rafał. Dzień dobry Iwo, cześć. Dzień dobry. Inżynier elektronik, ćwierć wieku doświadczenia na styku budownictwa, prawa i technologii.

Autor architektury rozwiązań Custom AI dla firm produkcyjnych i budowlanych. Specjalizuje się w projektowaniu i wdrażaniu rozwiązań AI dla firm z branży budowlanej i pokrewnych. Twórca RISCOVERY narzędzia LegalTech do analizy ryzyk kontraktowych w budownictwie. Analizy ryzyk kontraktowych na strukturach agentowych opartego. Wykładowca uczelni Łazarskiego na Wydziale Zarządzania Ryzykiem i Cyfryzacji Projektów Budowlanych. To są studia podyplomowe, ale tam wykładam właśnie... Czyli nie Wydziale Studiów Podyplomowych. Tak, tak, tak. To jest Centrum Kształcenia Podyplomowego i tam są studia z kierunku MBA w budownictwie i inżynier kontraktu. I tam prowadzę zajęcia właśnie z zarządzania ryzykami oraz z cyfryzacji procesów inwestycyjnych.

Czyli będziemy rozmawiać o zarządzaniu ryzykiem, o tym, jak nas agentowe systemy AI mogą w tym wspierać, które robisz. Możemy o tym mówić? Tak, tak. A czego nie powiedziałem jeszcze ważnego o Tobie? Wiesz co, to jest tak, że ja dokonałem takiego piwotu, można powiedzieć, po polsku, tak, staropolski piwot, czyli tak na dumę z powodu 20 ponad lat zajmowałem się procesami inwestycyjnymi w budownictwie, tak, od fazy przygotowania inwestycji przez projektowanie, nadzór, wykonawstwo i tak dalej. Dopiero od, myślę sobie, pięciu lat zająłem się technologią w budownictwie, czyli procesami transformacji cyfrowej w budownictwie. Miałem własny startup, znaczy razem z partnerami mamy własny smart startup, z którym właśnie stworzyliśmy to narzędzie do analizy ryzyk, prawda?

A tak naprawdę dopiero od momentu, kiedy pojawiło się AI, mogę powiedzieć, że ta moja specjalizacja nabrała tempo i właściwie mój rozwój osobisty od tego momentu, kiedy pojawiło się, też nabrał tempo. No ale jesteś jako inżynier elektronik przygotowany do tego, żeby z maszynami rozmawiać? Tak, jestem przygotowany. Powiem tak, myślę, że w każdym biznesie, jak masz jakąś świadomość czy też wiedzę na temat tego, jak poszczególne takie najmniejsze atomy tej technologii działają, To jest Tobie łatwiej potem sobie wyobrazić czy dokonywać jakichś, wiesz, wyobrażeń na temat tego, tłumaczyć jak ta technologia działa. I nie inaczej jest w przypadku właśnie sztucznej inteligencji czy LLM-ów szerzej, tak? Mówimy o tym wycinku sztucznej inteligencji, prawda? Takie pytanie, które tradycyjnie zadajemy już w tym podcaście.

Bzdury. Jakie największe bzdury, najbardziej szkodliwe może spotykasz na temat AI? Ja myślę, że tu tutaj kandydatów do tego jest sporo. Ja myślę, że taką największą bzdurą, którą słyszałem, To jest to... Chyba w Stanach są tacy podcasterzy, którzy forsują taką tezę, że rozmowa z elelemami jest swojego rodzaju rozmową z duchami przodków, na przykład, prawda? To nawet nie słyszałem. A, widzisz. Cieszę się, że mogłem Cię czymś zaskoczyć. I to na przykład uważam, że jest bzdurą, na przykład, prawda, i powstają... Ale w pewnym sensie jest rozmową, no właśnie. I teraz właśnie drugie, zastanawiałem się właśnie nad tym twoim pytaniem, i teraz jeżeli drugie miałbym wymienić to, co mnie irytuje, to jest właśnie to, kiedy szanowane autorytety świata nauki, na przykład polskiego świata nauki, to nie jest domena tylko polskiego świata nauki właśnie,

Znaczy wiesz, i to jest pytanie, wiesz, dlaczego, po co to jest, po co ta antropomorfizacja, ale dobrze, to zostawmy ten wątek, bo to się pytają, zapytajcie o bzdury, a pytamy też o zagrożenia. Jakie zagrożenia widzisz dzisiaj AI-a? Ja jestem domorosłym filozofem, tak to powiem, samo sobie lubię tak myśleć, tak, i oczywiście pozwalam sobie bardzo często rozmyślać na ten temat. I to co mnie najbardziej martwi, oprócz tego, że oczywiście zalewa nas fala produktów, które teoretycznie mają coś robić, ale wykorzystują tylko ten hype, to tak naprawdę martwi mnie to, że za rok, za dwa, za parę lat będziemy mieli społeczeństwo, które będzie Przeróżny będzie efektem różnego sposobu interakcji ze sztuczną inteligencją.

Najbardziej boję się czegoś, co sam nazywam syntetycznym kolapsem, a który polega na tym, że w mojej ocenie, że ludzie, którzy wykorzystują AI po to tylko i wyłącznie, żeby AI zrobiło za nich ich pracę, bądź jakąkolwiek pracę poznawczą, to nie musi być praca w pracy, to może być... Cognitive effort, dokładnie, żeby to wyekspediować kompletnie do AI. I teraz, to oczywiście zagrożenie jest ogromne. W pierwszej kolejności dlatego, że modale językowe ze swojej natury po prostu mają tę funkcję uśredniającą, prawda, przez swoje mechanizmy alignment i tak dalej. W związku z tym obawiam się, że za jakiś czas będziemy mieli bardzo dużo pracowników, którzy będą się wydawać bardzo efektywni, którzy będą zawsze reagowali na czas, których odpowiedzi będą kompetentne, ale to wszystko zacznie być bardzo uśrednione, bardzo wygeneratywne i powtarzalne.

Bo możemy się skupiać na tych przykładach, które są negatywne, ale jest cały spektrum Sposobów korzystania. Czyli ja jako power user mogę mieć jakieś obszary, w których absolutnie mój cognitive load jest kierowany tam, bo nie potrzebuje, bo nie wymaga tego, nie wiem, przyszykowania. Przy opracowywaniu planów wycieczki na przykład gdzieś tam, tak? W góry skaliste mogę posłużyć się AI, bo nic o tym nie wiem, nie chcę na to tracić czasu i mogę się, mogę tam na to cały... Ale na przykład jeżeli pracuję już nad ofertą dla klienta, tak? To faktycznie muszę się w to... Intensywnie używając AI, to angażuje się całościowo w to, żeby ta interakcja była jak najbardziej efektywna. Ale teraz chcesz mówić już o tym, jak korzystać, a to zagrożenia. Ale właśnie, dlaczego o tym mówię?

Zagrożeniem jest to, że po jakimś czasie będą nas otaczali ludzie, ty, ja, twoi współpracownicy, moi współpracownicy, którzy będą stosowali, właśnie będą używali tego AI na 100 tysięcy przeróżnych sposobów. W całym tym spektrum. Od pełnej delegacji i porzucenia myślenia, po hipermoce i ultra hiperaktyce. A jakim zabierzesz AI? Jednym i drugim, jak zabierzesz AI, to będzie problem. Ja sam to przeżyłem, tak? Tak, ale nie, ale to jest jednak tak, że wiesz, ja oczywiście też jestem power userem i już wielokrotnie mówiłem, jak bardzo cieszę się, że przyspieszam na różne sposoby, ale to jest jednak w obszarach, które ja potrafię zrobić ręcznie. Tak, tyle tylko, że jak ci to zostanie zabrane, twoja efektywność spadnie do takiego poziomu, że dzisiaj po prostu będziesz wył z bólu.

I tutaj ostatecznie, gdzie jest ta wiedza, gdzie są te umiejętności? I gdzie jest realny wpływ na społeczeństwo, nie? Znaczy, rozpytałem się zagrożenie czegoś, ja się obawiam tego. Ja się najbardziej obawiam tego, że czas, za czas jakiś, całkiem już nieodległy, który można liczyć AI wniknie w wiele procesów w organizacjach i dobrze, natomiast stanie się absolutnie niezbędne. Mogę delikatnie przejść na budownictwo. Zaraz przejdziemy do budownictwa. Excel w budowlance. Excel w budowlance jest głównym narzędziem. Budowlanka stoi na Excelu, tak? Ja nie mówię, że to źle. Po prostu w naszym, powiedzmy sobie, wspólnocie językowej w Polsce jest tak, że gdyby nie Excel, nie ma żadnego innego narzędzia informatycznego, którym tym procesem... Zawaliłaby się budowlanka.

No nie wszyscy go dobrze znają. I nagle dostajesz taki tool, jak nazywa się Cloud w Excelu, tak? To dostajesz super moce. Nagle ten Excel dla ciebie jest wystarczający, bo teraz ze sztuczną inteligencją, z tym Excelem jesteś w stanie zrobić czary, tak? Stajesz się super użytkownikiem, nagle ten Excel przestaje ci przeszkadzać, a powiedzmy sobie, ten proces jest chaotyczny, tak? I w pewnym sensie te super narzędzia do tych antycznych, jakim jest Excel, też narzędzi, one razem powodują, że w pewnym sensie konserwujemy to, że nie zmienimy nic u podstaw, bo już nie musimy zmieniać wadliwych podstaw tych procesów, bo mamy AI do Excela, który te uciążliwości jest w stanie nam nadrobić i przeskoczyć.

Dobrze, to tutaj postawmy kropkę, jeśli chodzi o zagrożenia i teraz przejdźmy do naszego tytułowego, no to za chwilę do budowlanki, ale po drodze Ty pracujesz z różnymi firmami, też pracujesz z, spotykasz się z przedsiębiorcami na studiach, czy to MBA, czy to podyplomowych i obserwujesz polski biznes. Jak w Twojej ocenie, z Twojej perspektywy polskim firmom idzie wdrażanie AI? Ja zawodowo zajmuję się też, mogę tak po raz już powiedzieć, bo tu latach, transformacją cyfrową przedsiębiorstw, głównie budowlanych, ale nie tylko. I częścią tego procesu, których jestem na bieżąco, częścią tego procesu jest badanie procesów w przedsiębiorstwach. Czy one w ogóle są, czy stosujemy za stany, czy one są ad hoc, czy one są zaopisane.

I faktycznie od dwóch lat już częścią mojej usługi też jest faktycznie ten komponent AI. A żeby było śmieszniej oczywiście, więcej klientów do mnie trafia dlatego, czy wdrożysz na my AI. Ja nie mówię nie, ale powiem dlaczego też, bo oczywiście samo oczekiwanie jest naiwne. Ja nie mówię nie, tylko dążę do tego, żeby przekonać zarząd, że słuchajcie, skoro już jesteśmy przy takim projekcie, stanówmy się rozszerzeniu jego zakresu. Oni słyszą, że ty chcesz im więcej sprzedać. Tak, ale wiesz co, w momencie, kiedy jest zrozumienie jakieś, jak już widzisz, że możesz, to sam czujesz wtedy, kiedy możesz taki komunikat przekazać, że zróbmy po prostu badanie dojrzałości cyfrowej waszej, jako organizacji, spróbujmy zamknąć to jakimś raportem, żebyśmy my wiedzieli,

Przepisy na porażkę Bo na rynku znajdą pełno dostawców, którzy mi powiedzą, tak, tak, my wam wdrożymy, zrobimy takie, takie, takie szkolenie i będą takie, takie, takie roje. Więc to jest jedno z zagrożeń, którego nie wymieniłem, tak, bo tak będzie i tak jest, tak jest. Są oczywiście firmy, które wdrażają AI, tak, ja ci wdrożę AI. I teraz, już niezależnie od jakby skali tej inwestycji, prawda, to jeżeli ktoś nie ma takiego chytrego planu jak ja, tylko po prostu będzie wdrażał AI, no to się wywróci o te same problemy, które ja chcę rozwiązać z góry, tak, jakby zidentyfikować na samym, no bo nie ma innej możliwości, musisz zobaczyć, co się w organizacji dzieje.

Ja staram się studić te emocje. Ludzie tego się nasłuchali. Ale otwórz Linkedin, zaraz zobaczysz, tak? Już oczywiście na szczęście to stało się memiczne, że zbudowałem sobie workflow w NADN w 15 minut, 6 agentów robi za mnie przychód 5 tysięcy. Bez tego komponentu ile to zarabia, ale robiłem to samo, bo chciałem się pokazać, że zbudowałem coś sam, a ja daję mi tę szansę. Pamiętajmy o tym, że cała moja wiedza, którą zdobyłem w przeciągu ostatnich 4 lat, jest dzięki AI i własnym próbom, własnej determinacji. Więc wszędzie tam, gdzie udało mi się odnieść sukces, że zbudowałem sam, to każdy twórca będzie chciał się podzielić, zwłaszcza jeżeli to faktycznie działa.

To nie jest seksji, tak. To jest pytanie, no dobrze, ale to będzie kosztowałe, to będzie twoje... Kiedy nam się zwróci. I tak, dokładnie tak. Czyli co my z tego tak na fakt robimy? Znaczy ja też miałem już rozmowy w ostatnich latach z firmami, które chciały w trzy miesiące, jak i ROI, zautomatyzować sprzedaż albo obsługę klienta, bo gdzieś posłyszały coś takiego. I ja wiem, że jak ja z nimi zacznę tak rozmawiać jak ty, To oni wezmą kogoś innego, kto im obieca, że to zrobi, a potem najwyżej będą się kłócić, nie? I tak to się kończy, nie? I teraz wracamy do pytania, dlaczego 19 na 20 nie wychodzi. Ja też statystyki przywołałem tutaj, znaczy sięgnąłem po dane Eurostatu za ubiegły rok 25. Mówią, że w Polsce 8,5% przedsiębiorstw, czyli co tam powiedzmy jedenaste, dwunaste w ogóle, wdrożyło AI, jakieś, to może być też tradycyjny machine learning, w Danii dla porównania 43, czyli prawie co drugie.

Iwo, ja mam ogromny problem z tymi badaniami. Mam gigantyczny problem z tymi badaniami. Mi po prostu w środku cały się gotuje, jak widzę. Jest takie wydawnictwo, na przykład KPMG wydaje co roku Monitor Transformacji Cyfrowej Biznesu. Jest takie wydawnictwo. Bardzo szanowany przeze mnie. Do momentu, kiedy nie zaczęli uwzględniać komponentu AI. Zbadaj użycie AI w przedsiębiorstwie. Czy Pani Justyna, Świetna w ogóle specjalistka, ta, która po prostu użyła czata GPT, czy Anthropica, czy Gemini do tego, żeby napisać lepszą wiadomość na LinkedIn. To wdrożyła AI? Jest wdrożonym AI-em. Czy cały zespół, który obmyśla strategię sprzedażową w firmie, używa AI do tego w sposób intensywny? Nie wiem, ma subskrypcję tą komercyjną wykupioną?

Jest wpięta w cały workflow kreatywny jakiś. Czy to jest... Czy wykupili konto? Ale wiesz, rozumiesz, tak. Czy mamy z kolei też inny departament, który w całości ma już, albo częściej chociaż ma jakieś nawet customowe rozwiązanie zbudowane w oparciu o AI, bo wiedzą, w których momentach mogą... To trudno porównywać. Tylko z drugiej strony, wiesz, ja też rozmawiam z różnymi firmami, dużymi, małymi, niektórymi bardzo dużymi. Ostatnio rozmawiałem z firmą, gdzie powiedział i dużą, Która powiedziała, że na razie to oni się dopiero przymierzają, nie? To znaczy ludzie tam sobie robią ten shadowy AI, czyli przynoszą elementy w kieszeni, nie? Okej, to jest problem. Ja myślę, że to wybuchnie w rękach w takich firmach. Znaczy, że ignorowanie tego... Tak. Wydaje mi się, że to jest coś, na co...

Udaje mi się tak, nie ma nic prostszego jak zbudować politykę AI w firmie. Trzeba powołać zespół, który siądzie z Clodem, z Gemini. Nic więcej ci nie jest potrzebne tak naprawdę. Ja robię to w ramach ćwiczeń z firmami. Oferuję im, że zrobimy politykę stosowania AI w organizacji, zbieram zespół i mówię, a teraz będziemy siedzieć, będziemy sobie po prostu rozmawiać z czatem, zrobimy burzę mózgów, będziemy próbowali coś wydraftować, coś wspólnie i wtedy akurat Wtedy akurat okazuje się, że okej, czego najbardziej brakuje przy budowie polityki? Ano komponentu organizacyjnego, tych ludzi, którzy pracują w tej organizacji, które mają na tym po prostu na móżdży. I to ci mówi Klot. Proszę? Tak, i to ci mówi Klot. Tak, tak, bo on mówi, bo potrzebujesz teraz. Ten się musi zaangażować, ta osoba, takie informacje musimy mieć, to musimy wziąć pod uwagę, to musimy przeanalizować, tak? My to możemy zrobić za jaj, okej, ale bez tych ludzi to się po prostu nie uda.

No jasne, jasne. I teraz to, co jest najtrudniejsze, to jest oczekiwanie, że ty jako konsultant na przykład dostarczysz im politykę AI. Ja też mam pogląd już. Ja się odwołuję do matrycy Knewin. Już nie będę streszał całej matrycy, ale z grubsza to jest takie narzędzie strategiczne, które ci podpowiada w jakich sytuacjach ty możesz liczyć na powtarzalny skutek. Dziękuję, że mi to tłumaczysz. Znaczy, nie, bo ja tłumaczę to Państwu, nie? Nie, nie, ja w ogóle dziękuję, ja też tego nie wiem. A nie, okej, bo to jest, wiesz, bo w twojej opowieści to jest zapisane, nie? To znaczy, że firmy tego nie rozumieją, że jak ja przychodzę do was, ja mam takie powiedzenie, najpierw Agile, potem AI, nie? Znaczy, jeżeli ja przychodzę do was z nową technologią, To ty jesteś w tej matrycy, Kenevin, nie po stronie przewidywalnego świata, gdzie jesteś na co dzień, gdzie ty wiesz, co się wydarzy, jak to zrobić i masz jakieś niezawodne zadania, znaczy procesy, twarde kompetencje, dobre praktyki, jak ten cel osiągnąć, bo firmy myślą w ten sposób, XX wiek tak wyglądał, że ty kupowałeś z rynku eksperta, który ci tam zrobił jakąś jedną, drugą diagnostykę i potem wdrażał i wynik był taki, jak obiecywał, nie?

Kiedykolwiek przedsiębiorca, właściciel firmy chciałby wdrożyć AI i zrobić to cyklem 3-5 szkoleń, to taki wydatek jest bez sensu. W mojej ocenie. Czy jest teraz ustalony na niepowodzenie? Zawsze zostawi efekt. Kiedy będzie miał największy efekt? Największy efekt będzie wtedy, jeżeli konsultant, który wie jak to obsłużyć, wejdzie w problemy organizacji, które już wcześniej poznał na przykład i jesteś w stanie przez trzy miesiące, czasami z jedną osobą, czasami w zespołach, zrobić z nimi ćwiczenia na ich własnych problemach. Ale też małe rzeczy, jakieś kuj-kuiny typu asystenty porobić. Dokładnie tak, ale dokładnie tak, czyli musisz jakby...

I myślę, że w takim samym procencie te wdrożenia właśnie klękają na tym, które są nieudane, bo nie umiemy zaplanować tego przejścia. I dalej myślę, że w 30% możemy i coraz więcej miejsca będą miały narzędzia zwykłego chatbota AI. Specjalnie powiem zwykłego w cudzysłowie, Czy defaultowego LLM-a, tak? Tak, defaultowa usługa, którą będziesz miał komercyjną, wykupioną, nie wiem, Copilot, no Copilot jest może złym przykładem, ale nie wiem, właśnie Clot, tak, czy Gemini, czy ChatGPT, tak, w tych komercyjnych subskrypcjach. Dostajesz supermoce i teraz ilość funkcji, instrukcji, poleceń, czynności, które możesz wykonać jako pracownik, wykorzystając zwykłego chatbota, stale rośnie.

De facto dla pracownika interfejs chatbota, czyli to miejsce, w którym podajesz pliki, zdjęcia, dane i wpisujesz instrukcję, jest oknem interakcji, jedynym. Przyzwyczailiśmy się do tego. Stanie się i to pole będzie się zawężać. I w końcu ostatnia kategoria, którą jak sobie klasyfikuję i tam staram się sam ulokować, to jest to 10% automatyzacji wykorzystujących AI dedykowane, do których nie da się zrobić w chatbocie. Ktoś powie, czego się nie da zrobić w chatbocie? A na przykład nie da się prowadzić bazy danych w chatbocie, nie da się przetworzyć 30 tysięcy PDF-ów na raz w chatbocie. Nie zrobi. To są pewne naturalne ograniczenia, ale musisz do tego stworzyć jakiś program, który po prostu wykorzystuje AI. I okej, to Ale wszystko o podstawie tego jest, znaczy ta typologia, to zostało bardzo fajne, o podstawie tego jest diagnostyka, zwróćcie uwagę.

Rozumiesz, naukowcy, przechwytywanie znowu, to nie jest temat naszej rozmowy, ale parę razy już wypływało to, że oczywiście big techy przejęły tak zwany brain drain, czyli po prostu przejęły mózgi, czyli przejęły po prostu fizycznie ludzi z uniwersytetów, z politechnik, bo dawały im dużo lepsze warunki. Ale też widzimy o tym, znaczy mówimy w tej chwili o tym, że w tym jak wytwarzana jest świadomość i oczekiwania na temat AI uczestniczy wielu naukowców. Część pewnie, bo takie ma poglądy powiedzmy naukowe, bo w nauce też są poglądy, ale w tej opowieści brakuje, czy brakowało, bo w tej chwili to się zmienia, Mam nadzieję, że dzięki naszej działalności tutaj jednak rzetelnej opowieści o faktycznych ryzykach, limitach, kosztach, ograniczeniach.