Jak Polska buduje własną AI? (gościni: Pamela Krzypkowska) | TECHNOFOBIA

To, co on tam wyklepie, ten kod, to potem wpada na produkcję i z tego korzystają dziesiątki, ale i setki milionów ludzi. Jest przerażony tym, że jak on coś popełni błąd, to ten AI będzie jakiś. A on mówi, a przychodzę potem, dyskutuję z moimi kolegami i koleżankami, a oni mają wywalone na to. Mieliśmy case już w rządzie holenderskim. Wielka afera. Wielka, dokładnie. I to był dokładnie ten case. Czyli użyliśmy modelu sztucznej inteligencji, którego decyzje nie były wyjaśniane, czyli nie byliśmy w stanie tak dobrze zrozumieć, dlaczego decyzje były podjęte i okazywało się, że podejmowało decyzję na temat tego, na przykład, jaki ktoś ma kolor skóry albo w której dzielnicy żyje, a wiemy, że dana dzielnica może być... zamieszkana przez niej osoby o niższym poziomie zarobków i z tego względu podejmowała decyzję o nieprzyznaniu zasiłków osobom, którym to się należało.

Może potrzebujemy takiego chief innovation officera, który generalnie patrzy na te różne technologie i umie spojrzeć bardzo szeroko, ale z tym wyjściem poza pudełko. Partnerami audycji Technofobia Algorytmy są XTB, polska aplikacja inwestycyjna, w której znajdziesz tysiące akcji i ETF-ów tak sprawnie jak najnowsze modele AI. Zaś z kodem ARTKUR otrzymasz darmowy kurs inwestowania od podstaw. SDWorks. Zaufany europejski dostawca rozwiązań kadrowo-płacowych. Obsługuje blisko 100 tysięcy klientów w 27 krajach, a w Polsce oferuje kompleksowe usługi dla firm każdej wielkości. Od MŚP po duże, globalne marki. Computronic. Technologia dla firm.

No i też wiesz, badania i innowacje są bardzo szerokie, można robić różne rzeczy. No więc my generalnie zajmujemy się w naszym departamencie czymś, co nazywa się technologiami przełomowymi albo innowacjami, co generalnie znaczy głównie, można powiedzieć, parę tematów, czyli sztuczna inteligencja, technologie kwantowe, półprzewodniki. I oczywiście zajmujemy się tym w kontekście, jak to dotyka człowieka. Mamy też małe projekty dotyczące blockchaina na przykład, jeżeli ktoś jeszcze pamięta takie rzeczy. I IoT. Więc to są takie, powiedzmy, już nasze małe nogi, ale główny temat, no to jak sam możesz się spodziewać teraz ciągle o tym AI-u. No więc najwięcej mamy tematów AI-owych. No i to właśnie są różne rzeczy.

To jest rzeczy, które dotykają społeczeństwa, dotykają obywatela, czyli na przykład, nie wiem, chat, bo dwa aplikacje mają obywatel, czy rzeczy, które dotykają i państwa, i samorządów, administracji, czyli... PLUM, model językowy, albo właśnie wdrażanie tego modelu językowego, albo pisanie różnych rekomendacji dla tych samorządów, na przykład jak korzystać z generatywnej AI. No i te różne technologie, no bo jeszcze nie ma aż takiej potrzeby pisania, wiesz, jak kwantowych technologii używać w samorządach, ale może zaraz będzie. No więc tak, powiedziałabym, że to są nasze główne tematy. I jak tak patrzysz na, powiedzmy, swój dzień, to jest tak, że większość tego dnia poświęcasz na tłumaczenie, czym jest AI, czy raczej już na wdrażanie. Jesteśmy na etapie jako państwo, że wiemy, że to jest bardzo ważna i przełomowa technologia i potrzebujemy po prostu wypracować mechanizmy, procesy, jakieś prawne ustawy, czy raczej to jest nadal, kurczę, ogarnijcie się wszyscy tutaj, bo wiecie, to nadejdzie ten AI i nas zje.

Rób się tego AI-a. Wiesz co, myślę, że tak jak w sumie to akurat nie różni się jakoś bardzo pracą z biznesem, czyli masz bardzo różnych stakeholderów. Masz stakeholderów, którzy wiedzą, rozumieją i wdrażają i to jest dla nich już chleb powszedni, już robią, wiesz, którąś literację, coś patrzą, coś sprawdzają, a masz stakeholderów, którzy dopiero się uczą i właśnie musisz im mówić, a no to ten taki czat, bo co byś chciał zrobić, to on nie będzie wiedział od razu wszystkiego na temat, nie wiem, twojej gminy, tylko trzeba go potencjalnie albo douczyć, albo zrobić coś takiego, co się nazywa RAG i tak dalej, i tak dalej. Więc jakby no jest to, myślę, że już pełen przekrój tych różnych tematów, ale na pewno mamy jednostki centralne, samorządowe, które robią, które robią, ale mamy też oczywiście jednostki, które aspirują.

Natomiast jest ważne, żeby w administracji publicznej pojawiały się osoby młode. Po drugie, faktycznie masz bardzo ciekawy bagaż, no bo bagaż doświadczeń związany z tym, że przechodzisz ze spółki po prostu komercyjnej, a przede wszystkim tak dużej i fajnej jak Microsoft. gdzie takimi tematami się zajmowałaś, zajmowałaś się tematami cloudowymi. I to jest dla mnie też bardzo ważne, że jak patrzę to, co się dzieje w Ministerstwie Cyfryzacji, oczywiście jako osoba z zewnątrz, bo nie siedzę, nie wysiaduję u was na korytarzach, no to mam wrażenie, że faktycznie w ciągu ostatnich dwóch lat bardzo dużo rzeczy się zadziało i okej, może nie widzimy tego wszystkiego, nad czym pracujecie, ale ministerstwo naprawdę dużą wagę przykłada do tych tematów związanych z AI. Czy się mylę? Nie, nie mylisz się. Myślę, że dziękuję i miło mi to słyszeć, bo myślę, że wszyscy w ministerstwie staramy się jakoś połknąć do przodu, ale w taki sposób, który jest dla nas bezpieczny i idzie we właściwym kierunku.

jest bliska naszemu codziennemu życiu, płacenie zegarkiem, działanie w telefonach, czy w ogóle na świecie, ale że czasem nie myślimy o tym, że myślę, że te na przykład kwestie blackoutów, albo kwestie sefudu energii pokazują nam, że właśnie to jest i że to nie jest tylko taki kwiatek do kożucha, tylko faktycznie to jest coś potrzebnego, co sprawia, że nasze życie może być lepsze, jeżeli dobrze o to zadbamy. studiowałaś informatykę i sztuczną inteligencję na Politechnice Warszawskiej. Tak. Ale również filozofię. To też prawda. Na Uniwersytecie Warszawskim i AI Law w Akademii Leona Koźmińskiego. Bardzo trzy takie różne rzeczy, czyli prawo, nazwijmy to szeroko rozumiana informatyka, no i ta filozofia.

Wystarczy rozumieć, i to też myślę, że bardzo ważne, tak społecznie, na czym polegają różne technologie AI. No bo to też, wiesz, zawsze mówimy ludziom AI, no i to jest ten wielki woreczek i co tam jest w środku. Każdy sobie wrzuca co chce. Dokładnie, ja chcę widzieć AI, a tak, a ja chcę widzieć AI, a śmak, no i potem ja mówię AI, ty mówisz AI, jest takie to nie jest to samo. I myślę, że jest w tym niewiele zrozumieć. z tych na przykład pytań, które przynoszą samorządy i mówią, hej, ja chcę wdrożyć AI i chcę wdrożyć to w taki sposób, a ty musisz powiedzieć, aha, czyli to jest ta technologia, czyli ten woreczek i powiedzmy, że u nas w Polsce albo my mamy taki wachlarz możliwości i myślę, że do tego potrzebujesz bardziej takiego podstawowej wiedzy o tym ekosystemie sztucznej inteligencji, ale na pewno jest to mega potrzebne.

A czy korzystasz albo inaczej? Przeczytałem gdzieś, że twoim konikiem jest explainable AI, że bardzo lubisz to i tak troszkę się do tego bardziej miło odnosisz na zasadzie, że uważasz, że to powinno być ważnym elementem. To czym jest explainable AI według ciebie? I powiedz mi, czy widzisz też potrzebę na przykład posiadania takich kompetencji etycznych, czy w administracji publicznej, czy na przykład w samorządach, jeśli chodzi o AI? Wytłumaczalna sztuczna inteligencja, czyli ta explainable AI, mówi się XAI często, nie mylić z różnymi innymi rzeczami, które też się tak nazywają, to jest sztuczna inteligencja, czy taka dziedzina, powiedzmy poddziedzina tych badań związanych z AI, która sprawia, że rozumiemy, z czego wynikają decyzje sztucznej inteligencji.

Jeżeli jesteście tym tematem zainteresowani, to mega polecam... Także w Politechnice Warszawskiej jest wspaniały profesor Przemysław Biecek, który właśnie otworzył Centrum czy Center for Credible AI, właśnie zajmujący się explainability, czyli tą wytłumaczalnością, interpretowalnością, gdzie właśnie prowadzi badania w różnych dziedzinach. No i oczywiście to ma, moim zdaniem, dlaczego to jest kluczowe? Bo to jest kluczowe dla wszystkich dziedzin, gdzie urzędnik, lekarz, czy lekarka podejmuje decyzję o życiu albo zdrowiu danej osoby. I bardzo często teraz, kiedy mówimy AI, mamy na myśli modele językowe, czy w ogóle sieci neuronowe, czyli te bardzo duże systemy, które mają bardzo wiele parametrów i są stosunkowo skomplikowane i są trenowane na niesamowitej ilości danych,

na przykład w administracji publicznej, co jest dużo ważniejsze niż jeżeli to jest decydent, nie wiem, w branży gier. Tam ta stawka jest dużo niższa. Musi wiedzieć, dlaczego powinien zgodzić się z modelem albo nie zgodzić się z tym modelem. Więc to jest bardzo kluczowe i też to jest rzecz, na którą należy zwracać uwagę, jeżeli jesteś decydentem czy decydentką w samorządzie i myślisz, o, chcę model, chcę zainwestować w AI, no to należy zadać sobie pytanie, czy ten model, który kupuję, którego używam, w jakich wagach decyzje będzie mnie wspierał, czy to są decyzje wagi na przykład, no nie wiem, gdzie dana sprawa pójdzie na mailu, gdzie dekretacja, takie piękne słowo, gdzie zadekretujemy, czyli do kogo pójdzie sprawa. A, czyli do komu widzimy... Jaki referent, dokładnie. Jasne, dobra.

którego decyzje nie były wyjaśniane, czyli nie byliśmy w stanie tak dobrze zrozumieć, dlaczego decyzje były podjęte i okazywało się, że podejmowało decyzję na temat tego, na przykład, jaki ktoś ma kolor skóry albo w której dzielnicy żyje, a wiemy, że dana dzielnica może być zamieszkana przez niej osoby o niższym poziomie zarobków i z tego względu podejmował decyzję o nieprzyznaniu zasiłków osobom, którym to się należało. I znowu, dla osób z wykształceniem data science, czy które takie kursy przeszły, no to to jest jedna z pierwszych lekcji, tak? Jakie masz dane na wejściu, co obcinasz, zwróć uwagę, czy, nie wiem, jest tam płeć. Jeżeli tak, to czy to jest istotne, czy obcinamy te dane, czy nie. Więc ta etyka, jeden, jak budujesz ten model, czyli te osoby, które budowały ten model, no to i też rozumiem, bo... To jest takie przyjemne, jak się buduje takie modele AI i się bierze taką sieć, tam wrzuca te dane i ono nagle ma tam 90% skuteczności i myślisz, ale super.

Ale to nie jest, nie wiem, baba, to nie dajmy kredytu. Albo osoba, która na przykład bardzo dużo czasu spędziła w jakiejś dzielnicy, którą uznajemy za na przykład kryminogenną i jej nie damy. No dobrze, to zobacz, bo to jest moja teoria, a strasznie ostatnio z nią dużo chodzę i dobrze, że mamy możliwość porozmawiania, to ją wrzucę i podyskutujmy sobie o tym. Czy w takim razie nie powinniśmy zacząć myśleć o tym, żeby i w administracji publicznej szczególnie, ale też właśnie w takich krytycznych branżach jak bankowość, tworzyć nową rolę, którą nazwijmy powiedzmy Chief AI Officer. I to byłaby osoba... W zarządzie. Właśnie myślę, że na poziomie C-level co najmniej. Im wyżej, tym lepiej, bo to musi jednak... Sądzę, że większość organizacji będzie miała duży problem z tą zmianą i taka osoba, która by się podwiesiła, żeby została podwieszona, jej odpowiedzialność byłaby troszkę rozproszona i tu już rozmawiałem z kilkoma osobami, wskazywały mi na problemy, ale powiedzmy, że w modelu idealnym to byłaby osoba, która trochę by decydowała o kwestiach technologicznych, czyli troszkę by zabrała CTO klasycznemu,

ale by miała dużo powiedzenia właśnie w kwestiach compliance'owych, czyli troszkę wzięłaby też kompetencji od działu prawnego i też decydowałaby o kwestiach związanych z etyką. No bo tak, jeżeli przychodzimy do organizacji dużej i mówimy ja muszę mieć jakiś model językowy, znaczy ja muszę mieć AI. No to CTO powie, haha, wiem o czym mówisz, wdrożmy jakiś model językowy duży. Okej, teraz jest pytanie, ale jaki? No i tu powinno się pojawić pytanie, a co ten model powinien robić? To przyjdzie pewnie osoba, powie, no to nie wiem, chcemy tutaj obliczać lepiej Excela. No dobrze, teraz się pojawi ktoś z legalu, powie, hej, ale jak wrzucamy tutaj dane, to te dane... One podlegają różnym regulacjom, RODO i tak dalej, NIS-2, w związku z tym musimy być zgodni z obowiązującym prawem i tak dalej. I sądzę, to jest mój taki zakład z rynkiem, że nie da się tego zrobić przy obecnej strukturze, że potrzebujemy właśnie nowej roli.

Pytanie do ciebie, czy ty sądzisz na przykład, że taka osoba mogłaby się pojawić w samorządzie? Ciekawe, czyli żeby w samorządach mieć taką rolę AI oficera, nazwijmy to w ten sposób. Mi się wydaje, że to oczywiście zależy, gdzie na tej mapie interesariuszy jesteś, jak bardzo zaawansowany jesteś jako na przykład samorząd czy jednostka. Czy czy jesteś w procesie, czy na przykład jakby dopiero jesteś na początku tej drogi. No bo też nie oszukujmy się, niektóre jednostki administracji, czy publicznej, czy tej samorządowej, potrzebują dużo wsparcia, ale na wcześniejszych etapach generalnej cyfryzacji, czy transformacji cyfrowej. I w tym momencie... przeskakiwanie, moim zdaniem, i mówienie oto teraz AI officer i to na pewno rozwiąże nam ten problem, że nie mamy danych, że mamy je w papierze, że czegoś w ogóle, nie wiem, że nie mamy jednego informatyka, który jest tylko na puetatu i tak można wymieniać, wiesz, różne wyzwania, z którymi się mierzą po prostu samorządy.

Bo to jest bardzo trudne, myślę, w urzędach, żeby wygospodarować taki etat, który nagle jest tylko AI. A co, jeżeli co innego jest? Albo tylko właśnie, nie wiem, tylko blockchain, tak? Bo mi się wydaje, że nie wiem, czy w firmie, znaczy wydaje mi się, że ci AI oficerowie też się pojawiają. Ja widziałam w niektórych firmach, że w ogóle jest taka rola i że szukają takiej roli. Tak jak na przykład niektóre firmy mają data oficerów. Nie wiem, jak bardzo jest to redundantne. Uważam, że istnieje pewien poziom redundancji, który pojawia się, jak pojawia się nowa technologia, którą uważamy, że teraz jest najważniejsza i porównujemy jej rewolucję do rewolucji przemysłowej. Ale czy można powiedzieć, że w rewolucji przemysłowej była jedna technologia, do której potrzebowaliśmy oficera? Chief Maszyna Parowa Officer albo Chief Maszyna do Szycia Officer.

W sensie to był generalny zwrot do maszyn, nazwijmy to w ten sposób, ale nie było możliwości podpięcia tego pod tą jedną technologię. Więc uważam, że... Może w drugą stronę, może potrzebujemy takiego chief innovation officera, który generalnie patrzy na te różne technologie i generalnie jakby jest zawsze trochę krok przed, bo wydaje mi się, że to jest kluczem tego, o czym mówisz, czyli osoba, która ma kompetencje techniczne, a z drugiej strony... No nie ma ich na tyle głębokich, no bo nie da się mieć kompetencji prawnych, etycznych, technologicznych, każdych innych, tylko jest bardzo generalistą. Generalistą. I umie spojrzeć bardzo szeroko, ale z tym wyjściem poza pudełko. Chief, wyjście poza pudełko, oficer.

Dobre, podoba mi się. Chief of the Box, oficer, myślę, że dobra rynkowa nazwa. Nie wiem, ale tak uważasz, że ci AI oficerowie będą tacy kluczowi? Wiesz co, pytanie jest właściwie, czy to się nie skończy zaraz na jakimś bardzo dużym rozmyciu, to znaczy, czy AI za chwilę nie zostanie przygniecony kwantem, kolejnymi rozwiązaniami i zgadam się, tworzenie kolejnych stanowisk, teraz będę kwant, chief officer, tak brzmi trochę bezsensownie. Czy innowacja? No właśnie to jest pytanie, wiesz, jak do tego podejdziemy? Bo to innowacja, ja rozumiem, że firmy mogą traktować też na zasadzie, dla mnie innowacją będzie przejście na czterodniowy model pracy, tak? A drugi powie, a to jak mi dacie super szybki komputer, to będzie dla mnie innowacją, więc...

Staram się zrozumieć też, jak działają polskie firmy, bo jak ja mam kontakt z ludźmi, którzy przychodzą i potrzebują tej wiedzy, to niestety w większości to jest bardzo taki level podstawowy, naprawdę taki podstawowy, że oni mówią, aha, tu jest taki pstryczek elektryczny, który trzeba nacisnąć i wtedy ten model nie korzysta z moich danych. O, żebym to wiedział pół roku wcześniej. Jak to? Od pół roku karmisz model bardzo, może nie intymnymi, ale bardzo wrażliwymi danymi. O sobie. rzeczy, które są ewidentnie sprzeczne z RODO, więc to na tym poziomie też polega. Nie twierdzę, że od razu oczywiście trzeba mieć do tego AI oficera. Z drugiej strony, jak patrzę, że są właśnie ludzie z Departamentu Prawnego, ludzie od technologii,

mówi, że rozmawiał w jednej z tych największych firm zajmujących się produkcją jednego z najważniejszych modeli językowych. Ciekawe, które to było. Nie jest takich tak dużo. Jak byśmy strzeli, to byśmy się trafili. I mówi, że rozmawiając z takim bardzo też łebskim, ale nie bardzo wysoko postawionym programistą... I on mówi, że kurde, on to tak się budzi, co i każdego dnia po prostu myśli o tym, że to, co on tam wyklepie, ten kod, to potem wpada na produkcję i z tego korzystają dziesiątki, a nie setki milionów ludzi. I że jest przerażony tym, że jakąś coś popełni błąd, to ten AI będzie jakiś. A on mówi, a przychodzę potem, dyskutuję z moimi kolegami i koleżankami i oni mają wywalone to. I on mówi, jestem przerażony, że właściwie ja jako jedyna osoba w tym całym teamie, który tworzy jeden z tych fundamentalnych modeli, właściwie nie interesuje się tym, czy to właśnie powoduje uprzedzenia, czy to wzmacnia, nie wiem, jakieś zachowania rasistowskie, ksenofobiczne.

Czyli np. możemy zbudować swój model językowy i mieć sobie, hej, to jest jakby plumb i bielik, to są nasze modele i my stworzyliśmy je i wiemy, jaki jest ten łańcuch wartości tworzenia tego oprogramowania, no ale żeby wytrenować ten model, potrzebujemy tego chipa, który łańcuch wartości ma taki, a taki. Więc bardzo ważne jest, żeby zdefiniować ten moment uwartości, co jest super trudne nawet dla technologii AI. Powiedzenie sobie, jakie są firmy software'owe, jakie są firmy właśnie te technologiczne, ile mamy tych firm, na jakim poziomie rozwinięcia, to jest taka ważna rzecz, myślę, w kontekście właśnie tego Eurostaka, którą ta organizacja robi i która jest super ważna. Ale idąc dalej, jedno to jest mapowanie, czyli jak mówimy o czymś, to musimy wiedzieć najpierw, o czym mówimy, tego słonia sobie narysować, a potem zastanowić się, gdzie chcemy, jaka jest różnica między suwerennością a autonomią.

Ale w pewnych przypadkach może warto jest, żeby weryfikować, czy ten model naprawdę jest taki dobry, no bo benchmark benchmarkowi nierówny, jak korzystamy z tych benchmarków, więc jedno to jest to, co możemy robić teraz, czyli w momencie, kiedy coś sprawdzamy, no to te dane do weryfikacji nie są publikowane i w ogóle nie są dostępne, bo są de facto do weryfikacji. No ale na razie nie było takich działań, które mówią, że te dane sobie zamykamy i ich nie upubliczniamy. Byłabym sceptyczna co do tego, żeby te dane, nie wiem, wrażliwe, tak jak mówisz, wrzucić do tego jednego wora, bo to sądzę, że ja nie uważam, że to jest dobra taktyka, żeby nasze modele uczyły się na wrażliwych danych obywateli. Nie chciałbyś mieć jako rząd takich wglądu? Na przykład nie uważasz, że powinniśmy tworzyć maszynę do pomocy w podejmowaniu decyzji, która właśnie byłaby takim AI-em nakarmionym danymi... Obywatelskimi.

Możemy budować te profile do pewnego stopnia i oczywiście one nie będą nigdy tak idealne, jakbyśmy znali całą historię pacjenta od momentu urodzenia w szpitalu X do powiedzmy momentu, kiedy teraz zachorował na tę chorobę. ale uważam, że to jest dobry trade-off w kontekście prywatności versus dokładności. I uważam, że ta anonimizacja jest absolutnie potrzebna. Okej. Kiedy będzie w M Obywatelu Plum? Kiedy pojawi tam się chatbot, który będzie zasilany, będzie de facto AI-em? Tak, znaczy to też jest właśnie taki znowu stakeholder, ten AFM obywatelu. Więc będzie to chatbot, który będzie wspierał właśnie obywateli, w tym potencjalnie, jeżeli chcą dowiedzieć się o jakiejś funkcjonalności albo chcą dowiedzieć się o jakichś sprawach urzędowych, nie wiem, jak na przykład mieć swój paszport założyć dla dziecka albo dla siebie, dla osoby dorosłej.

Tak, no i o tym wiedziałaś na większość. O, świetne. Badanie EY, duża firma zajmująca się konsultingiem, barometr przedsiębiorczości 2025, nie mylić z eurobarometrem, i tu było wykazane, że tylko 18% badanych przedsiębiorców w Polsce nie inwestuje w sztuczną inteligencję. wykazując się największą otwartością na AI w Europie Środkowo-Wschodniej. No i tutaj EY mówi po prostu Polska na pierwszym miejscu. Czyli 82% polskich przedsiębiorców inwestuje w AI. Prawda? To się wydaje wow. I teraz uwaga, zderzam to z informacjami z Eurostatu z 2024 roku, gdzie tylko 5,9 polskich firm z co najmniej 10 pracownikami deklarowało używanie AI.

Ja się nazywam Artur Kurasinski. Dziękuję serdecznie wszystkim, którzy z nami wytrzymali, zostali i wysłuchali tego wszystkiego. Mam nadzieję, że się jeszcze niejeden raz będziemy widywali. Na pewno. Dziękuję Ci bardzo. Dzięki. Partnerami audycji Technofobia Algorytmy są XTB. Polska aplikacja inwestycyjna, w której znajdziesz tysiące akcji i ETF-ów tak sprawnie, jak najnowsze modele AI. Zaś z kodem ARTKUR otrzymasz darmowy kurs inwestowania od podstaw. SDWorks. Zaufany europejski dostawca rozwiązań kadrowo-płacowych. Obsługuje blisko 100 tysięcy klientów w 27 krajach, a w Polsce oferuje kompleksowe usługi dla firm każdej wielkości. Od MŚP po duże, globalne marki. Computronic. Technologia dla firm. Od doradztwa i sprzedaży sprzętu po integrację systemów i serwis.