13. Prawo a AI

Dlaczego szczęśliwy? O tym powiem Wam na końcu odcinka. Dzisiejszym moim gościem jest Rafał Malujda, radca prawny i rzecznik patentowy. Zajmuje się w szczególności ochroną własności intelektualnej, RODO, fintechami i e-commerce. Z Rafałem porozmawiamy o tym, jak prawnicy patrzą na sztuczną inteligencję, jakie widzą w niej zagrożenia, szanse i wyzwania, a także o tym, jak AI zmienia branżę prawniczą od środka. Transkrypcje, linki i wszelkie materiały do tego odcinka znajdziecie na hospoda.tech łamane na 13. Zachęcam do subskrybowania podcastu, dzięki temu nie przegapisz kolejnego odcinka. A teraz już zapraszam na dzisiaj i życzę miłego słuchania.

Cześć Rafał, witam w podcaście. Cześć Wojciechu. Pierwsze pytanie. Jak prawo obecnie definiuje sztuczną inteligencję? Czy w ogóle mamy w tym zakresie spójne podejście legislacyjne pomiędzy Unią Europejską a resztą świata? W Unii Europejskiej to jest dobry rok, żeby rozmawiać o sztucznej inteligencji z tego względu, że W dużym zakresie rozpoczęliśmy stosować AI Act w 2025 roku, który zawiera definicję systemu sztucznej inteligencji. Definiuje też jakiego rodzaju modele sztucznej inteligencji, czyli można powiedzieć takiego rodzaju swoisty backend tego, co systemy sztucznej inteligencji obrabiają, czym się zajmują.

Prawo a AI. Names mentioned. Prawo a AI. Names mentioned. Rozróżniamy przede wszystkim systemy od modeli sztucznej inteligencji. Wiemy, że modele sztucznej inteligencji to modele, które albo z jednej strony mają mieć charakter predykcyjny, czyli na bazie jakiegoś rodzaju danych historycznych mają dokonywać predykcji, czy to wyników, czy jakichś zdarzeń w przyszłości.

Prawo a AI. Names mentioned. Prawo a AI. Names mentioned. Rafał Malujda. Coraz więcej też wiemy o tych modelach, coraz więcej wiemy jak one działają i to wydaje mi się, że jest bardzo istotne, czyli idziemy w tym kierunku coraz większej transparentności, już niezależnie od tego czy ona, czy konieczność jej wprowadzenia wynika z przepisów prawa.

Jakbyśmy odkryli historię hasła sztuczna inteligencja na Wikipedii, no to lata temu to było to po prostu uczenie maszynowe. I wtedy to uczenie maszynowe było modne. Wielu dostawców IT ówcześnie reklamowało każdy swój produkt. Prawo a AI. Names mentioned. Tak jak wspomniałeś, ogólnie sztuczna inteligencja nie jest zagadnieniem nowym, jest to rok chyba 1954, wspominałem już o tym w poprzednich odcinkach, ale tak samo kilkukrotnie już na łamach tego podcastu poruszałem kwestię odpowiedzialności za działanie AI.

Czy to będziemy mieli AI predykcyjną czy tą generatywną? Zwłaszcza ta predykcyjna wspiera podejmowanie pewnych decyzji, ale dalej ta decyzja jest podjęta przez człowieka i człowiek bierze za nią odpowiedzialność, tak? Tutaj pojawia się pytanie, czy potrzebne będzie stworzenie nowych kategorii prawnych, na przykład osobowości prawnej dla sztucznej inteligencji. Gdzie tak naprawdę kończy się pomoc AI, a gdzie zaczyna odpowiedzialność człowieka? I tak jak już ty wspominałeś o transparentności modeli, to czy ta transparentność powinna być ważniejsza, czy jednak odpowiedzialność użytkownika? I tu pytam w kontekście zarówno tej AI predykcyjnej, jak i generatywnej, bo tam to, za co odpowiadamy, będzie różne.

Prawo a AI. Names mentioned. Rafał Malujda. Na dzień dzisiejszy, przynajmniej jeżeli chodzi o prawodawstwo polskie, wielu innych państw europejskich, mamy dwie albo trzy kategorie prawne. Mamy osoby fizyczne, mamy osoby prawne i tak zwane, jak to mówią prawnicy, ułomne osoby prawne. To jest kategoria powszechnie używana w języku prawniczym, czyli takie nie do końca osoby prawne, ale już nie osoby fizyczne. Niezależnie od tego, czy mówimy o osobach fizycznych, czy o osobach prawnych, to są to organizmy, które funkcjonują. Możemy odpowiedzialność tym organizmom przypisać, bo tak się umówiliśmy, jeżeli chodzi o przepisy prawne.

O ile osoby prawne w rzeczywistości nie istnieją, to jednak osoby fizyczne wprawiają te osoby prawne w ruch, idą do notariusza, zakładają chociażby spółkę z ograniczoną odpowiedzialnością. I ten byt na papierze jest przypisywalny określonym osobom fizycznym, czy to funkcjonującym w zarządzie, czy działającym po stronie wspólników, czy beneficjentów rzeczywistych. I tutaj te reguły odpowiedzialności są przypisane do konkretnego podmiotu. Jeżeli nałożymy na to siatkę, a wydaje mi się, że nie unikniemy tego, siatkę AI Actu, to Niezależnie od tego, że mamy do czynienia z systemami sztucznej inteligencji, to odpowiedzialność za działanie określonych systemów w tym obszarze czy określonych modeli jest przypisywalna do producentów tych narzędzi.

Prawo a AI. Names mentioned. W tym kierunku wydaje mi się, że to i tak już idzie, patrząc na to, co zostało wprowadzone na poziomie AI. Proszyłeś jeden z moich ulubionych przykładów. Pojazdy autonomiczne, czy to samochody, czy to statki, drony. Drugi taki przykład, który zawsze przytaczam, czy to w dyskusjach, czy to studentom, czy w biznesie, to liczenie ryzyka kredytowego i podejmowanie decyzji kredytowej. Z tym miałem styczność zawodową już 10 lat temu.

Natomiast wracając do samych pojazdów. Jeżeli mamy ten pojazd autonomiczny, żeby on się upowszechnił trzeba będzie wprowadzić jakieś regulacje, no bo nie wyobrażam sobie i tutaj będę musiał dokończyć tą pełną myśl tego, że producent załóżmy tego oprogramowania Tak po prostu odpowiada za wszystko, jeżeli chodzi o odpowiedzialność za spowodowane wypadki, szkody. Prawo a AI. Names mentioned.

Nie tylko nadzorować to co jest dopuszczane na rynek, ale w przypadku tych systemów sztucznej inteligencji prosić o wgląd w kod źródłowy oprogramowania, który wprawia w ruch, model wprawia w ruch system sztucznej inteligencji. Czyli producenci będą musieli się przygotować do tego elementu. To co jest istotne w przypadku systemów sztucznej inteligencji to jest czystość Prawo a AI. Names mentioned. Rafał Malujda.

Na dzień dzisiejszy oprogramowanie sztuczna inteligencja w urządzeniach rzeczywistych już jest. I teraz, idąc dalej, mamy regułę odpowiedzialności za produkt niebezpieczny, za produkt wadliwy i jesteśmy w stanie zdiagnozować, kto odpowiada za wady czy za skutki negatywnego działania danej zabawki, jeżeli nie zadziałało chociażby oprogramowanie i dziecko się poparzyło na przykład. Prawo a AI. Names mentioned.

Prawo a AI. Names mentioned. Prawo a AI. Prawo a AI. Names mentioned.

Czy w ogóle pojazdy lotnicze i tutaj ten rynek ubezpieczeń i segment ubezpieczeń na pewno też te wszystkie wątpliwości zaadresuje. Czyli tutaj na pewno nie będzie tak, że nikt nie będzie odpowiedzialny. Aczkolwiek też zdarzało się w orzeczeniach Izby Morskiej, to jest taka działka może bardzo Prawo a AI. Names mentioned.

Tak i to też nie będzie nic niecodziennego, bo my już teraz często mamy do czynienia z różnego rodzaju dysfunkcjami systemów, pojazdów, jakichkolwiek innych urządzeń, które funkcjonują w rzeczywistości. Często ciężko jest stwierdzić, co było przyczyną danej dysfunkcji i regresowo, czyli w przypadku tej wtórnej odpowiedzialności, ciężko jest nam zdiagnozować, czy rzeczywiście np. producent ogumienia, producent jakiś podzespołów, śrubek, nakrętek, czegokolwiek innego wrażliwego, odpornego albo nieodpornego na wstrząsy, na prędkości, na ilość obrotów. Prawo a AI. Names mentioned.

Prawo a AI. Names mentioned. Rafał Malujda. Ale wydaje mi się też, i chyba to musimy przyjąć jako element taki naturalny czy natywny tego rodzaju systemów, że mogą być sytuacje, w których my najzwyczajniej w świecie po prostu nie dowiemy się, dlaczego coś nie zadziałało i gdzie faktycznie leży wina, czyli już nawet nie odpowiedzialność, ale wina, czyli co było przyczyną. Bo tak jak powiedziałem na początku, Rynek i regulacje prawne idą w kierunku tej transparentności, ale z natury rzeczy wszystkiego punktowo, atomowo, tak jakbyśmy chcieli pewnie w tego rodzaju sytuacjach, my najzwyczajniej w świecie się nie dowiemy.

Tak samo jak nie możemy zagwarantować czy w przypadku generowania treści, korzystania z generatywnej sztucznej inteligencji Dojdzie do naruszenia praw autorskich jakiegoś innego podmiotu czy też nie, tak samo może być to trudne w tych przypadkach, o których Ty mówisz. Ok, super. Teraz przejdę już sobie powoli do AI Act i tych konkretnych regulacji. Tak jak powiedziałeś, w tym roku dużo się o tym mówi. Wszyscy zaczęliśmy się w firmach IT zastanawiać, na ile to nas dotknie. Ja będąc na jakichś spotkaniach, gdzie tak powierzchownie tłumaczono nam, czym AI Act jest tak naprawdę, no to...

To nie jest to takie straszne, przynajmniej z mojej perspektywy. Natomiast pytanie do Ciebie jako do eksperta. Jakie konkretnie zmiany wprowadza nam AI Act, które będą najbardziej odczuwalne dla firm technologicznych przede wszystkim? I czy AI Act realnie zwiększy bezpieczeństwo i zaufanie do AI? Czy może przy tym spowolni nam innowacje? Jakie na dzień dzisiejszy widzisz luki prawne, które są najważniejsze do załatania w przypadku AI i czy AI Act je domyka? AI Act jest konstrukcją, która w mojej ocenie przynajmniej dobrze, że się pojawiła w naszej rzeczywistości prawnoregulacyjnej.

I on faktycznie wprowadza kilka nowości. Nie jest to dzieło czy regulacja skończona. Czekamy na różnego rodzaju standardy branżowe, na różnego rodzaju wytyczne, które będą doprecyzowały regulacje w AI Act zawarte i tego rodzaju wytyczne one już się pojawiają. Natomiast jeżeli chodzi o Prawo a AI. Names mentioned. Rafał Malujda.

Prowadza przede wszystkim pojęcie zakazanych praktyk w obszarze sztucznej inteligencji, czyli będziemy mieli do czynienia, czy mamy już do czynienia i to są regulacje, które weszły w życie najszybciej z praktykami, które w ogóle na rynku nie mogą Prawo a AI. Names mentioned. Prawo a AI. Names mentioned.

Nie można wykorzystywać słabości osoby fizycznej, nierówno traktować użytkowników, dyskryminować, a systemy sztucznej inteligencji mają i to się podnosi z perspektywy Prawo a AI. Names mentioned. Prawo a AI. Names mentioned.

I dlatego z tej perspektywy to dobrze, że AI Act wprowadził tą grupę systemów zakazanych. Drugi poziom to są systemy dużego ryzyka. I gro przepisów AI Actów dotyczy tego rodzaju rozwiązań. One są Prawo a AI. Names mentioned. Prawo a AI. Names mentioned.

Jako przykład tego systemu wysokiego ryzyka. Systemy sztucznej inteligencji przeznaczone do wykorzystywania do celów podejmowania decyzji o dostępie lub przyjęciu do instytucji edukacyjnych i instytucji szkolenia zawodowego. I tych przykładów jest oczywiście dziesiąt, jeżeli chodzi o poziom AI aktu. I z tej perspektywy to też istotne i dobre, że w stosunku do tego rodzaju systemów, które będą wpływały najzwyczajniej w świecie na nasze życie, bo albo dostaniemy, albo nie dostaniemy kredyt, albo zostaniemy, albo nie zostaniemy przyjęci. Kolejny poziom.

To są systemy sztucznej inteligencji, w stosunku do których ustawodawca nałożył na podmioty wprowadzające na rynek tego rodzaju rozwiązania obowiązki transparentności. No i wszelkie pozostałe systemy, w stosunku do których nie ma praktycznie żadnych obowiązków. W kwestii tej dyskryminacji, nie wiem czy do końca bym się zgodził. AI może dyskryminować pewne grupy społeczne chociażby, ale z drugiej strony, jako że to jest tylko algorytm, możemy mu tej dyskryminacji zakazać i na pewno wrócę do tego jeszcze w późniejszych pytaniach, ponieważ mam takie pytanie o Twoją branżę i o przyszłość.

Prawo a AI. Names mentioned. Prawo a AI. Names mentioned. Natomiast właśnie AI to tak wy jako branża legal macie podobnie jak my z jednej strony. Pracujecie nad AI, my pracujemy nad jej rozwojem technicznym, wy pracujecie nad jej rozwojem prawnym, nad tym jak to zamknąć w jakiś takich bezpiecznych ramach.