AI Act w e-biznesie i digital marketingu

Cześć, z tej strony Piotr Kantorowski, a to kolejny odcinek podcastu Prawo dla Biznesu. I dzisiaj, no, pewien powiedziałbym smaczek, żeby nie powiedzieć rarytas. Dzisiaj znowu opcja wideo, także jeżeli w waszych czytnikach podcastów, tak się kiedyś mówiło w prehistorycznych czasach, Ale pewnie korzystacie ze Spotify'a, więc tam mam pewność, że ta funkcja jest. Jeżeli możecie tylko, bo np. nie prowadzicie samochodu albo nie macie treningu, to zerknijcie na wersję wideo, bo dzisiaj przed wami moje całkiem pokaźne, bo 45-minutowe wystąpienie podczas konferencji Biblia e-biznesu Era AI.

Z e-commerce, gdzie tych kar jest całkiem sporo. No i tutaj takie małe podsumowanko. Prezes Lockheed ostatnio wrzucił, to ponad 900 decyzji wydał i ponad miliard 150 milionów kar nałożył, a jak kogoś jeszcze to od ostateczki nie rozbudziło, To dodam, że AI Act, o którym dzisiaj powiemy zdecydowanie najwięcej, faktycznie tylko o nim będę mówił, daje tutaj przestrzeń do nowych kar i górna granica to 35 milionów euro, co myślę też ma znaczenie, chociaż czasami powyżej pewnej kwoty już nie ma znaczenia jaką się dostaje karę, jak i tak wiadomo, że Piotr Kantorowski

Napomknąć i dzisiaj opowiem Wam o tym, jak ten AI Act ma się dla e-biznesu i digital marketingu i co warto wiedzieć w 2026 roku, żeby nie obudzić się z problemem zamiast z przewagą konkurencyjną. I od razu przepraszam, bo mam trochę długą tę prezentację, więc chyba pytania łapcie mnie na LinkedIniem czy na Facebooku. Jak tylko dam rady w formie takiej konferencyjnej, to odpowiem, a teraz startujemy. I na początek, przepraszam, będą takie dwa slajdziki, powiedziałbym, bardzo prawnicze. Otóż jak mówimy o AI Actie, to warto zacząć od tego, jeżeli się tam zastanawiacie, czy podlegacie, czy nie podlegacie pod to,

On dotyczy systemów AI. Te systemy powinny spełniać siedem takich cech, które dopiero jak się zadzieją łącznie, to pozwalają nam na powiedzenie, że tak, ta regulacja nas dotyczy i musi być to system maszynowy, musi mieć różny poziom autonomii. Ale też powinien mieć przynajmniej możliwość zdolności adaptacyjnej, wyraźne lub dorozumiane cele. Macie część AI-owych rozwiązań, które mają jakiś jeden cel, a część ma po prostu te cele, gdzieś tam można je wnie schować z zastosowania. Wnioskuje z danych, daje wyniki w postaci predykcji, treści, zaleceń, decyzji i wpływa na środowisko fizyczne lub wirtualne, co się częściej nam tu dzieje.

I taka też króciutka hierarchia tego aktu. On ma cztery takie zakresy regulacyjne, które nas dzisiaj będą dotyczyć bardziej. Systemy zakazane, no łatwo się domyślić, Wysokie ryzyko, ograniczone ryzyko i minimalne ryzyko. Ja dzisiaj powiem Wam o zakazanych systemach i wysokim ryzyku, ale tylko w zakresie, który moim zdaniem bardziej niż mniej dotyczy szeroko pojętej branży online'owej, a potem skupię się na ograniczonym ryzyku, I opowiem wam na przykład o tym, czy jak korzystacie z AI, to tworzycie jakieś te utwory w rozumieniu prawa autorskiego, które czasami mają znaczenie w kontekście waszych umów, na przykład jako agencja digital z waszymi klientami, czy też nie tworzycie, a może i tu będzie takie bardzo prawnicze sformułowanie, to zależy.

Przy czym to drugie szczególnie to bym rozumiał jako po prostu wymuszenie zakupu, który zakupem By nie był w innym przypadku, to tak przede wszystkim. I tutaj taki nie AI-owy przykład, bo do AI-owych jeszcze się nie doczekaliśmy. Mogłoby być tak, że takim zakazaną systemem byłby system, który Wykorzystując dodatkowo AI utrudniałby odsubskrybowanie usługi, jak to na przykład było w przypadku Amazon Prime jakiś czas temu, gdzie cały flow odsubskrybowania w Stanach ponoć składał się z sześciu ekranów, gdzie

Tam też nie było jeszcze AI, bo też jeszcze nie ma takiego przykładu dobrego, nośnego z AI. Natomiast tam były interfejsy tworzone w ten sposób, że szczególnie tych młodszych użytkowników Wprowadzały w błąd co do tego czy ktoś kupuje tam w tej grze na polskie tłumacząc V-dolce czy też nie kupuje i tam się pojawiły właśnie kary za takie wprowadzanie w błąd i wykorzystywanie słabości ze względu na wiek, ale możemy sobie wyobrazić też Kwestie AI-owego targetowania reklam do osób w trudnej sytuacji finansowej, czy zmiany interfejsu w sposób utrudniający korzystanie dla osób niedowidzących, to wszystko byłoby systemem zakazanym.

Takie dla kierowców rozpoznanie twarzy, które jak się okazało zaczęło w zasadzie nie preferować, dyskryminować osoby o ciemniejszej karnacji, nie rozpoznawały ich i blokowały dostęp do aplikacji, ale tutaj też znowu nam pięknie pasuje przykład Amazona, który miał stworzony system, to czy on jest AI-owy czy nie, to jakby mniejsza z tym, bo to wrócę do tego, Żeby mieć do czynienia z AI Actem to zawsze musimy najpierw sprawdzić czy mamy do czynienia z systemem AI. Natomiast on działał w ten sposób, że jakby dawał upomnienia pracownikom za jakieś odstępstwa od

Standardu i za trzy upomnienia było automatyczne zwolnienie, ale problem polegał na tym, że on dawał te upomnienia na przykład za mniejszą wydajność w danym dniu pracy, a w ogóle nie brał pod uwagę tego, że maszyna nie działała, albo że był jakiś inny problem, albo że ktoś był za długo w toalecie, tylko nie brał pod uwagę tego, że musiał przejść całą halę, a nie na przykład 10 metrów. Więc tu też takie ważne kwestie. No i te systemy high risk, to musi być taki monitoring, interpretowanie wyników przez człowieka. To nie znaczy, że musi być każda decyzja potwierdzona, ale też z drugiej strony, tutaj z trochę innych rejonów orzeczniczych, nie zapadłych bynajmniej na AI Act, wynika, że

Jeżeli to jest tylko tak zwany gumowy stempel, czyli ktoś zatwierdza każdą decyzję AI, ale jakby bezwzględnie każdą, no to nie mamy do czynienia z tym human overview i ten warunek nie będzie spełniony. No i co ważne, to nie chodzi o to, do czego został stworzony system, tylko chodzi o to, jak go wykorzystujemy i to jeszcze można się wpakować w takie tarapaty, że jak zaczniemy do czata GPT przykładowo wrzucać CV i prosić o rekomendacje kandydatów, to dojdziemy do punktu, w którym to my jeszcze jesteśmy dostawcą systemu nagle właśnie wysokiego ryzyka i nie spełniamy wymogów.

Co z neuromarketingiem? Widzę pytanie, no to to jest kwestia cofnięcia się do pierwszych dwóch slajdów i odpowiedzenia sobie na pytanie, czy mamy do czynienia z systemem, którymś z systemów zakazanych, więc to tak bym do tego podszedł. Ale z tym neuromarketingiem też bym jeszcze uważał na kwestie jakichś takich zwykłych, typowych dark patterns, o których też Łokik dużo mówi. To tak akurat mi się rzuciło kątem oka, o co mi rozpytał. Teraz przejdę do czegoś, Co mnie na przykład strasznie interesuje, nie wiem jak was, ale jeżeli prowadzicie agencję digital, to nawet jak was nie interesuje, to powinno, czyli o tym, co my sobie tym AI generujemy i czy aby finalnie nie naruszamy, o czym później powiem, umów z naszymi kontrahentami.

Finalnie mamy tutaj do czynienia ze zdjęciem, które w rozumieniu prawno-autorskim nie jest utworem i nie podlega żadnej ochronie. Tak samo akurat nie będzie tych slajdów, bo to już by było za bardzo Rozciągnięte w czasie to samo twierdzenie. Natomiast jeżeli mamy kamery przemysłowe i one akurat zrobią świetne zdjęcia, a takie zdjęcia są, to też nie mamy do czynienia z utworem. I tutaj właśnie przechodzimy do świata AI i zastanowimy się, Co on to generuje? Czy wytwór, czyli takie coś, co nie podlega ochronie prawnoautorskiej, czy utwór, czyli takie coś, co podlega tej ochronie?

A może to zależy albo nie wiadomo? Od razu powiem, że w Polsce spraw jako takich Nie było na razie, ale coś z Europy już mamy, więc jakiś tam bardziej rdzennie nasz element będzie. To jest jedna z pierwszych spraw, która dotyczyła właśnie wytworu AI. Próbowano zarejestrować ten obraz. Urząd do spraw autorskich w USA doszedł do wniosku, że tu nie mamy do czynienia z utworem z tego powodu, że tak naprawdę było

AI jest niedeterministyczne. Prompt jedynie uruchomił późniejszą pracę i dobór elementów przez samo AI. Tu jest znowu sprawa, która toczyła się w Czechach. Policzcie palce, bo tu nie sprawdzałem, czy się zgadzają, natomiast to nie jest akurat dokładnie ten obraz, natomiast on jest wygenerowany w oparciu o prompt, który był przedmiotem sprawy. Prompt mniej więcej sprowadzał się do tego, że miało być to podpisanie porozumienia, tak żeby nie było witać postaci i miało się to odbywać w tradze. W każdym razie tutaj też Tu akurat był spór sądowy i złośliwi mówiąc, że dziękuję za policzenie Joanna, wielkie dzięki.

W każdym razie sąd na skutek sporu, który był prawdopodobnie wywołany przez prawników, doszedł do wniosku, że tutaj nie mamy do czynienia z utworem, bo prompt był bardzo, ale to bardzo ogólny. Kolejny wariant Zmieszanie dwóch własnego zdjęcia ze wskazaniem stylu, efekt, ale też nie mamy do czynienia z utworem, bo niedeterministycznie AI doszedł do pewnego przekonania. Tu jest ciekawa sprawa, bo input był narysowany, a output był wytworzony już przez AI na podstawie inputu. No i tutaj urząd w Stanach doszedł do wniosku, że

Skłoniło to na przykład Stany Zjednoczone do odwołania dyrektora urzędu, dyrektor urzędu, która rejestruje utwory, bo była zbyt konserwatywnie nastawiona właśnie na kwestie ochrony W zasadzie braku ochrony tych wytworów AI-owych. No i tutaj mamy przykład późniejszy, który już znowu ta fragmentaryczna ochrona z pewnymi wyłączeniami, gdzie AI samo już było decydentem co do finalnego kształtu. I ostatni spór, bo on się bodaj w lutym skończył, Sąd Rejonowy w Monachium. Co ciekawe, wyszło z niego w zasadzie właśnie to, że tutaj utworu nie mamy, to znowu sprawa, to podobnie przez prawników wywołany, ale potencjał na taką ochronę gdzieś się jednak pojawia.

I chyba to jest ten kierunek, w którym dążymy, że można takiej ochrony się spodziewać, przynajmniej fragmentarycznie, ale o tym powiem za chwilę, jakie to ma przełożenie na pracę np. agencji marketingowej. Bardzo króciutko powiem tyle, że jeżeli uczymy modele sztucznej inteligencji w Europie, to one mają pewne ograniczenia co do scrapowania danych do nauki, natomiast najkrócej mówiąc, Tu jest sprawa Getting Images przeciwko Stability AI. Ona była rozstrzygnięta w części, bo część nie była we właściwej jurysdykcji i tam stwierdzono, że naruszono znak towarowy, który tutaj widzicie, że się generuje, ale nie naruszono przez generowanie obrazów praw autorskich do jakby bazy tej takiej pozyskanej przez

Stability AI na podstawie obrazów zaciągniętych z Getting Images. Nie rozstrzygnięto czy to zaciągnięcie danych naruszyło prawa autorskie. To było poza jurysdykcją. A tu kilka takich przykładów do zastanowienia się. Tu tak sobie pozwoliłem akurat wedle własnych upodobań wykorzystać Obraz pana Zdzisława Beksińskiego i takie kilka sytuacji. Do własnego przemyślenia. Plagiat, inspiracja, może nowy utwór? Tutaj powiem wprost, byłby to plagiat i o tyle go mogę pokazać, no bo jest to w celach nauczania, więc gdzieś prawo cytatu mnie do tego upoważnia.

Ucznia klasy piątej, który pisze wypracowanie na temat jej dietrzy i brzmiało to żenująco, natomiast problem tam w tym radiu był taki, że oni też chronowali głos prezenterów, których zwolnili w związku z zaprzęgnięciem AI do pracy. I oto już były, nie wiem, nie słyszałem o jakimś wymiarze sądowym, ale oto już były takie realne, prawne, nazwijmy to, pretensje. No i deepfake'i też można wykorzystać w celach przestępczych, na co też warto zwrócić uwagę, bo No jedna firma w Hongkongu tak zrobiła przelet na 25 milionów dolarów, to trochę dużo, chyba że dla was nie, dla mnie tak, więc warto sobie tutaj też pomyśleć o jakichś procedurach, ale to tak na marginesie.

Jak ktoś będzie chciał prezentację, link im i nie ma problemu, udostępniam. Zanim usłyszyjesz deepfake'a, od końca zacznę. Sprawdź, czy ten deepfake nie przypomina znanej ci żywej osoby, a potem się jeszcze zastanawiaj, czy jeżeli korzystałeś z jakiegoś wizerunku jako wyjściowego, to czy miałeś prawo do tego wizerunku i czy masz określony zakres dobrze tego prawa, a finalnie pamiętaj o oznaczaniu. No i umowy. Najgorsze umowy to są te, gdzie się w ogóle tego AI przemilczy, natomiast na co warto w szczególności zwrócić uwagę? No przede wszystkim na to, żeby w umowie albo napisać, że nie wolno z tego AI korzystać, albo

Nie napisać umowy tak, żeby z niej wynikało, że zawsze macie obowiązek stworzyć utwór, bo jest spora szansa, że tym AI-em tego utworu na dzień dzisiejszy nie stworzycie albo nie będzie to w pełni utwór i potem nie przeniesiecie majątkowych praw autorskich i będzie tysiąc problemów, jeżeli ktoś będzie chciał wam te problemy zrobić, a w sumie w marketingu chyba nie chodzi o to, żeby stworzyć utwór, bo nie jesteście Artystami, tylko o to, żeby sprzedaż była jak najwyższa chyba się wydaje. A jak chcecie chronić takie wygenerowane wytwory, to zawsze pozostają znaki towarowe i warto o tym pamiętać i z nich skorzystać. Chatboty, jeszcze króciutko, można z nich korzystać, oznaczajcie, że to AI, regulamin korzystania z chatbotów i finalnie jeszcze

Możliwość odwołania się do człowieka, to już tak skróciłem całość i kontrolujcie co tam się dzieje w tym chatbocie i jak on odpowiada, bo co prawda linii Air Canada nie położył fakt, że jedną panią wprowadzono błąd co do zniżki żałobnej, co do której później wygrała, ale jest drugi case, który chyba się nie obił o Nie obił się o sąd, natomiast Chevrolet za jednego dolara to bardzo dobra cena. Nie wiem, jak się sprawa skończyła, bo gdzieś tam medialnie ucichła. Jeżeli macie podsumowania opinii pisanych przez AI, to oznaczajcie, że to jest AI, a nie opinia. Taką funkcję daje Chrome, ale w Stanach, z tego co wiem, natomiast na pewno są narzędzia w Europie, które na to pozwalają, a brak takiego oznaczenia może być wprowadzeniem w błąd.