AI Act dla zwykłego człowieka. Rozmowa z dr Gabrielą Bar

Ale może na tym przykładzie, skoro już go wywołałaś, uważasz, że ten fragment, ten moment, w którym Unia próbuje uregulować modele, to się udało? To jest dobry ruch? Dobrym ruchem jest to, że podjęto próbę uregulowania tych modeli. Natomiast ta propozycja, która ostatecznie została przyjęta, no jest daleka od ideału. Moje zastrzeżenia w ogóle do AI Actu właśnie przede wszystkim dotyczą tych modeli fundamentowych, czy też, jak mówi akt, GPAI Models, czyli General Purpose AI Models, czyli już się nie pojawia ani słowo Generative AI, czyli generatywne AI, ani to Foundation Models.

Czy modele fundamentowe, czy też fundamentalne, tutaj różne nazwy się stosuje, jest wiele jeszcze innych podobnych. Natomiast właśnie pojawia się tylko określenie modeli sztucznej inteligencji ogólnego przeznaczenia, czyli GPAI model. Owszem, pojawia się też rozróżnienie między modelami sztucznej inteligencji i systemami sztucznej inteligencji, co akurat jest super fajne i dobrze, że to ktoś zauważył, że czymś innym jest model AI. Patrzmy się, z nim jest już system, który gdzieś ten model wdraża w konkretnym zastosowaniu. Czy zgadzasz się z taką analogią, żeby to dopowiedzieć słuchającym nas, którzy mogą nie być tak biegli, system, model? Pamiętam, jak w tych dyskusjach firma Google mówiła, że model to jest tak jak koło do samochodu, to jest coś, co można wpasować w różne systemy, dlatego nie należy regulować ich tak samo jak gotowego systemu AI, który ma jakieś przeznaczenie np. w medycynie albo

Rozmowa z dr Gabrielą Bar. Names mentioned. Rozmowa z dr Gabrielą Bar. No dokładnie, absolutnie to nie jest koło. Powiedzenie, że to jest jak część do samochodu, to jest powiedzenie niczego tak naprawdę, bo przecież model może być na tyle ogólny, że rzeczywiście model, który rozpoznaje obrazy. To może być model sztucznej inteligencji, który służyć będzie już w konkretnym zastosowaniu, czyli w konkretnym systemie. To są oczywiście dwa kompletnie różne zastosowania, ale regulowanie tylko systemów jest niewłaściwym podejściem, dlatego że jeżeli model będzie obciążony

Rozmowa z dr Gabrielą Bar. Names mentioned. Rozmowa z dr Gabrielą Bar. Dokładnie. Kształtów dla danego, no to są słynne już takie powiedziałabym i anegdotyczne przykłady, ale one powracają, że modele do tej pory trenowane na danych na przykład pochodzących z Europy Zachodniej, Ameryki Północnej gorzej radziły sobie z rozpoznawaniem twarzy dla osób o innych kolorach skóry. Oczywiście. Czy takie konteksty? Oczywiście, to jest bardzo ważny kontekst.

Modele rozpoznawania twarzy, które miały rozpoznać osoby o różnym kolorze skóry, są najbardziej skuteczne dla białych mężczyzn. Są nawet mniej skuteczne dla białych kobiet, a dla czarnoskórych kobiet są już w ogóle mało skuteczne. Oczywiście to się zmienia cały czas, one cały czas ewoluują. Miejmy nadzieję, że błędów w tym zakresie będzie coraz mniej, ale nie da się zaprzeczyć, że one są. Od modelu dlatego powinniśmy zacząć, a nie od systemu, który już zaimplementuje błąd z systemu, ten bias, ten przechył algorytmiczny z modelu. I ten problem jest w AI Act zaadresowany?

Błędów na etapie tworzenia modeli? Tak, i to jest plus, że ostatecznie nie zdecydowano się na uregulowanie systemów tego rodzaju, czyli systemów ogólnego przeznaczenia, ale modeli ogólnego przeznaczenia. Natomiast ta regulacja jest trochę rozmyta, tak bym powiedziała. Przede wszystkim w ogóle w zasadzie nie są w niej dotknięte problemy dotyczące cyberbezpieczeństwa, modeli podstawowych. A wydaje się, że w obecnej sytuacji geopolitycznej, kiedy mamy różnego rodzaju zagrożenia związane między innymi z wojnami, ale także z po prostu manipulacją w podniesieniu do wyborów, wyborów mówię politycznych, ale także różnego rodzaju innego wyborów dnia codziennego, to te modele, które mogą prowadzić do wysokiej jakości manipulacji, że tak powiem, do wysokiej jakości to oczywiście jest w cudzysłowie, ale chodzi o to, że te manipulacje są naprawdę

Na dużym poziomie, na wysokim poziomie, no to wydaje się, że kwestie cyberbezpieczeństwa powinny być kluczowe, powinny być jedną z kluczowych kwestii dla uregulowania tych modeli. A podałabyś przykład konkretnego problemu z tego zakresu cyberbezpieczeństwa? Co tu się może wydarzyć? No wiesz co, chociażby data poisoning, tak? W ogóle to… Zatruwanie danych? Tak, zatruwanie danych. Właśnie to jest na etapie uczenia modelu, kiedy atak hakerski, powiedzmy tak potocznie, może dotyczyć wprowadzenia do modelu jakichś zaburzonych danych, chociażby danych właśnie nieadekwatnych do danego modelu, czy danych, które są źle oznaczone, czyli właśnie identyfikują np. czarnoskórą kobietę jako, to mieliśmy przykład gdzieś tam,

Jako małpę członkokształtną. W tym przypadku, o którym mówię, nie doszło do data poisoning, zatruwania danych, ale wyobrażamy sobie, że może tak być. Czyli ktoś świadomie próbuje popsuć model na etapie jego trenowania. Tak, dokładnie. Ale czy ten scenariusz nie będzie wyłapany właśnie przez to, że mamy obowiązek wynikający z tej nowej regulacji, obowiązek dla każdego, kto taki model rozwija, sprawdzanie poprawności danych? Czy ja to źle rozumiem, że wtedy wyszłoby to w testach właśnie, których wymaga ta regulacja? To się może odbyć takie zatruwanie danych już po wdrożeniu modelu albo już po jego opublikowaniu.

Czyli on już sobie funkcjonuje, przeszedł wszystkie testy, przeszedł oceny ryzyka, przeszedł jakieś certyfikacje, które są niezbędne. No ale on się cały czas będzie jakoś tam uczył i rozwijał, więc to ryzyko to jest takie ryzyko, które na każdym etapie, właściwie nie tylko opracowywania, ale później używania tego modelu będzie się pojawiało. Rozumiem. Czyli tak kierunkowo, jeszcze wracając na chwilę, cofając się z przykładów, do których wrócimy, bo to będzie najciekawsza część tej rozmowy dla nas słuchających, przywołanie przykładów z życia, o których sobie myślałyśmy przed naszym spotkaniem. Uważasz, że Unia Europejska, porywając się na taką szeroką, horyzontalną regulację,

Wracając jeszcze do tych modeli ogólnego przeznaczenia, to jeszcze warto powiedzieć, że mamy wprawdzie dodatkowe obowiązki dla modeli z tak zwanym ryzykiem systemowym, ale tu jest bardzo wysoki próg dla uznania takiego modelu jako model, który wprowadza ryzyko systemowe i ten próg jest uzależniony od pewnych Liczby operacji na liczbach zmiennoprzecinkowych, nieważne, to jest techniczny termin, ale tak naprawdę kwalifikują się do tej kategorii w tej chwili chyba tylko model GPT-4, który jest właśnie implementowany w czacie GPT i być może inni, a reszta?

Czy to będzie oznaczało, czy to mogłoby oznaczać, że pewne modele, co do których nie mamy pewności, że spełniają te wysokie kryteria, które właśnie wymieniłaś, nie będą dopuszczone do używania w Unii Europejskiej, a gdzie indziej będą i mogą pojawić się głosy, że no zaraz, zaraz, to my jesteśmy tutaj ostatni w kolejce do tego, żeby mieć taką diagnostykę, która może i się myli, Teraz bardzo wyostrzam, dla czarnych kobiet, ale dla białych mężczyzn działa i w sumie to wielu, wiele osób chciałoby taki system mieć. Wiesz o czym myślę, czy ten wysoki standard wdrażania on nie spowoduje, że pewne zdobycze cywilizacyjne, to mówię z dozą ironii, będą nam później tu w Europie dostępne albo w ogóle nie będą, bo się okaże, że nie jesteśmy w stanie zrobić tego tak dobrze, jak wymaga AI Act.

To nadzorca człowiek musi powiedzieć, zaraz, zaraz, tu nam się wkrada jakaś korelacja. My zaczynamy faworyzować ludzi o pewnym modelu wykształcenia albo o pewnym hobby, bo nam się sprawdziło w przeszłości, że oni dostawali u nas pracę. I zaraz, zaraz, oni byli białymi mężczyznami, ojej, czyli my dopiero na takim systemie uczymy się sami tych zależności, prawda? I teraz ten proces nadzorowania, czy on tu będzie lepszy? Będzie dzięki tej regulacji myśli, że będzie nam, firmy będą musiały zrobić więcej, żeby wychwycić takie niechciane korelacje i im zapobiegać? Tak, myślę, że zdecydowanie tak. Przede wszystkim tutaj obowiązki dotyczące zarządzania danymi i jakości danych, ale także zapewnienie nadzoru ludzkiego przez cały czas życia systemu, zapewnienie cyberbezpieczeństwa, zapewnienie ciągłego monitorowania wyników działania systemu.