Kontrola prawna nad algorytmami - mec. Krzysztof Izdebski
Nowe technologie zmieniają nasze życie, a my coraz częściej się z tym godzimy. Dzięki temu ułatwiamy sobie życie nie tylko w sferze komunikacji czy rozrywki, ale także usług urzędowych i prawnych. Algorytmy nie posiadają ograniczeń typowych dla ludzi. Nie muszą spać, nie ulegają zmęczeniu i – co wydaje się najbardziej pożądane – są wolne od uprzedzeń i emocji, co jest bardzo ważne np. w sądownictwie. Warto jednak pamiętać, że sztuczna inteligencja posiada także swoje wady. Jak algorytmy wpłyną na stosunki pomiędzy państwem a obywatelami? Czy decyzje dużej wagi muszą być podejmowane przez człowieka? Jakie regulacje wspierają symbiozę algorytmów i prawa? Dlaczego tak ważna w tej dyskusji jest etyka? Na te i wiele innych pytań odpowiada mec. Krzysztof Izdebski podczas konferencji naukowej - Manifest „Każdy człowiek” – czy potrzebujemy nowych praw w Karcie Praw Podstawowych? Konferencja zorganizowana została z inicjatywy Wydziału Prawa Uniwersytetu SWPS w Warszawie oraz SWPS Innowacje. Ambasadorem projektu został prof. Adam Bodnar, były Rzecznik Praw Obywatelskich, obecny dziekan Wydziału Prawa w Warszawie Uniwersytetu SWPS.
Dzień dobry. Witam Państwa serdecznie. Nazywam się Krzysztof Izdebski i reprezentuję na dzisiejszym spotkaniu Fundację im. Stefana Batorego. Jestem również ekspertem Open Spending i You Coalition oraz, co ma znaczenie, związane z przedmiotem mojego wystąpienia, współpracuję z organizacją Algorithm Watch, która zajmuje się właśnie przejrzystością działania Ja sam zresztą od wielu lat jeszcze, będąc dyrektorem programowym Fundacji e-państwo, zajmowałem się tą tematyką zarówno jako prawnik i podzielę się Państwu pewnym moim doświadczeniem praktycznym, jeżeli chodzi o zwiększanie w tym zakresie przejrzystości funkcjonowania algorytmów, ale też byłem współautorem wielu badań, które
Więc z jednej strony taki Algorytm, bo rzeczywiście decyduje o tej losowości i przydziale spraw algorytm, w sposób pośredni oczywiście oddziaływuje na sędziego. Ale w sposób bezpośredni, a nawet bym powiedział coś pomiędzy stanem pośrednim a bezpośrednim nawet, Oddziaływuje oczywiście na stronę postępowania sądowego i wiąże się też, jak dla mnie, z realizacją po prostu prawa do sądu. Wiedza o tym, na jakich zasadach wybrany został sędzia, który prowadzi sprawę konkretnego obywatela,
Osoba, która popełniła przestępstwo do tego, żeby zostać recydywistą. Okazało się, że jest to algorytm szalenie dyskryminujący, który de facto naraża już na takie surowsze potraktowanie przez przedstawicieli wymiaru sprawiedliwości osób, które mają to nieszczęście, że np. zamieszkują w tych tzw. Przekonał się chociażby holenderski rząd, który Niejako przez to musiał dymisję swoją wnieść, ponieważ wykazano, że ten system zawiera wiele błędów, które dyskryminują obywateli.
Też w konsekwencji trzeba by było wprowadzić horyzontalne polityki dotyczące wdrożenia algorytmów, też taką ocenę Wskutków algorytmicznych, trochę na wzór naszego OSR-u, który by też pozwalał na to, żeby urząd, instytucja publiczna, która wdraża taki algorytm już na tym najwcześniejszym etapie, była w stanie ocenić, czy taki algorytm nie niesie ryzyka dla praw obywateli, chociażby w kontekście ich potencjalnej dyskryminacji. Bardzo potrzebne jest też wprowadzenie różnego rodzaju standardów etycznych, w tym takich, które dotyczą jakiego rodzaju dane są
konsumowane przez taki algorytm, bo właśnie te dane często już na tym etapie mogą mieć charakter dyskryminujący. No i też wprowadzenie jasnych reguł dotyczących przejrzystości funkcjonowania automatycznego podejmowania decyzji po to, żebyśmy byli w stanie wiedzieć po pierwsze, że jesteśmy przedmiotem No właśnie takiego procesu decyzyjnego, ale też po to, żeby rozumieć jakie mogą być potencjalne konsekwencje. Czekamy, już jesteśmy bym powiedział na półmetku prac nad propozycją Komisji dotyczącej rozporządzenia czy projektu rozporządzenia przepisów dotyczących sztucznej inteligencji, nazywanym też aktem w sprawie sztucznej inteligencji, gdzie część, ale moim zdaniem w niewystarczającym stopniu tych problemów jest rozwiązywana, więc nijak to nie wpływa na aktualność i potrzebę wprowadzenia tego artykułu trzeciego, czyli prawa do przejrzystych algorytmów.
Pokazano wszystkie 5 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Krzysztof Izdebski przedstawia definicję algorytmów w kontekście polityki i podkreśla ich wpływ na prawa i obowiązki obywateli.
Analiza algorytmu losowego systemu przydziału spraw sądowych i jego wpływ na prawo do sądu.
Przedstawienie innych zastosowań algorytmów w administracji publicznej, takich jak kontrola prędkości samochodów i systemy teleinformatyczne.
Komentarz na temat braku regulacji i przejrzystości algorytmów oraz konsekwencji tego braku.
Propozycja wprowadzenia prawa do przejrzystych algorytmów w Karty praw podstawowych i potrzebne zmiany w polityce.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.