AI musi działać etycznie (gościni: Dota Szymborska) | TECHNOFOBIA
Moja dzisiejsza gościni to Dota Szymborska — doktora nauk humanistycznych w zakresie etyki, absolwentka filozofii (specjalizacja: logika) i socjologii na Uniwersytecie Warszawskim. Akademiczka, wykładowczyni, prelegentka TEDx. Doktorat obroniła z etyki pojazdów autonomicznych. W pracy doradczej łączy Kanta, Arystotelesa, Rawlsa i Jonasa z twardymi case'ami biznesowymi — chatbotem Air Canada, narzędziami rekrutacyjnymi Amazona, audytami algorytmów w HR. Współtworzy etyczną nakładkę na polski model Bielik, zasiada w GRAI przy Ministerstwie Cyfryzacji.Poza AI: triathlonistka i maratonka, kocia behawiorystka, wolontariuszka pracująca z uchodźcami. Zawodowo bada relacje człowiek–maszyna, prywatnie ucieka w to, co najbardziej cielesne i niecyfrowe.Filozofka Kanta ze stanowiskiem "AI Ethics Lead". Naukowczyni, która doradza biznesowi, jak wdrażać technologię, do której sama ma fundamentalną nieufność.Dr Dota Szymborska mówi, że z nieprzewidywalną sztuczną inteligencją poradzi sobie tak, jak poradziła sobie z nieprzewidywalnym kotem. Wyobraża sobie "niebiałkowego kontrahenta", który nie wrzuci suszarki do wanny i wesprze, gdy będzie smutno. Pisała o partnerstwie z maszyną już w 2019 roku, kiedy patrzono na nią dziwnie.A jednocześnie chce dla tej samej maszyny prawnej smyczy, kodeksów i "praw Asimova". Pytamy więc wprost: czy przyjaciela reguluje się ustawą?W tym odcinku rozmawiamy o tym, gdzie kończy się doradztwo etyczne, a zaczyna etyczne alibi dla firmy, która chce mieć czyste sumienie w cenie faktury. O tym, czy polska etyka AI (Bielik, GRAI, Ministerstwo Cyfryzacji) ma jakikolwiek realny wpływ, skoro najpotężniejsze modele świata powstają poza jakąkolwiek naszą jurysdykcją. O Acemoglu i pytaniu, czy regulacje realnie ograniczają Altmana, Bezosa i Muska, czy tylko formalizują ich przewagę.Wracamy też do doktoratu mojej gościni o etyce pojazdów autonomicznych i sprawdzamy, czy słynne "kogo potrąci samochód" było w ogóle właściwym pytaniem.Potem robi się ciężej. Lavender — system przypisujący ludziom w strefie konfliktu punktację od 1 do 100 określającą prawdopodobieństwo, że są celem wojskowym. Wojsko twierdzi, że to "baza danych, a nie AI decydująca o zabijaniu". Oficerowie mieli sekundy na zatwierdzenie celu. Pytam, w którym momencie liczba zamienia się w wyrok — i czy formalna obecność człowieka w tej procedurze to odpowiedzialność, czy alibi.Rozmawiamy o dronach przełączających się w "tryb terminatora" po dotarciu w rejon celu, bez człowieka w pętli decyzyjnej. O tym, że wojsko potrafi dziś z pomocą AI wygenerować w kilkanaście dni tyle celów, ile wcześniej dwadzieścia osób opracowywało przez rok. I o tym, co dzieje się z etyką, gdy w oficjalnych dokumentach staje się synonimem "biurokracji", którą trzeba wyeliminować.Na koniec pytanie, którego żaden etyk AI nie lubi: czy da się w ogóle zaprojektować "etyczną" sztuczną inteligencję — czy to tylko ładne słowo na "mniej szkodliwą"?Takie rozmowy nie były możliwe bez wsparcia Partnerów:Studio Miś - dom produkcji podcastów i wideo. Trzy niezależne studia, unikalne scenografie i pełen zaplecze produkcyjne. To miejsce w którym marka realizuje cały proces: od planu po efekt końcowy. Wszystko w jednym miejscu, w centrum Warszawy.
Ja w ogóle nie chcę, bo ja tam mówię, słuchajcie, zrobimy taki bocik, który coś tam, nie? Ja w ogóle nie używam. A te wsparcie bierze się stąd, że to jest, przepraszam, etyka, że oni... Nie, oni się, bo drążyłam temat, bo się boją. Partnerami audycji TECHNOFOBIA są Studio Miś, dom produkcji podcastów i wideo. Trzy niezależne studia, unikalne scenografie i pełne zaplecze produkcyjne. To miejsce, w którym Marka realizuje cały proces, od planu po efekt końcowy. Wszystko w jednym miejscu, w centrum Warszawy. Dzień dobry, witam bardzo serdecznie. Nazywam się Artur Kurasiński, a to jest podcast TECHNOFOBIA, w którym rozmawiam, wyjaśniam, nie sam, tylko z wspaniałymi gośćmi, gościniami, jak technologia zmienia świat, jak zmienia nasze życia.
No ale utrudniamy. No to wiesz, z punktu widzenia mojego jako odbiorcy, wasza rola i praca jest bardzo potrzebna, no bo jednak nadajecie... Tak, jesteś odbiorcą, ja nie przychodzę do ciebie i nie mówię, słuchaj, a jak ten model działa, a co on ma tutaj zaszytego, a dlaczego tak? Tym bardziej, że jest nas stosunkowo mało, jeżeli chodzi o etyków nowych technologii. No dobrze, to tak konkretyzując, ile osób jest w Polsce, tak jakbyś potrafiła Nie wiem, czy już są jakieś studia kierunkowe. Nie mówię o tym, że filozofia i etyka, tylko mówię o tym, że jest to filozofia i etyka, ale właśnie z takim spinem na kwestie technologiczne. Wiesz, to są różne podyplomówki, wiesz, w stylu AI w biznesie, etyka w biznesie, coś takiego, ale to są podyplomówki.
Neuronek, którego potrącił i jak przebiegała właśnie antropomorfizacja, myślenie modelu. I model jak nie wie, to sięga do części, która jest nazwana przez naukowców panika. Ojej, gadzi mózg. No właśnie. I co znaczy gadzi mózg u antropika? I po tej panice jest dam cokolwiek. Tu u człowieka jest tak, że dostaje zastrzyk adrenaliny i trochę też jest tak skołowany, w związku z tym najlepiej, żeby uciec od tego, ale on nie ma nóżek, więc musi cokolwiek produkować. Więc zobacz, do czego doszliśmy. Tworzymy narzędzia, którymi dość nieudolnie, przynajmniej według tych naukowców, to było z MIT oczywiście,
Tak, na pewno bardzo lubię AI i na pewno AI, uwaga, będzie patetycznie, odmieniło moje życie. Tak, bo jestem potrzebna. Zaprosiłeś mnie do studia tutaj. Jakby nie było AI-a, to dalej bym się zajmowała właśnie jakimś takim czymś... Paradoksem wologodnikowym. Na przykład tak. Chociaż już myślę, że habilitacja bym z czegoś innego pisała, ale w każdym razie tak. Więc na pewno odmieniło moje życie. Czy na lepsze? Na pewno na inne. I teraz miałam taki super, jak to mówią, zaszczyt mnie kopsnął, ale naprawdę. Miałam powiedzieć trzy do pięciu minut studentom absolutorium na koniec roku.
Pokazano wszystkie 4 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Gościnią jest Dota Szymborska, która porusza temat korzystania z AI w kociej behawiorystyce.
partnerami audycji TECHNOFOBIA są Studio Miś, dom produkcji podcastów i wideo
Rozmowa o problemach u kotów i możliwościach AI w ich rozwiązywaniu.
Przedstawienie filozoficznych problemów związanych z pojazdami autonomicznymi i ich implementacją w rzeczywistości.
Rozmowa o potrzebie etyków nowych technologii i ich roli w rozwiązywaniu problemów AI.
Analiza AI Act i jego wpływ na etykę AI oraz implementację w Polsce.
Dyskusja nad etycznym zastosowaniem sztucznej inteligencji i potrzebą regulacji.
Poruszanie tematów związanych z etyką AI i jej implementacją w firmach.
Rozmowa o roli etyków AI w biznesie i potrzebie odpowiedzialnego użycia tych narzędzi.
Poruszanie problemu zależności od modeli AI z innych krajów i zagrożenia to ono dla biznesu.
Analiza wpływu AI na procesy twórcze i refleksja nad etyką jego użycia.
Rozmowa o znaczeniu etyki AI w decydentów i ich odpowiedzialności przed narzędziami AI.
Dota Szymborska omawia negatywne doświadczenia z krytyką modelu AI oraz zagrożenia związane z pobłażliwością w relacjach z takim modelem.
Podkreśla potrzebę etyków w organizacjach, którzy oceniają i radzą co do wykorzystania modeli AI.
Opisuje proces projektowania etycznych modeli AI oraz problematykę kulturowej i społecznej interpretacji humoru.
Rozważa regulacje etyczne dla modeli AI oraz wizję kooperacji między ludźmi a takimi modelami.
Analizuje wprowadzenie AI do procesu edukacji wyższej, w tym egzaminy ustne i zmiany w ocenach.
Dota Szymborska omawia wprowadzenie sztucznej inteligencji do edukacji wyższej, notując niepokoje związane z automatyzacją i krytyczne myślenie.
Rozważania nad użyciem sztucznej inteligencji w militarce i wpływu na etykę wojenną, omówienie problemów związanych z autonomicznymi dronami.
Dota Szymborska omawia kwestie etyczne związane z AI i podkreśla znaczenie kontynuowania edukacji w tej dziedzinie.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
„partnerami audycji TECHNOFOBIA są Studio Miś, dom produkcji podcastów i wideo"
Moja dzisiejsza gościni to Dota Szymborska — doktora nauk humanistycznych w zakresie etyki, absolwentka filozofii (specjalizacja: logika) i socjologii na Uniwersytecie Warszawskim.
Akademiczka, wykładowczyni, prelegentka TEDx. Doktorat obroniła z etyki pojazdów autonomicznych. W pracy doradczej łączy Kanta, Arystotelesa, Rawlsa i Jonasa z twardymi case'ami biznesowymi — chatbotem Air Canada, narzędziami rekrutacyjnymi Amazona, audytami algorytmów w HR.
Współtworzy etyczną nakładkę na polski model Bielik, zasiada w GRAI przy Ministerstwie Cyfryzacji.Poza AI: triathlonistka i maratonka, kocia behawiorystka, wolontariuszka pracująca z uchodźcami.
Zawodowo bada relacje człowiek–maszyna, prywatnie ucieka w to, co najbardziej cielesne i niecyfrowe.Filozofka Kanta ze stanowiskiem "AI Ethics Lead".
Naukowczyni, która doradza biznesowi, jak wdrażać technologię, do której sama ma fundamentalną nieufność.Dr Dota Szymborska mówi, że z nieprzewidywalną sztuczną inteligencją poradzi sobie tak, jak poradziła sobie z nieprzewidywalnym kotem.
Wyobraża sobie "niebiałkowego kontrahenta", który nie wrzuci suszarki do wanny i wesprze, gdy będzie smutno. Pisała o partnerstwie z maszyną już w 2019 roku, kiedy patrzono na nią dziwnie.
A jednocześnie chce dla tej samej maszyny prawnej smyczy, kodeksów i "praw Asimova".
Pytamy więc wprost: czy przyjaciela reguluje się ustawą?W tym odcinku rozmawiamy o tym, gdzie kończy się doradztwo etyczne, a zaczyna etyczne alibi dla firmy, która chce mieć czyste sumienie w cenie faktury.
O tym, czy polska etyka AI (Bielik, GRAI, Ministerstwo Cyfryzacji) ma jakikolwiek realny wpływ, skoro najpotężniejsze modele świata powstają poza jakąkolwiek naszą jurysdykcją. O Acemoglu i pytaniu, czy regulacje realnie ograniczają Altmana, Bezosa i Muska, czy tylko formalizują ich przewagę.
Wracamy też do doktoratu mojej gościni o etyce pojazdów autonomicznych i sprawdzamy, czy słynne "kogo potrąci samochód" było w ogóle właściwym pytaniem.Potem robi się ciężej. Lavender — system przypisujący ludziom w strefie konfliktu punktację od 1 do 100 określającą prawdopodobieństwo, że są celem wojskowym. Wojsko twierdzi, że to "baza danych, a nie AI decydująca o zabijaniu".
Oficerowie mieli sekundy na zatwierdzenie celu. Pytam, w którym momencie liczba zamienia się w wyrok — i czy formalna obecność człowieka w tej procedurze to odpowiedzialność, czy alibi.Rozmawiamy o dronach przełączających się w "tryb terminatora" po dotarciu w rejon celu, bez człowieka w pętli decyzyjnej.
O tym, że wojsko potrafi dziś z pomocą AI wygenerować w kilkanaście dni tyle celów, ile wcześniej dwadzieścia osób opracowywało przez rok.
I o tym, co dzieje się z etyką, gdy w oficjalnych dokumentach staje się synonimem "biurokracji", którą trzeba wyeliminować.
Na koniec pytanie, którego żaden etyk AI nie lubi: czy da się w ogóle zaprojektować "etyczną" sztuczną inteligencję — czy to tylko ładne słowo na "mniej szkodliwą"?
Takie rozmowy nie były możliwe bez wsparcia Partnerów:Studio Miś - dom produkcji podcastów i wideo. Trzy niezależne studia, unikalne scenografie i pełen zaplecze produkcyjne. To miejsce w którym marka realizuje cały proces: od planu po efekt końcowy. Wszystko w jednym miejscu, w centrum Warszawy.