Mentionsy

Rewolucję AI.

I co o przyszłości użycia AI na wojnie mówi trwający właśnie spór firmy Anthropic z Pentagonem?

Nie ma w tej chwili żadnych regulacji dotyczących używania śmiercionośnej AI na wojnie.

O tym, jak wojsko może wykorzystywać technologię AI i jakie ograniczenia etyczne obowiązują, decydują dziś bardziej negocjacje między sekretarzem obrony a CEO danej firmy.

Czy AI może służyć także dobru albo pamięci?

AI może być tutaj przydatna, bo nie jest z żadnego obozu i nie jest związana bezpośrednio z wojną.

Czy AI może zabić człowieka?

Dzisiaj spokojnie, już gdzieś od tygodnia nas nawet nie bombardują, nie budzą po nocach, więc zastanawiamy się, czy całą uwagę Putina odwrócił Donald Trump i Izrael, atakując Iran, czy może Rosja się po prostu szykuje do jakiegoś potężnego kolejnego uderzenia w Ukrainę, bo zazwyczaj takie długie okresy ciszy kończą się kolejnym bombardowaniem w masowym kraju.

Piotr Kaszuwara, korespondent Telewizji Polskiej i Radia 357 w Ukrainie.

Czy w Ukrainie też się wypatruje wiosny jako takiego czynnika, który rozwiąże przynajmniej część problemów, na przykład problem z ogrzewaniem?

Teraz, tak jak zresztą powiedziałeś na początku, w cieniu wielkiego konfliktu na Bliskim Wschodzie, który, jak rozumiem, też ma przełożenie, czy będzie miał na to, co dzieje się w Ukrainie, niekoniecznie dobre.

Ale chciałem zacząć właśnie od Ukrainy, bo sztuczna inteligencja też zmienia wojnę w Ukrainie.

Niedawno ja też mam fundację, prawda, która pomaga Ukrainie od czterech lat, więc żołnierze na przykład teraz proszą o to, żeby kupić im starlinki, bo te starlinki mogą uratować życie.

Ukraina już ma tysiące różnego rodzaju dronów, które zapewniają logistykę, zapewniają właśnie ewakuację rannych.

Dziś nie dałoby się funkcjonować cały system Delta, ten słynny ukraiński system dowodzenia na froncie.

Teraz Ukraina doskonali te drony przechwytujące różnego rodzaju i one też posługują się sztuczną inteligencją.

No właśnie, o dronach czy szerzej bezzałogowcach też za chwilę będziemy rozmawiać, ale jeszcze słowo czy pytanie o generatywną AI, o te modele językowe.

Ja zastanawiam się, jak to jest na Ukrainie w takiej codzienności, bo ja pamiętam, że na początku popularności chociażby czata GPT doszło do takiej kuriozalnej sytuacji, którą przekazywały media, że w Ukrainie nie był on dostępny, bo Ukraina znalazła się na takiej liście sankcyjnej, można by rzec, tak jak Rosja czy Iran.

I okazało się, że on przerobił wojnę Rosji z Ukrainą na wojnę Ukrainy z Rosją.

Mieliśmy takie przypadki, że generowane były całe filmy wypowiedzi żołnierzy, na przykład ukraińskich.

Pamiętam początki tego konfliktu między Izraelem a Palestyną, który rozgorzał i wtedy bardzo dużo takich zdjęć właśnie, bo wtedy chyba to AI zaczęło wchodzić w nasze życie bardzo mocno, przynajmniej ja odnotowałem to jako ten moment.

To jest narzędzie AI, ale bardzo dużo ludzi wtedy jeszcze nie zdawało sobie sprawy z tego, że coś takiego jak AI istnieje i może produkować tego typu obrazy.

Piotr Kaszuwara, korespondent Telewizji Polskiej i Radia 357 w Ukrainie, a także prezes Fundacji Przyszłość dla Ukrainy UA Future, bo o tym także wspomniałeś.

Tomasz Darmoliński, ekspert w zakresie technologii dronowych i zastosowań AI w wojsku, prezes Fundacji Żelazny.

Tomasz jest w Ukrainie już od długiego czasu.

Wojna w Ukrainie, bo od niej chcę zacząć, jest często nazywana pierwszym konfliktem na taką skalę, w którym technologia odegrała czy odgrywa kluczową rolę.

2022 rok, kiedy pełnoskalowa agresja Federacji Rosyjskiej na Ukrainę się rozpoczęła.

Trochę zainspirowała się też działaniami państwa islamskiego, które zaczęło z popularnych dronów chińskiego producenta zrzucać granaty na siły walczące z państwem islamskim.

Nie wiem, dlaczego zacząłem mówić o tej wodnej, bo chciałem o niej powiedzieć, że tutaj zwróćmy uwagę na to, że marynarka ukraińska praktycznie nie istnieje, a była w stanie zapędzić do portów flotę czarnomorską, więc to jest tego typu obszar.

A na jakiej zasadzie tak dla laika, tłumacząc laikowi, to działa?

To jest, jak rozumiem, to jedno konkretne zastosowanie sztucznej inteligencji, które widzimy też w Ukrainie, podczas wojny w Ukrainie, ale są jeszcze jakieś inne?

linku zwrotnego, czyli zainstalowany na nich model,

Kiedy to dron rosyjski leciał, był obraz z tego drona, miał jakiś cel, nie wiemy do końca jaki to był cel, ale on leciał po prostu prosto i nagle zauważył gdzieś na ulicy żołnierza ukraińskiego, gdzieś zabłąkanego, który próbował uciec, bo też prawdopodobnie zauważył tego drona i nagle ten dron zmienił

Ty wspomniałeś, że AI może też zmienić sposób dowodzenia, czy wspomagać proces dowodzenia i planowania operacji wojskowych.

A czy AI może zdecydować kogo zabić?

Rozmawiamy o wojnie w Ukrainie, ale oczywiście wykorzystanie AI to nie jest tylko wojna w Ukrainie i to nie są tylko tego typu zastosowania, bo konflikt między Iranem a Izraelem to właściwie był taki pierwszy przypadek, przynajmniej media tak to określiły, w którym AI została wykorzystana na tak masową skalę do tworzenia dezinformacji wizualnej, dezinformacji wizualnej obrazów konfliktu zbrojnego,

Zarówno strony wspierające Iran, jak i Izrael publikowały wygenerowane przez AI obrazy, filmy, które po prostu trudno było odróżnić od rzeczywistości, szczególnie laikom trudno było odróżnić.

Jak AI zmienia propagandę wojenną?

Tak, należą do czołówki, natomiast mają ograniczenia, bo już przeniesione te rozwiązania na przykład na konflikt w Ukraińskich spowodowały, że nie sprawdziły się do końca te rozwiązania i trzeba było je po prostu edukować, nazwijmy to dalej.

Praktycznie codziennie dokonywane są ataki za pomocą bezzałogowców na teren Ukrainy.

Tak, bo on jest tańszy, rakiety są drogie, mimo tego, że się stosuje w falach ataków, natomiast głównie razi się cele w Ukrainie właśnie dronami.

Zbudował właśnie tę falę propagandy, zbudowaną poprzez AI.

To znaczy strona ukraińska pokazywała, jak to wyglądało naprawdę.

Na bazie zdjęć udostępnionych przez stronę ukraińską w prasie, żeby uspokoić część społeczeństwa po ataku czy mieszkańców miasta Odessa.

Czyli jak rozumiem możemy przyjąć, że Rosja i Ukraina wykorzystują AI w tej wojnie informacyjnej na dużą skalę.

Jeżeli ty znasz się na tym temacie bardzo dobrze, to czy jesteś w stanie wysnuć taki wniosek, komu ta technologia służy bardziej, czy Rosji, czy Ukrainie, czy nie wiem, możemy to odnieść także do innych wojen na świecie, czy to jest tak, że to daje dużą przewagę jednej stronie tylko i wyłącznie, czy jest to już na takim etapie, że właściwie obie strony korzystają z tego równolegle?

Federacja Rosyjska wyprzedziła w niektórych obszarach stronę ukraińską, zyskała nowe zdolności, których do tej pory nie posiadała Armia Federacji Rosyjskiej, a o których nasza armia może obecnie

Ale Ukraina i Rosja walczy z szóstym poziomem technologii.

Ukraina czy Rosja?

To pewnie się zmieni, bo to nie jest tak, że strona ukraińska nic nie robi.

Tylko w tej chwili mamy... Ja w każdym wywiadzie mówię o takim przykładzie pociągu szybkich prędkości obecnie, jeśli chodzi o konflikt zbrojny, gdzie maszynistami są na zmianę strona ukraińska i strona rosyjska.

Próbowałeś powiedzieć, też słuchając twojej wcześniejszej odpowiedzi, gdy mówiłeś o technologii, o technologiach stosowanych przez Rosję, którymi też się zajmujesz i po tym, co powiedziałeś teraz, czy próbowałeś powiedzieć, że Polska i Europa nie są gotowe na konflikt, w którym AI i drony odgrywają główną rolę?

No ale na dzień dzisiejszy obudziliśmy się na tyle, że próbujemy do armii zaimplikować technologie, które powstały dwa lata temu, udając, że one są supernowoczesne.

Czy istnieje ryzyko, że rozwój AI w tej branży pogłębi przepaść technologiczną między mocarstwami a mniejszymi krajami?

Tutaj rozwój AI pogłębiać będzie tylko i wyłącznie kwestie związane z przepaścią technologiczną.

No i tutaj też jest niebezpieczeństwo z naszej strony, że myśmy mieli różnego rodzaju programy na AI w Polsce i nic się z nimi nie stało, nie rozwijamy.

To pokazał konflikt w Ukrainie.

A czy AI w tej dziedzinie może przysporzyć się czemuś dobremu?

Oczywiście wojna nie jest czymś dobrym per se, więc być może to pytanie nie powinno być w ogóle zadane, ale chodzi mi o to, czy AI może na przykład ograniczyć liczbę ofiar dzięki większej precyzji i automatyzacji działań?

Raczej niestety w tą drugą stronę, czyli eskalacja, zwiększenie ryzyka, ale musimy też pamiętać o tym, że AI to nie jest samo zło, bo tak trochę prowadziliśmy naszą rozmowę do tego, że AI to samo zło.

Natomiast AI to nie jest samo zło.

AI z udziałem oczywiście bezzałogowców, które są bojowe, to jest samo zło i tutaj musimy o tym jasno powiedzieć.

Natomiast AI musimy też pamiętać o tym, że to jest też dobra strona.

A czy AI może uratować kogoś na wojnie?

Tomasz Darmoliński mówi o militaryzacji AI i o tym, że sztuczna inteligencja już zmienia oblicze wojny.

W ostatnich tygodniach szczególnym echem odbiła się sprawa sporu między firmą Anthropic, czyli amerykańskim przedsiębiorstwem AI stojącym za modelem Claude i Departamentem Obrony USA.

Anthropic od 2024 roku współpracował z Pentagonem i służbami wywiadowczymi USA, dostarczając modele AI do zastosowań w analizie danych, w planowaniu operacji, cyberbezpieczeństwie i innych zadaniach związanych z bezpieczeństwem narodowym.

Jednak ostatnio Pentagon zażądał, by Anthropic zgodził się na nieograniczone wykorzystanie swojej AI dla, tu cytat, wszystkich zgodnych z prawem celów, włączając w to potencjalne użycie do masowej inwigilacji wewnętrznej obywateli czy autonomicznych systemów broni, które mogą działać bez udziału człowieka.

Dlatego odrzucamy dwa zastosowania AI, choć akceptujemy niemal wszystkie pozostałe propozycje.

Dzięki AI rząd mógłby analizować na ogromną skalę dane kupowane od prywatnych firm.

Dziś rozwój AI wyprzedza regulacje.

Każdy, kto pracował z modelami AI wie, że istnieje w nich element nieprzewidywalności, którego technicznie nie udało się dotąd rozwiązać.

Stany Zjednoczone w reakcji na sprzeciw firmy Anthropic decyzją prezydenta USA Donalda Trumpa ogłosiły wycofanie technologii AI firmy Anthropic z agencji federalnych, a sekretarz obrony USA Pete Hexett stwierdził, że firma stanowi zagrożenie dla łańcucha dostaw w zakresie bezpieczeństwa narodowego.

Nie powinniśmy być naiwni co do intencji CEO, ale nie powinniśmy być też cyniczni.

Ludzie z Anthropic odeszli z OpenAI, by założyć własną firmę, bo wydają się nieco bardziej idealistyczni.

W jakim stopniu rząd znacjonalizuje przemysł AI?

Jakie powinny być relacje między rządem a firmami AI?

Prof. Rosenstein podkreśla, że problem wynika właśnie w dużej mierze z braku wyraźnych ustalonych zasad dotyczących użycia AI do celów militarnych.

To oznacza, że o tym, jak wojsko może wykorzystywać technologię AI i jakie ograniczenia etyczne obowiązują, decydują dziś bardziej negocjacje między sekretarzem obrony a CEO firmy technologicznej niż prawo uchwalone przez Kongres.

Klaudia Klonowska mówi o tym, do czego w ogóle AI jest wykorzystywana w tym momencie, jeśli chodzi o cele wojskowe.

Te prawo międzynarodowe rozumieć w kontekście AI.

AI Act, o którym wiele rozmawiamy właśnie w kontekście sztucznej inteligencji, jest oczywiście bardzo ważną regulacją w naszym kontekście europejskim.

Tymczasem w miejsce Anthropic już weszła firma OpenAI, a jej prezes Sam Altman twierdzi, że podpisano umowę z Pentagonem nie przekraczając żadnych czerwonych linii i że modele nie będą wykorzystywane do masowej inwigilacji.

Tak czy inaczej należy pamiętać, że władze mają do tego prawo w określonych przypadkach służących bezpieczeństwu państwa, więc słowa Altmana mają raczej służyć ociepleniu wizerunku po tym, jak sieć zalała fala negatywnych komentarzy o bezduszności i cynizmie OpenAI w kontekście kontraktu z Wojskiem USA.

Warto też dodać, że coraz więcej krajów korzysta z systemów AI w wojsku.

AI używana jest nie tylko, żeby wojnę wygrać, ale także, żeby o wojnie pamiętać.

okresie la violencia, który wybuchł po zabójstwie liberalnego lidera Jorge Gaitana.

Wojna objęła głównie obszary wiejskie i przez dekady była podtrzymywana przez słabą obecność państwa oraz handel kokainą.

Nad tym narzędziem opartym na AI pracuje profesor Luis Gabriel Moreno Sandoval z Wydziału Inżynierii Pontificia Universitat Javeriana.

Zainspirowała mnie potrzeba stworzenia narzędzia dedykowanego właśnie temu tematowi.

Można wykorzystać AI do stworzenia nowych narzędzi, aby ułatwić tym osobom interakcję z takimi informacjami.

Model AI może zrozumieć słowo pokój i słowo całkowity osobno, ale nie rozumieć głębokiego sensu całego konceptu.

Ja jestem bardzo zainteresowana taką wiedzą, szczególnie w Kolumbii.

Dziś dużo mówimy o tym, jak sztuczna inteligencja wpływa na wojnę i jak już zmienia oblicze konfliktów zbrojnych, ale oblicze wojny zmienia nie tylko sama technologia, ale także dezinformacja, która towarzyszy każdej wojnie i która z uwagi na AI przybiera na sile.

I tu niestety wchodzi OpenAI całe na... Cóż, na pewno nie na biało.

W kilka godzin po tym, jak korzystanie z kloda zostało zakazane, dyrektor generalny OpenAI sam Altman ogłosił umowę z Pentagonem na wdrożenie swoich modeli w tajnych sieciach wojskowych.

Pojawił się społeczny ruch QuickGPT, który już wcześniej zyskiwał na popularności po ujawnieniu, że współzałożyciel OpenAI Greg Brockman przekazał 25 milionów dolarów na komitet wyborczy Trumpa.

Zaplanowano protest pod siedzibą OpenAI w San Francisco.

O tym, jak AI wpływa na życie nas wszystkich, a nie tylko na słupki giełdowe czy samopoczucie wielkich przedsiębiorców.

Przypominam, że w sprawach związanych z podcastem można pisać na raportrosiaka.gmail.com.