70# Przeprosiny Zuckerberga, manipulacje napędzane AI i technologiczna nowość [TECHSTORIE LIGHT]

W sensie, że pracują, pracują, ciągle nad tym dyskutują, a końca nie widać. Więc rzeczywiście łatwiej jest być może, wiesz, wezwać pięciu prezesów i zgromić i... zebrać czołówki w mediach i pójść dalej. Trudniej jest zrobić coś, czego Amerykanie nieszczególnie lubią, czyli regulować. Ale to nie jedyna firma, która zaliczyła kaca w Stanach Zjednoczonych w ostatnich dniach. Tak, o drugiej firmie już Państwu opowiadałyśmy. Nie to, co o mecie. Jest to oczywiście pierwszy polsko-amerykański jednorożec świata AI, czyli Eleven Labs. No bo dopiero co jego wycena przekroczyła miliard dolarów, A startup właściwie nawet nie miał dużo czasu na to, żeby się tym nacieszyć, bo szybko musiał się nauczyć, jak można się gorąco tłumaczyć przed mediami i przed regulatorami i przed amerykańskimi urzędnikami.

Znaczy on się przed modiami w ogóle nie tłumaczył, co jest ciekawe, po prostu odmawiał komentarza. ale myślę, że przed urzędnikami coś tam musiał jednak się naprzepraszać po cichu. To może przypomnijmy, tak? Eleven Labs jest to firma założona przez Matiego Staniszewskiego i Piotra Dąbkowskiego. Więcej mówiłyśmy o niej w drugim odcinku serii Dzisiaj w Polsce i bardzo go polecamy. I w ogóle ta firma jest naprawdę ciekawym podmiotem, jeżeli chodzi o rozwój AI. bo pracuje nad AI głosowym, czyli opracowuje mechanizmy do zmiany tekstu na głos i jednego głosu na inny. I to, co jest jej z jednej strony naprawdę dużym sukcesem, czyli naprawdę coraz bardziej doskonałe mechanizmy generowania sztucznych głosów, to równocześnie pozwoliło także tworzyć furtkę do potężnych problemów, wyzwań, ale przede wszystkim problemów. Tak. Przecmak właśnie takich problemów i tego, jak one mogą eskalować, mieliśmy właśnie w stanie New Hampshire, gdzie wybuchł skandal przedwyborczy.

Stanowy Departament Sprawiedliwości zaczął przed tymi nagraniami ostrzegać i rozpoczął śledztwo, jak doszło do ich stworzenia. Okazało się, że w tym całym oszukańczym łańcuszku obok firm, które stworzyły nagranie i wypuściły te robokole, kluczowy jest właśnie Eleven Labs, bo to prawdopodobnie ich technologia posłużyła do wyprodukowania tego fałszywego głosu prezydenta Stanów Zjednoczonych. Do takich wniosków doszła firma zajmująca się wykrywaniem oszustw głosowych, Pindrop Security, a polsko-amerykański startup temu nie zaprzeczył. Bloomberg następnie informował, że Eleven Labs szybko zawiesił konto twórcy tego fałszywego nagrania i jednocześnie firma nie chciała się w żaden sposób oficjalnie tłumaczyć z tej sytuacji, ale na ich stronie można przeczytać, że głosowe deepfake'i polityków mogą być używane tylko w niektórych przypadkach, na przykład w karykaturze, parodii lub satyrze.

No tylko, że tym razem w Stanach Zjednoczonych raczej nikomu nie było do śmiechu, szczególnie, że... Wszystko to działo się u progu kolejnych bardzo emocjonalnych wyborów prezydenckich, które będą ważne właściwie dla całego świata. Ostatecznie prokurator John Formella stwierdził, że z oszustwem tym powiązanym są firmy Lingo Telecom i Life Corporation. To są takie firmy, powiedzmy, że działające na rynku telekomunikacyjnym. One zostały wezwane do natychmiastowego zaprzestania tej praktyki. Co ciekawe, pochodzą z Teksasu te firmy, więc tam też jakiś taki ważny trop to był dla śledczych amerykańskich. Prokurator nie potwierdził za to, że ta głosowa AI użyta do oszustwa faktycznie pochodziła od Eleven Labs. No ale właśnie te sygnały pod tytułem blokowanie kont... No to tak, że tak powiem, dosyć mocno wskazuje na te korzenie.

Skuteczność jest taka sobie, bo te firmy co chwilę znajdują po prostu sposoby na obchodzenie kolejnych list i tak dalej. Tu jednak jest o tyle ważne, że jednoznacznie stwierdzono, wskazano właśnie na ten kierunek generatywnej sztucznej inteligencji jako mechanizm stworzenia robokolii. Więc no widać, że Amerykanie się już też po prostu szykują na problemy, które są z tym związane. Tak, na pewno. I stawiam gruszki przeciwko orzechom, że w tym kontekście jeszcze o Eleven Labs usłyszymy. No, na pewno. Tak czy inaczej, to jest dopiero pierwszy, czy też jedne z pierwszych oszustw, półpraw i dezinformacji związanych z wyborami prezydenckimi w Stanach. I już widać, że dzięki AI przyszłość może być naprawdę skomplikowana i to jest niedoszacowanie.