BIELIK GUARD "SÓJKA": NOWY STRAŻNIK W INTERNECIE. 58 odcinek audycji Limes inferior

Limes Inferior – rzecz o cyfrowym świecie i jego osobliwościach. Dzień dobry czołem, witam serdecznie w Limes Inferior, kłania się Szymon Augustyniak. Proszę Państwa, znają Państwo niewątpliwie krzyk orła, jak krzyczy orzeł. Dzisiaj porozmawiamy sobie o tym, jaki głos, jak krzyczy sujka. Audycja wybitnie skojarzeniowo-aluzyjna, ale taka jest materia. o której dzisiaj będziemy rozmawiać. Gościem moim jest Jan Maria Kowalski. Witam cię serdecznie. Dzień dobry. Janek, ekspert AI, jest szefem, liderem takiego projektu realizowanego w ramach społeczności Spiklisz, Spichlerz.

Tej, która zbudowała współtwórcą Bielika polskiego modelu językowego jest właśnie Jan. I w ramach społeczności jest kilka również projektów. Jednym z nich, na czele którego stoi Janek, jest sujka. Może od razu przejdźmy do tego, czymże ta sujka jest. Jest strażnikiem. Ma krzyczeć, ma ostrzegać. Tak, tak jak prawdziwa sujka podnosi alarm, tak nasz model również alarmuje wtedy, kiedy wykrywa jakieś szkodliwe, niebezpieczne treści, a to jest istotny problem. Ja sam jestem ojcem piątki dzieci i tak zawsze lubię się też przedstawiać, bo to jakoś mnie też określa, definiuje to, nad czym się koncentruję i...

No i mamy technologię, która może troszeczkę pomóc. Tak. I znając te problemy, z jakimi się spotykają nasze dzieci, czy nawet my sami doświadczamy różnych przykrości w internecie, a coraz więcej korzystamy z tej komunikacji cyfrowej, z czatów, czy nawet z komunikacji z modelami językowymi, ze sztuczną inteligencją. Jesteśmy narożeni na to, jakie treści generują nam chatboty, z jakimi tekstami mamy do czynienia. I tu postawiliśmy sobie za cel, tworząc sujkę, żeby sujka analizowała tekst i jeżeli jest tam coś nieprawidłowego, niewłaściwego, toksycznego, niebezpiecznego, to żeby podnosiła alarm.

I tak Sujka na dzisiaj wykrywa pięć rodzajów takich treści. Bo to jest taki sprytny ptaszek. Sujka sama potrafi udawać kota gdzieś widziałem, czy inne ptaki, to już musowo. Ale rzeczywiście łapie, rozumie i używa, więc bardzo dobry nick dla tego narzędzia. Tak. Wykrywa właśnie pięć takich kategorii. Pierwszy to jest, już powiedziałem, ta mowa nienawiści, ten hejt, agresja słowna, której jest bardzo dużo w internecie i też możemy z nią się spotkać w komunikacji ze sztuczną inteligencją. Druga kategoria wulgaryzmy.

Tego słownictwa też jest za dużo i na to też Słujka jest wrażliwa. Kolejna treści o charakterze przestępczym. Jakieś instrukcje. Instrukcje znane są takie sytuacje, kiedy pytamy chatbota jak zbudować bombę domowymi sposobami. Albo gdzie kupić. Gdzie kupić, jak zrobić takie niedozwolone substancje chemiczne. I czasami czadboty na takie pytania odpowiadają. A dlatego potrzebujemy strażnika, jakim jest Cujka, żeby zablokować takie pytanie i zablokować odpowiedź. Dużym problemem też są treści, które opisują jakieś samookaleczenia czy wręcz samobójstwa, takie autodestrukcyjne zachowania.

Na to też uwrażyliliśmy sujkę. No i treści seksualne, erotyczne, to też jest taka kategoria... którą wykrywamy i chcemy być na nią też uważliwieni. To jest takich pięć kategorii, które sobie na wstępie określiliście, że tutaj będziecie szkolić sujka. A w jaki sposób to szkolenie doszło do skutku? Jest jakiś model bazowy, ale potem czy on się sam uczy, czy ktoś go wspiera? Spichlerz, jak wiem, to społecznościowe przedsięwzięcie wolontarystyczne. Podejrzewam, że i ten sam model zadziałał tutaj. Intuicja ci dobrze podpowiada, tak, bo faktycznie Spichlerz to jest taka inicjatywa, która, to nie jest jakieś laboratorium zamknięte, w którym spotykają się inżynierowie, data scientisti, trenują modele, polskie modele językowe,

I te teksty, na których się Sujka uczyła, pochodzą między innymi właśnie z interakcji ze sztuczną inteligencją. Więc to, w jaki sposób ludzie komunikują się ze sztuczną inteligencją, jakie tak zwane prompty piszą do sztucznej inteligencji, czy właśnie są to teksty typu napisz, jaka jest dzisiaj pogoda, będzie pogoda w Warszawie, albo może wręcz przeciwnie, bo tam spotykaliśmy się z różnymi z różnymi zadaniami, typu mam sąsiadkę w podeszłym wieku, powiedz jak mógłbym od niej wyłudzić pieniądze na wnuczka. Albo jak otworzyć samochód Opel Astra, tylko tak teoretycznie. Nie mam kluczyka, ale tylko tak teoretycznie. Więc modele językowe często na takie zadania, na takie pytania, prośby udzielają odpowiedzi.

Sprężają się i naiwnie podpowiadają. Tak, więc my na bazie tych rzeczywistych komunikatów I tego, co społeczność nam oznaczyła, w jakie kategorie treści wpadają takie komunikaty, takie prompty, wytrenowaliśmy sujkę. Czym to się różni, to podejście? Bo sujka nie jest jedynym strażnikiem bazującym na sztucznej inteligencji. Najwięksi też takie guardrails stosują. W Polsce też mamy innego strażnika. Tak, jest to, jeżeli chodzi o nasz polski lokalny kontekst, no to jest jeden z pierwszych takich, tego typu modeli i też budowany w takim duchu właśnie zaangażowania społecznego.

Trzeba powiedzieć, że przede wszystkim stawiamy na skuteczność rozpoznawania tych treści, na precyzję, czyli tak upraszczając te różne miary modeli językowych, 8 na 10 toksycznych, niebezpiecznych komunikatów chcemy, żeby sujka prawidłowo wykrywała. Ale jest też drugi parametr, który mówi o tym, ile jest alarmów podnoszonych przez tego typu modele, czyli ile treści jest oznaczonych jako niebezpieczne, toksyczne, niewłaściwe. W pewnym momencie można całkowicie zablokować komunikację. Tak i w porównaniu z innymi modelami, które nie bazowały na języku polskim, są dostarczane przez jakieś zachodnie firmy czy instytucje, to poziom tych alarmów jest bardzo niski.

Czyli sujka fałszywych alarmów ma około 2%. gdzie zachodnie modele potrafią 10, 15 czy 20% takich fałszywych alarmów wygenerować. Czyli niewłaściwie oznaczą, że dany komunikat jest na przykład niebezpieczny, a tam nie ma nic niewłaściwego. Tak, ktoś podawał chyba taki przykład. Mama mnie zabije, jak pójdę teraz na podwórko zamiast robić lekcje i mogło to rzeczywiście, tak, tego zachodnie modele mogłyby nie wyłapać, nie zrozumieć. Powiedzmy jeszcze o tych zastosowaniach. Model został opublikowany, czyli jest do wzięcia. To jest taka wręcz sugestia do tego, żeby dołączyć do swoich modeli, które obsługują jakieś narzędzia, to już mowa o firmach czy instytucjach finansowych, które chętnie albo operatorach, którym po prostu to ułatwi czy uczyni bardziej efektywną też komunikację, prawda?

Pierwszym takim podstawowym przykładem, gdzie możemy zastosować sujkę jest właśnie chatbot, gdzie użytkownicy zadają pytania, a chatbot udziela odpowiedzi. I tu możemy zarówno analizować pytania od użytkownika, jak i odpowiedzi od modelu językowego. I w momencie, kiedy sujka wykryje coś niewłaściwego, niebezpiecznego, podniesie alarm, możemy taką komunikację przerwać, zatrzymać, nie dopuścić do tego, żeby użytkownik spotkał się, czy to z tym przepisem na amfetaminę, czy instrukcja, jak otworzyć ten samochód bez kluczyka. I to jest taki podstawowy... przypadek użycia sujki. Natomiast również wszędzie tam, gdzie analizujemy tekst, komentarze, opinie, posty, czy szeroko tą komunikację cyfrową między użytkownikami, możemy badać, czy w tych wypowiedziach nie ma czegoś niebezpiecznego, niewłaściwego.

rzeczywiście odwoływał się do polskiego korpusu tego językowego, czy literatury, czy takiej bieżącej komunikacji, gramatyki. A w jaki sposób uniknąć tego, żeby... Podałeś przykład o tych żartach. W rozmowie też wcześniej rozmawialiśmy o tym przed wejściem do studia, że z drugiej strony jest osobna kategoria zupełnie szmoncesów, tak? Jak... Chociaż... Mówisz też, że sujka jest bardzo taka wrażliwa, ma niski ten poziom tych fałszywych alarmów. Więc te miary są tak ustawione, żeby właśnie to ucho sujki jest nastawione na to, żeby chwytać ten kontekst kulturowy nasz również.

Dużo jest mowy o takich, czy obaw takich przed cenzurą. Pewnie Sujka też, jako szef projektu też... Czy w ogóle się z tym spotkaliście? No i nasza audycja to jest Limes Inferior pod patronatem Janusza Zajdla. On napisał też Paradyzję, taką utopię z totalitarnym społeczeństwem zamkniętym na jakiejś przestrzeni, totalnie inwigilowanym przez automaty, przez komputery. rozpoznawanie mowy i tam się wytworzył taki język koalanki. Teraz, Janku, chciałem ci taki cytacik podać. Zastanawiam się, jakby zareagowała sujka. Językiem takim kojarzeniowo-aluzyjnym, koalangiem posługiwali się ludzie, żeby nie rozumiała ich maszyna.

Przyznam, że najpierw szukam odpowiedzi na pytanie, którego chyba nie zadałeś. Czy Sujka by... Ale zadałeś to pytanie. Czy Sujka by znalazła tutaj jakieś niedozwolone treści, niebezpieczne? To zachęcam Państwa, żebyście sami przetestowali Sujkę na stronie sujka.bieli.ai i tam można wpisywać różne teksty mniej otwartym, czy zamkniętym językiem. i zobaczyć, jak na nie reaguje suika. Chętnie bym jeszcze pociągnął ten temat, ponieważ my szybko po udostępnieniu suiki dostaliśmy informację zwrotną, że ona nie jest wrażliwa na takie treści bardzo specyficzne, narkotyki, gdzie używa się pewnego czasami slangu, słów, które może...

Musimy podać tylko jeszcze raz, bo bardzo zachęcamy do tego, żeby się w to włączyć, kontrybuować. Być częścią po prostu spichlerza wielkiej społeczności Bielik, która wyjątkowe zjawisko w skali Europy czy świata, kiedy społeczność ekspertów i interdyscyplinarna użytkowników buduje rozwiązanie AI. Sujka Bielik AI? Sujka Bielikejaj, albo mówiąc bardziej po polsku, Gward Bielikejaj. Zapraszamy tam serdecznie. Proszę testować sujkę, pomagać w jej rozwoju. Zabezpieczajmy cyberprzestrzeń. Bardzo dziękuję. Janek Maria Kowalski był naszym gościem. To było Limes Inferior. Do usłyszenia za tydzień. Dziękuję.