#317 Czy możemy ufać sztucznej inteligencji? | prof. Przemysław Biecek
Dlaczego modele językowe zmyślają zamiast „przyznać”, że nie dotarły do jakiejś informacji? – Celem takiego „czata” jest uzyskanie jak największej oceny od użytkownika. Użytkownik lubi porozmawiać sobie, lubi mieć wrażenie, że jest zaopiekowany, więc gdyby usłyszał odpowiedź „nie wiem”, to pewnie nie byłby zadowolony. Sposób treningu powoduje, że jest presja, by te modele zawsze wiedziały, zawsze coś mówiły – wyjaśnia prof. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji na Politechnice Warszawskiej.💛 https://patronite.pl/radionaukowe💸 https://suppi.pl/radionaukowe📖 https://wydawnictworn.pl/W odcinku rozmawiamy o tym, na ile zjawisko „halucynowania” jest wpisane w naturę tych modeli i czy są metody, aby uzyskiwać odpowiedzi, na których można polegać. – Samo słowo „halucynacja” myślę, że wybiela rzeczywistość – ocenia prof. Biecek. Sugeruje, że to stan tymczasowy, chwilowe zaćmienie. Co ciekawe, z danych wynika, że czasem pomaga rozbudowanie prompta. – Część osób pokazywała, że dodawanie losowych sekwencji tokenów po swoim pytaniu zwiększa skuteczność. Czyli możemy napisać pytanie, a później dodać 200 losowych innych słów i to może zwiększyć skuteczność odpowiedzi – mówi naukowiec.Tu trafiamy jednak na kolejny problem: aktualne modele są potwornie zasobożerne. – Kolejną rewolucją być może będzie dekompozycja modeli, żeby one były mniejsze, lżejsze, mniej energetycznie wymagające. Nie mamy tej technologii. Ale jak ona będzie, to wydaje mi się, że się otworzy jeszcze znowu jakaś przestrzeń na nowe rozwiązania – opowiada prof. Biecek. Jak mówi, wzrasta zainteresowanie modelami wieloagentowymi.W odcinku usłyszycie, komu wyspecjalizowana AI mogłaby znacząco pomóc w pracy i rozwijaniu wiedzy (na przykład lekarzom i badaczom kosmosu), czy możemy ufać modelowi, który informuje nas, w jaki sposób doszedł do podanego nam wniosku (spoiler: etapy wnioskowania też mogą być wymyślane), o tym, że same modele powinni być obiektem badań naukowców oraz dlaczego, zdaniem naszego gościa, szkodliwe jest postrzeganie AI jako czegoś więcej niż narzędzia. – Wierzę w metodę naukową i nawet jeżeli coś wygląda na magiczne, to fantastycznie jest rozłożyć to na części pierwsze i zobaczyć dokładnie, jakie elementy tej funkcji wpływają na konkretny wynik – podsumowuje prof. Biecek.Obiecany link do zestawienia „Epic fAIls - największa wpadka systemu AI w roku 2025” https://docs.google.com/forms/d/e/1FAIpQLSdqZ3Otl3XQdeq-mZBKvCh8_OAwzbywgBasRl_SKXDzS4MDLQ/viewform?pli=1 PS. Nie odnosimy się do awantury wokół OpenAI I problemu Naviera-Stokesa, bo informacje pojawiły się już po naszym nagraniu.
Profesor Przemysław Biecek omawia koncepcję wiarygodności AI i jego role w Centrum Wiarygodnej Sztucznej Inteligencji.
Profesor Biecek omawia koncepcję wiarygodności AI i różnice między rzetelnością a wiarygodnością.
Profesor Biecek omawia potencjalne korzyści i ryzyka związane z nowym czatem GPT-6 Astra.
Profesor Biecek omawia zastosowania AI w medycynie i telemedycynie, a także problem zaufania użytkowników.
Profesor Biecek omawia architekturę modeli AI, w tym interfejsy językowe i ich rolę w komunikacji z użytkownikami.
Profesor Biecek omawia mechanizm atencji w modelach AI i konstrukcje modeli, takie jak roj agentów.
Profesor Biecek omawia zjawisko halucynacji i pierniczenia w modelach AI, a także metody ich oceny i redukcji.
Rozmowa skupia się na możliwościach i ograniczeniach wyjaśnialności i sterowalności modeli AI, szczególnie w kontekście halucynacji i pierniczenia. Autor podkreśla, że niektóre modele mogą być kontrolowane poprzez dodawanie master promptów, ale zauważa, że firma może zawsze zdecydować, aby model był pochlebny.
Rozmowa o zastosowaniach AI w tłumaczeniach, przykładzie DeepL i wyzwaniami związane z odpowiedzialnością za decyzje
Diskussja na temat szybko zmieniającego się rynku AI i trudności w ustaleniu, gdzie można zaufać modelom
Przedstawienie roli ludzkiego elementu w systemie AI i potrzeby stworzenia narzędzi do zabezpieczenia modeli
Opis działań Centrum Wiarygodnej Sztucznej Inteligencji, w tym konkursów i inicjatyw, oraz celu stworzenia narzędzi do zabezpieczenia modeli AI
Podsumowanie rozmowy i rozmowa na temat etycznych kwestii związanej z AI, w tym świadomości modeli i odpowiedzialności
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
💛 https://patronite.pl/radionaukowe
💸 https://suppi.pl/radionaukowe
📖 https://wydawnictworn.pl/
W odcinku rozmawiamy o tym, na ile zjawisko „halucynowania” jest wpisane w naturę tych modeli i czy są metody, aby uzyskiwać odpowiedzi, na których można polegać. – Samo słowo „halucynacja” myślę, że wybiela rzeczywistość – ocenia prof. Biecek. Sugeruje, że to stan tymczasowy, chwilowe zaćmienie. Co ciekawe, z danych wynika, że czasem pomaga rozbudowanie prompta. – Część osób pokazywała, że dodawanie losowych sekwencji tokenów po swoim pytaniu zwiększa skuteczność. Czyli możemy napisać pytanie, a później dodać 200 losowych innych słów i to może zwiększyć skuteczność odpowiedzi – mówi naukowiec.
Tu trafiamy jednak na kolejny problem: aktualne modele są potwornie zasobożerne. – Kolejną rewolucją być może będzie dekompozycja modeli, żeby one były mniejsze, lżejsze, mniej energetycznie wymagające. Nie mamy tej technologii. Ale jak ona będzie, to wydaje mi się, że się otworzy jeszcze znowu jakaś przestrzeń na nowe rozwiązania – opowiada prof. Biecek. Jak mówi, wzrasta zainteresowanie modelami wieloagentowymi.
W odcinku usłyszycie, komu wyspecjalizowana AI mogłaby znacząco pomóc w pracy i rozwijaniu wiedzy (na przykład lekarzom i badaczom kosmosu), czy możemy ufać modelowi, który informuje nas, w jaki sposób doszedł do podanego nam wniosku (spoiler: etapy wnioskowania też mogą być wymyślane), o tym, że same modele powinni być obiektem badań naukowców oraz dlaczego, zdaniem naszego gościa, szkodliwe jest postrzeganie AI jako czegoś więcej niż narzędzia. – Wierzę w metodę naukową i nawet jeżeli coś wygląda na magiczne, to fantastycznie jest rozłożyć to na części pierwsze i zobaczyć dokładnie, jakie elementy tej funkcji wpływają na konkretny wynik – podsumowuje prof. Biecek.
Obiecany link do zestawienia „Epic fAIls - największa wpadka systemu AI w roku 2025” https://docs.google.com/forms/d/e/1FAIpQLSdqZ3Otl3XQdeq-mZBKvCh8_OAwzbywgBasRl_SKXDzS4MDLQ/viewform?pli=1
PS. Nie odnosimy się do awantury wokół OpenAI I problemu Naviera-Stokesa, bo informacje pojawiły się już po naszym nagraniu.