Po co Polsce własny LLM?
Czy sztuczna inteligencja naprawdę działa tak samo jak człowiek? Ludzki mózg waży zaledwie około półtora kilograma i do działania potrzebuje około dwudziestu watów energii. Dla porównania, wielkie centra danych trenujące zaawansowane modele sztucznej inteligencji zużywają setki megawatów prądu, a ich trening kosztuje miliony dolarów. W tym nagraniu rozkładamy sztuczną inteligencję na czynniki pierwsze. Przedstawiamy, czym są duże modele językowe, jak działa mechanizm uwagi oraz dlaczego sieci neuronowe liczą prawdopodobieństwo wystąpienia kolejnych słów zamiast realnie rozumieć świat. Zwracamy uwagę na fundamentalne różnice między sztuczną siecią a ludzkim mózgiem, omawiamy zjawisko halucynacji i błędów w odpowiedziach modeli oraz przywołujemy przełomowy system AlphaFold. W […]
Mówimy tutaj o czystym tekście, więc to jest niewyobrażalna taka trudno do wyobrażenia ilość tekstu. Więc jakby to tak definiujemy to zbieranie danych. Wracając do tej historii, ten zespół tych osób zaczął dane zbierać i zgodnie z taką intuicją początkową życie przyniosło pewną szansę, ponieważ w Cyfronecie przy Akademii Górniczo-Hutniczej w Krakowie pojawił się super komputer Helios, I ten zespół trochę szukał, zastanawiał się, jak ten komputer przetestować, powiedzmy wygrzać. No i tutaj się pojawiła taka naturalna szansa. My mamy dane. To nas też zmotywowało, ten zespół początkowy, do zbierania tych danych do pierwszego terabajta.
Dokładnie tak. I to taka trochę, może zabrzmi negatywnie, ale taka trochę tresura. Więc tak wygląda w takim dużym uproszczeniu proces trenowania modelu, ale tak jak powiedziałem, wszystko zaczyna się od danych. I też tak w naszym przypadku było. Okej, ale te dane muszą być włożone w jakieś ramy. I te ramy to jest konkretny program komputerowy? Czy to jest ten model, który mieliście już, ten podstawowy, ten bazowy? Czy być może te ramy to wyście właśnie napisali? Musieliśmy je stworzyć, ponieważ trochę schodząc nieco technicznie, jednym z takich wyzwań technicznych był fakt, że komputer Helios, jego architektura była oparta o architekturę ARM, a wszystkie narzędzia do trenowania sztucznej inteligencji były zupełnie w innej technologii, więc zespół treningowy, który naprawdę na światowym poziomie, liczę, że będzie jeszcze okazja porozmawiać o zespole, musiał stworzyć te narzędzia, które pozwolą
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podróżniki w świat AI, opisane podstawy i historia sztucznej inteligencji.
Opis procesu treningu AI, w tym pre-training, wychowanie i uczenie przez wzmocnienie.
Opis procesu zbierania danych, w tym wyzwania techniczne i kwestia jakości danych.
Porównanie modeli AI, w tym opis korzyści modelu Bielik w porównaniu do modeli ogólnego zastosowania.
Analiza znaczenia suwerenności technologicznej i kulturowej w kontekście modelu AI Bielik.
Rozmowa o rozwoju Bielika, strukturze i finansowaniu projektu, w tym o zespole treningowym, społeczności i pierwszych sponsorach.
Opis zastosowań Bielika w różnych działaniach biznesowych i startupach, w tym o Obywatelu Bieliku jako inicjatywie nauk obywatelskiej.
Opis inicjatywy Obywatel Bielik, skupiającej się na tworzeniu modelu wizyjnego i zbieraniu danych od obywateli.
Opis projektu wizyjnego Bielika, jego etapów rozwoju i zastosowań, w tym o zaangażowaniu obywateli w zbieranie danych.
Rozmowa o zasady korzystania z danych w projektach Bielika i Obywatel Bielik, w tym o zasady zapisu i wykorzystania danych.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.