Rewolucja ChatGPT czyli o co chodzi w modelach językowych (#10)
Pojawienie się ChatGPT to wielka rewolucja w osiągnięciach nauki nad sztuczną inteligencją. To moment, gdzie większość ludzi na świecie zrozumiało, że sztuczna inteligencja jest na wyciągnięcie ręki. Moment w którym nasza cywilizacja przekroczyła kolejną barierę, pewnie nie ostatnią. Czym tak naprawdę są LLM (duże modele językowe), jak jest w skrócie droga dojścia do tak rewolucyjnego modelu? Dlaczego ChatGPT jest tak popularny i właściwie czym on jest?Postaram się o tym troszkę opowiedzieć. Z całą pewnością będzie to pierwszy przystanek do poznania i zrozumienia LMM, GPT i całej generatywnej sztucznej inteliegncji.
I już co się stało? No trzeba przyznać, że zrobiono coś niesamowitego. Wzięto jakby dorobek całej naszej cywilizacji z perspektywy internetu, książek, różnego rodzaju rzeczy i zbudowano model LLM-owy GPT, który zaczął się uczyć z tego wszystkiego co nas otacza. To co było efektem końcowym było nieprzewidywalne z perspektywy tego działania. Nie spodziewaliśmy się, że dzięki właśnie użyciu metod nazywanych Reinforcement Learning with Human Feedback, czyli chodzi o to, że to jest uczenie maszynowe z feedbackiem dodatkowym, ludzkim. Udało nam się zbudować coś tak niesamowitego z perspektywy przetwarzania tekstu. Co uzyskaliśmy? Uzyskaliśmy taki mechanizm, który jest w stanie odpowiadać nam i generować teksty, które dla nas są zrozumiałe.
Jakieś regułowo-heurystyczne podejścia, niegeneratywny machine learning cały, cały algorytm związany z optymalizacją, symulacją i właśnie generatywne modele. Czyli tak naprawdę ten AI jest dużo szerszy niż w tym momencie my o tym mówimy. Ale dlatego, że te generatywne modele odniosą przeogromny sukces. Tylko pamiętajmy, że one nadają się do pewnych zastosowań. Możliwe, że w jakichś innych zastosowaniach one też dadzą pozytywne efekty, ale zaczynamy iść w sferę takiej niepewności, bo tak naprawdę nie mamy gwarancji dlaczego jakieś elementy zostały zrobione i to jest duże ryzyko. Tutaj mam na myśli właśnie chociażby zastosowanie w świecie finansów czy w świecie jakiejś optymalizacji gdzie są procesy, są podejścia, które gwarantują na pewno skuteczność, gdzie my jesteśmy w stanie mierzyć te rzeczy i na to powinniśmy zwrócić uwagę, gdzie tak naprawdę tę sztuczną inteligencję z zakresu generatywnej sztucznej inteligencji możemy wykorzystywać.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Podróż po historii przetwarzania języka naturalnego od XVII wieku do lat 50. XX wieku, w tym opowieść o Turinga, Chomskym i Shannone.
Technologie NLP w latach 60. XX wieku, takie jak świat bloków i sztuczne sieci neuronowe.
Opis projektu OpenAI i współpracy z Microsoftiem, prowadzącym do powstania GPT.
Wprowadzenie do transformery i GPT, w tym opis architektury encoder-decoder i mechanizm samouwagi.
Analiza generatywnej sztucznej inteligencji, jej zastosowań i ryzyk, w tym wpływ na przyszłość pracy i regulacje prawne.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Postaram się o tym troszkę opowiedzieć. Z całą pewnością będzie to pierwszy przystanek do poznania i zrozumienia LMM, GPT i całej generatywnej sztucznej inteliegncji.