Mentionsy Mentionsy
Rozmowy na Autopilocie
Rozmowy na Autopilocie

Budowanie Asystenta AI

25.07.2023 ·42 min 7 s · 8 rozdziałów

W tym odcinku rozmawiamy o tym, jak zaprojektowaliśmy i stworzyliśmy asystenta AI dla serwisu eduweb, napędzanego 25 milionami znaków transkryptów i innych naszych materiałów oraz jak sprawiliśmy, że potrafi odpowiadać kontekstowo z uwzględnieniem konkretnej lekcji czy kursu, ale też całej ogólnej wiedzy. To przełom w edukacji, który pozwoli na bardziej spersonalizowaną naukę. Przetestujcie na eduweb.pl!

0:00 · Wprowadzenie i opis projektu Asystenta AI 2

Cześć wszystkim, witajcie. Witamy w kolejnym odcinku Rozmów na Autopilocie. Z tej strony Grzegorz Ruk, jest ze mną Adam Gospodarczyk i jeszcze szereg osób, które dołączyły do nas na żywo na naszej społeczności Ahoj, do której was serdecznie zapraszamy. Tutaj zawsze jako pierwsi możecie wysłuchać naszego podcastu, a także porozmawiać z nami na dowolny temat chwilę później. Często rozszerzamy te rzeczy, które omawiamy w podcaście i podajemy różne nasze doświadczenia czy praktyczne przykłady Wszelkie prawa zastrzeżone. Eduweb.

Oraz mówimy także o dostępie do internetu, a konkretnie do bardzo wyselekcjonowanych źródeł, aby nie przekierowywał na jakieś trudne do przewidzenia strony, na czym nie mielibyśmy kontroli. No i też nie chcemy łamać żadnych jakichś praw autorskich. Natomiast przekierowanie do na przykład dokumentacji Figma czy Dokumentacja jakiegoś frameworka jest w tym momencie zasadne, ponieważ po prostu użytkownik może albo obejrzeć na przykład lekcję, albo zobaczyć jednocześnie podnośnik w dokumentacji przekierowujący dokładnie do konkretnego miejsca, gdzie może znaleźć więcej wiedzy na ten temat. Także tyle gdzieś tam słowem wstępu. Nie wiem, co konkretnie chciałbyś wiedzieć, Grzegorz, na temat?

4:00 · Techniczne aspekty działania asystenta 1

Natomiast w tym momencie jest to głównie to, ze względu na to, że najważniejszym takim wątkiem, który teraz jest, To w ogóle zaobserwowanie tego, jak taki asystent zachowuje się nie na moich pytaniach, nie na twoich pytaniach, Grzegorz, które zwykle są bardzo dostosowane. My wiemy przede wszystkim, co jest na Eduwebie, czego nie ma, jak zadać to pytanie i pierwsze, co zauważyłem właśnie po publikacji asystenta, to to, że te pytania zadawane przez użytkowników Są zasadniczo inne i właśnie nawet w tej chwili wpadło jakieś pytanie, prawdopodobnie od Grzegorza. Natomiast chodzi o to, że jesteśmy w stanie w ten sposób obserwować te zachowania i dostosowywać jego zachowanie, sprawdzać co działa, jakie założenia moje jakieś dotyczące wyszukiwania treści, dostarczania tego kontekstu itd.

6:00 · Dostęp do nowych materiałów i ulepszenia asystenta 1

Natomiast jest to po prostu posługiwanie się wyłącznie informacjami zawartymi do kontekstu, czyli to tak jakbyśmy weszli na chart GPT. I zadając pytanie, dokleili kawałek jakiegoś artykułu i poprosili o odpowiedź na podstawie tego artykułu. Wówczas, na przykład jeżeli mamy teraz nową wersję jakiegoś frameworka, jakiejś technologii, to normalnie GPT-4 o tym nie wie, bo jego wiedza jest skończona Którymś tam punkcie czasu. Natomiast w przypadku asystenta Edu on ma taką informację z dwóch powodów. Po pierwsze znalazł kursy na Eduwebie, które też mogą być jeszcze trochę w przeszłości, bo na przykład dla technologii Node.js mamy kurs nagrany powiedzmy rok temu.

13:00 · Techniczne aspekty przygotowania treści 1

Mam tutaj na myśli na przykład timestampy, czyli oznaczenia danego fragmentu czasowego lekcji Różne jakieś, nie wiem, słowa kluczowe albo jakieś notatki albo cokolwiek, co tam się znalazło, co nie ma znaczenia z punktu widzenia asystenta. Mając tak przygotowane treści, musiałem podzielić je na mniejsze fragmenty, a następnie musiałem też pozapisywać sobie informację, który fragment należy do której lekcji. Do którego kursu, do której technologii, do którego autora, czyli jeżeli teraz zapytam o kursy Grzegorza, to chciałbym, żeby odnalazł kursy Grzegorza i tak dalej. No i to wszystko musi zostać zapisane w jakiejś bazie. W moim przypadku jest to taka lokalna baza, taka klasyczna jak mamy w przypadku dowolnych aplikacji, przy czym jej struktura jest poukładana właśnie tak, żeby oddzielić sobie poszczególne fragmenty, żeby można było je filtrować.

Pokazano wszystkie 5 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.