Mentionsy Mentionsy
Bity Parzystości
Bity Parzystości

Zaawansowany chatbot na Twojej stronie!

04.09.2026 ·15 min 27 s

Najprostszym rozwiązaniem na podpięcie chatbota na stronę było zawsze podpięcie się do gotowych modeli hostowanych online, na przykład ChatGPT. Nie mamy tutaj jednak dużej kontroli nad tym jakie scenariusze chat może realizować, ograniczone są możliwości zarządzania jego zaawansowanymi funkcjami a przede wszystkim jesteśmy mocno zależni od zewnętrznych dostawców pod względem dostępności rozwiązań i cenników. Jak zatem zrobić to inaczej?Zapraszamy do śledzenia naszych social media:https://www.linkedin.com/company/UniqSofthttps://www.instagram.com/UniqSoftTeamhttps://www.facebook.com/UniqSoftPL#ai #chatbot #sztucznainteligencja #chatgpt #openai #bityparzystości #uniqsoft

Cześć! Witam w kolejnym odcinku Bity Parzystości. Dzisiaj powiem trochę więcej o tym, jak funkcjonują dzisiaj chatboty i jak zrobić je dobrze. Na początku podpinano po prostu czaty GPT do stron internetowych, natomiast ma to swoje bardzo poważne wady i ograniczenia. Jak można zrobić to inaczej? Jakie rozwiązania są dzisiaj dostępne? Jak zrobić to zgodnie z przepisami? Zapraszam serdecznie do odcinka. Podpinanie czata GPT do stron internetowych było w początkach boomu na AI dość popularne. Było to relatywnie proste, czat GPT nie był jeszcze wtedy tak drogi i wydawało się, że jest to dość dobre rozwiązanie.

No bo przecież hej, wystarczy załadować wiedzę do czata i on już będzie w stanie odpowiadać np. na informacje związane z firmą. No ale właśnie. Pytanie co z różnego rodzaju scenariuszami pobocznymi. Dość głośny i wielokrotnie wykorzystywany był przykład Chevroleta, gdzie udawało się w trakcie rozmowy z botem kupić Chevroleta za dolara. Nie wiem czy to było rzeczywiście prawnie wiążące. Albo przypadki, które miał McDonald's jeszcze swego czasu. Najprostszą metodą na pisanie skryptów w Pythonie było wykorzystywanie do tego właśnie chatbota na stronie McDonald's. Natomiast są inne metody, które sprowadzają się nie tylko do podpięcia czata i załadowania do niego wiedzy, ale potrafią robić dużo, dużo więcej.

Jak to więc osiągnąć? Sugerowaną przez nas i nasz zespół metodą do pracy z modelami i wykorzystywanie ich bezpośrednio w obsłudze chatbota na stronie internetowej jest wykorzystywanie wdrożeń lokalnych i modeli uruchamianych lokalnie. Spróbujmy się teraz zastanowić nad kilkoma aspektami, które bierzemy pod uwagę. Mamy kwestie możliwości i ograniczeń. Mamy kwestie ewentualnych kosztów i problemów obsługi. Kwestie związane chociażby z aktualizacją, czyli na przykład co, kiedy są dostępne lepsze modele. Okazuje się, że nie zawsze dostępność lepszych modeli jest dobra do wdrożeń AI. No i wreszcie co z prywatnością, bezpieczeństwem, RODO czy AI Act.

Według naszych research, one nie są aż tak powszechnie dostępne. Paradoksalnie dużo łatwiejsze do pozyskania są serwery do trenowania modeli, których koszty mogą być naprawdę znaczące. My tutaj musimy rozgraniczyć, że do uruchamiania lokalnego potrzebujemy modeli do uruchamiania AI, które mają zupełnie inne pamięci. Mówimy tutaj przede wszystkim chociażby o VRAM, czyli tej pamięci, która pozwala na załadowanie modelu. W praktyce rozmowy na chatbotach odbywają się przy wymianie krótkiej wiadomości i możemy użyć raczej mniejszych modeli. Nie potrzebujemy modeli rozumujących, nie potrzebujemy zaawansowanych zastosowań. Nam się sprawdza na przykład chociażby Liama 3.1 w wersji 8 miliardowej.

Ale tutaj ten model lokalny jest po prostu utrzymywany tylko na serwerze i za tokeny już nie płacimy w ogóle. Sprowadzamy się więc do takiego pricing modelu, gdzie w skrajnym wypadku, jeżeli nagle mamy większy ruch na stronie internetowej, nasz chatbot może zacząć wolniej odpowiadać, ale nie zacznie np. generować nam większych kosztów. To już jest bardzo duży plus. Kolejna rzecz, prywatność i bezpieczeństwo. Najczęściej w rozmowach o AI słyszę, że największym problemem może być trenowanie na naszych danych. Ba, nawet wielokrotnie w umowach na projekty AI znajdujemy zapisy z klauzulami by zapewnić, że jeżeli AI wykorzystamy w projekcie to model nie będzie trenowany na naszych danych.

No i tu jest mały szkopuł, dlatego że okazuje się, że działa tutaj jedno z podstawowych prawideł IT, czyli jeżeli działa, to nie ruszamy. Chatbot, który przeszedł jakieś testy akceptacyjne na określone scenariusze, Na określone pytania daje określone odpowiedzi, ma określone zachowania. Zależy nam na tym, żeby ten stan utrzymać. Znam takie sytuacje, bywały takie projekty, gdzie podłączenie bezpośrednio do czata GPT nie kończyło się dobrze. OpenAI bardzo często dawał informacje, że na przykład jest dwa tygodnie na migrację modelu i okej, zyskiwaliśmy nowszy model, ale okazywało się, że mamy dwa tygodnie na to, jeżeli mamy w ogóle dwa tygodnie na to, żeby przetestować funkcjonowanie z nowym modelem, który może działać zupełnie inaczej.

To my jako dostawca tych obowiązków mamy dużo więcej. Ważne jest, żeby taki czat nie miał np. upraszczając pewnej decyzyjności, trackowania, bo wtedy rzeczywiście pojawia się duże ryzyko, że wpadniemy w poziom wysoki, Ale oczywiście zawsze, tak jak też przed każdym projektem, który my realizujemy, musi to podlegać analizie ryzyka dokładnej. Natomiast ok, zakładamy, że jesteśmy na tym poziomie, nazwijmy go średnim, to w tym momencie mamy obowiązek informacyjny, On został już wprowadzony tak bardziej powiedzmy dobitnie i potwierdzony 2 sierpnia 2026 roku. Wtedy głośno się mówiło o tym, że będzie trzeba oznaczać reklamy czy grafiki, że zostały wygenerowane przy pomocy AI, ale mniej trochę się mówi o tym, że dokładnie te same przepisy wprowadziły konieczność oznaczania również chatbotów.

Ważne jest to, że takiego chatbota trzeba w sposób bezpośredni i wyraźny oznaczyć, że rozmawiamy z AI, chyba że jest to oczywiście ewidentne w trakcie rozmowy. To co my stosujemy to zmokowaną pierwszą wiadomość. Czyli kiedy uruchamiamy chata, to nie chat wysyła pierwszą wiadomość, ale po prostu podstawiamy ją sztucznie, w 100% panując nad jej treścią. W ten sposób jesteśmy w stanie zapewnić, że w każdym wdrożeniu tego typu informacja zostanie przekazana. Możemy stosować też jakieś dodatkowe oznaczenia np. w postaci ikony bota przy wiadomości czy podpisach na samym czacie. Stosujemy czasami np. strony FAQ, czyli informacje w jaki sposób odbywa się ta rozmowa.

Ważne jest to, że AI Act definiuje, że takiego chatbota należy oznaczyć. Na sam koniec jeszcze chciałbym powiedzieć w ogóle o samej kwestii związanej z funkcjami takiego chatbota, ponieważ myślimy najczęściej jako o pewnej bazie wiedzy, którą chatbot ma i może nią dysponować. Natomiast dzisiejsze rozwiązania mogą dużo więcej. Przede wszystkim wiedza to nie jest tylko załadowanie rack do czata. Można realizować coś takiego, że czat ma wiedzę ładowaną w locie. To znaczy jesteśmy w stanie albo bezpośrednio w trakcie rozmowy zaciągać tego typu dane z wektorowych baz danych i tej wiedzy może być dużo więcej, Chatbot wtedy może się bardziej sugerować tym, że ma pewną wiedzę wskazywaną z baz, więc łatwiej możemy doprowadzić do takiego scenariusza, że on odpowiada, że w danym scenariuszu po prostu nie wie, niż będzie zmyślał.

Trochę niwelujemy to, żeby on korzystał z tej wiedzy wyuczonej, ale na przykład jeżeli opieramy się o dane ze stron internetowych, skrapowanych z jakichś miejsc, sczytywanych, to tak na dobrą sprawę taki chatbot przy odpowiednim podpięciu takiej dynamicznej wiedzy może korzystać z niej niemal w czasie rzeczywistym. Dodatkowo dzisiaj w AI, w modelach językowych, bardzo wielu dostępny jest tools calling, function calling, czyli chatbot jest w stanie uruchamiać sobie narzędzia. Dla nas najlepiej chatboty sprawdzają się w takim scenariuszu, gdzie one odpowiadają, ta część AI odpowiada za komunikację z użytkownikiem i pewne rozdzielanie zadań. Chatbot wtedy jest w stanie skorzystać sobie z narzędzi i na przykład jeżeli ma wykonać jakąś kalkulację, sprawdzić coś, to jest w stanie wtedy uruchomić sobie narzędzie, przekazać z rozmowy dane, które pozyskał od użytkownika, może nawet je walidować,

Wykonuje to narzędzie, ono się nigdy nie myli, no bo to jest zewnętrzna aplikacja, skrypt podłączony do czata, funkcja tool i wyniki zwracane są z powrotem do rozmowy i wyświetlane bezpośrednio w treści rozmowy. Można nawet generować takie indywidualne komponenty, elementy. Jeżeli spotkałeś się może z tym, że w trakcie rozmowy na przykład pokazywały się jakieś ankiety, pytania, to to jest właśnie pewien efekt działania toolscalingu, function callingu. W tych scenariuszach, które my realizujemy, taki chatbot może na przykład wrzucać dane do CRM-a, zbierać leady, wysyłać maile, korzystać z kalkulatorów, pobierać w czasie rzeczywistym dane ze stron internetowych. Można zrobić naprawdę dużo, a te możliwości indywidualne personalizacji są też powiększone niejako, dużo większe w sytuacji, kiedy korzystamy z lokalnych wdrożeń modeli.

A czy Ty wykorzystujesz chatbota na swojej stronie internetowej? W jaki sposób to robisz? Może masz jakieś swoje doświadczenia z punktu widzenia programisty tego typu rozwiązań? Jestem strasznie ciekaw jak to u Ciebie wygląda. Dziękuję bardzo za obejrzenie. Zapraszam do śledzenia naszych social mediów i do zobaczenia w następnym odcinku. Dzięki. Na razie.

Pokazano wszystkie 12 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.