DevRel, Open-Source AI i bazy wektorowe - Kacper Łukawski

Ale jeżeli do promptu wrzucimy też jakieś dane, które są potencjalnie potrzebne, żeby na nasze pytanie odpowiedzieć, to okazuje się, że zamiast korzystać z wiedzy modelu, My korzystamy z jego zdolności językowych, to znaczy on jest w stanie wyciągać potrzebne nam informacje, jest w stanie robić podsumowania naszych informacji, które mu dostarczymy i wiele różnych rzeczy, a one już otorują wyłącznie na wiedzy językowej i na tym, żeby wyciągać to, co istotne. Co jest problemem dużo łatwiejszym. I właśnie wyszukiwanie semantyczne stało się takim pomyślnym narzędziem do tego, żeby znaleźć to, co istotne. Prompty, które wysyłamy chociażby do czata GPT, są z natury rzeczy językiem naturalnym. My nie chcemy tutaj wpisywać fraz, jak do Google, poszczególnych słów kluczowych, tylko chcemy prowadzić naturalne interakcje. Więc oczywistym stało się to, że te prompty możemy traktować jako zapytania do wektorowej bazy danych,

Na cele, powiedzmy, badawcze jakby nie kryzie się z etyką. Co więcej, jeżeli są to treści, które są chociażby dostępne w Google, wynikają wyszukiwania, no to ciężko mówić, że one są w jakiś sposób prywatne. Ale bardziej chodzi mi o sam fakt, że jednocześnie zbieramy cudze informacje i nie dzielimy się zyskami z nich, a następnie zabraniamy innym wykorzystywania pewnych pochodnych instrumentów od tego. Ja na pewno polecam, jeśli chodzi o modele językowe. Ostatnio bawiłem się modelem Phi 2 od Microsoftu bodajże i on jest chyba upubliczony na licencji Apache 2.0, czyli jest open-sourcem Jakby w pełnym tego słowa znaczeniu. To jest mały model językowy, który generalnie dość mocno bredzi. Jeżeli zadamy mu jakiekolwiek pytanie, to właściwie najczęściej skłamie.

Myślę, że od czasu jak mam co-pilota, to na pewno rzadziej googluję jakieś takie proste rzeczy, które człowiek po prostu zapomina, jak tam na przykład, nie wiem, przeliczyć coś, czy jak na przykład jakiś obiekt w JSON-ie sobie Sparsować na coś innego. To są takie tematy, które wcześniej wpisywałem w Google i zwykle znajdowałem odpowiedź w pierwszym po prostu wyniku wyszukiwania albo w jakimś poście na Stack Overflow. I teraz tak naprawdę po prostu to się dzieje prosto z edytora i Copilot po prostu zwraca mi odpowiedź, którą pewnie gdzieś tam wcześniej znalazł w tym Stack Overflow czy na jakimś blogu.

Myślę, że to jest trochę podobne do tego problemu, co mają twórcy i blogerzy z wynikami wyszukiwań Google'a, które są w stanie Ci już podać odpowiedź bezpośrednio na stronie z wynikami. Czyli na przykład wpisujesz tam przepis nos hub'owego, I zamiast kliknąć w link i wejść do blogera, który zrobił fajny przepis naschabowego, no to dostajesz ten przepis bezpośrednio na stronach Google, bez de facto wchodzenia na tę stronę, czyli pozbawiamy tego autora, tak naprawdę tego przepisu, jakiegoś tam potencjalnego zysku z reklam albo z jakichś innych usług, które oferuje na swojej stronie. No bo po prostu te dane Google sobie potrafi wyciągnąć i zaprezentować je bezpośrednio u siebie, także myślę, że to w jakiś sposób musi zostać uregulowane, no bo po prostu to się chyba skończy tak, że wszystko będzie za jakimś paywallem albo obwarowane jakimiś dodatkowymi zabezpieczeniami, żeby po prostu nie dało się tych danych łatwo wyciągać.

Jasne. Jeśli chodzi o ten mechanizm Google'a, to rzeczywiście musi być to bardzo irytujące dla kogoś, kto produkuje treści, bo de facto jakby odwala całą czarną robotę, a ktoś ściąga z tego wszystkie zyski. Nie wiem, czy nie da się z tego wypisać w jakiś sposób. Trzeba by na pewno przejrzeć. Tak samo jak możemy zablokować Google Bota na naszych stronach przez odpowiedni wpis w pliku robots. Myślę, że tak samo może jest opcja, żeby wypisać się z generowania tych podpowiedzi, chociaż oczywiście twierdzę, że powinno to działać w inną stronę. I to jest idealne miejsce, ponieważ akurat Google wie, że wyciąga treści z konkretnej witryny, więc to jest idealne narzędzie, które mogłoby dzielić się zyskami, z twórcami tych treści, co byłoby chyba rozwiązaniem idealnym, ale być może będzie wymagało to jakiejś regulacji.