DevRel, Open-Source AI i bazy wektorowe - Kacper Łukawski

Myślę, że od czasu jak mam co-pilota, to na pewno rzadziej googluję jakieś takie proste rzeczy, które człowiek po prostu zapomina, jak tam na przykład, nie wiem, przeliczyć coś, czy jak na przykład jakiś obiekt w JSON-ie sobie Sparsować na coś innego. To są takie tematy, które wcześniej wpisywałem w Google i zwykle znajdowałem odpowiedź w pierwszym po prostu wyniku wyszukiwania albo w jakimś poście na Stack Overflow. I teraz tak naprawdę po prostu to się dzieje prosto z edytora i Copilot po prostu zwraca mi odpowiedź, którą pewnie gdzieś tam wcześniej znalazł w tym Stack Overflow czy na jakimś blogu.

Tutaj zastanawiam się w zasadzie, na ile to może działać długofalowo, prawda? No bo już się mówi, że Stack Overflow ma dużo mniej wejść, dużo mniej odwiedzających przez to, że właśnie ludzie korzystają z czata GPT albo z co-pilota. I myślę, że to może doprowadzić do czegoś takiego, że coraz mniej ludzi będzie korzystało ze Stack Overflow, coraz mniej osób będzie tam wrzucało nowe rzeczy. No i pytanie, skąd te algorytmy w pewnym momencie Kacper Łukawski, Qdrant.

Na przykład poprzez jakąś opłatę miesięczną albo po prostu ilość wysłanych do nich zapytań, jak one mogą dzielić się tym zyskiem z osobami, które robią tą ciężką robotę w postaci właśnie pisania tych odpowiedzi na Stack Overflow albo dostarczania po prostu jakichś ciekawych artykułów. Czy tutaj masz jakiś pomysł, jak to mogłoby długofalowo działać? Jasne, jakby ciężko jest znaleźć na to odpowiedź, bo de facto jeżeli Copilot wygeneruje ci jakąś podpowiedź, to on nie jest w stanie określić na podstawie, których dokumentów akurat w tym przypadku skorzystał. On po prostu przepuszcza dane przez jakąś sieć parametrów, mnoży pewne wartości liczbowe i na tej podstawie wypluwa najbardziej prawdopodobną sekwencję tokenów i tyle.

I z tego też powodu myślę, że niektóre firmy będą musiały się chociażby z tego rynku wycofać, bo nie będą chciały się zgodzić na jakąś transparentność. I podobnie w przypadku też kodu, ale nie ma tutaj łatwego rozwiązania według mnie, bo pomimo tego, że moglibyśmy tego modelu spytać o to, żeby podał nam źródła danej informacji, to wcale nie mamy gwarancji, że poda nam informacje, które rzeczywiście są poparne. No tak, to jest myślę, że ważna tematyka, szczególnie dla twórców, szczególnie dla osób, które są aktywne chociażby na Stack Overflow. Nie wiem, ile jest w tym prawdy, ale w jakimś podcaście się spotkałem z opinią, że Stack Overflow ma około tam chyba 60 czy 70% mniej Wejść na swoją stronę, właśnie od czasu jak powstały Copiloty, StackOver, ChartGPT i inne narzędzia.