DevTalk #124 – O Nauce z Pomocą LLM-ów z Tomaszem Ducinem

Na przykład to, że Jeżeli przykładowo frontendowiec chce się nauczyć back-endu albo na odwrót, to niech skuma jakieś nazwiska ludzi, którzy są uznawani na przykład za ekspertów w danej dziedzinie i przykładowo promptując... promptując w szczególności a propos problematyki, jaka jest w danym zagadnieniu, żeby powoływać się na przykład na zdanie tych osób. Przykładowo, jeżeli będę chciał na przykład spromptować, nie wiem, o co chodzi w CQRS, o co chodzi w event sourcingu, bla, bla, bla, bla, bla, bla, bla, to nie zrobię prompta pod tytułem wyjaśnij mi o co chodzi w X, tylko na przykład podaj mi na przykład główne problemy, które dana architektura albo dany wzorzec ma rozwiązać, powołując się na osoby, które, no i tutaj na przykład wymieniam bardzo, bardzo konkretne nazwiska, które... Tak jak zrobił Greg Young albo Dida Han.

Tak jak zrobiłby to Greg Young, tak jak zrobiłby to Udi, tak jak zrobiłby to, tak jakby to na przykład mówił Martin Fowler, tak jak, nie wiem, tak jak opisuje to w swojej książce na przykład Von Vernon, albo na przykład z Event Sourcingu, tak jak opisuje to Oster Dudycz, który ma i bloga, i YouTuby, i tak dalej, po prostu. I teraz tak, skąd ja mam wiedzieć, że te osoby są wiarygodne i merytoryczne? No, skądinąd, tak? Więc to, wiesz, znowu, też to, co powiedziałeś, że jakaś tam wiedza ekspercka, która nawet jest w internecie, może być wymieszana z tym, co jest w internecie. Dokładnie, dokładnie. Więc może z tego być taka wypadkowa trochę tego, co znajdziesz w sieci, a w sieci znajdziesz bardzo różne rzeczy. Więc jeżeli bardzo mocno, eksplicite, wyszczególnisz w prompcie, że to ma być właśnie to źródło, ten człowiek,

I on w mechanizmie uwagi nadaje odpowiednim tam tokenom, odpowiednim fragmentom Twojego, można powiedzieć tak, odpowiednim fragmentom Twojego prompta i gdy podnosi wagę, oczywiście innym obniża, co sprawia, że to wpływa potem na to, co będzie dany agent robił. Innymi słowy, jeżeli powiesz na przykład pod kątem sprąta, bardzo ważne jest, żeby to właśnie, nie wiem, Fowler, Young, Dahan i tak dalej byli brani jako źródło tych opinii. to on to z bardzo dużym prawdopodobieństwem zrobi. Oczywiście pewności nie ma, bo one nie są deterministyczne, ale to zrobi. Inna rzecz. Zasadniczo w epoce LLM-ów generowanie tekstu jest bardzo tanie.

Ale jeżeli mu na przykład... nie wiem, jakiemuś narzędziu powiesz skorzystaj mi z biblioteki X, no to będzie śmigało jak ta lala, więc to też zależy. Natomiast znowu, jaki tutaj jest wniosek, że z czasem ludzie się, z czasem branża się zorientuje, że na przykład fajnie by było, i to jest dla mnie oczywista oczywistość, której się spodziewam, na przykład rozbić front-endy, na przykład na vertical slices, tak żeby w rozumieniu prezentacji Grega Younga Art of Destroying Software w dużym skrócie chodzi o to, żeby dało się malutkie wykrojone moduły zastępować, żeby zamiast mieć na przykład duży zespół albo dużo frontendowców, żeby dało się dany moduł wywalić, malutki moduł, i przy użyciu LLM-a wygenerować go po prostu od zera, bo to będzie po prostu szybciej.