Kiedy AI zastąpi programistów?

Cześć! Z tej strony Mateusz Bogolubow z serwisu devmentor.pl. Z racji tego, że na co dzień uczę programowania, ten podcast tworzę z myślą o osobach, które są na początku swojej drogi programistycznej. Startujesz w branży IT? Zasubskrybuj ten podcast, aby nie ominął Cię żaden odcinek. Zaczynamy! Dziś moim gościem jest doktor Jakub Strychowski. Kuba pomoże nam oddzielić fakty od mitów związanych z AI. Dzięki czemu spojrzymy na rynek IT okiem człowieka, który zjadł zęby na sztucznej inteligencji i wytwarzaniu oprogramowania. A obecnie to CTO w firmie FreeQ Code. Kubo, dziękuję, że przyjąłeś moje zaproszenie na rozmowę. Dziękuję bardzo Mateusz za zaproszenie. Miło mi, że mogę u Ciebie gościć i porozmawiać trochę na tematy związane między innymi z AI.

To zacznijmy może od Twojej osoby. Powiedz nam, co łączy Cię z branżą IT, bo sporo tych latek już jest, jak sobie trochę rozmawialiśmy. Tak, jest dużo, w szczególności dlatego, że wcześniej jakby zaczynałem, bo tworzenie oprogramowania to moje hobby od dziecka tak naprawdę. Zawodowo pracuję od prawie 30 lat, bo już w szkole średniej brałem pierwsze zlicenia jako programista, jeszcze wtedy w SI. Również w czasie studiów pracowałem, pracując w Techlandzie. Tam miałem okazję rozwijać programy tłumaczące, English Translator, Deutschland Translator, takie produkty kiedyś były. A tu tak zapytam, czy miałeś przy okazji jakąś konkretną produkcją, czy to ogólnie program, który był wykorzystywany właśnie do tłumaczeń tych wszystkich gier? Przynajmniej tak rozumiem, że to o to chodziło.

Nie, nie, nie. To był ogólny taki produkt, trochę jak Google Translator, który kupowałeś w pudełku wtedy i mogłeś sobie, tak jak masz te okienka lewej prawy, tłumaczyć dowolny tekst pomiędzy językami. Czyli to była taka jeszcze jakby przed Google Translator. Ok, bo myślałem, bo Techland skojarzył mi się z grami, a zazwyczaj chyba Techland wydawał gry, które miały jakieś tam polskie tłumaczenie. Tak, gry też były tworzone wtedy. Paweł Marchewka, który pochodzi z mojego miasta i z mojego technikum też tak naprawdę, Z nim miałem okazję pracować, twórca Techlandu. Te pierwsze lata i też ten produkt English Translator to był najlepiej sprzedający się wtedy produkt użytkowy powiedzmy w Polsce. Jak ktoś nie znał francuskiego czy niemieckiego, czy ta wiedza angielska też była

Języka angielskiego była mniejsza, więc to jakby ten produkt miał duże wzięcie. Był duży zespół, który zajmował się przetwarzaniem języka naturalnego, rozwojem tego. Jakość tych tłumaczeń była dużo niższa niż to, co widzimy teraz. Właśnie z uwagi na brak tego, co mamy w tych LLMA. Nad tym też się tam Trochę pastwiłem, bo dostałem od Pawła takie zadanie, zrobić sieć semantyczną. Stąd takie zainteresowanie AI też zostało jakby dodatkowo wzbudzone pracą w Techlandzie. Potem pracowałem już w innych firmach, w projektach komercyjnych, jak i badawczych. Przez wiele lat jako programista, lead, ale też jako analityk, czyli spotykałem się z klientem, zbierałem wymagania. W pewnym momencie pomyślałem sobie, że mogę więcej zrobić, więcej stworzyć, większy mam wpływ, jeżeli zarządzam zespołem, więc poszedłem w to po prostu.

Ale zawsze gdzieś tam miałem to hands on, czyli zawsze gdzieś do tego kodu wracałem, bo to po prostu lubię, to mi sprawia przyjemność, tak jak większości osób, które się tym zajmują, tak myślę. Jakiś czas też pełniłem rolę, to zarządzanie rozwinęło się w kierunku dyrektora IT, czyli odpowiadałem za cały obszar IT. W organizacji, która zatrudnia tysiąc osób. No i tam też nauczyłem się rozumieć lepiej biznes, zarządy, dyrektorów, potrzeby biznesowe, jak oni patrzą na ten obszar, jak spełnić ich potrzeby, czyli po co w ogóle robimy te systemy komercyjne. Także też w to wszedłem. W międzyczasie gdzieś tam cały czas eksperymentowałem właśnie z przetwarzaniem języka naturalnego, bo wiedziałem, że tam jest dużo nierozwiązanych tematów, szczególnie dla języka polskiego, bo większość było wtedy rozwiązań takich algorytmicznych dla języka angielskiego, których te rozwiązania zupełnie do polskiego języka nie pasowały.

Cały czas tam eksperymentowałem, w pewnym momencie stwierdziłem, że to jest tak wszystko złożone, że zacząłem używać sieci neuronowej i właśnie zrobiłem doktorat z tego, że sieci neuronowe zwiększają jakość właśnie przetwarzania języka naturalnego i taką też zabroniłem. To robiłem eksternistycznie, można powiedzieć po nocach, trochę gdzieś tam na konferencjach, musiałem publikacje pisać, przedstawienia jakieś. Co ciekawe, ten mój pomysł, żeby sieci neuronowe, to też zetknął się z przeciwnościami kadry powiedzmy profesorskiej. Mówili mi, że to jest jakiś zgadywacz, że tak się nie robi. NLP byli tymi tradycjonalistami, żeby zaprogramować, jak ten język ma być przetwarzany. Wyszło chyba na moje po latach. Te osoby dzisiaj rozwijają na przykład właśnie polskie LLM też, także też poszły w tę stronę. Aczkolwiek to jest zupełnie inna skala niż to, którą ja mogłem wtedy osiągnąć z uwagi na moce obliczeniowe, które były dostępne wtedy.

A całą tą wiedzę obecnie wykorzystuję właśnie we własnej spółce, którą prowadzimy od ponad czterech lat z moim wspólnikiem, Software House, który zajmuje się również wdrażaniem rozwiązań w oparciu o low-code, no-code, bo ja stoję na stanowisku, że to są proste zadania, które można zautomatyzować typu krudy. Kiedy AI zastąpi programistów? I też warto dodać, że tak jak rozmawialiśmy przed nagraniem, że też AI wszedł właśnie w te platformy nowocodowe, z których korzystacie i one też usprawniają cały proces.

Na bazie tego powstał wtedy hype, zaraz będą myślące maszyny. Zdarzyło się to z rzeczywistością po pierwsze mocy obliczeniowych, jakie to podejście było Zbyt trywialne takie powiedzmy, potrafiło realizować proste zadania, systemy ekspertowe, decyzyjne w medycynie na przykład. Ja też skończyłem na studiach właśnie zastosowania informatyki w medycynie i technice i tam mieliśmy bardzo dużo zajęć ze sztucznej inteligencji, no to już ponad 20 lat temu, na takiej katedrze nowo powstałej, także już wtedy sieci neuronowe, wtedy jakby systemy ekspertowe, natomiast była już jakby druga fala. Pierwsza fala to były pierwsze takie definicje powiedzmy Pierwsze próby powstał Perceptron, czyli to co mamy dzisiaj w sieci neuronowej powstał już w latach 50-tych, tylko to było pojedyncze, a dzisiaj mamy miliardy w sieciach, czy miliony w zależności od wielkości, więc był taki hype niczym nieuzasadniony, po prostu artykuły w prasie nadmuchały temat, szybko to się zderzyło z rzeczywistością i zostało na jakiś czas porzucone, potem był znowu boom gdzieś tam w latach 80-tych, gdzie po prostu no moce urosły, ale powstały pierwsze takie już

Kiedy AI zastąpi programistów? Widzimy efekt tych prac w nawigacji samochodowej. To też są algorytmy, które określane były jako sztuczna inteligencja. Może nie machine learning, bo sztuczna inteligencja jest szerszym pojęciem niż tylko machine learning, bo można mieć sztuczną inteligencję, która nie jest oparta o uczenie. Są też takie rozwiązania. To może dopytam, bo ja pamiętam, że za małych czasów licealnych tworzyliśmy bety, czy tam się to nazywało AI i robiliśmy, jeżeli ktoś napisze cześć, to zrób to, czyli taki prosty if i... Tak, to jest system regułowy i to są te z lat 50. jeszcze systemy regułowe, one są do dzisiaj stosowane.

W sztucznej inteligencji nie chodzi o to, żeby stworzyć człowieka. Chodzi o to, żeby pewne zadania, które człowiek realizuje, chociażby gra w szachy, mogła wykonać maszyna. Więc jakby tutaj jakby ten termin nie był utożsamiany, chociaż w literaturze fantasy czy science fiction, czy w prasie często tak to było rozumiane, ale de facto chodziło o to, żeby, nie wiem, wyznaczyć najkrótszą drogę przejazdu z punktu A do B, wymaga inteligencji tak rozumianej wtedy i do tego były potrzebne odpowiednie algorytmy. Sztuczna inteligencja jest szersza, w tym jest machine learning, czyli tworzenie tych algorytmów nie poprzez ich programowanie, tych reguł właśnie definiowanie, tylko uczenie na przykład tych reguł. Uczenie jeszcze inne. Także tutaj jest mnóstwo rozwiązań.

No będzie pewnie, któreś z tych firm rzeczywiście, tak jak Google przetrwało bańkę internetową, czy kilka innych firm, 90% padło, to też przetrwają wybrańcy, nie wiadomo kto to będzie tak do końca, no bo... Przy kupaku NVIDII ona rzeczywiście teraz odcina kupony, bo to jest systematyczna inwestycja i pomysł sprzed 30 lat, to przetwarzanie równolegle, ale na pewno pojawią się produkty konkurencyjne, mocne, Intela, AMD, chociaż z Intelem to różnie bywa, bo tam NVIDIA ich podkupuje, więc może podetnie im tą nogę sobie konkurencji. No będzie walka, będzie walka chińska, może Europejczycy w końcu dołączą się tam. Patenty wygasły na większość rzeczy, bo mają ochronę 25 lat, więc będzie ciekawie, zobaczymy. Aczkolwiek, no jakby ta strategia NVIDII jest właśnie uzasadniona i słusznie zbierają, uważam, te owoce, no trochę ich przewartościowali.

Także bańka pewnie inwestycyjna gdzieś tam pęknie, ludzie odejdą w inne branże, natomiast same rozwiązania uważam, że tak jak internet przetrwają, będą się dalej intensywnie rozwijać. Może wrócę, bo ta bańka internetowa to chyba 2008 rok, tak? 2002. 2002, okej. Ja dlatego pytam o ten rok, bo tak wiesz, boimy się troszkę tych baniek. Ja w swoim pierwszym działalnym założeniu w 2009 roku związałem z wytwarzaniem aplikacji w zasadzie internetowych i wiesz, i dałem radę. I w sensie, mimo to, że faktycznie będziemy Może być taka sytuacja, że coś tam pęknie i spadną wyceny, to nie znaczy, że to nie będzie kierunek, w którym to będzie wszystko szło, prawda? Jakby to po prostu się znormalizuje, no bo teraz jest naprawdę straszny szał na wszystko i patrząc po tym, ile firm integruje AI, a ile z tego zyskają, to też bardzo różnie z tego bywa, prawda?

To bańka inwestycyjna, chyba że mówimy też o bańce takiej właśnie hype'u na AI, w szczególności chyba w Stanach. W Polsce w przedsiębiorstwach tego tak do końca nie widać, aż tak dużo, to bardziej chyba IT się tym fascynuje można powiedzieć. Na pewno to też jakby dotarło do jakby marketingu, bo tam ludzie tracą pracę też związanej z generowaniem grafik różnych. Pewnie sztuka taka wartościowa, w cudzysłowie nie chcę tam umiejszać jakby tej marketingowej, bo to też trzeba dobrze wymyślić pewne jakby tutaj, też trzeba być pomysłowym. Natomiast no tam jakby graficy tracą robotę, w Stanach tracą programiści robotę pod hasłem AI, ale to jest tak zwane AI washering,

Więc, przynajmniej tak mi się wydaje, zaraz to skomentujesz, więc pytanie do Ciebie, dlaczego właśnie LLM-y tak dobrze radzą sobie z kodowaniem, skoro to tylko przewidywanie kolejnego słowa? Tak, no to częsty argument, który szczególnie fizycy stosują, ale to można powiedzieć, że mózg wysyła tylko impulsy elektryczne i chemiczne albo Muzyka to tylko drgania powietrza czy internet to tylko zera i jedynki? To jest duże uproszczenie. Element jest zdecydowanie więcej niż tylko przewidywanie kolejnego słowa. To jest oczywiście matematyczna definicja transformera, czyli tego właśnie czata GPT przykładowo czy Gemini. Można to tak zdefiniować, jeżeli patrzymy na to jako na czarne pudełko.

Niektórzy znani fizycy traktują to jako argument, że to nie jest prawdziwe AI, bo to tylko przewiduje słowo. Ale fizycy z natury rzeczy lubią upraszczać, uogólniać świat, aby móc go opisać. Żeby po prostu planetę redukują do punktu masy, nie wnikając, co na tej planecie jest, tak samo tutaj. Ten produkt finalny rzeczywiście można tak opisać, ale przy opisywaniu bardziej złożonych procesów nie potrafią tego zrobić tak naprawdę. Przy dziesięciu elektronach już matematyka mechaniki kwantowej staje się tak skomplikowana, że nie da się tego przeliczyć tak naprawdę. A tutaj mamy do czynienia w środku, a nie tylko na końcu. Mamy do czynienia często z siecią neuronową, która ma 400 miliardów

To ja może zapytam, będę ci słowa, bo tak już na ten temat trochę rozmawialiśmy znowu przed nagraniem, ale jak tak opisujesz to i mówisz badamy, no to ja mam z tyłu głowy, no to my nie wiemy jak to działa, my mamy tą strukturę i patrzymy co tam się dzieje, więc czy my już na tym etapie przestaliśmy rozumieć jak to wszystko działa? To zależy, co rozumiemy pod pojęciem rozumienia. Operacje w LLM ilustrowane są często jako operacje w tej przestrzeni wielowymiarowej i same te operacje można zapisać od strony matematycznej. Można zmierzyć odległości pomiędzy tymi pojęciami, czy nawet szukać analogii, że wezmę sobie inne pojęcie, tą samą odległość, to się okazuje, że Hitler do Niemiec ma się jak Mussolini do Włoch na przykład.

I takie eksperymenty też są prowadzone. Ale czy można zrozumieć całą sieć? No nie do końca. Nie wiemy dokładnie jak wyglądają te abstrakcje na wyższym poziomie w tych głębszych warstwach. Te pierwsze to jeszcze jesteśmy w stanie wykryć. One są tworzone automatycznie po prostu w wyniku tego procesu trenowania, który jest bardzo kosztowny. Kosztuje na przykład wytrenowanie modelu GPT tego najsilniejszego 200 milionów dolarów już obecnie. Także tam do końca nie jesteśmy w stanie tego jakby zrozumieć szczegółowo i zapisać w postaci prostych reguł, że jeżeli neuron tam z warstwy którejś się zapali to jakby taka będzie odpowiedź.

Natomiast to nie powinno być celem moim zdaniem. Powinniśmy starać się budować sieci, architektury sieci, które coraz lepiej sobie radzą z różnego rodzaju zadań. Tak samo jak nie musimy rozumieć po prostu jak działa mózg ludzki, żeby on działał, żeby rozwiązywał różne zadania. To są tak skomplikowane rzeczy, że wydaje mi się, że nasze umysły nie są tego w stanie być może pojąć. Wybacz, że wejdę ci słowo. Wiem, że mieliśmy nie rozmawiać o filozofii, ale jak tak o tym powiedziałeś, to tak się zastanawiałem, czy przypadkiem nie jest trochę tak, że jak umysł człowieka czasami jest zepsuty i robi głupie rzeczy, to na ile AI też może być w pewnym momencie zepsuty i też robić głupie albo złe rzeczy.

Czy chcesz na to pytanie dodatkowo odpowiedzieć? Tak, może i to trzeba jakby założyć, że w rozwiązaniach sztucznej inteligencji mogą być błędy, tak jak lekarz ma poprawność 95% przeważnie, na przykład w diagnostyce czy w zabiegach, tak samo sztuczna inteligencja będzie popełniać błędy, bo to jakby są decyzje takie rozmyte. Marcin, to już myślałem, że to nie chodzi o jeden błąd, tylko ogólnie, że jest zły człowiek, czy może być zła sztuczna inteligencja, czy jesteśmy na etapie... To może być, jak najbardziej. Tym bardziej, że jest uczona na tym, co jest zapisane w tekstach w Internecie. I to już wiemy, że takie puszczenie inteligencji i uczenie z Internetu powoduje, że ona przeklina, w ogóle grozi.

Niestety to, co się w sieci odbywa trochę abstrahuje od tego, co jest w świecie rzeczywistym, gdzie spotykasz się z kimś w sklepie przypadkowo, gdzieś tam w rodzinie. Takich materiałów jest dużo mniej w sieci, więc jakby sieć jest trochę przekłamana, ten świat, który ona postrzega, moim zdaniem, nie jest tym światem rzeczywistym, gdzie masz tą codzienność taką po prostu, że przytulisz żonę czy uśmiechniesz się do sąsiada. Tych proporcje są zaburzone, tak? To jest ten bias w tym uczeniu, tak? Że te proporcje są złe po prostu, bo książki pisze się o jakichś tam zbrodniach, jakichś tam akcjach, prawda? Filmy tak samo. Coś, co się dzieje w życiu człowieka dwa, trzy razy, a nie ma tego 99% tego szarego życia. Więc proporcje, którymi sieć jest trenowana, moim zdaniem są zaburzone, przez to ona jest też zła, przez to też

Silniki, w sensie te AI są udostępniane po dużo niższych cenach albo wręcz za darmo po to, żeby mieć dostęp do tych lepszych praktyk, mimo to, że piszą, że się nie uczą na ich podstawie. No to nie wiadomo, czy to faktycznie tak nie jest i czy myślisz, że to jest taki kierunek, którym ta sztuczna inteligencja będzie w stanie jeszcze lepszy kod pisać albo będzie się w cudzysłowie uczyć na lepszych rozwiązaniach, które są w firmach, a obecnie one nie są publicznie dostępne. Tu pytanie, czy nie są dostępne, no bo jeżeli mamy Githuba, który jest w posiadaniu Microsoftu, nie śledziłem umów zapisu, ale wiele korporacji korzysta z Githuba. Pytanie, czy jest ten kod udostępniony po prostu też do uczenia modelu, tak?

Czy może być, czy nie? Nie wiem tego. Teoretycznie powinien być w prywatnych repozytoriach, ale być może gdzieś tam jakimś aktualizacją regulaminu to się zmieniło. Także tutaj różnie z tym może być. Na pewno takie firmy jak Microsoft uczą się na swoim kodzie. Oni mają też te fory, że po prostu, jeżeli mogą zrobić model pod siebie tak naprawdę. Po prostu ten model może znać dosyć dobrze kod Microsoftu. Przez to łatwiej jest im też iść w kodowanie niż takiemu na przykład człowiekowi z ulicy, gdzie uczy się na open source'owych często projektach te modele.

Od razu zapytam, czy uważasz, że dlatego też na przykład ChargyPit jest z tyłu? Przynajmniej ja tak odnoszę wrażenie, że od jakiegoś czasu nie dorównuję tym największym firmom. Tak mi się wydaje. Myślę, że wyścig trwa. Ja właśnie też przez pewien czas myślałem, że zastąpienie programisty przez AI to jeszcze długa droga, ale jak wyszły te modele z rozumowaniem, Czy np. chat GPT w wersji 5.2 w trybie thinking, to on mnie zadziwia jakością. Zmieniło się też koncepcja użycia. To nie jest jedno zapytanie, tylko de facto najpierw pytamy AI, jak ty byś rozmował nad tym problemem, czyli on sobie te kroki najpierw generuje, a potem wykonuje tą serię kroków, czyli to nie jest jedno przejście przez jeden prompt, tylko de facto jest to

Mam tu na myśli o taki zmysł artystyczny czy ułożenia tych wszystkich elementów. To potwierdzasz? Bo to jest ciekawe, bo większość osób raczej mówiło, że właśnie w pierwszej kolejności ten frontend zostanie zastąpiony. Wydaje mi się, że tam jednak jest interakcja z człowiekiem, projektowanie interfejsu pod człowieka i z tym sobie radzi jeszcze gorzej AI. Jak rozmawiam z moimi frontendowcami, to oni mówią, że te interfejsy są takie trochę randomowe. Niekoniecznie to jest to, czego oczekuje klient po prostu, czyli trudniej jakby zaprogramować konkretne rozwiązanie, które oczekuje klient, co też wynika z tego, że te modele nie były na początku trenowane wizualną stroną interfejsu, czyli widzi kod, widzi jakieś tam CSS-y, natomiast

Tak, tak. Pod potrzeby człowieka tak do końca, ale to wynika z tego, że często po prostu w procesie uczenia nie było obrazu na przykład. Teraz powstają te modele multimodalne, które zarówno obraz jak i tekst jednocześnie przetwarzają w jednej sieci. Być może to ulegnie zmianie, ale tutaj zbiory trenujące mogą być mniej dostępne. Tu nie chodzi o same możliwości algorytmów uczenia Zbiór trenujący, bo tak naprawdę to co dostajemy w dużej mierze bardziej zależy od tego czym uczymy, a nie nawet jaka jest architektura sieci. Obie rzeczy mają znaczenie, ale ten zbiór trenujący, czyli obraz powiązany z kodem tutaj ma znaczenie.