Mentionsy

Na ile tak naprawdę możemy ufać kodowi, który generuje nam AI?

Właśnie, a pod powierzchnią mogą się czaić naprawdę poważne problemy.

To nie jest pytanie, czy AI robi błędy, tylko jakiego rodzaju są to błędy i jak trudno je potem znaleźć.

Z jednej strony badanie Clutch mówi, że prawie 60% programistów przyznaje, że używa kodu AI, którego tak do końca nie rozumie.

Dane od Google czy Microsoftu mówią o ponad 30% nowego kodu pisanego przez AI.

Tylko problem jest w tym, że AI nie myśli jak inżynier.

Że AI jest jak taki niesamowicie szybki, ale bardzo, bardzo niedoświadcony młodszy programista.

Czyli AI uki się na tych złych przykładach.

AI, ucząc się na jakichś starych tutorialach, może wygenerować zapytanie do bazy przez proste sklejanie stringów.

AI naprawdę nas cofa do tych mrocznych wieków programowania.

AI mogło polecić tę wersję, nie mając zielonego pojęcia, że jest w niej krytyczna luka.

AI nie rozumie tych niewidzialnych zasad biznesowych, tych niuansów, które wynikają z lat rozwoju produktu i żyją tylko w starych komentarzach albo w głowach zespołu.

Wyobraź sobie, że AI dostaje zadanie.

AI, dążąc do optymalizacji, nie widzi tej zasady.

AI optymalizuje zapytanie SQL, robi się szybsze, ale przy okazji inaczej interpretuje wartości 0 i nagle komieszęczny raport finansowy, który na tym polegał, zaczyna pokazywać bzdury.

No tak, prawa autorskie do kodu AI to jest totalna szara strefa.

AI może odtworzyć kawałki kodu, które widziało w danych treningowych, a te mogą pochodzić z projektów z bardzo restrykcyjnymi licencjami, jak GPL.

Musimy traktować kod od AI

Wiesz, bardzo skuteczną praktyką jest programowanie w parach, kiedy intensywnie korzystamy z AI.

Inną dobrą praktyką wspomnianą w materiałach jest oznaczanie pól requestów specjalnym tagiem, na przykład AI generated.

happy path, czyli ten idealny scenariusz, a błędy AI często czają się w przypadkach brzegowych.

Nigdy nie pozwalamy na luźne zakresy wersji, zwłaszcza dla pakietów, które podsunęło nam AI.

Gdzie w takim razie leży ten złoty środek, gdzie AI jest naprawdę użyteczne i bezpieczne?

Bo trzeba pamiętać, że AI to jest fenomenalny asystent, a nie autonomiczny inżynier.

To są nużące zadania, które AI robi błyskawicznie i w zasadzie bezbłędnie.

A po trzecie, AI jest świetnym narzędziem do nauki i inspiracji.

Wielu programistów liczy, że AI zdejmie z nich ten obowiązek.

AI jest dobre we wstępnym generowaniu szkieletu testów.

Te, o których AI nie miało pojęcia.

Jeśli od początku kariery będą polegać na AI, to mogą nigdy nie zbudować tych solidnych, fundamentalnych umiejętności rozwiązywania problemów od podstaw.

Gdy ta nawigacja oparta na AI poprowadzi cały projekt prosto w przepaść, to kto wtedy będzie umiał znaleźć drogę powrotną używając tylko mapy i kompasu?