Mentionsy

Witajcie w dzisiejszej głębokiej analizie, którą tworzymy w ramach społeczności Data Zen.

To jest wspaniała technologia.

Po to, żeby osoby zarządzające projektami wiedziały jak bezpiecznie wdrażać te rozwiązania.

Słuchaj, w raportach na pierwszym miejscu pojawia się brak rzeczywistego problemu biznesowego.

Bo jeśli twój produkt to tylko nowa zakładka do tego, co zaraz zrobi gigant technologiczny, to wiesz, to nie jest żaden model biznesowy.

Że na zapleczu siedziała armia programistów i wpisywała kod ręcznie.

W materiałach mamy spory rozdźwięk między oczekiwaniami biznesu, a tym, co widzą zespoły techniczne.

W infrastrukturę AI pompuje się obecnie 527 miliardów dolarów.

Dług technologiczny jest tak wielki, że kod staje się nieczytelny.

Dokładnie, a to prowadzi bezpośrednio do problemów z bezpieczeństwem.

Przez podstawowe braki w inżynierii bezpieczeństwa tysiące serwerów z kluczami API wystawiono bezpośrednio do publicznego internetu.

W pierwszym kwartale 2025 roku liczba inwestycji w EC spadła nam z ponad 2500 do około 2100.

Czy w takim świecie zwykłe, proste rozwiązanie nie jest po prostu lepsze od pchania wszędzie AI?

Zdecydowanie jest lepsze.

A potem zrobili krok w tył, zrozumieli o co pytają użytkownicy, wzięli zwykły mały model, dostroili go tak zwanym fine tuningiem i zjechali z kosztami do 8 tysięcy dolarów.

W Chinach przecież Deep Seek pokazał, że znacznie mniejsze, ale sprytne modele kładą na łopatki te gigantyczne.

Użytkownik myśli, że gada z inteligentnym AI, a na zapleczu człowiek ręcznie odpisuje na czacie.

Jak technicznie i bezpiecznie rozpocząć taki projekt?

Zanim w ogóle padnie pierwsza linijka kodu, robimy ADRy, czyli Architectural Decision Records.

Spisujemy żelazne zasady bezpieczeństwa, po których model może się poruszać.

A krok trzeci to walidacja pod kątem bezpieczeństwa, co płynnie łączy się z rynkowymi patologiami.

I jeśli programista nie sprawdzi kodu od asystenta, pobierze wirusa prosto do firmowej sieci.

Jeśli widzimy, że rosną, to znaczy, że dług technologiczny nas zjada.

I na koniec krok piąty, czyli ulepszanie przy ciągłym patrzeniu na koszty inferencji.

Pełny artykuł ze wszystkimi przykładami, konkretnymi danymi i linkami znajdziecie pod adresem datazen.toppodcasts.ai17.

Bardzo polecam tam zajrzeć.

Ja bym chciała jeszcze na sam koniec zostawić słuchaczy z taką jedną, szerszą refleksją z naszych materiałów.