Fabryka AI on-premise: Jak chronić dane i rozwijać AI na własnych warunkach
W dzisiejszym odcinku podcastu „Business Tech Talks powered by BlueSoft” omawiamy kluczowe zagadnienia dotyczące lokalnego przetwarzania sztucznej inteligencji, czyli AI on-premise, skupiając się na bezpieczeństwie danych, suwerenności technologicznej oraz analizie kosztów w porównaniu do rozwiązań chmurowych. Eksperci z BlueSoft oraz Integrated Solutions analizują procesy wdrożeniowe, koncepcję „AI Factory” oraz trendy, które sprawiają, że zaawansowane modele AI stają się dostępne dla szerokiego spektrum organizacji.--W BlueSoft od 2002 roku łączymy technologię z biznesem, pomagając firmom osiągać sukces. Naszą pasją jest innowacja, a celem – dostarczanie rozwiązań IT, które realnie wspierają rozwój organizacji na całym świecie. www.bluesoft.com
Może modele już takie duże nie rosną, stara się właśnie też optymalizować. No właśnie, bo tutaj, przepraszam, że się tak przerwę, Patryk, ale też ja to pytanie wam zadałem, ale też mam jakieś swoje własne przemyślenia na ten temat, bo jeden powód to jest taki, że wreszcie mamy sprzęt, który pozwala nam uruchamiać takie modele lokalnie, bo jeszcze 2-3 lata temu tego nie było. Mieliśmy jakieś GPU, ale te GPU są nieporównywalnie szybsze obecnie, jakie mamy obecnie. Mam już wyspecjalizowane układy NPU, czyli ten Neural Processing Unit. Plus to, co właśnie powiedziałeś w tej chwili, jest bardzo ważne, że te modele przestały rosnąć, że one rosły. O tym bardzo fajnie opowiadał Wojtek Janusz, nasz wspólny z Neomy. Opowiadał, że modele nam rosły, że mieliśmy najpierw 100 miliardów, 200 miliardów parametrów, bilion parametrów i rosły te modele. Ale teraz mamy taki trend do budowania mniejszych modeli, które mają na przykład kilkadziesiąt albo nawet kilkanaście miliardów parametrów i wykonują swoje zadanie tak samo skutecznie jak te modele,
Pokazano wszystkie 1 dopasowanie. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Kliknij, aby znaleźć fragmenty, w których pada.
W dzisiejszym odcinku podcastu „Business Tech Talks powered by BlueSoft” omawiamy kluczowe zagadnienia dotyczące lokalnego przetwarzania sztucznej inteligencji, czyli AI on-premise, skupiając się na bezpieczeństwie danych, suwerenności technologicznej oraz analizie kosztów w porównaniu do rozwiązań chmurowych. Eksperci z BlueSoft oraz Integrated Solutions analizują procesy wdrożeniowe, koncepcję „AI Factory” oraz trendy, które sprawiają, że zaawansowane modele AI stają się dostępne dla szerokiego spektrum organizacji.--W BlueSoft od 2002 roku łączymy technologię z biznesem, pomagając firmom osiągać sukces. Naszą pasją jest innowacja, a celem – dostarczanie rozwiązań IT, które realnie wspierają rozwój organizacji na całym świecie. www.bluesoft.com