Fabryka AI on-premise: Jak chronić dane i rozwijać AI na ​własnych warunkach

I jesteśmy jeszcze na dokładkę uzależnieni od tych zewnętrznych technologicznych dostawców. Jak zatem chronić nasze dane? Jak zachować naszą technologiczną suwerenność? Najlepiej przez lokalne przetwarzanie danych, czyli tak zwane AI on-premise, czyli uruchamianie właśnie takich modeli sztucznej inteligencji. W naszych serwerowniach, w naszych datacenter czy rozwiązaniach, nad którymi mamy po prostu pełną kontrolę. Dzisiaj w podcaście Business Tech Talks powered by BlueSoft będziemy właśnie rozmawiać o tym lokalnym przetwarzaniu danych AI. Jakie są tego możliwości i jakie ograniczenia? O tym za chwilę porozmawiam z moimi ekspertami. Ja się nazywam Paweł Pilarczyk, a moimi rozmówcami są eksperci. Piotr Palęcki, pasjonat informatyki i oprogramowania związany z branżą IT od 10 lat.

Każdy z nas chyba widzi, że czasy są jakie są i w momencie włączenia tej sztucznej inteligencji do kluczowych procesów biznesowych i tutaj nawet nie mówimy o obecnej perspektywie tych, powiedzmy, asystentów bądź agentów, którzy operują w świecie cyfrowym, ale powiedzmy robotyzację pewnych linii przemysłowych, wpięcie tam modeli, I jeśli w takim etapie jesteśmy uzależnieni od zewnętrznego dostawcy lub też od decydenta, który może jednym podpisem wyłączyć AI dla Polski bądź dla Europy, no wtedy fabryka robi stop. I to jest dosyć istotne, właśnie budowanie też rodzimych kompetencji, budowanie rodzimych rozwiązań i pełna kontrola nad tą technologią.

Więc tutaj jest też taka ciekawa właśnie, ciekawy rzut na to, że Możemy, nawet jeśli teraz te modele w cloudzie są dużo lepsze niż te, które na przykład testowaliśmy teraz bądź kwartał temu, z dużym prawdopodobieństwem możemy założyć, że za kwartał bądź dwa kwartały dostaniemy te modele na licencji open source i będziemy mogli przenieść dokładnie te same możliwości do naszych data center. To jest podcast Business Tech Talks powered by BlueSoft. Rozmowy, które kształtują przyszłość. Ustaliśmy, że model taki on-premise ma bardzo dużo zalet, czyli mamy właśnie kontrolę nad kosztami, bezpieczeństwo, od tego tak naprawdę chciałem zacząć, od bezpieczeństwa.

Mamy największe bezpieczeństwo w przypadku takich modeli, możemy kontrolować lepiej koszty, mamy również kontrolę nad różnymi regulacjami prawnymi, o którym trochę tutaj Piotrze wspomniałeś, czyli jesteśmy przygotowani na różne regulacje typu RODO, zabezpieczenie danych osobowych. Jest bardzo dużo takich regulacji, które możemy spełnić dzięki właśnie takim rozwiązaniom. Natomiast teraz pytanie brzmi, jakie dane w takim razie nie powinny wychodzić właśnie do chmury i powinny zostać w chmurze? Jakie organizacje w pierwszej kolejności powinny się decydować na takie rozwiązania AI on-premise? Jakiego typu właśnie kategorie, sektory, branże to są te, które będą największymi beneficjentami AI on-premise?

Finanse, no to wynika wprost z regulacji prawnych. Nie pozostawiono im zbyt wiele swobody i z tego powodu właśnie bardzo często ten on-premise jest czymś, pomimo globalnej skali banków, to z kolei z drugiej strony właśnie pojawia się ten element niepewności, co z tymi danymi się może wydarzyć na różnych zakrętach historii w tych niepewnych czasach, w których żyjemy. Administracja publiczna, jeszcze o tym mówiliśmy. Administracja publiczna zdecydowanie pracuje na naszych danych, na PESEL-ach. Tutaj zresztą możemy też przywołać parę przykładów ze świata, gdzie już całe państwa się zastanawiają, rządy się zastanawiają nad tym, na ile ta chmura publiczna jest bezpieczna. Przykładem niech będzie Kanada czy Francja, bo w jednym i drugim przypadku

Taki ciekawy film, gdzie taki humanoidalny robot pracuje w fabryce. Tak, Figure 02. Dokładnie. I on ma tą inteligencję. Tam jest ten albo jest model embedded, albo jest on hostowany gdzieś blisko tej fabryki. Musimy mieć nad tym kontrolę. I to jest właśnie też ważne, że w końcu dostęp do takich rozwiązań AI on-premise jest dostępny nie tylko dla największych korporacji, których stać na to, żeby kupić sobie jakieś potężne data center, tylko ten bardziej dostępny, bardzo szybki sprzęt, który bardzo staniał. To jest dosłownie tam grube dziesiątki procent o tyle Powiedzcie mi jeszcze, co to jest Fabryka AI? Jak się ma do tych rozwiązań, o których dzisiaj rozmawiamy?

Nie tylko właśnie już ten sprzęt fizyczny, technologie, platformy, które oferujemy i ten software, ale też właśnie tę część, te wszystkie aspekty, które są cross przypadki biznesowe, czyli właśnie governance. Bezpieczeństwo, zarządzanie właśnie tymi danymi, procesami, monitorowanie, ocena jakości, co jest teraz też bardzo istotne. Wydaje mi się, że kluczowa i wiele firm też idzie do przodu z pewnymi feature'ami, a nie poświęca wystarczająco dużo czasu, aby zastanowić się jak badać te systemy i ewaluować te systemy wykorzystujące sztuczną inteligencję. Ale właśnie też odnosząc się do takiej klasycznej fabryki i też powiedzmy do tego, o czym wspominał Jensen z NVD.

To co powiedzieliśmy tutaj, podkreślaliśmy wielokrotnie, że to jest najważniejsze. www.bluetooth.com Może nie dla wszystkich, ale dla dużo większej grupy osób niż rok czy dwa lata temu ze względu na malejący koszt sprzętu i lepszą optymalizację samych modeli. No i im więcej używasz, tym mniej płacisz, jeżeli chodzi o on-premise. Można sobie dzięki temu również w dłuższej perspektywie zredukować koszty. Więc warto pochylić się nad tym rozwiązaniem AI on-premise.