Fabryka AI on-premise: Jak chronić dane i rozwijać AI na ​własnych warunkach

Słuchasz podcastu Business Tech Talks powered by BlueSoft. Pokazujemy jak AI, chmura i technologie przyszłości tworzą realną wartość dla organizacji. Rozmowy z liderami i praktykami bez hype'u z perspektywą ludzi, którzy na co dzień kształtują kierunek zmian na styku technologii i biznesu. Wdrożenie narzędzi AI pozwala przyspieszyć i zautomatyzować bardzo wiele procesów. Standardowe narzędzia AI dostarczane przez zewnętrznych dostawców najczęściej działają jednak w chmurze. I wiąże się z tym wiele różnych problemów. Na przykład taki, że nie wiemy, czy nasze dane przypadkiem nie będą wykorzystywane do trenowania modeli sztucznej inteligencji. Nie wiemy, gdzie te dane są w ogóle przetwarzane i przechowywane.

I jesteśmy jeszcze na dokładkę uzależnieni od tych zewnętrznych technologicznych dostawców. Jak zatem chronić nasze dane? Jak zachować naszą technologiczną suwerenność? Najlepiej przez lokalne przetwarzanie danych, czyli tak zwane AI on-premise, czyli uruchamianie właśnie takich modeli sztucznej inteligencji. W naszych serwerowniach, w naszych datacenter czy rozwiązaniach, nad którymi mamy po prostu pełną kontrolę. Dzisiaj w podcaście Business Tech Talks powered by BlueSoft będziemy właśnie rozmawiać o tym lokalnym przetwarzaniu danych AI. Jakie są tego możliwości i jakie ograniczenia? O tym za chwilę porozmawiam z moimi ekspertami. Ja się nazywam Paweł Pilarczyk, a moimi rozmówcami są eksperci. Piotr Palęcki, pasjonat informatyki i oprogramowania związany z branżą IT od 10 lat.

Czy mówimy o wręcz całym programie? Możemy też, wydaje mi się, podnieść to do rangi transformacji i AI, gdzie chcemy dostarczyć pewną platformę i nie mówię tutaj tylko o technologii, ale też właśnie o procesach, o governance, o umocowaniu tego rozwiązania w organizacji i wykorzystywania go w skali firmy. Może na początku w skali pojedynczych projektów lub business unitów, Names mentioned on-premise.

Operując wręcz na liczbach. Właśnie jakiś czas temu też słuchałem podcastu bądź oglądałem jakiś talk ze statystyk wykorzystania Cloud Coda przez wysoce wyspecjalizowany taki zespół software inżynierów w jakimś startupie w San Francisco. Wiemy, że oni dosyć szybko dokonują tej adopcji technologii i są raczej Raczej troszkę z przodu może, przed światem. I tamten rachunek dla trzech deweloperów za miesiąc wynosił powyżej 12 tysięcy dolarów. Z moich obliczeń i analizy właśnie tego diagramu, który pokazali właśnie wspominałem o tym, że to wyszło, że taki pojedynczy deweloper mógł kilka milionów tokenów dziennie, co przekładało się z kolei na set milionów tokenów w skali zespołu, w skali miesiąca.

Więc tutaj jest też taka ciekawa właśnie, ciekawy rzut na to, że Możemy, nawet jeśli teraz te modele w cloudzie są dużo lepsze niż te, które na przykład testowaliśmy teraz bądź kwartał temu, z dużym prawdopodobieństwem możemy założyć, że za kwartał bądź dwa kwartały dostaniemy te modele na licencji open source i będziemy mogli przenieść dokładnie te same możliwości do naszych data center. To jest podcast Business Tech Talks powered by BlueSoft. Rozmowy, które kształtują przyszłość. Ustaliśmy, że model taki on-premise ma bardzo dużo zalet, czyli mamy właśnie kontrolę nad kosztami, bezpieczeństwo, od tego tak naprawdę chciałem zacząć, od bezpieczeństwa.

Panowie, bardzo wam dziękuję za rozmowę. Piotrek, Patryk, dzięki, że przyjęliście zaproszenie do studia. A naszych widzów oczywiście serdecznie zapraszam do oglądania kolejnych odcinków podcastu BlueSoft. Śledźcie nas i komentujcie nasze dotychczasowe nagrania. Do zobaczenia. Dzięki. Dzięki, cześć. To był podcast Business Tech Talks powered by BlueSoft. Więcej odcinków znajdziesz na BlueSoft.com, Spotify, YouTube oraz Apple Podcasts. Subskrybuj, aby nie przegapić kolejnych rozmów o strategii, innowacjach i wynikach.