Agentic AI bez złudzeń. Jak firmy tracą kontrolę nad AI?

A dzisiaj doszliśmy trochę do takiego modelu, gdzie ten agentowy AI może coś za nas zrobić. I to jest chyba coś, co tak naprawdę, czego oczekiwaliśmy od samego początku. To znaczy, że uruchomimy sobie Excela, powiemy Copilotcie, zrób mi tutaj magię z raportami i podsumuj. No i że on to zrobi za nas bez naszego nadzorowania. IT zablokowało Chata GPT, no to ludzie robili zdjęcia dokumentów z telefonami, ocerowali je na telefonie, a następnie wrzucali na telefonie do Chata GPT. Więc ten biznes, jeżeli nie damy mu jakichś narzędzi, to pewnie znajdzie jakąś drogę. Od trzech lat rozmawiałem z klientami o Copilocie. Każdy wspominał, no gdzieś Chata GPT nasz biznes wykorzystuje, ale trzy razy tylko słyszałem, ale anonimizuje dane przed wykorzystaniem.

Cześć, witam wszystkich. Dominik Wasilewski w kolejnym odcinku podcastu Digital Dexterity Labs. W trochę innym tutaj ustawieniu, w trochę innym setupie, ponieważ dzisiaj mamy aż dwóch gości. Kasia Nowicka, Microsoft MVP i Szymon Bochniak, również Microsoft MVP. To może dla tych, którzy jeszcze nie wiedzą być może kim jest Microsoft MVP, to w skrócie Kasiu może ty byś zaczęła, czym się zajmujesz i co to oznacza być tym MVP? Jasne. Witam wszystkich serdecznie. Kasia Nowicka. Moim tytułem jest Senior Solutions Engineer w firmie AvePoint. Natomiast tak, mam tytuł Microsoft MVP w kategorii Copilot i Microsoft 365.

Co znaczy MVP? No Szymon, myślę, że tutaj możemy razem wspólnie wypracować jakąś definicję. Jest to nagroda przyznawana przez Microsoft retroaktywnie, tak? Wkład w szerzenie wiedzy technologicznej i budowanie community, jeżeli chodzi właśnie o te technologie Microsoft. Myślę, że tak w skrócie, tak Szymon? Tak, tak. Specjaliści, którzy pomagają gdzieś, dzielą się wiedzą w zakresie jakiejś technologii właśnie, czy to Copilota, czy Microsoft 365, Technologie Azure'owych. Są gdzieś tam odkryci przez Microsoft i rekomendowani jako tacy specjaliści, którzy mogą być pomocni i co więcej jest wysoce prawdopodobne, że będą mieli jakąś wiedzę techniczną na poziomie zaawansowanym w tym zakresie.

To już nie jest takie Tylko, a mamy Gen AI w firmie i pytamy, do co stajemy odpowiedź i takie tak naprawdę typu, typu interakcji, to już bardziej jest o, mówimy o sytuacjach, gdzie mamy właśnie tych agentów, tak. No i tutaj skupiamy się na tych różnych rzeczach typu governance, monitoring, scaling, tak. Jak dokładnie takie scenariusze, w jakich pomagamy z agentami, tak. Ja bym od siebie dodał, że chyba to jest też taka zmiana w kontekście tego, jak myśleliśmy o AI, bo rzeczywiście wyszliśmy od takich prostych scenariuszy typu właśnie, podsumuj mi spotkanie, czyli ten taki scenariusz, który chyba z nami jest od samego początku, gdzie rozmawiamy czy o czacie GPT, czy o Copilocie, czy o jakichś innych narzędziach.

A dzisiaj doszliśmy trochę do takiego modelu, gdzie ten agentowy AI może coś za nas zrobić. I to jest chyba coś, czego oczekiwaliśmy od samego początku. To znaczy, że uruchomimy sobie Excela, powiemy Copilotie, zrób mi tutaj magię z raportami i podsumuj. No i że on to zrobi za nas bez naszego nadzorowania. I taki model pracy znajdziemy i w Copilocie, ale i to co tutaj Katarzyna podniosła, czyli takich typowych agentów zbudowanych po to, żeby jakiś proces zdigitalizować, zautomatyzować z użyciem AI. No to rzeczywiście to jest o tyle zmiana, że gdzie o Copilocie rozmawialiśmy o takiej personalnej produktywności, trochę oszczędności czasu, może czasem usprawnieniu procesu, no to tutaj mówimy już o automatyzacji i całkowicie czasami albo częściowo zastąpieniu roli człowieka.

Ja podam taki przykład, nie wiem, od trzech lat rozmawiam z klientami o Copilocie. Każdy wspomina, no gdzieś czata GPT, nasz biznes wykorzystuje, ale trzy razy tylko słyszałem, ale anonimizuje dane przed wykorzystaniem. Więc no te setki innych rozmów mogłyby wskazywać na to, że tej anonimizacji danych nie ma. Czy to jest zrobione z pełną odpowiedzialnością, z pełną świadomością, co się z tymi danymi stanie? Bardzo trudno powiedzieć. Myślę, że to co Katarzyna powiedziała, że jeśli mamy narzędzie, które jest w stanie nam pokazać, że jesteśmy dziełem IT, że ten Shadow AI gdzieś się dzieje, że jakieś narzędzia są wykorzystywane, że jacyś agenci AI są wykorzystywani, no to nam pomoże trochę sobie, że tak powiem, zwizualizować, może otworzyć oczy, że coś takiego się dzieje. Ale nawet chyba bez tego, myślę, że możemy śmiało założyć, że no wysoce prawdopodobne, że tak jest, że gdzieś ci ludzie jakieś narzędzia AI wykorzystują.

Czy odpowiedzialnie? Bardzo trudno powiedzieć. Tutaj też wracamy do tego aspektu świadomości adopcji, że słuchajcie, możecie używać usankcjonowanych przez firmy rozwiązań, bo one już są, nie musicie właśnie gdzieś tam bokiem przechodzić do tego czata GPT, skoro macie na przykład Copilot. Myślę, że fundamentalnie podstawowe jest to, że trochę organizacje się tego boją. Nie wiem w sumie dlaczego. CoPilot Chat Basic, czyli ta darmowa wersja jest, ale ona jest bezpieczna dla naszych danych. Te dane nie są udostępniane, nie są przetwarzane. Są obsługiwane w ramach naszego tenanta, naszego środowiska. To jest takie bardzo proste rozwiązanie, co zrobić, żeby ten biznes nie szedł z naszymi danymi gdzieś dalej.

Rozmawiamy dzisiaj właśnie o tym, że ta kontrola, jakiś nadzór, weryfikacja tego, co się dzieje, jest konieczna. Będziemy na webinarze, który będziemy organizować, pokazywać, w jaki sposób, używając narzędzi natywnych, można monitorować agentów, można weryfikować dostępy do danych, co Microsoft udostępnia w pudełku wraz z licencją Copayota, żeby móc podglądnąć to, jak ludzie korzystają z agentów, Co ci agenci robią, ale jednocześnie kto ma dostęp do jakichś danych, żeby na przykład nie znaleźć tej sekretnej pensji prezesa używając AI. Ale też trzeba sobie zdawać sprawę, że im większa organizacja, im większa liczba danych, wolumen danych, liczba agentów, no to pewnie i też coraz bardziej profesjonalne narzędzia będą do tego potrzebne, dlatego też będziemy pokazywać narzędzia AvePointa.