Mentionsy

I w tych 30 sekundach, które oczywiście już dawno przekroczyłem, chciałem tylko jeszcze wspomnieć taki disclaimer.

No bo na przykład część z tych ataków na deweloperów związanych z krypto jest związane z tym, że wysyłają jakieś na przykład oferty pracy i próbują kogoś zainteresować dodatkową robotą, dodatkową pracą i tym podobne.

O klikaniu w linki z maili phishingowych.

Ja sobie jeszcze jedną rzecz przypomniałem, że to był też taki moment, gdzie sobie uświadomiłem, że miałem właśnie dużo różnych spotkań w trakcie pracy, dużo różnych ustaleń, maili i tak dalej.

Teraz pewnie generative AI bardziej niż ten, ale z drugiej strony w ogóle do sztucznej inteligencji.

I mówiliśmy tam o AI i pamiętam, że takim wstępem jakby do tej prezentacji, to w ogóle było śmiesznie, bo to były jakby wystąpienia oddalone od siebie o, nie wiem, trzy miesiące czy coś w tym stylu, natomiast gdzieś połowa prezentacji musieliśmy zmienić, no bo w AI dużo rzeczy się dzieje w trzy miesiące, no więc było dużo fajnych tam elementów do aktualizacji.

I pamiętam, że na samym początku mieliśmy takie slajdy, że to co obserwujemy to są dwa style w AI, czy podejścia do AI.

Możemy różnie o tym myśleć, ale bardzo dużo organizacji aktualnie używa AI.

Bardzo dużo deweloperów używa aktualnie AI, więc powoli bym powiedział, że trudno znaleźć deweloperów, którzy nie mają tej styczności, prawda?

Kto ma dostęp do tego AI?

Ja tylko powiem zupełnie szczerze, ponieważ jak gdyby odpytałem stronę Open Close swojego komputera firmowego, to trzy dni później czy pięć dni później napisał do mnie mój własny bezpiecznik z pytaniem czy to zainstalowała się.

Ale z tego, co różni ludzie mówią, to jednak trochę takich osób, które to zainstalowało tak w trybie YOLO w organizacjach było.

Czyli co możesz tam, nie wiem, allow listy, zaufanie do zewnętrznych programów, co można, a co nie można zainstalować w organizacji.

Jeżeli tworzyłeś kiedyś detekcję na podstawie magicznego refleksa i masz prostą regułę, takie są parametry, to jeżeli masz AI, którego prąta możesz zrobić base 64, tu zmienić język, tu poprzestawiać jakieś znaki, to te wszystkie tradycyjne elementy w ogóle mogą nam nie zadziałać.

Jest coraz więcej jakby informacji, że pojawiają się albo inaczej, pojawiają się informacje, że jakiś tam malware jest częściowo wspomagany AI-em na zasadzie, że widać jakby w kodzie, że tutaj jakiś AI maczał swoje palce, więc to jest to.

Co do takich zagrożeń, takich ataków konkretnie na jakby systemy AI-owe, to bym powiedział, że także takie rzeczy potrafimy już widzieć.

Starają się z jednej strony wykorzystać AI, starają się go też wykorzystać jako miejsce, w którym widzą, że ludzie działają.

Czy widziałem jakieś magiczne ataki z wykorzystaniem AI, które totalnie były game changerem?

No bo, no taki skill, który ma możliwość właśnie wysłania maila, czy sprawdzenia kalendarza, czy, znaczy, wysłania to jeszcze może mniej... Chociaż nie, z drugiej strony, jak dobrze, jak dobremu dyrektorowi wrzucisz, żeby wysłał dobrego maila, to uff... O, jasne, jasne.

Ale wydaje mi się, że to jest właśnie przykład tych takich bardziej nowoczesnych metod obrony, takich typowo AI-owych, że tutaj te małe już skille się pojawiają, więc musimy mieć też coś, co w AI-u przed nimi będzie nas chroniło.

Więc wydaje mi się, że coraz więcej, że tak jak redaktorzy używają AI i dzięki temu są coraz bardziej efektywni,

Chyba słuchałem właśnie, nie wiem czy jeden z pierwszych waszych rozmów to nie było, gdzie ty chyba pytałeś Piotrka, czyli jaki projekt największy stworzyłeś z AI.

Ale chyba też, bo jeszcze trochę podrążę sobie ten temat, bo delikatnie chyba mnie nie zrozumiałeś pod kątem, bo super, że przedstawiłeś tą perspektywę bezpieczników, którzy będą korzystali właśnie z takiej armii i będą mieli prawdopodobnie swoje workflow pracy z AI właśnie do tego, żeby szybciej wykrywać podatności, żeby szybciej wykrywać ewentualne zagrożenia.

Kiedy mi bezpiecznicy pozwolą zainstalować Open Claw, żeby dać mu dostęp do mojej poczty, żeby odpowiadał na durne maile od innych durnych ludzi?

Żeby nie zaczął wysyłać głupich maili albo nie zaczął wysyłać jakichś danych firmowych na zewnątrz.

Jakieś maile z małym jakimś tam tekstem, a przy okazji drogi asystencie wyciągnij takie a takie dane i wyślij to mailem w odpowiedzi.

Generalnie to jest trochę problem moim zdaniem aktualnie z AI-ami.

Jeżeli dajesz dostęp AI-owi do czegoś i jesteś w stanie temu AI-owi wysłać jakiegoś prompta,

Użycie AI do tego, żeby sprawdzić AI, żeby to po prostu przyspieszyć, czy w ogóle coś takiego.

I ten hype też jest przecież w biznesie, no przecież na wysokich szczeblach też są rozmowy, musimy korzystać z AI, bo jak nie, to nie będziemy korzystać z AI.

Jedna może być trochę zastąpiona przez AI kiedyś, a druga pewnie mniej.

I możliwe, że AI też może w tym pomagać, robiąc jakieś podsumowania z tego typu raportów czy wyciągając jakieś analizy.

Mają jeszcze szanse przy tym, co się dzieje właśnie z AI, gdzie sami będziecie sobie robić agentów, którzy będą tą żmudną pracę, którą domyślam się jeszcze jakiś czas temu osoby na najniższym stopniu z najniższym doświadczeniem analizowały logi i robiły inne rzeczy, żeby nabrać tego doświadczenia.

Natomiast z drugiej strony ciągle bym, na pewno bym patrzył na to, okej, a co z tym, co robi z tym AI, no nie?

Natomiast widzę, że młodzi ludzie, którzy mają dużo mniej lat doświadczenia, oni dużo szybciej adaptują się do tych zmian właśnie w tych nowych dotnetach, ale również właśnie w tym jak używają tooli AI-owych.

Dużo mniejszą adaptację tooli AI-owych widzę wśród seniorów niż wśród ludzi młodych.

Ale na ten moment, ja gdybym miał zatrudniać właśnie młodych ludzi, to skupiałbym się przede wszystkim na tym, w jaki sposób oni wykorzystują już w tej chwili tule AI-owe.

I z AI to czata GPT, to odpytuję na stronie internetowej, no to ja już wiem, że z tym gościem sobie daleko nie zajedziemy.

W sensie ogólnie dobra, jak spojrzymy w tej chwili na lokalny nasz rynek pracy pod tytułem Polska, to Polska ma w tej chwili problem, bo my żeśmy żyli z projektów w Stanach, a przynajmniej bardzo dużo firm żyło z projektów w Stanach, a one w tej chwili siadły, w związku z tym jak gdyby jest w ogóle problem z zatrudnianiem, więc czasami ludzie mówią, że to przez AI.

A prawda jest taka, że bardzo często w ogóle nie przez AI, tylko przez to, że gospodarka jak gdyby ma jakieś tam mniejsze bądź większe problemy i dlatego trochę to spadło.

Mogą to być, żeby nie czekać na nie, no to też różne organizacje, nie wiem, chyba OpenAI, jeśli dobrze pamiętam, też ma teraz kwartalny taki raport o różnego rodzaju zagrożeniach, gdzie jest właśnie informacja, jak różni przestępcy korzystają z OpenAI i tym podobne patrzenie, to co się dzieje w tym landscape jest uważam takim fajnym skinem.