ChatGPT - czy może być niebezpieczny?

Programiści też się cieszą, bo może prace nie stracą, a mają pomoc. A czy cyberprzestępcy też się cieszą, że takie coś właśnie się pojawiło i mogą zrobić z tego użytek? No niestety cieszą się i to bardzo ku mojemu i moich kolegów nieszczęściu, bo my korzystaliśmy do tej pory już ze sztucznej inteligencji w tych rozwiązaniach, które nas chronią przed cyberprzestępcami, no ale w tej chwili narzędzie ChatGPT jest tak dużym, że boimy się tego. I co teraz ci cyberprzestępcy robią, tak? No bo można by się zastanowić, no to co oni tam robią? No okazuje się, że ten chat potrafi napisać malware. Malware, czyli taką nowoczesną formę wirusa, może napisać kawałek kodu, który będzie eksploitował jakieś fragmenty oprogramowania, a więc będzie szukał luki.

Po prostu na tacy podane wszystkie informacje. Nie muszą naprawdę wiele wiedzieć, a czat za nich jest w stanie te wszystkie informacje zrobić, podać im. No oczywiście trzeba go troszeczkę tam oszukać, czyli znowu powiedzieć, że to jest hipotetyczne albo... I będę pisać sztukę albo audycję radiową nagrywać. No dokładnie właśnie tak. Ale jest to duże zagrożenie i obawiamy się tego, co może być. Ale dlaczego, skoro ten czat był przez kogoś uczony różnych rzeczy, to dlaczego tych złych też go nauczyli? Nauczyli go dlatego, że pisząc exploita czy pisząc jakiś malware, każdy z programistów wcześniej uczy się jak taki malware wygląda, jak taka próbka wygląda. Bardzo często to polega na reverse engineering, czyli bierzemy takiego wirusa czy taki malware współczesny i Próbujemy odczytać ten kod w stronę wsteczną, tak żeby dowiedzieć się jak twórca tego malwareu to stworzył.

No i te wszystkie informacje są dostępne w internecie. Te osoby, które pracują w firmach, które zajmują się chociażby antywirusami, one się tego uczą, więc to jest wiedza powszechnie dostępna. Natomiast dla człowieka ludzkiego nie każdy będzie w stanie taką wiedzę zrozumieć, a potem wykorzystywać, żeby pisać to oprogramowanie antywirusowe. A tutaj taki Machine Learning, a więc po prostu inny program komputerowy jest w stanie to po prostu... On tego nie musi rozumieć, tak? On po prostu wykona komendy i to będzie działało. I teraz cyberprzestępcy zamiast głowić się, no jakby to było, jak ten malware się pisze, jakby tu wyeksploitować, no to mogą udawać mądrych i po prostu temu chatowi powiedzieć, słuchaj, potrzebuję znaleźć eksploita tu i tu, no to weź mi pomóż znaleźć, tak? Albo zrób mi tutaj reverse engineering, co nie jest proste, dla jakiejś konkretnej próbki.