Mentionsy

Gdzieś z tyłu głowy zawsze czai się świadomość, że wystarczy jeden fałszywy krok, jedno zejście z trasy, aby zanurzyć się w absolutną niewiadomą.

Zawsze baliśmy się tego, co czai się w mroku.

Departament Obrony przechodzi symboliczną, acz wymowną transformację, a w przestrzeni publicznej zaczyna funkcjonować pod wskrzeszoną, archaiczną nazwą Departamentu Wojny.

Zjednoczone Emiraty Arabskie, Bahrain.

Bezpiecznej, ulotnej przestrzeni, gdzieś w eterze, gdzie trzymasz uśmiechnięte zdjęcia z wakacji, ważne maile służbowe czy też cyfrowe, archiwum swojego życia.

Ale gdzieś na samym dnie naszego umysłu zawsze czai się strach.

Tych samych zaawansowanych algorytmów sztucznej inteligencji, które na co dzień pomagają ludziom pisać maile, analizować gigabajty danych czy tworzyć skomplikowane kody programistyczne.

Naukowcy stworzyli wirtualne gry wojenne, symulacje globalnych kryzysów, napięć dyplomatycznych i konfliktów granicznych, w których w rolę głównodowodzących państwami wcieliło się AI.

Można naiwnie zakładać, że superinteligentny system obdarzony wiedzą zebraną z całej historii ludzkości znajdzie idealne, pokojowe rozwiązanie każdego sporu.

Chce maszyny, która nie będzie miała skrupułów i często wykorzystuje do tego właśnie modele AI, te same, których my również używamy.

Co jeśli człowiek podejmujący ostateczną decyzję spojrzy na wygenerowany przez AI plan uderzenia prowadzący do globalnego konfliktu i nie poczuje w sercu przerażenia, lecz uniesienie?

Pamiętasz jak zimne, pozbawione sumienia i lęku przed śmiercią modele AI w symulacjach wojskowych z chłodną precyzją sugerowały użycie broni nuklearnej?

Dziś decydenci owładnięci eschatologicznym akceleracjonizmem, wspierani przez najpotężniejszą i pozbawioną sumienia AI, mają w swoich rękach narzędzia, aby upewnić się, że ich proroctwo faktycznie się spełni.