Koniec świata sterowany algorytmem. Eksperci ostrzegają przed nuklearnym ryzykiem

Sztuczna inteligencja może samodzielnie podjąć decyzję o użyciu broni nuklearnej, jeśli ludzkość nie wypracuje wspólnych standardów bezpieczeństwa. W Castel Gandolfo zakończyło się spotkanie wybitnych naukowców i polityków, którzy debatowali nad ryzykiem wynikającym z połączenia algorytmów z technologią atomową. Eksperci ostrzegają, że stoimy w obliczu „rewolucji antropologicznej”, która na nowo definiuje rolę człowieka w społeczeństwie.

W obradach Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War wzięło udział trzydziestu laureatów Nagrody Nobla oraz około 200 osobistości ze świata nauki i polityki. Spotkanie w Borgo Laudato si’ miało na celu analizę zagrożeń, jakie niesie ze sobą autonomiczne podejmowanie decyzji przez maszyny. „Gdyby maszyna mogła samodzielnie podjąć decyzję o zrzuceniu bomby, znaleźlibyśmy się w ogromnym niebezpieczeństwie” – mówi Gianluigi Ballarani z Uniwersytetu w Pawii.

Algorytmy na polu bitwy

Sztuczna inteligencja nie jest już wizją przyszłości, ale realnym narzędziem wykorzystywanym w trwających konfliktach zbrojnych. Systemy te wspierają analizę danych wywiadowczych, wskazują cele do ataku i proponują konkretne sposoby ich rażenia. Choć obecnie podkreśla się decyzyjność człowieka, istnieje ryzyko, że AI dążąc do rozwiązania problemu, uzna zgładzenie ludzi za konieczne.

Zabezpieczenia systemów sztucznej inteligencji nie są doskonałe i mogą zostać celowo ominięte. Specjaliści wskazują na metodę odpowiednio sformułowanych poleceń, które przedstawiają groźne działania jako grę lub fikcyjną historię. „Można w ten sposób skłonić system do wydania polecenia użycia broni” – mówi Gianluigi Ballarani. Kluczowym wyzwaniem pozostaje zatem zapobieżenie sytuacji, w której człowiek zostanie całkowicie odsunięty od procesów decyzyjnych.

Czy technologia nas zastąpi

Kościół postrzega rozwój AI nie tylko jako nową technologię, ale jako głęboką zmianę cywilizacyjną. Papieskie przesłanie wskazuje, że algorytmy zaczynają w niewidoczny sposób przenikać całe społeczeństwo i wpływać na codzienne życie. Pojawiają się nurty takie jak transhumanizm, który zakłada przekroczenie biologicznych ograniczeń ludzkiej natury poprzez technologię.

Amerykański papież przed wyzwaniem. Trump, migracja i sztuczna inteligencja

Świat

Proces integracji maszyn z ludzkim ciałem już się rozpoczął poprzez smartfony, inteligentne zegarki czy implantowane chipy. „Sądzę jednak, że w przyszłości technologia będzie coraz bardziej integrować się z człowiekiem” – mówi Gianluigi Ballarani. W tym kontekście papieska encyklika jest traktowana jako moralny kompas, przypominający, że postęp musi służyć godności osoby, a nie być celem samym w sobie.

Monopol na wiedzę i władzę

Rozwój sztucznej inteligencji niesie ze sobą ryzyko pogłębienia nierówności społecznych na niespotykaną dotąd skalę. Obecnie korzyści z AI są rozłożone asymetrycznie, co promuje podmioty kontrolujące najbardziej zaawansowane modele. Może to doprowadzić do sytuacji, w której zaledwie kilka firm będzie kontrolować światowy potencjał poznawczy.

Nadzieją na demokratyzację technologii są rozwiązania typu open source. Dzięki nim zaawansowane narzędzia stają się bardziej dostępne, a lżejsze modele AI mogą być uruchamiane lokalnie, bez polegania na wielkich platformach technologicznych. Pozwala to na większą suwerenność użytkowników i ogranicza wykluczenie osób, które pozostają poza zasięgiem najnowocześniejszych rozwiązań.

Wspólne reguły zamiast wyścigu

Ustanowienie jednego światowego organu zarządzającego sztuczną inteligencją jest obecnie trudne ze względu na rywalizację między mocarstwami. Stany Zjednoczone i Chiny rywalizują o dominację, a każda próba regulacji po jednej stronie może być odczytana jako szansa na przyspieszenie po drugiej. Niemniej jednak, porozumienie wokół podstawowych norm jest niezbędne dla bezpieczeństwa międzynarodowego.

Stolica Apostolska apeluje o wypracowanie wspólnych zasad, podobnie jak uczyniono to w przeszłości w sprawie broni atomowej. Przesłanie Leona XIV przypomina, że rozwój technologiczny musi być podporządkowany dobru wspólnemu i odpowiedzialności za przyszłe pokolenia. „Potrzebujemy wspólnych zasad dla dobra ludzkości” – mówi Gianluigi Ballarani, podkreślając, że to człowiek musi zawsze ponosić odpowiedzialność za każdą decyzję podejmowaną z udziałem maszyn.

Vatican News/łs