Nieprawdziwy Adam Szustak OP obejrzany przez tysiące. Wielu internautów jest zachwyconych

W sieci pojawił się kanał podszywający się pod Adama Szustaka OP, jednego z najbardziej rozpoznawalnych kaznodziejów w polskim internecie. Zamieszczane tam filmy, choć wyglądały jak autentyczne nagrania dominikanina, były w całości wygenerowane przez sztuczną inteligencję. Sam zakonnik alarmuje, że to realizacja scenariusza, przed którym ostrzegał od miesięcy: świat wchodzi w epokę, w której coraz trudniej będzie odróżnić prawdę od fałszu.

"Jedną z rzeczy, których się trochę boję, której świat w ogóle powinien się trochę bać, no to to, że wchodzimy w taki rejon rzeczywistości, gdzie już będzie bardzo trudno odróżnić prawdę od fałszu" - mówi Szustak w nagraniu, w którym odniósł się do całej sytuacji. Jak dodaje, dziś jeszcze takie manipulacje można stosunkowo łatwo wychwycić, "ale robi się coraz poważniej".

Fałszywy Adam Szustak OP w koloratce

Fałszywy kanał wykorzystywał jego wizerunek i głos. Na miniaturkach pojawiała się postać łudząco podobna do dominikanina, choć - jak ironicznie zauważa - "jestem tam w koloratce, a ja chyba nigdy w życiu nie byłem w koloratce, więc samo to każdemu, kto mnie minimalnie zna, powinno już dać jakieś takie sygnały ostrzegawcze". W rzeczywistości jednak dla wielu odbiorców to nie był wystarczający sygnał alarmowy.

Na kanale publikowano półgodzinne "konferencje", w całości wygenerowane przez AI. "Ktoś po prostu, wiecie, pobrał próbki mojego głosu z Internetu… Dał tam pewnie jakieś tematy, które trzeba mówić, po prostu bzdury, które trzeba opowiadać, no i wrzucił do Internetu jako moje filmy" - relacjonuje dominikanin. Na razie wykorzystywano tylko głos, ale - jak zaznacza - to tylko kwestia czasu, aż pojawi się również realistyczny obraz.

Fałszywe nagrania zebrały "kilka tysięcy wyświetleń"

Skala zjawiska okazała się niepokojąca. W ciągu jednego dnia fałszywe nagrania zebrały "kilka tysięcy wyświetleń", zanim zespół o. Szustaka zorientował się, co się dzieje. Informację o podszywce jako pierwszy miał przekazać współpracownik dominikanina. Dopiero wtedy pod filmami pojawił się ostrzegawczy komentarz: "uwaga, to nie jest ksiądz Adam, to jest podszywka, to jest AI". Co znamienne, komentarz nie został skasowany, ale szkody już częściowo się dokonały.

Najbardziej uderzające było to, że wielu widzów uwierzyło w autentyczność nagrań - i że niektórym z nich treści generowane przez sztuczną inteligencję po prostu się spodobały. "Zanim ten komentarz zamieściliśmy, to się już pojawiło, wiecie, kilkanaście komentarzy, gdzie autentycznie ludzie dziękowali - niektórzy za tę wiadomość, inni się już kłócili: «A skąd możesz wiedzieć, co jest w pierwszej godzinie po śmierci?»" - opisuje Szustak. Padały też emocjonalne reakcje.

Dla dominikanina to najbardziej przerażający aspekt całej sprawy. Nie tylko bowiem ktoś podszył się pod znaną osobę, ale też skutecznie wpłynął na emocje i duchowe przeżycia realnych ludzi.

Sprawa została zgłoszona, a kanał - według relacji o. Szustaka - miał zostać usunięty. Jednak sam incydent pokazuje, że granica między autentycznym przekazem a cyfrową mistyfikacją staje się coraz cieńsza. To, co jeszcze niedawno wydawało się futurystycznym zagrożeniem, dziś dzieje się na oczach tysięcy użytkowników internetu. I, jak pokazuje przykład z fałszywymi "konferencjami" Adama Szustaka OP, wielu z nich nie tylko nie zauważa oszustwa, ale potrafi je przyjąć z pełnym zaufaniem.

Źródło: Langusta na palmie / YouTube / red