Czy "wszywać" robotom sumienie? [VIDEO]

Roboty stają się coraz powszechniejsze i zyskują coraz większa autonomię, co może w ludziach budzić pewne obawy. Dlatego badacze zastanawiają się, czy warto autonomicznym robotom wszywać sumienie.

- W przyszłości roboty będą powszechne. Będą nam dawały możliwości, jakich obecnie nie mamy - powiedział ekspert ds. inteligentnych systemów bezpieczeństwa, dr inż. Piotr Szynkarczyk, wicedyrektor Przemysłowego Instytutu Automatyki i Pomiarów (PIAP) w Warszawie. Wyjaśnił, że na razie roboty najchętniej wykorzystywane są w zastosowaniach profesjonalnych i "wykonują prace nudne, brudne i niebezpieczne". Powierzane są więc im powtarzalne, precyzyjne zadania w fabrykach, wysyłane są w miejsca niedostępne dla człowieka (np. czyszczą kanalizację czy eksplorują przestrzeń kosmiczną) albo pomagają w pracach z materiałami wybuchowymi (roboty pirotechniczne). Roboty jednak coraz częściej spotykamy na co dzień - trafiają nie tylko do rolnictwa czy medycyny, ale i do gospodarstw domowych, gdzie coraz częściej np. odkurzają mieszkania, koszą trawniki, czy zapewniają rozrywkę.

Ucieczka z doliny niesamowitości

Z coraz powszechniejszą obecnością robotów wiążą się jednak i pewne obawy. A wynikają one m.in. z tego, że roboty coraz bardziej przypominają ludzi. Co ciekawe, niepokój budzić może nawet fizyczne podobieństwo maszyn do ludzi. - Jeżeli robot wygląda jak Wally albo R2D2, to wydaje się nam sympatyczny i wszyscy go kochają. Ale jeśli maszyna jest z wyglądu niepokojąco podobna do człowieka, zaczynamy się jej obawiać. To jest zapisane w naszej psychice - powiedział ekspert. Wyjaśnił, że zjawisko to nosi nazwę tzw. doliny niesamowitości. Po raz pierwszy "dolinę niesamowitości" opisali badacze z Japonii, którzy specjalizują się w opracowywaniu robotów wyglądających jak ludzie. Okazuje się, że jeśli robot za bardzo przypomina człowieka (ale nie jest z człowiekiem identyczny), powoduje u odbiorcy dyskomfort - zaniepokojenie czy nawet strach. Wicedyrektor PIAP dodał, że aby człowiek czuł się przy robocie komfortowo, maszyna powinna wyglądać jak maszyna. Nie powinna udawać, że jest człowiekiem.

Człowiek, który kryje się za maszyną

Kolejnym powodem do obaw związanym z rozwojem robotyki jest to, że robot może stanowić dla człowieka realne zagrożenie. Szynkarczyk odniósł się do problemu uzbrojonych dronów, a więc samolotów bezzałogowych, które wykorzystywane są przez amerykańską armię - również do zabijania ludzi. - To nie są autonomiczne roboty, tylko to są zdalnie sterowane maszyny. Guzik do otwarcia ognia zawsze naciska człowiek - powiedział wicedyrektor PIAP i dodał, że człowiek siedzący bezpiecznie w Kalifornii w kontenerze wojskowym tysiące kilometrów od miejsca akcji, może zupełnie inaczej angażować się w wydanie rozkazu "zabij!", niż kiedy jest na miejscu i sam mierzy do celu. Szynkarczyk wyjaśnił, że problemami moralnymi, jakie wynikają z obecności robotów zajmuje się nowa dziedzina nauki - roboetyka. Jej zadaniem jest m.in. wypracowywanie zasad, jakimi należy się kierować posługując się robotami do celów wojskowych czy medycznych.

Podał przykład sytuacji, kiedy robot wykonujący operację chirurgiczną zawiedzie np. z powodu błędu w oprogramowaniu i spowoduje uszczerbek na czyimś zdrowiu. - Czy za tę sytuację odpowiedzialny jest chirurg, twórca robota, ktoś, kto maszynę kupił czy może ktoś, kto urządzenie serwisował? To są jeszcze pytania otwarte. Tym zagadnieniom trzeba poświęcić dużo uwagi - skomentował Szynkarczyk.

Robot z sumieniem czystym, jeszcze nieużywanym

Z rozwojem robotyki wiąże się też fakt, że roboty stają się coraz bardziej autonomiczne i część zadań i decyzji już mogą podejmować samodzielnie, bez udziału człowieka. - Autonomia robotów wzrasta, ale przynajmniej do dnia dzisiejszego bunt maszyn nam nie grozi. Są tacy, co powątpiewają, że kiedykolwiek nastąpi - powiedział ekspert PIAP. Przyznał jednak, że są też badania, które zabezpieczają tę kwestię. - Niedawno byłem na konferencji, na której zaproponowano, by w roboty wszyć sumienie - zaznaczył. Przywołał scenę z filmu "Odyseja Kosmiczna 2001". Tam autonomiczny komputer HAL 9000 - aby misja zakończyła się sukcesem - odmówił otwarcia drzwi i uratowania astronauty mówiąc "przepraszam Dave, ale niestety nie mogę tego zrobić". - Kiedyś robot będzie mógł użyć takich słów, ale wobec kogoś, kto mu wyda niemoralny rozkaz. A to dlatego, że moralność będzie wszyta w algorytmy robota - powiedział Szynkarczyk.

Kogo postawić przeciw armii robotów?

Ekspert z PIAP przyznał, że nie obawia się, że polskie roboty produkowane w jego instytucie (jest 10 typów takich robotów) użyte zostaną do nieetycznych celów. - Nasze roboty, które są wykorzystywane przez policję i wojsko, służą w tej chwili bezpośrednio do tego, by zastąpić ludzi w strefach niebezpiecznych, czyli tam, gdzie są jakieś szkodliwe środki chemiczne, promieniotwórczość, pożar, zagrożenie wybuchem... - wyjaśnił.

- Można natomiast sobie wyobrazić zastosowanie robotów na wojnie - maszyny można uzbroić i wysłać naprzeciwko drugiej armii - powiedział. Podkreślił, że w Polsce takie działania są ściśle nadzorowane i regulowane przepisami. - Nie można natomiast wykluczyć, że roboty uzbrojone pokażą się na świecie. I wtedy powstaje pytanie: czy my przeciw robotom obcej armii chcemy wystawić naszych ludzi czy nasze roboty... - dodał.

PAP - Nauka w Polsce