Gépek gyilkos szerepben

2023-11-08
162 olvasó

Hazudnék, ha azt mondanám: meglepett az a hír, hogy Dél-Koreában egy robot azért ölt meg egy embert, mert nem tudta megkülönböztetni a zöldségekkel teli doboztól. Nem meghibásodás miatti balesetről van szó, hanem arról, hogy a robot a munkája végzése közben elkövetett egy gyilkosságot.

Ugye, emlékeznek az Asimov által megfogalmazott robotika-törvényekre, amelyek így hangzanak:

1. A robotnak nem szabad kárt okoznia emberi lényben vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első és második törvény előírásaiba.

Hosszú évtizedekig úgy tekintettünk ezekre a törvényekre, mintha a technológia mindenek felett álló jogszabályai lennének, pedig csak egy sci-fiben láttak napvilágot. Mégis azt gondoltunk, hogy megfelelő alapot képeznek ahhoz, hogy a robotok tekintetében biztonságban érezzük magunkat. Intellektuális viták folytak ezekről a törvényekről, és bár a tanuló ifjúság szívesen filozofálgatott róluk, úgy rémlik, senki sem mondta ki, hogy ez az egész csak egy idealista maszlag.

Ahhoz természetesen nem férhet kétség, hogy a szándék tiszteletre méltó: a robotok működését szabályozni kell, vagy mert ők nem autonóm döntéshozó lények, ennek a szabályzásnak inkább a tervezőikre, létrehozóikra kell vonatkozniuk. De ahogy a körülöttünk lévő példák sokasága bizonyítja: egy jogszabály csak addig érvényes, amíg betartják, vagy amíg az ügyes jogászok meg nem találják a józan észnek homlokegyenest ellentmondó értelmezését.

A robotika törvényeit is ki lehet játszani, például úgy, hogy a hatékonyabb termelés érdekében mellőzzük azokat a biztonsági garanciákat, amelyek az ilyen baleseteket megnehezíthetik. Lehet, sőt biztos, hogy ha az a szerencsétlen munkás minden előírást számon kér a munkáltatójától, még most is élne, de ő csak egy alkalmazott volt, aki felett korlátlan hatalmat élvez a versenyszféra.

Ami pedig a gyilkosság elkövetőjét illeti, érdekes kérdés, hogy vajon mi lesz a robot büntetése? Elaltatják, mint a kezelhetetlenné vált állatot, vagy inkább kényszergyógykezelésre küldik, ahogy a beszámíthatatlan elmeállapotú gyilkosokat. Azt hiszem nem tévedek túl nagyot, ha azt mondom: jön majd egy másik karbantartó, aki frissít egyet a szoftveren, és ha kell, itt-ott megszorít egy-két csavart, aztán megy minden tovább a régi mederben.

Minket pedig tovább nyugtalanít majd az a kérdés, hogy vajon hogyan lehetne megőrizni az emberiség biztonságát és szabadságát egy olyan világban, ahol a gépek hatalmat kapnak, de azt még nem tudják felelősséggel kezelni? Ennek megoldása minden eddiginél sürgetőbbé válik, ahogy a technológia egyre inkább átszövi mindennapjainkat. Talán itt az ideje, hogy újraértékeljük azt a hitünket, mely szerint a technika mindig az ember szolgálatában áll. Az eszközök, melyeket megalkottunk, ma már képesek egyszerűbb döntéseket hozni, de vajon képesek lesznek-e felismerni és tiszteletben tartani emberi értékeinket is?

Majoros Sándor

A Regénytár alapító- főszerkesztője, aki célul tűzte ki maga elé az igényes (nívós) szórakoztató és a komoly, elhivatott irodalom közötti „északnyugati átjáró” megtalálását. Ez a honlap ennek az útkeresésnek a gyakorlatozó terepe, néha komoly, máskor komolytalan, de mindig egyedien különleges és szórakoztató. Majoros jelenleg Budapesten él, néha dolgozik, máskor csak lóbálja a lábát. Mentségére legyen mondva a régi igazság, amely szerint az író akkor is ír, ha ez olyan nagyon nem is látszik: belsőleg alkot.

Vélemény, hozzászólás?

Your email address will not be published.

FelFEL