Hazudnék, ha azt mondanám: meglepett az a hír, hogy Dél-Koreában egy robot azért ölt meg egy embert, mert nem tudta megkülönböztetni a zöldségekkel teli doboztól. Nem meghibásodás miatti balesetről van szó, hanem arról, hogy a robot a munkája végzése közben elkövetett egy gyilkosságot.
Ugye, emlékeznek az Asimov által megfogalmazott robotika-törvényekre, amelyek így hangzanak:
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első és második törvény előírásaiba.
Hosszú évtizedekig úgy tekintettünk ezekre a törvényekre, mintha a technológia mindenek felett álló jogszabályai lennének, pedig csak egy sci-fiben láttak napvilágot. Mégis azt gondoltunk, hogy megfelelő alapot képeznek ahhoz, hogy a robotok tekintetében biztonságban érezzük magunkat. Intellektuális viták folytak ezekről a törvényekről, és bár a tanuló ifjúság szívesen filozofálgatott róluk, úgy rémlik, senki sem mondta ki, hogy ez az egész csak egy idealista maszlag.
Ahhoz természetesen nem férhet kétség, hogy a szándék tiszteletre méltó: a robotok működését szabályozni kell, vagy mert ők nem autonóm döntéshozó lények, ennek a szabályzásnak inkább a tervezőikre, létrehozóikra kell vonatkozniuk. De ahogy a körülöttünk lévő példák sokasága bizonyítja: egy jogszabály csak addig érvényes, amíg betartják, vagy amíg az ügyes jogászok meg nem találják a józan észnek homlokegyenest ellentmondó értelmezését.
A robotika törvényeit is ki lehet játszani, például úgy, hogy a hatékonyabb termelés érdekében mellőzzük azokat a biztonsági garanciákat, amelyek az ilyen baleseteket megnehezíthetik. Lehet, sőt biztos, hogy ha az a szerencsétlen munkás minden előírást számon kér a munkáltatójától, még most is élne, de ő csak egy alkalmazott volt, aki felett korlátlan hatalmat élvez a versenyszféra.
Ami pedig a gyilkosság elkövetőjét illeti, érdekes kérdés, hogy vajon mi lesz a robot büntetése? Elaltatják, mint a kezelhetetlenné vált állatot, vagy inkább kényszergyógykezelésre küldik, ahogy a beszámíthatatlan elmeállapotú gyilkosokat. Azt hiszem nem tévedek túl nagyot, ha azt mondom: jön majd egy másik karbantartó, aki frissít egyet a szoftveren, és ha kell, itt-ott megszorít egy-két csavart, aztán megy minden tovább a régi mederben.
Minket pedig tovább nyugtalanít majd az a kérdés, hogy vajon hogyan lehetne megőrizni az emberiség biztonságát és szabadságát egy olyan világban, ahol a gépek hatalmat kapnak, de azt még nem tudják felelősséggel kezelni? Ennek megoldása minden eddiginél sürgetőbbé válik, ahogy a technológia egyre inkább átszövi mindennapjainkat. Talán itt az ideje, hogy újraértékeljük azt a hitünket, mely szerint a technika mindig az ember szolgálatában áll. Az eszközök, melyeket megalkottunk, ma már képesek egyszerűbb döntéseket hozni, de vajon képesek lesznek-e felismerni és tiszteletben tartani emberi értékeinket is?
A kávéscsésze ikonra kattintva egy 500 talentumos jutalomkávét ad a szerzőnek, amivel őt és a szerkesztőségünket egyaránt támogatja.
Ehhez az íráshoz még nem érkezett adományozás.
Kattints a Donate gombra, és egy tetszőleges összeggel segítsd a munkánkat! Köszönjük!
