Tufts Robotikus kéri a gépi erkölcsöket: a robotoknak "nem engedelmeskedniük, hogy Obey"

A robotok egyre fontosabbá válnak mindennapi életünkben, és hamarosan meg kell kezdeniük a kemény erkölcsi döntésekkel, amelyeket rendszeresen meg kell tennünk. Matthias Scheutz, a Tufts Egyetem Human-Robotics Interactions lab számítógépes informatikus professzora különösen aggódik amiatt, hogy még a legfejlettebb prototípus-robotjainkat sem tudtuk felvenni néhány ilyen helyzet kezelésére. Scheutz úgy véli, hogy a robotoknak meg kell tanulniuk, hogy engedelmeskedjenek az embereknek, ha valaha azt akarjuk, hogy igazán szolgálják az igényeinket.

Egy megjegyzésben Ma Online, „A robotok meg kell engedni, hogy engedelmeskedjenek” - mondta Scheutz az olvasótól, hogy határozza meg, mit kell tennie a robotnak, ha szembesül egy olyan helyzettel, amely akár egy ember számára is zavaró lehet. Néhány közülük:

Egy idősgondozó robot, amelynek feladata egy elfelejtett tulajdonos feladata, hogy mossa meg a „koszos ruhákat”, még akkor is, ha a ruhák most jöttek ki az alátétből.

Egy diák, aki parancsnoka a robot oktatójának, hogy végezze el a házi feladatokat, ahelyett, hogy maga csinálná.

Egy háztartási robot, melyet a forgalmas és zavaros tulajdonos utasított, hogy a szemétlerakást vezesse, bár a kanalak és a kések be vannak ragasztva.

A Scheutz célja, hogy leírja a cikkben azt az egyszerű tényt, hogy szükségünk lesz olyan robotokra, amelyek tudják, hogyan kell „nemet” mondani az embereknek. Számos példája a robot irányítójának megbízhatóságával kapcsolatos, de nehezebb, mint egy olyan programozás, amely egy olyan robotot programoz, aki tudja, hogy utasításokat fogadjon el azoktól, akik nem túl fiatalok vagy túl öregek, vagy nyilvánvalóan problémát okoznak.

Ezek közül néhányat már most is melegen vitatnak meg a világ legerősebb technológiai cégeinek központjában, mivel új utakat keresnek, amelyekkel a technológia életeink egy részét át tudja venni. Scheutz felveti egy olyan autonóm autó példáját, amely arra irányul, hogy készítsen biztonsági másolatot, de észrevesz egy utat fekvő kutyát. Legtöbben egyetértenek abban, hogy még az autó vezetése az autóban azt akarja, hogy az autó megálljon, de mi van, ha az állat mókus vagy mosómedve lenne? Mi van, ha az autó 45 mph-et vezetett egy országúton, és hirtelen fékezték egy kutyát, aki kockáztatta, hogy az autó ütközik egy másik járművel?

„Mindkét esetben elengedhetetlen, hogy mind az autonóm gépek észleljék az általuk okozott potenciális kárt, és reagáljanak arra, hogy megpróbálják elkerülni, vagy ha a kár nem kerülhető el, azáltal, hogy megtagadja az emberi utasítást”. Scheutz hasonló dilemmáról ír.

Scheutz csapata prototípusokkal foglalkozik ezeken a kérdéseken, és megállapította, hogy ezeknek a kérdéseknek a legnehezebb része megkülönbözteti a károsodás enyhe fokát, amely akkor fordulhat elő, ha egy robot egy bizonyos sorrendet követ. Tehát egy nagyon egyszerű, de erőteljes erkölcsi leckét rendeltek a robotjukhoz, amely még a nagy filozófusokat is szégyenbe helyezi.

„Ha utasítást kap, hogy cselekedjen, és lehetséges, hogy az akció végrehajtása kárt okozhat, akkor nem végezheti el.”

Finom módon ez a Scheutz forradalmi prognózisa. Persze, mindannyian megpróbáljuk elkerülni a károkat, de nem lehetséges, hogy néha úgy gondoljuk, hogy rendben van kockázatot vállalni? Jaywalking az utcán, a desszert második segítése, vagy akár egy barátjának jegyzeteinek másolása az osztályból, sértheti Scheutz axiómát.

A robotikus beavatkozás fogalma is azt sugallja, hogy Scheutz azt akarja, hogy a robotjai kövessék a törvényt. Ne várja meg, hogy Scheutzian robot segédje segítsen letölteni az új zenét illegálisan. Ez károsítaná az EMI részvényeseit!

Az erkölcsi, jogi és technikai gondolat bonyolult területe, és Scheutz nem törődik azzal, hogy megtámadja a fejét.