Vajon a gépkocsi nélküli autók lesznek etikai gyilkosok?

Vajon a vezető nélküli autóknak meg kell ölni az embereket? Félelmetesnek hangzik, amíg félórára nem gondolt rá, és arra következtet, hogy „igen”, majd gondolj rá egy másik fél másodpercig, és gondolj, „nem.” A játékban lévő erkölcsi viszony elég régi ahhoz, hogy nevet kapjon: TroIley Probléma. ”Klasszikus megfogalmazásában ez így megy: Az öt ember köti össze egy pályát, amelyhez öt ember kötődik, de egy kapcsolót válthat egy másik pályára, amelyen csak egy személy van - mit csinál te teszed? Ne légy kénytelen válaszolni a kérdésre; ez egy gondolatgyakorlat. Továbbá az önálló vezetésű autóknak mindannyiunknak válaszolniuk kell.

Az októberi arXiv-ben megjelent számítógépes tudósok és pszichológusok triójának elemzése az autósok pszichológiáját vizsgálja. A kutatók 400 személyt olvastak egy vezető nélküli autóról, ami károsítaná az ember utasát, hogy megmentse a tömeget. A következtetés szerint. Az embereknek tetszett az ötlet, de nem akarták az autót. Az emberek, mint a gondolat, sokkal többet gyakorolnak, ha nem valósak és életük nem a sorban van. A forgatókönyv által felvetett kérdés egy valós szemszögből a programozásról szól. Ha a gépkocsivezető autónak elsőbbséget kell adnia mindenkinek, utasának vagy senkinek a biztonságára?

Felvetettük a kérdést a tudósokhoz. A dolgok furcsaak.

Ben Guarino: Nem vagyok meggyőződve arról, hogy a vezető nélküli autóknak értékelniük kell, hogy az etikailag meg kell ölniük az embereket (vagy egyáltalán tudod). De mit gondolsz?

Neel Patel: Azt hiszem, az autógyártóknak át kell haladniuk a hídon, és valamilyen módon módosítaniuk kell a technológiát, hogy ezeket a döntéseket vagy értékeléseket hozza. Ez nem annyira probléma, ha minden az autó az autóban automatizált, de lesz egy átmeneti időszak, ahol egyes autók vezethetetlenek, és néhány nem. És ebben az időszakban az autóknak valamilyen ítélkezési felhívást kell tenniük.

Most, amikor egy baleset hamarosan bekövetkezik, minden gépkocsivezető nagyon sokan dolgozik az önmegőrzés felé. Még akkor is, ha egy személy cselekedetei több embert megsérülnek vagy megölnek a szomszédos járművekben, nem igazán hibáztathatjuk a mozdonyvezetőt, hogy ezt a lépést tegyék - ez egy túlélési ösztön, amely éppen mindenki, aki valaha élt. Megértjük és azonosíthatjuk vele.

De az autonóm járművek nem hagyják el ezt az erkölcsi luxust. Az Egyesült Államokban évente bekövetkező balesetek száma (2012-ben több mint 30.000 haláleset történt), ott lesz néhány olyan helyzet, amikor egy autó cselekedetei több halált okoznak, mint másként. Ez nem lesz rendben, ha négy méretű kis testzsákról beszélünk, szemben egy nagyapával.

És továbbra is problémák lesznek, mert senki nem akar egy autóba bejutni az utasok feláldozására. Az amerikaiak sohasem vették át jól az utilitarizmust.

BG: Azt kapom, hogy az autonóm járműveket „instinkttel” nem programozzák - de jobb tudatosságuk és reflexjeik vannak, amit azzal érvelnék, hogy előnyöket adna az emberi reakciókhoz, és e filozófiai sarok esetekben megszünteti az etikai döntések szükségességét.. Abban az esetben, ha egy kölyök egy sávban kocogik az úton, és a másikban van egy bejövő van, az embernek sok információt kell feldolgoznia, és hamarosan meggyőződnie kell. De egy autonóm vagy technológiai szempontból továbbfejlesztett autó több, mint a két előre néző szem, amit meg kell tartania az úton, ugye? Ahelyett, hogy csak úgy válaszolna, amikor egy gyerek van a gumiabroncsai útjában, és az autónak halott kölyköt vagy furgont kellett volna választania, akkor lassan lassulhat, amint valami eltűnik a járdaszegélyről és az utcára, mielőtt egy ember képes lenne reagálni.

Ezek a humán válaszok az, hogy a járművezető nélküli autókkal kapcsolatos balesetek sokasága hátsó végű, mert nem szoktunk olyan vezetőkre, akik olyan reflexívek lehetnek.

NP: Határozottan egyetért az Ön pontjaival, de még mindig aggódom az átmeneti időszak miatt, amikor az emberi járművezetőkről robotokra kerülünk. Az emberek még mindig nem lennének a csavarkulcsok, amelyek az egész gépet szarják? Vagy úgy gondolja, hogy a technológia elég jól tudna-e más autók emberi hibáira? Gondolatok?

Yasmin Tayag: Az autonóm autók előnye az emberekkel szemben az, hogy nem hajlamosak az érzelmekre, amelyek a legtöbb autó összeomlása esetén pánikként jelentkeznek. Ahol egy elkeseredett ember mániákusan elcsúszhat, hogy elkerülje a kölyköt vagy a furgont, az önjáró autó Ben pontjára egyszerűen lelassul. Nem lenne értelme megőrizni az objektivitást - az egyetlen dolog, ami az autonóm autókat az emberi vezetőknél jobbá teszi? Az úton, az egyetlen dolog, ami számíthat a gépkocsivezető gépkocsira, az adatok.

Úgy gondolom, hogy az emberi járművezetők mindig azt a lehetőséget fogják igényelni, hogy felülbírálják az autó döntését - még akkor is, ha teljesen átálltunk a robot autókra -, és azt hiszem, ez az igazi aggodalomra ad okot. Nem vagyok biztos abban, hogy az átmeneti időszak valaha is véget ér.

BG: Az emberek rossz kulcsok és rosszabb utilitárok. Az a kérdésem, hogy azt akarjuk, hogy robotjaink valamilyen módon etikus gyilkos legyen, az az, hogy feltételezi, hogy az emberek tudják, mikor kell etikus gyilkosok lenni. Ha a sebességkorlátot vezetem, és valami előttem ugrik, senki nem kérdez engem a nagyobb jóságról ebben a helyzetben. Te vagy a gyereket vagy a furgont érted, és mindenkinek szar van. Miért várnánk a vezető nélküli autóktól, hogy ezekben a forgatókönyvekben magasabb erkölcsi hívást kapjanak, amikor senki sem várja el, hogy az emberek ezt tegyék. Mi vagyunk azok, akik adták a Kant univerzumot, és még mindig nem kapjuk meg. A gépkocsivezető autóknak egyszerűen a legjobb ütközések elkerülésére kell összpontosítaniuk.

NP: De azt hiszem, valójában tud elvárják, hogy a vezető nélküli autók kiváló erkölcsi hívást kapjanak. Ez természetesen az elfogadott etikától függ, de nézzük meg egy hipotetikus.

Általánosságban elmondható, hogy a felnőttek körében a gyermekek biztonságát prioritásként kezeljük. Tegyük fel, hogy a jövőben minden autót olyan technológiával szereltek fel, amely ismeri az autók összes utasának általános életkorát - és ezek az adatok hozzáférhetőek és megoszthatók az adott úton lévő összes autóval. Ha előre nem látható körülmények miatt hamarosan bekövetkezik baleset, akkor ezek az autók kommunikálhatnak egymással, hogy biztosítsák a gyermekek biztonságát az úton lévő idősebb utasok felett. Nem hiszem el, hogy sokan sikeresen ellenkeznek az ilyen jellegű megállapodásokkal szemben.

És az autók ezt jobban tudják megtenni, mint az emberek, mert hozzáférhetnek több információhoz, amit az emberek tudnak, és gyorsabbá tehetik ezeket az értékeléseket - anélkül, hogy a fiziológiai hatások befolyásolnák az ítéletet, például az érzelmeket vagy a nagy stressz által generált hormonális válaszokat helyzetekben. Ebben az esetben valójában tud erkölcstelenül jobb választás.

Mennyire jól programozhat ilyet, de még nem látható.

YT: Yo Neel, aki azt mondja, hogy a gyermekek biztonságát a felnőttek körében rangsorolják? Nincs valami mélyen rossz, ha egy kisgyermek életéhez más értéket rendelnénk egy idős polgár életéhez? Ha el akarunk menni az erkölcsi autóútvonalon, azt hiszem, hogy az egyenlő erőfeszítés az élet megmentése érdekében kulcsfontosságú. Hogyan fognak reagálni az emberek, amikor rájönnek, hogy az autógyártók értékbecsléseiket tették életét ? Ahogy korábban említettem, az emberi szubjektivitást a lehető legjobban meg kell tartanunk a programozásból. Ez az, ami mindig dugja a dolgokat.

BG: Rendben vagyok a Titanic férfiakkal, akik feladják a helyüket a mentőcsónakon lévő nők és gyermekek számára, mert önfeláldozás volt. Ha lenne egy robot, amely elválasztja a férfiakat, hogy megfulladjon a nőktől és a gyerekektől, akkor a robotot Mjolnirrel összetörték, mert ez a gazember egy Avengers filmben.

Sőt, egyetlen biztosító vagy jogalkotó sem lenne hűvös olyan járművel, amely valamilyen halálos számítást eredményezhetne emberi ellenőrzés nélkül.

NP: Soha nem fogja teljesen felszámolni a szubjektivitást az automatizált programozásból. Az elfogultság a tapasztalatokból tanulásra tervezett automatizált rendszerekben rejlik. Ahelyett, hogy megpróbálnánk enyhíteni ezt a problémát, foglalkoznunk kell vele, és meg kell szüntetnünk azt az elfogultságot, hogy jobban szolgálja az embereket. Ez a jövő, akár tetszik, akár nem.

2016-ban szavazom Ultront.