Íme, hogyan tudjuk megállítani a jövőt Rogue A.I. a HAL 9000 utánzása

Hogyan állíthatjuk meg a jövőt A.I. nem engedelmeskedik a megrendelésekektől, és úgy döntött, hogy saját útján jár? Úgy tűnik, mintha a telek lenne 2001: A Space Odyssey, de egy szakértő azt állítja, hogy valami, amit már el kell gondolkodnunk. Persze, kikapcsolhatnánk a Google keresési algoritmust, ha valaha is gazember lett volna, de pénzügyi és jogi következményekkel szembesülve könnyebben mondhatnánk el, mint tenni. A jövőben, mivel egyre fejlettebb A.I.-től függünk, lehetetlen.

„Ez az algoritmus nem szándékosan tervezte maga lehetetlen újraindítani vagy kikapcsolni, de így fejlődött ki, ”mondta Stuart Armstrong, a Future of Humanity Intézet kutatója, a Pirate Summit 2016-ban szerdán. Ez azt jelenti, hogy a véletlenszerű eredményekkel járó változás nehezen orvosolható, és ez nem lehet az első A.I. ebben a helyzetben.

Isaac Asimov megoldása a robotika három törvénye volt, melyeket a kemény kódok ötletei nem ártanak az embernek. A probléma az, hogy a kár meglehetősen szubjektív és értelmezhető. Az emberek többet dolgoznak az értékeken, mint például abban, hogy rosszat okoznak kárt okozni, és értelmezni a helyzetet, mint a keményen alkalmazott szabályt, hogy soha ne károsítsanak.

„Az ilyen probléma miatt az emberek sokkal inkább szívesen használják a gépi tanulást az értékek megszerzésére, nem pedig a hagyományos módon történő kódolásra” - mondta Armstrong. „Az értékek olyan stabilak, hogy más dolgok nem az A.I. Az értékek önmagukban védik magukat.

De még ezekben a helyzetekben is fontos az A.I. hogy megszakíthatóak legyenek, amíg futnak. A biztonságos megszakítás lehetővé teszi a biztonságos politika megváltoztatását, amely megakadályozhatja a tanult értékek nem kívánt következményeit. Ha a HAL 9000 valaha is megpróbálta megakadályozni a pod bay ajtók nyitását, fontos, hogy azonosíthassuk, hogy az A.I értékei rendben vannak, és beavatkozzanak anélkül, hogy a rendszert offline állapotba hozzák.