Az UC Berkeley új központja megakadályozhatja az A.I. Apokalipszis

A Kaliforniai Egyetem Berkeley éppen a nevét tette hozzá a neves intézmények egyre növekvő listájához, amelyek megakadályozzák a rosszindulatú mesterséges intelligenciát az emberiség elpusztításában. Az Új Emberi Kompatibilis Mesterséges Intelligencia Központ, amelyet hétfőn jelentettek be, az A.I. továbbra is előnyös, és kizárja az A.I. Apokalipszis.

Berkeley saját A.I. szakértő, Stuart Russell professzor vezeti a vállalkozást. Az Open Philanthropy Project 5,5 millió dolláros támogatást nyújtott a Központnak, és mások is feldaraboltak. A Berkeley, a Cornell Egyetem és a Michigani Egyetem számos más szakértője együttmőködnek.

Cornell professzor, Bart Selman elmondta fordítottja a Központról, A.I.s, hogy mi kellene félelem, és miért nem a világon valószínűleg a pokolba kerül a kézikerékben - mégis.

Mit szeretne megvalósítani az Emberi Kompatibilitás Központjával?

Ezek a központok viszonylag új fejlesztések. Az emberek befektetéseket végeznek - például az Élet jövője Intézetnek van egy befektetése Elon Muskból, a Teslából, hogy foglalkozzon az élet jövőjével és az élet és a társadalom jövőjét fenyegető lehetséges kérdésekkel. A Berkeley új központja egy másik példája egy ilyen intézetnek.

A mesterséges intelligencia és a számítástechnika változó szerepe ihlette társadalmunkban. Ezek a technológiák a társadalmunkban mozognak, és hatással lesznek ránk. Ezek az intézmények azért vannak, hogy összehozzák a kutatókat, hogy tanulmányozzák a lehetséges negatív hatásokat, vagy hogyan lehet biztosítani, hogy nincsenek negatív hatások.

A Központ címe szerint A.I. és az emberiség természeténél fogva összeegyeztethetetlen. Ez az Ön véleménye?

Ez az első reakció az embereknek, hogy ezek a dolgok összeegyeztethetetlenek lehetnek. Valójában úgy véljük, hogy a megfelelő óvintézkedésekkel és a megfelelő iránymutatásokkal és kutatással valóban igazodhatunk az érdekekhez, és biztosíthatjuk, hogy ezek a technológiák hasznosak legyenek. Hatóanyagot a technológia óriási pozitív oldallal rendelkezik, és a társadalom célja, hogy biztosítsa a pozitív oldalak fenntartását. Az intézetben részt vevő kutatók úgy vélik, hogy ez megvalósítható.

Ha elfogadhatnánk a doomsayer-perspektívát, mi lenne a legvalószínűbb A.I.-indukált doomsday-forgatókönyv?

Egy egyértelmű kockázat a mesterséges intelligencia katonai fejlesztése lenne, amely A.I.-fegyveres fegyveres versenyhez vezetne az országok között: Autonóm fegyverek, autonóm drónok, amelyek saját parancsaikat követik, amelyeket a különböző országok ellenségesek. Ez a legpontosabb kockázat, amit látok. Azt hiszem, A.I. az önjáró autók számára kifejlesztett, például a rendszeres szerepek a társadalomban - nagyon hasznosak lesznek. A katonai szempont azonban aggasztó elem.

Ez már egy felfelé tartó csata?

Az országok valóban figyelembe veszik ezt a kérdést. Bizonyos értelemben ez egy felfelé tartó csata: A hadsereg előremutatja az A.I. technológia. De vannak megállapodások - például a biológiai fegyverek valószínűleg a legismertebb eset, ahol az országok egy bizonyos ponton úgy döntöttek, hogy minden ország számára előnyös lesz nem a biológiai fegyverek nagyszabású fejlesztése. Reméljük, hogy az országok észre fogják venni, hogy a hátrány, mindenki számára túl nagy ahhoz, hogy belépjen egy mindenre kiterjedő A.I. fegyverkezési verseny.

Ha mindkét fél ezt a technológiát fejleszti, senki sem jön előre.

Van valami más, amit tudnék a központról, vagy a rosszindulatú A.I.-ről. általában?

Fontos a pozitív oldal megadása. Könnyű hangsúlyozni a kockázatokat - és persze, hogy ezek a központok is létrejöttek -, de fontos megjegyezni, hogy sok kutató úgy érzi, hogy ez a kockázat kezelhető, és hogy a felemelkedések hatalmasak lesznek.

Már adtad a végzetnapot. Melyek az A.I. hogy nagyon izgatott vagy?

A pozitív oldal egy olyan társadalom lesz, ahol ezt a technológiát támogatjuk. Egyidejű beszédfordítások - például a kínai és az angol - között, ahol az emberek egymással beszélgethetnek egymással, mintha anyanyelvük lenne. Idősgondozás: Az emberek mindaddig tartózkodhatnak otthonukban, amennyire csak akarnak, mert van egy háztartási asszisztens robotja, amely segít önállóan élni.

Ez valószínűleg meglehetősen drámai hatást gyakorol az életre általában - a foglalkoztatás és az elsőbbség szempontjából.

Igen. Van egy foglalkoztatási vita, amely egyfajta külön vita folyik. Elegendő erőforrás lesz mindenkinek támogatására, így van egy kérdés, hogy biztosítsuk, hogy mindenki részesüljön e fejlesztésekből. Újra felismerjük, hogy mit jelent a munka, milyen munkát végeznek az emberek. Elvileg azonban az embereknek nagyobb szabadságuk lesz, és több időt kell tennie arra, hogy olyan tevékenységeket végezzen, amelyeket élveznek, mert a gépek sok más, hétköznaposabb segítséget nyújtanak. munka -típusú dolgokat. Időbe telik, de úgy gondoljuk, hogy a társadalom alkalmazkodni fog, és lassan beépíti ezeket a változásokat.

Ezt az interjút az egyértelműség és a rövidség érdekében szerkesztették.