Elon Musk OpenAI az izom a mesterséges intelligencia biztonságos kutatásához

A hétvégén Elon Musk, Sam Altman és más Szilícium-völgy nagyvonalúak váratlanul bejelentették az OpenAI, egy nonprofit cég elindítását, amely a következő célokat írja le: „a digitális intelligencia előmozdítása az emberiség egésze számára leginkább előnyben részesített módon; nem korlátozza a pénzügyi megtérülést. ”

„Mivel kutatásunk mentes a pénzügyi kötelezettségektől, jobban összpontosíthatunk egy pozitív emberi hatásra. Hisszük, A.I. az egyéni emberi akaratok kiterjesztése, és a szabadság szellemében a lehető legszélesebb és egyenletesebben elosztva. ”

A bejelentésnek két fő elvihetősége van. Az első az, hogy a muskus és a cég lásd A.I. A kutatás most már túl szűken összpontosított a rövid távú gyakorlati érték elérésére, és arra törekszik, hogy az A.I. rendszereket. A második, fátyolosabb elvezetés az, hogy a muskusz még mindig aggasztja az A.I. A muskusz korábban A.I.-nek hívott. „Legnagyobb egzisztenciális fenyegetésünk”, és azt javasolta, hogy a lehetséges veszélyek megelőzése érdekében szabályozási felügyeletre lehet szükség. Az OpenAI egyfajta módja annak, hogy ezt a felügyeletet szövetségi felügyeleti felügyelet nélkül biztosítsa.

Mik azok a muskus és kollégái, akik különböznek attól, amit mások tettek. Végül is, nyílt forráskódú A.I. semmi új. A Google saját A.I. a nyílt forráskódú szoftver a múlt hónapban, és ez meglehetősen szabványos eljárássá vált. Az OpenAI az 1 milliárd dolláros adományával azonban már az A.I. kutatás, és elég könnyen a legnagyobb nonprofit. Célja, hogy eredményeit nyilvánosan hozzáférhetővé tegye, és minden szabadalma mentesüljön. Nekik van egy sárgarépa és egy bot, és azt akarják használni, hogy egy iparágat irányítsanak.

Az ötlet az, hogy az OpenAI-t egyfajta ellensúlyként használják a nagyobb vállalatoknak, a magánkutató laboratóriumoknak és még a világ kormányainak is, amelyek hihetetlen mennyiségű pénzzel és erőforrással rendelkeznek saját A.I. olyan kutatások, amelyek nem szentelnek barátságos célokat, hanem olyan technológiákhoz vezethetnek, amelyek káros alkalmazásokkal rendelkeznek. Az OpenAI-val dolgozó kutatók alapvetően „barátságos” A.I.-t fognak folytatni anélkül, hogy nyomást gyakorolnának az azonnali eredményekre. Nagyobb figyelmet fordíthat a biztonsági és tervezési jellemzőkre, amelyeket a magánvállalkozások esetleg figyelmen kívül hagynak. Nem lesz egy fehér torony, ahol csak néhány kiválaszthatja az A.I útját. fejlesztés. Üdvözlő világ lesz mindenkinek.

Egy interjúban Backchannel Musk is hangsúlyozza az A.I. rendszereket. - Azt akarjuk, hogy A.I. széles körben elterjedt ”- mondja. - Azt hiszem, sokan jó.

Ez fontos, mert talán az elsődleges oka annak, hogy Musk és Altman demokratizálni akarják az A.I-t. Azt hiszik, a legjobb fajta A.I. - az a fajta, amely az emberiséget pozitív módon segíti, anélkül, hogy robotfőnököket hozna létre - ez az a fajta, amely „az egyéni emberi akarat kiterjesztése”, ahogy Musk hozza. Továbbá azt mondja:

- Mint egy A.I. magad kiterjesztése úgy, hogy minden ember lényegében szimbiotikus az AI-vel szemben, szemben azzal, hogy az AI egy nagy központi intelligencia, ami más. Ha úgy gondolja, hogyan használod, például az interneten lévő alkalmazásokat, megvan az e-mailed, és megvan a szociális média és a telefonjaiddal rendelkező alkalmazások - hatékonyan téged emberessé teszik, és nem gondolod őket ha másként gondolod, úgy gondolod, hogy magad kiterjesztése. Tehát annyiban, amennyire az AI-t ebben az irányban tudjuk irányítani, ezt meg akarjuk tenni. Számos hasonló gondolkodású mérnököt és kutatót találtunk az AI területen, akik hasonlóan éreznek.

Alapvetően az A.I. A kutatás decentralizált közösség, amely segíti az emberek egymáshoz és a világhoz való kapcsolódását.

A pézsma még nem vázolta fel, hogyan akadályozzák meg az OpenAI-n belüli kutatásokat - vagy a külső csoportok által repurponált - veszélyes irányba történő elmozdulást. És itt van valami mást, amit érdemes megemlíteni: A nyílt forráskódú rendszereknek csak akkor van értelme, ha a gépi tanulási algoritmusok építéséhez használt adatok szabadon oszthatók meg. Egy intelligens rendszernek kell lennie tanul hogyan lehet intelligens, és ehhez meg kell tanulnia az adatokból és a tapasztalatokból. Olyan, mint egy gát építése - szüksége van mind a tervrajzokra (algoritmusra), mind az építőanyagokra (az adatokra), hogy valóban valamit megállítsanak, ami megállítja a vizet.

Éppen ezért az emberek még mindig korlátozottak abban, amit a Google TensorFlow-val tudnak csinálni - még nem rendelkeznek a Google adataival. És kivéve, ha az OpenAI-ből kiépített együttműködések szabad hozzáférést biztosítanak az ugyanazon adatokhoz, a házon belüli kutatók dolgoznak, a Musk látása nem feltétlenül kerül megvalósításra - vagy legalábbis nem az általa előmozdított módon.

Muskus, Altman és az OpenAI többi alapítója elkezdett valamit, ami óriási befolyást gyakorol az A.I. innen innen. Ugyanakkor a nyílt forráskódú kutatóközösség előmozdítása iránti elkötelezettségükre kell törekedniük, ami azt jelenti, hogy nyilvánosságra kerülnek a nonprofit társaságra vonatkozó terveik és az adatok megosztása. Ellenkező esetben az OpenAI nem fog sokat különbözni az állományra tervezett állományoktól.