Elon Musk OpenAI projektje 4 nagy problémát azonosított az AI számára

$config[ads_kvadrat] not found

OpenAI - Non-profit AI company by Elon Musk and Sam Altman

OpenAI - Non-profit AI company by Elon Musk and Sam Altman

Tartalomjegyzék:

Anonim

Az egyre kifinomultabb mesterséges intelligencia által okozott problémák többsége sokkal finomabb, mint a SkyNet, de ez nem jelenti okosabb A.I. nem jön a kockázatai nélkül.

Ezért alakultak ki Elon Musk és más szilícium-völgy nagyméretű Open AI, egy csoport, amely az A.I. mielőtt valódi kárt okozhatnak. Ezt a csoportot OpenAI-nak hívják, és segítséget keres ezekben a kérdésekben.

„Az OpenAI non-profit mesterséges intelligencia kutató cég” - mondja a csoport az oldaláról. „Célunk az, hogy a digitális intelligenciát olyan módon fejlesszük, amely a legvalószínűbb, hogy az egész emberiség javát szolgálja, és nem korlátozza a pénzügyi megtérülést.”

A „Speciális projektek” című blogbejegyzésként álcázott álláshirdetés négy ilyen „projektet” vázol fel olyan problémaként, amely „vagy nagyon széles körű következményekkel” vagy „az AI-fejlesztés fontosabb következményeivel” foglalkozik. És akkor az írók - Ilya Sutskever, Dario Amodei és Sam Altman - meghívják az erős gépi tanulási szakértőket, hogy „kezdjenek erőfeszítéseket az egyik ilyen problémán az OpenAI-nál”. Íme a mesterséges intelligencia négy nagy problémája:

Titkos AI rendszerek keresése.

Mi rosszabb, mint egy nagyon okos A.I. melyet rossz célra lehet használni? Nagyon okos A.I. ami már rosszul használatos anélkül, hogy bárki tudná. „Ahogy nő az AI-kutatásra szánt szervezetek és erőforrások száma, a valószínűség nő, hogy egy szervezet nyilvánosságra nem hozott AI áttörést hajt végre, és a rendszert potenciálisan rosszindulatú célokra használja” - írja az OpenAI csapata a blogbejegyzésében. „Fontosnak tűnik ezt felismerni. Elképzelhetjük, hogy sokféle módja van ennek - a híreket, a pénzügyi piacokat, az online játékokat stb.

A.I. építése ez programozhat.

Néhány legjobb programozó lusta. Tehát van értelme, hogy az OpenAI egy A.I-t akar létrehozni. képes önállóan létrehozni a programokat. Jobb, ha az A.I. elég okos ahhoz, hogy kódoljon valamit, amire szüksége lehet a jövőben, mint az összes dolog kódolására. 2016-ban, hangosan kiáltva, és a kódolóknak szünetet kell kérniük!

A.I. a számítógépes védelemért.

„Az AI korai felhasználása a számítógépes rendszerekbe való behatolás lesz” - írja OpenAI. „Szeretnénk, ha az AI technikák megvédnék a kifinomult hackerek ellen az AI módszereket.” Ez jól hangzik, különösen azért, mert az MIT figyelmeztette, hogy az aktuális A.I. az emberekre támaszkodik a számítógépes támadások elleni védelem érdekében.

Tényleg összetett szimulációk készítése.

„Nagyon érdekes, hogy egy nagyon nagy szimulációt építsünk be, amelyben sok különböző ágens van, amelyek kölcsönhatásba léphetnek egymással, tanulhatnak hosszú időn keresztül, felfedezhetik a nyelvet, és sokféle célt érhetnek el” - írja az OpenAI csapat.

Ó, ne már. Most már csak megpróbáljátok bizonyítani, hogy a muskusz igaza van a szimulációban.

$config[ads_kvadrat] not found