„Ez a személy nem létezik” A Teremtő feltárja webhelyének hátborzongató eredetét

Phillip Wang a 33 éves szoftvermérnök, aki felelős a mesterséges intelligencia által támogatott weboldal létrehozásáért. Minden alkalommal, amikor az oldalt frissítjük, az algoritmus generatív ellentétes hálózatként (GAN) (eredetileg az Nvidia által kódolt) teszi teljesen hamis emberek hiper-reális portrékát.

A stunt célja, hogy felhívja a figyelmet az A.I egyre növekvő erejére, hogy valódi képként jelenjen meg, teljesen mesterséges. De ahogy Wang mondja Inverse, ez a stunt olyan következményekkel bír, amelyek messze túlmutatnak, "hé, nézd meg ezt a valódi hamis embert." Egy olyan társadalomban, ahol a képek és képek a "bizonyíték", GAN-ok szabványos helyettesítői. a képalkotó szakértők részéről - hamarosan bárki megengedi, hogy „bizonyítékot” nyújtson be arról, hogy minden elképzelhető személy elképzelhető dolog.

„Alapvetően az életem pontján vagyok, ahol elismertem, hogy a szuper-intelligencia valóságos lesz, és meg kell szentem a fennmaradó életemet” - magyarázza. „A reakció arról szól, hogy mennyi ember van a sötétben az A.I. és annak lehetőségeit.

A webhely akkordot ütött. Az egykori Uber-szoftvermérnök azt mondja, hogy a megjelenése óta ez a személy nem létezik, körülbelül 4,2 millió alkalommal látogatták meg, nem rossz az egy egyszeri, zárt Facebook-csoportba kiküldött oldalra. Wang kezdetben arra használt, hogy meggyőzze néhány barátot, hogy csatlakozzanak a független A.I.-hez. jelenleg végzett kutatás. De egy napon belül úgy döntött, hogy a szélesebb közönség számára előnyös lehet a GAN-ok lehetőségeinek megismerése. Azt mondta, a reakció visszhangozza, hogy mennyire fontos az emberek tájékoztatása arról, hogy az ilyen típusú technológia forradalmi és veszélyes lehet.

Miért képviselik a Fake Faces ijesztő áttörést

Wang webhelye az Nvidia StyleGAN algoritmusát használja, amely tavaly decemberben jelent meg. Véleménye szerint a hasznos, de mindennapos (gondolkodó: korszerűsítő fogászati ​​korona implantáció) lehetősége a távolabbiig terjed, például a teljesen új molekulák képzeletének lehetővé tétele a jövőbeli gyógyszerekben. De ez a forradalmian új technológia könnyebbé teszi a megtévesztést és a téves információt, mint valaha.

Az okok, amelyek miatt a felhasználási esetek annyira sokoldalúak, sok, sokféle módja van a GAN-ok alkalmazásának, melyeket két hálózat egymással szembeni elhelyezésével képeznek: a generátort és a diszkriminátort. A generátor olyan valós képeket kap, amelyeket a lehető legjobban megpróbál újra létrehozni, míg a diszkriminátor megtanulja különbséget tenni a hamisított képek és az eredetik között. Több millió millió edzés után az algoritmus túltermelő képességeket fejleszt ki a képzett képek másolatainak létrehozásához.

Ugyanaz a módszer, amely a meglévő képekre vagy videókra helyezett mélygyökereket vagy számítógéppel generált képeket hoz létre, és amelyeket gyakran használnak hamis hírmondások vagy más hamisítások elhelyezésére.

És bár Wangot lenyűgözi az innováció, amelyet sok vállalkozás hoz majd létre, azt is szeretné, ha az emberek jobban tisztában lennének a lehetséges károkkal.

Például egy rosszindulatú színész elterjedt egy GAN-generált videót vagy képet, amely egy hamis eseményt ábrázol, hogy ösztönözze a zavargásokat, tiltakozásokat vagy más potenciálisan erőszakos reakciókat az interneten.

Mivel a folyamat teljesen automatizált, minden valakinek szüksége lenne egy grafikus feldolgozó egység (GPU) vagy grafikus kártyákhoz való hozzáférésre, amelyek a gépi tanulást hajtják végre, és egy adatkészletet a hamisítványok elindításához, mint az óramű.

Hosszabb távon, míg a StyleGAN-ok képesek olyan képeket készíteni, akik soha nem léteztek, így ezek a képek természetesen beszélnek és mozognak, csak pár lépést jelentenek. Szerencsére Wang megjegyzi, hogy a GAN-okról való tájékoztatás miatt az emberek kevésbé fogékonyak lesznek, hogy becsapják őket. A fokozott tudatosság megkönnyíti mindannyiunk számára, hogy élvezhessük a 3D grafika fejlesztéseit és a StyleGANs gyógyszerek valószínűleg előidézik.

- Csak remélem, hogy a bemutatóm a tudatosságot növeli. Azok, akik nem tudják, a leginkább sérülékenyek erre a technológiára ”- mondta Wang. - A flip oldalán, A.I. valóban sok jó lesz a világnak. ”

E-mailben írja a szerzőt: [email protected]