Social Media Trolling: Hogyan A.I. Jobb lesz a Shitposts előrejelzése

Az internet egy trollok által működtetett hellscape, melyet hiábavaló Facebook érvek uralnak, vagy rosszabbak. És bár a szociális média óriásai az interneten végül elkeseredetten elkezdtek erőteljesebb erőfeszítéseket tenni, hogy megpróbálják megakadályozni a lemondó párbeszédet, ezek a megoldások reaktívak, más szóval a kár már megtörtént.

Nem meglepő tehát, hogy a mesterséges intelligencia kutatói olyan rendszereket fejlesztenek ki, amelyek képesek előre lát online érv előtt, mielőtt megtörténik. De ahogyan a Cornell Egyetem kutatócsoportja nemrég elmagyarázta Inverse, ez a sürgősen szükséges innováció nem olyan messze van attól, hogy megpróbálja megmondani a jövőt.

„A múltban dolgoztak azon, hogy felismerjék, hogy egy adott megjegyzés toxikus” - mondja Ph.D. informatika. Jonathan Chang. „Célunk kissé más, szeretnénk tudni, hogy lehet-e előre megjósolni, hogy a jövőben valamilyen polgári beszélgetés megszűnik-e. A kérdés felfedezéséhez a Wikipédia szerkesztői közötti beszélgetéseket nézzük, amelyek közül néhányan polgári marad, és mások, akiket a kézből nem tudunk.

Chang és munkatársai több száz üzenetet elemeztek a néha könnyen irritált Wikipédia kurátorok között. Ezután 1270 beszélgetést alkalmaztak, amelyek támadó fordulatot vezettek a gépi tanulás modelljének kiképzésére, hogy megkíséreljék automatizálni ezt a moderálást. Eredményeiket közzétették egy számviteli nyelvészeti szövetség éves ülésén, július 15-én.

Tehát hogyan csinálták a bot csinálni? Szerencsére nem túl kopott. Ez 65 százalékos pontosságú, kissé alacsonyabb, mint az emberek 72 százalékos sikere. A kutatók ezt a statisztikát egy online kvíz létrehozásával találták, ahol az emberek meg tudták próbálni a kommentár moderálási készségeiket. Kiderült, hogy nagyon nehéz kitalálni, hogy vajon a szociális média felhasználók vadon élőek-e, vagy maradnak polgáriak.

„Az az elképzelés, hogy megmutassuk, hogy a feladat nehéz, de nem lehetetlen - ha például az emberek csak 50 százalékos pontossággal rendelkeznek, akkor ez nem lenne jobb, mint a véletlenszerű találgatás, és nem lenne ok arra gondolni, hogy tudnánk edzeni egy gépet. jobb, ”mondja Chang. „Modellünknek az emberi válaszokkal való összehasonlítása némi betekintést adott számunkra, hogy mennyire hasonlítható vagy nem hasonlít a számítási megközelítésünk az emberi intuícióra.”

Chang nem hiszi, hogy ez megszabadítaná a szemétbeszélgetés internetét, de úgy látja, hogy segíti az emberi szociális média moderátorait. Ahelyett, hogy figyelmet kellene fordítanunk a napi több millió hozzászólásra, algoritmusuk azonosíthatja azokat a több százat, amelyekre az érvelés veszélye fenyeget.

Bár azt gondolhatnánk, hogy ezeknek a potenciálisan kiszámíthatatlan vitáknak a fésülése a szomorúságot okozná Changnak, a tudós azt mondja, hogy a tapasztalat valóban reményt adott az emberiségnek.

„Manapság rengeteg pesszimizmus van az online beszélgetésekkel kapcsolatban, de itt látjuk, hogy még abban az esetben is, ha a beszélgetés barátságtalanul kezdődik, még mindig van esély arra, hogy a résztvevők második gondolataikat megváltoztassák. tónusú, és a beszélgetést nyomon követheti a fényesebb eredmény érdekében ”- mondja. „A jövő nem kőbe kerül.”

Talán remény van az internetre is.