Semmi, a Forever , a mesterséges intelligenciával hajtott Seinfeld hamis show a Twitch-en, hamarosan a következő nagy dolog lett a platformon. A mindig aktív közvetítés során a Seinfelddel szomszédos szereplők megzavaró beszélgetéseket folytattak, fura vicceket űztek, és a durva, kockás grafikák világában mozogtak, mindezt egy nevetősáv támogatta, és MI irányította.
Semmi, a Forever visszatér a Twitch-hez új védőkorlátokkal
De aztán két hétre felfüggesztették, miután a Jerry Seinfeld-szerű karakter transzfób megjegyzéseket tett. Ez a felfüggesztés hétfőn megszűnik, és bár a Mismatch Media készítői azon dolgoztak, hogy ne forduljanak elő újra transzfób megjegyzések, ezt nem tudják garantálni.
A transzfób megjegyzések azután történtek, hogy a Mismatch megváltoztatta a stream alapjául szolgáló AI modelleket. „Az OpenAI GPT-3 Davinci modelljét használva kiesést kezdtünk, ami miatt a show hibás viselkedést mutatott” – áll a Nothing, Forever Discord közleményében . „Az OpenAI-nak van egy kevésbé kifinomult modellje, a Curie, amely Davinci elődje volt. Amikor Davinci elkezdett kudarcot vallani, áttértünk Curie-ra, hogy megpróbáljuk leállás nélkül tartani a műsort. A Curie-ra váltás volt az, ami nem megfelelő szöveget eredményezett.”
Egy későbbi bejegyzésében Mismatch hozzátette, hogy „tévesen azt hittük, hogy az OpenAI tartalommoderációs rendszerét használjuk a szöveggeneráló modelljeikhez”, és hogy a műsor újraindulása előtt az OpenAI tartalommoderálási API-jának megvalósításán fog működni.
Természetesen a szoftverrel mindig van változatosság”
Azóta a Mismatch stabilitási teszteket végez ezzel a megvalósítással szemben, és gondoskodik arról, hogy ne legyenek hamis negatívok – mondta Skyler Hartle, a Mismatch társalapítója a The Verge- nek adott interjújában . „Eddig nagyon jól néz ki” – mondta. De aztán fedezte, és azt mondta, hogy „természetesen a szoftverrel mindig van változatosság”. Megkérdeztem Hartle-t, hogy a Mismatch hogyan biztosítja a védőkorlátok működését. „Úgy gondolom, hogy a generatív mesterséges intelligencia és a generatív média terén benne rejlik a bizonytalanság.”
Sok olyan vad dologra hivatkozott, amelyet az emberek már elértek a ChatGPT-vel és az új Bing AI chatbottal: „Úgy gondolom, hogy ezen a téren mindenkinek aggódnia kell, és gondolkodnia kell ezen.” A Mismatch Media ezt úgy kezeli, hogy létrehoz egy „biztonsági tanácsi csapatot” – mondta Hartle, amely megpróbálja kitalálni a mérséklő stratégiákat annak érdekében, hogy az AI biztonsági intézkedések a generatív mesterségesintelligencia-darabok mellett fejlődhessenek. „Nagyon határozottan úgy érezzük, hogy a generatív térben dolgozóknak kötelességünk ezt a lehető legbiztonságosabban megtenni.”
A hivatalos OpenAI tartalommoderációs API kihasználása mellett a Mismatch az OpenAI-t is szeretné használni a moderálási folyamat segítésére . „Azon dolgozunk, hogy olyan védőkorlátokat hozzunk létre, amelyek ténylegesen kihasználják az OpenAI-t, hogy átadjuk nekik a tartalmat, és kérdéseket és felszólításokat tegyenek fel” – mondta Hartle. A Mismatch „az OpenAI megfelelő módjainak kitalálása, és ezek a nagy nyelvi modellek segítenek mérsékelni ezt a folyamatot. Ezek a modellek jelenleg a legjobbak a természetes nyelv elemzésében, ezért nagyon logikus, hogy megpróbáljuk másodlagos rendszerként is használni őket.
Hartle nem várja, hogy a Nothing, Forever hangszíne megváltozzon a további tartalommoderáló rendszerekkel. Ez valószínűleg azt jelenti, hogy továbbra is látni fogjuk, hogy a show egyre bizarrabb és tiszteletlenebb pillanatokat hoz létre, de remélhetőleg ezúttal nem lesz transzfóbia.
Hartle egy közönséginterakciós rendszert szeretne bevezetni
Hartle azt is elmondta, hogy a Mismatch egy olyan közönség-interakciós rendszert szeretne bevezetni, amelyet korábban felépített, de úgy döntött, hogy nem indítja el a Nothing, Forever segítségével . A rendszer „lehetővé teszi a rajongók számára, hogy biztonságosan kommunikáljanak a műsorral, és potenciálisan masszírozzák azt az irányt, amelybe a műsor irányul, miközben megőrzi generatív szellemiségét. Mismatch azt reméli, hogy a rendszert a Twitch felfüggesztés emelésével együtt elindítja, de „jelen pillanatban nem akar ígérni semmit”.
Én személy szerint szkeptikus vagyok a közönség interakciós eszközeivel kapcsolatban egy ilyen alkalmazásban. Bár használható lenne az internetes egység olyan nagyszerű pillanatában, mint a TwitchPlaysPokemon virágkora, attól tartok, hogy valami olyan lesz, mint a Tay-fiaskó.
A Beyond Nothing, Forever , a Mismatch Media platformot szeretne építeni az alkotók számára, hogy saját műsorokat készíthessenek. „Sok minden benne van, és sok minden van, amit kitalálunk és megismételünk, de a terv az, hogy az emberek következő generációjához hasonlóan képessé tegyük ezeket a dolgokat” – mondta Hartle. A cél az, hogy ezt a platformot a következő hat-tizenkét hónapon belül üzembe helyezzük.
Megkérdeztem Hartle-t is, amióta először megnéztem a műsort: vajon tényleg a terv az, hogy örökké futni fog? „Reméljük, hogy a műsort addig üzemeltethetjük, ameddig csak lehet, ameddig ennek gazdaságilag van értelme, mert nagyon drága” – mondta Hartle. „De ennek ellenére ezt technológiai platformként építjük ki. És szeretnénk még több előadást készíteni. Ha ebben sikeresek vagyunk, és képesek vagyunk üzletet építeni magunk köré, akkor nem látom okát, hogy a Nothing, Forever miért ne működjön addig, amíg a rajongók és a közösség azt akarja, hogy működjön.”
