Så här hamnade porr på Ninja's Zombie Twitch Channel


Alla som besökte den vilande Twitch-kanalen för Fortnite legenden Ninja i helgen kan ha fått mycket mer än de förhandlade om. Sidan, visar det sig, ledde användare till en livestream av hardcore porr på söndagen istället för videospelstrider. Ninja, även känd som Tyler Blevins, var förståsvis inte nöjd med att lära sig att hans kanal hade vänt in i NSFW-territoriet – han har fortfarande 14,7 miljoner följare på plattformen. "Äcklad och så ledsen," han skrev på Twitter. Emmett Shear, vd för Twitch, ber om ursäkt till Ninja för misstaget samma natt och sa att kanalen som strömmande porr hade tagits ner.

"Vi har också avbrutit dessa rekommendationer medan vi undersöker hur detta innehåll kom till att marknadsföras," skrev Shear i en serie tweets Söndag. ”Det var inte vår avsikt, men det borde inte ha hänt. Inga ursäkter."

Tidpunkten kunde inte ha varit sämre. Tidigare denna månad lämnade Ninja Twitch och tog hans Fortnite talanger till Mixer, en rivaliserande streamingplattform som ägs av Microsoft. Ungefär samma tid började Twitch experimentera med en ny rekommendationsfunktion, som förvandlade Ninja's zombieprofil till reklamutrymme för att marknadsföra andra aktiva boskap. När Twitch-skapare inte är aktiva har deras kanaler vanligtvis bara tidigare videor. I ett uppenbart försök att hålla tittarna längre på webbplatsen började Twitch experimentera med att rekommendera andra aktiva livdjur på vilande kanaler istället.

Rekommendationer kan vara kraftfulla motorer för att mobilisera publiken. YouTube har tillskrivit mer än 70 procent av tiden som använts på sin plattform till sin rekommendationsalgoritm (som också har kritiserats för att hjälpa till att radikalisera sina användare). Funktionen Twitch testade helt enkelt de bästa strömmarna i en viss kategori. Sedan Ninja främst spelade Fortnite på Twitch försökte företaget fylla sin zombieprofil med andra populära strömmar med samma spel. En dålig skådespelare verkar ha artificiellt uppblåst antalet tittare i deras porrström, som lades till Fortnite kategori, skicka den till toppen av listorna – och därmed till Ninja's sida. Händelsen var ett högt profilerat misstag, men det väcker också frågor om Twitchs moderationsinsatser i större utsträckning.

Twitch är den överlägset största plattformen i världen för att titta på spelinnehåll, och nu har en av de mest populära webbplatserna på hela internet besökt mer än Pornhub, enligt Alexa-ranking. Dess stjärnor har förvandlats till bonafide-kändisar som kan tjäna sju siffror varje år i sponsringavtal. Twitch-skapare lever främst liveströmmar som spelar videospel och pratar, ofta i upp till 18 timmar eller mer åt gången. Samtidigt översvämmar fansen en åtföljande chattbox med skämt, observationer, komplimanger, behag för uppmärksamhet och trakasserier. Ungefär en miljon människor, enligt vissa uppskattningar, tittar på en Twitch-ström när som helst.

För att moderera detta ekosystem förlitar Twitch en blandning av tekniska verktyg, professionella moderatorer och frivilliga, precis som Reddit eller Wikipedia. (Det har också nyligen prövats stämning av dåliga skådespelare i domstol.) Streamers utnämner frivilliga moderatorer för att upprätthålla ordningen på deras livestreamchats, medan företaget förlitar sig på både konstgjord intelligens och människor för att upptäcka strömmar som bryter dess regler. Twitch kan inte starkt luta sig mot AI som är utformad för att analysera skriftlig text, som Facebook och Twitter gör, eftersom webbplatsen inte främst är textbaserad. Och det kan inte i förväg skanna videor efter saker som nakenhet innan de publiceras, eftersom de utvecklas i realtid.

Så det kanske inte är förvånande att Twitch har varit värd för några problematiska strömmar under åren. Förra året, till exempel, en liveströmd skytte enligt uppgift stannade uppe på platsen i timmar. Men att moderera liveinnehåll har varit en utmaning för varje socialt nätverk, och problemet är inte unikt för Twitch. I mars straffades Facebook för att ha låtit en liveström postad av en massskytt som dödade 51 människor i Nya Zeeland bli viral. Och YouTube, som också har en livestreaming-funktion, kämpar även med videor som inte sänds live. Skillnaden är att betydligt mer information har offentliggjorts om hur Facebook och YouTube polisens stötande innehåll än om hur Twitch gör det, delvis för att det förlitar sig på en mer decentraliserad modell.

Donghee Yvette Wohn, professor vid New Jersey Institute of Technology som studerar videospelet livestreaming, säger att det är omöjligt att jämföra Twitch med andra stora sociala nätverk, eftersom dess medlemmar i samfundet tar en mycket mer aktiv roll i att bestämma vilket tal som ska tillåtas. "Det betyder att varje streamer kan bestämma vad som är acceptabelt eller inte i sina egna lilla samhällen och de hanterar mycket av måtten inom," förklarar hon. Twitch har en öppen API-streamare som kan användas för att bygga anpassade moderationsverktyg samt alternativ utanför hyllan. Till exempel kan streamare filtrera vad ordkommentarer kan säga i sin chatt.

Twitch måste också kämpa med sin egen unika användarbas och historik. Twitch var ursprungligen en webbplats snävt fokuserad på videospel innehåll, säger Wohn. ”Det har sedan dess diversifierats, men på grund av denna historia finns det en stark närvaro av män som spelar videospel och, som vi vet från GamerGate, esports community, och allt spelrelaterat, det finns en historia av misogyny och sexism som är associerad med spelkultur. ”

Kvinnliga streamers har länge klagat över trakasserier på plattformen, och flera av dem orkestrerade en "SlutStream" -händelse förra månaden för att öka medvetenheten om problemet. I sin tur har Twitchs manliga användare ibland anklagat företaget för att behandla kvinnliga stjärnor med mer mildhet än män. Det var vad som hände den här veckan när porr poppade upp på Ninja's zombie-profil. Streamers började använda Twitter-hashtaggen #TwitchOverParty för att protestera mot plattformen, men samtalet koncentrerade till stor del inte på Ninja utan på anklagelser om att kvinnor får bryta mot Twitchs policy med straffrihet, medan män ofta får sina konton stängda. En del av kritiken hänvisade till en professionell streamer med nästan en miljon följare med namnet Natalia Mogollon, som nyligen anklagades för att ha missbrukt sin husdjurskatt i ett viralt videoklipp, men fick inte straff från Twitch. (Mogollon bad senare om ursäkt för sina handlingar.)

Twitchs ibland förvirrande policy har hjälpt till att driva anklagelser om att det behandlar enskilda streamers på olika sätt. Förra året uppdaterade Twitch sina riktlinjer för gemenskapen om trakasserier och nakenhet. I ett blogginlägg sade företaget att vidareutveckling skulle streamers kläder "vara lämpliga för en offentlig gata, köpcentrum eller restaurang." Det är naturligtvis en otroligt subjektiv åtgärd, och Twitch måste snart uppdatera sina riktlinjer för att klargöra hur exakt de ska tolkas. Vissa streamers hävdar att när kontroverser eller förvirring om ny policy dyker upp, det inte finns tillräckligt tydligt ledarskap om var företaget står.

"Problemet är att vi behöver någon vara ansiktet av ryck för att ta itu med många problem som pågår i samhället," Andy Milonakis, en streamer med över 400 000 följare, tweetade kl Twitch: s VD måndag. "När tusentals människor påpekar något hårt fel att göra och ingen svarar på massorna känns det som att det svepats under mattan."

När WIRED räckte till Twitch för kommentar, ledde företaget oss till Shears tweets.


Mer stora trådbundna berättelser