„Elsagate” dovedește că YouTube este prea mare pentru a fi controlat?
Scandalul de videoclipuri violente și sexuale destinate copiilor dezvăluie dificultatea de a te baza pe algoritmi
Catrinus Van Der Veen / AFP / Getty Images
În februarie, YouTube a anunţat a atins o piatră uluitoare: vizitatorii consumau acum echivalentul a unui miliard de ore de videoclipuri în fiecare zi.
Dimensiunea mare a bazei de utilizatori a platformei este la fel de uluitoare. Peste 1,5 miliarde de oameni folosesc YouTube, spune Gardianul Roger McNamee, oferindu-i o acoperire globală comparabilă cu islamul.
Dar, după cum se spune, cu o mare putere vine o mare responsabilitate și recentul ElsaGate, un scandal care implică videoclipuri tulburătoare destinate copiilor, i-a determinat pe unii să se întrebe dacă YouTube a devenit un monstru al lui Frankenstein, dincolo de controlul creatorilor săi.
Ce este ElsaGate?
Unele dintre cele mai populare canale YouTube sunt destinate copiilor, creatorii specializați în versuri de copii, desene animate colorate și videoclipuri atotputernice de despachetare a jucăriilor, care câștigă milioane de abonați și miliarde de vizionări.
Dar este o problemă. YouTube este absolut inundat de videoclipuri extrem de violente, inadecvate, sugestive din punct de vedere sexual, care vizează copii, spune Inquistr , iar aceste videoclipuri își găsesc drum în listele de redare automată alături de clipuri adecvate vârstei.
Jurnalistul James Bridle a aprofundat în acest fenomen tulburător, numit Elsagate după popularul personaj Frozen care apare în multe dintre videoclipuri, pentru un articol intitulat Something is Wrong on the Internet pe Mediu luna aceasta.
El a descoperit că, pe măsură ce creatorii de conținut urmăresc spectatorii, formulele de succes - și inofensive inițial - pentru a strânge vizualizări sunt repetate la nesfârșit în rețea în recombinări din ce în ce mai ciudate și distorsionate.
În cele mai extreme, acestea includ o legiune de videoclipuri neliniștitoare care par a fi produse sau, în unele cazuri, generate automat, ca răspuns la cuvinte cheie populare. Acestea prezintă adesea teme tulburătoare și conținut sexual sau violent.
De exemplu, o căutare a stomatologului Peppa Pig returnează un clip de casă în care personajul popular al copiilor este torturat, înainte de a se transforma într-o serie de roboți Iron Man și de a executa dansul Learn Colors.
ElsaGate a generat un val de răspunsuri din partea părinților îngrijorați, a presei și a cercetătorilor de pe internet dedicați să afle cine sau ce realizează aceste videoclipuri tulburătoare și de ce.
A devenit YouTube prea mare pentru a fi controlat?
În centrul ElsaGate și a altor controverse legate de conținutul YouTube, cum ar fi videoclipurile care promovează terorismul sau violența, se află atotputernicia algoritmilor platformei.
Spre deosebire de ceea ce ar putea crede unii părinți, conținutul din aplicația YouTube dedicată pentru copii nu este organizat sau chiar examinat în prealabil de oameni. În schimb, videoclipurile sugerate apar automat în lista de redare automată pe baza cuvintelor cheie partajate sau a unor segmente de public similare.
Dimensiunea mare a catalogului YouTube depășește capacitățile supravegherii umane. Conținutul este încărcat pe platformă la echivalentul a 400 de ore de video în fiecare minut, potrivit Statista .
Proliferarea incredibilă a videoclipurilor care au fost în mod clar produse ca răspuns la termenii obișnuiți de căutare arată măsura în care YouTube este, în esență, condus de mașini, spune Medium’s Bridle.
Pe o platformă în care vizibilitatea conținutului – și, prin urmare, potențialul de venituri din reclame – este controlată de algoritmi, chiar dacă sunteți om, trebuie să ajungeți să vă uzurpați identitatea mașinii.
ElsaGate a dezvăluit un adevăr de lungă durată despre YouTube, care nu mai poate fi ignorat, spune Poligon : filtrele concepute pentru a proteja utilizatorii de toate vârstele împotriva conținutului deranjant, violent sau ilegal nu sunt la înălțime.
Algoritmii sunt sfâșiați, analizați și bătuți de creatorii de conținut, umani sau automatizați, care au devenit adepți în jocul sistemului pentru a se asigura că rezultatul lor este văzut.
Într-un exemplu deosebit de notoriu, farsorii de pe panoul de mesaje 4chan au reușit să îmbine pornografia în emisiunile pentru copii și să folosească algoritmul pentru a se asigura că videoclipurile au fost monetizate și văzute, spune Polygon.
Se poate rezolva problema?
YouTube s-a angajat să învingă ciuma videoclipurilor inadecvate pentru copii care trec de filtrele aplicației pentru copii.
Juniper Downs, director de politici, a declarat că un nou sistem care precede dezvăluirile ElsaGate va clasifica videoclipurile semnalate de utilizatori ca fiind restricționate de vârstă, ceea ce le va ține automat în afara aplicației YouTube Kids.
La un nivel mai larg, există semne că YouTube își schimbă atitudinea față de curatarea conținutului către o abordare mai practică, determinată de presiunea guvernelor preocupate de extremismul online.
Mai multe atacuri teroriste în Europa și SUA au fost comise de indivizi despre care se crede că s-au autoradicalizat, parțial, prin vizionarea videoclipurilor de propagandă pe YouTube realizate de grupuri precum Statul Islamic și simpatizanții acestora.
Politicienii au amenințat că vor lua măsuri împotriva firmelor de tehnologie care nu consolidează măsurile de eliminare a videoclipurilor care conțin conținut extremist. Alphabet, compania-mamă a YouTube, pare să ia în serios amenințările.
Anterior, videoclipurile cu caracter religios sau politic incendiar erau permise pe YouTube dacă nu încălcau regulile site-ului privind conținutul grafic sau promovarea violenței, deși nu erau eligibile pentru venituri din reclame.
Un purtător de cuvânt YouTube a confirmat Reuters politica lor s-a schimbat pentru a interzice orice videoclip care prezintă persoane sau grupuri clasificate ca teroriste, inclusiv materiale precum prelegerile lui Anwar al-Awlaki, recrutorul al-Qaeda.
Cu toate acestea, chiar dacă YouTube dezvoltă noi strategii pentru a remedia lacunele, implicațiile ElsaGate rămân deranjante la un nivel mai profund, spune TechCrunch este Natasha Lomas.
Mediul YouTube stimulează fabricile de conținut să producă nutreț pentru clicuri, scrie Lomas, expunând o generație la un val de nămol de cultură pop bazat mai degrabă pe cuvinte cheie decât pe coerență. Este greu de imaginat ceva pozitiv care vine de la ceva atât de intenționat de bază și de hrănire de fund care este împins sistematic în fața globilor oculari ai copiilor.
