Cum abordează rețelele sociale discursul instigator la ură?
Programele de inteligență artificială și examinatorii de conținut uman reprimă comentariile ofensatoare online
Zach Gibson/AFP/Getty Images
Discursul instigator la ură nu este un fenomen nou pentru site-urile rețelelor de socializare, dar mitingul de extremă dreaptă de sâmbătă din Charlottesville, Virginia, care a provocat moartea unui protestatar, a determinat companiile să ia măsuri împotriva grupurilor ofensive online.
Iată cum răspund cele mai mari grupuri de social media la discursul instigator la ură, precum și planurile lor de a preveni răspândirea conținutului ofensator:
În urma evenimentelor violente de sâmbătă din Charlottesville, Engadget spune că Facebook a „închis numeroase grupuri de ură în urma atacurilor”, inclusiv „pagina evenimentului pentru marșul Unite the Right care a condus violența”.
Gigantul rețelelor sociale folosește o combinație de inteligență artificială (AI) și recenzori de conținut uman pentru a găsi discursuri instigatoare la ură, care The Verge spune că elimină „66.000 de postări instigatoare pe săptămână”. Dar site-ul spune că Facebook „se bazează foarte mult” pe utilizatorii care raportează conținutul ca ofensator sau plin de ură.
În mai, Facebook a angajat încă 3.000 de oameni în „echipa sa de evaluatori de conținut”, spune TechCrunch , ridicând totalul la 7.500. Acest lucru a fost declanșat de mai multe „scandaluri globale de moderare a conținutului”, inclusiv utilizarea Facebook Live „pentru a difuza crimă și sinucidere”.
Dar Cablat spune că au existat situații în care „revizorii algoritmici și umani” ai companiei au etichetat comentariile sau postările drept jignitoare fără a lua în considerare contextul. De exemplu, site-ul web spune că unele cuvinte „strigate ca insulte” sunt uneori „recuperate” de grupuri „ca mijloc de auto-exprimare”.
Stare de nervozitate
Politica de conduită ură a Twitter spune că serviciul nu „permite conturi al căror scop principal este incitarea la rău față de alții” pe baza unor domenii precum rasa sau orientarea sexuală.
The Independent raportează că, în ultimele luni, site-ul a introdus mai multe sisteme și instrumente pentru a detecta și elimina discursul instigator la ură, precum și a îmbunătățit procesul în care utilizatorii săi raportează manual materiale jignitoare.
Dar site-ul de socializare a fost într-o „apă fierbinte în ultimele luni în ceea ce privește o lipsă de acțiune percepută în urma amenințărilor percepute”, spune TechCrunch , ceea ce a dus la un activist să pulverizeze „limbajul urii pe străzile din afara sediului companiei din Berlin”.
În urma ciocnirii de sâmbătă, site-ul web spune că contul grupului de extremă-dreapta The Daily Stormer a fost eliminat, deși „tweit-urile lui Trump care se clătina pe marginea amenințării războiului nuclear” par să fie în conformitate cu politica companiei.
Forumul de chat Reddit a reprimat și discursul instigator la ură. Engadget spune că site-ul web a „închis numeroase grupuri de ură în urma atacurilor”.
Printre grupurile eliminate de pe site-ul de socializare a fost subreddit /r/Physical_Removal, o pagină în care Engadget spune că „sperau că oamenii din subreddit anti-ura și de la CNN vor fi uciși, au susținut lagărele de concentrare și chiar au scris poezii despre ucidere”.
„Suntem foarte clar în termenii și condițiile site-ului nostru că postarea de conținut care incită la violență va duce la interdicția utilizatorilor de pe Reddit”, a spus Reddit. Cnet .
Deși Google nu este exclusiv o rețea socială, gigantul tehnologic joacă un rol cheie în direcționarea traficului de internet și a aplicațiilor sociale pe care utilizatorii le pot accesa.
De la ciocnirea de sâmbătă din Charlottesville, TechCrunch spune că firma a eliminat „rețeaua socială conservatoare” Gab din Magazinul său Play, deoarece a devenit un „paradis” pentru utilizatorii interziși de pe platformele mainstream.
Google spune că nu acceptă „conținutul care promovează sau tolerează violența împotriva unor persoane sau grupuri” pe baza anumitor criterii, adăugând că „depinde în mare măsură de utilizatori să ne anunțe despre conținutul care ar putea încălca politicile noastre”.
Dar TechCrunch spune că „nu este clar ce anume a făcut Gab care a justificat să fie dat afară din magazin”, deoarece aplicația este o cameră de chat și nu pare să promoveze în mod activ discursul instigator la ură. Site-ul web spune că „există o mulțime de discursuri instigatoare la ură pe Twitter și YouTube”, dar acestea sunt încă disponibile pentru descărcare, în ciuda „reprimarii” din această săptămână a conținutului ofensator.
Conform The Verge , Gab „nu a fost niciodată aprobat pentru plasarea în App Store al Apple”.
Ce fac altii?
Unul dintre cazurile notabile de reprimare a discursului instigator la ură după evenimentele de sâmbătă include retailerul de nume de domeniu web GoDaddy care a evacuat site-ul The Daily Stormer din serviciul său, spune Registrul .
Site-ul web spune că activiștii i-au spus retailerului că grupul a făcut „remarci extraordinar de vulgare și disprețuitoare” despre victima atacului de la Charlottesville, Heather Heyer. GoDaddy a oferit The Daily Stormer 24 de ore „pentru a muta domeniul la alt furnizor”.
Am informat The Daily Stormer că au 24 de ore pentru a muta domeniul la alt furnizor, deoarece au încălcat termenii și condițiile noastre.
- GoDaddy (@GoDaddy) 14 august 2017
De asemenea, se așteaptă ca YouTube să „instituie linii directoare mai stricte în ceea ce privește discursul instigator la ură”, relatează TechCrunch . Acest lucru ar putea vedea mai multe videoclipuri eliminate după ce utilizatorii le marchează ca ofensatoare, chiar dacă nu există nimic ilegal în conținut.
