Modul în care IA ale difuzoarelor inteligente, cum ar fi Alexa și Siri, întăresc prejudecățile de gen
Unesco îndeamnă firmele de tehnologie să ofere versiuni neutre din punct de vedere al sexului ale asistenților lor vocali
HomePod de la Apple este alimentat de asistentul vocal Siri
Justin Sullivan/Getty Images
Difuzoarele inteligente alimentate de asistenți vocali de inteligență artificială (AI) care sună feminin întăresc părtinirea de gen, potrivit unui nou raport al ONU.
Cercetările efectuate de Unesco (Organizația Națiunilor Unite pentru Educație, Știință și Cultură) au constatat că asistenții AI, cum ar fi Alexa de la Amazon și Siri de la Apple, perpetuează ideea că femeile ar trebui să fie supuse și tolerante față de un tratament defectuos, deoarece sistemele sunt obligate și dornice să mulțumească, The Daily Telegraph rapoarte.
Raportul - numit Aș înroși dacă aș putea, cu referire la o frază rostită de Siri în urma unui comentariu sexual - spune că companiile de tehnologie care își fac asistenții vocali în mod implicit femei sugerează că femeile sunt ajutoare docile care pot fi disponibile la atingere. a unui buton, adaugă ziarul.
Agenția acuză, de asemenea, companiile de tehnologie că nu reușesc să prevadă garanții adecvate împotriva limbajului ostil, abuziv și bazat pe gen, relatează. The Verge .
În schimb, majoritatea IA răspund la comentarii agresive cu o glumă vicleană, notează site-ul de știri tehnice. Dacă i se cere să facă un sandviș, de exemplu, Siri spune: nu pot. Nu am condimente.
Companii precum Apple și Amazon, cu personal covârșitor de echipe de inginerie masculine, au construit sisteme AI care îi determină pe asistenții lor digitali feminizați să întâmpine abuzurile verbale cu flirt „catch-me-if-you-poteți”, spune raportul Unesco.
Ce au descoperit alte cercetări?
Raportul Unesco citează o serie de studii, inclusiv cercetări ale firmei de tehnologie Robin Labs din SUA, care sugerează că cel puțin 5% dintre interacțiunile cu asistenții vocali sunt clar explicite din punct de vedere sexual.
Și compania, care dezvoltă asistenți digitali, consideră că cifra va fi probabil mult mai mare din cauza dificultăților de detectare a vorbirii sugestive din punct de vedere sexual. Gardianul rapoarte.
Agenția ONU indică, de asemenea, un studiu al firmei de cercetare Gartner, care prezice că până în 2020 oamenii vor avea mai multe conversații cu asistentul vocal din difuzorul inteligent decât cu soții lor.
Asistenții vocali gestionează deja aproximativ un miliard de sarcini pe lună, de la redarea melodiilor până la contactarea serviciilor de urgență.
Deși unele sisteme permit utilizatorilor să-și schimbe sexul asistentului vocal, majoritatea activează implicit voci feminine, BBC rapoarte.
Raportul Unesco concluzionează că această aparentă părtinire de gen merită o atenție urgentă.
Cum ar putea companiile de tehnologie să abordeze problema?
Unesco susține că firmele ar trebui să fie obligate să-și facă asistenții vocali să anunțe că nu sunt oameni atunci când interacționează cu oamenii, relatează The Sunday Times .
De asemenea, agenția sugerează că utilizatorilor ar trebui să li se ofere posibilitatea de a selecta sexul asistentului vocal atunci când primesc un nou dispozitiv și că ar trebui să fie disponibilă o opțiune neutră din punct de vedere al sexului, adaugă ziarul.
În plus, firmele de tehnologie ar trebui să programeze asistenți vocali pentru a condamna abuzul verbal sau hărțuirea sexuală, cu răspunsuri precum nu sau care nu este adecvat, spune Unesco.
Companiile de tehnologie nu au răspuns încă la studiu.
