Facebook închide experimentul după ce AI inventează propriul limbaj
Cercetătorii închid proiectul după ce mașinile dezvoltă propriul mod de a comunica neinteligibil pentru oameni
Roboții inteligenți îndeplinesc un număr tot mai mare de roluri
Getty Images
Bob: pot eu i orice altceva. . . . . . . . . . . . . .
Alice: bilele au zero la mine la mine la mine la mine la mine la mine la mine la mine la
Bob: tu eu totul altceva. . . . . . . . . . . . . .
Alice: bilele au minge la mine la mine la mine la mine la mine la mine la mine
Bob: eu pot eu i eu totul altceva. . . . . . . . . . . . . .
Alice: bilele au minge la mine la mine la mine la mine la mine la mine la mine
În ciuda faptului că arată ca scenariul dintr-un sitcom de televiziune cu adevărat groaznic, această conversație a avut loc de fapt între două programe de Inteligență Artificială, dezvoltate în interiorul Facebook pentru a perfecționa arta negocierii.
La început, cei doi vorbeau unul cu celălalt într-o engleză simplă. Dar apoi cercetătorii și-au dat seama că au făcut o greșeală în programarea mașinilor.
„Nu a existat nicio recompensă pentru a rămâne în limba engleză”, a declarat Dhruv Batra, cercetător vizitator de la Georgia Tech la Facebook AI Research (Târg). FastCo .
Întrucât acești doi agenți au concurat pentru a obține cea mai bună ofertă, „nici niciunul nu a primit niciun fel de stimulent pentru a vorbi așa cum ar face o persoană normală”, spune FastCo.
Așa că au început să se diverge, în cele din urmă rearanjând cuvintele inteligibile în propoziții aparent fără sens, provocând suspendarea experimentului.
Facebook a trebuit să închidă un AI pentru că și-a dezvoltat propriul limbaj pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31 iulie 2017
„Agenții (sau programele) vor îndepărta un limbaj ușor de înțeles și vor inventa cuvinte de cod pentru ei înșiși”, a explicat Batra. „Dacă spun „cel” de cinci ori, interpretezi asta ca însemnând că vreau cinci copii ale acestui articol. Acest lucru nu este atât de diferit de modul în care comunitățile de oameni creează stenografie.
Dar cercetătorii au fost dornici să sublinieze, experimentul nu a fost abandonat din cauza oricăror griji cu privire la efectele potențial negative ale comunicării roboților.
Cercetătorul echitabil Mike Lewis a declarat pentru FastCo că pur și simplu au decis că „interesul nostru a fost să avem roboți care să poată vorbi cu oamenii”, nu eficient între ei și, prin urmare, a optat pentru a le cere să se scrie unul altuia în mod lizibil.
Nu este prima dată când mașinile de inteligență artificială par să creeze propriul limbaj.
În noiembrie anul trecut, Google a dezvăluit că inteligența artificială pe care o folosește pentru instrumentul său de traducere și-a creat propria limbă, în care ar traduce expresii în și din care va traduce înainte de a furniza cuvinte în limba țintă.
Raportarea asupra evoluției la momentul respectiv, Tech Crinch a spus: „Acest „interlingua” pare să existe ca un nivel mai profund de reprezentare care vede asemănări între o propoziție sau un cuvânt”.
„Ar putea fi ceva sofisticat sau ar putea fi ceva simplu”, a adăugat site-ul web, dar „faptul că există deloc – o creație originală proprie a sistemului pentru a ajuta la înțelegerea conceptelor pe care nu a fost instruit să le înțeleagă. — este, filozofic vorbind, lucruri destul de puternice”.
Aceste evoluții recente au condus la discuții etice despre potențialele probleme ale mașinilor care comunică între ele fără intervenția umană.
„În cazul Facebook, singurul lucru pe care chatbot-ii erau capabili a fost să vină cu o modalitate mai eficientă de tranzacționare”, spune Gizmodo .
Dar există „probabil motive întemeiate pentru a nu lăsa mașinile inteligente să-și dezvolte propriul limbaj pe care oamenii nu l-ar putea înțelege în mod semnificativ”, adaugă site-ul.
„Sperăm că oamenii vor fi, de asemenea, suficient de deștepți pentru a nu conecta programele experimentale de învățare automată în ceva foarte periculos, cum ar fi o armată de androizi cu laser sau un reactor nuclear”.
