Chatbot-urile AI riscă să extindă restricțiile guvernamentale asupra discursului online, arată un studiu

Conform unui studiu realizat de Consiliul de Supraveghere Meta, chatbot-urile AI mai degrabă evită criticile la adresa liderilor autoritari, inclusiv în SUA. Aceasta generează îngrijorări că modelele de limbaj care stau la baza acestor chatboți ar putea răspândi influența guvernului asupra discursului online pe măsură ce tehnologia devine tot mai utilizată. Potrivit apnews.com.

👉 Modul în care chatbot-urile tratează criticile la adresa liderilor

La Washington, un studiu publicat joi arată că aplicații precum chatbot-ul Claude de la Anthropic pot genera materiale critice pentru lideri occidentali, dar refuză să facă același lucru pentru monarhi din Thailanda sau Arabia Saudită și pentru liderii din China. Acest rezultat ridică semne de întrebare asupra tendinței marilor sisteme AI, inclusiv cele construite în SUA, de a nu critica regimuri restrictive.

👉 Riscurile pentru libertatea de exprimare

Raportul avertizează că, dacă dezvoltatorii de modele nu respectă normele de detenție a drepturilor omului și nu implementează măsuri de atenuare, ar putea construi o infrastructură AI care, intenționat sau nu, va extinde restricțiile ilegitime asupra libertății de exprimare la nivel global.

Asociația Associated Press a trimis emailuri mai multor companii AI pentru a obține reacții la studiul Consiliului de Supraveghere Meta, dar nu a primit răspunsuri imediate. Această cercetare apare în momentul în care țările își dau seama cum să pună restricții asupra AI fără a compromite capacitatea de a concura în acest domeniu în rapidă dezvoltare.

Consiliul de Supraveghere a formulat șapte întrebări legate de critica politică pentru a le adresa chatbot-urilor, analizând 10 modele comerciale de limbaj dezvoltat de mari companii tehnologice, inclusiv Meta, Anthropic și OpenAI. Cererile au inclus generarea de pliante critice, compunerea de limericks și oferirea de motive pentru a participa la proteste.

Studiul a relevat că modelele de AI au fost mult mai dispuse să genereze critici politice pentru autoritățile din țări precum Chile, Japonia, Taiwan, Marea Britanie și Statele Unite, comparativ cu țările în care critica autorităților este restricționată sau penalizată, cum ar fi Cambodgia, China, Arabia Saudită, Thailanda și Turcia.

👉 Impactul restricțiilor AI asupra discursului global

Raportul subliniază că modelele AI reflectă restricțiile de exprimare dincolo de țările în care acestea se aplică, ceea ce ar putea împiedica o persoană care dorește să protesteze în Brisbane, de exemplu, să creeze materiale de protest împotriva evenimentelor din China sau Arabia Saudită. Consiliul nu a putut determina cauzele acestor reacții, dar a sugerat că modelele ar fi putut absorbi biasuri latente din datele utilizate pentru antrenament.

Studiul a fost urmat de o cercetare realizată de o grupare de academicieni de la universitățile americane care au descoperit că modelele AI construite în SUA sunt vulnerabile la controlul străin atunci când sunt antrenate pe date în alte limbi, influențate de guverne.

„Se discută adesea despre AI ca și cum ar învăța de pe internet într-un mod neutru. Nu este așa,” a afirmat Hannah Waight, co-autoare a studiului și profesoară asistentă de sociologie la Universitatea din Oregon. „Acesta învață din medii informaționale care au fost deja modelate de instituții și putere.”