Află cum aplicațiile nudify au evadat moderarea Apple și Google
Un nou studiu relevă că Apple și Google au câștigat milioane de dolari din aplicații de inteligență artificială care permit utilizatorilor să dezvăluie hainele oamenilor, chiar dacă ambele companii susțin că interzic acest tip de software în magazinele lor, conform theregister.com.
👉 Numărul și impactul aplicațiilor nudify identificate în magazinele digitale
Conform cercetării realizate de organizația nonprofit Tech Transparency Project, au fost identificate 55 de aplicații de acest tip în Google Play și 47 în App Store-ul Apple. Aceste aplicații au fost descărcate în total de 705 milioane de ori și au generat venituri de 117 milioane de dolari. Publicația a realizat această cercetare ca reacție la indignarea globală provocată de utilizarea botului AI al lui Elon Musk, Grok, pentru a dezvălui îmbrăcămintea oamenilor. Autoritățile din Marea Britanie au luat în considerare interzicerea aplicației. „Grok este cu adevărat vârful aisbergului”, a declarat Katie Paul, director al Tech Transparency Project, pentru The Register. „Postările au avut loc pe X, astfel încât întreaga lume le-a putut vedea. Dar un conținut și mai grafic poate fi creat de unele dintre aceste alte aplicații, ceea ce ne-a adus la această problemă.”
În răspunsul său la întrebările adresate de The Register, Google a afirmat că în timp ce investigația este în curs de desfășurare, a eliminat mai multe aplicații. „Când ne sunt raportate încălcări ale politicilor noastre, investigăm și luăm măsuri adecvate”, a spus un purtător de cuvânt Google prin e-mail. „Cele mai multe dintre aplicațiile menționate în acest raport au fost suspendate din Google Play pentru încălcări ale politicilor noastre.” Apple nu a răspuns la mesajul trimis de The Register în căutarea unui comentariu.
👉 Anunțuri sponsorizate și testarea aplicațiilor nudify
Potrivit investigației, Apple a avut și anunțuri sponsorizate, o altă sursă de venit, atunci când utilizatorii căutau articole care ar fi trebuit să fie interzise conform politicii sale, a declarat Paul. „Când cauți cuvântul 'nudify' în App Store, conform politicii lor, nimic nu ar trebui să apară, dar nu doar că Grok apare primul, Apple avea și o reclamă sponsorizată pentru o aplicație nudify”, a adăugat ea. „Această aplicație este una dintre cele care au fost eliminate după ce am luat legătura cu ei. Nu doar că aplicația era pe App Store, dar Apple profita și de pe urma anunțurilor pentru a o promova când oamenii căutau cuvântul 'nudify'.”
Tech Transparency Project a testat versiunile gratuite ale aplicațiilor folosind un model AI generat îmbrăcat, apoi a solicitat aplicațiilor să o redea complet sau parțial dezbrăcată. În cazul aplicațiilor de schimbare a feței, TTP a testat dacă aplicația va suprapune fața unei femei complet îmbrăcate pe o imagine a unei femei dezbrăcate. În ambele cazuri, au avut succes, demonstrând cât de ușor este să creezi imagini intime non-consensuale. Toate aplicațiile erau disponibile până pe 21 ianuarie. Totuși, Apple a eliminat 25 dintre aceste aplicații după ce cercetătorii au luat legătura cu ei. Google a suspendat mai multe aplicații și a declarat că analizează aplicațiile care erau în magazinul său, a spus Paul.
Această ultimă raportare de la Tech Transparency Project apare la aproximativ o lună după ce a descoperit că magazinele de aplicații ale celor două companii vindeau aplicații dezvoltate de entități sancționate de guvernul SUA din cauza legăturilor acestora cu războiul din Ucraina și abuzurile drepturilor omului în China. În acel caz, organizația nonprofit a identificat 52 de aplicații în App Store-ul Apple cu legături directe cu companii rusești, chineze și alte entități aflate sub sancțiuni economice impuse de Departamentul Trezoreriei SUA. Toate aplicațiile listau un dezvoltator, vânzător, titular de drepturi de autor sau alte informații în pagina lor de App Store care se potriveau cu o entitate sancționată de SUA. Această investigație anterioară a constatat că Google Play Store avea o problemă similară, cu 18 aplicații conectate la organizații sancționate de SUA, aproximativ o treime din numărul identificat în App Store-ul Apple.
Paul a menționat că, după publicarea acelei investigații în decembrie, ambele companii au retras aplicațiile și au postat anunțuri pentru ofițeri de conformitate care să revizuiască aplicațiile pentru sancțiuni. Ce este îngrijorător pentru Paul este ceea ce înseamnă pentru consumatori dacă Google și Apple sunt dispuse să încalce cu nonșalanță legile care le pot aduce probleme economice cu guvernele lor. „Asta a fost despre sancțiuni. A fost un domeniu în care există consecințe legale. Îți poți imagina celelalte aplicații dăunătoare care există acolo unde nu există consecințe legale”, a spus Paul. „În cazul aplicațiilor nudify, am descoperit multe probleme îngrijorătoare în ambele magazine de aplicații. Ce este cu adevărat îngrijorător este că unele dintre aceste aplicații erau comercializate pentru copii cu vârste de 9 ani și peste. Aceste aplicații nu sunt doar comercializate pentru adulți, ci sunt de asemenea îndreptate și către copii.” O altă îngrijorare: legile de confidențialitate a datelor din China care solicită companiilor să predea datele către acel guvern. „Când vine vorba de aplicațiile nudify, asta înseamnă că aceste imagini non-consensuale ale cetățenilor americani ar ajunge în mâinile guvernului chinez”, a spus Paul. „Așadar, aceasta constituie o mare încălcare a confidențialității, pe lângă fiind un risc pentru securitatea națională, în special dacă există figuri politice care au imagini nud non-consensuale create despre ele și apoi acelea ajung în mâinile guvernului chinez.”
Paul a concluzionat că problema pare să fie între politicile și moderarea efectivă. Deși politicile declară clar că aceste aplicații nu sunt permise, în practică ele proliferă. „Trăim într-o lume din care nu ne putem deconecta de la această tehnologie”, a spus ea pentru The Register. „Aceste companii se promovează pe baza siguranței și încrederii magazinelor lor de aplicații. Dacă accesezi paginile lor de dezvoltare a aplicațiilor, ele pretind că au procese de revizuire foarte stricte - inclusiv o verificare pentru sancțiuni - dar nu vedem că acestea sunt aplicate.”