Un cercetător de la DeepMind a demisionat din cauza acordului cu armata: 'Nu puteam să rămân la Google cu bună știință'
Un cercetător de la Google DeepMind a declarat că a demisionat din cauza colaborării companiei cu Ministerul Apărării, adăugându-se criticilor interne asupra parteneriatului militar al gigantului tehnologic. Alex Turner, un cercetător care a lucrat mai bine de doi ani în domeniul siguranței AI la Google DeepMind, și-a încheiat activitatea în iunie, a declarat el pentru businessinsider.com.
👉 Decizia cercetătorului după semnarea acordului cu Pentagonul
Turner a spus că a luat această decizie după ce Google a semnat un acord care permite Pentagonului să folosească AI-ul său pentru operațiuni clasificate. Pentagonul a confirmat, la începutul lunii mai, că a semnat acordul cu Google și un grup de alte companii, inclusiv Microsoft, Amazon și OpenAI, pentru "utilizare operațională legală". "Când Google a semnat acordul, conștiința mea a spus pur și simplu 'nu'", a declarat el.
În mai, după ce Pentagonul a anunțat acordul cu Google și alte laboratoare, un purtător de cuvânt al Google a spus: "Rămânem angajați în consensul sectorului privat și public că AI-ul nu ar trebui să fie folosit pentru supravegherea în masă internă sau arme autonome fără supervizare umană adecvată." Acordul Google cu Pentagonul a stârnit controverse printre angajații săi. În aprilie, aproximativ 600 din cei aproape 195.000 de angajați ai Google au semnat o petiție cerând companiei să nu intre în niciun acord care implică lucrări clasificate. Un acord clasificat limitează cât de mult control are Google asupra modului în care este utilizat AI-ul său.
👉 Reacții interne și comunicarea cu conducerea Google
Un cercetător de la DeepMind a declarat pe X că îi era "rușine" de acordul lui Google cu Pentagonul, în timp ce un alt angajat a publicat o scrisoare de demisie internă în mai, invocând de asemenea relația mai strânsă a Google cu armata americană. Turner a spus că a început să se gândească la plecarea sa din Google în februarie, când a realizat că Google va semna acordul cu Pentagonul. "Cred că aș fi rămas încă câteva luni dacă nu ar fi semnat acordul. Când Google a semnat, pur și simplu nu am putut continua să lucrez. Creierul meu a spus 'nu'", a scris el într-un articol de blog publicat miercuri.
Turner a spus că nu are un alt loc de muncă pregătit în acest moment. Anterior, el a propus un cadru pentru AI militar care spera că Google ar putea să-l adopte, inclusiv prevederi pentru a asigura controlul uman asupra sistemelor de țintire AI. Un purtător de cuvânt al Google a declarat pentru businessinsider.com că compania a fost receptivă la ideile lui Turner.
La începutul anului 2025, Google a actualizat principiile sale pentru AI pentru a elimina angajamentele că nu va urmări utilizarea AI-ului pentru arme sau supraveghere în masă. CEO-ul Google DeepMind, Demis Hassabis, a co-autorat un articol de blog la acea vreme anunțând modificările. Decizia a stârnit controverse printre angajați în acel moment.
Într-un mesaj intern adresat colegilor înainte de a pleca, Turner a spus că există o deconectare între comentariile lui Hassabis într-o întâlnire cu angajații, în care a spus că principiile lui nu s-au schimbat, și decizia de a elimina angajamentele. "Dacă nu pot avea încredere în această afirmație ușor verificabilă, cum ar trebui să mă simt în siguranță în legătură cu supravegherea atentă pe care spune că ne protejează?", a scris Turner în mesajul care a fost văzut de businessinsider.com.
Turner a spus că a captat atenția executivilor de la Google la începutul acestui an. El a spus că a avut prânz cu șeful științific Google, Jeff Dean, pentru a discuta despre preocupările sale. De asemenea, a ajutat să organizeze o scrisoare din partea angajaților adresată lui Dean, care și-a arătat public suportul pentru Anthropic în timpul confruntării sale cu Casa Albă cu privire la utilizarea militară a AI-ului. Scrisoarea a cerut Google să trasese linii roșii în orice acorduri cu Pentagonul, cum ar fi interzicerea Gemini de a pilota arme autonome fără supraveghere umană.
Turner a spus că a trimis propunerea pentru cadrul său de AI militar lui Hassabis la începutul acestui an, rugându-l să fie evaluată de două persoane senior în polică la Google. După câteva discuții privind pașii următori, Turner a spus că a încetat să mai primească răspunsuri. La scurt timp după, Departamentul de Apărare a confirmat că a semnat un acord. "În acel moment, nu puteam să rămân la Google cu bună știință, așa că am plecat", a scris Turner în articolul său de blog.
Turner a spus că lucrează la proiecte independente în domeniul siguranței și securității AI în timp ce își planifică următoarea mișcare. "Când un angajat părăsește un laborator de vârf în AI, de obicei se îndreaptă spre brațele altuia", a scris el. "De obicei, obțin un bonus uriaș în acest fel. Asta nu este ceea ce am făcut: nu am flirtat cu laboratoare concurente." "Acum sunt șomer", a adăugat el.