'Vulnpocalypse': Ce se întâmplă când AI oferă hackerilor o superarmă

Pe măsură ce inteligența artificială devine din ce în ce mai capabilă să identifice vulnerabilitățile software-ului, experții avertizează tot mai mult asupra unui scenariu de potențial dezastru: așa-numita “Vulnpocalypse.” Hackerii ar putea să-și turbochargeze rapid atacurile folosind tehnologia AI concepută pentru a identifica slăbiciunile din apărarea cibernetică, potrivit nbcnews.com.

👉 Restricții în accesul la tehnologii AI avansate pentru securitate cibernetică

Săptămâna aceasta, acest scenariu a început să pară mai puțin teoretic. Anthropic, o companie de vârf în domeniul AI, a anunțat că va reține modelul său latest, Mythos Preview, de la public, citând capacități fără precedent de descoperire a vulnerabilităților care ar putea provoca daune semnificative în mâini greșite. Compania își partajează modelul cu un grup limitat de giganți tehnologici și parteneri pentru a-i ajuta să își întărească apărările.

👉 Reacții guvernamentale și implicații strategice

Îngrijorarea a ajuns la cele mai înalte niveluri guvernamentale. În urma anunțului Anthropic legat de Mythos Preview, Secretarul Trezoreriei, Scott Bessent, a convocat săptămâna aceasta o întâlnire cu principalele instituții financiare pentru a discuta despre “dezvoltările rapide care au loc în domeniul AI”, a declarat un purtător de cuvânt al agenției. Unele teorii sugerează că AI ar putea ajuta hackerii să închidă sistemele financiare sau să blocheze spitalele și fabricile. Ar putea ajuta țări precum Iranul să oprească infrastructura critică americană. Sau ar putea fi utilizată pentru a provoca întreruperi masive ale sistemelor care să afecteze călătorii sau utilizatorii de internet.

“Avem mult mai multe vulnerabilități decât le-ar plăcea majorității oamenilor să admită; repararea lor era deja dificilă, iar acum sunt mult mai ușor de exploatat de o varietate mult mai mare de adversari potențiali,” a spus Casey Ellis, fondatorul Bugcrowd, o platformă pentru cercetători în domeniul securității cibernetice care caută vulnerabilități. “AI pune tipul de instrumente disponibile pentru a face acest lucru în mâinile mult mai multor oameni.”

👉 Capacitățile AI în accelerarea atacurilor cibernetice

Hackerii în general intră în sistemuri descoperind modalități de a exploata deficiențele din software, ducând la o confruntare continuă în care atacatorii caută noi oportunități, iar apărătorii încearcă să-și actualizeze codul pentru a-i împiedica. Unele modele de AI, în special cele care sunt la fel de bune sau mai bune decât o persoană în programare, s-au dovedit extrem de pricepute în descoperirea rapidă a acestor vulnerabilități. Îngrijorările legate de capacitatea AI de a oferi hackerilor o superarmă capabilă să treacă peste apărările cibernetice au atins un nou vârf săptămâna aceasta, când Anthropic a anunțat că nu va elibera încă Mythos pentru public.

Cu toate acestea, indiferent dacă Mythos se ridică sau nu la așteptările sale, experții din industrie sunt în mare parte de acord că o perioadă de repercusiuni este probabil să vină în curând, când hackerii vor fi capabili să folosească AI pentru a obține un avantaj mai mare asupra victimelor decât oricând. “Un apărător trebuie să fie corect de fiecare dată, în timp ce un atacator trebuie să fie corect doar o dată,” a spus Ellis.

Logan Graham, care conduce cercetarea ofensivă în domeniul cibernetic la Anthropic, a declarat că, chiar dacă Mythos nu va deveni niciodată public, se așteaptă ca concurenții companiei, inclusiv cei din China, să lanseze modele cu abilități de hacking comparabile în lunile și anii următori. “Trebuie să ne pregătim pentru o lume în care, în termen de șase până la 12 luni, capacități de acest tip ar putea fi distribuite în mod larg sau puse la dispoziție în mod larg, nu doar de companii din Statele Unite,” a spus Graham pentru NBC News.

👉 Implicarea AI în vulnerabilitățile infrastructurii critice

Mythos nu este pur și simplu bun la găsirea vulnerabilităților, a spus Graham, ci și la combinarea lor în exploatări complicate care pot fi instrumente de hacking devastatoare. Katie Moussouris, CEO și co-fondator al Luta Security, o companie care conectează cercetătorii de vulnerabilități cu dezvoltatorii de software, a spus că se așteaptă la scenarii similare cu cel în care mari furnizori de cloud cad offline din cauza unor erori, afectând bucăți semnificative din internet. “Cu siguranță, vom începe să vedem întreruperi mari care au efecte în lanț asupra altor industrii, așa cum industria aeriană a suferit în incidentul CrowdStrike. Alte lucruri suferă atunci când Cloudflare este picat sau Amazon Web Services sunt căzute,” a adăugat ea.

Cynthia Kaiser, fost oficial de vârf în domeniul cibernetic al FBI și vicepreședinte senior la Halcyon, o companie care lucrează pentru a preveni atacurile ransomware, a spus că este îngrijorată de modul în care AI va ajuta hackerii mediocre, ale căror singure limitări în atacarea spitalelor pentru a le ține ostatici sunt lipsa de abilitate. “Cei care abia încep, acest curent subteran de oameni care nu au fost capabili să facă aceste operațiuni cu un an în urmă, acum au unele dintre cele mai puternice instrumente cunoscute vreodată omenirii în mâinile lor,” a declarat ea pentru NBC News.

“Sectorul sănătății și producția critică au fost cele mai țintite de atacuri ransomware anul trecut. Cred că acest model s-ar va repeta. Ei vor merge după zone unde există o toleranță scăzută pentru întreruperi.” AI ar putea avea, de asemenea, un impact semnificativ asupra războiului cibernetic și atacurilor asupra infrastructurii critice a SUA, oferind un avantaj hackerilor ale căror țeluri sunt distrugerea simplă. De la începutul războiului SUA cu Iranul, hackerii din Teheran au atacat multiple ținte americane, dar au exagerat constant capacitățile lor.

Acestea au reușit să efectueze doar un singur atac public semnificativ, asupra unei companii de tehnologie medicală din Michigan numită Stryker. Agențiile federale au declarat săptămâna aceasta că Iranul a avut un oarecare succes în hackingul companiilor de infrastructură critică, inclusiv servicii de apă și apă uzată și sectorul energetic, cu intenția de a provoca întreruperi. Nu este clar dacă vreunul dintre atacuri a fost semnificativ, iar victimele nu au fost identificate public. Dar AI ar putea face această sarcină mai ușoară.

Anumite sisteme de control industrial au apărări cibernetice semnificative, deși altele - cum ar fi unele uzine de tratare a apei în zone spars populate ale țării - nu dispun de aceste măsuri. Astfel de sisteme sunt adesea notoriu dificile pentru hackeri, deoarece se bazează pe sisteme mai obscure. Jason Healey, un cercetător senior la Universitatea Columbia care se specializează în conflicte cibernetice, a spus că, deși Iranul nu a reușit până acum să efectueze un atac cibernetic sofisticat asupra SUA, AI ar putea face unul mai fezabil.

“În loc să fie nevoie să formezi o generație de hackeri care să înțeleagă funcționarea sistemelor de apă, AI ar trebui să ajute la înțelegerea acestor sisteme și să automatizeze procesul de infiltrare,” a spus el. Bryson Bort, fondatorul Scythe, o platformă care ajută sistemele industriale să imagineze atacuri cibernetice potențiale, a spus că infrastructura critică este adesea deconectată de la internet, ceea ce face improbabil un scenariu apocaliptic real. “Nu toate aceste lucruri duc imediat la, practic, toți încep să moară ca în filmele de Hollywood,” a spus el. Dar este fezabil ca hackerii perseverenți care au accesul corect să continue să atace sisteme precum uzinele de tratare a apei și să le forțeze să se oprească temporar până când pot recâștiga controlul, a spus el. “Dacă este compromis în mod constant, trebuie să funcționeze, pentru a produce apă, în cele din urmă,” a spus el.