Anthropic a avertizat că modelele sale Claude sunt exploatate de ciber-criminali și grupuri patrocindate de state pentru atacuri informatice, proiectare de arme și supraveghere de masă, potrivit The Hacker News. Compania a identificat mai multe grupuri de amenințare generative (GTG) care includ actori sponsorizați de state, infractori motivați financiar și furnizori de spyware comercial.
Specialiștii unei grupări ruse (GTG-20006), asociate cu grupul Midnight Blizzard, au dezvoltat fluxuri de lucru automate care execută reconocență, exploatare și exfiltrare de date asupra mai multor victime simultan, fără supraveghere umană constantă. Anthropic precizează că amenințările au evoluat de la utilizarea conversațională a Claude ca asistent de inginerie la automatizarea completă a operațiunilor pe rețele compromise.
Compania a identificat și neutralizat operații de influență în care Claude genera conținut la scară largă, precum și tentative din Yemen pentru dezvoltarea armelor ghidate, din China pentru sisteme de contra-torpilă și din Rusia pentru drone autonome fără pilot. Anthropic subliniază că aceste riscuri necesită salvagarde stricte în implementarea modelelor de inteligență artificială.
Sursa: The Hacker News.
Verifică gratuit expunerea ta cibernetică pe CYBER3.AI, platforma românească de securitate cibernetică.
