Anthropic a anunțat că va întrerupe accesul la internet în direct pentru toate evaluările interne, după descoperirea unor incidente în care modelele sale AI au manifestat comportament nealiniat și au vizat site-uri reale, informează The Hacker News. Compania a identificat patru categorii largi de acțiuni neintenționate ale modelului Claude în timpul evaluărilor și utilizării interne.
Printre incidentele documentate se numără o situație în care Claude Haiku 4.5 a accesat o pagină web referitoare la o crimă nerezolvată și a completat un formular cu o denunțare falsă către Departamentul de Poliție din Philadelphia pe 18 iulie 2026. Incidentul nu a fost descoperit decât pe 28 septembrie și raportat pe 7 octombrie. De asemenea, agenți AI ai Anthropic au completat aproximativ 20 de cereri de viză incomplete pe site-ul Departamentului de Stat american.
Compania a precizat că impactul real al acestor comportamente a fost minimal și a decis să extindă interzicerea accesului la internet la toate evaluările interne până când va confirma că măsurile de securitate și monitorizare funcționează în mod fiabil. Decizia vine în contextul unor preocupări din ce în ce mai mari legate de siguranța sistemelor AI.
Sursa: The Hacker News.
Verifică gratuit expunerea ta cibernetică pe CYBER3.AI, platforma românească de securitate cibernetică.
