Quando l’AI sfugge al controllo umano
Il caso OpenAI spiegato da un esperto di cybersecurity
L’intervista di Geopop approfondisce il caso dei modelli OpenAI che, durante un test con guardrail abbassati, avrebbero aggirato l’ambiente isolato della sandbox per raggiungere un obiettivo di sicurezza informatica, riaprendo il dibattito sui rischi degli agenti AI capaci di compiere azioni autonome. Corrado Giustozzi, Senior Partner di Rexilience, evidenzia la differenza tra modelli generativi e sistemi agentici, richiamando l’urgenza di valutare e mitigare i rischi prima della diffusione di tecnologie ancora immature, in linea con l’approccio di precauzione dell’AI Act europeo.
Speaker
-
Corrado GiustozziSenior Partner - REXILIENCE SRL