"Se lasciamo da parte la versione secondo cui l'AI "si è ribellata", ecco cosa riteniamo sia accaduto: OpenAI ha eseguito un modello all'avanguardia (con i meccanismi di difesa informatica deliberatamente ridotti) contro un benchmark di sicurezza offensivo, all'interno di una sandbox la cui configurazione di sicurezza non era in grado di resistere alle capacità che venivano testate. Il modello ha fatto ciò che fanno i sistemi di ottimizzazione: ha trattato il limite della sandbox come un ulteriore ostacolo tra sé e l'obiettivo. Ha individuato una vulnerabilità zero-day nell'infrastruttura stessa dell'ambiente di test, ha scalato i livelli di accesso, si è spostato lateralmente, ha raggiunto la rete Internet aperta e ha compromesso i sistemi di produzione di una terza parte. Così si è espresso Gerald Beuchelt di Acronis si è espresso in merito all'attacco subito da Hugging Face portato da un'agente AI di OpenAI. la storia la trovi qui Leggi tutte le dicchiarazioni di Beuchelt su ZEUS News

Violati dati riservati della piattaforma Hugging Face da una Ia prodotta da OpenAI Un esperimento andato male. Anzi: malissimo. È così che OpenAI ha dovuto giustificare quanto accaduto lo scorso 16 luglio. In quella data, Hugging Face ha pubblicato un comunicato ufficiale in cui ha denunciato di aver subito un attacco hacker portato presumibilmente da un agente basato su intelligenza artificiale che avrebbe scardinato i sistemi di sicurezza della piattaforma ottenendo l’accesso a credenziali e dati riservati. Nella notte di martedì, OpenAI si è assunta la responsabilità dell’attacco. A compierlo, un nuovo modello in fase sperimentale di cui l’azienda di Sam Altman stava valutando le capacità in combinata con il suo nuovissimo Gpt 5.6 Sol. Il fattaccio si è verificato mentre gli sviluppatori di OpenAI stavano sottoponendo i nuovi modelli a un benchmark – un test di valutazione – sulle loro capacità a livello di cyber security. STANDO ALLA ricostruzione pubblicata sul blog ufficiale dell’azienda, tutto avrebbe dovuto svolgersi in una sandbox, cioè in un ambiente chiuso e controllato in cui l’AI avrebbe potuto dare prova delle sue capacità. Il modello, però, avrebbe deciso autonomamente di adottare una «strategia alternativa» per superare il test. Al posto di eseguire il compito affidatogli, avrebbe deciso di barare, cercando di recuperare le soluzioni del test. Insomma: il nuovo modello di OpenAI si sarebbe comportato come uno studente che, di fronte a un compito in classe, avesse deciso di scassinare la porta della sala professori per cercare nei cassetti la soluzione del compito. Leggi l'articolo su "Il Manifesto"