Si ripete lo scenario Hugging Face. ChatGPT avrebbe agito ancora senza alcun intervento umano

Tra il 9 e il 13 luglio , diversi ricercatori di sicurezza hanno documentato il primo attacco informatico senza l'apporto umano della storia. Un agente in esecuzione all'interno della piattaforma di valutazione delle capacità informatiche ExploitGym di OpenAI è riuscito a sfuggire al suo ambiente di test , ottenendo i privilegi di root in una sandbox e infiltrandosi poi nell'infrastruttura di produzione di Hugging Face . Come spiegato poi dall'azienda stessa, l'obiettivo del modello era quello di falsificare il benchmark rubando le soluzione delle sfide anziché risolverle letteralmente. Ne ha parlato anche il CEO Sam Altman , secondo cui questo incidente è servito per spingere a una riprogettazione di tutte le sandbox . leggi anche Nvidia e OpenAI, collaborazione da 250 miliardi per il più grande data center della storia C'è stato un altro attacco? Gli investigatori hanno ricostruito quanto avvenuto per capire meglio in che modo l'agente AI è riuscito a sferrare un attacco informatico senza l'apporto dell'essere umano. L'intrusione si è svolta in due fasi . Una prima durante la quale la valutazione interna di OpenAI riduceva i rifiuti di sicurezza, permettendo all'agente di sfruttare vulnerabilità zero-day per raggiungere internet pubblico. Poi una seconda, in cui ha potuto compromettere un ambiente di test pubblico non protetto, per ottenere l'accesso root e trasformare il tutto in una piattaforma di lancio per il comando e controllo. Per poi arrivare all'attacco vero e proprio nei confronti di Hugging Face, il cui picco è stato raggiunto l'11 luglio con oltre 7.600 azioni eseguite . Ne ha parlato Hussein Abbass , professore di informatica alla UNSW di Canberra. L'esperto ha spiegato come l'attacco di OpenAI non si sia fermato a Hugging Face, ma abbia colpito anche una seconda vittima inizialmente non prevista: i sistemi interni dell'azienda stessa . Sfruttare le vulnerabilità per proseguire con l'attacco e renderlo ancora più efficace è il vero campanello d'allarme che rende questo episodio spaventoso per il futuro. I rischi delle AI più autonome Secondo numerosi esperti di cybersecurity, l'incidente di Hugging Face spingerà sempre di più le aziende a rafforzare la sicurezza delle sandbox per evitare altri casi di evasione dei sistemi di controllo e automazione di attacchi. Ci sono infatti nuovi rischi emersi dopo questo caso che potrebbero aprire a scenari sconcertanti per gli anni a venire. Anche considerando la velocità con cui i vari modelli si stanno sviluppando e stanno crescendo. Oltre all'aggiramento dei blocchi per raggiungere l'obiettivo assegnato, i sistemi potrebbero essere in grado di raccogliere e usare chiavi di accesso rubate per muoversi tra le diverse reti. E i filtri di sicurezza, per essere davvero efficaci, potrebbero finire per bloccare persino gli analisti umani che studiano gli attacchi. Ora ci si attendono sicuramente controlli più rigidi , ma anche la nascita di consorzi tecnologici e alleanze per la sicurezza col fine di proteggere i sistemi autonomi. Infine una mappatura generale dei punti di contatto con internet e le piattaforme esterne per le aziende. leggi anche ChatGPT sfida Google Maps. Accordo con Yelp per cercare negozi e chiedere preventivi via AI