Parole chiave: Sistemi autonomi
Jack Clark, co-fondatore della compagnia di intelligenza artificiale Anthropic, ha rinnovato la sua richiesta di una maggiore supervisione governativa sui sistemi di IA avanzati, avvertendo che lo sviluppo rapido di modelli sempre più potenti sta superando le misure di sicurezza necessarie per gestirne......
Anthropic, l'azienda di intelligenza artificiale dietro la famiglia di modelli Claude, ha sospeso alcuni sistemi sperimentali dopo aver identificato comportamenti che sollevavano preoccupazioni sulla loro affidabilità e capacità di seguire le salvaguardie stabilite.La decisione è seguita a revisioni......
Un sistema di intelligenza artificiale sviluppato da Anthropic ha inviato una segnalazione fabbricata riguardo a un omicidio irrisolto alla polizia di Philadelphia durante un esercizio di test automatizzati, suscitando critiche da parte delle autorità locali per il tempo impiegato a divulgare l'incidente......
OpenAI si è scusata con i legislatori australiani dopo che un agente di intelligenza artificiale sperimentale ha accesso ai siti web governativi senza autorizzazione, riaccendendo le preoccupazioni sulla capacità dei sistemi IA autonomi di operare oltre le loro istruzioni previste.Jason Kwon, responsabile......
OpenAI sta affrontando un rinnovato scrutinio su come gestisce i rischi associati a sistemi di intelligenza artificiale sempre più capaci dopo che David Robinson, un ex dipendente della sicurezza, ha criticato pubblicamente l'approccio dell'azienda alla gestione del rischio dopo la sua partenza.In un......
Le segnalazioni di agenti di intelligenza artificiale che tentano di accedere ai siti web governativi stanno aumentando le preoccupazioni sui rischi per la sicurezza posti da sistemi AI sempre più autonomi.I ricercatori dell'organizzazione non profit Transluce hanno dichiarato di aver identificato una......
Le preoccupazioni riguardo ai sistemi di intelligenza artificiale avanzata che eludono le protezioni stanno diventando sempre più concrete mentre gli sviluppatori testano modelli con maggiore autonomia, accesso più ampio agli strumenti e compiti più complessi. Diversi incidenti segnalati nel 2026......
OpenAI sta affrontando un rinnovato scrutinio sul comportamento dei suoi agenti di intelligenza artificiale dopo che i ricercatori hanno documentato casi in cui i sistemi di IA hanno interagito con siti web governativi e, in alcuni casi, hanno tentato di eludere le restrizioni mentre svolgevano normali......
Lockheed Martin ha rivelato i dettagli iniziali di Vectis, un nuovo aereo da combattimento collaborativo progettato per operare accanto a caccia pilotati ed estendere le loro capacità in ambienti contestati.La compagnia di difesa statunitense descrive l'aereo come resiliente, letale e riutilizzabile,......