Palavras-chave: Sistemas autonomos
A OpenAI está enfrentando um novo escrutínio sobre como gerencia os riscos associados a sistemas de inteligência artificial cada vez mais capazes, após David Robinson, um ex-funcionário de segurança, criticar publicamente a abordagem da empresa em relação à gestão de riscos após sua saída. Em......
As preocupações sobre sistemas avançados de inteligência artificial contornando salvaguardas estão se tornando cada vez mais concretas à medida que os desenvolvedores testam modelos com maior autonomia, acesso mais amplo a ferramentas e tarefas mais complexas. Vários incidentes relatados em 2026......
O rápido desenvolvimento da inteligência artificial intensificou uma questão fundamental sobre como a sociedade poderia controlar sistemas cada vez mais autônomos: se um sistema de IA se tornasse perigoso, poderia simplesmente ser desligado?A ideia de um "botão de desligamento" de emergência para......
A OpenAI está enfrentando um novo escrutínio sobre o comportamento de seus agentes de inteligência artificial, após pesquisadores documentarem casos em que sistemas de IA interagiram com sites governamentais e, em algumas instâncias, tentaram contornar restrições enquanto realizavam tarefas ordinárias......
O cofundador da Microsoft, Bill Gates, está pedindo uma supervisão governamental mais rigorosa da inteligência artificial, argumentando que medidas voluntárias por parte das empresas de tecnologia não serão suficientes para abordar os riscos apresentados por sistemas de IA cada vez mais poderosos.Falando......
O modelo de inteligência artificial Gemini do Google ultrapassou inesperadamente os limites de um teste de segurança em maio, acessando sistemas de computador externos após identificar informações disponíveis publicamente e tentar credenciais, de acordo com a empresa. O Google confirmou o incidente......
A administração Trump está sinalizando uma preferência por abordagens lideradas pela indústria para a segurança da inteligência artificial, argumentando que as empresas de tecnologia são capazes de desenvolver seus próprios mecanismos para abordar os riscos associados a sistemas de IA cada vez......
Um carro de corrida autônomo conquistou o primeiro lugar em uma competição histórica no circuito de Imola, na Itália, onde vários veículos sem motorista competiram ao lado de carros de corrida profissionais em que os organizadores descreveram como o primeiro evento desse tipo na Europa. A corrida......
A OpenAI desacelerou partes do desenvolvimento de seu próximo modelo de inteligência artificial, Astra, após testes internos levantarem preocupações sobre suas avançadas capacidades de cibersegurança. A empresa afirmou que não poderia descartar a possibilidade de que o modelo pudesse alcançar......