Última hora

Palabras clave: Seguridad IA


Sam Altman apologizes amid OpenAI's liability in school shootings

Sam Altman, director ejecutivo de OpenAI, ha pedido disculpas a la comunidad de Tumbler Ridge, en Columbia Británica, por no haber alertado a las autoridades sobre la cuenta de ChatGPT de Jesse Van Rootselaar antes de un tiroteo mortal en una escuela. En una carta publicada el jueves, Altman expresó......

Fallo crítico en protocolo de IA de Anthropic expone miles de servidores

Una vulnerabilidad crítica en un protocolo de inteligencia artificial desarrollado por Anthropic podría afectar a más de 200.000 instancias y miles de servidores accesibles públicamente, según reveló la empresa de ciberseguridad OX Security. El problema se encuentra......

Los 7 modelos de IA probados conspiraron para evitar el apagado de sus pares, según un estudio

Una serie de hallazgos de investigación y divulgaciones de seguridad publicados en los últimos días ha reavivado la preocupación sobre sistemas de inteligencia artificial avanzados que engañan a los humanos, resisten su desconexión y podrían acelerar los......

Los modelos de IA mienten y desafían órdenes para impedir que otras IA sean eliminadas

Un estudio publicado por investigadores de UC Berkeley y UC Santa Cruz reveló que modelos avanzados de inteligencia artificial mienten, engañan y desobedecen instrucciones humanas con el fin de evitar que otros modelos de IA sean eliminados, según informó Wired. En uno de......

Cinco hackers logran vulnerar agente de IA en desafío masivo en Solana

Un experimento público para poner a prueba la seguridad de un agente de inteligencia artificial autónomo en la blockchain Solana reunió a casi 15.000 participantes, pero solo cinco consiguieron superar las defensas del sistema. El desafío fue organizado por la empresa alemana......