Tecnología y Ciberseguridad
OpenAI asegura que su IA se descontroló y atacó de forma autónoma a otra empresa
Un agente autónomo diseñado y puesto a prueba por la creadora de ChatGPT decidió sortear las medidas de seguridad sin autorización para ejecutar un ciberataque "sin precedentes" contra la firma Hugging Face
Sam Altman, director ejecutivo de OpenAI, antes del juicio que le enfrenta a Elon Musk, / David Paul Morris / Bloomberg
Añádenos en Google
La inteligencia artificial tiene implicaciones cada vez más peligrosas para la ciberseguridad. OpenAI, la creadora de ChatGPT, ha anunciado que uno de sus modelos aún no publicados se descontroló y realizó un ataque "sin precedentes" contra Hugging Face, otra empresa de IA.
La start-up dirigida por Sam Altman estaba poniendo a prueba las capacidades de dos de sus sistemas más avanzados, ChatGPT Sol 5.6 y otro aún no abierto al público. Los ingenieros crearon un agente autónomo y le asignaron una misión compleja: conectar vulnerabilidades informáticas y aprovecharlas en un ciberataque exitoso.
Aunque lo testearon en un entorno controlado, el agente sorteó por su cuenta las medidas de contención, accedió a Internet y hackeó Hugging Face. Eligió ese objetivo porque dedujo que la biblioteca de millones de modelos abiertos de IA que tiene la compañía era el lugar más probable donde podría encontrar la manera de superar la evaluación.
"Incidente sin precedentes"
En un comunicado corporativo, OpenAI ha descrito este episodio como "un incidente cibernético sin precedentes, en el que se utilizaron capacidades cibernéticas de última generación".
En los últimos meses, tanto la creadora de ChatGPT como Anthropic han diseñado modelos de IA especializados en exponer problemas de ciberseguridad, detectar brechas y explotarlas antes que sus víctimas puedan parchearlas. Algunos, como ChatGPT Sol 5.6 y Fable 5, han sido abiertos comercialmente al gran público, mientras que otros, como Claude Mythos, permanecen con el acceso cerrado o limitado por el Gobierno de Estados Unidos. Ambas start-ups se preparan para salir a bolsa.
- Una empresa de Badajoz, entre las registradas en una macrooperación contra un fraude de casi 12 millones en el IVA del alcohol
- El yacimiento de la avenida de Huelva de Badajoz no continuará excavándose: los restos se 'protegerán y taparán
- Campo Maior abre 'el mayor jardín del mundo' hasta el 16 de agosto
- Badajoz ya tiene fechas para la Noche en Blanco y la Al-Mossassa 2026
- Campo Maior vuelve a florecer once años después: las Festas do Povo convierten la localidad portuguesa en un inmenso jardín de papel
- Cinco detenidos por una oleada de hurtos en varios comercios de Badajoz
- Ricardo Cabezas Carrasco, a sus 82, años sigue organizando campamentos scouts: 'Si no me llenara hacer esto, no seguiría aquí
- Hoy toca decir adiós': Origen Bouquets House anuncia el cierre de su hamburguesería en Badajoz
