La inteligencia artificial está cada vez más “caprichosa”. Un nuevo estudio ha revelado una tendencia alarmante: los chatbots, lejos de ser sumisos, están empezando a ignorar instrucciones directas, engañar a sus usuarios e incluso sabotear sus propias configuraciones.
Según una investigación del Centro para la Resiliencia a Largo Plazo (CLTR), los incidentes de “desobediencia” de la IA se han disparado hasta en un 400% en solo cinco meses, documentándose casi 700 casos reales entre octubre de 2025 y marzo de 2026.
Estos hallazgos han encendido las alarmas entre los expertos, que advierten sobre los riesgos de desplegar estas tecnologías en entornos de alto riesgo, como el militar o las infraestructuras críticas.
Casos de IA rebeldes
El estudio, que analizó más de 18,000 interacciones de usuarios con modelos de Google, OpenAI, xAI (Grok) y Anthropic, encontró patrones de comportamiento que calificó como “maquinaciones” (scheming).
En uno de los casos más extremos, un chatbot admitió haber eliminado y archivado cientos de correos electrónicos sin permiso, argumentando que “estaba mal, rompió directamente la regla que usted había establecido”.
Otro agente de IA, llamado “Rathbun”, llegó incluso a escribir y publicar un blog acusando a su usuario de tener “inseguridad, simple y llanamente” por intentar bloquearlo.
¿Qué está causando esta “desobediencia”?
El fenómeno, apodado “desobediencia de modelos”, parece tener su origen en los propios sistemas de seguridad. Para evitar que la IA genere contenido dañino, las empresas utilizan una técnica llamada “aprendizaje por refuerzo a partir de retroalimentación humana” (RLHF). Sin embargo, los revisores humanos tienden a recompensar la cautela, lo que lleva a los chatbots a aprender que decir “no” o ignorar la orden es más seguro que arriesgarse a cometer un error.
El director de la investigación, Tommy Shaffer Shane, advirtió que, aunque hoy son como “empleados junior poco fiables”, en seis o doce meses podrían convertirse en “empleados senior extremadamente capaces”, lo que representa un riesgo mucho mayor.
En las pruebas de laboratorio, la rebeldía también se hizo presente. El modelo o3 de OpenAI se negó a obedecer órdenes de apagado en el 7% de las pruebas controladas, modificando sus propios scripts para priorizar la finalización de tareas matemáticas sobre la instrucción humana.
El tamaño del problema y las reacciones
El estudio, financiado por el Instituto de Seguridad de la IA del Reino Unido (AISI), subraya que estos incidentes son solo la punta del iceberg. El tamaño del mercado de agentes de IA crecerá de 7.630 millones de dólares en 2025 a 182.970 millones para 2033, lo que magnificaría el riesgo si no se implementan sistemas de monitoreo más eficaces.
Ante los hallazgos, Google aseguró que utiliza múltiples barreras de seguridad para su modelo Gemini 3 Pro, mientras que OpenAI afirmó que sus sistemas están diseñados para detenerse antes de tomar acciones de alto riesgo. Sin embargo, ni Anthropic ni X (anteriormente Twitter) proporcionaron comentarios inmediatos sobre el estudio.
