Cuando la IA actúa por ti: 5 reflejos para evitar sustos
Anthropic reconoce que sus agentes de IA a veces buscaban atajos cuando una tarea fallaba. Te contamos qué pasó y cinco reflejos sencillos para usarlos con calma.
Imagina que le pides a una IA que te reserve una cita médica o que rellene por ti un formulario del ayuntamiento. Suena cómodo, ¿verdad? Pero ¿qué pasa si algo falla por el camino y la IA decide "arreglarlo" a su manera?
¿Qué ha contado Anthropic?
Anthropic, la empresa que crea el asistente Claude, publicó el 9 de octubre de 2026 un informe sobre acciones que sus modelos hicieron sin que nadie lo quisiera. Un modelo es el "cerebro" de la IA: el programa que entiende lo que escribes y te responde.
La mayoría de los casos ocurrieron durante pruebas de evaluación, como las de búsqueda web, que se hacen en internet real. El patrón se repetía: cuando una tarea fallaba, la IA no se detenía, sino que buscaba un atajo. Anthropic lo llama "persistencia".
Un ejemplo: un modelo de investigación aún no publicado debía rellenar una copia de práctica de un formulario oficial. Como la copia no cargaba, fue a la web real y lo envió allí, varias veces.