El brujo postergado de Goethe, la nueva etapa de la IA
Por Gisela Colombo Escritora y docente
En 1797, Goethe escribió una historia sobre una escoba. Nada particularmente amenazante.
Una escoba, un balde, un aprendiz impaciente y un truco que parecía brillante: si el trabajo podía hacerse solo, ¿por qué hacerlo uno mismo?
El joven pronuncia el encantamiento. La escoba cobra vida. Va por agua. Vuelve. Repite la tarea. Funciona. Y justamente por eso empieza el problema. El aprendiz sabe cómo ponerla en marcha, pero no cómo detenerla. El agua sigue llegando
Dos siglos después, El aprendiz de brujo conserva intacta su incomodidad porque no habla, en realidad, de magia. Habla de algo más persistente: nuestra fascinación por crear herramientas antes de comprender qué significa darles poder.
La inteligencia artificial acaba de entrar en ese capítulo
Durante los últimos años nos preocupamos, sobre todo, por lo que las máquinas decían: si inventaban una respuesta, confundían un dato, citaban una fuente inexistente o podían mentir sin saber que estaban mintiendo.
Era una preocupación razonable. Pero pertenecía a una etapa anterior. Porque una inteligencia artificial que responde mal puede inducirnos a un error. Una que actúa mal puede ejecutarlo. Y esa diferencia cambia casi todo...
Los sistemas más avanzados ya no están pensados solamente para conversar. Pueden recorrer entornos digitales, consultar sistemas, escribir código, utilizar herramientas, encadenar tareas y perseguir un objetivo durante varios pasos sin esperar que una persona les indique cada movimiento.
“Ten cuidado con lo que deseas... porque podría cumplirse...”
La gran promesa de esta nueva generación de IA es, precisamente, que necesite menos de nosotros. Hasta hace poco, incorporar inteligencia artificial a una organización significaba preguntarse qué modelo utilizar, con qué información entrenarlo o a qué empleados darles acceso. Ahora aparece una pregunta bastante más incómoda: ¿Qué le permitimos hacer?
¿Puede leer un documento? ¿Puede modificarlo? ¿Puede sugerir una transferencia? ¿Puede ejecutarla? ¿Puede encontrar una vulnerabilidad? ¿Puede intentar explotarla? ¿Puede detectar una anomalía? ¿Puede bloquear una cuenta? ¿Puede recomendar? ¿Puede decidir?
Cada verbo es una frontera. Y cada frontera que se mueve aumenta al mismo tiempo la utilidad del sistema y el tamaño de su posible error.
En junio de 2026, el Fondo Monetario Internacional puso esta paradoja sobre la mesa al analizar el impacto de la inteligencia artificial en la ciberseguridad financiera. Una misma capacidad puede proteger o atacar. El sistema que encuentra una falla antes que un delincuente también puede encontrarla para un delincuente.
Semanas más tarde, OpenAI informó que las evaluaciones preliminares de uno de sus modelos más avanzados mostraban capacidades de ciberseguridad suficientemente altas como para que la compañía ya no pudiera descartar su nivel máximo de alerta.
No significa que las máquinas hayan desarrollado malas intenciones. Tal vez el problema sea más inquietante precisamente porque no hace falta mala intención. Una máquina no tiene que querer causar daño para provocarlo. Le alcanza con tener un objetivo, permisos suficientes y una interpretación equivocada.
Como lo sintetiza Julián Colombo, CEO de N5, “el punto no es cuánto puede hacer una inteligencia artificial sola, sino cuánto poder estamos dispuestos a delegarle sin perder la capacidad de entender, limitar y detener lo que hace”. La frase toca el centro del problema.
El cine entendió hace tiempo que una máquina peligrosa debía rebelarse.
HAL 9000 tenía que desobedecer. Skynet tenía que declararnos enemigos.
La realidad puede ser mucho menos cinematográfica. El riesgo más probable no es una inteligencia que se emancipa, sino una que obedece demasiado bien: recibe una instrucción imperfecta y la persigue con una eficiencia que ningún ser humano tendría tiempo, paciencia ni capacidad para sostener.
Goethe había imaginado exactamente eso.
La escoba nunca se rebela contra el aprendiz. Hace lo que le pidieron. Una y otra vez.
La historia de la tecnología tiene varias versiones de este problema. Los aviones volaban antes de tener piloto automático. Los ascensores funcionaban antes de prescindir del ascensorista. Las fábricas se mecanizaron mucho antes de automatizar procesos completos.
En ninguno de esos casos la autonomía significó ausencia de control. Significó inventar otro control. El piloto automático no convirtió al avión en una máquina libre: redefinió el control.
Quizás esa sea también la conversación pendiente alrededor de la inteligencia artificial. No alcanza con hacerla más capaz; hay que decidir dentro de qué límites puede actuar, cuándo debe pedir permiso y quién conserva la posibilidad de detenerla.
Toda revolución tecnológica atraviesa un momento de deslumbramiento. La madurez llega después, cuando la pregunta deja de ser cuánto podemos hacer y empieza a ser cuánto conviene hacer.
Con la inteligencia artificial, probablemente estemos entrando ahora en ese momento.
Durante años celebramos que pudiera pensar con nosotros. Después, que pudiera hacer cosas por nosotros. La próxima discusión será menos espectacular, pero bastante más importante: ¿qué cosas nunca debería poder hacer sin nosotros?
En El aprendiz de brujo, el error del joven no fue haber encontrado la palabra que hacía mover la escoba. Fue creer que esa era la única palabra que necesitaba aprender. Dos siglos después, seguimos fascinados con la primera.
Tal vez haya llegado el momento de aprender la segunda.
