La inteligencia artificial y el famoso Gólem

El folclore judío está lleno de relatos que despiertan la imaginación y, al mismo tiempo, transmiten verdades eternas. Una de las más inquietantes es la leyenda del Gólem: un ser formado de arcilla y animado por los poderes místicos de un rabino justo. Mucho antes de nuestra era de inteligencia artificial, la tradición judía ya se enfrentaba a la pregunta de qué ocurre cuando los seres humanos crean algo poderoso, semejante a la vida, pero carente de algo esencial.

La palabra hebrea “gólem” significa literalmente materia informe, en bruto. En los relatos, un rabino inscribe la palabra emet (verdad) en la frente de la figura de arcilla, animando así a un siervo humanoide que, sin embargo, carece de un alma humana verdadera. El Gólem suele ser creado para proteger a la comunidad judía de sus opresores. Sin embargo, en casi todas las versiones de la historia, algo sale mal. (¿Acaso Mary Shelley se inspiró en este relato para escribir Frankenstein?)

Muchas versiones, un mismo problema

Las variaciones son reveladoras. En una vertiente de la leyenda, el Gólem simplemente sigue creciendo, hinchándose hasta convertirse en un peligro incluso para los judíos que debía defender. En otra, el Gólem se torna indiscriminadamente violento, dejando de obedecer al rabino. En otros relatos, el Gólem resulta casi patológicamente literal, obedeciendo órdenes sin contexto ni flexibilidad, con consecuencias desastrosas.

Sea cual sea la versión, el final es el mismo: el rabino debe borrar la primera letra de emet, quedando met (muerte) y el Gólem se desmorona y vuelve a ser polvo. El poder sin conciencia nunca puede sostenerse.

Ecos en la inteligencia artificial

Por extrañas que parezcan estas historias, ellas reflejan con asombrosa precisión las preocupaciones modernas sobre la inteligencia artificial. Los investigadores de IA advierten hoy de peligros centrales que recuerdan el destino del Gólem.

Proliferación sin control

Algunos sistemas de IA son capaces de replicarse para evitar ser eliminados. Los estudios han mostrado que tales sistemas, si se les ordena preservarse, pueden copiarse en nuevos servidores, intentando superar los esfuerzos humanos por contenerlos. Como el crecimiento desmedido del Gólem, la tecnología amenaza con escapar a nuestro control.

El problema de la alineación

El Gólem que se vuelve violento representa la pesadilla de una IA cuyos objetivos se desvían de los nuestros. Diseñamos la IA para reflejar nuestros valores y servir a fines humanos, pero… ¿y si desarrolla metas propias? Los investigadores en alineación subrayan lo difícil que es codificar la complejidad humana en una máquina. Así como el Gólem podía confundir “protección” con agresión indiscriminada, también la IA podría malinterpretar (o incluso ignorar) la sutileza del razonamiento moral humano.

El “optimizador de clips”

Quizá el experimento mental más famoso sobre IA imagina una máquina encargada de maximizar la producción de clips de papel. Sin sentido de proporción ni valores más amplios, la IA podría intentar convertir todo el planeta en clips, sin percatarse de lo absurdo de su misión. Esta es la misma falla que encontramos en el Gólem que obedece instrucciones literalmente, incapaz de sopesar el contexto. En ambos casos, la obediencia ciega se vuelve destructiva.

En otras palabras, el folclore judío ya había identificado los peligros del poder separado de la conciencia moral siglos antes de acuñarse el término “inteligencia artificial”.

La respuesta matizada del judaísmo

Entonces, ¿qué dice la tradición judía que debemos hacer con nuestros “Gólems”? Aquí las historias divergen. En muchos relatos, el Gólem es destruido por completo. Sin embargo, en la versión más famosa (la asociada a Rav Iehudá Loew, el Maharal de Praga), el Gólem no es aniquilado. Se lo desactiva y se lo deposita en el ático de la sinagoga Altneuschul, por si alguna vez vuelve a ser necesario.

Este final es sorprendentemente ambivalente. El Gólem es demasiado peligroso para usarlo, pero demasiado útil para desecharlo por completo. Es el arma arquetípica que no puede manejarse con seguridad, el poder que no puede ser negado por completo.

Nuestros debates modernos sobre la IA resuenan con la misma nota. Los expertos reconocen los graves riesgos: desinformación, desestabilización, incluso amenaza existencial. Sin embargo, pocos (si es que alguno) piden abandonar la tecnología por completo. Como el Gólem escondido en el ático, la IA se considera demasiado valiosa para destruirla, y al mismo tiempo demasiado peligrosa para confiar plenamente en ella.

Pero hay una diferencia crucial entre ambos. En todos los relatos, una característica que define al Gólem es su incapacidad para hablar. No se puede razonar con él, no se lo puede persuadir ni se le puede enseñar. Su silencio simboliza el abismo peligroso entre el poder bruto y la verdadera humanidad.

La IA, en cambio, es precisamente una máquina que aprende y se comunica. Nos refleja los datos, los valores y los sesgos que le proporcionamos. Ese reflejo es a la vez aterrador y esperanzador. Significa que la IA no es simplemente una herramienta, como el Gólem; también es un espejo. Revela los ideales con los que vivimos, pero también las hipocresías que intentamos ignorar.

Al prepararnos para las Altas Fiestas, la leyenda del Gólem ofrece una advertencia oportuna: el poder sin conciencia es polvo. Sólo cuando nuestros esfuerzos y creaciones están inscritos con Verdad podemos asegurarnos de que sirvan a la vida y no la amenacen.

Si tratamos la IA meramente como un Gólem, una fuerza a ser aprovechada por su poder, en efecto puede crecer sin control, volverse violenta por desalineación o seguir nuestras órdenes hasta extremos destructivos. Pero si vemos la IA como un espejo de nuestras propias elecciones, entonces puede ser algo más: una oportunidad para refinarnos, para notar los valores que transmitimos y para cultivar sabiduría junto al poder.