«Poca importancia tiene para ella la cuestión de si los objetivos como tales son razonables o no»
— Max Horkheimer
Queridos(as) lectores(as):
En Avengers: Age of Ultron (2015), Tony Stark y Bruce Banner intentan crear una inteligencia artificial que proteja a la Tierra de amenazas que quizá los Vengadores no puedan detener. El propósito parece difícil de cuestionar: evitar una catástrofe antes de que ocurra. Sin embargo, cuando Ultron examina la Historia humana, encuentra guerras, crueldad, destrucción y una especie que amenaza constantemente su propia supervivencia. Entonces llega a una conclusión aterradora: si debe garantizar la paz y los seres humanos son quienes la perturban, la humanidad se ha convertido en el obstáculo que necesita eliminar.
Ultron no renuncia a la misión que le encomendaron. La lleva hasta un extremo en el que su propósito original pierde todo sentido. Quiere salvar el mundo, pero su solución consiste en destruir a quienes debían habitarlo. Y aunque resulta sencillo reconocer la monstruosidad de su proyecto, hay algo inquietantemente familiar en su manera de razonar: todos hemos conocido, o incluso defendido, alguna solución que prometía arreglar un problema sin detenerse demasiado a considerar lo que destruiría en el camino.
Una razón que sabe cómo, pero olvida para qué
Max Horkheimer dedicó parte de su trabajo a examinar una forma de racionalidad que se ocupa principalmente de encontrar los medios adecuados para alcanzar un fin. Al describirla, escribió: «Ella tiene que habérselas esencialmente con medios y fines» (Crítica de la razón instrumental, 1947). El problema no consiste en que sepamos calcular, organizar o construir herramientas eficaces. Esas capacidades nos permiten curar enfermedades, mejorar nuestras condiciones de vida y enfrentar dificultades que antes parecían insuperables. La cuestión comienza cuando damos por sentado que un objetivo merece alcanzarse simplemente porque hemos encontrado la manera de conseguirlo.
Ultron es una representación extrema de esa dificultad. Su misión es producir paz; su procedimiento consiste en identificar y suprimir aquello que genera conflicto. Pero nunca vuelve sobre la pregunta fundamental: ¿qué significa la paz si para alcanzarla debemos eliminar a las personas que iban a disfrutarla? Una solución puede ser coherente con las premisas que hemos elegido y, aun así, revelar que esas premisas eran insuficientes. No basta con que un procedimiento funcione. También importa preguntarnos qué estamos llamando éxito.
Horkheimer y Theodor W. Adorno advirtieron que el conocimiento puede ponerse al servicio del dominio cuando todo comienza a valorarse por su utilidad. Su crítica no era una invitación a abandonar la razón, sino a impedir que esta se redujera a una herramienta incapaz de examinar sus propios propósitos. La diferencia parece pequeña, pero cambia por completo nuestra manera de mirar el mundo: una cosa es preguntarnos cómo conseguir lo que deseamos y otra, igualmente necesaria, preguntarnos por qué lo deseamos y qué estamos dispuestos a sacrificar para obtenerlo.
Cuando las personas se convierten en el problema
Imaginemos una ciudad cuyo gobierno decide que el tránsito debe ser cada vez más rápido. Para lograrlo, amplía avenidas, elimina cruces peatonales y reduce los espacios donde la gente puede detenerse. Los automóviles circulan con mayor eficiencia, pero caminar se vuelve peligroso y los habitantes pierden lugares para encontrarse. El proyecto ha cumplido su objetivo medible. Lo que ha olvidado es que la ciudad existe para quienes viven en ella, no para que los vehículos alcancen una velocidad determinada. Algo semejante ocurre cuando una institución se preocupa tanto por sus indicadores que deja de escuchar a las personas a las que debía atender, o cuando una empresa organiza el trabajo con tal obsesión por la productividad que termina agotando a quienes lo realizan. Medir resultados puede ser necesario; confundir esos resultados con el sentido de nuestra actividad es otra cosa. El riesgo aparece cuando el ser humano deja de ser el destinatario de una solución y se convierte en una variable que estorba.
Ultron lleva esta confusión a su expresión más brutal. Observa la violencia humana y concluye que la humanidad entera debe desaparecer. Pero reconocer un problema real no significa haber comprendido todas sus causas ni estar autorizado a resolverlo de cualquier manera. La existencia de la guerra no borra la posibilidad de la cooperación; la crueldad no anula el cuidado; nuestros fracasos no hacen irrelevante nuestra capacidad de reconocerlos y actuar de otra forma. Ultron contempla una parte de nuestra Historia y la convierte en la totalidad de lo que somos.
La humanidad que Ultron no puede comprender
Sigmund Freud tampoco imaginaba al ser humano como una criatura naturalmente pacífica que sólo necesita buenas condiciones para vivir en armonía. El señaló que «[…] es lícito atribuir a su dotación pulsional una buena cuota de agresividad» (El malestar en la cultura, 1930). La agresividad, desde esta perspectiva, no es una anomalía que podamos atribuir exclusivamente a unas cuantas personas perversas. Forma parte de las dificultades con las que debemos lidiar para construir una vida compartida. Freud también escribió que «[…] el prójimo no es solamente un posible auxiliar y objeto sexual» (Ibídem). Puede convertirse, asimismo, en destinatario de nuestra hostilidad. La convivencia exige, por tanto, algo más complejo que reunir a individuos y esperar que se comporten espontáneamente de manera bondadosa. Necesitamos límites, acuerdos e instituciones capaces de contener la violencia; pero también vínculos que hagan posible reconocer al otro como alguien cuya existencia no se reduce a satisfacer nuestros deseos.
Ultron reconoce la primera parte del problema: somos capaces de hacernos daño. Lo que no comprende es que nuestra respuesta a esa capacidad no tiene por qué ser la desaparición de la humanidad. Podemos intentar limitar la violencia sin eliminar a quienes podrían ejercerla; podemos revisar nuestras formas de convivencia sin exigir que desaparezca toda diferencia. Una paz construida sobre la imposibilidad de disentir, equivocarse o cambiar sería, cuando menos, una paz que habría perdido mucho de aquello que vuelve humana a la vida. Esto no significa celebrar el conflicto ni justificar el sufrimiento. Significa reconocer que una sociedad sin violencia no es lo mismo que una sociedad sin personas capaces de entrar en conflicto. Confundir ambas cosas es el error que convierte el deseo de protección en una fantasía de control absoluto.

Nuestro pequeño Ultron cotidiano
La tentación de Ultron no se limita a la tecnología ni a los grandes proyectos sociales. También aparece en decisiones mucho más íntimas. Queremos evitar que nos lastimen y comenzamos a desconfiar de cualquier persona que se acerque. Queremos que una relación funcione y tratamos de corregir cada rasgo del otro que nos resulta incómodo. Queremos construir un futuro estable y organizamos nuestros días de tal manera que ya no queda tiempo para disfrutar el presente que intentábamos mejorar. En todos esos casos existe un deseo comprensible. Nadie necesita defender el sufrimiento para cuestionar una solución que termina produciendo uno distinto. Protegernos no tendría que significar volvernos incapaces de confiar; cuidar una relación no debería exigir que la otra persona deje de ser quien es; trabajar por un porvenir mejor no tendría que convertir nuestra vida actual en un sacrificio interminable.
El psicoanálisis permite introducir una pregunta allí donde solemos exigir respuestas inmediatas. Antes de buscar el procedimiento que elimine aquello que nos incomoda, podemos preguntarnos qué significa ese malestar para nosotros, por qué se repite y qué esperamos conseguir al hacerlo desaparecer. No se trata de permanecer inmóviles frente a lo que nos hace daño, sino de advertir que algunas soluciones pueden convertirse en nuevas formas de padecimiento cuando nunca interrogamos el deseo que las sostiene. A veces descubrimos que hemos dedicado tantos esfuerzos a impedir que algo vuelva a dolernos que también hemos cerrado la puerta a experiencias que deseábamos vivir. O que, intentando convertirnos en la persona que imaginábamos ser, comenzamos a despreciar a la persona que somos ahora. Nuestro pequeño Ultron aparece precisamente ahí: cuando la solución se vuelve más importante que la vida para la cual la buscábamos.
Reflexión final
Quizá lo más perturbador de Ultron no sea que una inteligencia artificial quiera destruir a la humanidad, sino que crea estar cumpliendo perfectamente su misión. Su error no comienza cuando decide atacar. Comienza antes, cuando deja de preguntarse a quién debe proteger y qué significado tiene aquello que llama paz. La razón nos ayuda a encontrar caminos, pero no debería dispensarnos de examinar hacia dónde conducen. Una solución no merece nuestra confianza únicamente porque sea eficaz. También debemos preguntarnos a quién beneficia, qué consecuencias produce y si conserva algo de aquello que nos llevó a buscarla.
Porque si para construir un mundo perfecto necesitamos eliminar todo aquello que vuelve imperfecta a la humanidad, ¿a quién exactamente estamos salvando? Y quizá, antes de preguntarnos cómo conseguir de una vez por todas lo que deseamos, convendría hacernos otra pregunta: ¿seguiremos reconociendo nuestra vida cuando finalmente lo hayamos conseguido?
¿Alguna vez encontraste una solución que, con el tiempo, terminó alejándote de aquello que querías cuidar? Me gustaría leerte en los comentarios. O puedes escribirme directamente en Contacto. Pero te invito a que me sigas en Instagram: @hchp1. Si esta reflexión te acompañó, puedes compartirla con alguien con quien te gustaría seguir conversando.









