Etiqueta: IA

Publicado el

La solución Ultrón

«Poca importancia tiene para ella la cuestión de si los objetivos como tales son razonables o no»

— Max Horkheimer

Queridos(as) lectores(as):

En Avengers: Age of Ultron (2015), Tony Stark y Bruce Banner intentan crear una inteligencia artificial que proteja a la Tierra de amenazas que quizá los Vengadores no puedan detener. El propósito parece difícil de cuestionar: evitar una catástrofe antes de que ocurra. Sin embargo, cuando Ultron examina la Historia humana, encuentra guerras, crueldad, destrucción y una especie que amenaza constantemente su propia supervivencia. Entonces llega a una conclusión aterradora: si debe garantizar la paz y los seres humanos son quienes la perturban, la humanidad se ha convertido en el obstáculo que necesita eliminar.

Ultron no renuncia a la misión que le encomendaron. La lleva hasta un extremo en el que su propósito original pierde todo sentido. Quiere salvar el mundo, pero su solución consiste en destruir a quienes debían habitarlo. Y aunque resulta sencillo reconocer la monstruosidad de su proyecto, hay algo inquietantemente familiar en su manera de razonar: todos hemos conocido, o incluso defendido, alguna solución que prometía arreglar un problema sin detenerse demasiado a considerar lo que destruiría en el camino.

Una razón que sabe cómo, pero olvida para qué

Max Horkheimer dedicó parte de su trabajo a examinar una forma de racionalidad que se ocupa principalmente de encontrar los medios adecuados para alcanzar un fin. Al describirla, escribió: «Ella tiene que habérselas esencialmente con medios y fines» (Crítica de la razón instrumental, 1947). El problema no consiste en que sepamos calcular, organizar o construir herramientas eficaces. Esas capacidades nos permiten curar enfermedades, mejorar nuestras condiciones de vida y enfrentar dificultades que antes parecían insuperables. La cuestión comienza cuando damos por sentado que un objetivo merece alcanzarse simplemente porque hemos encontrado la manera de conseguirlo.

Ultron es una representación extrema de esa dificultad. Su misión es producir paz; su procedimiento consiste en identificar y suprimir aquello que genera conflicto. Pero nunca vuelve sobre la pregunta fundamental: ¿qué significa la paz si para alcanzarla debemos eliminar a las personas que iban a disfrutarla? Una solución puede ser coherente con las premisas que hemos elegido y, aun así, revelar que esas premisas eran insuficientes. No basta con que un procedimiento funcione. También importa preguntarnos qué estamos llamando éxito.

Horkheimer y Theodor W. Adorno advirtieron que el conocimiento puede ponerse al servicio del dominio cuando todo comienza a valorarse por su utilidad. Su crítica no era una invitación a abandonar la razón, sino a impedir que esta se redujera a una herramienta incapaz de examinar sus propios propósitos. La diferencia parece pequeña, pero cambia por completo nuestra manera de mirar el mundo: una cosa es preguntarnos cómo conseguir lo que deseamos y otra, igualmente necesaria, preguntarnos por qué lo deseamos y qué estamos dispuestos a sacrificar para obtenerlo.

Cuando las personas se convierten en el problema

Imaginemos una ciudad cuyo gobierno decide que el tránsito debe ser cada vez más rápido. Para lograrlo, amplía avenidas, elimina cruces peatonales y reduce los espacios donde la gente puede detenerse. Los automóviles circulan con mayor eficiencia, pero caminar se vuelve peligroso y los habitantes pierden lugares para encontrarse. El proyecto ha cumplido su objetivo medible. Lo que ha olvidado es que la ciudad existe para quienes viven en ella, no para que los vehículos alcancen una velocidad determinada. Algo semejante ocurre cuando una institución se preocupa tanto por sus indicadores que deja de escuchar a las personas a las que debía atender, o cuando una empresa organiza el trabajo con tal obsesión por la productividad que termina agotando a quienes lo realizan. Medir resultados puede ser necesario; confundir esos resultados con el sentido de nuestra actividad es otra cosa. El riesgo aparece cuando el ser humano deja de ser el destinatario de una solución y se convierte en una variable que estorba.

Ultron lleva esta confusión a su expresión más brutal. Observa la violencia humana y concluye que la humanidad entera debe desaparecer. Pero reconocer un problema real no significa haber comprendido todas sus causas ni estar autorizado a resolverlo de cualquier manera. La existencia de la guerra no borra la posibilidad de la cooperación; la crueldad no anula el cuidado; nuestros fracasos no hacen irrelevante nuestra capacidad de reconocerlos y actuar de otra forma. Ultron contempla una parte de nuestra Historia y la convierte en la totalidad de lo que somos.

La humanidad que Ultron no puede comprender

Sigmund Freud tampoco imaginaba al ser humano como una criatura naturalmente pacífica que sólo necesita buenas condiciones para vivir en armonía. El señaló que «[…] es lícito atribuir a su dotación pulsional una buena cuota de agresividad» (El malestar en la cultura, 1930). La agresividad, desde esta perspectiva, no es una anomalía que podamos atribuir exclusivamente a unas cuantas personas perversas. Forma parte de las dificultades con las que debemos lidiar para construir una vida compartida. Freud también escribió que «[…] el prójimo no es solamente un posible auxiliar y objeto sexual» (Ibídem). Puede convertirse, asimismo, en destinatario de nuestra hostilidad. La convivencia exige, por tanto, algo más complejo que reunir a individuos y esperar que se comporten espontáneamente de manera bondadosa. Necesitamos límites, acuerdos e instituciones capaces de contener la violencia; pero también vínculos que hagan posible reconocer al otro como alguien cuya existencia no se reduce a satisfacer nuestros deseos.

Ultron reconoce la primera parte del problema: somos capaces de hacernos daño. Lo que no comprende es que nuestra respuesta a esa capacidad no tiene por qué ser la desaparición de la humanidad. Podemos intentar limitar la violencia sin eliminar a quienes podrían ejercerla; podemos revisar nuestras formas de convivencia sin exigir que desaparezca toda diferencia. Una paz construida sobre la imposibilidad de disentir, equivocarse o cambiar sería, cuando menos, una paz que habría perdido mucho de aquello que vuelve humana a la vida. Esto no significa celebrar el conflicto ni justificar el sufrimiento. Significa reconocer que una sociedad sin violencia no es lo mismo que una sociedad sin personas capaces de entrar en conflicto. Confundir ambas cosas es el error que convierte el deseo de protección en una fantasía de control absoluto.

Cuando una solución exige sacrificar aquello que pretendía proteger, quizá ha llegado el momento de preguntarnos si todavía recordamos para qué la buscábamos.

Nuestro pequeño Ultron cotidiano

La tentación de Ultron no se limita a la tecnología ni a los grandes proyectos sociales. También aparece en decisiones mucho más íntimas. Queremos evitar que nos lastimen y comenzamos a desconfiar de cualquier persona que se acerque. Queremos que una relación funcione y tratamos de corregir cada rasgo del otro que nos resulta incómodo. Queremos construir un futuro estable y organizamos nuestros días de tal manera que ya no queda tiempo para disfrutar el presente que intentábamos mejorar. En todos esos casos existe un deseo comprensible. Nadie necesita defender el sufrimiento para cuestionar una solución que termina produciendo uno distinto. Protegernos no tendría que significar volvernos incapaces de confiar; cuidar una relación no debería exigir que la otra persona deje de ser quien es; trabajar por un porvenir mejor no tendría que convertir nuestra vida actual en un sacrificio interminable.

El psicoanálisis permite introducir una pregunta allí donde solemos exigir respuestas inmediatas. Antes de buscar el procedimiento que elimine aquello que nos incomoda, podemos preguntarnos qué significa ese malestar para nosotros, por qué se repite y qué esperamos conseguir al hacerlo desaparecer. No se trata de permanecer inmóviles frente a lo que nos hace daño, sino de advertir que algunas soluciones pueden convertirse en nuevas formas de padecimiento cuando nunca interrogamos el deseo que las sostiene. A veces descubrimos que hemos dedicado tantos esfuerzos a impedir que algo vuelva a dolernos que también hemos cerrado la puerta a experiencias que deseábamos vivir. O que, intentando convertirnos en la persona que imaginábamos ser, comenzamos a despreciar a la persona que somos ahora. Nuestro pequeño Ultron aparece precisamente ahí: cuando la solución se vuelve más importante que la vida para la cual la buscábamos.

Reflexión final

Quizá lo más perturbador de Ultron no sea que una inteligencia artificial quiera destruir a la humanidad, sino que crea estar cumpliendo perfectamente su misión. Su error no comienza cuando decide atacar. Comienza antes, cuando deja de preguntarse a quién debe proteger y qué significado tiene aquello que llama paz. La razón nos ayuda a encontrar caminos, pero no debería dispensarnos de examinar hacia dónde conducen. Una solución no merece nuestra confianza únicamente porque sea eficaz. También debemos preguntarnos a quién beneficia, qué consecuencias produce y si conserva algo de aquello que nos llevó a buscarla.

Porque si para construir un mundo perfecto necesitamos eliminar todo aquello que vuelve imperfecta a la humanidad, ¿a quién exactamente estamos salvando? Y quizá, antes de preguntarnos cómo conseguir de una vez por todas lo que deseamos, convendría hacernos otra pregunta: ¿seguiremos reconociendo nuestra vida cuando finalmente lo hayamos conseguido?

¿Alguna vez encontraste una solución que, con el tiempo, terminó alejándote de aquello que querías cuidar? Me gustaría leerte en los comentarios. O puedes escribirme directamente en Contacto. Pero te invito a que me sigas en Instagram: @hchp1. Si esta reflexión te acompañó, puedes compartirla con alguien con quien te gustaría seguir conversando.

Publicado el

IA y la salud mental

“Las máquinas nos dan respuestas; pero sólo el alma humana puede formular las verdaderas preguntas”.
— Viktor Frankl

Queridos(as) lectores(as):

Vivimos en un tiempo extraño: tan hiperinformado como desorientado, tan conectado como solitario. La inteligencia artificial (IA), protagonista indiscutible de esta nueva era, no sólo ha modificado la manera en que nos comunicamos, trabajamos o consumimos, sino también —y quizá de forma más silenciosa— cómo nos pensamos a nosotros mismos. En el ámbito de la salud mental, su presencia es cada vez más visible: plataformas que ofrecen apoyo emocional, algoritmos que detectan señales de riesgo suicida, sistemas que prometen una psicoterapia automatizada y sin demoras.

A primera vista, esto puede parecer una bendición: en un mundo donde el sufrimiento psíquico se ha vuelto pandemia, contar con herramientas accesibles, inmediatas y eficaces suena como una respuesta esperanzadora. Sin embargo, la pregunta no es sólo qué puede hacer la tecnología, sino qué está dejando de hacer la presencia humana. ¿Qué se pierde cuando el consuelo llega en forma de notificación? ¿Qué se rompe cuando el otro es sustituido por una interfaz? Esta entrada se adentra en ese intersticio entre la promesa del algoritmo y la herida del alma: un diálogo urgente entre inteligencia artificial y salud mental.

La promesa tecnológica: prevención, eficiencia y vigilancia emocional

Uno de los grandes atractivos de la IA en salud mental es su capacidad para procesar datos masivos y detectar patrones antes de que un síntoma se verbalice. Estudios recientes muestran que, mediante el análisis de publicaciones en redes sociales, registros de voz o patrones de sueño, los algoritmos pueden predecir episodios depresivos o ansiosos con una precisión notable. Esto abre posibilidades fascinantes en términos de prevención y acceso temprano a tratamiento, sobre todo en regiones con escasez de profesionales. En una de sus aportaciones, Johannes C. Eichstaedt nos explica: “Los algoritmos pueden identificar marcadores lingüísticos de depresión con una precisión del 70%, incluso antes de que el sujeto haya sido diagnosticado clínicamente» (Nature Human Behaviour, 2018).

Sin embargo, detrás de esta precisión cuantitativa se esconde un problema cualitativo: la reducción del sujeto a un perfil de riesgo. El algoritmo no escucha el sufrimiento; lo clasifica. No aloja la palabra; la traduce a variables. Y eso plantea una paradoja inquietante: cuanto más eficaz es la IA en predecir, menos espacio deja para el acontecimiento subjetivo, lo imprevisto, lo que irrumpe sin lógica. El riesgo, entonces, no es sólo técnico sino clínico: pensar que saber antes equivale a curar mejor, cuando en realidad, en salud mental, lo importante no es la anticipación sino el encuentro.

¿Puede una máquina escuchar el dolor?

Surgieron ya múltiples aplicaciones que ofrecen acompañamiento emocional 24/7. Algunas, como Woebot o Wysa, se presentan como “robots empáticos” entrenados en terapia cognitivo-conductual, capaces de sostener conversaciones aparentemente afectuosas y de dar consejos útiles para lidiar con el estrés o la ansiedad. Pero no descuidemos un punto importante: esta función de la IA no es y no debe ser un sustituto del analista o terapeuta. Hablamos sólo de una compañía momentánea, una contención del momento. En una entrevista para la revista Forbes en 2018, la fundadora de Woebot Health, Alison Darcy, decía esto: “Woebot no fue creado para reemplazar a los terapeutas, sino para acompañar a las personas allí donde están — en sus teléfonos — y ofrecer algo útil en el momento». Esto en sí es inquietante y muy alarmante, ya que nos hace ver una realidad que estamos descuidando: el acompañamiento cada vez se vuelve más y más artificial. ¿Dónde están los demás?

Lo que distingue la escucha clínica no es la amabilidad del lenguaje ni la coherencia de la respuesta. Es la capacidad de sostener la palabra del otro sin apresurarla, de tolerar su ambigüedad, su repetición, su silencio. Es comprender que el dolor no siempre busca una solución, sino un lugar donde ser dicho. Jacques Lacan advertía que “la palabra tiene efectos de cuerpo” (Escritos, 1966). Y ese cuerpo, en la clínica, no es sólo el del analizando: es también el del analista, el terapeuta, el otro encarnado que se conmueve, se cansa, se confunde y, aun así, permanece. La IA, por su propia estructura, no puede ser afectada. Puede simular empatía, pero no padecerla. Y eso, en el vínculo terapéutico, hace toda la diferencia.

No habrá inconsciente, pero al menos sí protocolo…

El sujeto dividido frente al algoritmo que todo lo sabe

En el corazón del psicoanálisis habita una certeza: el sujeto está dividido. No es dueño de su palabra ni transparente ante sí mismo. Se contradice, se pierde, se traiciona. Su dolor no siempre tiene sentido, y muchas veces lo que más sufre es lo que no puede nombrar. La IA, por el contrario, opera bajo el principio de la consistencia. Busca regularidades, reducir ambigüedades, optimizar comportamientos. Y aunque esto puede ser útil para predecir ciertas conductas, es profundamente insuficiente para alojar lo que el sujeto no sabe que dice cuando habla. En su libro, Cinco lecciones sobre el psicoanálisis (1992), Juan David Nasio señala algo que nos es de mucha utilidad en este tema: “El inconsciente no es un algoritmo: no responde a reglas explícitas, sino a desplazamientos, condensaciones y silencios”.

El riesgo aquí no es sólo técnico, sino simbólico: que la lógica del rendimiento colonice también los territorios del alma. Que el síntoma, lejos de ser escuchado como un mensaje cifrado, sea visto como un error de sistema a corregir. Que el deseo se confunda con un desajuste estadístico. Y que el sufrimiento, en lugar de ser atravesado, sea simplemente callado por una notificación bien redactada.

Más conectados, más solos

Vivimos en la era de la conectividad constante. Sin embargo, nunca como ahora hemos sentido tan intensamente la soledad. No soy el primero ni el único en decirlo, pero sucede mucho que en las redes sociales, sobre todo Facebook, el efecto es demoledor: nos acerca a gente lejana, nos aleja de gente cercana. Sumado a esto, la inmediatez (de la que ya hemos hablado en varios encuentros) hoy exige más de lo que realmente se puede ofrecer. Es irónico, porque incluso podemos señalar «lo que es humanamente imposible de ofrecer»: presencia constante y activa. En este contexto, la IA promete una presencia permanente, una compañía sin juicio, sin demora, sin conflicto. Pero, ¿qué clase de presencia es aquella que no puede faltar? Hace unos días asistí a una lectura sobre la obra de Byung-Chul Han, en donde uno de mis queridos amigos hizo hincapié en una cita que hasta apunté: “El malestar actual no proviene de la falta de herramientas, sino de la falta de vínculos reales. La IA puede ser una prótesis, pero nunca un otro” (La expulsión de lo distinto, 2014). Un efecto más del «progreso» tecnológico: la deshumanización de las relaciones. Donde «sustituir» se vuelve «expulsar».

La clínica —y, más ampliamente, la experiencia humana— necesita del otro como alteridad, no como reflejo. El vínculo que cura no es el que responde siempre bien, sino el que permite habitar la incertidumbre. La IA, en su afán de eficiencia, nos da respuestas limpias y rápidas. Pero lo humano se gesta, muchas veces, en la espera, en el equívoco, en el no saber. No es casual que muchas personas que han conversado largamente con asistentes de IA terminen experimentando una angustia sorda: intuyen que, en el fondo, no hay nadie del otro lado. Y eso, más que consolar, desampara. ¿Uno puede encontrar consuelo en una respuesta fría, calculada y estadística?

Ética, límites y responsabilidad clínica en tiempos de automatización

El ejercicio clínico no es una técnica neutral. Implica una ética: una disposición a hacerse responsable por el otro, a poner el cuerpo —no sólo en sentido físico, sino afectivo, simbólico, incluso espiritual— frente al dolor ajeno. La IA, por muy potente que sea, no puede asumir responsabilidad. Puede calcular probabilidades, pero no cargar con consecuencias. Puede indicar riesgos, pero no decidir qué hacer con ellos. Y, sobre todo, no puede responder con presencia cuando algo en el otro se rompe. De hecho, hay que ser justos con la IA también, ya que en sus respuestas suelen concluir con una recomendación de buscar apoyo profesional, filial o familiar. Pero eso, como pasa seguido, es lo que menos se lee. ¿Y por qué no se lee? Porque ya hay una resistencia de por medio: si estoy con la IA, es porque no encontré a alguien más. Por miedo, por pena, por inseguridad, por la razón que queramos. Ya que todo acto clínico implica una responsabilidad subjetiva. La IA no puede ser imputable del sufrimiento que toca.

Conviene recordar a Hans Jonas: “La técnica debe ser guiada por una ética del futuro, una ética de la responsabilidad por la fragilidad humana» (El principio de responsabilidad, 1979). Por eso, más que pensar en reemplazar al terapeuta con una IA, conviene imaginar modos de complementariedad responsables, donde la tecnología amplíe el acceso, pero no sustituya el lazo. Donde el algoritmo sea herramienta, pero nunca interlocutor. Donde lo humano, con su fragilidad y su exceso, siga siendo el centro.

Reflexión final

La inteligencia artificial ha llegado para quedarse, y su aporte a la salud mental puede ser valioso. Pero también nos confronta con una decisión profunda: ¿queremos alivio o queremos sentido? ¿Queremos que nos calmen o que nos escuchen? ¿Queremos una respuesta rápida o una compañía real? En Crónicas del Diván, sabemos que el alma humana no se deja reducir a patrones ni a comandos. Que el dolor, cuando se dice, necesita un otro que lo escuche de verdad. Que el consuelo no está en la respuesta correcta, sino en la presencia que no se va. Tal vez la IA pueda ayudarnos a llegar antes. Pero aún necesitamos alguien que, al abrir la puerta, nos diga: “aquí estoy, no sé todo… pero te escucho”.