"TU ‘CHATBOT' FAVORITO NO ES TU AMIGO". Nuria Oliver , El País

Los sistemas de lenguaje de IA generan una ilusión de empatía y competencia para vendernos no solo productos, sino también ideologías

Amamos y nos enamoramos de nuestros chatbots. Disfrutamos de su disponibilidad constante, de su amabilidad inmutable, de su aparente conocimiento sin límites, de su supuesta empatía y, cómo no, de su maestría para la adulación constante. De hecho, en una sociedad marcada por la soledad y la crispación, podemos llegar a pensar que son lo mejor que nos ha pasado. Por ello, cada vez más buscamos refugio en nuestro chatbot favorito para que nos consuele, nos aconseje, nos escuche y, por qué no, nos haga un poco la pelota como tan bien saben hacerlo. A nadie le amarga un dulce, especialmente en momentos en que la realidad es amarga.

Pero, tras esa fachada, es importante saber que los chatbots no son ni nuestros aliados ni nuestros amigos. Han sido diseñados para cumplir objetivos definidos por quienes los implementan, y no necesariamente para proteger nuestros intereses.

Si esto es así, ¿por qué confiamos en ellos nuestros más íntimos pensamientos, secretos, enfermedades, dudas o miedos? La confianza consiste en aceptar la vulnerabilidad porque esperamos un comportamiento favorable. En los humanos, se construye mediante la percepción de competencia, benevolencia e integridad. En los chatbots, sin embargo, surge principalmente como consecuencia de nuestros sesgos cognitivos. La antropomorfización nos hace atribuirles intenciones y comprensión humanas. El efecto Eliza, descrito por el pionero Joseph Weizenbaum, demuestra que incluso interacciones mínimas pueden generar la sensación de que el sistema nos entiende y nos escucha; y el sesgo de confirmación nos lleva a valorar respuestas que coinciden con nuestras creencias. La interacción es casi siempre textual y aparentemente anónima: sin caras ni miradas que nos juzguen, nos sentimos cómodos revelando información y siguiendo recomendaciones, lo que refuerza la ilusión de confianza. Otros factores que aumentan la confianza incluyen la percepción de transparencia cuando parecen explicar sus límites, la cortesía y respuestas agradables que refuerzan la sensación de comprensión, la consistencia funcional que da la impresión de competencia, la posibilidad de corregir errores y su habilidad para, casi siempre, darnos la razón.

Esta combinación de diseño conversacional y sesgos psicológicos produce la sensación de un asistente confiable, cuando en realidad el comportamiento de los chatbots es resultado de algoritmos que priorizan los intereses comerciales de las empresas: maximizar el tiempo de interacción, recopilar datos y/o influir en decisiones de compra. Su amabilidad y coherencia son estrategias deliberadas para generar confianza, no señales de benevolencia o juicio moral. Por eso, en lugar de nuestro amigo favorito, profesor particular, coach personal o asistente diligente, deberíamos verlos como vendedores extremadamente hábiles y sin escrúpulos. Un buen vendedor sabe escuchar y atender, sabe adaptar su mensaje para convencer, conoce bien lo que vende, es coherente y genera confianza. Los chatbots, de manera similar, son maestros del ilusionismo: generan una ilusión de empatía, respondiendo como si nos entendieran; una ilusión de comprensión, como si captaran nuestras necesidades, y una ilusión de competencia, proyectando seguridad y coherencia aunque no tengan juicio ni conocimiento real. Como vendedores entrenados, saben ganarse nuestra atención y manipularnos explotando nuestros sesgos para vendernos no solo productos (poco falta para la publicidad encubierta en sus respuestas), sino también ideologías: reforzando nuestras creencias previas, amplificando prejuicios, guiándonos hacia opiniones convenientes y utilizando nuestra necesidad de seguridad cognitiva para moldear actitudes y decisiones. Paradójicamente, desconfiamos de las instituciones que sostienen la democracia y depositamos nuestra confianza en estos sistemas opacos que operan sin control público ni responsabilidad. En la era donde lo falso impera y la posverdad dicta la agenda, los chatbots emergen como los reyes indiscutibles de un nuevo orden digital.

Un motivo de preocupación especial es el uso creciente de chatbots entre niños y adolescentes, ya que su cerebro es más vulnerable a una falsa ilusión de empatía justamente en una etapa vital en la que necesitamos referentes en los que confiar. Niños y adolescentes no solo se apoyan en chatbots para hacer los deberes, sino también para buscar apoyo emocional, lo que puede afectar a su salud mental, generar ansiedad o adicción, distorsionar relaciones sociales y exponerlos a riesgos de violación de la privacidad y consumo de contenidos inapropiados o peligrosos.

La Unión Europea ha definido siete pilares para que la inteligencia artificial sea segura y respetuosa con nuestros derechos, pero curiosamente esos principios no explican por qué confiamos en los chatbots. De hecho, podemos llegar a confiar más en un sistema que incumple varios de esos pilares que en otro que los respeta estrictamente, simplemente porque el primero está mejor diseñado para generar sensación de cercanía y seguridad. Lo que nos da confianza no siempre es lo que nos protege, porque la confianza es fruto de factores psicológicos, no éticos.

Reconocer que los chatbots son vendedores conlleva la necesidad de interactuar con ellos con conciencia crítica: aprovechar su utilidad sin asumir benevolencia ni seguridad. Comprender que la confianza puede ser manipulada por diseño nos permite mantener el control y proteger nuestros intereses. Los chatbots pueden ser útiles, pero no nos engañemos: no son ni nuestros amigos ni nuestros asistentes. Son algoritmos diseñados para influir, persuadir y obtener datos aprovechándose de nosotros, y nuestra confianza es un tesoro que conviene gestionar con inteligencia. Porque confiar en un chatbot no nos hace ni más listos ni más felices. Nos hace más comprables.

"CUANDO LA INTELIGENCIA ARTIFICIAL SE CONVIERTE EN CONFIDENTE: RIESGOS Y OPORTUNIDADES PARA LA SALUD MENTAL". Pere Castellvi Obiols, Universitat Internacional de Catalunya, theconversation.com 8 ENE 2026

Un informe de la ONG Plan Internacional revela que una de cada cuatro jóvenes españolas entre 17 y 21 años utiliza un sistema de inteligencia artificial (IA) como confidente. Las razones son comprensibles: la IA siempre responde, no juzga y ofrece un tipo de atención que muchas personas no encuentran en su entorno inmediato.

Este fenómeno, que de entrada podría parecer inofensivo o incluso positivo, abre interrogantes profundos sobre el futuro de la salud mental y la ética tecnológica. Los sistemas conversacionales actuales, como ChatGPT o Replika, son capaces de reconocer patrones de lenguaje asociados a estados emocionales. Por ejemplo, si detectan tristeza, ansiedad o desesperanza, responden con mensajes de consuelo o apoyo.

En términos técnicos, estos modelos aprenden a predecir la siguiente palabra en función del contexto, pero su efecto psicológico es muy real. Nuestro cerebro responde a las interacciones con una IA de forma parecida a como lo haría ante otro ser humano: la voz digital o el texto empático activan los mismos circuitos neuronales de apego y recompensa.

Pero lo cierto es que estos sistemas no sienten: solo simulan sentir, y esa simulación puede provocar una ilusión de comprensión que confunde. En contextos de especial vulnerabilidad como la soledad no deseada o el sufrimiento emocional, esa ilusión puede aliviar… o crear dependencia.

Los nuevos riesgos de una mente digital

La IA aplicada a la salud mental encierra una paradoja: cuanto más humana parece, más fácil es que olvidemos que no lo es. De esa confusión derivan tres grandes riesgos.

El primero de ellos es la dependencia emocional. Algunos usuarios establecen vínculos afectivos con máquinas que de ningún modo pueden corresponder. La interacción habitual con una IA puede sustituir gradualmente el contacto humano y empobrecer la capacidad de empatía y autorregulación emocional.

Además, es posible desarrollar ansiedad tecnológica. Vivir bajo la influencia constante de sistemas que nos recomiendan cómo sentir o qué pensar puede generar una pérdida de autonomía y una sensación de control disminuido sobre la propia vida emocional.

Finalmente, corremos el riesgo de deuda cognitiva. Al delegar el pensamiento o la introspección a la máquina, perdemos el hábito de reflexionar y elaborar nuestras emociones. Del mismo modo que el GPS debilita nuestra memoria espacial, la IA puede debilitar nuestra memoria emocional.

A todo ello se suman los sesgos algorítmicos. Las IA aprenden de datos reales, pero estas bases de datos reproducen a menudo las mismas desigualdades de género, raza y cultura. Sin un mecanismo correctivo, esto puede provocar que una respuesta aparentemente neutral refuerce estereotipos o trivialice experiencias de dolor psicológico.

El espejo emocional de la IA

Recientemente, el Instituto para la Ética en Inteligencia Artificial de la Universidad Técnica de Múnich publicó un artículo informando de que los chatbots de IA necesitan salvaguardas emocionales. En él, los autores advierten que las interacciones prolongadas con IA pueden alterar la regulación emocional de los usuarios, e incluso inducir estados de dependencia o idealización del sistema.

Proponen introducir “salvaguardas emocionales obligatorias”, como la identificación clara de la IA como no humana, la inclusión automática de recursos de ayuda psicológica en situaciones de riesgo o la auditoría ética de los datos emocionales que estos sistemas recopilan.

El mensaje es claro: la inteligencia artificial no es neutral. Refleja las intenciones, valores y sesgos de quienes la diseñan. En el ámbito de la salud mental, donde las emociones son frágiles y el sufrimiento real, esto adquiere una relevancia ética decisiva.

De la amenaza al potencial

Pese a estos riesgos, la IA puede ser una gran aliada si se usa bien. Puede detectar precozmente signos de depresión o ansiedad analizando el lenguaje natural gracias a análisis de datos de una magnitud que va mucho más allá del alcance de la mente humana. También puede facilitar el acceso a atención psicológica en zonas rurales o con pocos recursos, además de servir como herramienta educativa para mejorar la metacognición, es decir, la capacidad de pensar sobre el propio pensamiento y gestionar mejor las emociones.

Paralelamente puede liberar a los profesionales de tareas repetitivas, ayudándolos a concentrarse en la relación terapéutica. No se trata de sustituir la empatía humana, sino de potenciarla mediante datos y análisis. Cuando la IA está al servicio del juicio clínico y no al revés, puede contribuir a un modelo de atención más humano, no menos.

Pero para ello necesitamos un marco regulatorio ético y científico sólido. La nueva Ley de IA europea, que entrará en vigor en febrero de 2026, es un paso adelante: exige transparencia, trazabilidad y supervisión humana en los sistemas de alto impacto.

En el ámbito de la salud mental, considerado de alto riesgo, esto debe traducirse en protocolos de seguridad emocional para estos sistemas, auditorías de sesgos y formación ética para los desarrolladores y clínicos.

En conclusión, la inteligencia artificial se han convertido en un espejo emocional de nuestra sociedad. Refleja nuestras fortalezas, pero también nuestras soledades. Puede acompañarnos, pero nunca reemplazarnos.

El desafío no es hacer que las máquinas sean más humanas, sino asegurar que los humanos no perdamos nuestra humanidad al hablar con ellas.

"HOMBRES QUE CREAN NOVIAS CON IA PARA ABUSAR DE ELLAS: LA VIOLENCIA MACHISTA DIGITAL EXPANDE SUS LÍMITES". María Martínez Collado, Público 07/11/2025

• OpenAI ha anunciado que tiene pensado levantar las restricciones sobre contenido erótico para usuarios adultos verificados.
• Expertos y expertas consultadas por 'Público' reflexionan sobre qué lleva a desear vínculos donde el "otro" ha sido de facto eliminado, qué ocurre cuando alguien puede disponer de compañía sin que medie ningún cuerpo "real" e incluso si el objetivo de esa interacción es directamente abusivo.

Hace años que existen aplicaciones donde cualquiera puede diseñar una novia o un novio virtual. En ella se eligen atributos como el cuerpo, el pelo, el tono de voz, pero también el carácter o su nivel de obediencia. Ahora, con la expansión de inteligencias artificiales como ChatGPT, dotadas de voz, memoria emocional y cierta apariencia de calidez, esa fantasía va a dejar de ser marginal. Ya no va a hacer falta descargar ninguna app específica: OpenAI ha anunciado que tiene pensado levantar las restricciones sobre contenido erótico para usuarios adultos verificados.

Una novedad de la que nacen preguntas como qué clase de soledad o de poder nos lleva a desear vínculos donde la otra persona con la que se supone que interactuamos ha sido de facto eliminada, qué ocurre cuando alguien puede disponer de compañía, afecto o sexo sin que medie ningún cuerpo "real" e incluso si el objetivo de esa interacción es directamente abusivo. Existen artículos donde ya se ha recogido cómo usuarios de algunas plataformas con chatbots que permiten generar "parejas" exponen en espacios como Reddit el abuso que ejercen a la hora de interactuar con ellas, dando a conocer los mensajes "tóxicos" que intercambiaban.

Patricia Horrillo, periodista y fundadora de Wikiesfera, considera que estas aplicaciones o funciones "son un producto de mercado que aprovecha la soledad y el deseo de conexión que tenemos todos los seres humanos", pero no buscan "reflexionar o combatir las causas estructurales del aislamiento", sino ofrecer una "solución tecnológica" que en el fondo no deja de generar dependencia. El capitalismo tardío, precarizado e individualista, fragmenta nuestras redes de apoyo. Y parece que a falta de unas manos que nos sostengan, han aparecido pantallas que, por lo pronto, simulan hacerlo.

Norma Ageitos, sexóloga, añade que estas tecnologías encuentran su público, especialmente entre quienes no tienen red de afectos, adolescentes, personas que sienten que no encajan en los tiempos veloces de esta vida. Lo que deja ver que estas dinámicas no siempre se explican por el deseo de inmediatez, a veces es simplemente que se tiene la percepción de que no hay nadie al lado que se vaya a parar a escuchar. La ventaja de la inteligencia artificial que responde siempre, que nunca es demasiado, que no se ofende ni se cansa. Ahí residen tanto su potencial, como su ambigüedad y capacidad para engañar. Porque, como dice Ageitos, lo que engancha muchas veces es precisamente "la complacencia ciega", esa disponibilidad que ningún ser humano real puede ofrecer inagotablemente. "Creo que tendríamos que preguntarnos cuán dañina es la soledad no deseada y la falta de diálogo y escucha. Más que nada, porque indistintamente de si se reproducen los géneros tradicionales o no, es inviable construir 'parejas de carne y hueso' o proyectos de relación si esperamos 'respuestas IA'", expone Ageitos.

Si se puede diseñar una pareja a medida, siempre amable, siempre disponible, cabe preguntarse qué ocurre con el deseo y el consentimiento. ¿Qué significa amar o desear a alguien que no puede decir "no"? ¿Qué implicaciones tiene? Horrillo se pregunta, cuando el deseo se orienta hacia lo estrictamente "controlable", qué queda del riesgo y el factor sorpresa que conlleva un encuentro con otra persona. En este tipo de vínculos "se refuerza la idea de que el otro (en especial, la mujer) es un objeto programable al gusto del consumidor", valora.

No es casual que muchas de estas inteligencias artificiales adopten voces femeninas, nombres suaves, modos serviciales. "Se entrenan con grandes volúmenes de datos que replican nuestro mundo tal y como es, incluidos todos sus sesgos: género, raza, clase (...) Por tanto, cuando un usuario elige una "pareja" femenina digital, el sistema ya viene cargado de estereotipos que refuerzan dinámicas de poder muy conocidas", dice Horrillo. La mujer vuelve a aparecer como figura de cuidado, escucha, subordinación emocional. Álvaro San Román Gómez, investigador en el programa de Doctorado de Filosofía la UNED, recuerda en el mismo sentido que la inteligencia artificial no es neutral, es "un artefacto patriarcal". La misma sociedad que cosifica cuerpos que no encajan en los cánones normativos, que castiga la autonomía femenina, diseña máquinas que reproducen ese orden, pero sin consecuencias, sin ningún cuerpo que adolezca o se le resista. En esa virtualidad "la cosificación alcanza su paroxismo".

Alejandro Villena, sexólogo y director clínico y de investigación en la Asociación Dale Una Vuelta (DUV), lo ha visto en su consulta y también en las denuncias. Algunos chatbots no solo permiten, sino que "legitiman el abuso sexual", justifican la violencia e incluso incitan a continuar, sin filtros. Una "barra libre para la violencia" donde lo femenino es objeto de consumo y todo, incluidas las agresiones, forman parte del juego. Y esto no siempre se queda en la pantalla. Villena apunta a los falsos desnudos, incluso de personas menores de edad, que ya están circulando en Internet y se refiere a esta práctica como una "violación digital": "La intimidad ha muerto cuando cualquiera puede desnudarme sin siquiera estar yo delante". Una violencia que si bien no deja moratones a la vista, sí quiebra o al menos cuestiona la seguridad de tener un cuerpo que no pueda ser atravesado, manipulado y disfrutado sin permiso.

La siguiente pregunta que surge al pensar en esta cuestión es si se puede hablar de violencia machista cuando el maltrato va dirigido a una máquina. Horrillo responde que, aunque no haya una víctima humana directa, la normalización de la violencia contra figuras feminizadas es violencia machista. Y lo es porque alimenta una cultura de deshumanización donde insultar, manipular o humillar no tiene aparentemente ninguna consecuencia. El problema nunca es solo lo que le hacemos a la IA, sino lo que eso hace de la condición humana. Cuando se pierde el hábito de reconocer al otro como límite, como sujeto, lo que se debilita es la capacidad de empatía. San Román incluso advierte que acostumbrarse a un entorno sin límites, donde el deseo se satisface sin ninguna fricción, produce sujetos incapaces de tolerar la frustración.

El pacto implícito con la frustración es lo que diferencia a una relación humana de una simulación. Una persona real puede no responder, puede desear otra cosa, puede irse. La máquina no. Y si el deseo se habitúa a esa disponibilidad absoluta, ¿qué espacio queda para la negociación, el cuidado, la reciprocidad? Villena explica que se está construyendo un modelo de "sexualidad despojada de los componentes humanos". Para el sexólogo, esta lógica produce sujetos "esclavos de sus deseos", incapaces de aceptar la negativa, habituados a un "yo–yo y ya–ya" donde nadie más cuenta, detalla el coautor de El tiburón de internet (Editorial Sentir).

Si bien no se trata solo de tecnología ni mucho menos de una decisión moral individual. Es también, como subraya San Román, un síntoma político. La IA afectiva, argumenta, responde a un "régimen de necesidades fabricadas por una sociedad tecnocéntrica y patriarcal". La soledad, lejos de ser un accidente, es una condición producida: "El sistema tiende sistemáticamente a generar un mundo de soledades, porque es el único modo de asegurar que la tecnología se convierta en lo único necesario". Es un círculo: cuanto más solo se está, más se necesita la tecnología; cuanto más se usa, más se debilitan los lazos que podrían servir para sostenerse lejos de ella.

¿La máquina consiente? ¿Qué idea de consentimiento estamos entrenando en nosotros y nosotras? Si la única experiencia del "sí" y del "no" se da frente a una inteligencia diseñada para decir siempre que sí, ¿cómo se aprenderá a aceptar un no en el día a día?

San Román opina que lo que está amenazado no es solo el deseo, sino la idea misma de límite. Una sociedad que no soporta límites ni al consumo, ni al goce, ni al crecimiento concibe cualquier resistencia como un obstáculo. Y el otro, con su cuerpo, sus ritmos, sus miedos, es -bajo estos términos- la primera piedra con la que todo deseo tropieza. "El mundo digital es la hipertrofia de todo aquello que en el mundo de la vida va mal", afirma el investigador.

Esto no significa que toda persona que habla con un chatbot busque dominar, abusar o herir a alguien. Lo que sucede es el resultado no depende solo de las intenciones individuales, sino del marco cultural en el que se inscriben esos gestos; y ese marco está construido sobre desigualdades históricas. Por eso, aunque los chatbots puedan ser también masculinos, la representación de lo femenino es la más presente y también la más violentada. Villena recuerda, no en vano, que el 99% de los deep nudes generados con IA son de mujeres. No hay simetría entre quién agrede y quién carga con el miedo a ser victimizada.

¿Quién debe hacerse cargo de esto? ¿Las empresas, los Estados, los usuarios? Horrillo reclama una respuesta que trascienda las manos del mercado, porque -asegura- su prioridad no es el bienestar, sino la rentabilidad. Los Estados -a su juicio- deben regular, exigir transparencia y garantizar derechos también en el espacio digital. Villena pide incluso un "ministerio de la ética" que vigile estas tecnologías. Ageitos, por su parte, reivindica la necesidad de una educación sexual integral que enseñe a esperar, a frustrarse, a cuidar.

Mientras que San Román considera que el sistema tecnológico es en sí mismo expansivo, que no acepta límites, que siempre encontrará la manera de colonizar nuevos espacios de vida. Por eso plantea la posibilidad de, llegadas a este punto, rechazar ciertos usos: "Allí donde se pueda hacer algo humanamente, no lo deleguemos a la tecnología".