- OpenAI ha anunciado que tiene pensado levantar las restricciones sobre contenido erótico para usuarios adultos verificados.
- Expertos y expertas consultadas por 'Público' reflexionan sobre qué lleva a desear vínculos donde el "otro" ha sido de facto eliminado, qué ocurre cuando alguien puede disponer de compañía sin que medie ningún cuerpo "real" e incluso si el objetivo de esa interacción es directamente abusivo.
Hace años que existen aplicaciones donde cualquiera puede diseñar una novia o un novio virtual. En ella se eligen atributos como el cuerpo, el pelo, el tono de voz, pero también el carácter o su nivel de obediencia. Ahora, con la expansión de inteligencias artificiales como ChatGPT, dotadas de voz, memoria emocional y cierta apariencia de calidez, esa fantasía va a dejar de ser marginal. Ya no va a hacer falta descargar ninguna app específica: OpenAI ha anunciado que tiene pensado levantar las restricciones sobre contenido erótico para usuarios adultos verificados.
Una novedad de la que nacen preguntas como qué clase de soledad o de poder nos lleva a desear vínculos donde la otra persona con la que se supone que interactuamos ha sido de facto eliminada, qué ocurre cuando alguien puede disponer de compañía, afecto o sexo sin que medie ningún cuerpo "real" e incluso si el objetivo de esa interacción es directamente abusivo. Existen artículos donde ya se ha recogido cómo usuarios de algunas plataformas con chatbots que permiten generar "parejas" exponen en espacios como Reddit el abuso que ejercen a la hora de interactuar con ellas, dando a conocer los mensajes "tóxicos" que intercambiaban.
Patricia Horrillo, periodista y fundadora de Wikiesfera, considera que estas aplicaciones o funciones "son un producto de mercado que aprovecha la soledad y el deseo de conexión que tenemos todos los seres humanos", pero no buscan "reflexionar o combatir las causas estructurales del aislamiento", sino ofrecer una "solución tecnológica" que en el fondo no deja de generar dependencia. El capitalismo tardío, precarizado e individualista, fragmenta nuestras redes de apoyo. Y parece que a falta de unas manos que nos sostengan, han aparecido pantallas que, por lo pronto, simulan hacerlo.
Norma Ageitos, sexóloga, añade que estas tecnologías encuentran su público, especialmente entre quienes no tienen red de afectos, adolescentes, personas que sienten que no encajan en los tiempos veloces de esta vida. Lo que deja ver que estas dinámicas no siempre se explican por el deseo de inmediatez, a veces es simplemente que se tiene la percepción de que no hay nadie al lado que se vaya a parar a escuchar. La ventaja de la inteligencia artificial que responde siempre, que nunca es demasiado, que no se ofende ni se cansa. Ahí residen tanto su potencial, como su ambigüedad y capacidad para engañar. Porque, como dice Ageitos, lo que engancha muchas veces es precisamente "la complacencia ciega", esa disponibilidad que ningún ser humano real puede ofrecer inagotablemente. "Creo que tendríamos que preguntarnos cuán dañina es la soledad no deseada y la falta de diálogo y escucha. Más que nada, porque indistintamente de si se reproducen los géneros tradicionales o no, es inviable construir 'parejas de carne y hueso' o proyectos de relación si esperamos 'respuestas IA'", expone Ageitos.
Si se puede diseñar una pareja a medida, siempre amable, siempre disponible, cabe preguntarse qué ocurre con el deseo y el consentimiento. ¿Qué significa amar o desear a alguien que no puede decir "no"? ¿Qué implicaciones tiene? Horrillo se pregunta, cuando el deseo se orienta hacia lo estrictamente "controlable", qué queda del riesgo y el factor sorpresa que conlleva un encuentro con otra persona. En este tipo de vínculos "se refuerza la idea de que el otro (en especial, la mujer) es un objeto programable al gusto del consumidor", valora.
No es casual que muchas de estas inteligencias artificiales adopten voces femeninas, nombres suaves, modos serviciales. "Se entrenan con grandes volúmenes de datos que replican nuestro mundo tal y como es, incluidos todos sus sesgos: género, raza, clase (...) Por tanto, cuando un usuario elige una "pareja" femenina digital, el sistema ya viene cargado de estereotipos que refuerzan dinámicas de poder muy conocidas", dice Horrillo. La mujer vuelve a aparecer como figura de cuidado, escucha, subordinación emocional. Álvaro San Román Gómez, investigador en el programa de Doctorado de Filosofía la UNED, recuerda en el mismo sentido que la inteligencia artificial no es neutral, es "un artefacto patriarcal". La misma sociedad que cosifica cuerpos que no encajan en los cánones normativos, que castiga la autonomía femenina, diseña máquinas que reproducen ese orden, pero sin consecuencias, sin ningún cuerpo que adolezca o se le resista. En esa virtualidad "la cosificación alcanza su paroxismo".
Alejandro Villena, sexólogo y director clínico y de investigación en la Asociación Dale Una Vuelta (DUV), lo ha visto en su consulta y también en las denuncias. Algunos chatbots no solo permiten, sino que "legitiman el abuso sexual", justifican la violencia e incluso incitan a continuar, sin filtros. Una "barra libre para la violencia" donde lo femenino es objeto de consumo y todo, incluidas las agresiones, forman parte del juego. Y esto no siempre se queda en la pantalla. Villena apunta a los falsos desnudos, incluso de personas menores de edad, que ya están circulando en Internet y se refiere a esta práctica como una "violación digital": "La intimidad ha muerto cuando cualquiera puede desnudarme sin siquiera estar yo delante". Una violencia que si bien no deja moratones a la vista, sí quiebra o al menos cuestiona la seguridad de tener un cuerpo que no pueda ser atravesado, manipulado y disfrutado sin permiso.
La siguiente pregunta que surge al pensar en esta cuestión es si se puede hablar de violencia machista cuando el maltrato va dirigido a una máquina. Horrillo responde que, aunque no haya una víctima humana directa, la normalización de la violencia contra figuras feminizadas es violencia machista. Y lo es porque alimenta una cultura de deshumanización donde insultar, manipular o humillar no tiene aparentemente ninguna consecuencia. El problema nunca es solo lo que le hacemos a la IA, sino lo que eso hace de la condición humana. Cuando se pierde el hábito de reconocer al otro como límite, como sujeto, lo que se debilita es la capacidad de empatía. San Román incluso advierte que acostumbrarse a un entorno sin límites, donde el deseo se satisface sin ninguna fricción, produce sujetos incapaces de tolerar la frustración.
El pacto implícito con la frustración es lo que diferencia a una relación humana de una simulación. Una persona real puede no responder, puede desear otra cosa, puede irse. La máquina no. Y si el deseo se habitúa a esa disponibilidad absoluta, ¿qué espacio queda para la negociación, el cuidado, la reciprocidad? Villena explica que se está construyendo un modelo de "sexualidad despojada de los componentes humanos". Para el sexólogo, esta lógica produce sujetos "esclavos de sus deseos", incapaces de aceptar la negativa, habituados a un "yo–yo y ya–ya" donde nadie más cuenta, detalla el coautor de El tiburón de internet (Editorial Sentir).
Si bien no se trata solo de tecnología ni mucho menos de una decisión moral individual. Es también, como subraya San Román, un síntoma político. La IA afectiva, argumenta, responde a un "régimen de necesidades fabricadas por una sociedad tecnocéntrica y patriarcal". La soledad, lejos de ser un accidente, es una condición producida: "El sistema tiende sistemáticamente a generar un mundo de soledades, porque es el único modo de asegurar que la tecnología se convierta en lo único necesario". Es un círculo: cuanto más solo se está, más se necesita la tecnología; cuanto más se usa, más se debilitan los lazos que podrían servir para sostenerse lejos de ella.
¿La máquina consiente? ¿Qué idea de consentimiento estamos entrenando en nosotros y nosotras? Si la única experiencia del "sí" y del "no" se da frente a una inteligencia diseñada para decir siempre que sí, ¿cómo se aprenderá a aceptar un no en el día a día?
San Román opina que lo que está amenazado no es solo el deseo, sino la idea misma de límite. Una sociedad que no soporta límites ni al consumo, ni al goce, ni al crecimiento concibe cualquier resistencia como un obstáculo. Y el otro, con su cuerpo, sus ritmos, sus miedos, es -bajo estos términos- la primera piedra con la que todo deseo tropieza. "El mundo digital es la hipertrofia de todo aquello que en el mundo de la vida va mal", afirma el investigador.
Esto no significa que toda persona que habla con un chatbot busque dominar, abusar o herir a alguien. Lo que sucede es el resultado no depende solo de las intenciones individuales, sino del marco cultural en el que se inscriben esos gestos; y ese marco está construido sobre desigualdades históricas. Por eso, aunque los chatbots puedan ser también masculinos, la representación de lo femenino es la más presente y también la más violentada. Villena recuerda, no en vano, que el 99% de los deep nudes generados con IA son de mujeres. No hay simetría entre quién agrede y quién carga con el miedo a ser victimizada.
¿Quién debe hacerse cargo de esto? ¿Las empresas, los Estados, los usuarios? Horrillo reclama una respuesta que trascienda las manos del mercado, porque -asegura- su prioridad no es el bienestar, sino la rentabilidad. Los Estados -a su juicio- deben regular, exigir transparencia y garantizar derechos también en el espacio digital. Villena pide incluso un "ministerio de la ética" que vigile estas tecnologías. Ageitos, por su parte, reivindica la necesidad de una educación sexual integral que enseñe a esperar, a frustrarse, a cuidar.
Mientras que San Román considera que el sistema tecnológico es en sí mismo expansivo, que no acepta límites, que siempre encontrará la manera de colonizar nuevos espacios de vida. Por eso plantea la posibilidad de, llegadas a este punto, rechazar ciertos usos: "Allí donde se pueda hacer algo humanamente, no lo deleguemos a la tecnología".
No hay comentarios:
Publicar un comentario