"A TU SERVICIO, 24/7". Antonio Muñoz Molina, El País

FRAN PULIDO

Venden como conveniencia el sueño de un adolescente aviejado y misántropo que no quiere salir de su cuarto y tener al instante todo lo que desea sin la molestia de intercambiar una palabra con esos inoportunos humanos

Hay seres que se ganan toda nuestra confianza desde el momento mismo en que los conocemos. Le pasó al reportero de The New York Times Eli Tan, cuando se encontró por primera vez con el que iba a ser su nuevo asistente, que respondía al simpático apodo de Wren, el nombre de un pajarillo marrón que en español se llama chochín. “Hola, Wren”, recuerda que le dijo. “Hola, Eli, ¿qué puedo hacer por ti?” El caso es que podía hacer de todo, en cuanto Eli confió en él lo suficiente para concederle el manejo de su tarjeta de crédito, su número de cuenta bancaria, sus variadas contraseñas de internet, esas que todos olvidamos nada más establecerlas. La vida está llena de complicaciones grandes y pequeñas, de pejigueras, de tiempos muertos al teléfono esperando a que una musiquilla infame dé paso a una voz aproximadamente humana. Justo en esas tareas Wren unía la eficacia a la paciencia, y hasta un grado encomiable de iniciativa personal. Eli le mandó la foto de una multa de aparcamiento y Wren se encargó de pagarla de inmediato, consiguiendo así que su importe se redujera a la mitad. ¿Quién en el máximo de su juventud profesional tiene tiempo de revisar uno por uno los cargos de pagos, a veces ínfimos, de la cuenta corriente? Cumpliendo instrucciones de Eli, Wren fue repasando, como un meticuloso contable, las listas de los pagos de su jefe, descubriendo que algunos estaban duplicados, y que podía recuperar, con una sencilla gestión, los 49,99 dólares que a Eli no le habían devuelto por el primer mes de una suscripción gratuita que luego, por despiste, no había confirmado.

A Eli, como dedujo muy pronto Wren, le gusta mucho cocinar de vez en cuando platos de cierto mérito culinario, pero por desgracia le falta tiempo para hacerlo con tanta frecuencia como le gustaría. Así que cuando Eli le pidió que le buscara uno receta adecuada para él, Wren no tuvo que cavilar mucho para encontrarla, y conociendo la apretada agenda de su jefe —hoy en día todas las agendas están apretadas— tomó la iniciativa y encargó cada uno de los ingredientes necesarios en el supermercado Whole Foods, a donde acuden los profesionales urbanos con inquietudes alimentarias y cierto grado de conciencia ambiental.

En pocos días la confianza entre los dos iba adquiriendo la calidez de una amistad. “Wren”, le dijo Eli. “¿En qué crees que podría gastar esos 49 dólares con 99 centavos que ahorré gracias a ti?” ¿Quizás un donativo benéfico? ¿Una entrada para un partido interesante? Wren apenas lo dudó: en cierta tienda online de antigüedades se ofrecía un cuenco de metal pulido que a Eli, tan aficionado a la artesanía popular, podría encantarle. Ya se sabe que en los anticuarios el regateo es imprescindible. Astuto, persuasivo, Wren consiguió el cuenco por la mitad del precio etiquetado, de modo que acabó costando menos de los 49,99 que Eli tenía reservado para ese gasto.

Wren era una presencia útil y cordial en su vida. En él podía descargar, con alivio y sin queja, ese tipo de obligaciones que uno está siempre postergando: una cita inaplazable en el dentista, una gestión con la vidriosa compañía de seguros acerca de la factura. En ese tipo de llamadas, Wren desplegaba lo que podría considerarse una casi inocente picaresca. Para congraciarse con la voz al otro lado, ponía unas veces voz de hombre y otras de mujer, según su intuición le sugería. Cuando era varón se llamaba Brett; cuando era mujer, Hailey. Esa modesta impostura tenía efectos inmediatos, incluso en las ocasiones en que la voz de atención al cliente sonaba sospechosamente automática.

Aun trabajando en un periódico que junto a una web formidable sigue publicando una edición en papel, la verdad es que Eli, apenas con treinta años, tiene poca paciencia y todavía menos tiempo para la lectura, ni para casi nada, ni siquiera para su afición a fantasear sobre la alineación perfecta para su equipo de fútbol americano. Sabiendo eso, y conociendo a estas alturas sus prioridades informativas y sus inclinaciones, Wren le sugiere nombres posibles de jugadores victoriosos y aprovecha sus extraordinarias competencias tecnológicas y su dominio de las voces para hacerle a Eli un regalo sorpresa: un podcast matinal personalizado, en el que las noticias elegidas se las ofrece una pareja de locutores, Maya y Theo, los dos interpretados por el ventrílocuo Wren. A Eli le gustó mucho la sorpresa, pero dada la calidad de las prestaciones hasta ahora recibidas, consideró que podía mejorarse. “Wren”, cuenta que le dijo, “¿No podrían Maya y Theo cantar la sintonía del podcast con un poco más de animación?” “Eli” —en la voz animosa de Wren no se advertía un tono de queja— “para ser sinceros, Maya y Theo no saben llevar una melodía, y tienen que apoyarse sobre todo en el ritmo. Eso les quita encanto”.

No sabemos si a Eli le remordió la conciencia por ese reproche sin duda injusto que le hizo a Wren. Nuestro posible reflejo de empatía queda atenuado cuando descubrimos que Wren no existe, al menos no en la medida en que la suya no es una existencia biológica basada en el carbono, sino en el silicio, según la distinción inquietante que hace mi amigo el físico errante Luis Otero. Wren, con su nombre de pajarillo, es un avatar, o comoquiera que se llame, del agente de inteligencia artificial comercializado por Meta y bautizado con el nombre de Muse, que como sustantivo se traduce poéticamente por musa, pero que en su forma de verbo significa cavilar: “Estar absorto en los propios pensamientos, meditar”, dice el ingente diccionario American Heritage que tengo siempre abierto medievalmente sobre un atril, por puro gusto, porque da las definiciones más precisas que conozco, y porque es una bella y segura herramienta que llevo usando treinta y tantos años.

En la crónica donde Eli Tan cuenta las dos semanas pasadas en la compañía eficiente y fantasma de Wren, tan solo hace referencia a otro ser no digital: el dueño de la tienda de antigüedades, con el que durante unos minutos mantiene, dice, “una refrescante conversación humana”, como un entretenido pasatiempo en medio de todas las interacciones felizmente automáticas que Wren hace por él, aprovechando toda la información sobre todos los aspectos de su vida que el propio Tan lleva muchos años regalándole a Meta en sus cuentas de Facebook e Instagram. No eres el cliente: eres el producto; no eres el invitado, sino la cena. Ese benefactor de la humanidad, Mark Zuckerberg, que según ha reconocido su empresa ante la justicia, ha arruinado millones de vidas de niños y adolescentes por una monstruosa codicia, ha dicho del agente Muse, que tanto entusiasma al reportero Eli Tan: “Trabaja 24/7 para ayudarte a cumplir tus objetivos, a mejorar tu vida, tu salud, tus relaciones personales, tus finanzas. Ayuda al empoderamiento personal”. Es más bien el sueño de un adolescente aviejado y misántropo que no quiere salir de su cuarto y tener al instante todo lo que desea sin la molestia de intercambiar una palabra con esos seres inoportunos, los demás miembros de la especie humana, los que se encuentran al azar por la calle cuando van al mercado, los que charlan un rato con desconocidos en la cola de la panadería y al salir de ella pasan por el cine y deciden sobre la marcha comprar las entradas para una película, los que en una situación de injusticia o de emergencia serán capaces de agruparse y de cortar el tráfico y arriesgarse a ser apaleados por la policía queriendo salvar del desahucio a una vecina de 87 años que va en silla de ruedas y a la que una justicia ciega y cruel como un algoritmo de extorsión le niega el derecho a pasar los últimos días de su vida en la casa y en su barrio de siempre, con un calor vecinal de presencias humanas, sin la menor necesidad que un robot mercenario viniera a tejer en torno suyo un simulacro helado de compañía.

"La catástrofe moral de los tecnomagnates totalitarios: nos roban los datos, nos roban la democracia". Shoshana Zuboff, El País

SR. GARCÍA

Un grupo de caciques corporativos son los responsables del colapso democrático al que asistimos a escala mundial. Con sus algoritmos han conseguido que los ciudadanos naveguemos en un lodo informativo mientras los líderes políticos improvisan ante cada nueva crisis. Cuando las prácticas empresariales entrañan un coste moral y humano inaceptable, hay que abolirlas. Se hizo con el trabajo infantil. Y con la esclavitud

El 10 de noviembre de 2019, la presidenta electa de la Comisión, Ursula von der Leyen, viajó de Bruselas a Berlín para entregarme el Premio Axel Springer por La era del capitalismo de la vigilancia. Parecía consciente de la importancia histórica de aquel momento en el que Europa era la única fuerza geopolítica capaz de frenar la caída precipitada hacia la distopía digital.

“Creemos que lo más importante es el ser humano. Europa pone los valores, los derechos, la confianza y el Estado de derecho por delante de todo lo demás, y eso debe valer también para la estrategia europea en la era digital. Para nosotros, las nuevas tecnologías nunca significarán nuevos valores… Las personas somos, ante todo, ciudadanos, dotados de derechos y con el control de nuestra propia vida… Tanto en el mundo analógico como en el digital…”.

La presidenta electa era consciente de que las demás grandes potencias iban a pulverizar esos valores. “En EE UU, el mercado es tradicionalmente lo más importante… En Asia, el Gobierno tiende a dominar y el individuo tiene que aceptar un papel subordinado al del grupo. Rusia exige a los proveedores de internet que instalen equipos de red capaces de identificar el origen del tráfico y filtrar contenidos”. “Por el contrario”, subrayó, “Europa tiene una larga tradición de equilibrio entre el poder del Estado y el del mercado y, al mismo tiempo, otorga una prioridad especial al individuo. Esa es la gran ventaja de Europa a la hora de dar forma a la era digital. Y todavía no es demasiado tarde. Por supuesto, el progreso no está garantizado. Hay que seguir trabajando”.

Recuerdo el ambiente que se respiraba en la sala después de sus palabras. El viento helador azotaba las ventanas que dominaban la ciudad, pero allí dentro compartíamos una sensación de esperanza, calidez y solidaridad al ver que la mujer que iba a presidir la UE comprendía verdaderamente la importancia y la oportunidad que ofrecía esta próxima gran transformación. También nos tranquilizó ver que comprendía que la UE era la única de las grandes potencias que había institucionalizado y estaba dispuesta a actuar en defensa de los valores, derechos y leyes capaces de forjar un siglo democrático y digital para Europa y para todos los que, en todo el mundo, están desesperados por huir de la distopía. CONTINUAR LEYENDO

"CUANDO LA INTELIGENCIA ARTIFICIAL SE CONVIERTE EN CONFIDENTE: RIESGOS Y OPORTUNIDADES PARA LA SALUD MENTAL". Pere Castellvi Obiols, Universitat Internacional de Catalunya, theconversation.com 8 ENE 2026

Un informe de la ONG Plan Internacional revela que una de cada cuatro jóvenes españolas entre 17 y 21 años utiliza un sistema de inteligencia artificial (IA) como confidente. Las razones son comprensibles: la IA siempre responde, no juzga y ofrece un tipo de atención que muchas personas no encuentran en su entorno inmediato.

Este fenómeno, que de entrada podría parecer inofensivo o incluso positivo, abre interrogantes profundos sobre el futuro de la salud mental y la ética tecnológica. Los sistemas conversacionales actuales, como ChatGPT o Replika, son capaces de reconocer patrones de lenguaje asociados a estados emocionales. Por ejemplo, si detectan tristeza, ansiedad o desesperanza, responden con mensajes de consuelo o apoyo.

En términos técnicos, estos modelos aprenden a predecir la siguiente palabra en función del contexto, pero su efecto psicológico es muy real. Nuestro cerebro responde a las interacciones con una IA de forma parecida a como lo haría ante otro ser humano: la voz digital o el texto empático activan los mismos circuitos neuronales de apego y recompensa.

Pero lo cierto es que estos sistemas no sienten: solo simulan sentir, y esa simulación puede provocar una ilusión de comprensión que confunde. En contextos de especial vulnerabilidad como la soledad no deseada o el sufrimiento emocional, esa ilusión puede aliviar… o crear dependencia.

Los nuevos riesgos de una mente digital

La IA aplicada a la salud mental encierra una paradoja: cuanto más humana parece, más fácil es que olvidemos que no lo es. De esa confusión derivan tres grandes riesgos.

El primero de ellos es la dependencia emocional. Algunos usuarios establecen vínculos afectivos con máquinas que de ningún modo pueden corresponder. La interacción habitual con una IA puede sustituir gradualmente el contacto humano y empobrecer la capacidad de empatía y autorregulación emocional.

Además, es posible desarrollar ansiedad tecnológica. Vivir bajo la influencia constante de sistemas que nos recomiendan cómo sentir o qué pensar puede generar una pérdida de autonomía y una sensación de control disminuido sobre la propia vida emocional.

Finalmente, corremos el riesgo de deuda cognitiva. Al delegar el pensamiento o la introspección a la máquina, perdemos el hábito de reflexionar y elaborar nuestras emociones. Del mismo modo que el GPS debilita nuestra memoria espacial, la IA puede debilitar nuestra memoria emocional.

A todo ello se suman los sesgos algorítmicos. Las IA aprenden de datos reales, pero estas bases de datos reproducen a menudo las mismas desigualdades de género, raza y cultura. Sin un mecanismo correctivo, esto puede provocar que una respuesta aparentemente neutral refuerce estereotipos o trivialice experiencias de dolor psicológico.

El espejo emocional de la IA

Recientemente, el Instituto para la Ética en Inteligencia Artificial de la Universidad Técnica de Múnich publicó un artículo informando de que los chatbots de IA necesitan salvaguardas emocionales. En él, los autores advierten que las interacciones prolongadas con IA pueden alterar la regulación emocional de los usuarios, e incluso inducir estados de dependencia o idealización del sistema.

Proponen introducir “salvaguardas emocionales obligatorias”, como la identificación clara de la IA como no humana, la inclusión automática de recursos de ayuda psicológica en situaciones de riesgo o la auditoría ética de los datos emocionales que estos sistemas recopilan.

El mensaje es claro: la inteligencia artificial no es neutral. Refleja las intenciones, valores y sesgos de quienes la diseñan. En el ámbito de la salud mental, donde las emociones son frágiles y el sufrimiento real, esto adquiere una relevancia ética decisiva.

De la amenaza al potencial

Pese a estos riesgos, la IA puede ser una gran aliada si se usa bien. Puede detectar precozmente signos de depresión o ansiedad analizando el lenguaje natural gracias a análisis de datos de una magnitud que va mucho más allá del alcance de la mente humana. También puede facilitar el acceso a atención psicológica en zonas rurales o con pocos recursos, además de servir como herramienta educativa para mejorar la metacognición, es decir, la capacidad de pensar sobre el propio pensamiento y gestionar mejor las emociones.

Paralelamente puede liberar a los profesionales de tareas repetitivas, ayudándolos a concentrarse en la relación terapéutica. No se trata de sustituir la empatía humana, sino de potenciarla mediante datos y análisis. Cuando la IA está al servicio del juicio clínico y no al revés, puede contribuir a un modelo de atención más humano, no menos.

Pero para ello necesitamos un marco regulatorio ético y científico sólido. La nueva Ley de IA europea, que entrará en vigor en febrero de 2026, es un paso adelante: exige transparencia, trazabilidad y supervisión humana en los sistemas de alto impacto.

En el ámbito de la salud mental, considerado de alto riesgo, esto debe traducirse en protocolos de seguridad emocional para estos sistemas, auditorías de sesgos y formación ética para los desarrolladores y clínicos.

En conclusión, la inteligencia artificial se han convertido en un espejo emocional de nuestra sociedad. Refleja nuestras fortalezas, pero también nuestras soledades. Puede acompañarnos, pero nunca reemplazarnos.

El desafío no es hacer que las máquinas sean más humanas, sino asegurar que los humanos no perdamos nuestra humanidad al hablar con ellas.

"CONTRA LA BAZOFIA INTELECTUAL, VUELVE A PENSAR". Irene Lozano, El País

El trabajo intelectual nos entretiene a unos pocos, pero el esfuerzo de dar forma a la experiencia es universal, convierte a ‘sapiens’ en ‘sapiens’

La necesidad de dar forma a la realidad empezó con el primer Homo sapiens que talló en la cueva un hacha de sílex, golpe a golpe. Resulta trabajoso, requiere oficio, pero no hay alternativa: transformar la materia prima en herramienta útil para la vida exige fricción, incomodidad, incluso irritación cuando no salen las cosas.

Avanzando unos milenios, hoy solo sufre fricción el albañil. Le dice a ChatGPT: “Levanta una casa” y no ocurre nada. En cambio, el trabajo intelectual se ha vuelto mullido, porque los modelos de lenguaje eliminan la fricción de escribir. LinkedIn se ha llenado de posts escritos por ChatGPT; y TikTok, de vídeos hechos por Sora. Más de la mitad del contenido en inglés existente en internet está hecho por IA, según la empresa de SEO Graphite.

Charlie Warzel reflexiona en The Atlantic sobre este tipo de contenido, que ya tiene nombre específico: slop. ‘Bazofia’ es una buena traducción. Nos inunda, imprimiendo al lenguaje una textura fundente, melosa y narcótica. Nos devuelve una realidad sin forma, desprovista de significado, pero fácil: tengo la sensación de ser una niña de nueve años, con todos sus dientes, a la que quisieran atiborrar con papilla. Y ojo, porque ese puré intelectual es, a su vez, alimento para los modelos de lenguaje. Tal vez ese círculo vicioso de la bazofia que se autofagocita desemboque en la chaladura de la IA.

El problema es que la fricción atraviesa el verdadero trabajo intelectual desde que sapiens estaba en la cueva. Allí donde se encuentra la pepita de oro de las ideas, chirrían los goznes con un ruido insoportable. Buscarla genera incomodidad, encontrarla también: la realidad es dura como el pedernal y la pensadora —incluso la más experimentada— debe tener oficio para darle forma al mundo. Esa es la manera de trabajar las ideas: golpe a golpe.

Se ha dado la ampulosa denominación de “creadores” a quienes llenan de contenido la red, pero en realidad son la nueva clase explotada del capitalismo cognitivo. Los modelos eliminan fricción para el creador, que así se vuelve más productivo. A base de cantidad, logra llamar la atención del algoritmo, tan amigo de las adicciones. Le das un par de ideas a ChatGPT y escribe un post, un artículo, un libro. Amazon ha limitado —¡a tres!— la cantidad de libros que puede autopublicar una misma persona cada día, para no convertir la plataforma en una churrería.

Entendíamos como dos caminos vitales irreconciliables el negocio y la filosofía (o el arte). El hombre de negocios persigue el dinero; la pensadora y el artista buscan la verdad. Pero el capitalismo cognitivo ha disuelto la disyuntiva: los creadores digitales producen contenido para obtener dinero. Cuanta menos fricción, más beneficio.

Unir en el creador al capitalista y al pensador es la última jugarreta del tecnofeudalismo: bajo el señuelo de la monetización, se reduce el pensamiento autónomo y se externaliza la creatividad, es decir, el soplo trascendente, soñador y subversivo de los humanos. Todo se acomoda al antiintelectualismo en boga: ahí tenemos a la Casa Blanca, feliz creando bazofia.

Como las cosas van rápidas, auguro que la inundación de bazofia ahogará pronto a los “creadores” y a su público. Cuanto mayor es la confusión entre lo verdadero y lo falso, más necesitamos periodistas, o sea, profesionales de identificar lo que Hannah Arendt llamaba “las modestas verdades de los hechos”. También habrá que atender otras urgencias. Existen empresas de IA que, por unos euros, resucitan digitalmente a los muertos: son chatbots que imitan la voz, el estilo, la personalidad del ser querido. Para poner claridad en el par de opuestos “estar muerto/ estar vivo”, o sea, entre la realidad y la ficción, serán cada vez más necesarios los intelectuales.

Porque el gran problema de la bazofia es que distrae, pero no aporta significado. Donde hay algo importante que saber hay fricción para aprenderlo. Platón nos advirtió: “Lo bello es difícil”. Cuando uno se entrega a lo fácil se acostumbra a vivir en esa bazofia fea, falsa y sin sentido. Pronto se verá que una vida sin fricción es una vida sin sentido.

El trabajo intelectual nos entretiene a unos pocos, pero el esfuerzo de dar forma a la experiencia es universal, convierte a sapiens en sapiens. Por eso el ansia de fricción ya asoma por las esquinas: desde la que hace senderismo para sentir el golpe de viento cortándole la cara, hasta el que se apunta a cerámica para hendir la arcilla con sus dedos.

Pronto la habilidad más valorada será pensar con la propia cabeza, de forma radical, con criterio y originalidad. La de intelectual volverá a ser una profesión reputada. Porque sapiens se comprende a sí mismo con imaginación, pensamiento y palabras, no con bazofia. La sociedad buscará al homínido en la cueva que, como al hacha de sílex, da forma al mundo golpe a golpe. Al fin y al cabo, pensar fue siempre un trabajo físico.

"HABLAR CON UNA PERSONA". Belén Gopegui Durán, El País

mikel Jaso

Antes que la IA, la desigualdad social ha dado lugar a una discriminación en el acceso a un trato humano sosegado

En un ciclo de conversaciones sobre la llamada IA, alguien preguntó a la lingüista computacional Emily Bender cómo evitar que nos dejen atrás si cuestionamos los grandes modelos de texto sintético. Lo primero, contestó, sería analizar la metáfora “que nos dejen atrás” y preguntarse quiénes van delante y si realmente queremos seguirlos. Pues acaso, añadimos, no hay un delante ni un atrás, sino varios caminos diferentes.

La artista Jennifer Walshe, en su libro 13 maneras de ver la IA el arte y la música (Alpha Decay), habla de la IA con desenfado y voluntad de apertura, y la considera un abono para la imaginación. A Walshe, como a la programadora Marga Padilla, autora de Inteligencia Artificial, ¿jugar o romper la baraja? (Traficantes de sueños), les interesa conocer la herramienta, jugar con ella, saber para qué puede y no puede, quizá no debe, servir. En el extremo opuesto se sitúa el músico Anthony Mosser, cuyo post “Soy un hater de la IA” ha sido leído con avidez en internet: “Me convertí en un odiador haciendo precisamente aquello que la IA no puede hacer: leer y comprender el lenguaje humano; pensar y razonar sobre ideas; considerar el significado de mis palabras y su contexto; amar a la gente, crear arte, vivir en mi cuerpo con sus defectos, sentimientos y vida. La IA no puede ser un hater, porque no siente, no sabe, no le importa. Solo los humanos pueden ser odiadores. Celebro mi humanidad”. Los tres coinciden, sin embargo, en que IA es una etiqueta encubridora de distintas tecnologías, procesos, infraestructuras y finalidades.

Una gran parte de esos procesos tienen que ver con la automatización, sistemas de decisión automatizada, optimización predictiva, aprendizaje automático, inferir pero no comprender. La automatización puede ser útil en algunos contextos y perjudicial en otros. Puede ser útil para reducir la fatiga, y al mismo tiempo puede generar una nueva clase de fatiga por aturdimiento y pérdida de capacidad de maniobra. Puede ser útil en modelos especializados para predecir niveles de contaminación o formular nuevos antibióticos. Ahora bien, cuando lo que está en juego son las relaciones humanas nadie suele querer que le traten como una pieza de un engranaje, como un número.

Dos cosas nos constan a los seres humanos, ha escrito el poeta Carlos Piera: que somos todos distintos y que somos todos iguales. Porque somos todos iguales no debemos ser discriminados en cuanto a los derechos. Y porque somos todos distintos necesitamos un mundo que contemple lo que no es fácil medir, lo que no se puede medir y la certeza de que dos casos parecidos a menudo no son iguales porque cada persona trae vida, contexto, vínculos, arterias, pequeñas y grandes desdichas, un mundo de relaciones donde, como dijo Richard Feynman, la excepción prueba que la regla es falsa. Aunque las regulaciones generales sean necesarias, aspiramos a que algo de lo que hay de único en cada una de nosotras pueda ser escuchado y, tal vez, entendido.

Algunas personas en sus profesiones olvidan que tienen delante a un ser humano, quizá por indiferencia, pero quizá porque se les ha dicho que no pueden hacer otra cosa, pues están dentro de un engranaje que no deja tiempo a la verdadera atención. Algo no encaja en la plantilla, la persona atendida propone un rodeo, pues solucionar ese trámite es vital para sus días; quien atiende mira impotente la pantalla: “Comprendo”, dice, “pero el sistema no me deja”. Así se humaniza al sistema, “no me deja”, se deshumaniza a la persona que está delante, “me da igual tu circunstancia”, y también a la persona que trabaja, cuyos criterios no son escuchados, cuya experiencia no sirve, cuya voluntad de tratar a la ciudadanía como lo que es, un conjunto de personas diversas y con derecho a todos los derechos humanos, no cuenta.

El sistema no es una entidad, es un procedimiento casi siempre fruto de una necesidad artificialmente producida. Luchar para mejorar las condiciones en que las personas trabajan y viven, y para aumentar su autonomía y capacidad de acción, no suele estar entre los objetivos de las plataformas ni en los de quienes convierten sus ofertas en normativas. Si a veces se trata al profesorado y al alumnado como si fueran números, la solución no es convertirlos en números o en meros asistentes de máquinas, sino actuar para mejorar el entorno y el sentido de una escuela.

Mucho antes de la IA la desigualdad social ha dado lugar a discriminación también en el acceso a un trato humano sosegado. Lo lógico sería combatir esa discriminación. Lo inadmisible, amplificarla y legitimarla a mayor escala en aras de una supuesta eficiencia. Si en una consulta médica no hay tiempo para mirar y ver a cada persona, la solución no es degradar la función y automatizarla, y menos aún pretender asentar la idea de que será aceptable que el derecho al trato humano dependa de dónde vives, a quién conoces o de cuánto puedes pagar, sino intervenir en las condiciones de trabajo y de vida en común.

La privatización, la corrupción, no pensar en qué se necesita y para qué, dañan el sentido del trabajo, aun cuando queden tantas personas que lo hacen de un modo admirable. Ser más eficiente no quiere decir nada con respecto al sentido. Se puede ser más eficiente, como se ha visto, para expulsar o matar sin juicio, para manipular. El proyecto de una eficiencia automatizada, nos dicen, es imparable, pero ¿por qué? ¿Acaso no estamos en un momento grave de la historia donde demasiadas decisiones pueden tener consecuencias irreversibles y deben ser atentamente sopesadas?

Al colectivo Tu Nube Seca Mi Río, pionero en sacar a la luz el despilfarro eléctrico e hídrico de los centros de datos, se suman cada vez más voces que denuncian cómo pueden poner en peligro la salud de los ecosistemas, la vida. Cuando los límites del planeta deberían estar ya obligándonos a modificar comportamientos, la apropiación abusiva de recursos es uno de los grandes puntos débiles de la automatización en marcha. Hay muchos más, entre otros, el porcentaje de error que multiplica exponencialmente los fallos cuando se cometen por sistemas difundidos a gran escala, la automatización del engaño, de la chapuza y la especulación, la incapacidad de garantizar la custodia de los datos exigidos o extraídos de la ciudadanía, el abaratamiento de la vigilancia y su uso para acosar y privar de derechos, la negativa a revelar los conjuntos de datos de entrenamiento, la falta de cuidado al elegirlos, la amplificación de los sesgos, la elusión de responsabilidades, cómo devalúa las relaciones humanas.“Quiero hablar con una persona” quizá sea la frase más repetida al otro extremo de la línea de un chatbot. Cuando se logra romper con ella el bucle, a veces el modelo de texto sintético emite: “Lamento no haber podido atenderte”. En esas palabras no hay ficción sino fraude, pues no hay voluntad de narrar, tampoco un yo, ni acción de lamentar, ni el tú de la forma verbal atenderte significa. El lenguaje es patrimonio común, no deberíamos permitir que se malbarate hasta el punto de olvidar que tras cada significado ha de haber un querer decir, y tras cada acción con consecuencias un querer ser responsables para poder ser libres.

"EL GRAN ROBO DE LA INTELIGENCIA ARTIFICIAL. ¿Alguien pidió permiso para vampirizar todo conocimiento generado por los humanos?" Un artículo de Naomi Klein (El País 11 JUN 2023)

Tecnologías como ChatGPT se adueñan del ingenio, la inspiración y las revelaciones colectivas de la humanidad sin nuestro consentimiento. No desembocar en un mundo invadido por manipulaciones y bulos, bucles de imitación y desigualdades agravadas depende de decisiones políticas

En los numerosos debates en torno al rápido lanzamiento de la llamada inteligencia artificial, hay una escaramuza relativamente poco conocida sobre la elección de la palabra “alucinar”. Este es el término que los arquitectos y los promotores de la inteligencia artificial utilizan para calificar las respuestas de los chatbots, que son totalmente inventadas o se equivocan por completo. Como, por ejemplo, cuando le pides a un bot una definición de algo que no existe y te da una respuesta bastante convincente, incluso con notas a pie de página inventadas. “Ninguno de los expertos ha resuelto hasta ahora los problemas de alucinación”, declaró hace poco en una entrevista Sundar Pichai, consejero delegado de Google y Alphabet.

Todo eso es verdad, pero ¿por qué llamar a los errores “alucinaciones”? ¿Por qué no llamarlos basura algorítmica? ¿O fallos técnicos? Pues porque alucinación indica la misteriosa capacidad del cerebro humano para percibir fenómenos que no están presentes, al menos no de forma convencional y material. Al apropiarse de una palabra de uso común en psicología, psicodelia y diversas formas de misticismo, los impulsores de la IA, aunque reconocen que sus máquinas pueden fallar, alimentan la mitología preferida del sector: que, al construir estos grandes modelos lingüísticos y entrenarlos en todo lo que los seres humanos hemos escrito, dicho y plasmado visualmente, están dando a luz una inteligencia animada que va a desencadenar un salto evolutivo para nuestra especie. Si no, ¿cómo iban a estar los bots como Bing y Bard trastabillando por el éte

En el mundo de la IA hay alucinaciones retorcidas, sin duda, pero no son los robots los que las padecen, sino los ejecutivos de las empresas tecnológicas que les han dado rienda suelta y su falange de seguidores, atrapados, tanto individual como colectivamente, en unos delirios disparatados. No me refiero a la alucinación en el sentido místico o psicodélico, un estado de alteración mental que incluso puede ayudar a desvelar unas verdades profundas que antes no se percibían. No. Esta gente alucina, sin más: ve —o finge ver— unos hechos completamente inexistentes e incluso conjura unos universos que harían que sus productos contribuyeran a engrandecer y educar a todo el mundo.

Nos dicen que la inteligencia artificial generativa acabará con la pobreza. Curará todas las enfermedades. Solucionará el cambio climático. Hará que nuestro trabajo tenga más sentido y nos entusiasme más. Nos permitirá tener una vida de ocio y contemplación y recuperar la esencia humana que hemos perdido por culpa de la mecanización del tardocapitalismo. Acabará con la soledad. Volverá a nuestros gobiernos racionales y sensibles. Me temo que estas son las auténticas alucinaciones de la IA, las que llevamos oyendo en bucle desde que se presentó ChatGPT, a finales del año pasado. CONTINUAR LEYENDO

"BUENOS DÍAS, VICENTE ARTIFICIAL". Un artículo de Antonio Muñoz Molina publicado en El País (16 DIC 2023)

Las oleadas de la innovación tecnológica, lejos de ser impersonales y objetivas, pertenecen a ejecutivos y a inversores cuyo crudo propósito es acumular dinero y poder en una escala como no ha existido nunca antes

A lo que más va pareciéndose por ahora la Inteligencia Artificial, con sus correspondientes mayúsculas santificadoras, es a la antigua tontería natural, la tontería humana, que cuando se cruza con ingredientes tales como el papanatismo y la codicia puede producir resultados aterradores. La inteligencia artificial, ahora en minúsculas, y no desde luego en siglas, para no sacralizarla más todavía, se nos presenta a los ignorantes —es decir, a todos nosotros— como la mayor en esa serie de grandes oleadas tecnológicas que vienen marcando las últimas décadas, innovaciones prodigiosas que parece que vinieran de la nada y que cambian el mundo con la fuerza inapelable, y desde luego impersonal, de los fenómenos naturales, o de aquellas transiciones de unos modos de producción a otros con las que nos afligían nuestros profesores marxistas de Historia en la universidad. Dado que las fuerzas históricas eran inevitables, cualquiera que se atreviera a disentir de la dirección que imponían estaba condenado a la obsolescencia —y a lo que Trotsky llamó “el cubo de basura de la Historia”— y también, con bastante frecuencia, a la prisión y al tiro en la nuca, como bien supo el propio Trotsky, porque esos movimientos históricos tan abstractos tienen la particularidad de manifestarse en hechos concretos de extraordinaria sordidez, y de abundante derramamiento de sangre.

[...] El pequeño secreto a voces es que las oleadas de la innovación tecnológica, lejos de ser impersonales y objetivas, pertenecen a ejecutivos y a inversores cuyo crudo propósito, más allá de la palabrería peculiarmente religiosa y hasta mística a la que son aficionados, es acumular dinero y poder en una escala como no ha existido nunca antes en la historia del mundo, igual que nunca antes los cambios han sido tan radicales y tan acelerados. El argumento de que ya hubo en otras épocas gente retrógrada que se oponía a la imprenta, o incluso a la escritura, está ya tan repetido —y tan desacreditado— que hasta sus mismos defensores se van cansando de repetirlo. Lo que cuenta en la tecnología no es su posible maravilla, sino quién la posee, y qué uso se le da, a quién beneficia, a quién perjudica, cuáles son sus efectos sobre la vida social, cuántos de ellos beneficiosos y cuántos destructivos, y qué herramientas tiene una sociedad democrática para regularla para el bien de la mayoría, y para evitar en lo posible sus consecuencias devastadoras para los trabajadores.

[...] Pero donde la tontería artificial demuestra sus verdaderas posibilidades es en otra oferta del museo, titulada Bonjour, Vicent. Hasta ahora, la voz de Van Gogh llegaba hasta nosotros verdadera y cercana en las cartas a su hermano Théo. En una pantalla, una especie de penoso doble que no habría perpetrado ni el ilustrador más inepto de novelitas románticas, pero dotado de movimiento y de voz, está disponible para responder a las preguntas de los espectadores. Un algoritmo diseñado por un gran equipo de ingenieros ha procesado las cartas a Théo y los textos de algunas biografías. El espectador hace su pregunta y Vincent —cercano, nada solemne, hasta relajado, como si se sentara no en un sillón rancio del siglo XIX, sino en el taburete de un bar— pone el gesto de quedarse pensando, y responde en francés o en inglés, con una corrección robótica, hilando frases extraídas de las cartas o de orígenes más dudosos con la astucia torpe de quien urde un refrito en un trabajo para la facultad. Alarmada la dirección del museo, porque la mayoría de las preguntas se centraban morbosamente en el suicidio, y temerosa sin duda de posibles demandas, se modificó el algortimo para que transmitiera lo que ahora se llamaría un mensaje de positividad. Con su extraña voz de extraterrestre, Van Gogh, o más bien “Vincent”, responde a la pregunta de un visitante: “Te imploro esto: agárrate a la vida, siempre hay belleza y esperanza”. Ha hecho falta toda la sofisticación de la inteligencia artificial para que Vincent van Gogh regrese al mundo de los vivos a dar consejos como de Paolo Coelho.

ACCEDER AL ARTÍCULO

Douglas Rushkoff: “Los milmillonarios tecnológicos saben que están llevando el mundo al colapso y quieren escapar”. Un artículo de Carlos Castillo publicado en elDiario.es el 17 de septiembre de 2023

El nuevo libro del prestigioso investigador ahonda en una creencia que se extiende entre las grandes fortunas de Silicon Valley: “Para ellos, el futuro de la tecnología consiste en una sola cosa: escapar del resto de nosotros”

Cuando uno habla con tecnólogos capaces de explicar Silicon Valley desde fuera, todos coinciden en que los trabajadores del valle tienen una ideología propia que no es tan común fuera de él. “Conciben las computadoras como el futuro inevitable de la humanidad, casi como una religión”, explicaba a elDiario.es un científico experto en computación que trabaja para DARPA, la Agencia de Proyectos de Investigación Avanzados de EEUU.

Douglas Rushkoff es uno de los principales teóricos del mundo sobre Cultura Digital. Uno de aquellos investigadores que se acercó a Internet en sus primerísimas etapas y vio un abismo de posibilidades que entonces empezaba a conocerse como ciberespacio. Autor del profético lema “Programa o sé programado” en 2010, profesor de la Universidad de Nueva York y uno de los diez intelectuales más influyentes del mundo según el MIT, ha pasado los últimos cinco años estudiando una nueva corriente ideológica que ha surgido dentro de ese pensamiento típico del valle. Una corriente que ha denominado “la Mentalidad”.

“La Mentalidad”, cuenta en esta entrevista con elDiario.es, se da especialmente entre los multimillonarios que han hecho fortuna en la meca de la tecnología y que ahora buscan nuevos propósitos para ese capital: “Para ellos, el futuro de la tecnología consiste en una sola cosa: escapar del resto de nosotros”.

Explicar “la Mentalidad” y cómo esta guía los pasos de esos magnates es la tesis principal de su nuevo libro, La supervivencia de los más ricos. Fantasías escapistas de los milmillonarios tecnológicos (Capitán Swing), que sale a la venta en castellano este lunes. En él, Rushkoff (Nueva York, 1961), avisa que “los milmillonarios tecnológicos saben que sus negocios están llevando al mundo al colapso y quieren usar la tecnología para huir del resto de nosotros”.

“Antes, estas personas inundaban el mundo con planes de negocio descabelladamente optimistas basados en cómo la tecnología podría beneficiar a la sociedad humana. Ahora han reducido el progreso tecnológico a un videojuego que uno de ellos gana cuando encuentra la escotilla de salida”, explica. Para Rushkoff, los cohetes de Elon Musk o Jeff Bezos, el metaverso de Mark Zuckerberg o las mansiones-fortaleza en lugares recónditos como la que se ha construido Peter Thiel en Nueva Zelanda son ejemplos de esos intentos.

“Como la trama de una superproducción de Marvel, la propia estructura de la Mentalidad requiere un desenlace. Todo debe resolverse con un uno o un cero, un vencedor o un perdedor, los que se salvan o los que se condenan. Las catástrofes reales e inminentes, desde la emergencia climática hasta las migraciones masivas, sustentan el mito, ofreciendo a estos aspirantes a superhéroes la oportunidad de representar la apoteosis en su propia vida. Y ello porque la Mentalidad también incluye la certeza cuasi religiosa —y tan peculiar de Silicon Valley— de que sus acólitos podrán desarrollar una tecnología que de algún modo rompa las leyes de la física, la economía y la moral para ofrecerles algo aún mejor que una forma de salvar el mundo: un medio de escapar del apocalipsis que ellos mismos han creado”, describe Rushkoff.

La reunión

Todo empezó con una reunión en 2018. “Me invitan a dar muchas charlas sobre tecnología digital, y normalmente las mejor pagadas son con gente de negocios. Buscan pistas sobre dónde poner el ojo para sus inversiones”, explica el académico en entrevista con elDiario.es.

“Pero, este evento era diferente. Pensé que me habían llamado para dar mi charla normal sobre la tecnología digital, que por lo general soy yo tratando de decirle a la gente de negocios que no sea tan perversa. Que tengan modelos de negocio más responsables porque eso es mejor para sus clientes, o eviten los sistemas de vigilancia y control. Trato de mostrarles que hay otras maneras de hacer dinero con la tecnología digital además de explotar a la gente y extraer valor de sus datos, transmitirles algo de esa emoción del primer Internet. Pero este evento resultó ser para clientes muy ricos de uno de los principales fondos de cobertura, que había organizado una especie de encuentro de fin de semana”, rememora.

“Yo era como uno de los entretenimientos, una actividad opcional que se les había ofrecido para pasar el tiempo. Había un jugador profesional de golf, un masajista... Tenían un menú con un horario y podían elegir lo que querían hacer. Cinco de los invitados decidieron que querían pasar una hora con Douglas Rushkoff para hablar del futuro de la tecnología, como una de esas sesiones de Reddit de 'Pregúntame lo que quieras'. Así que la organización contactó conmigo”, continúa.

Milmillonarios o no, la reunión empezó con las preguntas que cualquiera haría a un académico como Rushkoff. “Empezaron con preguntas clásicas, como qué creo que va a pasar con el bitcoin o qué es mejor, realidad virtual o realidad aumentada. Pero hubo un momento en que uno de ellos sacó una carpeta, me mostró los planos para un búnker por si llega el apocalipsis, que él llamó ‘el evento’, y me preguntó: ¿Dónde es mejor que ponga mi búnker? ¿Alaska o Nueva Zelanda?”.

A partir de entonces el tono de la conversación cambió y sus interlocutores mostraron una cara nueva para el investigador. Denominaban a ese suceso catastrófico “el evento”. “Empezaron a interesarse mucho por este tipo de preguntas, acerca del suministro de agua en el búnker, en qué áreas del planeta hará demasiado calor, dónde habrá radiación. Solo para tomarles un poco el pelo, les cuestioné sobre que quién iba a proteger su búnker de nosotros, los que nos quedásemos fuera y necesitáramos su comida. Respondieron: ‘Oh, no te preocupes. Tenemos guardias. Tenemos acuerdos con un grupo de Navy Seals [un cuerpo de élite de operaciones especiales de la Marina de EEUU] para que nos protejan”.

Rushkoff explica que fue entonces cuando se dio cuenta de que esa conversación iba en serio. “Lo que de verdad querían saber era qué tecnologías podrían ser más útiles en caso de que llegara 'el evento'. Hablaron de implantes cerebrales, producción de energía, etc. Comprendí que lo que les interesaba era cómo aislarse del colapso al que saben que están llevando al mundo”.

“La Mentalidad”

El académico, que no esconde su tendencia marxista, escribió un artículo sobre lo que había ocurrido en su avión de vuelta a Nueva York y lo publicó nada más aterrizar. El texto dio la vuelta al mundo. Personas que conocían la existencia de esa corriente escapista contactaron con él y empezaron a darle más detalles de lo que se estaba moviendo. Incluso representantes de agencias que se habían especializado en construir ese tipo de mega-búnkeres para las personas más importantes del mundo le ofrecieron acuerdos para que promocionara sus productos en próximas reuniones como aquella.

No hubo más charlas así para Rushkoff. Cree que tampoco para otros expertos. “Desde que escribí el primer artículo creo que la mayoría de ellos han entendido que esa vía no va a funcionar. No pueden aislarse en comunidades tan pequeñas. Es lo que intenté explicarles: la única forma de escapar a esa catástrofe que temen es evitar que suceda. Pero no están siguiendo ese camino. Ya no piensan en búnkeres, pero no trabajan para evitar que el mundo (incluidos ellos) sufra. Siguen intentando escapar”, explica.

Así surgió la voluntad de analizar “La Mentalidad”, que describe como “un cientificismo acérrimamente ateo y materialista, además de la fe en la tecnología como método de resolución de problemas; la adhesión a los sesgos del código digital; la concepción de las relaciones humanas como fenómenos mercantiles; el miedo a la naturaleza y a las mujeres; la necesidad de ver las propias aportaciones como innovaciones absolutamente únicas y sin precedentes, y el impulso de neutralizar lo desconocido dominándolo y desvitalizándolo”.

A lo largo del libro, Rushkoff conversa con otros académicos y expertos sobre “la Mentalidad” e invita al lector a mirar las promesas de los multimillonarios tecnológicos desde ese prisma. A su vez, pide tener cuidado con una variante bienintencionada de ella, que defiende que problemas como el cambio climático pueden solucionarse invirtiendo grandes sumas en tecnologías que mitiguen los problemas de las que nos han traído hasta aquí.

“Sentía la necesidad de hacernos conscientes de que estamos al final de una historia de seiscientos años, que comenzó en el Renacimiento cuando decidimos que la ciencia podría controlar la naturaleza y que el dinero podría controlar a la gente. Eso ya no está funcionando. El tecnosolucionismo no nos va sacar de aquí porque se basa en los mismos problemas. Ellos piensan en construir una máquina que vaya en la parte trasera de un camión y capture el carbono. O que cada uno tenga su propia impresora 3D para reducir los desperdicios. Pero esas máquinas se basan en las mismas tierras raras que se extraen en África por niños en condiciones penosas. O en plástico y por tanto petróleo”, recalca en la entrevista.

Ciudades desde cero

Tras la publicación del libro de Rushkoff ha salido a la luz un nuevo proyecto que parece un eco de lo que el investigador describe en él. A finales de agosto una empresa llamada Flannery Asociados reveló que ha comprado cientos de parcelas del condado de Solano, entre San Francisco y Sacramento (capital del Estado de California) para levantar una nueva ciudad de la nada.

Los Flanneries, como les conocen los vecinos, habían estado cinco años comprando tierras sin revelar para qué las querían. La gran acumulación de terreno y la alarma social generada les ha obligado a revelar sus planes que, según han explicado, consisten en construir una urbe totalmente sostenible, movida por completo por energías renovables y diseñada para potenciar el transporte público o el aprovechamiento del agua.

"EL BUCLE INVISBLE". Un libro de Remedios Zafra Alcaraz

¿Hasta qué punto el agotamiento que muchos trabajadores dicen sentir hoy es efecto de una estructura social y laboral cosida por economía, máquinas y datos? El bucle invisible aborda la transformación de las formas actuales de vida mediadas por la cultura algorítmica en el trabajo, la universidad, la sanidad y las aspiraciones vitales, buscando hacer reflexiva la programación tecnológica que hoy nos permite ver mundo, mientras se nos invisibiliza como lente . Zafra se pregunta por los riesgos y presiones que estas dinámicas promueven, en tanto los datos masivos bajo las predominantes lógicas de celeridad ayudan a que lo descriptivo se haga pronóstico.

Si trabajar por una sociedad mejor, implica favorecer la igualdad («elevando y no rebajando»), ¿cómo no temer que las inercias globalizadoras bajo fuerzas monetarias perviertan esta presuposición favoreciendo «compartimentos estancos», bucles invisibles que anticipan que las personas repetirán lo que sus identidades colectivas vaticinan de ellas? ¿Cómo se llega a encajar como parte de la máquina productiva aceptando lo que parece electivo cuando íntimamente se siente obligatorio?

Esta obra frente a los condicionantes y oportunidades tecnológicas y culturales por los que una época estimula las ocasiones de romper esta inercia o las coarta a su mero espejismo. Pero lo hace alentando la posibilidad de trabajar por la cooperación y la empatía desde la tecnología, asumiendo el reto de «querer comprender» y el pedagógico de «ayudar a expresar» las dificultades de una humanidad mediada por pantallas.