Rosa Montero: "Un peligro de la IA es su capacidad de manipulación mental. Nos puede convertir en autómatas"

En el Madrid de 2111 el planeta se mueve bajo el imperio de insaciables corporaciones, de líderes fascistoides, de robots y androides manejados por una IA que está próxima a convertirse en una superinteligencia omnipotente.

Para que Rosa nos cuente, desde sus sentimientos más íntimos, porqué decidió ponerle fin a su criatura preferida, subimos la apuesta.

La preguntamos a la IA, en este caso a Grok, la herramienta, nada menos, que de Elon Musk en su red X, que nos trazara un paralelo entre Husky y Montero.

Rosa quedó perpleja. Sin parar de reír, admitió la potencia y la capacidad de evolucionar autoeducándonse que manifiesta esa combinación de máquinas y algoritmos. Y, por eso mismo, más peligrosa, para todos nosotros, que nunca antes.

La charla de Rosa Montero con Nihuil

Desde su ciudad natal, dialoga, por tercera o cuarta vez, con el programa La Conversación de Radio Nihuil.

-Una duda nos carcome desde el inicio. ¿Rosa Montero está en el Madrid de 2025 o en el Madrid de 2111? Porque ella tiene la capacidad de trasladarse en el tiempo. Hola, Rosa.

-Hola, ¿qué tal? Os escucho y me troncho de risa (risa).

-Vacilamos porque pasan bastante frío en estos días por Madrid, mientras que en tu novela están sofocados de calor.

-También hay unos acontecimientos climáticos explosivos, que es hacia donde nos dirigimos, efectivamente. Por ejemplo, en un momento de la novela hay una lluvia bestial y una inundación que yo escribí antes de que sucediera lo de la DANA en Valencia, con unas inundaciones terribles. No sé si lo habéis seguido.

-Sí, por supuesto. Fue acontecimiento de impacto internacional.

-Por desgracia, el calentamiento global nos dispara hacia unos calores brutales, pero también con unas inversiones polares que pueden producir un frío terrible, o puede haber estas lluvias que nos inundan.

-En esa tormenta de la novela, a Bruna, la protagonista, casi la hacés morir porque queda bajo una especie de tsunami en plena calle.

-Exacto, exacto. El agua es así, ¿no? Todos los fenómenos atmosféricos son bestiales y nos ponen en nuestro lugar, que es el de las hormigas, directamente. Nos creemos omnipotentes, pero luego no servimos para mucho ante la naturaleza.

-A propósito de esto, vos, sobre el final, te ponés muy poética haciendo una muy bonita metáfora con las hormigas.

-Es que en Animales difíciles la protagonista es una detective, aparte de ser un clon humano. Hay una investigación que trata de la inteligencia artificial. Y habla un poco del peligro de la superinteligencia. Estamos creando esa superinteligencia para la que podemos llegar a ser como las hormigas son para nosotros.

-Gran dilema. ¿Cómo lo ves?

-¿Puede la hormiga entender lo que es un ser humano? Pues no. ¿Puede la hormiga controlar a los seres humanos para que no pisoteemos sus hormigueros? Pues, tampoco. Entonces, si nos convertimos en hormigas de esa superinteligencia inhumana, en el sentido de que no es humana y de que no vamos a poder entender lo que es, pues podemos estar en sus manos, verdaderamente.

-En esta línea, hablás de unas hormigas africanas, las matabeles, que se pelean con las termitas y que se sanan a sí mismas. Y terminás diciendo: "Quién sabe, a lo mejor tampoco es tan malo ser las hormigas de los indiferentes dioses que estamos creando". Es una reflexión aguda.

-Muchas gracias, querido. Lo que pasa es que yo creo que para entenderla hay que leer la novela, porque así, fuera de contexto, puede sonar un poco raro que yo diga que a lo mejor hasta es bueno ser una hormiga, ¿no? (ríe).

-Es importante decir que, si bien esta es una novela sobre el futuro, pues se ambienta en el Madrid de 2111, se notan todas tus hondas preocupaciones por el presente del planeta.

-Pues claro. Mira, tanto en España como en el mundo de la lengua, en el territorio de la Mancha, como decía Carlos Fuentes, tenemos un prejuicio enorme hacia la ciencia ficción.

-¿En qué se asienta?

-La gente cree que la ciencia ficción es algo esotérico, que habla de cosas rarísimas que no tienen que ver con la realidad, de marcianitos con las orejas picudas. Y nada más equivocado, porque la ciencia ficción lo que te da es una herramienta metafórica maravillosa y poderosísima para hablar del aquí y el ahora. Así que mi novela sucede en el año 2111, pero es superrealista. Está hablando del mundo de hoy, del mundo de hoy completamente, sí, sí.

-Dadas tus cavilaciones planetarias, te reitero una pregunta que se hacen tus dos protagonistas centrales, Bruna y el inspector Lizard, en una escena muy tierna, sobre el cierre de la novela: “¿Tú crees que se está acabando el mundo?”. Vos misma, Rosa, ¿creés que se está acabando el mundo?

-Bueno... la contestación es sí, pero no hoy. Hombre, evidentemente la humanidad y este mundo tienen un final, obviamente, aunque solo sea cosmológico. Habrá un momento en donde el sol se coma la Tierra; pero no estamos hablando de eso, estamos hablando de que tenemos muchos riesgos por delante y riesgos ciertos.

-¿Hoy más que nunca?

-Fíjate tú que hay una cosa que, si te paras a pensarla, es un poco espeluznante. El Homo sapiens lleva trescientos mil años en este planeta, que no es nada comparado con los dinosaurios, nada, pero sí es mucho para lo que te voy a decir. Aunque llevamos trescientos mil años, solamente en los setenta últimos años nos hemos puesto en riesgo de extinción tres veces por nuestros malos actos.

-¿Cuáles malos actos?

-La primera vez, con la energía nuclear; la segunda ocasión, por el calentamiento global y ahora, por la inteligencia artificial. O sea, tenemos tres posibilidades de extinción de la especie hoy mismo en marcha por nuestra mala cabeza, por así decirlo. ¡Y las tres se han dado en los últimos setenta años! Es como que, si insistimos, lo vamos a lograr, vamos a conseguir acabar con la humanidad. Entonces, este es un momento más peligroso que hace cien años, evidentemente.

-¿Qué tipo de esperanza cultivamos, pues?

-La buena noticia es que el futuro no está escrito. Así como el progreso no es inevitable, la catástrofe tampoco es inevitable.

-¿De qué futuro hablamos?

-El futuro lo estamos escribiendo ahora y debemos intentar cambiar las cosas, controlar las cosas suficientemente, para no tirarnos por el abismo.

-Hace unos días una empresa trajo a Mendoza dos robots, un humanoide y un perro mecanizado. La gente, en pleno centro, se asombraba y se sacaba fotos, los filmaba. ¿Cuál es el peligro, a futuro, de que terminemos siendo reemplazados por este tipo de criaturas que nos fascinan?

-Los robots ya llevan mucho tiempo siendo desarrollados. De hecho, se utilizan robots de todo tipo. No son sólo antropomórficos o animalmórficos. Por ejemplo, en la industria del automóvil se los lleva utilizando para su construcción desde hace un montón de tiempo. O sea, la robótica ya está muy metida en el mundo.

-Está claro, como decís, que resultan útiles. El problema es meterlos como un actor más en todo el cambio al que estamos asistiendo.

-La revolución de la robótica, y sobre todo la revolución de la inteligencia artificial, van a quitar muchísimos puestos de trabajo. Todas las grandes revoluciones tecnológicas quitan puestos de trabajo y crean nuevos. Y en este caso, yo creo que la pérdida de puestos de trabajo va a ser mucho más grande. Eso también es verdad y ese es un problema.

-Un problema inevitable, ¿no?

-Quizá de los problemas que trae la inteligencia artificial ese es el menor, porque incluso se podría resolver con la renta universal o algo así. Los partidarios más enloquecidos de esto dicen que la IA nos va a resolver la vida, que va a quitarnos el trabajo, pero para hacernos como huríes descansando y sin tener nada que hacer; que va a solucionar el calentamiento global y que, incluso, va a acabar con la muerte y que vamos a ser eternos.

-No estaría tan mal, después de todo...

-Esto, que parece ridículo, lo dice gente científica, que a mí me parece que se le ha ido la cabeza, ¿sabes? (risas).

-Pero, entonces, ¿adónde apuntamos?

-El caso, como decía, es que yo creo que la pérdida del trabajo es lo menos peligroso. La inteligencia artificial es poderosísima y trae cantidad de cosas buenas, médicas, por ejemplo, pero los peligros son tremendos. Otro peligro mayor es la capacidad que tiene de manipulación intelectual, mental.

-¿Dónde ves, aquí, los principales riesgos?

-Es que ya con la inteligencia artificial nos pueden hacer querer votar, comprar, pensar, desear lo que les dé la gana. Nos pueden convertir en autómatas.

-Y ahí sí nos entregamos con armas y bagajes.

-Los más importantes neurocientíficos del mundo, como Rafael Yuste, llevan años pidiendo que se incluyan los neuroderechos dentro de los derechos humanos.

-¿Cómo son esos neuroderechos?

-Son cuatro y tan simples como el derecho a que nadie se meta en tu cabeza sin tu consentimiento. ¡Pero no se está haciéndose nada, absolutamente nada de esto! Y eso sí que es mucho más peligroso.

-La manipulación mental es un asunto grave, pero ahí no acaba todo.

-Por último, construir una superinteligencia. Si se construye una superinteligencia, no son los robots el problema. O sea, no es esa cosa de la ciencia ficción donde hay robots malísimos que quieren acabar con los humanos. Nada. Eso es una tontería.

-Está muy claro. Los robots no son los malos de la película.

-La cuestión es que esa superinteligencia ni nos va a ver y, un día, va a ir a su bola; un día puede decir: vamos a usar estos átomos de carbono para otra cosa. ¡Y los átomos de carbono somos nosotros! Eso sí que es un problema y lo dice alguna gente tan importante como Geoffrey Hinton, que es el último premio Nobel de Física.

-¿Cuál es su punto?

-Hinton dice que no vamos a poder controlar la superinteligencia. Eso sí que me asusta.

-Es muy bueno que, en este sentido, hayás rescatado la figura del líder futurista Filippo Tommaso Marinetti quien, ya en los años veinte del siglo pasado, postulaba la unión del robot con el hombre para crear el superhombre, más o menos en la línea de Nietzsche.

-¡Te digo que es acojonante! Tú ahora estás leyendo a los forofos más forofos, a los fanáticos de la inteligencia artificial como Ray Kurzweil; tú lees esos libros de esta gente que te dice que la IA va a acabar con la muerte y nos va a hacer eternos, y te parece estar leyendo el Manifiesto Futurista.

-Notable puente a través de los años esto del futurismo.

-Es que se trata exactamente del mismo delirio mesiánico y enloquecido. Y, bueno, recordemos que los futuristas terminaron integrados en el partido fascista de Mussolini. En fin, no es una perspectiva muy halagüeña, diría yo.

-Vos has escrito novelas de todo tipo, pueden ser históricas, pueden ser más intimistas, etcétera; pero acá, con Bruna Husky, tu replicante de combate, has completado una saga de cuatro títulos. Animales difíciles cierra la tetralogía. ¿Cuesta dar por terminado a un personaje tan potente?

-Sí. Llevo casi diecisiete, dieciocho años con ella. Es el personaje, de todos los que he escrito, que más cerca siento.

-¿Por qué? ¿Qué te une a ella?

-Porque, realmente, en el fondo, en su obsesión por el paso del tiempo y por la muerte, la siento muy cercana. Es como un alter ego en eso. Y sí que cuesta. Pero es que ¿sabes lo que pasa? Yo no sabía cuántos libros iba a hacer de Bruna.

-Tenías un horizonte abierto e incierto, ¿no?

-Yo lo que quería, al principio, era hacer un mundo propio y poder visitarlo cuando quisiera. Por eso los libros de Bruna se pueden leer separados. Tú puedes leer este último sin haber leído los anteriores y da igual, porque en cada historia se termina la aventura que sea.

-¿De qué manera se fue cerrando el círculo, entonces?

-Yo, cuando empecé a hacerlos, no sabía que iban a ser cuatro. Incluso os diré que cuando empecé a escribir esta novela, tampoco sabía que iba a ser la última. Pero, de repente me di cuenta de que, por un lado, la historia criminal, la investigación policial de esta novela es la más angustiosa, la más apretada y la más intensa, porque el peligro del que habla es un peligro para todos nosotros en la vida real.

-Un peligro que trasciende la ficción.

-Eso, por un lado. Y luego resulta que, en esta novela, al contrario que en las otras, he puesto a la pobre Bruna en una situación muy difícil, aparte de tener que resolver la investigación.

-Sí. Su propia existencia es parte del asunto.

-Es que, en la anterior novela, en la tercera, al final, para salvar la vida, resulta que tienen que trasvasar su memoria y sus emociones a otro cuerpo. Por lo tanto, en las tres primeras novelas Bruna es una tecnohumana de combate que mide dos metros, es fortísima, atlética y en esta, ahora, la han pasado al cuerpo de una tecnohumana de cálculo, que es una birria, es súper pequeñita, débil y frágil (ríe).

-La bajaste de rango.

-Entonces la pobre Bruna tiene que pasar por esa especie de calvario, de búsqueda de su propia identidad y de volver a reconocerse, de volver a aceptarse. Y eso es durísimo. La novela habla mucho, precisamente, de la identidad.

-Completamente. Esa divagación comienza en el capítulo dos y ya no se detiene.

-Ahí me di cuenta de que, con esa doble lucha, digamos, la novela era tremendamente épica. Es la más épica de las cuatro. Y me di cuenta también de que no iba a ser capaz de escribir otra sobre Bruna con esa envergadura. Entonces, para escribir una novela peor, pues yo creo que es mejor terminar aquí.

-Usaste una imagen muy elocuente para bajarle a Bruna la categoría física. Dijiste que ella antes era una pantera y ahora es una ardilla.

-(Ríe) Exacto. Tú no te das cuenta de estas cosas porque, cuando escribes, escribes en la oscuridad. Las novelas salen del inconsciente. No sabes lo que estás escribiendo.

-Alguna luz llega después, con la lectura, ¿no?

-Bueno... os diré que termino el libro, lo leen mis amigos, que vienen tronchados y me dicen: ya te vale, porque antes siempre has expresado que, en el fondo, te sentías muy cerca de Bruna; pero, claro, ella tenía dos metros, era fuerte, de combate y tal; y ahora la has hecho como tú. ¡Ahora la has hecho como tú! Y tenían razón.

-O sea que Bruna, aquí, es más Teresa Montero que nunca.

-Hay un momento de la novela en donde digo que Bruna mide uno sesenta, ¡que es lo que mido yo! (ríe). ¡Y encima la he puesto a escribir! En esta novela escribe un diario. Increíble. La he hecho yo.

-Precisamente, en la página 50, cuando Bruna, tras admitir que es "un animal difícil", dice: "He descubierto que escribir es una manera de pensar". Y explica, a continuación, que es "un clon procedente del material genético de una escritora de la segunda mitad del siglo XX y principios del siglo XXI". O sea, vos.

-(Ríe) ¡Claro, sí! Eso se cuenta en la tercera novela. Era algo que yo no lo sabía cuando empecé a hacer a Bruna. Lo descubrí cuando estaba terminando la tercera novela. De repente, un personaje, el malo, le dice: sí, sí, si tú vienes de las células epiteliales de una escritora, Rosa Montero, olvidada, ahora completamente olvidada y tal (sigue riendo).

-Dada esa íntima relación entre vos y tu personaje, nos permitimos una travesura. Le preguntamos a Grok, la IA de X, la red de Elon Musk, que nos comparara a Rosa Montero con Bruna Husky.

-Ah ¿Y qué dijo? (sonríe).

-Hace seis comparaciones. La primera, la acabás de anticipar vos misma. Se refiere a la obsesión con la muerte y el tiempo. Dice: "Bruna vive con la conciencia constante de su vida limitada, lo que la lleva a contar sus días y reflexionar sobre la mortalidad. Rosa Montero, especialmente tras la muerte de su pareja, Pablo Lizcano, ha expresado en obras como La ridícula idea de no volver a verte (2013) una profunda preocupación por el paso del tiempo y la finitud".

-Bastante atinado, aunque ha sido desde siempre, desde que era pequeñita, no desde la muerte de Pablo.

-La segunda se refiere a rebeldía y resistencia: "Bruna es un personaje combativo que desafía las injusticias de su mundo distópico y su propia condición de replicante. Montero, como periodista y escritora, ha mostrado una actitud crítica hacia las estructuras de poder y una defensa apasionada de los derechos humanos, el feminismo y la justicia social. Ambas tienen un espíritu inconformista".

-Alucino, sí. Acojonante (ríe).

-La tercera alude a la capacidad de introspección: "Bruna, a pesar de ser artificial, posee una rica vida interior y se cuestiona su identidad y propósito. Montero es conocida por su escritura introspectiva y su interés en la psicología humana, algo que traslada a sus personajes. En entrevistas, ha dicho que Bruna es una proyección de sus propios dilemas existenciales, lo que sugiere un paralelismo en su tendencia a la reflexión profunda".

-Increíble. Me dejas patidifusa, realmente (ríe).

-¿Viste que no es tan mala la inteligencia artificial?

-No, no, qué digo, si es poderosísima. Es potentísima, esa es la cuestión.

-Pasemos a la cuarta, sobre empatía y conexión emocional: "Aunque Bruna lucha con su aislamiento, muestra momentos de empatía y un deseo de proteger a otros. Montero, en su vida y obra, demuestra una gran sensibilidad hacia el dolor ajeno, visible en su forma de abordar temas como la pérdida o la discriminación. Ambas tienen un núcleo humano que trasciende sus 'limitaciones'".

-Apelotante. Increíble, sí, sí.

-Saltamos directamente a la sexta, sobre determinación y fortaleza: “Bruna enfrenta adversidades con una mezcla de fuerza física y voluntad inquebrantable. Montero, a lo largo de su carrera, ha demostrado una tenacidad similar, superando retos personales (como el duelo) y profesionales (como el machismo en el periodismo de su época) con una actitud resiliente”.

-Es alucinante porque esto no lo habían preguntado para nada a la inteligencia artificial. Pero, vamos, han preguntado otras cosas parecidas hace meses. Y el nivel de finura con que empieza a contestar ya la inteligencia artificial es de vértigo. O sea, está autoeducándose a una velocidad exponencial tremenda y realmente estas respuestas son finísimas, ¿no? Como os estoy diciendo, ¡dentro de nada hormigas de esta inteligencia vamos a ser! (ríe).

-Te ha sacado la ficha, como si tuviera gran empatía con ustedes dos la IA, ¿no?

-Ya, ya, ya... eso es una apariencia, porque las máquinas no tienen empatía, claro.

-Contanos algo más personal, porque si Bruna es tu clon, está muy cachonda durante toda la novela con todo el mundo, hasta con los extraterrestres. Y toma vino blanco a raudales. ¿Cuánto hay de Rosa Montero ahí?

-(Ríe a carcajadas) Bueno, la parte de sexo estaba muy bien para desarrollarla como personaje, porque, sobre todo al principio, es misántropa, no tiene amigos, odia a la humanidad, se odia a sí misma, es de este tipo de personas que tienen propias emociones, porque cree que los sentimientos la debilitan.

-Sí, tremendamente conflictuada, casi sin intermitencias.

-Entonces, en un personaje así, con esa furia y esa rabia, habiendo sido un animal como de dos metros, venía muy bien que las sacara de esa manera.

-Se entiende. Un proceso de construcción.

-A mí me parece que el deseo es muy importante, para mí también lo es, pero, vamos, no soy esa fiera corrupia que es ésta.

-¿Y el vino?

-Lo del vino blanco, sí, lo compartimos. Pero también en ella está más exagerado, porque Bruna es casi una alcohólica y yo espero estar lejos (risas).

-Da la impresión de que todo el manifiesto de tu novela está concentrado en el último capítulo, no sé si lo pensaste así.

-Cierto. Totalmente. Es así. Creo, como has dicho, que de las cuatro Brunas, esta es la novela más poética y, de alguna manera, la más trascendental también.

-¿Qué significó este tramo para vos?

-A mí, escribir ese último capítulo, me consoló mucho; me alivió mucho la angustia de este mundo que vivimos. La verdad es que me dejó como en un lugar de más luz.

-A uno como lector, este último capítulo también lo alivia, porque la novela te va angustiando todo el tiempo. Bruna, además, se siente sola, se siente un monstruo. Y con esa luz del final, cambia el tono e, incluso, ella deja de contar los días que le quedan por vivir.

-Exacto. Como es el último libro, además, yo creo que la dejo muy bien instalada en su vida, la dejo muy bien colocada. Es uno de los finales más luminosos que he escrito de las Brunas, desde luego, pero también de los más luminosos que he escrito en mi literatura.

-La trama policial empieza con un chico que, en una especie de acto terrorista, quiere dejarle un mensaje a una poderosa corporación que dice "O todos o ninguno". En las conclusiones, vos terminás adhiriendo a esa consigna. O todos o ninguno es un poco, también, la bandera de tu novela, ¿no?

-Sí, efectivamente. Es que uno de los temas esenciales de la novela es la identidad, como hemos dicho antes, porque ella cambia de cuerpo y tal. Pero no es solo la identidad individual sino también la identidad social. Estamos en una frontera de ver qué es lo que queremos ser como humanidad.

-Un momento bisagra.

-Ahí están, en los nuevos poderes emergentes, esas voces que dicen que hay que cerrar los países ricos frente al aluvión de personas que está habiendo y que no va a hacer más que aumentar con el cambio climático. O sea, las crisis de desplazados que hemos vivido hasta ahora y que han sido, todas, una tragedia y que se han manejado fatal, pues no son más que el principio.

-Un tema muy fuerte en donde vivís, en Europa. ¿Cómo se lo aborda?

-Hay gente que dice que hay que poner almenas y murallas, y dejar a los pobres fuera y que se mueran de asco.

-Una opción muy extrema, ¿no?

-Yo, esto, primero, no lo comparto éticamente. Pero es que, sin llegar a ello, es sobre todo una imbecilidad porque no va a haber murallas lo suficientemente altas para parar el tsunami de desplazados. ¡Porque va a ser un verdadero tsunami!

-¿Entonces?

-Entonces tenemos que encontrar otras maneras de convivir y de vivir el futuro, de construir ese futuro. Y para mí está claro que, o conseguimos hacerlo entre todos, o no se salvará ninguno.

-Podríamos mantener, en torno a estos temas, una conversación infinita. Pero una buena manera de ir cerrando es destacar tu decisión de que el buen amigo archivero, Yiannis, le lea a Bruna, para darle sentido a la vida, un poema de Jorge Luis Borges, "El remordimiento".

-Bellísimo, extraordinario y raro, además, dentro de lo borgiano, porque Borges es mucho más contenido. Pero aquí este poema lo escribió a la muerte de su madre y es de una emocionalidad tremenda.

-Encima, tenés la delicadeza de cerrar la novela volviendo a citar un tramo de este texto.

-Claro, claro, claro. Bueno, Borges es uno de mis grandes padres literarios.

-Es para preguntarse si Borges no habrá encontrado, tempranamente, la clave de la inteligencia artificial en El Aleph.

-(Ríe) Pues sí, podría, podría, claro, efectivamente. Ahí ya estaba todo, como en los grandes creadores.

-En este este poema, Borges dice: "He cometido el peor de los pecados que un hombre puede cometer. No he sido feliz". ¿Vos has sido feliz, Rosa?

-Mira, la felicidad es algo que es muy precario y que es muy poco permanente. Son, más bien, explosiones. Pero creo que tengo la suerte de poseer la alegría.

-¿Cómo la entendés?

-La alegría es una virtud animal que consiste en que todas tus células bailan un zapateado de gozo por el mero hecho de estar vivas. Y eso depende de una buena sopa química, de tener mucha oxitocina, yo qué sé. No sé qué es. Pero yo tengo esa virtud de la alegría y soy una disfrutona de la vida.

-No es poco. No es poco, para nada, Rosa Montero.

-Realmente he pasado de todo en la vida, cosas muy tristes, terribles; he tenido crisis de pánico, he estado medio loca, he sufrido mucho y he disfrutado mucho y he vivido muchísimo y sigo viviendo muchísimo. Entonces, pues, por ahora siento que la mía es una vida que ha merecido la pena de vivirse.