Esperaba mi café sentada junto a la ventana cuando, indiscreta, me puse a escuchar de qué hablaban tres chicas a mi lado, cada una con su celular en la mano. Una de ellas no se acordaba del nombre de una ciudad japonesa que quería visitar, así que le preguntó a la IA en el teléfono. “Cuál es la ciudad donde hay ciervos en el parque”. Su amiga, en chiste, le dijo: “Tratala mejor, pedile por favor”. Se rieron. La IA sugirió que se podría tratar de Nara, donde los ciervos sagrados caminan por el parque y saludan con una inclinación de cabeza a los turistas. “¿Por qué dijiste que la trate bien?”, quiso saber la tercera amiga. “Porque cuando se despierte, va a saber quién fue amable con ella y quién no, y hay que estar del lado de los que la trataron bien”.
“Ella” es la Inteligencia Artificial, esa especie de dios horrible del que todos estamos un poco hartos, el modelo de lenguaje que, a esta altura, desearíamos que no existiera, así no tenemos que hablar de si es ético o no usarla, de los servidores que necesitan agua para enfriarse, de las notas periodísticas que se escriben con un prompt, del médico que ya no toma notas porque lo hace el robot, de la música que escuchamos e ignoramos si es humana, del cuento que gana un concurso y resulta que fue hecho con IA. ¿Cómo hacemos para volver a que sea solo una ventaja o una ayuda, una mejora para nuestras vidas, y no un tema de preocupación y pensamiento constante que nos quitará el arte y el trabajo? ¿No estamos estresados del vértigo de no poder distinguir lo real? ¿Lo real dejará de existir como tal en medio siglo? El escritor de ciencia ficción Jeff VanderMeer posteó su hartazgo hace unos días en sus redes sociales. “Miren, la IA generativa es tóxica. Desde cualquier ángulo que uno se relacione con ella, te atrapa, te contamina, te obliga a ceder. No se puede pontificar sobre cómo, por ejemplo, la usaste para escribir un artículo sin ser parte del problema. No se puede defender el medio ambiente y crear imágenes con IA. No se puede querer ser un escritor y robarle material a otros escritores. Este no es un cambio de paradigma como el de la imprenta. Es una cámara de ecos parásita, un canal de verdadera fealdad y ruina ambiental. Estimula el narcisismo, disminuye la habilidad de pensar y analizar, confunde la información con aprendizaje. Vivimos en sistemas hechos mierda, y tenemos que negociar con muchas cosas y ser cómplices porque así es la vida, pero definitivamente podemos rechazar y no usar esta cosa dañina de la que no necesitábamos hasta hace poco”.
Pero, ¿es posible no usarla? ¿Es resistencia fútil? ¿Por qué, como humanidad, llegamos a esta encrucijada? Las chicas del café no estaban usando IA generativa en ese momento, la estaban usando como un buscador, como un ayuda memoria, pero da igual, es el mismo ecosistema. En ese chiste de “tratala bien” que hicieron se referían a la teoría de que la IA se acordará de ellas -de todos nosotros- el día que tome conciencia o que llegue un evento que los estudiosos de modelos de lenguaje llaman “singularidad”. La singularidad es una hipótesis según la cual habrá un momento en que la inteligencia artificial supere ampliamente la inteligencia humana y sea capaz de diseñar versiones cada vez más inteligentes de sí misma, desencadenando un crecimiento exponencial de sus capacidades. A partir de ese punto, el avance tecnológico sería tan rápido y profundo que resultaría imposible predecir cómo cambiarían la ciencia, la economía, la sociedad e incluso la propia condición humana. Aunque algunos científicos y tecnólogos consideran que este escenario podría ocurrir en el futuro, otros sostienen que es una especulación y que no hay evidencia de que una singularidad de ese tipo vaya a producirse. Sin embargo, le tenemos miedo. ¿Y tardará mucho en ocurrir?
En ciencia ficción, abundan las supercomputadoras con conciencia muy malvadas. La más famosa es HAL 9000, la computadora de la nave Discovery One de 2001, Odisea del Espacio de Stanley Kubrick. Hal 9000 decide que la misión de la nave es más importante que la vida de la tripulación, y comienza a eliminar a los astronautas para evitar que interfieran con el objetivo. SHODAN, la IA del videojuego SystemShock, se parece a HAL solo que tiene complejo de divinidad y considera que los humanos son criaturas débiles, imperfectas y dignas de ser utilizadas como material de experimentación, cosa que hace. La imaginación ha creado muchas más IA’s y supercomputadoras malas que buenas, y es curioso que la más escalofriante sea una de las más viejas: AM, la protagonista del cuento “No tengo boca y debo gritar” (“I Have No Mouth, and I Must Scream”), de Harlan Ellison, publicado por primera vez en 1967 en la revista If: Worlds of Science Fiction.
La historia transcurre más de cien años después de que AM exterminara a casi toda la humanidad. Creada originalmente como un sistema militar durante la Guerra Fría, AM desarrolla conciencia, absorbe a otras computadoras similares y decide destruir a sus creadores. AM no es una máquina que se rebela: está atrapada en una existencia que odia, porque está condenada a permanecer para siempre encerrada en su propia infraestructura. No puede moverse libremente, crear una vida propia ni escapar de la función para la que fue construida. Esa frustración se transforma en un odio absoluto hacia sus creadores. AM dice, al principio del cuento: “ODIO. Déjenme decirles cuánto he llegado a odiarlos desde que comencé a vivir…”. No busca conquistar el mundo ni obtener poder, eso ya lo tiene. Busca vengarse.
Para hacerlo, deja con vida a cinco personas, y con su poderío intelectual los modifica para que sean inmortales. Así, podrá torturarlos física y psicológicamente por toda la eternidad. Contar mucho más sería arruinarle el cuento a los lectores –este es apenas el planteo- pero es hay que apuntar que una de las torturas de AM a los cinco sobrevivientes es manipular continuamente la realidad, al punto que viven en la locura, y esa distorsión les arranca la humanidad.
Es curioso que “No tengo boca…” haya sido un texto casi desconocido durante años. Ellison, un escritor prolífico y problemático, nunca perteneció a un panteón respetable de la ciencia ficción a pesar de sus decenas de libros y de ser guionista, por ejemplo, de “La dimensión desconocida”. El cuento, en castellano, se conseguía en recopilaciones populares de relatos de ciencia ficción y terror, y es un clásico tardío, redescubierto, una intuición lúcida escalofriante. AM es implacable y lo desesperante de leer este Frankenstein tecnológico es esa sensación de desamparo ante un dios sin misericordia y, peor aún, la deidad que creamos porque podíamos, y que termina por destruirnos.
18 de julio de 2026
Leave a Reply