En una columna de opinión publicada el pasado miércoles en Bloomberg, Catherine Thorbecke se ocupa de la novela japonesa traducida al inglés Sympathy Tower Tokyo de Rie Qudan (34 años). Esta recibió el Premio Akutagawa en enero y fue centro de un debate al confesar que utilizó ChatGPT para escribir cerca del 5% del texto, precisamente los resultados que obtiene el personaje con un chatbot. En defensa de la autora, Thorbecke escribe: “Para Qudan, la aduladora vacuidad del lenguaje sintético de ChatGPT se convirtió en inspiración. En lugar de aturdir o ignorar la tecnología y su rápida proliferación, ofrece una vía para que los escritores la exploten”.

Es decir, la inteligencia artificial generativa comienza un proceso de naturalización en la cultura humana, algo que confirman dos encuestas recientes citadas en el mismo artículo. La realizada por el equipo de Investigación Económica de OpenAI y un economista de Harvard muestra que el término “escribir” resultó una de las tres consultas más comunes al ChatGPT. Entre mayo de 2024 y junio de este año, sobre una muestra de 1,1 millones de conversaciones, el 28% implicó ayuda para redactar correos electrónicos o la edición de textos. Por último, el 1,4% de las consultas se centraron en “escribir ficción”. Es decir, 14 mil posibles futuros escritores (o escritores formados) recurren a la redacción artificial.

La segunda encuesta referida implicó a 1.200 autores/usuarios del servicio de edición, autoedición y lectura conocido como Bookbub. En ella, el 45% afirmó utilizar IA generativa para facilitar su trabajo, el 7 % no la utiliza, pero podría hacerlo en el futuro. El 81% que usa la IA lo hace para investigar. Las plataformas más populares: ChatGPT de OpenAI, Claude de Anthropic y el software de edición ProWritingAid. Por último, el 74% de los autores que usan IA generativa no revela su uso a los lectores, algo así como uso culposo, también cómplice de un engaño mayor.

Otro síntoma proviene de las bibliotecas. El sitio web 404 (404media.co) publicó este jueves un artículo titulado “Piden a los bibliotecarios que encuentren libros alucinados por IA”. Al comienzo del verano boreal, dos listados de libros recomendados resultaron ser generados por IA, publicados sin verificar la información en Chicago Sun-Times y en The Philadelphia Inquirer.

A partir de esto, los bibliotecarios recibieron consultas taxativas, incluso prepotentes y despectivas, tanto de manera virtual como presencial, como si ellos mismos fueran un chatbot. ¿El motivo? Los lectores rechazaban que esos libros de autores reales pero ficticios no existieran en la realidad. Esto ya es moneda común y lo confirma Alison Macrina, directora ejecutiva del Proyecto Library Freedom, para quien el uso de chatbots “ha disminuido el pensamiento crítico y la curiosidad. Definitivamente se están encontrando con algunos usuarios que manifiestan psicosis y otros problemas de salud mental, y ciertamente, las personas que lo adoptan son aquellos que tienen menos alfabetización digital y un tipo general de pérdida de retención”.

Hasta aquí tenemos probables escritores sintéticos (o injertados con IA) y lectores fanatizados en que la IA es una fuente de verdad indiscutible, cuando en realidad alucina, falla, es imperfecta. ¿Qué puede salir mal? Tal vez todo, porque para que esto ocurra se requieren artificios tecnológicos que implican tanto capital financiero en volúmenes cuantiosos como ganancias siderales.

Y aquí aparece un libro real, escrito por una persona que sí existe. Con un título intermedio en Ingeniería Mecánica del MIT, Karen Hao es periodista especializada en la industria de la IA y su impacto en la sociedad. Trabaja en The Atlantic, antes lo hizo en Wall Street Journal, MIT Technology Review y el Centro Pulitzer. Su primer libro lleva por título Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI (El imperio de la IA: sueños y pesadillas en la OpenAI de Sam Altman), publicado este año por Penguin.

Las observaciones del libro son inquietantes. Open AI, valuada en más de US$ 300 mil millones, explota los recursos ambientales y la mano de obra humana (tercerizando tareas basura con jornales míseros en países subdesarrollados), usurpando a la mayoría global para consolidar la riqueza de un pequeño número de empresas e individuos en Estados Unidos. “OpenAI está liderando ahora nuestra aceleración hacia este orden mundial colonial moderno”, afirma Hao.

En un reportaje publicado en junio de este año por Wired de Italia, la autora reconoce utilizar “la analogía de la Compañía Británica de las Indias Orientales, que comenzó operando como una empresa que celebraba acuerdos comerciales con la India. Con el tiempo, sin embargo, adquirió un poder económico considerable, que luego se tradujo en poder político y depredador. La compañía acabó haciendo la guerra, subyugando a la población y recaudando impuestos en todo el subcontinente indio durante 250 años”.

Ante la pregunta de si existen paralelismos con los imperios históricos desde un punto de vista simbólico y cultural, agrega: “Los imperios siempre controlan la producción de conocimiento (…) Como resultado, la producción de la ciencia y la investigación en IA se ha visto distorsionada por lo que sirve a los intereses de las empresas, y no a los del público”. Y concluye que este imperio “bueno”, como se presenta OpenAI a nivel global, “requiere de un acceso y control ilimitados, y así podrá civilizar el mundo, traer el progreso y la modernidad, y dar a la humanidad una oportunidad de salvación”.

¿La salvación humana se encuentra en la confusión entre lo humano y lo artificial?