Han sido semanas intensas en el mundo de la inteligencia artificial (IA). Elon Musk demandó a su ex compañía, OpenAI, por traicionar los objetivos benéficos y sin fines de lucro con los que él y su cofundador y el actual CEO de la compañía, Sam Altman, la crearon, antes de la adquisición de Microsoft de 49%. Este conflicto, que hace meses llevó al ahora retractado despido de Altman, se vincula en profundidad con otro desacuerdo troncal dentro de un micromundo que se encuentra al centro de todos los titulares. 

Google, y su compañía madre Alphabet, acaban de lanzar su nuevo producto de IA, llamado Genesis. Esto dio pie a una fuerte controversia gracias a un peculiar artefacto de su diseño: como notó el escritor del medio conservador Daily Wire Frank Fleming, Genesis producía retratos racialmente "diversos" de figuras históricas blancas. Por ejemplo, nazis afroamericanos, o astronautas de Apollo 11 de varios orígenes raciales. Para comprender esto, es necesario explorar la extensa y problemática relación de la IA con la racialidad, y el fallido intento por parte de Google de remediarla. Lo que emerge como conclusión fundamental es la imperfección de la IA, y la tormenta de asociaciones culturales que la rodean.

La relación entre la acusada transformación de OpenAI en una compañía con fines de lucro y la IA "woke" de Google no es tan difusa como aparenta a primera vista. Musk, quien abandonó OpenAI años antes alegando un conflicto de interés con Tesla, fundó en marzo de 2023 xAI, una start-up cuyo primer objetivo es "comprender la verdadera naturaleza del universo". Desde entonces, su único producto es el chatbot de IA "Grok", disponible para los suscriptores "Premium Plus" a X (antes Twitter), por $16 al mes. Este, a diferencia de su contraparte de OpenAI, es lo que se llama "open-source": Musk hará a todo el código que lo compone de acceso libre esta semana, haciendo a un lado preocupaciones sobre propiedad intelectual y viabilidad comercial que han limitado a OpenAI desde la venta a Microsoft.

La resurrección de Altman y la guerra secreta de tribus por la Inteligencia Artificial

La controversia fue álgida tras el lanzamiento de Grok a principios de 2023: Grok, construida para ser "anti-woke", era, para los aliados de derecha de Musk, demasiado "woke". Entre otros desarrollos, Grok declaró su oposición a Donald Trump, su defensa del medioambiente, la justicia social, y la accesibilidad de la salud. Su afirmación de que "las mujeres trans son mujeres" enfureció al acólito de Musk, el periodista conservador Ian Miles Cheong, quien se vio frustrado por la IA hasta modificar su pregunta de forma manual. Este resultado -en clara contradicción con la ideología de Musk, cuya transfobia y conservadurismo ha expresado en público repetidas veces- parece sorprendente. El usuario que le marcó el dilema a Cheong sugirió que el conjunto de texto con el que la IA fue "entrenada" podría estar "contaminado" por lo que podemos suponer serían fuentes "woke" no detectadas.

Para entender en profundidad como un producto llevado a mercado por un ideólogo con la vehemencia de Musk sin que este pueda controlar su comportamiento del todo, es importante especificar cómo funciona el subtipo de IA a la que nos referimos, las denominadas Grandes Modelos de Lenguaje, LLMs por sus siglas en inglés. Esta categoría no incluye sólo a interfaces de texto como ChatGPT -que utiliza la IA de OpenAI, GPT- si no también a generadores de imágenes como Dall-E y de video como la recién lanzada Sora, ambas de la misma compañía. Es sólo una parte del mapa mayor de la inteligencia artificial cuya aplicación es el procesamiento y la producción de texto y, mediante técnicas informáticas de avanzada, también imágenes y videos. Para esto, la IA analiza texto de forma repetida en busca de patrones; a cada "lectura" el análisis se vuelve más detallado y fino, y el programa recolecta más información.

Musk fundó en marzo de 2023 xAI, una start-up cuyo único producto es el chatbot de IA "Grok", disponible para los suscriptores "Premium Plus" a X por $16 al mes. Musk hará a todo el código que lo compone de acceso libre esta semana, dejando de lado preocupaciones sobre propiedad intelectual y viabilidad comercial que han limitado a OpenAI. 

Esto se repite a lo largo de un conjunto de textos enormes, miles de millones de palabras, en su mayoría obtenidas de la Internet y acumuladas y procesadas con un software especializado que le permita a la IA construir modelos ultra detallados del uso del lenguaje.

Se trata de un proceso que ha generado controversia: al ser una novedad tecnológica, la ley de derechos de autor no estaba preparada, pero en el último año una serie de revelaciones han dificultado o impedido el uso de material propietario -novelas, guiones o cuadros, por ejemplo- para entrenar IA. Esto implica que las bases de datos sobre las que se entrena a las IA, tanto las de OpenAI como las de Google, son en última instancia reproducciones limitadas de la cultura de Internet, lo que el escritor Ted Chiang denominó un "JPEG borroso" de la misma. 

AP

El GPT y las demás IA, dicho de otra manera, saben solamente lo que fue incluido dentro de su marco de entrenamiento, conocen solo los textos que ha leído y procesado. Reproducen, entonces, los sesgos de sus bases de entrenamiento: el racismo de la IA es de larga data, entre estereotipos raciales y la amplificación de ideologías eugenésicas y de extrema derecha. Por ejemplo, Dall-E producía imágenes fotorrealistas de gente blanca, mientras que su producción de imágenes de gente racializada eran caricaturescas dada la escasa cantidad de imágenes de gente no blanca en su base de entrenamiento. Este tipo de inequidades han llevado, además, a conflictos entre los que se cuentan el despido de la investigadora sobre raza e IA, Timnit Gebru, de Google hace unos años.

La lucha de Musk con Zuckerberg se debe a un conflicto de fondo 

Sin embargo, de manera similar a la generación anterior de algoritmos inteligentes llamados de "machine learning", el GPT y las demás IA no son programadas, y los ingenieros que las construyen no saben con exactitud su funcionamiento. Dicho de otra manera, si bien se puede comprender su funcionamiento y gran parte de su composición a posteriori, nadie sabe de manera fehaciente todos los detalles operativos de las IA. Esto explica los resultados inesperados y, hasta un punto, contradictorios con la ideología con la que Musk, se supone, habría programado a Grok. Podemos decir que si Grok y GPT y Génesis son programados con vastas recolecciones textuales de Internet, sus respuestas son en última instancia reflexiones aproximadas del "consenso" representado por las fuentes utilizadas para su entrenamiento.

El GPT y las demás IA saben solamente lo transmitido por los textos que han procesado y reproducen los sesgos de sus bases de entrenamiento: el racismo de la IA es de larga data, entre estereotipos raciales y la amplificación de ideologías eugenésicas y de extrema derecha.

Nunca es exacta la operación de estas LLMs: son "borrosas" porque sólo pueden intentar aproximar, con una mayor precisión posible pero siempre limitada, una realidad que nunca comprenden del todo. Para que sean exactas, debe asumirse que es posible consumir la totalidad de los textos producidos por la humanidad, de tweets a blogs a publicidades y libros de poesía, y además que este consumo generaría una inteligencia verdadera. Esa "inteligencia" es el mítico animal que persiguen todos los que trabajan en la IA, la llamada inteligencia artificial general, y a la que las LLMs no se asemejan. Es la impredecibilidad, la limitación de las LLMs y su dependencia en un corpus incomprensible por su vastedad, lo que produce el resultado "no deseado" tanto para Musk-una IA "woke"-como para Google.

No obstante, a diferencia de Grok, Genesis parece no estar reproduciendo la realidad ni siquiera de manera imprecisa: sería difícil encontrar imágenes de nazis o papas negros, o de un George Washington afroamericano, ya que estas son creaciones de Genesis. Lo que denota el resultado desafortunado -que Google solucionó temporalmente impidiéndole a la IA generar imágenes de personas- es un intento poco habilidoso de impedir la reproducción de estereotipos y de imágenes discriminatorias, implantado no en la base textual mediante la que se construyó la IA sino luego, para evitar que se generen imágenes que podrían considerarse racistas. Sin embargo, la solución terminó siendo un problema en sí misma, y un abanico de personajes -desde Musk hasta el fundador del fondo de inversión en startups Paul Graham- criticaron la burocracia "woke" y la ineficacia de Google.

El problema no se encontraba en la burocracia si no en el corazón de las LLMs: hasta que no se desarrollen técnicas que puedan remediar los sesgos usualmente inconscientes de las bases de datos en sí, errores como los de Génesis seguirán ocurriendo. Y mientras que se traten de imponer ideologías puntuales como las de Musk en los vastos cúmulos de información con los que se da forma a las impredecibles e imprecisas LLMs, lo único que resultará son intentos fallidos y patéticos de fabricar una realidad inexistente.