Cómo un monstruo de Lovecraft se convirtió en un símbolo del lado oscuro de las IA como ChatGPT

Cuando se trata de IA, no digas “es kafkiano”, sino “es lovecraftiano”. Howard Phillips Lovecraft, el maestro de la literatura de terror de principios del siglo XX^mi siglo, se encuentra envuelto en el debate sobre los beneficios y riesgos de los chatbots como ChatGPT, descubrió el diario estadounidense The New York Timesen un artículo publicado el martes 30 de mayo.

El Shoggoth, una criatura deforme del panteón de las deidades lovecraftianas, ha sido invocado por parte de la comunidad investigadora de inteligencia artificial para simbolizar los riesgos asociados al uso indebido de ChatGPT y compañía.

Un monstruo con 1001 tentáculos.

Hicieron de este monstruo con 1001 tentáculos la pieza central de un meme (secuestros en serie de una imagen propagada en Internet) que apareció por primera vez bajo la pluma electrónica de “Tetraspace” en Twitter en diciembre de 2022, un mes después de la salida de ChatGPT. Esta imagen representa una mancha deformada, dibujada a toda prisa y que se supone que es Shoggoth, que sostiene una especie de máscara en forma de carita sonriente al final de sus tentáculos.

La imagen rápidamente hizo rondas en los foros de investigación de IA y fue ampliamente recogida. en las redes sociales. Prueba de su éxito: bolsos de mano (bolsos de mano) con la efigie del “ChatGPT Shoggoth” fueron creados por usuarios de Internet, mientras que otros han desarrollado pegatinas para la gloria de este monstruo.

El meme incluso logró salir del círculo bastante pequeño de expertos en IA cuando el controvertido jefe de Twitter, Elon Musk. retuiteó una versión de esta imagen a sus 141 millones de seguidores a fines de febrero.

Originalmente, el uso de Shoggoth tenía como objetivo enfatizar que el chatbot ChatGPT “representa algo que piensa de una manera que los humanos no entendemos y es totalmente diferente a la forma en que pensamos”, señaló “Tetraspace”, entrevistado por New Tiempos de York.

El emoticón representaría los “bricolages emprendidos para hacer que estos sistemas sean aceptables para los humanos”, especifica Sébastien Konieczny, director de investigación del CNRS en inteligencia artificial.

Pero como todo meme, el monstruo se le escapó a su creador y parece haberse convertido en el símbolo “de una revuelta consciente o inconsciente de algunos investigadores en este campo contra los actores de la economía de la IA. [comme OpenAI, Microsoft, Google, Facebook, NDLR]”, dice Nicolas Sabouret, profesor de informática y especialista en inteligencia artificial en la Universidad de Paris-Saclay.

La máscara de la cara sonriente

La popularidad de la criatura lovecraftiana como “metáfora de cómo funcionan estos patrones de lenguaje” se debe a que la imagen tiene múltiples niveles de lectura posible, señala el New York Times. El Shoggoth se convierte así en una especie de popurrí de las críticas que se pueden dirigir a estas IA y sus promotores.

Para la mayoría de los expertos entrevistados por France 24, ChatGPT y consortes (Bard de Google o Ernie Bot de la china Baidu) pueden compararse con un monstruo sin forma porque “no siempre somos conscientes de todo lo que hay dentro, y algunas de las cosas son muy feos y aterradores”, dijo Maria Liakata, profesora de procesamiento del lenguaje natural en el Instituto Alan Turing de Londres.

Estas IA no fueron entrenadas “solo con Wikipedia o información confiable proveniente de medios serios. Tenían acceso a todo Internet, que también contiene lo peor de la humanidad”, subraya Sébastien Konieczny.

Sin supervisión, estos chatbots pueden, por lo tanto, “generar contenido muy inapropiado”, señala Maria Liakata. Así fue como Tay, el agente conversacional lanzado por Microsoft en Twitter en 2016, descendió rápidamente al racismo más desenfrenado.

Lea también: ChatGPT: poner la IA en espera, ¿”un problema existencial”?

Aquí es donde entra el segundo elemento del meme: el emoticón. En la mayoría de las iteraciones de este visual, la carita sonriente está acompañada por el acrónimo RLHF, que significa “Aprendizaje de refuerzo a partir de la retroalimentación humana”.

Este método significa que seres de carne y hueso intervendrán para pulir la base de datos en la que se dibuja el algoritmo de 0s y 1s para crear sus respuestas. “Es una forma de regular el comportamiento de estos modelos para evitar desviaciones en determinados escenarios”, explica Maria Liakata.

Todo el principio de este visual es recordar que este emoticón “solo enmascara el problema potencial con estos modelos de lenguaje, pero no lo elimina”, especifica David Krueger, experto en inteligencia artificial de la Universidad de Cambridge. En otras palabras, basta rascar un poco bajo la superficie del smiley para volver a caer sobre el monstruo capaz de transformarse, por ejemplo, en un secuaz de la supremacía blanca.

Hipocresía de los actores económicos de la IA

Para otros, este meme lovecraftiano designa más bien “la hipocresía de principales actores industriales en IA“, dice Nicolás Sabouret.

Existe, según él, la versión limpia de ChatGPT presentada por estos “AI Gafam”, que está representada por la máscara. Y “el monstruo son estas empresas que explotan a los trabajadores en la sombra para hacer aceptables estos modelos”, especifica el investigador.

En esta interpretación, el Shoggoth sirve como un recordatorio del costo humano de la IA ​​El Dorado Rush. “El aprendizaje por refuerzo humano involucra a africanos e indios que trabajan en la línea de montaje y están mal pagados para refinar estos modelos”, subraya Nicolas Sabouret. Y el terrible secreto de los grandes modelos de lenguaje es que “sin esta intervención humana, ChatGPT no existiría porque todavía no sabemos cómo hacer este trabajo de forma automática”, apunta este experto.

Esta imagen también permitiría denunciar otra hipocresía de los grandes grupos, ansiosos de mostrarse en su mejor luz cuando “han saqueado monstruosamente la privacidad de los internautas al construir la base de datos de sus modelos”, señala Sébastien Konieczny. “Se hacen pasar por buena gente cuando están lejos de serlo y se sientan con el consentimiento de los creadores de contenidos en Internet”, especifica Nicolas Sabouret.

Pero tampoco deberías hacer que este meme diga todo y nada. “Uno de los problemas de este tipo de visuales es que es vago y, por lo tanto, puede dar lugar a interpretaciones erróneas”, lamenta Maria Liakata.

El Shoggoth con la cara sonriente podría fácilmente dar la impresión de que ChatGPT sería un monstruo “con su propia voluntad que trama contra nosotros ocultando sus verdaderas intenciones detrás de una máscara, lo que sería engañoso sobre las capacidades de estos modelos”, señala David. Kruger.

Este meme lovecraftiano, por lo tanto, no designa a un supermonstruo dispuesto a acabar con la humanidad. Pero un peligro aparentemente más inocuo. Y que, si no tenemos cuidado, no tiene por qué ser menos aterrador.