Gigantes de IA invitados a la Casa Blanca para discutir la regulación del sector
Publicado en :
Google, Microsoft, OpenAI y Anthropic están invitados a la Casa Blanca el jueves para evaluar los riesgos asociados con las tecnologías que utilizan inteligencia artificial.
¿Cómo regular el sector de la IA? La pregunta está en el centro de una reunión en la Casa Blanca a la que asistieron los líderes de Google, Microsoft, OpenAI y Anthropic el jueves. Objetivo: evaluar los riesgos asociados a la inteligencia artificial (IA), mientras que la regulación de esta gran tecnología sigue siendo por el momento esencialmente responsabilidad de las propias empresas.
“Nuestro objetivo es tener una discusión franca sobre los riesgos actuales y a corto plazo que percibimos en los desarrollos de IA”, dice la invitación vista por AFP el martes.
La administración también quiere considerar “pasos para reducir esos riesgos y otras formas en que podemos trabajar juntos para asegurarnos de que el pueblo estadounidense se beneficie de los avances en IA mientras los protege de daños”.
Satya Nadella (Microsoft), Sundar Pichai (Google), Sam Altman (OpenAI) y Dario Amodei (Anthropic) han confirmado su participación, según informa la Casa Blanca. Se reunirán con varios miembros del Gobierno, entre ellos la vicepresidenta de Estados Unidos, Kamala Harris.
La inteligencia artificial lleva años muy presente en el día a día, desde algoritmos de recomendación en redes sociales hasta software de contratación, pasando por muchos electrodomésticos de alta gama.
Carrera por la innovación
Microsoft y Google se embarcaron en una frenética carrera por la IA generativa este invierno, desde que OpenAI lanzó ChatGPT, una interfaz capaz de producir todo tipo de texto con una simple solicitud en lenguaje natural.
El principal inversor en OpenAI, Microsoft, también acaba de abrir al público en general su motor de búsqueda inflado con IA, Bing, transformando la investigación en línea en un diálogo con un chatbot.
Pero el despliegue de estas tecnologías está generando entusiasmo y preocupación en una nueva escala.
>> Leer también: ¿La inteligencia artificial generará una “clase de trabajadores supersalariados”?
Especialmente cuando Sam Altman, el jefe de OpenAI, habla sobre el próximo advenimiento de la llamada IA ”general”, cuando los programas serán “más inteligentes que los humanos en general”.
Los peligros van desde la discriminación por algoritmos, hasta la automatización de tareas realizadas por humanos, el robo de propiedad intelectual o la desinformación sofisticada a gran escala, entre otros.
“Los modelos de lenguaje capaces de generar imágenes, sonido y video son un sueño hecho realidad para quienes quieren destruir democracias”, dijo David Harris, profesor de la Universidad de Berkeley, especialista en políticas públicas e IA.
Principios no vinculantes
La Casa Blanca publicó un “Plan para una Declaración de Derechos de IA” a fines de 2022, que enumera principios generales como la protección contra sistemas peligrosos o falibles. El Instituto Nacional de Estándares y Tecnología (NIST), un centro afiliado al gobierno, ha diseñado un “marco para gestionar riesgos” relacionado con la IA.
Y el presidente Joe Biden dijo “claramente” recientemente que las empresas “deben asegurarse de que sus productos sean seguros antes de ponerlos a disposición del público en general”, dice la invitación.
Pero “estas directrices y declaraciones no obligan a las empresas afectadas a hacer nada”, subraya David Harris, que fue director de investigación sobre IA responsable en Meta.
“Los propios jefes están pidiendo más regulación”, señala, pero Facebook ha “llamado públicamente” durante mucho tiempo a una mejor regulación de la privacidad de los datos personales, “mientras paga a los grupos de presión para luchar contra las facturas”.
Un equilibrio entre riesgos y beneficios
Los gigantes de la IA no niegan la existencia de riesgos, pero temen que la innovación se vea obstaculizada por leyes demasiado restrictivas.
“Estoy seguro de que la IA será utilizada por actores malintencionados, y sí, causará daños”, dijo el miércoles el economista jefe de Microsoft, Michael Schwarz, durante un panel de discusión en el Foro Económico Mundial en Ginebra, según Bloomberg.
Pero pidió a los legisladores que no se apresuren. Y, cuando habrá “daño real”, asegurar que “los beneficios de la regulación sean mayores que el coste para la sociedad”.
Lina Khan, presidenta de la agencia estadounidense de protección al consumidor, comparó la elección actual con el advenimiento de las principales plataformas digitales en la década de 2000.
En una columna publicada el miércoles en el New York Times, explica que su modelo económico, basado en los datos de los usuarios, a expensas de su “seguridad”, “no era inevitable”.
>> Leer también: Música e inteligencia artificial: “La idea de una sustitución del artista es una fantasía”
Las autoridades tienen la responsabilidad de que la historia no se repita”, asevera esta jurista reconocida por su hostilidad hacia las grandes empresas tecnológicas.
Al otro lado del Atlántico, Europa espera volver a liderar el camino con una regulación ad hoc sobre IA, como ya hizo con la ley de datos personales.
Con AFP
