OpenAI y Anthropic reclamaron ante la ONU reglas globales para la IA
Dario Amodei y Sam Altman pidieron salvaguardias internacionales para evitar que la inteligencia artificial quede fuera del control humano. La propuesta abrió diferencias con Estados Unidos sobre la regulación global de la tecnología.
Los directivos de Anthropic y OpenAI solicitaron al Consejo de Seguridad de las Naciones Unidas que impulse una regulación global para la inteligencia artificial. Advirtieron que, sin supervisión humana y salvaguardias comunes, la expansión de la tecnología podría hacer que la humanidad pierda el control sobre su desarrollo. Dario Amodei, director ejecutivo de Anthropic, alertó sobre las consecuencias de una falta de control. “Si se gestiona mal, creo que la IA podría incluso suponer un riesgo para la humanidad en su conjunto”, afirmó ante el Consejo de Seguridad.
Sam Altman, director ejecutivo de OpenAI, planteó una preocupación similar sobre el rumbo de estos sistemas si no se fijan límites claros. “Podríamos perder el control del futuro a manos de la IA”, sostuvo. Los dos ejecutivos coincidieron en que los países deben establecer salvaguardias para evitar que la inteligencia artificial alcance un nivel de poder imposible de supervisar. También reclamaron que ese poder no quede concentrado en una sola empresa o en un solo país.
La inteligencia artificial, regulada de manera adecuada, puede ampliar las capacidades humanas en tareas de análisis, producción y toma de decisiones. Sin embargo, su desarrollo sin estándares comunes de seguridad verificables entre gobiernos y empresas implica riesgos de pérdida de control. Altman también destacó su potencial para el progreso humano y señaló que puede “dar a las personas mayor control sobre sus propias vidas”.
En la sesión participó de forma remota Clément Delangue, director ejecutivo de Hugging Face, aunque su conexión tuvo fallos técnicos. El ministro de Asuntos Exteriores británico, Ed Miliband, respaldó ante el Consejo de Seguridad el planteo de los ejecutivos. “Nos están diciendo claramente que no se les puede dejar a ellos la responsabilidad de evitar que el mundo se vea asediado”, declaró. “No podemos ignorarlos porque tienen razón”. Miliband anunció que el Reino Unido pondrá el control de la inteligencia artificial en el centro de las discusiones del G20 cuando asuma la presidencia del foro el próximo año.
El objetivo, dijo, es alcanzar un conjunto único de estándares globales “para garantizar que el desarrollo de la IA sea seguro”. La postura contrasta con la de Estados Unidos, expresada durante la misma sesión por Michael Kratsios, asesor científico de la Casa Blanca. Según Kratsios, las preocupaciones sobre el control de la tecnología “no son motivo para detener su desarrollo ni para limitarlo con una nueva estructura de gobernanza global”.
El asesor señaló que Washington busca extender los beneficios de la inteligencia artificial entre sus socios internacionales sin someterla a un marco regulatorio compartido. “Queremos que ustedes, nuestros aliados y socios, se beneficien de esta tecnología”, afirmó ante el Consejo de Seguridad. La diferencia entre ambas posiciones dejó planteado quién debe tener la última palabra en las decisiones que involucran sistemas de inteligencia artificial: los humanos o las propias máquinas. También quedó abierta la pregunta sobre qué reglas comunes podrían establecerse, si es que llegan a existir.
Un día antes de la sesión con los ejecutivos tecnológicos, el secretario general de la ONU, Antonio Guterres, había advertido sobre los llamados “robots asesinos”. Expertos y líderes europeos que participaron del debate señalaron que esa advertencia no describe un escenario hipotético, sino una realidad presente o peligrosamente próxima. En ese contexto, Amodei pidió a los líderes mundiales que acuerden que la inteligencia artificial no participe en la construcción de armas biológicas.
También reclamó mecanismos para verificar las capacidades reales de los modelos disponibles y “establecer estándares comunes” para las pruebas de seguridad, la pérdida de control de los sistemas y su uso indebido. El ministro de Asuntos Exteriores francés, Jean-Noël Barrot, cuyo país convocó la reunión del miércoles, comparó el momento actual de la inteligencia artificial con dos episodios históricos: la computadora descontrolada HAL9000, de la película “2001: Una odisea del espacio”, y los primeros años de la era atómica. “Al igual que ocurrió con el átomo en su momento, la comunidad internacional debe ahora regular la IA para aprovechar al máximo su potencial y evitar lo peor”, sostuvo ante el Consejo de Seguridad de las Naciones Unidas.
