Bill Gates está abogando por un nuevo marco internacional para regular los usos más riesgosos de la IA, afirmando que los gobiernos individuales y las empresas de IA no pueden manejar eficazmente modelos cada vez más sofisticados por sí solos.
Cuando el cofundador de Microsoft viaje a China en noviembre, espera reunirse con el presidente chino Xi Jinping para discutir la colaboración en la seguridad de la IA. Gates dijo a Reuters que si Estados Unidos toma la iniciativa, cree que China podría aceptar limitaciones en el lanzamiento de modelos de IA especialmente peligrosos.
Imponer control gubernamental
La sugerencia de Gates trasciende la regulación tecnológica tradicional. Quiere que los gobiernos vigilen si los modelos sofisticados pueden crear moléculas u ofrecer características que podrían facilitar ataques biológicos. A medida que los sistemas de IA se vuelven más hábiles para identificar y aprovechar fallas de software, la ciberseguridad se convierte en una preocupación significativa.
Esa afirmación se ha visto reforzada por eventos recientes. Este mes, OpenAI anunció que las evaluaciones de un modelo futuro demostraron avances suficientes en ciberseguridad y codificación agéntica que la organización ya no podía excluir capacidades cibernéticas "críticas" bajo su Marco de Preparación.
Introducir supervisión internacional
Gates piensa que los métodos ya empleados para otras tecnologías que plantean riesgos transfronterizos podrían aplicarse a la supervisión internacional. Entre sus conceptos se encuentra un organismo regulador internacional que incorpore aspectos de la seguridad aérea y la inspección nuclear. El objetivo sería monitorear las capacidades de alto riesgo en lugar de limitar severamente el desarrollo regular de la IA.
Pero sus preocupaciones van más allá de la seguridad. Además, Gates ha advertido que la IA podría reemplazar muchos empleos de cuello blanco y cuello azul más rápidamente que los avances tecnológicos anteriores. Redes de seguridad económica más sólidas, impuestos sobre el reemplazo laboral impulsado por la IA y reservar algunos empleos para los humanos son solo algunas de las políticas que ha propuesto.
En un momento en que la inteligencia artificial se ha vuelto estratégicamente significativa, la propuesta requeriría la colaboración entre rivales geopolíticos. China ya ha respaldado abiertamente el desarrollo de un marco global de gobernanza de la IA que incluya pruebas basadas en riesgos, regulaciones de ciberseguridad más estrictas y colaboración internacional contra el uso de IA maliciosa.
Como resultado, Gates ve la coordinación entre Estados Unidos y China como esencial para cualquier sistema exitoso. Las restricciones impuestas por una jurisdicción podrían fácilmente empujar el desarrollo peligroso de la IA a otro lugar si las naciones que crean los modelos más potentes no comparten regulaciones comunes.
