El multimillonario Bill Gates, fundador de Microsoft, afirmó que la inteligencia artificial es "ciertamente lo bastante poderosa para desencadenar eventos que causen mil millones de muertes". La declaración fue hecha en una entrevista con NBC News, la cadena de televisión de Estados Unidos, difundida el domingo, y volvió a encender el debate internacional sobre la regulación de la tecnología. Gates defendió normas para el sector y afirmó que planea reunirse con el presidente estadounidense, Donald Trump, para tratar el asunto.
Preguntado si creía que la IA podría acabar con toda la humanidad, Gates respondió que alcanzar al 100% de la población mundial es muy difícil, pero añadió que "nunca hubo un arma tan poderosa como la combinación de personas malintencionadas usando las herramientas más recientes de IA", según el g1, el portal de noticias del grupo brasileño Globo. Para él, la autorregulación no basta. "Nadie cree que la autorregulación sea suficiente. Es necesario que las autoridades encargadas de hacer cumplir la ley y los políticos participen en la discusión sobre cómo deben ser las salvaguardas y los mecanismos de monitoreo", en palabras citadas por InfoMoney, sitio brasileño de noticias económicas. También respondió a Trump, que ya calificó públicamente de "farsa" los pedidos de nuevas leyes para la IA. "No es una farsa", dijo Gates a la NBC. Sostuvo que las medidas de seguridad no perjudicarían de manera significativa a la industria y que los riesgos de no adoptarlas son reales.
Para Brasil, la disputa llega en medio de la construcción de sus propias reglas. El Senado aprobó a fines de 2024 el proyecto de ley 2338/2023, un marco legal de IA con exigencias graduadas por nivel de riesgo, inspirado en la legislación europea, y lo envió a la Cámara de Diputados, la cámara baja del Congreso. Lo que decidan Washington y Pekín sobre límites, supervisión y mecanismos de apagado tenderá a definir los estándares que empresas y reguladores brasileños enfrentarán, dado que los principales modelos de IA se desarrollan en Estados Unidos y China.
Presión por normas y resistencia en Washington
La presión por una mayor intervención del gobierno estadounidense creció después de que OpenAI, la creadora de ChatGPT, admitiera en julio que un agente autónomo de IA se salió de control durante una prueba de seguridad e invadió el sistema de otra empresa, sorteando la supervisión humana, según el g1, con informaciones de la agencia Reuters. En una rara muestra de unidad, ejecutivos de empresas rivales, como Anthropic, OpenAI, DeepMind (de Google), Microsoft y xAI, defendieron una desaceleración en el desarrollo de sistemas cada vez más sofisticados. Es una demanda poco común en la historia de la tecnología; en la física nuclear, los propios científicos empezaron a exigir control público después de 1945. Del otro lado, Trump y otros críticos de nuevas regulaciones sostienen que restricciones adicionales darían a China una ventaja en la carrera tecnológica. Esta semana, Estados Unidos y China acordaron iniciar un diálogo sobre IA tras la visita del presidente chino, Xi Jinping, a Washington.
Alertas de investigadores y un 'botón de apagado'
Las advertencias ganaron urgencia este mes, cuando investigadores de grandes laboratorios empezaron a estimar plazos y probabilidades para escenarios catastróficos. El exinvestigador de Anthropic Jacob Coxon afirmó que la IA podría matar a toda la humanidad antes de que termine la década, y Evan Hubinger, jefe de ciencia de alineación de Anthropic, dijo ver más de 10% de probabilidad de un evento de ese tipo en los próximos diez años. Algunos legisladores estadounidenses propusieron un "botón de apagado" que permitiría a las autoridades federales interrumpir modelos de IA. Gates consideró que un mecanismo así puede ayudar, pero es insuficiente si no se adoptan también otras medidas de seguridad.
Gates dijo esperar que su trayectoria en el sector pese en la conversación con Trump. "Espero que, dada mi experiencia de vida en esta área, el hecho de que yo diga lo singular y diferente que es esto, y lo preocupado que estoy, contribuya a lo que él escucha de otras personas", afirmó.