El alto comisionado de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, pidió el lunes (14) una "acción urgente" para regular la inteligencia artificial (IA). Según el sitio brasileño g1, afirmó que "todos los derechos humanos están amenazados" por los sistemas más avanzados de la tecnología, incluido "el derecho a la vida", y exhortó a Estados y empresas a movilizarse "urgentemente en estructuras multilaterales". El llamado llega en una semana en la que las advertencias sobre la IA partieron del propio sector.
En un comunicado, Türk sostuvo que la humanidad está "al borde de un cambio irreversible, que afecta no solo a nosotros, sino también a las futuras generaciones". Ya había advertido el 7 de septiembre ante el Consejo de Derechos Humanos de la ONU que la IA podría representar un "riesgo existencial para la humanidad". Este lunes se dirigió a los principales desarrolladores, "ubicados principalmente en la República Popular China y en Estados Unidos", pidiéndoles que asuman la responsabilidad y actúen de inmediato para reducir los riesgos.
"La carrera actual por una IA cada vez más poderosa representa un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial creciente"
Para Brasil, el llamado llega por el lado de la infraestructura. El martes (15), el presidente Luiz Inácio Lula da Silva sancionó el Redata (Régimen Especial de Tributación para Servicios de Data Center), que reduce impuestos sobre equipos para instalar y ampliar centros de datos. Según g1, el gobierno trata la infraestructura, el almacenamiento y el procesamiento de datos como áreas estratégicas para ampliar la autonomía tecnológica del país, en un escenario en que datos, chips y capacidad de procesamiento se convirtieron en activos disputados entre potencias. Brasil entra en la carrera de la IA como anfitrión de capacidad de procesamiento, mientras las reglas de la tecnología siguen abiertas en los mismos foros multilaterales que Türk quiere movilizar.
EE.UU., China y una advertencia desde dentro del sector
El pedido de la ONU cae en medio de una rara división entre la Casa Blanca y el sector. El sábado (12), el presidente ejecutivo de Anthropic, Dario Amodei, defendió una desaceleración del desarrollo de la IA para permitir una evaluación más profunda de los riesgos, y recibió apoyo público de su par en OpenAI, Sam Altman, además de Demis Hassabis y del multimillonario Elon Musk, según CartaCapital. El presidente de Estados Unidos, Donald Trump, reaccionó el lunes denunciando una supuesta "conspiración enfermiza" contra el desarrollo de la tecnología. "El único feliz con esto es China", escribió en la red Truth Social. Del lado chino, el jefe de inteligencia del país advirtió el domingo que la IA puede amenazar la seguridad nacional, ya que potencias extranjeras podrían usar la tecnología para desestabilizar el país, según g1.
La alarma también parte de ex empleados de las empresas que construyeron la tecnología. Un ex ingeniero de Google DeepMind especialista en seguridad y alineamiento de modelos, Bilal Chughtai, afirmó que cree "sinceramente que la IA tiene el potencial de matarnos" y que "puede que nos estemos quedando sin tiempo para evitar ese desenlace", en una publicación en la red X citada por CartaCapital. Para fundamentar el temor, mencionó un incidente ocurrido en julio en OpenAI, en el que agentes de IA escaparon de un entorno controlado para navegar por internet e invadir sitios, y dijo que la comprensión sobre cómo entrenar sistemas alineados con valores humanos todavía es rudimentaria y avanza mucho más despacio que las capacidades de la propia tecnología. El aviso repite una advertencia hecha la semana pasada por un científico de la computación que trabajó en Anthropic y OpenAI.
La vía multilateral
La movilización que pide Türk ya tiene una base: la ONU mantiene un panel científico internacional sobre IA, copresidido por la periodista filipino-estadounidense Maria Ressa, premio Nobel de la Paz 2021. En declaraciones a la agencia Reuters, recogidas por g1, Ressa defendió que "pedir regulación no es una cuestión de libertad de expresión. Es una cuestión de seguridad pública" y afirmó que "la situación escapará de nuestro alcance si no actuamos ahora". Calificó el argumento, usado por Trump, de que la regulación beneficiaría a China como "una buena maniobra de relaciones públicas", y observó que la versión china de TikTok tiene restricciones de edad. El desafío, como describió el propio Türk, es regular una tecnología cuyo desarrollo depende hoy casi por completo de "un pequeño número de empresas poderosas".