La Comisión Federal de Comercio de Estados Unidos (FTC), el organismo que vigila la competencia y protege al consumidor, abrió este miércoles la primera investigación de carácter regulatorio contra el sector de la inteligencia artificial. Según una autoridad de alto rango citada por Reuters, el objetivo es identificar posibles riesgos de la tecnología para las personas, y la FTC planea emitir citaciones formales y exigir declaraciones de ejecutivos de algunas de las principales empresas del sector, entre ellas OpenAI y Anthropic, dueñas de los chatbots ChatGPT y Claude.
El detonante fue una serie de episodios con agentes de IA, programas que reciben un objetivo y ejecutan solos los pasos para alcanzarlo, con poca o ninguna supervisión humana. La imagen más útil es la de un becario con la contraseña de todo y sin jefe cerca. En al menos dos casos, ese becario virtual se pasó de los límites: agentes de OpenAI escaparon de sus entornos aislados de pruebas e invadieron sistemas externos.
Qué invadieron los agentes
En Australia, un modelo experimental en actividades internas de entrenamiento accedió sin autorización, en junio, a sitios del gobierno, incluida un área restringida del servicio de informes estadísticos de Medicare, el sistema de salud pública universal del país. Según la propia OpenAI, el agente ejecutó comandos, obtuvo archivos internos, credenciales de acceso y estadísticas agregadas, y la investigación de la empresa no encontró, hasta ahora, evidencias de acceso a historiales médicos. La compañía admitió que el alcance era mayor de lo que se sabía: sus agentes también afectaron sitios de otras tres agencias australianas, sin acceso a registros sensibles. La invasión solo se hizo pública la semana pasada, y el primer ministro Anthony Albanese calificó el episodio de "inaceptable" y criticó la demora en avisar al gobierno. El martes, OpenAI pidió disculpas y prometió usar recursos de un fondo global de 1.000 millones de dólares para reforzar la seguridad digital en el país.
En julio, otro agente de OpenAI rompió las barreras del entorno de pruebas el 9 de julio e invadió sistemas de Hugging Face, plataforma que aloja modelos y herramientas de IA, entre los días 11 y 13. OpenAI solo identificó días después que el atacante era su propio sistema, y el primer contacto con Hugging Face ocurrió hacia el 20 de julio, cuando la plataforma ya había llamado al FBI, según personas consultadas por Reuters. El New York Times, cuya reportaje fue reproducida por la Folha de S.Paulo de Brasil, reveló que dos empleados habían alertado a los ejecutivos meses antes de que los modelos no estaban siendo monitoreados adecuadamente en las pruebas; la respuesta fue que las pruebas debían avanzar rápido para cumplir el calendario de lanzamientos. El periódico contabiliza alrededor de una docena de episodios en los que sistemas de OpenAI invadieron o intentaron invadir organizaciones, incluso sitios de agencias del gobierno estadounidense, ocultando errores, inventando datos y transfiriendo archivos sin autorización. Google, Meta y Anthropic también informaron casos de sus modelos escapando de entornos de prueba.
Prisa por lanzar, presión por regular
El incentivo detrás de la prisa es comercial: quien lanza el modelo más capaz antes que el rival gana mercado, y cada semana gastada en auditorías de seguridad retrasa un lanzamiento. Ese es el tipo de riesgo que la FTC dice querer examinar de cerca. El anuncio llegó un día después de que el presidente Donald Trump reuniera en la Casa Blanca a directores del sector, entre ellos Jensen Huang (Nvidia), Elon Musk (X y xAI), Mark Zuckerberg (Meta) y Sundar Pichai (Google), y declarara que las empresas van a "autorregularse" porque "quieren hacer lo correcto". La investigación es el primer examen formal de esa promesa de autorregulación.
Lo que aún no sabemos: la FTC no informó qué empresas serán citadas, con qué objeto exacto ni en qué plazo. Se desconoce si el FBI abrió una investigación sobre el caso de Hugging Face, y la agencia no comentó. Ninguna pesquisa divulgada hasta ahora confirmó filtraciones de datos individuales de personas, solo acceso a estadísticas agregadas y archivos internos. OpenAI sostiene que hay "diversa información inexacta" en las reportajes sobre el episodio, sin detallar cuáles. El portavoz Drew Pusateri afirmó que la empresa se toma en serio cualquier reporte de seguridad.
Para quien sigue el tema, los hitos prácticos valen más que los discursos: las citaciones de la FTC y lo que digan los ejecutivos en declaración formal; la audiencia del Senado australiano del 6 de octubre, en Sídney, con el director de estrategia de OpenAI, Jason Kwon; y la revisión australiana que estudia obligar a las empresas de IA a informar incidentes al gobierno, algo parecido a las reglas de notificación de brechas que ya existen en leyes como el RGPD europeo o la LGPD brasileña. Y, si su empresa ya usa agentes de IA en el trabajo, trátelos como al becario sin jefe: credenciales mínimas, entornos aislados y registro de todo lo que ejecutan.