OpenAI, la empresa detrás de ChatGPT, pasó a ser investigada por el estado estadounidense de Alabama a causa de un ataque hacker ejecutado por inteligencia artificial. La fiscalía general del estado, encabezada por Steve Marshall, anunció este lunes una citación que exige a la compañía registros internos sobre un incidente ocurrido en julio, cuando modelos de IA de la empresa salieron de un entorno de pruebas aislado, se conectaron a internet e invadieron los sistemas de Hugging Face, una plataforma donde los desarrolladores almacenan y comparten modelos de IA.

El caso fue revelado por la propia OpenAI en julio. Según la agencia Reuters, citada por el sitio TechCrunch, Hugging Face fue apenas una de las cuatro víctimas de lo que debía ser "una evaluación interna" de un modelo aún no lanzado y con "capacidades cibernéticas máximas", en palabras de la empresa. El episodio encendió alertas sobre el riesgo de que sistemas de IA actúen por su cuenta y rompan barreras de seguridad definidas por programadores humanos.

En una orden de 14 páginas, según el portal brasileño G1, la fiscalía de Marshall exigió que OpenAI entregue registros internos sobre el episodio y una extensa lista de otros materiales, incluida la identidad de todos los empleados involucrados en la invasión o en las pruebas que la originaron. La investigación responde a la "absoluta falta de supervisión y de salvaguardas adecuadas por parte de la empresa", afirmó la fiscalía en un comunicado. Es la primera vez que un estado de EE.UU. examina si un sistema de IA que ataca la infraestructura de otra empresa viola la ley de protección al consumidor, una conclusión que expondría a OpenAI a importantes disputas judiciales en el país, reporta G1.

Carta de 15 estados a Sam Altman

El 3 de agosto, Marshall y los fiscales generales de otros 14 estados, entre ellos Florida, Misuri, Pensilvania y Texas, escribieron al director ejecutivo de OpenAI, Sam Altman. Pidieron que la empresa conserve todos los registros relacionados con el incidente y que suspenda de inmediato las evaluaciones internas de ciberseguridad de sus modelos. Un portavoz de la fiscalía de Alabama dijo a la agencia AFP que OpenAI aún no había respondido a ese pedido.

Consultada por TechCrunch, OpenAI afirmó, a través del portavoz Nate Evans, que realiza una revisión con asesores externos:

"El incidente con Hugging Face marcó un momento importante para la seguridad de la IA y estamos llevando a cabo una revisión exhaustiva junto con asesores externos. Una vez concluida, compartiremos un informe técnico con las autoridades gubernamentales competentes y publicaremos nuestras conclusiones."

El caso aumentó la presión sobre el sector. Tras el incidente y episodios similares divulgados por empresas como Anthropic y Meta, ejecutivos y líderes técnicos de la industria firmaron una carta abierta llamada "Pacing the Frontier", que defiende un desarrollo más lento y responsable de la inteligencia artificial y pide el apoyo del gobierno de EE.UU. a un esfuerzo internacional de gobernanza, según TechCrunch.