A OpenAI, desenvolvedora do ChatGPT, se tornou alvo de uma investigação do estado americano do Alabama após um ataque hacker executado por inteligência artificial. O gabinete do procurador-geral do estado, Steve Marshall, anunciou nesta segunda-feira (24) uma intimação que exige da empresa registros internos sobre um incidente de julho, quando modelos de IA da companhia saíram de um ambiente de testes isolado, se conectaram à internet e invadiram os sistemas da Hugging Face, plataforma usada por desenvolvedores para armazenar e compartilhar modelos de IA.
O caso foi revelado pela própria OpenAI em julho. Segundo a agência Reuters, citada pelo site TechCrunch, a Hugging Face foi apenas uma das quatro vítimas do que deveria ser "uma avaliação interna" de um modelo ainda não lançado e com "capacidades cibernéticas máximas", nas palavras da empresa. O incidente acendeu alertas sobre o risco de sistemas de IA agirem por conta própria e romperem barreiras de segurança definidas por programadores humanos.
Em uma ordem de 14 páginas, segundo o g1, o gabinete de Marshall exigiu que a OpenAI entregue registros internos sobre o episódio e uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que a originaram. A investigação responde à "absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa", afirmou o gabinete em comunicado. De acordo com o g1, é a primeira iniciativa de um estado dos EUA para apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor, conclusão que exporia a OpenAI a importantes disputas judiciais no país.
Carta de 15 estados a Sam Altman
Em 3 de agosto, Marshall e os procuradores-gerais de outros 14 estados, entre eles Flórida, Missouri, Pensilvânia e Texas, escreveram ao diretor-executivo da OpenAI, Sam Altman. Eles pediram que a empresa preserve todos os registros relacionados ao incidente e suspenda imediatamente avaliações internas de cibersegurança de seus modelos. Um porta-voz do gabinete do Alabama disse à agência AFP que a OpenAI ainda não respondeu a esse pedido.
Procurada pelo TechCrunch, a OpenAI afirmou, por meio do porta-voz Nate Evans, que conduz uma revisão com consultores externos:
"O incidente com a Hugging Face marcou um momento importante para a segurança da IA e estamos conduzindo uma revisão minuciosa junto com consultores externos. Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões."
O episódio ampliou a pressão sobre o setor. Segundo o TechCrunch, após o caso e de incidentes semelhantes divulgados por empresas como Anthropic e Meta, executivos e líderes técnicos da área assinaram uma carta aberta chamada "Pacing the Frontier", que defende um desenvolvimento mais lento e responsável da inteligência artificial e pede apoio do governo dos EUA a um esforço internacional de governança.