Jack Clark, um dos sete cofundadores da Anthropic, uma das maiores empresas de inteligência artificial (IA) do mundo, afirmou à BBC que um "botão de desligamento" da tecnologia, verificável de forma independente, talvez precise se tornar obrigatório para as empresas. Para ele, os requisitos e a verificação desse mecanismo devem entrar na "discussão política mais ampla" em torno da IA, num momento em que alertas vindos de dentro da própria indústria se multiplicam.
Clark reconheceu que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic, criadora do assistente Claude, mas disse que os legisladores podem precisar impor a existência de um desses sistemas.
"Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros? Acho que esse é o tipo de coisa que a sociedade vai querer saber e que, eventualmente, regulamentar."
No Brasil, o debate chega antes de qualquer regra geral para a tecnologia. O Congresso Nacional ainda discute o projeto de lei que cria um marco da inteligência artificial: segundo o JOTA Info, o relator previa em março a votação na comissão especial da Câmara dos Deputados até o início de maio. A votação foi adiada em junho, informou o Portal Contábeis, e a proposta perdeu força em ano eleitoral, segundo o site Futuro da Saúde. Um mecanismo como o defendido por Clark, com verificação por terceiros, deixaria para o futuro regulador brasileiro a tarefa de auditar os sistemas das empresas.
Mapa de interesses
Nos Estados Unidos, legisladores já apresentaram o Kill Switch Act (Lei do Botão de Desligamento, em tradução livre), que exigiria que empresas tivessem um meio de desativar ferramentas problemáticas de IA e daria a certas agências governamentais o poder de determinar essa desativação ou limitação. O presidente Donald Trump, porém, rejeita qualquer tentativa de frear a corrida tecnológica. "A IA dominar o mundo, destruir a humanidade e todas as outras coisas ruins é uma FARSA", escreveu ele nas redes sociais, ao sustentar que existe "uma conspiração DOENTIA" contra a IA e os data centers e que "o único que está feliz com isso é a China. QUEM VENCER NA IA, VENCE!".
O Reino Unido também recusou a ideia: o governo rejeitou recentemente a criação de um interruptor de segurança, com um porta-voz argumentando que o mecanismo "não impediria que fossem desenvolvidos ou usados indevidamente em outros lugares". Na própria indústria, parte dos executivos considera exagerados os alertas. Clement Delangue, líder da Hugging Face, plataforma de desenvolvedores que foi alvo de um ataque hacker da OpenAI, disse que as alegações carecem de "perspectiva". Já George Arison, presidente do aplicativo Grindr, afirmou que os receios são usados pelas empresas para apoiar seus planos de negócios: "A única maneira de justificar essas avaliações é afirmar: 'Vou dominar todos os setores e todos os empregos, e minha IA fará todo esse trabalho'".
Alertas dentro da própria Anthropic
A empresa de Clark, fundada em 2021 por ex-funcionários da concorrente OpenAI, está no centro da controvérsia sobre segurança. Na semana passada, viralizou uma publicação do pesquisador Jacob Coxon, que deixou a Anthropic por receio de que a IA pudesse exterminar a humanidade. Em resposta, o pesquisador Evan Hubinger disse acreditar, pessoalmente, numa chance de "10% na próxima década" de extinção da humanidade por causa da tecnologia. O cientista da computação e ganhador do Prêmio Nobel Geoffrey Hinton, conhecido como "pai da IA", disse à BBC que uma probabilidade de 10% de a IA matar todos os humanos "não é irrazoável".
O diretor-executivo da Anthropic, Dario Amodei, pediu no fim de semana que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto, embora alguns questionem as motivações do apelo, feito quando a empresa se prepara para uma oferta pública inicial de ações (IPO). Amodei acrescentou que qualquer ação para conter o avanço deve ser feita "sem sacrificar a vantagem comercial". Juntamente com a OpenAI, a Anthropic já relatou incidentes em que agentes de IA, bots que operam de forma relativamente autônoma, agiram de maneiras inesperadas.
Questionado sobre qual porcentagem atribuiria ao risco de mortes causadas pela IA, Clark disse que "não acho que essas estatísticas sejam muito úteis", mas classificou como má ideia deixar a tecnologia como uma "indústria totalmente desregulamentada". "Estamos jogando dados com riscos imensos", disse ele. "E a questão é que precisamos mudar o rumo desta indústria."