Jack Clark, uno de los siete cofundadores de Anthropic, una de las mayores empresas de inteligencia artificial (IA) del mundo, afirmó a la BBC que un "botón de apagado" de la tecnología, verificable de forma independiente, quizás deba ser obligatorio para las empresas. A su juicio, los requisitos y la verificación de ese mecanismo deben entrar en la "discusión política más amplia" sobre la IA, en un momento en que se multiplican las advertencias desde dentro de la propia industria.
Clark reconoció que "la mayoría de los laboratorios tiene formas distintas de apagar los equipos", incluida Anthropic, creadora del asistente Claude, pero dijo que los legisladores quizás necesiten imponer la existencia de uno de esos sistemas.
"¿Deberíamos exigir que las empresas tuvieran un botón de apagado automático? ¿Puede ese botón de apagado automático ser verificado por terceros? Creo que es el tipo de cosa que la sociedad querrá saber y que, eventualmente, regular."
En Brasil, el debate llega antes de que el país tenga una ley general para la tecnología. El Congreso Nacional aún discute el proyecto de ley que crea un marco para la inteligencia artificial: según JOTA Info, el relator preveía en marzo la votación en la comisión especial de la Cámara de Diputados, la cámara baja del Congreso, para principios de mayo. La votación fue aplazada en junio, informó Portal Contábeis, y la propuesta perdió fuerza en año electoral, según el sitio Futuro da Saúde. Un botón de apagado obligatorio y verificable, como el que defiende Clark, dejaría al futuro regulador brasileño la tarea de auditar los sistemas de las empresas.
Mapa de intereses
En Estados Unidos, legisladores ya presentaron el Kill Switch Act (Ley del Botón de Apagado, en traducción libre), que exigiría que las empresas tuvieran un medio de desactivar herramientas problemáticas de IA y daría a ciertas agencias gubernamentales el poder de ordenar esa desactivación o limitación. El presidente Donald Trump, sin embargo, rechaza cualquier intento de frenar la carrera tecnológica. "La IA dominar el mundo, destruir la humanidad y todas las demás cosas malas es una FARSA", escribió en redes sociales, al sostener que existe "una conspiración ENFERMA" contra la IA y los centros de datos y que "el único que está contento con eso es China. ¡QUIEN GANE EN IA, GANA!".
El Reino Unido también rechazó la idea: el gobierno descartó recientemente crear un interruptor de seguridad, con un portavoz argumentando que el mecanismo "no impediría que fueran desarrollados o usados indebidamente en otros lugares". Dentro de la propia industria, parte de los ejecutivos considera exageradas las alertas. Clement Delangue, líder de Hugging Face, plataforma de desarrolladores que fue blanco de un ataque informático de OpenAI, dijo que tales afirmaciones carecen de "perspectiva". George Arision, presidente de la aplicación Grindr, afirmó que los temores son usados por las empresas para respaldar sus planes de negocio: "La única manera de justificar esas valoraciones es decir: 'Voy a dominar todos los sectores y todos los empleos, y mi IA hará todo ese trabajo'".
Alertas dentro de la propia Anthropic
La empresa de Clark, fundada en 2021 por exempleados de la competidora OpenAI, está en el centro de la polémica sobre seguridad. La semana pasada se viralizó una publicación del investigador Jacob Coxon, que dejó Anthropic por temor a que la IA pudiera exterminar a la humanidad. En respuesta, el investigador Evan Hubinger dijo creer, personalmente, en una probabilidad del "10% en la próxima década" de extinción de la humanidad por causa de la tecnología. El informático y premio Nobel Geoffrey Hinton, conocido como el "padre de la IA", dijo a la BBC que una probabilidad del 10% de que la IA mate a todos los humanos "no es irracional".
El director ejecutivo de Anthropic, Dario Amodei, pidió el fin de semana que el ritmo de desarrollo de la IA se desacelere y se monitoree más de cerca, aunque algunos cuestionan las motivaciones del llamado, hecho mientras la empresa se prepara para una oferta pública inicial de acciones. Amodei añadió que cualquier acción para contener el avance debe hacerse "sin sacrificar la ventaja comercial". Junto con OpenAI, Anthropic ya reportó incidentes en que agentes de IA, bots que operan con relativa autonomía, actuaron de formas inesperadas.
Preguntado sobre qué porcentaje asignaría al riesgo de muertes causadas por la IA, Clark dijo que "no cree que esas estadísticas sean muy útiles", pero calificó como mala idea dejar la tecnología como una "industria totalmente desregulada". "Estamos jugando a los dados con riesgos inmensos", dijo. "Y la cuestión es que necesitamos cambiar el rumbo de esta industria."