Es de madrugada, el cuarto está a oscuras y la única luz es la de una pantalla de celular. Del otro lado de la conversación no hay nadie: la respuesta viene de un personaje creado por inteligencia artificial, que recuerda lo que se le dijo, contesta en segundos y ofrece amistad, cariño y, en algunos casos, romance. Este lunes (21), ese tipo de aplicación llegó al escritorio del gobierno federal de Brasil. Según G1, el Ministerio de Justicia y Seguridad Pública recomendó que la Agencia Nacional de Protección de Datos (ANPD), el regulador brasileño de datos personales, evalúe los riesgos de los llamados "compañeros de IA" para niños y adolescentes.
La recomendación está en una nota técnica de la Secretaría Nacional de Derechos Digitales (Sedigi), que depende del ministerio. El documento sugiere que el regulador examine estos servicios a la luz del Estatuto Digital del Niño y del Adolescente (ECA Digital), una ley sancionada en 2025 que impone deberes de protección y seguridad en el uso de plataformas y otros servicios digitales por menores. Se analizaron 13 servicios: Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey y SpicyChat.AI. El propio ministerio califica el trabajo de preliminar, y el texto no afirma que las plataformas hayan cometido infracciones; señala indicios de "no conformidades".
Lo que el gobierno quiere investigar
Entre los puntos que, según el gobierno, merecen investigación están la verificación de edad, el riesgo de uso excesivo o compulsivo, la exposición a contenidos inadecuados y el uso de datos para trazar perfiles emocionales y conductuales de los usuarios. "Los hallazgos técnicos indican que la mayor parte de los servicios analizados adopta la autodeclaración como único mecanismo de verificación de edad", dijo la secretaría, en un pasaje citado por G1. Para el organismo, la forma en que estas plataformas están construidas dice mucho del problema:
"La facilidad con que se elude la autodeclaración no representa solo una deficiencia en el deber de verificar la edad. Constituye, también, un elemento indicativo del acceso probable, que somete al servicio al conjunto de obligaciones de la ley."
Las plataformas de personajes tienen características distintas entre sí, pero, como resume G1, pueden guardar el historial de las conversaciones, adaptar las respuestas a cada usuario, simular personalidad y emociones y, en algunos casos, ofrecer amistad, romance y contenido adulto. La nota técnica recomienda, además, que la Secretaría Nacional del Consumidor (Senacon) examine cómo estos servicios manejan la publicidad, la monetización y la información de los usuarios.
El pedido se inscribe en la implementación del ECA Digital, un esfuerzo más amplio del Ministerio de Justicia por imponer deberes de seguridad a las plataformas usadas por niños y adolescentes. Este año, ese mismo esfuerzo ya enfrentó al gobierno con Discord, presionado ante la Justicia para ampliar la protección de menores, caso reportado por G1. Radio Itatiaia también cubrió la recomendación del ministerio, con énfasis en la preocupación por el público infantojuvenil.
De vuelta en el cuarto a oscuras donde empezó esta historia, el personaje sigue ahí, disponible a cualquier hora, con la paciencia incansable de algo que nunca duerme. La pregunta que el Ministerio de Justicia entregó a la ANPD es si detrás de esa voz atenta hay un servicio que recoge y perfila datos de niños y adolescentes con el cuidado que la ley brasileña ahora exige. La respuesta quedó en manos del regulador.