Ante la pantalla del teléfono, una mujer de 82 años mira a un hombre de bata blanca que habla con seguridad sobre remedios y curas. La voz es firme y el consejo parece razonable. "No me di cuenta de que era inteligencia artificial. Pensé que era un médico de verdad, porque lo que decía parecía plausible", contó a BBC News Brasil. El doctor de la pantalla, sin embargo, no existe: la cara, la voz y la bata fueron fabricadas por inteligencia artificial.
Contra ese tipo de escena decidió actuar el gobierno federal brasileño. La Abogacía General de la Unión (AGU), el órgano que representa al Estado en los tribunales, notificó a YouTube el viernes (4 de septiembre) para que retire o señalice vídeos que usan inteligencia artificial para crear falsos médicos y otros profesionales de salud y difundir información engañosa, como promesas de curas y tratamientos sin comprobación científica. La plataforma tiene 72 horas para dejar indisponibles los contenidos identificados por el Ministerio de Salud o, según el caso, adoptar rótulos y avisos que dejen clara la naturaleza artificial de los personajes. La notificación se basa en un análisis del programa Saúde com Ciência (Salud con Ciencia) del ministerio, que identificó 97 perfiles con ese tipo de contenido publicados entre el 1 de enero y el 10 de julio. La información también fue enviada a la Policía Federal y al Consejo Federal de Medicina (CFM).
Según el Ministerio de Salud, los vídeos presentan avatares de apariencia humana que se presentan como médicos o especialistas, reciben títulos profesionales ficticios y usan un lenguaje alarmista para dar credibilidad a lo que dicen. Parte de los perfiles tiene como blanco especialmente a las personas mayores y usa la supuesta autoridad de los personajes para vender productos, e-books y servicios de pago. La cartera advierte que ese contenido puede llevar a la automedicación, al uso de terapias sin eficacia comprobada y a la demora o interrupción de tratamientos. YouTube también fue instado a revisar los demás canales y vídeos citados en el informe según sus normas sobre desinformación médica y contenido sintético.
Una industria a escala
La notificación llega dos meses después de que BBC News Brasil revelara una industria de canales dedicados a estos personajes. La investigación de julio mapeó 29 canales en portugués dedicados a falsos médicos de IA con más de 70 millones de visualizaciones acumuladas, con datos de la organización sin fines de lucro CTRL+Z, y calculó una producción de unos diez vídeos nuevos por día. En unos 27.000 comentarios, la BBC encontró relatos de personas mayores que dijeron haber seguido las indicaciones, entre ellas personas que reemplazaron medicamentos recetados por alimentos, plantas y remedios caseros. Contactada entonces, Google eliminó algunos de los canales más grandes del relevamiento, con cerca de 41 millones de visualizaciones en conjunto, y afirmó que todo contenido generado por IA debe cumplir directrices que prohíben la desinformación médica capaz de causar daños graves. Otros vídeos siguieron disponibles, y la BBC dice que aún espera respuesta de la empresa sobre la nueva notificación.
Cuando el rostro es el de un médico real
Un segundo reportaje de la BBC mostró que al menos cinco canales usaron, sin autorización, el rostro y la identidad del otorrinolaringólogo Hélio Brasileiro para recomendar supuestos tratamientos naturales y hacer afirmaciones alarmantes sobre la salud. El médico descubrió los clones al ver su propia imagen en el primer reportaje, denunció los vídeos a YouTube y presentó un boletín de ocurrencia en la Policía Civil de São Paulo. El caso fue enviado al 3.º Distrito Policial de Sorocaba, que investiga, entre otras posibles infracciones, falsedad ideológica, falsa identidad, alarma falsa y tentativa de difamación. En un despacho, la delegada Alessandra Silveira afirmó que la difusión de desinformación médica mediante simulación biométrica exigía una actuación inmediata de la policía y podía generar riesgo de envenenamiento o automedicación.
La notificación a YouTube forma parte de una fuerza de tarea que reúne al Ministerio de Salud, la AGU y la Secretaría de Comunicación Social de la Presidencia de la República. El ministerio recomienda buscar orientación sobre salud en fuentes oficiales y confiables y denunciar contenidos que puedan poner a otras personas en riesgo. Para la mujer de 82 años que creyó en el doctor plausible de la pantalla, queda ahora el aviso que debió llegar antes: ese médico nunca existió.