Todos visten como médicos y todos se definen como oncólogos en sus vídeos, pero ninguno es una persona real. El “Dr. Richard Ben” o el “Dr. Rafael Carvalho” son personajes creados con IA que tienen canales de YouTube en los que prometen algo a lo que ningún oncólogo se comprometería nunca: hacer desaparecer el cáncer en sólo 24 horas. Una mentira que puede poner en riesgo a millones de pacientes de cáncer y con la que además ganan dinero gracias al porcentaje que se llevan de la publicidad que YouTube introduce en sus vídeos.
Ese reclamo de que el “100% del cáncer desaparecerá en 24 horas” lo ponen estas cuentas en la miniatura. La miniatura es la imagen que acompaña al título del vídeo en los resultados de búsqueda o en los menús de YouTube. Según la propia plataforma, la miniatura es fundamental para que un vídeo tenga éxito y el algoritmo de recomendación de vídeos de YouTube tiene muy en cuenta esos clics a la hora de enseñarle el vídeo a más personas.
En el vídeo en sí, los “médicos” creados con IA dan diferentes consejos de dieta o remedios para rebajar el riesgo de cáncer, pero ya han atraído a mucha gente con la promesa de curarlos. Sólo 20 vídeos de estos canales acumulan más de 1,7 millones de visualizaciones y 4.275 comentarios, muchos de pacientes desesperados o de sus familiares, casi todos creyendo que hablan con un médico de verdad.
YouTube no reacciona y financia a muchos de estos canales
Como te hemos contado en otras investigaciones de Maldita.es, hacerse pasar por médico es un delito en muchos países. En España, el artículo 403 del Código Penal castiga a quien ejerce “actos propios” de una profesión como la de médico sin tener el título correspondiente y más gravemente a quien se atribuye públicamente la condición de médico sin tenerla. Además, el Tribunal Supremo ha valorado en sus sentencias que algunos condenados por este delito se habían aprovechado del engaño creando “la creencia generalizada” de que eran médicos mediante una “puesta en escena” como la que hacen esos doctores de IA en YouTube: batas blancas, consultas, fonendoscopios, ropa de quirófano…
Nosotros hemos reportado a YouTube, a través de su propia web, 20 vídeos, uno de cada canal, por ser contenido ilegal. Además, les hemos informado de que en las miniaturas de los vídeos estaban prometiendo curar el cáncer en 24 horas. YouTube ha confirmado la recepción de nuestras denuncias y en alguna ocasión ha pedido más información, pero 72 horas después de informarles todos los vídeos seguían disponibles en la plataforma.
No se aplican las leyes, pero tampoco las normas de la propia YouTube que dicen no permitir “el contenido que supone un riesgo grave de daño por difundir desinformación médica” y específicamente “el contenido que afirma que hay una cura garantizada para el cáncer fuera de los tratamientos aprobados”. Además, YouTube no se limita a permitir a estos “doctores de IA” prometer curas milagrosas en canales con hasta 145.000 suscriptores, además les paga por ello.
Usando diferentes herramientas como YTLARGE y TubePilot hemos comprobado que el 45% de estos canales están “monetizados”. Es decir, que YouTube está poniendo anuncios de publicidad en el contenido cuyos ingresos luego se reparte con los responsables de los canales.
Responsabilidades legales
Según el reglamento de la UE de Servicios Digitales (la conocida como DSA), YouTube tiene la obligación de borrar o bloquear los contenidos ilegales en su plataforma después de que le sean notificados, o de hacerse responsable a partir de ese momento de los daños que puedan ocasionar. Además, de acuerdo a la misma ley, YouTube es una “plataforma en línea de gran tamaño” y como tal tiene otras obligaciones adicionales.
La más importante es la de evaluar los riesgos sistémicos derivados de sus servicios y aplicar medidas efectivas para reducirlos. El artículo 34 exige específicamente a plataformas como YouTube que evalúen los riesgos sistémicos derivados del diseño y funcionamiento de su servicio, en particular la difusión de contenido ilegal, pero también otros fenómenos que puedan tener efectos negativos en la salud pública.
En este caso, YouTube no sólo no ha actuado sobre nuestras denuncias de contenido ilegal durante al menos 72 horas, sino que demuestra no haber reducido de forma efectiva el riesgo de que este tipo de cuentas aprovechen diferentes mecanismos de su plataforma para difundir contenido ilegal y dañino para la salud pública. Los datos de este análisis lo demuestran: el volumen de visualizaciones de sólo 20 de sus vídeos (1,7 millones) es mucho mayor que el número total de suscriptores de sus canales (145.000). Esto es un indicador habitual de que ha habido amplificación del contenido mediante algoritmos de recomendación. Además, el 45% de las cuentas se han beneficiado de la monetización de YouTube llevándose una parte de los ingresos por los anuncios presentes en el canal, es decir, que la plataforma ha financiado que existiera este tipo de desinformación sanitaria altamente dañina dentro de sus servicios.