La plataforma YouTube anunció una nueva herramienta gratuita de detección de «deepfakes» dirigida a celebridades y artistas de Hollywood, en un esfuerzo por reforzar la lucha contra la suplantación de identidad mediante inteligencia artificial.
El servicio, propiedad de Google, lanzó el mes pasado esta herramienta de protección de imagen, que permite identificar contenidos en los que un rostro ha sido alterado o generado con tecnologías de IA para imitar a una persona real.
Inicialmente, el proyecto estaba enfocado en funcionarios públicos, candidatos políticos y periodistas. Sin embargo, esta semana la plataforma amplió su acceso a la industria del entretenimiento, incluyendo actores y músicos, a través de agencias de talento y representantes de celebridades.
La herramienta permite «buscar contenidos generados por IA que reproduzcan la apariencia de una persona inscrita, como un ‘deepfake’ de su rostro, y ofrece la posibilidad de localizarlos y solicitar su eliminación».
Además, los usuarios pueden acceder a ella incluso sin contar con un canal en la plataforma.
«El hecho de que YouTube abra sus capacidades de detección de deepfakes a figuras públicas marca un punto de inflexión en la forma en que las plataformas abordan la protección de la identidad en la era de la IA generativa», señaló Alon Yamin, director ejecutivo y cofundador de Copyleaks.
Yamin advirtió que la tecnología capaz de replicar rostro, voz y gestos «ha avanzado más rápido que las salvaguardas», lo que ha abierto una brecha aprovechada por actores malintencionados.
Importantes desafíos
La iniciativa surge en un contexto de proliferación de videos hiperrealistas de celebridades, incluso fallecidas, creados con herramientas de uso general como Sora, desarrollada por OpenAI. Estas aplicaciones han impulsado una oleada de contenidos que recrean figuras como Michael Jackson o Elvis Presley.
En febrero, el director irlandés Ruairí Robinson generó un video altamente realista que mostraba a Brad Pitt enfrentándose a Tom Cruise, lo que generó inquietud en la industria. El clip fue creado con Seedance 2.0, una herramienta del grupo chino ByteDance.
Ante este panorama, Charles Rivkin, presidente de la Motion Picture Association, instó a la compañía a cesar estas prácticas, acusándola de vulnerar derechos de autor.
YouTube aseguró que colabora con las principales agencias de talento para mejorar la detección de contenidos problemáticos y fortalecer la protección de los artistas.
«Su patrimonio»
Para Jason Newman, de la firma Untitled Entertainment, la iniciativa representa un paso positivo.
«YouTube hace lo correcto al ofrecer estas herramientas gratuitamente para que los talentos puedan proteger su patrimonio», afirmó.
«El patrimonio de los artistas es su rostro, su cuerpo, su identidad y su forma de expresarse», añadió en declaraciones a Hollywood Reporter.
El desarrollo responde también a las críticas de figuras públicas que señalaban la complejidad del proceso para denunciar y retirar contenidos falsificados en la plataforma.
Según Yamin, los riesgos son elevados, ya que los deepfakes pueden emplearse para difundir desinformación, manipular mercados o dañar reputaciones.
«Una detección robusta ya no es opcional», advirtió.
«Estos sistemas deben ser altamente precisos, actualizarse constantemente y estar acompañados de normas claras y procesos rápidos de retirada para ser eficaces», concluyó, al señalar que, aunque no eliminarán por completo los deepfakes, sí pueden reducir significativamente su impacto.
