TikTok estaría desarrollando un sistema para identificar ‘deepfakes’ hechos con IA

image

Un nuevo informe de la firma de investigación, The Information sugiere que TikTok está trabajando internamente en una herramienta para permitir que los creadores de contenido revelen si el contenido fue creado usando inteligencia artificial generativa.

Las canciones como la colaboración falsa de Drake/The Weeknd que se han vuelto virales en TikTok utilizan IA generativa para crear música que suena como si estos dos artistas estuvieran mezclados. Actualmente, no está claro cómo se llevará a cabo esta divulgación.

Podría ser tan inofensivo como la divulgación de patrocinio que se hace actualmente, informando a los espectadores que están viendo contenido generado por IA. También no está claro si TikTok requerirá la divulgación en el contenido generado por IA o si es solo una sugerencia para los creadores de contenido como una forma para tratar de evitar la responsabilidad por cualquier contenido generado por IA que no esté marcado como tal.

«En TikTok creemos que la confianza forma la base de nuestra comunidad, y siempre estamos trabajando para avanzar en la transparencia y ayudar a los espectadores a comprender mejor el contenido que ven», dijo un portavoz de TikTok sobre el informe.

El contenido generado por IA está apareciendo en TikTok, YouTube, Spotify y muchas otras plataformas. Midjourney se puede utilizar ahora para crear arte de portada de álbum, mientras que plataformas como Podcastle pueden entrenar un modelo de generación de sonido con solo unos pocos minutos de material. La posibilidad de entrenar «artistas de IA» basados en artistas reales es algo que Grimes está lista para experimentar, pero no todos comparten su perspectiva optimista.