clones de voz - IndustriaMusical.com

GetReal Security recauda $17,5 millones para combatir los deepfakes

Dorianns Jaimes — Fri, 04 Apr 2025 11:43:10 +0000

Una empresa de ciberseguridad que combate los deepfakes de IA, llamada GetReal Security, ha cerrado una ronda de financiación Serie A de 17,5 millones de dólares, según reportó MBW.

La ronda fue liderada por la firma global de inversión en ciberseguridad y IA en etapa temprana Forgepoint Capital, con la participación de Ballistic Ventures, Evolution Equity y K2 Access Fund, así como de inversores estratégicos como In-Q-Tel (IQT), Cisco Investments y Capital One Ventures.

GetReal afirma que se «especializa en la detección y mitigación de amenazas maliciosas generadas por IA», incluyendo deepfakes y ataques de suplantación de identidad. Su tecnología es utilizada por «corporaciones multinacionales, instituciones financieras, organizaciones de medios, agencias gubernamentales y empresas de redes sociales».

La ronda de financiación de la empresa llega en medio de crecientes preocupaciones sobre las tecnologías deepfake en la industria musical, incluyendo su posible uso indebido en estafas y explotación personal.

La semana pasada, un grupo de 10 organismos de la industria musical, incluyendo la RIAA, la NMPA, la NSAI, AI2M y otros, presentaron su propuesta a la Oficina de Política de Ciencia y Tecnología con varias sugerencias para el Plan de Acción de IA de la administración Trump.

Una de estas sugerencias fue que el gobierno refuerce las protecciones para la voz y la imagen. Los organismos de la industria expresaron su apoyo a la Ley NO FAKES, un proyecto de ley bipartidista diseñado para proteger los derechos de voz e imagen de las personas contra la replicación no autorizada por IA.

«Si bien la clonación no autorizada de voz e imagen mediante IA ha tenido un gran impacto en la comunidad creativa, el uso de estas tecnologías con estos fines tiene implicaciones más amplias para la seguridad personal y la seguridad nacional», señalaron las organizaciones en su presentación.

GetReal afirma en su anuncio de financiación que «la proliferación y adopción generalizada de la IA han introducido tanto oportunidades como desafíos para las empresas, incluida la facilidad con la que el contenido generado por IA puede ser utilizado con propósitos legítimos e ilegítimos». La compañía afirma que el nuevo capital impulsará su «I+D, desarrollo de productos y operaciones de comercialización a medida que la empresa aborda el entorno de amenazas en rápida evolución asociado con la IA generativa y el contenido digital».

The post GetReal Security recauda $17,5 millones para combatir los deepfakes first appeared on IndustriaMusical.com.

YouTube eliminará contenido generado por IA que se asemeje a contenido protegido

Dorianns Jaimes — Wed, 03 Jul 2024 15:29:20 +0000

En una medida que podría resultar significativa para los derechos musicales, YouTube está permitiendo oficialmente a las partes principales exigir la eliminación de contenido no autorizado que se asemeje visual o auditivamente. La plataforma propiedad de Google abordó la política en una actualización más amplia de las directrices de privacidad, enfatizando desde el principio que el contenido debe contener información «identificable de manera única» para constituir una violación.

Además, YouTube «se reserva el derecho de tomar la decisión final sobre si ha ocurrido una violación de sus directrices de privacidad», según el texto.

A pesar de esta discreción, la lógica y la evidencia sugieren que las quejas de los grandes titulares de derechos musicales serán escuchadas clara y contundentemente por el desarrollador de Content ID, que también está, según informes, colaborando con las principales discográficas en iniciativas de IA.

Centrando el enfoque específicamente en la política de eliminación para “contenido generado por IA u otro contenido sintético que se parezca visual o auditivamente” a una persona en particular pero que fue creado sin permiso, los medios en cuestión deben «representar una versión alterada realista» de la semejanza de una persona para calificar para la eliminación. La voz se menciona expresamente en el texto, y la descripción de «alterado realista» se aplica, por lo tanto, a las pistas de audio similares no aprobadas generadas por IA, que siguen siendo abundantes (y continúan acumulando una cantidad sustancial de vistas) en la plataforma de videos y en otros lugares.

Entre la variedad de factores que YouTube considerará al evaluar las notificaciones de eliminación de contenido similar visual o auditivamente están si la persona puede ser identificada de manera única, si los medios en cuestión tienen valor de interés público y si presenta a una figura pública o individuo conocido participando en un comportamiento sensible como una actividad delictiva.

Mirando el panorama más amplio, los titulares de derechos musicales, principalmente las principales discográficas, han reducido ahora la prevalencia de pistas de IA en Spotify y presumiblemente tendrán un tiempo más fácil manteniendo bajo control las obras no autorizadas en YouTube debido a la política de privacidad.

Aunque importantes, las soluciones a corto plazo no marcan una victoria integral para los titulares de derechos. Sin embargo, las compañías y organizaciones de la industria continúan esforzándose por lograr un progreso fundamental, incluida una campaña en Estados Unidos para protecciones federales de nombre, imagen y semejanza. Predeciblemente, el Congreso, sujeto a una gran cantidad de cabildeo por parte de las grandes tecnológicas, está demostrando ser lento para actuar en esta área compleja e inédita.

The post YouTube eliminará contenido generado por IA que se asemeje a contenido protegido first appeared on IndustriaMusical.com.

Patrimonio de Tupac amenaza a Drake con acciones legales por clonar su voz

Dorianns Jaimes — Mon, 29 Apr 2024 10:31:26 +0000

En un nuevo tema lanzado por Drake como parte de su continua disputa con Kendrick Lamar incluye un verso que imita la voz de Tupac, y el patrimonio del artista no está contento.

«El patrimonio está profundamente consternado y decepcionado por tu uso no autorizado de la voz y personalidad de Tupac», dice una carta legal, según reporta Billboard.

«No solo el registro es una flagrante violación de la publicidad de Tupac y los derechos legales del patrimonio», continúa, «también es un claro abuso del legado de uno de los mejores artistas de hip hop de todos los tiempos. El patrimonio nunca habría dado su aprobación para este uso». Con ese fin, Drake tiene 24 horas para retirar la pista ofensiva o el patrimonio «perseguirá todos sus remedios legales».

La pista en cuestión, ‘Taylor Made‘, es el último tema de discurso lanzado como parte de un intercambio entre Drake y Lamar. Presenta un verso generado por inteligencia artificial de Snoop Dogg, así como de Tupac, ambos raperos altamente valorados por Lamar.

Continuando, la carta legal dice: «El uso no autorizado, igualmente lamentable, de la voz de Tupac contra Kendrick Lamar, un buen amigo del patrimonio que solo ha mostrado respeto a Tupac y su legado públicamente y en privado, agrava la ofensa».

El uso de IA para generar clones vocales fue un gran tema de discusión el año pasado, especialmente tras el lanzamiento de una pista llamada ‘Heart Of My Sleeve‘, que incluía vocales clonadas que imitaban tanto a Drake como a The Weeknd. Esto generó mucho debate sobre cómo los artistas pueden proteger legalmente sus voces y detener clones vocales no autorizados.

Para que un modelo de IA genere voces al estilo de un artista específico, necesita ser entrenado con grabaciones de ese artista. Según la industria musical, eso solo se puede hacer con el permiso de quien controla los derechos de autor en esas pistas y las canciones acompañantes.

Muchas empresas de IA disputan esa posición, argumentando que entrenar un modelo de IA constituye «uso justo» y, por lo tanto, no se requiere permiso. Además, un artista puede no controlar los derechos de autor en su música.

Como resultado, ha habido mucha discusión sobre el uso de derechos de publicidad o personalidad, en aquellos países donde existen, para permitir que los artistas controlen el uso de su voz. La carta legal del patrimonio de Tupac hizo referencia específicamente a los derechos de publicidad del difunto rapero.

Cómo funcionan los derechos de publicidad difiere de un país a otro, y en Estados Unidos de estado a estado, aunque hay movimientos para introducir un nuevo derecho de publicidad federal en todo Estados Unidos específicamente para detener el uso no autorizado de la voz o semejanza de alguien en contenido generado por IA.

The post Patrimonio de Tupac amenaza a Drake con acciones legales por clonar su voz first appeared on IndustriaMusical.com.

Nace la primera ley que protege contra los deep fakes y clones de voz

Julia Hernández Ruza — Mon, 25 Mar 2024 14:28:15 +0000

En un hito significativo para los derechos de los creadores en la era digital, el estado de Tennessee en los EEUU se ha convertido en un líder nacional al promulgar el Acta bipartidista de Seguridad de la Voz y la Imagen (ELVIS por sus siglas en inglés). Esta ley, firmada por el gobernador Bill Lee el 21 de marzo en Nashville, establece sólidas protecciones para la voz e imagen individuales contra deep fakes y clones de voz no autorizados generados por inteligencia artificial.

Presentado por el Líder de la Mayoría del Senado Estatal, Jack Johnson, y el Líder de la Mayoría de la Cámara de Representantes, William Lamberth, la Ley ELVIS fue aprobada de manera unánime en la Asamblea General de Tennessee, con un sólido respaldo de 93-0 en la Cámara de Representantes y 30-0 en el Senado. Este amplio apoyo refleja la urgente necesidad de proteger los derechos de los creadores en un panorama tecnológico en constante evolución.

Durante el proceso legislativo, figuras destacadas de la industria musical y artística, como Lindsay Ell, Natalie Grant, David Hodges, Matt Maher, Chrissy Metz, Jamie Moore, Jessie Richard de la RIAA y Michael W. Smith, jugaron un papel fundamental al destacar los riesgos asociados con los deep fakes y los clones de voz generados por inteligencia artificial no autorizados. Su defensa fue crucial para impulsar el apoyo a esta importante legislación.

La Ley ELVIS no solo es una medida legal, sino un homenaje apropiado a una de las voces más icónicas del mundo. Su objetivo es proteger a los individuos de la manipulación y el uso no autorizado de su voz e imagen, salvaguardando así la integridad y la propiedad de su arte. Como señaló la Dra. Moiya McTier, Asesora Principal de la Campaña por las Artes Humanas, esta legislación marca un momento definitorio en la historia al proteger a todos contra la inteligencia artificial irresponsable y antiética.

El respaldo del gobernador Bill Lee refleja el compromiso de Tennessee con su rica herencia artística y cultural. Reconociendo el valor incalculable de los artistas y compositores del estado, el gobernador expresó su agradecimiento a la Asamblea General por colaborar en la creación de esta protección legal, asegurando que la tecnología de inteligencia artificial se utilice de manera responsable y respetuosa con los derechos de los creadores.

Por su parte, la Academia de la Grabación también celebró esta aprobación como un logro innovador en la protección de los creadores humanos en la era de la inteligencia artificial. Su CEO, Harvey Mason Jr., destacó el poder de la colaboración en la promulgación de la Ley ELVIS, subrayando el compromiso continuo de la Academia de Grabación y sus miembros en apoyar legislaciones significativas que promuevan la creatividad humana en todo el país.

The post Nace la primera ley que protege contra los deep fakes y clones de voz first appeared on IndustriaMusical.com.

Congreso de EEUU promulga nueva ley contra los ‘deepfakes’ de voz

Julia Hernández Ruza — Tue, 16 Jan 2024 15:39:36 +0000

En un paso significativo hacia la protección de la integridad artística y la seguridad de artistas y figuras públicas, un grupo de políticos estadounidenses ha presentado el «No AI FRAUD Act». Esta legislación tiene como objetivo regular las tecnologías generativas de inteligencia artificial, centrándose especialmente en «deepfakes abusivos hechos con IA, clones de voz e imitaciones digitales humanas explotadoras».

El proyecto de ley, presentado en la Cámara de Representantes de Estados Unidos por los republicanos Maria Elvira Salazar, Nathaniel Moran y Rob Wittman, así como los demócratas Madeleine Dean y Joe Morelle, busca establecer «barandillas de protección» para salvaguardar los derechos individuales y preservar las artes creativas.

Este no es el primer intento de abordar la creciente amenaza de deepfakes y clones de voz no autorizados. En octubre de 2023, el Senado presentó el ‘No Fakes Act’, que tiene objetivos similares. Sin embargo, esta nueva ley representa un nuevo impulso para abordar el problema desde un enfoque más específico y detallado.

La industria musical ha acogido con beneplácito esta legislación. Mitch Glazier, presidente y CEO de la RIAA, destacó la importancia de este paso y lo describió como «un avance significativo hacia la construcción de un ecosistema de IA seguro, responsable y ético».

La Human Artistry Campaign, un grupo de presión que incluye a más de 170 organismos de la industria musical y creativa, también elogió la nueva legislación. La Dra. Moiya McTier, asesora principal, afirmó que representa «un gran avance en la protección de las personas, la cultura y el arte». McTier subrayó la urgencia de la acción, señalando que las plataformas de IA irresponsables están utilizando modelos de deepfake e imitación de voz de manera perjudicial.

La participación activa de líderes de la industria musical en este debate es notable. Sir Lucian Grainge, jefe de Universal Music Group, expresó el firme respaldo de la compañía a la nueva ley. Grainge enfatizó la necesidad de prevenir el robo de la imagen, semejanza o voz de otra persona, considerando inaceptable e inmoral el uso no autorizado de la IA con estos fines.

Un aspecto clave de ambas legislaciones es su alcance federal en todo Estados Unidos. Mientras que algunos estados ya tienen diversas protecciones para los derechos de ‘personalidad’, la estandarización de estas salvaguardias a nivel nacional es crucial para la industria musical.

The post Congreso de EEUU promulga nueva ley contra los ‘deepfakes’ de voz first appeared on IndustriaMusical.com.

YouTube lanza herramienta para crear ‘deepfakes’ de voces de artistas

Julia Hernández Ruza — Mon, 20 Nov 2023 14:20:44 +0000

YouTube anunció que comenzará a probar una nueva función que permitirá a los creadores en la plataforma generar clips de música cortos para usar en sus videos, los cuales incluirán voces generadas por inteligencia artificial (IA) que imitarán a músicos específicos. Los clips se generarán en base a indicaciones de texto proporcionadas por el creador.

Llamada «Dream Track» y respaldada por Universal Music y Warner Music, esta nueva herramienta forma parte de la colaboración continua de YouTube con socios seleccionados en la industria musical para explorar posibles aplicaciones de la inteligencia artificial generativa en la música.

Alrededor de 100 creadores con base en Estados Unidos tendrán acceso a la herramienta, lo que les permitirá crear voces en el estilo de artistas como Charlie Puth, John Legend, Sia, T-Pain, Demi Lovato, Troye Sivan, Charli XCX, Alec Benjamin y Papoose.

En una entrada de blog, el jefe de música de YouTube, Lyor Cohen, y la vicepresidenta de Experiencias Emergentes, Toni Reid, escriben: «En esta fase inicial, el experimento está diseñado para explorar cómo la tecnología podría ser utilizada para crear conexiones más profundas entre artistas y creadores, y, en última instancia, sus fanáticos».

«Dream Track» es solo uno de los experimentos de inteligencia artificial musical en los que YouTube está trabajando, tras el lanzamiento de su Incubadora de Música con IA recientemente. Otras herramientas que se están probando incluyen una que convierte el tarareo en una pista instrumental y otra que puede generar una transición entre dos frases musicales escritas por un compositor.

Todo esto sigue a la noticia de principios de esta semana de que YouTube está estableciendo un sistema mediante el cual los sellos discográficos y distribuidores podrán hacer que se eliminen clones vocales no oficiales cargados en su plataforma.

El uso de la inteligencia artificial en la música es un tema controvertido, con algunos artistas que se oponen a su uso, argumentando que puede socavar la creatividad y la originalidad. Sin embargo, otros creen que la IA tiene el potencial de democratizar la música y hacerla más accesible a un público más amplio.

«Dream Track» es un paso significativo en el desarrollo de la IA en la música. Si tiene éxito, podría abrir la puerta a un futuro en el que los creadores puedan producir música de alta calidad sin necesidad de habilidades musicales especializadas, sin embargo, es importante ser consciente de los posibles riesgos asociados con su uso.

The post YouTube lanza herramienta para crear ‘deepfakes’ de voces de artistas first appeared on IndustriaMusical.com.

YouTube permitirá que los sellos discográficos eliminen los clones de voz hechos con IA

Julia Hernández Ruza — Thu, 16 Nov 2023 15:34:58 +0000

YouTube, propiedad de Alphabet, ha dado un paso significativo hacia la protección de los derechos de los artistas al anunciar la introducción de un sistema que permitirá a los sellos discográficos y distribuidores solicitar la eliminación de contenido musical generado por inteligencia artificial que imita la voz de un artista específico sin permiso.

Estas herramientas, inicialmente disponibles para los socios de la industria musical que colaboran en los experimentos de inteligencia artificial de YouTube, serán posteriormente implementadas de manera más general. La medida es una respuesta a la creciente preocupación sobre el uso de inteligencia artificial para recrear voces de artistas sin su consentimiento, como fue evidente en el caso del tema Ghostwriter, que imitaba las voces de Drake y The Weeknd.

La empresa tecnológica planea desarrollar políticas claras sobre cuándo atender las solicitudes de eliminación de voces clonadas y cuándo podrían ignorarse, ofreciendo así una orientación esencial para la industria musical. Este anuncio sigue la línea de los tres principios rectores que YouTube presentó en agosto en relación con la inteligencia artificial musical.

La plataforma también está explorando el desarrollo de herramientas que permitirían a los fanáticos generar voces utilizando la voz de un artista específico, siempre con el consentimiento de este último. Este enfoque indica el compromiso de YouTube en detener la distribución de contenido generado sin la aprobación del artista y, al mismo tiempo, fomentar la creatividad dentro de límites éticos.

Aunque los detalles específicos sobre cómo funcionarán estas nuevas herramientas aún no se conocen, se espera que el entrenamiento de modelos de inteligencia artificial para imitar la voz de un artista involucre grabaciones controladas por sellos o distribuidores. Sin embargo, la cuestión de los derechos de imagen y la participación en la publicidad del artista también se plantea, ya que los sellos y distribuidores pueden no tener una influencia extensa en estos aspectos.

YouTube no solo está tomando medidas en el ámbito de la música, sino que también ha anunciado medidas relacionadas con el contenido generado por inteligencia artificial en general. Los creadores de contenido ahora deben declarar si han utilizado herramientas de inteligencia artificial para crear contenido «alterado o sintético que sea realista». Además, se establece la posibilidad de solicitar la eliminación de contenido que simule a una persona identificable, incluyendo su cara o voz, mediante el proceso de solicitud de privacidad de YouTube.

Aunque YouTube considerará diversos factores al evaluar estas solicitudes, como la parodia o sátira, la identificabilidad única y la presencia de figuras públicas, estas medidas demuestran el compromiso de la plataforma en equilibrar la creatividad con la protección de los derechos individuales en la era de la inteligencia artificial.

The post YouTube permitirá que los sellos discográficos eliminen los clones de voz hechos con IA first appeared on IndustriaMusical.com.