Empresas tecnológicas acuerdan adherirse a prácticas éticas alrededor de la IA
A medida que la industria musical continúa estableciendo sus prioridades con respecto a la regulación de la inteligencia artificial, la semana pasada el gobierno de EEUU anunció que había negociado un acuerdo con siete principales empresas de IA. En dicho acuerdo, las empresas tecnológicas se comprometen voluntariamente a adherirse a un conjunto de prácticas diseñadas para mitigar algunas de las preocupaciones que se han planteado sobre la rápida evolución de la IA.
Por supuesto, mientras que la industria musical y otras industrias de derechos de autor tienen un conjunto específico de preocupaciones sobre el entrenamiento y el uso de la IA generativa, existen preocupaciones más generales para la sociedad en general sobre cómo se desarrolla y emplea la IA.
En su mayor parte, son esas preocupaciones más generales las que se abordan en el acuerdo anunciado por el presidente de Estados Unidos, Joe Biden, la semana pasada. Aunque también hay algunos compromisos en torno a la transparencia, que es un área donde la industria musical busca una mayor regulación.
Al anunciar los compromisos asumidos por Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, la administración Biden dijo que estaba alentando a las empresas que están desarrollando tecnologías de IA «a mantener los más altos estándares para asegurar que la innovación no se realice a expensas de los derechos y la seguridad de los estadounidenses».
La declaración del gobierno de Estados Unidos continuó diciendo: «Estos compromisos, que las empresas han decidido asumir de inmediato, subrayan tres principios que deben ser fundamentales para el futuro de la IA: seguridad, protección y confianza, y constituyen un paso crítico hacia el desarrollo de una IA responsable».
Bajo el concepto de ‘seguridad’, hay compromisos relacionados con la prueba de nuevos sistemas de IA y el intercambio de información sobre la gestión del riesgo de la IA. En cuanto a ‘seguridad‘, las empresas se comprometen a invertir en «seguridad cibernética y protecciones contra amenazas internas» y a facilitar «la detección y notificación de terceros sobre vulnerabilidades en sus sistemas de IA».
Es bajo el concepto de ‘confianza‘ donde aparecen los compromisos sobre transparencia. Se nos dice que «las empresas se comprometen a desarrollar mecanismos técnicos sólidos para asegurar que los usuarios sepan cuándo el contenido es generado por IA, como un sistema de marca de agua. Esta acción permite que la creatividad con IA florezca, pero reduce los peligros de fraude y engaño».
Para la industria musical, las principales demandas en relación a la regulación de la IA se refieren a los derechos de autor y la transparencia. En primer lugar, la comunidad musical busca la confirmación de que siempre que las empresas de IA entrenen sus modelos con obras protegidas por derechos de autor existentes, primero deben obtener permiso y negociar un acuerdo con el propietario de los derechos de autor de ese contenido.
En cuanto a la transparencia, además de desear que quede claro cuándo el contenido es generado por IA, lo cual está cubierto por los compromisos de la semana pasada, la industria musical también quiere que las empresas de IA sean transparentes sobre qué datos han utilizado para entrenar sus modelos, para que sea evidente si se han utilizado obras protegidas por derechos de autor.
