China propone nuevas reglas para restringir el desarrollo de inteligencia artificial.
Recientemente, más de 1.000 signatarios, incluidos cientos de líderes tecnológicos, científicos y académicos, firmaron una carta abierta pidiendo a todos los laboratorios de IA del mundo que «suspendan de inmediato durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4».
Por otro lado, en China, el gobierno ha elaborado propuestas para tomar en sus propias manos la restricción del desarrollo de la inteligencia artificial generativa en el país.
Las medidas propuestas, publicadas el martes 11 de abril por la Administración del Ciberespacio de China (CAC) y tituladas Medidas Administrativas para los Servicios de Inteligencia Artificial Generativa, se aplicarían a la investigación, el desarrollo y el uso de productos de inteligencia artificial generativa en China.
La CAC señala que las empresas tecnológicas deberán presentar evaluaciones de seguridad al llamado «departamento nacional de información de red» antes de que sus servicios de IA puedan ser utilizados por los consumidores.
Las medidas incluyen tecnología alimentada por IA utilizada para generar texto, imágenes, sonidos, videos, códigos y otros contenidos «basados en algoritmos, modelos y reglas».
Según las reglas, se requerirá que los proveedores de servicios de IA en China garanticen que los usuarios «comprendan científicamente y utilicen racionalmente» el contenido generado por la IA y «no utilicen el contenido generado para dañar la imagen, la reputación y otros derechos e intereses legítimos de otros, y no se dediquen a la exageración comercial o el marketing impropio».
Además, según la CAC, el contenido generado por IA «debe reflejar los valores centrales del socialismo, y no debe contener la subversión del poder del Estado, el derrocamiento del sistema socialista, la incitación a la división del país, el socavamiento de la unidad nacional, la promoción del terrorismo, el extremismo, la promoción del odio étnico y la discriminación étnica, la violencia, la información obscena y pornográfica, la información falsa y el contenido que pueda perturbar el orden económico y social».
La CAC agrega: «Si los usuarios encuentran que el contenido generado no cumple con los requisitos de estas medidas, tienen derecho a informar a la administración del ciberespacio o a las autoridades competentes relevantes».
La llegada de las propuestas preliminares para establecer controles más estrictos en torno al desarrollo y uso público de herramientas de IA generativa en China, se produce mientras los gigantes tecnológicos del mercado demuestran sus propios modelos de IA para competir con los de Open AI.
El martes, Alibaba Group presentó su modelo de lenguaje IA llamado Tongyi Qianwen, que en inglés significa «verdad a partir de mil preguntas». Baidu lanzó su propia versión de Chat GPT, llamada ERNIE, el mes pasado, pero se informa que no ha sido muy impresionante.
Mientras tanto, en la industria musical, la IA generativa y su potencial para infringir el contenido con derechos de autor se está convirtiendo en una preocupación cada vez más urgente para los principales titulares de derechos.
El movimiento de China para controlar el desarrollo de la inteligencia artificial y el informe del esfuerzo de Universal para limitar que la inteligencia artificial sea entrenada con material con derechos de autor llegan en medio de la creciente popularidad entre los consumidores de usar herramientas de inteligencia artificial cada vez más accesibles para generar música al estilo de artistas populares.
