Líderes tecnológicos piden detener desarrollos de Inteligencia Artificial
Más de 1,000 firmantes – incluyendo cientos de líderes tecnológicos, científicos y académicos – han firmado una carta abierta pidiendo a todos los laboratorios de IA del mundo «que detengan inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4».
Agrega: «Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si no se puede implementar una pausa rápidamente, los gobiernos deberían intervenir e instituir una moratoria».
Aquellas personas que han firmado la carta, instigada por el Future Of Life Institute, incluyen a Elon Musk (CEO de SpaceX, Twitter y Tesla), además del cofundador de Apple, Steve Wozniak.
Otros firmantes destacados incluyen a Emad Mostaque, CEO de Stability AI (hogar del popular generador de imágenes de texto Stable Diffusion), Evan Sharp, cofundador de Pinterest, y Chris Larsen, cofundador de Ripple.
Los patrocinadores de la carta incluyen a tres miembros del equipo en el hub experimental de inteligencia artificial de Alphabet/Google, DeepMind: Victoria Krakovna (DeepMind, científica investigadora, cofundadora del Future of Life Institute); Zachary Kenton, (DeepMind, científico investigador senior); y Ramana Kumar, DeepMind, científico investigador.
La participación de Musk es particularmente significativa, considerando que fue cofundador (y ayudó a financiar la creación) de OpenAI Incorporated, que lanzó GPT-4 el 14 de marzo.
OpenAI, con sede en San Francisco, que aceptó un paquete de inversión de USD $10 mil millones de Microsoft en enero de este año, comenzó su vida como una entidad sin fines de lucro, pero se convirtió en una empresa con fines de lucro en 2019. (Musk renunció a su junta directiva en 2018).
Hoy en día, OpenAI llama a GPT-4 (ampliamente conocido como Chat GPT-4), «el último hito en nuestro esfuerzo por escalar el aprendizaje profundo».
Se jacta de que «si bien GPT-4 es menos capaz que los humanos en muchos escenarios del mundo real, muestra un rendimiento a nivel humano en varios benchmarks profesionales y académicos».
En su carta abierta, titulada simplemente «Pausar los experimentos gigantes de AI», Musk y los demás firmantes escriben: «Los sistemas de inteligencia artificial con inteligencia competitiva humana pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestran extensas investigaciones y reconocido por los principales laboratorios de AI».
Continúan: «Los sistemas de AI contemporáneos están comenzando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente puedan superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no elegidos.
«Los sistemas de AI poderosos solo deben ser desarrollados una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables».
En otra parte de la carta, los firmantes pasan a discutir el impacto potencial de la IA generativa en áreas específicas de negocios, política, economía y más.
Escriben: «La investigación y el desarrollo de AI deben centrarse en hacer que los sistemas actuales de vanguardia sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
A principios de este mes, más de 30 grupos representantes y/o asociados con la industria musical lanzaron la Campaña de las Artes Humanas, que tiene como objetivo asegurar que la IA no reemplace o «erosione» la cultura y el arte humanos.
