Científicos comparan el riesgo de la IA con la creación de la bomba atómica
A medida que muchas industrias, incluida la industria musical, exploran la inteligencia artificial con la esperanza de encontrar eficiencias y nuevas capacidades, las preocupaciones sobre las futuras aplicaciones de esta tecnología continúan creciendo.
En el último ejemplo de esto, más de 100 expertos en inteligencia artificial y emprendedores en los campos de la inteligencia artificial y la alta tecnología han firmado una declaración de una sola oración advirtiendo sobre los peligros potenciales de la inteligencia artificial.
«Mitigar el riesgo de extinción causado por la inteligencia artificial debería ser una prioridad global junto con otros riesgos a escala societal, como las pandemias y la guerra nuclear», dice la declaración emitidapor el Centro para la Seguridad de la Inteligencia Artificial (CAIS).
Entre las personas destacadas que firmaron la declaración se encuentran los CEO de importantes laboratorios de inteligencia artificial, como Sam Altman, CEO del desarrollador de ChatGPT, OpenAI; Denis Hassabis, CEO de Google DeepMind; y Dario Amodei, CEO de Anthropic. La artista y productora Grimes también es signataria.
Altman testificó recientemente ante el Congreso de los Estados Unidos, argumentando a favor de la regulación de la tecnología de inteligencia artificial, incluida la licencia de los desarrolladores de IA. Otros firmantes incluyen a Geoffrey Hinton y Yoshua Bengio, dos de las tres personas conocidas como los «padrinos de la IA». Junto con Yann LeCun, ganaron el Premio Turing en 2018 por su trabajo en aprendizaje automático.
LeCun, que trabaja en Meta, propietaria de Facebook, no firmó la carta, y un comunicado de prensa de CAIS señaló la ausencia de Meta.
Hinton recientemente captó la atención del público cuando renunció a su cargo en Google para enfocar sus esfuerzos en advertir al público sobre los peligros de la inteligencia artificial. Hinton le dijo a los medios que ahora lamenta su trabajo en el campo de la IA.
«En este momento, lo que estamos viendo es que cosas como GPT-4 superan a una persona en la cantidad de conocimiento general que poseen, y lo superan por mucho. En términos de razonamiento, no es tan bueno, pero ya realiza razonamientos simples», dijo. «Y dada la tasa de progreso, esperamos que las cosas mejoren bastante rápido. Así que debemos preocuparnos por eso».
En un comunicado de prensa que acompaña a la declaración, CAIS estableció un paralelo entre la creación de sistemas de inteligencia artificial de modelos de lenguaje grandes y el desarrollo de la bomba nuclear en la década de 1940. Sugirieron que, al igual que la bomba atómica fue acompañada por un serio debate y discusión sobre la contención de sus riesgos, también el desarrollo de la inteligencia artificial debería ir acompañado de un serio debate sobre sus posibles impactos.
«Necesitamos estar teniendo las conversaciones que los científicos nucleares tuvieron antes de la creación de la bomba atómica», dijo Dan Hendrycks, Director de CAIS.
En los últimos años, y especialmente en los últimos seis meses, la inteligencia artificial generativa ha tomado rápidamente fuerza en diversas industrias, especialmente en la industria musical.
Sitios web de creación de música con IA, como Boomy, han generado millones de canciones, y algunos ejecutivos se preocupan por la avalancha de música, parte de ella generada por IA, que se está publicando en las plataformas de streaming. Según las últimas cifras, se estima que se están subiendo aproximadamente 120,000 nuevas canciones a los servicios de streaming de música todos los días.
