¿Llegará la superinteligencia artificial a ser una amenaza para la raza humana? ¿Nos volverá obsoletos y perderemos nuestro poder económico e industrial sobre el resto del planeta? O sería mejor preguntarse… ¿En el futuro nos volvemos gilipollas o algo parecido? Investigadores, científicos, ingenieros, empresarios, directivos, artistas, escritores, comunicadores y hasta políticos y líderes religiosos firman esta declaración en vista de la que se nos avecina los próximos años en el campo de la inteligencia artificial:
Declaración sobre la Superinteligencia
Contexto: Las herramientas de inteligencia artificial (IA) innovadoras pueden aportar un bienestar y una prosperidad sin precedentes. Sin embargo, además de esas herramientas, muchas de las principales empresas de IA han declarado tener como objetivo crear una superinteligencia en la próxima década que pueda superar significativamente a todos los seres humanos en prácticamente cualquier tarea cognitiva. Esto ha suscitado preocupaciones que van desde la obsolescencia y la pérdida de poder económico de los seres humanos, a la merma de libertades civiles, dignidad y control, hasta riesgos para la seguridad nacional e incluso la posible extinción de la humanidad. La siguiente declaración busca dar a conocer el creciente número de expertos y figuras públicas que se oponen a esa carrera hacia la superinteligencia.
Pedimos que se prohíba el desarrollo de la superinteligencia, y que dicha prohibición no se levante hasta que exista
1. un amplio consenso científico sobre que se llevará a cabo de forma segura y controlada, y
2. una fuerte aceptación por parte del público.
Como suele suceder, todo esto quedará con alta probabilidad en aguas de borrajas, porque mientras haya alguien empeñado en crear la superinteligencia en su laboratorio poco le importarán los consensos o normas que existan al respecto. (Y además: ¿cómo se define ese consenso? ¿como en la ONU, cuyas resoluciones no valen para nada? ¿Sólo en países desarrollados? ¿Entre mayores de edad? ¿Entre gente «educada»?)
Ponerle puertas al campo, y más al campo futuro, es difícil: ya sucedió con la clonación humana, con la carrera atómica, con ciertas tecnologías y otra infinidad de asuntos. Pero bueno, ahí queda la intención y el planteamiento.
De momento ya suman cientos de grandes firmas además de unas 32.000+ de «población general». Parece ser una iniciativa del Future of Life Institute.
_____
Traducción con la ayuda de: DeepL + GPT-5. Illustración: Grok. Todo irónicamente.
Relacionado:
