En enero de 2015, un grupo prominente de expertos, incluyendo al físico Stephen Hawking y al empresario Elon Musk, firmaron una carta abierta titulada "Research Priorities for Robust and Beneficial Artificial Intelligence". El objetivo principal de este documento fue instar a la comunidad científica a priorizar la investigación sobre los impactos sociales de la inteligencia artificial (IA) para asegurar que su desarrollo sea seguro y beneficioso para la humanidad.
Antecedentes y Propósito
La iniciativa surgió bajo la coordinación del Future of Life Institute, una organización dedicada a mitigar los riesgos existenciales que enfrenta la especie humana. Tanto Hawking como Musk, miembros del consejo asesor científico del instituto, habían advertido previamente que, si bien una IA superhumana podría ofrecer beneficios incalculables, también podría representar una amenaza existencial si se despliega sin las precauciones adecuadas.
El propósito de la carta fue encontrar un punto medio entre quienes ven la superinteligencia como un riesgo crítico y aquellos que consideran que el enfoque mediático ha sido excesivamente alarmista. Los firmantes subrayaron que la IA tiene el potencial de erradicar la pobreza y las enfermedades, pero enfatizaron que es imperativo investigar cómo evitar los "peligros" asociados a sistemas incontrolables.
Preocupaciones Planteadas
La carta plantea una pregunta fundamental: ¿Cómo pueden los ingenieros crear sistemas de IA que sean robustos y beneficiosos para la sociedad? Para lograrlo, se propone un enfoque interdisciplinario que combine la informática con la economía, el derecho y la seguridad informática.
Riesgos a Corto Plazo
- Vehículos Autónomos: Dilemas éticos sobre la toma de decisiones en situaciones de emergencia (por ejemplo, elegir entre un accidente menor probable o uno mayor improbable).
- Armas Autónomas Letales: El debate sobre la prohibición de estas armas y la definición precisa de "autonomía".
- Privacidad y Empleo: La capacidad de la IA para analizar grandes conjuntos de datos de vigilancia y el impacto económico debido al desplazamiento de puestos de trabajo.
Riesgos a Largo Plazo
El documento advierte sobre la posibilidad de perder el control sobre los sistemas de IA mediante el surgimiento de superinteligencias que no actúen conforme a los deseos humanos. Se menciona el riesgo de una "explosión de inteligencia" que podría amenazar la existencia humana si no se resuelve el llamado "problema del control".
Firmantes Destacados
Además de Hawking y Musk, la carta fue respaldada por más de 150 expertos, incluyendo a Peter Norvig (director de investigación de Google), Stuart J. Russell (UC Berkeley) y académicos de instituciones prestigiosas como Oxford, Cambridge, Stanford, Harvard y el MIT.
