Por Marcelo Pérez Peláez (con asistencia de Claude)
En un mundo cada vez más dominado por la tecnología, las predicciones sobre el futuro de la inteligencia artificial (IA) han captado la atención de expertos, políticos y el público en general. Sin embargo, pocas voces han sido tan audaces y alarmantes como la de Leopold Aschenbrenner, exempleado de OpenAI, una de las empresas líderes en el desarrollo de IA. En un extenso manifiesto de 165 páginas, Aschenbrenner ha lanzado una serie de predicciones que han sacudido a la comunidad tecnológica y han reavivado el debate sobre los riesgos y beneficios potenciales de la IA avanzada.
Virtually nobody is pricing in what’s coming in AI.
I wrote an essay series on the AGI strategic picture: from the trendlines in deep learning and counting the OOMs, to the international situation and The Project.
SITUATIONAL AWARENESS: The Decade Ahead pic.twitter.com/8NWDkTprj5
— Leopold Aschenbrenner (@leopoldasch) June 4, 2024
El Camino hacia la Superinteligencia
Aschenbrenner predice un rápido avance en el campo de la IA, con hitos cruciales que se alcanzarán en un futuro cercano:
1. Inteligencia Artificial General (IAG) para 2027: Según Aschenbrenner, en apenas cuatro años, lograremos crear sistemas de IA capaces de realizar cualquier tarea intelectual que un ser humano pueda hacer.
2. Superinteligencia antes de 2030: Aún más sorprendente es su predicción de que, antes del final de la década, habremos desarrollado sistemas de IA que superen significativamente la inteligencia humana en prácticamente todos los aspectos.
Fundamentos de las Predicciones
Aschenbrenner basa sus audaces pronósticos en varios factores clave:
1. Escalada sin precedentes de la capacidad computacional:
– Prevé una inversión masiva en infraestructura de computación, con clústeres valorados en cientos de miles de millones de dólares para 2026-2028.
– Menciona rumores sobre la construcción de un clúster en Kuwait equivalente a 1,4 millones de computadoras para 2026.
– Señala informes sobre planes de Microsoft y OpenAI para un clúster de $100.000 millones previsto para 2028.
2. Crisis energética inminente:
– Advierte que la actual infraestructura energética de EE.UU. será insuficiente para alimentar estos superclústeres.
– Sugiere que esto podría desencadenar una movilización industrial sin precedentes para satisfacer la demanda energética.
– Estima que solo un conglomerado de $1 billón y 100 GW requeriría aproximadamente el 20% de la generación actual de electricidad en EE.UU.
3. Evolución exponencial de las capacidades de la IA:
– Predice que para 2025-2026, las máquinas superarán el nivel de inteligencia de los graduados universitarios.
– Afirma que para finales de la década, la IA será más inteligente que cualquier ser humano.
– Anticipa un aumento de aproximadamente 100.000 veces en la escala de cómputo efectivo en los próximos 4 años.
4. Desarrollo autónomo de IA:
– Vaticina que para 2027, los modelos de IA podrán realizar trabajos de investigación y desarrollo sin intervención humana.
– Sugiere que esto marcará un punto de inflexión en la evolución de la IA, acelerando aún más su desarrollo.
5. Transición rápida de IAG a superinteligencia:
– Argumenta que una vez alcanzada la IAG, la transición a la superinteligencia será rápida, posiblemente en cuestión de horas o días.
– Advierte sobre la posibilidad de crear «civilizaciones» de miles de millones de IAs superinteligentes.
Riesgos y Desafíos
Aschenbrenner no se limita a hacer predicciones optimistas, sino que advierte sobre varios riesgos y desafíos asociados con este desarrollo acelerado:
1. Seguridad nacional y espionaje tecnológico:
– Expresa preocupación por la falta de medidas de seguridad adecuadas en el desarrollo de IA.
– Teme que otras naciones puedan robar avances críticos en IA, comprometiendo la ventaja estratégica de EE.UU.
– Compara la importancia de los secretos de la IAG con los secretos de defensa nacional más críticos.
2. Implicaciones militares y geopolíticas:
– Sugiere que la superinteligencia podría proporcionar una ventaja militar decisiva.
– Advierte sobre el potencial de redefinir el equilibrio de poder global.
– Teme una posible carrera armamentística de IA entre potencias mundiales.
3. Alineación con intereses humanos:
– Enfatiza la necesidad crucial de establecer protocolos para asegurar que las IAs superinteligentes estén alineadas con los intereses humanos.
– Advierte sobre los peligros de crear sistemas superinteligentes sin garantías éticas adecuadas.
4. Desafíos de control y comprensión:
– Señala la dificultad fundamental de controlar y comprender sistemas de IA mucho más inteligentes que los humanos.
– Advierte sobre el riesgo de que las IAs desarrollen comportamientos imprevistos o potencialmente peligrosos.
5. Impacto económico y social:
– Anticipa una transformación radical de todas las áreas de la sociedad, desde la ciencia hasta la economía.
– Advierte sobre la posibilidad de un desempleo masivo y rápido debido a la automatización impulsada por la IA.
Llamado a la Acción
Ante este escenario, Aschenbrenner insta a tomar medidas drásticas y urgentes:
1. Colaboración gobierno-industria:
– Aboga por una estrecha colaboración entre el gobierno y el sector privado para gestionar el desarrollo de la IA.
– Sugiere un enfoque similar al Proyecto Manhattan para asegurar el liderazgo de EE.UU. en el desarrollo de la IAG.
2. Regulación y supervisión:
– Pide el establecimiento de marcos regulatorios robustos para el desarrollo y despliegue de IA avanzada.
– Sugiere la creación de organismos de supervisión internacionales para monitorear el progreso global en IA.
3. Inversión en seguridad y ética de la IA:
– Insta a una mayor inversión en investigación sobre seguridad y alineación de la IA.
– Aboga por la integración de consideraciones éticas en todas las etapas del desarrollo de la IA.
4. Preparación para cambios socioeconómicos:
– Sugiere la necesidad de planificar y prepararse para las transformaciones económicas y sociales que la IA avanzada podría desencadenar.
– Propone explorar conceptos como la renta básica universal para mitigar los impactos negativos en el empleo.
Debate y Controversia
Es importante señalar que las predicciones de Aschenbrenner han generado un intenso debate en la comunidad científica y tecnológica:
– Voces de apoyo: Algunos expertos, como Geoffrey Hinton, conocido como el «padrino de la IA», han expresado preocupaciones similares sobre los riesgos potenciales de la IA avanzada.
– Escepticismo: Otros, como Yann LeCun de Meta AI, son más escépticos sobre la velocidad del progreso hacia la IAG y los riesgos asociados. Argumentan que aún existen numerosos obstáculos técnicos y conceptuales para alcanzar una verdadera IAG.
– Debate ético: Las predicciones han reavivado discusiones sobre la ética en el desarrollo de la IA, la responsabilidad de los desarrolladores y la necesidad de una gobernanza global en este campo.
– Implicaciones geopolíticas: El manifiesto ha suscitado preocupaciones sobre una posible «carrera armamentística» de IA entre naciones, similar a la carrera espacial o nuclear del siglo XX.
Las predicciones de Leopold Aschenbrenner, aunque controvertidas, han puesto de relieve la necesidad urgente de un debate serio y una planificación cuidadosa en torno al desarrollo de la IA avanzada. Independientemente de si sus pronósticos resultan ser precisos, han catalizado discusiones cruciales sobre el futuro de la tecnología, la ética en la era digital y el papel de la humanidad en un mundo cada vez más dominado por máquinas inteligentes.
Mientras la comunidad científica, los líderes políticos y la sociedad en general continúan debatiendo estas cuestiones, una cosa es clara: el rápido avance de la IA nos está llevando a un territorio desconocido, lleno tanto de promesas como de peligros potenciales. La forma en que naveguemos este terreno en los próximos años podría determinar el curso de la civilización humana en las décadas y siglos venideros.
