El Informe Aschenbrenner sobre la Inteligencia Artificial

La controversia sobre una inteligencia artificial que emule o supere a la inteligencia humana es uno de los grandes temas del momento, muchas veces en su tratamiento colindando con lo especulativo y la ficción. Pero los progresos que se han tenido en el desarrollo de la Inteligencia Artificial Generativa, con productos como ChatGPT, Gemini, LlaMa y otros, ha dejado a muchos en estado de asombro, haciéndonos cuestionar los aspectos filosóficos, económicos y éticos de un desarrollo futuro aún más avanzado de esta tecnología.

A mediados del mes de junio, Leopold Aschenbrenner publicó sus pensamientos sobre la revolución de la IA en un tratado épico de 165 páginas denominado “Situational Awareness: The Decade Ahead” (https://situational-awareness.ai/). Aschenbrenner trabajó en el equipo de “superalineación” de OpenAI, que tenía la tarea de mitigar los riesgos de la IA. Aschenbrenner dijo que OpenAI lo despidió por filtrar información sobre la preparación de la empresa para la inteligencia artificial general. Como sabemos OpenAI es la empresa de mayor empuje en el desarrollo de la IA al momento.

A continuación, los 5 temas relevantes del desarrollo de la AGI tratados en el ensayo de Aschenbrenner:

Progreso hacia la AGI para 2027

Aschenbrenner argumenta que la AGI, definida como una inteligencia artificial con capacidades cognitivas equivalentes a las humanas, es plausible para 2027. Este pronóstico se basa en el ritmo acelerado de avances en computación y eficiencia algorítmica, comparando el salto cualitativo de GPT-2 a GPT-4 con el que se espera para los próximos años.

Explosión de Inteligencia

El informe destaca que el desarrollo de AGI no será el punto final. La siguiente fase será la transición hacia la superinteligencia, donde los sistemas AGI no solo igualarán, sino que superarán significativamente la inteligencia humana. Esta transición podría ser impulsada por AGIs que automatizan la investigación en IA, acelerando el progreso tecnológico a una velocidad sin precedentes. Esto nos recuerda las ideas de Raymond Kurzweil sobre la singularidad tecnológica. El potencial y los peligros de la superinteligencia son enormes, incluyendo la posibilidad de automatización total de sectores económicos y la creación de nuevas capacidades tecnológicas.

Desafíos de Seguridad y Éticos

Uno de los mayores retos destacados por Aschenbrenner es la seguridad en los laboratorios de IA y la alineación de las AGI. La protección contra actores estatales y la necesidad de asegurar que las AGI se comporten de manera coherente con los mejores intereses humanos es una preocupación ética crítica. La falta de seguridad adecuada podría llevar a escenarios donde secretos tecnológicos cruciales caigan en manos indebidas, incrementando el riesgo de conflictos internacionales.

Movilización Industrial y Económica

El informe también explora la gigantesca movilización industrial necesaria para soportar la expansión de la IA. Con la expectativa de que las inversiones en centros de datos y clusters de GPU alcancen los trillones de dólares, se prevé una demanda y aumento significativo en la producción de electricidad en Estados Unidos. Esta expansión industrial no solo soportará la infraestructura necesaria para la IA, sino que también representará un cambio económico masivo, comparado con las movilizaciones industriales vistas en tiempos de guerra.

Implicaciones Geopolíticas

El informe también aborda las implicaciones geopolíticas e ideológicas de la carrera hacia la superinteligencia, destacando la competencia con China. La capacidad de desarrollar AGI y superinteligencia ofrecerá una ventaja económica y militar decisiva. Mantener la preeminencia sobre las potencias autoritarias será crucial para la supervivencia del “mundo libre”. China ha logrado un avance significativo en la IA en los últimos cinco años, lo que la coloca como la segunda potencia tecnológica después de USA.

Una nota importante del informe

Aschenbrenner, en la introducción de su informe, pone una nota alta de llamado a la reflexión que se expresa en el siguiente párrafo tomado textualmente:

“Dentro de poco, el mundo despertará. Pero ahora mismo, tal vez haya unos cientos de personas, la mayoría de ellas en San Francisco y en los laboratorios de IA, que tienen conciencia situacional. A través de las fuerzas peculiares del destino, me encontré entre ellos. Hace unos años, estas personas fueron ridiculizadas como locas, pero confiaron en las líneas de tendencia, que les permitieron predecir correctamente los avances de la IA de los últimos años. Queda por ver si estas personas también tienen razón sobre los próximos años. Pero se trata de personas muy inteligentes (las personas más inteligentes que he conocido jamás) y son ellas las que construyen esta tecnología. Quizás sean una extraña nota a pie de página en la historia, o quizás pasen a la historia como Szilard, Oppenheimer y Teller. Si ven el futuro, aunque sea de forma bastante correcta, nos espera un viaje salvaje”.

Coordinador Maestría en Ciencia de Datos de INTEC