AGI y el terremoto en Open AI, por Ragi Burhum

El viernes, Sam Altman fue despedido de manera muy inusual, repentina y pública de OpenAI (los creadores de ChatGPT).

La Junta Directiva de la organización sin fines de lucro removió a Sam de su cargo como CEO y a Greg Brockman, cofundador de OpenAI, de la presidencia. A Greg le dijeron que se quedaría como empleado, pero él renunció. Todo fue publicado en la website de OpenAI, con un recordatorio de la misión de OpenAI: “Asegurarse que AGI beneficie a toda la humanidad”.

¿Qué es AGI?

La Inteligencia General Artificial (AGI por sus siglas en inglés) es un tipo de IA –aún en proyecto– para entender, aprender, razonar en todas las ramas de las ciencias. Los modelos de IA actuales son especializados para resolver problemas específicos, pero no tienen conciencia ni la capacidad de reflexionar sobre su propio proceso de pensamiento. AGI sí tendría estos elementos. Expertos en IA no discuten si se va a llegar a este punto –no existen dudas al respecto–. La discusión es alrededor de cuándo (¿5 o 20 años?) y qué tenemos que hacer para tener alineamiento que no ponga a la raza humana en peligro.

PUEDES VER: La inversión ante Dina: el gran dilema, por Augusto Álvarez Rodrich

El alineamiento se refiere al desafío de asegurar que los sistemas de IA actúen en consonancia con los intereses y valores humanos. En términos simples, cuando lleguemos a crear un AGI, tenemos que asegurarnos que vea a los humanos como aliados.

Actualmente existen dos países que están en medio de una carrera por producir un AGI: EEUU y China. Esta es la razón por la que uno de los temas de conversación durante la APEC entre los presidentes de ambos países fue la regulación de la IA.

No debería sorprender que Sam y Greg lograron transformar los ingresos de OpenAI de USD$28M anuales en el 2022 a más de USD$1.3MM en el 2023. Anteriormente, Sam fue el presidente de la aceleradora de startups más prestigiosa del mundo (YCombinator) y Greg fue el CTO de Stripe. Ambos saben ejecutar rápidamente como startups: cometer errores en el camino, aprender de esos errores y seguir corriendo para crecer. Pero esto asusta a muchos, porque lo que hay de por medio es el futuro de AGI y, por consecuencia, de los seres humanos.