P(doom), por Ragi Burhum

Últimamente, siento que no existe mejor recordatorio que estoy en la burbuja de Silicon Valley, que cuando alguien se acerca y me pregunta: “¿cuál es tu P(doom)?”. Este año, he notado que, en algún evento de tecnología en San Francisco, no es raro que usen esa oración para romper el hielo y entablar una conversación.

P(doom) se refiere a la probabilidad (un número de 0% a 100%) de que una inteligencia artificial general (AGI) destruya la humanidad de manera irreversible. En otras palabras, la posibilidad de entrar en algún escenario apocalíptico estilo Skynet. No es una medida formal, sino que es una manera de expresar el nivel de preocupación que alguien tiene con la velocidad de cambios que hemos experimentado este año en el área de IA. Esta métrica, que empezó como una broma, hoy tiene muchas implicaciones.

Alguien con un P(doom) alto, digamos P(doom) > 80, es considerado un “doomer” –alguien que va querer reducir la velocidad de desarrollo de IA–, y por lo tanto, apoyar regulación agresiva para lograrlo. Un doomer está seguro de que estamos en camino a nuestra destrucción como especie si no hacemos algo.

Quien tenga un P(doom) bajo, digamos P(doom) < 20, va a ser considerado un “accelerationist”, porque cree que el desarrollo de IA es la clave para curar enfermedades, mejorar la calidad de vida de todos y/o evolucionar a nuestra siguiente etapa como especie humana. Si has notado que ciertas cuentas en redes sociales como X/Twitter han agregado un “e/acc” al costado de su perfil (que significa “effective accelerationist”), es específicamente para comunicar que su P(doom) es muy bajo.

Esta semana, la UE llegó a un consenso después de meses para establecer su primera Ley de Inteligencia Artificial para regular su desarrollo. Las discusiones entre los doomers y los accelerationist fue muy intensa. Mientras tanto, China y EE. UU., los dos países que lideran el desarrollo de estas tecnologías y están más cerca de llegar a crear un AGI, tienen regulación más ligera –casi no existente– sobre este tema. Es realmente en esos dos países donde la regulación (o falta de) va a tener mayor impacto.

Mi P(doom) es 15. ¿Cuál es el tuyo?