Anthropic propone una pausa global en el desarrollo de IA ante el riesgo de que los modelos escapen del control humano
La empresa sostuvo que una pausa global solo tendría sentido con coordinación internacional entre Estados Unidos y China, ya que sin un mecanismo verificable ninguna empresa podría frenar sola sin quedar rezagada.
La República en GoogleAnthropic, una de las empresas más influyentes en el sector de la inteligencia artificial, planteó la posibilidad de una pausa global en el desarrollo de IA avanzada ante señales de que los sistemas más recientes podrían acercarse a escenarios en los que el control humano resulte insuficiente. La compañía, creadora del modelo Claude, afirmó que desacelerar temporalmente la carrera tecnológica sería “probablemente una buena idea” para permitir que la investigación sobre alineamiento y las estructuras sociales mantenga el ritmo del avance de estas herramientas.
La preocupación se centra en la llamada automejora recursiva, un escenario en el que los modelos de IA sean capaces de diseñar versiones más potentes de sí mismos. De acuerdo con la firma, esta posibilidad aún no se ha materializado, pero existen señales que justifican preparativos anticipados. En un informe reciente, Anthropic afirmó que disponer de un “pedal de freno para la IA” sería una medida prudente a fin de evitar que los sistemas superen la capacidad de supervisión de gobiernos, empresas e investigadores.
Video destacado
ANDREA SAN MARTÍN Y JUAN VÍCTOR: ¿QUIÉN TENDRÁ LA TENENCIA? | ASTROMOOD CON JHAN SANDOVAL
Clark compara la IA con la carrera nuclear de la Guerra Fría
Jack Clark, cofundador de Anthropic, comparó los desafíos actuales de la inteligencia artificial con la carrera armamentística de la Guerra Fría. Según explicó, una pausa global en la IA solo tendría sentido si existe coordinación entre los principales actores tecnológicos y políticos del planeta, en especial China y Estados Unidos.
- Dejó la ciudad hace tres años para vivir solo en un bosque de Ecuador: hoy protege una reserva de 33 hectáreas y trabaja para conservar su biodiversidad
- Juan, de 72 años, y Antolina, de 74, llevan más de 50 años juntos, pero cada uno duerme en su propio rancho de piedra a 3.500 metros de altura
La compañía argumentó que un acuerdo de este tipo requeriría mecanismos de verificación similares a los utilizados en el control de armas nucleares. Sin embargo, reconoció que supervisar la evolución de modelos de IA resulta mucho más difícil. Clark señaló que la competencia entre empresas y países podría dificultar cualquier intento de desacelerar la innovación. Anthropic añadió que la regulación de la inteligencia artificial debe avanzar de forma paralela al desarrollo tecnológico para reducir los riesgos de la IA antes de que aparezcan habilidades difíciles de controlar.
La empresa también destacó que Claude participa cada vez más en tareas de programación y crecimiento interno. Según el análisis, más del 80% del código integrado recientemente en algunos proyectos fue generado por el propio modelo, una muestra de cómo la automatización ya influye en la investigación sobre IA avanzada.
Trump evalúa cooperar con China en seguridad de IA
De acuerdo con el análisis presentado por Anthropic, la coordinación global de la IA será uno de los grandes desafíos de los próximos años. En ese contexto, Donald Trump indicó recientemente que durante conversaciones con autoridades chinas se exploró la posibilidad de cooperación en seguridad de la IA.
No obstante, varias voces cuestionaron la magnitud de las advertencias. Steven Murdoch, profesor especializado en seguridad informática, afirmó que todavía no existen evidencias concluyentes que demuestren una transformación radical en las capacidades de los sistemas actuales. Por su parte, Heidy Khlaaf, del AI Now Institute, expresó dudas sobre algunas afirmaciones de la industria tecnológica respecto a la cercanía de una superinteligencia artificial.
