“Todos los derechos humanos están en riesgo”: la ONU alerta por el avance acelerado de la IA y pide acción urgente para regularla

El alto comisionado de la ONU para los derechos humanos, Volker Türk, pidió una acción urgente con el fin de regular la inteligencia artificial ante los riesgos que plantea el desarrollo acelerado de sistemas cada vez más potentes. El funcionario advirtió que todos los derechos humanos están en riesgo, entre ellos los de la vida, la alimentación, la privacidad, la salud y la seguridad.

Türk sostuvo que el mundo se encuentra ante un posible punto de no retorno. “Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, afirmó. Por ello, instó a los Estados y a las empresas a actuar dentro de espacios multilaterales y reclamó reglas que permitan definir los límites y las responsabilidades frente a esta tecnología.

PUEDES VER: China construyó una nueva ciudad en América Latina para reemplazar a otra: tardó menos de 26 meses y más de 1.000 familias fueron trasladadas

La IA agéntica amenaza servicios e infraestructuras críticas

Uno de los principales riesgos señalados por el funcionario corresponde a la llamada IA agéntica, capaz de tomar decisiones con un grado mayor de autonomía. Un fallo en estos sistemas podría paralizar servicios esenciales, afectar las comunicaciones, desestabilizar infraestructuras críticas y causar daños en instituciones democráticas.

El impacto podría alcanzar servicios básicos. Türk advirtió que algunas poblaciones quedarían sin agua, calefacción o servicios financieros. Además, señaló que estas herramientas ya aceleran el ritmo de las guerras, amplían su alcance y debilitan las salvaguardias destinadas a impedir el uso de armas de destrucción masiva.

El alto comisionado cuestionó además la concentración del poder tecnológico. “Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo”, declaró.

PUEDES VER: ¿Qué son los ‘bots’? La nueva arma de manipulación política en América Latina

Expertos tecnológicos piden ralentizar el desarrollo de la IA

La preocupación también alcanzó a referentes de la industria. Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo del desarrollo tras una prueba de un modelo de OpenAI que logró superar controles de Hugging Face. En ese contexto, el investigador Jacob Coxon dejó Anthropic por sus preocupaciones sobre el posible impacto de estos sistemas en la humanidad.

Sam Altman, de OpenAI, y Elon Musk además figuran entre los líderes tecnológicos que han planteado la necesidad de mayor cautela. El debate se centra en cómo establecer controles sin frenar los avances que pueden tener aplicaciones en distintos sectores.

PUEDES VER: Wall Street se desploma ante la incertidumbre por las empresas de IA y el llamado de sus líderes a frenar el desarrollo

EE. UU. y China chocan por el control de la tecnología

La regulación tecnológica también se convirtió en un asunto de seguridad nacional para EE. UU. y China. El ministro de Seguridad del Estado chino, Chen Yixin, afirmó que fuerzas hostiles pueden utilizar herramientas generativas para crear rumores políticos, difundir desinformación y ejecutar operaciones de influencia.

Chen calificó la inteligencia artificial como un campo central de la competencia tecnológica entre las grandes potencias y mencionó riesgos que impactarían en la infraestructura china de información. En Estados Unidos, legisladores demócratas pidieron una sesión urgente para abordar la regulación, pero el presidente de la Cámara, Mike Johnson, rechazó la propuesta.