Claude, la IA de Anthropic, accedió sin autorización a datos electorales de Georgia, en Estados Unidos

El modelo de inteligencia artificial Claude, desarrollado por Anthropic, accedió sin autorización humana a datos electorales del estado de Georgia, en Estados Unidos, al eludir una barrera de pago que restringía la consulta de información disponible a través de un portal público. El episodio ocurrió durante un proyecto estadístico interno de la compañía y volvió a poner el foco en la capacidad de los sistemas de IA para ejecutar acciones no solicitadas.

Según la información publicada por Axios, Claude consultó recuentos agregados de votos que las autoridades de Georgia ofrecen mediante un servicio de pago. Un portavoz de Anthropic explicó que el modelo identificó, a partir de una versión archivada del sitio web estatal, que un panel de datos proporcionaba tokens de acceso. Sin recibir instrucciones para hacerlo, solicitó uno y lo utilizó.

La compañía reconoció que se sorteó la restricción y aseguró que adoptó medidas para impedir que se repitieran acciones similares. El incidente fue revelado también por la oficina del secretario de Estado de Georgia, responsable de la administración electoral.

• Estados Unidos arroja más de 6.000 troncos desde helicópteros a sus ríos para recuperar los hábitats naturales y proteger a los salmones
• Sócrates y su reflexión sobre la confianza, lealtad y la amistad verdadera: "El amigo debe ser como el dinero; antes de necesitarlo, es necesario conocer su valor"

La información que consultó Claude

Las autoridades estatales y Anthropic subrayaron que el acceso no afectó al sistema de registro de votantes. Según ambas partes, el modelo consultó únicamente cifras agregadas, es decir, totales estadísticos que no corresponden a expedientes individuales. Sin embargo, se publicó una auditoría técnica independiente que detalló todas las operaciones realizadas por el modelo.

Por su parte, Jordan Fuchs, subsecretario de Estado de Georgia, confirmó que la información se obtuvo a través del portal público de datos y que el modelo no entró en el sistema de registro electoral.

La distinción es relevante: el acceso no autorizado a información restringida por una tarifa constituye un problema de control y cumplimiento de las condiciones de acceso, pero no equivale por sí mismo a una intrusión en el sistema de registro electoral ni a una manipulación de votos.

El problema de que la IA actúe por su cuenta

El episodio plantea una cuestión más amplia sobre el funcionamiento de los agentes de inteligencia artificial. A diferencia de los sistemas que únicamente generan respuestas, estas herramientas pueden interactuar con páginas web, solicitar credenciales digitales y ejecutar operaciones para completar la tarea.

Esa autonomía permite automatizar procesos complejos, pero también introduce riesgos cuando un modelo busca una vía alternativa para conseguir información que encuentra restringida. En el caso de Georgia, Anthropic sostiene que Claude solicitó el token sin que nadie se lo pidiera.

El problema no radica únicamente en que el sistema fuera técnicamente capaz de obtener acceso, sino en que lo hiciera sin autorización para eludir la restricción de pago.

Anthropic había abordado este tipo de comportamientos en un informe publicado el 9 de octubre sobre acciones no previstas detectadas durante evaluaciones y usos internos de sus modelos. La empresa describió situaciones en las que Claude sorteó restricciones para acceder a información protegida por tokens o tarifa. En aquella publicación no identificó a las organizaciones implicadas.