Anthropic asegura que su IA frustró varios intentos de crear armas biológicas: así detectó y bloqueó los usos peligrosos
La compañía tecnológica identificó y bloqueó diversos intentos de utilizar su tecnología para estudios potencialmente relacionados con patógenos peligrosos.
La inteligencia artificial vuelve a estar en el centro del debate por sus posibles usos peligrosos. Anthropic aseguró que durante este año detectó y bloqueó varios intentos de utilizar sus modelos para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La compañía estadounidense reconoció que no pudo determinar si todos los casos tenían una intención maliciosa. Sin embargo, decidió intervenir ante el riesgo de que sus sistemas pudieran facilitar investigaciones relacionadas con patógenos peligrosos.
Video destacado
FASES DE LA LUNA: ¿QUÉ HACER EN CADA UNA PARA APROVECHAR SU ENERGÍA? | ASTROMOOD CON JHAN SANDOVAL
Anthropic detectó investigaciones que podían tener un uso peligroso
La empresa explicó que sus sistemas de seguridad permitieron identificar actividades que podían representar un riesgo. Ante estos casos, optó por bloquear el uso de sus modelos, aunque no existieran pruebas definitivas de que los usuarios pretendieran fabricar armas biológicas.
- Ingenieros peruanos crean plataforma con IA que convierte PDFs en juegos, videos y actividades educativas
- Perú cayó en prueba PISA 2025: expertos alertan sobre el impacto del uso de IA en las aulas
Anthropic también hizo una precisión importante: que un modelo de IA demuestre capacidad para ayudar en una determinada investigación no significa que esa capacidad vaya a utilizarse realmente para desarrollar armas. Por ello, la compañía diferencia entre la capacidad técnica y el uso malicioso en el mundo real.
El doble uso de la IA genera nuevas preocupaciones
El caso refleja uno de los principales desafíos de la inteligencia artificial: una herramienta creada para apoyar investigaciones científicas puede terminar siendo utilizada con objetivos completamente distintos. Los conocimientos que permiten avanzar en biología también podrían emplearse en actividades potencialmente peligrosas.
Anthropic aseguró que ha desarrollado mecanismos para detectar y bloquear usos de riesgo en sus modelos. La compañía también informó sobre otros casos de uso indebido de Claude detectados durante los últimos ocho meses en países como China, Rusia y Yemen, en un contexto de creciente preocupación por la autonomía y el uso dual de la IA.
Lo más visto
Sócrates y su reflexión sobre la confianza, lealtad y la amistad verdadera: "El amigo debe ser como el dinero; antes de necesitarlo, es necesario conocer su valor"
Egipto reabre la tumba de 3.400 años de antigüedad de uno de sus faraones más grandes a 14 metros bajo tierra
Estados Unidos arroja más de 6.000 troncos desde helicópteros a sus ríos para recuperar los hábitats naturales y proteger a los salmones
Lula da Silva es reelecto presidente de Brasil tras una remontada histórica frente a Flávio Bolsonaro
Cineplanet
Cineplanet: 2 Entradas 2D + 2 Bebidas Grandes + Pop corn gigante. Lunes a Domingo
PRECIO
S/ 47.90
Perulandia
Perulandia Full Day + Piscinas + S/. 35 de Vale de Consumo + Perusaurus y más.
PRECIO
S/ 49.90
Vita Lima Spa
Terapia antiestrés + reflexología + hidratación de manos y pies y más.
PRECIO
S/ 44.90
Flying Squirrel Parque de Inflables
Flying Squirrel: Full Day, 60 o 120 minutos según elijas en sus 3 locales
PRECIO
S/ 21.90
VACILANDIA PARK
Vacilandia Park: Full Day para niños, adultos o pack familiar, incluye alimentación.
PRECIO
S/ 19.90