Anthropic bloquea intentos de uso de IA vinculados a posibles armas biológicas
Internacional. La empresa de inteligencia artificial Anthropic informó este jueves que bloqueó varias cuentas que utilizaron sus modelos Claude en actividades que podrían contribuir al desarrollo de armas biológicas.
Según un informe de la compañía, durante un período de 30 días fueron identificadas unas 35 acciones de investigación potencialmente preocupantes, relacionadas con enfermedades infecciosas, toxinas y posibles investigaciones de “ganancia de función”. Algunos usuarios habrían intentado evadir los controles de seguridad y ocultar el propósito de sus investigaciones.
Anthropic aclaró que no pudo determinar si existía una intención de causar daño, ya que las personas involucradas eran científicos en ejercicio. Sin embargo, señaló que el aumento de las capacidades de la IA incrementa tanto sus beneficios para la investigación médica como los riesgos de uso indebido.
La compañía indicó que sus modelos más recientes cuentan con medidas de protección más estrictas y que continuará reforzando estos sistemas para evitar que la inteligencia artificial sea utilizada con fines dañinos.
