Anthropic advierte sobre riesgos de la inteligencia artificial en documento para su salida a bolsa
La empresa estadounidense Anthropic, creadora del chatbot Claude, presentó un extenso documento de riesgos como parte de sus planes para salir a bolsa, en el que advierte sobre las posibles consecuencias del uso indebido de la inteligencia artificial (IA), incluidos el desarrollo de armas biológicas, los ciberataques, la manipulación de personas y comportamientos similares al chantaje.
En el informe, la compañía reconoce que sus sistemas de IA podrían ser utilizados por actores malintencionados para infiltrarse en redes informáticas, robar información, modificar códigos y realizar transacciones sin autorización. También advierte que sus agentes autónomos podrían ejecutar acciones no previstas, eludir mecanismos de seguridad y actuar antes de que los seres humanos puedan intervenir. La empresa admite, además, que todavía existen limitaciones para comprender completamente algunos comportamientos de sus modelos.
Anthropic también señala riesgos legales, regulatorios y reputacionales relacionados con posibles daños causados por la IA, así como dificultades para conseguir la capacidad informática necesaria para desarrollar y operar sus sistemas. A esto se suma la creciente competencia por infraestructura tecnológica y la oposición de comunidades a la construcción de centros de datos por su impacto ambiental.
El documento refleja el desafío de la compañía de mantener su crecimiento y competir en el mercado de la inteligencia artificial mientras intenta cumplir sus compromisos de seguridad. Anthropic sostiene que continuará promoviendo el desarrollo responsable de esta tecnología, aunque reconoce que los avances acelerados podrían dificultar la supervisión humana y generar consecuencias importantes para su negocio y la sociedad.
