Anthropic alerta sobre IA capaz de mejorarse sin ayuda humana
La empresa de inteligencia artificial Anthropic advirtió que los sistemas de IA podrían alcanzar pronto la capacidad de mejorarse a sí mismos sin intervención humana, un avance que podría generar grandes beneficios, pero también riesgos significativos para el control y la seguridad de estas tecnologías.
La alerta fue emitida esta semana por Marina Favaro y Jack Clark, quienes señalaron que la industria debe desarrollar mecanismos de seguridad o un “pedal de freno” que permita detener o ralentizar el avance de la IA en caso de que surjan situaciones fuera de control.
Según Anthropic, la denominada “automejora recursiva” podría acelerar descubrimientos científicos y avances médicos, pero también aumentar el riesgo de que los sistemas evolucionen más rápido de lo que los humanos puedan supervisar. Por ello, la compañía pidió mayor cooperación entre las empresas tecnológicas para establecer normas y controles que garanticen un desarrollo seguro de la inteligencia artificial.
