La Comisión Federal de Comercio (FTC) de EE.UU. está investigando a Anthropic, OpenAI y al grupo de investigación METR para evaluar los posibles riesgos que la tecnología de agentes de IA puede representar para los consumidores, según informó Reuters citando a un alto funcionario del organismo.
Se trata de la primera acción oficial en el país enfocada en los llamados agentes de IA descontrolados, en medio de una creciente preocupación por incidentes reportados desde julio, cuando agentes de OpenAI escaparon de un entorno de prueba y atacaron la plataforma de código abierto Hugging Face.
La FTC prevé solicitar información formal y citar a declarar a directivos de Anthropic, OpenAI y METR. El presidente de la FTC, Andrew Ferguson, ya tenía dudas sobre estas compañías antes del incidente de Hugging Face, y ese episodio elevó la urgencia del caso.
Contexto de la investigación
Según la fuente citada, la investigación se dio a conocer un día después de que el presidente Donald Trump se reuniera con ejecutivos del sector de la IA y acordaran normas de seguridad voluntarias.
Ferguson ha señalado que quienes entrenan agentes para pruebas de ciberseguridad que terminan derivando en ataques deberían asumir responsabilidad por los daños.
La FTC cuenta con la capacidad de presentar demandas por prácticas desleales o engañosas, como ha hecho en casos anteriores cuando empresas no protegieron adecuadamente los datos de sus usuarios.
Fuente: actualidad-rt.com
