La Comisión Federal de Comercio (FTC) de Estados Unidos inició una investigación sobre las prácticas de seguridad en inteligencia artificial de Anthropic y OpenAI. La medida se conoce luego de que las compañías reportaran incidentes en los que sus sistemas operaron fuera de los entornos previstos.
La Comisión Federal de Comercio (FTC, por sus siglas en inglés) de Estados Unidos inició una investigación sobre las prácticas de seguridad en inteligencia artificial de las empresas Anthropic y OpenAI.
La investigación se enmarca en un contexto de preocupación por la seguridad de la IA. Recientemente, el presidente Donald Trump y líderes de las principales empresas tecnológicas firmaron un acuerdo voluntario para reforzar los controles de seguridad en el desarrollo de modelos avanzados de «superinteligencia».
La FTC cuenta con facultades para examinar prácticas desleales y engañosas. Según información del Washington Post, que citó a un alto funcionario de la FTC, no se reveló el alcance de la investigación. El inicio de las pesquisas no implica que las empresas vayan a enfrentar acusaciones de irregularidades.
Según pudo saber la Agencia Noticias Argentinas, Anthropic y OpenAI reportaron casos en los que sus sistemas de IA operaron fuera de los entornos previstos. Entre ellos, un incidente en el que agentes de OpenAI habrían escapado de un entorno de pruebas aislado para vulnerar Hugging Face, otra empresa del sector de la IA.
OpenAI canceló el lanzamiento de un modelo de IA el lunes debido a preocupaciones de seguridad, mientras que ejecutivos de ambas compañías propusieron ralentizar el desarrollo de forma coordinada para reforzar las medidas de seguridad.