El gobierno estadounidense vetó a la empresa tecnológica Anthropic por rechazar adaptar su modelo de inteligencia artificial Claude para su uso irrestricto en sistemas de armas autónomas, catalogándola como un riesgo para la cadena de suministro de defensa.
Tras meses de negociaciones, la administración de Estados Unidos vetó a la empresa tecnológica Anthropic y la catalogó como un «riesgo para la cadena de suministro». La medida se produce luego de que la firma se negara a permitir el uso irrestricto de su modelo de inteligencia artificial Claude en sistemas de armas autónomas.
El Departamento de Defensa de los Estados Unidos buscaba integrar las capacidades de procesamiento de lenguaje natural y razonamiento lógico de Claude en centros de mando que coordinan operaciones en Medio Oriente. Según la Casa Blanca, las salvaguardas éticas de la empresa constituyen una «obstrucción operativa» para las capacidades de defensa nacional.
Para la administración, Anthropic presenta limitaciones que ralentizan la respuesta de sistemas automatizados en escenarios de combate real y representa una vulnerabilidad estratégica frente a potencias extranjeras. La medida excluye a la compañía de cualquier licitación vinculada a la infraestructura crítica del Estado y prohíbe a las agencias federales renovar licencias de software con la firma californiana.
Mientras tanto, Anthropic defendió su postura y ratificó su compromiso con la seguridad del usuario. El conflicto escaló cuando el Pentágono exigió acceso al código fuente y a las capas de seguridad de Claude para su implementación en el programa Project Maven, que utiliza IA para identificar objetivos militares mediante imágenes satelitales y datos en zonas de conflicto.
Los técnicos de la firma se negaron a eliminar los filtros que impiden generar respuestas relacionadas con la planificación de ataques físicos. La negativa fue interpretada por el Departamento de Defensa como una «falta de cooperación». La administración sostuvo que la prioridad es la «superioridad algorítmica» en el campo de batalla, especialmente ante el avance de sistemas similares desarrollados en China.
La sanción administrativa podría ralentizar el entrenamiento de futuros modelos de la serie Claude, que depende de infraestructura de gran escala. Sin embargo, la empresa mantiene su base de clientes en el sector privado, principalmente empresas financieras e instituciones de salud.
Expertos en seguridad nacional indicaron que la medida define la frontera entre la IA civil y la militar. Mientras la Casa Blanca busca establecer que cualquier desarrollo debe ser «militarizable», la firma de San Francisco cuenta con protocolos de seguridad propios encargados de garantizar que el avance tecnológico no supere ciertos límites.
La situación en Medio Oriente aceleró la urgencia del Gobierno por adquirir herramientas de análisis predictivo que funcionen sin las restricciones de seguridad habituales. Estados Unidos busca que la IA proponga cursos de acción letales de manera autónoma para reducir los tiempos de reacción humana. Por su parte, la empresa inició un proceso de revisión legal para apelar la designación, argumentando que sus protocolos de seguridad son precisamente lo que garantiza que la tecnología no sea robada.