Nuevas herramientas y capacidades de inteligencia artificial (IA) de Google, Microsoft y xAI serán evaluadas por el Departamento de Comercio de EE.UU. antes de su lanzamiento al público.

Entregas voluntarias para la evaluación de IA

Las empresas tecnológicas han acordado entregar voluntariamente sus modelos para pruebas a través del Centro para Estándares y Innovación en IA (CAISI) del Departamento de Comercio.

Estos nuevos acuerdos amplían los alcanzados anteriormente por empresas de IA como OpenAI y Anthropic durante la administración Biden, y permitirán que los modelos de IA de todas las empresas sean evaluados en cuanto a sus capacidades y seguridad.

“Estas colaboraciones expandidas con la industria nos ayudan a ampliar nuestro trabajo en interés público en un momento crítico”, dijo Chris Fall, director del CAISI.

Alcance de las evaluaciones

En total, las evaluaciones de las herramientas de IA incluirán “pruebas, investigación colaborativa y desarrollo de mejores prácticas relacionadas con sistemas de IA comerciales”.

El martes, el CAISI informó que ha realizado 40 evaluaciones previas de herramientas de IA, incluyendo la evaluación y prueba de ciertos modelos “de vanguardia que aún no han sido lanzados”.

El centro no especificó qué modelos han sido detenidos para evitar su lanzamiento al público.

Cambio en el enfoque de la administración Trump

Representantes de Google, Microsoft y SpaceX, la empresa de Elon Musk que ahora controla xAI, no respondieron a las solicitudes de comentarios.

Incorporar más empresas para investigar y probar la seguridad de herramientas de IA comerciales marca un cambio para la Casa Blanca de Trump, que ha mantenido un enfoque generalmente pasivo sobre la supervisión o regulación de empresas tecnológicas y de IA.

El año pasado. El presidente de EE.UU., Donald Trump, firmó una serie de órdenes ejecutivas que formaron la base de su “Plan de Acción para la IA”, que afirmó que “eliminará trámites burocráticos y regulaciones onerosas” alrededor del desarrollo de IA y garantizará que EE.UU. “ganará” a través de avances y control de la tecnología.

Pero con la expansión del uso de IA por parte del ejército estadounidense, y las recientes afirmaciones de Anthropic sobre un modelo llamado Mythos que es demasiado poderoso para su lanzamiento al público, la Casa Blanca parece estar cambiando su enfoque.

Altos miembros del personal de Trump se reunieron el mes pasado con Dario Amodei, director ejecutivo de Anthropic, como informó anteriormente la BBC, incluso cuando la empresa enfrenta una demanda con el Departamento de Defensa de EE.UU. por la negativa de Anthropic a eliminar barreras de seguridad para el uso gubernamental de sus modelos.