En un documento de 20 páginas publicado el 26 de noviembre, 18 países acordaron que las empresas de investigación y aplicación de IA deben desarrollar e implementar la tecnología de una manera que proteja a los clientes y al público en general del abuso, según Reuters.

El acuerdo no es vinculante y principalmente hace recomendaciones generales, como monitorear los sistemas de IA para detectar y prevenir abusos, proteger datos y examinar a los proveedores de software.

Sin embargo, Jen Easterly, directora de la Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos, dijo que era importante que tantos países compartieran la opinión de que los sistemas de IA deben priorizar la seguridad.

"Esta es la primera vez que vemos a los países unirse y decir que estas capacidades no se tratan sólo del atractivo de las características, de la rapidez con la que podemos llevarlas al mercado o de cómo podemos competir para reducir costes", dijo Easterly a Reuters. El funcionario dijo que la guía representa “un acuerdo de que lo más importante a garantizar en la etapa de diseño es la seguridad”.

El acuerdo es el último de una serie de iniciativas de los gobiernos de todo el mundo destinadas a dar forma al desarrollo de la IA. El impacto de la IA se siente cada vez más en todas las industrias y en la sociedad en general.

El documento aborda cuestiones sobre cómo proteger los sistemas de IA de los ataques de piratas informáticos e incluye recomendaciones como lanzar nuevos modelos solo después de realizar pruebas de seguridad exhaustivas. Las nuevas directrices no abordan cuestiones espinosas en torno al uso apropiado de la IA o cómo recopilar los datos que alimentan estos modelos.

El auge de la IA ha suscitado muchas preocupaciones, incluidos temores de que pueda utilizarse para perturbar el proceso democrático, promover el fraude o provocar un desempleo masivo, entre otros daños.

Europa está por delante de Estados Unidos en la promulgación de regulaciones relacionadas con la IA. Francia, Alemania e Italia también llegaron recientemente a un acuerdo sobre cómo regular el sector, en relación con los modelos subyacentes de la IA.

La administración Biden ha presionado a los legisladores sobre la regulación de la IA, pero el Congreso, profundamente polarizado, ha logrado pocos avances en la aprobación de regulaciones efectivas.

La Casa Blanca buscó mitigar los riesgos de la IA para los consumidores, los trabajadores y las minorías, al tiempo que reforzaba la seguridad nacional con una nueva orden ejecutiva en octubre.