Un número creciente de Estados está desarrollando capacidades militares de inteligencia artificial (IA). Entre ellas, el uso de la IA para crear sistemas autónomos. El uso militar de la IA debe ser ético, responsable y mejorar la seguridad internacional. El uso de la IA en los conflictos armados debe ajustarse al derecho internacional humanitario aplicable, incluidos los principios fundamentales. El uso militar de las capacidades de IA debe ser responsable, incluso durante las operaciones militares dentro de una cadena humana responsable de mando y control. El enfoque utilizado por las Fuerzas Armadas debe incluir una cuidadosa consideración de los riesgos y beneficios, y minimizar los sesgos y accidentes involuntarios. Los Estados deben utilizar las medidas adecuadas para garantizar el desarrollo, despliegue y uso responsables de sus capacidades militares de IA. 

Buenas prácticas recomendadas

Según la declaración oficial de EE.UU. Departamento de EstadoLas siguientes declaraciones reflejan las mejores prácticas que los Estados que las suscriben creen que deberían aplicarse en el desarrollo, despliegue y uso de las capacidades militares de IA, incluidas las que permiten los sistemas autónomos: 

  • Los Estados deben tomar medidas eficaces, como revisiones jurídicas, para garantizar que sus capacidades militares de IA sólo se utilizarán de forma coherente con sus respectivas obligaciones en virtud del derecho internacional, en particular el derecho internacional humanitario.
  • Los Estados deben mantener el control humano y la participación en todas las acciones críticas para informar y ejecutar decisiones soberanas relativas al empleo de armas nucleares.
  • Los Estados deben asegurarse de que altos funcionarios supervisen el desarrollo y despliegue de todas las capacidades militares de IA con aplicaciones de consecuencias graves, incluidos, entre otros, los sistemas de armas.
  • Los Estados deberían adoptar, publicar y aplicar principios para el diseño, desarrollo, despliegue y uso responsables de las capacidades de IA por parte de sus organizaciones militares.
  • Los Estados deben garantizar que el personal pertinente actúa con la diligencia adecuada, incluidos los niveles apropiados de juicio humano, en el desarrollo, despliegue y uso de las capacidades militares de IA, incluidos los sistemas de armas que incorporan dichas capacidades.
  • Los Estados deben asegurarse de que se toman medidas deliberadas para minimizar los sesgos involuntarios en las capacidades militares de IA.
  • Los Estados deben garantizar que las capacidades militares de IA se desarrollen con metodologías, fuentes de datos, procedimientos de diseño y documentación auditables.
  • Los Estados deben garantizar que el personal que utilice o apruebe el uso de capacidades militares de IA reciba formación para que comprenda suficientemente las capacidades y limitaciones de dichas capacidades y pueda emitir juicios informados por el contexto sobre su uso.
  • Los Estados deben asegurarse de que las capacidades militares de IA tengan usos explícitos y bien definidos y estén diseñadas y concebidas para cumplir las funciones previstas.
  • Los Estados deben garantizar que la seguridad, protección y eficacia de las capacidades militares de IA se sometan a pruebas y garantías adecuadas y rigurosas dentro de sus usos bien definidos y a lo largo de todo su ciclo de vida.  El autoaprendizaje o la actualización continua de las capacidades de IA militar también deberían someterse a un proceso de supervisión para garantizar que no se han degradado las características de seguridad críticas.
  • Los Estados deben diseñar y concebir las capacidades militares de IA de modo que posean la capacidad de detectar y evitar consecuencias imprevistas y la capacidad de desconectar o desactivar los sistemas desplegados que muestren un comportamiento imprevisto.  Los Estados también deben aplicar otras salvaguardias adecuadas para mitigar los riesgos de fallos graves.  Estas salvaguardias pueden extraerse de las diseñadas para todos los sistemas militares, así como de las de las capacidades de IA no destinadas a uso militar.
  • Los Estados deberían proseguir los debates sobre cómo se desarrollan, despliegan y utilizan de forma responsable las capacidades militares de IA, para promover la aplicación efectiva de estas prácticas y el establecimiento de otras prácticas que los Estados que las suscriben consideren adecuadas. Estos debates deberían considerar cómo aplicar estas prácticas en el contexto de sus exportaciones de capacidades militares de IA.

Requisitos para los Estados de adhesión

  • Aplique estas prácticas cuando desarrolle, despliegue o utilice capacidades militares de IA, incluidas las que permiten sistemas autónomos;
  • Describir públicamente su compromiso con estas prácticas;
  • Apoyar otros esfuerzos adecuados para garantizar que dichas capacidades se utilicen de forma responsable y legal; y
  • Comprometer aún más al resto de la comunidad internacional a promover estas prácticas, incluso en otros foros sobre temas relacionados, y sin perjuicio de los debates en curso sobre temas relacionados en otros foros.