51³Ô¹Ï

?

La technologie peut cr¨¦er des surprises sur le champ de bataille. Elle peut d¨¦router non seulement les combattants, mais aussi les responsables politiques. Les difficult¨¦s ¨¤ suivre le rythme de l¡¯¨¦volution technologique sont m¨ºme accrues lorsque les politiques sont con?ues dans des forums multilat¨¦raux?qui, par leur nature m¨ºme, n¨¦cessitent une grande patience pour trouver un terrain d¡¯entente et un consensus.

Ces derni¨¨res ann¨¦es, les domaines technologiques ont commenc¨¦ ¨¤ converger et de nouveaux sc¨¦narios d¡¯utilisation ont ¨¦t¨¦ cr¨¦¨¦s ¨¤ la fois dans les domaines civil et militaire. Le domaine de l¡¯intelligence artificielle (IA), jusqu¡¯alors ¨¦sot¨¦rique, est un exemple parfait. La d¨¦mocratisation de la puissance informatique, les donn¨¦es massives g¨¦n¨¦r¨¦es par des appareils connect¨¦s ¨¤ Internet et la baisse des co?ts de stockage et de manipulation des donn¨¦es ont permis de faire sortir l¡¯IA des conf¨¦rences obscures pour faire la une des journaux et alimenter les discours des dirigeants. Combin¨¦es, les techniques, comme l¡¯apprentissage automatique, les grands ensembles de donn¨¦es et la puissance informatique utilis¨¦e pour ??entra?ner?? les algorithmes de l¡¯IA, ont permis aux machines d¡¯effectuer des t?ches jusqu¡¯ici r¨¦serv¨¦es au cerveau humain. La d¨¦faite de Lee Sedol, 18 fois champion du monde de Go, contre l¡¯algorithme d¡¯IA DeepMind en mars 2016, est un symbole puissant de cette transformation dans l¡¯¨¦quilibre entre l¡¯homme et la machine. Il ¨¦tait donc normal que ces avanc¨¦es en mati¨¨re d¡¯autonomie intelligente des syst¨¨mes num¨¦riques attireraient l¡¯attention des gouvernements, des scientifiques et de la soci¨¦t¨¦ civile concern¨¦s par le d¨¦ploiement et l¡¯utilisation possibles des armes l¨¦tales autonomes. Il fallait une instance pour d¨¦battre de ces questions et commencer ¨¤ ¨¦laborer une vision commune concernant les solutions possibles.

Pendant la guerre froide, la ma?trise des armes classiques a souvent occup¨¦ un r?le secondaire par rapport aux armes strat¨¦giques. Ce d¨¦s¨¦quilibre a persist¨¦, m¨ºme si les tendances en mati¨¨re de technologie et de s¨¦curit¨¦ ont commenc¨¦ ¨¤ changer ¨¤ la fin des ann¨¦es 1990. Le syst¨¨me multilat¨¦ral mis en place pour traiter des armes classiques perfectionn¨¦es en dehors des r¨¦gimes de contr?le des exportations ad hoc, comme l¡¯Arrangement de Wassenaar de 1996, est rest¨¦ relativement peu d¨¦velopp¨¦. Heureusement, un instrument se distingue ¨¤ la jonction du droit international humanitaire et de la ma?trise des armements. Il s¡¯agit de la Convention?sur l¡¯interdiction ou la limitation de l¡¯emploi de certaines armes classiques qui peuvent ¨ºtre consid¨¦r¨¦es comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination (CCAC)¹.

La Convention, n¨¦goci¨¦e sous l¡¯¨¦gide des Nations Unies en 1979 et en 1980, s¡¯appuie sur les principes du droit international humanitaire comme la proportionnalit¨¦ et la distinction entre les civils et les combattants. Actuellement, elle comprend cinq protocoles ¨C le Protocole I relatif aux ¨¦clats non localisables, le Protocole II sur l¡¯interdiction ou la limitation de l¡¯emploi des mines, pi¨¨ges et autres dispositifs (tel qu¡¯amend¨¦ le 3 mais 1996), le Protocole III sur l¡¯interdiction ou la limitation de l¡¯emploi des armes incendiaires, le Protocole IV relatif aux armes ¨¤ laser aveuglantes et le Protocole V relatif aux restes explosifs de guerre. Cette conception modulaire permet d¡¯annexer de nouveaux instruments au trait¨¦-cadre alors que de nouvelles consid¨¦rations d¡¯ordre humanitaire concernant les syst¨¨mes d¡¯armes apparaissent et que de nouveaux syst¨¨mes ¨¦mergent.

Si les d¨¦bats sur les armes t¨¦l¨¦command¨¦es, qui ont eu lieu en 2012 et en 2013 ¨¤ Gen¨¨ve lors de r¨¦unions consacr¨¦es aux droits de l¡¯homme, ont permis d¡¯am¨¦liorer la prise de conscience², la CCAC s¡¯est r¨¦v¨¦l¨¦e ¨ºtre l¡¯instance privil¨¦gi¨¦e pour d¨¦battre des technologies ¨¦mergentes dans le domaine des syst¨¨mes d¡¯armes l¨¦tales autonomes (SALA). Sa souplesse, l¡¯¨¦quilibre qu¡¯elle encourage entre les principes humanitaires et la n¨¦cessit¨¦ militaire ont permis aux ?tats Membres ayant des points de vue tr¨¨s divergents de commencer ¨¤ s¡¯investir dans une technologie complexe et en rapide ¨¦volution. Sa comp¨¦tence en tant qu¡¯instrument relatif au droit international humanitaire, ainsi que les Conventions de Gen¨¨ve de 1949 et leurs protocoles additionnels de 1977, l¡¯a rendue attrayante pour tous ceux qui craignaient une ¨¦rosion des principes li¨¦s au droit international humanitaire par les syst¨¨mes d¡¯armes autonomes. Le fait que tous les pays ayant des capacit¨¦s ¨¦tablies ou ¨¦mergentes en syst¨¨mes d¡¯IA ¨C l¡¯Allemagne, le Canada, la Chine, les ?tats-Unis, la F¨¦d¨¦ration de Russie, la France, l¡¯Inde, Isra?l, le Japon, la R¨¦publique de Cor¨¦e et le Royaume-Uni ¨C sont des Hautes Parties contractantes ¨¤ la Convention a ¨¦t¨¦ utile. Cela ne veut pas dire pour autant que tous les probl¨¨mes ¨¦taient r¨¦solus. Certains persistaient, comme la stabilit¨¦ financi¨¨re. Les arri¨¦r¨¦s de paiements par les Hautes Parties contractantes ont ¨¦t¨¦ source d¡¯incertitude en 2017 quant ¨¤ la tenue de certaines r¨¦unions. Un autre probl¨¨me concernait la participation de l¡¯industrie et des d¨¦veloppeurs de technologies aux d¨¦bats sur l¡¯autonomie l¨¦tale compte tenu, entre autres, de la crainte de l¡¯industrie d¡¯¨ºtre stigmatis¨¦e. De plus, la communaut¨¦ engag¨¦e dans la ma?trise des armes classiques avait tendance ¨¤ consid¨¦rer les armes en termes de mat¨¦riaux discrets. Le monde d¡¯Ironman et de Terminator d¨¦peints par Hollywood n¡¯a pas non plus aid¨¦.

Ces questions de conception et de connaissances transversales ont ¨¦t¨¦ examin¨¦es en premier lieu dans les d¨¦bats informels de la CCAC ¨¤ Gen¨¨ve de 2014 ¨¤ 2016. Le Groupe d¡¯experts informel, dirig¨¦ par l¡¯ambassadeur fran?ais Jean-Hugues Simon-Michel, puis par l¡¯ambassadeur allemand Michael Biontino, a fait prendre conscience des diff¨¦rents aspects de cette question ¨C humanitaire, ¨¦thique, militaire, juridique et techno-commerciale. Le fait que le r¨¨glement int¨¦rieur de la CCAC permette la participation d¡¯un ensemble tr¨¨s divers de parties concern¨¦es, y compris la soci¨¦t¨¦ civile, a ¨¦t¨¦ un atout, comme le fait que ces questions aient ¨¦t¨¦ d¨¦battues dans les instances en dehors de Gen¨¨ve. Des d¨¦bats informels ont permis d¡¯obtenir un consensus sur la cr¨¦ation d¡¯un groupe d¡¯experts gouvernementaux (GEG) charg¨¦ d¡¯un mandat officiel lors de la cinqui¨¨me Conf¨¦rence d¡¯examen des parties contractantes ¨¤ la CCA en d¨¦cembre 2016, pr¨¦sid¨¦e par l¡¯ambassadeur pakistanais Tehmina Janjua³. Des organisations, comme le Comit¨¦ international de la Croix-Rouge, ont jou¨¦ un r?le important dans le niveau de maturit¨¦ ¨¦lev¨¦ des d¨¦bats en organisant du 26 au 28 mars 2014 une r¨¦union d¡¯experts sur les aspects techniques, militaires, juridiques et humanitaires de ce qu¡¯on a appel¨¦ provisoirement ??les syst¨¨mes d¡¯armes autonomes??. L¡¯Institut des Nations Unies pour la recherche sur le d¨¦sarmement (UNIDIR), l¡¯organisme autonome ¨¦tabli dans le cadre des Nations Unies qui m¨¨ne des recherches sur le d¨¦sarmement, a contribu¨¦ en pr¨¦parant une brochure ainsi que d¡¯autres documents d¡¯information ¨¤ l¡¯intention des n¨¦gociateurs et des chercheurs. Des groupes, comme l¡¯Institut international de recherche sur la paix de Stockholm, Chatham House, le Programme sur le droit international et les conflits arm¨¦s de la Facult¨¦ de droit de l¡¯Universit¨¦ Harvard, ainsi que des ONG, comme Human Rights Watch, l'International Committee for Robot Arms Control, Article 36 et Amnesty International, ont aussi consid¨¦rablement contribu¨¦.

La premi¨¨re r¨¦union officielle du GEG consacr¨¦e ¨¤ la question des nouvelles technologies dans le domaine des syst¨¨mes d¡¯armes autonomes dans le contexte des objectifs de la CCAC a eu lieu ¨¤ Gen¨¨ve du 13 au 17 novembre 2017. Pour ¨¦clairer les participants aux d¨¦bats, le Pr¨¦sident a soumis un document de r¨¦flexion⁴, les Hautes Parties contractantes ont pr¨¦sent¨¦ neuf autres documents de travail et quatre groupes d¡¯experts ont ¨¦t¨¦ mis en place pour traiter les aspects juridiques, ¨¦thiques, militaires, techniques et transversaux du sujet. Des ¨¦v¨¦nements organis¨¦s en marge par des ONG, des instituts de recherche et des ?tats ont enrichi les d¨¦bats en apportant de nouvelles perspectives, y compris celles provenant de jeunes entrepreneurs en intelligence artificielle. ? la fin de la semaine, les participants ont adopt¨¦ un ensemble de conclusions et de recommandations⁵. L¡¯une des conclusions ¨¦tait que la CCAC repr¨¦sentait le cadre appropri¨¦ pour traiter cette question et l¡¯autre, que le droit international humanitaire s¡¯appliquait pleinement au d¨¦veloppement et ¨¤ l¡¯emploi potentiel des syst¨¨mes d¡¯armes l¨¦tales autonomes. Cela repr¨¦sentait un point de d¨¦part important, sans pour autant apporter de r¨¦ponse ¨¤ la question concernant l¡¯application d¡¯autres normes juridiques. Les conclusions ont aussi permis au Pr¨¦sident de se concentrer sur l¡¯ordre du jour du groupe pour 2018 portant sur 1) la caract¨¦risation des syst¨¨mes envisag¨¦s, c¡¯est-¨¤-dire la question des d¨¦finitions; 2) les aspects de l¡¯interaction homme-machine et les violations possibles du droit international humanitaire?associ¨¦es; et 3) les diff¨¦rentes options pour traiter les cons¨¦quences de la mise en ?uvre de ces syst¨¨mes pour la s¨¦curit¨¦ humanitaire et internationale. Si les points de vue divergents sur la d¨¦finition et les risques, ainsi que sur les avantages possibles des SALA et des nouvelles conceptions de la r¨¦glementation et du contr?le, y compris l¡¯id¨¦e d¡¯une interdiction pr¨¦ventive ont persist¨¦, l¡¯analyse du Pr¨¦sident a permis de rendre compte de la diversit¨¦ des points de vue sans bloquer les progr¨¨s de fond par le biais de conclusions plus concises.

Le GEG a intensifi¨¦ ses activit¨¦s en organisant deux sessions en avril et en ao?t 2018. Lors de la r¨¦union qui a eu lieu du 9 au 13 avril ¨¤ Gen¨¨ve, il a accompli des progr¨¨s importants en parvenant ¨¤ une entente sur la qualit¨¦ et la port¨¦e de l¡¯interface homme-machine n¨¦cessaire non seulement pour garantir le respect du droit international humanitaire, mais aussi pour obtenir ¨¦ventuellement des r¨¦sultats plus ambitieux sur la responsabilit¨¦ humaine. Le groupe a examin¨¦ les diff¨¦rentes phases du d¨¦veloppement et du d¨¦ploiement de la technologie et a pu se faire une id¨¦e du travail qui serait n¨¦cessaire pour assurer une supervision humaine et un contr?le humain r¨¦els. En ce qui concerne la caract¨¦risation, les d¨¦bats ont permis de trouver un terrain d¡¯entente sur les concepts et les caract¨¦ristiques n¨¦cessaires ¨¤ une d¨¦finition ¨¦ventuelle et d¡¯abandonner l¡¯id¨¦e qu¡¯il fallait distinguer clairement les nouvelles pr¨¦occupations ainsi que les questions pouvant ¨ºtre trait¨¦es dans le cadre des instruments existants. Les travaux, qui ont d¨¦but¨¦ en 2017 en vue de d¨¦velopper une compr¨¦hension et des principes communs, se sont poursuivis en avril 2018 et ont eu pour point culminant l¡¯¨¦laboration, lors de la r¨¦union ayant eu lieu ¨¤ la fin d¡¯ao?t 2018, d¡¯un ensemble de principes directeurs possibles. Ces principes sont soutenus par les ¨¦l¨¦ments fondamentaux de la caract¨¦risation, de l¡¯interface homme-machine et de l¡¯examen de la technologie. Le rapport du GEG pr¨¦sente quatre options, y compris des conditions contraignantes possibles, qui peuvent ¨ºtre d¨¦finies ¨¤ partir des principes directeurs et des ¨¦l¨¦ments fondamentaux convenus⁶.

Les dix principes concernaient l¡¯applicabilit¨¦ du droit international humanitaire; la non-d¨¦l¨¦gation de la responsabilit¨¦ humaine; la responsabilit¨¦ dans le recours ¨¤ la force en conformit¨¦ avec le droit international humanitaire; l¡¯examen de la l¨¦galit¨¦ des armes avant leur d¨¦ploiement; l¡¯incorporation de garanties physiques en mati¨¨re de non-prolif¨¦ration et de cybers¨¦curit¨¦; l¡¯¨¦valuation et l¡¯att¨¦nuation des risques pendant le d¨¦veloppement de la technologie; l¡¯utilisation des nouvelles technologies dans le domaine des SALA en conformit¨¦ avec le droit international humanitaire; emp¨ºcher tout programme de recherche, de d¨¦veloppement et d¡¯utilisation ¨¤ des fins civiles; la n¨¦cessit¨¦ d¡¯adopter une d¨¦marche anthropomorphique sur l¡¯IA; et la pertinence de la CCAC comme cadre pour traiter cette question. Les ¨¦l¨¦ments fondamentaux de la caract¨¦risation comprennent la n¨¦cessit¨¦ de maintenir l¡¯¨¦l¨¦ment humain au premier plan lors de l¡¯emploi de la force. La compr¨¦hension de l¡¯interface homme-machine est fond¨¦e sur une direction politique lors de la phase du pr¨¦-d¨¦veloppement; la recherche et le d¨¦veloppement; les tests, l¡¯¨¦valuation et la certification; le d¨¦ploiement, la formation, le commandement et le contr?le; l¡¯utilisation et l¡¯interruption;?et l¡¯¨¦valuation de l¡¯apr¨¨s utilisation. Le Groupe a convenu que la responsabilit¨¦ des ¨ºtres humains est la composante de l¡¯interface homme-machine dans le contexte de la CCAC. Il a aussi reconnu la n¨¦cessit¨¦ de progresser par ¨¦tapes et d¡¯¨¦laborer un langage scientifique et politique commun en partenariat avec l¡¯industrie et d¡¯autres parties prenantes.

D¡¯autres travaux sont n¨¦cessaires pour pr¨¦venir les dommages possibles caus¨¦s aux civils et aux combattants dans les conflits arm¨¦s contraires aux obligations li¨¦es au droit international humanitaire, l¡¯exacerbation des dilemmes de la s¨¦curit¨¦ par la course aux armements et un abaissement du seuil pour l¡¯emploi de la force. Le r¨¦sultat de la r¨¦union du mois d¡¯ao?t 2018 repr¨¦sente, cependant, un point positif pour l¡¯¨¦thique multilat¨¦rale ¨¤ un moment difficile pour la coop¨¦ration mondiale. Il souligne le r?le important que les instances des Nations Unies peuvent jouer dans la solution des d¨¦fis pos¨¦s par l¡¯¨¦volution rapide des technologies en faisant participer toutes les parties prenantes importantes et en s¡¯appuyant sur le droit international et les institutions internationales.?

?

Notes

1. Ou la ??Convention sur les armes inhumaines?? ouverte ¨¤ la signature le 10 avril 1981, entr¨¦e en vigueur le 2 d¨¦cembre 1983. Disponible sur le site .
2. ??Rapport du Rapporteur sp¨¦cial sur les ex¨¦cutions extrajudiciaires, sommaires ou arbitraires, Christof Heyens?? 2013 (A/HRC/23/47). Disponible sur le site .
3. Cinqui¨¨me Conf¨¦rence des Hautes Parties contractantes charg¨¦es de l¡¯examen de la la CCAC, ??Document final de la cinqui¨¨me Conf¨¦rence d¡¯examen??, D¨¦cision I (CCW/CONF.V/10). Disponible sur le site .
4. CCW/GGE.1/2017/WP.1. Disponible sur le site .
5. Rapport de 2017 du Groupe d¡¯experts gouvernementaux sur les syst¨¨mes d¡¯armes l¨¦tales autonomes (LAWS), Gen¨¨ve, 13¨C17 novembre 2017 (CCW/GGE.1/2017/CRP.1). Disponible sur le site (httpAssets)/B5B99A4D2F8BADF4C12581DF0048E7D0//2017_CCW_GGE.1_2017_CRP.1_Advanced_+corrected.pdf.
6. Rapport du Groupe d¡¯experts gouvernementaux sur les technologies ¨¦mergentes dans le domaine des syst¨¨mes d¡¯armes l¨¦taux autonomes sur sa session de 2018, Gen¨¨ve, 9-13 avril 2018 et 27-31 ao?t 2018 (CCW/GGE.1/2018/3). Disponible sur le site