Mohsen Abdelmoumen : Vous \u00eatre une brillante ing\u00e9nieure en informatique et avez \u00e9t\u00e9 recrut\u00e9e chez Google o\u00f9 vous avez travaill\u00e9 sur le projet Maven. Que pouvez-vous nous dire sur ce projet Maven qui lie Google au Pentagone ?<\/p>\n
Laura Nolan : Je n\u2019ai pas travaill\u00e9 directement sur Maven lui-m\u00eame ; on m\u2019a demand\u00e9 d\u2019aider \u00e0 apporter certaines modifications \u00e0 la plate-forme de Google pour permettre \u00e0 Maven d\u2019\u00eatre ex\u00e9cut\u00e9 sur elle.<\/p>\n
Le projet Maven fait partie d\u2019une initiative du d\u00e9partement de la D\u00e9fense des \u00c9tats-Unis appel\u00e9e Algorithmic Warfare Cross-Functional Team (AWCFT) [\u00c9quipe interfonctionnelle de guerre algorithmique], qui a \u00e9t\u00e9 cr\u00e9\u00e9e pour essayer de profiter de l\u2019expertise technologique du secteur priv\u00e9 pour l\u2019arm\u00e9e am\u00e9ricaine. Maven a \u00e9t\u00e9 le premier projet de l\u2019AWCFT. Google et plusieurs autres soci\u00e9t\u00e9s \u00e9taient impliqu\u00e9es.<\/p>\n
L\u2019arm\u00e9e am\u00e9ricaine analysait les vid\u00e9os de surveillance de ses drones principalement manuellement, et d\u2019apr\u00e8s ce que j\u2019ai compris, la quantit\u00e9 de vid\u00e9os qu\u2019elle pouvait analyser \u00e9tait limit\u00e9e parce qu\u2019elle ne pouvait engager suffisamment de personnes. Maven visait \u00e0 automatiser une grande partie de l\u2019analyse \u2013 elle \u00e9tait cens\u00e9e identifier les personnes et les v\u00e9hicules dans les enregistrements vid\u00e9o. D\u2019apr\u00e8s ce que j\u2019ai compris, il est \u00e9galement cens\u00e9 \u00eatre capable de maintenir une sorte de chronologie des activit\u00e9s dans une r\u00e9gion et une sorte de graphique social des interactions (les gens vont de b\u00e2timent en b\u00e2timent). J\u2019ai aussi entendu des gens dire que l\u2019objectif \u00e9tait de pouvoir trouver certains mod\u00e8les d\u2019activit\u00e9.<\/p>\n
Ce projet n\u2019est pas un projet d\u2019armement autonome, mais c\u2019est certainement quelque chose qui pourrait devenir une grande partie du syst\u00e8me de contr\u00f4le d\u2019une arme autonome.<\/p>\n
Cependant, \u00e0 lui seul, Maven est r\u00e9pr\u00e9hensible pour moi. Premi\u00e8rement, il s\u2019agit d\u2019un syst\u00e8me qui permet une surveillance de masse dans une zone, pas seulement une surveillance cibl\u00e9e d\u2019individus d\u00e9j\u00e0 soup\u00e7onn\u00e9s. Comme dans tous les syst\u00e8mes de surveillance de masse, il y a ici de r\u00e9els probl\u00e8mes \u00e9thiques. Premi\u00e8rement, il porte atteinte \u00e0 la vie priv\u00e9e des personnes sous surveillance, dont la plupart sont des civils innocents. Deuxi\u00e8mement, c\u2019est une forme de contr\u00f4le \u2013 ce qui est hostile en soi.<\/p>\n
Les \u00c9tats-Unis effectuent ce type de surveillance intensive avec des drones dans de nombreuses zones qui ne sont m\u00eame pas officiellement d\u00e9clar\u00e9es zones de guerre, et ils le font pendant des p\u00e9riodes incroyablement longues. Cela cr\u00e9e un climat de peur qui nuit \u00e0 la sant\u00e9 mentale de ceux qui vivent sous surveillance. Les gens craignent d\u2019envoyer leurs enfants \u00e0 l\u2019\u00e9cole, d\u2019assister \u00e0 des \u00e9v\u00e9nements comme des mariages ou des r\u00e9unions publiques. C\u2019est pr\u00e9judiciable au tissu social de leurs soci\u00e9t\u00e9s quand c\u2019est fait depuis de nombreuses ann\u00e9es, comme au Pakistan.<\/p>\n
Maven permettrait d\u2019augmenter le niveau de surveillance des drones \u2013 parce que l\u2019arm\u00e9e am\u00e9ricaine aurait une capacit\u00e9 accrue pour traiter la vid\u00e9o captur\u00e9e. Maven pourrait \u00e9galement, avec une volont\u00e9 politique, conduire \u00e0 une augmentation du niveau des \u00ab signature strikes \u00bb, (ndlr : des frappes contre des personnes dont les activit\u00e9s seraient li\u00e9es au terrorisme mais dont l\u2019identit\u00e9 n\u2019est pas connue) c\u2019est-\u00e0-dire que les gens sont pris pour cible sur la base de mod\u00e8les de comportement. Avec le genre d\u2019informations que Maven est con\u00e7u pour extraire, il devient tr\u00e8s facile d\u2019\u00e9crire des r\u00e8gles comme \u00ab trouvez-moi des groupes d\u2019hommes d\u2019\u00e2ge militaire au-dessus d\u2019une certaine taille \u00bb ou \u00ab trouvez-moi des convois de v\u00e9hicules allant vers ce point \u00bb.<\/p>\n
Comment expliquez-vous qu\u2019une entreprise comme Google s\u2019implique dans un projet de recherche dans le domaine militaire ?<\/p>\n
Je n\u2019ai pas pris cette d\u00e9cision, et je ne peux \u00e9videmment pas vous dire ce que pensaient les dirigeants qui ont pris cette d\u00e9cision. Cependant, Google a beaucoup investi dans son produit Cloud, et les autres grandes entreprises de ce secteur (Amazon, Microsoft) travaillent certainement avec des militaires.<\/p>\n
L\u2019opinion publique mondiale ignore ces exp\u00e9riences sur les armes l\u00e9tales autonomes, notamment les robots tueurs. Ne pensez-vous pas que nous vivons une \u00e9poque tr\u00e8s dangereuse avec ces exp\u00e9riences terrifiantes ?<\/p>\n
Lorsque la Campagne pour \u00ab Arr\u00eater les robots tueurs \u00bb a men\u00e9 des sondages d\u2019opinion, il a toujours \u00e9t\u00e9 d\u00e9montr\u00e9 que l\u2019opinion publique est contre ces technologies, m\u00eame dans les pays les plus militaris\u00e9s comme les \u00c9tats-Unis et la Russie. La sensibilisation \u00e0 cette question n\u2019est pas universelle, mais il y a de nombreux signes prometteurs. Le Secr\u00e9taire g\u00e9n\u00e9ral de l\u2019ONU, Antonio Guterres, s\u2019est prononc\u00e9 \u00e0 plusieurs reprises et avec la plus grande fermet\u00e9 contre les armes autonomes. Des milliers de techniciens et de chercheurs se sont engag\u00e9s par \u00e9crit \u00e0 ne pas travailler sur de telles armes. 30 pays ont demand\u00e9 explicitement un trait\u00e9 d\u2019interdiction, et de nombreux autres pays ont exprim\u00e9 de vives pr\u00e9occupations \u00e0 ce sujet. Nous avons commenc\u00e9 \u00e0 voir des r\u00e9solutions parlementaires nationales contre les armes l\u00e9tales autonomes, par exemple de la part de la Belgique. Nous avons \u00e9galement vu le BDI, le groupe industriel allemand, r\u00e9clamer une interdiction.<\/p>\n
Nous vivons absolument une \u00e9poque dangereuse. Ce sont probablement ceux qui vivent actuellement dans des zones de conflit qui ont le plus \u00e0 craindre \u00e0 court terme des armes autonomes. La guerre \u00e0 distance a d\u00e9j\u00e0 abaiss\u00e9 la barre pour permettre aux pays d\u00e9velopp\u00e9s de s\u2019engager dans des conflits. L\u2019accroissement de l\u2019autonomie acc\u00e9l\u00e9rera et amplifiera encore davantage ce processus, car il r\u00e9duira la n\u00e9cessit\u00e9 pour le personnel d\u2019effectuer l\u2019analyse, le ciblage et le pilotage des armes. Le fait que de nombreuses armes puissent \u00eatre contr\u00f4l\u00e9es par un nombre r\u00e9duit de personnes pourrait \u00e9galement accro\u00eetre le pouvoir des tyrans.<\/p>\n
Ceux d\u2019entre nous qui vivent dans des pays d\u00e9velopp\u00e9s plus pacifiques ne devraient pas non plus se reposer sur leurs lauriers. La technologie militaire est souvent adopt\u00e9e ult\u00e9rieurement \u00e0 des fins civiles dans les services de police et de contr\u00f4le aux fronti\u00e8res. Si les armes autonomes sont couramment utilis\u00e9es dans l\u2019arm\u00e9e, elles sont plus susceptibles d\u2019\u00eatre utilis\u00e9es lors d\u2019attaques terroristes. L\u2019usage militaire l\u00e9gitimera leur utilisation par d\u2019autres groupes.<\/p>\n
Pourquoi d\u2019apr\u00e8s vous les m\u00e9dias mainstream n\u2019\u00e9voquent-ils jamais ces exp\u00e9riences ? Pourquoi y a-t-il tr\u00e8s peu d\u2019informations sur ces exp\u00e9riences ?<\/p>\n
Je ne sais pas si on peut dire \u00e7a. Les m\u00e9dias grand public relatent volontiers les armes autonomes, et j\u2019ai personnellement fait pas mal d\u2019interviews jusqu\u2019\u00e0 pr\u00e9sent.<\/p>\n
Les armes autonomes sont une question urgente, mais il y en a beaucoup d\u2019autres aussi, comme la crise climatique, la guerre au Y\u00e9men, le Brexit, les armes nucl\u00e9aires, la r\u00e9pression des Ou\u00efghours en Chine occidentale, Hong Kong\u2026 et seulement quelques centim\u00e8tres dans les journaux pour en parler.<\/p>\n
Vous \u00eates une lanceuse d\u2019alerte courageuse et vous avez quitt\u00e9 Google \u00e0 cause du projet Maven. Les lanceurs d\u2019alerte sont soit menac\u00e9s soit emprisonn\u00e9s et sacrifient leur carri\u00e8re pour rendre publique la v\u00e9rit\u00e9. Ne pensez-vous pas qu\u2019ils doivent \u00eatre prot\u00e9g\u00e9s par des lois sp\u00e9cifiques et \u00eatre soutenus par l\u2019opinion publique pour avoir donn\u00e9 des informations sensibles qui concernent l\u2019humanit\u00e9 ?<\/p>\n
Oui, je pense que l\u2019Union Europ\u00e9enne montre la voie dans ce domaine avec l\u2019approbation r\u00e9cente de la nouvelle Directive sur les Lanceurs d\u2019Alerte, qui r\u00e9pond \u00e0 ces pr\u00e9occupations. J\u2019aimerais que cela soit mis en \u0153uvre rapidement dans les parlements nationaux et, bien s\u00fbr, que d\u2019autres pays qui ne prot\u00e8gent pas fermement les lanceurs d\u2019alerte fassent de m\u00eame.<\/p>\n
Ne pensez-vous pas que le pas a \u00e9t\u00e9 franchi dans ce domaine de recherche, que ce soit avec les armes l\u00e9tales autonomes ou \u00ab robots tueurs \u00bb ou avec le projet Sensor to Shooter, ou encore avec ces munitions vagabondes comme les hybrides drones\/missiles, et que la menace p\u00e8se sur l\u2019humanit\u00e9 enti\u00e8re ? Cette technologie n\u2019est-elle pas irr\u00e9versible ?<\/p>\n
On ne peut pas \u00ab d\u00e9sinventer \u00bb une technologie, mais on peut certainement cr\u00e9er une r\u00e9glementation pour emp\u00eacher son utilisation et on peut aussi cr\u00e9er un consensus moral contre son utilisation. Cela a \u00e9t\u00e9 fait avec les armes biologiques, les armes chimiques, les lasers aveuglants, les mines terrestres et autres armes. Pr\u00e9tendre que l\u2019utilisation de n\u2019importe quelle technologie est in\u00e9vitable, c\u2019est \u00eatre profond\u00e9ment nihiliste.<\/p>\n
Le Lt. G\u00e9n\u00e9ral Jack Shanahan, le directeur du Centre de l\u2019Intelligence Artificielle au Pentagone, a voulu rassurer le public sur l\u2019utilisation de Sensor to Shooter. D\u2019apr\u00e8s lui, l\u2019homme gardera toujours le contr\u00f4le. Peut-on croire les propos du Lt. G\u00e9n\u00e9ral Shanahan ?<\/p>\n
Shanahan ne sera pas toujours en fonction et nous ne savons pas quelles seront les opinions de son successeur. Seul un instrument juridiquement contraignant peut emp\u00eacher une course aux armements en mati\u00e8re d\u2019armement autonome.<\/p>\n
REPORT THIS AD<\/p>\n
Les repr\u00e9sentants am\u00e9ricains se r\u00e9f\u00e8rent souvent \u00e0 la Directive 3000.09 du DoD comme \u00e9tant un engagement \u00e0 \u00e9viter la capacit\u00e9 d\u2019armement autonome. Cependant, il peut \u00eatre remplac\u00e9 \u00e0 tout moment et son libell\u00e9 est faible : il parle de \u00ab jugement humain appropri\u00e9 \u00bb. Il peut \u00eatre appropri\u00e9 pour un commandant d\u2019envoyer une munition errante pour patrouiller une grande zone \u00e0 la recherche de convois et les d\u00e9truire, mais ce n\u2019est pas du contr\u00f4le.<\/p>\n
Il y a aussi un autre probl\u00e8me. Le projet Sensor to Shooter, qui doit \u00eatre mis en \u0153uvre sur les donn\u00e9es de Maven, est cens\u00e9 sugg\u00e9rer des cibles \u00e0 frapper aux op\u00e9rateurs humains. Cependant, ils n\u2019ont pas parl\u00e9 de la fa\u00e7on dont ils vont \u00e9viter le probl\u00e8me du pr\u00e9jug\u00e9 d\u2019automatisation, qui est une tendance humaine \u00e0 favoriser les suggestions de machines \u2013 essentiellement, automatiquement et sans critique, accepter ce que disent les ordinateurs. Il est difficile d\u2019\u00e9viter les pr\u00e9jug\u00e9s li\u00e9s \u00e0 l\u2019automatisation, et il y a beaucoup de recherches dans ce domaine. J\u2019ai \u00e9t\u00e9 extr\u00eamement d\u00e9\u00e7ue que les r\u00e9cents principes du Defense Innovation Board* de l\u2019Intelligence Artificielle ne s\u2019attaquent pas \u00e0 ce probl\u00e8me (*D\u00e9fense Innovation Board = organisation cr\u00e9\u00e9e en 2016 pour apporter l\u2019innovation technologique et les meilleures pratiques de la Silicon Valley aux forces arm\u00e9es am\u00e9ricaines).<\/p>\n
En tant que scientifique, comment expliquez-vous que la science qui devrait servir au bien-\u00eatre humain soit devenue une arme fatale entre les mains d\u2019aventuriers sans scrupules ?<\/p>\n
Je pense que ce n\u2019est certainement pas la premi\u00e8re fois que la technologie et la science sont utilis\u00e9es pour surveiller, opprimer, blesser et tuer des gens. En tant que soci\u00e9t\u00e9 mondiale, nous devons toujours \u00eatre vigilants quant \u00e0 l\u2019utilisation des nouvelles technologies. L\u2019ONU est le meilleur outil dont nous disposons pour y parvenir et pour promouvoir le multilat\u00e9ralisme.<\/p>\n
Cependant, l\u2019ONU traverse une crise financi\u00e8re \u2013 les pays ne paient pas leurs cotisations. C\u2019est gaspiller \u00e9norm\u00e9ment de temps de r\u00e9union pr\u00e9cieux \u00e0 discuter de questions financi\u00e8res plut\u00f4t que de questions de fond, comme les nouvelles armes.<\/p>\n
Le manque de clairvoyance du pr\u00e9sident am\u00e9ricain Trump dans ses pressions en faveur de r\u00e9ductions budg\u00e9taires de l\u2019ONU et les arri\u00e9r\u00e9s de paiement des \u00c9tats-Unis sont une grande partie de ce probl\u00e8me. Trump et les \u00c9tats-Unis agissent tr\u00e8s dangereusement en sabotant l\u2019ONU.<\/p>\n
Vous connaissez tr\u00e8s bien ce dossier. Comment expliquez-vous l\u2019opacit\u00e9 qui entoure toutes ces exp\u00e9riences ? O\u00f9 va le monde avec ces exp\u00e9riences folles ? Ce que l\u2019on sait sur ces exp\u00e9rimentations n\u2019est-il pas le sommet de l\u2019iceberg, ce qui nous est cach\u00e9 \u00e9tant plus effrayant ?<\/p>\n
Absolument, il est difficile de savoir ce qui est fabriqu\u00e9 en secret. Ce que nous savons est d\u00e9j\u00e0 assez mauvais. Actuellement, je suis tr\u00e8s pr\u00e9occup\u00e9e par le drone turc Kargu, qui est une arme r\u00f4dante avec reconnaissance faciale. Selon certaines informations, la Turquie a l\u2019intention de d\u00e9ployer cette force \u00e0 la fronti\u00e8re avec la Syrie dans un avenir proche. Vont-ils les utiliser comme des drones chasseurs-tueurs autonomes ciblant des individus ? Cela soul\u00e8ve d\u2019\u00e9normes questions morales, ainsi que des pr\u00e9occupations d\u2019exactitude technique. La reconnaissance faciale non coop\u00e9rative en vid\u00e9o n\u2019est pas assez pr\u00e9cise pour \u00eatre utilis\u00e9e pour la prise de d\u00e9cision, selon le NIST des \u00c9tats-Unis (National Institute of Standards and Technology).<\/p>\n
[https:\/\/www.paxforpeace.nl\/publications\/all-publications\/slippery-slope]<\/p>\n
[https:\/\/nvlpubs.nist.gov\/nistpubs\/ir\/2017\/NIST.IR.8173.pdf]<\/p>\n
Vous revenez de l\u2019ONU \u00e0 Gen\u00e8ve o\u00f9 vous avez particip\u00e9 \u00e0 une r\u00e9union sur les armes l\u00e9tales autonomes, dont les robots tueurs. A votre avis, y a-t-il une prise de conscience r\u00e9elle sur ces sujets tr\u00e8s graves ?<\/p>\n
Je crois qu\u2019il y a une prise de conscience absolue parmi les d\u00e9l\u00e9gu\u00e9s \u00e0 l\u2019ONU, parmi ceux des nombreux parlements qui sont responsables des affaires \u00e9trang\u00e8res, de l\u2019arm\u00e9e et du d\u00e9sarmement. La sensibilisation du public augmente \u00e9galement. Au fil des ans, nous constatons une tendance nette dans l\u2019opinion publique \u2013 elle est de plus en plus contre les armes autonomes. Il semble probable que cela soit le r\u00e9sultat d\u2019une prise de conscience accrue.<\/p>\n
Vous \u00eates membre du Comit\u00e9 international pour le contr\u00f4le des armements robotiques (ICRAC). Quelles sont les principales missions de cet organisme et quel est son impact ?<\/p>\n
L\u2019ICRAC est un groupe interdisciplinaire de personnes qui s\u2019int\u00e9ressent \u00e0 ce probl\u00e8me \u2013 il y a des universitaires en technologie, en droit, en \u00e9thique, en psychologie et dans d\u2019autres domaines, et certains professionnels de ce secteur comme moi. L\u2019ICRAC et ses membres effectuent des recherches dans le domaine des armes autonomes, assistent \u00e0 des r\u00e9unions (comme la r\u00e9cente r\u00e9union de la CCAC [Convention sur certaines armes classiques] \u00e0 Gen\u00e8ve) o\u00f9 nous pr\u00e9sentons souvent des documents et donnons des conf\u00e9rences lors de manifestations parall\u00e8les. Nous discutons aussi avec des parlementaires, des m\u00e9dias, d\u2019autres ONG, donnons des conf\u00e9rences publiques sur les armes autonomes, \u00e9crivons ou signons occasionnellement des lettres ouvertes \u2013 des activit\u00e9s de campagne normales, en fait.<\/p>\n
L\u2019ICRAC est l\u2019un des membres fondateurs de la Campagne pour arr\u00eater les robots tueurs et il a \u00e9t\u00e9 l\u2019une des premi\u00e8res organisations \u00e0 sonner l\u2019alarme sur cette question. Le fait que la question ait fait l\u2019objet de discussions s\u00e9rieuses tant \u00e0 la Convention des Nations Unies sur les armes classiques que r\u00e9cemment \u00e0 l\u2019Assembl\u00e9e g\u00e9n\u00e9rale t\u00e9moigne de l\u2019impact de l\u2019ICRAC.<\/p>\n
Interview r\u00e9alis\u00e9e par Mohsen Abdelmoumen<\/p>\n
Qui est Laura Nolan ?<\/p>\n
Laura Nolan est ing\u00e9nieur en logiciel dans l\u2019industrie depuis plus de 15 ans. Plus r\u00e9cemment, elle a travaill\u00e9 chez Google en Irlande en tant qu\u2019ing\u00e9nieur de la fiabilit\u00e9 des sites.<\/p>\n
Elle a \u00e9t\u00e9 l\u2019une des nombreuses signataires de la lettre ouverte \u00ab supprimez Maven \u00bb, qui demandait \u00e0 Google d\u2019annuler sa participation au projet du DoD am\u00e9ricain d\u2019utiliser la technologie de l\u2019intelligence artificielle pour analyser les s\u00e9quences de surveillance des drones. Elle a fait campagne au sein de Google contre le Projet Maven, avant de quitter l\u2019entreprise en signe de protestation. En 2018, Laura a \u00e9galement fond\u00e9 TechWontBuildIt Dublin, une organisation pour les travailleurs de la technologie qui se pr\u00e9occupent des implications \u00e9thiques de cette industrie et du travail qui y est fait.<\/p>\n
Published in American Herald Tribune January 01, 2020: https:\/\/ahtribune.com\/interview\/3777-laura-nolan.html<\/p>\n","protected":false},"excerpt":{"rendered":"
Mohsen Abdelmoumen : Vous \u00eatre une brillante ing\u00e9nieure en informatique et avez \u00e9t\u00e9 recrut\u00e9e chez Google o\u00f9 vous avez travaill\u00e9 sur le projet Maven. Que pouvez-vous nous dire sur ce projet Maven qui lie Google au Pentagone ? Laura Nolan : Je n\u2019ai pas travaill\u00e9 directement sur Maven lui-m\u00eame ; on m\u2019a demand\u00e9 d\u2019aider \u00e0 […]<\/p>\n","protected":false},"author":1,"featured_media":8620,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-8619","post","type-post","status-publish","format-standard","has-post-thumbnail","category-diverses"],"_links":{"self":[{"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/posts\/8619","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/comments?post=8619"}],"version-history":[{"count":0,"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/posts\/8619\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/media\/8620"}],"wp:attachment":[{"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/media?parent=8619"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/categories?post=8619"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/algerienetwork.com\/blog\/wp-json\/wp\/v2\/tags?post=8619"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}