Intelligence artificielle : quelles garanties pour les droits de l’Homme ?
Analyse juridique d'opinion de Cherly Abou Chabke, rédactrice et Philomène Dubois, rédactrice
December 3, 2020
Il vous est peut-être déjà arrivé d’avoir l’étrange impression que votre téléphone portable vous espionne : vous vous connectez à vos réseaux sociaux et apercevez une publicité portant sur un produit que vous avez recherché ou dont vous venez juste de parler avec un ami. La personnalisation du contenu et des publicités sur les réseaux sociaux n’est possible que parce que les données des utilisateurs sont collectées et exploitées grâce à des technologies toujours plus pointues. Capables d'agréger des données diverses, elles révèlent des tendances dont nous n’avons pas nécessairement conscience : GPS, notes vocales ou identification faciale, sont autant de données personnelles fournies inconsciemment à des intelligences artificielles dont la multiplication est fulgurante.
L’IA trouve de nouvelles applications dans un nombre sans cesse croissant de domaines, y compris l’éducation, la santé, la culture, le commerce, la sécurité, l’environnement et la recherche. Elle peut être définie comme “l’ensemble [des] théories et [des] techniques dont le but est de faire accomplir des tâches par une machine qui simule l’intelligence humaine”. En d’autres termes, elle vise à faciliter la vie de l’Homme. Néanmoins, le succès en matière d’innovation, de progrès et d'efficacité, ne doit pas occulter la réalité derrière les opérations intrusives de l’IA, qui portent atteinte aux droits de l’Homme, d'où la nécessité d’un encadrement de ces pratiques.
Au-delà du mythe que représentent les algorithmes et plus généralement l’intelligence artificielle, ces technologies posent de nombreux défis, notamment éthiques et juridiques. La question de l’encadrement juridique du développement de ces technologies n’est pas nouvelle et pourtant elle semble devenue urgente à l’heure où nombre d’entreprises et d’États investissent massivement dans la recherche liée à l’intelligence artificielle. Comment mettre en balance innovation et droits de l’Homme ? Quel encadrement juridique pour le développement de l’intelligence artificielle ?
Afin d’envisager cette problématique, il conviendra de s’attarder en premier lieu sur la réflexion autour d’un cadre de réglementation européen, avant d’aborder en second lieu, les initiatives à l'échelle internationale.
La question de la collecte et du traitement des données s’est déjà posée au niveau européen. Elle a d’ailleurs fait l’objet d’une réglementation en 2016, qui s’est avérée cruciale quant au respect des libertés et droits fondamentaux des personnes physiques, d’ailleurs garantis par la Charte des droits fondamentaux de l’Union ainsi que par la Convention européenne des droits de l’Homme dans le cadre du Conseil de l’Europe.
L’intelligence artificielle connaît des enjeux similaires ; WATSON, l’IA qui établit des diagnostics médicaux, dont la fiabilité est de 90% contre 50% pour un médecin, en est l’exemple parfait, parce qu’elle est en mesure de traiter les données biomédicales de milliers de patients en un temps record. Il ne fait nul doute que le développement d’une telle technologie est bienvenu. Toutefois, jusqu’où peut-on accepter que des données éminemment personnelles qui relèvent de notre vie privée et dont nous n’avons parfois même pas conscience, puissent faire l’objet d’une telle exploitation ?
Certains auteurs proposent de s’appuyer sur des réglementations déjà existantes en matière de protection des données à caractère personnel parce qu’elles permettent la mise en balance de l’innovation et la protection des droits et libertés fondamentaux auxquels il nous est impossible de faire obstacle. Cependant, l’on observe que le progrès va parfois plus vite que notre imagination et ce qui est propre au règlement sur la protection des données à caractère personnel risque de ne pas suffire à encadrer la multiplicité des enjeux liés à l’IA. Aussi faut-il pouvoir les appréhender et anticiper des problématiques auxquelles nous ne sommes pas encore confrontés, à défaut de quoi toute réglementation sera vite dépassée. C’est là tout l’enjeu d’un encadrement juridique.
Jamais n’aurions-nous pu imaginer il y a une vingtaine d’années que des intelligences artificielles seraient capables en 2020 de distinguer des visages singuliers d’individus parmi une masse d’autres individus et encore moins d’y lire des émotions ; jamais encore n’aurions-nous pu envisager qu’une IA soit en 2020 capable d’aider à la prise de décision en matière de justice.
Et si la question des droits de l’Homme est si étroitement liée à celle du développement de ces technologies, c’est bien parce que l’on se rend compte qu’elles perpétuent des mécanismes de discrimination. Des études ont mis en évidence qu’en matière de quête d’emplois, Google avait tendance à présenter aux hommes, plutôt qu’aux femmes, les offres de travail les mieux rémunérées ; d’autres ont montré les difficultés rencontrées en matière de reconnaissance faciale dans l’identification des visages de femmes noires, contrairement aux visages d’hommes blancs. De même, Netflix a été épinglé par une étude, laquelle établit l’existence de biais dans les recommandations de films ou de séries en fonction du genre ou d’autres caractéristiques personnelles.
La réflexion autour des biais de l’intelligence artificielle n’est en fait qu’une transposition de ce qui existe déjà sans même l’intervention des IA, parce qu’elles sont programmées par des êtres humains et qu’elles se basent sur des données existantes. Ces biais étant le symptôme même d’une société dans laquelle les discriminations sont d’une actualité alarmante, il est nécessaire et urgent de faire preuve d’une rigueur extrême dans leur appréhension et leur correction.
C’est en partie ce sur quoi travaille le Comité ad hoc sur l’intelligence artificielle (CAHAI) dans le cadre du Conseil de l’Europe. À terme, il s’agit de pouvoir évaluer les défis juridiques dans leur ensemble au prisme du respect des droits de l’Homme et de formuler des recommandations qui serviront de base à toute réglementation en la matière.
En outre, il est nécessaire de permettre, en cas d’atteinte à des droits et libertés fondamentaux, que les justiciables puissent effectivement avoir accès au juge. Il est en effet stipulé à l’article 13 de la Convention européenne des droits de l’Homme que “toute personne dont les droits et libertés reconnus dans la présente Convention ont été violés, a droit à l’octroi d’un recours effectif devant une instance nationale [...]”. Et si par ailleurs, le requérant se voit débouté de ses demandes devant les juridictions nationales compétentes, il pourra, après avoir épuisé les voies de recours internes, saisir le juge garant du respect des droits et libertés garantis par la Convention. Il incombe également aux juges nationaux et supranationaux d’œuvrer en faveur d’une interprétation favorable des textes et d’inspirer la prise de décision, l’adoption de législations et de conventions allant dans le sens d’une protection toujours plus accrue des droits humains face à l’accroissement de ces technologies.
Si le cadre européen de réflexion autour des enjeux de l’intelligence artificielle semble sur la bonne voie, il faut garder à l’esprit qu’en l’absence de toute transparence sur le développement et la mise en œuvre de celle-ci, il sera impossible de permettre une garantie effective des droits et libertés fondamentaux.
Au niveau international, il semble clair que la question de l’atteinte aux droits humains revêt une importance fondamentale, vu la mobilisation des acteurs mondiaux à trouver des mesures pour empêcher l’incidence potentiellement considérable de l’IA sur les droits de la personne humaine. L’atteinte de l’IA à la vie privée et au principe d'égalité a effectivement incité les gouvernements à se prononcer sur le sujet.
Face aux empiétements incontestables de l’IA sur les droits de la personne, plusieurs stratégies, conventions, et plans ont été mis en place au niveau international dans le but d’amoindrir leurs effets, et de réglementer par conséquent l’action de l’IA. Amnesty International, Access Now, et un certain nombre d’organisations partenaires ont publié en mai 2018 la Déclaration de Toronto, centrée sur la protection du droit à l’égalité et à la non-discrimination dans le domaine de l’apprentissage automatique et visant à assurer l’intégration des droits humains à l’intelligence artificielle.
Plus récemment, lors de la réunion Science & Technologie qui rassemblait les ministres du G7 ; le Canada, la France, l’Allemagne, l’Australie, la République de Corée, les États-Unis d’Amérique, l’Italie, l’Inde, le Japon, le Mexique, la Nouvelle-Zélande, le Royaume-Uni, Singapour, la Slovénie et l’Union Européenne, se sont réunis afin de créer le partenariat mondial sur l’intelligence artificielle (PMIA). Il s’agit concrètement de renforcer la coopération dans l’avancement d’une intelligence artificielle reflétant les valeurs démocratiques et répondant aux défis mondiaux, en développant une utilisation responsable et focalisée sur l’humain.
Il ne faut pas oublier qu’en 2019, 36 États membres de l’OCDE, ainsi que l’Argentine, le Brésil, la Colombie, le Costa Rica, le Pérou et la Roumanie ont adhéré aux Principes de l’OCDE sur l’intelligence artificielle, dont le but est de servir les intérêts des individus et de la planète en favorisant le développement durable et le bien-être, et en respectant les droits de l'Homme, les valeurs démocratiques et l'équité.
En garantissant la transparence et la divulgation responsable des informations liées aux systèmes d’IA, ces principes ont pour but de faire en sorte que les individus sachent quand ils interagissent avec des systèmes pareils, et qu’ilspuissent le cas échéant en contester les résultats. Bien que ne disposant pas d’une force juridique contraignante, ces principes sont perçus comme étant une source d’inspiration et une référence internationale pour les décideurs et les gouvernements qui y ont recours pour concevoir leurs législations nationales. Effectivement, les “Lignes directrices de l’OCDE” régissant la protection de la vie privée, ont poussé les États-Unis, ainsi que plusieurs États en Europe et en Asie, à adopter des réglementations au niveau national en la matière.
Sur une échelle plus fine, il convient de constater que, dans un grand nombre de cas, la situation du droit dans certains pays à l'égard du respect de la vie privée, affecte la position prise par ces derniers face à l'incidence de l’IA sur ce droit spécifique.
Les exemples français et américains témoignent de cette idée. En effet, en France, le droit au respect de la vie privée repose sur plusieurs fondements. Le premier, est l’article 9 du Code civil, selon lequel “chacun a droit au respect de sa vie privée". Le deuxième fondement quant à lui est puisé dans l’article 8 de la Convention Européenne des Droits de l’Homme (CEDH). D'après ce texte, “toute personne a droit au respect de sa vie privée et familiale, de son domicile et de sa correspondance”. Finalement, le troisième fondement trouve son essence dans l’article 2 de la Déclaration des Droits de l’Homme et du Citoyen de 1789. Il en résulte de la sorte que le droit au respect de la vie privée revêt un caractère supra législatif et qu’il est protégé par la Constitution et par la Convention Européenne des droits de l’Homme. Afin d'empêcher les atteintes à ce dernier, la France travaille aussi bien au sein de l'UE qu'au niveau national pour assurer son respect ; à ce titre, la Loi pour une République Numérique promulguée en octobre 2016, est parmi l'une des initiatives menées par la France à cet égard.
Concernant les États-Unis, le droit général au respect de la vie privée, contrairement au cas français, n’est pas garanti par la Constitution américaine. Le quatrième amendement ne protège les droits des citoyens “dans leurs personnes, leurs maisons, leurs papiers et leurs effets” que contre les intrusions du gouvernement. Cela pourrait,peut-être, expliquer en partie la position “légère” des États-Unis quant à l’encadrement de l’IA - position qui contraste avec celle de l’UE, qui demeure l'entité la plus active dans la proposition de nouvelles règles et réglementations. En revanche, les États-Unis ont envisagé des lois restrictives et des réglementations quant à la confidentialité des données, au niveau fédéral, ce qui laisse entrevoir une avancée en faveur du respect des droits de l’Homme.
John Stuart Mill disait “La liberté des uns s’arrête là où commence celle des autres” et cette phrase résonne aujourd’hui plus que jamais: innovation certes, mais certainement pas au détriment des droits et libertés fondamentaux qui doivent être garantis à tout être humain. Le continent africain est emblématique de cette dernière observation. L’intelligence artificielle y constitue en effet, une aubaine favorisant l’innovation et le progrès. Cependant, il s'avère crucial dans les prochaines années de relativiser les effets de l’IA en prenant en compte les enjeux éthiques et humanitaires, afin de faire l'équilibre entre la croissance économique et les droits fondamentaux.
Un programme de partenariat exclusif pour la coédition articles et analyses de droit de ELSA, Lyon et The Phoenix Daily