Fermer la publicité
Journal d'annonces légales et d'informations économiques pour le département du Rhône

Analyse : l'intelligence artificielle à l'épreuve des libertés et droits fondamentaux

Publié le - - Analyse

Analyse : l'intelligence artificielle à l'épreuve des libertés et droits fondamentaux
CC0 / Pxhere - L'intelligence artificielle, un défi pour les libertés et droits fondamentaux.

Alors que l'intelligence artificielle trouve chaque jour de nouvelles applications, ses effets sur la société ne sont pas sans risque pour les valeurs et les droits humains. L'analyse de Louise Allard, étudiante à l'EDHEC Business School, LLM Law & Tax Management.

"Compte tenu de l'incidence potentiellement considérable de l'intelligence artificielle sur notre société et de la nécessité d'instaurer la confiance, il est capital que l'IA européenne soit fondée sur nos valeurs et nos droits fondamentaux", indique la Commission européenne dans son Livre blanc publié le 19 février 2020.

En effet, la place de l'intelligence artificielle dans nos vies est de plus en plus importante. Cette notion regroupe l'ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence humaine. Par exemple, lorsqu'une boîte de messagerie électronique trie les courriers indésirables des courriers désirables, elle utilise l'intelligence artificielle.

De même, une recherche sur internet fait appel à l'intelligence artificielle pour répertorier et déterminer l'ordre de présentation des différents sites internet selon les termes de la recherche. L'intelligence artificielle a ainsi été créée pour être au service de l'humain en lui simplifiant de nombreuses tâches.

© CC0/Pxhere

Un équilibre encore à trouver

Pourtant, son développement peut porter atteinte à plusieurs libertés et droits fondamentaux. En France, le préambule de la Constitution garantit les libertés et droits fondamentaux, en s'appuyant sur la Déclaration des droits de l'homme et du citoyen de 1789, sur le préambule de la Constitution de 1946, et sur la Charte de l'environnement, adossée à la Constitution en 2005.

À l'échelle de l'Union européenne, les libertés et droits fondamentaux sont principalement protégés par la Convention européenne des droits de l'homme de 1950. Au niveau international, la Déclaration universelle des droits de l'homme et du citoyen de 1948 de l'Organisation des Nations Unies énonce les principaux droits fondamentaux et libertés.

Chaque être humain peut en principe se prévaloir de ceux-ci. Il est donc nécessaire de trouver un équilibre entre le développement et l'utilisation de l'intelligence artificielle au service de l'humain, et la protection des libertés et droits fondamentaux.

Fragilisation des libertés et droits fondamentaux

De nombreuses études ont démontré que l'intelligence artificielle porte atteinte aux libertés et droits fondamentaux, comme par exemple le droit au respect de la vie privée et à la protection des données personnelles, la liberté de circulation, le droit au travail, le droit à la santé, ou encore le droit à l'éducation. Seules les atteintes au principe de non-discrimination et à la liberté d'expression seront développées dans cet article.

D'une part, le principe de non-discrimination est inscrit à l'article 7 de la Déclaration universelle des droits de l'homme et à l'article 14 de la Convention européenne des droits de l'homme. Alors que le recours à l'intelligence artificielle est souvent expliqué par la neutralité de cette technologie, cette neutralité ne serait en réalité qu'une apparence.

A priori, ce recours permettrait d'échapper aux préjugés et à la discrimination inconsciente effectuée par tout être humain car les décisions ne sont plus données par un être humain doté d'une opinion, mais par une machine.

Les failles de la reconnaissance faciale

© CC0/Pxhere

Selon une récente étude de l'agence américaine National Institute of Standards and Technology (lien en anglais), un système de reconnaissance faciale se trompe entre 10 et 100 fois plus lors de l'identification de personnes d'origine afro-américaine ou d'origine asiatique, que lors de l'identification de personnes d'origine caucasienne.

Pour cette étude, les chercheurs se sont appuyés sur plus de 18 millions de photos au total, représentant environ 8,5 millions de personnes, et utilisées par 189 algorithmes de reconnaissance faciale.

Une erreur commise par un logiciel de reconnaissance faciale peut être très préjudiciable notamment si une telle technique est utilisée par les forces de l'ordre : cela pourrait entraîner de fausses accusations ou de fausses arrestations.

Une police "prédictive" pour demain ?

La legal tech américaine Palantir a par exemple développé et testé des outils de police "prédictive" dès 2012 dans des villes comme Chicago, Los Angeles, la Nouvelle-Orléans et New York. La police "prédictive" est le fait de prévoir qu'une infraction sera commise à un endroit précis, ou de prévoir si un suspect a des chances de commettre une infraction.

L'emploi de l'intelligence artificielle comme un outil de police "prédictive" peut être considéré comme un bienfait pour la société dans son ensemble, car il permettrait une prévention et une répression des infractions plus efficace, mais cela présente un risque réel pour les libertés individuelles. Ces technologies sont également testées en France, mais les outils de police "prédictive" n'établissent pas de "fiches suspects" et se focalisent sur les endroits où il est probable qu'une infraction soit commise.

© CC0/Pxhere

La justice américaine face à la controverse

Dans le domaine de la justice, l'intelligence artificielle permet d'accélérer le traitement d'énormes quantités de données et de déterminer la durée des peines d'emprisonnement pour permettre des approches plus homogènes d'affaires comparables.

Néanmoins, l'utilisation par les juges américains de l'algorithme d'intelligence artificielle COMPAS, servant à déterminer la probabilité de récidive d'un individu, a soulevé une controverse aux États-Unis. En 2016, une enquête de l'ONG ProPublica (lien en anglais) a conclu que les données utilisées par l'algorithme COMPAS étaient biaisées, et donc que l'algorithme l'était également, au détriment d'individus issus de minorités.

Si ces atteintes au principe de non-discrimination continuent, cela risque de réduire la confiance dans l'application de la loi suite à l'utilisation de l'intelligence artificielle, et donc de compromettre l'État de droit.

Quand Amazon discrimine les femmes à l'embauche

L'utilisation de l'intelligence artificielle dans un logiciel de recrutement d'Amazon a abouti à des résultats similaires. En 2014, le géant du e-commerce a développé un programme informatique afin d'automatiser le processus de recrutement de ses salariés. Cependant, Amazon a dû y renoncer trois ans plus tard car ce logiciel discriminait les femmes.

L'objectif du logiciel était d'attribuer une note d'une à cinq étoiles en fonction du profil des candidats. Pour ce faire, l'intelligence artificielle s'appuyait sur les profils des candidats d'Amazon sur une période de 10 ans. À cause de la prédominance masculine dans le domaine des nouvelles technologies au cours de cette période, l'intelligence artificielle a déduit que les profils masculins étaient à favoriser, au détriment des profils mentionnant le mot "femme" ou "féminin".

L'intelligence artificielle accentue donc la discrimination en l'ancrant dans la technologie. En réaction à cela, les ONG Amnesty International et AccessNow ont rédigé la Déclaration de Toronto. Ce texte, publié le 16 mai 2018, a pour but de protéger le droit à l'égalité et à la non-discrimination dans les systèmes reposant sur l'apprentissage automatique.

Gare à la censure...

D'autre part, la liberté d'expression est inscrite à l'article 19 de la Déclaration universelle des droits de l'homme, et également à l'article 10 de la Convention européenne des droits de l'homme. Toutefois, l'intelligence artificielle est régulièrement utilisée, notamment par les réseaux sociaux, pour contrôler le contenu diffusé par leurs utilisateurs. Cette technologie va en effet identifier le contenu qui n'est pas conforme aux conditions d'utilisation de ces plateformes.

En septembre 2020, le compte Instagram de plusieurs journalistes a été bloqué après qu'ils aient partagé la dernière couverture de Charlie Hebdo, suite à une campagne de signalements massifs. À cause des signalements, les programmes d'intelligence artificielle d'Instagram ont commis une forme de censure, portant atteinte à la liberté d'expression.

© CC0/Pxhere

Besoin d'une intelligence artificielle plus transparente

Pour développer l'intelligence artificielle tout en limitant son atteinte sur les libertés et droits fondamentaux, la première chose à faire est d'assurer une voie de recours effective que les individus pourront mettre en œuvre pour faire valoir leurs droits.

L'article 8 de la Déclaration universelle des droits de l'homme, ainsi que l'article 13 de la Convention européenne des droits de l'homme, énoncent en effet que le droit à un recours effectif en cas de violation des libertés et droits fondamentaux est un impératif. En France, il existe une telle voie de recours appelée le référé liberté, prévue à l'article L. 521-2 du Code de justice administrative.

Sensibiliser dès le plus jeune âge, une nécessité

Deuxièmement, le Livre blanc de la Commission européenne sur l'intelligence artificielle a expliqué que "les particularités qui caractérisent de nombreuses technologies de l'IA, notamment l'opacité ("effet de boîte noire"), la complexité, l'imprévisibilité et le comportement partiellement autonome, peuvent rendre difficile la vérification de la conformité aux règles du droit de l'UE en vigueur destinées à protéger les droits fondamentaux et peuvent entraver le contrôle de l'application de celles-ci".

Enfin, la coopération entre les États, les entreprises privées, les universitaires, les ONG, les organisations internationales et les citoyens pourrait permettre d'aboutir au développement et à l'utilisation d'une intelligence plus respectueuse des libertés et droits fondamentaux.

La sensibilisation des individus à l'intelligence artificielle, dès le plus jeune âge, est également primordiale afin que chacun ait un bon usage de ces technologies et comprenne leur influence dans nos vies.

Louise Allard est étudiante à l'EDHEC Business School, LLM Law & Tax Management.


Des usages innombrables, un marché qui pèse de plus en plus lourd

Infographie: Le futur de l'intelligence artificielle | Statista Vous trouverez plus d'infographie sur Statista




Julien VERCHÈRE
Journaliste

Ses derniers articles

Abonnez-vous à l'offre Papier + Numérique

Le Tout Lyon Journal d'annonces légales et d'informations économiques pour le département du Rhône

  • ›   Pour plus de contenu, papier + web
  • ›   l’accès aux annonces légales,
  • ›   l’accès aux ventes aux enchères.
Je m'abonne

À lire également


Réagir à cet article

Message déjà envoyé Adresse e-mail non valide


Fermer
En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies et de technologies similaires par notre société ainsi que par des tiers, afin de réaliser des statistiques d'audiences et de vous proposer des services éditoriaux et la possibilité de partager des contenus sur des réseaux sociaux. En savoir plus / paramétrer