L’intelligence artificielle (IA) est « l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine ». Elle englobe donc un ensemble de concepts et de technologies, plus qu’une discipline autonome constituée. Souvent classée dans le groupe des sciences cognitives, elle fait appel à la neurobiologie computationnelle (particulièrement aux réseaux neuronaux), à la logique mathématique (partie des mathématiques et de la philosophie) et à l’informatique. Elle utilise des méthodes de résolution de problèmes à forte complexité logique ou algorithmique. Par extension, elle comprend, dans le langage courant, les dispositifs imitant ou remplaçant l’homme dans certaines mises en œuvre de ses fonctions cognitives.

L’ONU justifie la nécessité d’instaurer de toute urgence, ces garde-fous ou un moratoire sur la vente et l’utilisation des systèmes d’intelligence artificielle (IA), par le « risque grave d’atteinte aux droits de l’homme ». « Les technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques si elles sont utilisées sans prendre suffisamment en compte la manière dont elles affectent les droits humains », a déclaré Michelle Bachelet, la Haut-Commissaire des droits de l’homme de l’ONU. Face à la capacité de l’IA à alimenter des violations des droits de l’homme à « une échelle colossale », les services de Mme Bachelet appellent la planète à agir dès maintenant. « Plus les risques pour les droits de l’homme sont élevés, plus les obligations légales relatives à l’utilisation des technologies de l’IA devraient être strictes », a affirmé la Haut-Commissaire.

Mme Bachelet veut une évaluation des risques des différents systèmes qui s’appuient sur l’intelligence artificielle. « Et puisque l’évaluation et la prise en compte des risques peuvent prendre un certain temps, les États devraient imposer des moratoires sur l’utilisation des technologies potentiellement à haut risque », a-t-elle fait valoir. Ce rapport, qui a été demandé par le Conseil des droits de l’homme, a porté sur la manière dont ces technologies ont souvent été mises en place sans que la façon dont elles fonctionnent ou leur impact n’ait été correctement évalué. Il analyse ainsi la manière dont l’IA, y compris le profilage, la prise de décision automatisée et d’autres technologies d’apprentissage automatique, affecte le droit de la population à la vie privée et d’autres droits, notamment les droits à la santé, à l’éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d’association, et à la liberté d’expression. 

Le document s’est penché sur l’un des aspects des système d’IA, qui sont parfois utilisés pour déterminer qui peut bénéficier de services publics, décident qui a une chance d’être recruté pour un emploi. Selon l’ONU, de nombreuses personnes ont déjà été « traitées injustement à cause de l’IA », comme se voir refuser des prestations de sécurité sociale à cause d’outils d’IA défectueux ou encore être arrêté(e) à cause d’un problème de reconnaissance faciale. Sur un autre plan, un ensemble de données biaisés sur lesquels s’appuient les systèmes d’IA peuvent conduire à des décisions discriminatoires. « Et ces risques sont encore plus élevés pour les groupes déjà marginalisés », alertent les services de Mme Bachelet. L’autre défi a trait aux « technologies biométriques, qui deviennent de plus en plus une solution de choix pour les États, les organisations internationales et les entreprises technologiques. Or ces technologies, qui incluent la reconnaissance faciale, sont de plus en plus utilisées pour identifier les personnes en temps réel et à distance, ce qui permet potentiellement un suivi illimité des individus. L’utilisation sécuritaire de l’intelligence artificielle nous conduit à une société de contrôle dirigé par des algorithmes.

« Celui qui a le contrôle du passé a le contrôle du futur. Celui qui a le contrôle du présent a le contrôle du passé. » Georges Orwell 1984

Nou artrouv’

David Gauvin