L'intelligence artificielle en procès

« Tout ce qui est neuf n’est pas nécessairement nouveau ». Cette pensée,
prêtée à Paul Ricoeur, semble parfaitement pouvoir tempérer les derniers
développements de la transformation numérique que nous sommes en train de
vivre, dont les tentatives de traiter des décisions de justice avec le
formalisme mathématique à des fins prédictives. L’on connaît pourtant déjà
bien les limites de la description de certains phénomènes, comme les
phénomènes sociaux, par des équations : confusion entre corrélations et
causalité, biais des données, data-dredging… De plus, enfermer les individus
dans le déterminisme du  chiffre ne présente-t-il pas toutes les
caractéristiques d’un projet de société totalitaire ?

Mais l’enchantement collectif opéré par le seul énoncé du terme, vague et
marketing « d’intelligence artificielle » (IA) semble aujourd’hui avoir
parfaitement occulté la réalité concrète de la mécanique sous-jacente de cette
dernière mode. L’apprentissage automatique (machine learning) et ses dérivés
ne sont en fait qu’une manière de créer de l’information en donnant du sens à
des données par diverses méthodes statistiques et nombre de concepteurs
semblent ne pas se soucier de ces limites. Les exemples européens et
internationaux les plus divers nous parviennent sur des utilisations sans
conscience de ces nouveaux systèmes computationnels : évaluation de la
dangerosité aux États-Unis, « crédit social » en Chine, tentatives de
manipulations avérées de l’opinion publique sur les réseaux sociaux à
l’occasion du Brexit ou de l’élection de Donald Trump.

Il y aurait donc peut-être un nouvel impératif catégorique qui s’imposerait à
tout citoyen : celui de comprendre les enjeux de cette société numérique, au
prix d’une autopsie minutieuse, technique et politique, de ce que l’on appelle
« l’IA ». Cela pour en déduire une réponse juridique forte, puisque en
dressant un état en droit comparé des cadres existants en Europe et dans le
monde, nous avons besoin d’instruments clarifiés pour défendre l’État de
droit, la démocratie et les droits de l’homme.