Cet article du Monde donne "ce qu'il faut retenir" du rapport Villani sur l'Intelligence Artificielle :
http://www.lemonde.fr/pixels/article/2018/03/28/intelligence-artificielle-ce-qu-il-faut-retenir-du-rapport-de-cedric-villani_5277697_4408996.html
1. Quand on demande un rapport à un chercheur, ils disent (le chercheur et son rapport) qu'il faut développer la recherche.
Si on avait demandé un rapport sur l'IA à un écolo, ils diraient qu'il faut développer l'écologie ; si c'était un syndicaliste, il faudrait développer le dialogue social ; si c'était un écrivain, il faudrait développer la littérature.
Par exemple, à l'heure où la Grande-Bretagne sort de l'Union Européenne, M. Villani n'a pas l'air de considérer comme importante l'idée de développer des traducteurs automatiques qui permettraient de se passer de l'anglais comme lingua franca ; à l'heure où l'Éducation Nationale est en échec patent, M. Villani n'a pas l'air de trouver prometteur d'utiliser l'IA dans l'enseignement...
En fait, la vérité, c'est que la recherche en IA est déjà bien avancée (notamment dans les labos des GAFAM, qui ne publient rien mais qui déposent des brevets à tour de bras pour empêcher le reste du monde de savoir ce qu'ils font) et qu'il n'est pas utile de la développer encore. Ce qu'il faut développer, ce sont :
- La vulgarisation, pour que les citoyens sachent ce qu'ils ont à attendre et à craindre de l'IA.
- Les approches juridiques et socio-juridiques de l'IA, pour que la puissance publique et les ONG puissent éviter les abus avant qu'ils se produisent, ou analyser les abus déjà commis pour éviter qu'ils se reproduisent.
- Éventuellement, des applications pratiques, claires et quotidiennes de l'IA, c'est-à-dire pas développées en secret par des multinationales privées ni par des antiterroristes cachés, et pas publiées en jargon incompréhensible par les laboratoires de recherche, mais réalisées par des sociétés de petite taille dont les instances démocratiques puissent contrôler correctement la transparence et la bienveillance.
2. M. Villani suggère en même temps d'alléger la réglementation et de laisser agir le capital-risque dans le domaine de la recherche en IA.
On se demande bien quels règlements il veut suspendre au juste ? Le droit d'utiliser des données nominatives, par exemple ? Et ceci entre les mains des requins de la finance ? M. le député a-t-il encore toute sa raison ? Est-il encore conscient que sa mission est d'agir pour les citoyens et pas contre eux ?
On peut suspendre temporairement les règlements pour favoriser la recherche en chimie, par exemple : s'il arrive un accident, il sera d'ampleur modérée, et on arrivera à nettoyer la zone polluée, d'une taille comparable à celle du laboratoire. Mais on ne peut pas suspendre temporairement les règlements dans un domaine où la moindre erreur conduit à une catastrophe : par exemple, il est hors de question de suspendre les règlements dans la recherche sur les maladies contagieuses, ou d'autoriser des recherches en plein air sur des plantes transgéniques qui répandraient leur pollen dans la nature.
En informatique en général, dès que des données sont collectées, il faut les considérer comme enregistrées pour l'éternité : il y a toujours quelque part une copie qui survivra à une demande d'effacement (une copie de sûreté sur un disque dur mis au rebut mais conservé parce que "ça peut servir", un fichier envoyé par mail et restant dans la boîte aux lettres, une copie de sûreté automatique de la dite boîte aux lettres, ...). Et dès que des données sont accessibles, il faut les considérer comme publiques : il y aura toujours un pirate pour les mettre en ligne quelque part (souvent pour des raisons louables, d'ailleurs, comme de démontrer les failles de sécurité ou de révéler de la corruption).
Autrement dit : dès que quelqu'un est autorisé à collecter des informations à votre propos et à les rendre accessibles, ces informations sont connues du monde entier et pour toujours. Les règlements actuels sont beaucoup trop permissifs et autorisent tous les abus, il serait complètement irresponsable de les alléger encore, a fortiori dans le cadre de recherches qui justement, voudraient explorer ce qu'il est possible de tirer de ces données, et qui seraient financées par les organisations mystérieuses et incontrôlables du capital-risque.