Réunion ouverte sur l’éthique

Le débat est ouvert vendredi 24 mai, de 16h à 18h, au LORIA, en salle B013 !

Si cela vous intéresse, envoyez-moi un email ou prévenez-moi sur Mastodon.

Problématique

Les données sont présentes partout et les mouvements contestataires isolés (“aucun portable chez moi !”) ne résoudront rien; il faut changer de modèle. De nombreuses chartes et manifestes éthiques sur l’usage des données ont ainsi été proposés au cours de ces dernières années, et nous proposons d’en faire un recensement partiel et subjectif ci-dessous. N’hésitez pas à venir en discuter en m’envoyant un message public sur Mastodon.

Cette revue n’est pas le seul fruit de mon travail, mais elle résulte d’un travail collectif mené dans le cadre d’un groupe de travail sur l’éthique du projet OLKi, groupe qui n’a pas encore rédigé de rapport, et ce résumé n’est que ma vision personnelle d’une partie de ce travail. Cette réflexion est toujours en cours en 2020.

Revue de l’existant

Le nombre de chartes, manifestes, serments, initiatives qui ont récemment traité de l’éthique des données est impressionnant.

Citons par exemple, du côté des organismes officiels:

• Le Serment d’Hippocrate pour Data Scientist
• La Charte éthique et Big Data
• Les rapports du COERLE INRIA
• Le groupe éthique IA de l’UE et ses guidelines
• La déclaration de Montréal pour une IA responsable
• https://www.etalab.gouv.fr/algorithmes-publics-des-eleves-de-lena-formulent-une-serie-de-recommandations-sur-les-enjeux-dethique-et-de-responsabilite

Les associations ne sont pas en reste, avec par exemple:

• Les guidelines de l’association des chercheurs internet
• Le collectif Savoirs Com1
• Le blog Silex sur le RGPD ou l’affaire disinfolab
• Un manifeste éthique parmi d’autres
• Framasoft, qui publie demain les nains, plaidoyer pour une déconcentration des pouvoirs
• Wikipedia reste une excellente référence et propose d’autres pointeurs
• Les revues académiques comme The Conversation publient de nombreux articles sur l’éthique, par exemple sur le rôle des entreprises
• Les médecins s’y intéressent également, en dépassant le cadre des seules données de santé

Enfin, les grandes entreprises, comme Facebook et Google, se positionnent également en injectant par exemple 7.5M€ pour un centre éthique en IA en collaboration avec la Technical University of Munich.

Aller plus loin

Face à ce raz-de-marée d’initiatives éthiques, quel besoin y a-t-il à proposer voire même à réfléchir encore à une nouvelle charte sur l’usage éthique des données ? Bien au contraire, il ne faut surtout pas laisser les acteurs dominants ou institutionnels seuls maîtres à bord et décider unilatéralement de la “bonne” manière éthique de traiter les données selon eux. Les menaces pèsent sur les citoyens, et il faut donc les inclure autant que faire se peut dans la réflexion, et lorsque ce n’est pas possible, protéger leur vie privée sans concession.

Ainsi, la grande majorité de toutes les initiatives citées ci-dessus visent à ce que les citoyens “aient confiance” envers les usages qui sont faits de leurs données. Une telle confiance implique une forme d’abandon: le citoyen laisse faire, car les acteurs qui utilisent ses données ont promis de respecter des principes éthiques. Je pense au contraire que les citoyens ne doivent pas avoir confiance, et qu’il faut donc leur donner un moyen de contrôle a posteriori, pour qu’ils puissent vérifier par eux-mêmes qu’il est fait un bon usage de leurs données. Un tel contrôle est impossible sans transparence sur les données, les algorithmes et surtout les modèles qui sont issus des données. Il faut donc ouvrir également les modèles, avec des licences open-source appropriées, pour permettre ce contrôle a posteriori. Bien sûr, tous les citoyens ne réaliseront pas ce contrôle, mais cette possibilité doit rester ouverte, afin que tous ceux qui en ont la possibilité et l’intérêt, notamment les associations de défense des libertés, puissent réaliser ce contrôle à tout moment.