Les problématiques soulevées par les algorithmes et l’IA

Pour formuler ces principes fondateurs et les recommandations, le rapport s’est basé sur  6 problématiques essentielles remontées lors des débats afin de relever le défi éthique posé par ces technologies :

1. L’autonomie humaine au défi de l’autonomie des machines :

Algorithmes et intelligence artificielle permettent la délégation croissante de tâches, de raisonnements ou de décisions de plus en plus critiques à des machines. Souvent jugées infaillibles et « neutres », celles-ci n’ouvrent-elles pas la voie à une confiance excessive et à la tentation pour chacun de ne pas exercer pleinement ses responsabilités ? Comment faire face aux formes nouvelles de dilution de la responsabilité qu’impliquent des systèmes algorithmiques complexes et très segmentés ?

2. Biais, discrimination et exclusion :

Biais, discrimination et exclusion constituent des effets clairement identifiés des algorithmes et de l’intelligence artificielle. Parfois volontaires, ces phénomènes sont, à l’heure du déploiement des algorithmes de machine learning, le plus souvent inconscients et difficilement repérables. Comment appréhender cette nouvelle problématique ?

3. Fragmentation algorithmique : la personnalisation contre les logiques collectives :

La personnalisation constitue l’une des grandes promesses de l’algorithme tel qu’il s’est construit avec le Web. Bien que des bénéfices certains pour l’individu émanent de la segmentation et du profilage, comment peuvent-ils tout autant affecter vigoureusement des logiques collectives essentielles à la vie de nos sociétés (pluralisme démocratique et culturel, mutualisation du risque) ?

4. Entre limitation des mégafichiers et développement de l’intelligence artificielle : un équilibre à réinventer :

L’intelligence artificielle nécessite d’importantes quantités de données à des fins d’apprentissage. Elle suscite également de nombreuses promesses. Comment exploiter celles-ci tout en maintenant l’impératif de protéger les libertés individuelles de chacun, intrinsèque à la législation européenne de protection des données personnelles ?

5. Qualité, quantité, pertinence : l’enjeu des données fournies à l’IA :

L’entraînement d’un algorithme d’apprentissage implique de l’alimenter avec des données sélectionnées avec soin, pertinentes au regard de l’objectif poursuivi et en quantité suffisante. Comment parvenir à une telle attitude critique en dépit de la tendance à une confiance excessive dans la machine ?

6. L’identité humaine au défi de l’intelligence artificielle :

L’idée d’une spécificité humaine irréductible se voit questionnée par l’autonomie grandissante des machines ainsi que par l’apparition de formes d’hybridation entre humains et machines. Faut-il et est-il possible de parler au sens propre d’« éthique des algorithmes » ? Comment appréhender cette nouvelle classe d’objets que sont les robots humanoïdes, susceptibles d’engendrer chez l’homme des formes d’affect ?

Les 6 recommandations opérationnelles

Ces principes font l’objet d’une déclinaison sous la forme de 6 recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.) :

1. Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
2. Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
3. Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ;
4. Constituer une plateforme nationale d’audit des algorithmes ;
5. Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
6. Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées).

Quelques vidéos sur

C’est quoi l’intelligence artificielle ? Découvrir #1

L’intelligence artificielle: Qu’est-ce que c’est ?

Pourquoi l’intelligence artificielle a besoin d’éthique

Mais Le saviez-vous ? L’intelligence artificielle n’est pas… intelligente