<< Retour aux articles
Image

Algorithme et manipulation des comportements électoraux : la mise en garde du Conseil de l’Europe

Tech&droit - Intelligence artificielle
13/02/2019
Le Conseil de l’Europe alerte sur le risque démocratique que représentent certains processus algorithmiques, utilisés pour manipuler les comportements sociaux et politiques.
De plus en plus, l’intelligence artificielle est utilisée non seulement pour prédire les choix, mais aussi pour tenter d’influer sur les émotions et les pensées. « Les citoyens ne se rendent pas bien compte de la mesure dans laquelle les appareils du quotidien collectent et génèrent de vastes volumes de données. Ces données sont utilisées pour programmer les technologies d’apprentissage automatique à classer les résultats de recherche par ordre de priorité, prévoir et définir les préférences personnelles, modifier les flux d’information, et, parfois, soumettre les citoyens à des expérimentations comportementales », souligne le Comité de ministres dans sa déclaration du 13 février 2019. Pour le Conseil de l’Europe, « Les niveaux très subtils, subconscients et personnalisés de la persuasion algorithmique peuvent avoir des effets significatifs sur l’autonomie cognitive des citoyens et leur droit à se forger une opinion et à prendre des décisions indépendantes. Ces effets ne peuvent pas être sous-estimés même s’ils ne sont pas suffisamment étudiés ».
 
Le Comité des ministres s’inquiète ainsi de la « menace grandissante qui émane des technologies numériques de pointe et qui remet en cause le droit des êtres humains à se forger une opinion et à prendre des décisions indépendamment des systèmes automatisés », systèmes qui utilisent « des données personnelles et non personnelles pour classer et micro-cibler les citoyens, identifier les vulnérabilités individuelles, exploiter des connaissances prédictives précises, et reconfigurer les environnements sociaux afin d’atteindre des objectifs spécifiques et de répondre à des intérêts particuliers ».
 
Le Conseil de l’Europe vient donc d’inviter ses 47 États membres à maintenir un contexte favorable à l’exercice de l’esprit critique, le risque étant, sinon, que les citoyens :
- ne soient pas en mesure de se faire une opinion et de prendre des décisions en toute indépendance par rapport aux systèmes automatisés ;
- qu’ils fassent même l’objet de manipulations dues à l’utilisation de technologies numériques avancées, en particulier les techniques de micro-ciblage.
 
Le Comité des ministres encourage donc les États à prendre des mesures appropriées et proportionnées :
  • pour se doter de garanties juridiques effectives contre les interférences illégitimes ;
  • pour responsabiliser les utilisateurs (en promouvant les compétentes critiques en matière de littéracie numérique).
Concrètement, le Conseil de l’Europe insiste sur la nécessité :
  • d’évaluer les cadres réglementaires liés à la communication politique et aux processus électoraux afin de préserver l’équité des élections ;
  • de garantir que les électeurs ont accès à des niveaux d’information comparables sur tout le spectre politique ;
  • de garantir que les électeurs sont protégés contre des pratiques inéquitables et la manipulation.
 
Un sujet essentiel, qui sera l'un thèmes abordés lors de la conférence organisée par le Conseil de l’Europe, à Helsinki, les 26 et 27 février, intitulée « Maîtriser les règles du jeu – l’impact du développement de l’intelligence artificielle sur les droits de l’homme, la démocratie et l’État de droit ».
Source : Actualités du droit