Grand débat : l’intelligence collective livrée à l’intelligence artificielle ?

Grand débat : y participer ou pas ? Telle est la question. Pour se faire un avis, autant aller voir comment ça se passe. Au-delà des échanges en présentiel, c’est bien la synthèse qui pose question. Restitution d’une soirée bretonne.

Dans le cadre du Grand débat, mercredi 13 février, j’ai assisté à un débat (CQFD) en Bretagne. Cinquante personnes étaient présentes [on me dit qu’à la précédente réunion, le 7 février, ils étaient cent]. L’adjoint au maire à la citoyenneté fait office d’«animateur». Il présente rapidement les règles, elles sont claires. Elles suivent les grandes lignes de la charte envoyée par le gouvernement pour l’organisation de ce débat. On prend la parole chacun son tour, sans s’interrompre, et on s’efforce de faire des propositions sur les deux thématiques du soir : la transition écologique et la démocratie/citoyenneté. Les deux autres thèmes (proposés pour ce grand débat), fiscalité et service public, ont été traités lors de la précédente rencontre. Deux «secrétaires» de séance volontaires (dans la salle) prennent les notes/propositions qui seront envoyées au préfet.

Pendant deux heures, des solutions locales, individuelles, d’autres plus globales, sont proposées. Chacun suggère en fonction de son expérience des pistes, des solutions, tout en mesurant les limites. Je n’énumérerai pas tout. Mais notons par exemple : arrêter de prendre sa voiture pour parcourir deux kilomètres par jour, proposer des produits locaux et bio dans les cantines, faire pression sur les supermarchés pour qu’ils éteignent leurs néons la nuit, taxer le kérosène, le fret maritime, redonner du poids au Conseil économique, social et environnemental (CESE), lancer un grand chantier de rénovation de l’habitat, etc.

Je trouve que c’est plutôt encourageant, même si je vois les limites de l’exercice. Comme le peu de personnes présentes par rapport au nombre d’habitants de la commune (environ quinze mille) ou encore la moyenne d’âge plutôt élevée (plus de 60 ans). L’unique jeune femme présente, étudiante, prendra la parole, témoignant qu’en étant boursière et avec des parents démunis, elle arrive à suivre une démarche responsable et que «c’est assez facile, et qu’avec ces petits pas, elle arrive à entraîner sa famille, sans les culpabiliser». Elle déclenchera la seule salve d’applaudissements de la soirée.

Du verbe à l’algorithme

Ce n’est pas parfait, mais je vois malgré tout une forme d’intelligence collective, où l’on tente de conjuguer social et environnemental. Comme cette réflexion sur le jugement majoritaire cher à Charlotte Marchandise, candidate désignée selon ce principe [les citoyens votent pour des programmes, et non pour des personnes], lors de la campagne présidentielle 2017. Le débat est courtois devant un constat unanime : nous sommes face à une crise de la représentativité et environnementale.

Très bien ! J’imagine que, partout en France, des débats de la sorte sont organisés durant lesquels des citoyen.ne.s cherchent à nous éviter le mur qui arrive, et imaginent ensemble un autre avenir. Mais ce qui m’interroge le plus, c’est quand, à la fin, j’échange avec l’élu qui a animé le débat. «Qu’allez-vous faire de toutes ces notes ?»

«Je vais les transmettre au préfet. Mais j’ai déjà un souci sur le premier débat, il me reste un tiers des notes à dactylographier. Plus celles de ce soir.»

«Et ensuite, comment le préfet va-t-il gérer ces notes ?»

«Ça devient un peu l’usine à gaz. On vient d’avoir l’information que tout va être sous-traité à une entreprise.»

Ah ! une entreprise va synthétiser les notes du Grand débat ! Vous le saviez, vous ?

En cherchant rapidement, effectivement, je trouve que : «Ces données seront ensuite analysées par des prestataires spécialisés dans l’intelligence collective et le traitement de données de masse.» Car «trier, classer, analyser, synthétiser les avis formulés par les Français est une tâche impossible avec seulement des moyens humains et dans un délai si court. Il faut en effet traiter les comptes rendus issus des réunions publiques, mais aussi les contributions en ligne et les cahiers de doléance». Et donc, «le gouvernement envisage d’avoir recours à l’intelligence artificielle. Les algorithmes pourraient par exemple repérer des mots ou formulations qui reviennent régulièrement.»

On pourrait avoir confiance… On pourrait, mais j’ai quand même des doutes…

Qui va rentrer les mots-clés ou récurrents ? Comment les algorithmes vont-ils les interpréter ?

Je reprends mon exemple de jugement majoritaire. Une expression, un type de scrutin peu connu, qui mérite explications (comme ce soir) mais qui, une fois énoncé, fait l’unanimité (ce fut le cas lors de notre réunion)… ou presque. Comment, parmi ces millions de mots verbalisés, tapés lors de ce Grand débat, l’expression «jugement majoritaire» – même si elle a une occurrence élevée – va-t-elle être comprise, interprétée ? Car un algorithme «n’est jamais que le reflet de choix politiques, de choix de société, mis en place par des développeurs».

Nous avons déjà de nombreux précédents. En voici un exemple : Amazon avait exclu de son service de livraison gratuite des quartiers avec des populations défavorisées, car ils n’offraient pas de possibilités de profits pour l’entreprise. «Même si l’objectif d’Amazon n’était assurément pas d’exclure de ses services des zones parce que leur population était majoritairement noire, tel s’avérait pourtant bien être le résultat de l’utilisation de cet algorithme […]. Il a pour effet de reproduire des discriminations préexistantes, quand bien même aucun racisme intentionnel n’est ici à l’œuvre.»

S’agit-il alors d’une volonté des développeurs, d’une réaction aux données utilisées pour entraîner l’intelligence artificielle, ou d’un peu des deux ?

Bref, les citoyen.ne.s fabriquent de l’intelligence collective et on la livre à l’intelligence artificielle…

Ça mérite un débat, non ?

PS : Je préfère avoir découvert cette info après avoir participé à une rencontre du Grand débat, car c’était quand même un chouette moment… Reste à transformer les données récoltées sans les algorithmes…

Par Pascal Greboval

Lire aussi :

François Boulo, porte-parole des gilets jaunes, invite à «sortir du coma politique»

Gilets jaunes et gilets verts, ensemble pour le climat