L'appel à l'apport et au contrôle citoyen

A l'appel de Michaël DELAFOSSE, Maire de Montpellier, Président de Montpellier Méditerranée Métropole

avec l'aide de Cédric VILLANI, mathématicien, lauréat de la médaille Fields (2010) et expert auprès de notre Convention

Nous, membres de la « Convention citoyenne pour l’Intelligence Artificielle au service des habitants et du territoire » installée à Montpellier,

avons rédigé un avis destiné aux élus du Conseil de Montpellier Méditerranée Métropole.

Nous nous sommes penchés durant plusieurs semaines sur les enjeux soulevés par le recours de plus en plus massif à l’Intelligence Artificielle (IA). Nous nous sommes formés, nous avons auditionné des experts, nous avons débattu, nous avons rédigé. Cédric Villani, expert mondialement connu et auteur d’un rapport qui a durablement orienté la stratégie française en matière d’Intelligence Artificielle, nous avait averti : le sujet est compliqué.

Cinq principes ont guidé nos travaux :

Construire la confiance

comprendre comment les intelligences artificielles fonctionnent pour pouvoir définir les conditions de leur utilisation en confiance.

Construire la transparence

sans transparence, difficile d’établir la confiance.

Agir avec éthique et mesure

ne pas céder aux effets de mode, analyser les enjeux et placer l’humain au centre de nos travaux.

Agir avec maîtrise

le déploiement des IA ne peut se faire en confiance que s’il est maîtrisé, et pas subi.

Agir de façon démocratique

imaginer des mécanismes de gouvernance de l’IA mais aussi démocratiser la compréhension et la formation à ce qu’est l’Intelligence Artificielle.

Dans le respect de ces principes, la Convention citoyenne a formulé des recommandations, mais aussi posé des conditions pour le déploiement d’IA publiques de confiance au service du territoire et des habitants.

La Convention citoyenne demande à la Métropole de Montpellier de veiller à choisir des IA véritablement utiles.

Elle juge essentiel que leur impact environnemental soit maîtrisé et que la protection de la vie privée soit garantie. Elle souhaite l’instauration de dispositifs de contrôle neutres et indépendants ainsi que l’instauration de règles de transparence. La Convention souhaite aussi que la Métropole soit autonome dans sa capacité à garder la maîtrise de ces outils d’IA. Elle propose un cadre pour son déploiement dans le service public, au bénéfice des usagers et dans l’accompagnement des agents publics.

Enfin, parce l’IA doit être l’affaire de tous, notre Convention propose aussi des actions en faveur de la formation du plus grand nombre.

L’Intelligence Artificielle est certes un sujet complexe et interdisciplinaire mais dans lequel les problèmes techniques sont minoritaires. En revanche, les enjeux majeurs sont humains, philosophiques et éthiques. Cette Convention représente une opportunité inédite de croiser les regards sur l’IA et de fournir des préconisations utiles pour les habitants. Grâce au travail des membres de cette Convention, la Métropole sera mieux préparée à affronter l’avenir, et pourra progressivement s’adapter à l’évolution de l’Intelligence Artificielle sur son territoire.

Notre approche sur l’Intelligence Artificielle est unique en France, elle se fait en partage avec les citoyens sur une Convention totalement inédite. L’Intelligence Artificielle prend déjà une place centrale dans notre quotidien et soulève de nombreuses questions sociétales. La méthode de Montpellier, c’est celle du faire ensemble, d’une dynamique de partage entre les acteurs de la recherche, les entreprises et les collectivités territoriales. Grâce à ces forces vives, notre territoire s’inscrit comme une place forte de l’Intelligence Artificielle en France.

---

Conclusion

Les 40 citoyennes et citoyens qui ont participé à cette première Convention territoriale en France consacrée à l’Intelligence Artificielle, se sont formés, ont auditionné de nombreux experts, ont analysé des sujets nouveaux, rédigé de nombreuses propositions, et ont beaucoup appris.

Au moment de conclure cet avis, la Convention citoyenne veut insister sur cette expérience humaine, riche, intense, passionnante, instructive et que tous espèrent surtout utile.

La Convention citoyenne veut insister sur deux points prioritaires. Pour les citoyens réunis autour de ce travail, il est essentiel qu’en toutes circonstances l’Intelligence Artificielle reste sous contrôle humain. Appliqué au service public, ce principe signifie que l’IA peut aider à la décision mais l’IA ne doit pas prendre de décision à la place des agents publics.

Le développement de l’IA est très rapide. Les règles juridiques suivent mais doivent s’adapter et sont souvent en retard sur les avancées technologiques. C’est la raison pour laquelle des principes éthiques doivent encadrer, de façon volontaire, l’utilisation des IA. Appliquée à la Métropole, cette approche repose sur l’instauration d’un comité éthique.

Les participants souhaitent en conclusion dire l’importance que des suites soient données à leur avis. Dans les décisions de la Métropole, mais aussi dans d’autres réflexions qui peuvent être menées sur le territoire en matière d’Intelligence Artificielle.

Ils souhaitent aussi dire leur disponibilité et leur intérêt pour prolonger ces travaux.

Enfin, les participants soulignent que cet avis n’est pas figé, car en matière d’Intelligence Artificielle tout va très vite.

Cet avis est donc… à suivre !