Depuis octobre 2019, l’entreprise qui développe La Petite Marianne, Les Petits Bots, a invité une doctorante en philosophie à rejoindre le projet. Soucieuse de comprendre les enjeux engendrés par l’utilisation d’un chatbot au service des citoyens, notre équipe a décidé de participer à un projet de recherche en philosophie politique et éthique appliquée.

En contrat CIFRE (Convention Industrielle de Formation pour la REcherche), Giada Pistilli répond à quelques questions concernant la conception de La Petite Marianne, son rôle au sein de la société et ses enjeux éthiques. 

Quel est ton parcours académique et professionnel ? 

G.P. : « Après avoir obtenu ma licence en sciences politiques des relations internationales en 2015 (Italie et Sciences Po Rennes), j’ai eu l’occasion de travailler en tant que conseillère en matière politique au sein de la sous-commission droits de l’homme du Parlement Européen. Cette expérience m’a permis de prendre du recul vis-à-vis de mon parcours, ce qui m’a amenée, à la suite d’autres expériences professionnelles en Europe, à entreprendre un master en philosophie politique et éthique à Sorbonne Université en 2017. C’est grâce à cette formation en recherche que je me suis approchée de la philosophie politique contemporaine et l’éthique appliquée à la technologie. En effet, mon parcours varié en sciences sociales m’a fourni les outils nécessaires pour comprendre et analyser les phénomènes sociaux. »

Qu’est-ce qui t’as amenée à travailler sur ce projet ? 

G.P. : « Pendant mes études à Sorbonne Université, je me suis particulièrement intéressée à la philosophie morale et à l’éthique appliquée. C’est en effet le côté empirique et appliqué des matières philosophiques ce qui a toujours attiré mon attention : l’on croit souvent que la philosophie est une matière scolastique, reliée au milieu purement académique et littéraire. Néanmoins, elle est présente dans tous nos choix quotidiens, toutes nos actions sociales. Cette lecture des sciences philosophiques m’a amenée à réfléchir à la manière dont les nouvelles technologies agissent dans nos vies, notamment les systèmes d’intelligence artificielle et les agents conversationnels. Leur puissance et leur possible intégration au sein de la société amènent inévitablement à la question de leur utilisation : comment faire face aux enjeux et aux risques que les nouvelles technologies engendrent ? Comment réglementer tout cela, tout en respectant l’intégrité humaine ? C’est l’éthique appliquée à la technologie qui vient à notre aide et qui guide les sciences dures à une correcte utilisation de ces outils, à savoir au service du bien et des humains. Dans mon raisonnement, cette problématique a été suivie par une question d’organisation du pouvoir au sein de la société : la démocratie. Je me suis demandée s’il était possible de se servir des outils technologiques pour améliorer le fonctionnement et l’organisation des démocraties de la société locale, tout en gardant en tête les principes éthiques qui guident leurs conceptions et leurs déploiement. Certains professeurs me prenaient pour une rêveuse, car à leurs yeux l’idée n’était pas réalisable. C’est à ce moment là où j’ai découvert le projet de La Petite Marianne, qui avait les mêmes objectifs que les miens ; un chatbot devient intermédiaire entre deux acteurs qui sont de plus en plus éloignées dans les sociétés contemporaines : d’un côté, les collectivités territoriales et, de l’autre côté, les citoyens. Avoir l’opportunité de travailler sur un projet pareil n’est pas seulement inspirant, mais il donne aussi de l’espoir pour une réelle amélioration de la démocratie et des institutions publiques d’aujourd’hui, tout en fournissant des dispositifs de démocratie participative aux citoyens. »

Quel est ton rôle dans l’entreprise ? 

G.P. : « Les Petits Bots ont tout de suite compris ce qui avait en jeu lorsqu’ils ont décidé de lancer ce projet ambitieux : comment faire en sorte que La Petite Marianne respecte l’autonomie des citoyens concernés ? Comment concevoir un chatbot qui ne met pas en danger le correct déroulement des processus démocratiques ? Comment déployer un outil qui engage les citoyens et les collectivités territoriales ? Comment rendre les prises de décisions politiques et publiques plus transparentes ? Ou encore, à l’ère digitale des données, comment protéger celles des utilisateurs dans le respect de la RGPD ? Ces questions, parmi d’autres, sont soulevées lorsque l’on s’engage dans le développement d’un outil qui inspire à être déployé au sein de la société civile. C’est pour cela que, en tant qu’ingénieure de recherche et cheffe développement produit, je travaille sur la meilleure manière de répondre à toutes ces problématiques, afin de garantir une correcte intégration de La Petite Marianne au sein des collectivités territoriales. De plus, avec l’entreprise, nous avons décidé de nous engager dans l’écriture d’une véritable charte éthique qui illustrera les principes éthiques garantis dans le développement du chatbot, son fonctionnement et ses résultats finaux. Pour le dire autrement, mes recherches vont aider, conseiller et accompagner La Petite Marianne et ses clients. »

Pourquoi la philosophie et l’éthique sont-elles importantes pour cet outil ? 

G.P : « Comme je disais plus haut, la philosophie, mère de toutes les sciences, permet de prendre du recul sur des questions qui parfois paraissent évidentes. Ce que je répète souvent c’est qu’elle permet de prendre le temps de réfléchir et d’aborder des questions dans leur ensemble. Lorsque l’on fait face à une décision à prendre, la philosophie éclaircit des détails, des options, des réponses alternatives, etc. qu’autrement on n’aurait pas vus. Il faut l’imaginer comme un acheminement de raisonnements qui prennent en considération plusieurs chemins à la fois. Par exemple, si dans le développement de La Petite Marianne il faut faire un choix de design qui paraît banal, la philosophie nous donne des outils conceptuels qui favorisent l’efficacité de ce choix. En plus de cela, la philosophie politique va être essentielle lorsque nous allons creuser le module participatif du chatbot : la démocratie étant une invention de la philosophie athénienne, la littérature scientifique contemporaine fournit les outils nécessaires pour aborder cette notion. Pour ce qui concerne l’éthique, discipline qui porte sur les jugements moraux, son application va paraître peut-être encore plus évidente. Pour le dire simplement, elle répond aux questions de ce qu’il faudrait faire et ce qu’il ne faudrait pas faire, afin de construire quelque chose qui vise toujours le bien des êtres humains. Même si cela paraît très vaste, dans le cas de La Petite Marianne cela se traduit par l’éthique des algorithmes, des données et de leur traitement, et de l’intelligence artificielle. Cela signifie qu’avant et pendant son développement, le chatbot suit des principes éthiques qui guident non seulement son design mais aussi son application et utilisation. Pour donner un exemple, le principe éthique de transparence, d’un côté engage l’outil à un traitement des données personnelles clair et respectueux des droits des citoyens, et de l’autre côté engage les collectivités territoriales à une utilisation bienveillante au moment où elles s’en servent pour prendre des décisions d’ordre politique. L’ensemble des deux disciplines philosophiques garantit ainsi l’engagement des Petits Bots au développement d’un outil avec un design éthique, et conçu avec une réelle et profonde réflexion derrière. »