« Les humains sont moralement responsables de leurs actes, et il est impossible d’échapper à cette dimension morale. »

C’est ainsi que la Commission Éthique allemande, dont le rapporteur de la RGPD (Règlement Général sur la Protection des Données) fait partie, a introduit la sortie de ses recommandations en octobre 2019. Il s’agit d’un document où figurent des principes éthiques qui vont devoir guider le gouvernement allemand, mais aussi toute entité qui souhaite s’engager dans le développement d’un système algorithmique de traitement de données.

Les technologies numériques sont d’une importance systémique pour l’épanouissement de la démocratie. Elles permettent de façonner de nouvelles formes de participation politique, mais elles favorisent également l’émergence de menaces telles que la manipulation et la radicalisation. C’est à partir de cette considération que la Commission Éthique allemande met en garde les entreprises et les décideurs politiques. Compte tenu des grandes quantités de pouvoir accumulées grâce aux données et aux technologies, et des nouvelles menaces d’exclusion et de discrimination, la sauvegarde d’un accès équitable et d’une justice distributive est une tâche urgente. La numérisation devrait favoriser la participation et ainsi promouvoir la cohésion sociale.

C’est la raison pour laquelle les principes éthiques de base qui vont guider la réflexion sont : 

  • la dignité humaine 
  • l’autodétermination
  • la vie privée
  • la sécurité
  • la justice
  • la solidarité
  • la durabilité 
  • la démocratie. 

De plus, l’éthique des données vise à :

  • une responsabilité prévoyante
  • un respect des droits des parties concernés
  • une utilisation et partage des données pour le bien public
  • un niveau de sécurité des information adaptés aux risques 
  • une transparence axée sur les intérêts des peuples concernés. 

À la lumière de ces principes guides, la Commission Éthique recommande les choses suivantes :

  1. Que des mesures soient prises contre les utilisations éthiquement indéfendables des données. Parmi ces utilisations figurent la surveillance totale, le profilage qui constitue une menace pour l’intégrité personnelle, l’exploitation ciblée des vulnérabilités, les conceptions addictives et les modèles sombres, les méthodes d’influence sur les élections politiques qui sont incompatibles avec les principes démocratiques, le verrouillage des fournisseurs et le préjudice systématique causé aux consommateurs, ainsi que de nombreuses pratiques qui impliquent le commerce de données à caractère personnel. 
  2. Les lois sur la protection des données ainsi que d’autres branches du système juridique (y compris le droit privé et le droit sur les pratiques commerciales déloyales) prévoient déjà une série d’instruments qui peuvent être utilisés pour empêcher ces utilisations éthiquement indéfendables des données. Toutefois, malgré l’impact étendu d’un potentiel de préjudice énorme, trop peu a été fait jusqu’à présent pour exploiter la puissance de ces instruments, en particulier contre les géants du marché. Les différents facteurs qui contribuent à cette lacune dans l’application de la législation doivent être abordés de manière systématique. 
  3. Outre les mesures visant à sensibiliser les acteurs de première ligne (par exemple, les autorités de contrôle) aux options existantes, il est urgent d’étoffer et de renforcer le cadre législatif en vigueur dans certains domaines. Parmi les mesures recommandées, on peut citer l’établissement d’une liste noire des clauses contractuelles abusives spécifiques aux données, l’étoffement des obligations contractuelles de nature fiduciaire, de nouveaux délits spécifiques aux données et l’introduction d’un cadre législatif beaucoup plus détaillé pour le profilage, la notation et le commerce des données. 
  4. L’institution du « méta-consentement », à savoir un consentement intermédiaire, qui devrait apparaître parallèlement à d’autres efforts visant à clarifier les possibilités d’utilisation des données. 
  5. Donner des alternatives à la publication de leurs données à des fins commerciales (par exemple, des options alternatives de paiement pour l’exploitation d’un service en ligne).
  6. Lorsqu’une décision affecte un individu, celui-ci devrait pouvoir obtenir une explication pour obtenir des informations significatives sur la logique impliquée, ainsi que sur la portée et les conséquences prévues d’un système algorithmique. L’objectif est de fournir aux personnes qui sont affectées par une décision prise par des algorithmes des informations compréhensibles, pertinentes et concrètes. C’est pourquoi la Commission allemande de l’éthique des données accueille favorablement tout travail sur l’IA explicable.
  7.  Élargir le champ d’application de la législation anti-discrimination afin de couvrir des situations spécifiques dans lesquelles des personnes sont victimes de discrimination sur la base d’une analyse de données automatisée ou d’une procédure de décision automatisée. 
  8. Les systèmes algorithmiques peuvent tout au plus être utilisés pour des tâches périphériques. Les systèmes algorithmiques ne doivent pas être utilisés pour porter atteinte à l’indépendance fonctionnelle des tribunaux ou au processus démocratique. En revanche, il existe un potentiel énorme pour l’utilisation de systèmes algorithmiques dans le cadre de tâches administratives, en particulier celles relatives à la fourniture de services et de prestations. Le législateur devrait tenir compte de ce fait en donnant son feu vert à un plus grand nombre de procédures administratives partiellement et entièrement automatisées. 
  9. Les décisions prises par l’État sur la base de systèmes algorithmiques doivent rester transparentes et pouvoir être justifiées. 
  10. Une plus grande priorité doit être accordée aux solutions open-source, car ces dernières peuvent améliorer sensiblement la transparence des actions de l’État. 

Dans le but de trouver les moyens de défendre les concepts qui définissent le « bien »  et le « mal » concernant le traitement des données, le document publié par la Commission Éthique allemande a ouvert un débat à l’échelle européenne concernant les données personnelles des citoyens européens. C’est pour cela que La Petite Marianne, dès sa conception, cherche à remplir et à appliquer les principes éthiques énoncés, dans un souci de respect de la vie des citoyens et des communautés européennes entières.