La Cour constitutionnelle fédérale a classé le logiciel Palantir sous sa forme actuelle en Hesse et à Hambourg comme inconstitutionnel.

Le traitement automatisé des données personnelles avec le logiciel Palantir Gotham, pratiqué en Hesse depuis 2017 et en préparation à Hambourg, est apparemment inconstitutionnel. La Cour constitutionnelle fédérale est récemment parvenue à la même conclusion (Az. 1 BvR 1547/19 et autres). Le Land de Hesse a désormais jusqu’à fin septembre au plus tard pour un nouveau règlement. Jusque-là, le règlement restera en vigueur avec des restrictions importantes.

Le logiciel utilise également NRW. Mais l’Office de la police criminelle de l’État bavarois (BLKA) a également annoncé en mars de l’année dernière qu’il avait l’intention d’utiliser le programme de la société controversée Palantir Deutschland GmbH pour le travail de la police dans le cadre du projet de « Système de recherche et d’analyse procédurale » (VeRA).

Cependant, le verdict actuel ne concerne que l’utilisation du logiciel d’analyse de données par la police de Hesse et de Hambourg. La restriction aux deux États fédéraux est basée sur le fait que les poursuites provenaient de ces États. Des journalistes, des avocats et des militants ont comparu en tant que plaignants. La décision s’étend exclusivement à l’analyse des données pour la lutte préventive contre les infractions pénales.

Les critiques craignent les abus

Selon la description, la base de données et le logiciel de recherche Palantir, Gotham, seraient comparables à un touche-à-tout. La solution logicielle est capable de structurer, d’analyser et de visualiser d’énormes quantités de données et de reconnaître les connexions.

D’une part, elle pourrait annoncer un tournant dans le travail d’investigation, mais d’autre part, elle recèle aussi de nombreux risques. Bien que le logiciel soit puissant, c’est aussi une énorme pieuvre de données. Les critiques craignaient que les passants ne soient également ciblés par les enquêteurs.

Le logiciel Palantir est utilisé spécifiquement pour l’analyse des données. Il est destiné à relier et à évaluer les informations existantes provenant de diverses bases de données. Avant l’introduction du programme, les analystes de la police devaient encore évaluer manuellement toutes ces données. Mais ce ne serait plus d’actualité de fonctionner comme ça.

La masse de données stockées n’a cessé d’augmenter. Dans le même temps, la technologie a évolué pour traiter de telles quantités de données. La police est donc également intéressée à utiliser ce qui est déjà techniquement possible pour elle-même.

14 000 requêtes par an

Plus précisément, Hessendata est utilisé pour lutter contre le terrorisme, le crime organisé et la pédopornographie. Plus de 2 000 enquêteurs travaillent avec le système dans tout le pays pour environ 14 000 requêtes par an. Cependant, ils ne sont activés que pour leur domaine de responsabilité.

Cependant, les juges constitutionnels reconnaissent l’utilisation du logiciel Palantir comme une finalité légitime. Ils ont confirmé que grâce à la nouvelle technique « Il est possible d’acquérir des connaissances pertinentes qui ne pourraient pas être acquises par d’autres moyens plus respectueux des droits fondamentaux ».

Une critique, cependant, était que la police « Créez des profils complets de personnes, de groupes et de milieux en un seul clic ». Ils ont laissé ça « une large inclusion de données de passants, qui pourraient donc faire l’objet de mesures d’enquête policière. » Avec l’application pourrait « de nouvelles informations liées à la personnalité sont générées auxquelles il n’y aurait autrement aucun accès ».

Les juges reconnaissent un high ici « poids d’intervention ». Dans ce contexte, l’utilisation du logiciel Palantir aurait été autorisée dans bien trop de cas.

Le jugement sur l’utilisation du logiciel Palantir affecte également d’autres États fédéraux

Le procureur Bijan Moini de la Society for Freedom Rights (GFF) a déclaré que le verdict avait « Réduit considérablement le risque que des citoyens innocents soient ciblés par la police ». Des obstacles plus importants au déploiement du logiciel Palantir pour le maintien de l’ordre seraient « Important car l’automatisation du maintien de l’ordre ne fait que commencer. » À l’automne, le GFF a déposé une troisième plainte constitutionnelle concernant le logiciel NRW, mais celle-ci n’a plus été examinée dans la procédure.

Selon le Tagesspiegel, tant les députés verts du Bundestag Misbah Khan que Konstantin von Notz estiment que la décision « Avoir des effets considérables sur le travail de la police dans d’autres États fédéraux » devenir.

L’eurodéputé et militant des droits civiques Dr. Patrick Breyer (Parti Pirate) salue le verdict :

« La tentative lucrative d’acteurs étrangers d’établir des méthodes d’espionnage de type NSA avec la police allemande a cessé. Cela protège les citoyens innocents d’être soudainement pris pour cible par la police en raison d’algorithmes arbitraires opaques et peu fiables. Le travail d’enquête ciblé fonctionne différemment.

Avec le projet de loi sur l’IA, nous, au Parlement européen, visons depuis longtemps la « police prédictive ». Dans le même temps, cependant, Europol obtient ce qui est interdit en Allemagne selon la décision d’aujourd’hui, qui invite les gens à fuir les droits fondamentaux. J’espère que le jugement d’aujourd’hui établira des normes dans toute l’Europe et que la Cour de justice européenne suivra. »