Les "deepfakes" sont des contrefaçons d'images et de vidéos produites à l'aide de l'intelligence artificielle (IA). Ils sont principalement utilisés pour diffuser de la désinformation (politique), mais aussi pour manipuler des preuves d'identité numériques, déveloper des fraudes, mais aussi pour de nombreuses applications artistiques ou scientifiques. Avec l'expansion des procédures d'identification numérique, les fraudes basées sur les deepfakes ciblent de plus en plus les particuliers. Le projet FAKE-ID élabore des normes juridiques et éthiques qui peuvent être utilisées pour identifier et classer les images manipulées et les flux de données vidéo. Ce faisant, il jette les bases du développement d'un programme de détection qui peut à son tour utiliser l'IA pour évaluer l'authenticité (présumée) d'images et de vidéos numériques ou leur falsification.

Ce projet de recherche du FÖPS traite des exigences juridiques, éthiques et sociétales pour le développement d'un programme de détection basé sur l'IA et utilisé par la police. Ce projet aborde notamment les questions éthiques liées à l'utilisation de l'apprentissage automatique nécessaire au développement du système ; la transparence, la traçabilité et les responsabilités des décisions prises à l'aide d'une "IA faible" ; les exigences juridiques et éthiques liées à l'utilisation des résultats de la détection dans les procédures judiciaires ; et la protection contre les décisions exclusivement automatisées, conformément à l'article 22 du Règlement européen sur la protection des données. 22 du règlement européen sur la protection des données. À cette fin, FÖPS travaille en étroite collaboration avec des institutions gouvernementales et privées de technologie de l'information pour concevoir le détecteur basé sur les technologies IA à partir de zéro, conformément aux principes de la protection de la vie privée dès la conception (Privacy by Design) et par défaut (Default) dans le respect de la vie privée. Dans l'esprit de la recherche participative, FÖPS cherche également à créer une discussion approfondie avec les organisations non gouvernementales (ONG) qui se concentrent sur les dangers de l'utilisation de l'IA dans un contexte de sécurité.

Outre le HWR Berlin, le consortium FAKE-ID est composé de Bundesdruckerei GmbH (chef de file du consortium), de l'université Otto von Guericke de Magdebourg, de l'institut Fraunhofer Heinrich Hertz (HHI) et de BioID GmbH (BIOID). Des partenariats associés existent avec l'Office central des technologies de l'information dans le secteur de la sécurité (ZITiS), les bureaux de la police criminelle de Berlin et de Saxe-Anhalt, le groupe Deutsche Post DHL (DP), le réseau de cybersécurité de Saxe-Anhalt et l'université des sciences appliquées pour l'administration et les services (FHVD).

Le projet global est financé par le BMBF dans le cadre du domaine thématique "Intelligence artificielle dans la recherche sur la sécurité civile". Hartmut Aden et Sabrina Schönrock dirigent le sous-projet FÖPS.