Forschungsgruppe - Verantwortungsvolle KI für Biometrie
Biometrische Systeme erfreuen sich weltweit großer Beliebtheit und wirken sich zunehmend auf unser tägliches Leben aus. In Smart Homes wird beispielsweise Stimmerkennung eingesetzt, am Flughafen werden Gesichtsbilder verwendet, um die behauptete Identität einer Person zu überprüfen, oder Fingerabdrücke werden zum Entsperren von Smartphones verwendet. Die hohe Leistungsfähigkeit aktueller biometrischer Systeme basiert auf Entwicklungen im Bereich des Deep Learning. Der Erfolg bei der Adaption dieser Techniken für die Erkennung geht jedoch auf Kosten von wichtigen Diskriminierungsfaktoren wie Fairness, Privatsphäre, Zuverlässigkeit und Erklärbarkeit. Da biometrische Systeme zunehmend auch in kritische Entscheidungsprozesse einbezogen werden, etwa in der Forensik und der Strafverfolgung, besteht ein wachsender Bedarf in der Entwicklung verantwortungsvoller KI-Algorithmen für biometrische Lösungen.
- Fairness - Viele biometrische Lösungen beruhen auf Lernstrategien, die die gesamte Erkennungsleistung optimieren. Da diese Lernstrategien stark von den zugrundeliegenden Eigenschaften der Trainingsdaten abhängen, ist die Performance der erlernten Lösungen auch stark von den Eigenschaften des Datensatzes abhängig, z. B. von demografischen Aspekten. Dies kann zu starken diskriminierenden Effekten führen, z. B. bei forensischen Untersuchungen oder der Strafverfolgung.
- Datenschutz - Die erlernte biometrische Repräsentation eines Individuums enthält mehr Informationen als nur die Identität des Individuums. Datenschutzrelevante Informationen wie Geschlecht, Alter, ethnische Zugehörigkeit und Gesundheitszustand sind aus einer solchen Darstellung ableitbar. Da bei vielen Anwendungen davon ausgegangen wird, dass die Vorlagen nur zu Erkennungszwecken verwendet werden, wirft das Vorhandensein weiterer Informationen erhebliche Datenschutzbedenken auf. So kann beispielsweise der unbefugte Zugriff auf datenschutzrelevante Informationen einer Person zu einer ungerechten oder ungleichen Behandlung dieser Person führen.
- Zuverlässigkeit - Die Entscheidung biometrischer Systeme hat oft starke Auswirkungen auf die Benutzer. Zudem können falsche Entscheidungen mit hohen finanziellen und gesellschaftlichen Folgen verbunden sein. Daher ist es wichtig, Algorithmen zu entwickeln, die nicht nur in der Lage sind, genaue Entscheidungen zu treffen, sondern auch ihr eigenes Vertrauen in eine Entscheidung genau angeben können. In der Praxis kann dies dazu beitragen, ungerechtfertigte Handlungen auf der Basis von Fehlentscheidungen zu vermeiden. Darüber hinaus kann die Wahrscheinlichkeit eines Fehlers weiter verringert werden, wenn Entscheidungen mit geringem Vertrauen vollständig vernachlässigt werden oder stattdessen ein System mit größerem Vertrauen oder ein menschlicher Bediener hinzugezogen wird.
- Erklärbarkeit - Die derzeitigen biometrischen Erkennungssysteme liefern dem Benutzer hauptsächlich Vergleichswerte und Übereinstimmungsentscheidungen, ohne zu begründen, wie die Entscheidung zustande gekommen ist. Dies wird durch den Black-Box-Charakter der derzeitigen KI-basierten biometrischen Lösungen noch verstärkt. Der Mangel an Transparenz hindert Menschen daran, die Gründe für ein System und die Art und Weise, wie bestimmte Entscheidungen getroffen werden, zu überprüfen, zu interpretieren und zu verstehen. Die erklärbare Biometrie zielt darauf ab, den Erkennungsprozess für den Menschen verständlich zu machen und gleichzeitig dessen hohe Leistung beizubehalten.
Leitung
Nachwuchsgruppenleiter -
Büro: F2.104
Telefon: +49 5251 60-6657
E-Mail: philipp.terhoerst@uni-paderborn.de
Web: Homepage
Doktoranden
Wissenschaftliche Mitarbeiterin
Büro: F2.308
E-Mail: rouqaiah.al.refai@uni-paderborn.de
Wissenschaftlicher Mitarbeiter
Büro: F2.311
E-Mail: sushil@mail.uni-paderborn.de
Sekretäriat
Sekretärin - Sekretariat Dr.-Ing. Philipp Terhörst
Büro: F2.303
Telefon: +49 5251 60-6665
E-Mail: lydia.kreiss@uni-paderborn.de
Sprechzeiten:
Montag - Donnerstag: 09:00 - 16:00 Uhr
Publikationen
Bay-CoFE: Bayesian consistency-driven feature elimination for eXplainable AI
R.P. Bora, P. Terhörst, R.N.J. Veldhuis, R. Ramachandra, K.B. Raja, Neurocomputing 667 (2026) 132219.
FRIES: Framework for inconsistency estimation of saliency metrics
R.P. Bora, P. Terhörst, R.N.J. Veldhuis, R. Ramachandra, K.B. Raja, Pattern Recognit. 171 (2026) 112136.
From Pixels to Words: Leveraging Explainability in Face Recognition Through Interactive Natural Language Processing
I. DeAndres-Tame, M. Faisal, R. Tolosana, R. Al-Refai, R. Vera-Rodriguez, P. Terhörst, in: Lecture Notes in Computer Science, Springer Nature Switzerland, Cham, 2025.
Effective Backdoor Learning on Open-Set Face Recognition Systems
D. Voth, L. Dane, J. Grebe, S. Peitz, P. Terhörst, in: 2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), IEEE, 2025.
FALCON: Fair Face Recognition via Local Optimal Feature Normalization
R. Al-Refai, P. Hempel, C. Biagi, P. Terhörst, in: 2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), IEEE, 2025.
BELIEF - Bayesian Sign Entropy Regularization for LIME Framework
R.P. Bora, P. Terhörst, R.N.J. Veldhuis, R. Ramachandra, K.B. Raja, in: S. Chiappa, S. Magliacane (Eds.), Conference on Uncertainty in Artificial Intelligence, Rio Othon Palace, Rio de Janeiro, Brazil, 21-25 July 2025, PMLR, 2025, pp. 332–354.
Chasing Shadows: Solving Deepfake Detection Benchmarks Using Irrelevant Features Only
Y. Xu, P. Terhörst, M. Pedersen, K. Raja, in: 2025 IEEE 19th International Conference on Automatic Face and Gesture Recognition (FG), IEEE, 2025.
A Responsible Face Recognition Approach for Small and Mid-Scale Systems Through Personalized Neural Networks
S. Groß, S. Heindorf, P. Terhörst, CoRR abs/2505.19920 (2025).
A Comprehensive Re-Evaluation of Biometric Modality Properties in the Modern Era
R. Al-Refai, P.P. Ramasamy, R. Ramesh, P. Arias-Cabarcos, P. Terhörst, ArXiv Preprint ArXiv:2508.13874 (2025).
Analyzing Fairness in Deepfake Detection With Massively Annotated Databases
Y. Xu, P. Terhörst, M. Pedersen, K. Raja, IEEE Transactions on Technology and Society 5 (2024) 93–106.
SLICE: Stabilized LIME for Consistent Explanations for Image Classification
R.P. Bora, P. Terhörst, R. Veldhuis, R. Ramachandra, K. Raja, in: 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), IEEE, 2024.
Efficient Explainable Face Verification based on Similarity Score Argument Backpropagation
M. Huber, A.T. Luu, P. Terhörst, N. Damer, in: 2024 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), IEEE, 2024.
NeuroIDBench: An open-source benchmark framework for the standardization of methodology in brainwave-based authentication research
A.K. Chaurasia, M. Fallahi, T. Strufe, P. Terhörst, P.A. Cabarcos, Journal of Information Security and Applications 85 (2024).
CoFE: Consistency-Driven Feature Elimination for eXplainable AI
R.P. Bora, P. Terhörst, R. Veldhuis, R. Ramachandra, K. Raja, in: Lecture Notes in Computer Science, Springer Nature Switzerland, Cham, 2024.
ASPECD: Adaptable Soft-Biometric Privacy-Enhancement Using Centroid Decoding for Face Verification
P. Rot, P. Terhörst, P. Peer, V. Štruc, in: 2024 IEEE 18th International Conference on Automatic Face and Gesture Recognition (FG), IEEE, 2024.
On the Trustworthiness of Face Morphing Attack Detectors
R. Al-Refai, C. Biagi, C. Chen, K. Raja, R. Ramachandra, C. Busch, P. Terhörst, in: 2024 IEEE International Joint Conference on Biometrics (IJCB), IEEE, 2024.
How does Rejecting Low-Confidence Decisions in Face Recognition Affect Fairness?
P. Saha, A. Sinha, P. Terhörst, in: 2024 12th International Workshop on Biometrics and Forensics (IWBF), IEEE, 2024.
QMagFace: Simple and Accurate Quality-Aware Face Recognition
P. Terhörst, M. Ihlefeld, M. Huber, N. Damer, F. Kirchbuchner, K. Raja, A. Kuijper, in: 2023 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), IEEE, 2023.
Explaining Face Recognition Through SHAP-Based Pixel-Level Face Image Quality Assessment
C. Biagi, L. Rethfeld, A. Kuijper, P. Terhörst, in: 2023 IEEE International Joint Conference on Biometrics (IJCB), IEEE, 2023.
Pixel-Level Face Image Quality Assessment for Explainable Face Recognition
P. Terhörst, M. Huber, N. Damer, F. Kirchbuchner, K. Raja, A. Kuijper, IEEE Transactions on Biometrics, Behavior, and Identity Science 5 (2023) 288–297.
PIC-Score: Probabilistic Interpretable Comparison Score for Optimal Matching Confidence in Single- and Multi-Biometric Face Recognition
P.C. Neto, A.F. Sequeira, J.S. Cardoso, P. Terhörst, in: 2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), IEEE, 2023.
Uncertainty-aware Comparison Scores for Face Recognition
M. Huber, P. Terhörst, F. Kirchbuchner, A. Kuijper, N. Damer, in: 2023 11th International Workshop on Biometrics and Forensics (IWBF), IEEE, 2023.
QMagFace: Simple and Accurate Quality-Aware Face Recognition
P. Terhörst, M. Ihlefeld, M. Huber, N. Damer, F. Kirchbuchner, K. Raja, A. Kuijper, in: Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), 2023, pp. 3484–3494.
Explaining Face Recognition Through SHAP-Based Pixel-Level Face Image Quality Assessment
C. Biagi, L. Rethfeld, A. Kuijper, P. Terhörst, in: 2023 IEEE International Joint Conference on Biometrics (IJCB), IEEE, 2023.
A novel indexing algorithm for latent palmprints leveraging minutiae and orientation field
J. Khodadoust, R. Monroy, M.A. Medina-Pérez, O. Loyola-González, W. Kusakunniran, A. Boller, P. Terhörst, Intelligent Systems with Applications 21 (2023).
On the (Limited) Generalization of MasterFace Attacks and Its Relation to the Capacity of Face Representations
P. Terhörst, F. Bierbaum, M. Huber, N. Damer, F. Kirchbuchner, K. Raja, A. Kuijper, International IEEE Joint Conference on Biometrics, IJCB 2022, Abu Dhabi, United Arab Emirates, October 10-13, 2022 (2022) 1–8.
On Evaluating Pixel-Level Face Image Quality Assessment
M. Huber, P. Terhörst, F. Kirchbuchner, N. Damer, A. Kuijper, in: 2022 30th European Signal Processing Conference (EUSIPCO), 2022, pp. 1052–1056.
A Comprehensive Study on Face Recognition Biases Beyond Demographics
P. Terhörst, J.N. Kolf, M. Huber, F. Kirchbuchner, N. Damer, A.M. Moreno, J. Fierrez, A. Kuijper, IEEE Transactions on Technology and Society 3 (2022) 16–30.
Verification of Sitter Identity Across Historical Portrait Paintings by Confidence-aware Face Recognition
M. Huber, P. Terhörst, A.T. Luu, F. Kirchbuchner, N. Damer, in: 26th International Conference on Pattern Recognition, ICPR 2022, Montreal, QC, Canada, August 21-25, 2022, IEEE, 2022, pp. 938–944.
An Attack on Facial Soft-Biometric Privacy Enhancement
D.O. Roig, C. Rathgeb, P. Drozdowski, P. Terhörst, V. Struc, C. Busch, IEEE Trans. Biom. Behav. Identity Sci. 4 (2022) 263–275.
Stating Comparison Score Uncertainty and Verification Decision Confidence Towards Transparent Face Recognition
M. Huber, P. Terhörst, F. Kirchbuchner, N. Damer, A. Kuijper, 33nd British Machine Vision Conference 2022 (2022).
On the (Limited) Generalization of MasterFace Attacks and Its Relation to the Capacity of Face Representations
P. Terhörst, IEEE IJCB (2022).
MiDeCon: Unsupervised and Accurate Fingerprint and Minutia Quality Assessment based on Minutia Detection Confidence
P. Terhörst, A. Boller, N. Damer, F. Kirchbuchner, A. Kuijper, in: International IEEE Joint Conference on Biometrics, IJCB 2021, Shenzhen, China, August 4-7, 2021, IEEE, 2021, pp. 1–8.
Privacy-Enhancing Face Biometrics: A Comprehensive Survey
B. Meden, P. Rot, P. Terhörst, N. Damer, A. Kuijper, W.J. Scheirer, A. Ross, P. Peer, V. Struc, IEEE Trans. Inf. Forensics Secur. 16 (2021) 4147–4183.
MAAD-Face: A Massively Annotated Attribute Dataset for Face Images
P. Terhörst, D. Fährmann, J.N. Kolf, N. Damer, F. Kirchbuchner, A. Kuijper, IEEE Trans. Inf. Forensics Secur. 16 (2021) 3942–3957.
Mitigating Soft-Biometric Driven Bias and Privacy Concerns in Face Recognition Systems
P. Terhörst, Mitigating Soft-Biometric Driven Bias and Privacy Concerns in Face Recognition Systems, Technical University of Darmstadt, Germany, 2021.
On Soft-Biometric Information Stored in Biometric Face Embeddings
P. Terhörst, D. Fährmann, N. Damer, F. Kirchbuchner, A. Kuijper, IEEE Trans. Biom. Behav. Identity Sci. 3 (2021) 519–534.
Alle Publikationen anzeigen