In der fünften Folge des „All Day Research“ Podcasts begrüßen wir diesmal Jun.-Prof. Dr. Henning Wachsmuth. Mit unserem Moderator Lukas Ostermann spricht er über soziale Vorurteile – auch Social Bias genannt – in KI-Systemen.
Wie verstehen Rechner menschliche Argumentationen und wie könnten die Vorteile, die jeder von uns hat, in der Sprache analysiert werden? Mit diesen Fragen beschäftigte sich Jun.-Prof. Henning Wachsmuth zu Beginn seiner Forschungskarriere. Inzwischen hat er sich im Bereich „Digitale Zukunft“ spezialisiert und beschäftigt sich im Kern mit der Verarbeitung von natürlicher Sprache in Computern und KI-Systemen. Hervorzuheben ist hierbei die Auseinandersetzung mit Social Bias in KI-Systemen. Darunter versteht man Vorurteile beziehungsweise ungerechtes Verhalten gegenüber bestimmten sozialen Gruppen, welche sich in der Sprache oder in Datensätzen widerspiegeln.
„Im Allgemeinen wollen wir natürlich die sozialen Gruppen, die von Vorurteilen betroffen sind, schützen. Das ist eigentlich der Startpunkt, wie man Datensätze konzipiert. […] Wir wollen natürlich im besten Fall eine KI entwickeln, die möglichst frei von Vorurteilen ist, weil sie uns dann auch im Umkehrschluss besser unterstützen kann.“, so Wachsmuth zu den Zielen seiner Forschung. Allerdings sei es nicht so einfach, diese Probleme vollständig und von heute auf morgen zu lösen. „Manche Merkmale sind sehr subtil und werden nicht so leicht erkannt.“ Zudem versuche man zunächst erstmal, den Bias so gut es geht zu reduzieren.
Das besondere an der Auseinandersetzung mit sozialen Vorurteilen in KI-Systemen ist die stark ausgeprägte Interdisziplinarität. Da man sich vor allem mit menschlichem Verhalten auseinandersetzt, sei der Austausch zwischen anderen wissenschaftlichen Bereichen, wie der Linguistik, Psychologie und den Sozialwissenschaften besonders wichtig und gleichzeitig enorm spannend.
Die Umsetzung des Podcasts ist in Zusammenarbeit mit dem Institut für Informatik und dem Fachschaftsrat Informatik entstanden. Ziel soll es sein, mehr Einblicke in die Wissenschaft zu geben und dadurch Studierenden – vor allem denjenigen im ersten Semester – das Studium näher zu bringen, Interesse zu wecken und zu zeigen, wie viel Spaß Forschung und das Informatikstudium an der Universität Paderborn machen können.
Hören Sie jetzt in die vierte Folge des „All Day Research“ Podcasts rein. Überall zu finden, wo es Podcast gibt oder hier auf der Institutsseite.
Letzte Folgen verpasst? Keine Sorge, alle Folgen sind ebenfalls auf der Institutsseite zu finden.
