Das Bundesministerium für Bildung und Forschung wählt das KI-Forschungsbündnis “news-polygraph” zur Erkennung von manipulierten Medieninhalten für Förderung aus. transfermedia ist einer von zehn Partnern aus Wissenschaft, Medien, Technologie und Wirtschaft.
Das KI-Forschungsprojekt „news-polygraph“ wurde vom Bundesministerium für Bildung und Forschung (BMBF) im Rahmen des Förderprogramms „RUBIN – Regionale unternehmerische Bündnisse für Innovation“ für eine Förderung ausgewählt. Ziel des Projektes ist die Entwicklung einer Technologieplattform, die mithilfe von Künstlicher Intelligenz gezielte Desinformation („Fake News“) identifiziert. Dafür kombiniert „news-polygraph“ verschiedene Software-Werkzeuge zur Erkennung von Manipulationen an Bildern, Ton, Videos sowie Texten. So entsteht eine vernetzte Palette digitaler Werkzeuge für den Einsatz gegen gefälschte oder aus dem Kontext gerissene Informationen. Gemeinsam mit transfermedia werden an der Forschung und Entwicklung in den nächsten drei Jahren insgesamt zehn Partner aus Berlin, Brandenburg und Thüringen zusammenarbeiten, darunter Institutionen aus Wissenschaft, Medien, Technologie und Wirtschaft.
Ein KI-Lügendetektor für Medieninhalte: Was ist Fakt und was ist „Fake“?
Die geplanten digitalen „news-polygraph“ Werkzeuge unterstützen die Medienbranche, indem multimediale Inhalte mithilfe von KI einfacher und schneller auf Manipulationen überprüft werden können. In den sozialen Medien sind bewusst platzierte Falschinformationen längst ein bekanntes und weit verbreitetes Problem. Doch nicht nur die Anzahl manipulierter Medien nimmt rasant zu, auch die Qualität der gefälschten Inhalte steigt. Sogenannte Deepfakes, mit KI manipulierte Bild-, Audio- oder Videodateien, wirken zunehmend täuschend echt, sodass Fälschungen nur mit großem Aufwand identifiziert werden können. „news-polygraph“ soll Medienschaffende und weitere betroffene Branchen in Zukunft verlässlich, zeitsparend und intuitiv bei der Erkennung von Falschinformationen unterstützen.
Für eine zuverlässige Erkennung manipulierter Medieninhalte müssen die KI-Modelle von den Expert:innen für Desinformation „angelernt“ werden. Wie gut das Training funktioniert, wird in einem ersten Pilotprojekt im journalistischen Bereich überprüft. Weitere Anwendungsbereiche sind vielfältig und reichen von PR-Agenturen bis hin zu öffentlichen Einrichtungen, Versicherungen oder Ermittlungsbehörden.
In die Umsetzungsphase startet „news-polygraph“ voraussichtlich offiziell im Frühjahr 2023.