Projekt DeFaktS soll Fake News erkennen und bekämpfen
Die Zahl der online bewusst verbreiteten Falschmeldungen nimmt seit Jahren immer weiter zu. Ein interdisziplinäres Konsortium will mit dem Projekt DeFaktS dagegen vorgehen, indem es eine Künstliche Intelligenz so trainiert, dass sie Desinformation erkennen und über sie aufklären kann. Dazu werden verdächtige Social-Media- und Messenger-Gruppen unter die Lupe genommen.
Texte, Bilder und Videos: Der Ukraine-Krieg ist in den sozialen Medien sehr präsent. Unter der Vielzahl an Beiträgen befindet sich immer häufiger bewusst manipulativ verbreitete Desinformation – sogenannte Fake News – zum aktuellen Kriegsgeschehen. Genutzt wird dafür unter anderem Videomaterial aus Videospielen oder anderen Konflikten – zum Beispiel der Annexion der Krim im Jahr 2014 oder dem Syrien-Krieg 2020.
Zuletzt war das Phänomen der Fake News beispielsweise auch im Zusammenhang mit der Corona-Pandemie und der Bundestagswahl 2021 zu beobachten. Mit der Verbreitung von Falschmeldungen sollen Angst und Verunsicherung in der Bevölkerung geschürt und/oder das Vertrauen in die Politik erschüttert werden.
Das Bundesministerium für Bildung und Forschung (BMBF) sieht in Desinformation eine zunehmende Gefahr für die Demokratie und den gesellschaftlichen Zusammenhalt. Daher fördert das BMBF derzeit im Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän.“ mehrere Projekte, die Desinformation erforschen, um Gegenmaßnahmen zu entwickeln – darunter auch das Forschungsprojekt DeFaktS.
Mit Künstlicher Intelligenz gegen Fake News
DeFaktS steht für: „Desinformationskampagnen beheben durch Offenlegung der Faktoren und Stilmittel“. Im Rahmen dieses Projekts werden Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen extrahiert. Wissenschaftler trainieren damit wiederum eine Künstliche Intelligenz (KI) so, dass die für Fake News charakteristische Faktoren und Stilmittel erkennen kann.
Die trainierte KI wird im Anschluss für eine XAI (Explainable Artificial Intelligence) genutzt, eine erklärbare KI, die eindeutig nachvollziehbar macht, auf welche Weise die KI zu den Ergebnissen kommt. Auf der Basis soll eine App entwickelt werden, die die User transparent über das mögliche Auftreten von Fake News informiert und warnt.
Sensibilisieren, Vertrauen schaffen und Medienkompetenz stärken
Im Gegensatz zu bereits bestehenden Tools zur Detektion und Bekämpfung von Fake News soll die DeFaktS-App eine besonders einfach zu nutzende sowie universelle Lösung zur automatisierten Moderation von Online-Inhalten darstellen. Darüber hinaus identifiziert DeFaktS nicht nur für Fake News charakteristische Faktoren, sondern gibt dem User mithilfe des XAI-Ansatzes auch ein transparentes Feedback zum möglichen Auftreten von Fake News
Das bedeutet: Die Interpretation und Entscheidung, ob Fake News vorliegen oder nicht, liegt letztlich beim Nutzer der Anwendung. Es findet keine Filterung oder gar automatisierte Löschung von Inhalten statt. „Im Sinne der digitalen Bildung der Gesellschaft war uns dieser Aspekt sehr wichtig”, erklärt Jonas Fegert vom FZI Forschungszentrum Informatik, das bei diesem Projekt die Rolle des Konsortialführers innehat. „Wir möchten die Menschen sensibilisieren, sie über Strategien der Desinformationen aufklären und so Medienkompetenz stärken.”
Quelle: FZI Forschungszentrum Informatik / idw
Wie groß ist die Zahlungsbereitschaft für redaktionelle Inhalte im Internet?
Glaubwürdigkeit des Journalismus hat in der Pandemie abgenommen
Was wird wann und warum gelesen?
Erneut Rekordwerte bei der medialen Internetnutzung
Online-Angebote klassischer Medien liegen bei Klima- und Nachhaltigkeits-Themen vorn
Welche Veränderungen hat die Pandemie für den Nachrichtenkonsum gebracht?
