ClaimGuard

ClaimGuard ist ein Verbundprojekt zur Entwicklung und Evaluation einer KI-gestützten Anwendung zur Erkennung von Desinformation. Die App soll Nutzer:innen dabei unterstützen, Informationen strukturiert zu prüfen und deren Glaubwürdigkeit besser einzuschätzen. Grundlage sind aktuelle Forschungsergebnisse zu kognitiven Faktoren der Desinformationsverbreitung und zu neuen Möglichkeiten durch KI-gestützte Interaktionen.

Projektziele

Ziel des Projekts ClaimGuard ist es, ein KI-gestütztes Unterstützungssystem zu entwickeln, zu erproben und wissenschaftlich zu evaluieren, das Bürger:innen beim Umgang mit Desinformation hilft. Im Projekt wird eine Anwendung konzipiert und implementiert, die Nutzer:innen schrittweise durch den Prozess der Informationsprüfung führt und sie dabei unterstützt, die Glaubwürdigkeit von Inhalten strukturiert einzuschätzen.

Das Projekt knüpft an Forschungsarbeiten an, die zeigen, dass die Verbreitung von Desinformation nicht allein durch fehlendes Wissen erklärbar ist, sondern wesentlich durch kognitive, emotionale und soziale Faktoren beeinflusst wird. Klassische Maßnahmen wie das reine Kennzeichnen von Falschinformationen zeigen daher nur begrenzte Wirkung. ClaimGuard untersucht deshalb einen Ansatz, bei dem Nutzer:innen aktiv in den Prüfprozess einbezogen werden und durch KI-gestützte Hinweise und Erklärungen unterstützt werden.

Ein weiteres Ziel ist es, die Prüfung von Informationen zugänglicher und skalierbarer zu gestalten. Dazu werden Methoden aus Fact-Checking, maschinellem Lernen und Mensch-Computer-Interaktion kombiniert. Auch die Analyse multimodaler Inhalte wie Texte und Bilder wird berücksichtigt. Die abschließende Bewertung von Informationen bleibt dabei stets bei den Nutzer:innen.

Darüber hinaus untersucht das Projekt, inwiefern solche Systeme zur Stärkung von Medienkompetenz beitragen können. Gleichzeitig wird eine anonymisierte Datengrundlage geschaffen, die für Forschung und die Weiterentwicklung von Ansätzen zur Desinformationsbekämpfung genutzt werden kann.