Wie erkennt man Fake News-Verbreiter in der KI-Ära? | Symanto

Fake-news

Die Technologie entwickelt sich schnell. So schnell, dass der unbegrenzte Zugriff auf die riesige Menge an Online-Informationen einfacher denn je ist. Laut einem statistischen Bericht von EMC.com, nimmt die Menge der Online-Informationen jährlich um 40% zu.
Durch den Aufstieg von Social Media in den letzten zehn Jahren können Nutzer Inhalte sehr schnell und effizient online veröffentlichen und teilen. Da Social-Media-Plattformen wie Facebook, Twitter, und Youtube von jedem dritten Menschen auf der Welt und von mehr als zwei Dritteln aller Internetnutzer genutzt werden, hat sich die Art und Weise, wie wir auf neue Informationen zugreifen, verändert.
Die rasche und umfassende Einführung dieser Technologien verändert die Art und Weise, wie wir mit unserer Familie und unseren Freunden in Kontakt treten, wie wir auf Informationen aus Nachrichtenkanälen zugreifen und wie wir es schaffen, Veränderungen zu fordern. Wandel ist jedoch ein zweischneidiges Schwert. Trotz des beträchtlichen Nutzens, den wir daraus ziehen, setzt uns dieser erhebliche Anstieg einem Risiko aus. Kostenlose Online-Informationen können jederzeit von jedermann bearbeitet werden Einerseits nutzen die Menschen die verfügbaren Informationen, um sich in allen Lebensbereichen weiterzuentwickeln. Andererseits können Menschen der Manipulation durch andere ausgesetzt werden.

Fake News verbreiten sich schneller denn je

Es ist bewiesen, dass sich Fake News, oder vorgetäuschte Nachrichten, schneller verbreiten als echte Nachrichten. Eine Forschungsstudie, die am Massachusetts Institute of Technology (MIT) durchgeführt und in der Zeitschrift Science, veröffentlicht wurde, untersuchte die weltweite Besorgnis über Falschinformationen und die Möglichkeit, dass sie das politische, wirtschaftliche und soziale Wohlergehen beeinflussen können. Einige der Ergebnisse zeigen, dass sich Unwahrheiten in allen Informationskategorien und insbesondere in den sozialen Medien deutlich schneller, weiter, tiefer und breiter verbreiten als die Wahrheit.
Im Wesentlichen haben Fake News eine 70% höhere Wahrscheinlichkeit, retweetet zu werden als sachliche Nachrichten. Der Grad der Neuartigkeit und die emotionalen Reaktionen der Empfänger schienen eine entscheidende Rolle bei der Verbreitung zu spielen. Außerdem zeigt sich, dass die Auswirkungen bei politischen Falschnachrichten stärker ausgeprägt waren als bei Falschnachrichten über Terrorismus, Naturkatastrophen, Wissenschaft, urbane Legenden oder Finanzinformationen.
Eine andere vom Europarat veröffentlichte Studie zeigt, dass es drei Haupttypen von Informationsstörungen gibt. Neben Falsch-/Desinformation wird auch der Typ der Fehlinformationen berücksichtigt. Die Autoren definieren sie wie folgt: „Wenn echte Informationen geteilt werden, um Schaden zu verursachen, was oftmals dadurch geschieht, dass Informationen, die eigentlich privat bleiben sollten, in die Öffentlichkeit gelangen“. Es gibt drei Haupttypen von Fehlinformationen: Lecks, Hassreden und Belästigung, während falscher Kontext, gefälschte, fabrizierte oder manipulierte Inhalte als Desinformationen bezeichnet werden.

Kategorien von Informationsstörungen

Beispiele für Fake News

Einer der aktuellen Fälle ist die Vielzahl von Fehlinformationen, die im Zusammenhang mit dem Ausbruch, der Prävention, Diagnose und Behandlung der COVID- 19 -Pandemie verbreitet wurden, und die Gesellschaft auf unterschiedliche Weise beeinträchtigten. So führten z.B. Fake News über die Wirksamkeit von Chloroquin zu einem Anstieg der Fälle von Überdosierung mit Chloroquin.
Mit den bevorstehenden US-Wahlen zeigt sich der Einfluss von Fake News auch in anderen Bereichen, beispielsweise im politischen Bereich, wo Forscher auf ihren Einfluss auf Wahlergebnisse aufmerksam gemacht haben.
Die nachstehende Studie aus der Doktorarbeit von Bilal Ghanem, einem unserer Forscher (unter der Leitung von Francisco Rangel, Head of Product bei Symanto, und Paolo Rosso, einem bekannten Forscher auf dem Gebiet der Plagiatserkennung, der Erstellung von Autorenprofilen und der Erkennung von Fake News), zeigt einige Beispiele von Artikeln, die als gefälscht entlarvt wurden, zusammen mit dem Faktencheck und der Verbreitung von Tweets. Es wurde festgestellt, dass in den Tweets zum Faktencheck Begriffe wie „fake“, „false“ und „fact check“ vorkommen, während in den Tweets zur Weiterverbreitung der jeweilige Artikel erneut gepostet wird. Darüber hinaus wurde eine Stichprobe der Daten manuell überprüft, um etwaige falsche Annotationen zu verifizieren. Wir haben 500 Tweets manuell überprüft und keine Fälle von Fehlklassifizierung gefunden.

Beispiele für Faktencheck und Verbreitung von Tweets
Nach der Annotation der Tweets haben wir die Autoren der Tweets, basierend auf der Anzahl der von ihnen geposteten Faktencheck und Verbreitungs-Tweets, als Checker („Prüfer“) oder Spreader („Verbreiter“) klassifiziert. Wenn ein Nutzer sowohl Faktenchecker als auch Verbreiter von Tweets ist, gehen wir davon aus, dass dieser Nutzer zu der Kategorie gehört, für die er die größere Anzahl von Tweets hat. Schließlich sammelten wir die Tweets in der Timeline, die die Autoren gepostet haben, um unsere Sammlung zu erstellen. Insgesamt enthielt unsere Sammlung Tweets, die von 2.357 Nutzern gepostet wurden, von denen 454 Checker und 1.903 Spreader sind.

Profiling von Fake News-Verbreitern auf Twitter: Aufgabe @ Pan 2020

Fake News werden zu einer der größten Bedrohungen für unsere Gesellschaft. Im Rahmen unserer Bemühungen, KI für einen guten Zweck einzusetzen, haben wir auf der diesjährigen Pan @CLEF-Veranstaltung eine gemeinsame Aufgabe zur Erstellung von Autorenprofilen organisiert, bei der die Teilnehmer aufgefordert wurden, „Fake News-Verbreiter auf Twitter zu profilieren“..
Unser Ziel war es, herauszufinden, ob Nutzer, die keine Fake News verbreiten, im Vergleich zu Nutzern, die dazu neigen, Fake News zu verbreiten, möglicherweise eine Reihe unterschiedlicher Merkmale aufweisen.
Sie können sich das vollständige Video unserer Grundsatzrede auf der Online-Konferenz ansehen, in der wir über die Einzelheiten der Aufgabe und unsere psychologiebasierte KI-Lösungen und API sprechen, die von mehreren Teilnehmern des Wettbewerbs für die Untersuchung verwendet wurden.
https://youtu.be/jggcKWUcco8

Wie kann man KI für den guten Zweck nutzen?

Was die geschäftliche Seite der Dinge betrifft, so versuchen Social-Media-Unternehmen, Maßnahmen zu ergreifen, um Online-Desinformationen und Fake News zu minimieren, indem sie einige Formen von Werbung einschränken oder Posts oder Tweets mit falschen Informationen entfernen.
Dies führt auch zu einem netzwerkbasierten Ansatz für die Moderation von Inhalten, bei dem Fake News Inhalte durch die Erkennung von Algorithmen und Mustern und den Einsatz von KI identifiziert werden können, was eine wichtige Quelle sein kann, die ständig von Journalisten, Social-Media-Plattformen oder sogar Werbetreibenden für saubere, verifizierte Inhalte genutzt werden kann.
Sie ist auch für viele Branchen wichtig, vom Einzelhandel, E-Commerce bis hin zum Gastgewerbe und Tourismus, wo die Identifizierung und Beseitigung von Desinformationen jeglicher Art eine Schlüsselrolle spielt, um die wahren Schwachstellen zu verstehen und sie für das beste Kundenerlebnis des Produkts oder der Dienstleistung zu verbessern.
Die Verbreitung von Fake News zur Manipulation von Menschen kann sogar sehr schwerwiegende Folgen haben. Die Verwendung gefälschter oder bearbeiteter Videos für einen organisierten Angriff, um das Interesse an einem beliebten Reiseziel zu verringern, könnte beispielsweise zu einem ernsthaften Schaden für das Image und die Wirtschaft führen. Aus diesem Grund ist ein geeigneter Plan für den Umgang mit Desinformation für die Nachhaltigkeit von Unternehmen und Branchen von entscheidender Bedeutung.
Wenn Sie erfahren möchten, wie KI-Funktionen zur Identifizierung der Fake News Ressourcen eingesetzt werden können oder wie wir Ihnen mit den KI-gestützten Lösungen von Symanto helfen können, sprechen Sie uns an.
Inhalt unterstützt durch:
• Doktorarbeit „On the Detection of False Information from Rumors to Fake News“ von Bilal Ghanem, Symanto Research, gemeinsam geleitet von Dr. Paolo Rosso, Universitat Politècnica de Valencia, Spanien, und Dr. Francisco Rangel, Symanto Research
• 8th Author Profiling Task at PAN 2020 Profiling Fake News Spreaders on Twitter by Francisco Rangel, Symanto Research

SHARE

Share on linkedin
Share on facebook
Share on twitter