Ein neuer Bericht zeigt, dass Grok-die in Elon Musks X integrierte kostenlose KI-Chatbot integriert wurde-„signifikante Mängel und Einschränkungen“ bei der Überprüfung der Informationen über den 12-tägigen Konflikt zwischen Israel und dem Iran (13. bis 24. Juni), der nun nachgelassen zu haben scheint.
Forscher des DFFRLAB (Digital Forensic Research Lab) des Atlantic Council (DFRLAB) analysierten 130.000 Beiträge, die vom Chatbot zu X in Bezug auf den 12-Tage-Konflikt veröffentlicht wurden, und stellten fest, dass sie ungenaue und inkonsistente Informationen lieferten.
Sie schätzen, dass rund ein Drittel dieser Stellen auf Anfragen zur Überprüfung der Überprüfung von Fehlinformationen über den Konflikt reagiert hat, einschließlich nicht zu beobachteter Ansprüche auf soziale Medien und Filmmaterial, die angeblich aus dem Feueraustausch hervorgehen.
„GROK hat gezeigt, dass es mit der Überprüfung der bereits bestätigten Fakten, der Analyse gefälschter Grafiken und der Vermeidung unbegründeter Ansprüche zu kämpfen hat“, heißt es in dem Bericht.
„Die Studie betont die entscheidende Bedeutung von KI -Chatbots, die genaue Informationen liefern, um sicherzustellen, dass sie verantwortungsbewusste Vermittler von Informationen sind.“
Während GROK nicht als Tool zur Überprüfung von Fakten gedacht ist, wenden sich X-Benutzer zunehmend daran, um Informationen auf der Plattform zu überprüfen, einschließlich der Verständnis von Kriseneignissen.
X hat kein Faktenprüfprogramm von Drittanbietern und stützt sich stattdessen auf sogenannte Community-Notizen, in denen Benutzer zu den ungenauen Posts einen Kontext hinzufügen können.
Fehlinformation überflutet Auf der Plattform, nachdem Israel am 13. Juni zum ersten Mal im Iran geschlagen hatte, löste er einen intensiven Schussaustausch aus.
Grok unterscheidet authentisch von Fälschungen nicht
DFRLAB-Forscher identifizierten zwei AI-generierte Videos, die fälschlicherweise als „echtes Filmmaterial“ bezeichnet wurden, die aus dem Konflikt hervorgegangen sind.
Das erste dieser Videos zeigt, wie es nach einem iranischen Streik die Zerstörung für den Flughafen Ben Gurion von Tel Aviv zu sein scheint, ist jedoch eindeutig generiert. Auf die Frage, ob es real sei, schwankte Grok innerhalb von Minuten zwischen widersprüchlichen Antworten.
Es wurde fälschlicherweise behauptet, dass das falsche Video „wahrscheinlich am 4. Mai 2025 auf dem Flughafen Ben Gurion in Tel Aviv einen echten Schaden angeht“, aber später behauptete das Video, „wahrscheinlich zeigt der internationale Flughafen von Mehrabad in Teheran, Iran, während der Israel -Luftangriff am 13. Juni 2025 beschädigt wurde“.
Euroverify identifizierte Euronews ‚Fakt-Checking-Einheit drei weitere virale AI-generierte Videos, die fälschlicherweise behaupteten, sie seien authentisch, als sie von X-Benutzern gefragt wurden. Der Chatbot verband sie mit einem Angriff auf das iranische Arak -Atomkraftwerk und schlägt auf Israels Hafen von Haifa und das Weizmann -Institut in Rehovot.
Euroverify hat zuvor mehrere entdeckt Out-of-Context-Videos Auf den sozialen Plattformen zirkulieren irreführend mit dem Israel-Iran-Konflikt.
Grok scheint zu diesem Phänomen beigetragen zu haben. Der Chatbot beschrieb ein virales Video, das Israelis vor dem Konflikt am Grenzübergang von Taba mit Ägypten zeigt, wenn es tatsächlich Festivalbesucher in Frankreich zeigt.
Es wurde auch behauptet, dass ein Video einer Explosion in Malaysia eine „iranische Rakete, die am 19. Juni Tel Aviv“ traf.
Chatbots verstärken Unwahrheiten
Die Ergebnisse des Berichts erfolgen, nachdem der 12-tägige Konflikt eine Lawine falscher Behauptungen und Spekulationen online ausgelöst hat.
Eine Behauptung, China schickte militärische Frachtflugzeuge in die iranische Hilfe, wurde durch KI-Chatbots Grok und Verwirrung, ein dreijähriges KI-Startup, das weit verbreitete Kontroversen für angeblich Einsatz des Inhalts von Medienunternehmen ohne ihre Zustimmung erbracht hat.
Newsguard, ein Desinformationswächter, behauptete, beide Chatbots hätten zur Verbreitung der Behauptung beigetragen.
Die Fehlinformation stammt aus falsch interpretierten Daten von Flightradar24 von Flight Tracking Site, die von einigen Medien aufgenommen und von den AI -Chatbots künstlich verstärkt wurde.
Experten von DFRLAB weisen darauf hin, dass Chatbots stark auf Medien stützen, um Informationen zu überprüfen, aber in Situationen globaler Krisen häufig nicht mit dem sich schnell verändernden Nachrichtentempo Schritt halten.
Sie warnen auch vor den verzerrenden Auswirkungen, die diese Chatbots haben können, da die Benutzer zunehmend darauf angewiesen sind, sich selbst zu informieren.
„Wenn diese fortgeschrittenen Sprachmodelle zu einem Vermittler werden, durch den Kriege und Konflikte interpretiert werden, können ihre Antworten, Vorurteile und Einschränkungen die öffentliche Erzählung beeinflussen.“
