„Ziele“: die Mietsoftware, die 30.000 gefälschte Online-Profile kontrollieren kann

Exklusiv: Die Desinformationseinheit von Team Jorge kontrolliert eine riesige Armee von Avataren mit gefälschten Profilen auf Twitter, Facebook, Gmail, Instagram, Amazon und Airbnb

Auf den ersten Blick sieht der Twitter-Nutzer „Canaelan“ recht gewöhnlich aus. Er hat über alles getwittert, von Basketball über Taylor Swift, den Fußballverein Tottenham Hotspur bis hin zum Preis eines KitKat. Das Profil zeigt einen freundlich aussehenden blonden Mann mit Stoppelbart und Brille, der offenbar in Sheffield lebt. Der Hintergrund: eine zwinkernde Eule.

Canaelan ist in Wirklichkeit ein nichtmenschlicher Bot, der mit einer riesigen Armee gefälschter Social-Media-Profile verbunden ist, die von einer Software gesteuert werden, die zur Verbreitung von „Propaganda“ entwickelt wurde.

Advanced Impact Media Solutions oder Aims, das mehr als 30.000 gefälschte Social-Media-Profile kontrolliert, kann genutzt werden, um Desinformation in großem Umfang und schnell zu verbreiten. Es wird von „Team Jorge“ verkauft, einer Einheit von Desinformationsaktivisten mit Sitz in Israel.

Tal Hanan, der die verdeckte Gruppe unter dem Pseudonym „Jorge“ leitet, sagte verdeckten Reportern, dass sie den Zugang zu ihrer Software an ungenannte Geheimdienste, politische Parteien und Firmenkunden verkauft hätten. Eines davon wurde offenbar an einen Kunden verkauft, der das britische Information Commissioner's Office (ICO), eine gesetzliche Aufsichtsbehörde, diskreditieren wollte.

Am 18. Oktober 2020 entschied das ICO, dass die Regierung offenlegen sollte, welche Unternehmen Aufträge im Wert von mehreren Millionen Pfund für die Lieferung von PSA erhalten haben nachdem er in eine „VIP“-Spur für politisch verbundene Unternehmen eingetreten ist. „Das ist politisch motiviert, das ist klar!“ Canaelan beklagte sich zwei Tage später auf Twitter.

Dieser Kommentar war Teil eines Chors der Missbilligung, der von den Bots erzeugt wurde, die entsetzt wirkten. „Der Informationskommissar versucht alles, um die Regierung zu zerstören“, sagte einer, während ein anderer das Urteil als „verzweifelte Tat“ bezeichnete.

Alle „Antworten“ unter diesem und anderen Tweets waren sich einig in ihrer Empörung über den ICO, den sie als „Zeitverschwendung“ und „lahm“ bezeichneten. Als die Antworten weitergingen, wurden sie immer prägnanter und erhoben wilde und falsche Anschuldigungen gegen das ICO wegen Bestechung, Korruption und Verbindungen zur extremen Rechten.

Andere schienen einfach verblüfft über das Beharren des ICO auf Transparenz bei der Pandemie-Beschaffung der Regierung. „Das ist so typisch für Großbritannien …“, meinte ein Bot, „die Konzentration auf die falschen Dinge.“

Es ist nicht bekannt, wer Team Jorge beauftragt hat, die Bots auf dem ICO freizusetzen, oder warum. Hanan antwortete nicht auf detaillierte Anfragen nach Kommentaren, sagte aber: „Um es klarzustellen, ich bestreite jegliches Fehlverhalten.“

Die ICO-Kampagne scheint im Vergleich zu anderen Kampagnen auf der ganzen Welt, die Reporter mit der Aims-Software von Team Jorge in Verbindung bringen konnten, relativ kurzlebig gewesen zu sein, bei der es sich um weit mehr als nur ein Bot-Kontrollprogramm handelt.

Laut einer Demonstration, die Hanan den Undercover-Reportern gab, erhält jeder Avatar eine vielschichtige digitale Hintergrundgeschichte.

Aims ermöglicht die Erstellung von Konten auf Twitter, LinkedIn, Facebook, Telegram, Gmail, Instagram und YouTube. Einige verfügen sogar über Amazon-Konten mit Kreditkarten, Bitcoin-Wallets und Airbnb-Konten.

Hanan erzählte den Undercover-Reportern, dass seine Avatare menschliches Verhalten nachahmen und ihre Beiträge auf künstlicher Intelligenz basieren.

Mithilfe der mit Aims verknüpften Avatare, die Team Jorge in Präsentationen und Videos enthüllt hatte, konnten Reporter von The Guardian, Le Monde und Der Spiegel ein viel größeres Netzwerk von 2.000 mit Aims verknüpften Bots auf Facebook und Twitter identifizieren.

Der Guardian und der Observer haben sich mit einem internationalen Reporterkonsortium zusammengetan, um weltweite Desinformation zu untersuchen. Unser Projekt, Disinfo black ops, deckt auf, wie Falschinformationen gezielt von mächtigen Staaten und Privatpersonen verbreitet werden, die ihre verdeckten Dienste an politische Kampagnen, Unternehmen und wohlhabende Privatpersonen verkaufen. Es zeigt auch, wie diejenigen, die reich genug sind, um dafür zu bezahlen, unbequeme Wahrheiten aus dem Internet löschen können. Die Untersuchung ist Teil von Story Killers, einer Zusammenarbeit unter der Leitung von Forbidden Stories, einer französischen gemeinnützigen Organisation, deren Aufgabe es ist, die Arbeit ermordeter, bedrohter oder inhaftierter Reporter zu verfolgen.

Die achtmonatige Untersuchung wurde von der Arbeit von Gauri Lankesh inspiriert, einer 55-jährigen Journalistin, die 2017 vor ihrem Haus in Bengaluru erschossen wurde. Stunden vor ihrer Ermordung hatte Lankesh einem Artikel mit dem Titel „In“ den letzten Schliff gegeben Das Zeitalter der falschen Nachrichten untersuchte, wie sogenannte Online-Lügenfabriken in Indien Desinformation verbreiteten. In der letzten Zeile des Artikels, der nach ihrem Tod veröffentlicht wurde, schrieb Lankesh: „Ich möchte all jenen meinen Respekt aussprechen, die Fake News aufdecken. Ich wünschte, es gäbe mehr davon.“

Dem Story Killers-Konsortium gehören mehr als 100 Journalisten aus 30 Medien an, darunter Haaretz, Le Monde, Radio France, Der Spiegel, Paper Trail Media, Die Zeit, TheMarker und OCCRP. Lesen Sie mehr über dieses Projekt.

Ein solcher investigativer Journalismus ist für unsere Demokratie von entscheidender Bedeutung. Bitte denken Sie noch heute darüber nach, es zu unterstützen.

Anschließend verfolgten wir ihre Aktivitäten im Internet und identifizierten ihre Beteiligung an scheinbar hauptsächlich kommerziellen Streitigkeiten in etwa 20 Ländern, darunter Großbritannien, den USA, Kanada, Deutschland, der Schweiz, Griechenland, Panama, Senegal, Mexiko, Marokko, Indien und den Vereinigten Staaten Arabische Emirate, Simbabwe, Weißrussland und Ecuador.

Die Analyse ergab ein breites Spektrum an Bot-Aktivitäten, wobei die gefälschten Social-Media-Profile von Aims in einen Streit in Kalifornien über Atomkraft verwickelt waren; eine #MeToo-Kontroverse in Kanada; eine Kampagne in Frankreich, an der ein UN-Beamter aus Katar beteiligt war; und eine Wahl im Senegal.

Eine der von Aims unterstützten Kampagnen richtete sich gegen ein in Monaco ansässiges Superyachtunternehmen und beschuldigte es, direkte Verbindungen zu mehreren russischen Oligarchen zu haben, gegen die Sanktionen verhängt wurden.

Wir haben auch reale Ereignisse identifiziert, die offenbar inszeniert wurden, um Munition bereitzustellen, die in Social-Media-Kampagnen eingesetzt werden könnte. In einem Fall ging es um einen gefälschten Protest, der vor einem Firmensitz in der Regent Street im Zentrum von London stattfand.

Drei maskierte Aktivisten mit Baseballkappen, Sonnenbrillen und Masken filmten sich dabei, wie sie Plakate schwenkten. Eine ähnliche Flugblattkampagne wurde in der Nähe des Eiffelturms in Paris durchgeführt, bevor sie von Aims-Bots in den sozialen Medien verbreitet wurde. Es ist nicht möglich zu wissen, wer die Kunden einer der Kampagnen waren oder was ihr Ziel war.

Es scheint jedoch klar zu sein, dass die Avatare, die Propaganda betreiben, dies mithilfe gestohlener Fotos realer Menschen tun.

Das Foto eines strahlenden Mannes in Canaelans Twitter-Biografie, wie der Guardian festgestellt hat, stammt von der echten Twitter-Seite von Tom Van Rooijen, 25, einem freiberuflichen niederländischen Journalisten, der in den Niederlanden lebt.

Van Rooijen wurde vom Guardian über den Identitätsdiebstahl informiert und sagte, es sei ihm „ziemlich unangenehm“ gewesen, sein Gesicht neben einem Tweet zu sehen, in dem er Ansichten zum Ausdruck brachte, mit denen er nicht einverstanden war. „Ich gebe Schulklassen viele Workshops zu den Themen Nachrichten, Medien, Journalismus und Fake News. Ich bringe Kindern wöchentlich bei, dass ihre Identität von einem Twitter-Bot gestohlen werden kann“, sagte er. „Ich hätte nie gedacht, dass meine eigene Identität von einem Bot gestohlen wird.“

Van Rooijen gehört wahrscheinlich zu den Zehntausenden ahnungslosen Opfern, deren Bilder vom Team Jorge gesammelt wurden.

Es werden auch andere Techniken eingesetzt, um den Avataren Glaubwürdigkeit zu verleihen und die von Technologieplattformen entwickelten Bot-Erkennungssysteme zu umgehen. Hanan sagte, seine Bots seien mit SMS-verifizierten Telefonnummern verknüpft und einige hätten sogar Kreditkarten. Aims verfügt außerdem über verschiedene Gruppen von Avataren mit unterschiedlichen Nationalitäten und Sprachen, die nachweislich Erzählungen auf Russisch, Spanisch, Französisch und Japanisch vorantreiben.

Den an der ICO-Kampagne Beteiligten wurde ein britischer Eindruck vermittelt, indem sie Nachrichtenartikel des Guardian, der BBC, der Daily Mail und des Telegraph retweeteten. Sie zeigten Interesse an der königlichen Familie, Glastonbury und der Leistung von Liz Truss als Außenministerin und veröffentlichten unbeschwerte Witze über das britische Wetter und Essen sowie malerische Fotos aus Wiltshire und Yorkshire.

Diese Hintergründe sorgten für eine gewisse Glaubwürdigkeit, als sie später plötzlich begannen, Ansichten über den britischen Datenwächter zu äußern.

Twitter lehnte einen Kommentar ab. Meta, der Eigentümer von Facebook, hat diese Woche mit Aims verknüpfte Bots auf seiner Plattform entfernt, nachdem Reporter dem Unternehmen eine Auswahl der gefälschten Konten zur Verfügung gestellt hatten. Am Dienstag brachte ein Meta-Sprecher die Aims-Bots mit anderen in Verbindung, die 2019 mit einem anderen, inzwischen aufgelösten israelischen Unternehmen in Verbindung gebracht wurden, das von der Plattform verbannt wurde.

„Diese neueste Aktivität ist ein Versuch einiger derselben Personen, zurückzukommen, und wir haben sie wegen Verstoßes gegen unsere Richtlinien entfernt“, sagte der Sprecher. „Die jüngsten Aktivitäten der Gruppe scheinen sich darauf zu konzentrieren, gefälschte Petitionen im Internet zu verbreiten oder erfundene Geschichten in Mainstream-Medien zu verbreiten.“

Trotz ihrer scheinbaren Raffinesse gaben einige Aims-Avatare Geschenke ab. Einer der Twitter-Bots, die neben Canaelan an britischen Kampagnen beteiligt waren, war „Alexander“, dessen Profilbild einen jungen Mann mit einem geformten Bart und einer weißen Mütze zeigte. Der Hintergrund: orangefarbene Tulpen neben einem fröhlichen Slogan „Be happy“.

Und seine Profilbiografie bestand aus zwei kurzen Sätzen, die ein Interesse an Unwahrheiten andeuteten – und wie man sie überzeugend umsetzen kann: „Der Unterschied zwischen Fiktion und Realität?“ Fiktion muss einen Sinn ergeben.