-All the images in this series are manipulated and partially computer generated, with a completion date of February 2021- Two fake news producers who do not want to be identified pose with 'Anonymous masks' on. (fictional caption). 'The Book of Veles' is a photographic exploration of the phenomena of fake news and synthetic information. The book was published in April 2021, appearing to be an ordinary documentary photo book about the town of Veles in North Macedonia. The town placed itself on the world map in 2016 as an epicenter for the production of fake news, when local youth set up hundreds of news websites that pretended to be American news portals. These sites, with names such as NewYorkTimesPolitics.com, spread to millions of people through Facebook and Twitter’s algorithms. While the goal of the sites’ creators was simply to earn money through banner ads, they could also have inadvertently have had a real impact on the election of Donald Trump. The book also weaves in a story about a mischievous pre-Christian pagan bear-god called Veles and the 1919 ‘discovery’ of a forged ‘ancient’ manuscript called the Book of Veles. After my book had been sold for half a year, had been shared on my social media channels and had even been screened at a photojournalism festival, I revealed (through a fake social media profile) that the whole photographic project itself was a forgery: All the people pictured in the book are in fact computer-generated 3D models which I posed and inserted into empty background tableaus from Veles. Many of the animals and important objects in the series were also non-camera-based renderings. The text in the book was written by an AI machine learning system called GPT-2. In essence, Book of Veles is a fake story about real people who made fake news. However, before I myself revealed the truth behind the project, nobody in the industry posed any questions about the material - on the contrary, it was well received and applauded as a

Der große Schwindel von Veles

Jonas Bendiksens Fake-News-Projekt liefert ein beeindruckendes „Open Format“

Fälschungen im Wettbewerb um den World Press Photo Award? Kann nicht sein? Kann es doch. Mit einer Fake-Fotoserie über die mazedonische Stadt Veles gewann der norwegische Fotograf Jonas Bendiksen in der neuen Kategorie „Open Format“ – mit voller Kenntnis der Jury. Warum das alles? Das verraten wir hier.

Veles ist eine nordmazedonische Provinzstadt mit 40.000 Einwohnern. 2016 etablierte sie sich als Epizentrum für die Produktion gefälschter Nachrichten auf der Weltkarte. Während der US-Präsidentschaftswahlen erstellten technisch versierte Jugendliche vor Ort Hunderte von Clickbait-Websites, die sich als amerikanische politische Nachrichtenportale ausgaben, um mit Klicks auf Anzeigen von Zuschauern schnelles Geld zu verdienen. Da die Fake News aus Veles über soziale Medien Millionen von Menschen erreichten, verdienten viele der News-Hacker viel Geld und könnten durchaus zur Wahl von Donald Trump zum Präsidenten der USA beigetragen haben.

Natasha bearbeitet Inhalte für die Fake-News-Website. Und ist doch selbst auch nur eine Fälschung.

Selbst die Profis schöpften keinen Verdacht

Der renommierte norwegische Fotojournalist Jonas Bendiksen reiste nach Veles, um die Trollfarmen unter die Lupe zu nehmen. Mit seiner Veröffentlichung The Book of Veles legte er eine Aufsehen erregende Foto- und Textdokumentation seiner Recherche vor. Aber: Nichts an dem Buch war echt oder wahr. Alle in Bendiksens Bildband enthaltenen Fotos sind Fälschungen, die begleitenden Essays wurden von künstlicher Intelligenz geschrieben.

Jonas Bendiksen spricht von einem technischen Experiment: „Ich wollte sehen, wie einfach es ist, die neuen Technologien zu benutzen. Als ich die Software heruntergeladen habe, wusste ich sofort, dass das gefährlich und beängstigend ist.“ Er habe gleich gesehen, wie leicht es heute sei, Technologie zu nutzen, um Fake News und Lügen zu produzieren. „Dies ist etwas völlig Neues, wir haben es mit einer neuen Medienlandschaft und neuen Problemen zu tun.“ Überrascht sei er gewesen, dass niemand kritische Fragen zu seinen Bildern gestellt habe. „Jeder dachte, es handele sich um ein seriöses Stück Fotojournalismus.“ Die Fotos wurden sogar beim französischen Festival für Fotojournalismus „Visa pour l’Image“ in Perpignan auf riesigen Leinwänden gezeigt vor erfahrenen Bildredakteur:innen, Kurator:innen und Fotograf:innen. Bendiksen erstaunt: „Niemand sagte etwas, die Leute haben es einfach akzeptiert.“

Der Fälscher enttarnt sich selbst

Am Ende hat Jonas Bendiksen sich selbst enttarnt. Kurz nach den Tagen von Perpignan erstellte er unter dem Aliasnamen Chloe Miskin einen Twitter-Account, über den er Hinweise auf den großen Schwindel lancierte. Ein halbes Jahr nach Veröffentlichung des Book of Veles enthüllte der Norweger schließlich, dass seine Fotos Fälschungen sind, ebenso wie der Text, für den er das Programm GPT-2 nutzte.

Er habe auf die Gefahren der Bildmanipulation und Desinformation hinweisen wollen, sagt Bendiksen über seine Motivation. Die Technologien zum Fälschen seien heute so gut, dass es eine große gesamtgesellschaftliche Herausforderung sei, Wahrheit von Manipulation zu unterscheiden. Er fürchtet, dass die Leute „passiv und desinteressiert“ würden, wenn sie nicht mehr wüssten, was sie glauben sollten. Das sei eine erhebliche Bedrohung der Demokratie.

Sonst immer sehr darauf erpicht, keine Bildmanipulationen zuzulassen, war die Jury des Wettbewerbs höchst beeindruckt von Bendiksens Arbeit. „Der Fotograf zeigt auf intelligente Weise, was es bedeutet, in einem Zeitalter der Desinformation zu leben“, begründete das Gremium seine Entscheidung. Und weiter: „Die Verwendung einer innovativen Technik in Kombination mit Symbolik und Ironie fügt dem gesamten Werk Bedeutung hinzu und gibt einen kühnen politischen Kommentar ab, wie anfällig wir für falsche Einflüsse in einer sich verändernden Branche sind“.