Inmitten des digitalen Zeitalters hat die Sorge um gefälschte Nachrichten zunehmend die Aufmerksamkeit öffentlicher Stellen, Medien und Persönlichkeiten aller Art auf sich gezogen. Nicht umsonst hatten Fake News ein gewisses Gewicht in wichtigen Wahlprozessen wie den Präsidentschaftswahlen der Vereinigten Staaten im Jahr 2016, dem Referendum über den Austritt des Vereinigten Königreichs aus der Europäischen Union oder den Generälen Brasiliens, die Bolsonaro den Sieg bescherten.
Ohne so weit gehen zu müssen, musste Facebook in unserem Land kürzlich drei große rechtsextreme Netzwerke schließen, in denen über 30 Seiten, Gruppen und doppelte Konten mehr als eineinhalb Millionen Follower und mehr als 7 Millionen Interaktionen angesammelt wurden . Diese Gruppen widmeten sich der Verbreitung von Scherzen und falschen Bildern.
Aber jetzt sind wir mit einer anderen Art von digitaler Bedrohung konfrontiert, die neue Kopfschmerzen verursacht. Wir sprechen über das sogenannte Deepfake, ein Begriff, der sich aus der Kombination von „Deep Learning“ und „Fake“ ergibt . Grundsätzlich handelt es sich um eine Form der künstlichen Intelligenz , mit der jeder Benutzer gefälschte Videos und Audios von Personen bearbeiten kann, die real erscheinen. Hierzu werden antagonistische generative Netzwerke (AGRs) verwendet , eine Art Algorithmus, mit dem neue Datentypen aus anderen bereits vorhandenen Sätzen erstellt werden können.
Letztendlich sind "Deepfakes" eine weitere Form der digitalen Manipulation und eine der wahrscheinlichsten, die im besten Fall für "Trolling" verwendet wird. Aber wie können wir sie erkennen? Und vor allem, was unternehmen private Institutionen und Unternehmen, um die katastrophalen Folgen zu verhindern? In diesem Special werden wir die Bemühungen überprüfen, die unternommen werden, um diese neue digitale Geißel zu stoppen.
Warum sind Deepfakes so gefährlich?
Die „Deepfake“ -Technologie ermöglicht es uns, das Gesicht einer Person leicht durch das einer anderen zu ersetzen, als wäre es eine Art Maske oder digitale Maske, um uns glauben zu lassen, dass er bestimmte Dinge gesagt hat, die nie wirklich passiert sind . Wie Sie sich vorstellen können, haben diese Techniken eine Reihe bedeutender Auswirkungen auf die Legitimität der im Internet verbreiteten Informationen.
Obwohl sie oft verwendet werden, um humorvolle Videos zu erstellen, ist die Wahrheit, dass "Deepfakes" ein dunkles Potenzial haben, das öffentliche Image einer Person zu zerstören oder die öffentliche Meinung durch den Einsatz von Desinformation zu beeinflussen. Leider müssen wir Ihnen sagen, dass dieser Missbrauch weiter verbreitet ist, als wir möchten, und mit großem Erfolg sollten wir hinzufügen.
Ein deutliches Beispiel ist die DeepNude App, die das Bild einer Person mit Kleidung erlaubt das Hochladen und die Schaffung eines neuen von der gleichen nackten Person . Glücklicherweise ist es bereits geschlossen, aber wir müssen die Benutzerfreundlichkeit dieser Art von Werkzeugen hervorheben, für die keine Bearbeitungskenntnisse erforderlich sind, da der Algorithmus selbst die ganze Arbeit erledigt.
Im Fall von DeepNude bot die Plattform unglaublich realistische Ergebnisse und war über ihre Website für Windows und Linux vollständig zugänglich . Und wie erwartet dauerte es nicht lange, bis die Montagen mit Prominenten wie Katy Perry oder Gal Gadot im Netzwerk erschienen, bis der Druck der Anwälte dieser Schauspielerinnen nicht aufhörte, bis wichtige Websites mit Inhalten für Erwachsene die Videos entfernten .
Dies ist nur die Spitze des Eisbergs der Handhabungskapazität, die diese Art von Anwendungen haben können. Stellen wir uns nun die Konsequenzen eines solchen Wahlkampfs gegen eine bestimmte politische Persönlichkeit vor, um einen Wahlprozess in einem Land oder einer Region zu manipulieren. Das Böse kennt keine Grenzen.
Wie werden Deepfakes bekämpft?
Eines der ersten Unternehmen, das sich zu Wort meldete, war kein anderes als Google, das seinen festen Willen zur Bekämpfung von Deepfakes ankündigte und, wie in diesen Fällen heißt, durch Feuer das Feuer löscht. Der Technologieriese bestätigte den Start einer vollständigen Datenbank mit bis zu 3.000 Videos, die mit künstlicher Intelligenz (Deepfakes) manipuliert wurden und speziell zur Verfeinerung der Erkennungswerkzeuge von Forschern erstellt wurden.
Zu diesem Zweck hat Google echte Schauspieler beauftragt, ihre Gesichter aufzunehmen und sie als Referenz zu verwenden, um festzustellen, ob ein Video künstlich verändert wurde. Mit den für alle verfügbaren Deepfake-Generierungsmethoden werden aus diesen Aufzeichnungen Tausende von Deepfakes erstellt.
Die resultierenden echten und gefälschten Videos werden auf die kollaborative Entwicklungsplattform GitHub hochgeladen, damit die Forscher vollständig verstehen, was das System produziert. Diese Datenbank ist, wie wir sagen, vollständig zugänglich, obwohl sie Ihnen zuerst die Erlaubnis geben muss .
Facebook plant seinerseits, bis Ende dieses Jahres eine ähnliche Datenbank zu erstellen. Laut seinem Geschäftsführer Mark Zuckerberg besteht das Hauptproblem darin, dass die Branche nicht über ein standardisiertes System verfügt, um sie zu erkennen . Aus diesem Grund hat es sich mit der Association of AI, Microsoft und Wissenschaftlern von Cornell Tech, MIT, Oxford, UC Berkeley, der University of Maryland, dem College Park und der University of Albany-SUNY zusammengetan, um die Deepfakes Detection Challenge zu entwickeln. (DFDC für sein Akronym in Englisch).
Dieses Makroprojekt wird neben finanzieller Hilfe und Spenden eine umfangreiche Datenbank und eine detaillierte Klassifizierung enthalten , um so viele Mitarbeiter wie möglich zu ermutigen. Die Idee ist, eine Art Community zu schaffen, die hilft, manipulierte Videos durch eine KI zu erkennen und zu vermeiden.
Es besteht kein Zweifel, dass die Verbreitung von "Deepfakes" zu einem sehr ernsten Problem geworden ist, mit schwerwiegenden Konsequenzen, die nicht ignoriert werden können. Obwohl die von den Hauptagenten vorgeschlagenen Maßnahmen, die sich dieser Sache verschrieben haben, auf lange Sicht unpraktisch oder sogar kontraproduktiv erscheinen mögen, sind sie möglicherweise der einzige Weg, um dieses Verbrechen auszurotten. Obwohl es widersprüchlich erscheinen mag, hilft die Bekämpfung von "Deepfakes" mit mehr "Deepfakes" den Erkennungswerkzeugen , mehr Daten zu absorbieren, damit sie diese Arten von Montagen leichter finden können .