Künstliche Intelligenz ist ein Segen und soll den Alltag an vielen Stellen vereinfachen. Längst ist aber auch bekannt, dass sie für kriminelle Handlungen missbraucht werden kann. Ein relativ neues Phänomen sind Deepfakes. Dabei handelt es sich um gefälschte, aber realistisch wirkende Medieninhalte wie Fotos, Videos oder Audios. Hinter den erstellten Medien können verschiedene Motive stehen. Wie du Deepfakes erkennst und wie du dich davor schützt, erklären wir dir in diesem Artikel.

Gefahren durch Deepfakes

Deepfakes lassen sich für die Filmindustrie, für die Unterhaltung, für die Bildung oder für die Kommunikation wertvoll nutzen. Mit der Zeit entdeckten jedoch auch Kriminelle die Möglichkeiten der gefälschten Medieninhalte. Die Motive für die Erstellung von Deepfakes sind vielfältig. Du als Opfer von Deepfakes sollst auf falsche Informationen hereinfallen, mit Deepfakes diffamiert werden oder durch Betrug dein Vermögen verlieren.

Im Falle eines Vermögensschadens ist es gut, wenn du über eine Internet-Rechtsschutzversicherung verfügst, wie sie SaferYou für dich bietet. Diese unterstützt dich nicht nur mit fachkundiger Beratung durch Rechtsanwälte, sondern übernimmt auch Verluste im Falle eines Vermögensschadens.

Kriminelle Handlungen

Ein Motiv für gefälschte Medieninhalte ist der Betrug oder die Erpressung von Opfern. Beim Betrug verändern Kriminelle Medieninhalte so, dass dir als Opfer ein finanzieller Schaden entsteht. Du wirst zum Beispiel durch eine gefälschte Werbung einer Bank oder einen gefälschten Spendenaufruf getäuscht und überweist dein Geld an die Betrüger. Eine andere Möglichkeit ist, dass Kriminelle dich mit Deepfakes erpressen. Sie erstellen Nacktbilder oder andere unangenehme Medieninhalte mit deinem Gesicht und drohen damit, diese zu veröffentlichen. Nötigung oder Erpressung sind dann die Folge.

Fehlinformationen

Das wohl häufigste Motiv für die Erstellung von Deepfakes ist die Verbreitung von Fehlinformationen. Die Täter versuchen dabei, Kampagnen zu starten, um Fehlinformationen zu verbreiten. Dies geschieht oft aus politischen Gründen. So sorgen gefälschte Aussagen und Reden dafür, dass das Vertrauen in bestimmte politische Parteien schwindet oder sich Unruhen auslösen. Auch in internationalen Konflikten erfolgt eine Verbreitung von Deepfakes zu Propagandazwecken, um Spannungen zwischen den jeweiligen Fronten zu schüren. In der Wirtschaft können gefälschte Medien zur Manipulation von Aktienkursen führen. Auch zur Beeinflussung von Gerichtsurteilen sind Deepfakes als gefälschte Beweismittel denkbar.

Deepnudes

Eine Sonderform der Deepfakes sind die Deepnudes. Dabei handelt es sich um Fotos und Videos mit pornografischem Inhalt. Aufnahmen von bekleideten Personen werden so manipuliert, dass diese scheinbar nackt erscheinen. Die Köpfe dieser Personen ersetzen die Darsteller in den pornografischen Aufnahmen. Die Täter wollen damit entweder ein Angebot schaffen, das sich gut verkaufen lässt, oder sie wollen Privatpersonen diffamieren und in ihrem Ansehen schädigen. Deepnudes sind beispielsweise Teil des Cybermobbings, bei dem Täter gefälschte Nacktbilder von Jugendlichen in sozialen Medien verbreiten. Dies führt bei den Opfern zu emotionalem Stress bis hin zu psychischen Traumata.

Deepfakes als Gesetzesverstoß

In Deutschland und Europa gibt es bisher keine weitergehenden Gesetze zum Thema Deepfakes. So existiert beispielsweise keine strafrechtliche Regelung für die Verbreitung von Falschinformationen mittels Deepfakes, auch wenn erste Gesetzesentwürfe auf dem Weg sind.

Am häufigsten kommt es bei der Erstellung von Deepfakes zu Verletzungen des Persönlichkeitsrechts, des Urheberrechts und des Datenschutzrechts. Häufig nutzen die Täter die gefälschten Medieninhalte jedoch zur Begehung von Straftaten, sodass eine strafrechtliche Verfolgung nach dem Strafgesetzbuch bereits nach geltendem Recht möglich ist. Dazu gehören Delikte wie Beleidigung, üble Nachrede, Verleumdung, Betrug, Erpressung oder Nötigung.

Schutz vor Deepfakes

Es ist davon auszugehen, dass Deepfakes mit der Entwicklung künstlicher Intelligenz zu einem Massenphänomen werden. Aus diesem Grund stellt sich die Frage, wie du dich schützt und gefälschte Medieninhalte erkennst. Zum Schutz vor Deepfakes existieren das Watermarking, Schutzsoftware sowie die strenger werdenden Reglementierungen. Die Identifizierung erfolgt durch visuelle oder akustische Hinweise sowie durch Erkennungswerkzeuge.

Watermarking: Unter Watermarking verstehen Experten ein Wasserzeichen für Fotos und Bilder im Internet. Werden solche Wasserzeichen standardmäßig auf alle "echten" Medieninhalte aufgebracht, können Suchmaschinen Deepfakes ohne Watermarking leicht herausfiltern.

Schutzsoftware: Tools wie Stable Diffusion oder Fawkes helfen dir, deine Bilder vor Deepfakes zu schützen. Sie setzen unsichtbare Bildpunkte auf deine Medieninhalte, die erkennbar werden, sobald Fälscher sie bearbeiten. Das Tool Nightshade hingegen kann Gesichter erkennen und verhindert so die Nutzung urheberrechtlich geschützter Medien.

Strengere Reglementierung: Viele Länder verabschieden nach und nach Gesetze, die sich speziell mit Deepfakes befassen und härtere Strafen ermöglichen. So ist nicht mehr nur die Straftat mit manipulierten Medieninhalten ein Gesetzesverstoß, sondern je nach Ausgestaltung bereits die Erstellung von gefälschten Fotos und Videos.

Visuelle Hinweise: Um gefälschte Fotos und Videos zu erkennen, solltest du auf unnatürliche Bewegungen, Unregelmäßigkeiten im Gesicht, uneinheitliche Lichtverhältnisse oder das Blinzeln achten, da Deepfake-Algorithmen mit diesen Details Probleme haben.

Auditive Hinweise: Wenn du auditive Medien untersuchst, achte auf die Synchronität der Lippen. Es kann zudem vorkommen, dass die künstliche Intelligenz einen metallischen oder roboterhaften Tonfall annimmt und die Betonung falsch setzt.

Erkennungswerkzeuge: Spezialisierte Software und Tools sind in der Lage, Deepfakes zu erkennen. Programme wie Deepware Scanner, FaceForensics++ oder der Microsoft Video Authenticator untersuchen Medien auf ihre Echtheit. Eine weitere Möglichkeit bietet die Reverse Image Search der großen Suchmaschinen.