Die US-Start-up-Firma Reality Defender hat in einem Interview mit Wired ein Tool zur Echtzeit-Erkennung von sogenannten Deepfake-Videos angekündigt. Das Unternehmen konzentriert sich dabei insbesondere auf die Erkennung von “Deepfake-Face-Swapping”, bei dem das Gesicht einer Zielperson digital in das Gesicht eines Angreifers eingefügt wird. Die Mimik des Betrügers bleibt dabei erhalten. Ein Verfahren, das durch immer leistungsfähigere künstliche Intelligenz stetig einfacher und kostengünstiger und damit auch gefährlicher wird.
Feuer mit Feuer bekämpfen
Konkret wird das Tool als Plug-in für die Videochat-App Zoom zum Einsatz kommen. Mit diesem kann aktiv vorhergesagt werden, ob es sich bei den Gesprächspartnern eines Videotelefonats um echte Menschen oder KI-gestützte Imitationen handelt. Das Praktische daran: Die Erkennung erfolgt, ohne dass die Konferenz-App verlassen werden muss; das Programm läuft so lange im Hintergrund, bis ein Ergebnis vorliegt. Interessanterweise werden dazu Bilder des Videos an eine firmeneigene KI gesendet, die das Gegenüber auf mögliche Auffälligkeiten untersucht. Wenn man so will, bekämpft eine KI damit die missbräuchliche Nutzung einer anderen KI. Sollte die “gute” künstliche Intelligenz Anzeichen für einen Betrug erkennen, schlägt das Programm Alarm.
Eine wachsende Gefahr
Laut Reality Defender kommt das Tool genau zum richtigen Zeitpunkt: “Es ist wahrscheinlich nur noch eine Frage von Monaten, bis wir eine Explosion von Deepfake-Videos (…) erleben werden”, sagt Ben Colman, CEO des Unternehmens. Gerade bei Videogesprächen über sensible Themen sei es wichtig, nicht immer alles zu glauben, was man sieht. “Angesichts der weltweit steigenden Zahl von Betrugsfällen bei Videokonferenzen müssen Teams wissen, dass sie mit echten Menschen sprechen”, fügt er hinzu. Dass es sich dabei nicht nur um einen Marketing-Gag handelt, wurde erst kürzlich deutlich: Im August haben KI-gefälschte Wahlkampfaufrufe mit der Stimme von US-Präsident Joe Biden eine US-Telefonfirma 1 Million US-Dollar gekostet. Darüber hinaus soll ein internationales Finanzunternehmen Anfang des Jahres 25 Millionen US-Dollar durch einen Zoom-Anruf mit gefälschten Teilnehmern verloren haben.
So geht es weiter
Das Start-up konzentriert sich derzeit auf Partnerschaften mit Unternehmen und Behörden, um Angriffe über KI-gestützte Deepfakes zu vereiteln. Das bedeutet leider auch, dass die breite Masse zunächst leer ausgehen wird: Das Tool wird in der kommenden Beta-Phase nur ausgewählten Kunden von Reality Defender zur Verfügung stehen. Doch Colman gibt sich ehrgeizig: Laut ihm könne die Videoauthentifizierung in Echtzeit zukünftig so selbstverständlich werden wie der Spam-Scanner, der leise im Hintergrund Ihres E-Mail-Posteingangs surrt.