Wer sich in sozialen Netzwerken bewegt, ist ihnen sicher schon einmal begegnet: mal mehr, mal minder glaubhaften Clips mit KI-generierten Darstellungen von Prominenten. Ihr Zweck ist es häufig, User auf betrügerische Webseiten zu führen. Auch auf Facebook und Instagram kursieren derartige Clips, die als “Celeb-Baits” (“Promi-Köder”) bekannt sind. Doch dem will Meta nun durch den Einsatz von Gesichtserkennungstechnologie einen Riegel vorschieben. Für weitere Features nimmt der Konzern künftig außerdem auch das Gesicht von Otto Normalbürgern unter die Lupe.
Gesichtserkennung gegen KI-Fakes
Wie Meta in seinem Blog bekannt gibt, will der Konzern den sogenannten Celeb-Baits auf Facebook und Instagram künftig durch eine Gesichtserkennungstechnologie den Kampf ansagen. Die Idee: das System vergleicht die Gesichter in verdächtigen Anzeigen und Clips mit den Profilbildern der betroffenen Prominenten und Influencern auf Facebook und Instagram. Sollte eine Übereinstimmung festgestellt werden und die Anzeige als Betrug identifiziert werden, wird sie umgehend blockiert. Die dabei generierten Gesichtsdaten werden sofort nach dem Vergleich gelöscht und nicht für andere Zwecke verwendet, so Meta.
Meta weitet Tests aus
In ersten Tests mit einer kleinen Gruppe von Prominenten und anderen Personen des öffentlichen Lebens habe Meta eigenen Angaben nach bereits vielversprechende Ergebnisse erzielt. So sei man sowohl mit der Geschwindigkeit als auch der Effizienz der Gesichtserkennung zufrieden. Aus diesem Grund möchte Meta seine Tests nun ausweiten. In den kommenden Wochen soll demnach eine größere Gruppe betroffener öffentlicher Personen In-App-Benachrichtigungen erhalten, die sie über das neue Feature zu informieren. Diese Personen haben daraufhin jederzeit die Möglichkeit, sich über ihr Account-Center von dieser Schutzmaßnahme abzumelden. Neben der Bekämpfung von betrügerischen Anzeigen und Clips untersucht Meta auch Möglichkeiten, gefälschte Konten schneller zu erkennen. Diese Konten versuchen User häufig durch die Imitation von Prominenten hinters Licht zu führen. Auch hier könnte der Abgleich der Profilbilder verdächtiger Konten mit den offiziellen Profilbildern der Prominenten einen zusätzlichen Schutz bieten.
Account-Verifizierung durch Gesichtserkennung
Darüber hinaus könnte Gesichtserkennungstechnologie Usern künftig dabei helfen, Zugang zu ihren Konten wiederzuerlangen – etwa nach dem Verlust des Passworts oder nach einem Cyberangriff. Dazu erprobt Meta derzeit eine Verifizierungsmethode per Video-Selfie, bei der die Gesichtserkennung das Profilbild des Benutzerkontos mit dem Gesicht im Video-Selfie abgleicht. Meta betont dabei, dass gespeicherte Gesichtsdaten nach der Verifizierung umgehend gelöscht werden, ebenso das hochgeladene Video, das zudem verschlüsselt gespeichert werde.
