Mehr Vertrauen in Deepfakes

Nicht nur können sie die KI-Kreationen, wie sie in sogenannten 'Deepfakes' zum Einsatz kommen, kaum von echten Gesichtern unterscheiden. Menschen finden diese auch vertrauenswürdiger. 'Wir sollten uns Sorgen machen, da diese synthetischen Gesichter unglaublich effektiv für bösartige Zwecke sind, für Dinge wie Rachepornos und Betrug beispielsweise', warnt Erstautorin Sophie Nightingale von der Lancaster University gegenüber dem 'New Scientist'.

Mithilfe von KI lassen sich beliebige Gesichter in Bilder oder Videos einfügen, etwa auch das von Ex-Lovern in sogenannten Rachepornos. Nightingale und Hany Farid, Informatikprofessor an der University of California, Berkeley http://berkeley.edu , haben sich in ihrer Studie damit befasst, wie gut Menschen synthetische von echten Gesichtern unterscheiden können. 'Wir haben festgestellt, dass synthetische Gesichter nicht nur sehr realistisch sind, sie werden als vertrauenswürdiger als echte Gesichter eingestuft', erklärt Farid gegenüber 'Scientific American'.

Das Team hat für die Untersuchung 400 KI-generierte Gesichter und 400 echte Fotos genutzt. Zunächst sollten 315 Probanden ohne und 219 mit Training im Erkennen von Fakes für je128 Bilder beurteilen, welche echt sind. Die Untrainierten kamen dabei auf knapp 50 Prozent Trefferquote, jene mit Training auf nur unwesentlich mehr (59 Prozent). Eine dritte Gruppe von 223 Studienteilnehmern durfte dann die Vertrauenswürdigkeit von Gesichtern auf einer siebenteiligen Skala bewerten. Mit einer durchschnittlichen Bewertung von 4,82 Punkten schnitten die KI-generierten Gesichter dabei um rund acht Prozent besser ab.

Die Tatsache, dass die synthetischen Gesichter besser abschnitten, könnte Nightingale zufolge damit zusammenhängen, dass diese letztlich 'durchschnittlicher' aussehen. Denn die Menschen vertrauen alltäglicheren Gesichtern im Allgemeinen mehr. Zwischen Gesichtern verschiedener Abstammung gab es beim Test kaum Unterschiede, einzig Schwarze schnitten besser ab als Südasiaten. Insgesamt waren die drei vertrauenswürdigsten Gesichter Fakes, während die vier am schlechtesten bewerteten echt waren. Angesichts der Risiken und der Effektivität synthetischer Gesichter stellen die Autoren jedenfalls infrage, ob der potenzielle Nutzen dieser Technologie die möglichen Risiken aufwiegt. Möglicherweise gehöre die Entwicklung auf Eis gelegt.

Ihre Meinung dazu? Schreiben Sie hier!

#Deepfakes #KI #AI #Vertrauen #Studie

Newsticker per eMail oder RSS/Feed!

Auch interessant!
Gesichter aus KI als real empfunden
Mithilfe von generativer Künstlicher Intelligenz (KI) erzeugte fiktive Gesichter von Weißen wirken auf de...

Fake-Tickets
Der aktuelle Fußball-Hype, der auch von Events wie der kürzlich zu Ende gegangenen Frauen-WM befeuert wu...

Fake News wirken als Video stärker
Fake News kommen als Video besser an als in Audio- oder reiner Textform, so eine aktuelle Studie der Penn...

Deepfake bei Lucasfilm
Der YouTuber 'Shamook' hat nicht nur Fans mit Deepfakes beeindruckt, in denen er etwa Mark Hamills Gastau...

Unternehmen sind Deep Fakes ausgeliefert
Mithilfe von Künstlicher Intelligenz (KI) erstellte Deepfake-Videos treffen immer mehr Unternehmen völlig...

Deep Fakes anhand der Augen erkennen
Das Gesehene spiegelt sich in beiden Augen nahezu identisch wider - zumindest was Farbe und Form angeht. ...

Deepfakes bleiben unerkannt
Die meisten Menschen können Deepfake-Videos nicht durchschauen, selbst wenn diese keine hohe Qualität hab...