#digi: Fakes à la carte

Nr. 6 –

2020 wird das Jahr der Deepfakes. Denn von blossem Auge lassen sich die mithilfe maschinellen Lernens hergestellten Videos und Tonaufnahmen kaum mehr als Fälschungen entlarven. Vor allem bei den anstehenden US-Präsidentschaftswahlen dürfte der Desinformationsregler gegenüber 2016 noch einmal eine Stufe höher gedreht werden. Schliesslich sind die Programme, mit denen sich Deepfakes erstellen lassen, mittlerweile erschwinglich und einfach zu bedienen. Mit der neuen App «Doublicat» lässt sich etwa das eigene Gesicht problemlos in populäre Filmausschnitte einfügen. Der digitale Schleier zwischen Sein und Schein wird immer durchlässiger.

Früher benötigten Algorithmen noch eine signifikante Menge an Originalaufnahmen, um Stimmen und Gesichter von Politikerinnen, Journalisten, Comedians oder anderen Prominenten zu fälschen. Eine neue, von Google entwickelte Variante benötigt mittlerweile bloss noch eine kurze Tonaufnahme von wenigen Sekunden – etwa die Ansage auf einem Anrufbeantworter. So einfach lässt sich die Stimme von fast allen klonen. Wer hat nicht schon mal eine Sprachnachricht verschickt? Wessen Anruf beim Callcenter wurde nicht schon mal zu «Ausbildungszwecken» – sowohl für Menschen wie auch Algorithmen (siehe WOZ Nr. 19/2019 ) – aufgenommen?

Zwar lassen sich die Fälschungen mit technischen Mitteln im Normalfall als solche erkennen. Das dürfte jedoch in den wenigsten Fällen etwas bringen. Denn Desinformation wird durch den von Medien zelebrierten Faktencheck nicht weniger effektiv. Und in Fällen von Finanzbetrug ist das Geld meist längst weg, ehe die Täuschung auffliegt.

Soziale Netzwerke wie Facebook oder Reddit sehen sich entsprechend unter Zugzwang und wollen gezielter gegen Deepfakes auf ihren Plattformen vorgehen, sofern diese mit irreführender und manipulativer Absicht erstellt wurden. Diese Einschränkung ist wichtig, werden doch viele Fakes bloss zur Unterhaltung erstellt – wir erinnern uns an den allseits beliebten Gesichteraustausch mit «Face Swap». Ob ein solches Vorgehen der Manipulation Einhalt gebieten wird, ist jedoch fraglich, denn bisher hat die Moderation politischer Inhalte nur beschränkt funktioniert. Bei Deepfakes dürfte es ähnlich sein.