Is alles wat je ziet wel echt? (leestijd: 3 minuten)

radiichina.com

Het ene moment is een app een nobele onbekende, het volgende staat het bovenaan elke hitlijst van de appstore. Het gebeurde ook met ZAO, een Chinese app voor je smartphone die je plaatst in je favoriete film of serie. Het maakt daarvoor gebruik van deepfake, een techniek waarbij een algoritme gezichten vervangt in een video. Wat ZAO zo opmerkelijk maakt, is het feit dat de app maar één selfie nodig heeft om een nieuwe video te maken. Over het algemeen heb je voor een goede deepfakevideo een hele set foto's vanuit verschillende hoeken nodig om een waarheidsgetrouwe video te maken. Het maakt de dienst erg gebruiksvriendelijk maar doet meteen ook heel wat vragen oproepen.

Allereerst is er natuurlijk het grote privacyvraagstuk: wanneer het zo makkelijk gemaakt wordt om een deepfake te maken, hoe kunnen we voorkomen dat iemand je foto gebruikt om een deepfake te maken? Momo, het bedrijf achter ZAO, legt die verantwoordelijkheid volledig bij de gebruiker. Enkel wanneer je de toestemming van iemand hebt om zijn/haar foto te gebruiken in ZAO, mag je dit ook effectief doen. Dat niemand zich hier aan gaat houden, valt natuurlijk al te voorspellen.

Verder is er ook de vraag hoe andere bedrijven zullen reageren nu deepfake steeds toegankelijker wordt. China is een land waarin gezichtsherkenningtechnologie een pak verder staat dan bij ons. Gezichtsherkenning wordt door de overheid gebruikt om zijn burgers in de gaten te houden maar ook door bijvoorbeeld financiële diensten. Alipay, het grootste mobiel betalingssysteem in China, gebruikt erg graag gezichtsherkenning voor zijn dienst. Het bedrijf heeft zijn gebruikers moeten verzekeren dat ZAO geen bedreiging vormt. 

Als laatste is er nog de grote vraag over hoe we echte beelden van valse beelden kunnen onderscheiden. In tijden van toeterende politici die bij elk nieuws dat niet in hun propaganda past met de term *fake news* aanzetten, komen deepfakevideo's op een slecht moment. De online schandpaal draait de laatste tijd weer overuren en eens een deepfake online staat, maakt het niet meer uit hoe de vork nu net in de steel zit. Waar de macht van techgiganten onze overheden eindelijk wat kopzorgen geeft, zal deepfake de volgende migraine-aanval zijn.

Lees meer...
Linkedin

Wil je meer soortgelijke content ontvangen?