Privacyzorgen rondom Chinese deepfake-app

2 september 2019

De Chinese app Zao is plotseling heel populair in Azië omdat hij met één foto de gebruiker in tal van bekende videofragmenten kan plakken. Dit gebeurt via kunstmatige intelligentie. Er zijn echter ook privacyzorgen over de algemene voorwaarden van de gezichten-app. 

Zao domineert sinds een paar dagen de hitlijsten van Chinese appwinkels - in Europa is de app niet officieel te downloaden. Het concept is eenvoudig: de gebruiker uploadt een duidelijke foto van zijn of haar gezicht in de app en kiest in welke van de honderden videofragmenten die geplakt moet worden. Via kunstmatige intelligentie (AI) wordt het gezicht van een bekende acteur of actrice vervangen door jouw gezicht. Wacht even tot de app het fragment gemaakt heeft. Daarna speel je de video af en kan je hem opslaan en delen op onder andere sociale media. 

Zo'n video wordt een deepfake genoemd. Zao doet dit heel erg goed, aldus kenners. Gebruikers zijn daarom erg enthousiast en delen hun deepfakes massaal op sociale media. Na de eerste hype blijken gebruikers ook de keerzijde van de app te ontdekken.

Dubieuze algemene voorwaarden
 
In een oudere versie van Zao's algemene voorwaarden stond dat de Chinese ontwikkelaars de 'gratis, onherroepelijke, permanente, overdraagbare en licentie-mogelijke' rechten hadden op alle gebruikersbeelden van Zao. Wat er met die beelden gebeurt, was onduidelijk. Na ophef over wat er met die beelden gebeurt, heeft Zao de voorwaarden aangepast, schrijft Bloomberg. De nieuwste voorwaarden beloven dat de gezichten van gebruikers en videofragmenten alleen gebruikt worden om de kunstmatige intelligentie te verbeteren én voor zaken waar de gebruiker vooraf toestemming voor heeft gegeven. Over dat laatste is nog weinig bekend. 

Zao 'heeft een beetje tijd nodig'
 
Gebruikers laten via recensies in de Chinese App Store weten nog steeds privacyzorgen te hebben. De app heeft gemiddeld 1.9 van de 5 sterren. Zao maakte op het Chinese social media platform Weibo bekend dat de privacyzorgen begrijpt en 'een beetje tijd' nodig heeft om 'problemen op te lossen waar we niet aan gedacht hebben'. 

Niet iedereen gunt Zao die tijd. WeChat, een in China immens populaire chatapp, heeft links naar Zao geblokkeerd omdat het naar eigen zeggen meldingen heeft ontvangen van beveiligingsrisico's. Details gaf de app niet. Gebruikers deelden de afgelopen dagen massaal 'zelfgemaakte' Zao-video's op WeChat, maar dat is nu dus niet meer mogelijk. 

FaceApp
 
De (Aziatische) hype rondom Zao en de bijbehorende privacyangst doet denken aan FaceApp, dat deze zomer veelvuldig in het nieuws was. De Russische app gebruikt kunstmatige intelligentie om een foto van de gebruiker te verouderen, wat grappige resultaten oplevert. Westerse overheden waarschuwen echter dat FaceApp de data van gebruikers opslaat en steelt en gezichten gebruikt voor dubieuze doeleinden. 

Diverse beveiligingsonderzoekers konden geen bewijs vinden voor deze claims. FaceApp ontkende bovendien. De oproep van de Nederlandse politie om FaceApp te verwijderen, leek daarom ongefundeerd.  

Meer informatie