China maakt zich zorgen om deepfakes op populaire apps
Chinese autoriteiten hebben grote techbedrijven om tekst en uitleg gevraagd over de verspreiding van nepvideo's, zogeheten deepfakes, op hun platforms.
Toezichthouders in China hebben over deepfakes overlegd met elf techbedrijven, waaronder Alibaba Group, Tencent en TikTok-moederbedrijf ByteDance.
Deepfakes zijn hyperrealistische, maar neppe video- of audiofragmenten die zijn gemaakt door software met kunstmatige intelligentie. Makers kunnen zo bijvoorbeeld bekende personen dingen laten zeggen of doen die in werkelijkheid nooit zijn gebeurd. De Chinese toezichthouder voor digitale zaken heeft samen met het ministerie voor openbare veiligheid gesprekken gevoerd met de techbedrijven over potentiële gevaren van de technologie, zo meldden de instanties.
De Chinese autoriteiten vrezen maatschappelijke onrust door nieuwe apps of technologie. Zo hebben ze de techbedrijven ook opgedragen om zelf de veiligheid te beoordelen van nieuwe functies of berichtendiensten die "de de maatschappij in beweging kunnen brengen".
Onder meer Facebook, Twitter en Reddit hebben het plaatsen van deepfakes al verboden.
Macht techreuzen indammen
Peking, dat op internet een strenge censuur toepast, voert de druk op grote internetbedrijven van eigen bodem recent verder op. De regering zegt zich zorgen te maken om de te grote macht van concerns als Alibaba en Tencent en scherpt ook steeds meer de controle op hun financiële dienstverlening aan.
Onlangs was de populaire audiochat-app Clubhouse korte tijd beschikbaar in China, waarna de autoriteiten ingrepen en de app blokkeerden. Op Clubhouse namen Chinese gebruikers deel aan discussies over gevoelige onderwerpen, zoals de detentiekampen in Xinjiang en de onafhankelijkheid van Hongkong. TikTok-eigenaar Bytedance zou nu werken aan een eigen Clubhouse-achtige praat-app.