L'application 'Deepfake' suscite des craintes de fraude et de confidentialité en Chine – Bien choisir son serveur d impression

Une application d'intelligence artificielle qui permet aux utilisateurs d'insérer leurs visages à la place de personnages de films et d'émissions de télévision a suscité la controverse en Chine.

Zao a suscité des craintes concernant la vie privée et des suggestions qui pourraient être utilisées pour vaincre les systèmes utilisant la reconnaissance faciale.

Il est apparu en Chine le 29 août et s'est révélé extrêmement populaire.

Mais cela a amené les développeurs Momo à présenter des excuses pour son contrat d’utilisateur final, qui privait les utilisateurs des droits relatifs à leurs images.

Et lorsque l'application est devenue virale, les propriétaires de Zao ont fait savoir qu'ils craignaient que les utilisateurs ne dévorent sa capacité de serveur achetée à grands frais.

Sa popularité a également conduit Alipay, une entreprise du géant chinois du Web, Alibaba, à affirmer qu'il était impossible d'utiliser de soi-disant vidéos deepfake créées par l'application pour tromper son système de reconnaissance faciale Smile to Pay.

Qu'est-ce que Zao et pourquoi est-ce si controversé?

Zao est une application qui change de visage et qui utilise des extraits de films et d'émissions de télévision pour changer de façon convaincante le visage d'un personnage en utilisant des selfies provenant du téléphone de l'utilisateur.

Certains utilisateurs avaient toutefois noté que les conditions d'utilisation de l'application "donnaient aux développeurs le droit global d'utiliser de manière permanente toute image créée gratuitement sur l'application", a annoncé le South China Morning Post de Hong Kong.

"En outre, les développeurs avaient le droit de transférer cette autorisation à un tiers sans autre autorisation de l'utilisateur", a déclaré le journal, ajoutant que des experts estimaient que cela enfreignait la loi chinoise.

Momo avait par la suite supprimé la clause controversée et présenté des excuses, affirmant que son application ne stockerait pas les informations biométriques des utilisateurs, ni "collecterait excessivement des informations sur les utilisateurs", a déclaré The Paper, basé à Shanghai.

Mais la plate-forme populaire de médias sociaux WeChat a rapidement interdit aux utilisateurs de télécharger des vidéos de Zao via sa plate-forme, invoquant des "risques de sécurité".

La lecture multimédia n'est pas prise en charge sur votre appareil

L'application pourrait également être victime de son propre succès, Zao déclarant que, sur son compte de média social Sina Weibo, elle avait utilisé un tiers de sa capacité de serveur mensuelle, budgétée à 7 millions de yuans (805 000 £) lors de sa première nuit.

Et le lendemain, alors que les utilisateurs se plaignaient d'un service lent, le serveur était "à cœur lourd", les serveurs étaient à pleine capacité.

Zao pourrait-il être utilisé pour escroquer des banques?

Alipay, la plus grande plateforme de paiement mobile au monde, avec plus de 870 millions d'utilisateurs, a assuré à ses utilisateurs que les vidéos créées à Zao ne pourraient pas être utilisées pour frauder ses systèmes.

De nombreux utilisateurs d’Alipay profitent de son système Smile to Pay, qui permet à l’utilisateur de vérifier le paiement en regardant dans un appareil photo situé dans le point de vente d’un magasin ou d’un restaurant.

Alibaba, propriétaire de Alipay, affirme utiliser des algorithmes anti-spoofing sophistiqués pour ne pas se laisser berner par des photographies ou des vidéos deepfake.

"Il y a beaucoup de logiciels en ligne qui changent de visage – mais peu importe le réalisme, il est impossible de percer le système de paiement facial", a déclaré la société sur son compte Weibo.

Même avant que le système tente de faire correspondre le visage, il détecte si l'image présentée est une simulation immobile, vidéo ou logicielle.

"Cela évite les fraudes causées par une technologie qui change la donne", a déclaré Alibaba.

Momo a également agi pour calmer les craintes que Zao ne soit utilisé à des fins frauduleuses, clarifiant le point de vue d'Alipay qu'il utilisait uniquement et adaptait des photographies pour ses vidéos deepfake.

"Le seuil de sécurité du paiement facial est extrêmement élevé, et la technologie" révolutionnaire "réalisée par une seule photo ne peut pas briser le système de sécurité", ont déclaré les développeurs.

Il était "totalement impossible" pour de tels abus de fond de menacer la sécurité des paiements, a déclaré Momo au journal.

Et l’année dernière, l’universitaire Pan Helin a confié à China Daily Alipay que la reconnaissance faciale était "théoriquement une méthode plus sûre et plus pratique que l’utilisation conventionnelle de mots de passe".

Quelle a été la réaction?

Les préoccupations concernant l'application ont atteint la presse chinoise gérée par l'Etat.

Global Times a déclaré qu'il s'agissait d'un autre exemple "concernant" des applications utilisant l'IA "qui pourraient être utilisées de manière malveillante".

La Chine envisageait déjà de resserrer la réglementation régissant la technologie d'assemblage du visage des IA, a indiqué le journal.

Et l'avocat Zhang Xinnian lui a dit que les lois régissant les conditions d'utilisation des applications téléphoniques devaient être resserrées.

Les termes initiaux de Zao "violent la vie privée de l'utilisateur et une fois que des informations personnelles ont été divulguées et utilisées abusivement, cela pourrait conduire à des incidents criminels", a-t-il ajouté.

Pendant ce temps, le professeur de droit Zhu Wei a déclaré à l'agence de presse d'Etat Xinhua: "Les gens utilisent un client mobile qui inclut des informations sur leur identité personnelle, leurs propriétés, leurs codes de numérisation et leurs paiements mobiles et ne peuvent pas voir exactement quelles informations sont obtenues par l'application. est très dangereux. "

Un commentaire paru dans le Beijing News a même demandé si l'application pouvait devenir "une menace pour la sécurité nationale".

Avec de véritables préoccupations concernant la sécurité nationale et personnelle de Zao et les futurs services deepfake, "il est nécessaire de les réglementer le plus rapidement possible avec des dispositions juridiques claires", a-t-il ajouté.

Un éditorial du Guangzhou Daily a déclaré: "Changer des vidéos, c'est amusant, mais les risques potentiels pour la sécurité ne peuvent être ignorés".

Et le journal a déclaré que si la popularité de Zao serait de courte durée, son arrivée avait permis aux acteurs sombres de profiter plus facilement de la technologie qui transforme le visage.

Surveillance de la BBC rapporte et analyse les nouvelles de la télévision, de la radio, du Web et des médias imprimés du monde entier. Vous pouvez suivre la surveillance de la BBC sur Twitter et Facebook.