Face aux faits sur la reconnaissance faciale

Outre les clichés obligatoires du Grand Canyon ou de la tour penchée de Pise, de nombreuses photos que les consommateurs souhaitent conserver présentent les visages d’amis et de membres de leur famille. L’utilisation d’un service comme l’application Ever d’Everalbum pour stocker des photos et des vidéos dans le cloud est un moyen de libérer de l’espace sur les appareils des consommateurs. Mais que faisait Everalbum dans les coulisses après que les consommateurs aient confié ces images à l’entreprise ? Un règlement proposé par la FTC suggère que l’utilisation par défaut d’Everalbum de la technologie de reconnaissance faciale est allée à l’encontre des promesses faites aux clients.

De 2015 à septembre 2020, Everalbum, basé à San Francisco, a proposé Ever, une application de stockage et d’organisation de photos qui permet aux utilisateurs de télécharger des photos et des vidéos depuis leurs appareils mobiles, ordinateurs, services de médias sociaux et ailleurs sur les serveurs cloud de l’entreprise. En février 2017, Everalbum a lancé sa fonction “Amis”, qui permettait aux utilisateurs de taguer les personnes sur leurs photos par leur nom afin que toutes les photos taguées de la même manière puissent être regroupées. Lorsque Everalbum a lancé la fonctionnalité, elle activait la reconnaissance faciale par défaut pour tous les utilisateurs de l’application et n’offrait aucun moyen aux utilisateurs de désactiver ou de désactiver la fonctionnalité.

Puis, en mai 2018, Everalbum a commencé à diffuser un message contextuel pour les utilisateurs du Texas, de l’Illinois, de Washington et de l’Union européenne qui disait : « Ever utilise la technologie de reconnaissance faciale pour créer automatiquement des albums de vous et de vos amis. Voulez-vous qu’Ever le fasse ? Oui ou non merci. Ainsi, pour les habitants de Waco, Waukegan, Walla Walla et Würzburg, Everalbum a désactivé la fonction Amis – et la reconnaissance faciale – à moins que ces consommateurs n’aient cliqué sur Oui. La société a également modifié son application afin que les utilisateurs du Texas, de l’Illinois, de Washington et de l’UE puissent activer et désactiver la reconnaissance faciale.

Peu de temps après, Everalbum a publié sur la page AIDE de son site Web un article intitulé « Qu’est-ce que la reconnaissance faciale ? » Voici ce que l’entreprise a dit aux consommateurs :

Lorsque la reconnaissance faciale est activée, la technologie analyse les photos et les vidéos que vous téléchargez pour créer une chaîne de chiffres que nous appelons une « intégration de visage ».

* * * *

Lorsque la reconnaissance faciale est activée, vous nous faites savoir que nous pouvons utiliser les intégrations de visage des personnes dans vos photos et vidéos, y compris vous, et que vous avez l’approbation de toutes les personnes figurant sur vos photos et vidéos.

Mais selon la plainte, le problème était que si cela était vrai pour les consommateurs du Texas, de l’Illinois, de Washington et de l’UE, ce n’était pas vrai pour le reste des millions d’utilisateurs d’Everalbum. En d’autres termes, malgré la déclaration de l’entreprise selon laquelle elle n’utilisait pas la technologie de reconnaissance faciale à moins que l’utilisateur ne l’active, Everalbum utilisait la reconnaissance faciale pour la plupart des photos et vidéos des consommateurs et ne leur offrait aucun moyen de modifier ce paramètre par défaut. Selon la FTC, la société a continué à fournir des informations inexactes à ces consommateurs jusqu’en avril 2019 au moins, date à laquelle elle a modifié sa politique et a affiché la même fenêtre contextuelle pour offrir le choix à tous les utilisateurs.

Ce n’est qu’une partie de l’histoire, car indépendamment de la fonction Amis, pendant deux ans, Everalbum a mis les photos personnelles des consommateurs à un autre usage. Au départ, l’entreprise utilisait une technologie de reconnaissance faciale accessible au public, mais a ensuite commencé à développer sa propre technologie, en utilisant les photos des clients comme élément de « matière première ». Selon la plainte, la société a combiné des millions d’images qu’elle a extraites des utilisateurs de son application Ever avec d’autres images qu’elle a obtenues à partir d’ensembles de données accessibles au public pour aider au développement de la technologie de reconnaissance faciale, y compris la technologie qu’elle a finalement commercialisée auprès d’autres entreprises par le biais de son entreprise. marque Paravision.

La plainte allègue également qu’Everalbum a pris le “jamais” un peu trop littéralement. Lorsque les utilisateurs ont choisi de désactiver leurs comptes, la société a averti que “vous perdrez définitivement l’accès à [number of ] photos et [number of] albums. En réponse aux demandes des clients concernant la suppression de leurs comptes, dans au moins certains cas, Everalbum leur a dit : “Veuillez noter que cela supprimera également de manière permanente toutes les photos et vidéos stockées sur votre compte.” Mais malgré cette déclaration et des représentations similaires dans sa politique de confidentialité, jusqu’en octobre 2019 au moins, Everalbum n’a pas supprimé les photos ou vidéos des utilisateurs qui avaient désactivé leurs comptes et a plutôt conservé les images indéfiniment.

L’ordonnance proposée exige qu’Everalbum supprime tous les modèles et algorithmes de reconnaissance faciale qu’il a développés à l’aide des photos ou vidéos des utilisateurs d’Ever, toutes les photos et vidéos téléchargées par les utilisateurs qui ont demandé la désactivation de leur compte Ever, et toutes les données de reconnaissance faciale dérivées des images téléchargées par les utilisateurs qui n’a pas donné son consentement affirmatif à l’utilisation de la reconnaissance faciale. L’ordonnance proposée interdit également les fausses déclarations liées – entre autres – à la collecte, l’utilisation, la divulgation, la maintenance, la suppression, la confidentialité et la sécurité des informations provenant de ou concernant les consommateurs individuels et la capacité des consommateurs à contrôler l’une de ces actions. En outre, pour tout futur produit destiné aux consommateurs, Everalbum doit obtenir le consentement exprès affirmatif des consommateurs avant de dériver des données de reconnaissance faciale de leurs images ou d’utiliser ces images pour développer des modèles ou des algorithmes de reconnaissance faciale. Une fois le règlement publié dans le Federal Register, la FTC acceptera les commentaires du public pendant 30 jours.

Comme l’indique clairement le règlement proposé, les entreprises doivent faire face à leur obligation de justifier leurs allégations concernant la reconnaissance faciale ou d’autres pratiques de collecte d’informations.

Les pratiques de reconnaissance faciale de votre entreprise peuvent être très importantes pour les consommateurs. Les consommateurs sont-ils préoccupés par la reconnaissance faciale ? Deux développements suggèrent qu’ils le sont. Premièrement, depuis qu’Everalbum a commencé à proposer aux utilisateurs de choisir s’ils souhaitaient que l’application Ever utilise la reconnaissance faciale, environ 25 % des utilisateurs qui ont fait une sélection ont choisi de désactiver la fonctionnalité. Deuxièmement, en plus du Texas, de l’Illinois, de Washington et de l’UE, d’autres juridictions aux États-Unis et dans le monde envisagent de limiter l’utilisation des données biométriques. Les entreprises prudentes font preuve de prudence dans la manière dont elles mettent en œuvre la technologie de reconnaissance faciale et expliquent leurs pratiques aux consommateurs.

Tenez vos promesses tout au long du cycle de vie des données. Nous continuerons à le dire jusqu’à ce que nous soyons tristes, mais les entreprises doivent tenir leurs promesses en matière d’informations, de la collecte initiale jusqu’à l’élimination sécurisée. Lorsque des entreprises affirment que des données seront définitivement supprimées, les consommateurs ont parfaitement le droit de se fier à cette représentation. Rendre l’information inaccessible aux consommateurs tout en la conservant sur le système de l’entreprise ne suffira pas.

Leave a Comment

Your email address will not be published.