Article original disponible sur https://www.facebook.com/people/ActuRue-M%C3%A2con/61565946247257/

Procédure en cours de la CNIL contre la start up Veesion qui produit ce logiciel

Le 12 novembre dernier, le Journal de Saône-et-Loire publiait un article sur l’utilisation par une pharmacie mâconnaise d’un logiciel devant lutter contre le vol à l’étalage. Ce logiciel créé par la société française Veesion traite automatiquement les données comportementales des clients. Or, la CNIL (Commission Nationale de l’Informatique et des Libertés) a engagé une procédure contre Veesion en raison de l’illégalité de son logiciel, celui-ci ne respectant pas le RGPD, le réglement européen encadrant la protection des données. Cet avis a été conforté par le Conseil d’État auprès duquel la société Veesion avait en juin dernier déposé une requête en référé.

Les données corporelles des clients analysées

Dès son entrée dans cette très grande pharmacie mâconnaise, le client est cueilli par une caméra dôme, puis par un réseau d’une vingtaine de caméras qui le suivent dans tous les rayons, jusqu’à la sortie. Jusqu’ici, rien de très nouveau, puisque les supermarchés se sont dotés depuis de nombreuses année de tels systèmes de surveillance. Et rien d’inhabituel pour les Mâconnais qui sont épiés par plus de 300 caméras dans les rues de la ville. Mais ce qui sort de l’ordinaire, et qui n’est pas signalé aux clients, est que leurs données corporelles sont analysées par un logiciel afin de déterminer s’ils commettent un vol.

Le logiciel établit une probabilité de vol

Cette pharmacie mâconnaise évoquée par le Journal de Saône-et-Loire dans son édition du 12 novembre utilise ce logiciel depuis cet été pour réduire les vols dans ses rayons. Techniquement, selon le média en ligne Street Press, « afin d’établir une probabilité de vol, la société Veesion a non seulement « appris » à son programme informatique à détecter la présence humaine, mais surtout à localiser les parties de son corps (bras, jambes, poitrine, tête). Une seconde analyse algorithmique va détecter la présence d’objets tels que le sac à main, à dos, caddie, casque ou poussette, puis le positionnement des rayons et produits. Ainsi, le logiciel va, par exemple, détecter le bras d’un individu qui saisit un produit dans « l’objet » rayon et pourra donc déterminer si le bras se dirige ensuite vers le sac à main. Si l’article disparaît du champ de vision, une alerte sera remontée. La start-up n’hésite pas à avancer un taux difficilement vérifiable de 98 % de vols détectés grâce à l’IA » [1].

Non respect du RGPD

Le 21 juin 2024, le Conseil d’État a rendu une ordonnance de référé concernant Veesion. La justice administrative a conforté la procédure de la CNIL contre Veesion en raison de l’illégalité du logiciel. La CNIL a notamment souhaité en alerter l’ensemble de ses clients en obligeant à afficher dans les magasins concernés une information sur une telle infraction à la loi. Veesion a essayé de faire suspendre en urgence cette procédure et le Conseil d’Etat a rejeté la requête. Selon la Quadrature du Net, association qui défend les libertés fondamentales dans l’environnement numérique, le dispositif est clairement illégal : « Il s’agit bien ici de données biométriques, c’est-à-dire de données personnelles relatives notamment à des caractéristiques « physiques ou comportementales » (au sens de l’article 4, par. 14 du RGPD) traitées pour « identifier une personne physique de manière unique » (ici, repérer une personne en train de voler à cause de gestes « suspects » afin de l’appréhender individuellement, et pour cela analyser le comportement de l’ensemble des client·es d’un magasin). Un tel traitement est par principe interdit par l’article 9 du RGPD, et légal seulement de manière exceptionnelle et sous conditions strictes. Aucune de ces conditions n’est applicable au dispositif de Veesion. » [2]

Selon Street Press, Veesion aurait notamment vendu sa technologie à des magasins sous enseignes Fnac, Leclerc ou Biocoop. Les magasins locaux contactés par Actu’Rue Mâcon affirment ne pas utiliser ce type de logiciel.