la CNIL britannique inquiète d’atteintes à la vie privée – EURACTIV.fr

L’Information Commissioner Office a émis, vendredi dernier (6 octobre), un avis préliminaire d’exécution à l’encontre de Snapchat car le réseau social pourrait ne pas avoir évalué les risques relatifs à la protection de la vie privée de « My AI », son agent conversationnel (chatbot) fonctionnant grâce à l’intelligence artificielle.

My AI, introduit cette année, et alimenté par la technologie générative ChatGPT d’OpenAI, a suscité des inquiétudes en matière de protection des données dans l’Union européenne.

Le chatbot de Snapchat est la première intelligence artificielle générative d’une grande plateforme de messagerie disponible au Royaume-Uni.

Le bureau de la CNIL britannique (Information Commissioner’s Office, ICO) pourrait demander à l’entreprise de prendre des mesures si celle-ci n’est pas en conformité avec la législation, peut-on lire sur le site web de l’agence.

Toutefois, si l’avis d’exécution devenait définitif, Snapchat pourrait être contraint d’interdire à son chatbot My AI de procéder à des traitements des données.

L’ICO a constaté que l’analyse de risques menée par Snapchat avant le lancement de My AI « n’a pas évalué de manière adéquate les risques posés par la technologie d’IA générative pour la protection des données, en particulier chez les enfants ».

Le chef de l’ICO, John Edwards, a déclaré que « les conclusions provisoires de l’enquête suggèrent que Snapchat n’a pas identifié et évalué de manière adéquate les risques relatifs à la protection de la vie privée des enfants et des autres utilisateurs avant de lancer “My AI” ».

Un porte-parole de Snapchat a indiqué à Euractiv que l’entreprise avait pourtant mené un « processus d’examen juridique et de protection de la vie privée solide » avant le lancement de son chatbot propulsé par l’IA.

Comparé à ChatGPT, My AI présente « des améliorations et des contrôles de sécurité supplémentaires uniques à Snapchat ».

Par exemple, My AI prend en compte l’âge des utilisateurs pendant la conversation, et ceux qui consultent le Centre des familles Snapchat peuvent être informés sur l’utilisation par leurs enfants du chatbot My AI.

« Tout le contenu partagé avec My AI est stocké jusqu’à ce que vous le supprimiez », peut-on lire sur le site web de Snapchat.

« Nous avons clairement indiqué que les organisations doivent prendre en compte les risques associés à l’IA parallèlement à ses avantages. Aujourd’hui, l’avis préliminaire d’exécution montre que nous prendrons des mesures pour protéger là la vie privée des consommateurs britanniques », a ajouté M. Edwards vendredi.

En effet, en juin, l’ICO a rappelé aux entreprises utilisant l’IA générative de porter une plus grande attention aux obligations en matière de protection des données.

Le porte-parole de Snapchat a expliqué à Euractiv que l’entreprise « examinait de près la décision provisoire de l’ICO », ajoutant qu’elle s’engageait, « comme l’ICO », à « protéger la vie privée de ses utilisateurs ».

« Nous continuerons à travailler de manière constructive avec l’ICO pour nous assurer qu’ils sont à l’aise avec nos procédures d’évaluation des risques », a ajouté le porte-parole.

L’avis émis ne signifie ni que, de facto, il y a eu une infraction à la loi sur la protection des données, ni qu’un avis d’exécution final suivra nécessairement.

Euractiv a contacté la Commission européenne pour savoir si cela pourrait donner lieu à une notification similaire dans l’UE, mais cette dernière n’a pas répondu au moment de la publication de cet article.

[Édité par Anne-Sophie Gayet]