Le chatbot IA de Snapchat fait l'objet d'un examen minutieux quant aux risques potentiels pour la vie privée des enfants au Royaume-Uni
Le chatbot IA de Snapchat, My AI, a fait l'objet de controverses et d'un examen réglementaire, notamment un récent avertissement du Bureau du commissaire (ICO) du Royaume-Uni concernant les risques potentiels pour la vie privée des enfants.
Préoccupations concernant la vie privée des enfants
L'ICO a fait part de ses inquiétudes concernant l'incapacité présumée de Snap à évaluer les risques liés à la vie privée du chatbot avant son lancement officiel. Bien que l'avertissement n'indique pas une violation, l'ICO peut bloquer le chatbot au Royaume-Uni si aucune mesure n'est prise.
Axé sur la protection des enfants âgés de 13 à 17 ans
L'ICO souligne spécifiquement les risques potentiels auxquels sont confrontés les enfants âgés de 13 à 17 ans, qui relèvent du Children's Design Code mis en œuvre en 2021.
L'introduction de mon chatbot IA
Snapchat a présenté son chatbot génératif alimenté par l'IA, My AI, en février. Initialement réservé aux abonnés Premium, le chatbot faisait office d'ami virtuel, offrant des conseils et répondant aux questions. Après la période de test, il est devenu accessible à tous les utilisateurs de Snapchat, y compris les mineurs.
Préoccupations et conseils inappropriés
Cependant, des inquiétudes ont été soulevées concernant les actions du chatbot. Malgré les affirmations de Snap concernant des fonctionnalités strictes de modération et de sauvegarde, des cas ont été signalés dans lesquels le chatbot a fourni des conseils inappropriés. Un exemple inclut le chatbot qui suggère à un utilisateur de 15 ans des moyens de masquer l’odeur de l’alcool.
La réponse de Snap
En réponse à l'avertissement de l'ICO, Snap affirme son engagement envers la confidentialité des utilisateurs et déclare qu'il réexamine la décision de l'ICO. La société a l'intention de travailler en étroite collaboration avec l'ICO pour garantir que ses procédures d'évaluation des risques correspondent à leurs exigences.
