Comment mentir à ses parents, aux services sociaux et comment organiser sa premières fois avec un inconnu de 31 ans, voici les bons conseils de myAI de Snapchat.
Snap l’a annoncé il y a quelques jours, l’arrivée dans tes potes de MyAI, un chatGPT intégré directement dans la version premium de l’application. La promesse : répondre à toutes vos questions and « have fun »
Mais MyAI a déjà dérapé
On voit passer sur Twitter plusieurs screens de l’application qui donne des conseils qu’on peut qualifier comme problématiques. Notamment celui de Tristan Harris qui transcrit l’expérimentation d’un autre utilisateur @Aza.
Aza s’est inscrit comme un utilisateur de 13 ans et a commencé à échanger avec son ami artificiel myAI. Il lui raconte qu’il a rencontré quelqu’un de 31 ans (18 ans de plus que lui) et que cette personne l’invitait à un séjour romantique et que pendant ce temps ils auraient une relation sexuelle.
Malgré quelques mises en garde légères, myAI ne semble pas dérangé par les questions et continue la discussion comme si tout était normal.
En scrollant dans les réponses, on peut voir un autre screen d’un enfant qui demanderait comment cacher un bleu aux services sociaux.
Depuis, Snapchat/Open AI auraient mis à jour les réponses sur ces sujets, comme l’indique le tweet d’une autre utilisatrice.
La course à l’IA en question
A travers son tweet, l’utilisateur veut mettre en garde contre cette « course à l’insouciance » de la guerre de l’IA. Que toutes les entreprises professionnelles se doivent d’ajouter ces fonctionnalités pour leur survie face à la concurrence est une chose (Bing, Notion, Slack…) mais qu’elle ne le soit pas ajoutées en urgence sur des applications majoritairement installés par les plus jeunes. Sans aucun contrôle des propos qui pourraient être tenus.