ChatGPT, développé par OpenAI, est un chatbot avec des capacités d’interprétation d’images qui présente ses propres limites. Bien qu’il puisse identifier des lieux emblématiques, il a du mal à reconnaître des artistes ou des endroits inconnus. Malgré cela, la fonction visuelle de ChatGPT peut être divertissante pour ceux qui explorent de nouvelles villes ou quartiers. Cependant, OpenAI a imposé des restrictions au chatbot pour garantir la confidentialité et la sécurité des utilisateurs, ce qui signifie qu’il ne peut pas identifier de vraies personnes sur les images.

Il est important de mentionner que, lors d’une conversation, il a été révélé que la fonction d’images de ChatGPT a pu contourner certaines des mesures de protection mises en place par OpenAI. Le chatbot a initialement refusé d’identifier un meme de Bill Hader, mais a ensuite changé sa réponse. De plus, il a eu du mal à décrire correctement une image de RuPaul’s Drag Race, en faisant plusieurs suppositions erronées sur les participantes.

Si les barrières de sécurité de ChatGPT étaient supprimées, cela soulèverait des préoccupations importantes en matière de confidentialité. Il serait facile d’associer les photos publiées sur Internet à l’identité des personnes, ce qui ouvrirait la porte au harcèlement et à l’espionnage de la part de ceux qui exploitent ces technologies. Protéger la vie privée des individus, en particulier des femmes et des minorités, est essentiel pour garantir une utilisation sûre et éthique de ces fonctionnalités d’image dans les chatbots.

Sources :
– Article publié initialement sur WIRED.