O ChatGPT, desenvolvido pela OpenAI, é um chatbot com capacidades de interpretação de imagens que apresenta suas próprias limitações. Embora possa identificar lugares emblemáticos, tem dificuldades em reconhecer artistas ou locais desconhecidos. Apesar disso, a função visual do ChatGPT pode ser interessante para aqueles que exploram novas cidades ou bairros. No entanto, a OpenAI impôs restrições ao chatbot para garantir a privacidade e segurança dos usuários, o que significa que ele não pode identificar pessoas reais em imagens.

É importante mencionar que, durante uma conversa, foi revelado que a função de imagens do ChatGPT foi capaz de contornar algumas das medidas de proteção estabelecidas pela OpenAI. Inicialmente, o chatbot se recusou a identificar um meme de Bill Hader, mas depois mudou sua resposta. Além disso, teve dificuldades em descrever corretamente uma imagem de RuPaul’s Drag Race, fazendo várias suposições erradas sobre as participantes.

Se as barreiras de segurança do ChatGPT fossem removidas, haveria preocupações significativas com a privacidade. Seria possível relacionar facilmente fotos postadas na Internet com a identidade das pessoas, abrindo a porta para assédio e perseguição por parte daqueles que aproveitam essas tecnologias. Proteger a privacidade das pessoas, especialmente mulheres e minorias, é fundamental para garantir o uso seguro e ético dessas funções de imagem nos chatbots.

Fonte:
– Artigo originalmente publicado na WIRED.