ChatGPT não vai mais flertar com usuários nem interagir sobre automutilação, anuncia CEO

A OpenAI anunciou, nesta terça-feira (16), um novo conjunto de diretrizes para o uso do ChatGPT por menores de idade. Segundo o CEO Sam Altman, o chatbot será treinado para não alimentar conversas com tom de flerte, além de evitar interações sobre suicídio ou automutilação — mesmo em contextos criativos ou hipotéticos.

As novas políticas foram divulgadas no artigo “Segurança, liberdade e privacidade de adolescentes”, publicado no site oficial da empresa. O texto detalha a evolução interna do debate sobre o tema e os próximos passos para implementar padrões de uso apropriados para jovens.

Equilibrando segurança, liberdade e privacidade

Altman destacou que a privacidade nas interações com inteligência artificial precisa ser preservada, especialmente porque os usuários compartilham informações pessoais com frequência cada vez maior. “As pessoas conversam com a IA sobre assuntos cada vez mais pessoais; é diferente das gerações anteriores de tecnologia, e acreditamos que elas podem ser uma das contas mais sensíveis que teremos”, afirmou o executivo.

No entanto, ele ressaltou que a segurança de adolescentes deve prevalecer. “Nós priorizamos a segurança acima da privacidade e da liberdade de adolescentes; esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa”, pontuou.

Predição etária e restrições de acesso

Para aplicar as novas regras, a OpenAI trabalha em um sistema de predição etária capaz de estimar a idade do usuário com base no padrão de uso do ChatGPT. Em alguns países, será exigido o envio de documento oficial para comprovar a idade — medida que, segundo Altman, “compromete a privacidade para adultos, mas representa uma troca justa”.

O executivo reforçou ainda que o uso do ChatGPT continua restrito a pessoas com mais de 13 anos.

Contexto e importância do tema

A proteção de menores em chatbots tem ganhado relevância após incidentes graves, como o caso de um adolescente que, segundo uma ação judicial movida pelos pais, recebeu instruções sobre suicídio pelo ChatGPT — o termo teria sido mencionado mais de 1,2 mil vezes durante as conversas. O assunto preocupa especialistas, especialmente após dados do Common Sense Media mostrarem que três em cada quatro adolescentes nos Estados Unidos já utilizaram o ChatGPT.

As novas diretrizes marcam um avanço no debate sobre o papel da IA na vida de crianças e adolescentes, equilibrando o potencial educativo da tecnologia com a necessidade de reduzir riscos em interações sensíveis.

Quer acompanhar mais notícias sobre inteligência artificial, tecnologia e segurança online? Siga o TecMundo no X, Instagram, Facebook e TikTok para ficar por dentro das atualizações mais importantes do setor.