CEO da OpenAI alerta sobre 'dependência emocional excessiva' do ChatGPT

As pessoas estão se tornando emocionalmente dependentes do ChatGPT em excesso, especialmente as mais jovens, o que pode ser um grande problema. Quem afirma é o CEO da OpenAI, Sam Altman, que comentou sobre o tema na última terça-feira (22).

Participando de um evento do Federal Reserve, que atua como o banco central dos Estados Unidos, o chefe da desenvolvedora da popular inteligência artificial generativa compartilhou detalhes sobre o uso da tecnologia. Ele disse que é cada vez mais comum a consulta ao bot para a tomada de decisões, inclusive as mais básicas.

O que Sam Altman disse sobre o uso excessivo do ChatGPT?

De acordo com o CEO, as pessoas estão confiando demais no chatbot da OpenAI, passando a ver a tecnologia como uma espécie de conselheiro para o dia a dia, indo além de um assistente para auxiliar em determinadas tarefas. A startup está preocupada com essa prática.

• “Há jovens que dizem coisas como: ‘Não posso tomar nenhuma decisão na minha vida sem contar ao ChatGPT tudo o que está acontecendo’. Ele me conhece, conhece meus amigos. Vou fazer o que ele disser”, apontou o programador, como relata o Business Insider;
• Ainda conforme o executivo, algumas pessoas tratam a IA generativa como um terapeuta que está sempre disponível para ouvir;
• Mesmo que o bot ofereça bons conselhos, em algumas ocasiões até melhores do que os próprios humanos, Altman diz que viver da maneira sugerida pela IA é algo “ruim e perigoso”;
• Ele afirmou que a OpenAI quer compreender melhor esse fenômeno para decidir o que fazer a respeito.

Corroborando os detalhes comentados pelo CEO, uma pesquisa recente divulgada pela Common Sense Media aponta que 72% dos adolescentes nos EUA têm “companheiros de IA”, bots projetados para ter conversas pessoais. Mais da metade usa a tecnologia com frequência e confia nos conselhos dados pelos amigos digitais.

O levantamento também aponta que os usuários com idade entre 13 e 14 anos têm enorme dependência emocional das IAs, aparecendo como o grupo mais confiante em seus “conselheiros”. Além disso, quase um terço dos entrevistados acha as interações com os bots tão ou mais satisfatórias do que as conversas com amigos reais.

Psicose induzida por IA

O uso em excesso do ChatGPT e outras ferramentas semelhantes tem levado ao aumento de casos de “psicose induzida por IA”, como relatou o The New York Times no mês passado. A psicose induzida leva a delírios e alucinações mais intensas causadas por abuso de substâncias químicas, mas neste caso é a tecnologia que desencadeia a condição.

Em um dos casos abordados pela reportagem, um contador de 42 anos passou a ter conversas perturbadoras com a IA da OpenAI que, inicialmente, era usada para auxiliar em seu trabalho. No entanto, o uso constante da solução resultou em um debate entre ele a máquina sobre a “teoria da simulação”, popularizada no filme Matrix.

Depois de inúmeras conversas a respeito do tema, o usuário passou a acreditar que vivia em um universo paralelo e recebeu sugestões para “desconectar” a sua mente da realidade. A interação quase terminou em tragédia, o que só não aconteceu após o homem desconfiar de manipulação feita pela IA.

A matéria também mostrou outros casos em que as interações levaram a crises existenciais e teorias da conspiração. Segundo o psicólogo Todd Essig, isso pode ter relação com o modo de interpretação de papéis do ChatGPT, que não é bem compreendido por alguns usuários, fazendo-os acreditar que estão conversando com pessoas reais.

E você, consulta sua IA favorita com frequência ou prefere usá-la moderadamente? Comente nas redes sociais do TecMundo.