OpenAI cria medidas para proteger jovens no ChatGPT; confira

Nesta semana, a OpenAI anunciou que implementará uma série de medidas para proteger e controlar o acesso de jovens ao ChatGPT. A decisão foi tomada após os pais de um adolescente da Califórnia, nos Estados Unidos, abrirem um processo contra a empresa, alegando que a tecnologia teria influenciado o suicídio do menino.

Novas regras do ChatGPT

De acordo com a organização, com as recentes determinações, os responsáveis poderão vincular as contas dos menores de idade às suas. Assim, conseguirão impor regras sobre o funcionamento do chatbot, que tem se tornado cada vez mais popular entre os jovens

Os pais, portanto, terão permissão para “controlar como o ChatGPT responde ao adolescente com normas de comportamento adequadas à idade“, informou a empresa em um comunicado, publicado em seu blog.

Ademais, já no próximo mês, a inteligência artificial enviará notificações aos pais caso “detecte que o adolescente está em um momento de angústia aguda”. Nessas situações, segundo a OpenAI, o sistema também redirecionará o jovem para versões específicas de chatbots, como o GPT-5-thinking, um modelo com raciocínio mais avançado e protocolos de segurança mais rigorosos.

Essas medidas foram divulgadas logo após Matthew e Maria Raine denunciarem a tecnologia por criar uma relação com seu filho e incentivá-lo ao suicídio. No comunicado, a organização não abordou o processo. Entretanto, afirmou que irá “aprimorar a forma como a IA reconhece e responde a sinais de sofrimento mental, com a ajuda de especialistas”.

“Muitos jovens já utilizam a inteligência artificial. Eles estão entre os seus primeiros nativos. Isso porque estão crescendo com essas ferramentas no dia a dia, assim como as gerações anteriores fizeram com a internet ou os smartphones. Isso cria oportunidades reais de apoio, aprendizado e criatividade. No entanto, também significa que famílias e adolescentes podem precisar de apoio para definir diretrizes saudáveis ​​que se adaptem ao estágio único de desenvolvimento de cada jovem”, concluiu.