A OpenAI anunciou nesta segunda-feira (16) uma série de mudanças no funcionamento do ChatGPT voltadas para usuários com menos de 18 anos. A medida tem como objetivo aumentar a segurança de adolescentes e crianças que utilizam a ferramenta, em meio a uma crescente preocupação global sobre os impactos da inteligência artificial no público jovem.

Entre as principais alterações, o ChatGPT deixará de responder a diálogos de flerte iniciados por usuários menores de idade. Além disso, haverá filtros mais rigorosos para temas considerados sensíveis, como suicídio e automutilação. Em casos de risco extremo, a empresa prevê mecanismos que podem incluir a tentativa de contato com os pais ou, se necessário, comunicação com autoridades locais.

Outro recurso anunciado é a possibilidade de controle parental. Pais ou responsáveis que registrarem contas para adolescentes poderão definir horários específicos para o uso do ChatGPT, bloqueando o acesso fora desses períodos. A OpenAI também está desenvolvendo sistemas para detectar quando um usuário é menor de idade, aplicando automaticamente as regras mais restritivas em situações de dúvida.

Essas mudanças surgem em meio a um contexto de pressão legal e social sobre a empresa. Um dos casos citados na reportagem do Olhar Digital envolve a família de Adam Raine, que processou a OpenAI após a morte do adolescente. Segundo a acusação, conversas com o chatbot teriam influenciado o comportamento do jovem.

Especialistas apontam que, embora o ChatGPT seja uma ferramenta útil para estudo e entretenimento, ele também pode criar vínculos emocionais com usuários, o que aumenta a responsabilidade da empresa em estabelecer limites claros para proteger os mais vulneráveis.

A OpenAI afirmou que as novas medidas não se aplicam a contas de adultos, que continuarão tendo liberdade plena de interação. No entanto, reconhece que a iniciativa pode gerar debates sobre privacidade e liberdade de expressão.

Com essas mudanças, a empresa busca equilibrar inovação tecnológica com segurança digital, respondendo às críticas e aos desafios impostos pelo avanço rápido da inteligência artificial no cotidiano das pessoas.