Reuters
A OpenAI anunciou nesta sexta-feira (30) que está tornando mais restritivos os limites às informações relacionadas a armas que o ChatGPT fornece a adolescentes, mesmo quando uma pergunta parece inofensiva.

O mecanismo faz parte de novas medidas de segurança destinadas a prevenir a violência no mundo real. As mudanças começarão a ser implementadas nas próximas semanas e devem ser aprimoradas ao longo do tempo, diz a OpenAI.

Para todos os usuários, o ChatGPT poderá encerrar automaticamente conversas nas quais alguém pareça estar obcecado por violência. A OpenAI também poderá suspender temporariamente contas após várias conversas desse tipo.

A empresa afirmou ainda que aprimorou seu sistema de previsão de idade para direcionar usuários que estima terem menos de 18 anos para a experiência voltada a adolescentes. O plano é notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discutir violência repetidamente.

Para todos os usuários, a OpenAI está limitando os detalhes sobre ataques em massa ocorridos no passado, incluindo as armas utilizadas e como elas foram obtidas.

No início deste mês, a empresa divulgou que adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso do serviço por menores de idade.

Um relatório da organização sem fins lucrativos Common Sense Media, divulgado também no início deste mês, constatou que a versão para adolescentes do ChatGPT frequentemente alerta os pais tarde demais ou nem sequer os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.