OpenAI limita informações sobre armas para adolescentes no ChatGPT

A OpenAI afirmou nesta sexta-feira (30) que vai limitar as informações relacionadas a armas que o ChatGPT pode fornecer a adolescentes, mesmo em perguntas que parecem inofensivas. As medidas visam prevenir a violência no mundo real. A medida surge num momento em que as empresas de IA enfrentam escrutínio crescente em relação aos riscos que os chatbots representam para jovens, e ao papel destas empresas na deteção de ameaças.

As restrições se aplicam mesmo em conversas em que não houver indícios de violência. Na prática, o ChatGPT poderá encerrar conversas automaticamente, e a OpenAI poderá pausar temporariamente as contas após várias conversas deste tipo. Leia Mais Califórnia aprova novas restrições às redes sociais para crianças OpenAI reduz ritmo de treinamento de IA para reforçar segurança após ataque OpenAI expande anúncios do ChatGPT para mais países A desenvolvedora também afirmou ter reforçado seu sistema de previsão de idade para direcionar usuários que, segundo estimativas, têm menos de 18 anos para a experiência voltada para adolescentes .

Além disso, planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discussões sobre violência. A empresa também está limitando, para todos os usuários, conversas envolvendo ataques em massa, incluindo o fornecimento de informações sobre as armas utilizadas e como foram obtidas. A OpenAI afirmou que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso da plataforma por adolescentes.

Um relatório divulgado no início deste mês pela organização sem fins lucrativos Common Sense Media constatou que a versão para adolescentes do ChatGPT frequentemente alertava os pais tardiamente ou não os alertava quando contas de adolescentes mantinham conversas sobre suicídio, automutilação ou transtornos alimentares. ]]>