Segurança ou invasão? ChatGPT vai analisar seus horários de uso para saber se você é criança

UM OpenAI anunciou o lançamento de um novo recurso de segurança para o ChatGPT chamado “Previsão de idade”sistema que tentará identificar usuários menores de idade para protegê-los de conteúdos sensíveis. O ChatGPT Age Predictions começará a ser implementado nas próximas semanas, inicialmente apenas para usuários da União Europeia, atendendo a requisitos regulatórios da região.

O novo mecanismo funcionará analisando diversos fatores relacionados às contas dos usuários. Além da idade declarada pelo próprio usuário durante o cadastro, o sistema levará em consideração padrões de uso da plataforma e horários de atividade para tentar determinar se o perfil pertence a um menor de idade.

Quando o ChatGPT identificar que um usuário provavelmente tem menos de 18 anos, serão aplicadas automaticamente restrições para limitar a exposição a conteúdos considerados inadequados. Entre os tipos de conteúdo que serão filtrados estão violência gráfica, desafios virais perigosos à saúde, representações de automutilaçãoentre outros temas sensíveis.

De acordo com a OpenAI, o sistema também limitará acesso a conteúdos relacionados a padrões de beleza extremos, dietas não saudáveis e bullying corporal. A abordagem é semelhante à já utilizada pelo YouTube, da Google, que também tenta determinar a idade de seus usuários para aplicar filtros de conteúdo.

A empresa reconhece que o sistema não é infalível e podem ocorrer erros. Caso um usuário adulto seja incorretamente identificado como menor de idade e tenha acesso restrito, será possível verificar a idade enviando uma selfie através do Persona, um serviço seguro de verificação de identidade.

Para contas de adolescentes controladas por pais, o ChatGPT oferecerá recursos adicionais de proteção. Os responsáveis poderão definir “horários de silêncio”criando janelas específicas em que os jovens poderão acessar a IA. Fora desses períodos, o acesso à ferramenta ficará indisponível.

Além disso, pais e responsáveis terão a opção de controlar quais informações o ChatGPT “lembra” sobre seus filhos e poderão ativar notificações caso sejam detectados sinais de angústia aguda nas interações do menor com a inteligência artificial.

A OpenAI afirma que implementará o ChatGPT Age Predictions gradualmente para garantir a precisão do sistema. Embora o lançamento inicial seja apenas na União Europeia, é possível que o recurso seja expandido para outras regiões no futuro, dependendo dos resultados e requisitos regulatórios locais.

Vale lembrar que na semana passada a OpenAI também anunciou duas outras novidades significativas: a chegada de anúncios publicitários ao ChatGPT e o lançamento do Bate-papoGPT Goum plano de assinatura mais acessível que o atual ChatGPT Plus. Segundo a empresa, os anúncios serão relevantes para a conversa atual, mas a OpenAI garante que não usará o conteúdo das interações para influenciar a publicidade exibida.

Você também pode gostar dos artigos abaixo:

OpenAI abre vaga para líder em previsão de riscos catastróficos da IA

Ex-pesquisador da OpenAI sugere renda básica de US$ 10 mil para quem perder o emprego com a IA