Segurança em ChatGPT
A OpenAI anunciou hoje que está lançando uma nova funcionalidade de segurança focada na saúde mental para usuários adultos do ChatGPT. A partir de agora, os usuários podem adicionar um “contato confiável” que pode ser notificado se os sistemas automatizados e revisores treinados da IA determinarem que o usuário está envolvido em discussões sobre autolesão. Essa nova funcionalidade chega em um momento de crescente escrutínio sobre o impacto que a IA e outras plataformas digitais podem ter na saúde mental. No ano passado, a OpenAI divulgou que 0,07% de seus usuários semanais apresentaram sinais de “emergências de saúde mental relacionadas a psicose ou mania”, enquanto 0,15% expressaram risco de “autolesão ou suicídio” e outro 0,15% mostraram sinais de “dependência emocional da IA”. Considerando que a empresa afirma que cerca de 10% da população mundial usa o ChatGPT semanalmente, isso pode totalizar quase três milhões de pessoas.
A funcionalidade de contato confiável expande as notificações de segurança parental existentes do ChatGPT, que alertam os pais quando uma conta de adolescente vinculada mostra sinais de angústia. O Instagram introduziu alertas semelhantes para pais no início deste ano. Agora, a OpenAI está oferecendo esses alertas aos seus usuários adultos. A empresa disse que a funcionalidade foi desenvolvida com orientação de clínicos, pesquisadores e organizações de prevenção ao suicídio e saúde mental. “O contato confiável é projetado para encorajar a conexão com alguém em quem o usuário já confia”, disse a empresa em seu anúncio. “Ele não substitui o cuidado profissional ou os serviços de crise e é uma das várias camadas de salvaguardas para apoiar pessoas em dificuldade”. A OpenAI acrescentou que o ChatGPT ainda encorajará os usuários a contatar as linhas de ajuda de crise ou os serviços de emergência quando necessário.
A funcionalidade pode ser ativada por qualquer usuário com 18 anos ou mais através das configurações do ChatGPT. A partir daí, os usuários podem nomear outro adulto para atuar como seu contato confiável, fornecendo detalhes como o número de telefone e o endereço de e-mail do contato. O contato confiável receberá então um convite explicando a funcionalidade e terá uma semana para aceitar. Se recusar, o usuário inicial pode nomear outro contato em seu lugar. Uma vez que a funcionalidade esteja ativa, os sistemas de monitoramento automatizados da OpenAI podem sinalizar quando um usuário pode estar discutindo autolesão de uma maneira que sugere uma preocupação séria de segurança. O sistema notificará então o usuário de que seu contato confiável pode ser alertado e encorajá-lo a entrar em contato diretamente, fornecendo alguns iniciadores de conversa recomendados.
A empresa disse que uma pequena equipe de revisores especialmente treinados avaliará a situação e determinará se notificar o contato confiável é apropriado. Se a OpenAI decidir enviar um alerta, o contato confiável pode recebê-lo por e-mail, mensagem de texto ou notificação dentro do aplicativo. O alerta explicará apenas a razão geral pela qual a autolesão foi mencionada e encorajará o contato confiável a verificar. Ele também incluirá orientações sobre como navegar nessas conversas. A OpenAI observou que as notificações não incluirão detalhes específicos ou transcrições de conversas para proteger a privacidade do usuário.
Essa funcionalidade é um passo importante para a OpenAI em sua busca por promover a segurança e o bem-estar dos usuários do ChatGPT. Com a crescente dependência das tecnologias digitais, é fundamental que as empresas de tecnologia assumam a responsabilidade de proteger a saúde mental de seus usuários. A OpenAI está dando um exemplo positivo ao desenvolver e implementar funcionalidades que priorizam a segurança e o bem-estar dos usuários. É importante que outras empresas de tecnologia sigam o exemplo e invistam em recursos e funcionalidades que promovam a saúde mental e a segurança dos usuários.
Além disso, é fundamental que os usuários do ChatGPT estejam cientes da importância de priorizar sua saúde mental e bem-estar. A funcionalidade de contato confiável é uma ferramenta valiosa que pode ajudar a prevenir situações de crise e promover a busca por ajuda profissional quando necessário. No entanto, é importante lembrar que a saúde mental é um tema complexo e multifacetado, e que a funcionalidade de contato confiável não é uma solução mágica para todos os problemas de saúde mental. É fundamental que os usuários do ChatGPT e de outras plataformas digitais estejam cientes dos recursos e opções disponíveis para promover sua saúde mental e bem-estar.
Em resumo, a funcionalidade de contato confiável do ChatGPT é uma iniciativa importante para promover a segurança e o bem-estar dos usuários. Com a crescente dependência das tecnologias digitais, é fundamental que as empresas de tecnologia assumam a responsabilidade de proteger a saúde mental de seus usuários. A OpenAI está dando um exemplo positivo ao desenvolver e implementar funcionalidades que priorizam a segurança e o bem-estar dos usuários. É importante que os usuários do ChatGPT estejam cientes da importância de priorizar sua saúde mental e bem-estar, e que utilizem a funcionalidade de contato confiável como uma ferramenta valiosa para prevenir situações de crise e promover a busca por ajuda profissional quando necessário.
