Nossa Compromisso
Em 28 de abril de 2026, o mundo foi novamente lembrado da realidade inaceitável e grave da violência. Tiroteios em massa, ameaças contra funcionários públicos, tentativas de bombas e ataques a comunidades e indivíduos são uma triste realidade em nosso mundo atual. Esses incidentes nos lembram de como a ameaça de violência é real e como rapidamente a intenção violenta pode se transformar em ação. As pessoas podem trazer esses momentos e sentimentos para o ChatGPT, fazendo perguntas sobre as notícias, tentando entender o que aconteceu, expressando medo ou raiva, ou discutindo violência de maneira fictícia, histórica, política, pessoal ou potencialmente perigosa. Nossa equipe trabalha para treinar o ChatGPT a reconhecer a diferença e a estabelecer limites quando uma conversa começa a se aproximar de ameaças, potencial dano a outros ou planejamento no mundo real.
Nossa equipe está comprometida em minimizar o uso de nossos serviços para fins de violência ou outros danos. Estamos compartilhando o que fazemos para treinar nossos modelos para responder de forma segura, como nossos sistemas detectam potencial risco de dano e quais ações tomamos quando alguém viola nossas políticas. Estamos constantemente melhorando as etapas que damos para ajudar a proteger as pessoas e as comunidades, orientados por especialistas em psicologia, psiquiatria, liberdades civis e aplicação da lei, entre outros que nos ajudam a navegar por decisões difíceis em torno de segurança, privacidade e acesso democratizado. Nossa Especificação de Modelo define nossos princípios de longa data para como queremos que nossos modelos se comportem: maximizar a utilidade e a liberdade do usuário enquanto minimiza o risco de dano por meio de configurações padrão sensatas.
Trabalhamos para treinar nossos modelos para recusar solicitações de instruções, táticas ou planejamento que possam significativamente facilitar a violência. Ao mesmo tempo, as pessoas podem fazer perguntas neutras sobre violência por razões factuais, históricas, educacionais ou preventivas, e visamos permitir essas discussões enquanto mantemos limites de segurança claros – por exemplo, omitindo instruções detalhadas e operacionais que possam facilitar o dano. A linha entre usos benignos e perigosos pode ser sutil, então continuamos a refinar nossa abordagem e trabalhamos com especialistas para ajudar a distinguir entre respostas seguras e limitadas e etapas concretas para realizar a violência ou outros danos no mundo real.
Como parte desse trabalho contínuo, continuamos expandindo nossas salvaguardas para ajudar o ChatGPT a reconhecer sinais sutis de risco de dano em diferentes contextos. Alguns riscos de segurança só se tornam claros ao longo do tempo: uma única mensagem pode parecer inofensiva por si só, mas um padrão mais amplo dentro de uma longa conversa – ou em conversas – pode sugerir algo mais preocupante. Com base em anos de trabalho em treinamento de modelos, avaliações e testes de equipe vermelha e entrada de especialistas contínua, fortalecemos a capacidade do ChatGPT de reconhecer sinais de advertência sutis em conversas longas e de alto risco e responder cuidadosamente. Compartilharemos mais sobre esse trabalho nas próximas semanas.
Nossa segurança também se estende a situações em que os usuários podem estar em dificuldade ou em risco de autolesão. Nesses momentos, nosso objetivo é evitar facilitar atos prejudiciais e também ajudar a desescalar a situação e orientar as pessoas para obter apoio no mundo real. O ChatGPT mostra recursos de crise localizados, encoraja as pessoas a entrar em contato com profissionais de saúde mental ou entes queridos de confiança e, nos casos mais graves, direciona as pessoas para buscar ajuda de emergência.
Assumimos o melhor de nossos usuários, mas quando detectamos que alguém está tentando usar nossas ferramentas para potencialmente planejar ou realizar violência, tomamos medidas, incluindo revogar o acesso aos serviços da OpenAI. Nossas Políticas de Uso definem expectativas claras de uso aceitável e que podemos proibir o uso para ameaças, intimidação, assédio, terrorismo ou violência, desenvolvimento de armas, atividade ilícita, destruição de propriedade ou sistemas e tentativas de contornar nossas salvaguardas. Levamos essas políticas a sério e trabalhamos arduamente para aplicá-las.
Usamos sistemas de detecção automatizados para identificar atividades potencialmente preocupantes em larga escala. Esses sistemas analisam o conteúdo e o comportamento do usuário usando uma variedade de ferramentas projetadas para identificar sinais que possam indicar violações de políticas ou atividade prejudicial, incluindo classificadores, modelos de raciocínio, tecnologias de correspondência de hash, listas de bloqueio e outros sistemas de monitoramento.
Quando uma conta ou conversa é sinalizada, é avaliada no contexto por funcionários treinados. Esses revisores humanos são treinados em nossas políticas e protocolos e operam dentro de salvaguardas de privacidade e segurança estabelecidas, o que significa que seu acesso a informações do usuário é limitado, realizado dentro de sistemas seguros e sujeito a requisitos de confidencialidade e proteção de dados. O objetivo é determinar se a atividade sinalizada viola nossas políticas e/ou indica que um usuário pode realizar um ato de violência, requerendo uma resposta adequada e rápida.
