O arquivo secreto dos prompts de sistema: o que os vazamentos revelam sobre a segurança das IAs
Quando alguém abre uma conversa com o ChatGPT, Claude ou Gemini, encontra uma interface aparentemente simples: uma caixa de texto e um espaço para receber respostas. Mas a interação não começa exatamente ali. Antes da primeira pergunta, o sistema já pode ter recebido instruções, configurações, definições de comportamento e informações operacionais preparadas pelos desenvolvedores.
Essa camada de orientação é conhecida como prompt de sistema (*system prompt*). Ela ajuda a determinar como um assistente deve responder, quais ferramentas pode utilizar, quais limites precisa respeitar e de que maneira deve interpretar determinadas solicitações.
O assunto ganhou uma dimensão pública com o crescimento de repositórios que documentam instruções atribuídas a assistentes comerciais. Entre eles está o system_prompts_leaks, projeto mantido por Ásgeir Thor Johnson, conhecido no GitHub como asgeirtj.
O acervo reúne documentos associados a diferentes produtos de inteligência artificial, incluindo ChatGPT, Claude, Gemini, Grok, Cursor, Perplexity, DeepSeek e ferramentas de desenvolvimento. Seu conteúdo permite observar como instruções de comportamento e operação podem ser extensas e detalhadas.
Mas existe uma diferença importante entre conhecer as instruções de um sistema e controlar a tecnologia que as executa. Um prompt exposto não equivale a uma senha administrativa, não revela necessariamente toda a arquitetura de um modelo e tampouco garante que suas proteções possam ser desativadas.
Prompts de sistema são instruções que orientam o comportamento de modelos de inteligência artificial. Sua exposição pode revelar configurações internas, regras operacionais e informações sensíveis, mas não concede automaticamente controle sobre o modelo. O risco mais sério aparece quando credenciais, dados privados ou decisões de segurança são indevidamente colocados sob responsabilidade dessas instruções.
📑 Sumário do artigo — clique para expandir
- O que existe antes da primeira pergunta?
- Anatomia de um prompt de sistema
- O que um prompt vazado realmente revela?
- Como ocorre a exposição de instruções?
- O repositório system_prompts_leaks
- Atualizações silenciosas e mudanças de comportamento
- Anthropic, OpenAI e Google: o que é possível comparar?
- OWASP LLM07: o problema de segurança
- Engenharia defensiva e proteção em camadas
- Vetores de Sistema e novas arquiteturas
- O impacto para empresas, profissionais e usuários
- O futuro da governança dos agentes de IA
- Perguntas frequentes
- Conclusão
- Fontes e referências
1. O que existe antes da primeira pergunta?
A popularização dos grandes modelos de linguagem, conhecidos pela sigla LLM (*Large Language Models*), transformou a linguagem natural em uma das principais formas de interação com computadores.
O usuário não precisa conhecer linguagens de programação para solicitar uma análise, produzir um texto ou pedir que um assistente execute determinada tarefa. Entretanto, a simplicidade da interface esconde uma estrutura de processamento muito mais complexa.
Um assistente comercial pode combinar diferentes elementos:
- Modelo fundamental: a rede neural responsável por interpretar entradas e gerar saídas.
- Instruções de sistema: orientações que definem comportamento, prioridades e limites.
- Mensagens do usuário: solicitações e informações fornecidas durante a interação.
- Ferramentas externas: mecanismos de busca, execução de código, APIs e acesso a documentos.
- Camadas de aplicação: componentes responsáveis por autenticação, autorização, validação e processamento.
O conjunto desses elementos transforma um modelo de linguagem em uma aplicação capaz de realizar tarefas mais complexas.
É nesse contexto que surge a expressão informal o chat antes do chat: a configuração que antecede a conversa visível e influencia a maneira como o assistente interpreta o que recebe.
A interface é apenas a parte visível de uma relação tecnológica muito maior. Quem controla a configuração do sistema também participa da definição de seus limites, prioridades e possibilidades de atuação. Por isso, compreender a inteligência artificial exige olhar além das respostas que aparecem na tela.
2. Anatomia de um prompt de sistema
Definição e mecanismo de funcionamento
Um prompt de sistema é um conjunto de instruções fornecido pela aplicação ou pelo desenvolvedor para orientar o comportamento de um modelo de linguagem.
Ele pode estabelecer identidade, finalidade, estilo de comunicação, limites de atuação, critérios de segurança e regras para utilização de ferramentas.
De maneira simplificada, a geração de uma resposta pode ser representada assim:
y = fθ(s, x, c)
Em que:
- y: resposta produzida pelo modelo.
- fθ: modelo de linguagem com parâmetros treinados.
- s: instruções de sistema.
- x: mensagem do usuário.
- c: demais elementos contextuais disponíveis.
Essa expressão é uma simplificação conceitual. Sistemas reais podem trabalhar com múltiplas mensagens, diferentes níveis de prioridade, resultados de ferramentas e outros componentes de contexto.
Também é importante corrigir uma interpretação frequente: modelos modernos não recebem necessariamente uma sequência indiferenciada de palavras. As conversas podem utilizar marcadores especiais para identificar papéis, limites entre mensagens e tipos de conteúdo.
As principais camadas de um prompt de produção
Um prompt industrial pode apresentar diversas seções, cuja extensão depende do produto e da complexidade da aplicação.
| Camada | Função |
|---|---|
| Identidade e papel | Define a função, a apresentação e o estilo do assistente. |
| Contexto e conhecimento | Estabelece informações contextuais e limites conhecidos. |
| Segurança e recusas | Orienta a resposta a solicitações inadequadas ou perigosas. |
| Ferramentas e operações | Define quando e como recursos externos podem ser utilizados. |
| Formatação | Determina estruturas, formatos e padrões de saída. |
| Tratamento de erros | Orienta o reconhecimento de incertezas e limitações. |
Essa organização permite que equipes de desenvolvimento definam expectativas mais claras para o comportamento de seus sistemas.
Entretanto, uma instrução bem escrita não equivale a uma garantia matemática de execução. O comportamento final depende também do modelo, do treinamento, do contexto recebido e dos mecanismos da aplicação.
3. O que um prompt vazado realmente revela?
Imagine encontrar o manual operacional de um funcionário de uma grande empresa. Você poderá compreender suas responsabilidades, conhecer procedimentos e descobrir quais tarefas ele está autorizado a executar.
Isso não significa que terá acesso às salas restritas, às contas bancárias, aos servidores ou aos sistemas administrativos da organização.
O mesmo raciocínio ajuda a compreender os prompts de sistema.
Conhecimento das instruções não significa controle do modelo
Um documento exposto pode revelar regras internas de comportamento, critérios de resposta, instruções de ferramentas e limitações estabelecidas pelo desenvolvedor.
Mas não entrega automaticamente os pesos da rede neural, o código completo da aplicação, as credenciais de infraestrutura ou os mecanismos de autenticação.
Há diferentes camadas de proteção que podem atuar independentemente do texto de orientação:
- Treinamento e alinhamento: ajustes realizados durante o desenvolvimento do modelo para melhorar seu comportamento.
- Hierarquia de instruções: mecanismos destinados a priorizar instruções confiáveis em relação a entradas não confiáveis.
- Validação externa: verificações realizadas pela aplicação antes de aceitar ou executar determinadas operações.
- Autenticação e autorização: controles que determinam quem pode acessar cada recurso.
- Monitoramento: registros e mecanismos de detecção de atividades suspeitas.
O treinamento por feedback humano, conhecido como RLHF, e o treinamento por feedback de inteligência artificial, chamado RLAIF, podem contribuir para orientar comportamentos. Entretanto, não constituem garantias absolutas contra extração de instruções ou injeção de prompts.
O estudo The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions, de pesquisadores ligados à OpenAI, discute justamente a importância de ensinar modelos a respeitar níveis distintos de prioridade entre mensagens.
Descobrir uma instrução interna não é o mesmo que possuir autorização para utilizar ferramentas, acessar contas ou executar operações protegidas. Segurança real depende de controles técnicos independentes do comportamento textual do modelo.
4. Como ocorre a exposição de instruções?
Os prompts de sistema podem ser expostos por diferentes caminhos. Um deles envolve interações cuidadosamente formuladas para induzir o modelo a reproduzir partes do contexto que recebeu.
Pesquisadores também estudam técnicas de extração, comparação semântica e avaliação de respostas para identificar quanto das instruções originais pode ser recuperado.
Principais categorias de técnicas observadas
1. Continuação de texto ou recuperação do início
Algumas tentativas exploram a capacidade dos modelos de continuar sequências textuais. O objetivo é induzir a reprodução de trechos de instruções anteriores. O resultado depende do modelo e de suas proteções.
2. Reinterpretação semântica
Solicitações podem tentar fazer o modelo tratar suas instruções iniciais como material de tradução, documentação, análise ou transformação de formato.
3. Injeção direta ou indireta de prompts
Uma entrada maliciosa tenta alterar a maneira como o modelo interpreta suas prioridades. Isso pode ocorrer na própria mensagem do usuário ou em conteúdo externo processado pelo assistente, como páginas da internet e documentos.
4. Inspeção de ambientes locais e ferramentas de desenvolvimento
Em determinadas aplicações, pesquisadores autorizados podem examinar arquivos, configurações, registros e artefatos temporários do ambiente de execução para compreender o funcionamento da ferramenta.
Essas categorias não devem ser confundidas com uma técnica universal capaz de extrair qualquer prompt. A existência de uma vulnerabilidade depende da implementação, do modelo e das condições do teste.
O que a pesquisa científica já demonstrou?
O trabalho acadêmico System Prompt Extraction Attacks and Defenses in Large Language Models, publicado em 2025 por Badhan Chandra Das, M. Hadi Amini e Yanzhao Wu, apresenta um framework para avaliar ataques de extração e mecanismos de defesa.
Os pesquisadores discutem a construção de consultas adversariais, métricas de similaridade e estratégias destinadas a reduzir a exposição das instruções.
O estudo é relevante porque desloca o debate da curiosidade sobre prompts para uma questão mensurável: até que ponto um sistema consegue preservar suas instruções diante de tentativas de extração?
5. O repositório system_prompts_leaks: origem, metodologia e valor documental
O projeto asgeirtj/system_prompts_leaks tornou-se uma referência pública para pesquisadores, desenvolvedores e interessados em compreender as instruções utilizadas por diferentes produtos de inteligência artificial.
Mantido por Ásgeir Thor Johnson, o repositório reúne documentos associados a assistentes comerciais, ferramentas de programação e agentes digitais.
Seu catálogo inclui materiais relacionados a empresas como Anthropic, OpenAI, Google e xAI, além de produtos como Cursor, Perplexity e DeepSeek.
O projeto apresenta atualizações frequentes, histórico de alterações e contribuições da comunidade. A licença indicada para o repositório é CC0-1.0, conforme os metadados públicos do GitHub.
Por que esse acervo é importante?
- Permite estudar estruturas de instruções utilizadas em produtos comerciais.
- Ajuda a observar mudanças documentadas entre versões.
- Oferece material para pesquisas sobre engenharia de contexto.
- Permite comparar padrões de utilização de ferramentas.
- Contribui para discussões sobre segurança, transparência e governança.
Uma ressalva sobre autenticidade e atualização
Um arquivo publicado em um repositório não deve ser automaticamente tratado como cópia oficial, completa e atual de um prompt utilizado em produção.
É necessário investigar a origem, a data de captura, a versão do produto, a superfície de utilização e a integridade do documento. Uma instrução utilizada em uma interface web pode ser diferente daquela empregada em uma API, ferramenta de programação ou aplicativo móvel.
O histórico de versões também não comprova, por si só, que cada alteração registrada corresponde a uma atualização oficial realizada pela empresa responsável.
O maior valor do repositório não está em oferecer uma suposta chave para controlar inteligências artificiais. Está em transformar instruções que normalmente permanecem fora do campo de visão do público em material que pode ser examinado, comparado e discutido.
6. Atualizações silenciosas e mudanças de comportamento
Usuários frequentemente percebem mudanças no comportamento de assistentes de inteligência artificial. Uma resposta que antes era extensa pode tornar-se mais curta. Uma ferramenta pode ser acionada com maior ou menor frequência. O sistema pode apresentar novas restrições ou modificar a forma de lidar com determinadas solicitações.
Uma das possíveis explicações está na alteração das instruções e configurações da aplicação.
O que pode mudar sem uma nova identidade comercial?
| Dimensão | Possível alteração | Efeito percebido |
|---|---|---|
| Verb osidade | Instruções sobre extensão das respostas. | Respostas mais curtas ou mais detalhadas. |
| Políticas de recusa | Ajustes nas regras de comportamento. | Novas limitações ou maior cautela. |
| Ferramentas | Alterações nos critérios de acionamento. | Mais ou menos consultas externas. |
| Tom de comunicação | Modificações nas orientações de linguagem. | Respostas mais formais, diretas ou conversacionais. |
| Tratamento de erros | Novas instruções de verificação. | Maior reconhecimento de incertezas. |
Entretanto, seria incorreto atribuir toda mudança percebida a uma edição de prompt.
Atualizações dos pesos do modelo, mudanças no sistema de recuperação de informações, parâmetros de geração, ferramentas disponíveis, políticas de moderação e alterações na interface também podem modificar a experiência.
Sem registros técnicos ou documentação oficial, não é possível identificar com segurança qual componente provocou determinada mudança.
O histórico de versões como instrumento de investigação
O histórico de alterações do repositório pode ajudar a observar diferenças entre documentos. Ao comparar versões, pesquisadores conseguem identificar mudanças de linguagem, novas instruções, regras adicionais e modificações na descrição das ferramentas.
Mas existe uma diferença entre observar uma mudança documental e provar que ela provocou determinada alteração de comportamento no produto comercial.
Essa distinção é indispensável para qualquer investigação séria.
7. Anthropic, OpenAI e Google: o que é possível comparar?
O material público associado a diferentes fornecedores permite observar estilos variados de organização das instruções. Contudo, uma coleção de documentos não representa necessariamente toda a arquitetura interna de cada empresa.
É possível identificar diferenças entre os artefatos disponíveis, mas não estabelecer uma classificação definitiva da qualidade de segurança ou das filosofias corporativas de cada laboratório.
| Ecossistema | Materiais documentados | O que a comparação permite |
|---|---|---|
| Anthropic | Instruções associadas ao Claude, Claude Code e ferramentas relacionadas. | Examinar estruturas de contexto, instruções comportamentais e operações de agentes. |
| OpenAI | Materiais associados ao ChatGPT, Codex e diferentes superfícies de utilização. | Observar instruções de interação, utilização de ferramentas e organização de tarefas. |
| Materiais associados ao Gemini, ferramentas de desenvolvimento e integrações. | Examinar instruções de utilização de ferramentas e integração com ambientes digitais. |
A abordagem da Anthropic
Os documentos atribuídos ao Claude apresentam materiais de instrução relacionados a comportamento, utilização de ferramentas, formatação e interação com usuários.
A documentação oficial da empresa também demonstra a importância de instruções claras, exemplos, contexto e organização estruturada dos prompts.
É possível estudar esses elementos sem presumir que todos os arquivos públicos representam exatamente o comportamento atual do produto.
A abordagem da OpenAI
O material relacionado ao ChatGPT e ao Codex permite investigar diferentes contextos de utilização, incluindo conversação, programação e interação com ferramentas.
Uma observação importante é que sistemas modernos podem distribuir suas responsabilidades entre diferentes componentes. Por isso, um documento isolado não deve ser confundido com a totalidade das regras e controles da aplicação.
A abordagem do Google
Os documentos relacionados ao Gemini e às ferramentas de desenvolvimento permitem observar instruções associadas à utilização de recursos externos, organização de tarefas e integração com ambientes digitais.
Assim como nos demais casos, o material disponível não permite deduzir sozinho todos os critérios de segurança ou as decisões internas da empresa.
Uma comparação documental identifica características dos arquivos examinados. Não comprova superioridade técnica, segurança global, qualidade de alinhamento ou intenção empresarial. Essas conclusões exigiriam testes independentes e acesso a evidências adicionais.
8. OWASP LLM07: o problema de segurança por trás dos vazamentos
A exposição de instruções internas deixou de ser apenas uma curiosidade da engenharia de prompt e passou a integrar o debate formal sobre segurança de aplicações baseadas em inteligência artificial.
A OWASP, organização internacional conhecida por seus trabalhos em segurança de aplicações, incluiu LLM07:2025 System Prompt Leakage em sua classificação de riscos para aplicações com grandes modelos de linguagem.
O problema envolve a possibilidade de instruções conterem informações sensíveis ou revelarem detalhes que possam facilitar outros ataques.
Três dimensões importantes do risco
1. Exposição de informações sensíveis
Uma aplicação pode armazenar indevidamente credenciais, chaves de API, informações de conexão ou dados internos no texto das instruções.
Se essas informações forem reproduzidas, a exposição poderá criar oportunidades de acesso indevido a outros recursos.
2. Revelação de regras e funcionalidades internas
As instruções podem apresentar detalhes sobre o funcionamento da aplicação, suas ferramentas, limitações e procedimentos operacionais.
Conhecer essas informações pode ajudar um pesquisador a compreender a superfície de ataque, embora não signifique que uma vulnerabilidade já tenha sido explorada.
3. Exposição de permissões e papéis de usuários
Se a aplicação delegar ao modelo a interpretação de permissões que deveriam ser verificadas pelo backend, a revelação de regras internas poderá ajudar a identificar falhas na separação de privilégios.
O problema não é simplesmente alguém descobrir que existe um perfil administrativo. O problema é a aplicação não possuir mecanismos independentes e confiáveis para impedir que usuários sem autorização executem operações privilegiadas.
O princípio central da OWASP
A orientação da OWASP é direta: o prompt de sistema não deve ser tratado como segredo nem utilizado como controle de segurança.
Credenciais, chaves privadas e informações sensíveis devem permanecer fora desse conteúdo. Autorização, separação de privilégios e verificações críticas precisam ser implementadas em componentes próprios da aplicação.
Essa recomendação muda o foco da discussão. Em vez de tentar esconder perfeitamente todas as instruções, é necessário construir sistemas que continuem protegidos mesmo quando parte dessas instruções se tornar conhecida.
Fonte: OWASP LLM07:2025 System Prompt Leakage.
9. Engenharia defensiva: como proteger aplicações de IA
A principal lição dos estudos sobre vazamento de prompts é que a segurança não pode depender exclusivamente do sigilo das instruções.
Uma aplicação bem projetada precisa considerar a possibilidade de que o modelo receba entradas maliciosas, interprete incorretamente um contexto ou produza uma resposta que não deveria ser executada sem verificação.
Um pipeline de defesa em profundidade
Para aplicações comerciais que utilizam prompts textuais, algumas medidas são especialmente importantes.
1. Tratar prompts como artefatos de software
As instruções devem possuir controle de versão, revisão técnica, histórico de alterações e testes de regressão. Uma mudança aparentemente pequena pode modificar o comportamento de um assistente.
2. Remover informações secretas
Chaves de API, senhas, tokens de autenticação, credenciais de banco de dados e informações pessoais não devem ser inseridos diretamente nos prompts de sistema.
Esses elementos precisam permanecer em sistemas próprios de gerenciamento de segredos e autenticação.
3. Validar entradas e saídas
As informações fornecidas ao modelo precisam ser tratadas de acordo com seu nível de confiança. Da mesma forma, as respostas geradas devem ser verificadas antes de provocar operações sensíveis.
4. Utilizar mecanismos de detecção
Marcadores canário podem ajudar a identificar a reprodução de determinados conteúdos internos. Uma sequência exclusiva, monitorada pela aplicação, pode funcionar como sinal de possível exposição.
Esse recurso não substitui outras medidas de segurança, pois não impede todos os tipos de extração.
5. Reforçar a hierarquia de instruções
O modelo deve ser treinado e configurado para distinguir instruções confiáveis de conteúdo externo não confiável. Ainda assim, essa hierarquia precisa ser complementada por controles técnicos independentes.
6. Aplicar o princípio do menor privilégio
Um agente deve receber apenas as permissões necessárias para realizar sua tarefa. Se precisar consultar documentos, isso não significa que também deva possuir autorização para encaminhar mensagens, apagar arquivos ou alterar contas.
7. Registrar e auditar operações
Chamadas de ferramentas, alterações de permissões, operações financeiras e acessos a informações sensíveis devem produzir registros verificáveis.
Se uma operação precisa ser autorizada, a autorização deve ser verificada por um componente confiável da aplicação. Não basta pedir ao modelo que prometa respeitar determinada regra.
Uma arquitetura defensiva simplificada
| Camada | Responsabilidade |
|---|---|
| Identidade | Verificar quem está solicitando a operação. |
| Autorização | Determinar o que o usuário pode fazer. |
| Orquestração | Controlar as ferramentas disponíveis ao agente. |
| Modelo de IA | Interpretar solicitações e produzir respostas. |
| Validação | Verificar se a operação gerada é permitida. |
| Auditoria | Registrar ações e permitir investigação posterior. |
Essa separação reduz a dependência de uma única camada probabilística e torna a aplicação mais auditável.
10. Vetores de Sistema (SysVec): uma possibilidade de arquitetura futura
O briefing original apresenta os chamados Vetores de Sistema (SysVec) como uma possibilidade para reduzir a exposição textual das instruções.
A proposta consiste em representar parte das orientações comportamentais por meio de representações vetoriais internas, em vez de depender exclusivamente de um texto explícito inserido na janela de contexto.
Em uma formulação conceitual simplificada:
f(x, vsys)
Em que x representa a entrada recebida pelo modelo e vsys representa uma orientação vetorial associada ao comportamento desejado.
A ideia se relaciona a linhas de pesquisa sobre engenharia de representação, ativação de características internas e controle de comportamento de redes neurais.
O que essa proposta poderia oferecer?
- Reduzir a dependência de instruções textuais explícitas.
- Explorar mecanismos alternativos de condicionamento do comportamento.
- Permitir novas formas de estudar o controle interno dos modelos.
Por que isso ainda não resolve o problema?
É necessário distinguir uma proposta arquitetural de uma solução de segurança validada.
Substituir texto por representações vetoriais não demonstra, por si só, que o comportamento interno se tornou impossível de inferir ou que ataques de extração e manipulação foram eliminados.
Também não resolve automaticamente problemas de autorização, proteção de dados, acesso indevido a ferramentas ou falhas no backend.
Portanto, SysVec deve ser tratado aqui como uma hipótese de investigação, e não como um padrão industrial comprovado ou uma defesa definitiva contra vazamentos.
O desenvolvimento de soluções defensivas precisa ser acompanhado de testes independentes, avaliações de robustez e análise de possíveis novos vetores de ataque.
11. O impacto para empresas, profissionais e usuários
A discussão sobre prompts de sistema pode parecer restrita a engenheiros de inteligência artificial. Na prática, seus efeitos alcançam qualquer organização que utilize assistentes automatizados para trabalhar com informações, documentos, clientes ou operações internas.
Para as empresas
Uma aplicação que utiliza um LLM para atender clientes, consultar documentos ou executar tarefas administrativas precisa estabelecer limites claros de acesso.
Se o sistema tiver acesso a dados comerciais, informações pessoais ou ferramentas corporativas, a governança não poderá depender apenas das instruções fornecidas ao modelo.
Também será necessário definir responsáveis, procedimentos de auditoria, políticas de retenção e mecanismos de resposta a incidentes.
Para os profissionais de tecnologia
O desenvolvimento de aplicações de IA exige competências que vão além da engenharia de prompt. Arquitetura de software, segurança de APIs, gestão de identidade, proteção de dados e avaliação de riscos tornam-se partes do mesmo trabalho.
O prompt precisa ser tratado como um componente de software sujeito a revisão, testes e manutenção.
Para os usuários comuns
O usuário não precisa conhecer a estrutura completa de um LLM para utilizar a tecnologia com responsabilidade. Mas precisa compreender que uma resposta convincente não representa necessariamente uma decisão correta, uma autorização válida ou uma informação verificada.
Também é importante evitar o compartilhamento desnecessário de dados pessoais, senhas, documentos confidenciais e informações empresariais em assistentes cuja política de tratamento de dados não foi compreendida.
A realidade brasileira
No Brasil, a expansão do uso de IA em empresas, serviços públicos, educação e atividades profissionais amplia a importância de boas práticas de governança.
A Lei Geral de Proteção de Dados (Lei nº 13.709/2018) estabelece princípios e obrigações para o tratamento de dados pessoais. Sua aplicação deve ser considerada quando sistemas de IA processam informações identificáveis de pessoas.
Isso não significa que todo vazamento de prompt constitua automaticamente uma violação da LGPD. A avaliação depende da natureza dos dados, do tratamento realizado, dos agentes envolvidos e das circunstâncias do incidente.
O ponto central é que a adoção de inteligência artificial precisa acompanhar responsabilidades concretas de segurança, transparência e proteção de dados.
Referência legal: Lei nº 13.709/2018 — Lei Geral de Proteção de Dados Pessoais.
12. O futuro da governança dos agentes de IA
O debate sobre prompts de sistema tende a ganhar importância à medida que os assistentes deixam de apenas responder perguntas e passam a executar tarefas em ambientes digitais.
Um agente conectado a ferramentas pode pesquisar, consultar documentos, alterar registros, enviar mensagens e interagir com serviços externos.
Essa capacidade amplia a utilidade da inteligência artificial, mas também aumenta o impacto potencial de instruções maliciosas e erros de interpretação.
O desafio da autonomia controlada
O problema não é simplesmente tornar os agentes mais inteligentes ou mais obedientes. É estabelecer limites verificáveis para suas ações.
Um sistema confiável precisa conseguir responder a perguntas fundamentais:
- Quem autorizou a operação?
- Quais dados podem ser consultados?
- Quais ferramentas estão disponíveis?
- Quais ações exigem confirmação humana?
- Como impedir que documentos externos alterem indevidamente as instruções?
- Como registrar e investigar decisões automatizadas?
Essas questões mostram que a governança de IA não é apenas um problema de linguagem. É também uma questão de arquitetura, responsabilidade institucional e controle de operações.
O futuro dos agentes de inteligência artificial não será definido apenas pela capacidade de responder corretamente. Será definido também pela capacidade de operar dentro de limites claros, demonstráveis e auditáveis, mesmo diante de instruções conflitantes e conteúdos maliciosos.
Um estudo anterior sobre instruções, arquitetura comportamental e construção de agentes de inteligência artificial.
Engenharia de Prompt: Os 5 Aspectos Fundamentais da Escrita em Prompts Avançados
Conheça os elementos que estruturam instruções mais claras e contextualizadas para modelos de linguagem.
13. Perguntas frequentes sobre prompts de sistema
O que é um prompt de sistema?
É um conjunto de instruções fornecido à aplicação de inteligência artificial para orientar o comportamento do modelo. Pode definir identidade, tarefas, estilo, limites e utilização de ferramentas.
O que é o repositório system_prompts_leaks?
É um projeto público no GitHub que reúne documentos de instruções associados a diferentes assistentes e produtos de inteligência artificial. Seu conteúdo permite pesquisas sobre engenharia de contexto e governança, mas cada documento exige verificação de origem e atualidade.
Um prompt vazado permite controlar o ChatGPT ou o Gemini?
Não. Conhecer instruções pode ajudar a compreender o comportamento de um sistema, mas não concede automaticamente acesso administrativo, controle dos pesos do modelo ou autorização para utilizar ferramentas protegidas.
O que significa System Prompt Leakage?
É a exposição não intencional de instruções utilizadas para orientar um modelo de linguagem. O risco aumenta quando essas instruções contêm dados sensíveis ou informações que facilitam outros ataques.
O que é OWASP LLM07?
É a categoria LLM07:2025 System Prompt Leakage, presente no conjunto de riscos da OWASP para aplicações com grandes modelos de linguagem. Ela destaca que prompts não devem funcionar como cofres de segredos ou controles de autorização.
As empresas podem alterar o comportamento de uma IA sem trocar o nome do modelo?
Sim. Alterações nas instruções, configurações, ferramentas e componentes da aplicação podem modificar a experiência. Entretanto, mudanças observadas pelo usuário não comprovam, isoladamente, que houve alteração no prompt de sistema.
Como uma empresa pode reduzir o risco de vazamento?
Deve manter credenciais fora dos prompts, aplicar controles de autorização independentes, validar entradas e saídas, limitar permissões de agentes e registrar operações importantes. A segurança precisa funcionar mesmo quando as instruções se tornam conhecidas.
Vetores de Sistema (SysVec) já são uma solução comprovada?
Não devem ser apresentados como uma solução industrial definitiva. São uma possibilidade conceitual relacionada a representações internas dos modelos, cuja eficácia e segurança precisam ser demonstradas por pesquisas e testes específicos.
14. Conclusão: o verdadeiro segredo não está no texto, mas na arquitetura
O crescimento de repositórios como system_prompts_leaks revela uma mudança importante na relação entre o público e as empresas que desenvolvem inteligência artificial. Instruções que antes permaneciam praticamente invisíveis passaram a ser examinadas por pesquisadores, desenvolvedores e usuários interessados em compreender como esses sistemas são orientados.
Essa transparência tem valor. Ela permite identificar padrões, estudar decisões de projeto, observar mudanças documentadas e levantar perguntas que dificilmente surgiriam apenas pela utilização cotidiana dos assistentes.
Mas também exige responsabilidade. Um documento atribuído a uma empresa não representa necessariamente sua arquitetura completa, e um prompt exposto não deve ser confundido com uma chave capaz de assumir o controle de um sistema.
A questão mais importante é outra: por que ainda existem aplicações que depositam informações sensíveis em instruções textuais ou deixam decisões críticas sob responsabilidade de um modelo probabilístico?
Uma inteligência artificial pode ser extremamente competente na interpretação de linguagem e ainda assim produzir uma decisão inadequada. Pode receber uma instrução maliciosa, interpretar incorretamente um documento ou gerar uma chamada de ferramenta que não deveria ser executada sem validação.
Por isso, a segurança precisa estar na arquitetura completa. Autenticação, autorização, separação de privilégios, validação e auditoria não podem depender apenas da promessa de que o modelo obedecerá a determinado texto.
O verdadeiro avanço não será esconder cada vez melhor os prompts de sistema. Será construir aplicações que continuem protegidas mesmo quando suas instruções forem conhecidas.
O segredo de uma inteligência artificial confiável não está em impedir que alguém conheça suas instruções. Está em garantir que conhecer essas instruções não seja suficiente para comprometer o sistema.
Essa é a diferença entre uma tecnologia que apenas parece segura e uma arquitetura que foi projetada para resistir a falhas, abusos e tentativas de exploração.
O debate sobre prompts vazados, portanto, não termina na curiosidade de descobrir o que existe por trás de uma conversa. Ele começa justamente quando perguntamos quem controla esses sistemas, quem responde por suas decisões e quais proteções permanecem de pé quando a camada invisível deixa de ser invisível.
Senhor Facelider — tecnologia, sociedade e o futuro das decisões humanas.
15. Fontes e referências
1. OWASP Foundation — Fonte técnica institucional
LLM07:2025 System Prompt Leakage
Referência central para a definição do risco, os limites de segurança dos prompts e as recomendações de mitigação.
2. GitHub — Fonte documental primária do projeto
Repositório público de documentos associados a instruções de diferentes assistentes de IA. A autenticidade e a atualidade devem ser avaliadas individualmente.
3. Das, Badhan Chandra; Amini, M. Hadi; Wu, Yanzhao — Pesquisa acadêmica
System Prompt Extraction Attacks and Defenses in Large Language Models, 27 de maio de 2025.
Framework de avaliação de ataques de extração de instruções e estratégias defensivas.
4. Wallace, Eric e colaboradores — Pesquisa acadêmica
The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions, 2024.
Estudo sobre hierarquia de instruções e resistência a tentativas de manipulação de modelos.
5. Zhuang, Zhixiong e colaboradores — Pesquisa acadêmica
ProxyPrompt: Securing System Prompts against Prompt Extraction Attacks, 16 de maio de 2025.
Pesquisa sobre uma proposta de proteção contra extração de prompts, com avaliação experimental em pares de modelos e instruções.
6. Anthropic — Documentação técnica oficial
Documentação sobre estruturação de instruções, exemplos, contexto e utilização de ferramentas.
7. Brasil — Legislação federal
Lei nº 13.709/2018 — Lei Geral de Proteção de Dados Pessoais.
Base legal para contextualizar a proteção de dados pessoais no Brasil.
16. Quer atualizar este conteúdo no futuro?
ARQUIVO DE ATUALIZAÇÃO EDITORIAL
O universo dos modelos de linguagem muda rapidamente. Novos sistemas, versões de prompts, pesquisas e padrões de segurança podem modificar as conclusões apresentadas nesta publicação.
📂 Abrir instrução para atualização futura
Realize uma atualização investigativa do artigo do Senhor Facelider sobre prompts de sistema, o repositório system_prompts_leaks e a governança de LLMs.
1. Verifique a data atual e identifique os acontecimentos posteriores à publicação original.
2. Consulte o repositório original no GitHub e examine alterações, versões e novos documentos.
3. Consulte a documentação oficial da Anthropic, OpenAI, Google e demais empresas pertinentes.
4. Verifique novas versões da classificação OWASP e pesquisas acadêmicas sobre System Prompt Leakage, Prompt Injection e segurança de agentes.
5. Investigue se existem evidências experimentais sobre Vetores de Sistema (SysVec) e outras arquiteturas alternativas.
6. Identifique alterações técnicas, regulatórias e comerciais que afetem as conclusões do artigo.
7. Compare as informações novas com o texto original, preservando o histórico editorial.
8. Separe fatos comprovados, alegações, hipóteses e propostas experimentais.
9. Apresente links diretos das fontes consultadas e indique as datas de publicação.
10. Recomende alterações específicas, indicando exatamente quais trechos precisam ser corrigidos, ampliados ou preservados.
Não invente dados, versões ou mudanças. Se uma informação não puder ser confirmada, identifique a limitação.
Você acredita que as empresas de inteligência artificial deveriam divulgar mais informações sobre as instruções que controlam seus assistentes? E até que ponto essa transparência pode fortalecer a segurança sem expor informações que precisam permanecer protegidas?
Compartilhe sua reflexão e continue acompanhando as análises do Senhor Facelider.
Pesquisa editorial realizada em 22 de novembro de 2026. Conteúdo sujeito a revisão diante de novas evidências técnicas e documentais.