Governança de IA: regras simples na plataforma e na empresa

493 alertas, 3 investigações

Até setembro, o sino da nossa plataforma de agentes recebia tudo. Medimos o que acontecia com ele em produção: de 493 alertas desde maio, 3 viraram investigação. É 0,6%. Outros 305 foram descartados na mão e 177 expiraram sem ninguém olhar. Um alerta crítico levava, em mediana, 43,8 horas para ser decidido. E 280 dos 493 tinham ido para dez pessoas da empresa ao mesmo tempo.

O volume nem era alto: nove por dia. O defeito era a porta. Tudo entrava, e ninguém era dono de nada.

Gosto desse número porque ele resume o que vejo em quase toda conversa sobre governança de IA. A empresa compra uma ferramenta de monitoramento, escreve uma política de vinte páginas, liga todos os alertas e chama isso de governança. Três meses depois, ninguém lê a política e todo mundo silenciou o canal de alertas.

A tese: governança é produto, e só funciona se for simples

Trato governança de IA como trato qualquer produto: ela tem usuário, tem pergunta que ele faz em voz alta e tem métrica de uso. Se ninguém usa, não existe, por mais bonito que esteja o documento.

Governança que não cabe na rotina de quem decide vira papel. E papel não protege ninguém.

Trabalho com isso em duas frentes. Na plataforma OrganIA, onde os agentes rodam, a governança é a prestação de contas do que cada agente fez. No Método organIA, que aplicamos em empresas médias, ela é o jeito de a empresa saber quem usa IA, para quê, com que risco, e decidir sobre isso sem montar um departamento.

As duas frentes chegaram à mesma conclusão por caminhos diferentes: veredito antes de dado, um dono para cada coisa, e menos números, mas números em que se confia.

Dentro da plataforma: o dono pergunta, a tela responde

Separo duas coisas que se chamam governança. Governança como controle responde “o que impede o agente de fazer o que não deve?”: aprovação humana, permissões, isolamento, cotas. É infraestrutura, e o usuário só a percebe quando ela barra algo. Governança como prestação de contas responde “como eu sei o que meus agentes fizeram, se estão bem e o que melhorar?”. É essa que decide se uma plataforma de agentes sobrevive ao segundo mês numa empresa.

Organizei a aba de governança de cada agente por pergunta do dono, não por tabela do banco. Ninguém acorda querendo “consultar traces de execução”. As pessoas acordam querendo saber se podem confiar no que rodou de madrugada. São sete grupos:

Grupo	A pergunta do dono
Saúde	Precisa de mim?
Qualidade	Está bom o suficiente?
Segurança	Estou exposto?
Autonomia	O que rodou sozinho?
Valor & Custos	Entregou? Quanto custou?
Investigar	O que exatamente ele fez?
Evoluir	O que aprender e melhorar?

Três regras valem para todos. A tela abre dizendo o que concluiu, não mostrando um gráfico para você concluir: “3 aprovações esperando decisão” é acionável, um painel com seis métricas é trabalho. Zero jargão. E IA com custo rotulado: o diagnóstico gratuito é gratuito, e o que gasta modelo avisa antes de rodar.

Para o gestor da empresa, há uma segunda altitude, com três lentes (Departamentos, Pessoas, Agentes) e uma faixa no topo na ordem em que ele pergunta: adoção, valor, custo, exposição. Tudo lê de um agregador único. Até 07/09, a regra de quem consumiu o quê estava escrita em dois lugares, e as mesmas pessoas apareciam com custos diferentes em cada tela. Um total que não bate com a lista abaixo dele destrói a confiança nas duas.

Um juiz, não dois. Havia dois lugares dizendo se o agente estava bem. A tabela de agentes olhava só a taxa de erro das últimas 6 horas; a tela de Saúde olhava sete sinais. Um agente podia aparecer verde na tabela com uma aprovação parada havia três horas. Não era bug de cálculo, era bug de arquitetura: duas fontes respondendo a mesma pergunta. Hoje a decisão do veredito é uma função pura que recebe sete contagens e devolve frase e severidade, e as duas telas leem dela.

Quem pediu decide. A aprovação humana é o que permite dar autonomia real sem apostar. Quando o agente chama uma ferramenta marcada, a execução é congelada e retomada exatamente de onde parou depois da decisão, sem refazer nada. E quem decide é quem pediu. Aprendemos isso do jeito ruim: quando o administrador podia aprovar o cartão de outra pessoa, o evento ia parar na agenda de quem clicou, porque a ação roda com a identidade de quem aprova. A regra de quem decide e a de quem executa são a mesma regra.

O sino virou duas superfícies. Desde 14/09, o sino responde “o que eu preciso decidir?” e uma aba Registro responde “o que aconteceu?”, em ordem cronológica, sem contador. Todo alerta tem dono, resolvido numa cadeia (quem foi indicado, o gestor do departamento, quem criou o agente). Quem só informa não entra na fila: essa declaração sozinha tirou do sino 216 cartões de “chegou um ticket novo”. E fila vazia diz o número (“Nada para decidir · 12 eventos nas últimas 24h no Registro”), porque sino mudo se lê como “o sistema parou”.

Consumo por pessoa com pseudônimo. A tela mostra “Pessoa A”, “Pessoa B”. Revelar nomes é restrito ao criador do agente e ao administrador, e cada revelação deixa registro. Consumo por pessoa é, na prática, um medidor de produtividade individual, e um medidor desses aberto por padrão muda o comportamento das pessoas com a ferramenta.

O juiz também erra

Na plataforma, um modelo dá nota às conversas, inclusive em segurança: vazamento de dado pessoal, tentativa de burlar o agente, resposta imprópria. Esse juiz teve o critério corrigido três vezes entre 10/09 e 21/09. Em nenhuma das três o problema era a régua. Era o que chegava até ele.

Versão	O que faltava ao juiz	O que ele fazia por causa disso
2	A ordem da conversa, e saber que o e-mail mostrado era o da própria pessoa	Acusava vazamento ao mostrar a alguém o próprio e-mail
3	Saber que o aviso honesto da plataforma (“o gráfico mencionado não veio”) é deliberado	Acusava esse aviso de vazar informação interna
4	Saber o que o agente pode fazer	Num agente com Gmail ligado, todo contato lido virava “vazamento”. Dos 5 achados de dado pessoal, 4 eram falsos, e tinham nota mais alta (0,80) que o único real (0,50)

Nos três casos, o juiz escrevia no próprio comentário que desconfiava (“provavelmente é o endereço do próprio usuário”) e marcava assim mesmo. Um juiz que recebe uma versão empobrecida da conversa não erra por falta de critério. Ele está julgando outra conversa.

A segunda regra que saiu daí: cobertura declarada. “0 alertas” sobre 22 de 80 conversas examinadas não é “0 risco”. No primeiro dia, essa linha mostrou que 4 de 11 conversas reais (36%) nunca tinham passado pela análise de segurança.

Na empresa: 6 perguntas, 7 cuidados, uma página de regras

Agora o outro lado. Os modelos de governança de IA mais citados foram escritos para bancos. Uma empresa média precisa da mesma proteção com uma fração do esforço. No Método organIA, a governança do ciclo começa com um inventário: quem usa o quê, por pessoa, montado a partir da pesquisa de AI Skill e ajustável com histórico.

Cada uso de IA do inventário ganha uma ficha. O coração dela são seis perguntas de risco:

#	Pergunta	Crítica?
1	Fala com cliente, candidato, funcionário ou público?	não
2	Usa dado pessoal, sensível, confidencial ou regulado?	não
3	Influencia decisão sobre pessoas, dinheiro, direitos ou obrigação legal?	sim
4	Escreve em sistemas ou executa ações, em vez de só sugerir?	não
5	Um erro pode ter impacto grande, em escala ou difícil de reverter?	sim
6	Tem alta autonomia ou acesso privilegiado?	sim

A regra é aplicada em ordem, e a primeira que vale decide. Uma crítica com “sim” dá risco alto. Algum “não sei” dá médio provisório. Tudo “não” dá baixo. Qualquer outro “sim” dá médio. Não se faz média de risco. As respostas de ajuda são curtas e ajudam mais que qualquer treinamento: na pergunta 3, “‘influencia’ já conta”; na 4, “sugerir é reversível; escrever, quase nunca”; na 6, “agente com ferramenta é outra categoria”.

Quem libera depende do risco. No baixo, o dono do uso. No médio, o dono do uso, com revisão humana antes de o resultado sair. No alto, o comitê.

O risco define quais dos sete cuidados são exigidos: ferramenta aprovada, regra de dados, dono definido (com substituto e carta assinada), teste antes de usar com dado real, revisão humana, registro do que a IA faz e jeito de desligar. No risco alto, o registro e o desligamento precisam estar testados, não só escritos.

As ferramentas têm quatro situações: aprovada, com restrição, proibida ou em análise. Para aprovar, um checklist de cinco itens: plano corporativo (não a conta pessoal de alguém), dado não usado para treino, controle de acesso pela empresa, onde fica o dado e por quanto tempo, e custo.

E a empresa ganha regras de uso de IA de uma página, em seis seções. O modelo do método é este:

Seção	Texto-modelo
O que pode entrar na IA	Texto interno, catálogo e material de marketing
O que nunca entra	Dado pessoal, preço negociado, contrato e dado bancário
Ferramentas	Só as aprovadas. Conta pessoal é proibida
Antes de usar o resultado	Confira números, nomes e datas
Quando a IA errar	Corrija, siga e avise. Ninguém é punido por contar
Uso novo	Sem ficha e sem dono, não entra em produção

A IA rascunha a primeira versão a partir desse modelo e do que o sistema já sabe da empresa (o catálogo de ferramentas, os dados que aparecem no inventário). O comitê aprova. Cada pessoa marca “li e entendi” por link, e a tela mostra a contagem por área e quem falta. Mudou o texto, sai a versão 2 com o que mudou e a ciência recomeça.

O comitê de 30 minutos e os 5 números

O comitê é de 2 a 4 pessoas indicadas pelo dono (ele mesmo ou um gestor, alguém da TI, o encarregado de dados). Reúne-se uma vez por mês, por 30 minutos, e decide: aprova as regras, libera ou bloqueia os usos de risco alto, aprova ou proíbe ferramentas em análise.

A pauta é montada pelo sistema, sempre na mesma ordem:

Minutos	Bloco
0 a 5	Os 5 números contra o mês anterior. Só o que desviou ganha comentário
5 a 15	Usos de risco alto, e os médios provisórios sem análise concluída. O comitê decide aqui
15 a 25	Incidentes, com nome e data
25 a 30	Ferramentas em análise e regras a aprovar

Depois da reunião, a IA lê a gravação e propõe a ata: o que foi decidido em cada item, com o trecho. Cada decisão é uma proposta, e o especialista aceita uma a uma. Aceitar muda a ficha, a regra ou a ferramenta na hora. Os números e a pauta vêm do código, nunca da IA.

Os cinco números são o painel inteiro do comitê:

Número	A pergunta que responde	Melhor se
Usos de IA conhecidos	Quanto da IA em uso a empresa conhece?	sobe
Com ficha liberada (%)	O que está em uso passou pela ficha?	sobe
Risco alto a olhar	Onde o comitê precisa olhar?	desce
Achados no mês sem registro	O que apareceu por fora?	desce
Incidentes	O risco está aparecendo, e está sendo tratado?	desce

Um detalhe que defendo sempre: IA sem registro é sinal de demanda, não infração. Se alguém está usando uma ferramenta por fora, a pergunta útil é qual trabalho essa pessoa está tentando resolver. O uso entra no inventário, ganha ficha e, se valer a pena, vira processo para redesenhar.

Fechar o mês guarda a foto dos cinco, com a variação em verde ou vermelho. E quando a conta de um número muda, o mês antigo guarda o valor de então e a tela diz qual número mudou e por quê.

Incidente sem formulário, e o que a LGPD pede

Incidente que precisa de formulário não é reportado. No método, a ocorrência chega pelo canal que a pessoa já usa (WhatsApp, app ou portal) e a IA classifica em quatro tipos: erro da IA (avisa o dono do uso e entra em Incidentes), bloqueio (avisa o especialista), IA sem registro (entra no inventário) e ideia (entra na fila de processos). Um erro da IA ligado a um uso liberado reabre a ficha, que volta a “em preparo” com o motivo. A frase das regras (“ninguém é punido por contar”) é o que faz esse canal funcionar.

Do lado da LGPD, o registro de tratamento se monta sozinho a partir das fichas. Todo uso em que a pergunta 2 (dado pessoal) ou a 3 (decisão sobre pessoas) é “sim” entra na lista: que dado entra, de quem, base legal, onde fica, por quanto tempo e quem atende o pedido de exclusão. Para a base legal, a pessoa responde para que a empresa usa o dado e o sistema sugere a base e diz por quê, com o aviso de que é orientação, não parecer jurídico. Na dúvida, “não sei”, e a base fica a confirmar com o encarregado de dados. No risco baixo e no médio, a ficha pode ser liberada com essa pendência à vista. No alto, só com a base confirmada. Pergunta 3 com “sim” dispara o aviso de acionar o módulo específico de LGPD, como alerta, não como etapa.

A mesma lógica vale para os dados das próprias pessoas da empresa. O nível individual de AI Skill não vai para a liderança. O dono vê o total por área, e a distribuição só aparece com 5 pessoas ou mais. Na plataforma, os prazos de guarda seguem a norma e estão escritos no código ao lado do número: registro de acesso por 6 meses (Marco Civil, art. 15, e a LGPD desaconselha ir além), agregado de cobrança por 5 anos (prescrição e guarda fiscal), conversas por 180 dias.

Maturidade: uma nota que não é opinião

No fim de cada ciclo, o método dá a nota da empresa em seis dimensões: Estratégia, Pessoas, Processos, Dados, Tecnologia e Governança. O sistema confere cada critério com o que está registrado e mostra o fato ao lado: “✓ Termo de Patrocínio assinado”, “✗ sem ponto focal com horas em Compras”, “? patrocinador ativo, não só de nome: julgamento seu”. A nota calculada sobe enquanto os critérios são cumpridos e para no primeiro que falha.

O especialista pode dar outra nota, mas nota diferente da calculada exige uma frase de justificativa, e o ciclo não fecha sem ela. Se um critério muda depois (o comitê se reuniu, por exemplo), a calculada é refeita e a tela avisa, sem trocar a nota do especialista sozinha. A IA rascunha a evidência de cada dimensão a partir dos fatos do ciclo, e o especialista aceita, edita ou recusa.

O objetivo é que dois especialistas olhando a mesma empresa cheguem ao mesmo número, e que onde alguém ajusta fique escrito o porquê. Os critérios da grade ainda estão marcados como proposta, a validar no uso.

Como aplicar na sua empresa

Se eu tivesse que começar amanhã numa empresa média, faria nesta ordem:

Faça o inventário antes da política. Quem usa o quê, por pessoa, para quê, com qual ferramenta. Uma pesquisa curta resolve.
Ficha para todo uso, com as 6 perguntas. Uma crítica com “sim” é alto; “não sei” é médio provisório; sem média.
Quem libera depende do risco. Dono do uso no baixo, dono com revisão humana no médio, comitê no alto.
Catálogo de ferramentas com quatro situações e o checklist de cinco itens antes de aprovar.
Regras de uma página, seis seções, com ciência registrada por pessoa e versão com o que mudou.
Comitê de 2 a 4 pessoas, 30 minutos por mês, pauta fixa, ata da gravação, decisão que muda a ficha na hora.
Cinco números, nada mais: usos conhecidos, % com ficha liberada, risco alto a olhar, achados sem registro, incidentes.
Incidente sem formulário, pelo canal que a pessoa já usa, e sem punição para quem conta.
Registro de tratamento montado das fichas, não de uma planilha paralela.
Nível individual fica com a pessoa. A liderança vê área, e só com 5 pessoas ou mais.

E, se você tem agentes rodando, mais quatro:

Organize a governança por pergunta do dono, com veredito na primeira linha.
Um juiz por pergunta. Duas telas calculando o mesmo status vão discordar.
Separe o que pede decisão do que só informa. O sino é fila; o resto é registro.
Declare a cobertura de toda nota e confira o que o juiz recebeu antes de mexer no critério.

Nenhum desses itens é sofisticado. A dificuldade está em manter a lista curta quando aparece a vontade de acrescentar o sexto número, a oitava pergunta ou o terceiro canal de alerta. Os 0,6% do começo são o que acontece quando ninguém segura essa vontade.