Governança com inteligência artificial: controle sem paralisia

A governança costuma entrar tarde nas discussões sobre inteligência artificial. Primeiro vem o protótipo. Depois, quando ele começa a tocar dados, ferramentas e processos reais, surge a pergunta: como colocar uma pessoa no circuito?

A pergunta é necessária, mas insuficiente. Se a governança for reduzida a uma caixa de aprovação acrescentada ao final do fluxo, ela corre o risco de produzir apenas uma aparência de controle.

Uma pessoa pode clicar em aprovar sem conhecer o alvo exato, a exposição envolvida ou o que acontecerá se ninguém responder. Uma interface pode exibir uma decisão válida e tentar executar mais tarde com contexto desatualizado. Um agente pode possuir a ferramenta necessária, mas não a autoridade para usá-la naquele caso.

Governar IA exige separar esses fatos em vez de confiar na presença cerimonial de uma pessoa.

O executor indica quem realizou o ato. A base de autoridade mostra qual política, delegação ou aprovação permitiu aquele ato específico. A supervisão registra se houve revisão humana antes, depois, por exceção ou se ela não era necessária naquele ato.

Um agente pode executar sob uma política permanente sem que alguém acompanhe cada passo. Uma pessoa pode supervisionar uma atividade sem possuir autoridade para aprová-la. E participação humana não corrige retroativamente um efeito que nasceu sem base válida.

Antes de um efeito material, deve existir uma fronteira de decisão clara: o que será alterado, em qual alvo, com que exposição, sob qual política, com que grau de reversibilidade e qual será a consequência da inação.

Quando a ação está dentro de uma missão e de limites previamente definidos, exigir uma aprovação adicional pode acrescentar demora sem acrescentar segurança. Quando cruza esses limites, a pessoa precisa conhecer exatamente aquilo que está autorizando. Silêncio nunca deve ser convertido em consentimento.

Uma API pode responder e uma fila pode confirmar processamento. Esses recibos são importantes, mas descrevem o executor. Eles não estabelecem necessariamente o que o negócio observou.

Quando existe a possibilidade de o efeito já ter ocorrido, a mesma intenção não deve ser repetida às cegas. Primeiro é preciso reconciliar o alvo original. Sem isso, uma tentativa de recuperação pode produzir a duplicidade que o sistema pretendia evitar.

Governança não precisa significar que uma pessoa observe cada passo de cada agente. A supervisão pode acontecer por exceção: limites ultrapassados, efeitos irreversíveis, compromissos materiais, dados sensíveis, resultados incertos ou desvios de missão.

O sinal de uma boa governança não é a quantidade de aprovações acumuladas. É a clareza das respostas: quem agiu, com qual autoridade, sobre qual alvo, dentro de qual limite, o que foi executado, o que foi observado e o que ainda permanece incerto.