À indústria pesada não faltam dados, e já não faltam modelos. Um concentrador, uma usina de açúcar e etanol ou uma estação de tratamento moderna registra milhões de leituras por dia, e uma nova geração de ferramentas de IA industrial consegue transformá-las em recomendações fluentes e confiantes em poucos segundos. O que o operador ainda não tem é uma forma de saber, antes de agir, se aquela recomendação está certa.
Plausível não é o mesmo que possível
Modelos de machine learning são ótimos para encontrar padrões e fracos para perceber quando erram. Eles aprendem com o histórico, e uma planta raramente permanece muito tempo dentro do próprio histórico: o minério muda, um novo efluente entra no circuito, um sensor deriva, chega a estação das chuvas. Os grandes modelos de linguagem trazem um novo tipo de falha. Foram construídos para produzir respostas que soam bem, e uma resposta errada bem escrita é mais difícil de flagrar do que uma mal escrita.
Numa planta, as consequências de uma resposta errada são físicas. Uma mudança de setpoint que eleva a recuperação em um circuito pode quebrar silenciosamente o balanço hídrico em outro, levar um parâmetro de lançamento além do limite da licença ou consumir mais reagente do que economiza. No dashboard, cada uma dessas falhas parece uma boa ideia até o turno seguinte à sua aplicação.
O que os engenheiros chamam de oráculo
Na engenharia de software, oráculo é o mecanismo que diz se um resultado está correto. Um teste sem oráculo só informa que o programa rodou. A mesma distinção vale para a IA industrial: uma recomendação que não foi confrontada com algo independente do modelo que a produziu foi gerada, não verificada.
Nesse ponto, a indústria pesada leva vantagem. Ao contrário de muitos campos em que a IA é aplicada, uma planta de processo já vem com oráculos embutidos na natureza e na lei. A massa se conserva. A água que entra em um circuito precisa sair por algum lugar. O balanço de energia fecha ou não fecha. A licença fixa limites por escrito, e a economia pode ser expressa em dinheiro e em probabilidade. Toda recomendação que mereça ser seguida precisa sobreviver a todos eles.
Uma resposta que não pode ser verificada é uma opinião, por mais confiante que pareça.
Três testes antes de qualquer ação
O primeiro teste é físico. A ação recomendada respeita a conservação de massa, água e energia na planta inteira, e não só no circuito que está sendo otimizado? É termodinamicamente viável e mantém os equipamentos dentro do envelope seguro de operação? Uma recomendação que melhora um indicador quebrando um balanço em outro ponto não é otimização. É transferência de perda.
O segundo teste é regulatório. A ação respeita a licença vigente hoje, incluindo outorgas de uso da água, limites de lançamento e condicionantes sobre rejeitos ou resíduos, e continua respeitando nos extremos da variabilidade normal, e não só num dia médio? Licenças mudam, e a verificação precisa mudar junto.
O terceiro teste é econômico, e é o mais esquecido. Uma recomendação deve trazer um custo, além de um benefício, e o benefício deve vir com uma faixa honesta, não com um número único. Decisões de planta costumam ser justificadas por um ganho esperado, mas a expectativa é só metade da história. A outra metade é a dispersão: quão ruim é o cenário ruim e qual a chance de ele acontecer.
Perguntas para qualquer fornecedor de IA industrial
O operador não precisa entender a arquitetura de um fornecedor para julgar se as recomendações dele podem ser verificadas. Precisa de respostas diretas a algumas perguntas:
- O que acontece quando uma recomendação viola um balanço de massa, água ou energia? Ela é barrada antes de chegar ao operador ou apenas sinalizada depois?
- Como os limites da licença e o envelope seguro de operação estão representados, e quem os atualiza quando a licença muda?
- O sistema é capaz de dizer que não sabe? Quando a planta sai das condições que o modelo já viu, ele se abstém, e como você ficaria sabendo?
- Cada recomendação vem com uma faixa de resultados e um cenário adverso explícito, ou com um único número?
- Um engenheiro, um auditor ou um órgão regulador consegue reconstruir, meses depois, por que determinada recomendação foi feita?
- O sistema foi testado com os dados da sua planta ou apenas com um conjunto de dados de demonstração?
O fornecedor que responde a essas perguntas com clareza oferece uma ferramenta de decisão. O que responde apenas com estatísticas de acurácia oferece uma previsão.
A responsabilidade continua com as pessoas
Nada disso tira o operador do circuito. Muda aquilo em que se pede que ele confie. Em vez de confiar em um modelo, o supervisor de turno confia em uma recomendação que já passou pelos testes que a própria planta aplicaria, e consegue defender a decisão diante do gerente da planta, do órgão ambiental e do financiador.
A regulação caminha na mesma direção. O AI Act da União Europeia classifica como de alto risco os sistemas de IA usados como componentes de segurança em infraestrutura crítica, inclusive no abastecimento de água, e exige supervisão humana e manutenção de registros. O AI Risk Management Framework do NIST trata validade e confiabilidade como a base de uma IA digna de confiança, e o projeto de lei brasileiro sobre IA, aprovado pelo Senado em dezembro de 2024, segue uma lógica semelhante, baseada em risco. A verificação está se tornando parte da licença para operar, e não um diferencial.
Do princípio à prática
A química muda de site para site; a disciplina, não. O Banker Group trata o princípio do oráculo como requisito de projeto em suas empresas de IA industrial, como a PreAur, nas operações de toda a planta, e a HydroQ, na engenharia de água, e recomenda que os operadores façam as mesmas perguntas a todo sistema que avaliarem, inclusive aos do próprio grupo.
Fontes
- União Europeia, Regulamento (UE) 2024/1689, Lei da Inteligência Artificial (AI Act), 2024
- NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), 2023
- Senado Federal, Projeto de Lei 2338/2023, sobre inteligência artificial, aprovado em dezembro de 2024
