Glossário de Product Design
O que é IA explicável?
Também chamado de Explainable AI, XAI, Transparência em IA
IA explicável é o conjunto de práticas que tornam compreensíveis as decisões de um sistema de inteligência artificial, mostrando o porquê de cada resultado para quem precisa confiar nele.
Em detalhe
No design de produtos com IA, explicar não significa mostrar o modelo matemático, e sim o raciocínio em linguagem de negócio: o que o sistema viu, o que decidiu, com que segurança e o que acontece se estiver errado.
A explicação é o que permite calibrar a confiança: nem desconfiar de tudo, nem aprovar tudo sem ler. Ela também ajuda a corrigir o sistema, porque deixa claro onde o raciocínio falhou.
Na prática
- Explique em termos do domínio de quem usa, não em termos técnicos.
- Mostre os dados que a decisão usou.
- Ofereça um jeito de corrigir e ensinar o sistema a partir do erro.