A frase parece uma explicação. Numa reunião, devia ser o princípio de uma pergunta: e nós, com que fundamento aceitámos?..

A frase parece uma explicação. Numa reunião, devia ser o princípio de uma pergunta: e nós, com que fundamento aceitámos?

É nessa passagem, entre receber uma recomendação e assumir uma decisão, que a inteligência artificial coloca um problema de governance. Um resultado bem-apresentado, acompanhado por uma pontuação e uma justificação plausível, chega à discussão com uma vantagem: alguém terá de fazer o esforço de o contrariar. Sob pressão, com pouco tempo e muitos assuntos para resolver, aceitar pode tornar-se a opção mais fácil.

Não é preciso imaginar uma máquina a dirigir uma empresa…basta pensar num processo de recrutamento! Chegam duzentas candidaturas e um sistema seleciona vinte. A equipa analisa essas vinte com cuidado, entrevista cinco pessoas e escolhe uma. Houve intervenção humana, discussão e uma decisão consciente. Mas quem examinou as cento e oitenta candidaturas que ficaram de fora? Uma parte importante da escolha aconteceu antes de começar a conversa.

É aqui que, na minha opinião, o debate precisa de ganhar profundidade. Perguntamos se a IA decide bem, mas nem sempre perguntamos sobre o que dispomos para decidir. Selecionar, ordenar e excluir já é exercer influência. Quando essa influência entra numa organização sem regras claras, a autoridade muda de mãos sem que ninguém tenha deliberado sobre isso. Ou, não raras vezes, pensado sobre isso.

A questão não se resolve acrescentando uma validação humana no fim. Uma pessoa pode ter a responsabilidade formal e não ter condições para a exercer. Se desconhece os critérios, não dispõe de elementos de comparação ou teria de repetir todo o trabalho para verificar o resultado, o que significa, na prática, pedir-lhe que valide?

Há ainda um desconforto de que se fala pouco: quem discorda do sistema pode ter de se justificar mais do que quem o segue. Imaginemos que rejeito uma recomendação e obtenho um mau resultado. Terei de explicar por que razão a contrariei. Se a tivesse seguido, a responsabilidade seria discutida da mesma forma? A resposta diz muito sobre os incentivos que estamos a criar.

Uma organização pode, sem o pretender, ensinar as suas pessoas a concordar. E isso devia preocupar quem lidera. O valor do julgamento está também na capacidade de reconhecer uma exceção, desconfiar de uma conclusão demasiado “arrumada” ou perceber que falta uma informação, decisiva…

Essa capacidade perde espaço quando questionar se torna um entrave à produtividade.

Para mim, a governance da IA começa por tornar possível essa discordância. Quem recebe uma recomendação deve saber o que está a aceitar, poder pedir uma revisão e ter uma alternativa quando o resultado não merece confiança. Os responsáveis pela adoção da ferramenta têm, por sua vez, de responder pelos objetivos definidos e pelas condições em que ela é utilizada. Não seria razoável concentrar toda a responsabilidade na última pessoa que carregou em “aprovar”.

Isto exige escolhas concretas: identificar decisões que não podem avançar automaticamente, verificar uma amostra do que foi excluído e rever resultados depois da implementação. Exige também aceitar que alguns ganhos de rapidez serão sacrificados para preservar qualidade de decisão. Se tudo tiver de ser validado à velocidade da máquina, a supervisão humana fica sem tempo para existir.

A ambição de fazer mais com IA é legítima. Mas uma empresa precisa de conservar a capacidade de explicar por que fez. Quando a única resposta disponível for “o sistema recomendou”, faltará precisamente aquilo que se espera de uma liderança: um critério que esteja disposta a assumir.