Quando iniciei o mergulho mais profundo da minha carreira no conhecimento necessário para integrar uma estrutura de governança, a inteligência artificial ainda não fazia parte do nosso dia a dia. Ela estava confinada a sistemas de machine learning e algoritmos para aplicações específicas. O treinamento em reconhecimento de imagens dava seus primeiros passos.
Naquela época, diante de uma decisão difícil ou da necessidade de emitir uma opinião em reunião de conselho, nos preparávamos com antecedência. Conversávamos com pares e especialistas, pesquisávamos em uma grande quantidade de documentos e dados, e dedicávamos esforço e concentração real ao estudo do problema. Depois, tirávamos nossas próprias conclusões, anotávamos pontos de discussão e dúvidas e, já na reunião, fazíamos o possível para ponderar as outras opiniões até chegar a uma decisão.
Ao mesmo tempo, era preciso estar atento aos vieses presentes nas opiniões dos outros e, claro, nas nossas. Cada um carrega experiências e preferências próprias, e cada um pode enxergar desfechos diferentes para o mesmo problema.
O que acontece com esse processo agora que tantos de nós entregam ao ChatGPT, ao Claude, ao Gemini e a ferramentas semelhantes um prompt detalhado, os dados da situação e, junto com eles, a tarefa de formar a opinião que deveríamos ter?
Onde fica o pensamento crítico? Ou mesmo o próprio pensamento? Não estaríamos construindo nossa própria obsolescência no longo prazo?
Há ainda um risco pouco comentado: a confidencialidade. Materiais do conselho inseridos em ferramentas de IA sem regras claras podem sair do controle da empresa.
Ruído e vieses
Em Ruído: uma falha no julgamento humano, Daniel Kahneman, Olivier Sibony e Cass Sunstein mostram que o julgamento humano sofre não só com vieses, mas também com ruído: a variabilidade indesejada em decisões que deveriam ser iguais. Um dos argumentos dos autores é que regras e algoritmos são livres de ruído, pois a mesma entrada produz sempre a mesma saída.
A IA generativa muda essa equação. Os vieses continuam presentes, tanto nos modelos quanto nos dados com que foram treinados. E, ao contrário das regras simples defendidas pelos autores, essas ferramentas podem dar respostas diferentes à mesma pergunta. Ou seja, podem trazer o ruído de volta à sala do conselho, agora mais difícil de enxergar.
Surge então uma questão muito prática: como explicar, na sala do conselho, de que forma você chegou a uma conclusão, se esse raciocínio foi elaborado pela IA e apresentado como seu?
A homogeneização já é visível. Basta observar a avalanche de posts no LinkedIn com os mesmos gráficos e resumos gerados por IA: todos têm a mesma aparência. Poucos se dão ao trabalho de personalizar o design, o que a maioria das ferramentas permite.
Aqui está uma das dicotomias do tema. De um lado, a IA pode ampliar perspectivas. Em um conselho com pouca diversidade, por exemplo, ela pode trazer ângulos que ninguém na sala levantaria. De outro, se todos consultam as mesmas ferramentas, corremos o risco de convergir para as mesmas respostas. E, como lembram Kahneman e seus coautores, nas decisões importantes a palavra final continua cabendo ao julgamento humano.
A confiança está mudando rapidamente. Um artigo publicado recentemente pela International Bar Association (IBA), The rise of AI board members, cita uma pesquisa da SAP em que cerca de três quartos dos executivos afirmam confiar mais nos conselhos da IA do que nos de pessoas próximas. Os autores levantam perguntas que já não são teóricas. A IA pode exercer julgamento fiduciário? Quem responde quando uma decisão assistida por IA causa danos? E como o direito societário deve se adaptar quando máquinas passam a influenciar, ou mesmo tomar, decisões estratégicas tradicionalmente reservadas aos conselheiros?
O paradoxo
Estamos diante de um paradoxo: é preciso pensar criticamente justamente para não aceitar o resultado da IA generativa sem questioná-lo e para buscar respostas mais amplas e completas. A reflexão crítica é necessária antes, durante e depois do uso da IA. Os melhores resultados tendem a vir da frequência e da profundidade da interação humana com essas ferramentas, e não de um único comando.
O invisível
Será a IA capaz de lidar com o invisível presente na dinâmica dos conselhos? No livro A Caixa-Preta da Governança, Sandra Guerra reúne casos analisados por grandes especialistas e revela a enorme variedade de vieses presentes na sala do conselho. Ela mostra que, por mais cordiais que as reuniões pareçam, a dinâmica do conselho está sujeita a “um invisível emaranhado de tensões concomitantes”, internas e externas.
Como decifrar e lidar com o invisível na era da IA? Será a IA capaz de captar as nuances e os detalhes das relações humanas? E de ajudar a administrar, não necessariamente eliminar, as tensões inerentes a um colegiado cujos membros divergem legitimamente? Afinal, algum grau de conflito é o que protege o conselho do pensamento de grupo.
Rumo à governança automatizada?
Estamos chegando à era da governança automatizada? Quantos assentos do conselho deveríamos dividir com a IA?
Se é o conselho que define a estratégia de longo prazo, como antecipar um modelo que pode extinguir sua própria função e a dos executivos encarregados de executar essa estratégia e conduzir o dia a dia?
São questões que beiram o catastrofismo. Ao ler, você pode pensar: como prescindir de um conselheiro experiente, capaz de administrar as tensões entre os membros e ainda conduzir a agenda proposta?
O papel do conselho
Refletir sobre os diversos usos da IA é necessário e urgente. Estabelecer políticas e uma governança interna para o uso que cada nível da empresa pode fazer da IA, com limites claros, é, sim, função da governança. Isso inclui definir o que pode ser compartilhado e com quais ferramentas, quando o uso deve ser declarado e quem valida os resultados.
Estimular o pensamento crítico, o debate e a identificação de vieses também faz parte do papel dos conselheiros.
O francês Laurent Alexandre, autor de A guerra das inteligências na era do ChatGPT (Amarilys), adota uma visão mais pragmática, e provocativa, ao afirmar que “nenhuma norma ética está atrasando os transhumanistas chineses”. Para ele, a aceitação incondicional da IA pelos chineses teria surpreendido Einstein. É um lembrete de que a contenção ética de alguns não interrompe a corrida de outros.
O peso de decidir os melhores caminhos recai sobre a estrutura de governança das empresas. Essas estruturas, por sua vez, dependem cada vez mais das interações com a IA e confiam cada vez mais nela.
Prefiro acreditar que essas profecias não se materializem e que caberá a nós, humanos, definir o rumo, assim como esperamos que sejamos nós a reverter as mudanças climáticas e o declínio da biodiversidade. Será?