A importância contínua da expertise humana na era da IA

Com a crescente adoção da inteligência artificial (IA) por organizações e indivíduos para responder a diversas questões, surge a interrogação sobre o papel dos especialistas que tradicionalmente analisam dados detalhados para oferecer clareza e insights. Como esses especialistas devem interagir com os resultados produzidos pela IA para agregar valor e conquistar a confiança de partes interessadas?

A pesquisa, coautorada por Virginia Leavell, Professora Assistente em Teoria Organizacional e Sistemas de Informação na Cambridge Judge, explora essa interação entre IA e especialistas na tomada de decisões essenciais, destacando o que o estudo denomina de "certeza artificial", fenômeno onde há a ilusão de que cenários complexos se comportarão de forma previsível quando, na verdade, são incertos.

Implicações práticas na balança entre rapidez da IA e experiência

Virginia afirma que a pesquisa não se concentra na substituição de especialistas pela IA, mas sim nas estratégias de representação que estes profissionais deveriam adotar para preservar sua autoridade como intérpretes entre o que é compreendido e o incompreendido. Esta abordagem traz implicações práticas para as organizações, que precisam equilibrar a velocidade e eficiência da IA com a experiência humana em contextos complexos.

"A pesquisa foca nas estratégias que especialistas devem adotar para manter sua autoridade entre o que é conhecido e o desconhecido", argumenta Virginia.

O estudo de Virginia analisa duas organizações de planejamento urbano no oeste dos Estados Unidos, nomeadas como Ocean e Mountain. Ambas utilizam a mesma ferramenta de IA, mas a abordagem dos especialistas varia bastante entre elas. O principal achado: quando especialistas concentram-se em aprimorar a capacidade tecnológica, o público pode confundi-las com a realidade, minando assim a autoridade humana. No entanto, ao modularem os resultados da IA com sua expertise, a autoridade humana é preservada, mantendo a incerteza saudável.

A larga lacuna entre o que aparenta ser certo e o incerto

Os autores destacam como os avanços tecnológicos alargaram a lacuna entre a certeza aparente das representações e a incerteza do que elas representam. A IA acelerou dramaticamente essa tendência, oferecendo a tomadores de decisão organizacionais a falsa sensação de compreenderem fenômenos complexos completamente, apenas por terem acesso a representações sofisticadas.

"A função tradicional dos especialistas em processos tem sido a salvaguarda contra tais ilusões", aponta o estudo, ressaltando o papel mediador na interpretação de dados.

Estudos anteriores enfatizam a importância de linguagens concretas para descrever o que é compreensível. Num exemplo prático, o trabalho de enfermeiras transportadoras que decidem sobre o encaminhamento de crianças gravemente enfermas exemplifica a calibragem da incerteza a ser comunicada. Elas reúnem dados fisiológicos e formatam essa informação para comunicar exatamente o nível de incerteza necessário para a melhor tomada de decisão.

Planejamento urbano e a era da IA

A pesquisa escolheu dois locais geográficos, Ocean e Mountain, que implementaram a tecnologia UrbanSim para prever o impacto de mudanças políticas ao longo de 20 anos. Ocean adotou uma abordagem de "potencialização" da IA, apresentando dados detalhados ao público, enquanto Mountain utilizou a "modulação", limitando detalhes e preservando a incerteza.

Os planejadores de Mountain criaram representações que os stakeholders viam como mais abstratas, conservando a separação entre modelos e resultados reais.

A modulação estratégica em Mountain preservou a autoridade dos planejadores ao controlar o nível de detalhe e construção do significado dos modelos. Com isso, eles asseguraram seu papel essencial, mesmo em um panorama onde a IA parece dominar longe de limitações humanas.