WALL-E é um dos meus filmes favoritos da Pixar.
A despeito de uma previsão apocalíptica em que a humanidade consumiu os recursos naturais e poluiu o planeta Terra a ponto de torná-lo inabitável, o filme ainda traz uma centelha de esperança ao mostrar que os humanos são capazes de aprender alguma coisa no final.
Em meio a esse mundo distópico, a figura do pequeno robô lixeiro WALL-E apresenta uma IA comprometida com sua missão, prestativa e absolutamente fofa. Assim como praticamente todos os robôs apresentados no filme.
Impossível não se apaixonar.
Mas esse sentimento de conforto com a tecnologia se torna um tanto incômodo quando WALL-E começa a circular pela nave espacial Axiom, onde os humanos vivem.
Vemos pessoas carregadas em cadeiras individuais flutuantes que se tornaram totalmente dependentes das máquinas. Sem elas, já não são capazes de se locomover, trabalhar, produzir ou mesmo sobreviver. Até os relacionamentos são mediados por telas.
Na Axiom, a disponibilidade contínua de sistemas capazes de realizar as tarefas que antes eram feitas por humanos acabou, com o passar do tempo, tornando as pessoas incapazes de realizá-las.
Nos artigos das semanas passadas, levantei questionamentos sobre o funcionamento da IA, que pode eventualmente indicar decisões ou apresentar resultados incorretos ou injustos.
Nesta semana, o comportamento preocupante vem do outro lado da tela.
O risco é humano.
Risco #3: Dependência excessiva da IA
Como voluntário do IIBA, liderei equipes responsáveis pelas traduções oficiais do Guia BABOK e do Business Analysis Standard para a língua portuguesa.
Nesses projetos, nunca confiei nas traduções automáticas. Muito do conceito original se perdia ou era deturpado, e algumas frases simplesmente não faziam sentido.
Isso não nos impediu de usar ferramentas como Google Tradutor ou DeepL durante o processo. Seu uso acelerava bastante a criação de um rascunho inicial e ajudava a identificar possíveis alternativas para cada frase ou termo. Mas a revisão e a versão final eram sempre feitas por humanos.
Os sistemas de tradução melhoraram muito nos últimos anos. Modelos de linguagem baseados em IA elevaram a qualidade das traduções, conseguindo adaptar a linguagem e preservar melhor o sentido dentro de um contexto. São capazes de ir muito além da tradução literal das palavras.
Hoje, escrevo artigos como este que você está lendo e peço a uma IA que os traduza para o inglês.
Dou uma lida por cima e raramente faço mais do que um ou outro ajuste.
Quanto mais consistente e adequada é a resposta do sistema, mais confio nele e menos me preocupo em questionar suas saídas.
Já consigo imaginar o momento em que nem vou mais questionar.
Um serviço de boa qualidade gera confiança. A conveniência de ter acesso contínuo a esse serviço pode gerar dependência. E a dependência pode levar à perda da capacidade de fazer sozinho.
Se um dia eu pretender escrever textos em alemão, provavelmente concluirei que não vale a pena aprender o idioma.
Será mais fácil usar uma IA para traduzir.
Quando deixamos de saber fazer
Estou certo de que nossos antepassados do período paleolítico sabiam caçar, pescar e encontrar abrigo em uma floresta muito melhor do que a maior parte de nós.
As habilidades essenciais para a sobrevivência no passado já não são as mesmas de hoje. Minha sobrevivência provavelmente depende muito mais de saber manipular o Excel do que de saber usar um arco e flecha.
Isso faz parte da evolução da sociedade. Delegamos a sistemas produtivos mais eficientes a responsabilidade de plantar, colher, criar animais, construir moradias e realizar uma série de outras atividades que a maior parte de nós já não se preocupa em aprender.
Mas, quando delegamos e deixamos continuamente de praticar certas atividades, nossa capacidade de executá-las tende a se deteriorar.
Até que ponto essa troca é benéfica?
O que deixamos de desenvolver como capacidade essencial quando terceirizamos a inteligência?
Perda de conhecimento
No passado, vimos muitas atividades serem automatizadas por máquinas.
Robôs assumiram tarefas nas montadoras de veículos. Grandes colheitadeiras permitiram que um único operador realizasse o trabalho antes destinado a centenas de trabalhadores braçais.
Agora, empresas começam a substituir ou reduzir o trabalho humano também em atividades intelectuais: escrever, analisar, programar, pesquisar, interpretar informações e tomar decisões.
A cada trabalhador dispensado, a empresa não abre mão apenas de mão de obra humana. Pode abrir mão também de conhecimento tácito que levou anos para ser desenvolvido.
É o conhecimento das exceções, dos casos estranhos, da história, do contexto e daquilo que nunca foi formalmente documentado.
E esse conhecimento pode ser justamente o necessário para validar as saídas e julgar os resultados obtidos pelos sistemas automatizados que substituíram essas pessoas.
O dilema da formação profissional
Supondo que alguns especialistas continuem sendo necessários para realizar esse tipo de julgamento, as empresas passam a enfrentar um novo desafio: sucessão.
Os especialistas atuais começaram suas carreiras fazendo trabalho operacional. Aprenderam fazendo, errando, corrigindo e acumulando experiência até desenvolverem a capacidade de questionar e avaliar o trabalho.
Hoje, esses especialistas são capazes de julgar uma saída produzida pela IA e propor correções de curso.
Mas como alguém que nunca desenvolveu essa competência poderá assumir esse papel?
Assim como sou completamente incapaz de avaliar a qualidade da tradução de um texto para o alemão, um profissional júnior pode não ter experiência ou conhecimento suficientes para validar o trabalho realizado por uma IA.
Mas se a IA faz o trabalho e o sênior valida, o que faz o júnior? E como um júnior vai aprender para poder fazer o julgamento do sênior?
Sem responder a essa pergunta, corremos o risco de não formar os profissionais que deverão substituir os especialistas atuais.
A curto prazo, podemos estar aumentando tremendamente nossa produtividade.
A longo prazo, podemos estar eliminando a maneira pela qual construímos a competência necessária para sustentar essa produtividade.
Preocupações para o analista
Se você é responsável pela transformação organizacional de sua empresa, tome cuidado para não focar apenas na melhoria de desempenho de curto prazo obtida com novos sistemas.
Considere também como espera que os humanos se comportem diante de sistemas capazes de fazer grande parte do trabalho por eles.
Evite tomar decisões considerando apenas eficiência e produtividade. Inclua nos business cases métricas relacionadas à sustentabilidade do negócio, evitando dependências excessivas e garantindo a preservação de conhecimentos e competências críticas.
Mapeie tarefas, decisões e situações que não devem ser integralmente delegadas a sistemas e que exigem participação humana.
Crie deliberadamente oportunidades para que profissionais pratiquem e desenvolvam competências importantes, mesmo quando a tecnologia já for capaz de realizar parte desse trabalho.
Implemente processos de aprendizado, desenvolvimento de carreira e sucessão que garantam sustentabilidade no longo prazo.
Sobre este artigo
Este já é o terceiro artigo ligando clássicos do cinema aos Cinco Riscos de Negócio do FABR Framework. Aqui procuro provocar reflexões e incentivar líderes a guiar a transformação da IA em seus negócios de maneira responsável.
Se perdeu algum deles, busque nas referências os links para ler os anteriores.
A pergunta da próxima semana trata do risco de quebra de privacidade e mau uso da IA:
A IA é honesta?
Referências
- Artigo #1 desta série: A IA está certa? — 2001: Uma Odisseia no Espaço
- Artigo #2 desta série: A IA é justa? — Minority Report
- Chamada à liderança: #BA4AI — Business Analysis for Artificial Intelligence
- Saiba mais sobre o FABR Framework — Os Cinco Riscos de Negócio da IA
- Uma ferramenta prática: FABR Framework Checklist
