Pensamento Crítico em tempos de IA

Um dos maiores riscos da Inteligência Artificial no trabalho atual não é apenas a possibilidade de ela estar errada. É o risco de perdermos muito do nosso pensamento (quem somos) em troca da velocidade.

Tornou-se comum parar de refletir sobre uma questão porque a resposta já chega pronta. Ignoramos ter um momento de pausa, para pensar, que é tão importante para a reflexão e o julgamento humano entrarem em cena.

Todos concordam que o poder da IA é inegável. Ela pode nos ajudar a analisar informações, detectar padrões, gerar opções e chegar a um primeiro rascunho muito mais rápido do que a maioria de nós consegue fazer sozinho. Mas a verdadeira questão não é se a IA é útil. É quais partes do nosso pensamento estamos dispostos a ceder. E se estamos ou não dispostos a pensar.

É aqui que a soberania cognitiva importa.

Em termos simples, soberania cognitiva é a capacidade de manter o controle da sua própria carga cognitiva. Significa manter o controle da sua atenção, do seu julgamento, da sua memória, do seu senso de credibilidade e da sua capacidade de decidir o que pensar, em vez de se deixar levar pelo que a máquina produz primeiro.

Não se trata de rejeitar a IA. Trata-se de permanecer o autor do seu próprio raciocínio enquanto a utiliza.

Isso é importante porque a fluência na linguagem não é o mesmo que compreensão, percepção, relevância ou envolvimento direto.

A IA não “sabe”. Ela prevê respostas prováveis. Ela replica o que já existe.

Muitas vezes, essas respostas são úteis. Outras vezes, são superficiais, tendenciosas ou simplesmente falsas. E, como são apresentadas com confiança e eloquência, podem ser aceitas com muita facilidade. O perigo não é apenas a desinformação. É o enfraquecimento gradual do seu discernimento.

Uau!

É por isso que, nesta nova era da IA, o pensamento crítico deixou de ser uma habilidade secundária relegada à margem do trabalho. Ele está se tornando a infraestrutura central do nosso sistema operacional humano.

É você mais do que nunca dominar habilidades como interpretação de texto, conhecimentos gerais, pensamento crítico, no bom sentido e leitura. É o aprimoramento constante que todos devemos buscar. É o Lifelong Learning, uma vida de contínuo aprendizado.

O problema é que a maioria das organizações – e aí podemos acrescentar tudo o que está vinculado a um “status quo” – recompensa a velocidade de forma mais nítida do que o discernimento. A produção rápida é fácil de mensurar. O discernimento e a ética são mais difíceis de perceber e valorizar.

Mas o que te garante sucesso no futuro?

As formas mais importantes de pensamento geralmente ocorrem em um ritmo diferente. Elas exigem hesitação, comparação, contexto e, às vezes, a coragem de dizer: “Isso parece certo, mas ainda não estou convencido”.

Gosto muito de uma frase de Dov Seidman, ex CEo da LRN, citada no livro Obrigado pelo atraso de Thomas Friedman:

“Quando apertamos o botão de pausa numa máquina, ela para. Mas, quando apertamos esse botão num ser humano, ele começa a funcionar. Começamos a funcionar e a refletir, a repensar nossos pressupostos, a reimaginar o que é possível e, o mais importante, a nos reconectar com as crenças que nos são mais caras. Uma vez que fazemos isso, podemos repensar em um caminho melhor”.

É por isso que precisamos de um certo atrito na forma como trabalhamos com IA.

• Uma pausa antes de aceitar o rascunho.
• Uma pergunta sobre quais fontes estão por trás de um resultado refinado.
• Uma verificação de qual perspectiva está faltando.
• Um questionamento da estrutura, não apenas da conclusão.
• Um momento para perguntar cujos interesses, pressupostos ou visão de mundo estão silenciosamente incorporados à resposta.

Isso é especialmente importante para líderes. A IA pode ajudar líderes a compreender a complexidade, modelar cenários e apresentar opções. Mas ela não pode decidir o que é mais importante.

Não pode julgar quais concessões são éticas, quais riscos são aceitáveis ou que tipo de cultura essas decisões criarão ao longo do tempo. Essas não são questões computacionais. São questões humanas…

Bem utilizada, a IA pode fortalecer o pensamento. Pode testar hipóteses, ampliar perspectivas, expor pontos cegos e oferecer contra-argumentos que talvez não tenhamos considerado. Mal utilizada, torna-se uma muleta cognitiva: uma forma de evitar o trabalho mais lento da reflexão, mantendo a aparência de inteligência.

É por isso que o pensamento crítico com IA não se resume à verificação de fatos após a apresentação do resultado. Trata-se de preservar as condições para o pensamento independente desde o início.