Como preservar a autonomia de pensar quando a IA tem uma resposta para tudo
Uma conversa fluente pode despertar confiança antes que tenhamos verificado a informação. Neste sexto episódio, Mariana Leite examina a importância do pensamento crítico, da capacidade de discordar e da autoria intelectual em uma rotina cada vez mais mediada pela Inteligência Artificial
Entrevista realizada pelo editor-geral Alfredo Lopes – Brasil Amazônia Agora
No episódio anterior, Mariana Leite sugeriu um caminho para quem deseja começar a usar Inteligência Artificial sem se perder entre ferramentas, cursos e novidades. Partir de uma necessidade concreta, experimentar e avaliar os resultados ajuda a construir uma aprendizagem que cabe na rotina. Ficou, porém, uma questão que merece mais tempo de conversa. Ao incorporar a IA ao trabalho e ao estudo, como perceber se estamos desenvolvendo nossa capacidade de pensar?
Uma resposta bem organizada oferece alívio a quem precisa compreender um assunto, preparar um documento ou tomar uma decisão. O texto chega em segundos, com começo, desenvolvimento e conclusão. Podemos pedir ajustes, questionar um argumento, solicitar exemplos. Essa facilidade tem valor, sobretudo em jornadas sobrecarregadas, mas também torna menos visível a distância entre receber uma explicação e compreendê-la.
É sobre essa distância que se concentra o sexto episódio da série. Estudante de MBA e assistente de ensino em oficinas de Inteligência Artificial no MIT Sloan, Mariana chama a atenção para a confiança produzida pela própria experiência da conversa. A disposição de verificar, interpretar e discordar precisa acompanhar a incorporação dessas ferramentas ao cotidiano.
A seguir, publicamos trechos de sua resposta à terceira pergunta da entrevista, organizados por tema.
BAA — Muito se fala sobre aprender a usar IA, mas pouco se fala sobre aprender a pensar com IA. Que competências humanas se tornam mais importantes justamente porque a Inteligência Artificial existe?
A confiança que nasce da conversa
Mariana Leite
Antes de falar das competências humanas, eu começaria por dois pontos.
O primeiro é a linguagem natural. A IA conversa de um jeito que faz muita gente sentir que existe “alguém” do outro lado, como alguém coerente, confiante e aparentemente bem informado. Isso cria uma relação de confiança que nem sempre é proporcional à qualidade da resposta.
O segundo é a produtividade. Em uma rotina marcada por longas listas de tarefas e pela pressão de fazer mais em menos tempo, é compreensível que as pessoas vejam na IA uma forma de delegar trabalho mental. O problema é que, aos poucos, o cérebro pode se acomodar à opção mais confortável: deixar que o sistema formule, organize, conclua e até julgue por nós.
Quando a fluência dispensa a verificação
Mariana Leite
A interface de diálogo natural tem um efeito próprio, separado da qualidade da informação. Existe um desalinhamento entre soar convincente e estar certo e a linguagem natural amplifica justamente o lado que não garante verdade.
É aqui que entra o conceito de cognitive offloading, ou terceirização cognitiva. Delegar parte do pensamento a ferramentas não é novo, nem necessariamente ruim. O problema é o offloading acrítico: quando a pessoa transfere para uma resposta fluente a tarefa de analisar, comparar, verificar e julgar.
A literatura sobre overreliance em IA mostra que confiança excessiva, fluência percebida e aparência de autoridade podem aumentar a tendência de aceitar respostas sem verificação.
O espaço da dúvida e da discordância
Mariana Leite
E o que isso tem a ver com competências humanas? A IA torna ainda mais importantes justamente as capacidades que sustentam o nosso julgamento: pensamento crítico, formulação de boas perguntas, síntese, verificação, capacidade de discordar, interpretação de contexto e julgamento sob incerteza.
O risco não é apenas a IA “errar”. O risco é nós deixarmos de exercitar as competências que nos permitem perceber quando ela erra, quando simplifica demais, quando omite algo relevante ou quando nos convence sem realmente demonstrar.
Aprender a pensar com IA, portanto, não é apenas aprender a escrever bons prompts. É aprender a manter autoria intelectual diante de uma máquina que responde rápido, bem e com confiança. É saber usar a IA como parceira de raciocínio sem entregar a ela a responsabilidade final pelo raciocínio.
O que conseguimos explicar com nossas palavras
Mariana Leite
Um exercício simples para agora: pegue a última pergunta que você fez a uma IA e, sem abrir novamente a resposta, tente explicar com suas próprias palavras qual era o cerne da questão, qual foi o principal insight e como aquilo poderia orientar uma decisão ou aprendizado.
Se você não consegue explicar sem reler a resposta, talvez a IA tenha produzido informação, mas o pensamento ainda não virou seu.
Uma questão para escolas, empresas e instituições
A observação de Mariana alcança situações bastante próximas da vida amazônica. Um relatório sobre logística, uma proposta de uso da biodiversidade ou um material de formação profissional podem ganhar clareza com o auxílio da IA. Avaliar se suas conclusões fazem sentido exige conhecimento do território, das condições de execução e das pessoas envolvidas.
Para uma empresa do Polo Industrial de Manaus, isso pode significar confrontar uma recomendação com a experiência de quem acompanha o processo produtivo. Para um professor, acompanhar o percurso que levou o estudante à resposta. Para uma instituição, verificar a origem das informações antes de incorporá-las a um parecer. São práticas pelas quais o conhecimento local participa da avaliação da tecnologia.
Na entrevista, Mariana também menciona a pesquisa The Levers of Political Persuasion with Conversational AI, publicada na revista Science. O estudo constatou que técnicas capazes de ampliar o poder de persuasão dos modelos também podiam reduzir a precisão factual de suas afirmações. Os próprios pesquisadores ressaltam que os efeitos observados em experimentos controlados não se transferem automaticamente para o mundo real. Ainda assim, o resultado ajuda a compreender por que a segurança de uma resposta merece ser examinada separadamente de sua capacidade de convencer. (aisi.gov.uk, ox.ac.uk)
O exercício proposto por Mariana oferece uma maneira acessível de começar essa avaliação. Ao fechar a tela e explicar o que compreendemos, podemos perceber quais relações conseguimos estabelecer, quais dúvidas permaneceram e o que ainda precisa ser investigado. Essa percepção ajuda a orientar o próximo uso da ferramenta e a reconhecer a aprendizagem que de fato aconteceu.
No próximo episódio, a conversa avança para a educação pública. A partir da iniciativa de Mariana de oferecer material e capacitação gratuitos a professores, discutiremos as condições necessárias para que o acesso à Inteligência Artificial contribua para enfrentar as desigualdades educacionais.
- Episódio 1 — O que o MIT está discutindo e por que a Amazônia precisa prestar atenção
- Episódio 2 — A infraestrutura invisível da IA: a nova corrida por energia, chips e data centers
- Episódio 3- Quem será o fornecedor da soberania brasileira em Inteligência Artificial?
- Episódio 4 – A IA vai substituir profissões ou transformar o trabalho por dentro?
- Episódio 5 – Como aprender IA sem desaprender a pensar
