Inteligência artificial e consciência crítica

À medida que as capacidades das ferramentas de inteligência artificial (IA) se expandem e a sua utilização aumenta, cresce também a preocupação com o seu impacto. Afinal, vale lembrar a frase atribuída a John Philpot Curran: “O preço da liberdade é a eterna vigilância”.

Pesquisa recente realizada pelo Pew Research Institute em 25 países apontou que mais pessoas estão preocupadas do que entusiasmadas com a utilização da IA. O Brasil está entre os cinco países que mais expressam preocupação.

Inegavelmente, a IA é uma inovação disruptiva que representa um passo significativo em muitos sentidos. Há inúmeros aspectos potencialmente benéficos nessas novas ferramentas, principalmente para agilizar processos e automatizar tarefas burocráticas.

Porém, existem fatores de risco que devem ser levados em consideração. Não estou falando de uma revolução das máquinas, mas do impacto que as novas tecnologias exercem sobre a dinâmica da vida humana. Permitam-me mencionar três aspectos que exigem cautela e atenção.

Em primeiro lugar, o risco da dependência das soluções oferecidas pelas ferramentas de IA, capaz de enfraquecer as capacidades cognitivas humanas. Como em outras revoluções tecnológicas anteriores, há céticos de ambos os lados, e seus argumentos são válidos. Para alguns, o temor de que a mente se torne menos ágil diante da inteligência artificial pode ser comparado ao receio da dependência dos computadores em sua ascensão ou à preocupação de que o uso excessivo dos automóveis, após Henry Ford, levaria à atrofia das pernas.

Pode ser. Mas o receio tem suas finalidades, sobretudo para que não sejamos induzidos a uma dependência que culmine em uma era de desinteligência; para que a inteligência generativa não seja degenerativa.

Vejamos. Pesquisa publicada recentemente pela Microsoft, em parceria com a Universidade Carnegie Mellon, apontou o impacto das IAs na capacidade de reflexão e pensamento crítico das pessoas.

A partir de um levantamento feito com 319 trabalhadores, concluiu-se que, embora a IA possa melhorar a eficiência do trabalhador, ela pode inibir o envolvimento crítico com o trabalho e potencialmente levar à dependência excessiva de longo prazo da ferramenta, além de diminuir a habilidade para a resolução independente de problemas. Maior confiança na capacidade da IA de executar uma tarefa está relacionada a menor esforço de pensamento crítico.

Essa é uma questão intuitiva que a pesquisa simplesmente revela em números.

Em segundo lugar, temos os desafios éticos a serem considerados. Com a expansão dessas novas ferramentas generativas, a discussão ética aplicada ao campo tecnológico - a chamada tecnoética - ergue-se como importante e imprescindível ramo de reflexão das questões morais aplicadas a esse domínio. O filósofo Michel Puech observou que, se deixarmos essa dimensão da experiência moderna sem ser abordada, podemos perder algo de valor na vida contemporânea. Albert Borgmann também alerta que “a cultura da tecnologia precisa de orientação moral; a filosofia da tecnologia precisa de uma nova vida”.

Temos a responsabilidade de refletir não somente sobre a forma como as pessoas usam eticamente a inteligência artificial, mas também de infundir princípios para o uso da ética das virtudes, de sorte que se transformem em hábitos cotidianos. Na forma como defende Puech, o mundo precisa de alfabetização digital, ainda mais de letramento em ética digital. Precisamos de uma ética emergente do mundo tecnológico em uma versão “sapiencial”, isto é, animada pela ética de uma virtude particular: a sabedoria. Em poucas palavras: temos muita informação; precisamos de mais sabedoria. Precisamos de tecnologia, mas sobretudo de tecnosabedoria!

Em terceiro lugar, existem os riscos éticos com repercussões jurídicas. Soluções e algoritmos tecnológicos podem passar por cima de direitos fundamentais básicos, gerando censura, discriminação e preconceitos de todas as ordens. Fala-se, então, em censura/discriminação algorítmica, propaganda computacional etc.

As ferramentas de IA, enfim, têm muito a contribuir, mas devem vir acompanhadas de uma consciência crítica em nível pessoal e de uma reflexão aprofundada sobre suas implicações éticas e sociais. Afinal, se por um lado as IAs podem pavimentar um futuro marcado pela resposta instantânea e pela conveniência, por outro, corremos o risco de alimentar uma era de superficialidade e estupidez crônica.

Retomando Aristóteles, precisamos da virtude da prudência. Devemos lembrar que o conhecimento não é o resultado da soma de dados e de informações, mas o fruto da reflexão e do sacrifício que advém da leitura, da escrita e de outros mecanismos que treinam a nossa mente.

Valmir Nascimento Milomem é doutor em Filosofia Política e Social.