O risco oculto de deixar a IA decidir perder as habilidades para escolher por nós mesmos

Prévia do material em texto

1/3
O risco oculto de deixar a IA decidir – perder as habilidades
para escolher por nós mesmos
No filme “WALL-E”, os seres humanos do futuro não estavam indo tão bem. Crédito da imagem: Pixar.
Como a inteligência artificial se infiltra ainda mais na vida diária das pessoas, o que se preocupa com isso.
No mais alarmista estão as preocupações sobre a IA se desonrando e encerrando seus mestres humanos.
Mas por trás das chamadas para uma pausa no desenvolvimento da IA está um conjunto de males sociais
mais tangíveis.
Entre eles estão os riscos que a IA representa para a privacidade e a dignidade das pessoas e o fato
inevitável de que, como os algoritmos sob o capô da IA são programados por humanos, é tão tendencioso e
discriminatório quanto muitos de nós.
Jogue a falta de transparência sobre como a IA é projetada, e por quem, e é fácil entender por que tanto
tempo nos dias de hoje é dedicado a debater seus riscos tanto quanto seu potencial.
Mas minha própria pesquisa como psicóloga que estuda como as pessoas tomam decisões me leva a
acreditar que todos esses riscos são ofuscados por uma ameaça ainda mais corruptora, embora em grande
parte invisível.
Ou seja, a IA é mera tecladosas longe de tornar as pessoas ainda menos disciplinadas e qualificadas
quando se trata de decisões ponderadas.
Tomar decisões ponderadas
O processo de tomar decisões ponderadas envolve três passos de bom senso que começam com o tempo
para entender a tarefa ou o problema com o qual você está enfrentando.
Pergunte a si mesmo, o que você precisa saber e o que você precisa fazer para tomar uma decisão que
você será capaz de defender com credibilidade e confiança mais tarde?
2/3
As respostas a essas perguntas dependem ativamente de buscar informações que preencham lacunas em
seu conhecimento e desafiam suas crenças e suposições anteriores.
Na verdade, é essa informação contrafactual – possibilidades alternativas que surgem quando as pessoas
se aliviam de certas suposições – que, em última análise, prepara você para defender suas decisões quando
são criticadas.
O segundo passo é procurar e considerar mais de uma opção de cada vez. Quer melhorar a sua qualidade
de vida?
Seja quem você vota, os empregos que você aceita ou as coisas que você compra, há sempre mais de uma
estrada que o levará lá.
Expender o esforço para considerar e avaliar ativamente pelo menos algumas opções plausíveis, e de uma
maneira que seja honesta sobre os trade-offs que você está disposto a fazer em seus prós e contras, é uma
marca registrada de uma escolha pensante e defensável.
O terceiro passo é estar disposto a adiar o encerramento de uma decisão até que você tenha feito todo o
levantamento mental pesado necessário.
Não é segredo: o fechamento é bom porque significa que você colocou uma decisão difícil ou importante
para trás.
Mas o custo de seguir em frente prematuramente pode ser muito maior do que tomar o tempo para fazer sua
lição de casa.
Se você não acredita em mim, pense em todas as vezes que você deixa seus sentimentos te guiarem,
apenas para experimentar o arrependimento porque você não teve tempo para pensar um pouco mais.
Perigos das decisões de terceirização para a IA
Nenhum desses três passos é terrivelmente difícil de tomar. Para a maioria, eles também não são intuitivos.
Tomar decisões ponderadas e defensáveis requer prática e autodisciplina.
E é aí que o dano oculto que a IA expõe as pessoas entra: a IA faz a maior parte de seu “pensar” nos
bastidores e apresenta aos usuários respostas que são despojadas de contexto e deliberação.
Pior, a IA rouba às pessoas a oportunidade de praticar o processo de tomar decisões ponderadas e
defensáveis por conta própria.
Pense em como as pessoas abordam muitas decisões importantes hoje. Os seres humanos são bem
conhecidos por serem propensos a uma ampla gama de vieses, porque tendemos a ser frugal quando se
trata de gastar energia mental.
Essa frugalidade leva as pessoas a gostar quando decisões aparentemente boas ou confiáveis são tomadas
para elas. E somos animais sociais que tendem a valorizar a segurança e a aceitação de suas comunidades
mais do que podem valorizar sua própria autonomia.
Adicione IA ao mix e o resultado é um ciclo de feedback perigoso: os dados que a IA está minerando para
alimentar seus algoritmos são feitos de decisões tendenciosas das pessoas que também refletem a pressão
da conformidade em vez da sabedoria do raciocínio crítico.
3/3
Mas como as pessoas gostam de tomar decisões por eles, elas tendem a aceitar essas decisões ruins e
passar para a próxima. No final, nem nós nem a IA acabamos mais sábios.
Ser pensado na era da IA
Seria equivocado argumentar que a IA não oferecerá nenhum benefício para a sociedade.
É muito provável que, especialmente em áreas como segurança cibernética, saúde e finanças, onde
modelos complexos e enormes quantidades de dados precisem ser analisados rotineira e rapidamente.
No entanto, a maioria das nossas decisões do dia-a-dia não requer esse tipo de potência analítica.
Mas se pedimos ou não, muitos de nós já receberam conselhos de – e trabalho realizado por – IA em
ambientes que vão desde entretenimento e viagens até trabalhos escolares, saúde e finanças.
E os designers estão trabalhando duro em IA de próxima geração que será capaz de automatizar ainda mais
nossas decisões diárias. E isso, na minha opinião, é perigoso.
Em um mundo onde o que as pessoas pensam já está sob cerco graças aos algoritmos das mídias sociais,
corremos o risco de nos colocarmos em uma posição ainda mais perigosa se permitirmos que a IA atinja um
nível de sofisticação onde possa tomar todos os tipos de decisões em nosso nome.
De fato, devemos a nós mesmos resistir ao chamado da sirene da IA e assumir de volta a propriedade do
verdadeiro privilégio – e responsabilidade – de ser humano: ser capaz de pensar e escolher por nós
mesmos.
Nós nos sentiremos melhor e, mais importante, seremos melhores se o fizermos.
Roteiro: Joe Árvai/ A Conversação.
https://theconversation.com/the-hidden-risk-of-letting-ai-decide-losing-the-skills-to-choose-for-ourselves-227311