Os modelos de IA são explicáveis de uma forma que os humanos possam entendê-los

Prévia do material em texto

1/3
Os modelos de IA são explicáveis de uma forma que os
humanos possam entendê-los?
Uma perspectiva enraizada pela realidade sobre “IA explicavel” e o que isso significa para o futuro do
campo.
Crédito da imagem: Getty Images
Nos últimos anos, a inteligência artificial (IA) ganhou amplo interesse na academia e na indústria por
fornecer soluções inovadoras para problemas de aprendizagem difíceis. Por exemplo, algoritmos para
processamento de imagem e áudio foram desenvolvidos usando aprendizado profundo que melhorou
consideravelmente em métodos anteriores de última geração, como SVM ou floresta aleatória. Outras
aplicações incluem o advento de carros autônomos, sistemas de diagnóstico médico e computadores de
jogo (AlphaGo). Essas histórias de sucesso trouxeram de volta o espírito original da IA, que foi
estabelecida como um campo em 1965 com um sonho de criar máquinas pensantes.
A desvantagem é que os métodos computacionais subjacentes à IA não são apenas complexos no
sentido de que eles são baseados em um código de computador longo e aninhado, mas que os próprios
métodos são intrincados com uma estrutura baseada em rede que pode ser longa e aninhada.
Neste contexto, para o que se estendem são os métodos de IA explicáveis de uma forma que os seres
humanos possam compreendê-los? Na literatura, esse problema é conhecido como IA explicável. Em
um estudo recente publicado na WIREs Data Mining and Knowledge Discovery, buscou-se investigar
essa questão.
https://onlinelibrary.wiley.com/doi/full/10.1002/widm.1368
2/3
Estudos anteriores centrados nessa questão abordaram o problema a partir da perspectiva de qual IA
explicável deveria ser. No entanto, tal perspectiva negligencia as restrições e limitações inerentes a
qualquer sistema, incluindo a IA. Por esta razão, muito trabalho nesta área é baseado em desejos e
objetivos potencialmente inatingíveis.
Para colocar isso em perspectiva, na física, o termo teoria é geralmente associado a uma estrutura
matemática derivada de um conjunto de axiomas básicos ou postulados que permite gerar previsões
experimentalmente testáveis. Normalmente, esses sistemas são altamente idealizados, isto é, as teorias
descrevem apenas certos aspectos da realidade. Com relação à stringency com a qual as teorias foram
quantitativamente testadas, as teorias da física, como a relatividade geral ou a eletrodinâmica quântica,
são certamente o que pode ser considerado nossas melhores teorias científicas de trabalho.
Em geral, uma teoria fornece uma explicação dos resultados obtidos. No entanto, essas explicações não
vêm na forma de uma linguagem natural, como o inglês, mas são formuladas usando matemática. Isso
pode levar a problemas ou obstáculos na compreensão de usuários não especialistas, pois as línguas
naturais só podem capturar insuficientemente o formalismo matemático. Por exemplo, não há, até à
data, nenhuma interpretação geralmente aceita da mecânica quântica, mas há várias escolas de
pensamento em relação ao que esses resultados realmente significam no contexto do mundo real.
Se considerarmos que as aplicações da IA estão além da física, descobre-se que não se pode esperar
ter uma teoria universal simples para a IA na medicina, sociologia ou gestão do que o que temos para a
física. Por esta razão, até mesmo a interpretabilidade de tal teoria pode ser mais complexa do que a
interpretação da mecânica quântica, porque os campos estudados pela IA, que podem ser considerados
sistemas adaptativos complexos, estão em maior nível de complexidade à medida que exibem
propriedades emergentes e comportamento não-equilíbrio.
Para visualizar a natureza do problema, suponha que uma teoria do câncer seja conhecida, no sentido
de uma teoria em física discutida acima. Então, essa teoria do câncer seria de natureza altamente
matemática, o que não permitiria uma simples interpretação individual em qualquer linguagem natural.
Assim, apenas matemáticos de câncer teórico altamente treinados (em analogia com físicos teóricos)
seriam capazes de derivar e interpretar declarações significativas dessa teoria. Independentemente do
sucesso potencial de tal teoria do câncer, isso implica que os médicos – não treinados como
matemáticos teóricos do câncer – não conseguiam entender nem interpretar tal teoria adequadamente e,
de sua perspectiva, a teoria do câncer pareceria opaca ou não explicavel.
Apesar dessas limitações inerentes à IA em relação à nossa capacidade de compreendê-la em uma
linguagem natural, o futuro é otimista. Especificamente, um sistema de IA pode não precisar ser
explicado, desde que seu erro de previsão (formalmente o erro de generalização) não exceda um nível
aceitável. Um exemplo para tal abordagem pragmática é dado pelas centrais nucleares.
Uma vez que as usinas nucleares são baseadas em leis físicas, os mecanismos de funcionamento de
tais usinas não são explicáveis para os membros da gestão regulatória ou políticos responsáveis pelo
governo da política energética. No entanto, as usinas nucleares operam há muitas décadas, contribuindo
para o nosso fornecimento de energia. Pode-se imaginar uma abordagem semelhante para carros
autônomos, sistemas de diagnóstico médico ou tomada de decisão gerencial usando IA.
3/3
É importante perceber que, embora as linguagens naturais sejam insuficientes para entender ou
descrever formalismos matemáticos complexos, como os por trás da IA, isso não limitará a função e a
utilidade da IA. Se alguém quiser saber como o futuro da IA explicável pode parecer, é útil olhar para o
passado e aprender com nossas melhores teorias em física ou com nossa experiência prática na
operação de usinas nucleares.
Roteiro: Frank Emmert-Streib, Olli Yli'Harja, and Matthias Dehmer
Referência: Frank Emmer'Streib, Olli Yli'Harja, Matthias Dehmer. Inteligência artificial e aprendizado de
máquina explicavel: uma perspectiva enraizada da realidade, WIREs Data Mining e Knowledge
Discovery (2020). DOI: 10.1002/widm.1368
ASN WeeklyTradução
Inscreva-se para receber nossa newsletter semanal e receba as últimas notícias científicas diretamente
na sua caixa de entrada.
ASN WeeklyTradução
Inscreva-se no nosso boletim informativo semanal e receba as últimas notícias científicas.
https://onlinelibrary.wiley.com/doi/abs/10.1002/widm.1368
https://onlinelibrary.wiley.com/doi/abs/10.1002/widm.1368