fichamento 2021 UMBRELLO Designing AI for Explainability and Verifiability_

Prévia do material em texto

UMBRELLO, Steven; YAMPOLSKIY, Roman V. Designing AI for Explainability and Verifiability: A Value Sensitive Design Approach to Avoid Artificial Stupidity in Autonomous Vehicles. International Journal of Social Robotics, vol 14, p. 313 - 322, 2019, DOI: https://doi.org/10.1007/s12369-021-00790-w.
Como apontado por Umbrello (2019, p. 313), uma das maiores dificuldades no design e implementação de valores morais em veículos autônomos (VAs) é a impossibilidade de entender sua tomada de decisões.
	Um método capaz de auxiliar nessa tarefa é o Value Sensitive Design (Design Sensível à Valores, DSV). O método DSV, conforme explica Umbrello (2019, p. 320), é dividido em 3 fases, ou investigações: conceitual, empírica e técnica. A investigação conceitual busca responder às seguintes questões: Quem são os interessados? Quais são os valores em questão? Onde certos parâmetros começam e terminam? Quando algo é inviável? Por que um design é aceito e outro rejeitado? A segunda fase, investigação empírica, visa utilizar ferramentas quantitativas e qualitativas para determinar se os valores definidos podem suprir as necessidades dos interessados. Se o design de uma tecnologia não se enquadra nas definições dos valores em questão, retoma-se a investigação conceitual. Por fim, a investigação técnica analisa as capacidades e limitações técnicas para aplicação dos valores morais relevantes, ao mesmo tempo que busca limitar quaisquer problemas. As 3 fases irão interagir até que estejam harmonizadas.
 
Conclusão 
A inclusão de valores morais à programação de VAs pode ser dar pelo uso de DSV, um método que exige participação de diferentes setores sociais em todas etapas do desenvolvimento de um IA.