Teoria da Quase-Parceria Epistêmica: Um Novo Modelo Ético para Sistemas de IA Explicáveis
_(Escrito com o apoio de scripts Python rodando em LLM local mixtral_8x7b-instruct-v0.1-q3_K_M, revisado e checado pelo LLM Chat-gpt-4o)_
1. Referência Completa (formato ABNT + DOI)
DORSCH, JOHN; MOLL, MAXIMILIAN. Explainable and human-grounded {AI} for decision support systems: the theory of epistemic quasi-partnerships. Arxiv, v. abs/2409.14839, 2024. DOI: 10.48550/ARXIV.2409.14839
2. Tema Central
A pesquisa propõe a Teoria da Quase-Parceria Epistêmica (EQP) como novo paradigma para sistemas de suporte à decisão baseados em IA (AI-DSS). O estudo destaca a necessidade de transparência e explicabilidade em ambientes críticos como serviços de proteção à criança, oferecendo um modelo ético inovador para interação humano-máquina.
3. Problema de Pesquisa
O artigo identifica a ausência de uma estrutura ética robusta para explicabilidade em AI-DSS. As teorias atuais falham em fornecer orientações claras e conselhos éticos, resultando em desconfiança e rejeição algorítmica. A EQP surge como proposta para superar essas limitações.
4. Hipóteses ou Questões Norteadoras
Os autores defendem que a EQP pode:
– Estabelecer um quadro ético para interação humano-IA
– Mitigar a aversão a algoritmos
– Melhorar a confiança dos usuários através da abordagem RCC (Razões, Contrafactuais, Confiança)
5. Metodologia
O estudo combina:
– Revisão sistemática da literatura em XAI
– Análise comparativa de teorias de explicabilidade
– Estudo empírico sobre percepção de confiabilidade
– Avaliação crítica de métodos como LIME, SHAP e Âncora
6. Desenvolvimento das Hipóteses
A EQP se apoia em três pilares:
a) Explicações human-grounded (abordagem RCC)
b) Orientação ética para desenvolvimento de AI-DSS
c) Capacidade de integrar dados empíricos da literatura XAI
7. Resultados
A pesquisa demonstra que a EQP:
– Supera lacunas explicativas das teorias tradicionais
– Proporciona base ética sólida para AI-DSS
– Oferece estrutura prática através dos três tipos de explicações:
1. Razões (justificativas das decisões)
2. Contrafactuais (cenários alternativos)
3. Confiança (probabilidades de acerto)
8. Avaliação Metodológica
Embora rigoroso na fundamentação teórica, o estudo poderia:
– Ampliar discussão sobre ética em IA
– Incluir exemplos práticos da abordagem RCC
– Explorar objeções potenciais à teoria EQP
9. Teorias e Conceitos Fundamentais
O artigo estabelece marcos teóricos em:
– Filosofia da ciência da computação
– Ética aplicada à inteligência artificial
– Modelos explicáveis de machine learning
– Interação humano-máquina em sistemas críticos
