Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología

Autores/as

DOI:

https://doi.org/10.46296/ig.v7i13.0154

Palabras clave:

XAI, Psicología, IA, SLR, Métodos

Resumen

En la actualidad las herramientas de Inteligencia Artificial (IA) tienen un amplio uso en el área de psicología, pero al tratarse del área de la salud los procedimientos y decisiones que toma la IA se convierten en algo sensible de tratar, ahí entra la Inteligencia Artificial Explicable (XAI) que brinda una gran variedad de procesos que hacen posible el uso de IA en esta área de salud. Esta revisión sistemática de la literatura (SLR) demuestra que la XAI es una herramienta valiosa para esta área, ya que ofrece una amplia variedad de procesos y métodos útiles para mejorar la precisión de los diagnósticos, evaluar la respuesta al tratamiento, entender la conducta y patrones de comportamiento humano logrando acelerar el proceso de atención.  Este estudio da respuesta a 3 preguntas de investigación que logran dar pie a la aceptación y uso de las herramientas que brinda la XAI, dando también un resumen de los estudios seleccionados para esta SLR.

Palabras clave: XAI, Psicología, IA, SLR, Métodos.

Abstract

Currently, Artificial Intelligence (AI) tools have wide use in the area of psychology, but when it comes to the area of health, the procedures and decisions made by AI become something sensitive to deal with, that is where Artificial Intelligence comes in. Explainable (XAI) that provides a wide variety of processes that make the use of AI possible in this health area. This systematic literature review (SLR) demonstrates that XAI is a valuable tool for this area, offering a wide variety of processes and methods useful for improving diagnostic accuracy, assessing treatment response, understanding behavior, and human behavior patterns, managing to accelerate the attention process. This study answers 3 research questions that lead to the acceptance and use of the tools provided by the XAI, also giving a summary of the studies selected for this SLR.

Keywords: XAI, Psychology, AI, SLR, methods.

Información del manuscrito:
Fecha de recepción:
18 de octubre de 2023.
Fecha de aceptación: 19 de diciembre de 2023.
Fecha de publicación: 10 de enero de 2024.

Citas

Adadi, A., & Berrada, M. (16 de Septiembre de 2018). Mirando dentro de la caja negra: una encuesta sobre Inteligencia Artificial Explicable (XAI). IEEE Acees, 6, 52138-52160. doi: 10.1109/ACCESS.2018.2870052

Alicioglu, G., & Sun, B. (2022). Una encuesta de análisis visual para métodos de inteligencia artificial explicable. Computers & Graphics, 102, 502-520. doi: https://doi.org/10.1016/j.cag.2021.09.002

Andreu-Perez, J., Emberson, L. L., Kiani, M., Filippetti, M. L., Hagras, H., & Rigato, S. (15 de Septiembre de 2021). Explainable artificial intelligence based analysis for interpreting infant fNIRS data in developmental cognitive neuroscience. Communications Biology, 4(1077). doi:10.1038/s42003-021-02534-y

Bauer, K., von Zahn, M., & Hinz, O. (29 de Noviembre de 2021). Expl(AI)ned: The Impact of Explainable Artificial Intelligence on Users' Information Processing. Safe Working Paper, 315. doi: http://dx.doi.org/10.2139/ssrn.3872711

Broniatowski, D. (abril de 2021). Psychological Foundations of Explainability and Interpretability in Artificial Intelligence. National Institute of Standars and Technology, 18-56. doi: https://doi.org/10.6028/NIST.IR.8367

Byrne, R. (2019). Contrafactuales en Inteligencia Artificial Explicable (XAI): Evidencia del razonamiento humano., (págs. 6276-6282). doi: https://doi.org/10.24963/ijcai.2019/876

Castellano, P. S. (22 de Noviembre de 2021). Inteligencia Artificial y valoración de la prueba: las garantías Jurídico-Constitucionales del órgano de control. Themis Revista de derecho(79), 283-297. doi: https://doi.org/10.18800/themis.202101.015

Confalonieri, R., Coba, L., Wagner, B., & Besold, T. R. (19 de Octubre de 2020). A historical perspective of explainable Artificial Intelligence. Wires Data MIning and knowledge discovery, 11(1). doi: https://doi.org/10.1002/widm.1391

Dazeley, R., Vamplew, P., Foale, C., Young, C., Aryal, S., & Cruz, F. (Octubre de 2021). Niveles de inteligencia artificial explicable para explicaciones conversacionales alineadas con humanos. Artificial Intelligence, 299(103525). doi: https://doi.org/10.1016/j.artint.2021.103525

De, T., Giri, P., Mevawala, A., Nemani, R., & Deo, A. (13 de Mayo de 2020). Explainable AI: A Hybrid Approach to Generate Human-Interpretable Explanation for Deep Learning Prediction. Procedia Computer Science, 168, 40-48. doi: https://doi.org/10.1016/j.procs.2020.02.255

Explanations of artificial intelligence: Author proposes model that highlights evidence of fairness. (15 de Febrero de 2023). Techplore.

Fellous, J.-M., Sapiro, W., Rossi, A., Mayberg, H., & Ferrante, M. (13 de Diciembre de 2019). Explainable Artificial Intelligence for Neuroscience: Behavorial neurostimulation. frontiers in neuroscience. doi:10.3389/fnins.2019.01346

Ghorbani, A. (2017). Explorando la utilización de la Inteligencia Artificial Explicable para el diagnóstico de enfermedades mentales. Journal of Neurology and Clinical Neuroscience, 1(2), 1-2.

Gill, A., Smith, K., & S. D. (2020). Predicción de la respuesta al tratamiento con algoritmos de Inteligencia Artificial Explicable: Un estudio con pacientes con trastornos de ansiedad. Revista de Psicología Clínica, 17(3), 302-309.

Giuste, F., Shi, W., Zhu, Y. Z., Naren, T., Isgut, M., Sha, Y., . . . Wang, M. D. (23 de Diciembre de 2021). Explainable Artificial Intelligence Methods in Combating Pandemics: A Systematic Review. IEEE Journal, 23. doi: https://doi.org/10.48550/arXiv.2112.12705

Guerrero Velázquez, T. M., & Sossa Azuela, J. H. (s.f.). New Explainability Method based on the Classification. Computación y Sistemas, 25(4), 719-728. doi:10.13053/CyS-25-4-4049

Gunning, D., & Aha, D. W. (2019). DARPA’s Explainable. Deep Learning and Security.

H. HSIAO, J., HT NGAI, H., QIU, L., YANG, Y., & Chen CAO, C. (2021). Roadmap of Designing Cognitive Metrics for Explainable Artificial Intelligence (XIA). 29.

Ha, T., June Sah, Y., & Sangwon, L. (s.f.). Examining the effects of power status of an explanaible artificial intelligence system on users perceptions. ISSN Journal, 41(5), 946-958. doi:10.1089/144929X.2020.1846789

Haque, A. B., Islam, A. N., & Patrick, M. (Enero de 2023). Explainable Artificial Intelligence (XAI) from a user perspective: A synthesis of prior literature and problematizing avenues for future research. Technological Forecasting and Social Change, 186(122120). doi: https://doi.org/10.1016/j.techfore.2022.122120

Holzinger, A., Goebel, R., Fong, R., Moon, T., Muller, K., & Samek, W. (18 de julio de 2020). xxAI - Beyond. International Workshop Held in Conjunction with ICML 2020, 4-397.

Iglesias, A. (4 de Abril de 2020). Artificial cognition: an emergent discipline to explain decision making in artificial neural networks. CognitiveSciencie, 16(1), 10-13.

Kindermans, P. J., & Al-Shedivat, M. (2017). Interpretability Beyond Feature Attribution: Quantitative Testing with Concept Activation Vectors (TCAV).

Kumar, S., Subramanian, S., & Balasubbramanian, P. (2018). Predicción del estado emocional, usando Inteligencia Artificial Explicable. Journal of Computational Science, 24(4), 814-819.

Langer, M., Oster, D., Speith, T., Hermanns, H., Kästner, L., Schmidt, E., . . . Baum, K. (Julio de 2021). ¿Qué queremos de la Inteligencia Artificial Explicable (XAI)? - Una perspectiva de las partes interesadas sobre la XAI y un modelo conceptual que guía la investigación interdisciplinaria de la XAI. ArtificialIntelligence, 296(103473). doi: https://doi.org/10.1016/j.artint.2021.103473

Leben, D. (14 de Febrero de 2023). Explainable AI as evidence of fair decisions. frontiers in psychology, 14. doi:10.3389/fpsyg.2023.1069426

Lesit, A. K., Klee, M., Hyun Kim, J., Rehkopf, D. H., Bordas, S. P., & Muniz-T, G. (19 de Octubre de 2022). Mapping of machine learning approaches for description, prediction, and causal inference in the social and health sciences. SciencieAdvances, 8(42). doi:10.1126/sciadv.abk1942

Leuven, K. (2022). On the importance of experimental psycologhy for explainable artificial inyelligence .

Linardatos, P., Papastefanopoulos, V., & Kotsiantis, S. (25 de Diciembre de 2020). Explainable AI: Review of Machine Learning Interpretability Methods. entropy. doi:10.3390/e23010018

Loor Zambrano, B., Tello Salvador, F., Alcívar Cevallos, R., & Vaca Cardenas, L. (2020). Aproximaciones de métodos predictivos y de agrupamiento utilizados en eventos de emergencia: una literatura sistemática.

Luo, Y., Zhou, Y., Shang, J., & Xu, X. (2020). Uso de Inteligencia Artificial Explicable para el análisis de patrones de comportamiento en la práctica clínica de psicología. Revista de Psicología Clínica, 18(1), 15-23.

Markus, A., Kors, J., & Rijnbeek, P. (6 de diciembre de 2021). The role of explainability in creating trustworthy artificial intelligence for health care: A comprenhensive survey of the terminology, design choices and evaluatio strategies. SciencesDirect, 1-11. doi: https://doi.org/10.1016/j.jbi.2020.103655

Merry, M., Pat, R., & Jim, W. (9 de Diciembre de 2021). A mental models approach for defining explainable artificial intelligence. BMC Medical Informatics and Decision Making, 21(344). doi: https://doi.org/10.1186/s12911-021-01703-7

Milda Poceviciute, M., Eliertsen, G., & Lundstrom, C. (14 de Agosto de 2020). Survey of XAI in digital pathology.

Miller, T. (Febrero de 2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1-38. doi:https://doi.org/10.1016/j.artint.2018.07.007

Mohd Nor, A. K., Rao Pedapat, S., Muhammad, M., & Leiva, V. (1 de Diciembre de 2021). Descripción general de la inteligencia artificial explicable para pronóstico y gestión de la salud de activos industriales basado en elementos de informes preferidos para revisiones sistemáticas y metanálisis. Sensors, 21(23). doi: https://doi.org/10.3390/s21238020

Neugebauer, S., Rippitsch, L., Sobieczky, F., & Geib, M. (2021). Explainability of AI-predictions based on psychological profiling. Elsevier, 1-10.

Phillips, P. J., Hahn, C. A., Fontana, P. C., Yates, A. N., Greene, K., Broniatowski, D. A., & Przybocki, M. A. (Septiembre de 2021). Four Principles of Explainable Artificial. 43. doi:https://doi.org/10.6028/NIST.IR.8312

Pradhan, R., Lahiri, A., Galhotra, S., & Salimi, B. (12 de Junio de 2022). Explainable AI: Foundations, Applications, Opportunities for Data Management Research. Sigmod. doi:10.1145/3514221.3522564

Rabiul Islam, S., Eberle, W., & Ghafoor, S. K. (s.f.). Towards Quantification of Explainability in Explainable Artificial Intelligence methods .

Rahul, R., & Reddy, C. K. (2018). Explaining the Predictions of Any Clasifier.

Ridley, M. (2022). Explainable Artificial Intelligence (XAI). Information technology and libraries, 41(2). doi:https://doi.org/10.6017/ital.v41i2.14683

Sebio Martin, M. (2020). Inteligencia artificial y ética.

Stepin, I., Jose M., A., Catala, A., & Pereira-Fariña, M. (2021). Una encuesta de contrastes y contrafactuales Métodos de generación de explicables para explicables Inteligencia artificial. IEEE Acces, 9, 11974-12001. doi:10.1109/ACCESS.2021.3051315

T.Taylor, J. E., & Taylor, G. W. (6 de Noviembre de 2020). Artificial cognition: How experimental psychology can help generate explainable artificial intelligence. Psychonomic Bulletin & Review , 28(454-475). doi:10.3758/s13423-020-01825-5

Tjoa, E., & Guan, C. (27 de Octubre de 2021). Una encuesta sobre inteligencia artificial explicable (XAI): Hacia la XAI médica. IEEE Transactions on Neural Networks and Learning Systems, 32(11), 4793-4813. doi:10.1109/TNNLS.2020.3027314

Valle-Cruz, D., Lopez Chau, A., Ramos Corchado, M. A., & Muños Jimenez, V. (1 de Julio de 2022). Emotion-Aware Explainable Artificial Intelligence for Personality, Emotion, and Mood Simulation. Computación y Sistemas, 26, 45-57. doi:https://doi.org/10.13053/cys-26-1-4151

Vaquero de Miguel, G. (Julio de 2020). Aproximaciones a la explicación de decisiones algoritmicas: Inteligencia Artificial Explicable.

Vilone, G., & Longo, L. (12 de Octubre de 2020). Explainable Artificial Intelligence: a Systematic Review. 78. doi:https://doi.org/10.48550/arXiv.2006.00093

Vilone, G., & Longo, L. (4 de Agosto de 2021). Classification of Explainable Artificial Intelligence Methods through Their Output Formats. Machine learning & knowledge extraction, 615-661. doi:10.3390/make3030032

Zhang, G. (2 de Abril de 2022). Aplicaciones de la Teoría de la Atribución Social en XAI. MDPI, 81(1), 101. doi:htpps://doi.org/10.3390/procededings2022081101

Descargas

Publicado

2024-01-10

Cómo citar

Ibarra-Pincay, M., & Alcívar-Cevallos, R. (2024). Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología. Revista Científica INGENIAR: Ingeniería, Tecnología E Investigación. ISSN: 2737-6249., 7(13), 80-101. https://doi.org/10.46296/ig.v7i13.0154