Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
DOI: https://doi.org/10.46296/ig.v7i13.0154  
TENDENCIAS DE LA INTELIGENCIA ARTIFICIAL EXPLICABLE EN EL  
ÁREA DE PSICOLOGÍA  
TRENDS IN EXPLAINABLE ARTIFICIAL INTELLIGENCE IN THE AREA OF  
PSYCHOLOGY  
Ibarra-Pincay Melanie ; Alcívar-Cevallos Roberth 2  
1
1
Facultad de Ciencias Informáticas, Universidad Técnica de Manabí. Portoviejo, Ecuador.  
Correo: mibarra5622@utm.edu.ec. ORCID ID: https://orcid.org/0000-0002-7872-678X  
2
Facultad de Ciencias Informáticas, Universidad Técnica de Manabí. Portoviejo, Ecuador.  
Correo: roberth.alcivar@utm.edu.ec. ORCID ID: https://orcid.org/0000-0001-6282-8493  
Resumen  
En la actualidad las herramientas de Inteligencia Artificial (IA) tienen un amplio uso en el área de  
psicología, pero al tratarse del área de la salud los procedimientos y decisiones que toma la IA  
se convierten en algo sensible de tratar, ahí entra la Inteligencia Artificial Explicable (XAI) que  
brinda una gran variedad de procesos que hacen posible el uso de IA en esta área de salud. Esta  
revisión sistemática de la literatura (SLR) demuestra que la XAI es una herramienta valiosa para  
esta área, ya que ofrece una amplia variedad de procesos y métodos útiles para mejorar la  
precisión de los diagnósticos, evaluar la respuesta al tratamiento, entender la conducta y  
patrones de comportamiento humano logrando acelerar el proceso de atención. Este estudio da  
respuesta a 3 preguntas de investigación que logran dar pie a la aceptación y uso de las  
herramientas que brinda la XAI, dando también un resumen de los estudios seleccionados para  
esta SLR.  
Palabras clave: XAI, Psicología, IA, SLR, Métodos.  
Abstract  
Currently, Artificial Intelligence (AI) tools have wide use in the area of psychology, but when it  
comes to the area of health, the procedures and decisions made by AI become something  
sensitive to deal with, that is where Artificial Intelligence comes in. Explainable (XAI) that provides  
a wide variety of processes that make the use of AI possible in this health area. This systematic  
literature review (SLR) demonstrates that XAI is a valuable tool for this area, offering a wide  
variety of processes and methods useful for improving diagnostic accuracy, assessing treatment  
response, understanding behavior, and human behavior patterns, managing to accelerate the  
attention process. This study answers 3 research questions that lead to the acceptance and use  
of the tools provided by the XAI, also giving a summary of the studies selected for this SLR.  
Keywords: XAI, Psychology, AI, SLR, methods.  
Información del manuscrito:  
Fecha de recepción: 18 de octubre de 2023.  
Fecha de aceptación: 19 de diciembre de 2023.  
Fecha de publicación: 10 de enero de 2024.  
8
0
Ibarra-Pincay et al. (2024)  
1
. Introducción  
razonamiento para cada decisión  
realizada por el sistema. (Angelov et  
al. 2021).  
La Inteligencia Artificial (IA) es una  
disciplina con extensa aplicación en  
el área de la psicología, que va  
Los avances tecnológicos en el área  
de la IA explicable permiten a los  
profesionales de la salud mental  
identificar mejor los patrones de  
desde  
la  
comprensión  
del  
comportamiento humano hasta la  
mejora del diagnóstico y la aplicación  
de tecnología en la práctica clínica.  
En los últimos años, el creciente uso  
de la IA en distintas áreas ha ido  
desembocando la creación de otras  
grandes ramas dentro de este  
campo, lo que nos lleva a la IA  
explicable o XAI por sus siglas en  
comportamiento,  
realizar  
un  
diagnóstico más temprano y aplicar  
conocimientos de forma eficaz.  
Convirtiéndose en una tendencia  
importante en el área de la  
psicología, donde la incorporación  
exitosa de la IA ha abierto puertas a  
nuevos modelos clínicos. Según un  
estudio de Bhowmik et al. (2019), el  
uso de IA explicable permite mejorar  
inglés  
(eXplainable  
Artificial  
Intelligence), que persigue la  
creación de algoritmos que permitan  
una mayor comprensión por parte  
del usuario sobre cómo funciona el  
sistema. Según el estudio de Tai et  
al. (2020), los modelos XAI ayudan a  
los profesionales de la salud mental  
a entender mejor los resultados o  
decisiones de los algoritmos de IA,  
permitiendo una mejor aplicación de  
la tecnología en la práctica clínica.  
el  
diagnóstico  
de  
trastornos  
psicológicos, lo que fomenta el  
desarrollo de sistemas más precisos  
para ayudar a los profesionales a  
tomar  
decisiones  
clínicas  
informadas.  
En Ecuador no se cuenta con  
implementaciones ni con recursos  
bibliográficos que abalen los  
beneficios que puede traer la XAI en  
el área de psicología, también cabe  
La Inteligencia Artificial Explicable  
(XAI), es una herramienta que  
mencionar  
que  
la  
psicología  
permite la transparencia en la  
explicación de procesos llevados a  
cabo por la Inteligencia Artificial (IA),  
por tanto, un sistema de IA debe  
proporcionar evidencia, soporte; o  
ayudaría notablemente a la disciplina  
que aplica la IA desarrollando  
nuevos modelos explicativos, siendo  
reciproco un enlace entre ambas  
8
1
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
disciplinas, la XAI ayudando a tomar  
decisiones informadas los  
forma empírica. La información  
a
necesaria para la investigación se  
recopiló utilizando la herramienta  
profesionales de la salud mental y  
los profesionales de la salud mental  
ayudando a la XAI a mejorar o crear  
nuevos modelos explicativos que  
podrían ayudar a los mismos en un  
futuro no muy lejano. Por ello se crea  
este artículo, el cual contendrá una  
Revisión Sistemática de la Literatura  
o por sus siglas en ingles Systematic  
Literature Review (SLR) que  
permitirá saber cuáles son las  
tendencias de XAI en psicología,  
basándonos en una investigación  
documental.  
informática  
Parsifal  
(Vázquez-  
Lozano et al., 2020). Como gestor de  
búsqueda también se utilizó Google  
Académico, Zapmeta, Metacrawler,  
el método de búsqueda en estos  
gestores de bases de datos fue  
empírico y se basó en una cadena de  
búsqueda corta que permitía el  
hallazgo de varios documentos  
encontrados paulatinamente según  
los términos de búsqueda. Se  
utilizaron  
bases  
de  
datos  
académicas como Scopus, IEEE  
Digital Library, Springer Link, Scielo,  
Science@Direct. Utilizando diversos  
términos de búsqueda (Cadena de  
Búsqueda) relacionados con el tema  
de la investigación, que se  
combinaron entre sí con los  
operadores Booleanos AND, OR y  
NOT, cabe destacar que las cadenas  
de búsquedas utilizadas variaban  
según el gestor o base de datos  
usado, ya que cada uno contiene  
una infinidad de documentación y  
para hacerlo de forma precisa se  
crearon cadenas de búsquedas para  
cada base de datos (ver en tabla I).  
Se indago en los estudios  
seleccionados y se seleccionaron de  
2
. Materiales y métodos  
La presente investigación es una  
Revisión Sistemática de la Literatura  
(
SLR), la cual se basa en el proceso  
y los lineamientos realizados, en el  
estudio realizado por (Loor  
Zambrano, Tello Salvador, Alcívar  
Cevallos, & Vaca Cardenas, 2020).  
Este SLR consiguió seguir lo  
planteado a través de las siguientes  
etapas: Planificación, Revisión y  
Análisis.  
2
.1. Planificación  
Esta de  
revisión  
sistemática  
literatura (SLR) fue realizada de  
8
2
Ibarra-Pincay et al. (2024)  
acuerdo con los criterios de inclusión  
y exclusión (ver en tabla II).  
producto final más informativo y  
convincente. Esto de acuerdo con el  
profesor de la Universidad de Duke,  
Robert J. Sternberg (2020)  
Esta búsqueda incluyó estudios  
primarios publicados entre 2016 y  
2
023. Se recopilaron los resultados  
A.  
Preguntas de investigación:  
de los estudios primarios, como los  
marcadores de inteligencia artificial  
explicable, los algoritmos de XAI que  
se usan en psicología y sus  
tendencias en el ámbito de la  
psicología. Además, se realizaron  
preguntas de investigación que  
ayudaron a establecer el problema  
objetivo, el alcance de la indagación  
y el enfoque necesario para abordar  
el tema. Las preguntas de  
investigación también ayudan a  
identificar los recursos relevantes  
para la búsqueda, junto con los datos  
necesarios para obtener una  
conclusión confiable. Al formular  
RQ1. ¿Para qué sirve y como se usa  
la Inteligencia Artificial Explicable en  
el área de la psicología?  
RQ2. ¿Qué tendencias existen en el  
área de psicología aplicando la  
Inteligencia Artificial Explicable?  
RQ3. ¿Qué procesos o métodos de  
la Inteligencia Artificial Explicable  
son aplicables en el área de la  
psicología?  
B.  
Cadena de Búsqueda  
("Inteligencia Artificial Explicable"  
OR "Models" OR "Inteligencia  
Artificial application" OR "algoritmos"  
AND "psychology")  
estas preguntas relevantes  
y
específicas, se puede mejorar la  
calidad y profundidad del artículo  
académico, lo que resulta en un  
Inteligencia Artificial Explicable,  
Psicología, Inteligencia Artificial  
aplicable, modelos, algoritmos.  
C.  
Cadenas de búsqueda según el gestor de base de datos académicas  
Tabla 1. Cadena de búsqueda usada para cada Base de Datos Académica.  
Cadena de búsqueda  
Bases de Datos  
Académicas  
(
(
"
(
"XAI” AND "psychology")  
"Inteligencia Artificial Explicable" OR "XAI” AND  
psychology")  
"Inteligencia Artificial Explicable" OR "XAI" OR  
OR "algoritmos" AND "psychology")  
"XAI” AND "psychology")  
Scielo  
Scopus  
IEEE Digital Library  
Spinger Link  
(
8
3
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
(
"
(
"Inteligencia Artificial Explicable" OR "XAI" OR  
algoritmos" AND "psychology")  
"XAI” AND "psychology")  
Science@Direct  
Otros  
Fuente: Elaboración propia.  
D. Criterios de selección:  
Tabla 2. Criterios de exclusión e inclusión.  
Criterios de Inclusión  
Criterios de Exclusión  
Estudios Duplicados  
Estudios sin discusión de resultados  
Informes sin rigor científico  
Tesis sin rigor científico  
Publicaciones Académicas de los  
últimos 7 años  
Publicaciones relevantes para el tema  
Estudios primarios  
Investigación que describan su  
metodología y sus resultados de forma  
precisa  
Estudios que no contengan  
descripción de su metodología ni sus  
resultados  
Fuente: Elaboración propia.  
2
.2. Revisión  
específicos y acordes al tema, una  
muestra de los datos que se  
obtuvieron se encuentra planteado  
en el gráfico (grafico I), la mejora de  
la cadena de búsqueda permitió una  
adaptación optima a lo que se  
En la realización de la investigación  
se empezó con la búsqueda y  
selección de los estudios, estos  
teniendo que pasar primero por los  
criterios planteados para inclusión y  
precisa y  
posteriormente dando paso a la  
exploración de los estudios  
de  
información  
exclusión,  
posteriormente  
ser  
evaluados para ver si responden a  
las preguntas de investigación  
desarrolladas.  
seleccionados, procesos similares  
se dieron con las demás bases de  
datos utilizadas en esta investigación  
para la búsquedas de los estudios, lo  
que dio como resultado el hallazgo  
de 55 estudios primarios (grafico II)  
que permitieron la ejecución de este  
estudio.  
Se  
procede  
a
realizar  
las  
indagaciones en las respectivas  
bases de datos a través de los  
gestores mencionados, en los  
primeros hallazgos se obtenían  
cantidades grandes en lo que refiere  
a exploración con la cadena de  
En el siguiente grafico (grafico III) se  
observa la tendencia en incremento  
de publicaciones en los últimos 4  
años, por lo que se estima que la XAI  
búsqueda  
base,  
filtrando  
los  
resultados y mejorando la cadena de  
búsqueda se consigue menos  
resultados,  
por  
ende  
más  
8
4
Ibarra-Pincay et al. (2024)  
ha ido ganando popularidad,  
notando que en los últimos 3 años se  
ha incrementado la publicación de  
estudios de este tema. Relacionando  
los temas con los estudios más  
comúnmente asociados con el  
ámbito de la psicología y la medicina,  
tal como lo menciona Miler al et  
(2018) en el estudio que realizó.  
Gráfico 1. Comparativa entre búsqueda normal y búsqueda con cadena de búsqueda  
personalizada.  
Búsqueda de Estudios Primarios  
1
1
200  
000  
8
6
4
2
00  
00  
00  
00  
0
969  
973  
786  
724  
675  
659  
180  
2
34  
312  
287  
196  
284  
Primera Búsqueda  
Cadena de Búsqueda ajustada  
Fuente: Elaboración propia.  
Gráfico 2. Cantidad de Estudios Seleccionados según su origen o Base de Datos.  
Estudios Seleccionados  
3
2
1
0
0
0
0
27  
2
5
2
2
6
Springer LinkIEEE Explorer Scopus  
Scielo  
Cience Direct  
Otros  
Estudios Seleccionados  
Fuente: Elaboración propia.  
Gráfico 3. Porcentaje de publicaciones encontradas según el año de publicación.  
80%  
50%  
30%  
30%  
10%  
2
018  
2019  
2020  
2021  
2022  
Publicaciones de Estudios  
Fuente: Elaboración propia.  
8
5
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
2
.3. Análisis  
Con base a los estudios primarios  
recolectados se analizó  
a
Una vez seleccionados los estudios  
primarios se empezó con el análisis  
de cada uno de ellos, seccionando,  
clasificando y filtrando los estudios  
obtenidos, para organizar de manera  
óptima los resultados de esta  
investigación.  
profundidad lo referente al tema a  
tratar, como resultado se hallaron  
diversas fuentes de información que  
presentan varios puntos de vistas,  
así como un conjunto de información  
que coincide en que, la XAI es una  
disciplina (anexo) que basa su eje  
en la explicación del porqué de la  
toma de decisiones que realiza la IA  
en cualquier área de conocimiento  
en la que se la utilice, permitiendo  
así un apoyo a los profesionales que  
utilizan herramientas de IA para  
realizar cualquier tipo de proceso;  
ahora bien, centrando la atención en  
lo que refiere a sus usos en el área  
3
. Resultados y discusión  
Los resultados obtenidos  
se  
clasificaron según las preguntas de  
investigación a las que responden,  
(RQ1, RQ2, RQ3), posteriormente se  
realizó un análisis acerca de cuáles  
son los algoritmos o métodos más  
usados en el área de Psicología. Las  
consultas realizadas a los estudios  
de (Milda  
Poceviciute, Eliertsen, & Lundstrom,  
020) la XAI ofrece una variedad de  
psicología  
según  
primarios se  
realizaron meticulosamente para dar  
con resultados precisos que  
seleccionados  
2
herramientas que pueden ser  
aplicadas en la práctica clínica y  
muestren el inicio del camino para la  
SLR. Los beneficios, como se usa y  
cuáles son las tendencias al aplicar  
los métodos XAI se responden en las  
RQ1 y RQ2. Mientras que para medir  
cuales son los métodos de XAI más  
usados se tomara la RQ3.  
científica,  
así  
como  
en  
la  
comprensión de los procesos de la  
mente humana. En el área de la  
psicología, la XAI se ha empleado  
para mejorar la precisión de los  
diagnósticos, la evaluación de la  
respuesta  
al  
tratamiento,  
el  
RQ1. ¿Para qué sirve y como se usa  
la Inteligencia Artificial Explicable en  
el área de la psicología?  
entendimiento de la conducta y el  
análisis de los patrones de  
comportamiento humano.  
8
6
Ibarra-Pincay et al. (2024)  
Un ejemplo de aplicación de la XAI  
en el área de la psicología es la  
implementación de algoritmos para  
predecir la respuesta de los  
se utiliza para extraer conocimiento  
de los datos recogidos durante los  
estudios científicos, lo que puede  
ayudar  
a
los  
psicólogos  
a
pacientes  
a
los tratamientos.  
comprender mejor los procesos de la  
mente humana.  
Permitiendo a los profesionales de la  
salud anticipar la efectividad de los  
tratamientos, lo que puede ayudar a  
acelerar el proceso de atención.  
Para muestra de ello, un estudio  
RQ2. ¿Qué tendencias existen en el  
área de psicología aplicando la  
Inteligencia Artificial Explicable?  
En el campo de la psicología, hay  
una tendencia creciente de aplicar la  
Inteligencia Artificial Explicable para  
resolver problemas psicológicos. Un  
ejemplo claro de ello es la utilización  
de la XAI para predecir el estado  
emocional y el comportamiento de  
los usuarios. Esto se ha hecho  
utilizando la recopilación de datos de  
redes sociales para identificar el  
estado emocional de los usuarios.  
reciente  
realizado  
por  
el  
Departamento de Psicología de la  
Universidad de Stanford encontró  
que los algoritmos de XAI aplicados  
a los datos del tratamiento de  
pacientes  
con  
trastornos  
de  
ansiedad mostraron una mejoría  
significativa en la precisión de la  
predicción de los resultados del  
tratamiento, en comparación con los  
métodos tradicionales (Gill, Smith, &  
Smith, 2020). Empleado en el área  
de la psicología para el análisis de  
los patrones de comportamiento  
humano. Esto se realiza mediante el  
uso de algoritmos para detectar  
patrones ocultos en la conducta  
humana. Estos algoritmos pueden  
ser usados para identificar patrones  
en los datos recogidos durante las  
entrevistas clínicas, lo que puede  
ayudar en la identificación de  
trastornos psicológicos (Luo, Zhou,  
Shang, & Xu, 2020). Además, la XAI  
Permitiendo  
a
los psicólogos  
comprender mejor los patrones de  
comportamiento de sus pacientes.  
Asimismo, el uso de XAI también se  
ha  
trastornos mentales, como la  
depresión, utilizando modelos  
basados en datos y análisis de texto  
Kumar, Subramanian,  
Balasubbramanian, 2018).  
destinado  
para  
predecir  
(
&
La inteligencia artificial explicable se  
ha manejado para crear nuevos  
modelos de diagnóstico basados en  
8
7
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
datos médicos para enfermedades  
mentales como el trastorno bipolar o  
el trastorno de déficit de atención con  
hiperactividad (ADHD). Esto ha  
permitido que los profesionales  
Uno de los principales procesos de  
XAI que puede aplicarse en el área  
de psicología es el modelado  
interpretable. Este se refiere al uso  
de técnicas de inteligencia artificial  
para que los modelos sean  
explicables a nivel de humano. Lo  
que significa que los modelos  
médicos un  
diagnóstico más preciso y rápido de  
estas enfermedades mentales  
Ghorbani, 2017).  
puedan  
realizar  
(
pueden  
interpretarse  
por  
los  
usuarios para comprender cómo se  
está llevando a cabo una tarea  
específica, ayudando así a los  
psicólogos a comprender mejor los  
procesos psicológicos subyacentes  
a determinados comportamientos.  
Así como en los anteriores puntos la  
tendencia crece a medida que el  
área de aplicación de XAI se  
extiende, por ello se ha observado  
una tendencia creciente en el uso de  
la Inteligencia Artificial Explicable en  
el área de la psicología. Esto ha  
permitido el desarrollo de nuevas  
tecnologías que han contribuido a  
mejorar la calidad de vida de muchas  
personas (Bauer, von Zahn, & Hinz,  
(Kumar,  
Subramanian,  
&
Balasubbramanian, 2018)  
Otro proceso de XAI que puede ser  
útil en el campo de la psicología es la  
visualización de la profundidad. Esta  
2
021). Estas tecnologías incluyen el  
técnica  
refiere  
al  
uso  
de  
uso de XAI para predecir el estado  
emocional y el comportamiento de  
los usuarios, y para el diagnóstico de  
enfermedades mentales (Fellous,  
Sapiro, Rossi, Mayberg, & Ferrante,  
visualizaciones para explicar los  
procesos internos de un modelo de  
inteligencia artificial. Lo que permite  
a los usuarios comprender cómo se  
está llevando a cabo un proceso, lo  
que es útil para que los psicólogos  
entiendan mejor los procesos  
2
019).  
RQ3. ¿Qué procesos o métodos de  
la Inteligencia Artificial Explicable  
son aplicables en el área de la  
psicología?  
subyacentes  
a
determinados  
comportamientos. (Kindermans & Al-  
Shedivat, 2017)  
La explicabilidad en la XAI resulta  
sumamente beneficiosa para llevar a  
8
8
Ibarra-Pincay et al. (2024)  
cabo la evaluación de tratamientos  
psicológicos. La utilización de los  
artículos que fueron relevantes para  
el tema, siendo que la tendencia que  
existe en la actualidad es que el uso  
de la XAI en el área de la psicología  
va en aumento, lo cual indica el gran  
auge que pueda surgir debido a los  
beneficios que brinda en esta área y  
en otras áreas en las que es  
utilizado. Durante el desarrollo de  
esta revisión se halló que algunos de  
los métodos más usados en la XAI  
son: Numérico, basado en reglas,  
textuales, visuales, mixtos, entre  
otros; los cuales son las bases para  
el desarrollo de una XAI,  
algoritmos  
inteligencia  
que  
presenta  
la  
artificial  
explicable  
permite los psicólogos una  
evaluación precisa de la eficacia que  
tienen los tratamientos en  
a
determinados pacientes, obteniendo  
una explicación detallada de los  
mismos.  
Permitiendo  
a
los  
profesionales de la salud mental  
comprender las razones del por qué  
un determinado tratamiento no es  
efectivo y ajustar el tratamiento en  
consecuencia (Dazeley, y otros,  
2
021).  
En la tabla (tabla IV) se organiza la  
información encontrada de manera  
más detallada, referenciando los  
estudios primarios encontrados,  
considerando: el nombre de los  
estudios y su respectiva cita, el  
enfoque del estudio redactado en un  
breve resumen, el tipo de estudio y  
los Métodos de XAI que mencionan  
en el estudio. En la sección que se  
menciona a los métodos usados en  
los estudios seleccionados se  
plantea según (Vilone & Longo,  
Explainable Artificial Intelligence: a  
Systematic Review, 2020) que los  
métodos son:  
La XAI ofrecer una amplia gama de  
procesos y técnicas valiosas para el  
área de psicología. Estas incluyen el  
modelado  
interpretable,  
la  
visualización de la profundidad y la  
evaluación de la efectividad de los  
tratamientos psicológicos. Estas  
técnicas de XAI ofrecen una forma  
potencialmente útil de abordar  
preguntas clave en el área de la  
psicología.  
4
. Conclusiones  
Los hallazgos de esta revisión  
sistemática de la literatura (SRL)  
concluyen con la revisión de 45  
Numérico: Métodos de atribución de  
características aditivas, básicamente  
8
9
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
combinaciones lineales de las  
características de entrada, para  
construir un modelo que es una  
interpretación interpretable.  
Visual: Explicar el funcionamiento  
interno de un modelo a través de  
ayudas gráficas.  
Mixto:  
Producen explicaciones  
junto  
gráficas  
hacerlas más interpretables.  
Reglas:  
Métodos  
producen  
numéricas  
con  
explicaciones basadas en reglas  
mediante la explotación de varias  
técnicas de extracción de reglas,  
como los enfoques basados en el  
razonamiento automatizado.  
representaciones  
para  
Otros: Basados en otros métodos  
que dan como resultado la  
explicabilidad.  
Textual: Método que produce  
N/A: No usa ni menciona métodos  
explicaciones en lenguaje natural.  
en el estudio.  
Tabla 4. Organización de estudios primarios seleccionados según el enfoque o descripción que  
contiene o sección que abarcan, con secciones que hacen referencia tipo de estudio y Métodos  
usados en el estudio.  
Nombre  
Articulo y su referencia  
del  
Estudio/ Enfoque o descripción breve del Tipo de  
Estudio/ Articulo estudio  
Métodos  
usados en el  
estudio  
1
2
3
xxAI – Beyond Explainable Habla sobre el éxito de la inteligencia Libro.  
Numérico,  
Reglas,  
Textual, Visual,  
Mixto, Otros.  
AI (Holzinger, y otros, 2020)  
artificial (IA) basada en el aprendizaje  
automático (ML) y la necesidad de  
desarrollar herramientas que sean  
tanto predictivas como interpretables  
para los humanos.  
Psychological  
Foundations  
Argumenta que la interpretabilidad y la Artículo de  
of explicabilidad son requisitos distintos Divulgación  
Reglas,  
Numéricos,  
Visual.  
Explainability  
and para los sistemas de aprendizaje Científica.  
Interpretability in Artificial automático.  
Intelligence (Broniatowski,  
2021)  
Four  
Principles  
of Presenta cuatro principios para la Artículo de  
N/A  
Explainable  
Intelligence  
otros, 2021)  
Artificial inteligencia artificial explicada (IAE) Divulgación  
(Phillips,  
y
que  
comprenden  
propiedades Científica.  
fundamentales para los sistemas de  
IAE explicados. Estos cuatro principios  
se  
denominan  
explicación,  
significativo, precisión en la explicación  
y límites del conocimiento.  
4
Mapping  
of  
machine Discute el potencial de la utilización de Artículo de  
N/A  
learning approaches for métodos de aprendizaje automático Divulgación  
description, prediction, (machine learning ML) en la Científica.  
o
and causal inference in the investigación social y de la salud. Se  
social and health sciences mencionan sus ventajas, como la  
(Lesit, y otros, 2022)  
capacidad de procesar grandes  
cantidades de datos, detectar  
relaciones no lineales y mejorar la  
precisión en la predicción.  
9
0
Ibarra-Pincay et al. (2024)  
5
Explainable  
Artificial Analiza el uso de la inteligencia artificial Revisión  
Visual, Mixto,  
otros.  
Intelligence Methods in explicativa (XAI) durante la pandemia sistemática de  
Combating Pandemics: A de COVID-19 y cómo su uso puede la Literatura.  
Systematic Review (Giuste, superar las barreras para lograr un  
y otros, 2021)  
impacto clínico significativo  
6
Roadmap of Designing Discute cómo los métodos utilizados en Artículo de  
Mixto, Otros.  
Cognitive  
Explainable  
Intelligence  
Metrics for ciencias cognitivas y psicología para divulgación  
Artificial inferir los procesos cognitivos detrás científica.  
(XAI) (H. del comportamiento humano pueden  
HSIAO, HT NGAI, QIU, ser aplicados para examinar los  
YANG, & Chen CAO, 2021) mecanismos que subyacen el  
comportamiento de los sistemas de  
inteligencia artificial (IA) y proporcionar  
explicaciones.  
7
A mental models approach Discute las preocupaciones existentes Revisión  
for defining explainable sobre el uso de métodos de modelado sistemática de  
Numérico,  
visual, otros.  
artificial  
intelligence de caja negra en contextos sensibles la Literatura.  
(Merry, Pat, & Jim, 2021)  
como la atención médica, y cómo la  
falta de explicabilidad de estos  
modelos obstaculiza la adopción de la  
inteligencia artificial (IA) en estos  
campos.  
8
¿Qué queremos de la Perspectiva de las partes interesadas Artículo de  
N/A  
Inteligencia  
Explicable (XAI)?  
Artificial sobre la XAI y un modelo conceptual Divulgación  
Una que guía la investigación Científica.  
–
perspectiva de las partes interdisciplinaria de la XAI.  
interesadas sobre la XAI y  
un modelo conceptual que  
guía investigación  
interdisciplinaria de la XAI  
Langer, y otros, 2021)  
la  
(
9
1
Mirando dentro de la caja Información sobre la Inteligencia Survey  
negra: una encuesta sobre Artificial Explicable (XAI) y cómo se (Encuesta).  
N/A  
N/A  
Inteligencia  
Artificial está desarrollando en la actualidad.  
Explicable (XAI) (Adadi &  
Berrada, 2018)  
0
Explanations of artificial Información  
sobre  
la  
creciente Revista de  
intelligence:  
proposes  
highlights  
Author demanda de la explicabilidad de la congreso.  
that inteligencia artificial (IA) en contextos  
de alta importancia ética y regulatoria,  
model  
como por ejemplo en la creación de  
nuevas formas de puntajes crediticios  
más allá del FICO tradicional.  
evidence  
of  
fairness  
(
Explanations of artificial  
intelligence: Author proposes  
model that highlights  
evidence of fairness, 2023)  
1
1
2
Expl(AI)ned: The Impact of Explora el impacto de las explicaciones Libro.  
Explainable Artificial basadas en características en el  
Intelligence on Cognitive procesamiento de información de los  
Processes (Bauer, von usuarios de sistemas de inteligencia  
Numérico,  
reglas, textual,  
otros.  
Zahn, & Hinz, 2021)  
artificial (IA) modernos.  
1
Explanation in artificial Aborda el resurgimiento de la Revisión  
intelligence: Insights from inteligencia artificial explicada y cómo sistemática de  
the social sciences (Miller, se puede mejorar el proceso de la Literatura.  
N/A  
2019)  
explicación, revisa estudios relevantes  
y destaca hallazgos importantes para  
informar la mejora en la explicación de  
la inteligencia artificial.  
13  
Aproximaciones  
a
la Información sobre cómo se pueden Artículo de  
N/A  
Explicación de Decisiones explicar las decisiones tomadas por Divulgación  
algorítmicas: Inteligencia algoritmos de inteligencia artificial. Científica.  
Artificial Explicable  
Vaquero de Miguel, 2020)  
(
9
1
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
14  
The role of explainability in Señala que, aunque la inteligencia Sruvey  
creating trustworthy artificial (IA) tiene un gran potencial (Encuesta).  
artificial intelligence for para mejorar la salud y el bienestar de  
health care: las personas, su adopción en la  
N/A  
A
comprehensive survey of práctica clínica sigue siendo limitada  
the terminology, design debido a la falta de transparencia.  
choices, and evaluation  
strategies (Markus, Kors, &  
Rijnbeek, 2021)  
15  
A historical perspective of Presenta una perspectiva histórica Artículo de  
N/A  
explainable  
Intelligence (Confalonieri, entendimiento actual  
Coba, Wagner, & Besold, criterios para las explicaciones que  
Artificial sobre el desarrollo de la XAI, discute su Divulgación  
y
propone científica.  
2020)  
jugarán un papel crucial en el  
desarrollo de sistemas de XAI  
comprensibles para los seres humanos  
en el futuro.  
16  
Explainable  
Artificial Presenta una revisión sistemática de la Revisión  
Textual, Visual.  
Intelligence (XAI) from a XAI desde la perspectiva del usuario Sistemática de  
user perspective: final. El estudio tiene como objetivo la Literatura.  
synthesis of prior literature identificar las dimensiones de las  
A
and  
avenues  
problematizing necesidades de explicación de los  
for future usuarios finales, investigar el efecto de  
research (Haque, Islam, & la explicación en las percepciones de  
Patrick, 2023) los usuarios finales proponer  
y
agendas de investigación futuras para  
XAI.  
1
7
8
Aplicaciones de la Teoría Aborda el problema central de la ética Artículo de  
de la Atribución Social en de la inteligencia artificial, que consiste Divulgación  
N/A  
N/A  
XAI (Zhang, 2022)  
en cómo otorgar a la IA el estatus de Científica.  
agente y ganar la confianza de los  
seres humanos.  
1
Niveles de inteligencia Describe el creciente interés en la Artículo de  
artificial explicable para Inteligencia Artificial Explicable (XAI) y Divulgación  
explicaciones  
conversacionales  
el aprendizaje automático interpretable Científica.  
(IML), y cómo la falta de explicaciones  
alineadas con humanos comprensibles para las decisiones de  
(Dazeley, y otros, 2021)  
la IA puede generar preocupación en el  
público.  
19  
Una  
encuesta  
sobre Menciona cómo la inteligencia artificial Survey  
N/A  
inteligencia  
artificial  
y
el aprendizaje automático han (Encuesta).  
explicable (XAI): Hacia la demostrado desempeños notables en  
XAI médica (Tjoa & Guan, diversas tareas, pero la falta de  
2021)  
transparencia en los algoritmos puede  
generar preocupación, especialmente  
en sectores como la medicina que  
requieren mayor rendición de cuentas.  
20  
Contrafactuales  
Inteligencia  
en Discute el uso creciente de los Artículo de  
Artificial contrafactuales en aplicaciones de Divulgación  
N/A  
Explicable (XAI): Evidencia Inteligencia (IA), Científica.  
del razonamiento humano especialmente en IA Explicable (XAI).  
Byrne, 2019) Estos pueden ayudar a crear modelos  
interpretables hacer que las  
Artificial  
(
y
decisiones de sistemas opacos sean  
comprensibles para desarrolladores y  
usuarios.  
2
1
2
Artificial Cognition: An Explica como la cognición artificial Revista de  
emerging discipline to busca explicar el proceso de toma de Congreso.  
N/A  
N/A  
explain  
the  
decision decisiones que realizan las redes  
making of artificial neural neuronales, basándose en métodos de  
networks (Iglesias, 2020)  
ciencia cognitiva.  
2
Una  
encuesta  
de Aborda la falta de interpretabilidad de Survey  
contrastes  
y
algunos algoritmos de inteligencia (Encuesta).  
9
2
Ibarra-Pincay et al. (2024)  
contrafactuales Métodos artificial  
y
la  
importancia  
de  
de  
generación  
de proporcionar explicaciones de sus  
para decisiones.  
explicaciones  
explicables  
Inteligencia  
artificial (Stepin, Jose M.,  
Catala, Pereira-Fariña,  
021)  
&
2
23  
A historical perspective of Aborda  
explainable Artificial explicabilidad en la inteligencia Divulgación  
Intelligence (Confalonieri, artificial, especialmente en Científica.  
Coba, Wagner, & Besold, aplicaciones como la conducción  
la  
importancia  
de  
la Artículo de  
N/A  
2020)  
autónoma, el diagnóstico médico o la  
banca y las finanzas, donde es crucial  
transmitir seguridad y confianza a los  
usuarios  
en  
las  
decisiones  
automatizadas.  
24  
inteligencia artificial y etica Explora las implicaciones éticas del Tesis.  
N/A  
(Sebio Martin, 2020)  
uso de la Inteligencia Artificial en la  
toma de decisiones. Se analiza el  
concepto de Inteligencia Artificial, los  
posibles problemas éticos las  
y
soluciones actuales futuras. Se  
y
concluye que es importante que los  
seres humanos mantengan el control  
sobre la tecnología y su uso.  
25  
Explainable  
Artificial Destaca el crecimiento significativo de Revisión  
Numérico,  
Intelligence: a Systematic la Inteligencia Artificial Explicable (XAI) Sistemática de  
Textual, Mixto,  
Reglas, Visual,  
Otros.  
Review (Vilone  
&
Longo, en los últimos años debido a la amplia la Literatura.  
Artificial aplicación del aprendizaje automático,  
Explainable  
Intelligence:  
Review, 2020)  
a
Systematic especialmente el aprendizaje profundo,  
que ha llevado al desarrollo de modelos  
altamente  
precisos,  
pero  
sin  
explicabilidad e interpretabilidad.  
26  
Explainable AI: A Review Aborda el aumento en la adopción Artículo de  
Otros.  
of  
Interpretability  
Linardatos,  
Machine  
Learning industrial de la inteligencia artificial, Divulgación  
Methods pero también sobre la complejidad de Científica.  
(
los  
modelos  
de  
aprendizaje  
Papastefanopoulos,  
Kotsiantis, 2020)  
&
automático, que a menudo se vuelven  
"cajas negras" que dificultan la  
comprensión de su funcionamiento y  
toma de decisiones.  
2
7
8
Explainable  
AI:  
F
Describe cómo los sistemas de toma Artículo de  
Reglas, textual,  
mixto, otros.  
oundations, Applications, de decisiones algorítmicas están Divulgación  
Opportunities for Data siendo adoptados en diversas áreas y Científica.  
Management  
Pradhan, Lahiri, Galhotra, & en ellos es cada vez más importante.  
Salimi, 2022)  
Research tareas, pero también cómo la confianza  
(
2
Towards Quantification of Menciona que la Inteligencia Artificial Artículo de  
Otros.  
Explainability  
Explainable  
Intelligence  
in (IA) se ha convertido en una parte Divulgación  
Artificial integral de diferentes dominios, pero Científica.  
Methods explicar las decisiones de los sistemas  
(
Rabiul Islam, Eberle,  
&
de IA es un desafío debido a su alta  
complejidad las posibles  
Ghafoor)  
y
a
implicaciones en los intereses  
derechos humanos.  
y
29  
On the importance of Explica que la Inteligencia Artificial Artículo de  
experimental psychology Explicable (XAI) ha ganado Divulgación  
for explainable artificial popularidad en la investigación Científica.  
Otros.  
intelligence (Leuven, 2022)  
reciente debido a que los usuarios  
humanos desean comprender por qué  
la IA llega a una decisión en particular  
y se comporta como lo hace.  
9
3
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
30  
Explainability  
predictions  
of  
based  
AI- Propone un nuevo método de Artículo de  
on predicción para el desempeño de Divulgación  
Otros  
psychological  
profiling empresas emergentes basado en Científica.  
(Neugebauer,  
Rippitsch, perfiles psicológicos, utilizando un  
Sobieczky, & Geib, 2021)  
enfoque de inteligencia artificial  
explicable llamado "Before and After  
prediction Parameter Comparison  
(BAPC)".  
31  
Classification  
of Presenta una revisión sistemática de Revisión  
Numérico,  
Explainable  
Intelligence  
through  
Artificial los métodos utilizados para explicar el Sistemática de  
Methods funcionamiento de modelos de la Literatira.  
Output aprendizaje automático y profundo, los  
Textual, Mixto,  
Reglas, Visual,  
Otros.  
Their  
Formats (Vilone & Longo, cuales  
a menudo son difíciles de  
Classification of Explainable interpretar debido a sus estructuras  
Artificial Intelligence Methods complejas.  
through  
Their  
Output  
Formats, 2021)  
32  
Explainable AI as evidence Propone que las explicaciones son Artículo de  
Otros.  
of fair  
valiosas para aquellos que son Divulgación  
impactados por las decisiones de un Científica.  
modelo (pacientes modelo) en la  
medida en que proporcionan evidencia  
de que una decisión adversa previa fue  
injusta.  
Decisions (Leben, 2023)  
3
3
4
Explainable  
Intelligence  
Artificial Discute el valor potencial de XAI para Artículo de  
for el campo de la neuroestimulación tanto Divulgación  
N/A  
N/A  
Neuroscience: Behavioral para la investigación científica básica Científica.  
Neurostimulation (Fellous, como para fines terapéuticos, así como  
Sapiro, Rossi, Mayberg, & las preguntas pendientes y obstáculos  
Ferrante, 2019)  
para el éxito del enfoque XAI.  
3
Examining the effects of Investiga cómo las personas perciben Artículo de  
power status of an la capacidad de los sistemas de Divulgación  
explainable artificial inteligencia artificial explicables (XAI) Científica.  
intelligence system on en función de sus cualidades  
users’ perceptions (Ha, atributivas percibidas y cómo el estado  
June Sah, & Sangwon)  
de poder y la antropomorfización  
afectan el proceso de atribución.  
35  
Emotion-Aware  
Persigue dos objetivos principales. En Revisión  
N/A  
Explainable  
Intelligence  
Artificial primer lugar, se realiza un análisis del Sistemática de  
for estado actual de la Inteligencia Artificial la Literatura.  
Personality, Emotion, and Explicable (XAI) aplicada al cómputo  
Mood Simulation (Valle- afectivo, el análisis de emociones y el  
Cruz, Lopez Chau, Ramos análisis de sentimientos. En segundo  
Corchado,  
Jimenez, 2022)  
&
Muños lugar, se prueba un marco de trabajo  
de XAI consciente de las emociones  
para determinar el estado afectivo de  
entidades autónomas predefinidas en  
contextos de incertidumbre.  
3
6
7
Explainable AI: A Hybrid Aborda  
Approach to Generate explicabilidad en la toma de decisiones Divulgación  
la  
importancia  
de  
la Artículo de  
N/A  
N/A  
Human-Interpretable  
Explanation for  
basada en modelos de inteligencia Científica.  
Deep artificial (IA), especialmente en los  
Learning Prediction (De, modelos de aprendizaje profundo  
Giri, Mevawala, Nemani, & (deep learning), que son cada vez más  
Deo, 2020)  
complejos.  
3
Artificial cognition: How Describe  
experimental psychology cognitivos pueden contribuir a la XAI, Divulgación  
can help generate ya que la mente humana también es Científica.  
explainable artificial una caja negra los psicólogos  
cómo  
los  
psicólogos Artículo de  
y
intelligence (T.Taylor  
Taylor, 2020)  
&
cognitivos tienen más de 150 años de  
experiencia modelando la mente a  
través de la experimentación. Se  
proporciona una revisión de la XAI para  
los psicólogos, argumentando que los  
9
4
Ibarra-Pincay et al. (2024)  
métodos actuales tienen un punto  
ciego que puede complementarse con  
la tradición experimental cognitiva.  
38  
Una encuesta de análisis Explora las tendencias  
y
desafíos Survey  
N/A  
visual para métodos de actuales del análisis visual en la (Encuesta).  
inteligencia  
artificial interpretación  
de  
modelos  
de  
Explicable (Alicioglu & Sun, aprendizaje profundo (DL) mediante la  
2022)  
adopción de métodos de Inteligencia  
Artificial Explicable (XAI), con el  
objetivo  
de  
presentar  
futuras  
direcciones de investigación en esta  
área.  
39  
Descripción general de la Presenta una revisión sistemática y Revisión  
inteligencia artificial metaanálisis de los trabajos que se han Sistemática de  
N/A  
explicable para Pronóstico realizado en relación con la aplicación la Literatura.  
y Gestión de la Salud de de la inteligencia artificial explicable  
Activos  
Industriales (XAI) en la disciplina de Pronósticos y  
Basado en elementos de Gestión de la Salud (PHM) de activos  
informes preferidos para industriales.  
revisiones sistemáticas y  
metanálisis (Mohd Nor, Rao  
Pedapat, Muhammad,  
Leiva, 2021)  
&
4
0
1
Inteligencia artificial  
y
Analiza cómo la inteligencia artificial Artículo de  
N/A  
valoración de la prueba: está impactando en la administración Divulgación  
las garantías jurídico- de justicia se explora los Científica.  
constitucionales  
órgano de  
Castellano, 2021)  
y
del fundamentos y campos de aplicación  
control de los algoritmos basados en el  
aprendizaje autónomo.  
(
4
Explainable  
artificial Presenta una nueva técnica de análisis Artículo de  
Visual,  
intelligence based analysis de datos de neuroimagen funcional Divulgación  
Numérico,  
otros.  
for  
interpreting  
data  
infant llamada xMVPA, que utiliza la Científica.  
in Inteligencia Artificial Explicable (XAI)  
fNIRS  
developmental cognitive para explorar el desarrollo cognitivo del  
neuroscience.  
(Andreu- cerebro humano.  
Perez, y otros, 2021)  
4
2
3
New Explainability Method Plantea la necesidad de evaluar la Artículo de  
based on the Classification fiabilidad de los modelos de Divulgación  
of Useful Regions in an aprendizaje automático utilizados en la Científica.  
Image. (Guerrero Velázquez industria, y cómo las métricas actuales  
Visual, otros.  
&
Sossa Azuela)  
no ofrecen una visión general de la  
consistencia  
predicciones.  
o
estabilidad de las  
4
Survey of XAI in digital Este artículo presenta un estudio sobre Survey  
pathology. (Milda la aplicación de la inteligencia artificial (Encuesta).  
Numérico,  
Textual, Mixto,  
Reglas, Visual,  
Otros.  
Poceviciute, Eliertsen,  
Lundstrom, 2020)  
&
(IA) en el diagnóstico médico a través  
de la imagenología. Aunque la IA tiene  
un gran potencial, su implementación  
en la práctica médica plantea desafíos.  
Es importante que los algoritmos sean  
precisos, pero también comprensibles  
y confiables.  
4
4
5
DARPA’s  
Artificial  
Explainable Aborda como DARPA lanzó el Artículo de  
Intelligence programa XAI en 2017 con el objetivo Divulgación  
Visual, otros.  
Program. (Gunning & Aha, de crear sistemas de IA que puedan Científica.  
2019)  
proporcionar explicaciones efectivas  
sobre su comportamiento, fortalezas y  
debilidades a los usuarios humanos.  
4
Explainable  
Artificial Porpone  
que  
las  
bibliotecas Artículo de  
N/A  
Intelligence. (XAI) (Ridley, académicas adopten la inteligencia Divulgación  
2022)  
artificial explicable (XAI) como conjunto Científica.  
de herramientas para verificar y validar  
9
5
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
los recursos creados y entregados por  
sistemas de aprendizaje automático.  
Fuente: Elaboración propia.  
La XAI se está convirtiendo en una  
herramienta fundamental para la  
psicología como consecuencia de lo  
anteriormente planteado. Esto se  
https://doi.org/10.1016/j.cag.2  
21.09.002  
0
Andreu-Perez, J., Emberson, L. L.,  
Kiani, M., Filippetti, M. L.,  
Hagras, H., & Rigato, S. (15  
de Septiembre de 2021).  
debe  
enfermedades mentales y predecir el  
estado emocional el  
a
que puede identificar  
Explainable  
artificial  
y
intelligence based analysis for  
interpreting infant fNIRS data  
in developmental cognitive  
neuroscience.  
comportamiento de los usuarios.  
Esta herramienta está mejorando  
significativamente la calidad de vida  
de muchas personas. En conclusión,  
esta revisión exhaustiva de la  
literatura ha demostrado el valor de  
la Inteligencia Artificial eXplicable en  
el campo de la psicología.  
Communications  
Biology,  
(1077). doi:10.1038/s42003-  
21-02534-y  
4
0
Bauer, K., von Zahn, M., & Hinz, O.  
29 de Noviembre de 2021).  
Expl(AI)ned: The Impact of  
(
Explainable  
Intelligence  
Artificial  
Users'  
on  
Information Processing. Safe  
Working Paper, 315. doi:  
http://dx.doi.org/10.2139/ssrn.  
Bibliografía  
Adadi, A., & Berrada, M. (16 de  
3
872711  
Septiembre  
de  
2018).  
Mirando dentro de la caja  
negra: una encuesta sobre  
Broniatowski, D. (abril de 2021).  
Psychological Foundations of  
Inteligencia  
Artificial  
Explainability  
and  
Explicable (XAI). IEEE Acees,  
Interpretability in Artificial  
Intelligence. National Institute  
of Standars and Technology,  
6
1
0
,
52138-52160.  
doi:  
0.1109/ACCESS.2018.2870  
52  
18-56.  
doi:  
https://doi.org/10.6028/NIST.I  
R.8367  
Alicioglu, G., & Sun, B. (2022). Una  
encuesta de análisis visual  
para métodos de inteligencia  
Byrne, R. (2019). Contrafactuales en  
artificial  
Computers & Graphics, 102,  
02-520. doi:  
explicable.  
Inteligencia  
Explicable (XAI): Evidencia  
del razonamiento humano.,  
Artificial  
5
(págs.  
6276-6282).  
doi:  
9
6
Ibarra-Pincay et al. (2024)  
https://doi.org/10.24963/ijcai.  
019/876  
https://doi.org/10.1016/j.procs  
.2020.02.255  
2
Castellano, P. S. (22 de Noviembre  
de 2021). Inteligencia Artificial  
y valoración de la prueba: las  
Explanations of artificial intelligence:  
Author proposes model that  
highlights  
evidence  
of  
garantías  
Jurídico-  
fairness. (15 de Febrero de  
2023). Techplore.  
Constitucionales del órgano  
de control. Themis Revista de  
derecho(79), 283-297. doi:  
https://doi.org/10.18800/themi  
s.202101.015  
Fellous, J.-M., Sapiro, W., Rossi, A.,  
Mayberg, H., & Ferrante, M.  
(13 de Diciembre de 2019).  
Explainable Artificial  
Confalonieri, R., Coba, L., Wagner,  
B., & Besold, T. R. (19 de  
Octubre de 2020). A historical  
perspective of explainable  
Artificial Intelligence. Wires  
Data MIning and knowledge  
Intelligence for Neuroscience:  
Behavorial neurostimulation.  
frontiers in neuroscience.  
doi:10.3389/fnins.2019.01346  
Ghorbani, A. (2017). Explorando la  
utilización de la Inteligencia  
Artificial Explicable para el  
diagnóstico de enfermedades  
discovery, doi:  
https://doi.org/10.1002/widm.  
391  
11(1).  
1
mentales.  
Neurology  
Journal  
and  
of  
Clinical  
Dazeley, R., Vamplew, P., Foale, C.,  
Young, C., Aryal, S., & Cruz,  
F. (Octubre de 2021). Niveles  
Neuroscience, 1(2), 1-2.  
Gill, A., Smith, K., & S. D. (2020).  
Predicción de la respuesta al  
tratamiento con algoritmos de  
de  
inteligencia  
artificial  
explicable para explicaciones  
conversacionales alineadas  
con  
Inteligencia  
Artificial  
humanos.  
Artificial  
Explicable: Un estudio con  
pacientes con trastornos de  
Intelligence,  
doi:  
299(103525).  
ansiedad.  
Psicología Clínica, 17(3), 302-  
09.  
Revista  
de  
https://doi.org/10.1016/j.artint.  
021.103525  
2
3
De, T., Giri, P., Mevawala, A.,  
Nemani, R., & Deo, A. (13 de  
Mayo de 2020). Explainable  
AI: A Hybrid Approach to  
Giuste, F., Shi, W., Zhu, Y. Z., Naren,  
T., Isgut, M., Sha, Y., . . .  
Wang, M. D. (23 de Diciembre  
de 2021). Explainable Artificial  
Generate  
Human-  
Intelligence  
Combating Pandemics:  
Methods  
in  
A
Interpretable Explanation for  
Deep Learning Prediction.  
Procedia Computer Science,  
Systematic Review. IEEE  
Journal, 23. doi:  
1
68,  
40-48.  
doi:  
9
7
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
https://doi.org/10.48550/arXiv  
2112.12705  
Holzinger, A., Goebel, R., Fong, R.,  
.
Moon, T., Muller, K., & Samek,  
W. (18 de julio de 2020). xxAI  
Guerrero Velázquez, T. M., & Sossa  
Azuela, J. H. (s.f.). New  
Explainability Method based  
-
Beyond.  
International  
Workshop Held in Conjunction  
with ICML 2020, 4-397.  
on  
Computación  
5(4),  
the  
Classification.  
y
Sistemas,  
719-728.  
Iglesias, A. (4 de Abril de 2020).  
2
Artificial  
cognition:  
an  
doi:10.13053/CyS-25-4-4049  
emergent discipline to explain  
decision making in artificial  
Gunning, D., & Aha, D. W. (2019).  
DARPA’s Explainable. Deep  
Learning and Security.  
neural  
CognitiveSciencie, 16(1), 10-  
3.  
networks.  
1
H. HSIAO, J., HT NGAI, H., QIU, L.,  
YANG, Y., & Chen CAO, C.  
Kindermans, P. J., & Al-Shedivat, M.  
2017). Interpretability Beyond  
Feature Attribution:  
(
(
2021). of  
Designing Cognitive Metrics  
for Explainable Artificial  
Intelligence (XIA). 29.  
Roadmap  
Quantitative Testing with  
Concept Activation Vectors  
(TCAV).  
Ha, T., June Sah, Y., & Sangwon, L.  
s.f.). Examining the effects of  
Kumar, S., Subramanian, S., &  
Balasubbramanian, P. (2018).  
(
power status of an explanaible  
artificial intelligence system  
on users perceptions. ISSN  
Predicción  
del  
estado  
usando  
Artificial  
emocional,  
Inteligencia  
Explicable.  
Computational  
Journal, 946-958.  
doi:10.1089/144929X.2020.1  
46789  
41(5),  
Journal  
of  
Science,  
8
2
4(4), 814-819.  
Haque, A. B., Islam, A. N., & Patrick,  
Langer, M., Oster, D., Speith, T.,  
Hermanns, H., Kästner, L.,  
Schmidt, E., . . . Baum, K.  
M.  
(Enero  
de  
2023).  
Explainable  
Artificial  
Intelligence (XAI) from a user  
perspective: A synthesis of  
(
Julio de 2021). ¿Qué  
queremos de la Inteligencia  
Artificial Explicable (XAI)? -  
Una perspectiva de las partes  
interesadas sobre la XAI y un  
modelo conceptual que guía  
prior  
literature  
and  
problematizing avenues for  
future  
Technological  
and  
research.  
Forecasting  
Change,  
doi:  
Social  
la  
investigación  
1
86(122120).  
interdisciplinaria de la XAI.  
ArtificialIntelligence,  
2
https://doi.org/10.1016/j.techf  
ore.2022.122120  
96(103473).  
doi:  
9
8
Ibarra-Pincay et al. (2024)  
https://doi.org/10.1016/j.artint.  
021.103473  
Luo, Y., Zhou, Y., Shang, J., & Xu, X.  
(2020). Uso de Inteligencia  
Artificial Explicable para el  
análisis de patrones de  
comportamiento en la práctica  
clínica de psicología. Revista  
de Psicología Clínica, 18(1),  
2
Leben, D. (14 de Febrero de 2023).  
Explainable AI as evidence of  
fair decisions. frontiers in  
psychology,  
doi:10.3389/fpsyg.2023.1069  
26  
14.  
1
5-23.  
4
Markus, A., Kors, J., & Rijnbeek, P.  
6 de diciembre de 2021). The  
Lesit, A. K., Klee, M., Hyun Kim, J.,  
Rehkopf, D. H., Bordas, S. P.,  
(
role of explainability in  
creating trustworthy artificial  
intelligence for health care: A  
comprenhensive survey of the  
terminology, design choices  
&
Muniz-T, G. (19 de Octubre  
de 2022). Mapping of machine  
learning approaches for  
description, prediction, and  
causal inference in the social  
and  
evaluatio  
strategies.  
and  
health  
sciences.  
8(42).  
SciencesDirect, 1-11. doi:  
https://doi.org/10.1016/j.jbi.20  
SciencieAdvances,  
doi:10.1126/sciadv.abk1942  
2
0.103655  
Leuven, K. (2022). On the  
importance of experimental  
psycologhy for explainable  
artificial inyelligence .  
Merry, M., Pat, R., & Jim, W. (9 de  
Diciembre de 2021). A mental  
models approach for defining  
explainable  
artificial  
intelligence. BMC Medical  
Informatics and Decision  
Linardatos, P., Papastefanopoulos,  
V., & Kotsiantis, S. (25 de  
Making, doi:  
https://doi.org/10.1186/s1291  
-021-01703-7  
21(344).  
Diciembre  
de  
2020).  
Explainable AI: Review of  
1
Machine  
Interpretability  
entropy.  
Learning  
Methods.  
Milda Poceviciute, M., Eliertsen, G.,  
Lundstrom, C. (14 de  
&
doi:10.3390/e23010018  
Agosto de 2020). Survey of  
XAI in digital pathology.  
Loor Zambrano, B., Tello Salvador,  
F., Alcívar Cevallos, R., &  
Vaca Cardenas, L. (2020).  
Aproximaciones de métodos  
predictivos y de agrupamiento  
utilizados en eventos de  
emergencia: una literatura  
sistemática.  
Miller, T. (Febrero de 2019).  
Explanation artificial  
in  
intelligence: Insights from the  
social  
Intelligence,  
sciences.  
267,  
Artificial  
1-38.  
doi:https://doi.org/10.1016/j.ar  
tint.2018.07.007  
9
9
Revista Científica ‘‘INGENIAR”: Ingeniería, Tecnología e Investigación. Vol. 7 Núm. (13) 2024. ISSN: 2737-6249  
Tendencias de la Inteligencia Artificial Explicable en el Área de Psicología  
Mohd Nor, A. K., Rao Pedapat, S.,  
Muhammad, M., & Leiva, V. (1  
de Diciembre de 2021).  
Descripción general de la  
inteligencia artificial explicable  
para pronóstico y gestión de la  
salud de activos industriales  
basado en elementos de  
informes preferidos para  
in Artificial  
Intelligence methods .  
Explainable  
Rahul, R., & Reddy, C. K. (2018).  
Explaining the Predictions of  
Any Clasifier.  
Ridley, M. (2022). Explainable  
Artificial Intelligence (XAI).  
Information technology and  
revisiones sistemáticas  
y
libraries,  
doi:https://doi.org/10.6017/ital  
v41i2.14683  
41(2).  
metanálisis. Sensors, 21(23).  
doi:  
https://doi.org/10.3390/s2123  
.
8
020  
Sebio Martin, M. (2020). Inteligencia  
artificial y ética.  
Neugebauer, S., Rippitsch, L.,  
Sobieczky, F., & Geib, M.  
Stepin, I., Jose M., A., Catala, A., &  
Pereira-Fariña, M. (2021).  
Una encuesta de contrastes y  
contrafactuales Métodos de  
generación de explicables  
para explicables Inteligencia  
artificial. IEEE Acces, 9,  
(2021). Explainability of AI-  
predictions  
psychological  
Elsevier, 1-10.  
based on  
profiling.  
Phillips, P. J., Hahn, C. A., Fontana,  
P. C., Yates, A. N., Greene,  
K., Broniatowski, D. A., &  
Przybocki, M. A. (Septiembre  
de 2021). Four Principles of  
Explainable Artificial. 43.  
doi:https://doi.org/10.6028/NI  
ST.IR.8312  
1
1974-12001.  
doi:10.1109/ACCESS.2021.3  
51315  
0
T.Taylor, J. E., & Taylor, G. W. (6 de  
Noviembre de 2020). Artificial  
cognition: How experimental  
psychology can help generate  
Pradhan, R., Lahiri, A., Galhotra, S.,  
explainable  
intelligence.  
artificial  
Psychonomic  
&
2
Salimi, B. (12 de Junio de  
022).  
Explainable  
AI:  
Bulletin & Review , 28(454-  
Foundations,  
Opportunities  
Management  
Sigmod.  
doi:10.1145/3514221.352256  
4
Applications,  
4
0
75). doi:10.3758/s13423-  
20-01825-5  
for  
Data  
Research.  
Tjoa, E., & Guan, C. (27 de Octubre  
de 2021). Una encuesta sobre  
inteligencia artificial explicable  
(
XAI): Hacia la XAI médica.  
IEEE Transactions on Neural  
Networks and Learning  
Systems, 32(11), 4793-4813.  
Rabiul Islam, S., Eberle, W., &  
Ghafoor, S. K. (s.f.). Towards  
Quantification of Explainability  
1
00  
Ibarra-Pincay et al. (2024)  
doi:10.1109/TNNLS.2020.302  
314  
7
Valle-Cruz, D., Lopez Chau, A.,  
Ramos Corchado, M. A., &  
Muños Jimenez, V. (1 de Julio  
de 2022). Emotion-Aware  
Explainable  
Intelligence for Personality,  
Emotion, and Mood  
Simulation. Computación y  
Sistemas, 26, 45-57.  
Artificial  
doi:https://doi.org/10.13053/c  
ys-26-1-4151  
Vaquero de Miguel, G. (Julio de  
2
020). Aproximaciones a la  
explicación de decisiones  
algoritmicas: Inteligencia  
Artificial Explicable.  
Vilone, G., & Longo, L. (12 de  
Octubre  
de  
2020).  
Artificial  
Systematic  
78.  
Explainable  
Intelligence:  
Review.  
a
doi:https://doi.org/10.48550/ar  
Xiv.2006.00093  
Vilone, G., & Longo, L. (4 de Agosto  
de 2021). Classification of  
Explainable  
Artificial  
Intelligence Methods through  
Their  
Machine  
Output Formats.  
learning  
&
knowledge extraction, 615-  
61.  
6
doi:10.3390/make3030032  
Zhang, G. (2 de Abril de 2022).  
Aplicaciones de la Teoría de  
la Atribución Social en XAI.  
MDPI,  
81(1),  
101.  
doi:htpps://doi.org/10.3390/pr  
ocededings2022081101  
1
01