El libro El Cisne Negro en una de sus muchas frases interesantes indica que la historia no gatea, da saltos, para dar a entender que muchos de los cambios que pareciera se dan de la noche a la mañana son producto de procesos que ocurren de forma paulatina, poco a poco, de forma tal que muchas veces las grandes transformaciones que nos toman por sorpresa, es producto de no prestar atención a lo que estaba ocurriendo.
Esta situación está sucediendo con el auge de la Inteligencia Artificial, que ha tomado por sorpresa a muchos, aunque es un proceso que se está gestando desde hace décadas. En la actualidad la versión más moderna, y que está de moda de IA, es el Chat GTP, en la cual por medio de un algoritmo generativo, respaldado con mucho poder de cómputo, puede ayudarnos en todos los ámbitos de nuestra vida personal y profesional a crear conocimiento e impulsar el desarrollo individual, organizacional y de nuestros países.
La inteligencia artificial, como dije anteriormente, tiene muchos años de estar con nosotros, por ejemplo, cuando usamos Waze o seguimos la recomendación de Netflix para ver alguna película o serie, estamos haciendo uso de esta tecnología para nuestro beneficio, ya sea para llegar más rápido a algún lugar o pasar un rato de ocio.
Pero como todo en la vida, al igual que la energía atómica, puede ser usada para el bien o para el mal, o los que somos seguidores de La Guerra de las Galaxias, diríamos que tenemos que ser muy sabios en su uso para no pasar al lado oscuro de la fuerza.
Es en este aspecto, que el uso de la IA no pase al lado oscuro de la fuerza, donde los Auditores Internos podemos agregar mucho valor a nuestras organizaciones cuando revisamos los algoritmos de inteligencia artificial, por ejemplo, al considerar lo siguiente:
- La calidad de los datos con la cual se entrena el modelo, pues si no son confiables, los algoritmos no van a suministrar información útil para la toma de decisiones, y puede ocasionar daños económicos y reputacionales irreparables.
- Evaluar los criterios utilizados para escoger un determinado modelo, por ejemplo, se considera que sea el adecuado para el problema que la organización pretende resolver, se escoge porque es el que tiene mejores indicadores en la Matriz de Confusión y/o validación cruzada, etc.
- Auditar los criterios técnicos para considerar en el modelo ciertas variables predictoras, o los utilizados para eliminar algunas. Es importante hacer este análisis, porque al agregar o eliminar ciertas variables predictoras podría incentivar un resultado u otro.
- Evaluar si el problema se abordó de forma adecuada, por ejemplo, si la variable a predecir es cualitativa o cuantitativa, pues esto determina si es de Clasificación (variable cualitativa) o de Regresión (variable cuantitativa). Un problema cuya variable a predecir sea cualitativa y se aborde con técnicas de regresión, o que sea cuantitativa y se analice con técnicas de clasificación, generará resultados incorrectos, afectando la toma de decisiones.
- Revisar si Tabla de Testing utilizada para probar el algoritmo es distinta a la Tabla de Entrenamiento que se utilizó para entrenar el modelo, porque si el algoritmo se prueba con la misma base con que se entrenó, no va a tener ningún sentido la prueba.
- Analizar si el uso de la IA está definido y alineado con los principios éticos de la organización, el marco legal existente y las buenas prácticas.
- Grado de actualización del inventario de algoritmos de inteligencia artificial, donde se indique claramente su objetivo.
- Evaluar si en la gestión de riesgos se consideró el análisis de los riesgos de un comportamiento erróneo de los algoritmos, y contemplan los controles compensatorios apropiados.
- Aprobación formal por los analistas y programadores de cada algoritmo, aquí es fundamental que entiendan las normas éticas que deben respetar durante la programación, y comprometerse con su cumplimiento.
- Verificar que los sistemas autónomos conserven registros que justifiquen la lógica de sus decisiones cuando sea preciso.
Los anteriores son algunos ítems que podemos incluir en nuestros procedimientos de auditoría, pero hay muchos más los cuales tendríamos que agregar, los cuales conforme el equipo de auditoría interna adquiera más habilidades sobre ciencia de datos podrá incluir en el análisis.
Lo que sí es un hecho es que no podemos voltear la cabeza para otro lado para decir que la Inteligencia Artificial no es con nosotros, porque es como una ola, en la cual tenemos dos opciones, nos preparamos para poder surfearla o nos cae encima.
Finalmente, mi criterio es que no creo que la IA sustituya a la Auditoría Interna, lo que sí creo es que el Auditor Interno que no la utilice va a ser sustituido por el que si la usa.
