Un Enfoque Integral para Transformar el Buen Gobierno en la Era de la IA
En mis años de experiencia en el cruce entre la tecnología y el buen gobierno, he visto cómo las organizaciones enfrentan desafíos sin precedentes al incorporar inteligencia artificial (IA) en sus procesos de negocio. La adopción de esta tecnología promete transformaciones profundas, pero también trae consigo riesgos considerables que deben gestionarse adecuadamente. Hoy, la auditoría interna tiene un papel fundamental: garantizar no solo el cumplimiento normativo y la calidad operativa, sino también que la IA se implemente de manera ética, transparente y con riesgos controlados.
Vuelvo a tocar este tema, pero con mi viejo perfil de especialista en riesgo, que nunca desaparece y despierta con alertas sobre algunas temáticas. Asi en en este artículo examino, reflexiono sobre los desafíos y oportunidades que la auditoría interna tiene en la era de la IA, con un enfoque particular en América Latina, dada sus particularidades bien conocidas. También voy a comentar cómo los estándares internacionales pueden servir de guía para garantizar la seguridad, la eficiencia y la inclusión de la IA, y cómo estos marcos pueden ser adaptados a la realidad de nuestra región, espero te resulte interesante esta visión.
La Regulación como Motor de Confiabilidad
La normativa internacional sobre IA está avanzando rápidamente, especialmente en Europa, donde la Inteligencia Artificial Act aprobada en 2024 impone obligaciones estrictas para garantizar que los sistemas de IA sean seguros, éticos y respeten los derechos fundamentales. De acuerdo con esta regulación, los sistemas de IA se clasifican según su nivel de riesgo, desde alto riesgo, como aquellos aplicados en decisiones de salud y justicia, hasta riesgo inaceptable, como los que manipulan comportamientos sin el consentimiento del usuario.
Uno de los aspectos más relevantes de la ley europea es su enfoque preventivo: todos los sistemas de IA de alto riesgo deben pasar por evaluaciones de conformidad antes de entrar al mercado. Las sanciones por incumplimiento pueden alcanzar hasta 35 millones de euros o el 7% de la facturación anual. Esto establece un precedente clave para otras regiones, y en América Latina necesitamos avanzar hacia un marco que, si bien se adapte a nuestras características locales, mantenga estándares similares de seguridad y ética.
En América Latina, la regulación sobre IA está en sus primeras etapas, pero se observan avances importantes. En países como Brasil y México, se han comenzado a discutir iniciativas para regular el uso de la IA, alineándose con los estándares internacionales y garantizando que la adopción de estas tecnologías respete los derechos de las personas y promueva la inclusión.
Auditoría Interna y el Control de los Sistemas de IA
El papel de la auditoría interna en este contexto es crucial. Debe evolucionar desde su enfoque tradicional para incluir capacidades que permitan la revisión de sistemas de IA, evaluando no solo aspectos financieros o de procesos, sino también el funcionamiento técnico de los algoritmos y su alineación con objetivos empresariales y valores éticos. Esta evolución es especialmente importante en la medida en que los sistemas de IA tienen un impacto directo en la toma de decisiones y, por ende, en la vida de las personas.
En el contexto internacional, los equipos de auditoría están evolucionando para integrar conocimientos técnicos y humanísticos. Es decir, los auditores deben manejar conceptos de machine learning, estadística, y también tener conocimientos en filosofía y ética, para evaluar las implicaciones de la tecnología en la sociedad y sus riesgos para los derechos humanos. La auditoría interna debe ser capaz de identificar cómo un sistema de IA toma decisiones y si estas decisiones están alineadas con los valores y principios de la organización.
Los estándares como ISO/IEC 27001 sobre gestión de la seguridad de la información y el COBIT para la gobernanza y gestión de la tecnología de la información ofrecen marcos sólidos para evaluar la infraestructura y los controles de los sistemas de IA. Además, la metodología CRISP-ML(Q), desarrollada para la calidad en el desarrollo de aplicaciones de machine learning, se está convirtiendo en una referencia para garantizar que los modelos no solo cumplan con los requisitos técnicos, sino también con las expectativas del negocio.
La Brecha entre las Expectativas y la Realidad en América Latina
En América Latina, la adopción de IA enfrenta varias barreras. De acuerdo con datos recientes de McKinsey, solo el 32% de las empresas de la región tienen una estrategia clara de IA, en comparación con el 50% en América del Norte. Además, estudios de la Universidad de Stanford muestran que solo el 1% de las patentes de IA se generan en nuestra región. Esto significa que no solo estamos adoptando tecnología más lentamente, sino que también estamos generando menos innovación localmente.
La auditoría interna puede ser una herramienta fundamental para cerrar esta brecha. La capacidad de los auditores para evaluar los riesgos y beneficios de la IA puede proporcionar una base de confianza para que las empresas adopten estas tecnologías de manera más amplia y segura. Sin un marco de auditoría sólido, los riesgos percibidos —reales o no— se incrementan, y las empresas son menos propensas a adoptar IA de manera significativa.
Estándares Internacionales y Recomendaciones para América Latina
Es fundamental que América Latina adopte un enfoque integral para la regulación y auditoría de la IA. Podemos aprender del Artificial Intelligence Act de Europa, pero debemos adaptar sus lineamientos a nuestra realidad. Algunos puntos clave a considerar incluyen:
- Regulación Proporcional: Desarrollar marcos regulatorios que no solo protejan, sino que también fomenten la innovación local. Un sistema más flexible para startups y pymes, similar al régimen sancionador específico de la Ley Europea para pequeñas empresas, podría incentivar el desarrollo tecnológico sin sofocar el emprendimiento con regulaciones excesivas.
- Capacitación Continua: Implementar programas de capacitación y reskilling en auditoría para que los equipos tengan el conocimiento técnico adecuado. Como bien menciona el documento, la combinación de habilidades técnicas y humanísticas en los auditores es esencial para abordar las complejidades de la IA.
- MLOps y Gobernanza del Dato: Es clave incorporar prácticas de MLOps para mantener la calidad y confiabilidad de los sistemas de IA a lo largo del tiempo. Los estándares como ISO 38500 para la gobernanza de TI y ISO 20000 para la gestión de servicios de TI pueden ayudar a estructurar estos procesos y facilitar su implementación en las organizaciones latinoamericanas.
- Transparencia y Explicabilidad: La auditoría interna debe garantizar que los sistemas de IA sean transparentes y explicables. Esto significa que debe ser posible entender cómo y por qué una IA tomó una decisión determinada. En 2024, un informe del Banco Mundial destacó que la transparencia es fundamental para generar confianza en la adopción de la IA, especialmente en mercados emergentes como los de América Latina. Garantizar la trazabilidad de los modelos de IA y la capacidad de explicar sus decisiones en términos comprensibles para los usuarios es clave para una adopción exitosa.
IA Ética: Una Responsabilidad Compartida
Otro aspecto crucial de la auditoría de IA es asegurar que estas tecnologías operen de manera ética. La ISO 24028, publicada en 2023, establece directrices para garantizar la ética en los sistemas de IA, incluyendo la necesidad de monitorear el sesgo algorítmico y asegurar que el desarrollo de IA sea inclusivo y beneficioso para todos. La ética de la IA es una responsabilidad compartida que no puede relegarse a los departamentos de TI o innovación, sino que debe involucrar a toda la organización.
En América Latina, donde las desigualdades socioeconómicas son profundas, el sesgo en los modelos de IA podría ampliar aún más estas brechas. Por ejemplo, algoritmos entrenados con datos sesgados podrían discriminar a ciertos grupos al acceder a servicios financieros o laborales. Es por eso que los auditores internos deben asegurarse de que las prácticas de desarrollo y entrenamiento de los modelos sean inclusivas y reflejen la diversidad de la población.
Auditoría Basada en Datos: Incorporando el Data-Driven Auditing
La auditoría interna de sistemas de IA también debe evolucionar hacia un enfoque más basado en datos, conocido como Data-Driven Auditing. Este enfoque implica el uso de análisis de datos en tiempo real para identificar anomalías y patrones que puedan indicar un comportamiento inesperado o no deseado de los sistemas de IA. De acuerdo con un estudio de Deloitte de 2024, el 63% de las empresas a nivel mundial planea integrar análisis de datos en sus prácticas de auditoría interna en los próximos tres años, lo cual subraya la importancia de la auditoría basada en datos para el futuro.
En América Latina, este enfoque permitiría una auditoría más efectiva y proactiva, detectando problemas antes de que se conviertan en riesgos reales. La adopción de herramientas de análisis avanzadas no solo mejorará la calidad de la auditoría interna, sino que también contribuirá a una mejor comprensión y control de los riesgos asociados con la IA.
Mi Reflexión Final: La IA en América Latina, un Desafío y una Oportunidad
La inteligencia artificial está aquí para quedarse, pero el impacto que tendrá en nuestras sociedades depende en gran medida de cómo la adoptemos y la controlemos. En América Latina, tenemos la oportunidad de aprender de lo que otros están haciendo bien (y de sus errores) para implementar marcos robustos que generen confianza y promuevan la innovación.
Como auditores internos, como empresarios y como sociedad, debemos exigir transparencia, responsabilidad y ética en el uso de estas tecnologías. La IA tiene el potencial de transformar la forma en que hacemos negocios y vivimos nuestras vidas, pero solo si se utiliza con cuidado, con una gobernanza adecuada y con una visión clara de los beneficios para todos.
El reto está frente a nosotros: ¿seremos capaces de adoptar la IA de manera ética, segura y efectiva, asegurándonos de que sus beneficios lleguen a todos los rincones de nuestra región?
Si estás buscando orientación sobre cómo implementar prácticas de auditoría interna efectivas para la IA en tu organización, o necesitas adaptar estos conceptos a la realidad de tu empresa, estoy aquí para ayudar. Juntos podemos diseñar un enfoque que maximice el valor de la IA, garantizando seguridad, ética y eficiencia.