Auditoría Interna de los Sistemas Inteligentes

AUDITORIA INTERNA: SISTEMAS DE IA, USO DE ESTRATEGIAS Y SERVICIOS COGNITIVOS, INGENIERIA Y CIENCIA DE DATOS

El uso de la IA se esta convirtiendo en un imperativo estratégico a nivel mundial. El gran empuje y evolución de esta nueva IA está transformando la manera de hacer las cosas dentro de las organizaciones. Convirtiendo la nueva IA en la columna vertebral para la toma de decisiones de la compañía.

Decisiones automatiazdas y Procesado masivo de Datos

Esta toma de decisiones automatizada, junto con el procesado masivo de datos (Big Data, Data Mining, Machine and Deep Learning) en negocios como la práctica médica (Bioinformatica y/o Biomedicina), la administración pública o el sistema judicial. Así como el uso de estas herramientas en campañas de marketing digital personalizado, están exponindo al ser humano ante situaciones de vulnerabilidad y perdida derechos y libertades fundamentales. Por ello, aunque podemos decir que es indiscutible las ventajas que aporta esta nueva tecnología a la organización. Su uso conlleva innumerables riesgos y dilemas éticos que deben ser legitimados y evaluados antes de su implantación.

La situación actual es una tecnología en constante evolución con innumerables estándares y marcos de desarrollo (estándares Nacionales Americanos como ISO / IEC JTC 1 / SC 42, NIST EO 13859;  la Oficina del Comisionado de Información del Reino Unido (ICO); o las diferentes normativas y estándares ISO como los ISO 27001,  31000 e ISO 22301 o la reglamentación CIAS para el análisis de riesgos en IA). Y con un régimen jurídico en construcción (normativa en materia de seguridad y responsabilidad civil, propuesta establecida el 20 octubre de 2020 por la Comisión Europea, así como la adecuación de la carta de derechos digitales, derechos y libertades fundamentales que cubre la constitución o los diferentes códigos y directrices éticas de uso de la IA). Todo ello deriva en la necesidad de realizar estudios de viabilidad y auditorias internas por grupos de exertos independientes que faciliten y guíen a las organizaciones en este proceso de transformación.

La experiencia de nuestros profesionales en innumerables auditorias, peritajes y procesos de cambio tecnológico en IA, Big Data, BI y Digitalización Empresarial. Así como su tenaz compromiso en un desarrollo ético y eficaz de esta nueva IA. Consituyen un pilar básico para los directivos y CEO`s de las organizaciones en el desarrollo de un plan estratégico que establezca las pautas a seguir en este nuevo proceso de transformación. Cuyo objetivo principal será la optimización de los riesgos y amenazas intrínsecas a todo proceso de cambio y uso de esta nueva tegnologia.

Metodología acorde a estanderes. Integrando sus requisitos a una futura normativa regulatoria de la IA

Nuestra metodología de desarrollo en auditorías internas y gestión de riesgos, evalúa los puntos más importantes a tener en cuenta dentro del ciclo de vida de un proyecto de implantación de IA y establece un marco y hoja de ruta para el mismo:

  • Modelos de ética y gobernanza de la inteligencia artificial.
  • Normas y procedimientos formales para la implementación de trabajos de inteligencia artificial.
  • Gestión de datos y modelos, gobernanza y privacidad.
  • Evaluación de los algoritmos y técnicas de toma de decisión más acorde a las necesidades del contexto de la organización.
  • Comprender la integración hombre-máquina, las interacciones, el apoyo a la decisión y el resultado
  • Gestión de proveedores de IA de terceros
  • Vulnerabilidad de ciberseguridad, gestión de riesgos y continuidad del negocio.
  • Proceso formativo de directivos y empelados en puntos clave de la organización

Estos puntos establecen un marco mínimo en el que se debe basar el nuevo plan estratégico, y que nuestros informes establecen como requisitos mínimos evaluables. Hay que tener en cuenta que estos puntos deben evaluarse en todas y cada una de las partes de la organización en las que se desea implantar un sistema de IA. Por tanto, repercute en todos los departamentos de la compañía y procesos internos.  Por otro lado, enfatizar el hecho de que estas auditorias deben ser dinámicas y vistas como un punto de partida de todo cambio estratégico.

Posteriormente a la implantación de los procesos de IA, es conveniente realizar otra auditoria de confirmación del sistema global de IA. Esta nueva auditoria buscará el acoplamiento de los procesos de IA a la cultura interna de la compañía para detectar posibles desviaciones y amenazas en su uso. Por ello, el mismo equipo de profesionales podrán evaluar el impacto de uso de dicha tecnología. Este último proceso permitirá redactar un nuevo informe de riesgos y posibles amenazas a tener en cuenta por parte de la dirección.

Contacte con nosotros en el siguiente formulario o en el 911277300:

You don't have permission to register