Peritaje IA

Peritaje y Asesoramiento en los proyectos de IA

This post is also available in: Inglés

El vertiginoso avance de la IA y las expectativas marcadas en la misma hacen que las empresas estén invirtiendo ingentes cantidades de dinero para realizar su transformación digital inteligente. La mayoría de las empresas actúan por inercia de mercado y así evitar su posible desaparición.  Este hecho conlleva que dicha transformación se inicia sin ni siquiera conocer el alcance de la misma y sin mantener personal cualificado que conozca sus implicaciones. En esta línea, se hace evidente la existencia de numerosos riesgos asociados, acentuando la necesidad de contratar un equipo de expertos en dicha transformación e integración de los procesos de Inteligencia Artificial.

Estamos inmersos en una nueva revolución social, económica y cultural que bajo el paraguas de cuarta revolución industrial Schwab, K. (2016) engloba un sinfín de avances tecnológicos y científicos SGT del Ministerio de Ciencia, Innovación y Universidades (2019), Svetlana Sicular, Kenneth Brant (2018). En el seno de dicha transformación surgirán tecnologías que fracasarán y otras que evolucionarán para quedarse, pero todas ellas llevarán consigo un denominador común. En esencia, la digitalización de los procesos de la empresa de la mano de la Inteligencia Artificial (IA) y la robótica gobernaran la automatización de los mismos[1] McKinsey&Comapny (2018).  Por ello, podríamos indicar que si bien el ser humano crea tecnologías para hacer que las máquinas sean inteligentes, estas máquinas aumentarán las capacidades humanas.

En prácticamente todos los casos en los que la implantación de tecnologías asociadas a la IA en la empresa ha fracasado se identifican los mismo errores:

  • Falta de transparencia e interacción entre el proceso de IA y el cliente. Así como la opacidad existente de los algoritmos de IA que cada vez son más complicaos y no dejan interactuar entre dicho proceso y el personal humano.
  • Escasa especialización y experiencia de los empleados y directivos en tecnologías asociadas a la IA. Que conlleva unas expectativas elevadas poco realistas acorde a lo que las tecnologías de IA pueden hacer en la actualidad.
  • Alto coste en tiempo y dinero en la implantación de los procesos con IA. Se debe entre otras a la falta de madurez de la tecnología y un alto coste de las plataformas comerciales sobre las que se implantan los procesos de IA, falta de recursos (datos de calidad) para implantar y entrenar correctamente el proceso de Inteligencia Artificial así como la poca flexibilidad de cambio con las tecnologías heredadas y que están en uso a la vez q se desarrolla el proyecto. O la tardanza en revertir el costo invertido en su integración al negocio de la empresa.
  • Falta de alineación con la estrategia de la empresa y expectativas poco realistas de las posibilidades de la IA actual.

La auditoría de este tipo de proyectos de IA así como su peritaje deberán tener en cuenta la experiencia de los fracasos y puntos anteriormente mencionados:

  • Estrategia: Será necesario evaluar si la solución de IA está estrechamente ligada a la estrategia de la organización, manteniendo unas expectativas coherentes a las posibilidades actuales de la IA y unas necesidades reales de interacción con las demandas de sus clientes.
  • Transparencia y gobernanza: Acorde a las directrices de la Comisión Europea, el proceso de IA deberá tener la posibilidad de interactuación con el personal experto en cualquier paso del proceso. Del mismo modo la IA en ningún caso deberá actuar por si solo dejando de lado la actuación y decisión de un humano.
  • Seguridad: A parte de la ciberseguridad, fiabilidad y robustez de los canales de comunicación y la infraestructura con la que trabajará los procesos de IA (entorno comercial o creado a medida, sistemas de almacenamiento, etc..), se deberá certificar la seguridad y robustez de los datos e información que el proceso de IA utiliza. Así como restringir el acceso y manipulación de los mismo, evitando un uso indebido de dicha información tanto por el mismo proceso de IA como por los potenciales clientes o los mismos empleados.
  • Tratamiento de la información: Se deberá estudiar si la información con la que el proceso de IA se entrena es coherente a su cometido y suficiente para conseguir una alta fiabilidad de éxito.
  • Evaluación del proceso de IA: En este punto se deberá estudiar tanto si el algoritmo utilizado es válido para el cometido y las expectativas marcadas en la estrategia como su fiabilidad de éxito. Del mismo modo y acorde a las directrices de la Comisión Europea se tendrá que estudiar el uso ético y responsable de dicho proceso: Por un lado la IA no debe realizar acciones no establecidas a su propósito. Y por otro lado, deberá velar por el bienestar de la humanidad y ser sensible al medioambiente y los grupos más desprotegidos.
  • Impacto sobre la humanidad: Toda inversión en innovación tecnológica lleva consigo una optimización en recursos humanos. Pero en esta ocasión, los altos directivos deberán tener en cuenta que la implantación de los proyectos IA a corto plazo no garantizan su éxito. Además, es evidente que en paralelo se deben mantener los servicios y la atención al cliente existente hasta la fecha. Por otro lado, una buena estrategia sería reubicar al personal e incluso formar expertos sobre el uso de esta nueva tecnología consiguiendo un sistema hibrido (Autónomo y humano) que permita mejorar la productividad y la agilidad de reacción ante posibles fallos inicialmente no previstos.

ciclo de auditoria de inteligencia artificial

En definitiva, antes de abordar un proyecto de integración de IA en el seno de la organización se deberían tener en cuenta estos tres puntos:

  • Evaluar el mercado y los profesionales dedicados al desarrollo de soluciones IA estimando la propuesta de solución más realista acorde a las expectativas y estrategia de la organización.
  • Crear un equipo neutro externo de asesoramiento, auditoría interna y peritaje que dirija y evalué todos los recovecos del proyecto de transformación y la casuística encomendada a la IA, interactuando de forma flexible y diaria con la dirección. Este equipo debe conocer y estar familiarizado en los diferentes estándares y marcos de actuación para dicho cometido. Como por ejemplo el implementado por The nstitute of Internal Auditors[2] o el nuevo estándar de gestión de riesgos sobre el desarrollo y aplicación de la IA de IEC e ISO[3] (ISO/IEC JTC 1/SC 42). Así como las directrices fijadas recientemente por la Comisión Europea en aras del establecimiento de una gobernanza y uso ético de la IA centrada en el ser humano[4]. También se debe conocer y hacer cumplir la legislación marcada por los estados en los cuales la IA trabajará evitando actuaciones incontrolables y que estén fuera de la legalidad.
  • Certificar y evaluar todos los aspectos establecidos en dichos estándares, directrices y marcos de actuación. Obteniendo los sellos de cálida de alguna de las partes del proyecto como pueden ser la ciberseguridad o el tratamiento de datos personales.

REFERENCIAS

Kranzberg, M. (1986). Technology and History: “Kranzberg’s Laws”. Technology and Culture, 27(3), 544-560. doi:10.2307/3105385

McKinsey&Comapny (2018). “The promise and challenge of the age of artificial intelligence”. Briefing note prepared for the tallinn digital summit

Schwab, K. (2016). La cuarta revolución industrial. Debate.

SGT del Ministerio de Ciencia, Innovación y Universidades (2019). “Estrategia Española de i+d+i en inteligencia artificial[5]

Svetlana Sicular, Kenneth Brant (2018), “Hype Cycle for Artificial Intelligence”, 2018, Published: 24 July 2018 ID: G00357478[6]

[1] https://www.mckinsey.com/featured-insights/artificial-intelligence/the-promise-and-challenge-of-the-age-of-artificial-intelligence

[2] https://na.theiia.org/standards-guidance/topics/Pages/Artificial-Intelligence-Resource-Exchange.aspx

[3] https://www.iec.ch/dyn/www/f?p=103:7:0::::FSP_ORG_ID:21538

[4] https://ec.europa.eu/transparency/regdoc/rep/1/2019/ES/COM-2019-168-F1-ES-MAIN-PART-1.PDF

[5] https://ec.europa.eu/transparency/regdoc/rep/1/2019/ES/COM-2019-168-F1-ES-MAIN-PART-1.PDF

[6] http://k1.caict.ac.cn/yjts/qqzkgz/zksl/201808/P020180814355000666438.pdf

Post a Comment

You don't have permission to register