Gestión de riesgos y beneficios de Automation Intelligent
Gestión de riesgos y beneficios de Automation Intelligent

Gestión de riesgos y beneficios de Automation Intelligent

Las soluciones de Automation Intelligent pueden traer grandes beneficios, pero la pandemia acelero el ritmo de la automatización y la implementación acelerada de estas soluciones abrió nuevas brechas de seguridad. En el siguiente artículo recuperamos los resultados de una encuesta de Mckinsey & Company sobre la gestión de riesgos de las soluciones de Automation Intelligent.

Aceleración de Automation Intelligent

La pandemia de COVID-19 ha llevado la digitalización empresarial a toda marcha. En encuestas a altos ejecutivos, más de dos tercios dicen que sus empresas han acelerado la adopción de la digitalización y la automatización desde el inicio de la crisis (Gráfico 1).

Por lo tanto, muchas instituciones (incluidos bancos, compañías de seguros y otras grandes empresas corporativas) están implementando soluciones de automatización e IA, una combinación que se denomina cada vez más “automatización inteligente o Automation Intillegent”, para optimizar los procesos comerciales de extremo a extremo, automatizando no solo las actividades tácticas sino también más. problemas complejos de predicción y toma de decisiones.

Gráfico 1 gestión de riesgos automation intelligence

Gráfico 1 gestión de riesgos automation intelligence

Las soluciones de automatización inteligente pueden ayudar a lograr ganancias en eficiencia y eficacia, y respaldar la toma de decisiones al extraer nuevos conocimientos de datos complejos. Pero, al igual que con otras formas de IA, también pueden aumentar los riesgos para el negocio y dar lugar a un mayor escrutinio por parte de los reguladores: estas herramientas y tecnologías podrían, en última instancia, afectar la prestación de servicios comerciales críticos para el ecosistema circundante.

Riesgos de Automation Intelligent

Los riesgos de IA provienen de muchas fuentes. Entre los más importantes se encuentran las posibles infracciones de las reglas de privacidad de datos en el desarrollo de modelos; una falta de transparencia sobre cómo funcionan estos sistemas, con el riesgo de que las fallas en el diseño del modelo o la selección de datos de entrenamiento puedan introducir errores, injusticia o sesgo; y nuevos riesgos de seguridad cibernética, como la extracción de modelos o el “envenenamiento de datos” deliberado por parte de actores malintencionados (gráfico 2)

Gráfico 2

Gráfico 2

La mayoría de las empresas aún no cuentan con las estructuras y herramientas adecuadas para gestionar de manera efectiva los riesgos y beneficios de Automation Intelligent. Específicamente, los diferentes aspectos del desarrollo y la operación del sistema (como la implementación y la gestión del sistema, la gestión del riesgo, la resiliencia y la optimización de los procesos empresariales) a menudo son gestionados por varias funciones de forma fragmentada. Además, las organizaciones generalmente carecen de marcos, procesos e infraestructura sólidos para garantizar la evaluación efectiva de riesgos y retornos de la IA y la automatización. Por lo tanto, es cada vez más crítico que las empresas incorporen consideraciones específicas de automatización en sus programas más amplios de gestión de riesgos digitales e inteligencia artificial.

Hacia una mejor comprensión del riesgo de Automation Intelligence

Para impulsar decisiones estratégicas en toda la organización, las instituciones pueden crear una visión holística tanto de los beneficios como de los riesgos de la automatización inteligente, incluso dónde estas herramientas tocan procesos críticos y dónde podría haber vulnerabilidades. También deben comprender no solo cómo simplificar y automatizar los procesos, sino también cómo reducir sistemáticamente el riesgo y mejorar la resiliencia institucional. Para este propósito, se pueden considerar cinco pasos tácticos clave a lo largo del ciclo de vida de la automatización y la IA (Gráfico 3)

Gráfico 3

Gráfico 3

Paso 1. Establece un centro de excelencia de riesgo-retorno dedicado a automation intelligent

El primer requisito es reunir toda la información relevante y la supervisión de decisiones en un solo lugar. Una forma de hacer esto es establecer un centro de excelencia (CoE) dedicado para la gestión de riesgo-rendimiento de Automation Intelligence. Esta función central sería responsable de garantizar que las soluciones de IA y automatización impulsen el rendimiento y el valor en todos los procesos comerciales, sin aumentar el riesgo más allá de los límites definidos por la organización.

Para lograr este objetivo, el CoE necesita una visión integral de tres cosas. Primero, debe comprender la taxonomía empresarial de los servicios y procesos comerciales en toda la organización; estos se convierten en una única fuente de verdad para discutir y navegar por el panorama del proceso.

En segundo lugar, debe saber en qué parte de esos procesos se implementan la IA y la automatización hoy, y dónde existe el potencial para aumentar la eficiencia o el rendimiento comercial con el tiempo mediante la implementación de casos de uso adicionales. Finalmente, debe tener una imagen clara de las vulnerabilidades identificadas en las soluciones de automatización e IA actuales y propuestas.

Errores de implementación

Debido a que las soluciones de automatización simples generalmente se basan en enfoques bastante deterministas, es más probable que los riesgos involucrados se centren en errores de implementación o configuración incorrecta.

Eso contrasta con los riesgos inherentes a las técnicas complejas de la IA, que generalmente están diseñadas para abordar la incertidumbre y, por lo tanto, plantean conjuntos más amplios de problemas potenciales, como la exclusión y varias formas de sesgo. En consecuencia, los riesgos de automatización a menudo pueden entenderse como un subconjunto de los riesgos de IA.

Para construir esta imagen, el CoE de riesgo-rendimiento de automatización inteligente puede aprovechar la experiencia interna, así como las capacidades que existen en otras partes del negocio.

Por ejemplo, en la banca, el equipo de gestión de riesgos de modelos normalmente proporcionaría una visión de las vulnerabilidades identificadas en la IA, como los problemas relacionados con el sesgo y la equidad en la toma de decisiones, o con la “explicabilidad” de los modelos subyacentes.

El CoE desempeñaría un papel estratégico en la coordinación de las actividades ya realizadas no solo por la función de gestión de riesgos del modelo, sino también por los equipos legal, de cumplimiento y de TI, extrayendo información relevante a través de sólidos procesos de generación de informes.

Paso 2: Identificar y priorizar oportunidades para la optimización integral y la simplificación del negocio

Es posible que las organizaciones ya estén utilizando una amplia gama de aplicaciones de IA y automatización, con muchas más en consideración o en desarrollo. La creación y mantenimiento de un inventario detallado de estas aplicaciones es una tarea fundamental para el CoE de riesgo-rendimiento de automatización inteligente.

Este inventario incluiría información sobre la metodología y técnicas utilizadas en cada caso, así como la plataforma de implementación, los procesos de negocio en cuestión, el propietario del sistema y cualquier proveedor de tecnología asociado. También incluiría detalles sobre todas las posibles vulnerabilidades identificadas en el enfoque.

Se requeriría que las unidades de negocios envíen esta información al CoE para cada aplicación de IA y automatización que implementen, con revisiones y auditorías periódicas para garantizar que la información esté siempre actualizada. El proceso podría basarse en la inteligencia existente: los equipos de gestión de riesgos de modelos de los bancos suelen mantener un inventario modelo, con una vista de las soluciones de IA utilizadas en toda la organización.

Riesgos-rendimiento

El inventario de IA y automatización respalda ambos lados de la ecuación riesgo-rendimiento. Al proporcionar una visión completa de cómo y dónde ya se está utilizando la IA en la organización, el inventario ayuda a los líderes a identificar sinergias y oportunidades para replicar o expandir enfoques probados a nuevas áreas. Al mismo tiempo, el inventario permite que el CoE detecte riesgos, identifique a sus propietarios y administre los pasos de mitigación necesarios.

Con base en esta visión transversal de Automation Intelligence implementada en toda la organización, el CoE de riesgo-rendimiento puede tomar decisiones estratégicas sobre dónde implementar, mejorar, retirar o consolidar soluciones y tecnologías.

En ese contexto, la organización puede establecer un marco para priorizar los procesos en función del valor organizacional y el nivel crítico que establezca el negocio.

Por ejemplo, cuando una empresa global de seguridad y logística de efectivo con operaciones en múltiples geografías realizó un esfuerzo de identificación y priorización a nivel empresarial, los líderes pueden definir más de 40 soluciones estratégicas de inteligencia artificial existentes que podrían aprovechar otras empresas.

Paso 3. Desarrollar un marco sólido para integrar soluciones tecnológicas en toda la cadena de valor de extremo a extremo

Junto con los equipos de análisis y tecnología relevantes, el CoE de rentabilidad-riesgo de automatización inteligente puede establecer un proceso estandarizado y un conjunto de principios para el desarrollo y la implementación de tecnologías de automatización e inteligencia artificial. Luego, el CoE puede trabajar con las unidades comerciales para garantizar que estos principios se apliquen de manera uniforme en toda la organización. Hacer esto aumenta la transparencia en los esfuerzos de IA y automatización de toda la organización y ayuda a garantizar que los riesgos y limitaciones clave se identifiquen al principio del ciclo de desarrollo.

Un banco global revisó y reescribió su playbook de desarrollo de IA y automatización para crear un enfoque de transformación común que podría aplicarse en todas las regiones y líneas de negocio.

Los estándares del playbook reforzaron el seguimiento efectivo de los riesgos del proyecto, incluido el requisito de métricas y evaluaciones de riesgo específicas, junto con el impacto, los rendimientos y los beneficios adicionales de la transformación. Igualmente importante, un riguroso sistema de priorización alentó un enfoque en las aplicaciones, procesos y servicios más críticos.

Este marco ayudó al banco a comprender, por primera vez, las limitaciones de los sistemas analíticos y de inteligencia artificial utilizados en toda la organización, lo que le permitió definir controles de mitigación sólidos.

Paso 4: evaluar los riesgos de IA y automatización

Cada sistema de IA o herramienta de automatización debe someterse a un régimen de prueba riguroso y completo para identificar cualquier riesgo de inexactitud o sesgo en la entrada, los componentes de procesamiento y la salida.

Como mínimo, la evaluación generalmente abarcaría la calidad de los datos (como el riesgo de error o sesgo en la muestra de datos), la corrección de la implementación (incluida la implementación de las fórmulas y reglas correctas), el rendimiento, la sensibilidad y la solidez del sistema. (centrándose en la precisión de salida), la claridad del modelo (dados sus casos de uso y complejidad), y cualquier sesgo e injusticia en los resultados que genera.

Algunos tipos de pruebas, incluidas las de debilidades de seguridad o susceptibilidad al envenenamiento de datos, pueden requerir los servicios de equipos especializados internos o de terceros.

Pruebas de Automation Intelligent

Cada sistema de IA o herramienta de automatización debe someterse a un régimen de prueba riguroso y completo para identificar cualquier riesgo de inexactitud o sesgo.

En industrias como la banca, las funciones que supervisan la evaluación de riesgos de análisis (como la gestión de riesgos de modelos), junto con el análisis que realizan, pueden respaldar la toma de decisiones sobre aplicaciones de IA. Un gran banco de EE. UU. había desarrollado varias soluciones de inteligencia artificial y automatización como parte de su viaje de transformación digital, incluidos chatbots, tecnología de reconocimiento óptico de caracteres (OCR), automatización de procesos robóticos y técnicas de voz a texto.

Un proceso de revisión e impugnación independiente, realizado como parte de las prácticas estándar de supervisión del banco, identificó una serie de oportunidades para mitigar los riesgos y aumentar los beneficios de eficiencia generados por estos sistemas.

Por ejemplo, surgieron problemas de inestabilidad con respecto a las técnicas de OCR. Con demasiada frecuencia, el método elegido malinterpretaba los caracteres en los identificadores de cuentas de clientes: la letra “O” se interpretaba como el número “0” o el número “5” se interpretaba como una “S”. Estas imprecisiones mapearían incorrectamente la información del cliente en los sistemas relevantes y requerirían múltiples intervenciones humanas para corregir los errores manualmente. Se implementaron controles para asegurar que los casos en riesgo fueran identificados y procesados ​​en una etapa temprana de forma controlada sin afectar a los clientes.

En otros lugares, se planeó la producción de chatbots sin un plan de monitoreo sólido para garantizar que los cambios futuros (como agregar nuevos idiomas o funciones, incluido el acceso a información bancaria confidencial) se identificaran y controlaran antes de la implementación. La introducción de dicho plan protegió al banco de posibles riesgos financieros o de reputación. También permitió a la institución realizar un seguimiento de los aumentos en la eficiencia, por ejemplo, midiendo la disminución de la necesidad de intervención humana en las interacciones básicas con los clientes.

Paso 5. Diseñar un marco y una infraestructura para monitorear el riesgo y los retornos

Finalmente, dado que las decisiones deben tomarse de manera continua, las empresas pueden definir procesos para monitorear los beneficios y riesgos de la IA y la automatización a lo largo del tiempo. En ese contexto, es necesario construir una infraestructura y un marco de seguimiento sólidos, con indicadores de rendimiento y riesgo bien definidos. Dichos marcos ya se utilizan en el sector bancario, aunque hasta ahora su enfoque se ha limitado al riesgo. Crear una perspectiva que combine tanto los riesgos como los beneficios de la IA y las tecnologías de automatización es un paso fundamental para impulsar las decisiones comerciales estratégicas en toda la organización.

Idealmente, el monitoreo proporcionaría un tablero con una vista agregada de la automatización y la IA en toda la organización, junto con información específica de la solución cuando sea necesario (como la última vez que se probó la IA, el nivel de beneficio observado a lo largo del tiempo y cualquier deterioro del rendimiento). Eventualmente, esto permitiría la creación de un mapa de calor y un panel de control en tiempo real para la acción por parte del CoE de riesgo-rendimiento de automatización inteligente (Gráfico 4).

Gráfico 4

Gráfico 4

Monitoreo de riesgos de automation intelligent

Este monitoreo estaría acompañado por un procedimiento de gestión de problemas para la corrección efectiva de errores y limitaciones identificados en las herramientas de IA y los sistemas de automatización. También aumentaría los casos en los que la eficiencia se está deteriorando con el tiempo y es necesario mejorar o desarrollar un sistema.

También te puede interesar: Guía completa de Automation Intelligent para flujos de trabajo

Resumen

La automatización inteligente ya está transformando la eficiencia de muchos procesos comerciales. Sin embargo, a medida que las empresas buscan expandir el uso de estas tecnologías a través de una aplicación más amplia y la adopción de enfoques más sofisticados, también se exponen a riesgos cada vez mayores.

Equilibrar estos riesgos con los beneficios potenciales de la automatización y la IA será un desafío fundamental en los próximos años. Las organizaciones que implementen las estructuras, los sistemas y las medidas de gobierno correctos hoy podrán desbloquear un potencial de mejora significativo.

Si quieres conocer más sobre Automation Intelligent puedes consultar Kissflow Process Automation, la herramienta de automatización BPM más sencilla disponible, diseñada para reducir los costos operativos al reemplazar las tareas manuales repetitivas con un enfoque automatizado. No dudes en ponerte en contacto con nuestro equipo para para obtener más información.

Consulta la información original

¿Cómo alcanzar la transformación digital con Low-Code?

Low-Code puede ser una herramienta que te ayude a no fallar en tu intento por alcanzar la transformación digital en tu empresa

Fases y mejores prácticas para la gestión de proyectos de software

En este artículo analizamos la gestión de proyectos de software incluidas cuatro fases para ayudar a tu empresa a escalar sus proyectos.

Implementa tu solución de IA Generativa con éxito

La IA generativa es una de las tecnologías emergentes más interesantes en la actualidad y podría revolucionar muchas industrias.

Primeros pasos para la automatización de servicios empresariales sin dolor

Exploramos cuál es la necesidad de automatización de servicios, cuáles son los desafíos, y cómo podemos hacerlo de manera efectiva sin dolor.

Innovaciones en la IA Generativa de BMC HelixGPT

Conoce las nuevas innovaciones de BMC HelixGPT la nueva herramienta de Inteligencia Artificial Generativa de BMC

Conoce los beneficios del nuevo BMC Helix IT Operation Management

Conoce la nueva versión de BMC Helix IT Operation Management ha mejorada sus capacidades de descubrimiento y visibilidad en el entrono de TI.

Paso a paso para lograr una digitalización exitosa

Para 87% de los CIO’s la digitalización es prioridad. Pero, el éxito de las iniciativas de transformación radica en la etapa de madurez.

Orquestación de flujos de trabajo y aplicaciones en el mercado minorista

Los grandes minoristas aprovechan el poder de la orquestación del flujos de trabajo de datos y aplicaciones para optimizar sus suministros.

Capacidades de DevOps habilitadas por Jobs-as-Code

Analizamos Jobs-as-Code como un enfoque de DevOps que ayuda a definir, programar, administrar y monitorear flujos de trabajo en producción.

Obtén visibilidad profunda del entorno de TI con el nuevo BMC Helix ITOM

BMC Helix Operations Management está repleto de nuevas innovaciones que brindan visibilidad incomparable en tiempo real del entorno de TI.