Bain & Company presentó cinco principios que pueden ayudar a las empresas a prevenir riesgos para alcanzar sus objetivos de IA responsable y cumplir sus ambiciones estratégicas.
Durante el último año la inteligencia artificial se ha posicionado como una herramienta importante en el uso cotidiano tanto de personas como de empresas. La optimización de procesos repetitivos y la creatividad que brinda la IA dejan en evidencia que en un futuro cercano esta tecnología será adoptada por completo en diversas industrias, incluida la de los servicios financieros. Sin embargo, para Bain & Company, la inteligencia artificial aún presenta algunos desafíos en su uso, especialmente en asuntos relacionados con la privacidad en el manejo de información sensible tanto de la empresa como de los clientes. Por tal motivo, los directivos y ejecutivos de las empresas deberán comprender las implicaciones de la IA generativa para la privacidad, la equidad, la ética y la sociedad.
Según el informe de Bain, los riesgos relacionados con fraude y ciberataques que se pueden presentar por el uso excesivo de la inteligencia artificial en el desarrollo de operaciones financieras aún no están cubiertos por las empresas. En ese sentido, el 73% de las entidades financieras en Colombia solo hicieron uso de la IA para el desarrollo de tareas internas que permitieron optimizar sus operaciones, según cifras de Asobancaria. De esta forma, las entidades evitaron problemas de ciberseguridad que pudiesen generar esta tecnología, anulando la generación de correos electrónicos maliciosos, ataques de phishing y «deepfakes» de voces e imágenes, entre otros problemas. En este sentido, para que el sector bancario pueda implementar la IA generativa en procesos que beneficien a sus clientes, estas empresas primero podrían integrar a su operación los siguientes cinco principios sugeridos por la consultora:
1. Centrarse en el ser humano
Para que la IA sea confiable en su operación, debe estar diseñada para la intervención y supervisión de humanos. Es fundamental que las empresas del sector financiero se aseguren de que haya un supervisor que revise continuamente el bucle y las operaciones del modelo generado a partir de la IA, ya sea para revisar los comentarios o para abordar un problema planteado. Los usuarios finales y demás terceros siempre deben saber cuándo una decisión, contenido, consejo o resultado es el resultado de un algoritmo.
2. Saber a qué atenerse
Con una oferta cada vez mayor de modelos de base y proveedores, las entidades financieras tendrán que seleccionar el servicio y el proveedor adecuados para el alojamiento y protección de la información. Actualmente existen dos alternativas para el almacenamiento de la información. La primera, es un software totalmente alojado en la nube, mientras que la otra es infraestructura gestionada de forma privada. Al igual que con otras tecnologías en la nube, las empresas tendrán que sopesar la simplicidad de la contratación única frente al riesgo de quedar atrapadas en un único proveedor, y conocer las normas de seguridad, privacidad y residencia de datos de su proveedor. Con estas opciones, las empresas de servicios financieros pueden mitigar específicamente los problemas de privacidad de los datos de clientes y organizaciones, así como los riesgos de seguridad y rendimiento, optando por la arquitectura tecnológica adecuada y centrándose en la creación de capacidad en ingeniería y resultados rápidos
3. Ganar la confianza
Los Gobiernos y sus entidades reguladoras se están actualizando frente a las consecuencias de la IA generativa. Por tal motivo, es indispensable que el sector financiero inicie su preparación para supervisar, evaluar y abordar todos los riesgos de forma proactiva y adoptando un enfoque con visión de futuro para la gobernanza, la gestión de riesgos y los informes de cumplimiento, evitando así sanciones o retrasos en las operaciones cuando entre en vigor la reglamentación de la IA.
4. Emplear la agilidad
Dada la naturaleza de rápida evolución de esta tecnología, las empresas tendrán que seguir supervisando sus aplicaciones para detectar riesgos nuevos y en desarrollo después de su despliegue apoyándose en los operadores humanos. Asimismo, todas las herramientas y modelos que construya la IA deberán primero ser probados y testeados con muestras pequeñas de información antes de ser liberados y utilizados con datos masivos de los clientes.
5. Actuar con intención
Una vez las empresas incorporan la IA generativa en sus operaciones, estas deben centrarse en usos de bajo riesgo, es decir, operaciones sencillas centradas en procesos internos. Más adelante, a medida que maduran sus capacidades de IA responsable, las empresas pueden trabajar en tareas con mayor riesgo y complejidad. Una vez que esas aplicaciones han construido bucles de retroalimentación detallados, pueden expandirse a un público más amplio.
Finalmente, la IA generativa ha dejado de verse lejana en el desarrollo de operaciones financieras y es ahora una realidad que optimizará procesos y brindará mayores oportunidades de crecimiento para colaboradores y a las empresas en sí mismas. No obstante, se debe hacer una incorporación responsable, mediante la creación de normativas y manuales de uso de esta tecnología, haciendo que las organizaciones de servicios financieros tengan la oportunidad no sólo de obtener una ventaja competitiva en un mundo cada vez más digital, sino también de dar ejemplo de responsabilidad y previsión.