Por: Margarita Rueda Pinzón, decana asociada del programa Ciencias de la Computación e Inteligencia Artificial de la Universidad Sergio Arboleda.
La Inteligencia Artificial* es una de las tecnologías más importantes en la Cuarta Revolución Industrial y está impactando de manera estructural la forma de vida de los ciudadanos, la toma de decisiones, los modelos económicos y las interacciones entre las empresas, el Estado y los ciudadanos.
El país está avanzando de manera acelerada en los temas de adopción de la Inteligencia Artificial, tanto en el sector público como en el sector privado. En Colombia en lo corrido de 2021, se evidencia que los servicios de desarrollo de sistemas informáticos y procesamiento de datos han presentado un incremento del 25,8% en comparación a lo registrado en 2019 (DANE, 2021).
Asimismo, de acuerdo con el último estudio del Centro Nacional de Consultoría, la apropiación digital en el país, es decir, cómo los ciudadanos hacen mayor uso de la tecnología, pasó de 33% en febrero de 2020 a 55% en enero de 2021.
De igual forma, se evidencian avances en la adopción de la inteligencia artificial en varios sectores de la economía y se han abierto nuevos ecosistemas como Healthtech, Fintech y Govtech, entre otros.
¿Qué es el Marco Ético para la IA?
Con el objetivo de disminuir los riesgos generados por la implementación de Inteligencia Artificial, el pasado 21 de octubre se realizó el lanzamiento de la misión de expertos en Inteligencia Artificial y la publicación del Marco Ético para la Inteligencia Artificial en Colombia.
El documento ofrece una serie de principios que se deben tener en cuenta en el diseño, desarrollo y aplicación de los sistemas de esa tecnología. E<En ese sentido, describe una metodología para determinar cómo estos principios deben ser considerados e implementados en el país y lo que se busca es brindar una guía no obligatoria (soft law) de recomendaciones y sugerencias en particular a las Entidades Públicas, para abordar la formulación y gestión de los proyectos que incluyan el uso de Inteligencia Artificial (IA).
¿Cuáles son los principios éticos sobre los que descansa el marco ético?
A. Transparencia y explicación debe ser entendido como la apertura para brindar información significativa y comprensible sobre el diseño, funcionamiento e impacto que tienen los sistemas de inteligencia artificial tanto para los desarrolladores y usuarios del sistema como para aquellos individuos que pueden verse afectados por sus decisiones y resultados.
B. Privacidad La inteligencia artificial debe estar precedida de un respeto por la intimidad de las personas y su esfera privada que impide el uso de información que estos no hayan autorizado.
C. Control humano de las decisiones propias de un sistema de inteligencia artificial Este principio es aplicable a sistemas de inteligencia artificial que tengan cierta autonomía en la toma de decisiones, haciendo que el ser humano tenga control total sobre la toma de decisiones, especialmente en una etapa de implementación.
1. Seguridad: Los sistemas de inteligencia artificial no deben generar afectaciones a la integridad y salud física y mental de los seres humanos con los que interactúan.
2. Responsabilidad: existe el deber de responder por los resultados que produzca un sistema de inteligencia artificial y las afectaciones que llegue a generar.
3. No discriminación: los sistemas de inteligencia artificial no pueden tener resultados o respuestas que atenten contra el bienestar de un grupo específico o que limiten los derechos de poblaciones históricamente marginadas. La funcionalidad de un sistema de inteligencia artificial no debe estar limitado a un grupo específico por razón de sexo, raza, religión, discapacidad, edad u orientación sexual. Los sistemas deben adoptar un enfoque de neutralidad de género y se debe garantizar que el parámetro de género no sea utilizado como factor de discriminación.
4. Inclusión: es la participación activa de poblaciones históricamente marginadas y de poblaciones diversas en el diseño, desarrollo, implementación y evaluación de los sistemas de inteligencia artificial que se utilicen en Colombia.
5. Prevalencia de los derechos de niños, niñas y adolescentes: los sistemas de inteligencia artificial deben reconocer, respetar y privilegiar los derechos de niños, niñas y adolescentes.
6. Beneficio social: la inteligencia artificial tiene un potencial para generar efectos negativos, pero también positivos los cuales resultan fundamentales ya que un escenario sin inteligencia artificial podría resultar perjudicial para el desarrollo y el bienestar. Por tanto, los sistemas de Inteligencia artificial que se implementan en Colombia deben permitir o estar directamente relacionada a una actividad que genere un beneficio social claro y determinable.
¿Por qué se creó?
Como primera medida con el objeto de facilitar la implementación de la Política Nacional para la Transformación Digital e Inteligencia Artificial (CONPES 3975).
Adicionalmente, para mitigar los efectos negativos que la inteligencia artificial puede generar, en materia de desinformación, sesgos, discriminación, seguridad y afectaciones a la privacidad. Por consiguiente, surge una necesidad de asegurar una implementación ética y confiable de la inteligencia artificial en Colombia.
¿Qué implicaciones tiene?
La implementación de este Marco Ético para Inteligencia Artificial en Colombia es un paso muy importante que el país está dando por cuanto es la manera de articular al sector público y privado en la adopción de esta tecnología y de mitigar los principales riesgos que puedo acarrear un mal uso de la misma como lo son los riesgos asociados a sesgos, a discriminación y la afectación de la privacidad.
Adicionalmente permite que Colombia siga liderando en la región el desarrollo de la política pública y también la implementación de iniciativas que permitan que el país sea reconocido mundialmente por estos avances.
¿Qué está haciendo la Universidad Sergio Arboleda para hacer frente a estos desafíos?
La Universidad Sergio Arboleda viene avanzando desde hace tres años a través del proyecto la Sergio 4.0, en la formación de profesionales idóneos para los retos de las industrias 4.0 y con las competencias para hacer frente a los desafíos del mundo digital, por medio del desarrollo de programas académicos innovadores y flexibles que responden a las necesidades que hoy el sector empresarial y real tiene.
Desde la Escuela de Ciencias Exactas e Ingeniería, con el pregrado de Ciencias de la Computación e IA y la Maestría de Inteligencia Artificial, se ha incorporado como una materia del pénsum académico de estos programas la ética para la inteligencia artificial. El objetivo último es habilitar a los estudiantes para que vean la inteligencia artificial como manipulable, desde un punto de vista técnico y societario, y empoderar a los estudiantes con herramientas para diseñar la Inteligencia Artificial desde la ética y el humanismo. De esta forma, evitar que las soluciones que ellos planteen contribuyan a los principales riesgos que la IA puede acarrear como lo son los sesgos, la discriminación y las afectaciones a la privacidad.
Adicionalmente, formar a los estudiantes como actores activos del ecosistema para que participen en las discusiones de IA en ambientes académicos, investigativos, productivos y sociales.
* ¿Qué es la Inteligencia Artificial?
La IA es un campo de la informática dedicado a resolver problemas asociados comúnmente con la inteligencia humana. Es una tecnología cuyo resultado se basa en tres pilares fundamentales: los efectos económicos y sociales derivados de la digitalización, el uso de las tecnologías digitales y los datos para el desarrollo de nuevos productos y servicios. (Definición documento CONPES 3975)