Volver

El camino hacia una inteligencia artificial ética en América Latina

16 mayo, 2022

Hace unos meses, el CEO de Telefónica José María Álvarez-Pallete declaró en la apertura del Mobile World Congress 2021 que el 40% de los datos que se estaban generando lo eran a través de conversaciones entre máquinas. Dadas las proyecciones de dispositivos en red, es muy probable que ya hoy la mayor parte de información se genere entre máquinas, sin intervención (y en parte sin conocimiento) de los humanos.

A ello se une que, desde hace años hay centenares de laboratorios explorando vías para que la Inteligencia Artificial (IA) aprenda a crearse a sí misma. Es decir, no solo los algoritmos están concentrando la mayoría de las conversaciones, sino que algunas de las reglas de estas conversaciones e interacciones pueden (¿son?) establecidas por máquinas.

Lejos quedan los videos de robots haciendo ejercicios gimnásticos con torpeza. Hoy la focalización de transferencias desde el Estado, la probabilidad de obtener un crédito para un emprendimiento, las ofertas laborales que recibimos o las ofertas de comercio electrónico vienen determinados por datos y algoritmos que predicen autónomamente nuestra situación socio-económica, el éxito de nuestro proyecto empresarial, nuestra productividad futura o nuestras necesidades de consumo.

Puede parecer abrumador. Y lo es. Por ello, la acción a nivel global debe ser urgente y profunda. En primer lugar, en el ámbito de la formación y las habilidades no basta con declarar que la revolución digital debe tener al ser humano en el centro. Hay que asegurarnos que así sea desarrollando ambiciosos programas público-privados de corta duración e impacto casi inmediato en competencias digitales y analíticas. La velocidad del cambio tecnológico nos obliga a actuar ya sobre el capital humano para compensar la automatización de muchas de las tareas tradicionales. En segundo lugar, las empresas deben impulsar, de motu proprio, un uso proactivo y responsable de los datos y un diseño abierto y auditable de los algoritmos que rigen sus servicios. Y, en tercer lugar, se necesita repensar las reglas y las instituciones para una economía y una sociedad digitalizadas, con acuerdos y principios supranacionales sobre privacidad, flujos de datos y auditoría de datos y algoritmos.

Unesco, por su mandato de promover el desarrollo de la ciencia y la tecnología desde enfoques éticos, humanos y de derechos, se lanzó a la titánica tarea de desarrollar y obtener apoyo político en la materia de Inteligencia Artificial y Ética. Para ello elaboró la Recomendación sobre la Ética de la Inteligencia Artificial aprobada por los 193 estados miembros en su Conferencia General a finales de 2021. Este instrumento normativo ofrece vías concretas para la implementación del marco ético de principios y valores universales tanto en los Estados como en el sector privado.

El marco de Unesco abarca todas las etapas del ciclo de vida de la IA: desde la investigación, el diseño y el desarrollo, a la implementación, la evaluación, e incluso, su terminación. Para ello, parte de una serie de preguntas que toda empresa, gobierno o laboratorio de investigación debería hacerse al embarcarse en el apasionante mundo de la IA: ¿Cómo de representativos son los datos empleados? ¿Cómo se están entrenando los modelos, en particular para diferenciar entre correlación y causalidad? ¿Cómo se están evitando los sesgos conscientes e inconscientes? Incluso, ¿son los equipos de personas diseñando los sistemas inclusivos? E incorpora compromisos claros y explícitos en el manejo de los datos -acceso y borrado-, derecho a control y conocimiento; en auditoría de algoritmos -previendo mandatos a los reguladores, en prohibición de uso para control y social scoring, y en sostenibilidad medioambiental-. Es, probablemente, el marco internacional de IA más preciso que existe en la actualidad, con un capital político inédito.

Estamos muy complacidos de que Colombia haya sido el país pionero en el mundo en su implementación con el liderazgo de la Consejería Presidencial de Transformación Digital y el Ministerio de las TIC y el apoyo de los bancos regionales CAF y BID. Colombia lidera, así, el grupo de países early adopters junto a Brasil y México en Latinoamérica. En las próximas semanas Unesco lanzará, en partenariado con la CAF, la red de países iberoamericanos amigos de la recomendación quienes iniciarán su implementación, se comprometerán a ser evaluados por sus pares y a compartir buenas (y no tan buenas) prácticas. Y próximamente esperamos lanzar la red de empresas amigas de la recomendación, tras una primera reunión auspiciada por la Andi, con firmas líderes en Iberoamérica en los sectores de tecnología y telecomunicaciones, servicios financieros, intermediación laboral y recursos humanos y seguros, donde la IA tiene muchísimo que aportar si se implementa con propósito y responsabilidad.

La IA y la digitalización abren una oportunidad inédita de desarrollo, crecimiento e inclusión. Las posibilidades de reducción de pobreza, bancarización, formalización laboral y emprendimiento o consumo abiertas por la IA podrían permitir a Latinoamérica dar un salto de desarrollo de décadas en años. Por ello, la responsabilidad de regular bien la digitalización debe ser una prioridad. Y no mañana sino hoy, cuando no solo la mayor parte de los datos ya se intercambian entre maquinas, que pueden incluso decidir autónomamente. Desde Unesco colaboraremos con los Gobiernos, empresas y organismos internacionales que quieran unirse al proyecto. Porque estamos convencidos de que, si contamos con la gente, las instituciones y la cultura adecuadas podemos construir una Iberoamérica 4.0 dinámica e inclusiva para las décadas que vienen.