Transparencia algorítmica y Estado Abierto en Colombia
Resumen
En los últimos años se ha producido un rápido avance y despliegue del uso de sistemas de toma automatizada de decisiones (SDA) tanto en el sector público como en el privado alrededor del mundo, incluida Colombia. Por otra parte, la mayoría de las guías y marcos éticos asociadas con el desarrollo y uso de IA incluyen como uno de los principales valores la “transparencia”. Paradójicamente, son pocas las entidades estatales del nivel nacional y/o local que informan de manera sistemática y estandarizada sobre el uso de dichos sistemas. Además, pocos Estados abren espacios de participación ciudadana y de rendición de cuentas en las diferentes etapas del ciclo de vida de estos sistemas. Este artículo estudia la relación entre el principio de transparencia algorítmica y el modelo Estado Abierto en el contexto colombiano en la última década. Además de explorar dichos conceptos desde el punto de vista conceptual, abordamos sus sinergias y tensiones a través de diferentes políticas e instrumentos de política pública y casos que han llegado hasta los tribunales de Colombia. El estudio aborda la transparencia de la administración pública respecto de sus sistemas algorítmicos desde una perspectiva “macro”, cómo las instituciones formales e informales inciden en la transparencia y, desde una perspectiva “meso”, cómo se implementa la transparencia a nivel organizacional. Para tal efecto realizamos un caso de estudio comparado en el cual abordamos seis casos en Colombia; tres sobre transparencia pasiva (CoronApp, escrutinio de elecciones, y BETTO) y tres sobre transparencia activa (repositorios de algoritmos públicos).Referencias bibliográficas
Ada Lovelace Institute, AI Now Institute, Open Government, & Partnership. (2021). Algorithmic accountability for the public sector. Learning from the first wave of policy implementation. https:// www.opengovpartnership.org/documents/ algorithmic- accountability-public-sector/
AIAAIC. (2023). AI, Algorithmic, and Automation Incidents and Controversies—AIAAIC Repository [dataset]. https://www.aiaaic.org/aiaaic-repository
Berryhill, J., Heang, K. K., Clogher, R., & McBride, K. (2019). Hello, World Artificial intelligence and its use in the public sector. (OECD Working Papers on Public Governance, No. 36). OECD. https://doi.org/10.1787/726fd39d-en
Bojórquez-Pereznieto, J. A. (2013). La caja negra del Estado: el reto del Gobierno Abierto. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 165-192). Itaip. http://148.202.167.116:8080/xmlui/bitstream/handle/123456789/3584/Gobierno_abierto.pdf?sequence=1&isAllowed=y
Brauneis, R., & Goodman, E. P. (2018). Algorithmic Transparency for the Smart City. Yale Journal of Law and Technology, 20, 103–176. HeinOnline. https://doi.org/10.31228/osf.io/fjhw8
Buenadicha-Sánchez, C., Galdon, G., Hermosilla, M., Loewe, D., & Pombo, C. (2019). La gestión ética de los datos. Inter-American Development Bank. https://doi.org/10.18235/0001623
Campos-Domínguez, E., & Corojan, A. (2013). Estado del arte del Gobierno Abierto: promesas y expectativas. En A. Hofmann, A. Ramírez- Alujas, J. A. Bojórquez-Pereznieto (coords.), La Promesa del Gobierno Abierto (pp. 119- 137). Itaip. http://148.202.167.116:8080/xmlui/bitstream/handle/123456789/3584/Gobierno_abierto.pdf?sequence=1&isAllowed=y
CDDO & CDEI. (2021). Algorithmic Transparency Recording Standard v2.1. Central Digital and Data Office (CDDO) and Centre for Data Ethics and Innovation (CDEI). https://www.gov.uk/government/publications/algorithmic-transparency-template
CDDO & CDEI. (2023). Algorithmic Transparency Recording Standard—Guidance for Public Sector Bodies. Central Digital and Data Office (CDDO) and Centre for Data Ethics and Innovation (CDEI). https://www.gov.uk/government/publications/guidance-for-organisations-using-the-algorithmic-transparency-recording-standard/algorithmic-transparency-recording-standard-guidance-for-public-sector-bodies
Chenou, J.M., & Rodríguez-Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56-77. https://doi.org/10.26512/lstr.v13i2.34113
Cobo, C. (2013). Gobierno Abierto: de la transparencia a la inteligencia cívica. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 101-118). Itaip. http://148.202.167.116:8080/xmlui/bitstream/handle/123456789/3584/Gobierno_abierto.pdf?sequence=1&isAllowed=y
Colmenares, L. A. (2021). BETTO y el ICBF de La Guajira. Costa Noticias. https://costanoticias.com/betto-y-el-icbf-de-la-guajira-por-luis-alonso-colmenares-rodriguez/
CONPES. (2021). Lineamientos de Política para la Implementación de un Modelo de Estado Abierto (Documento CONPES 4070). Consejo Nacional de Política Económica y Social (CONPES). https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/4070.pdf
Constitución Política de Colombia [Const]. Art. 23. 20 de julio de 1991 (Colombia).
Constitución Política de Colombia [Const]. Art. 74. 20 de julio de 1991 (Colombia).
Contreras, D., & Pefaur, D. (2020). Transparencia Algorítmica: buenas práccticas y estándares de transparencia en el proceso de toma de decisiones automatizadas (Cuaderno de Trabajo No. 17). Consejo para la Transparencia (CPLT). https://www.consejotransparencia.cl/wp-content/uploads/estudios/2020/10/Transparencia-Algoritmica.pdf
Cotino-Hueso, L. (2023). Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida. Revista Española de la Transparencia, (16), 17-63. https://doi.org/10.51915/ret.272
CPLT. (2022, 14 de junio). Sector público chileno avanza en inédita normativa de transparencia algorítmica en América Latina. Consejo para la Transparencia (CPLT). https://www.consejotransparencia.cl/sector-publico-chileno-avanza-en-inedita-normativa-de-transparencia-algoritmica-en-america-latina/
Davies, T. (2020). AI and the State of Open Data. Data for Development. https://www.d4d.net/news/ai-and-the-state-of-open-data/?s=03
Decreto 1263 de 2022. Por el cual se adiciona el Título 22 a la Parte 2 del Libro 2 del Decreto 1078 de 2015, Decreto Único Reglamentario del Sector de Tecnologías de la Información y las Comunicaciones, con el fin de definir lineamientos y estándares aplicables a la Transformación Digital Pública. 22 de julio de 2022
Denis, G., Hermosilla, M., Aracena, C., Sanchez, R., Gonzales, N., & Pombo, C. (2021). Uso responsable de IA para política pública: Manual de formulación de proyectos (1a ed.). Banco Interamericano de Desarrollo. https://doi.org/10.18235/0003631
Diakopoulos, N. (2020). Transparency. En M. D. Dubber, F. Pasquale, & S. Das (eds.), The Oxford Handbook of Ethics of AI (pp. 197-213). Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.11
Directiva presidencial 03 de 2021. Lineamientos para el uso de servicios en la nube, inteligencia artificial, seguridad digital y gestión de datos. 15 de marzo de 2021.
El Espectador. (2022, 6 de junio). El cruce de versiones por funcionamiento del aplicativo Betto en el ICBF. El Espectador. https://www.elespectador.com/colombia/mas-regiones/el-cruce-de-versiones-por-funcionamiento-del-aplicativo-betto-en-el-icbf/
El Espectador. (2022, 16 de junio). Fiscalía hará auditoría a software de Registraduría previo a elecciones, ¿por qué?. El Espectador. https://www.elespectador.com/judicial/fiscalia-hara-auditoria-a-software-de-registraduria-previo-a-elecciones-por-que/
El Tiempo. (2022, 14 de junio). Gustavo Petro dice que la Registraduría ha negado la auditoría de software. El Tiempo. https://www.eltiempo.com/elecciones-2022/actualidad-electoral/petro-dice-que-la-registraduria-ha-negado-la-auditoria-de-software-680233
El Universal. (2022, 17 de junio). Desautorizan a fiscal que ordenó auditoría a software de Registraduría. El Universal. https://www.eluniversal.com.co/politica/desautorizan-a-fiscal-que-ordeno-auditoria-a-software-de-registraduria-CY6717631
Ferreiro-Yazigui, A. (2013). Causales de reserva y recursos: el equilibrio virtuoso entre la transparencia y la defensa de los bienes jurídicos que justifican proteger cierta información. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 51-67). Itaip. http://148.202.167.116:8080/xmlui/bitstream/handle/123456789/3584/Gobierno_abierto.pdf?sequence=1&isAllowed=y
Fundación Karisma. (2022). Informe de la observación primera vuelta presidencial Colombia 2022. Alertas y recomendaciones sobre la implementación de tecnología de cara a la eventual segunda vuelta de las elecciones presidenciales de 2022. Fundación Karisma. file:///C:/Users/ASUS/Downloads/Informe-Observacion-primera-vuelta-1.pdf
Fundación Karisma. (2023, 18 de octubre). Comunicado de prensa 02. Observación técnica a las elecciones regionales de 2023. Fundación Karisma. https://web.karisma.org.co/comunicado-de-prensa-02-observacion-tecnica-a-las-elecciones-regionales-de-2023-se-mantienen-restricciones-del-contratista-a-la-observacion/
Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI; Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ESTUDIO-TRANSPARENCIA-ALGORITMICA-EN-EL-SECTOR-PUBLICO-GOBLAB-CPLT-final....pdf
Guío, A., Tamayo, E., & Gómez-Ayerbe, P. (2021). Marco ético para la inteligencia artificial en Colombia. Departamento Administrativo de la Presidencia de la República.
Gutiérrez, J. D. (2023, 6 de julio). Repositorios y registros públicos de algoritmos. Blog Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-artificial/repositorios-y-registros-de-algoritmos/
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023a). Adopción de sistemas de decisión automatizada en el sector público: cartografía de 113 sistemas en Colombia. GIGAPP Estudios Working Papers, 10(270), 365-395.
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023b). Building a repository of public algorithms: Case study of the dataset on automated decision-making systems in the Colombian public sector. En L. Belli & W. B. Gaspar (eds.), The Quest for AI Sovereignty, Transparency and Accountability: Official Outcome of the UN IGF Data and Artificial Intelligence Governance Coalition (pp. 325-340). Getulio Vargas Foundation; FGV Direito Rio. https://www.intgovforum.org/en/filedepot_download/288/26421
Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos- Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1). Universidad del Rosario. https://doi.org/10.34848/YN1CRT.
Gutiérrez R., J. D. (2020). Retos éticos de la inteligencia artificial en el proceso judicial. En ICDP (ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal (pp. 499-516). Instituto Colombiano de Derecho Procesal (ICDP); Universidad Libre.
ICBF. (2021, 30 de enero). Conoce cómo fue el proceso de selección de operadores. Portal ICBF - Instituto Colombiano de Bienestar Familiar ICBF. https://www.icbf.gov.co/proceso-de-seleccion-servicios-integrales-de-primera-infancia-2021/proceso-seleccion-operadores
ICBF. (2023, 16 de noviembre). Plataforma BETTO deja de ser herramienta de selección de operadores del ICBF. Portal ICBF - Instituto Colombiano de Bienestar Familiar ICBF. https://www.icbf.gov.co/noticias/plataforma-betto-deja-de-ser-herramienta-de-seleccion-de-operadores-del-icbf
La Libertad. (2022, 10 de junio). Luis Guillermo Pérez sugiere auditoría forense a software de elecciones. Diario La Libertad. https://diariolalibertad.com/sitio/2022/06/10/luis-guillermo-perez-sugiere-auditoria-forense-a-software-de-elecciones/
Lapostol, J. P., Garrido, R., & Hermosilla, M. P. (2023). Algorithmic Transparency from the South: Examining the state of algorithmic transparency in Chile’s public administration algorithms. En 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23), Chicago, IL, USA (pp. 227-235). https://doi.org/10.1145/3593013.3593991.
Ley 1712 de 2014. Por medio de la cual se crea la Ley de Transparencia y del Derecho de Acceso a la Información Pública Nacional y se dictan otras disposiciones. 6 de marzo de 2014.
Ley 1755 de 2015. Por medio de la cual se regula el Derecho Fundamental de Petición y se sustituye un título del Código de Procedimiento Administrativo y de lo Contencioso Administrativo. 30 de junio de 2015.
Mera-Villamizar, D. (2022, 1 de agosto). ICBF: el fracaso de Betto como síntoma. El Espectador. https://www.elespectador.com/opinion/columnistas/daniel-mera-villamizar/icbf-el-fracaso-de-betto-como-sintoma/
MOE. (2023, 10 de octubre). Octavo informe presentado por la MOE a la Comisión Nacional para la Coordinación y seguimiento de los procesos electorales. MOE - Misión de Observación Electoral. https://www.moe.org.co/octavo-informe-presentado-por-la-moe-a-la-comision-nacional-para-la-coordinacion-y-seguimiento-de-los-procesos-electorales/
OGP. (2023). The Skeptic’s Guide to Open Government—2022 Edition. Open Government Partnership - OGP. https://www.opengovpartnership.org/skeptics-guide-to-open-government-2022-edition/
Oquendo, C. (2022, 16 de mayo). Las cajas negras del ‘software’ electoral en Colombia. El País. https://elpais.com/internacional/2022-05-16/las-cajas-negras-del-software-electoral-en-colombia.html
Ortiz, J. (2022, 24 de mayo). En plena crisis el Registrador le quitó dientes a la auditoría de las elecciones. La Silla Vacía. https://www.lasillavacia.com/historias/silla-nacional/en-plena-crisis-el-registrador-le-quito-dientes-a-la-auditoria-de-las-elecciones/
Pineda, J. L. (2021, 5 febrero). Madres comunitarias en Bucaramanga exigen claridad en la contratación del Icbf. Vanguardia. https://www.vanguardia.com/area-metropolitana/bucaramanga/madres-comunitarias-en-bucaramanga-exigen-claridad-en-la-contratacion-del-icbf-IA3367208
Porter, Z., Zimmermann, A., Morgan, P., McDermid, J., Lawton, T., & Habli, I. (2022). Distinguishing two features of accountability for AI technologies. Nature Machine Intelligence, 4(9), 734-736. https://doi.org/10.1038/s42256-022-00533-0
Porumbescu, G., Meijer, A., & Grimmelikhuijsen, S. (2022).
Government Transparency: State of the Art and New Perspectives. Cambridge University Press. https://doi.org/10.1017/9781108678568.
Ramírez-Alujas, Á. V. (2011). Gobierno Abierto y modernización de la gestión pública. Tendencias actuales y el (inevitable) camino que viene. Re#exiones seminales. Revista Enfoques: Ciencia Política y Administración Pública, IX (15), 99-125.
Ramírez-Alujas, Á. V. (2013). Gobierno Abierto. Eunomía. Revista en Cultura de la Legalidad. (5), 201-216. Resolución 666 del 24 de abril de 2020. Por medio del cual se adopta el protocolo general de bioseguridad para mitigar, controlar y realizar el adecuado manejo de la pandemia de Coronavirus COVID-19. Ministerio de Salud y Protección Social. https://www.minsalud.gov.co/Normatividad_Nuevo/Resolución%20No.%20666%20de%202020.pdf
Resolución 7946 del 2021 [Instituto Colombiano de Bienestar Familiar]. Por la cual se derogan las resoluciones 5743 de 2020, 6098 de 2020, 6694 de 2020, 320 de 2021 y 371 de 2021, y se unifica el procedimiento administrativo para la selección de contratistas habilitados en el Banco Nacional de Oferentes y las reglas para seleccionar a los contratistas, establecidas en el capítulo IV. 21 de octubre de 2021. https://www.icbf.gov.co/sites/default/files/resolucion_no._7946-2021.pdf
Reyes, N. (2021, 6 de febrero). Madres comunitarias indignadas por plataforma Betto del ICBF. Diario del Cesar. https://www.diariodelcesar.com/archivos/125039/madres-comunitarias-indignadas-por-plataforma-betto-del-icbf/.
Richardson, R. (2022). Defining and Demystifying Automated Decision Systems. Maryland Law Review, 81(3), 785-840.
Sáenz, P., López, J., & Hernández, S. (2018). Propuesta de protocolo de auditoría para el software de escrutinio de las elecciones de Colombia en 2018 (Artículo 45, Ley 1475 de 2011). Laboratorio de Seguridad digital y privacidad de la Fundación Karisma – KLAB, con la colaboración de La Misión de Observación Electoral – MOE. https://www.moe.org.co/wp-content/uploads/2018/04/Protocolo-de-auditor%C3%ADa-para-el-software-de-escrutinio-de-las-elecciones-de-Colombia-en-2018.pdf
UNESCO. (2023a). Ethical impact assessment: A tool of the Recommendation on the Ethics of Artificial Intelligence. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura - UNESCO. https://www.unesco.org/en/articles/ethical-impact-assessment-tool-recommendation-ethics-artificial-intelligence
UNESCO. (2023b). Kit de herramientas global sobre IA y el estado de derecho para el poder judicial. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura - UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa
Upegui-Mejía, J. C. (2020). Acción de tutela formulada por el ciudadano Juan Carlos Upegui Mejía en contra de la Agencia Nacional Digital, el Instituto Nacional de Salud y el Ministerio de Salud y Protección Social.
Urueña, R. (2019). Autoridad algorítmica: ¿cómo empezar a pensar la protección de los derechos humanos en la era del “big data”? Latin American Law Review, 1(2), 99-124. https://doi.org/10.29263/lar02.2019.05
Valderrama, M., Hermosilla, M. P., & Garrido, R. (2023). State of the Evidence: Algorithmic Transparency. Open Government Partnership; GobLab (Universidad Adolfo Ibáñez). https://www.opengovpartnership.org/documents/state-of-the-evidence-algorithmic-transparency/
Venturini, J. (2021). Informe Observatorio Covid-19 del Consorcio Al Sur: Un análisis crítico de las tecnologías desplegadas en América Latina contra la pandemia. Al Sur. https://www.alsur.lat/sites/default/files/2021-06/Informe%20Observatorio%20Covid-19%20del%20Consorcio%20Al%20Sur%282%29.pdf
W Radio. (2021, 3 de marzo). Trabajadores del ICBF denuncian irregularidades en plataforma para atender a niños. W Radio. https://www.wradio.com.co/noticias/actualidad/trabajadores-del-icbf-denuncian-irregularidades-en-plataforma-para-atender-a-ninos/20210303/nota/4114097.aspx
Wirtz, B. W., & Müller, W. M. (2019). An integrated artificial intelligence framework for public management. Public Management Review, 21(7), 1076-1100. https://doi.org/10.1080/14719037.2018.1549268.
Descargas
Derechos de autor 2023 Reflexión Política
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
| Estadísticas de artículo | |
|---|---|
| Vistas de resúmenes | |
| Vistas de PDF | |
| Descargas de PDF | |
| Vistas de HTML | |
| Otras vistas | |
