En el alba de las últimas décadas, la tecnología ha alcanzado un uso inmensurable que progresivamente ha evolucionado como una herramienta indispensable en la vida cotidiana. Así, de manera radical y casi impredecible, la tecnología ha transformado cada aspecto de la estructura social, de tal manera que la conectividad resultante del uso omnipresente de algoritmos e interacciones humanas, han generado la necesidad de una adaptación por un nuevo Estado de Derecho. Frente a esto, los diferentes sistemas jurídicos han incidido en una serie de ajustes y modificaciones para contrarrestar el desfase entre el derecho existente y la realidad social. No obstante, a medida que la inteligencia artificial[1] (IA) —machine learning[2] y deep learning[3]— avanza en su aplicación en instituciones públicas y privadas, en la economía, la banca, las estadísticas, la publicidad, entre otros ámbitos, cabe cuestionar cuáles son las limitaciones éticas y jurídicas de esta misma.
Hoy en día, la aplicación de la IA dentro del sector legal mexicano es muy baja o casi nula. Empero, muchos de los recursos de su aplicación pueden verse reflejados en la administración de los servicios bancarios. Es decir, en la automatización de documentos, en la predicción de tarifas y créditos, en motores de búsqueda, entre otras cosas. En dichas actividades el empleo de la IA presupone el uso de datos estadísticos, anónimos, autogenerados, históricos y personales. De ahí que, en términos de la normatividad mexicana, bajo el rubro de la Constitución y legislación federal, las instituciones bancarias deben atender al respeto de los derechos humanos. Con motivo de lo anterior, la finalidad del presente ensayo es postular que la implementación de la inteligencia artificial —machine learning y deep learning— en el mercado bursátil mexicano dará lugar al surgimiento de una controversia jurídica con respecto a la ética profesional[4] de la toma de decisiones de los agentes financieros.
En primera instancia, el desempeño de la IA está sustentado en una serie de redes neuronales capaces de procesar, analizar y aprender de grandes bloques de información.[5] Por consiguiente, el aprendizaje automático es transformado en un aprendizaje profundo sujeto a un ente artificial. Lo anterior posibilita el surgimiento de la falta de transparencia en la toma de decisiones automatizadas en el mercado bursátil. Asimismo, da lugar a la aparición de nuevos perfiles, la falta de regulación de estos y abre paso a la discriminación y sesgos resultantes de este aprendizaje con base en un banco de datos sin filtraciones.[6] Inherente a esto, la IA, al producir una falta de transparencia, un conocimiento incierto sujeto a cambios constantes y, a su vez, difícil de caracterizar, funda la posibilidad de establecer el surgimiento de una serie de discusiones de carácter jurídico. Verbigracia, controversias sobre la propiedad intelectual, invasión de la privacidad de los ciudadanos, entre otros. Ante esto, la implementación de programas de algoritmos en el mercado bursátil implica una obtención, administración y uso de datos personales, lo que abre la posibilidad del surgimiento de una controversia jurídica con respecto a la toma de decisiones de los agentes financieros.
Del mismo modo, el conocimiento producido a través de la IA puede llegar a ser clasificado en tres tipos: declarativo, procedimental y heurístico.[7] A su vez, este conocimiento puede llegar a producir soluciones eficientes para el marcado. Sin embargo, la categorización del conocimiento no presenta una característica suficiente y necesaria para evitar el surgimiento de controversias jurídicas, puesto que esta codificación puede asegurar una solución eficiente más no ética. Aunado a esto, este nuevo conocimiento debe de ser usado bajo estrictos criterios de responsabilidad y de transparencia o de lo contrario, surgiría la posibilidad de la creación de un panóptico digital.[8]
En segunda instancia, actualmente el uso de la IA y la protección y propiedad de datos personales en México está regulado parcialmente bajo la Ley Federal de Protección de Datos Personales en Posesión de los Particulares[9]. Sin embargo, en conformidad con los últimos avances que la IA ha presentado, México requiere una estrategia nacional mucho más exhaustiva, puesto que la mencionada Ley sí brinda una protección ciudadana más no regula enteramente el uso de algoritmos. En este sentido, es necesario la integración de códigos que atiendan al desarrollo de la implementación y registro de algoritmos en México. Al mismo tiempo que aseguren de manera certera la protección de los derechos fundamentales y, de manera detallada, principios éticos, regulatorios y legales. De tal manera que la implementación de esta futura reglamentación en México asegure el desarrollo de un código de ética con base en un marco de transparencia. De lo contrario, la íntegra implementación de la IA en la sociedad mexicana creará una notable discrepancia entre las tecnologías sociales —instituciones privadas, gobierno, leyes y administración pública— y las tecnologías físicas —machine leargning y deep learning—.
Asimismo, en virtud de estas evoluciones tecnológicas una serie de académicos han postulado, en conjunto, distintos planes para enfrentar de la mejor manera estas implementaciones tecnológicas. Por ejemplo, el académico Enrique Graue Wiechers, rector de la UNAM, desarrolló una agenda consensuada entre más de 80 instituciones de ciencia, tecnología e innovación con el objetivo de contribuir al desarrollo de la implementación tecnológica de la nación.[10] Con esto, el objetivo del documento “Hacia la Consolidación y Desarrollo de Políticas Públicas en Ciencia, Tecnología e Innovación. Objetivo estratégico para una política de Estado 2018-2024” es sentar las bases para que México pueda desarrollar una planeación estratégica que atienda a una modificación de la normatividad actual mexicana. Si bien, dicho documento ejemplifica razones multidimensionales para el uso e implementación de la IA, este requiere la realización de un diagnóstico arduo y preciso para determinar las fortalezas y debilidades normativas en México, con el propósito de regular el uso de algoritmos. Aunado a esto, será necesaria la creación de una coordinación multisectorial, es decir, la implementación de un plan de competencias entre el gobierno, las instituciones públicas y privadas, los inversionistas y los usuarios.
En tercera instancia, México requiere incorporar de manera plena el concepto de algoritmos a su legislación para permitir adquirir una regulación jurídica de los mismos. De lo contrario, debido a su falta de reglamentación, emerge una brecha que da lugar a controversias de ética profesional. Si los algoritmos son interpretados más allá de su carácter de fórmula matemática y son vistos, por la legislación mexicana, como parte de la normativa jurídica, entonces, estos adquieren un carácter jurídico. De ser un ente jurídico sujeto al Estado democrático de Derecho, las instituciones bancarias deberán procurar una transparencia, publicidad y aplicabilidad en sus usos.
En este sentido, es posible afirmar que el problema de la regulación del uso de algoritmos radica en la falta de esta. Parte del problema descansa en la desinformación por parte de las instituciones bancarias de las regulaciones existentes, de ahí que, emergen una serie de controversias de ética profesional. En principio, lo óptimo sería la creación de un organismo regulatorio del uso de algoritmos por parte de las instituciones bancarias. Dicho organismo deberá ser creado por la Comisión Nacional Bancaria y de Valores el cual tiene el objetivo de supervisar y regular, en el ámbito de su competencia, a las entidades financieras, así como mantener y fomentar el sano y equilibrado desarrollo de dicho sistema en su conjunto a fin de procurar la protección del interés público.[11] Así, los efectos de tal acción en individual aparentan ser nulos. Sin embargo, la acción en colectivo lo determina todo. Por lo tanto, un verdadero cambio radica en la implementación de organismos regulatorios que cuenten con una competencia nacional, así como con regulaciones arduas y estrictas que aseguren la protección de los derechos fundamentales.
En suma, si el derecho atiende a las necesidades sociales entonces el estado mexicano tiene la obligación de regular las controversias emergentes, siendo estas, hoy en día, el uso de la IA, a fin de asegurar la protección de la integridad e interés público. De lo contrario, las autoridades gubernamentales estarían cometiendo una violación a su función ejecutiva. Por tanto, al regular el uso de la IA por parte de las instituciones bancarias y el servicio a cliente el estado mexicano podrá llegar a una estabilidad dinámica que evite el surgimiento de controversias de ética profesional e invasión a la privacidad de los individuos. De igual manera, el Estado podrá asegurar una transparencia en la toma de decisiones automatizadas y aseverar la dignidad y autonomía ciudadana.
Bibliografía
“Boletín UNAM-DGCS-511 Ciudad Universitaria”. Dirección General de Comunicación Social, 22 de agosto de 2018. https://www.dgcs.unam.mx/boletin/bdboletin/2018_511.html.
B Nair, Shivashankar & Knights, Kevin & Rich, Elaine. “Knowledge Representation”. Artificial Intelligence, (Madrid: McGraw-Hill, 1994): 79-97.
Cedillo Lazcano, Israel. “La inteligencia artificial frente al imperio de la ley”. Centro de Estudios Constitucionales SCJN, 04 de mayo de 2020. https://www.sitios.scjn.gob.mx/cec/blog-cec/la-inteligencia-artificial-frente-al-imperio-de-la-ley.
Lazcano, Rafael. “Diferencia entre inteligencia artificial, machine learning y Deep learning”. Blog de Innovación de Enzyme, 06 de enero de 2020. https://blog.enzymeadvisinggroup.com/inteligencia-artificial-machine-learning.
Ley de la Comisión Nacional Bancaria y de Valores. (México: Cámara de diputados, 2012). https://www.senado.gob.mx/comisiones/finanzas_publicas/docs/LCNBV.pdf.
Ley Federal de Protección de Datos Personales en Posesión de los Particulares. (México: Cámara de diputados, 2010). http://www.diputados.gob.mx/LeyesBiblio/pdf/LFPDPPP.pdf.
[1] El término inteligencia artificial alude al estudio, al desarrollo y a la aplicación de técnicas informativas que permiten a las computadoras adquirir un conjunto de habilidades inherentes de la inteligencia del ser humano.
Rafael Lazcano, “Diferencia entre inteligencia artificial, machine learning y Deep learning,” Blog de Innovación de Enzyme, 06 de enero de 2020, https://blog.enzymeadvisinggroup.com/inteligencia-artificial-machine-learning.
[2] El término machine learning alude al proceso de aprendizaje por parte de las computadoras con base en una formación a partir del procesamiento de una serie de datos.
Lazcano, “Diferencia.”
[3] El término deep learning alude a la programación de algoritmos capaces de aprender a realizar tareas de manera autónoma con base en una serie de redes neuronales.
Lazcano, “Diferencia.”
[4] Al hacer referencia a la ética profesional el presente ensayo refiere al conjunto de normas, principios y valores jurídicos aplicados en el uso de algoritmos por parte de las instituciones bancarias.
[5] Rafael Lazcano, “Diferencia entre inteligencia artificial, machine learning y Deep learning,” Blog de Innovación de Enzyme, 06 de enero de 2020, https://blog.enzymeadvisinggroup.com/inteligencia-artificial-machine-learning.
[6] El funcionamiento de los algoritmos es sustentado en una base de datos con diversos grados de información especializada, mismos que apuntan a la complejidad de su aplicación. Por ejemplo, en ocasiones los sistemas y la base de datos utilizados por los algoritmos contienen en si mismos información sesgada y discriminatoria. De ahí que, la aplicación de los algoritmos solamente es eficaz en la medida de la verosimilitud de los datos utilizados. De lo contrario, esto abre paso a una controversia de determinar en quién recae la responsabilidad del sesgo y discriminación creada, si en los algoritmos, en los creadores de las bases de datos utilizados por la IA o en las mismas instituciones bancarias.
[7] Shivashankar B Nair & Kevin Knights & Elaine Rich, “Knowledge Representation,” Artificial Intelligence, (Madrid: McGraw-Hill, 1994): 79-97.
[8] Israel Cedillo Lazcano, “La inteligencia artificial frente al imperio de la ley,” Centro de Estudios Constitucionales SCJN, 04 de mayo de 2020, https://www.sitios.scjn.gob.mx/cec/blog-cec/la-inteligencia-artificial-frente-al-imperio-de-la-ley.
[9] En conformidad con lo establecido en artículo 1 de la Ley el objetivo es regular el derecho de autodeterminación informativa de las personas.
Ley Federal de Protección de Datos Personales en Posesión de los Particulares. (México: Cámara de diputados, 2010). Art. 1 http://www.diputados.gob.mx/LeyesBiblio/pdf/LFPDPPP.pdf.
[10] “Boletín UNAM-DGCS-511 Ciudad Universitaria,” Dirección General de Comunicación Social, 22 de agosto de 2018, https://www.dgcs.unam.mx/boletin/bdboletin/2018_511.html.
[11] Ley de la Comisión Nacional Bancaria y de Valores. (México: Cámara de diputados, 2012). Art. 2. https://www.senado.gob.mx/comisiones/finanzas_publicas/docs/LCNBV.pdf.
FUENTE: derechoenaccion
