De la informática jurídica a la algoritmocracia

Por Patricia Reyes Olmedo

“En 1843, Ada Lovelace concibió el efecto de los algoritmos y a partir de ellos imaginó una máquina capaz de procesar y memorizar cálculos, patrones algebraicos y toda clase de relaciones algebraicas, adelantando lo que dos siglos después, conforma la esencia de la Cuarta Revolución Industrial. No hablamos de ciencia ficción, hoy existen máquinas y algoritmos muy poderosos capaces de analizar textos complejos, predecir conductas y ejecutar actividades complejas. Estas tecnologías están impactando profundamente nuestras vidas, casi gobernando nuestra sociedad, por lo que hablamos de una verdadera “algoritmocracia”, la que genera grandes beneficios, pero plantea a la vez numerosos desafíos en el ámbito ético y jurídico, especialmente en lo referido a la protección de los derechos fundamentales de los individuos. El artículo recoge algunos hitos relevantes en el devenir de los algoritmos y tecnologías asociadas y su interacción con el Derecho, y plantea los desafíos y regulaciones actuales en la materia a nivel internacional.”

“La razón de la preocupación frente a los algoritmos refiere a decisiones que pondrían en jaque derechos fundamentales de individuos cuyos datos son utilizados para estos cálculos. Riesgos como futuros usos no previstos en el momento de obtener la información y el consentimiento sobre ella, tales como la generación de perfiles, la manipulación, la monitorización de la conducta y especialmente las valoraciones basadas en decisiones automatizadas que generen una discriminación algorítmica que puede perjudicar seriamente a las personas. Asistimos de este modo a lo que denominamos una “algoritmocracia”, es decir un gobierno de los algoritmos, donde éstos están tomando decisiones sobre los ciudadanos, cuyo impacto en los derechos fundamentales aún no somos capaces de prever.”

“… normalmente los datos son imperfectos porque suelen reflejar los sesgos personales de quienes tomas decisiones sobre su recolección. Asimismo, pueden ser insuficientes, erróneos, desactualizados, excesivos o deficitarios en la representación de ciertos grupos de la sociedad, todo lo cual podría redundar en una toma de decisión equivocada.”

“El reto por tanto consiste en poder utilizar los algoritmos, el aprendizaje automatizado y la inteligencia artificial para evitar la discriminación y los sesgos humanos, cuestión que se une también a la necesidad de la transparencia algorítmica.”

“El Reglamento General de Protección de Datos de la Unión Europea (RGPD), pionero en la regulación de la toma de decisiones a través de medios automatizados, requiere a los organismos que manejan algoritmos que realicen un procesamiento justo y transparente, y que expliquen la manera como los sistemas automatizados toman decisiones, especialmente aquellas que afectan significativamente sus vidas individuales.”

“Igualmente establece el derecho a la explicabilidad, a juicio de muchos un nuevo derecho, el que exige que cuando se produzca una decisión algorítmica, la persona afectada tenga acceso a “información significativa sobre la lógica aplicada, así como sobre la importancia y las consecuencias previstas de dicho tratamiento para el interesado” (artículo 15, 1 h) RGPD).”

“Es imperioso implementar también medidas en torno a la transparencia en la planificación de la IA, en la toma de decisiones, en la evaluación del impacto y por supuesto auditorías de control a los sistemas. Amén de lo anterior resulta indispensable establecer legalmente la responsabilidad por el daño que estos sistemas causen a los ciudadanos.”

 

Publicado el 04/12/2019 en: elDial.com – DC2943