INTELIGENCIA ARTIFICIAL APLICADA A LA LEY DE PROTECCIÓN DE DATOS Dr. René Pérez Rojas
EDITORIAL E-BOOKS DEL ECUADOR INTELIGENCIA ARTIFICIAL APLICADA A LA LEY DE PROTECCIÓN DE DATOS Autor: Dr. René Pérez Rojas Edición: Ab. Katherine Arboleda Ab. Michelle Cevallos Ab. Verónica Moreno Ab. Viviana Peñaherrera Ab. Cynthia Pineda Ab. Carlos Serrano Director : David F. Moreno Subdirectora : Angélica Sanmartín T Dpto. de encuadernación y creación Artesanal: Edison Mosquera Diseño y Maquetación: Jaime Maldonado R. Primera Edición: Agosto 2023 Formato: Electrónico e Impreso Contiene información publicada La actividad editorial está reconocida por la Cámara Ecuatoriana del Libro. Queda prohibida, salvo excepción prevista en la ley, cualquier forma de reproducción, distribución, comunica- ción pública y transformación de esta obra sin contar con la autorización previa del titular de propiedad intelectual de esta obra. La infracción de los derechos mencionados puede ser cons- titutiva del delito contra la propiedad intelectual. Las opiniones contenidas en esta publicación, son de exclusiva responsabilidad de su autor. Quito – Ecuador COPYRIGHT ©
PERFIL DEL AUTOR Dr. René Pérez Rojas • Título de Bachiller en Ciencias Especiali- dad Químico-Biológicas. • Licenciado en Ciencias Políticas y Sociales. • Doctor en Jurisprudencia y Abogado de los Tribunales de Justicia de la República. • Diplomado Superior en Investigación del Derecho Civil. • Especialista en Derecho Civil Comparado. • Mediador del Centro de Mediación “Jose- fina Espinosa Astorga”. • Magister en Derecho Civil y Procesal Civil. • Magister en Derecho Notarial y Registral. • Magister en Derecho Constitucional men- ción Procesal Constitucional
DEDICATORIA A mis colegas.
Índice PRÓLOGO.................................................................. 17 INTRODUCCIÓN .................................................... 21 CAPÍTULO 1............................................................... 25 LA REVOLUCIÓN DE LA INTELIGENCIA ARTI- FICIAL.......................................................................... 25 1.1. Un Vistazo al Pasado: Evolución de la Inteligen- cia Artificial.................................................................. 26 1.2. El Auge de la IA: aplicaciones y desarrollos ac- tuales............................................................................. 28 1.3. La IA en el ámbito de la Protección de Datos.... 30 CAPÍTULO 2............................................................... 33 FUNDAMENTOS LEGALES Y ÉTICOS EN LA PROTECCIÓN DE DATOS..................................... 33 2.1. Marco Jurídico: Internacional y Nacional Inter- nacional ........................................................................ 34 2.2. Ética de la Protección de Datos en la Era de la IA.............................................................................. 38
CAPÍTULO 3............................................................... 39 PRIVACIDAD EN UN MUNDO IMPULSADO POR LA IA................................................................... 39 3.1. Privacidad en el contexto de la Inteligencia Arti- ficial............................................................................... 40 3.2. El Derecho al olvido en el universo digital...... 42 3.3. IA y Anonimización: Preservando la Identidad en el tratamiento de Datos......................................... 43 CAPÍTULO 4............................................................... 47 DESAFÍOS Y SOLUCIONES EN LA TRANSPA- RENCIA DE LA IA.................................................... 47 4.1. Cajas Negras y Explicabilidad: Abriendo el Có- digo Fuente de la IA................................................... 48 4.2. Auditoría y Supervisión de Sistemas de IA: Ha- cia una transparencia total......................................... 49 4.3. Gobernanza para una IA transparente............. 51 CAPÍTULO 5............................................................... 55 LA INTERSECCIÓN ENTRE IA Y DERECHOS FUNDAMENTALES.................................................. 55 5.1. El Derecho a la no Discriminación en entornos alimentados por IA..................................................... 56 5.2. IA y libertad de expresión.................................. 60 5.3. Derechos humanos en la sociedad digital........ 62
CAPÍTULO 6............................................................... 65 INNOVACIONES TECNOLÓGICAS EN PRO- TECCIÓN DE DATOS.............................................. 65 6.1. La IA al Servicio de la ciberseguridad de datos............................................................................. 66 6.2. Big Data y aprendizaje automático para la ges- tión eficiente de datos................................................. 68 CAPÍTULO 7............................................................... 77 ÉTICA DE LA IA Y RESPONSABILIDAD SO- CIAL............................................................................. 77 7.1. Desarrollo de IA Responsable............................ 78 7.2. Riesgos y mitigación de impactos sociales de la IA.............................................................................. 80 7.3. Ciudadanía Digital.............................................. 82 GLOSARIO................................................................. 85 CONCLUSIONES ..................................................... 91 BIBLIOGRAFIA......................................................... 95
ABREVIATURAS IA: Inteligencia Artificial TIC: Tecnologías de la Información y Comunicación GDPR: Reglamento General de Protección de Datos (General Data Protection Regulation) IAR: Inteligencia Artificial Responsable IoT: Internet de las Cosas (Internet of Things) ML: Aprendizaje Automático (Machine Learning) I+D+i: Investigación, Desarrollo e Innovación UNESCO: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura Ciberseguridad: Seguridad Cibernética TIC: Tecnologías de la Información y Comunicación IA: Inteligencia Artificial ONG: Organización No Gubernamental TIC: Tecnologías de la Información y Comunicación RSE: Responsabilidad Social Empresarial CND: Caja Negra de Decisión GAFAM: Gigantes de la Tecnología: Google, Apple, Facebook, Amazon y Microsoft LGPD: Ley General de Protección de Datos (Brasil) TIC: Tecnologías de la Información y Comunicación IA: Inteligencia Artificial
16
PRÓLOGO En la época actual, donde la inteligencia artificial (IA) se abre paso en todos los aspectos de nuestras vidas, no podemos ignorar su impacto en uno de los aspectos más fundamentales de nuestra existencia: la protección de nuestros datos personales. Es un placer y un honor prologar este libro, “Inteligencia Artificial Aplicada a la Ley de Protección de Datos,” que explora de manera profunda y exhaustiva la intersección entre dos cam- pos apasionantes y en constante evolución. La inteligencia artificial ha conquistado nuestros hoga- res, nuestras empresas y nuestras comunidades, ofre- ciéndonos soluciones innovadoras y transformadoras. Sin embargo, esta creciente dependencia de la IA tam- bién ha suscitado preocupaciones sobre la privacidad, la transparencia y la ética en el manejo de nuestros da- tos personales. En este contexto, la protección de datos 17
se ha convertido en una cuestión crítica que requiere una atención minuciosa y una legislación sólida. Este libro, es una guía esencial para comprender los desafíos y oportunidades que se presentan en la in- tersección de estas dos disciplinas. A lo largo de sus páginas, los lectores serán inmersos en un viaje apa- sionante, que abarca desde un vistazo al pasado de la IA hasta las innovaciones tecnológicas más recientes en protección de datos. Este libro nos invita a reflexionar sobre cómo la inte- ligencia artificial y la protección de datos se comple- mentan y se desafían mutuamente. Nos llevan a ex- plorar cómo la IA puede ayudar a mejorar la eficiencia y precisión en el tratamiento de nuestros datos, pero también cómo puede plantear desafíos éticos y legales que deben abordarse con seriedad. Además, esta obra destaca la importancia de desarro- llar una IA responsable, que respete los derechos fun- damentales de las personas y garantice la privacidad y la seguridad de nuestros datos personales. Los lec- tores encontrarán valiosas recomendaciones y solucio- nes para asegurar que la IA y la protección de datos trabajen en armonía, fomentando un enfoque ético y transparente en el manejo de la información personal. 18
Como prólogo, no puedo dejar de mencionar la rele- vancia de este libro en el contexto actual, donde la pri- vacidad y la seguridad de los datos personales se han convertido en preocupaciones cada vez más apremian- tes. La inteligencia artificial está aquí para quedarse, y debemos asegurarnos de que se utilice de manera res- ponsable y respetuosa con los derechos de todos. En conclusión, “Inteligencia Artificial Aplicada a la Ley de Protección de Datos: es una lectura imprescin- dible para todos aquellos que buscan comprender y abordar los desafíos y oportunidades que se presentan en esta nueva era digital. 19
20
INTRODUCCIÓN En la era digital actual, la inteligencia artificial (IA) se ha establecido como una fuerza disruptiva y trans- formadora en diversos campos de nuestra sociedad. Desde la automatización de procesos hasta la toma de decisiones sofisticadas, la IA ha demostrado su capaci- dad para revolucionar industrias y mejorar la vida de las personas. Sin embargo, esta revolución tecnológica también ha planteado desafíos fundamentales, espe- cialmente en lo que respecta a la protección de datos personales. En este contexto, surge un fascinante encuentro entre la inteligencia artificial y la ley de protección de da- tos. Este libro es un viaje apasionante que explora la intersección de estas dos disciplinas aparentemente dispares, pero íntimamente relacionadas. Nos aden- traremos en un terreno donde la innovación tecnoló- 21
gica y las salvaguardas legales se fusionan para forjar un futuro digital seguro y ético. En las siguientes páginas, desentrañaremos cómo la in- teligencia artificial ha evolucionado hasta convertirse en una herramienta poderosa para procesar, analizar y utilizar enormes cantidades de datos personales. Des- de la detección de patrones hasta la toma de decisio- nes automatizada, la IA ha demostrado su eficiencia y efectividad, pero también ha planteado interrogantes sobre la privacidad y la seguridad de la información. En este recorrido, exploraremos los cimientos legales que sustentan la protección de datos y cómo la inte- ligencia artificial ha influido en su interpretación y aplicación. Analizaremos las implicaciones éticas de utilizar IA en el manejo de datos personales y cómo podemos garantizar la transparencia y responsabili- dad en esta nueva era digital. A lo largo de este libro, presentaremos el potencial transformador de la IA con el respeto a los derechos fundamentales de las personas. Desde el derecho al olvido hasta la auditoría de sistemas de IA, abordare- mos cuestiones cruciales que afectan a nuestra socie- dad en la era de la información. 22
Este libro es un llamado a la reflexión y al debate, in- vitándonos a considerar cómo podemos aprovechar al máximo el poder de la inteligencia artificial sin sacri- ficar la privacidad y la protección de nuestros datos personales. Es un recorrido que desafía nuestras per- cepciones y nos lleva a explorar cómo la tecnología y la ley pueden coexistir en beneficio de una sociedad más justa, inclusiva y respetuosa de la privacidad in- dividual. Bienvenidos a “Inteligencia Artificial Aplicada a la Ley de Protección de Datos: Un Encuentro en la Era Digital”. En este libro, exploraremos el fascinante cru- ce entre la innovación tecnológica y la protección de nuestros datos personales, y descubriremos cómo po- demos allanar el camino hacia un futuro digital más seguro y ético. 23
24
CAPÍTULO 1 LA REVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL El presente libro explora el fascinante mundo de la Inteligencia Artificial, una revolución tecnológica que ha transformado nuestra sociedad en múltiples aspec- tos. En este primer capítulo, nos adentraremos en la evolución histórica de la IA, desde sus inicios hasta los desarrollos actuales que han llevado a esta tecno- logía a desempeñar un papel cada vez más relevante en nuestra vida diaria. También examinaremos cómo la IA ha impactado en el ámbito de la Protección de Datos, planteando nuevos desafíos y oportunidades en el manejo de la privacidad y la seguridad en la era digital. 25
1.1. Un Vistazo al Pasado: Evolución de la Inteligen- cia Artificial La evolución de la Inteligencia Artificial a lo largo de las décadas: Década de 1950: Fue el punto de partida de la inteli- gencia artificial moderna. Los científicos comenzaron a explorar la posibilidad de crear máquinas capaces de emular la inteligencia humana. Alan Turing propuso el célebre “Test de Turing” para evaluar la capacidad de una máquina para mostrar comportamiento inteli- gente. Década de 1960: Surgieron los primeros programas de IA que demostraban habilidades limitadas en campos específicos, como el procesamiento del lenguaje natu- ral y la resolución de problemas matemáticos. Década de 1970: La IA se centró en el razonamiento basado en el conocimiento. Se desarrollaron sistemas expertos, programas informáticos capaces de tomar decisiones en dominios especializados utilizando re- glas y datos almacenados. Década de 1980: La IA experimentó un auge en inves- tigación e inversión, pero también enfrentó desafíos y 26
expectativas excesivas, lo que llevó a un período co- nocido como el “invierno de la IA”, caracterizado por una disminución en el interés y el financiamiento. Década de 1990: Se produjo un resurgimiento de la IA impulsado por avances en el aprendizaje automático y las redes neuronales artificiales. Se exploraron en- foques más prácticos y se lograron avances en áreas como el reconocimiento de voz y la visión por compu- tadora. Década de 2000 en adelante: La IA se ha vuelto om- nipresente en diversas aplicaciones y sectores debido a la disponibilidad de grandes cantidades de datos y el aumento en la capacidad de procesamiento. Los avances significativos en el aprendizaje automático, especialmente en el campo del aprendizaje profundo, han impulsado la utilidad de la IA en áreas como la conducción autónoma, el procesamiento del lenguaje natural, el diagnóstico médico y la asistencia virtual. La inteligencia artificial continúa evolucionando y ofreciendo nuevas posibilidades para mejorar la vida cotidiana y resolver problemas complejos en la socie- dad actual.1 1 Articulo página web Prevención integral. Breve recorrido histórico por la evo- lución de la inteligencia artificial: Desde los inicios hasta el presente. Disponible en: https://www.prevencionintegral.com/actualidad/noticias/2023/05/18/ breve-recorrido-historico-por-evolucion-inteligencia-artificial-desde-inicios-has- ta-presente 27
1.2. El Auge de la IA: aplicaciones y desarrollos ac- tuales La adopción de tecnologías de inteligencia artificial impactará significativamente en el sector de despa- chos profesionales, abarcando desde abogados hasta contadores y notarios. Estas tecnologías no solo auto- matizarán tareas rutinarias, sino que también se apli- carán a actividades de mediana complejidad. Aunque se espera que la mano de obra humana se reenfoque hacia actividades de mayor valor, existe la posibilidad de que algunas figuras profesionales actuales puedan desaparecer. A continuación, resumimos algunas de las actividades que podrían beneficiarse de la adop- ción de IA en este sector. Análisis de documentos y búsqueda jurídica: Los sis- temas de IA pueden agilizar el análisis de documentos legales y clasificarlos según su relevancia para casos específicos. Si bien algunos documentos pueden re- querir intervención humana para una investigación más profunda, la IA puede reducir drásticamente el tiempo y esfuerzo necesarios para identificar la infor- mación relevante. Soporte para diligencia debida: Realizar búsquedas exhaustivas de información para la diligencia debida es una labor compleja en las empresas de asistencia 28
jurídica. La IA puede asistir a los profesionales al con- firmar hechos, cifras y evaluar decisiones previas en casos similares. Esto permite realizar la diligencia de- bida de manera más eficiente y precisa. Revisión y gestión de contratos: Los abogados labo- ralistas se enfrentan a tareas demandantes al revisar contratos de trabajo para identificar riesgos potencia- les. Mediante el uso de software de aprendizaje auto- mático, es posible redactar contratos óptimos y brin- dar un asesoramiento más informado a los clientes. Predicción de resultados judiciales: Las herramientas de IA permiten a los abogados realizar predicciones sobre el resultado de procesos judiciales. Esta capaci- dad de predicción puede ayudar a los clientes a tomar decisiones más fundamentadas, como continuar o no con un caso en particular. Asistencia y orientación a clientes: Las grandes em- presas de asistencia jurídica a menudo dedican recur- sos a atender consultas iniciales de personas que po- drían necesitar asesoramiento legal. Mediante el uso de chatbots basados en tecnologías de procesamiento del lenguaje natural, es posible brindar información básica a los clientes potenciales y dirigirlos al profe- sional más adecuado para su caso. 29
En conclusión, la incorporación de la IA en el cam- po jurídico ofrece una serie de ventajas significativas, desde la mejora de procesos hasta la optimización de recursos, lo que se traduce en un mayor beneficio tan- to para los profesionales del derecho como para sus clientes.2 1.3. La IA en el ámbito de la Protección de Datos En el actual panorama de rápida evolución de herra- mientas de IA generativa, con un uso masivo y conse- cuencias imprevisibles debido a la falta de regulación, algunas empresas han optado por establecer sus pro- pias políticas internas para aplicar mejores prácticas y precauciones al utilizar estas herramientas. Su princi- pal objetivo es garantizar la seguridad de la informa- ción y minimizar riesgos. Dado que no existen reglas generales establecidas, estas empresas han creado sus propias normativas, aplicables al menos en su ámbito interno. Los sistemas de IA, al igual que muchas tecnologías nuevas, dependen en gran medida de datos para su funcionamiento, obteniendo resultados a partir del 2 Patrizia Fabbri. Ejemplos de inteligencia artificial en la actualidad. Disponible en: https://www.innovaciondigital360.com/i-a/ejemplos-de-inteligencia-arti- ficial-en-la-actualidad/#Ejemplos_de_Inteligencia_artificial_para_abogados_y_ despachos_profesionales 30
procesamiento de enormes cantidades de información, gran parte de la cual son datos personales. Aunque la IA puede generar decisiones y resultados de forma autónoma, sigue siendo necesario que se ajuste a las regulaciones de protección de datos personales, ya que estos datos son su elemento fundamental. Además de cumplir con los principios básicos presen- tes en las legislaciones de protección de datos perso- nales, como el consentimiento, la adecuación, la fina- lidad y la seguridad de los datos, las normativas más avanzadas contienen preceptos específicos que se apli- can particularmente a los sistemas de Inteligencia Ar- tificial. Es importante destacar que la ausencia de una legis- lación específica sobre IA no impide que los respon- sables del tratamiento de datos que utilizan sistemas de IA estén sujetos al control del cumplimiento de las normativas de protección de datos personales. La necesidad de regular el desarrollo de sistemas de IA es urgente y proporcional a la rapidez con la que estos sistemas evolucionan y se implementan en di- versos ámbitos.3 3 Lisandro Frene. AI y datos personales. Disponible en: https://abogados.com. ar/ai-y-datos-personales/32561 31
32
CAPÍTULO 2 FUNDAMENTOS LEGALES Y ÉTICOS EN LA PROTECCIÓN DE DATOS En éste capítulo, nos adentraremos en los fundamen- tos legales y éticos que rigen la protección de datos en el contexto de la Inteligencia Artificial. Exploraremos el marco normativo tanto a nivel internacional como en el contexto específico de Ecuador, analizando las regulaciones y directrices que buscan salvaguardar la privacidad y seguridad de los datos en un mundo cada vez más digitalizado. Además, examinaremos de cerca la ética en la protec- ción de datos en la era de la IA, considerando los retos y dilemas éticos que surgen con el uso creciente de es- tas tecnologías. Preparémonos para adentrarnos en un análisis profundo y reflexivo sobre la importancia de 33
la ética y el cumplimiento normativo en el manejo de datos en la era de la Inteligencia Artificial. 2.1. Marco Jurídico: Internacional y Nacional Inter- nacional En el ámbito internacional, los Estados han adoptado diversos instrumentos legales que reconocen el dere- cho fundamental a la protección de datos personales y establecen un sólido sistema de protección para ga- rantizar el ejercicio de este derecho, incluso frente al creciente riesgo de amenazas digitales. Algunos de estos instrumentos incluyen las Directrices de la Or- ganización para la Cooperación y el Desarrollo Eco- nómico (1980), la Resolución 45/95 de la ONU (1990), la Propuesta de Protección de Datos Personales en las Américas (2012), la Resolución A/HRC/RES/28/16 del Consejo de Derechos Humanos (2015), y otros más recientes como los Estándares de Protección de Datos Personales para los Estados Iberoamericanos (2017) y la Estrategia de la Red Iberoamericana de Datos Per- sonales 2021-2025. Estos instrumentos establecen principios y directrices para la protección de datos personales, asegurando la armonización de las legislaciones nacionales y el res- peto a los derechos fundamentales de privacidad en 34
el contexto digital. Además, se reconoce la importan- cia del flujo transfronterizo de datos para el desarrollo económico y la cooperación entre países, pero también se pone énfasis en la necesidad de salvaguardar la pri- vacidad y la seguridad de los datos. Asimismo, se destaca la creación del cargo de Relator Especial sobre el derecho a la privacidad por parte de la ONU, cuya función es monitorear y evaluar las le- gislaciones nacionales y los riesgos cibernéticos. Estos instrumentos legales internacionales buscan proteger el derecho a la privacidad y la protección de datos personales en un contexto digital en constante evolución, promoviendo la cooperación entre Estados y estableciendo directrices comunes para asegurar una protección adecuada de los datos personales en el ámbito global. Además, destacan la importancia de armonizar las legislaciones nacionales para facilitar el comercio y la cooperación internacional. Sin embargo, algunos países aún enfrentan desafíos para acceder a ciertos acuerdos comerciales debido a la falta de legis- lación específica sobre protección de datos. Nacional En Ecuador, el reconocimiento constitucional del dere- cho a la protección de datos personales se inició con la 35
reforma constitucional de 1996, que incluyó la garan- tía jurisdiccional del habeas data. Sin embargo, fue en 2008 cuando el país consagró en su Constitución el de- recho autónomo a la protección de datos personales, siguiendo estándares europeos de tutela. De acuerdo con la Constitución de la República del Ecuador (2008, Artículo 66, Numeral 19), se establece el derecho a la protección de datos de carácter perso- nal, que incluye el acceso y decisión sobre dicha infor- mación, y su correspondiente protección. La recolec- ción, archivo, procesamiento, distribución o difusión de estos datos requiere autorización del titular o man- dato de la ley. Internamente, el Estado ha implementado planes y es- trategias para proteger los datos personales. El Libro Blanco de la Sociedad de la Información y del Cono- cimiento (2018) resaltó la importancia de la seguridad de la información y protección de datos personales en la construcción de una sociedad de la información y conocimiento, aumentando la confianza ciudadana en el uso de tecnologías de la información. El Plan de la Sociedad de la Información y del Cono- cimiento 2018 – 2021 estableció proyectos dirigidos a promover el tratamiento adecuado de datos perso- 36
nales por parte de entidades públicas y privadas, así como fomentar la corresponsabilidad ciudadana. El Plan Nacional de Gobierno Electrónico 2018 – 2021 también incluyó la protección de la información y da- tos personales como estrategia dentro del programa de “Gobierno abierto”, y se trabajó en una norma ju- rídica para asegurar una protección adecuada de este derecho fundamental. El Plan Ecuador Digital 2021 reconoció la importancia de la ciberseguridad y protección de datos personales para proteger a los ciudadanos y promover el desarro- llo de la economía digital. En línea con estos esfuerzos, el Gobierno ecuatoriano aprobó el 26 de mayo de 2021 la Ley Orgánica de Pro- tección de Datos Personales, que garantiza el ejerci- cio del derecho fundamental a la protección de datos. La ley establece principios, derechos, obligaciones y mecanismos de tutela aplicables tanto a instituciones públicas como privadas. Además, la ley tiene efectos territoriales que aseguran la protección de datos per- sonales de los ciudadanos ecuatorianos incluso cuan- do son procesados en otros países.4 4 Gabriela Rosas Lanas y Geoconda Pila-Cárdenas. La Protección De Datos Perso- nales En Ecuador. Una revisión histórica-normativa de este derecho fundamen- tal en el país suramericano. Disponible en: https://journals.eagora.org/revVI- SUAL/article/download/4568/2897 37
2.2. Ética de la Protección de Datos en la Era de la IA Además de la regulación legal, la ética es un aspecto fundamental en el desarrollo de la Inteligencia Artifi- cial y representa un desafío para ofrecer herramientas responsables y beneficiosas para los ciudadanos. En este sentido, destacan proyectos como el llevado a cabo por la UNESCO y Telefónica, quienes han plas- mado sus intenciones en una Carta de Intenciones con el objetivo de trabajar en iniciativas conjuntas que pro- muevan, impulsen e implementen la Recomendación sobre la Ética de la Inteligencia Artificial (IA), la cual fue aprobada por la Conferencia General de la UNES- CO en noviembre de 2021. Esta recomendación exi- ge la adhesión a valores como el respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana. También se enfoca en preservar el bienestar del medio ambiente y los ecosistemas, asegurar la diversidad y la inclusión, y fomentar sociedades pacíficas, justas e in- terconectadas. Estos principios éticos son fundamen- tales para guiar el desarrollo de la Inteligencia Artifi- cial y asegurar que sus aplicaciones sean socialmente responsables y beneficien a toda la humanidad.5 5 Sección de noticias página web Telefonica.com. Inteligencia Artificial, regulación y ética. Disponible en: https://www.telefonica.com/es/sala-comunicacion/noticias/ inteligencia-artificial-regulacion-y-etica/ 38
CAPÍTULO 3 PRIVACIDAD EN UN MUNDO IMPULSADO POR LA IA En éste capítulo, nos sumergiremos en el apasionante mundo de la privacidad en un entorno impulsado por la Inteligencia Artificial. A medida que la IA se integra cada vez más en nuestras vidas, surge la necesidad im- periosa de proteger nuestros datos personales y pre- servar nuestra privacidad. En este capítulo, exploraremos la compleja relación entre la privacidad y la Inteligencia Artificial, anali- zando cómo la IA puede afectar nuestra seguridad y control sobre la información que compartimos en el mundo digital. Abordaremos el derecho al olvido y su relevancia en el vasto universo de la web, así como la crucial práctica de la anonimización para salvaguar- dar la identidad en el tratamiento de datos. 39
3.1. Privacidad en el contexto de la Inteligencia Arti- ficial La privacidad y seguridad de los datos son cuestiones fundamentales en el ámbito de la inteligencia artificial (IA). A continuación, se presentan algunas medidas para garantizar estos dos aspectos esenciales en el con- texto de la IA: Anonimización de datos: La anonimización de datos es un método efectivo para proteger la privacidad de los usuarios al eliminar cualquier información perso- nal identificable, como nombres, direcciones o núme- ros de identificación. Encriptación de datos: La encriptación de datos es crucial para asegurar que la información esté prote- gida durante su transmisión y almacenamiento. Me- diante algoritmos de encriptación robustos y claves de seguridad sólidas, se evita el acceso no autorizado a los datos. Control de acceso: Implementar un control de acceso adecuado es esencial para garantizar que solo perso- nas autorizadas puedan acceder a los datos. Esto se logra a través de medidas de seguridad, como contra- señas seguras y autenticación de dos factores. 40
Evaluación de riesgos: Es importante evaluar los po- sibles riesgos de seguridad y privacidad asociados con el uso de la IA. Realizar pruebas de penetración puede ayudar a identificar vulnerabilidades y tomar medi- das para mitigarlos. Monitoreo constante: Un monitoreo continuo de la IA es crucial para detectar cualquier actividad sospecho- sa o inusual que pueda representar una amenaza a la seguridad de los datos. Esto permite una respuesta rá- pida y eficiente ante posibles incidentes. Cumplimiento de regulaciones: Cumplir con las le- yes y regulaciones, como el Reglamento General de Protección de Datos (GDPR) en la Unión Europea, es fundamental para proteger la privacidad de los usua- rios. Es esencial estar al tanto de las normativas aplica- bles y asegurarse de cumplir con ellas. En resumen, asegurar la privacidad y seguridad de los datos en el contexto de la IA requiere una combinación de medidas técnicas, organizativas y legales. Desde la recolección hasta el almacenamiento y la implemen- tación, la protección de los datos debe ser una priori- dad en todas las etapas del desarrollo de la IA. Solo así 41
podremos aprovechar plenamente los beneficios de la IA, protegiendo al mismo tiempo los derechos y la pri- vacidad de las personas.6 3.2. El Derecho al olvido en el universo digital El derecho al olvido es un concepto que se originó con la definición de Louis Brandeis en 1890, donde lo des- cribió como el derecho a estar en privacidad. A lo largo del tiempo, este concepto ha sido relevante en nuestra sociedad, pero se ha vuelto especialmente importante en la era de internet y la web 2.0. En este entorno di- gital, cualquier persona puede publicar y acceder a in- formación personal con mínimas restricciones, lo que puede afectar gravemente derechos fundamentales como el honor, la intimidad y la privacidad. El derecho al olvido es un concepto vinculado al habeas data y la protección de datos personales, así como a los derechos al honor, intimidad e imagen, y el derecho a la privacidad. Este derecho permite que las personas soliciten la eliminación, bloqueo o desindexación de información que se considera cierta pero ya no es rele- vante o actual por el paso del tiempo. Sin embargo, en 6 Oshley Pisaav. ¿Cómo se puede garantizar la privacidad y la seguridad de los datos en el contexto de la inteligencia artificial? Disponible en: https://es.quora. com/C%C3%B3mo-se-puede-garantizar-la-privacidad-y-la-seguridad-de-los-da- tos-en-el-contexto-de-la-inteligencia-artificial 42
algunas ocasiones, este concepto puede chocar con la libertad de expresión y de información. El derecho al olvido o derecho de supresión brinda a los ciudadanos la posibilidad de solicitar la elimina- ción de sus datos personales cuando ya no son nece- sarios para la finalidad con la que fueron recopilados, cuando se ha retirado el consentimiento o cuando han sido recopilados de manera ilícita. Asimismo, se pue- de solicitar el bloqueo de enlaces que dirijan a la infor- mación en motores de búsqueda.7 3.3. IA y Anonimización: Preservando la Identidad en el tratamiento de Datos El proceso de anonimización consiste en eliminar total o parcialmente los identificadores directos o indirec- tos de un sujeto o un conjunto de ellos, evitando de forma irreversible cualquier asociación con la persona en cuestión. El propósito de este proceso es mantener la utilidad de los datos para los fines previstos, respe- tando los principios de finalidad y minimización de datos, teniendo en cuenta la necesidad y un equilibrio ponderado de los resultados buscados. 7 Articulo Wikipedia.com. Derecho al olvido. Disponible en: https://es.wikipe- dia.org/wiki/Derecho_al_olvido 43
En esencia, la anonimización está estrechamente rela- cionada con la limitación del propósito y la minimi- zación de los datos. Es una consideración sobre si es necesario seguir tratando datos personales y busca al- canzar un equilibrio entre reducir el riesgo de reiden- tificación y mantener la utilidad del conjunto de datos para los fines previstos. Se trata de un enfoque reflexi- vo que busca proteger la privacidad de los individuos sin perder de vista la utilidad de los datos para su uso legítimo.8 Importancia de la anonimización de datos En el contexto de las modernas amenazas de robo de identidad, fraude con tarjetas de crédito y otros ries- gos, el anonimato de datos se convierte en una forma crucial de proteger la identidad y la privacidad de las personas, así como salvaguardar la información priva- da y sensible de las organizaciones. La anonimización de datos permite cumplir con las numerosas leyes de protección de datos que garanti- zan la privacidad del usuario. Estas leyes establecen salvaguardias en torno a la recopilación de datos per- sonales o información de identificación personal. Por 8 Alba Sánchez de la Calle. Cómo aplicar correctamente las técnicas de anonimiza- ción y seudonimización y la reidentificación de los datos personales. Disponible en: https://www.prodat.es/blog/como-aplicar-correctamente-las-tecnicas-de-ano- nimizacion-y-seudonimizacion-y-la-reidentificacion-de-los-datos-personales/ 44
lo tanto, el anonimato de datos se presenta como una solución eficiente para asegurarse de que no se proce- se ni utilice dicha información confidencial de manera inapropiada o riesgosa.9 9 Juan Sebastián Ruiz Botia. Manual de anonimización de datos. Disponible en: https://www.etitc.edu.co/archives/calidad/GSI-MA-02.pdf 45
46
CAPÍTULO 4 DESAFÍOS Y SOLUCIONES EN LA TRANSPARENCIA DE LA IA En éste capítulo, exploraremos uno de los desafíos más apremiantes en el campo de la Inteligencia Artificial: la transparencia. A medida que la IA se vuelve más omnipresente en nuestras vidas, surge la necesidad de comprender cómo toma decisiones y cómo podemos asegurarnos de que sea justa y responsable. Analizaremos la noción de “cajas negras” en la IA y cómo podemos abrir el código fuente para lograr ex- plicabilidad en sus procesos. También examinaremos las estrategias de auditoría y supervisión de los siste- mas de IA, con el objetivo de alcanzar una transparen- cia total en su funcionamiento. 47
Además, abordaremos la importancia de una sólida gobernanza para una IA transparente, destacando la necesidad de establecer marcos regulatorios y éticos que guíen su desarrollo y aplicación. 4.1. Cajas Negras y Explicabilidad: Abriendo el Có- digo Fuente de la IA La metáfora de la “caja negra” surge de la idea de que los sistemas de inteligencia artificial (IA) y los mode- los de aprendizaje automático funcionan de manera oculta y desconocida para los seres humanos, al igual que el contenido de una caja sellada e inaccesible. Es- tos sistemas utilizan complejos modelos matemáticos y conjuntos de datos de alta dimensión, generando in- trincadas relaciones y patrones que guían sus procesos de toma de decisiones. Sin embargo, su funcionamien- to interno no es fácilmente comprensible para los hu- manos. En términos prácticos, el desafío de la caja negra de la IA radica en la dificultad de entender el razonamien- to detrás de las predicciones o decisiones realizadas por un sistema de IA. Este problema es especialmen- te común en modelos de aprendizaje profundo, como las redes neuronales, donde múltiples capas de no- dos interconectados procesan y transforman datos de 48
manera jerárquica. La complejidad de estos modelos y las transformaciones no lineales que realizan hacen que sea extremadamente complicado rastrear la lógica subyacente en sus resultados. Nikita Brudnov, CEO de BR Group, un panel de aná- lisis de marketing basado en IA, señaló a Cointelegra- ph que la falta de transparencia en la forma en que los modelos de IA llegan a ciertas decisiones y predic- ciones podría ser problemática en diversos contextos, como el diagnóstico médico, la toma de decisiones fi- nancieras y los procedimientos legales, lo que afectaría significativamente la continua adopción de la IA.10 4.2. Auditoría y Supervisión de Sistemas de IA: Ha- cia una transparencia total La inteligencia artificial (IA) demandará nuevos enfo- ques de supervisión, como la colaboración entre hu- manos y máquinas en procesos de toma de decisiones, que antes eran responsabilidad exclusiva de la admi- nistración y requerían reglas claras de compromiso entre la auditoría y la gestión. La IA representa un desarrollo tecnológico sumamente disruptivo, gene- rando tanto oportunidades como riesgos en todos los 10 Shiraz Jagati. El problema de “caja negra” de la IA: retos y soluciones para un futuro transparente. Disponible en: https://es.cointelegraph.com/news/ai-s- black-box-problem-challenges-and-solutions-for-a-transparent-future 49
ámbitos empresariales y personales. Además, brinda a la auditoría interna la posibilidad de liderar el ase- guramiento de la auditoría, al tiempo que educa a los líderes empresariales sobre la implementación segura de sistemas de IA. Es esencial que no exista un marco de auditoría de “ta- lla única” para la inteligencia artificial, ya que los es- tándares deben adaptarse a la rápida evolución de la tecnología. Sin embargo, hay elementos comunes que deben considerarse al prepararse para un compromi- so de IA, abarcando un ecosistema de IA que aborde áreas clave de riesgo. Cada uno de los seis elementos de evaluación de riesgos debe considerarse en el contexto de la aplica- ción específica de la IA. Dado que la IA ya se ha im- plementado en diversas industrias, cada una con sus propios riesgos inherentes, es crucial tener en cuenta las interacciones entre humanos y máquinas, ya que representan riesgos dinámicos que requieren una ma- yor atención. Un ejemplo de este desafío es el caso del Boeing 737 MAX, donde la dependencia excesiva en la IA y la subestimación de riesgos pueden conducir a fallas catastróficas, incluso en industrias como la ae- roespacial, donde la IA ha sido utilizada para mejorar el rendimiento de los pilotos. 50
Search
