* El objetivo es evitar la opacidad de los algoritmos, los sesgos que perpetúen la discriminación y las dificultades de la ciudadanía para ejercer sus derechos frente a decisiones automatizadas, como la Inteligencia Artificial (IA).
Síguenos en nuestras redes sociales como Péndulo Online
Redacción
Toluca, Méx. – Con el objetivo de asegurar que el tratamiento de datos personales cumpla con los principios de equidad, no discriminación, transparencia, explicabilidad, seguridad, resiliencia, exactitud y rendición de cuentas, el Grupo Parlamentario del PAN (GPPAN) presentó una iniciativa destinada a reforzar las obligaciones de identificar y mitigar riesgos para la privacidad y los derechos de las personas antes de implementar nuevas tecnologías, así como a regular el uso de la Inteligencia Artificial (IA).
La propuesta, presentada por los diputados Pablo Fernández de Cevallos González y Anuar Roberto Azar Figueroa, coordinador e integrante de la bancada panista, señala que los sujetos obligados —como autoridades, entidades, órganos y organismos— utilizan o planean utilizar tecnologías como IA, el reconocimiento facial y el análisis masivo de datos.
Asimismo, se advierte que la legislación vigente carece de disposiciones específicas para enfrentar desafíos como la opacidad de los algoritmos, el riesgo de sesgos que perpetúen la discriminación y las dificultades de la ciudadanía para ejercer sus derechos frente a decisiones automatizadas.
Por ello, se promueven modificaciones a la Ley de Protección de Datos Personales en Posesión de Sujetos Obligados y a la Ley de Transparencia y Acceso a la Información Pública, ambas estatales, para establecer una regulación proporcional, que la iniciativa describe como la imposición de obligaciones más estrictas únicamente a aquellos sistemas que presentan un alto riesgo para los derechos fundamentales, sin ahogar la innovación en aplicaciones de bajo riesgo.
Es así como se fortalecen las obligaciones de seguridad, pasando de un modelo de cumplimiento documental a uno de gestión proactiva de riesgos, y se robustece la figura de Evaluación de Impacto en Protección de Datos (EIPD).
Esta evaluación se describe como el proceso sistemático, preventivo y obligatorio, realizado de forma previa a la puesta en operación o modificación sustancial de cualquier política pública, programa, sistema o tecnología que implique un tratamiento de datos personales susceptible de generar un alto riesgo para los derechos y libertades.
Este proyecto indica que se deberá realizar una EIPD, de forma previa a la puesta en operación del sistema, cuando un tratamiento de datos personales sea susceptible de generar un alto riesgo; mientras que, para los que traten datos personales sensibles a gran escala o que sean clasificados como de alto riesgo, deberán realizarse, al menos cada dos años, auditorías externas y pruebas de penetración llevadas a cabo por terceros independientes, con el fin de evaluar la robustez de sus controles de seguridad.
Esta iniciativa considera el derecho a no ser objeto de decisiones exclusivamente automatizadas, por lo que toda persona tendrá derecho a no ser objeto de una decisión basada única y exclusivamente en un tratamiento de esta naturaleza —incluida la elaboración de perfiles— que produzca efectos jurídicos en ella o le afecte significativamente de modo similar.
También define prohibiciones de uso de IA cuando se utilicen técnicas subliminales o manipuladoras que trasciendan la conciencia de una persona para distorsionar su comportamiento de una manera que le cause o pueda causarle un perjuicio; y en los esquemas de puntuación social para evaluar la fiabilidad de las personas con base en su comportamiento social o características personales, que tengan como resultado un tratamiento perjudicial o desfavorable para dichas personas en contextos ajenos a aquellos en los que se generaron los datos.
Igualmente, se prohíbe cuando se trate de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público para fines de seguridad pública, salvo autorización judicial previa y en los casos de persecución de delitos graves, búsqueda de víctimas específicas o prevención de una amenaza específica, sustancial e inminente para la vida o la seguridad física.
