El 2 de Mayo de 2023, publicamos «La privacidad en la era de la inteligencia artificial por Chat GPT», un artículo que trataba cómo el propio Chat GPT describía y explicaba los efectos fruto de la interacción entre la inteligencia artificial y el ámbito de la privacidad. Hoy planteamos el mismo artículo, de nuestro puño y letra.

En una era caracterizada por los rápidos y continuos avances tecnológicos, la aparición de la Inteligencia Artificial (AI) ha impulsado la innovación y ha revolucionado de forma radical diversos sectores e industrias, redefiniendo así la interacción de los seres humanos con la tecnología.

Los progresos en la IA han traído consigo la recopilación masiva de datos, el reconocimiento de patrones, el análisis predictivo y la automatización de tareas que se realizaban antes de forma manual. No obstante, a medida que la IA se integra en nuestras vidas y su uso cotidiano cada vez adquiere mayor notoriedad, su funcionamiento también nos suscita una serie cuestiones éticas y legales en materia de privacidad.

Las implicaciones que tiene la inteligencia artificial en la privacidad pueden dividirse en las siguientes categorías:

Recopilación masiva de datos: los sistemas de inteligencia artificial requieren grandes cantidades de información personal para ser entrenados. Esta información puede contener datos personales y/o sensibles, lo que puede causar inquietudes sobre la seguridad de esos datos, el riesgo de que se produzcan accesos no autorizados o se realice un uso indebido de los mismos.
Anonimización insuficiente: al hilo de lo expuesto en el punto anterior, es posible que los sistemas de IA no sólo empleen datos personales, sino confidenciales, si las técnicas empleadas para anonimizar esos datos no son adecuadas, existe un riesgo significativo de re-identificación, ya que esa información aparentemente anónima puede volver a ser vinculada a una identidad en específico.
Consentimiento informado y falta de transparencia: en muchas ocasiones la información que los sistemas de IA adquieren y procesan para su entrenamiento, carecen del consentimiento explícito del usuario. Esta falta de consentimiento puede provenir:

Por un lado, por la propia complejidad algorítmica del sistema, que puede dificultar la comprensión del usuario sobre cómo se utilizan sus datos, lo que puede afectar a la capacidad de otorgar un consentimiento válidamente.
Por el otro, porque pese a comprender el funcionamiento del sistema, hay una falta de transparencia o existe opacidad en los procesos de la IA por parte de sus programadores. Por ejemplo, que no se informe claramente al usuario de qué datos se han empleado o cómo se recopilan y almacenan.

Vigilancia, elaboración de perfiles: La lA ha permitido la creación de complejos perfiles de usuario, obteniendo así una gran cantidad de información sobre sus comportamientos, preferencias y actividades diarias. Si bien esto ofrece ventajas en términos de servicios personalizados, es posible que se realice uso indebido de esta información o se empleen estos sistemas para vigilar de forma masiva a los ciudadanos, lo que aumenta el riesgo de intrusiones en su vida privada y la vulneración de su derecho a la intimidad.
Sesgos y discriminación: los sistemas de inteligencia artificial pueden contener sesgos, si los datos que se emplean para entrenarla contienen información imparcial, incorrecta o prejuiciosa, lo cual produce el riesgo de generar tratos discriminatorios en contra de personas o grupos de personas, así como vulneraciones a su derecho a la privacidad. Por ejemplo: al no poder los usuarios limitar ni controlar la información que se presenta, una IA que se emplee en el ámbito sanitario, judicial o de seguridad, puede tomar una decisión automatizada discriminatoria o injusta, así como puede realizar un perfil inexacto y erróneo.

Preservar el derecho a privacidad en la inteligencia artificial es esencial. Por ello, la transparencia, el consentimiento informado y el cumplimiento por parte de las empresas de los marcos normativos en materia de protección de datos (RGPD), asegura la mitigación de riesgos, la protección de los derechos individuales, y la promoción de las prácticas éticas y responsables en el tratamiento de datos.