A medida que las empresas adoptan cada vez más la inteligencia artificial, es fundamental comprender cómo interactúa esta con la legislación en materia de protección de datos para gestionar los riesgos y proteger la información personal.
En esta sesión de la Cumbre de Socios de 2026 de Termly, la abogada especializada en privacidad Anokhy Desai analiza la relación entre la inteligencia artificial y la privacidad de los datos, incluyendo los requisitos establecidos por la Ley de Protección de Datos de California ( rgpd), la Ley de Privacidad de los Consumidores de California (CCPA) y la Ley de Inteligencia Artificial de la UE.
Descubre estrategias prácticas para evaluar a los proveedores de IA, gestionar el consentimiento y los derechos de los consumidores, mejorar la transparencia, proteger los datos sensibles y establecer prácticas responsables de gobernanza de la IA.
Lee la transcripción
0:04
Buenos días a los que estáis en la costa oeste, y buenas tardes al resto, desde dondequiera que estéis siguiendo esta presentación sobre cómo gestionar la privacidad de los datos en un
0:13
Un mundo impulsado por la IA. Me llamo Anokhy y te explicaré cómo las empresas pueden aprovechar la IA de forma responsable sin dejar de cumplir con la legislación internacional en materia de privacidad.
0:23
Durante los próximos 45 minutos aproximadamente, abordaremos conceptos clave, retos y buenas prácticas que se pueden poner en práctica.
0:31
Y en nuestra guía de hoy, me presentaré con un poco más de detalle y, a continuación, repasaremos algunos términos clave para quienes se inician en esta área de práctica,
0:40
Analizaremos cómo se relacionan la inteligencia artificial y la privacidad, repasaremos algunos retos habituales en materia de cumplimiento normativo y las mejores prácticas para las empresas en función de dichos retos, y haremos que la sesión sea interactiva.
0:51
Así que no dudéis en plantear preguntas en cualquier momento.
0:53
Además, no olvidéis usar ese hashtag para conseguir el regalo al final, y ya responderemos a las preguntas al final.
0:59
Esta sesión se grabará y, una vez finalizada, la presentación estará disponible para su descarga, junto con los recursos y las listas de comprobación que mencionaré durante la presentación.
1:07
Y, como siempre, aquí tienes la información legal: descargo de responsabilidad .
1:10
La presentación y toda la información que voy a compartir hoy, procedente de la maravillosa gente de Termly , está destinada a
1:16
Con fines meramente informativos; no debe interpretarse como asesoramiento jurídico por mi parte ni por parte de mi empresa.
1:22
Pero si tenéis alguna pregunta más compleja que creáis que no se puede responder aquí hoy, no dudéis en enviarme un correo electrónico; pondré mi dirección de correo en el chat al final de la sesión.
1:34
Bueno, me llamo Anokhy Desai.
1:36
Formo parte del bufete de abogados Husch Blackwell, en el grupo de Privacidad, Ciberseguridad e Inteligencia Artificial, y anteriormente he colaborado con la IAPP, así como en el departamento jurídico de varias startups como especialista en tecnología, entre otros puestos.
1:48
Tengo varios certificados en materia de privacidad, estoy preparándome para la certificación AIGP y he trabajado en cuestiones relacionadas con la ciberseguridad, la privacidad y la inteligencia artificial para empresas de distintos tamaños.
2:01
Tal y como se utiliza hoy en día, el término «IA» (inteligencia artificial) hace referencia a una gran variedad de sistemas diferentes.
2:07
Algunos imitan el lenguaje humano, el aprendizaje y la toma de decisiones sin apenas intervención humana.
2:13
Para las empresas, la inteligencia artificial se está generalizando a un ritmo vertiginoso.
2:17
Según los últimos datos de Termly, el 77 % de las empresas ya están probando o utilizando herramientas de inteligencia artificial.
2:24
Y, según se informa, en 2024 se produjo un aumento superior al 100 % en la adopción de la IA generativa.
2:31
Si estás aquí, lo más probable es que tu empresa ya utilice una o varias de estas plataformas de IA para diversas actividades.
2:38
Así que no dudéis en compartir en el chat de la sesión cuál de ellos estáis utilizando, o cualquier detalle relevante sobre vuestras experiencias en materia de cumplimiento normativo.
2:46
Pero, mientras tanto, analicemos los tipos de IA más relevantes para las empresas.
2:52
El aprendizaje automático es la base del análisis predictivo, que ayuda a prever tendencias y el comportamiento de los clientes.
2:58
El procesamiento del lenguaje natural se utiliza en los chatbots y en el análisis de opiniones para mejorar la interacción con los clientes.
3:05
La visión artificial utiliza el aprendizaje profundo y las redes neuronales para el reconocimiento de objetos en procesos como la gestión de inventarios y el comercio minorista, así como para el reconocimiento facial en el ámbito de la seguridad.
3:16
Y la IA generativa es, sin duda, la que mejor conocemos aquí.
3:20
Entre ellos se encuentran ChatGPT y Claude, además de muchos otros, y, como su nombre indica, genera contenido a gran escala.
3:27
De hecho, algunos de ellos, incluido ChatGPT, ya cuentan con visión artificial integrada.
3:32
Así que puedes hacer una foto y pedirle que describa de qué se trata; es una combinación de diferentes tipos de IA.
3:39
Hay muchísimos ejemplos de cómo la IA está transformando las operaciones cotidianas, como
3:46
atención al cliente, automatización, detección de fraudes, marketing personalizado e incluso optimización de la cadena de suministro.
3:53
Pero la cuestión es que, para funcionar correctamente, la IA necesita una gran cantidad de datos; literalmente, millones de datos para funcionar mejor.
4:02
Y, en ocasiones, esos datos entran dentro de la definición legal de «información personal» o «datos personales».
4:08
Y esto significa que las empresas sí que deben tener en cuenta el cumplimiento de la normativa de privacidad desde el principio.
4:13
Siempre que elijas una plataforma de IA para tu empresa, utilizar la IA sin tener en cuenta la legislación en materia de privacidad, es habitual
4:22
Entre ellas se encuentran la Ley de Protección de Datos de California ( rgpd ) y la Ley de Protección de Datos de California (CCPA), que pueden acarrear consecuencias importantes, pero hablaremos de ello más adelante.
4:28
Pero algunos ejemplos son las cuantiosas multas, el daño a la reputación y la pérdida significativa de la confianza de los consumidores, que hemos
4:34
Lo que ya se ha observado solo en 2025 ha tenido un impacto real en los beneficios de las principales organizaciones.
4:41
A medida que avancemos, hay que tener en cuenta que la decisión de utilizar la IA no es solo una cuestión de actualizar la pila tecnológica del equipo, sino también un reto en materia de cumplimiento normativo y una oportunidad para generar confianza mediante un uso responsable.
5:00
Así pues, la privacidad de los datos es el principio según el cual las personas deben tener control sobre su información personal y los procesos relacionados con ella, como la forma en que se recopila,
5:08
cómo se utiliza, cómo se almacena e incluso si se puede eliminar.
5:12
No se trata solo de un requisito legal, sino también de un factor de confianza para los consumidores, tal y como ponen de manifiesto las estadísticas recientes sobre privacidad.
5:19
Como ha demostrado recientemente un estudio de Cisco, el 75 % de los consumidores no comprará a empresas en las que no confíe para el tratamiento de sus datos.
5:29
Estamos viendo cómo las empresas del sector minorista se enfrentan a este problema en estos momentos.
5:34
Algunos principios fundamentales de la protección de datos son la minimización de datos, que consiste en recopilar solo lo necesario; y la limitación de la finalidad, que consiste en utilizar los datos únicamente para
5:42
el objetivo que has expuesto; la transparencia, que consiste en comunicar con claridad tus prácticas en materia de datos; y la seguridad, que,
5:50
En lo que respecta a la privacidad, esto implica aplicar medidas de protección adecuadas para evitar incidentes de seguridad, como las filtraciones de datos.
5:57
Cada vez más, observamos que la seguridad y la privacidad van de la mano en lo que respecta a los requisitos de cumplimiento normativo, tal y como se desprende de la nueva CCPA de 2026
6:06
normativas que exigen auditorías cibernéticas, además de las auditorías habituales de riesgos de privacidad, para determinadas organizaciones.
6:14
Así pues, estos principios fundamentales de privacidad —la minimización de datos, la limitación de la finalidad, la transparencia y la seguridad— se aplican a través de la legislación en materia de privacidad en todo el mundo, por citar solo algunos ejemplos.
6:24
Existen l rgpd o en la UE, la CCPA en California, la LGPD en Brasil, la POPIA en Sudáfrica y la PDPA
6:33
en Singapur, y muchas otras más que exigen a las empresas que respeten ante todo los derechos de los usuarios y que cumplan con determinadas normas.
6:44
Estos derechos, los derechos de los consumidores, suelen incluir la posibilidad de que el usuario acceda a sus datos, los corrija, los elimine y los transfiera a otros servicios.
6:53
Para las empresas, cumplir con estas leyes implica proporcionar avisos de privacidad claros e implementar gestión del consentimiento para los datos sensibles
7:00
los datos, y el gestión del consentimiento deben estar correctamente conectados en la parte trasera, y garantizar que los usuarios puedan ejercer sus derechos fácilmente.
7:08
Además de cumplir los requisitos normativos y evitar multas,
7:11
Esto significa que se ha demostrado que respetar la privacidad de los usuarios genera confianza y fidelidad entre tus clientes.
7:16
Termly : de hecho, los estudios demuestran que el 94 % de las empresas cree que es posible conciliar los objetivos de marketing con el cumplimiento de la normativa de privacidad.
7:23
Y eso es algo de lo que seguiremos hablando hoy. Veo que se menciona a Termly en
7:32
el chat, utilizando el generador de políticas de Termly para actualizar la política de privacidad e incluir la IA.
7:37
Siempre es bueno saber que las empresas están actualizando sus políticas para que se ajusten a sus prácticas actuales.
7:44
Así pues, la mayor parte de la IA destinada al consumo actual necesita centros de datos y grandes cantidades de datos para funcionar.
7:50
Como he mencionado anteriormente, algunos de estos datos pueden entrar dentro de la definición legal de «información personal» o «datos personales», que están protegidos por la legislación internacional en materia de privacidad.
7:59
A veces, los datos que se comparten con estas plataformas de IA pueden incluir incluso información sensible, lo cual constituye una categoría especial de datos para cualquiera que se inicie en el tema de la privacidad
8:08
aquí es donde las empresas deben reforzar aún más la protección.
8:11
Si estos datos se gestionan de forma inadecuada, la empresa se expone a multas, demandas y, por supuesto, a un daño a su reputación.
8:19
A estas alturas, está claro que la inteligencia artificial y la privacidad no son conceptos separados, sino que están muy entrelazados.
8:24
Y cada vez que una empresa utiliza la IA, recurre a los datos, por lo que ambos conceptos están estrechamente relacionados.
8:30
Se basa en nombres, direcciones de correo electrónico, patrones de comportamiento de los consumidores e incluso información confidencial sobre salud o finanzas.
8:38
Se trata de las mismas categorías de información que las leyes de protección de datos, como la Ley de Privacidad de los Consumidores de California ( rgpd ) y la Ley de Protección de la Privacidad de California (CCPA), tienen por objeto proteger.
8:46
Para las empresas, esto ha supuesto un dilema ineludible. La IA promete eficiencia, personalización e innovación.
8:54
Pero también conlleva este riesgo.
8:56
Si las empresas no gestionan los datos personales de forma responsable, las consecuencias pueden ser graves para el consumidor, cuya privacidad se ve amenazada, además del riesgo que ya supone para la propia empresa.
9:08
Según el Reglamento General de Protección de Datos ( rgpd), sabemos que las multas pueden ascender a 20 millones de euros o al 4 % de la facturación global anual, lo que sea mayor.
9:16
Pero esa sanción económica es solo una parte de la historia.
9:19
El resto del coste lo supone la pérdida de confianza de los consumidores y el daño a la reputación.
9:24
Hoy en día, los consumidores se preocupan por la privacidad, y esto es algo que venimos escuchando desde hace años. Y, a medida que pasan los años, esto es cada vez más cierto.
9:32
Y un solo paso en falso puede salir muy caro.
9:34
Esto significa que la transparencia y el consentimiento ya no son opcionales.
9:38
Pero si estás viendo esto desde un país miembro de la UE o si ya cumples con la norm rgpd , es posible que ya lo estés haciendo.
9:46
Pero si utilizas herramientas de IA, también deberías informar claramente a los usuarios sobre cómo se utilizan sus datos.
9:52
Y, cuando sea necesario, deberías obtener un consentimiento explícito para cuestiones como la información sensible.
9:59
Es igual de importante garantizar que los consumidores puedan ejercer sus derechos de privacidad tal y como se establece en vuestras políticas de privacidad, ya sea
10:07
que deseen acceder a sus datos, corregirlos o eliminarlos, incluso si han sido tratados por un sistema de inteligencia artificial.
10:15
Así pues, para aplicaciones de alto riesgo como el reconocimiento facial o la elaboración de perfiles de consumidores, las EIPD —para quienes no estén familiarizados con el tema de la privacidad— son evaluaciones de impacto en la protección de datos.
10:24
Las evaluaciones de impacto también son fundamentales.
10:27
Estas medidas sirven como una especie de protección frente a posibles problemas éticos, de seguridad y legales.
10:32
En definitiva, la IA y la privacidad de los datos son inseparables, y el uso responsable de la IA no es solo un reto técnico, sino también de gobernanza.
10:41
Las empresas que asuman esta realidad no solo podrán evitar sanciones, sino que también podrán generar confianza y obtener esa ventaja competitiva adicional en este mundo dominado por la IA.
10:58
Pasando a analizar con algo más de detalle las leyes sobre protección de datos, casi todas las principales normativas en materia de privacidad
11:04
ahora se cruza con la IA, y las empresas deben comprender qué significa eso en la práctica.
11:11
Así que empezaré por la Ley de IA de la UE, que, según creo, es el primer marco integral para la gobernanza de la IA en el mundo.
11:19
Establece un enfoque basado en el riesgo según el cual los sistemas de inteligencia artificial se clasifican en cuatro categorías: riesgo mínimo, riesgo limitado, riesgo elevado o prohibidos.
11:27
Los sistemas de alto riesgo, como los que se utilizan para el reconocimiento facial o la evaluación de la solvencia crediticia, deben cumplir los requisitos más estrictos, lo cual no es de extrañar,
11:36
que incluye obligaciones como la transparencia, la documentación y las evaluaciones de riesgos continuas.
11:42
Y se aplica, en términos generales, a cualquier persona que fabrique, utilice, importe o distribuya sistemas de inteligencia artificial en los Estados miembros de la UE.
11:50
Así pues, si tienes tu sede en EE. UU., es posible que sigas estando sujeto a la Ley de IA de la UE.
11:55
Si tu empresa utiliza la inteligencia artificial de esta forma, es probable que el cumplimiento de la ley sea obligatorio.
12:02
Y luego está la ley favorita de todos, la Ley de Protección de Datos de 1995 ( rgpd), que sigue siendo el polémico referente en materia de protección de datos.
12:09
No sé si alguien ha visto la publicación de NOYB sobre su relación de amor-odio con rgpd, pero sé que los expertos en privacidad también opinan lo mismo.
12:18
Veremos si hay algún cambio o si, en su caso, se aprueban nuevas modificaciones una vez que el paquete ómnibus haya pasado por el diálogo tripartito.
12:25
Pero, por ahora, según la Ley de Protección de Datos de 1998 ( rgpd), si tratas datos personales, ya sea a través de un sistema de inteligencia artificial o de cualquier otra forma, debes disponer de uno
12:33
de seis fundamentos jurídicos: consentimiento, necesidad contractual, obligación legal, intereses vitales, misión de interés público o interés legítimo.
12:42
Aunque esta última opción se ha ido reduciendo con el paso de los años.
12:48
No basta con decir que utilizamos la IA para mejorar la eficiencia; esto es algo de lo que realmente deberíamos hablar con las partes interesadas de nuestras empresas,
12:56
pero debes justificar por qué recopilas datos y cómo los utilizas, y asegurarte de que las personas puedan ejercer sus derechos.
13:05
Esto significa que, si un cliente solicita que se eliminen sus datos, deberías poder hacerlo, algo que hay que tener en cuenta antes de que esos datos queden integrados en un modelo de IA.
13:16
En EE. UU., la CCPA añade un requisito adicional por el que las empresas deben facilitar avisos de privacidad claros y permitir a los consumidores
13:23
renunciar a la venta o al intercambio de sus datos personales, y obtener el consentimiento expreso para datos sensibles, como la información sanitaria o financiera.
13:31
Además, con la nueva normativa CCPA 2026, debes asegurarte de que la opción que el consumidor elija —ya sea dar su consentimiento o negarlo— sea simétrica.
13:42
Por lo tanto, debe haber simetría en las opciones y no deben existir «patrones oscuros» en ese ámbito.
13:49
Si utilizas un sistema de IA con este tipo de datos, es posible que necesites el permiso explícito de los consumidores afectados. Veo que… ¿qué hay de…
13:58
Sí, gracias, Canadá. ¿Qué hay de la PIPEDA y la Ley 25 de Quebec? Puedo responderte a eso por correo electrónico.
14:06
La verdad es que no estoy seguro de si se han impulsado normativas sobre IA en ambas áreas. Pero, Jeff, podemos hablar de eso en privado.
14:15
Aunque el panorama jurídico está en plena evolución, la IA en sí misma no existe en un vacío legal.
14:22
Todas las leyes de protección de datos que ya conoces —la Ley de Privacidad de los Consumidores de California ( rgpd), la Ley de Protección de Datos de California (CCPA), la Ley General de Protección de Datos (LGPD), la Ley de Protección de Información y Privacidad de Sudáfrica (POPIA) y la Ley de Protección de la Información y la Privacidad de Canadá (PIPEDA), para nuestros lectores canadienses— pueden aplicarse al tratamiento de datos basado en la inteligencia artificial.
14:36
Y las sanciones por equivocarse son muy severas.
14:38
Sabemos que son 20 millones de euros, es decir, el 4 % de la facturación global, según rgpd. Sabemos que la multa por infracción de la CCPA es de 7.500 dólares.
14:46
Pero, una vez más, más allá de las multas, los titulares pueden suponer un verdadero revés.
14:51
Los consumidores esperan transparencia y responsabilidad, y los organismos reguladores están muy atentos.
14:57
Así que, a medida que innoves con la IA y tu empresa impulse la innovación en este ámbito dentro de la organización, pregúntate: ¿cumplimos con la normativa?
15:05
¿Estamos siendo transparentes? ¿Estamos dispuestos a respetar los derechos de los usuarios?
15:10
¿Y refleja nuestra política de privacidad nuestros procesos reales?
15:15
Dado que nos vemos rodeados por la tendencia a utilizar la inteligencia artificial, debemos dar prioridad tanto al cumplimiento de la legislación como a velar por la confianza de los consumidores.
15:22
Pero cuando las empresas adoptan la IA, el entusiasmo puede eclipsar la complejidad. Y lo entiendo perfectamente.
15:28
A todo el mundo le entusiasma una nueva herramienta, sobre todo cuando promete ofrecer una mayor eficiencia.
15:35
Sin embargo, tras las promesas de eficiencia e innovación se esconde una serie de retos que pueden determinar el éxito o el fracaso del cumplimiento normativo y la confianza de los consumidores.
15:44
El primer reto consiste en identificar herramientas de IA responsables. No todas las plataformas de IA son iguales.
15:50
Algunas empresas carecen de transparencia en cuanto a cómo tratan los datos o en qué medida cumplen con la legislación en materia de privacidad.
15:56
Y no siempre es culpa suya, ya sabes, por haber pasado esto por alto.
16:00
A veces evolucionan más rápido de lo que sus políticas de privacidad y condiciones de uso pueden seguirles el ritmo.
16:07
Sin embargo, elegir un proveedor inadecuado para tu empresa puede exponerte a riesgos legales, y no solo al proveedor.
16:14
Una selección responsable implica leer detenidamente las políticas de privacidad, comprobar si cuentan con certificaciones como la ISO 27001 o la SOC 2, y
16:21
asegurándose de que el proveedor cumpla con marcos normativos como la Ley de IA de la UE o, más conocido en EE. UU., el Marco de Gestión de Riesgos de IA del NIST.
16:31
Y el siguiente reto es gestionar el consentimiento, las preferencias y los derechos de los usuarios.
16:35
Los sistemas de inteligencia artificial suelen tratar datos personales de formas que no resultan evidentes a primera vista para los consumidores.
16:42
Así que, si utilizas la IA para la personalización o el análisis de datos, vas a necesitar unos procesos sólidos de « gestión del consentimiento ».
16:48
Esto incluye banners claros, centros de preferencias y mecanismos para que los usuarios puedan dar su consentimiento o retirarlo.
16:55
Además, en virtud de leyes de protección de datos como la Ley de Privacidad de California ( rgpd ) y la Ley de Privacidad de California (CCPA), los usuarios tienen derecho a acceder a sus datos, rectificarlos y eliminarlos, incluso si están integrados en el modelo de IA.
17:05
Sé que los defensores de la privacidad están tan hartos de oír hablar de los avisos sobre cookies como los usuarios de tener que sortearlos.
17:12
Así que intenta asegurarte de que el lenguaje y la interfaz de usuario sean fáciles de usar.
17:17
Otro reto importante en este ámbito es evitar el intercambio o el acceso no autorizado a los datos.
17:23
Los sistemas de IA pueden revelar datos confidenciales sin querer si las medidas de seguridad no son lo suficientemente sólidas.
17:29
Esto implica, por tanto, aplicar controles de acceso más estrictos, cifrado y auditorías periódicas.
17:35
Esto también implica formar a tu equipo, ya que el error humano suele ser el eslabón más débil en la protección de datos.
17:40
Lo sé por haber trabajado en el ámbito de la ciberseguridad y la privacidad. Estoy seguro de que muchos de los que estáis viendo esto podéis identificaros con esto.
17:48
De hecho, contadme en el chat si habéis estado tan ocupados como yo después de las vacaciones debido a incidentes de seguridad provocados por errores humanos.
17:57
Por último, hay que garantizar la transparencia ante los consumidores.
18:01
La gente quiere saber cuándo se utiliza la IA y cómo les afecta.
18:06
Si tu chatbot funciona con IA, hay leyes que te obligan a indicar que es así.
18:11
Si utilizas la IA para la toma de decisiones automatizada, la legislación en materia de privacidad te obliga a hacerlo público. La transparencia no es solo una cuestión de ética.
18:20
Es un requisito legal en virtud de la normativa vigente y de la que está por entrar en vigor.
18:23
Sin embargo, estos retos no son insuperables, aunque sí requieren planificación, gobernanza y un compromiso con la innovación que anteponga la privacidad.
18:34
Veo a alguien en el chat. El mayor error humano es usar contraseñas tontas y obvias. Para algunos son tontas, para otros son únicas.
18:41
De verdad creo que esas contraseñas tan largas se vuelven más seguras con el tiempo.
18:47
Si la gente tiene en mente una frase completa, preferimos que la utilicen en lugar de, ya sabes, algo vago como «dos, seis, uno».
18:59
Muy bien, de acuerdo, esta es una diapositiva que sé que puede resultar muy útil, y esta lista de comprobación estará disponible más adelante.
19:07
Así que, por mucho que digamos que no hay que tratar el cumplimiento normativo como una lista de tareas, es útil contar con este punto de partida si se está desarrollando un marco de gobernanza de la IA desde cero.
19:16
Termly ha tenido la amabilidad de elaborar esta lista de comprobación de 10 pasos y, sí, estará disponible más adelante.
19:23
Primer paso: seleccionar herramientas de IA que respeten la privacidad. Es más fácil decirlo que hacerlo.
19:29
Te recomendamos que compruebes que cumplen con la legislación en materia de privacidad aplicable a ti y a tu organización.
19:36
Además, hay que comprobar las certificaciones y las prácticas de ciberseguridad de las jurisdicciones en las que operas, y confirmar que las políticas de los proveedores se ajustan a dichas prácticas.
19:48
Lo siento.
19:48
Que las políticas de los proveedores se ajusten a sus prácticas en lo que respecta al ciclo de vida de los datos.
19:53
El segundo paso es el pan de cada día de un abogado especializado en privacidad: condiciones de servicio, política de privacidad, revisión de la responsabilidad.
20:00
Asegurarse de que el proveedor no utilice los datos para el entrenamiento de modelos sin consentimiento y, en caso de que vaya a utilizarlos para fines distintos de los indicados inicialmente, que
20:10
Debes abordar esa cuestión en un nuevo acuerdo o asegurarte de que realicen una nueva evaluación de riesgos al respecto y te lo notifiquen para que puedas obtener el consentimiento de los usuarios.
20:20
Un tercer paso es la limitación de los datos: compartir con la IA únicamente los datos que sean necesarios.
20:27
El hecho de que estés escribiendo y no hablando por teléfono no significa que esas otras normas dejen de aplicarse.
20:32
Así que no compartas información confidencial, como el apellido de soltera de tu madre o tu lugar de nacimiento, y dentro de tu organización,
20:38
Asegúrate de que existan políticas de minimización de datos y de que los empleados sepan en qué consisten.
20:46
A menudo veo que las organizaciones afirman que ya cuentan con su « condiciones de uso ».
20:50
Contamos con una política de privacidad, disponible en política de cookies, y una política de uso de la IA, pero los empleados a menudo no las consultan o
20:59
Es una de esas situaciones en las que hay que marcar una casilla que dice «He leído», y no existe ninguna formación que explique por qué tenemos
21:06
todas estas cuestiones, lo que significan para ellos y qué medidas deberían adoptar, si es que hay alguna.
21:15
Así pues, los pasos del cuatro al seis son la práctica habitual para los expertos en privacidad.
21:19
Asegúrate de eliminar la información de carácter personal antes de procesar los datos o de anonimizar los datos antes de utilizarlos para entrenar modelos de IA.
21:27
Además, siempre que sea posible, es preferible utilizar conjuntos de datos agregados para el análisis en lugar de datos seudonimizados. Paso cinco: uso de datos personales.
21:38
El uso de datos personales implica siempre informar a los usuarios y obtener su consentimiento explícito, con un consentimiento expreso en el caso de datos sensibles, como la información sanitaria y financiera.
21:47
Solo queremos asegurarnos de que los usuarios estén informados sobre qué ocurre con sus datos.
21:50
Porque lo más importante aquí, sobre todo si eres una empresa que suele recibir quejas de los consumidores o que se enfrenta a cualquier tipo de
21:57
En lo que respecta a los litigios sobre privacidad en Estados Unidos, estos se deben a la falta de transparencia y de consentimiento por parte del consumidor.
22:04
Así que, si no entienden lo que está pasando, lo que hay que hacer es asegurarse de que lo vean explicado en un lenguaje sencillo.
22:12
Paso seis: asegúrate de que tus mecanismos de baja funcionen correctamente.
22:17
Y sé que eso supone un pequeño reto tecnológico, dependiendo de lo que haga tu empresa con los datos, del tamaño de tu empresa y de la profundidad
22:25
tu nivel de conocimientos técnicos, así que no voy a intentar dar un consejo general al respecto, salvo asegurarte de que cuentes con las personas adecuadas en la sala para las conversaciones de negocios sobre IA.
22:40
A continuación, te conviene realizar una auditoría del uso que hace tu empresa de la IA mediante registros de actividad, flujos de datos y evaluaciones periódicas de riesgos.
22:48
La documentación es fundamental.
22:50
Si te llama a la puerta otro abogado o un organismo encargado de hacer cumplir la ley...
22:56
Y en lo que respecta a la ciberseguridad, los controles de acceso basados en roles son un buen punto de partida, junto con el cifrado de los datos en reposo y en tránsito.
23:05
Si utilizas un proveedor de IA, asegúrate de hablar con ellos para saber cómo es su proceso de actualización, si se trata de actualizaciones automáticas
23:12
cuestiones que se hayan llevado a cabo o eventos programados mensualmente sobre los que debas informar a los empleados correspondientes.
23:19
Además, conviene que te prepares para posibles brechas de seguridad y que actualices tus planes de respuesta ante incidentes, recuperación ante desastres y continuidad del negocio para tener en cuenta las herramientas de IA de tu empresa, si procede.
23:30
Pero volviendo al tema de los proveedores, cuando revises los acuerdos y las políticas, presta atención a sus obligaciones en materia de notificación de infracciones y a sus garantías.
23:42
En cuanto al tema de la respuesta ante incidentes, una última observación.
23:44
He visto que hay organizaciones que cuentan con planes de respuesta ante incidentes y con personal adecuado en sus equipos de seguridad
23:53
y se informó al personal de TI sobre cómo aplicar retenciones de datos y cosas por el estilo.
23:59
Pero, en realidad, estos planes no suelen llevarse a cabo.
24:02
Y, por eso, a la hora de llevar a cabo el plan, he visto cómo algunas organizaciones no saben
24:09
cuando hay ciertas cosas que no se saben o no se sabe a quién acudir en lo que respecta, ya sabes, a la cuarentena de datos.
24:16
Así que asegúrate de repasar el plan y de realizar una simulación. Por último, el paso definitivo: adelantarse a la normativa.
24:28
Además, es más fácil decirlo que hacerlo. Hay muchos recursos disponibles.
24:31
Termly ofrece recursos de forma conjunta; mucha gente, como yo, escribe entradas de blog para asegurarse de que los lectores estén al corriente de todo
24:41
de la normativa que está por entrar en vigor, sobre todo teniendo en cuenta que los borradores normativos se actualizan constantemente, como es el caso de las modificaciones de la CCPA de 2026 que entraron en vigor este 1 de enero.
24:55
Hay algunas suposiciones que incluso yo mismo hago sobre los distintos tipos de usuarios de IA generativa, en las que daré por hecho que
25:02
Si trabajas en el sector tecnológico, sabrás que tus solicitudes a ChatGPT pueden hacerse públicas.
25:08
Pero no es así, como hemos podido comprobar en diversos titulares y estudios de investigación que han sacado a la luz conversaciones completas y las preguntas formuladas a ChatGPT.
25:20
Por eso es importante la formación, para asegurarse de que la gente entienda la cantidad de datos que puede introducir,
25:28
Digamos que, en el caso de la IA generativa, ¿cuántos datos se utilizan para entrenar los modelos?
25:33
Formar al personal sobre estos nuevos requisitos de cumplimiento normativo y las prácticas éticas en materia de IA puede resultar realmente muy útil si lo comprenden.
25:46
Genial. Turno de preguntas y respuestas, es el momento de las preguntas y respuestas.
25:49
Sé que para algunos de vosotros es la hora de la comida, así que quizá necesitéis recargar un poco las pilas antes de volver a plantear preguntas.
25:56
Dejaré mi correo electrónico aquí en el chat por si tenéis alguna pregunta más compleja o queréis poneros en contacto conmigo por separado.
26:12
Muy bien, estamos en el departamento de marketing. Hemos implementado un chatbot con IA en nuestra página web de CRM. Para el servicio de atención al cliente, hemos implementado un chatbot con IA.
26:22
Vale, es más un comentario que una pregunta.
26:24
Pero, de hecho, voy a abordar este tema. He trabajado con clientes que tenían dudas sobre el cumplimiento de la normativa de privacidad en lo que respecta a sus chatbots de IA.
26:34
Lo más importante aquí es la transparencia y la divulgación de información.
26:38
Así que, al menos en lo que respecta a su cumplimiento, y puede que esto sea similar para los espectadores que se encuentren en
26:44
En un caso similar, querían asegurarse de no tener que prepararse para un litigio y de cumplir con la normativa desde el principio.
26:55
Así pues, en los estados en los que estaban ubicados existían normas al respecto, así como buenas prácticas establecidas en Estados Unidos
27:04
sobre revelar que el chatbot es un bot, que se trata de una IA generativa y no de una persona real.
27:13
Así que, cuando utilices la IA generativa para crear un chatbot, asegúrate de que...
27:18
¿Seguro de que pone, ya sabes, «chatbot» como usuario, o de que aparece un aviso cuando, por ejemplo, cuando...
27:28
El usuario hace clic en el chatbot, que muestra una ventana emergente que dice algo así como: «¿Tienes alguna duda? ¿Quieres hacernos alguna pregunta? Estaremos encantados de responderte».
27:35
Cuando el usuario hace clic en ese cuadro de diálogo, aparece un aviso que dice algo así como: «Esta comunicación es con el chatbot de la empresa ABC».
27:48
Las comunicaciones pueden grabarse o almacenarse para cualquier fin, incluso para fines internos.
27:55
Y luego ya puedes pasar a lo de, ya sabes, «¿En qué podemos ayudarte?». Algunas plataformas tienen límites de caracteres.
28:01
Ese fue el reto creativo en el que trabajamos: cómo transmitir toda esa información con un número limitado de caracteres y palabras.
28:12
Pero sí, en lo que respecta al uso de chatbots con IA y al cumplimiento de la normativa de privacidad, una forma muy eficaz de
28:20
Para cumplir con la normativa, hay que asegurarse de que el usuario sepa que se trata de un bot y no de una persona.
28:26
Incluso si la conversación se deriva a una persona, es decir, a un agente de atención al cliente más adelante, este debe saber que la primera parte se ha gestionado con un
28:33
bot, y que su conversación pueda quedar registrada en los registros de la empresa para cualquier fin.
28:43
Para que puedan optar por no utilizar esa función de chatbot si no dan su consentimiento. Exacto.
28:53
Pasemos a otra pregunta.
28:57
¿Tienes alguna sugerencia sobre qué significa la transparencia en lo que respecta al uso de la IA en nuestra empresa?
29:03
¿Hay algo que deba mencionarse en una política de privacidad u otro documento legal?
29:10
Sí, en realidad es exactamente eso, en tu política de privacidad.
29:14
Ya he mencionado que algunas empresas tienen una política de privacidad distinta de su política de uso de la IA. Por lo que sé, y aunque esto puede haber cambiado,
29:23
Ya estamos en un nuevo año natural, así que eso no es necesario.
29:27
Pero sí que puedes; quizá quede un poco más claro, dependiendo de lo extensa que sea tu política de privacidad.
29:33
Disponer de un documento específico para el cumplimiento normativo en materia de IA y de un espacio donde anotar el uso y las prácticas relacionadas con la IA, así como los datos que se recopilan en él.
29:44
Puede que resulte redundante con respecto a la política de privacidad, dependiendo de cuántas herramientas utilices o de cuán pocas.
29:51
Pero lo que suelo hacer es añadir un
29:57
cláusula de la política de privacidad en la que se enumeran las siguientes herramientas
30:04
utiliza la IA y, a continuación, ofrece una especie de resumen de lo que hace la herramienta, qué tipo de datos...
30:11
utiliza o recopila, ya se trate de datos de consumidores o incluso de datos B2B, cuál es la finalidad de dicha recopilación y tratamiento de datos, y durante cuánto tiempo se conservan dichos datos.
30:22
A veces es instantáneo, como en el caso de la tecnología de reconocimiento facial, pero incluso en ese caso se aplican leyes un poco más estrictas.
30:31
Dada la existencia de leyes sobre datos biométricos en todo el país, y dado que cada día surgen más leyes de este tipo a nivel estatal, conviene estar atentos a lo que se aprueba en ese ámbito.
30:44
Incluso en el caso de entidades como los bancos, que utilizan huellas vocales con fines fraudulentos, sé que lo han hecho,
30:52
Dependiendo del tamaño de la entidad financiera, esta cuenta con una política de privacidad de datos biométricos específica.
31:01
y eso incluirá el uso de la IA para ese tipo de fines, normalmente con el objetivo de cometer fraude.
31:07
Siempre que se actúe con transparencia, se obtenga el consentimiento de los usuarios para ello y se les informe de que los datos, la conversación y su voz pueden almacenarse durante el tiempo que sea necesario por motivos de seguridad.
31:20
En lo que respecta al consentimiento, eso es totalmente lícito. Pero creo que se me ha escapado una parte de esa pregunta. ¿En qué consiste la transparencia?
31:29
Sí, transparencia. Así que puede ser una de estas dos cosas.
31:32
Si se trata de algo como un chatbot, hay que asegurarse de que, en esa interacción rápida, quede claro para alguien ajeno a nuestro ámbito, para un profano, para el consumidor, que se trata de IA.
31:45
Lo más importante aquí es que no hay que engañar a nadie.
31:48
Esto entra dentro de la categoría de los «patrones oscuros», y la situación puede volverse muy ambigua en un abrir y cerrar de ojos.
31:52
Pero siempre que se deje claro que se trata de un chatbot, que es una IA generativa, que es un modelo de lenguaje grande (LLM) y no un ser humano, eso se considera divulgación y transparencia.
32:02
Y, por otra parte, en una política de privacidad o en una política de uso de la IA, hay que asegurarse de que lo que se...
32:09
Es muy importante que la documentación se ajuste a vuestras prácticas y también a las herramientas que utilizáis y a lo que estas dicen que hacen.
32:17
Por eso es muy importante adelantarse a ello hablando con el proveedor sobre lo que realmente hace y dice, y asegurándose de que eso se ajuste también a sus políticas de privacidad.
32:29
Muy bien, ¿y qué hay de los factores de riesgo para los agentes de IA?
32:33
Por ejemplo, el perfil de riesgo de una recepcionista con voz de IA es bajo en comparación con el de un agente de selección de personal con IA
32:40
que clasifica a los candidatos, lo que podría suponer un mayor riesgo, ya que la desviación y el sesgo se convierten en factores a tener en cuenta.
32:47
¿Tenemos que dar a conocer esto?
32:50
Sí, cualquier uso de la IA, sobre todo ahora que la IA agentiva está ganando popularidad, resulta complicado porque hay muchos...
33:01
agentic AI está destinado al uso por parte de consumidores particulares, por lo que estos podrán consultar la información pertinente en condiciones de uso o en la política de privacidad.
33:11
Aunque, ya sabes, este es un estudio que se menciona una y otra vez en estas conferencias del Día de la Privacidad de los Datos.
33:17
Pero, ¿cuántos consumidores leen realmente estas políticas de privacidad?
33:22
¿Cuántas personas que se dedican a la protección de datos leen realmente estas políticas de privacidad? Creo que incluirlo en la política quizá no sea suficiente.
33:29
Sobre todo cuando se trata de herramientas que requieren un gran volumen de recopilación y procesamiento de datos, así como de acceso a los mismos, eso
33:37
Quizá sería buena idea hablarlo con las personas adecuadas de tu empresa.
33:44
Si desarrollas una IA autónoma, para que aparezcan avisos o ventanas emergentes en el momento oportuno, algo así como cada vez que haya una nueva función
33:52
En un producto de Google Suite, en tu Gmail, aparecerá una pequeña ventana emergente que dice: «Guíame paso a paso». Y algunas de ellas no son opcionales.
34:01
No puedes simplemente, ya sabes, ignorarlo.
34:03
Te indicará que tienes que hacer clic en «Siguiente», «Siguiente», «Siguiente», pero te mostrará en los distintos puntos de la solicitud dónde se han realizado los cambios.
34:11
Es algo que he visto que algunas aplicaciones intentan integrar a la hora de diseñar nuevas funciones.
34:16
Para que los usuarios estén al tanto, ya que sabemos que no leen la política de privacidad ni las nuevas actualizaciones de la App Store cuando descargan una actualización de una aplicación móvil.
34:28
Pero lo que estaba diciendo es que hay dos usuarios, dos usuarios principales de la IA agentiva.
34:32
Está la versión para consumidores, en la que los usuarios quieren un administrador personal.
34:37
Ya sabes, odio llamar a mi dentista, pero sería menos pesado si pudiera automatizarlo y que un agente de IA lo hiciera por mí mientras estoy dando una presentación.
34:50
Y luego también está el uso interno en la empresa, en el que, ya sabes, alguien con cargo de socio en una firma o incluso un equipo
35:00
quien necesite un miembro administrativo adicional podría recurrir a un agente de IA para que, en cierto modo, le redacte los resúmenes de las reuniones o
35:08
Ya sabes, invitaciones del calendario, enviar un mensaje resumen a los que asistieron a una reunión una vez celebrada.
35:17
Y todas ellas tienen fines y usos distintos, y recopilan diferentes niveles de datos.
35:24
Eso puede resultar más complicado, ya que, a medida que las organizaciones adquieren soluciones de IA con agentes a nivel empresarial, resulta aún menos probable
35:33
que los empleados que utilicen este servicio hayan leído y comprendido realmente el documento « condiciones de uso » o la política de privacidad que allí se recoge.
35:41
Así que, para ese tipo de uso, recomendaría encarecidamente el sistema de avisos «justo a tiempo».
35:45
Las ventanas emergentes, que aparecen cuando resulta pertinente en las distintas secciones sobre cómo utilizar esto, o una especie de tutorial obligatorio sobre, por ejemplo, cómo configura este agente un calendario
35:57
invitación. Los datos que utiliza: ya sabes, las personas que aparecen en los correos electrónicos anteriores, los contactos sugeridos de tu
36:05
la lista de contactos con los que te comunicas habitualmente, junto con las personas mencionadas en el último correo electrónico, y la frecuencia con la que te reúnes con ellas.
36:14
Así que también tenemos acceso a tu calendario.
36:16
Así que es importante incluir ese tipo de aviso para que los usuarios entiendan cómo funciona.
36:20
Porque toda esa recopilación de datos puede ser necesaria para que estas herramientas funcionen correctamente.
36:27
Pero queremos tener cuidado con ese factor de incomodidad, que es algo muy importante en materia de privacidad.
36:30
Quieres poder informar a los consumidores de la cantidad de datos que se recopilan y tratan, pero sin llegar a un punto en el que les asuste tanto que dejen de utilizar la herramienta que, en realidad, querían usar desde el principio.
36:43
Es difícil encontrar el equilibrio.
36:48
Vale, haz una pequeña pausa para beber un poco de agua y luego lee las demás preguntas. Vale.
36:57
¿Debe mi empresa con sede en EE. UU. preocuparse por la Ley de IA de la UE? Pues sí, en este caso se trata de una situación del tipo « rgpd ».
37:05
Si tu empresa entra dentro de las categorías de uso o implementación de IA, incluso si tienes sede en EE. UU.
37:13
En resumen, si implementas IA en un Estado miembro de la UE y cumples con estas otras categorías, estarías sujeto a las obligaciones de cumplimiento de la Ley de IA de la UE.
37:24
Ahora bien, una cosa que hay que tener en cuenta sobre las leyes relativas a la IA es que abarcan todo el espectro, pero, al igual que las leyes de privacidad, se basan en gran medida en los mismos principios fundamentales de transparencia, consentimiento y minimización de datos.
37:38
Así que, en realidad, intentamos adelantarnos a algo como una filtración a gran escala en la que se han recopilado tantos datos que, en realidad, no eran necesarios y ahora tenemos que preocuparnos por las consecuencias de todo esto.
37:57
¿Afectan las leyes de protección de datos a la forma en que mi empresa utiliza la IA?
38:02
Quizás, perdón por la respuesta tan técnica, pero depende. Si tu empresa utiliza, ya sabes, un servicio de asistencia...
38:12
un chatbot de atención al cliente que intenta clasificar las consultas de los clientes para poder remitirlas al departamento adecuado
38:20
una persona de la propia empresa, o redirigirles a una página de preguntas frecuentes en otra sección de tu sitio web, o incluso ofrecerles otros enlaces útiles en tu sitio web.
38:30
Las cuestiones relacionadas con la privacidad se refieren, una vez más, a la revelación de que se trata de un bot, en primer lugar, y también a que la conversación puede quedar almacenada.
38:39
Deberás asegurarte de que la conversación se guarde en un lugar al que puedas acceder, para que también puedas borrarla.
38:50
Y sé que ya he insistido mucho en esto, pero en lo que respecta a cosas como los banners de cookies, no siempre son una solución que lo resuelva todo.
38:59
E incluso cuando se conecten con más elementos del backend, además de cookies, píxeles y tecnologías de seguimiento, querrás asegurarte de que lo haga
39:08
funcionan de verdad cuando pulsas el interruptor, porque he visto suficientes casos —de hecho, esta misma mañana— en los que un
39:17
Un cliente que creía que su banner de cookies era eficaz para un chatbot en su página web.
39:27
Porque creían que el chatbot podría tener incorporada una tecnología de seguimiento que estuviera recopilando otros
39:35
información de la página web, como los clics de los usuarios en otras partes de la página.
39:40
Y eso simplemente no se reflejaba en las imágenes del «antes» y el «después» al hacer clic en «Rechazar» en banner de cookies.
39:46
Así que, en realidad, se trata de colaborar con los expertos en tecnología de aquí, trabajar con vuestros desarrolladores web para comprender qué ocurre realmente en vuestra página web y realizar una auditoría de lo que
39:55
las tecnologías de seguimiento que aún necesitas frente a aquellas que simplemente te han quedado de la última persona que las configuró o del año pasado,
40:03
pero ya no es necesario.
40:06
El simple hecho de realizar una limpieza a fondo de los datos recopilados te ahorrará muchos problemas a largo plazo en lo que respecta al cumplimiento normativo en materia de IA, protección de datos y gestión de riesgos.
40:19
Y ayer, mientras hacía esta presentación, vi una pregunta sobre cuál es el verdadero Día de la Privacidad de los Datos.
40:26
Pero alguien preguntó qué es lo que caracteriza a un buen profesional en este ámbito.
40:33
Y yo diría que no se trata necesariamente, ya sabes, de tener todas las titulaciones o de ser...
40:50
Parece que estamos teniendo algunos problemas técnicos.
40:52
Una vez más, le diré a Anokhy que puede que la hayamos perdido. Espero que haya respondido a la mayoría de vuestras preguntas sobre la IA.
41:07
Mientras tanto, vamos a seguir adelante.
41:13
Y, a modo de resumen de la sesión, solo quiero recordar que la inteligencia artificial y la privacidad de los datos están fundamentalmente interrelacionadas,
41:21
que el cumplimiento normativo no es negociable y que hay que intentar seguir las mejores prácticas empresariales.