El tema de la privacidad y la inteligencia artificial tiene diferentes dimensiones, a cuál más importante. En esta ocasión vamos a tratar la forma de desactivar el seguimiento de prompts.
¿Qué hacen las IA con nuestras consultas?
Cada vez que usamos una inteligencia artificial generativa debemos ser conscientes de los siguientes puntos:
- Las IA no solo guardan los prompts, sino que es fácil suponer que pueden tener programadas de alerta para supervisores humanos si aparecen ciertas palabras clave en los mismos.
- En concreto, algunas IA, como Google Gemini, avisan explícitamente de que operadores humanos pueden revisar los prompts. Debemos pensar que, probablemente otras IA hacen lo mismo. Google es muy explícito al respecto: «No introduzcas nada que no quieras que vea un revisor humano ni que use Google». Más claro imposible.
- La mayor parte de las IA permiten chatear con documentos. Cuando subimos un PDF a una IA debemos pensar que el PDF pasará a formar parte de la base de datos de la IA.
Precauciones generales
Cuando interactuamos con una IA, debemos tener en cuenta tres problemas relacionados con la privacidad pero a la vez bien diferenciados:
- Primer problema: la monitorización. Debemos tener cuidado con el texto de nuestros prompts. La norma aquí es no poner nada que no queramos que vea un revisor humano ni que use la IA. Esto incluye no bromear con temas sensibles. Como hemos señalado, es plausible que las IA tengan funciones (bots) que alerten al sistema ante el uso de determinadas palabras clave. ¿Qué hacen con esas alerta? ¿Se las guardan para ellos? ¿Avisan a algún servicio de seguridad?
- Segundo problema: la incorporación de la información a la base de datos de la IA. La información sensible que aportemos en nuestros prompts puede pasar a la base de datos de la IA y, en algún momento determinado puede formar parte de la respuestas a cualquier usuario de la IA.
- Tercer problema: datos sensibles en documentos. Si vamos a usar documentos como parte del prompt, nos debemos preguntar si contienen información sensible. Atención: «información sensible» significa diferentes cosas según cada contexto. Algunos ejemplos: ¿es un informe médico con datos del paciente? ¿Es un manuscrito inédito que estamos evaluando para una revista científica? ¿Es un informe interno que revela datos confidenciales? Seguro que cada lector puede imaginar otros casos de su propio contexto.
La opción de la privacidad de los prompts
Si vamos a trabajar con datos sensibles, lo que debemos hacer es desactivar el seguimiento de nuestros prompts. Vamos a ver cómo hacerlo en estos casos:
- ChatGPT
- Perplexity
- Google Gemini
- Phind
Por si se lo preguntan, Microsoft Copilot no aparece porque no he encontrado la opción correspondiente. No digo que no la tengan.
En el caso de otras IA como Epsilon, Elicit y Scite, que utilizo habitualmente, tampoco he podido encontrarlas. ¿No las he encontrado porque no las tienen o he sido torpe al buscar? Sería muy lamentable la primera de las posibilidades.
Entendiendo el verdadero problema
No es un tema (solo) de protección de datos. Las empresas que están detrás de los sistemas de IA pueden explicar, como hace Phind, p.e., que anonimizan los datos de los prompts que usan para entrenar su sistema, también que no venden los datos de sus usuarios, como dice Phind de forma muy gráfica: «We don’t sell your data. Period».
Pero este no es el problema al que nos estamos refiriendo ahora. Si proporcionamos información sensible como parte del prompt, esta información podrá aparecer en las respuestas ofrecidas a otras personas. Este es el problema. Si subimos un PDF con datos sensibles, por muy maravillosa que sea, la política de protección de datos no resuelve nada.
Ejemplos de posibles problemas con los prompts guardados
Voy a intentar ilustrarlo con un caso de comunicación académica. Supongamos que, como parte de su política de evaluación, una revista científica autoriza a sus evaluadores a usar la IA como herramienta para su trabajo. Si un evaluador sube un manuscrito a una IA para que le ayude a analizarlo, y no ha desactivado el seguimiento, ese manuscrito pasa a formar parte de la base de datos de la IA. Si esa misma IA se utiliza después para detectar plagios cuando el artículo se publique, podemos tener una acusación de plagio infundada. Además, como el proceso de publicación puede durar meses, otros usuarios pueden obtener mientras tanto información inédita antes de que salga el artículo, y usarlas en sus propios trabajos sin saber que están tomando ideas inéditas y perjudicando así a los autores originales.
Otro ejemplo, esta vez del periodismo de denuncia. Un periodista sube varios PDF con información confidencial a una IA para detectar patrones o tendencias en contratos o en documentos con datos de algún tipo sobre empresas o personas. En futuras búsquedas esos datos podrán revelarse de un modo no previsto por el periodista. Es más, imaginemos que contienen datos falsos (y por eso los está investigando), pero su difusión en respuestas a otros usuarios no alertará de su falsedad.
¿Cómo desactivamos el seguimiento de prompts?
Veamos ahora cómo hacerlo en los cuatro casos siguientes: ChatGPT, Perplexity, Google Gemini y Phind.
ChatGPT
Vamos a las opciones de Configuración. Una vez aquí, vamos al apartado Controles de datos y después a la opción Mejorar el modelo para todos:
La frase «Mejorar el modelo para todos» suena muy bien, pero antes está la privacidad. La cuestión es que, una vez accedemos a la opción anterior, desmarcamos la (bonita) opción. El resultado debe quedar como muestra la figura:
Perplexity
Debemos ir a las opciones de configuración (icono de una rueda al lado del nombre de usuario en la página principal) y una vez revisamos las opciones hasta llegar a AI Data Retention. Entonces, desmarcamos la opción según muestra la captura:
Google Gemini
En Google Gemini, de momento la opción queda muy a la vista, ya que aparece en la página principal (cuando el lector haga la prueba, es posible que haya cambiado de sitio, es cuestión de buscar entonces en la configuración):
Una vez hacemos clic en Gestionar actividad, debe quedar así:
Phind
En el caso de Phind, debemos hacer clic en el enlace con el correo electrónico que identifica nuestro perfil (arriba a la derecha de la pantalla). Se desplegará entonces este menú:
Debemos elegir Do Not Train. En la captura pueden ver que esa opción está atenuada, señal que en la versión gratuita no está disponible. Pero al menos, vemos que sería posible en caso de alguien interesado en la versión de pago. Sería deseable que estuviera también en la versión gratuita, pero algo es algo.
La nueva estrella: DeepSeek
Hace pocas semanas, ha causado sensación una nueva inteligencia artificial, DeepSeek. Al respecto, en el momento de redactar esta guía no presentaba ninguna opción para desactivar el seguimiento de prompts.
Conclusiones
Hemos visto el caso de cuatro IA que permiten desactivar el seguimiento de prompts ¿Ofrecen garantías estas opciones de privacidad? Parece que sí, según la información oficial de las empresas. Pero me temo que nunca podremos tener la completa seguridad de que todas empresas de IA, en todos los casos, apliquen con el mismo rigor el NO seguimiento. Ese margen de (in)seguridad no está de más tenerlo presente.
Como sea, activar la privacidad es una precaución elemental, o bien de manera predefinida o antes de usar prompts o documentos sensibles. Si vamos a utilizar información sensible como parte de nuestro trabajo habitual, además debemos leer la «letra pequeña» de la política de no retención de datos de la empresa de IA.
¿Qué pasa con las IA que, al parecer, no permiten desactivar el seguimiento de nuestras actividades? En este caso, lo lógico sería renunciar al uso de estas IA si necesitamos usar documentación sensible. Ya hemos visto que hay algunas que sí lo permiten. Lo lógico es centrarse en estas.
Colaborar en el aprendizaje de los modelos de IA
¿Y al revés? ¿qué pasa si estamos completamente seguros de que nunca tendremos necesidad de usar prompts sensibles y de que todos los PDF que podamos usar en nuestras interacciones serán siempre inocuos?
Podemos permitir el seguimiento de prompts y así colaboramos a la mejora de las IA, aunque sea en una modesta medida. Pero en caso de la más mínima duda, dejamos activada la privacidad y nos ahorramos problemas.
¿Para cuando una norma general sobre la privacidad de prompts?
Queda mucho por hacer en cuestión de normativas de los sistemas de IA en todas sus dimensiones. Lo lógico sería obligar a que todas las IA permitan desactivar el seguimiento de las actividades. Habrá que estar muy atentos.