¿Las conversaciones con una IA como ChatGPT o Gemini están protegidas por leyes de confidencialidad en Perú?

Tras el avance tecnológico y los recientes usos de la inteligencia artificial para prácticamente todo, muchos lo usan para contarle asuntos personales o brindarle información sensible, como si estuvieran hablando frente a un psicólogo. Sam Altman, CEO de Open AI y creador del chatbot de IA ChatGPT, ya ha advertido a sus usuarios que sean cuidadosos con los detalles que comparten, debido a que las conversaciones podrían ser usadas como evidencia legal en juicios. Pero, ¿qué tan real es esta situación en el Perú?

Henrry Valdiviezo Vasquez, abogado especialista en Derecho Digital e Inteligencia Artificial, y Julio Núñez Ponce, vicepresidente de Federación Iberoamericana de Asociaciones de Derecho e Informática (FIADI), conversaron con La República para responder esta duda.

PUEDES VER: ¿Se pueden usar chats de WhatsApp como prueba en un divorcio en Perú? Abogados lo explican

¿Las conversaciones con chatbots de inteligencia artificial están protegidas en Perú?

Valdiviezo refirió que no existe una figura equivalente al “secreto profesional” que proteja las interacciones con una inteligencia artificial, debido a que no se trata de persona física ni un ser con capacidad jurídica. Si bien la Ley N.º 29733 de Protección de Datos Personales y su Reglamento sí protegen “los datos personales”, esto implica obligaciones de “seguridad y confidencialidad” para el proveedor, que tiene como fin reducir riesgos de exposición o uso indebido por parte de la misma empresa.

“No convierten la conversación en un ‘secreto profesional’ ni impiden que la autoridad judicial, con una orden válida, acceda a estas conversaciones, como lo establece la Constitución Política del Perú, en su artículo, inciso 10. Es decir, tenemos el Derecho Constitucional al secreto y a la inviolabilidad de nuestras comunicaciones, pero no es un derecho absoluto de privacidad digital para el usuario”, señaló.

Según Núñez, los sistemas de inteligencia artificial vulneran principios de la Ley de Protección de datos como la legalidad, consentimiento, finalidad y proporcionalidad, generando el riesgo de ser utilizados para finalidades distintas. Por su parte, Valdiviezo advirtió que las empresas proveedoras de chatbots de IA, como ChatGPT o Gemini, están autorizadas por el propio usuario –al aceptar los términos y condiciones del uso y sus políticas de privacidad– para almacenar y utilizar lo que se escribe, incluso para entrenar nuevos modelos (a menos que explícitamente uno se excluya, haciendo uso de sus Derechos ARCO).

“Estos datos siempre están expuestos a incidentes de seguridad, accesos no autorizados o requerimientos de un juez; tampoco hay garantía de que al “eliminar” un chat este desaparezca completamente de todas las copias de respaldo o de la base de datos interna de la empresa, por lo que siempre es recomendable a los usuarios no usar los modelos de lenguaje para conservaciones íntimas, ya que no hay normas especializadas que regulen su protección”, agregó.

¿Las declaraciones emitidas por alguien frente a un chatbot de IA pueden usarse como evidencia judicial?

El inciso 10 del artículo 2 de la Constitución detalla que toda persona tiene derecho al secreto y a la inviolabilidad de las comunicaciones, salvo mandato motivado del juez, con las garantías previstas en la ley. En ese sentido, Núñez agregó que para admitir como prueba los chatbots con IA es fundamental el juicio valorativo del juez en su apreciación crítica. Valdiviezo señaló que en ciertos casos el juez requerirá una pericia informática forense que analice los registros de la conversación, que pueden ser desde el dispositivo del usuario o solicitando la información a la empresa proveedora de la IA.

“Siempre que la orden judicial esté debidamente motivada, que esta medida sea emitida por la autoridad competente y sea proporcional a los fines que la autoridad persigue, ya que la privacidad y la inviolabilidad de las comunicaciones de una persona forman parte del espacio más íntimo e intrínseco a la autodeterminación individual fundado en su dignidad; por lo que el acceso al historial de conversaciones deben ser una medida de última instancia”, explicó el  abogado especialista en Derecho Digital e Inteligencia Artificial.

En un juicio, ¿una conversación con ChatGPT tiene el mismo valor que una conversación por WhatsApp?

Valdiviezo indicó que, desde el punto de vista jurídico, en ambos casos su naturaleza es ser “prueba digital”, susceptible de ser presentada en juicio, siempre que se garantice su autenticidad, integridad y origen; y, puede ser sometida a una pericia informática. Sin embargo, agregó que las conversaciones en ChatGPT no cuentan con mecanismos de autenticación, como sí lo tienen algunas comunicaciones empresariales certificadas o servicios de mensajería con encriptación de extremo a extremo, como en el caso de WhatsApp o Gmail.

“Las conversaciones con una IA son más difíciles de autenticar debido a la naturaleza inicial de esta tecnología, la forma en que se almacenan los datos y el modo de acceso al servicio, ya que en algunos casos no necesitas tener un usuario registrado, solo basta estar modo invitado o usuario libre. Por lo general, el valor probatorio de una conservación con una IA dependerá del juez, de cómo se presenten y de su contexto individual”, añadió.

¡Sigue a La República en WhatsApp! Únete a nuestro canal desde tu celular y recibe las noticias más importantes de Perú y el mundo en tiempo real.