PoloSur
La autoridad de protección de datos de Hamburgo ha implementado un chatbot que utiliza un modelo de OpenAI para la elaboración de borradores de cartas en el proceso de tramitación de quejas por privacidad. Esta información fue presentada en un estudio de caso de nueve páginas publicado el 5 de noviembre. En 2025, el organismo recibió un total de 4.220 reclamos, lo que representa un incremento del 62% en comparación con el año anterior. A pesar de este aumento en la cantidad de quejas, el personal de la autoridad no creció al mismo ritmo, y las proyecciones para 2026 indican que las quejas seguirán aumentando a un ritmo similar.
Según un comunicado emitido por la misma autoridad el 8 de enero, las quejas pasaron de 2.607 en 2024 a 4.220 en 2025. El mayor incremento se observó en las quejas relacionadas con redes sociales y sitios de citas, que aumentaron de 386 a 1.052. La mayoría de estas quejas se dirigieron a Facebook e Instagram, plataformas de Meta, debido al uso de datos para entrenar su inteligencia artificial y por cuestiones relacionadas con su modelo de pago o consentimiento.
Entre las razones que explican el aumento en las quejas, el comunicado destaca el creciente uso de herramientas de inteligencia artificial por parte de los ciudadanos, lo que les facilita informarse sobre sus derechos y presentar reclamos. El chatbot, denominado LLMoin, fue desarrollado por el gobierno de Hamburgo poco después del lanzamiento de ChatGPT y está disponible para todas las autoridades de la ciudad, así como para organismos de otros estados federales.
Este sistema se basa en un modelo de OpenAI, específicamente en el GPT-5.6 Terra, que está alojado en la nube de Microsoft Azure. La autoridad de protección de datos parte de una premisa poco común, asumiendo que el modelo tiene una alta probabilidad de no ser anónimo y podría contener datos personales adquiridos durante su entrenamiento. Esta postura se fundamenta en una opinión emitida en diciembre de 2024 por el comité que agrupa a las autoridades de protección de datos de la Unión Europea, que permite el uso de estos modelos siempre que se implementen medidas que impidan la divulgación de datos personales.
Para garantizar la protección de la información, LLMoin aplica filtros de salida que eliminan contenido de odio, sexual, violento o relacionado con la autolesión. Además, cuenta con instrucciones internas que prohíben tomar decisiones o revelar datos personales que no hayan sido proporcionados por el usuario. También se han realizado pruebas de ataque simulado, encargadas por la Cancillería del Senado de Hamburgo, y el regulador ha considerado que estas medidas son suficientes para el funcionamiento del sistema.
De acuerdo con el estudio, es fundamental que los funcionarios revisen el expediente completo antes de basarse en un resumen generado por inteligencia artificial. Una vez que han analizado toda la información, determinan qué tipo de carta enviar y qué argumentos deben incluir. El sistema de IA se limita a asistir en la redacción y organización de los elementos que los empleados ya han decidido, y en caso de que falten consideraciones, el sistema les plantea preguntas al respecto. Es importante que los resultados sean siempre revisados por el personal humano, asegurando así la calidad y precisión de la información presentada.
La autoridad ha establecido que el chatbot no puede tomar decisiones sobre las quejas ni realizar valoraciones jurídicas. Además, no se permite el ingreso de datos que requieran un alto nivel de protección, como las quejas relacionadas con consultorios de psicoterapia o procesos penales, que deben ser gestionadas exclusivamente por personal humano. El regulador también ha decidido no utilizar este sistema para redactar el aviso de derechos de apelación, dado que este documento debe ser reproducido de manera exacta, palabra por palabra, lo que garantiza que los derechos de los ciudadanos sean respetados en su totalidad.
El documento aclara que la legislación vigente no obliga a mencionar en cada carta que ha sido redactada, en parte, con la ayuda de inteligencia artificial. Sin embargo, la autoridad informa sobre el uso de esta tecnología en su política de privacidad, lo que permite a los ciudadanos estar al tanto de cómo se están utilizando sus datos. También se reconoce que el sistema contribuye a una notable estandarización del estilo con el que el organismo se presenta ante el público, lo que puede facilitar la comprensión y el acceso a la información por parte de los ciudadanos.
Con miras a 2027, la ciudad está desarrollando una configuración que utilizará un modelo alojado en los servidores propios de Dataport, el proveedor informático de la administración. El objetivo de esta iniciativa es que el sistema pueda gestionar datos que requieran un mayor nivel de confidencialidad, lo que permitirá a la autoridad manejar información sensible de manera más segura y eficiente. Esto representa un avance significativo en la gestión de datos, garantizando que la privacidad de los ciudadanos sea protegida adecuadamente.
Fuente original: Infobae Tecno.
