IA privada para empresas: cómo usar LLM locales en sus propios servidores (guía RGPD)

La mayoría de las empresas ya utilizan IA; la cuestión es en qué servidores se ejecuta. Cada prompt que se pega en un chatbot público envía datos de la empresa a un tercero. Cuando se trata de fichas de clientes, contratos, datos financieros o planes de marketing aún no publicados, es un riesgo que muchos equipos jurídicos y de cumplimiento ya no están dispuestos a asumir.

La IA privada es la alternativa: el mismo tipo de asistente, pero funcionando dentro de sus propias paredes. Esta guía explica qué significa eso en la práctica: qué casos de uso se benefician más, qué modelos abiertos son suficientemente buenos, qué hardware necesita, cómo se comparan los costes con la IA en la nube, cómo mantener las respuestas precisas y seguras, y cómo encaja un LLM local con el RGPD.

¿Qué es la IA privada?

La IA privada es IA que se ejecuta íntegramente dentro de una infraestructura que usted controla. El modelo de lenguaje, sus documentos, el índice de búsqueda y la interfaz de chat residen en sus propios servidores o en una nube privada dedicada. Los prompts y las respuestas nunca salen de su red, y nadie utiliza sus datos para entrenar sus modelos.

En la práctica, eso suele significar un modelo de pesos abiertos (uno cuyos pesos puede descargar y ejecutar usted mismo) combinado con una capa de búsqueda sobre sus propios datos. Su equipo obtiene un asistente similar a ChatGPT; su departamento de TI y su equipo de protección de datos obtienen control total sobre adónde va cada byte.

¿Por qué las empresas están dejando las herramientas públicas de IA?

Los motivos que más escuchamos son sorprendentemente coherentes:

• IA en la sombra. Los empleados ya pegan datos internos en chatbots públicos porque no existe una alternativa aprobada. Prohibirlo rara vez funciona; ofrecer una herramienta interna mejor, sí.
• Protección de datos y contratos con clientes. El RGPD, los acuerdos de confidencialidad y los contratos con clientes suelen prohibir el envío de determinados datos a terceros, sobre todo fuera de la UE.
• Dependencia del proveedor. Los precios, las condiciones, los límites de uso y el comportamiento de los modelos pueden cambiar de un día para otro. Los flujos de trabajo construidos sobre un único proveedor se rompen con ellos.
• Coste a escala. El precio por token es barato para experimentar y caro para un uso diario en toda la empresa.

¿Qué casos de uso se benefician más de la IA privada?

La IA privada compensa allí donde coinciden dos cosas: datos que no deberían salir de la empresa y una tarea que las personas repiten a diario. Estos son los cinco casos de uso que vemos con más frecuencia y lo que cada uno necesita realmente para funcionar:

La búsqueda en el conocimiento interno suele ser el mejor primer proyecto: el valor es fácil de ver («¿dónde está la política de viajes vigente?»), el riesgo es bajo y obliga a ordenar las fuentes de datos y los permisos, un trabajo de base que cualquier caso de uso posterior necesitará de todos modos.

El análisis de contratos funciona mejor como extracción que como chat abierto: el modelo rellena un conjunto fijo de campos (partes, duración, plazo de preaviso, límite de responsabilidad, cláusulas inusuales) y una persona revisa el resultado. Los asistentes de RR. HH. y finanzas son donde más importa la IA privada, porque esos datos están entre los más sensibles que maneja una empresa. La redacción de respuestas de soporte suele ser un paso hacia un agente de cara al cliente; describimos cómo funciona en producción en nuestro artículo sobre nuestro agente de soporte con IA en funcionamiento, que resuelve el 80% de las solicitudes.

¿Son los modelos abiertos suficientemente buenos para tareas empresariales?

Para la mayor parte del trabajo diario, sí. Familias de modelos de pesos abiertos como Llama, Mistral, Qwen, Gemma y DeepSeek han reducido buena parte de la distancia con los grandes modelos propietarios. Donde aún se quedan atrás es en el razonamiento de varios pasos más difícil, y eso rara vez es a lo que dedica el día un asistente interno.

Dos observaciones prácticas. Primero, las licencias varían entre familias de modelos: compruebe la licencia antes de un uso comercial. Segundo, el modelo es solo la mitad del resultado: una buena recuperación sobre sus documentos influye más en la calidad de las respuestas que exprimir un modelo algo más grande.

El idioma también importa. Si sus documentos y usuarios trabajan en español, pruebe los modelos en español: la calidad en inglés no se traslada automáticamente, y los modelos pequeños en particular varían mucho de un idioma a otro.

¿Qué hardware necesita un LLM local?

Menos de lo que la mayoría espera. La principal limitación es la memoria de la GPU, que depende del tamaño del modelo y de cuántas personas usan el sistema a la vez. Como orientación aproximada para modelos cuantizados:

La cuantización almacena los pesos del modelo con menos bits, lo que reduce considerablemente la memoria necesaria con una pérdida de calidad normalmente pequeña. Los documentos largos y los muchos usuarios simultáneos también consumen memoria, de modo que un modelo que «cabe» en una prueba puede quedarse sin espacio bajo una carga real.

Para muchas empresas medianas, un solo servidor con una buena GPU basta para empezar. Dimensionamos la instalación según sus tareas reales y su número de usuarios antes de que nadie compre hardware; a veces, una instancia en una nube privada es el mejor primer paso.

¿Cómo es una instalación de IA privada?

Las fuentes de datos (documentos, wikis, tickets, datos del CRM o de marketing) se conectan e indexan. Cuando alguien hace una pregunta, el sistema recupera los fragmentos relevantes y el modelo local redacta una respuesta basada en ellos, con referencias. Una sencilla interfaz de chat lo hace accesible para todos, y el control de acceso garantiza que cada persona solo vea respuestas procedentes de documentos que tiene permiso para leer. Cada solicitud queda registrada.

Herramientas de servicio como Ollama o vLLM ejecutan el modelo; una base de datos vectorial se encarga de la búsqueda. Nada de ello requiere enviar datos al exterior. Cuando el asistente tiene que desencadenar acciones (crear un ticket, actualizar un registro del CRM), una herramienta de automatización autoalojada puede hacerlo también dentro de su red; comparamos las opciones en n8n vs. Make vs. Zapier.

¿Cómo se mantienen precisas las respuestas de una IA privada?

La mayoría de las respuestas erróneas no las causa el modelo. Las causa el paso de búsqueda, que le entrega los fragmentos equivocados o ninguno. La precisión depende de tres cosas:

1. Calidad de la recuperación

Los documentos se dividen en secciones con sentido (por encabezado o por cláusula, no por un número arbitrario de caracteres) y se indexan con metadatos como fecha, departamento y tipo de documento. Combinar la búsqueda por palabras clave con la búsqueda semántica (vectorial) ayuda con códigos de producto, números de contrato y nombres que la búsqueda puramente semántica suele pasar por alto. Las tablas, las listas de precios y los PDF escaneados requieren un tratamiento especial; es ahí donde más fallan las instalaciones genéricas. Y las versiones obsoletas deben eliminarse del índice, o el asistente citará sin problema la política del año pasado.

2. Citas y «sin fuente, no hay respuesta»

Cada respuesta debe enlazar a los fragmentos en los que se basa, para que los usuarios puedan comprobarla con un clic. Igual de importante: cuando la búsqueda no encuentra nada relevante, el asistente debe decirlo en lugar de improvisar. Un claro «No he encontrado esto en los documentos disponibles» genera más confianza que una suposición bien redactada.

3. Un conjunto de evaluación

Recopile preguntas reales de su equipo, junto con la respuesta correcta y el documento del que procede. Pruebe cada modelo candidato, cada cambio de prompt y cada actualización del índice con este conjunto antes de ponerlo en producción. Así, «el nuevo modelo parece mejor» se convierte en una comparación medible, y los retrocesos se detectan antes que sus usuarios.

¿Cómo se protege un sistema de IA privada más allá del modelo?

Mantener los datos en sus propios servidores resuelve la cuestión de los terceros. No resuelve todo lo demás. Cuatro ámbitos merecen tanta atención como la elección del modelo:

• Permisos en la recuperación. Las reglas de acceso deben aplicarse cuando se buscan los documentos, no pidiendo al modelo que «ignore los documentos que el usuario no puede ver». Si el paso de búsqueda devuelve un expediente confidencial de RR. HH., el modelo lo utilizará. Los permisos de sus carpetas compartidas, su wiki o su sistema de gestión documental deben trasladarse al índice y mantenerse sincronizados.
• Inyección de prompts. Los documentos, correos y páginas web pueden contener texto que se lee como instrucciones para la IA. Un modelo privado es tan vulnerable como uno público. Trate el contenido recuperado como datos, otorgue al asistente solo las herramientas y permisos que realmente necesita y exija confirmación humana para las acciones con consecuencias.
• Registros. Los registros son imprescindibles para auditorías y depuración, pero los prompts y las respuestas a menudo contienen ellos mismos datos personales. Defina quién puede leer los registros, cuánto tiempo se conservan y cómo se tratan en las solicitudes de acceso y supresión.
• Actualizaciones. El modelo, el software de servicio, la base de datos vectorial y la interfaz necesitan parches. Descargue modelos solo de fuentes de confianza, verifíquelos y ejecute su conjunto de evaluación después de cada actualización.

Cómo tratamos los datos, los accesos y el alojamiento en nuestros propios proyectos se describe en nuestra página de seguridad.

¿Cumple la IA local con el RGPD?

Ejecutar la IA en local no hace que un sistema cumpla la normativa por sí solo, pero elimina varias de las preguntas más difíciles:

• Sin transferencias internacionales. Si los datos nunca salen de su infraestructura en la UE, no hay ninguna transferencia a un proveedor de IA de fuera de la UE que justificar.
• Sin encargado del tratamiento adicional para la inferencia. El proveedor del modelo nunca ve sus datos, por lo que no hace falta un contrato de encargo del tratamiento adicional para ese paso.
• Minimización de datos y seguridad bajo su control. Usted decide qué se indexa, quién puede acceder y cuánto tiempo se conservan los registros.

Sigue necesitando una base jurídica para el tratamiento, reglas de acceso claras, conceptos de supresión y, para los tratamientos de alto riesgo, una evaluación de impacto relativa a la protección de datos. Si utiliza un proveedor de nube privada, ese proveedor es un encargado del tratamiento y necesita un contrato de encargo como cualquier otro servicio de alojamiento. En Alemania, el comité de empresa suele tener voz cuando un sistema puede utilizarse para supervisar el comportamiento de los empleados, algo que permiten los registros de uso. Y si el asistente habla con clientes en lugar de con empleados, entran en juego las obligaciones de transparencia de la Ley de IA de la UE; consulte nuestra guía sobre el artículo 50 para chatbots.

Diseñamos la instalación junto con su delegado de protección de datos. (Esto es información general, no asesoramiento jurídico).

¿Cuánto cuesta la IA privada en comparación con la IA en la nube?

Los dos modelos tienen estructuras de costes diferentes, y cuál resulta más barato depende de cuánto los utilice.

La IA en la nube se factura por token o por usuario. No requiere inversión inicial y, para experimentos o un uso ocasional, es difícil de superar. Pero los costes crecen con el uso: las licencias por usuario escalan con la plantilla y los costes por token escalan con cada pregunta, cada documento largo y cada flujo automatizado. Los cambios de precio los decide el proveedor.

La IA privada convierte la mayor parte de esto en costes fijos: hardware o una instancia dedicada en la nube, una puesta en marcha única (conectores, índice de búsqueda, interfaz, control de acceso, evaluación) y un mantenimiento continuo (actualizaciones, monitorización, cuidado del índice). Una vez implantado, una pregunta adicional no cuesta casi nada hasta que se alcanza la capacidad del hardware.

Una regla práctica aproximada: cuantas más personas usen la IA a diario y más datos procese cada solicitud, más sólidos son los argumentos a favor de la IA privada. A un equipo de cinco personas que prueba ideas suelen servirle mejor las herramientas en la nube; una empresa en la que cientos de empleados buscan en documentos cada día, o en la que los flujos procesan miles de registros, a menudo llega al punto en que la capacidad fija supera al pago por uso. No olvide los costes ocultos de ambos lados: el tiempo interno de operación y actualización en el lado privado, y las licencias sin usar y el trabajo de integración en el lado de la nube.

Local, nube privada o híbrido: ¿cuál debería elegir?

El modelo híbrido suele ser la respuesta pragmática: los datos de clientes y de RR. HH. se quedan en un modelo local, mientras que las tareas no sensibles pueden usar un gran modelo en la nube, con reglas claras y aplicadas sobre qué va a dónde. «Aplicadas» es la palabra clave: el enrutamiento debe producirse en el sistema, en función de la fuente de datos o del grupo de usuarios, y no depender de que los empleados recuerden qué herramienta usar.

¿Cuáles son los errores más comunes con la IA privada?

• Comprar hardware antes de probar. El tamaño de modelo adecuado depende de sus tareas, idiomas y número de usuarios. Primero pruebe y después dimensione el hardware.
• Elegir por defecto el modelo más grande. Un modelo mediano con buena recuperación suele superar a un modelo grande con una recuperación deficiente, y necesita mucho menos hardware.
• Indexarlo todo de golpe. Los borradores antiguos, los duplicados y las versiones obsoletas empeoran las respuestas. Empiece con fuentes seleccionadas y actualizadas.
• Dejar los permisos para más adelante. Añadir control de acceso a un sistema que ya está en marcha es complicado, y una sola lista de salarios filtrada destruye la confianza en todo el proyecto.
• No tener un conjunto de evaluación. Sin preguntas de prueba reales, nadie puede decir si un cambio ha mejorado o empeorado las cosas.
• Tratarlo solo como un proyecto de TI. El delegado de protección de datos, el comité de empresa cuando corresponda y los equipos que lo van a utilizar deben estar en la mesa desde el principio.
• No tener un responsable tras el lanzamiento. Alguien tiene que mantener actualizadas las fuentes, revisar las respuestas fallidas y planificar las actualizaciones. Sin eso, la calidad se degrada.

¿Cómo empezar con la IA privada?

El camino más rápido es un piloto pequeño y real, no una gran decisión de plataforma. Las 50 preguntas del tercer paso se convierten en su conjunto de evaluación; las reglas de acceso del segundo paso se convierten en el modelo de permisos de todos los casos de uso posteriores. Si quiere averiguar qué modelo y qué hardware encajan con su caso de uso, reserve una llamada gratuita o lea más sobre nuestra IA privada (parte de nuestras soluciones de IA a medida).