Q: ¿Cómo os protegéis frente a prompt injection ?

El prompt injection es una de las principales amenazas OWASP LLM Top 10. Nuestra defensa combina varias capas: Separación estricta entre instrucciones del sistema y contenido de usuario mediante structured prompts . Sanitización de fragmentos recuperados por RAG y detección de instrucciones maliciosas embebidas en documentos. Restricción de herramientas (tool-calling) mediante listas blancas y validación de parámetros antes de ejecución. Tests automatizados con ataques conocidos en cada release del pipeline de IA.

Q: ¿Mis documentos son accesibles para otros clientes a través de la IA?

No. Cada cuenta vive en un espacio de datos aislado y el motor de recuperación solo puede acceder a los documentos de la propia organización. El control de acceso se aplica antes de invocar al LLM, nunca confiamos en que el modelo filtre por sí mismo. Los índices vectoriales (Elasticsearch/pgvector) se segmentan por tenant y se refuerzan con filtros a nivel de consulta. Se ejecutan pruebas de cross-tenant leakage periódicas para garantizar el aislamiento.

Q: ¿Cómo evita Tendios las alucinaciones de la IA?

Minimizamos las alucinaciones combinando varias técnicas: RAG estricto : el modelo solo responde a partir de fragmentos recuperados de tus documentos o de las bases de datos verificadas de Tendios. Citas obligatorias : cada afirmación enlaza al fragmento fuente para que puedas verificarla en un clic. Validación estructurada : los outputs críticos (fechas, importes, CPV) se validan contra parseadores deterministas. Evaluaciones continuas : Langfuse + benchmarks internos miden la tasa de precisión y detección de alucinaciones tras cada cambio del pipeline.

Question 1

¿Cómo os protegéis frente a prompt injection?

Accepted Answer

El prompt injection es una de las principales amenazas OWASP LLM Top 10. Nuestra defensa combina varias capas:

Separación estricta entre instrucciones del sistema y contenido de usuario mediante structured prompts.
Sanitización de fragmentos recuperados por RAG y detección de instrucciones maliciosas embebidas en documentos.
Restricción de herramientas (tool-calling) mediante listas blancas y validación de parámetros antes de ejecución.
Tests automatizados con ataques conocidos en cada release del pipeline de IA.

Question 2

¿Mis documentos son accesibles para otros clientes a través de la IA?

Accepted Answer

No. Cada cuenta vive en un espacio de datos aislado y el motor de recuperación solo puede acceder a los documentos de la propia organización.

El control de acceso se aplica antes de invocar al LLM, nunca confiamos en que el modelo filtre por sí mismo.
Los índices vectoriales (Elasticsearch/pgvector) se segmentan por tenant y se refuerzan con filtros a nivel de consulta.
Se ejecutan pruebas de cross-tenant leakage periódicas para garantizar el aislamiento.

Question 3

¿Cómo evita Tendios las alucinaciones de la IA?

Accepted Answer

Minimizamos las alucinaciones combinando varias técnicas:

RAG estricto: el modelo solo responde a partir de fragmentos recuperados de tus documentos o de las bases de datos verificadas de Tendios.
Citas obligatorias: cada afirmación enlaza al fragmento fuente para que puedas verificarla en un clic.
Validación estructurada: los outputs críticos (fechas, importes, CPV) se validan contra parseadores deterministas.
Evaluaciones continuas: Langfuse + benchmarks internos miden la tasa de precisión y detección de alucinaciones tras cada cambio del pipeline.

¿Cómo os protegéis frente a <em>prompt injection</em>?

Preguntas relacionadas