Asistente de IA multi-tenant con RAG, embeddings y base de conocimiento por organización.
Tuki es una plataforma de asistentes de IA multi-tenant que permite a cada organización tener su propio asistente entrenado sobre su base de conocimiento, con embeddings vectoriales, RAG sobre documentos propios y panel de administración.
El desafío
Las organizaciones necesitan asistentes de IA que respondan con información propia y actualizada, no solo con el conocimiento general de los LLMs. El caso de uso primario era AAETAV: un asistente que pudiera responder preguntas sobre cursos, certificaciones, requisitos y procesos usando la documentación oficial de la asociación.
El desafío técnico era construir un sistema RAG (Retrieval-Augmented Generation) multi-tenant donde cada organización pudiera cargar sus documentos, los embeddings se almacenaran en PostgreSQL con pgvector, y el LLM (Claude API) respondiera citando fuentes de la base de conocimiento específica del tenant.
La solución
Desarrollamos Tuki con Next.js 14, pgvector en PostgreSQL para almacenamiento de embeddings, Voyage AI para generación de embeddings de alta calidad, y Claude (Anthropic) como LLM principal. La arquitectura incluye: ingesta de documentos con chunking inteligente, búsqueda vectorial por similitud coseno, contexto dinámico por tenant, historial de conversaciones, panel de administración para cargar documentos y configurar el asistente, y widget embebible para integrar en cualquier sitio.
El tenant AAETAV fue el primero en producción en tuki.noia.guru, con la base de conocimiento completa de la asociación.