Curso de ChromaDB

Qué es un embedding y cómo representa significado en forma numérica.

Diferencia entre coincidencia exacta de palabras y similitud semántica.

Relación entre documento, chunk, vector, dimensión y distancia.

Cómo influyen los modelos de embeddings en la calidad de la búsqueda.

Diferencia entre embeddings locales, embeddings vía API y embeddings gestionados.

Qué ocurre cuando se cambia de modelo de embeddings en una colección existente.

Importancia de usar la misma dimensión y modelo para indexar y consultar.

Limitaciones: textos ambiguos, contexto incompleto, documentos repetidos y ruido semántico.

Ejemplos de búsquedas donde el lenguaje natural encuentra información que no comparte palabras exactas.

Taller: comparar búsqueda exacta y búsqueda semántica sobre un pequeño conjunto documental.

Revisión del modelo de datos de Chroma: tenants, databases y collections en arquitecturas modernas.

Diferencia entre colección como índice lógico y base de datos como contenedor de colecciones.

Uso de documentos, metadatos, embeddings e IDs dentro de cada colección.

Diseño de colecciones por dominio: soporte, legal, producto, manuales, clientes, FAQ o procedimientos.

Cuándo separar colecciones y cuándo mantener una única colección con metadatos.

Estructura recomendada para IDs estables, trazables y compatibles con actualizaciones posteriores.

Relación entre los datos guardados en Chroma y el repositorio documental original.

Uso de metadatos para recuperar origen, permisos, fecha, versión, autor, departamento y tipo documental.

Riesgos de mezclar documentos incompatibles en una misma colección sin filtros adecuados.

Taller: diseñar el modelo de colecciones para una base de conocimiento corporativa.

Creación de entorno virtual para trabajar con ChromaDB en Python.

Instalación de dependencias necesarias para pruebas locales.

Estructura mínima de proyecto: configuración, scripts, datos, notebooks, tests y documentación.

Primer cliente Chroma y creación de colección de prueba.

Inserción de documentos sencillos con IDs y metadatos.

Ejecución de primera consulta semántica con texto natural.

Revisión de resultados, distancias, documentos devueltos y metadatos asociados.

Organización de variables de entorno para claves de API, rutas y configuración.

Buenas prácticas para no mezclar datos reales con pruebas locales.

Taller: construir el primer script funcional de ingesta y consulta.

Diferencia entre cliente en memoria, cliente persistente, cliente HTTP y cliente cloud.

Uso de cliente persistente para desarrollo local con datos guardados en disco.

Cuándo pasar de pruebas locales a una instancia server-backed.

Conexión mediante HTTP client a un servidor Chroma.

Consideraciones al trabajar con Chroma Cloud y bases de datos gestionadas.

Gestión de tenants, databases, perfiles, credenciales y separación de entornos.

Diferencia entre entorno de desarrollo, pruebas, staging y producción.

Riesgos de usar una configuración local como si fuera producción.

Buenas prácticas para parametrizar host, puerto, base de datos y credenciales.

Taller: ejecutar el mismo caso con cliente local persistente y cliente remoto.

Creación, consulta, listado y eliminación de colecciones.

Diseño de nombres de colección claros, estables y alineados con dominios de negocio.

Inserción de documentos con IDs únicos y metadatos estructurados.

Uso de IDs para conectar registros de Chroma con documentos originales.

Buenas prácticas para IDs deterministas basados en documento, chunk, versión y origen.

Metadatos imprescindibles: fuente, tipo, fecha, departamento, permisos, idioma, versión y propietario.

Diferencia entre guardar texto completo y guardar solo embeddings con referencia externa.

Revisión de metadatos pobres que impiden filtrar o auditar resultados.

Estrategias para actualizar metadatos sin reindexar todo el repositorio.

Taller: crear colección con documentos enriquecidos, IDs trazables y metadatos útiles.

Identificación de fuentes documentales: PDFs, Word, HTML, Markdown, tickets, FAQs, wikis, bases de conocimiento y emails.

Limpieza de texto antes de generar embeddings.

Eliminación de cabeceras repetidas, pies de página, menús, ruido OCR y contenido duplicado.

Separación entre contenido útil, metadatos y referencias al documento original.

Normalización de idioma, fechas, títulos, secciones y campos de negocio.

Gestión de documentos largos, documentos mal estructurados y contenidos con tablas.

Control de versiones cuando un documento cambia o se sustituye.

Validación de datos antes de indexar para no llenar Chroma de información inútil.

Registro de errores de ingesta y documentos descartados.

Taller: crear pipeline de ingesta para documentos corporativos ficticios.

Qué es chunking y por qué afecta directamente a la precisión de un sistema RAG.

Diferencia entre chunks por longitud fija, por párrafo, por sección, por título y por estructura documental.

Tamaño de chunk, solapamiento y relación con el modelo de embeddings.

Estrategias para manuales técnicos, procedimientos ISO, contratos, FAQs, tickets y documentación comercial.

Cómo conservar contexto de título, sección, capítulo y documento completo en cada chunk.

Uso de metadatos jerárquicos para reconstruir el origen del contenido recuperado.

Riesgos de chunks demasiado grandes, demasiado pequeños o sin contexto.

Deduplicación de chunks repetidos tras varias versiones de un documento.

Evaluación de chunking mediante preguntas de prueba y revisión de resultados.

Taller: comparar tres estrategias de chunking sobre el mismo documento.

Qué es una embedding function en Chroma y cómo se utiliza al añadir documentos o consultar.

Uso de embedding functions integradas o personalizadas.

Criterios para elegir modelo: idioma, dominio, coste, latencia, privacidad, dimensión y calidad.

Diferencia entre generar embeddings dentro de Chroma o generarlos previamente.

Uso de modelos locales cuando existen restricciones de privacidad o coste.

Uso de APIs externas cuando se prioriza calidad, escalabilidad o mantenimiento.

Gestión de claves, límites, latencia y errores al llamar servicios externos de embeddings.

Reindexación cuando se decide cambiar de modelo.

Comparación práctica de resultados entre dos modelos de embeddings.

Taller: crear colección con embedding function personalizada y evaluar búsquedas.

Diferencia entre add, upsert, update, delete y get en el ciclo de vida de registros.

Cómo añadir nuevos documentos sin duplicar chunks ya existentes.

Actualización de metadatos cuando cambia el estado, permiso o versión de un documento.

Eliminación de documentos obsoletos, no vigentes o fuera de política de conservación.

Estrategias de reindexación completa frente a reindexación incremental.

Gestión de borrado por IDs, por documento origen o por filtro de metadatos.

Control de versiones para saber qué contenido está vigente.

Prevención de resultados basados en documentos antiguos o retirados.

Registro de operaciones de mantenimiento sobre la base vectorial.

Taller: actualizar una colección tras modificar, eliminar y añadir documentos.

Uso de query para buscar documentos similares a una pregunta.

Diferencia entre consultar por texto y consultar por embeddings ya generados.

Uso de n_results para controlar cuántos resultados devuelve la búsqueda.

Interpretación de documentos, metadatos, IDs y distancias devueltas.

Selección de campos con include para optimizar la respuesta.

Construcción de respuestas con contexto recuperado y referencias al origen.

Recuperación por ID cuando se necesita consultar registros concretos.

Diseño de consultas para usuarios finales frente a consultas técnicas internas.

Riesgos de devolver demasiado contexto o contexto poco relevante al LLM.

Taller: crear función de búsqueda reusable para una API RAG.

Uso de filtros where para restringir resultados por metadatos.

Filtrado por departamento, tipo documental, idioma, fecha, cliente, versión o permisos.

Combinación de búsqueda semántica y filtros estructurados.

Uso de filtros documentales con contains para encontrar texto concreto.

Uso de regex cuando se necesitan patrones más específicos.

Diferencia entre búsqueda vectorial, metadata filtering y full-text search.

Diseño de filtros de seguridad para que cada usuario recupere solo documentos autorizados.

Prevención de respuestas basadas en documentos de otro cliente, área o nivel de acceso.

Validación de filtros con casos de prueba y usuarios simulados.

Taller: crear buscador con filtros por departamento, tipo documental, fecha y permiso.

Arquitectura básica de RAG: pregunta, embedding, búsqueda, contexto, prompt y respuesta del LLM.

Diferencia entre RAG simple, RAG filtrado, RAG con historial y RAG con herramientas.

Diseño de prompts que usen el contexto recuperado sin inventar información.

Cómo incluir citas, fuentes, fragmentos y metadatos en la respuesta final.

Control de alucinaciones mediante instrucciones, umbrales y ausencia de respuesta.

Estrategias para consultas multi-documento, preguntas ambiguas y documentos contradictorios.

Recuperación previa por permisos, área, idioma o tipo documental.

Uso de reranking como ampliación cuando los resultados iniciales no son suficientes.

Registro de pregunta, documentos recuperados, respuesta y feedback.

Taller: construir un RAG básico con ChromaDB y un LLM externo.

Diferencia entre base de conocimiento, memoria conversacional y memoria semántica persistente.

Uso de ChromaDB para recordar preferencias, hechos, decisiones o contexto de usuario cuando sea adecuado.

Diseño de memorias separadas por usuario, equipo, proyecto, cliente o agente.

Riesgos de guardar información sensible, temporal o incorrecta como memoria.

Metadatos para controlar origen, fecha, caducidad, confianza y permisos.

Recuperación de memoria relevante antes de generar una respuesta.

Estrategias de olvido, actualización y depuración de memorias antiguas.

Uso de memoria para agentes de soporte, ventas, documentación, desarrollo o gestión interna.

Auditoría de memorias usadas en una respuesta.

Taller: crear memoria semántica simple para un asistente corporativo.

Diseño de una API backend que expone búsqueda semántica usando ChromaDB.

Separación entre capa de ingesta, capa de búsqueda y capa de generación con LLM.

Integración con aplicaciones internas, portales, chatbots, CRMs, wikis o sistemas documentales.

Uso de colas o jobs para ingesta asíncrona de documentos.

Control de errores cuando falla la generación de embeddings o la consulta.

Diseño de endpoints para búsqueda, carga, actualización, borrado y auditoría.

Gestión de credenciales, variables de entorno y configuración por entorno.

Formatos de respuesta para frontend, agentes o servicios externos.

Pruebas de contrato para asegurar que la API devuelve metadatos y fuentes correctas.

Taller: crear servicio FastAPI que consulte ChromaDB y devuelva resultados filtrados.

Factores que afectan al rendimiento: número de registros, tamaño de chunks, filtros, embedding model y arquitectura.

Diseño de batches para ingesta masiva sin saturar memoria, API o disco.

Optimización de metadatos para filtrar antes de enviar contexto al LLM.

Reducción de resultados irrelevantes ajustando chunking, filtros, n_results y umbrales.

Gestión de colecciones grandes frente a colecciones segmentadas por dominio.

Consideraciones al pasar de local a servidor o cloud.

Medición de latencia en ingesta, búsqueda y respuesta RAG completa.

Identificación de cuellos de botella: embeddings, red, LLM, serialización o consultas.

Estrategias de cache cuando se repiten consultas o documentos recuperados.

Taller: medir rendimiento de un pipeline y aplicar mejoras concretas.

Por qué evaluar retrieval antes de evaluar respuestas del LLM.

Creación de dataset de preguntas esperadas con documentos relevantes conocidos.

Métricas útiles: precisión, recall, hit rate, MRR, cobertura y revisión humana.

Evaluación de chunks recuperados frente a respuesta final generada.

Detección de errores: documento no indexado, chunk incorrecto, metadatos débiles o pregunta ambigua.

Comparación entre distintos modelos de embeddings.

Comparación entre estrategias de chunking y filtros.

Uso de feedback de usuarios para mejorar el índice.

Registro de consultas fallidas y mejora iterativa del sistema.

Taller: construir batería de evaluación para una base documental RAG.

Identificación de datos sensibles antes de indexar documentos.

Diseño de metadatos de permisos para aplicar filtros por usuario, rol, departamento o cliente.

Separación de colecciones por sensibilidad, tenant, área o dominio cuando sea necesario.

Minimización de datos almacenados en Chroma cuando basta con guardar referencias externas.

Riesgos de exponer documentos confidenciales mediante resultados semánticos.

Gestión de claves de API, tokens, credenciales y perfiles de acceso.

Buenas prácticas para entornos locales, servidor y cloud.

Retención, borrado y actualización de contenido sensible o no vigente.

Auditoría de consultas y resultados recuperados.

Taller: diseñar un modelo de permisos para búsqueda semántica multiárea.

Diferencia entre prototipo local, servicio self-hosted y Chroma Cloud.

Cuándo usar PersistentClient y cuándo preferir una instancia server-backed.

Despliegue con servidor Chroma para aplicaciones compartidas.

Consideraciones de Docker, red, volúmenes, persistencia y configuración.

Conexión desde clientes Python o TypeScript a un servidor remoto.

Uso de Chroma Cloud para despliegues gestionados, bases de datos y regiones.

Separación de entornos: desarrollo, pruebas, staging y producción.

Gestión de backups, restauración, migraciones y reindexación.

Consideraciones de coste, latencia, región, cumplimiento y operación.

Taller: preparar arquitectura de despliegue para un asistente documental corporativo.

Registro de ingestas, consultas, documentos recuperados y errores.

Logs de pipeline para saber qué documentos se procesaron y cuáles fallaron.

Trazabilidad de respuestas RAG: pregunta, chunks, fuentes, modelo y prompt usado.

Monitorización de latencia, volumen de consultas, errores y documentos indexados.

Creación de métricas de calidad: consultas sin respuesta, baja relevancia y feedback negativo.

Gestión de alertas cuando falla la ingesta o se degrada la búsqueda.

Revisión periódica de colecciones, documentos obsoletos y metadatos incompletos.

Plan de mantenimiento para reindexar, limpiar, compactar o actualizar modelos.

Documentación operativa para soporte y equipos DevOps.

Taller: crear esquema de observabilidad para un sistema RAG con Chroma.

Definición de responsables de datos, colecciones, documentos, permisos y modelos.

Normas para nombrar colecciones, IDs, metadatos, datasets y versiones.

Criterios para decidir qué documentos se indexan y cuáles se excluyen.

Control de documentos vigentes, obsoletos, archivados o en revisión.

Flujo de aprobación antes de indexar documentación corporativa crítica.

Gestión de cambios cuando se actualiza una política, manual, contrato o procedimiento.

Revisión periódica de permisos, fuentes, calidad y uso real de la base vectorial.

Documentación de decisiones técnicas: modelo de embeddings, chunking, filtros y despliegue.

Backlog de mejoras para búsqueda, RAG, memoria, rendimiento y seguridad.

Taller: crear política interna de gobierno para ChromaDB en empresa.

Asistente documental para preguntas sobre manuales internos, procedimientos y políticas.

Buscador semántico para soporte técnico y base de conocimiento.

RAG para documentación legal, contratos o normativa interna con filtros de acceso.

Memoria semántica para agentes de atención, ventas, operaciones o desarrollo.

Recomendador de artículos, incidencias similares o soluciones previas.

Explorador de documentación de producto para equipos técnicos.

Chatbot interno para onboarding y formación de empleados.

Análisis de tickets históricos para encontrar casos parecidos.

Recuperación de fragmentos de documentación para generación de informes.

Taller: seleccionar un caso empresarial y diseñar su arquitectura Chroma.

Integración conceptual con aplicaciones basadas en OpenAI, Azure OpenAI, Anthropic, Gemini u otros proveedores.

Uso de ChromaDB como capa de recuperación independiente del modelo generativo.

Integración con frameworks de RAG y agentes cuando aportan productividad al desarrollo.

Separación entre vector store, orquestador, prompt, herramientas y modelo final.

Riesgos de acoplar demasiado la solución a un framework concreto.

Diseño de adaptadores para cambiar modelo, proveedor o framework sin rehacer todo.

Uso de Chroma como memoria o knowledge base dentro de agentes.

Evaluación de resultados cuando se cambia el LLM, pero se mantiene el índice.

Estrategia de pruebas para asegurar que el agente cita fuentes correctas.

Taller: conectar ChromaDB con una aplicación conversacional básica.

Definición de un caso corporativo: asistente documental, buscador semántico, RAG técnico o memoria para agentes.

Preparación de dataset con documentos ficticios, estructura, fuentes, versiones y metadatos.

Diseño de estrategia de chunking adaptada al tipo de documento.

Selección del modelo de embeddings y justificación técnica.

Creación de colecciones, IDs, metadatos y pipeline de ingesta.

Implementación de consultas vectoriales, filtros por metadatos y búsqueda full-text cuando proceda.

Integración con un LLM para responder usando contexto recuperado y fuentes.

Diseño de control de permisos, logs, métricas, evaluación y mantenimiento.

Preparación de arquitectura de despliegue local, servidor o cloud.

Presentación final explicando decisiones, riesgos, rendimiento, calidad de retrieval y plan de evolución.