Búsqueda semántica sin API key, sin coste y sin conexión
La búsqueda con IA no tiene que implicar mandar tus emails a un servidor ajeno ni pagar por token. Cómo ejecutamos búsqueda semántica en tu propia máquina, y qué cuesta.
- privacidad
- búsqueda
- IA local
Cuando alguien lee «búsqueda con IA» asume tres cosas: que hay una API key, que hay un coste por consulta y que el texto sale de la empresa. Las tres son ciertas en la mayoría de productos. Ninguna es necesaria.
Qué hace falta de verdad
La búsqueda semántica necesita dos piezas: un modelo que convierta texto en vectores, y un índice donde buscar por proximidad. Nada de eso exige un servidor remoto.
Los modelos de embeddings pequeños caben en pocos cientos de megas, se ejecutan en CPU en milisegundos y, para búsqueda dentro de un corpus propio, rinden más que suficiente. El índice vectorial es un fichero en tu disco.
La consecuencia práctica: tres modos
Al no depender de una API, se puede ofrecer algo que un producto cloud no puede: elegir.
- Instantáneo (
<5ms). Búsqueda léxica sobre el índice local. Sin modelo, sin conexión. Resultados exactos y predecibles: busca las palabras tal cual. - Con IA (~400ms). Búsqueda por concepto. Encuentra «la propuesta que mandamos en primavera» sin que aparezca la palabra «primavera» en ningún sitio.
- Auto. Los dos en paralelo. Gana el resultado más relevante, venga de donde venga. Es el modo por defecto porque acierta sin que nadie configure nada.
La diferencia de latencia importa más de lo que parece. Trescientos milisegundos son suficientes para que dejes de escribir y esperes; cinco no. La búsqueda instantánea no es una versión degradada — para el 80% de las consultas es la buena.
Lo que ganas al no enviar nada
El argumento obvio es de cumplimiento: si el contenido no sale, no hay transferencia internacional que documentar, no hay subencargado que auditar y la conversación con el DPO dura cinco minutos en lugar de cinco semanas.
El menos obvio es de confianza interna. Cuando le explicas a un equipo que vas a indexar su email corporativo, la primera pregunta nunca es sobre funcionalidades. Es «¿quién va a poder leer esto?». Poder responder «nadie, ni nosotros: el índice está en tu portátil, y tú decides qué dominios se excluyen» es la diferencia entre que la herramienta se adopte y que se sabotee.
Y lo que cuesta
Es honesto decir qué se paga por esto. El índice ocupa disco en el equipo de cada persona. La primera indexación de años de histórico tarda. Y la calidad de la búsqueda semántica local está por debajo de la de un modelo grande alojado — cerca, pero por debajo.
A cambio, la búsqueda es gratis e ilimitada para siempre, en todos los planes, porque no hay un coste marginal que repercutir. Ese es el intercambio, y para memoria operativa de empresa nos parece obviamente el correcto.
