IA Local
4 min
Impacto del Offloading en la Inferencia Local: Análisis de Flash Attention y KV Cache
Evaluamos las técnicas de optimización de memoria de Ollama en una RTX 5080. Analizamos cómo el bus PCIe condiciona la …
5 jun 2026
Ollama
search
IA Local
2 min
Ollama vs. llama.cpp: La Batalla por la VRAM en una RTX 5080
Pusimos a prueba los dos motores de inferencia más populares en CachyOS. ¿Merece la pena el esfuerzo de llama.cpp por …
5 jun 2026
IA
3 min
El precipicio VRAM: por qué tu modelo va a 7 tok/s en vez de 140
Cuando un modelo no cabe en VRAM, la velocidad cae 20x. No es gradual, es un cliff. Medí la degradación por contexto (4K …
15 may 2026
IA
3 min
Mixture of Experts: cómo 30.000 millones de parámetros solo usan 3.000 millones por token
MoE (Mixture of Experts) es la arquitectura que permite correr modelos enormes en hardware modesto. Explicado desde …
15 may 2026
IA
3 min
RTX 50xx e IA local: qué modelo instalar según tu GPU (con velocidades reales)
Tabla de decisión por GPU: RTX 5060 (8GB), 5070 (12GB), 5080 (16GB), 5090 (32GB). Qué modelo Ollama instalar, cuánta …
15 may 2026