Modelos locales y despliegues privados
Modelos de pesos abiertos como Llama, Qwen, Mistral o gpt-oss corren en los servidores del cliente o en una nube privada. Los datos no salen de la infraestructura de la empresa y no hay costo por pregunta. El asistente de esta página funciona así.
- Qwen
- Llama
- Mistral
- gpt-oss
- vLLM
- llama.cpp
- Servidores GPU