Modelli locali e installazioni private
Modelli a pesi aperti come Llama, Qwen, Mistral o gpt-oss girano sui server del cliente o in un cloud privato. I dati restano nell'infrastruttura dell'azienda e non c'è un costo per domanda. L'assistente di questa pagina funziona così.
- Qwen
- Llama
- Mistral
- gpt-oss
- vLLM
- llama.cpp
- Server GPU