Scrugo

Tests et comparatifs

Tests détaillés et comparatifs de matériel grand public.

1 projet trouvé

Filtres 2
Qwen 3.8 Flash Next sur 2 RTX 3090 + 128Go de RAM : QEngine, Strata, vLLM ou llama.cpp ?
Terminé ⚔️ Comparatif

Qwen 3.8 Flash Next sur 2 RTX 3090 + 128Go de RAM : QEngine, Strata, vLLM ou llama.cpp ?

J'ai hésité entre ces 4 moteurs pour faire tourner Qwen 3.8 Flash Next (QFN) sur ma machine : 2 RTX 3090 de 24 Go, 128 Go de RAM et un PCIe 3.0. J'ai mesuré moi-même QEngine et Strata. Pour vLLM et llama.cpp, je m'appuie sur les chiffres publiés par d'autres sur des rigs 2×3090.

Inférence LLM locale Linux Configuration GPU / CUDA +7
fabz 🧪 🧠 🌱 🏅 52

📬 Recevoir la newsletter hebdo

Signaler ce contenu