Scrugo

Reviews & comparisons

Hands-on reviews and head-to-head comparisons of consumer hardware.

1 project found

Filters 2
Qwen 3.8 27B on 2 RTX 3090s + 128GB of RAM: QEngine, ULTRAMAX, vLLM or llama.cpp?
Done ⚔️ Comparison

Qwen 3.8 27B on 2 RTX 3090s + 128GB of RAM: QEngine, ULTRAMAX, vLLM or llama.cpp?

J'ai comparé 4 moteurs pour Qwen 3.8 27B, la version dense du modèle, sur ma machine : 2 RTX 3090 de 24 Go, 128 Go de RAM et un PCIe 3.0. Tout vient de mon banc, avec les mêmes prompts. Deux réserves, que je rappelle à chaque fois : les chiffres ne viennent pas tous de la même session, et la comparaison n'est pas à quantification égale.

Inférence LLM locale Linux Benchmarking +5
fabz 🧪 🧠 🌱 🏅 33

📬 Get the weekly newsletter

Report this content