r/LocalLLaMA

Qwen3.6 27B quants

Retour d'expérience sur l'utilisation de quantifications extrêmes (IQ3 XXS) avec Qwen 3.6 27B pour un projet production, montrant que les modèles fortement quantifiés peuvent être fiables et performants.

  • quantization
  • qwen
  • llm-local
  • performance
  • bartowski
il y a 9 heures