SINQ - a huawei-csl Collection

huawei-csl 's Collections

SINQ

Papers

SINQ

updated 21 days ago

This collection contains the models quantized with the SINQ quantization method.

huawei-csl/Qwen3-1.7B-3bit-ASINQ

Text Generation • 0.5B • Updated Oct 18 • 20 • 7
huawei-csl/Qwen3-1.7B-3bit-SINQ

Text Generation • 0.5B • Updated Oct 18 • 25 • 7
huawei-csl/Qwen3-14B-3bit-ASINQ

Text Generation • 3B • Updated Oct 18 • 10 • 5
huawei-csl/Qwen3-14B-3bit-SINQ

Text Generation • 3B • Updated Oct 18 • 21 • 5
huawei-csl/Qwen3-32B-3bit-SINQ

Text Generation • 6B • Updated Oct 18 • 14 • 6
huawei-csl/Qwen3-1.7B-4bit-ASINQ

Text Generation • 1B • Updated Oct 18 • 12 • 5
huawei-csl/Qwen3-32B-3bit-ASINQ

Text Generation • 6B • Updated Oct 18 • 10 • 5
huawei-csl/Qwen3-1.7B-4bit-SINQ

Text Generation • 1B • Updated Oct 18 • 10 • 5
huawei-csl/Qwen3-14B-4bit-SINQ

Text Generation • 9B • Updated Oct 18 • 18 • 5
huawei-csl/Qwen3-14B-4bit-ASINQ

Text Generation • 9B • Updated Oct 18 • 16 • 6
huawei-csl/Qwen3-32B-4bit-SINQ

Text Generation • 18B • Updated Oct 18 • 9 • 7
huawei-csl/Qwen3-32B-4bit-ASINQ

Text Generation • 18B • Updated Oct 18 • 14 • 8
huawei-csl/Qwen3-235B-A22B-3bit-SINQ

Text Generation • Updated Oct 29 • 9 • 2
huawei-csl/Apertus-8B-2509-4bit-ASINQ

Text Generation • 5B • Updated Oct 31 • 9 • 2
huawei-csl/Apertus-8B-2509-4bit-SINQ

Text Generation • 5B • Updated Oct 31 • 16 • 2
huawei-csl/Qwen3-Next-80B-A3B-Instruct-4bit-SINQ

Text Generation • Updated 21 days ago • 342 • 2
huawei-csl/Kimi-Linear-48B-A3B-Instruct-4bit-SINQ

Text Generation • 27B • Updated 21 days ago • 40 • 3
huawei-csl/Kimi-Linear-48B-A3B-Instruct-3bit-SINQ

Text Generation • 7B • Updated 21 days ago • 90 • 1
huawei-csl/Qwen3-Next-80B-A3B-Instruct-3bit-SINQ

Text Generation • Updated 21 days ago • 13 • 1