← Zurück zum Benchmark

Qwen3.8-27B: Quants im Vergleich

Dasselbe Modell in 19 Varianten, die größte Datei zuerst. Je kleiner die Datei, desto weniger Bit bleiben pro Gewicht. Die Variante in voller Präzision lief in der Cloud, alle anderen auf dem Mac Studio. Ein Klick auf ein Bild öffnet die Giraffe.

bf16Cloud über OpenRouter
volle Präzision, 16 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B (bf16, Cloud) mit pi
pi52 min
Standbild der Giraffe von Qwen3.8-27B (bf16, Cloud) mit OpenCode
OpenCode37 min
UD-Q8_K_XLUnsloth Dynamic 3.0
31,5 GB≈ 9,3 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q8_K_XL (Unsloth Dynamic 3.0) mit pi
pi63 min
Standbild der Giraffe von Qwen3.8-27B UD-Q8_K_XL (Unsloth Dynamic 3.0) mit OpenCode
OpenCode43 min
Huihui-Qwen3.8-27B-abliterated Q8_0
29,0 GB≈ 8,6 Bit pro Gewicht
Standbild der Giraffe von Huihui-Qwen3.8-27B-abliterated Q8_0 mit pi
pi73 min
Standbild der Giraffe von Huihui-Qwen3.8-27B-abliterated Q8_0 mit OpenCode
OpenCode26 min
UD-Q5_K_XLUnsloth Dynamic 3.0
20,9 GB≈ 6,2 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q5_K_XL (Unsloth Dynamic 3.0) mit pi
pi29 min
Standbild der Giraffe von Qwen3.8-27B UD-Q5_K_XL (Unsloth Dynamic 3.0) mit OpenCode
OpenCode1,6 h
UD-Q5_K_MUnsloth Dynamic 3.1
19,9 GB≈ 5,9 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q5_K_M (Unsloth Dynamic 3.1) mit pi
pi35 min
Standbild der Giraffe von Qwen3.8-27B UD-Q5_K_M (Unsloth Dynamic 3.1) mit OpenCode
OpenCode34 min
UD-Q4_K_MUnsloth Dynamic 3.1Auf der Hauptseite
16,6 GB≈ 4,9 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q4_K_M (Unsloth Dynamic 3.1) mit pi
pi46 minKlein, blass und grob gebaut.
Standbild der Giraffe von Qwen3.8-27B UD-Q4_K_M (Unsloth Dynamic 3.1) mit OpenCode
OpenCode52 min
UD-Q4_K_MUnsloth Dynamic 3.0
16,5 GB≈ 4,9 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q4_K_M (Unsloth Dynamic 3.0) mit pi
pi72 min
Standbild der Giraffe von Qwen3.8-27B UD-Q4_K_M (Unsloth Dynamic 3.0) mit OpenCode
OpenCode22 min
UD-IQ4_XSUnsloth Dynamic 3.1
14,4 GB≈ 4,3 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-IQ4_XS (Unsloth Dynamic 3.1) mit pi
pi24 min
Standbild der Giraffe von Qwen3.8-27B UD-IQ4_XS (Unsloth Dynamic 3.1) mit OpenCode
OpenCode47 min
UD-Q3_K_XLUnsloth Dynamic 3.1
13,1 GB≈ 3,9 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q3_K_XL (Unsloth Dynamic 3.1) mit pi
pi1,7 h
Standbild der Giraffe von Qwen3.8-27B UD-Q3_K_XL (Unsloth Dynamic 3.1) mit OpenCode
OpenCode28 min
IQ3_SISTA
12,1 GB≈ 3,6 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B IQ3_S (ISTA) mit pi
pi50 minStreifen statt Flecken.
Standbild der Giraffe von Qwen3.8-27B IQ3_S (ISTA) mit OpenCode
OpenCode24 min
UD-IQ3_SUnsloth Dynamic 3.0
12,0 GB≈ 3,6 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-IQ3_S (Unsloth Dynamic 3.0) mit pi
pi36 minDer Rumpf ist ein Zylinder, der Hals ein dünner Stab.
Standbild der Giraffe von Qwen3.8-27B UD-IQ3_S (Unsloth Dynamic 3.0) mit OpenCode
OpenCode73 minDie Beine sind weiß und ohne Gelenke.
UD-IQ3_XXSUnsloth Dynamic 3.0
10,9 GB≈ 3,2 Bit pro Gewicht
piKeine lauffähige GiraffeKeine Seite: Das Modell schöpfte in zwei Versuchen die Ausgabegrenze von 32.768 Tokens aus, vor allem mit Nachdenken, und schrieb keine index.html.
Standbild der Giraffe von Qwen3.8-27B UD-IQ3_XXS (Unsloth Dynamic 3.0) mit OpenCode
OpenCode59 min
UD-Q2_K_XLUnsloth Dynamic 3.1
9,9 GB≈ 2,9 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-Q2_K_XL (Unsloth Dynamic 3.1) mit pi
pi68 minDer Rumpf liegt flach auf dem Boden.
Standbild der Giraffe von Qwen3.8-27B UD-Q2_K_XL (Unsloth Dynamic 3.1) mit OpenCode
OpenCode62 minEin Klumpen aus Kugeln, kaum als Giraffe zu erkennen.
IQ2_XSISTA
8,4 GB≈ 2,5 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B IQ2_XS (ISTA) mit pi
pi41 min
Standbild der Giraffe von Qwen3.8-27B IQ2_XS (ISTA) mit OpenCode
OpenCode72 min
UD-IQ2_SUnsloth Dynamic 3.1
8,4 GB≈ 2,5 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-IQ2_S (Unsloth Dynamic 3.1) mit pi
pi32 min
Standbild der Giraffe von Qwen3.8-27B UD-IQ2_S (Unsloth Dynamic 3.1) mit OpenCode
OpenCode10 minOhne Fellmuster, mit Stacheln auf dem Rücken.
UD-IQ2_XSUnsloth Dynamic 3.1
7,6 GB≈ 2,3 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-IQ2_XS (Unsloth Dynamic 3.1) mit pi
pi82 min
Standbild der Giraffe von Qwen3.8-27B UD-IQ2_XS (Unsloth Dynamic 3.1) mit OpenCode
OpenCode39 min
UD-IQ2_XXSUnsloth Dynamic 3.1
7,2 GB≈ 2,1 Bit pro Gewicht
Standbild der Giraffe von Qwen3.8-27B UD-IQ2_XXS (Unsloth Dynamic 3.1) mit pi
pi69 minDie Kamera sitzt hinter der Giraffe, zu sehen ist vor allem der Hals.
OpenCodeKeine lauffähige GiraffeLeere Seite: Ein Aufruf einer Funktion, die es in Three.js nicht gibt, bricht das Skript ab, bevor die Szene erscheint.
UD-IQ1_MUnsloth Dynamic 3.0
6,7 GB≈ 2,0 Bit pro Gewicht
piKeine lauffähige GiraffeKeine Seite: Das Modell schrieb giraffe.js, meldete sich in zwei Versuchen aber ohne index.html als fertig.
OpenCodeKeine lauffähige GiraffeWeiße Seite: Lädt Three.js als lokales ES-Modul, das der Browser beim direkten Öffnen blockiert; zudem hängt die Seite die Zeichenfläche nie ein.
UD-IQ1_SUnsloth Dynamic 3.0
6,2 GB≈ 1,8 Bit pro Gewicht
piKeine lauffähige GiraffeKeine Seite: Das Modell dachte in zwei Versuchen lange nach und hörte dann auf, ohne eine Datei zu schreiben.
OpenCodeKeine lauffähige GiraffeKeine Seite: Das Modell beendete beide Versuche nach einer Antwort, ohne eine Datei zu schreiben.