Inkling Small

Inkling-Small ist die kleine Variante des ersten Open-Weights-Modells von Thinking Machines Lab (dem Startup von Mira Murati).

Es ist ein Mixture-of-Experts-Modell mit 276 Mrd. Parametern insgesamt, von denen 12 Mrd. Parametern während der Token-Inferenz aktiviert werden. Das Modell wurde per Distillation aus dem größeren Inkling (975B/41B aktiv) trainiert. Trotz der kleinen Größe zieht Inkling-small in einigen Benchmarks mit dem großen Inkling-Modell gleich oder überholt es sogar (z.B. 82,2 % in IFBench (Inkling: 79,8 %) oder 80,2 % in SWEBench-Verified (Inkling: 77,6 %)).

Wie die große Inkling Version auch, bringt es natives Reasoning über Text, Bild und Audio, ein Kontextfenster von bis zu 1 Mio. Token und anpassbare Thinking-Effort-Stufen mit.

Thinking Machines positioniert die Familie ausdrücklich nicht als stärkstes Modell am Markt, sondern als offene Basis zum Fine-Tuning über die hauseigene Plattform Tinker.