Gemini Diffusion

Gemini Diffusion ist das erste Diffusion LLM von Google. Als Diffusion-Modell generiert Gemini den Output nicht autoregressiv (also Wort für Wort), sondern iteriert über einen zufälligen Output und verfeinert diesen so lange, bis eine bestimmte Qualität erreicht wurde. Den Ansatz kennen wir bereits von Text-to-Image Modellen wie Stable Diffusion. Dieser Ansatz ermöglicht es Gemini Diffusion eine vergleichbare Qualität zu Gemini 2.0 Flash-Lite zu erreichen, bei fast 10-facher Geschwindigkeit (in Token pro Sekunde).