Wie LLMs funktionieren, Teil 4: Der Transformer, Block für Block

Der Transformer ist die Architektur hinter ChatGPT, Claude, Gemini, Llama und praktisch jedem anderen modernen Sprachmodell. Dies ist Teil 4 unserer Reihe zur Funktionsweise von LLMs. Sie lernen das Design von 2017 Block für Block kennen (Encoder, Decoder, Embeddings, Positionen, Residualverbindungen, Normalisierung und Masken) und sehen die drei wichtigsten heutigen Varianten: Decoder-only-Modelle, Mixture of Experts und multimodale Architekturen.