was bedeutet Lost in the Middle für LLMs
> [!ai]+ AI
>
> "Lost in the Middle" bedeutet **Verlust der Kontextinformation**. Die Informationen, die sich im mittleren Teil eines Textes befinden, während des Verarbeitungsprozesses verloren gehen oder weniger Beachtung finden. LLMs verarbeiten Texte sequentiell und könnten dazu neigen, Anfangs- und Endinformationen stärker zu gewichten.
> siehe auch [Lost in the Middle: How Language Models Use Long Contexts](https://arxiv.org/abs/2307.03172)