Utforsk hvordan kontekstuelle representasjoner gir store språkmodeller evnen til å forstå mening. Vi ser på transformer-arkitektur, kontekstvinduets begrensninger, og forskjellen mellom GPT og BERT.
Lær hvordan kontekstvinduer i store språkmodeller fungerer, hvorfor de begrenser behandling av lange dokumenter, og hvilke strategier som kan brukes for å overvinne disse utfordringene effektivt.