Я последнее время много занимался RAG, тоже обратил внимание, что LLM над всем контекстом с промптингом и constrained decoding получается выжать очень много.