Building A Generative AI Platform Chip Huyen - автор книги по Machine Learning Systems Design, выпустила пост с описанием построения Generative AI Platform. Читается за несколько часов, очень подробно раскрыты темы с RAG, кэшем, метрками, логированием и много другого. Рекомендую к прочтению