Command R+ — новая модель!
104 миллиарда параметров, 128к контекста. Моделька с нуля сделана для использования тулов и RAG (Retrieval Augmented Generation), на бенчмарках связанных с этим модель показывает себя очень достойно. Нормальных тестов пока что нет, но Command R 35B очень хорошо себя
показала на LLM арене, так что модель в три раза больше вряд-ли ударит лицом в грязь.
Веса уже выложили, даже квантизированные
🥳
Для инференса понадобится минимум 2x3090 либо A100 80 GB, ну или есть
вариант с маком с большим RAM.
У меня большие надежды на эту модель!
Демка
Веса
Блогпост
@ai_newz