MTS AI выпустил три легковесные LLM с открытым кодом
Модели Cotype‑Nano предназначены для генерации текста. Они обучались на датасетах из таких сфер как математика, программирование, function-calling, RAG, суммаризация и классификация Авторы заявляют, что модели заняли первые места на RuArenaGeneral в своих категориях.
Cotype‑Nano — это легковесная модель для выполнения задач с минимальными ресурсами. Она оптимизирована для быстрого и эффективного взаимодействия с пользователями, обеспечивая высокую производительность даже в условиях ограниченных ресурсов.
https://huggingface.co/MTSAIR/Cotype-Nano
Cotype‑Nano-4bit — это квантизированная версия Cotype Nano, которая быстрее и в три раза меньше оригинальной модели.
https://huggingface.co/MTSAIR/Cotype-Nano-4bit
Cotype‑Nano‑CPU — модель, оптимизированная под Intel CPU с помощью фреймворка openVINO.
https://huggingface.co/MTSAIR/Cotype-Nano-CPU