Полезные инструменты и ссылки для Llama 2
Репозиторий содержит ссылки на скачивание и тесты
, включая чат Hugging Face на 70B
, на 13B и на 7B
.
В репозитории обсуждается работа этих платформ на облачных GPU и приводится руководство для версии 70B GPTQ
.
Также предлагаются лучшие версии моделей GPTQ и GGML для разных уровней видеопамяти
.
Приводятся рекомендации по созданию подсказок для базовых моделей
.
https://github.com/TikkunCreation/llama-2-resources