Apple совместно с NVIDIA будет работать над улучшением больших языковых моделей Это
сотрудничество позволит значительно ускорить обработку приложений, где используются большие языковые модели ИИ.
В этом году Apple опубликовала исходный код своего проекта Recurrent Drafter (ReDrafter), с помощью которого скорость генерации токенов увеличилась в 2,7 раза.
ReDrafter уменьшает время ответа на запрос, а также снижает нагрузку на графический процессор и уменьшает энергопотребление.
Apple адаптировала эту технологию не только под процессоры Apple Silicon, но и под чипы NVIDIA.