Стартап Magic сделал AI с контекстным окном на 100 миллионов токенов
Модель LTM-2-mini, разработанная Magic, способна держать в памяти 10 миллионов строк кода или 750 романов.
Ранее Google выпустил AI-ассистента для разработчиков Gemini Code Assist, который имеет контекстное окно на 1 миллион токенов. Для сравнения, GPT-4o имеет контекстное окно в 128 тысяч токенов, Claude 3.5 Sonnet — 200 тысяч токенов.
Magic — AI-стартап из Сан-Франциско, в команде которого работают 23 человека и, как они сами пишут, 8 тысяч ускорителей Nvidia H100. С момента основания в 2022 году, Magic привлек 465 миллионов долларов инвестиций.
https://magic.dev/blog/100m-token-context-windows—
GPT-4o и Midjourney v6.1 доступны в
c.aiacademy.me