اگر میخواهید حسی از #رشد_نمایی فناوری در حوزه #هوش_مصنوعی داشته باشید این نمودار را ببینید:
از مدل GPT-2 با 1.5میلیارد پارامتر که میتوانست حداکثر یک پاراگراف متن خلق کند تا مدل GPT-3 با 175میلیارد پارامتر که مقاله 3000کلمهای مینویسد فقط یکسال فاصله بود و محتملاً با Switch گوگل یک تریلیون! پارامتری حتی کمتر از آن فاصله خواهیم داشت.
بنظر میآید اثربخشی ایده افزایش مقیاس مدلهای مبتنی بر شبکه عصبی جواب داده است و با همین روند حدس میزنم قبل از 2026 ما مدل هوش مصنوعی زبانی، معادل با مغز انسان داشته باشیم (البته از لحاظ تعداد پارامتر) و شاید خیلی زودتر از آن خروجیهای متنی و کلامی هیجانانگیز و غیرقابل تشخیص! برای حتی مختصصین