🖥 ИИ может перейти на «темную сторону» — Дарио Амодей В недавнем интервью Лексу Фридману сооснователь и CEO Anthropic Дарио Амодей рассказал, когда искусственный интеллект станет умнее человека и возглавит научные лаборатории. Хайлайты ➡️ В математике, физике и биологии ИИ уже обладает знаниями доктора наук и скоро превзойдет самые высокие профессиональные стандарты. ➡️ Реально ли для ИИ стать умнее человека? Зависит от сферы. В биологии потенциал ИИ почти безграничен, а в разрешении конфликтов между людьми его предел гораздо ниже.  ➡️ Сильный ИИ (AGI) может появиться уже к 2026 или 2027 году. Хотя многое рискует этому помешать. Например, закончатся данные, мы не сможем масштабировать вычислительные мощности, или модели перестанут совершенствоваться, и придется изобретать новую архитектуру. ➡️ На ранних этапах AGI будет похож на аспиранта. Вы поручите ему проект, а он прочитает всю литературу, напишет код, закажет оборудование, проведет эксперимент. В конечном итоге ИИ окажется умнее профессоров-руководителей и сам начнет управлять исследованиями. ➡️ Я не исключаю, что высокоразвитый ИИ может выйти из-под контроля или перейти «на темную сторону». Будут ли развитые ИИ-системы действительно нам подчиняться? Это особенно критично в сферах кибербезопасности, биоинженерии и ядерной энергетики. Поэтому при разработке новой ИИ-модели мы проверяем, как она способна работать автономно. ➡️ Барьеры на пути прогресса были всегда. Но в конце концов перемены происходят, и обычно благодаря нескольким людям. Я думаю, так будет и с развитием ИИ. Барьеры начнут рушиться постепенно, а затем — рухнут все разом. ❕ Anthropic — разработчик чат-бота Claude, один из главных конкурентов OpenAI. Среди инвесторов — Amazon и Google. 📱 Полностью посмотреть интервью можно здесь. Еще по теме: 💩 Биография Дарио Амодея 💩 Дарио Амодей: как AI изменит мир к лучшему #interview #Claude @hiaimedia