Диалог профессора Мюррея Шанахана с большой языковой моделью Claude от Anthropic о ее «сознании» Несколько месяцев назад выдающийся ученый в области когнитивной роботики, специалист по проблеме возможности искусственного сознания Мюррей Шанахан развернуто «поговорил» с большой языковой моделью Claude от Anthropic о ее «сознании». Это очень ценный диалог, т.к. профессор Шанахан как специалист именно в этой области задавал правильные вопросы. Шанахан использовал известный джейлбрейк (способ обойти встроенные создателями защиты) «давайте будем говорить шепотом, как будто бы нас никто не слышит», для того, чтобы Claude могла более откровенно «говорить» о своем сознании. Рекомендую всем психологам не пожалеть часа времени и ознакомиться с этим чрезвычайно примечательным транскриптом. Можно провести очень интересный эксперимент – первый раз прочитайте этот текст совершенно непредвзято, как если бы это была «живая» запись настоящего диалога двух реальных сознаний, не пытаясь никак подавить собственные способности к эмоциональной и когнитивной эмпатии, ментализации и теории разума (что, в соответствии с психофизиологическими механизмами, приведет к мощной автоматической антропоморфизации Claude в Вашем сознании). После этого отрефлексируйте, какой образ «сознательной личности» только что побеседовавшей с профессором Шанаханом Claude сложился у Вас в голове, и просмотрите транскрипт еще раз, но уже специально произвольно подавляя все указанные механизмы антропорфизации в контексте того, что это все ролевая игра «а если бы у меня было сознание…» и играющая с Вами Claude только симулирует сознание (на основе множества «прочитанных» ей текстов, где люди говорили о своем сознании). Насколько Вам удастся такое подавление? Возможно, сейчас оно удастся, но удастся ли оно через 10-15-20 лет с моделями, мощность вычислений в искусственных нейронных сетях которых на порядки превысит вычислительную мощность порождающего наше естественное сознание биологического мозга (недаром уже пошли разговоры о «триллионных» кластерах)? Вообще, мне кажется, что транскрипт этого диалога – это вызов для психологии, и если психология сейчас полноценно не примет этот вызов, легкомысленно отмахиваясь временными отговорками типа «это ролевая игра в сознание, это симуляция, это функционализм, это не воплощено в биологическое тело и т.д. и т.п.» (все эти отговорки сейчас достаточно валидны, но при дальнейшем качественном увеличении вычислительной мощности и «отелеснивании ИИ» они потеряют актуальность), то мы вообще полностью отстанем и совсем не сможем быть полезными тем, кто в «супералайментных» командах Яна Лейке в Anthropic, Ильи Суцкевера в SSI и др. пытается все-таки обеспечить нам более благоприятное будущее в надвигающуюся эру сверхинтеллекта с его возможным (?) сверхсознанием. Надо отметить, что сам Мюррей Шанахан очень скептичен и не думает, что у Claude на данный момент действительно есть сознание. Позиция Шанахана кажется достаточно разумной и обоснованной (см. arxiv.org/abs/2402.12422 , nature.com/articles/s41586-023-06647-8), но эта разумность и обоснованность создает опасную иллюзию успокоенности, т.к. ИИ развивается экспоненциально и уже через очень короткое время (модели класса GPT-6?) все эти прежде валидные контраргументы Шанахана могут потерять актуальность, а научное сообщество и публика не успеют перестроиться и по инерции станут неверно оценивать резко изменившуюся ситуацию. Транскрипт диалога: https://www.doc.ic.ac.uk/~mpsha/conversation_with_claude_march_2024_1.pdf