EXTENDED (SUR)REALITY

Вышел камерный и уютный подкаст в рамках проекта «Дорожки Алетейи» с моим участием.

Поговорили про понятие «новые медиа», проблему авторства и оригинальности цифровых художественных работ, постфотографические изображения и, разумеется, симулякры.

А если вам интересно подробнее обсудить все эти темы, то приходите на нашу секцию «Философия современного медиаискусства: от Art&Science до генеративного творчества» на конференции молодых ученых «Философия в 21 веке: новые стратегии философского поиска», которая пройдет в МГУ 9-13 декабря 2024 г.

В рамках конференции заявлено множество интересных секций, посвященных экспериментальной философии когнитивных наук, проблеме цифрового бессмертия, современной этике, философии музыки и др.

Если вы хотите принять участие в качестве докладчика или слушателя, успейте подать заявку до 20 ноября.

#events

Цифровые мозги

Что ж, раз в ближайшие годы мы все вынуждены настраиваться на Tescreal-мышление, то пора окончательно свыкнуться с мыслью, что всевозможные метафоры «цифровых мозгов», «расширенного познания» и «коллективного ИИнтеллекта» будут с нами еще долго.

Что у нас уже есть:

- Модель от Altera, имитирующая структуру префронтальной коры мозга для ИИ-агентов (которых уже запустили жить симулированной жизнью в Minecraft);

- Фундаментальная модель человеческого познания Centaur, способная предсказывать и симулировать человеческое поведение и являющаяся реальным кандидатом на роль полноценной модели нашей психики;

- «Умная крыса» Пифия, чей мозг подключен к ИИ. Она способна отвечать «да» и «нет» на сложные научные вопросы (о том, хайп это или революция, пишут тут);

- Споры об искусственном сознании в контексте развития «этичного ИИ»: правда ли, что без внутренних переживаний LLM никогда не смогут быть по-настоящему моральными?

И многое другое.

А вот несколько важных текстов по этой этой теме для философской разминки аналоговых мозгов:

▪️The Routledge Handbook of the Computational Mind

▪️Mind as Machine: A History of Cognitive Science (M. Boden)

▪️The Evolutionary Optimality Challenge
(N. Bostom et al)

▪️Better Than Human: The Promise and Perils of Biomedical Enhancement
(A. Buchanan)

#science
#future

В последние дни мое окружение поделилось на 2 группы:

а) Тех, кто активно обсуждает вопросы благополучия ИИ и возможность появления у него сознания в связи с публикацией отчета “Taking AI Welfare Seriously”;

б) Тех, кто спорит из-за нашумевшего текста Пола Грэхема, в котором основатель Y Combinator говорит о будущем пост-ИИ мире, где основаная масса людей будет «непишущей» (и, следовательно, «немыслящей»).

Я же, пользуясь шумихой и случаем, обращаю внимание, что философский ф-т МГУ на днях открыл набор на программу профессиональной переподготовки «Прикладная философия», где у слушателей будет возможность изучить широкий спектр дисциплин (от онтологии до этики ИИ), развить навыки академического письма и критического мышления и, самое главное, узнать о практической стороне современной философии.

Возможно как очное, так и дистанционное обучение. Подробнее о содержании программы можно узнать тут.

#philosophy
#events

Пока все тестировали новую «рассуждающую» модель o1 от OpenAI, Scale AI и Center of AI Safety объявили о проведении конкурса под завораживающим названием «Последний экзамен человечества» («Humanity Last Exam»).

Основная задача конкурса - собрать самые сложные вопросы для оценки работы будущих систем ИИ. Раз текущие модели пугают нас своей способностью за час написать код PhD-исследования, необходимо разработать тесты, решить которые им будет уже не под силу.

В рамках конкурса принимаются вопросы, затрагивающие самые разные области знания - от математики и логики до аналитической философии (судя по текущим заявкам, философских вопросов пока не так много).

Требования к вопросам следующие: высокая сложность, оригинальность, безопасность (никаких вопросов про изготовление атомной бомбы), объективность (вопросы про смысл жизни, вселенной и всего такого тоже не принимаются).

После того, как вы записали ваш вопрос, его предварительно проверяют на современных языковых моделях, чтобы определить, не является ли он слишком простым.

За топ-500 лучших вопросов обещают денежные призы, а авторов самых сложных заданий могут также упомянуть в итоговой научной статье.

Я уже задала свой вопрос.
Вам тоже рекомендую подумать над своим в качестве интеллектуальной разминки.

#future
#philosophy

В честь дня знаний: несколько любопытных материалов про «внутренний мир» LLM:

Во-первых, 3blue1brown продолжают радовать наглядными роликами, объясняющими работу GPT. Теперь можно узнать, как в языковых моделях работает механизм внимания и как они запоминают факты. Видео на этом канале всегда очень понятные и доступные + есть русские субтитры. Так что если вы до этого не смотрели их эксплейнеры, то сейчас самое время это сделать.

И парочка статей:

▪️Machine Psychology - очередная попытка проложить путь к "машинной психологии", нацеленной на понимание процессов поведения и познания у ИИ. Авторы фокусируются на вычислительных инструментах, которые помогают обнаруживать новые эмерджентные способности у LLM и отслеживать поведенческие паттерны моделей. В статье дается обзор существующих практик машинной психологии, а также выделяются лучшие методы и наиболее перспективные направления для будущих исследований.

▪️What is it like to be a bot? The world according to GPT-4 (Dan Lloyd) - статья, опубликованная в Frontiers of Psychology, посвященная, опять же, эмерджетным свойствам языковых моделей. Автор предлагает методы реконструкции субъективного мира модели (s-world) в целях последующего сравнения когнитивных способностей различных LLM. Пользуясь инструментами философской феноменологии и когнитивной этологии, Дэн Ллойд выделяет ряд характерных поведенческих закономерностей и ошибок, обыкновенно допускаемых GPT-4, и предполагает, что их происхождение связано с отсутствием у LLM способности к субъективному восприятию времени. Этот недостаток свидетельствует о том, что GPT-4 в конечном счете не способен создавать стабильную модель окружающего мира (но это не точно).

#papers