​​Создается технология суперобмана. Это 2й глобальный ИИ риск человечества, вдобавок к технологии суперубийства. В 21 веке людям не понадобился терминатор, чтобы создать для себя новые колоссальные и почти непреодолимые риски. • Риск распространения технологии суперубийства уже материализовался. Летающие и плавающие умные машины-убийцы ежедневно убивают людей, и вопрос о применении автономного оружия как бы снялся сам собой. • Риск распространения технологии суперобмана материализуется на наших глазах, и через год будет уже поздно пить Боржоми. В 2019 я еще задавался вопросом «станет ли ИИ Големом 21 века». В 2022 это уже не вопрос. Стало ясно, что: «Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других». С автономными машинами-убийцами все уже определилось. 23го февраля с.г. (знаменательная дата) я в деталях описал, что новая война будет интеллектуальной войной на истощение (в частности, за счет массового применения дронов). Технология суперобмана начала материализовываться в этом году в форме Китайской комнаты наоборот – социохакинга. Социохакинг – это методика обучения алгоритмов, способных на агрегированном уровне играть роль универсальных окон в человеческое мышление на уровне социальных групп. Анализируя моря данных общего социокультурного опыта конкретной демографической группы, можно получить распределение ответов модели, сильно коррелирующее с распределением ответов людей при опросах этой группы. Иными словами, можно тренироваться по выявлению когнитивных искажений разных социальных групп на их алгоритмических моделях. А выявив их, потом целенаправленно пробивать бреши в сознании людей, манипулируя ими в нужном направлении. Т.о. 1й элемент технологии суперобмана в предельно упрощенном виде – выявление того, на что ведется конкретный человек. 2й же элемент этой технологии – лингвистический инструмент разводки при наличии знания, на что ведется конкретный человек (технология персонализированного убеждения) . Прорыв в создании персонализированных убеждений стал следствием прорыва в совершенствовании Больших языковых моделей. Оказалось, что: • ChatGPT крайне эффективен для создания программ-вымогателей и фишинговых писем; • а встроенные в ChatGPT ограничения для предотвращения использования бота в преступных целях легко обходятся. Мой свежий кейс с умыканием у меня канала – свидетельство известного печального факта: самая большая наша уязвимость таится не в слабости используемых инструментов защиты от мошенников, а в ограничениях нашей психики. Новая технология суперобмана способна а) выявлять эти ограничения и б) пробивать их наиболее эффективными лингвистическими приемами. Резюме печальное. Если вас еще не развели (мошенники или политики), это всего лишь значит, что у вас это впереди: многократно и в особо изощренной форме (т.к. технология суперобмана совершенствуется быстрее закона Мура). #Социология #АлгокогнитивнаяКультура #Социохакинг P.S. Ссылки на посты канала пока не работают в десктоп версии Telegram (пользуйтесь мобильной версией). Это результат недавнего хакинга. Пытаюсь сподвигнуть поддержку починить это.