🔮 Можно ли доверять прогнозам ИИ? Когда заходит речь об искусственном интеллекте, чаще всего вспоминают генеративный ИИ, например, ChatGPT. Но на многие аспекты нашей жизни уже давно и незаметно влияет другой тип ИИ — прогностический. Именно с ним связан ряд вопросов, которые поднимают ученые в области компьютерных наук из Принстонского университета Арвинд Нараянан и Саяш Капур в своей книге «Змеиное масло ИИ: что может искусственный интеллект, чего не может и как отличить одно от другого». ❓ Кто проверяет прогнозы? Нараянан и Капур вспоминают результаты контроля работы ИИ-системы Retorio. Ее создатели утверждают, что программа предсказывает профессиональный успех человека на основе записи видеозвонка с собеседованием. Но, как выяснилось, надетые очки, шарф или книжные полки в кадре радикально меняли оценку кандидата. «Очевидно, что ношение очков никак не влияет на способность человека хорошо выполнять свою работу», — пишут авторы. По их мнению, Retorio пример «змеиного масла» — вводящего в заблуждение маркетинга. 🩹 Ошибка может стоит жизни Одна экспериментальная система медицинского прогнозирования должна была определять, оставлять ли больных с пневмонией на ночь в больнице. Система заметила, что пациенты с астмой выздоравливают быстрее, поэтому рекомендовала отправлять их домой, полагая, что их состояние не требует госпитализации. Однако на самом деле, астматики находятся в группе риска. При воспалении легких они сразу направляются в отделение интенсивной терапии и получают усиленное лечение. ИИ не смог понять эту логику. 📌 Почему это важно? Эти примеры подчеркивают, что прогностические ИИ-системы, даже если способны делать точные предсказания, не всегда понимают их контекст. Поэтому полагаться на советы таких систем без должного контроля специалистов в лучшем случае ненадежно, а в худшем — опасно. Еще по теме: 🦠 ИИ предскажет новую пандемию 😱 Рэй Курцвейл — о том, как наше сознание будет жить в облаке вечно #news #mustread @hiaimedia