🔮 Можно ли доверять прогнозам ИИ?Когда заходит речь об искусственном интеллекте, чаще всего вспоминают
генеративный ИИ, например, ChatGPT. Но на многие аспекты нашей жизни уже давно и незаметно влияет другой тип ИИ —
прогностический.
Именно с ним связан ряд вопросов, которые
поднимают ученые в области компьютерных наук из Принстонского университета Арвинд Нараянан и Саяш Капур в своей книге
«Змеиное масло ИИ: что может искусственный интеллект, чего не может и как отличить одно от другого».❓ Кто проверяет прогнозы?Нараянан и Капур вспоминают результаты контроля работы ИИ-системы Retorio. Ее создатели утверждают, что программа предсказывает профессиональный успех человека на основе записи видеозвонка с собеседованием.
Но, как выяснилось, надетые очки, шарф или книжные полки в кадре радикально меняли оценку кандидата. «Очевидно, что ношение очков никак не влияет на способность человека хорошо выполнять свою работу», — пишут авторы. По их мнению, Retorio пример
«змеиного масла» — вводящего в заблуждение маркетинга.
🩹 Ошибка может стоит жизниОдна экспериментальная система медицинского прогнозирования должна была определять, оставлять ли больных с пневмонией на ночь в больнице. Система заметила, что пациенты с астмой выздоравливают быстрее, поэтому рекомендовала отправлять их домой, полагая, что их состояние не требует госпитализации.
Однако на самом деле,
астматики находятся в группе риска. При воспалении легких они сразу направляются в отделение интенсивной терапии и получают усиленное лечение.
ИИ не смог понять эту логику.📌 Почему это важно? Эти примеры подчеркивают, что прогностические ИИ-системы, даже если способны делать точные предсказания,
не всегда понимают их контекст. Поэтому полагаться на советы таких систем без должного контроля специалистов в лучшем случае ненадежно, а в худшем — опасно.
Еще по теме:🦠 ИИ предскажет новую пандемию😱 Рэй Курцвейл — о том, как наше сознание будет жить в облаке вечно#news #mustread @hiaimedia 
