🤨 ИИ способен анализировать и исправлять свои ошибки #разбираемся ⁉️ Исследование показывает, что большие языковые модели (LLM) могут распознавать свои ошибки.   Ученые обнаружили, что информация о правдивости ответов сконцентрирована в отдельных "точных токенах ответа".   Классификация типов ошибок помогает точнее прогнозировать ошибки и разрабатывать стратегии их предотвращения.   Диссонанс между внутренним и внешним состоянием модели может быть использован для улучшения ответов.   🤟 LLM могут верно оценивать вероятность ошибки в 70% случаев, что указывает на внутренний контроль моделей.   📊 Эти открытия указывают на потенциал создания ИИ, который скорректирует свои ошибки в реальном времени и могут повысить точность и надежность ИИ.   Ai News 360°