Вообще, если уж мы решаем, что в некоторых областях нейронки достаточно полезны, чтобы перебить их недостатки (а такие области есть, не спорю), то хорошо бы ввести какую-то метрику точности. В дисциплине безопасности жизнедеятельности есть понятие заданной вероятности происшествия. Условно, мы признаем за аксиому, что несчастные случаи бывают всегда, нам лишь надо гарантировать, что вероятность происшествия на неком предприятии составляет, условно, 10e-6. Так же и здесь - очевидно, что LLM будет ошибаться, по крайней мере, пока мы не совершим какого-то прорыва в области, например, гибридных нейросетей-символических систем. Надо лишь получить гарантию, что при запросе выжимки из документации по критической инфраструктуре или медицине верный ответ будет в 999'999 из 1'000'000 случаев. Нейросети общего назначения пока очень и очень далеки от таких гарантий.