Почему модели «галлюцинируют» и как с этим жить?
Суть
Галлюцинация — уверенный, гладкий и неправильный ответ: несуществующий метод, выдуманная ссылка на документацию, неверная версия iOS, в которой появился API. Это не баг конкретной модели, а свойство подхода. LLM обучена выдавать правдоподобное продолжение текста, а правдоподобие и истинность — разные вещи. Полностью убрать галлюцинации нельзя, но можно построить процесс, в котором они ловятся дёшево.
Продолжение ответа с кодом и уточняющими вопросами интервьюера — в приложении DevPrep.
Полный ответ — в DevPrep