Значення
Явище, коли модель штучного інтелекту генерує фактологічно неправдиву, вигадану або беззмістовну інформацію, висловлюючи при цьому повну впевненість.
Українською: галюцинація (вигадування фактів)
Три приклади з роботи
Quality testing
QAThe AI bot invented a non-existent API parameter in its generated code snippet.ШІ-бот вигадав неіснуючий параметр API у згенерованому фрагменті коду.
DevThat is a classic hallucination; we must inject the OpenAPI schema into the context.Це класична галюцинація; ми повинні передавати схему OpenAPI в контекст запиту.
Compliance audit
LegalCan the medical chatbot hallucinate drug dosage recommendations?Чи може медичний чат-бот нагалюцинувати дозування ліків?
AI LeadWe added strict deterministic verification and fact-checking filters to prevent that.Ми додали жорстку детерміновану валідацію та фільтри перевірки фактів для запобігання цьому.
Customer review
ClientThe assistant claimed our office is in London, which is incorrect.Асистент стверджував, що наш офіс у Лондоні, а це неправда.
POWe will tighten grounding prompts and require citations for all factual claims.Ми посилимо промпти заземлення і вимагатимемо посилань на джерела для всіх фактів.
Для боротьби з галюцинаціями застосовують RAG, верифікацію посилань на першоджерела та обов'язкову цитацію точних уривків із документів.