생성형 인공지능(AI)의 성장을 가로막는 가장 큰 장애물은 ‘환각(hallucination)’ 현상이다. AI가 사실이 아닌 답을 내놓는 현상으로, AI의 신뢰성을 떨어뜨리는 원인 중 하나다. AI가 질문을 제대로 이해하지 못했거나, 학습된 데이터로 답을 할 수 없는 경우 확률적으로 가장 그럴듯한 답변을 내놓으면서 발생한다. AI 검색 기술 스타트업 ‘벡타라’에 따르면, AI 환각 현상은 모든 생성형 AI에서 나타날 수 있으며, 발생 확률이 최대 16.2%에 이르는 것으로 알려졌다.

AI 환각 현상을 막기 위해 고안된 기술이 ‘검색 증강 생성(RAG)’이다. RAG는 생성형 AI가 학습한 데이터와는 별개로 외부의 데이터를 참고해 답변의 정확도를 높이는 기술이다. 언론 기사나 학술지 등 믿을 수 있는 외부 데이터를 답변에 반영하기 때문에 AI의 신뢰성을 높일 수 있다.