할루시네이션(Hallucination)은 AI가 사실이 아닌 내용을 사실인 것처럼 그럴듯하게 생성하는 현상입니다. 존재하지 않는 통계, 잘못된 인용, 실제와 다른 회사 정보가 대표적입니다.
AI는 왜 없는 사실을 지어내나요
생성형 AI는 정답을 찾아오는 것이 아니라 다음에 올 말을 확률로 예측합니다. 근거가 부족한 영역에서도 문장은 매끄럽게 이어지기 때문에 틀린 내용이 자연스러운 형태로 나옵니다.
- 학습 데이터에 없는 최신 정보
- 정보가 희박한 니치 주제
- 표기가 흩어져 주체를 특정하기 어려운 브랜드
우리 브랜드에는 어떤 문제가 되나요
할루시네이션은 GEO에서 남의 일이 아닙니다.
- 회사 정보가 사실과 다르게 답변될 수 있습니다.
- 제공하지 않는 서비스를 한다고 소개될 수 있습니다.
- 경쟁사 정보와 뒤섞여 전달될 수 있습니다.
정보가 부족할수록 AI는 빈칸을 추정으로 메웁니다. 공식 정보를 정리해 두는 일이 곧 방어입니다.
할루시네이션은 어떻게 줄이나요
- 공식 페이지에 사실 정보를 명확히 두고 구조화 데이터로 표시합니다.
- 엔티티 표기를 통일해 주체 혼동을 줄입니다.
- 근거를 함께 제시해 그라운딩이 가능하게 합니다.
- 실제 답변을 주기적으로 확인해 오류를 발견합니다.
참고
238LAB은 AI 답변 측정에서 인용 여부뿐 아니라 정보가 정확한지도 함께 봅니다. 잘못된 인용은 노출이 아니라 위험이기 때문입니다.