할루시네이션 Hallucination
정의
AI가 사실이 아닌 것을 사실처럼 답하는 것.
한눈에
출처 [1] 원문1회 충전 시 최대 500km
≠
AI 답변최대 600km까지 달립니다[1]
알아둘 점
언급률이 높아도 내용이 틀리면 오히려 손해입니다. 정답이 명확한 질문을 인지 아젠다에 넣어 두는 이유가 이것을 잡기 위해서입니다. 출처가 붙은 답도 출처의 내용과 다르게 옮겨 적는 경우가 있어, 출처가 있다는 것만으로 맞는 답이라고 볼 수 없습니다.
예시
이해를 돕기 위한 가상의 예입니다.
- 사실과 다른 상태"A사 B모델은 단종되었습니다." — 실제로는 판매 중
- 수치 오류"B모델의 배터리 용량은 120kWh입니다." — 공식 사양과 다른 숫자
- 출처와 다른 인용출처 [1]에는 "최대 500km"라고 적혀 있는데 답에는 "600km"로 옮김 — 출처가 붙어도 틀릴 수 있음
- 없는 기능"A사 앱에서 원격 충전 예약을 지원합니다." — 실제로는 없는 기능
흔한 오해
출처가 붙은 답은 정확하다
출처를 옮기는 과정에서 숫자나 조건이 바뀌기도 합니다. 중요한 사실은 출처 원문과 대조합니다
한 번 고치면 사라진다
학습해 둔 지식에서 나온 오답은 다음 학습 전까지 남을 수 있습니다. 공식·외부 채널의 정보를 함께 바로잡습니다
이 콘솔에서
사실 오류 감지 화면에서 확인합니다.
GEO 가이드 · AI는 답을 어떻게 만드는가에서 실무로 이어 읽기 →
출처
최종 갱신