ChatGPT 할루시네이션, 답을 믿기 전에 확인하는 3단계

ChatGPT 할루시네이션은 없는 사실을 진짜처럼 말하는 현상입니다. 문장이 자연스러워서 더 위험합니다. 보고서에 그대로 넣으면 내 이름으로 틀린 말이 나갑니다. 답을 받은 뒤 확인 순서를 정해 두면 막을 수 있습니다.

목차 ↑왜 그럴듯한 거짓이 나오나

ChatGPT는 사실을 찾는 도구가 아닙니다. 다음에 올 말을 고르는 도구입니다. 모르는 것을 물어도 빈칸을 두지 않고 채웁니다. 그래서 숫자·날짜·출처·인용문에서 자주 틀립니다. 아래 틀은 답과 함께 근거와 확신도를 받아내는 프롬프트입니다.

목차 ↑바로 쓰는 프롬프트

당신은 신중한 리서치 담당자입니다.
상황: 저는 [업무: 예: 고객사 제안서]에 쓸 사실 정보를 확인하고 있습니다.
조건: 확실하지 않은 내용은 추측하지 말고 '확인 필요'라고 표시해 주세요.
다음 질문에 답해 주세요: [질문]
답은 다음 형식으로 주세요.
1. 답
2. 근거(어떤 종류의 자료에서 나온 내용인지)
3. 확신도(높음/중간/낮음)와 그 이유
4. 제가 직접 확인해야 할 항목 3개 이내

목차 ↑이렇게 채워서 씁니다

대괄호를 실제 상황으로 바꾸면 이렇게 됩니다.

당신은 신중한 리서치 담당자입니다.
상황: 저는 고객사 제안서에 쓸 사실 정보를 확인하고 있습니다.
조건: 확실하지 않은 내용은 추측하지 말고 '확인 필요'라고 표시해 주세요.
다음 질문에 답해 주세요: 국내 중소기업의 생성형 AI 도입률은 몇 퍼센트이고, 어느 기관의 조사인가요?
답은 다음 형식으로 주세요.
1. 답
2. 근거(어떤 종류의 자료에서 나온 내용인지)
3. 확신도(높음/중간/낮음)와 그 이유
4. 제가 직접 확인해야 할 항목 3개 이내

목차 ↑이 프롬프트의 핵심

숫자·날짜·이름·출처는 항상 의심한다 — 틀리기 쉬운 자리는 정해져 있습니다. 문장이 매끄러워도 이 네 가지는 원문을 찾아 대조합니다.
'모르면 확인 필요라고 표시하라'를 먼저 건다 — 조건을 안 주면 빈칸을 채워 버립니다. 표시를 요구하면 추측이 드러납니다.
근거와 확신도를 함께 받는다 — 답만 받으면 맞는지 볼 방법이 없습니다. 근거의 종류와 확신도가 있어야 어디를 확인할지 정해집니다.
같은 질문을 새 대화에서 한 번 더 묻는다 — 두 답이 다르면 하나는 지어낸 것입니다. 중요한 숫자는 반드시 두 번 묻고 대조합니다.

왜 '출처를 알려줘'만으로는 부족한가 — 출처를 요구하면 출처까지 지어냅니다. 없는 논문 제목과 링크가 나옵니다. 그래서 출처는 받은 뒤 반드시 직접 열어 봅니다. 열리지 않거나 내용이 다르면 그 답은 버립니다.

목차 ↑더 나아가려면 — 좋은 프롬프트의 4요소

추측을 막는 조건과 출력 형식을 함께 주는 것도 프롬프트 뼈대입니다. 좋은 프롬프트에는 뼈대가 있습니다 — 역할·맥락·지시·출력형식. 한 번 익히면 어디에나 응용됩니다. 원리 전체와 프롬프트 10개를 무료로 공개해 두었습니다.

좋은 프롬프트의 4요소 — 확인 프롬프트의 뼈대까지 무료로 읽기 →

목차 ↑정리

할루시네이션은 없는 사실을 자연스럽게 말하는 현상이다. 매끄러울수록 의심한다.
숫자·날짜·이름·출처 네 자리는 원문을 찾아 대조한다.
'모르면 확인 필요라고 표시하라'를 조건으로 먼저 준다.
근거와 확신도를 함께 받고, 중요한 것은 새 대화에서 한 번 더 묻는다.

목차 ↑자주 묻는 질문

ChatGPT 할루시네이션은 왜 생기나요?

ChatGPT는 사실을 검색하지 않고 다음에 올 말을 확률로 고릅니다. 모르는 내용도 자연스러운 문장으로 채우기 때문에 없는 사실이 나옵니다. 특히 숫자·날짜·출처에서 자주 틀립니다.

ChatGPT 할루시네이션을 완전히 없앨 수 있나요?

없앨 수는 없습니다. 줄일 수는 있습니다. 추측 금지 조건을 걸고, 근거와 확신도를 함께 받고, 중요한 내용은 원문을 직접 확인하는 세 단계가 기본입니다.

웹 검색 기능을 켜면 할루시네이션이 사라지나요?

줄어들지만 사라지지는 않습니다. 검색 결과를 잘못 읽거나 오래된 페이지를 가져올 때가 있습니다. 링크가 붙어 있어도 열어서 내용이 맞는지 봅니다.

업무 문서에 ChatGPT 답을 쓸 때 최소한 무엇을 확인해야 하나요?

숫자·날짜·사람과 기관 이름·인용문 네 가지입니다. 이 네 자리만 원문과 대조해도 큰 사고는 대부분 막습니다.

이 글은 ChatGPT 업무 활용 완전 가이드의 일부입니다.

← H.Sol 홈으로