ChatGPT검증과 한계

근거 제한과 인용 규칙

자료 기반 응답에서 현재 작업에서 확보한 출처만 쓰게 하고, 추론과 사실을 분리해 적도록 만드는 카드입니다.

마지막 수정 2026년 3월 19일

기본 패턴

text
근거 규칙:
- 현재 작업에서 직접 확인한 자료만 근거로 사용할 것
- 인용은 각 주장 옆에 붙일 것
- URL, 문서명, 인용구를 지어내지 말 것
- 직접 근거가 아닌 부분은 "추론"이라고 표시할 것
- 출처가 충돌하면 충돌 자체를 설명할 것

설명

  • 공식 문서는 인용 품질이 중요할 때 source boundary를 먼저 잠그라고 권합니다. 즉, 지금 작업에서 확보한 자료 밖의 출처는 쓰지 않게 해야 합니다.
  • 이렇게 경계를 좁히면, 모델이 그럴듯한 URL이나 문헌 정보를 즉석에서 꾸며내는 위험을 크게 줄일 수 있습니다.
  • 인용은 문단 끝에 몰아서 다는 것보다, 각각의 주장 옆에 붙여 어떤 문장이 어떤 근거에 기대는지 보이게 하는 편이 좋습니다.
  • 자료에 직접 적혀 있지 않고 사용자가 해석을 더한 부분은 사실처럼 쓰지 말고 추론으로 라벨링해야 합니다.
  • 출처끼리 충돌하면 하나를 임의로 고르기보다, 어느 자료가 무엇을 말하는지 병렬로 보여주는 편이 더 정직합니다.

짧은 예제

text
다음 두 보고서를 바탕으로 요약해줘.

규칙:
- 각 주장 뒤에 [출처]를 붙일 것
- 보고서에 없는 내용은 쓰지 말 것
- 두 문서가 다르면 "출처 충돌"이라고 표시할 것
- 직접 적혀 있지 않은 해석은 "(추론)"으로 표시할 것

빠른 정리

규칙효과
현재 작업 출처만 사용가짜 참고문헌 위험을 줄입니다.
주장 옆 인용근거 연결을 추적하기 쉬워집니다.
추론 라벨사실과 해석을 분리합니다.
충돌 명시임의 단정을 줄입니다.
형식 고정인용 표기가 흔들리지 않게 합니다.

주의할 점

인용을 붙였다고 자동으로 신뢰할 수 있는 것은 아닙니다. 실제로 그 문장이 그 출처에서 나왔는지, 그리고 현재 작업에서 직접 확보한 자료인지까지 함께 확인해야 합니다.

참고 링크

2 sources