핵심 정리
근거 규칙:
- 현재 작업에서 직접 확인한 자료만 근거로 사용할 것
- 인용은 각 주장 옆에 붙일 것
- URL, 문서명, 인용구를 지어내지 말 것
- 직접 근거가 아닌 부분은 "추론"이라고 표시할 것
- 출처가 충돌하면 충돌 자체를 설명할 것출처 다루기
출처 경계를 먼저 잠가야 가짜 참고문헌 위험이 줄어든다
ChatGPT는 학습 데이터에서 패턴을 종합해 그럴듯한 URL, 논문 제목, 저자명을 생성할 수 있다. 이 정보는 형식은 맞지만 실제로 존재하지 않는 경우가 많다. "현재 작업에서 직접 확인한 자료만 쓸 것"이라는 규칙을 명시하면, 모델이 학습 데이터에서 끌어온 외부 정보를 출처로 사용하는 빈도가 줄어든다.
다음 두 보고서를 바탕으로 요약해줘.
규칙:
- 각 주장 뒤에 [출처]를 붙일 것
- 보고서에 없는 내용은 쓰지 말 것
- URL이나 문서명을 새로 만들지 말 것인용은 문단 끝이 아니라 주장 옆에 붙여야 추적이 쉬워진다
인용을 문단 끝에 몰아서 다는 방식은 어떤 문장이 어떤 근거에 기반하는지 알기 어렵게 만든다. 각 주장 바로 옆에 인용을 붙이면 특정 주장의 근거를 빠르게 찾을 수 있고, 나중에 원문 대조 작업도 쉬워진다. 이 방식은 보고서 작성, 논문 요약, 사실 확인 작업에서 특히 유용하다.
추론 라벨이 사실과 해석의 경계를 만든다
문서에 직접 적혀 있는 내용과 그것을 바탕으로 한 해석은 다른 신뢰도를 갖는다. 모델이 두 가지를 구분 없이 쓰면 독자가 어디까지가 사실이고 어디서부터 추론인지 알 수 없다. "직접 근거가 없는 해석은 (추론)으로 표시할 것"이라고 요청하면 이 경계가 명확해진다.
두 문서가 다르면 "출처 충돌"이라고 표시할 것.
직접 적혀 있지 않은 해석은 "(추론)"으로 표시할 것.출처 충돌은 하나를 고르기보다 병렬로 보여주는 편이 정직하다
두 자료가 서로 다른 수치나 결론을 제시할 때, 모델이 하나를 임의로 선택하면 나머지 관점이 사라진다. 충돌 자체를 드러내고 각 자료가 무엇을 말하는지 병렬로 보여주는 방식이 더 투명하고, 사용자가 어느 쪽을 신뢰할지 스스로 판단하게 한다.
인용과 추론을 나누는 기준
- 문서에 직접 적힌 내용: 인용 가능
- 문서를 바탕으로 해석한 내용: 추론 라벨
- 서로 다른 출처가 충돌할 때: 한쪽을 숨기지 말고 병렬 표시언제 근거를 더 붙일까
| 상황 | 적합한 선택 |
|---|---|
| 가짜 참고문헌이 걱정될 때 | 현재 작업 출처만 사용 규칙 |
| 근거 추적이 필요할 때 | 주장 옆에 인용 붙이기 |
| 사실과 해석을 구분할 때 | 추론 라벨 의무화 |
| 자료 간 충돌이 있을 때 | 충돌 명시 + 병렬 비교 |
| 요약은 해야 하지만 직접 인용은 최소화해야 할 때 | 요약 본문과 인용 위치를 분리하고 근거만 짧게 표기 |
주의할 점
인용을 붙였다고 자동으로 신뢰할 수 있는 것은 아닙니다. 실제로 그 문장이 그 출처에서 나왔는지, 그리고 현재 작업에서 직접 확보한 자료인지까지 함께 확인해야 합니다. 특히 "요약 문장 + 인용" 형태는 해석과 사실이 섞이기 쉬우므로, 직접 적힌 문장인지 해석인지 경계를 분명히 남겨야 합니다.
실패 예시
- 보고서에 없는 배경설명을 자연스럽게 보강한 뒤 [출처]만 붙여 사실처럼 제출함
- 결과: 인용 형식은 맞아 보여도 실제 근거와 해석이 섞여 신뢰도를 해침
- 대응: 직접 적힌 내용만 인용하고, 해석은 반드시 "(추론)"으로 분리한다참고 링크
2 sources