생성 모델은 다음 표현을 예측하는 방식으로 답변을 만들기 때문에 문장이 자연스러워도 사실이라는 보장은 없습니다. 제공된 근거를 잘못 읽거나 근거가 없는 내용을 채울 수 있습니다.
데모는 근거 문서의 날짜와 답변 속 날짜를 대조해 불일치를 표시합니다. 단순 문자열 대조로 모든 사실 오류를 찾을 수는 없어 중요한 주장은 별도 확인이 필요합니다.
언제 쓰나
모델 답변을 검수하거나 근거 기반 답변의 품질 기준을 만들 때 살펴야 합니다.
근거 없는 생성
Hallucination
모델이 그럴듯하지만 확인되지 않았거나 근거와 어긋난 내용을 생성하는 현상입니다.
···
<div class="scene"><div class="heading">CLAIM CHECK</div><div class="paper">근거 문서 <b>배포일: 9월 1일</b></div><div class="claim">모델 답변 <b id="claim-date">9월 1일</b></div><div class="result" id="claim-result">근거와 일치</div></div>.scene{width:min(94vw,800px);height:min(88vh,326px);padding:clamp(10px,2.7vmin,19px);border:1px solid var(--line);border-radius:13px;background:var(--surface);font:500 clamp(13px,2.4vmin,17px)/1.3 var(--font-sans,sans-serif);position:relative;overflow:hidden}.scene .mono{font-family:ui-monospace,SFMono-Regular,monospace}.scene .muted{color:var(--muted)}.scene .accent{color:var(--accent)}.scene .heading{font-weight:750;color:var(--accent);margin-bottom:clamp(5px,1.6vmin,12px)}.paper,.claim{display:flex;justify-content:space-between;gap:8px;padding:clamp(8px,2.5vmin,18px);border:1px solid var(--line);border-radius:7px;margin:7px 0;background:var(--bg)}.claim b{color:var(--accent)}.claim.bad b{color:#c05545}.result{border-left:4px solid var(--accent);padding:8px;background:var(--bg)}.result.bad{border-color:#c05545;color:#c05545}let bad=false;function draw(){bad=!bad;document.getElementById('claim-date').textContent=bad?'9월 9일':'9월 1일';document.querySelector('.claim').classList.toggle('bad',bad);document.getElementById('claim-result').textContent=bad?'불일치: 근거에 없는 날짜':'근거와 일치';document.getElementById('claim-result').classList.toggle('bad',bad)}draw();setInterval(draw,1500)