온도는 모델이 계산한 후보 점수에 적용되어 다음 토큰의 확률 분포를 조정합니다. 낮을수록 높은 점수 후보에 집중하고 높을수록 다른 후보의 선택 가능성도 커집니다.
데모는 같은 후보에 낮은 온도와 높은 온도를 적용한 분포를 비교합니다. 높은 온도가 사실성을 높인다는 뜻은 아니며, 다른 샘플링 설정과 함께 결과를 확인해야 합니다.
언제 쓰나
출력의 다양성과 일관성 사이를 실험적으로 조정할 때 사용합니다.
온도
Temperature
다음 토큰 후보의 확률 분포를 더 뾰족하거나 평평하게 조정하는 샘플링 값입니다.
···
<div class="scene"><div class="heading">NEXT TOKEN PROBABILITY</div><div class="temp">온도 <b class="mono" id="temp-value">0.2</b></div><div class="bars"><div><span>답 A</span><i id="bar-a"></i></div><div><span>답 B</span><i id="bar-b"></i></div><div><span>답 C</span><i id="bar-c"></i></div></div></div>.scene{width:min(94vw,800px);height:min(88vh,326px);padding:clamp(10px,2.7vmin,19px);border:1px solid var(--line);border-radius:13px;background:var(--surface);font:500 clamp(13px,2.4vmin,17px)/1.3 var(--font-sans,sans-serif);position:relative;overflow:hidden}.scene .mono{font-family:ui-monospace,SFMono-Regular,monospace}.scene .muted{color:var(--muted)}.scene .accent{color:var(--accent)}.scene .heading{font-weight:750;color:var(--accent);margin-bottom:clamp(5px,1.6vmin,12px)}.temp{margin:4px 0 7px}.bars{height:65%;display:flex;flex-direction:column;justify-content:space-around;gap:6px}.bars div{display:flex;align-items:center;gap:8px}.bars span{width:44px}.bars i{height:clamp(15px,5vmin,28px);display:block;background:var(--accent);border-radius:4px;transition:width .7s}.bars div:nth-child(2) i{background:var(--accent-2)}.bars div:nth-child(3) i{background:var(--accent-3)}let high=false;function draw(){high=!high;document.getElementById('temp-value').textContent=high?'1.0':'0.2';(high?[52,31,17]:[83,14,3]).forEach((n,i)=>document.getElementById(['bar-a','bar-b','bar-c'][i]).style.width=n+'%')}draw();setInterval(draw,1600)