↻AI 엔지니어링

RAG, MCP, 에이전트 루프, evals, 토큰 스트리밍을 실제 흐름으로 풀어냅니다. — 28개 항목

···

에이전트 루프Agent loop

모델이 목표를 보고 도구를 선택·호출한 뒤 결과를 관찰하며 다음 행동을 결정하는 반복 구조입니다.

···

프롬프트 설계Prompt engineering

목표, 제약, 예시를 명확히 적어 모델이 원하는 형식으로 답하게 만듭니다.

···

문맥 창Context window

모델이 한 번에 참고할 수 있는 입력과 출력의 토큰 범위입니다.

···

토큰화Tokenization

입력 문자열을 모델이 처리하는 조각인 토큰으로 나눕니다.

···

임베딩Embeddings

텍스트 같은 데이터를 의미 비교에 쓸 수 있는 수치 벡터로 표현합니다.

···

의미 벡터 검색Semantic vector retrieval

질문과 문서를 임베딩으로 바꿔 의미상 가까운 자료를 찾습니다.

···

검색 증강 생성Retrieval-augmented generation

질문과 관련된 자료를 먼저 찾아 모델 입력에 넣고 그 근거로 답하게 합니다.

···

문서 청킹Document chunking

긴 문서를 검색과 모델 입력에 맞는 작은 구간으로 나눕니다.

···

재순위화Reranking

빠른 1차 검색 결과를 더 정밀한 기준으로 다시 정렬합니다.

···

근거 없는 생성Hallucination

모델이 그럴듯하지만 확인되지 않았거나 근거와 어긋난 내용을 생성하는 현상입니다.

···

온도Temperature

다음 토큰 후보의 확률 분포를 더 뾰족하거나 평평하게 조정하는 샘플링 값입니다.

···

가드레일Guardrails

모델 앞뒤에 검사와 제한을 두어 허용되지 않은 입력·출력을 처리합니다.

···

LLM 평가LLM evaluation

대표 과제와 채점 기준으로 모델·프롬프트의 답변 품질을 비교합니다.

···

모델 라우팅Model routing

요청의 특성에 맞춰 다른 모델이나 처리 경로를 선택합니다.

···

구조화 출력Structured outputs

모델 응답을 정해진 필드와 타입의 데이터 형태로 받습니다.

···

모델 컨텍스트 프로토콜Model Context Protocol

AI 앱이 외부 서버의 도구와 자료를 발견하고 호출하는 연결 규약입니다.

···

에이전트 간 프로토콜Agent-to-Agent Protocol

한 에이전트가 다른 에이전트의 능력을 찾고 작업 상태와 결과를 주고받는 규약입니다.

···

Responses API

모델 응답을 메시지와 도구 호출 같은 출력 항목으로 다루는 API입니다.

···

에이전트 SDKAgents SDK

에이전트 실행, 도구 호출, 인계, 추적을 코드에서 조립하는 개발 도구입니다.

···

에이전트 인계Agent handoff

현재 에이전트가 작업과 필요한 문맥을 전문 에이전트에게 넘깁니다.

···

프롬프트 캐싱Prompt caching

반복되는 입력 앞부분을 재사용해 이후 요청의 처리 비용과 지연을 줄입니다.

···

누적 확률 샘플링Top-p sampling

누적 확률이 기준값에 닿을 때까지 상위 토큰 후보만 남겨 샘플링합니다.

···

미세 조정Fine-tuning

예시 데이터로 기존 모델의 가중치를 추가 학습해 특정 작업의 출력 패턴을 맞춥니다.

···

Agents API

긴 에이전트 작업의 실행 환경과 세션 상태를 서비스가 관리하는 API입니다.

···

내장 웹 검색 도구Built-in web search tool

모델이 최신 웹 정보를 검색하고 찾은 출처를 답변에 연결하게 합니다.

···

컴퓨터 사용 에이전트Computer use agent

화면을 보고 클릭·입력 같은 동작을 실행하며 UI 작업을 진행하는 에이전트입니다.

···

에이전트 코드 실행Agent code execution

에이전트가 만든 코드를 격리된 환경에서 실행하고 그 결과를 다시 작업에 사용합니다.

···

실시간 음성 에이전트Realtime voice agent

음성 입력과 출력을 스트리밍해 말의 흐름에 맞춰 응답하고 끼어들기도 처리합니다.

페이지로 열기 ↗