CS146S: The Modern Software Developer

1. K-shot Prompting (Few-shot Learning)

예시를 통해 모델에게 원하는 출력 형식을 가르칩니다. K개의 입력-출력 예시를 제공하면, 모델은 패턴을 학습하여 새로운 입력에 같은 형식으로 응답합니다. K가 클수록 정확도가 올라가지만, 컨텍스트 윈도우 제한이 있습니다.

# 예시: 감정 분석
"긍정적인 리뷰" → "긍정"
"최악의 서비스였다" → "부정"
"그냥 그랬어요" → ?

2. Chain-of-Thought (CoT) Prompting

단계별 추론을 유도하는 기법입니다. "Let's think step by step"을 추가하는 것만으로도 복잡한 문제 해결 능력이 크게 향상됩니다. 특히 수학 문제, 논리 추론, 코드 디버깅에 효과적입니다.

3. Tool Calling (Function Calling)

LLM이 외부 함수를 호출할 수 있게 하는 기법입니다. 모델은 함수를 직접 실행하지 않고, 어떤 함수를 어떤 파라미터로 호출해야 하는지 JSON 형태로 출력합니다. AI 에이전트의 핵심 기술입니다.

{
  "function": "search_web",
  "parameters": {
    "query": "Stanford CS146S syllabus"
  }
}

4. Self-Consistency Prompting

같은 질문에 대해 여러 번 추론하게 한 뒤, 가장 일관된 답을 선택합니다. 다수결 투표 방식으로 작동하며, CoT와 함께 사용하면 정확도가 더욱 높아집니다. 계산 비용이 증가하지만, 중요한 결정에 유용합니다.

5. RAG (Retrieval-Augmented Generation)

외부 지식 베이스에서 관련 문서를 검색하여 프롬프트에 포함시킵니다. LLM의 학습 데이터에 없는 최신 정보나 도메인 특화 지식을 활용할 수 있습니다. 코드 파일은 함수/클래스 단위로 청킹하는 것이 효과적입니다.

6. Reflexion

모델이 자신의 출력을 평가하고 개선하는 자기 반성 기법입니다. Actor(행동), Evaluator(평가), Self-Reflection(반성) 세 컴포넌트로 구성됩니다. HumanEval, MBPP 등 코드 생성 벤치마크에서 SOTA를 달성했습니다.