LLM 프롬프트 패턴: CoT·ToT·ReAct 적용 시점

# Zero-shot CoT: "단계별로 생각해보자" 한 줄이면 충분
zero_shot_cot = """
고객이 3개월 전 구매한 제품의 환불을 요청합니다.
환불 정책은 30일 이내만 가능하지만 제품 결함 시 예외입니다.
고객 사진에 명확한 제조 결함이 보입니다.

단계별로 생각한 후 처리 방법을 결정해주세요.
"""

# Few-shot CoT: 예시로 추론 스타일 학습
few_shot_cot = """
예시:
Q: 45일 경과, 제품 이상 없음
생각: 30일 초과 + 결함 없음 → 환불 불가
답: 환불 거절, 다른 보상 안내

Q: 10일 경과, 배송 파손
생각: 30일 이내 + 배송 파손(결함 준용) → 환불 가능
답: 즉시 환불 승인

Q: {현재_케이스}
생각:"""

async def beam_search_thoughts(problem: str, branches: int = 3, depth: int = 2):
    paths = [problem]
    for _ in range(depth):
        candidates = []
        for path in paths:
            new_thoughts = await expand(path, n=branches)
            scores = await asyncio.gather(*[evaluate(t) for t in new_thoughts])
            candidates.extend(zip(scores, new_thoughts))
        candidates.sort(reverse=True)
        paths = [t for _, t in candidates[:branches]]
    return paths[0]

Thought: 고객 주문 내역 확인 필요
Action: get_orders(customer_id="12345")
Observation: [{"order_id": "ORD-789", "date": "2025-12-01", "status": "delivered"}]

Thought: 30일 정책상 2025-12-31까지 환불 가능
Action: process_refund(order_id="ORD-789")
Observation: {"status": "success", "amount": 89000}

Answer: 환불 완료. 3~5 영업일 내 입금됩니다.

REACT_SYSTEM = """다음 형식으로만 응답하세요:
Thought: [현재 분석]
Action: [tool_name(param=value)]
Observation: [결과]
... 반복 ...
Answer: [최종 응답]"""

async def self_consistency(prompt: str, n: int = 5) -> str:
    responses = await asyncio.gather(*[
        llm.generate(prompt, temperature=0.7) for _ in range(n)
    ])
    answers = [extract_answer(r) for r in responses]
    return Counter(answers).most_common(1)[0][0]

# ReAct 루프 스케치 (의사코드)
for step in range(max_steps):
    thought = llm.plan(state)
    if thought.action == "FINISH":
        return thought.answer
    obs = tools.run(thought.action, thought.args)  # 타임아웃·allowlist 필수
    state = state + (thought, obs)

variants = {"plain": PROMPT, "cot": PROMPT + "\n단계별로 풀이한 뒤 마지막 줄에 답만 쓰세요."}
for name, p in variants.items():
    acc, toks, lat = evaluate(p, eval_set)   # 정확도, 평균 출력 토큰, p95 지연
    print(f"{name:6s} acc={acc:.2f} out_tokens={toks:.0f} p95={lat:.1f}s")