CLI 에이전트가 이제 여러 LLM 프로바이더를 실시간 스트리밍으로 지원합니다. Anthropic API 키, Claude Code 또는 OpenAI 호환 엔드포인트를 연결하고, SessionCast를 통해 스트리밍 응답을 받으세요.

지원 프로바이더

• anthropic — Anthropic API 직접 연결 (Claude 3.5 Sonnet, Opus 등)
• claude-code — Claude Code CLI (로컬 설치된 Claude Code 사용)
• openai — OpenAI API (GPT-4 등)

스트리밍

LLM 응답이 WebSocket을 통해 청크 단위로 스트리밍됩니다. 웹 뷰어와 SDK 클라이언트가 생성되는 대로 부분 응답을 받을 수 있습니다 — 전체 응답을 기다릴 필요가 없습니다.

Client → relay → agent → LLM 프로바이더
                           ↓ (스트리밍)
Client ← relay ← agent ← 청크 1
Client ← relay ← agent ← 청크 2
Client ← relay ← agent ← 청크 3
Client ← relay ← agent ← [완료]

Go SDK로 사용하기

stream, err := client.LlmChatStream(ctx, &sessioncast.LlmChatRequest{
    Model: "anthropic",
    Messages: []sessioncast.ChatMessage{
        {Role: "user", Content: "WebSocket을 3문장으로 설명해줘."},
    },
})

for event := range stream {
    if event.Chunk != nil {
        fmt.Print(event.Chunk.Content)
    }
}

웹 뷰어에서 사용하기

웹 뷰어의 커맨드 바에서 LLM 채팅을 지원합니다. 질문을 입력하면 터미널 인터페이스에서 직접 스트리밍 응답을 받을 수 있습니다.

프로바이더 설정

환경변수 기반으로 프로바이더가 자동 감지됩니다:

• ANTHROPIC_API_KEY — anthropic 프로바이더 활성화
• ~/.claude에 Claude Code 설치 — claude-code 프로바이더 활성화
• OPENAI_API_KEY — openai 프로바이더 활성화

에이전트가 연결된 클라이언트와 기능을 협상하여, 실제로 사용 가능한 프로바이더만 표시합니다.

요구 사항

• CLI Agent v2.2.2 이상
• 에이전트 머신에 최소 하나의 LLM 프로바이더 설정 필요