BLUE BYTE AI
Together AI logo

Together AI

Together AI는 오픈소스 모델 추론, 파인튜닝, GPU 클러스터를 통합한 풀스택 AI 클라우드 플랫폼이다.

최종 확인 2026. 10. 5.

개요

Together AI는 자체 연구로 개발한 커널과 최적화 기술을 적용해 오픈소스 대규모 언어 모델을 빠르게 실행하고, 필요에 따라 전용 엔드포인트나 GPU 클러스터로 확장할 수 있는 플랫폼을 제공한다. 서버리스 추론부터 배치 처리, 프로비저닝된 처리량, 전용 컨테이너 추론까지 다양한 추론 모드를 지원하며, 파인튜닝과 사전학습 가속 기능도 함께 제공한다.

주요 모델로는 DeepSeek V4.1 Flash, GLM-5.3, Qwen3.8, Llama 3.3, Gemma 4 등 최신 오픈소스 모델을 즉시 사용할 수 있으며, 일부 모델은 무료로 제공된다. Together Link 베타를 통해 Claude Code, Codex, OpenCode 등 코딩 에이전트를 Together AI 호스팅 모델로 실행할 수 있는 기능도 추가됐다.

요금제는 모델별 토큰 단위 종량제로, 입력·출력 토큰 100만 개당 가격이 모델마다 다르게 책정된다. 파인튜닝은 모델 크기·학습 방식·LoRA 여부에 따라 토큰당 요금이 부과되며, 전용 엔드포인트와 GPU 클러스터는 영업팀 상담을 통해 계약한다.

주요 기능

  • 서버리스 추론: 인프라 관리 없이 오픈소스 모델 즉시 실행
  • 전용 엔드포인트: 프로비저닝된 처리량·전용 컨테이너로 대규모 트래픽 대응
  • GPU 클러스터: B200 등 최신 GPU 온디맨드 제공, 관리형 스토리지 포함
  • 파인튜닝·사전학습: LoRA/전체 파인튜닝 지원, Together Kernel Collection으로 90% 가속 주장
  • Together Link: 터미널·데스크톱에서 6종 코딩 에이전트를 Together 모델로 실행
  • 배치 API: 비동기 대량 추론에 할인된 요금 적용
  • 연구 기반 최적화: ThunderKittens, ParallelKernelBench 등 자체 커널 연구 공개
  • 다양한 모델 지원: 채팅·비전·이미지·오디오·비디오·임베딩·리랭크·모더레이션 전용 모델 제공

장점

  • 오픈소스 최신 모델을 빠르게 탑재해 즉시 사용 가능
  • 서버리스부터 전용 클러스터까지 확장 경로가 명확함
  • 자체 커널 연구로 추론 속도·비용 개선 효과가 문서화됨
  • 일부 소형 모델은 완전 무료로 제공돼 진입 장벽이 낮음
  • 파인튜닝 요금이 토큰 단위로 투명하게 공개됨
  • 코딩 에이전트 통합 도구(Together Link)로 개발 워크플로 지원

단점

  • 엔터프라이즈급 전용 리소스는 영업 상담 필요, 공개 가격 없음
  • 모델별·해상도별 가격 차이가 커 사전 계산이 필요함
  • 파인튜닝 최소 지출 요건이 있어 소규모 실험에 부담될 수 있음
  • 무료 모델은 실험용으로 한정돼 프로덕션용으로는 유료 모델 필수
  • 한국어 문서·지원 커뮤니티가 상대적으로 적음

가격 상세

프리미엄

서버리스 추입은 모델별 100만 토큰당 종량제(예: DeepSeek V4.1 Flash 입력 $0.30, 출력 $1.20). Ternary Bonsai 27B, Tev1 4B Experimental 등 일부 모델은 무료. 배치 API는 약 50% 할인. 파인튜닝은 모델 크기·방식에 따라 토큰당 과금. 전용 엔드포인트·GPU 클러스터·매니지드 스토리지는 영업팀 견적(ENTERPRISE). 무료 크레딧·체험 한도 등 별도 무료 티어 세부 사항은 공식 페이지 확인 필요.

자주 묻는 질문

서버리스 추론과 전용 엔드포인트의 차이는 무엇인가요?
서버리스는 인프라 관리 없이 요청당 과금으로 즉시 시작 가능하며, 전용 엔드포인트는 프로비저닝된 처리량이나 전용 컨테이너로 고성능·대용량 트래픽에 적합합니다.
파인튜닝 비용은 어떻게 산정되나요?
모델 크기 구간, 지도학습·DPO 여부, LoRA·전체 파인튜닝 여부에 따라 토큰당 단가가 달라지며, CLI·웹·API로 사전 견적을 확인할 수 있습니다.
무료로 쓸 수 있는 모델이 있나요?
Ternary Bonsai 27B, Tev1 4B Experimental 등은 입력·출력 모두 무료로 제공됩니다. 단, 프로덕션 용도로는 유료 모델 사용이 권장됩니다.
Together Link는 어떤 기능인가요?
터미널에서 Claude Code, Codex, OpenCode, Pi Code 등 6종 코딩 에이전트를 Together AI 호스팅 모델(GLM-5.3, Kimi-K3, DeepSeek-V4.1-Flash 등)로 실행하게 해주는 베타 도구입니다.

마지막 확인:

출처