메인 콘텐츠로 건너뛰기
Together AI는 오픈 소스 LLM에 집중하여 생성형 AI 모델을 구축하고 파인튜닝할 수 있는 플랫폼으로, 고객이 직접 자신의 모델을 파인튜닝하고 호스팅할 수 있도록 지원합니다.
전체 Weave together 파이썬 패키지 지원은 현재 개발 중입니다.
together 파이썬 패키지에 대한 전체 Weave 지원은 현재 개발 중이지만, Together는 OpenAI SDK 호환성(문서)을 지원하며 Weave는 이를 자동으로 감지하고 연동합니다. Together API를 사용하려면 API 키를 Together API 키로, base_url을 https://api.together.xyz/v1로, 그리고 모델을 Together의 채팅 모델 중 하나로 변경하면 됩니다. 
import os
import openai
import weave

weave.init('together-weave')

system_content = "You are a travel agent. Be descriptive and helpful."
user_content = "Tell me about San Francisco"

client = openai.OpenAI(
    api_key=os.environ.get("TOGETHER_API_KEY"),
    base_url="https://api.together.xyz/v1",
)
chat_completion = client.chat.completions.create(
    model="mistralai/Mixtral-8x7B-Instruct-v0.1",
    messages=[
        {"role": "system", "content": system_content},
        {"role": "user", "content": user_content},
    ],
    temperature=0.7,
    max_tokens=1024,
)
response = chat_completion.choices[0].message.content
print("Together response:\n", response)
이것은 시작을 위한 간단한 예시입니다. 더 복잡한 use case를 위해 Weave를 사용자 정의 함수와 통합하는 방법에 대한 자세한 내용은 OpenAI 가이드를 참조하세요.