SambaCloud APIは、数分で使い始めることができます。
1

APIキーを取得

SambaCloudポータルのAPIセクションにアクセスして、APIキーを発行します。キーは一度しか表示されないため、必ず安全な場所に保存してください。
最大25個のAPIキーを発行・利用できます。使用状況の確認は、Cloudポータルから行えます。
2

モデルを選択

SambaCloudでは、最新のオープンソースモデルが頻繁に更新されており、最速の推論速度で動作します。利用可能なモデル一覧は、対応モデルのページをご参照ください。一覧から任意のモデルを選び、対応するモデルIDを指定して利用します。
このガイドでは、例としてMeta-Llama-3.1-405B-Instructを使用します。
3

APIリクエストを送信

推論リクエストは、複数の方法で実行できます。以下に2つの例を示します：
  • OpenAIクライアントライブラリ: JavascriptまたはPythonで柔軟に統合可能
  • CURLコマンド: コマンドラインから直接リクエストを送信

​
OpenAIクライアントライブラリを使う場合

まず、使用したいプログラミング言語を選び、ターミナルを開いてOpenAIライブラリをインストールします。 
// Node.jsを事前にインストールしてください
npm install openai
次に、以下のコードを新しいファイルにコピーします。 
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.sambanova.ai/v1",
  apiKey: "<YOUR API KEY>",
});

const chatCompletion = await client.chat.completions.create({
  messages: [
    { role: "system", content: "Answer the question in a couple sentences." },
    { role: "user", content: "Share a happy story with me" },
  ],
  model: "Meta-Llama-3.1-405B-Instruct",
});

console.log(chatCompletion.choices[0].message.content);
"<YOUR API KEY>"の部分を、実際のAPIキーに置き換えてください。その後、ターミナルウィンドウで以下のコマンドを使用して、ファイルを実行します。 
node hello-world.js
実行すると、以下のような出力が表示されます。 
Here’s a happy story: One day, a little girl named Sophie found a lost puppy in her neighborhood and decided to take it home to care for it. As she nursed the puppy back to health, she named it Max and the two became inseparable best friends, going on adventures and playing together every day.

​
CURL コマンドを使う場合

ターミナルウィンドウで以下のコマンドを実行すると、APIへのリクエストを送信できます。 
export API_KEY=<YOUR API KEY>
export URL=https://api.sambanova.ai/v1/chat/completions

curl -H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"messages": [
{"role": "system", "content": "Answer the question in a couple sentences."},
{"role": "user", "content": "Share a happy story with me"}
],
"stop": ["<|eot_id|>"],
"model": "Meta-Llama-3.1-405B-Instruct",
"stream": true, "stream_options": {"include_usage": true}
}' \
-X POST $URL

​
次のステップ

これでモデルへのリクエストができるようになりました。次はアプリケーションの構築にチャレンジしてみましょう。AIスターターキットには、オープンソースのPythonプロジェクトが揃っています。開発の参考にぜひ活用してください。