Oumiは、データの前処理から、トレーニング、評価、デプロイまで、基盤モデルのライフサイクル全体を簡易化するオープンソースのプラットフォームです。Oumiを通じてSambaNovaの推論エンジンを利用する方法については、Oumiのドキュメントをご覧ください。このガイドでは、Oumiプラットフォーム上でSambaNova エンジンを連携・活用するための手順を詳述しています。

​
例

from oumi.inference import SambanovaInferenceEngine
from oumi.core.configs import ModelParams, RemoteParams

engine = SambanovaInferenceEngine(
    model_params=ModelParams(
        model_name="Meta-Llama-3.1-405B-Instruct"
    ),
    remote_params=RemoteParams(
        api_key_env_varname="SAMBANOVA_API_KEY",
    )
)