モデル / LLM-jp-4.1 33B Thinking

LLM-jp-4.1 33B Thinking

llm-jp-4.1-33b-thinking

日本語特化の思考モデル。テキスト専用

稼働率(72h)

100.00%

TTFT(24h 中央値)

0.19s

E2E レイテンシ(24h 中央値)

37.08s

出力速度(24h 中央値)

31tok/s

仕様

入力単価¥55 / 1M tok
キャッシュ読取単価¥40 / 1M tok
出力単価¥125 / 1M tok
コンテキスト長65,536
最大出力トークン16,384
対応入力テキスト
精度BF16
重みllm-jp/llm-jp-4.1-33b-thinking
reasoning_effortnone / minimal / low / medium / high / xhigh
直近 72 時間

稼働状況

100.00%

72 時間の稼働率。1 時間ごとに、障害の無かった時間を緑で示します。

72 時間前現在
稼働障害

パフォーマンス

出力速度 - 24h

31tok/s
20:00 JST — 31 tok/s23:00 JST — 32 tok/s00:00 JST — 32 tok/s16:00 JST — 27 tok/s19:0001:0007:0013:0019:00

TTFT - 24h

0.19s
20:00 JST — 0.06 s23:00 JST — 0.25 s00:00 JST — 0.18 s16:00 JST — 0.4 s19:0001:0007:0013:0019:00

E2E レイテンシ - 24h

37.08s
19:00 JST — 1.55 s20:00 JST — 217.29 s23:00 JST — 33.34 s00:00 JST — 74.22 s16:00 JST — 61.4 s19:0001:0007:0013:0019:00

TTFT と出力速度はストリーミング応答(出力 50 トークン以上)の中央値、E2E レイテンシはすべての成功応答の中央値です。1 時間ごとに集計し、リクエストが無かった時間は線を描きません。稼働率は障害の有無で判定し、リクエストの有無には依りません。

このモデルを使う

from openai import OpenAI

client = OpenAI(
    base_url="https://api.router.hello.ai/v1",
    api_key="hello_...",
)

resp = client.chat.completions.create(
    model="llm-jp-4.1-33b-thinking",
    messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)
curl https://api.router.hello.ai/v1/chat/completions \
  -H "Authorization: Bearer hello_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llm-jp-4.1-33b-thinking",
    "messages": [{"role":"user","content":"こんにちは"}]
  }'

ほかの言語・エージェントの設定は ドキュメント と セットアップ

今日から、baseURL を差し替えるだけ。

コンソールを開く

確認メールを no-reply@cloud.hello.ai からお送りします。配信解除はいつでも可能です。