新規新しく使える
Cloudflare
モデル更新
Workers AIでMoondream 3.1提供、画像query・point・detectを低遅延実装
Cloudflare Workers AIでMoondream 3.1が利用可能になった。9B総パラメータ・2B activeのMoE、32K contextでquery、caption、point、detectを実行できるが、Cloudflare公表latencyは単純画像の中央値であり、自社画像の精度・費用・安全性評価が必要になる。
- 影響
- 画像モデレーション、物体検出、座標指定、caption、エージェントの画面理解をCloudflare上で実装する開発者
- 対応
- 代表画像と難例でtask別評価を行い、入力制限、confidence代替指標、人手確認、Neuron予算、fallback modelを定めて段階導入する
- 期限
- 期限なし