MuleSoft Inference Connector 1.0
MuleSoft Inference 用 Anypoint Connector (MuleSoft Inference Connector) では、OpenAI、OpenAI 互換エンドポイント、OpenRouter、Heroku AI、Azure AI Foundry、Azure OpenAI などを含め、複数のプロバイダーの大規模言語モデル (LLM) の推論サービスにアクセスできます。このコネクタでは、さまざまな推論プロバイダーの API と直接やり取りする操作が提供され、AI 機能を Mule アプリケーションにシームレスに統合できます。
互換性と解決された問題に関する情報は、「MuleSoft Inference Connector リリースノート」を参照してください。
始める前に
このコネクタを使用するには、以下に精通している必要があります。
-
Anypoint Connector
-
Mule Runtime Engine (Mule)
-
Mule フローの要素とグローバル要素
-
Anypoint Code Builder または Anypoint Studio を使用して Mule アプリケーションを作成する方法
アプリケーションを作成する前に、以下が必要です。
-
Java 17 (コンパイルとランタイムで必要)
-
Apache Maven
-
MuleSoft Inference Connector の対象リソースにアクセスするためのログイン情報
-
Anypoint Platform
-
Anypoint Code Builder または Anypoint Studio の最新バージョン
主な機能
MuleSoft Inference Connector では、次の機能により Mule アプリケーションとの AI インテグレーションが簡素化されます。
-
推論 LLM とのシームレスなやり取り
自然言語処理やテキスト生成などのタスクで大規模言語モデルを簡単に統合および利用することができます。たとえば、画像の分析や生成、ユーザー提供のテキストと LLM で生成されたテキストの両方での有害検出など、高度な機能を利用できます。
-
最適化されたパフォーマンス
エンタープライズグレードの Mule アプリケーションで高い効率とパフォーマンスを実現し、AI 操作をスムーズに処理します。
-
セキュアなインテグレーション
セキュリティ態勢を損なうことなく、革新的な新しい AI サービスを使用して企業のアプリケーションとデータを接続します。完全な TLS サポートを提供し、セキュアな Mule アプリケーションを実現します。
サポートされている推論プロバイダー
-
AI21Labs (ベータ)
-
Anthropic (ベータ)
-
Azure AI Foundry
-
Azure OpenAI
-
Cerebras (ベータ)
-
Cohere (ベータ)
-
Databricks (ベータ)
-
DeepInfra (ベータ)
-
DeepSeek (ベータ)
-
Docker モデル (ベータ)
-
Fireworks (ベータ)
-
GitHub Models (ベータ)
-
GPT4ALL (ベータ)
-
Groq AI (ベータ)
-
Heroku AI
-
Hugging Face (ベータ) (
hf-inference のみ) -
LM Studio (ベータ)
-
Mistral AI (ベータ)
-
NVIDIA NIM (ベータ)
-
Ollama (ベータ)
-
OpenAI
-
OpenAI 互換エンドポイント
-
OpenRouter
-
Perplexity (ベータ)
-
Portkey (ベータ)
-
Together.ai (ベータ)
-
Vertex AI Express (ベータ)
-
XAI (ベータ)
-
Xinference (ベータ)
-
ZHIPU AI (ベータ)
サポートされている視覚モデルプロバイダー
-
Anthropic (ベータ)
-
Azure AI Foundry
-
GitHub Models (ベータ)
-
Groq AI (ベータ)
-
Hugging Face (ベータ) (
hf-inference のみ) -
Mistral AI (ベータ)
-
Ollama (ベータ)
-
OpenAI
-
OpenRouter
-
Portkey (ベータ)
-
Vertex AI Express (ベータ)
-
XAI (ベータ)
サポートされている画像生成プロバイダー
-
Heroku AI
-
Hugging Face (ベータ) (
hf-inference のみ) -
OpenAI
-
Stability AI (ベータ)
-
XAI (ベータ)
| 急速に進化する AI 環境に対応するため、特定の LLM はベータとしてマークされています。これらは初期フェーズのインテグレーションであり、安定性、需要、プロバイダーの更新に基づいて変わる可能性があります。これらを調べることはできますが、サポートは制限され、変更される可能性があることを認識しておく必要があります。 |
サポートされている操作 (サービス別)
各プロバイダーですべての操作がサポートされるわけではありません。次の表に、すべてのプロバイダーでの操作のサポート状況を示します。
| LLM プロバイダー | [Chat] Answer Prompt | [Chat] Completions | [Agent] Define Prompt Template | [Tools] Native Template (Reasoning only)* | [Image] Read by (Url or Base64)* | [Image] Generate (only Base64)* | [Toxicity] Detection by Text* |
|---|---|---|---|---|---|---|---|
AI21Labs |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Anthropic |
はい |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
Azure AI Foundry |
はい |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
Azure OpenAI |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Cerebras |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Cohere |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Databricks |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
DeepInfra |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
DeepSeek |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Docker モデル |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Fireworks |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
GitHub Models |
はい |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
GPT4ALL |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Groq AI |
はい |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
Heroku AI |
はい |
はい |
はい |
はい |
いいえ |
はい |
いいえ |
Hugging Face |
はい |
はい |
はい |
はい |
はい |
はい |
いいえ |
LM Studio |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Mistral AI |
はい |
はい |
はい |
はい |
はい |
いいえ |
はい |
NVIDIA NIM |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Ollama |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
OpenAI |
はい |
はい |
はい |
はい |
はい |
はい |
はい |
OpenAI 互換エンドポイント |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
OpenRouter |
はい |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
Perplexity |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
いいえ |
Portkey |
はい |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
Stability AI |
いいえ |
いいえ |
いいえ |
いいえ |
いいえ |
はい |
いいえ |
Together.ai |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Vertex AI Express |
はい |
はい |
はい |
いいえ |
はい |
いいえ |
いいえ |
XAI |
はい |
はい |
はい |
はい |
はい |
はい |
いいえ |
Xinference |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
Zhipu |
はい |
はい |
はい |
はい |
いいえ |
いいえ |
いいえ |
* は、サポートは使用される特定のモデルによって異なることを示します。
|
次のステップ
前提条件を満たしたら、Anypoint Studio または Anypoint Code Builder でアプリケーションを作成してコネクタを設定できます。