AIGNE StudioでOllamaを使ってセルフホスト型モデルを利用する

AIGNEが、ユーザー自身が稼働させているOllamaサービスへのアクセスをサポートするようになりました🎉。この接続方式は高い拡張性を持ち、Ollamaだけでなく、ユーザー自身が運用する他のLLMプロバイダーやオープンソースのLLMサービスにも対応しています。それでは、AIGNEのLLMアダプターの機能を一緒に見ていきましょう!

Ollama LLM Adapter

LLMアダプターとは?

LLMアダプターは、AIGNEの機能を拡張する仕組みです。LLMアダプターを使うことで、開発者は任意の大規模言語モデル(LLM)を簡単にAIGNEへ統合できます。本記事で説明するように、自分自身でLLMサービスを稼働させ、それをAIGNEで利用して内蔵のAIサービスを置き換えることができます。

Ollamaとは?

Ollamaは、AIに特化した言語生成・自然言語処理プラットフォームです。先進的なモデルと技術により、Ollamaは執筆、コミュニケーション、データ分析など向けに、高品質でパーソナライズされたテキストコンテンツをユーザーが生成できるよう支援します。このプラットフォームは使いやすいインターフェースと強力な機能で知られており、多言語や多様なアプリケーションシナリオに対応し、さまざまな業界のコンテンツ作成や言語処理ニーズに適しています。Ollamaは自動化ソリューションを提供するだけでなく、ディープラーニング技術によって生成コンテンツを継続的に最適化・改善し、正確性と革新性を確保しています。

Ollama

AIGNEでOllamaにアクセスする 🚀

Ollamaのインストールと起動

公式のOllamaドキュメントを参照し、お使いのコンピューターにOllamaアプリケーションをインストールして起動してください(Ollamaの実行にはGPUハードウェアのサポートが必要です。詳細は公式ドキュメントをご確認ください)

モデルのダウンロード

システムのターミナルで以下のコマンドを実行し、llama3.1モデルをダウンロードします。もちろん、https://ollama.com/libraryから他の任意のモデルをダウンロードすることも可能です

ollama pull llama3.1

OllamaをAIGNEに接続する

これで、AIGNEで無限の創造力を発揮する準備が整いました!AIGNEプロジェクトを開き、Agentを作成し、LLM ProviderでOllamaを選択して、対応するパラメータを設定するだけです:

注意: AIGNEを実行しているサーバーとOllamaを実行しているサーバーが同一ネットワーク上にあり、互いにアクセス可能であることを確認してください。ローカルマシンでOllamaを実行している場合、接続できるのはローカルで実行しているAIGNEのみとなります。

これらの設定が完了すれば、AIGNEで自分自身のLLMサービスを自由に利用できます。創造力を解き放ち、無限の可能性を探求しましょう! 🎉

まとめ

私たちは、AIGNEにおけるさまざまなLLMサービスへの対応を継続的に更新・拡張し、ユーザーにより多くの選択肢を提供することに尽力しています。統合したいLLMサービスがある場合は、ぜひアイデアをお寄せください。私たちが全力でサポートします💪。また、技術力のあるユーザーの皆さまには、独自のLLM Adapterを開発・提出し、Blocklet Storeで公開して、コミュニティにさらに多くのサービスを提供していただくことを心より歓迎します👏!皆さまの創造力と貢献が、より多様で強力なエコシステムを共に築く力となります。

ArcBlock Community