このディレクトリには、MOA プロジェクトの使用例を示すサンプルスクリプトが含まれています。
このスクリプトは、AWS Bedrock で利用可能なファウンデーションモデルの一覧を取得して表示します。主な手順は以下の通りです。
- Bedrock クライアントを作成
list_foundation_models()
メソッドを使用してファウンデーションモデルの一覧を取得- 取得したファウンデーションモデルの一覧を表示
このスクリプトは、AWS Bedrock のモデルを使用してテキスト生成を行う方法を示しています。主な手順は以下の通りです。
- Bedrock クライアントを初期化
- 使用するモデル ID を指定
- モデルに送信するメッセージを設定
invoke_model()
メソッドを使用してモデルにリクエストを送信し、応答を取得- 取得した応答を表示
このスクリプトは、LiteLLM を使用して Claude AI とチャットする方法を示しています。主な手順は以下の通りです。
- LiteLLM の
completion
メソッドを使用 - Claude-3-haiku-20240307 モデルを指定
- ユーザーメッセージを送信し、応答を出力
このスクリプトは、AWS Claude AI を使用したチャットボットの例を示しています。主な手順は以下の通りです。
chat_with_aws_claude
関数を定義し、Claude AI とのチャットを実装- anthropic.claude-3-haiku-20240307-v1:0 モデルを使用
- ユーザーメッセージを送信し、応答を出力
- LiteLLM のデバッグ情報を表示するオプションを追加
このスクリプトは、Gemini API を使用したチャットの例を示しています。主な手順は以下の通りです。
- LiteLLM の
completion
メソッドを使用 - gemini/gemini-pro モデルを指定
- ユーザーメッセージを送信し、応答を出力
docker-compose -f langfuse\docker-compose.yml up
これらのスクリプトを参考に、AWS Bedrock や他のサービスの機能を活用したアプリケーションを開発できます。各スクリプトには、使用例とステップバイステップの説明が含まれています。