LiteLLMは、LLMの完了と埋め込み呼び出しを簡素化するオープンソースのライブラリです。異なるLLMモデルを呼び出すための便利で使いやすいインターフェースを提供します。
LiteLLMを使用するには、「litellm」ライブラリをインポートし、LLMのAPIキー(OPENAI_API_KEYやCOHERE_API_KEYなど)の環境変数を設定する必要があります。環境変数が設定されたら、Pythonの関数を作成し、LiteLLMを使用してLLMの完了呼び出しを行うことができます。LiteLLMは、Pythonコードを書いて出力を確認できるデモプレイグラウンドを提供することで、異なるLLMモデルを比較することもできます。
LiteLLM の Discord は次のとおりです: https://discord.com/invite/wuPM9dRgDw。 Discord メッセージの詳細については、ここ (/ja/discord/wupm9drgdw) をクリックしてください。
LiteLLM Githubリンク: https://github.com/BerriAI/litellm