130億パラメータの革新AIが登場！UbisoftゲームAIの衝撃

130億パラメータの革新AIが登場！UbisoftゲームAIの衝撃

目次

1. はじめに
2. AIチャットボットの進化
   • 2.1 ファインチューニングの導入
   • 2.2 RLHFの統合
3. ミリオンパラメータモデルの登場
4. Stable Vecunaの機能
   • 4.1 基本的な数学問題の解決
   • 4.2 文法の補助
   • 4.3 コードの作成
5. Stable Vecunaのトレーニング方法
   • 5.1 RLHシフトパイプライン
   • 5.2 監督付きファインチューニング
6. Stable Vecunaのデータセット
7. Stable Vecunaの使用方法
8. Stable Vecunaの将来展望
9. UbisofのGhostwriterとは
   • 9.1 バークスとは
   • 9.2 Ghostwriterの目的
10. Ghostwriterの使用方法
11. Ghostwriterのデータに関する懸念
12. Ghostwriterの将来展望
13. AIと倫理のバランス

【AIチャットボットの進化】ファインチューニングとRLHFの統合

AIチャットボットの世界では、Stable Vecunaという13兆パラメータのモデルが登場し、その革新的な能力に驚嘆されています。これは、人間のフィードバックからの強化学習を利用した最初のオープンソースのRLHF（Reinforcement Learning from Human Feedback）ラージスケールチャットボットモデルです。しかし、この画期的な成果を理解するためには、まずは進化の歴史を知る必要があります。

はじめに

過去の1年間、チャットボットの世界はイノベーションと発展の渦中にありました。Character.ai、ChatGPT、Google Bardなどの主要プレイヤーが、ユーザーエクスペリエンスを最適化するために洗練されたモデルを展開し、グローバルな会話と興味を引くことで、世界中で注目を集めてきました。そして、オープンソースやオープンアクセスの代替手段が登場したことで、このダイナミックな領域で可能なことの境界がさらに広がりました。しかし、チャットボットの世界には明らかな空白がありました。多くのモデルがファインチューニングを採用していましたが、RLHF（Reinforcement Learning from Human Feedback）の組み込みは複雑さから見送られることが多かったのです。しかし、StabilityのStable Vecunaの導入により、この空白がついに埋められ、AIチャットボット技術に驚異的な新しい時代が到来しています。

AIチャットボットの進化

AIチャットボットの効果的なモデルは、主に2つのトレーニングパラダイム、つまりファインチューニングと人間からの強化学習に依存しています。深いスピードチャットやコロッサルAIなどのオープンソースフレームワークの構築に向けた賞賛すべき進歩が見られましたが、両方のパラダイムを効果的に組み合わせた包括的なモデルは、今まで目立った存在ではありませんでした。最近は、Open Assistant、Anthropic、Stanfordなどの組織がRLHFデータセットを公開し、これらのデータセットをTRLXの提供する簡単なトレーニングと組み合わせて、ファインチューニングと人間からの強化学習の両方に基づいて構築された最初のラージスケールチャットボットモデルの礎となっています。

ミリオンパラメータモデルの登場

Stable Vecunaは、単なるチャットボット以上の存在です。これは、AIテクノロジーの飛躍的な進化を象徴しています。Vicunaバージョンゼロの13兆パラメータバージョンであり、ファインチューニングとRLHシフトトレーニングを組み合わせることで、優れた機能性を提供しています。基本的な数学問題の解決や文法の補助から、コードの作成まで、様々なタスクに優れたパフォーマンスを発揮し、AIの広大な可能性を示しています。Stable Vecunaの卓越したパフォーマンスは偶然ではありません。それは、典型的な3段階のRLHシフトパイプラインに従い、監督付きファインチューニングを用いてVicunaモデルを訓練した結果です。これには、オープンアシスタントの会話データセット、GPT 4、全てのプロンプト生成、アルパカの組み合わせによる3つのユニークなデータセットを使用し、多機能かつ高性能なAIチャットボットの訓練に貢献しています。

Stable Vecunaの機能

Stable Vecunaは、Hugging Face Hubで利用可能なAIチャットボットです。オリジナルのLamaモデルに対する重みの差分として、Stable Vecuna 13-Bを取得することができます。ただし、Stable Vecuna 13-Bを使用するには、オリジナルのLamaモデルにアクセスする必要があります。GitHubのリポジトリで提供される便利なスクリプトを使用すると、Lamaの重みと重みの差分を組み合わせることができ、13兆パラメータStable Vecunaのフルポテンシャルを引き出すことができます。

Stable Vecunaの将来展望

Stable Vecunaの発売を祝う一方で、Stabilityはまだ安住するつもりはありません。先見の明のあるチームは、開発の最終段階にある次世代のチャットインタフェースのプレビューも提供しており、よりインタラクティブで直感的なプラットフォームを提供することでユーザーエクスペリエンスを革新することを約束しています。一方、AI Ghostwriterは、ビデオゲームの未来に道を切り開いています。アサシンクリード、ウォッチドッグス、ファークライなどの人気ゲームで知られるUbisoftが、非プレイヤーキャラクターのための対話を作成するためにGhostwriterというAIツールを活用しています。ゲームの中心的な要素ではないものの、ゲーム環境の重要な一部であり、Ghostwriterはこれらの背景キャラクターに生命を吹き込む役割を果たしています。また、UbisoftはGhostwriterを使用することで、NPCの対話の作成を補助するという目的で開発されたものであり、人間の作家を置き換えることを意図しているのではなく、彼らの作業効率を向上させるツールであることを明確にしています。Ghostwriterプロセスの開始は、スクリプトライターがキャラクターと対話の目的を定義することから始まり、AIツールはライターが必要に応じて選択し、修正するためのさまざまなオプションを生成します。Ghostwriterは、ライターの選択を数千回蓄積することで、その正確性と効果を高めていきます。