速さに圧倒される！新AIチャットボット「Groq」

速さに圧倒される！新AIチャットボット「Groq」

私たちは新しいAIチャットボットプラットフォーム「Gro」というものがあります。このリアルタイムスピードでほぼどんなプロンプトにも答えることができます。ちなみに、このGroはQをつけて書きます。また、Twitter上の「Grock」というものとは異なります。この点については後述しますので、まずはスピードをご紹介します。画面左側にはGPT 3.5という無料版があります。Groも無料のウェブサイトであり、送信ボタンを押すとトークン数が処理されます。これは約300のトークンになり、およそ300語ほどです。ここでいくつかのオプションとその使い方について説明する前に、2つの重要なポイントをご説明いたします。先述の通り、Gro(Q)とTwitter上で使われているGrock(K)は異なるモデルです。Grockは有料のアップグレードであり、Twitterプラットフォーム上では支払いが必要です。実は、Grockという名前をトレードマークとして保持している古い会社があり、このAIチャットボットの名前を変更するようエロン・マスク氏に公開書簡を送りました。私は逆だと思っていましたが、実は私は初めてこの会社の存在を知ったのです。実は、Grockはハードウェア会社であり、GroのようなGPTのようなGeminiのような言語モデルではありません。実際、このウェブサイト上では大規模な言語モデルが実行されています。更に、Llama 2のような言語モデルや、Metaからのものも実行できます。これらはすべてオープンソースのモデルであり、私は通常このプラットフォームではオープンソースをカバーしていません。なぜなら、Chat GPTやGeminiの方が性能が優れているためです。しかし、Groは完全に無料で、現在はテストで利用可能です。非常に高速なプラットフォームの一つとして私が感銘を受けた理由の一つは、ほぼリアルタイムのスピードです。ただし、この特定のウェブサイトでは時々制限があり、要求が即座に処理されないことがあります。特にMix Rollを使用すると、このモデルを現在使用している人が多いため、ウェブサイト上で待機リストに入ることがありますが、生成速度はほぼリアルタイムです。ここで、なぜGroがこれほど速いのかを説明します。これにより、他の大規模な言語モデルが実際にどのように実行されているかが完全に変わるかもしれません。Groはハードウェア会社であり、言語処理ユニット（LPU）というものを開発しました。このハードウェアが大規模な言語モデルを高速に実行しているのです。これは初めての試みです。彼らは将来的にはさまざまな大規模な言語モデルや他のAIモデルをこの新しい技術の上で実行する予定です。私たちは今までChat GPTのようなモデルがGPUで動作していることを知っていますが、Nvidiaはグラフィックカードを製造しており、これらのGPUがすべての大規模な言語モデルやAIモデルの動力となっています。そのGPUはGroのようなLPUにはない独自の背後技術です。Groのトークン処理速度を示したように、他のすべての技術と比較してもGroは圧倒的です。それでは、このウェブサイト自体とその機能についてご紹介します。また、Groのビジネスモデルについても説明します。言っておくと、このウェブサイトの利用は彼らの本業ではありません。現在はこのウェブサイトで利用できる無料版の大規模な言語モデルです。出力内容を修正したい場合は、このウェブサイトで簡単に行うことができます。エデュケータートークンを取得したい場合は、クリックするだけで簡単に表示されます。マイナーチェンジも非常に迅速です。最後に、ウェブサイトでの利用性はどのくらいでしょうか？Chat GPTやGeminiのようなツールに慣れている人にとっては非常に限定的です。なぜなら、このウェブサイトにはいかなるインターネットアクセスもありませんし、カスタムGPTプラグインのような機能もありません。これは単なるオープンソースの大規模な言語モデルであり、新しい処理速度によって動作しているのです。スピードが必要な場合は、Groは他のどのサービスよりも優れたものです。ただし、使用性については、ChpD、CLA、Geminiの方が優れているため、完全な代替ではありません。ただし、スピードに関しては、完全に別のカテゴリーとなります。なお、APIアクセスも用意されています。このウェブサイトは、Llama APIにアクセスすることができます。また、10日間の無料トライアルも提供されています。ただし、申請が必要です。かなり他のAPIと比べて非常に安価ですので、このようなテクノロジーを使用して何かを構築する場合には、OpenAIやCLA、GeminiのAPIに対して代替手段として利用する価値があるかもしれません。私はこのビデオをトークンの生成速度をデモするために作成しています。ユーザビリティとしては、明らかにChpD、CLA、Geminiなどのツールとは比べ物になりませんが、速度という観点では独自のカテゴリーに属します。ぜひ一度、gro.comを試してみてください。この情報が役に立つことを願っています。次回もお会いしましょう。