SXSW 2023でのGrammarly: AIの未来-人工から拡張へ

【目次】

1. 導入
2. AIの未来について
3. Grammarlyの使命と目標
4. AIの利点とリスク
5. Trustの重要性
6. Responsibilityの考え方
7. User Controlの実現
8. Empathyとユーザーフィードバック
9. Grammarly goの事例
10. AIの展望と今後の課題
11. 結論

【第1章】導入

AIの未来について話す前に、自己紹介をさせていただきます。私はラウルと申します。Grammarlyの製品チームを担当しています。本日はAIの未来についてお話しするためにここにいるわけですが、それに先駆けて、重要な質問を皆さんにお聞きしたいと思います。皆さんは、自分の写真を撮る方法を学んだAIを何と呼びますか？もしかしてセルフィーアウェアですか？この冗談が少しダジャレっぽいかもしれませんが、今日のテーマは実はとても面白いものなのです。私がここに立ってAIの未来について話すこと自体、かなり大それたことなのです。それはいったいどういう意味で、私はその話題について何の意見を持っているのでしようか。正直に言いましょう、私には答えがないのですが、私がしたいと思っているのは、GrammarlyがAIについてどのように考え、どのように進むべきかについて話すことです。AIの世界は今、急速な変化が起きており、私たちができること、AIを使って私たちを助ける方法、AIを使って私たちの能力を向上させる方法、AIを使って創造性や真実性をより高める方法について、皆さんと議論を積み重ねていきたいのです。

【第2章】AIの未来について

実は、AIは私たちの生活において最も転換期であり、基盤的なテクノロジーのシフトです。既にAIは、想像できるあらゆる産業において大きな影響を与えています。たとえば、製造業ではAIを活用して、より優れた部品を設計しています。AIはグローバルな供給チェーンを最適化するために利用されています。医療業界では、AIは放射線科医や腫瘍学者と共に働き、がんをより早期かつ正確に検出・治療するために使用されています。また、医学の分野では、AIは薬剤開発プロセスを加速し、数十億もの化合物を分析し、最も有望な領域を特定することが可能です。さらに、テクノロジー業界では、AIは個別のサービスや生産性向上のための新しい情報を提供してくれます。

私たちはこれまでの道のりがまだまだ序盤であり、人類が直面している最大の問題の解決にAIが関与することになるでしょう。例えば、地球温暖化の問題などです。また、大規模な言語モデルの最近の進歩により、AIは創造的な表現や高度なアイデアをクリエイティブに翻訳するのに役立つでしょう。

私はテクノロジー楽観主義者であり、技術の力が人々の生活をより良くすることを強く信じています。私のキャリアの中で、スマートフォンの台頭やその改善が世界中の数十億人の生活と生計を向上させたことを見てきましたが、AIの影響はそれを遥かに超えることでしょう。しかし、偉大な力には大きな責任が伴います。AIシステムの力が現実的な害をもたらす可能性もあるからです。例えば、AIに基づく推奨エンジンは、過激化や中毒、現実世界での相互作用の減少など、さまざまな社会的な弊害を引き起こすことがあります。私たちの脳は、これらのAIシステムが提供するドーパミンの快感に対して十分な対抗手段を持っていません。また、私自身が子供を持つ親として、私はこれについて心配しています。私は子供たちがこれらのシステムがもたらすすべての素晴らしいサービスや情報にアクセスできることを望んでいますが、それによって引き起こされる害はどのように対処すればよいのでしようか？

また、AIシステムは現在私たちの生活にも重要な意思決定を行っています。例えば、ローン申請の承認や求職者のスクリーニングなど、私たち自身の人生に関わる意思決定を行っています。ジョン・オリヴァーというコメディアンが最近の彼のHBOの番組で、AIが求職者の選考プロセスでどのように使用されているかについて詳しく説明しています。トレーニングデータのバイアス問題などさまざまな課題があるのですが、もしまだご覧になっていない場合は、ぜひご覧いただきたいです。YouTubeで見ることができ、とても面白く興味深いものです。

この番組からは一つのことが特に印象的でした。求職者向けのスクリーニングサービスを提供しているサービスプロバイダーのCEOの一人が、求職者に対するアドバイスとして、「目立たないようにしてください。個性的でなくても構わないです。AIのゲートキーパーを突破することが仕事です」と言っていたのです。これは実際には実用的なアドバイスかもしれませんが、非常に力を奪われるものでもあります。

最近の生成型AIに関する議論では、私たちの将来や生計に何が起こるのか、創造的な表現は私たち自身の重要な一部であるのに、AIにそれを頼りっきりにすべきなのでしょうか、という新たな懸念が浮上しています。おそらく、このテーマにはぼんやりしたイメージがあるかもしれません。将来の可能性と危険性がともに存在し、どのように対処すればよいのでしようかという疑問も残ります。

では、どうするべきでしょうか？危険性があるために完全にAIを停止するのでしようか？それは現実的でも実現可能でも望ましいことではないと私は考えます。AIシステムはこの世界に多くの利益をもたらすのです。では、ただ前進して速さとイノベーションを重視するべきでしようか？それも良い方法ではありません。害は実在し、希望だけでは解決できません。私たちはもっと意図的な進路が必要です。

そして、その意図的な進路は、AIが私たちを助けるために存在し、私たちを向上させることであるということを認識することから始まります。私たちは共に、どのような未来を築きたいかを決めることができるのです。AIに対してコントロールを放棄せず、これらのシステムがどのように構築され、私たちの日常生活においてどのような役割を果たすかを自ら決めることができるのです。

私たちはGrammarlyで使用しているフレームワークがあります。それが、真のフレームワークです。このフレームワークを共有したいと思います。このフレームワークは、AIが私たちの能力を向上させるために存在し、成功するときにAIは私たちを助けるという信念に基づいています。AIという言葉自体を「増幅された知能」と命名し直したいくらいです。私たちの製品を開発する際、真のフレームワークを使用して、製品の構築方法について意思決定をしています。

真のフレームワークとは、信頼性、責任、ユーザーコントロール、共感の4つの要素から成り立っています。これらの要素を考慮に入れながら、Grammarly goの開発に取り組んできました。このフレームワークを実践する際のケーススタディを、具体例として紹介したいと思います。