医療画像における安全なAIへの取り組み

テーブルの内容：

1.はじめに 2.背景と目的 3.研究のカテゴリー 3.1.セマンティック画像のアルゴリズム構築 3.1.1.ニューラルネットワークによる脳損傷のセグメンテーション 3.2.疾病の画像ベースの検出 3.3.頑健で信頼性のある機械学習 3.4.新しい学習戦略の設計 4.オンラインデモの紹介 5.安全なAIへのアプローチ 5.1.前処理QCによるデータの安全性 5.2.出力QCによる予測の信頼性 6.透明性と説明可能性の重要性 6.1.因果関係と画像生成 6.2.構造因果モデルによる反事実的な影響

はじめに

このプレゼンテーションへようこそ。miuiカンファレンスでのスピーチに参加していただき、光栄です。私たちが行っている仕事や考えていることについて少し話しましょう。安全なAIに向けてどのような努力が必要なのか、について議論していきます。以下に、私たちの研究チームが取り組んでいるカテゴリーの分類を示します。

背景と目的

これは単に私たちの視点であり、安全かつ信頼性のある医療画像のAIモデルを構築するためには、アルゴリズムだけでなく、アルゴリズムの前後に配置されるコンポーネントにも注意を払う必要があると考えています。具体的には、入力データと出力結果を確認するためのさまざまな保護策について、より慎重に考えるべきだと思います。たとえば、データ品質の自動的な制御方法や、予測結果の信頼性を自動的に検出する方法などがあります。

研究のカテゴリー

私たちのチームの研究を4つのカテゴリーに分類します。それぞれのカテゴリーについて、具体的なアルゴリズムやアプローチについて説明します。

3.1.セマンティック画像のアルゴリズム構築

3.1.1.ニューラルネットワークによる脳損傷のセグメンテーション

私たちのチームは、脳損傷のセグメンテーションなどのためにニューラルネットワークを使用したアルゴリズムの構築に多くの時間を費やしました。具体的には、脳のレジオンセグメンテーションのために有名なMedICアーキテクチャなどを使用しました。また、画像ベースの疾病検出にも取り組んでおり、その分野での最新の研究に注目しています。また、信頼性の高い機械学習に対する需要が高まっているため、その分野でも研究を行っています。

3.4.新しい学習戦略の設計

私たちのチームは、ラベル付きと未ラベルのデータを組み合わせる新しい学習戦略の設計にも取り組んでいます。また、様々な学習戦略を組み合わせることで、より頑健で信頼性のあるモデルを構築する方法も研究しています。

オンラインデモの紹介

私たちの研究チームは、いくつかのオンラインデモも開発しています。例えば、脳のレジオンセグメンテーションを行うMedICのデモなど、私たちのアルゴリズムがどのように実際に動作するかを確認することができます。ぜひチェックしてみてください。

安全なAIへのアプローチ

私たちが安全で信頼性の高いAIを構築するために考えているアプローチは、単純ですが効果的です。まず、データ品質のQCによる保護策を考えます。入力データの品質を自動的にチェックし、アルゴリズムの予測結果に適合するかどうかを確認することが重要です。また、出力の安全性についても考慮する必要があります。アルゴリズムの予測の信頼性を自動的に検出し、信頼性の低い予測を特定することができれば、より安全なAIを実現できます。

透明性と説明可能性の重要性

私たちの研究では、透明性と説明可能性にも焦点を当ててきました。たとえば、因果関係を活用してデータの生成プロセスをモデル化することで、説明可能性を向上させる方法を提案しています。また、因果関係の考え方を応用して、画像生成などの応用も検討しています。これにより、AIの予測結果に対する理解を深めることができます。

以上が私たちの研究のハイライトです。さらなる議論やアイデアの共有を楽しみにしています。