神経質性プラスチックの予測のためのハイブリッドニューラルネットワークモデル

神経質性プラスチック性と予測モデルの必要性を理解する

神経質な可塑性&脳の能力は、経験、学習、または傷害&mdashに応じて、その構造と機能を再編成する;現代の神経科学の礎石です。それはストローク後に子供時代の言語取得から運動回復に至るまで、すべてのものを支持します。しかし、個々の脳がフィールドで最も楕円的な目標の1つをリワイヤーするかを正確に予測します。伝統的な統計モデルと単一アーキテクチャニューラルネットワークは、多様なネットワークを組み合わせると、複数の特性を変化させる[F]を、複数の特性に統合します。[F]

ハイブリッドモデルは、例えば、並列ニューラルネットワーク(CNN)と再発ニューラルネットワーク(RNN)または注意メカニズムを組み合わせ、空間的および気道的機能の同時解析を可能にします。そのようなアーキテクチャは、リハビリ療法、脳刺激、または自発的な回復の後に、可塑性成果と水溶液を予測する一意に適しています。

ハイブリッドニューラルネットワークの建築基盤(プラスチックの予測)

CNN-RNNハイブリッド: 空間仮面機能抽出

最も広く使用されているハイブリッド構造は、CNS(多くの場合、LSTMまたはGRU)とCNNを組み合わせています。 CNNは、神経イメージングデータ&mdashから空間パターンを抽出する際の拡張を加速します。 fMRI活性化マップ、拡散テンサーイメージング(DTI)トラフィクション、または構造的なMRIスライスなど。一方、RNNモデルは、これらの空間パターンが時間をかけてどのように進化するかを追跡するのに理想的な機能を提供します。コンテキストでは、これらの境界線は、それらの境界線を識別する可能性があります。それらの境界線は、それらの境界線の境界線を識別する可能性があります。

科学レポートの2020年の証拠のインスペクトは、ストローク後のモーター回復スコアを予測するスタンドアロンモデルをハイブリッド化していることが研究で実証されています。構造的損傷と一時的な補償パターンを共同エンコーディングすることにより、これらのモデルは、CNNまたはRNNだけよりも高い精度を実現します。

注目のメカニズムとトランスベースのハイブリッド

最近では、注意メカニズムとトランスアーキテクチャは、CNNとRNNのバックボーンに移植されています。セルフアテンションは、モデルが異なる時間ポイントや脳領域の関連性を動的に秤量することを可能にします。これは、可塑性が非線形軌跡を展示するときに重要なことです。トランスフォーマーと3D CNNを融合するハイブリッドは、例えば、認知症後のコロラル領域が言語回復の最も予測的であり、予測と解釈の両方を提供することができます。

Athinoula A. Martinos Center for Biomedical Imagingの研究者は、LSTMsが見逃す機能的な接続変更で、トランス強化されたCNNが長距離依存性をキャプチャするという、縦方向fMRIデータのためのそのようなアーキテクチャを探索しました。

CNNと統合したグラフニューラルネットワーク(GNN)

脳はネットワークを本質的にしているので、グラフニューラルネットワークはハイブリッドランドスケープに入りました。ハイブリッドモデルは、CNNを使用して、地域脳のボリュームからノードの機能を抽出し、構造的または機能的なコネクトームをモデル化するGNNにそれらの機能をフィードすることができます。このアプローチは、ネットワークの破壊、または複数のスクレアシスなどの障害による可塑性的結果の予測に特に有望です。早期の結果は、CNN-GNNハイブリッドが特定の神経プロトコル(Neuropes)の利益を予測できるCNN-GNNハイブリッドが示されています[F]:Neuropes[F]:[F]

ハイブリッドモデル性能を運転するデータモダリティ

ハイブリッドモデルのパワーは、その能力からヘテロ遺伝子データストリームをヒューズする力をもたらします。研究者は、一般的に、以下のタイプのデータをハイブリッドアーキテクチャに供給します。

[ストラクチャーMRI(T1、T2、DTI)– 形態学的および白文字の整合性機能を提供します。
[ 関数MRI (ステートとタスクベースの修復) – 動的機能接続をキャプチャします。
脳神経構造(EEG)[と[]Magnetoencephalography(MEG)[]–可塑性関連振動活性のミリ秒単位の解像的時間動を提供します。
[]遺伝子とトランスクリプトデータ[–多発性リスクスコア、可塑性遺伝子の遺伝子発現レベル(例えば、BDNF、COMT)。
[行動/臨床スコア[]]–複数のセッションで認知または運動テストのパフォーマンス。

ハイブリッドモデルは、単一ネットワークアプローチに見えないクロス・モーダル・コンピレーションを学ぶことができます。例えば、2 ストリームのアーキテクチャは、最終予測レイヤーの前に、別のストリームと EEG スペクトグラムで DTI を処理する可能性があります。

トレーニングハイブリッドモデル:課題とソリューション

データスカーシティとインバランス

神経科学的なデータセットは、著名な小型&mdashです。多くの場合、数百もの被験者ではなく、数千人もの対象です。ハイブリッドモデル、数千のパラメータを持つ、オーバーフィットする傾向があります。転送学習などのテクニック(CNNコンポーネントのImageNetのような大規模な汎用画像データセットの事前トレーニング)、データ集計(同時レシオンマスク、一時的なジッタリング)、定期的なトレーニング(ドロップ、重量決定)などのテクニックは、実際のネットワークに必要とされています(Gal Generative )。 GAGal は、実際のネットワークをリアルタイムに使用しています。

計算上の要求

4D fMRI のデータで CNN-RNN トランスフォーマーハイブリッドを訓練するには、相当の GPU メモリと処理時間が必要です。研究者は、並列と混合精度のトレーニングをモデル化するためにしばしばリゾートします。クラウドベースのソリューション (AWS、Google Cloud TPU) およびオープンソースフレームワーク (PyTorch、TensorFlow) は、バリアを低下させましたが、高コストは多くのラボの障壁を維持しています。

通訳・臨床的信頼

臨床医は説明可能な予測を要求します。ハイブリッドモデルは、(CNN の部分に Grad-CAM を経由して)、注意の重量の可視化(変圧器から)を組み込むことができます。さらに、レイヤーの方向の関連伝搬(LRP)は、出力に最も貢献した入力機能を追跡することができます。 ] の 2023 紙は、Nature Machine Intelligence は、解釈可能な CNN-LSTM を実証し、神経伝達物質が変化した後に、神経伝達物質を調節する重要な要素を強調表示しました。

主要な臨床適用

ストロークリハビリテーション

ストローク後のモーターまたは言語の回復を予測することは最もアクティブなアプリケーション領域です。急性相MRI、EEGを組み合わせるハイブリッドモデル、試行中のベースライン臨床スコアは、回復の度を3、6、または12か月で予測できます。これは、臨床医は、高応答および低応答グループに患者をstratifyすることができ、それに応じて治療強度を調整します。いくつかの臨床試験は、これらのモデルを将来的に検証しています。

神経刺激反応予測

トランスクラニアル磁気刺激(TMS)とトランスクラニアル直流刺激(tDCS)は、可塑性を誘発するが、個々の反応は広く変化します。事前刺激接続(fMRI)およびコルティカル形態(MRI)で訓練されたハイブリッドモデルは、堅牢な長期的能力を示す人を予測することができます。これは、予測された可塑性軌跡に基づいて、リアルタイムでパラメータを調整するクローズドループ刺激システムをすぐにガイドすることができます。

小児科の神経発達

小児では、初期の脳の侮辱から、可塑性は学習と回復を下回っています。縦方向のMRIおよび認知検査を使用してハイブリッドモデルは、小児の読書結果や脳の痛みの運動結果を予測するために開発されています。貧しい反応の早期の識別は、早期介入を可能にします。

神経変性疾患

アルツハイマー病などの再生条件でも、早期に強制的な可塑性が起こります。ハイブリッドモデルは、臨床低下を予期す微妙なネットワーク再編を検出し、病気修正療法のためのバイオマーカーとして潜在的にサービングすることができます。

今後の方向性

ハイブリッドニューラルネットワークモデルをより実用的でインパクトのあるものにする、次の10年は、いくつかの進歩が見られる可能性があります。

自己監視学習[]]]は、非標識脳スキャンを活用して高価なアノテーションデータセットに対する信頼性を削減します。
[多品種基本モデル]]は、多種性神経科学データ(英国バイオバンク、ヒトコネコメプロジェクト)でプリトレイントされ、可塑性予測のために微調整することができます。
[]ベイジアンハイブリッドモデル[]]]は、予測とともに不確実性推定を出力し、臨床的意思決定に重要な。
神経変調装置との統合により、予測された可塑性状態に適応するクローズドループ脳コンピュータインターフェイスを作成します。
[] 石炭侵入[] ハイブリッドアーキテクチャに埋め込まれ、自発的な回復や効果を実践する真の可塑性を区別します。

ハイブリッドニューラルネットワークモデルは、パンチェアではなく、必要な進化を表しています。 CNNの空間的アクティティティを組み合わせることにより、RNNの仮モデリング、GNNの関連推論、変圧器の長期的注意を組み合わせることで、これらのモデルは神経質性プラスチックの多面性を捉えることができます。データセットが成長し、計算されたコストが縮小されるにつれて、ハイブリッドモデルは基本的な神経科学と臨床的発見と臨床的知識の両方に不可欠になります。研究者にとって、それはもはやそれを観察することさえ、もはや、それは、もはや、もはや、プラシリティを観察することではありません。