JP2006202115A - 画像処理方法および画像処理プログラム - Google Patents

画像処理方法および画像処理プログラム Download PDF

Info

Publication number
JP2006202115A
JP2006202115A JP2005014169A JP2005014169A JP2006202115A JP 2006202115 A JP2006202115 A JP 2006202115A JP 2005014169 A JP2005014169 A JP 2005014169A JP 2005014169 A JP2005014169 A JP 2005014169A JP 2006202115 A JP2006202115 A JP 2006202115A
Authority
JP
Japan
Prior art keywords
dimensional
image
dimensional structure
image processing
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005014169A
Other languages
English (en)
Inventor
Toshihiko Ogura
俊彦 小椋
Chikara Sato
主税 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2005014169A priority Critical patent/JP2006202115A/ja
Publication of JP2006202115A publication Critical patent/JP2006202115A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

【課題】 立体構造が未知の対象物の3次元構造を高精度で再構築することができる画像処理方法を提供すること。
【解決手段】 2次元の平均画像から3次元の初期構造モデルを作製し、平均画像と再投射画像との直接的な相関値を最適化の尺度として用いて3次元構造を最適化する。先ず、N枚の2次元画像を仮想球面上の初期画像位置にランダムに配置して初期3次元構造を構築し、これを初期画像位置に再投射して新たな2次元画像を得る。そして、再投射前後の2次元画像の相互相関を求めてスコア(L)を算出する。再投射後の1枚の2次元画像を選択してその座標パラメータを変化させて3次元構造を再構築し、仮想球面上への再投射により新たな2次元画像を得る。そして、新たなスコア(L)を算出して座標パラメータの変化の許容もしくは拒絶を判断する。これらのステップを繰り返して3次元構造を最適化する。
【選択図】 図1

Description

本発明は、2次元画像から3次元構造を再構築する画像処理方法に関し、より詳細には、角度情報が未知の2次元画像から3次元構造を再構築することを可能とする画像処理方法およびこれを実行するための画像処理プログラムに関する。
2次元平面に投影された立体構造を有する観察対象の像(2次元画像)を基に、当該観察対象の3次元構造を再構築するための画像処理手法は、薬学、天文学、あるいは電子顕微鏡による構造解析といった分野などで広範囲に用いられている。
たとえば、タンパク質の構造解析分野では、従来は、主に、予め結晶化されたタンパク質の試料を作製し、この結晶試料をX線回折法により構造解析する方法が用いられてきたが、近年、タンパク質の単粒子の電子顕微鏡画像からその3次元構造を再構築する手法(単粒子構造解析法)が提唱されるようになってきた(非特許文献1などを参照)。
単粒子構造解析法では、極低温透過型電子顕微鏡(Cryo-EM)を用いて撮影されたタンパク質試料の電子顕微鏡画像(2次元画像)から数千ないし数万の単粒子画像を切り出し、これらの2次元画像の実空間(3次元空間)での位置や角度を推定し、それぞれに適合した位置や角度で画像を加算平均してバックノイズを低減させる。そして、この加算平均画像から、それぞれの2次元画像に映し出されたタンパク質粒子の3次元角度を推定し、その3次元構造が再構築される。
このように、単粒子構造解析法では、タンパク質試料を結晶化させるといった煩雑な準備を必要とせず、精製されたタンパク質さえあればその3次元構造を決定することができるという大きな利点をもつ。また、このような3次元構造の再構築手法は、タンパク質の構造解析に限らず、2次元平面に投影された立体構造を有する観察対象の像を基に、当該観察対象の3次元構造を再構築するための画像処理手法として広範囲の分野で用いることができ、特に、近年の画像処理技術の高度化やコンピュータの高速化を背景として、注目されてきている。
I. I. Serysheva et al., "Electron cryomicroscopy and angular reconstitution used to visualizethe skeletal muscle calcium release channel", Structural Biology, volume 2 number 1 January 1995, p.18-24. Martin VAN HEEL, "ANGULAR RECONSTRUCTION: A POSTERIORI ASSIGNMENT OF PROJECTIONDIRECTIONS FOR 3D RECONSTRUCTION",Ultramicroscopy 21 (1987) p.111-124.
上述したように、単粒子構造解析では、立体構造を有する単粒子を平面上に投影した2次元画像の加算平均画像を求め、この平均画像がもつ本来の3次元空間での角度(3次元角度)を推定して3次元構造を再構築する。より詳細には、個々の平均画像の3次元角度を推定し、広域増強フィルタを掛けた後に3次元投射面に再投射させ、全平均画像の3次元投射面への再投射の総和を求めることで3次元構造が再構築される。
ここで、個々の平均画像は3次元投射面にランダムに分散しているため、個々の単粒子画像の3次元投射面への投射角度は未知である。このため、投射角度を推定するいくつかの方法が提案されている。
投影角度の推定方法は、単粒子の電子顕微鏡像を撮影する際に、観察試料を固定させるメッシュを保持するための試料ステージ(試料ホルダー)を、電子顕微鏡体内で傾斜させて撮影した単粒子画像を処理する方法と、試料傾斜させることなく撮影して得られた単粒子画像を処理する方法の、2つに大別される。
試料傾斜させて単粒子画像を撮影する第1の方法は、同一の粒子を複数の異なる角度から観察した画像を得ることができるため、単粒子構造の非対称構造(たとえば、右巻きか左巻きか)までもが特定でき、その推定精度も高い。
しかしながら、低温冷却試料からの画像を撮影する必要があるような場合には、同一の単粒子に複数回の露光を行う結果となるため、電子線により損傷を受けて構造変化を生じてしまうという問題がある。また、低温冷却用試料ステージを傾斜させるためには機械的に複雑なアタッチメントを必要とし、試料ドリフトなどが生じやすいために安定した電子顕微鏡像を得ることは困難である。このような理由により、固定ステージを用い、試料傾斜させることなく単粒子画像を撮影して単粒子画像を処理する第2の方法の方が汎用性が高く望ましい。
ところが、試料傾斜させることなく単粒子画像を撮影して単粒子画像を処理する場合には、得られた粒子画像の3次元角度(オイラー角)の推定は困難であり、高分解能の3次元構造をいきなり求めることは一般的には困難である。したがって、先ずラフな3次元モデル(初期の3次元構造)を構成しておいて、この3次元モデルの精度を徐々に高めてゆくという方法がとられる。
初期の3次元構造を構成するには、得られた2次元画像に映し出された単粒子が3次元空間内でもつオイラー角を、単粒子の3次元構造が未知の状態で推定する必要がある。2次元画像に映し出された単粒子が3次元空間内でもつオイラー角を求める方法としては、ラドンの中央断面定理によるコモンラインを同定しそれぞれの相対角を求める方法が一般的である(非特許文献2を参照)。
コモンラインの同定方法には、平均画像の回転投射データを用いて各画像間の相関係数から求めるシノグラム法や、フーリエ空間上で複数の画像のコモンラインを求める方法などが知られている。しかしながら、これらの方法でコモンラインを同定すると、仮に極めてノイズの少ない画像情報に基づいて同定したとしても、その結果に大きな誤差を生じる可能性がある。これは、コモンラインを同定する演算過程において、2次元の画像情報が1次元の投射データに変換されるために、画像情報の一部が欠落してしまうことによるものと考えられる。すなわち、コモンラインの同定を行なうことで3次元構造を再構築する方法は、2次元画像を1次元画像に潰すというプロセスを必要とし、このために大きな誤差を生じ易いという欠点がある。
ところで、初期の3次元構造が得られると、これをリファレンス(初期構造モデル)として、2次元画像に映し出された単粒子が3次元空間内でもつオイラー角の最適化が行われる。この最適化の方法としては、リファレンスの再投射画像とのマッチングにより角度を推定する方法や、オイラー角に対応する3次元ラドン変換を用いて相互相関により角度を求める方法(たとえば、非特許文献2を参照)、あるいはwavelet変換により求める方法などが知られている。
一般に、リファレンスデータを用いたマッチングは、コモンライン法に比べてロバストでノイズに対して強く精度も高い。これは、2次元の画像情報をそのまま処理していることによると考えられる。しかしながら、初期の3次元構造(すなわちリファレンス)の精度が低い場合には、角度の微調整を繰り返す毎に3次元的な形状が崩れる場合も生じ得る。このため、良好な初期の3次元構造を如何にして作製するのかが極めて重要となる。
また、従来の3次元構造の再構成手法は、基礎となる2次元画像にノイズが含まれていないこと(換言すれば、単粒子の3次元的な中心が合っていること)を前提とし、この前提の下での3次元構造の再構築を行なっている。このため、無視できないノイズが含まれている2次元画像に基づいて3次元構造の再構築を行なうと、得られた結果の精度は極めて低いものとならざるを得ないという問題がある。
本発明は、このような問題に鑑みてなされたもので、その目的とするところは、角度情報がなくても2次元画像そのままのイメージからの3次元構造の再構築を可能とし、立体構造が未知の対象物の3次元構造を高精度で再構築することができる画像処理方法およびこれを実行するためのプログラムを提供することにある。
本発明はこのような課題を解決するために、請求項1に記載の発明は、複数の2次元画像から3次元構造を再構築するための画像処理方法であって、N枚(Nは2以上の整数)の2次元画像を仮想球面上の初期画像位置にランダムに配置する第1のステップと、該ランダム配置されたN枚の2次元画像を前記仮想球面の中心点に投射して初期3次元構造を構築する第2のステップと、該初期3次元構造を前記初期画像位置に再投射してN枚の新たな2次元画像を得る第3のステップと、前記初期画像位置の各点において再投射前後の2次元画像の相互相関を求めて第1のスコア(L)を算出する第4のステップと、前記再投射後のN枚の2次元画像から1枚の2次元画像を任意に選択し、該選択された2次元画像の座標パラメータをランダムに変化させる第5のステップと、該座標パラメータ変化後の1枚の2次元画像とその余の(N−1)枚の2次元画像から3次元構造を再構築する第6のステップと、該再構築された3次元構造を前記仮想球面上に再投射してN枚の新たな2次元画像を得る第7のステップと、前記再投射前後の2次元画像の相互相関を求めて第2のスコア(L)を算出する第8のステップと、該第2のスコア(L)と前記第1のスコア(L)との比較に基づいて前記第5のステップにおける座標パラメータの変化の許容もしくは拒絶を判断する第9のステップと、前記座標パラメータの変化が許容された場合に前記選択された2次元画像の座標パラメータを置き換える第10のステップと、を備えていることを特徴とする。
請求項2に記載の発明は、請求項1に記載の画像処理方法において、前記第5ないし第10のステップを所定の回数だけ繰り返す第11のステップを備えていることを特徴とする。
請求項3に記載の発明は、請求項1または2に記載の画像処理方法において、前記第9のステップにおける判断は、前記第1のスコア(L)と第2のスコア(L)がL>Lの関係を満足する場合に前記座標パラメータの変化を許容するものであることを特徴とする。
請求項4に記載の発明は、請求項3に記載の画像処理方法において、前記第9のステップにおける判断は、L≦Lの場合には、温度パラメータTと遷移確率P(ΔL=L−L)に基づいて前記座標パラメータの変化を許容するサブステップを備えていることを特徴とする。
請求項5に記載の発明は、請求項2に記載の画像処理方法において、前記第11のステップに続き、温度パラメータTを所定値だけ減少させて新たな温度パラメータTを設定し、該温度パラメータTを用いて前記第5乃至第11のステップを所定回数だけ反復する第12のステップを備えていることを特徴とする。
請求項6に記載の発明は、請求項1乃至5の何れか1項に記載の画像処理方法において、前記座標パラメータは3つの角度変数と2つの位置変数を含んでいることを特徴とする。
請求項7に記載の発明は、請求項6に記載の画像処理方法において、前記3つの角度変数はオイラー角(α、β、γ)であり、前記2つの位置変数は前記2次元画像の中心位置調整用の変数(p、p)であることを特徴とする。
請求項8に記載の発明は、請求項1乃至7の何れか1項に記載の画像処理方法において、前記スコアLは、次式で算出されるものであることを特徴とする。
ここで、mとnは2次元画像中のピクセル位置を示す変数であり、
は2次元画像fの平均輝度値であり、
は再投射画像gの平均輝度値である。
請求項9に記載の発明は、3次元角度の推定方法であって、請求項6乃至8の何れか1項の画像処理方法により、前記2次元画像に映し出された3次元構造での角度情報を求めることを特徴とする。
請求項10に記載の発明は、プログラムであって、コンピュータに、請求項1乃至8の何れか1項に記載された各ステップを実行させるためのものであることを特徴とする。
本発明の画像処理手法によれば、2次元の平均画像から3次元の初期構造モデルを作製し、平均画像と再投射画像との直接的な相関値を最適化の尺度として用いて3次元構造を最適化することとしたので、角度情報のない2次元画像からでも3次元構造を再構築することが可能な画像処理手法が提供される。これにより、立体構造が未知の対象物の3次元構造を高精度で再構築することができる画像処理方法が提供される。
また、本発明によれば、3次元角度が未知の2次元画像から、当該2次元画像に映し出された3次元構造での角度を簡便に推定することが可能となる。
さらに、本発明の画像処理プログラムによれば、これらの画像処理方法をコンピュータで自動的に実行させることができる。
以下に、図面を参照して本発明を実施するための最良の形態について説明する。
本発明の3次元構造の再構築方法は、先ず、2次元の平均画像から3次元の初期構造モデルを作製し、この3次元構造を最適化するものである。本発明の3次元構造の再構築方法では、平均画像の角度推定にシミュレーテッド・アニーリング(Simulated Annealing:SA)法が、3次元構造の最適化の尺度として平均画像と再投射画像との直接的な相関値が用いられ、これにより、ノイズに強くロバストな角度推定が可能となる。つまり、3次元の角度推定にシミュレーテッド・アニーリング法を適用することで、あたかもコンピュータ上で結晶化が行われるように、平均画像から3次元構造を自然に構築することが可能となる。
より具体的に説明すると、平均画像からフィルタードバックプロジェクション(FBP)により3次元構造をつくりながら、逐次的に平均画像の3次元角度(オイラー角)と画像の位置パラメータを変化させ、その都度、平均画像と再プロジェクション画像との相関をスコアとして計算する。そして、スコア値が徐々に向上するように、シミュレーテッド・アニーリング・アルゴリズムを用いて繰り返し計算を行う。この繰り返し計算により3次元構造は最適化され、真の立体像に近い3次元構造が再構築されることになる。
先ず、本発明の理解の容易化のために、シミュレーテッド・アニーリング法について簡単な説明をする。シミュレーテッド・アニーリング法は、最適化問題を解くためのモンテカルロ法的な近似解法の一つである。最適化問題とは、特定の制約条件下で与えられた状態空間で定義される関数の最大値または最小値を与える状態空間の要素を求める問題であり、シミュレーテッド・アニーリング法は、たとえば、高温状態にある金属を徐冷することで低欠陥の金属結晶を得るというアニーリング(焼き鈍し)に着想を得て、このような物理現象をコンピュータ上で模擬的に実現して最適化問題を解こうとする手法であり、極めて強力な最適化手法の一つである。
シミュレーテッド・アニーリング法においては、対象となる最適化問題での変数{x}と最適化の程度を判断するためのコスト関数Eがそれぞれ、物理系における粒子とその系のエネルギに例えられる。一般に、系のエネルギに相当するコスト関数Eがn個の変数(すなわち、i=1〜n)の関数であるとすると、コスト関数Eは、E=E(x,x,・・・,x)と表記される。3次元構造の再構築のような画像復元の問題では、各ピクセル値を変数{x}とし、コスト関数Eを最小にする変数{x}の組を見つけることで最適化問題が解かれる。
現実の物理系においては、最小エネルギ状態とは結晶構造を構成する各原子の熱揺らぎがない状態に対応するが、系の温度をT(≠0K)とすると、各原子は熱的に揺らいでおり、それぞれの自由エネルギが最も低い状態で熱平衡となる。系が熱平衡状態にある場合に基底状態よりΔEだけ高いエネルギ状態をとる確率は、ボルツマン分布Pに従って、P(ΔE)=exp(−ΔE/kT)である。ここで、kはボルツマン定数であり、系の温度Tを徐々に下げてゆくと原子の熱揺らぎは抑制され、系のエネルギが低下することになる。
シミュレーテッド・アニーリング法による最適化のプロセスでは、先ず、初期変数{x}として適当な値を与えておき、各パラメータにランダムな微小変化Δxを順番に加えてコスト関数の変化量ΔEを求める(アニーリング)。この変化量ΔEが負であれば、微小変化Δxを最適解に近づけるものとして採用する一方、変化量ΔEが正であれば、微小変化Δxをボルツマンの確率に従って受け入れる。このような演算を全ての変数xに対して繰り返し実行することで、コンピュータの中で擬似的な熱平衡状態を作り出すのである。
次に、系の温度Tを僅かに下げる(クーリング)と、系は非平衡状態となり、上記と同様の演算を行なうことで新たな熱平衡状態が実現される。このような演算を系のエネルギが充分に低くなるまで実行すると、最終的には最適解を得ることができる。
図1は、本発明の3次元構造の再構築方法の手順を説明するためのフローチャートであり、図2は、本発明の3次元構造の再構築方法の各ステップで得られる3次元構造の様子を説明するための図である。また、図3は、本発明の3次元構造の再構築方法を実行するに際して選択される5つの変数を説明するための図である。なお、以下の説明では、3次元構造が再構築される対象物の例としてタンパク質の単粒子を採用する。また、以下に説明する本発明の3次元構造の再構築方法の各手順をプログラム化すれば、必要な画像処理をコンピュータで実行可能なことは明らかである。
本発明の3次元構造の再構築方法においては、図3に示すように、立体形状を有する試料から得た複数の平均画像を仮想的な球体の表面上に配置させ、これらの平均画像を基にして、球体の中心部に3次元構造を再構築する。ここで、それぞれの平均画像は本来、実際の試料を特定の方向から撮影した2次元画像である。したがって、それぞれの平均画像の撮影方向を特定するための3つの角度変数と、被写体である試料の中心位置を2次元平面に投射させた位置と平均画像の中心位置とのズレを2次元平面内で修正するための2つの位置変数の、計5つの変数を選択する。そして、各平均画像ごとにこれらの変数を最適化すれば、本来の試料形状である3次元構造が再構築されるはずである。
ここでは、図3に示すように、地球儀様の仮想的な透明球体の表面に平均画像をランダムに配置させてこの球体の中心部に3次元構造を再構築するに際し、座標パラメータとして、以下の変数を用いている。すなわち、3つの角度変数であるオイラー角として、回転軸であるX軸、Y軸、およびZ軸それぞれに対応させてα、β、γとした。なお、回転させる軸の順番は、Z軸、Y軸、X軸の順とした。これにより、地球儀の経度がγに、緯度がβに、そしてαが平均画像中の回転角に対応する。なお、以下では、βとγを「オイラー角」、αを「回転角」と呼ぶこともある。この角度変数に加えて、平均画像の縦と横の位置変数(p、p)も考慮することとして、中心位置のズレ調整を可能とした。このように、本発明の3次元構造の再構築方法においては、各平均画像の変数(移動パラメータ)の数は5となる。
先ず、変数の初期化を行い(ステップS102)、3次元構造を再構築するための複数の2次元画像(平均画像)を球体表面上にランダムに配置する。具体的には、N枚の平均画像のそれぞれのオイラー角をランダムに設定し、かつその回転角と位置変数(p、p)を何れも0とする(ステップS103、図2(a))。
次に、初期設定された角度変数でフィルタードバックプロジェクション(FBP)を行い、初期3次元構造を求め(ステップS104、図2(b))、この初期3次元構造から各平均画像位置に再プロジェクションを行う(ステップS105)。そして、この再投射画像と元の平均画像との相互相関を計算して各平均画像のスコアの総和(初期スコア)を求める(ステップS106)。なお、後の取り扱いを簡便化するために、各平均画像のスコアの総和を全平均画像枚数で割って正規化した値を「初期スコア」とし、この値に100を掛けることで初期スコアの最大値が100になるようにしている。
このような初期設定に続き、サイクル数Cを0に設定して(ステップS107)、N枚の平均画像の中から変数変化させる平均画像をランダムに1枚選択し、この平均画像のオイラー角と回転角・位置変数をランダムに変化させる。
平均画像のオイラー角の変化は、平均画像の全域移動と変数変化前の平均画像の位置を中心とする制限移動が、それぞれ1/2の確率となるように行なう。対称性をもたない粒子(たとえば、タンパク質RF2)の全域移動では、角度変数γが−180°〜+180°、角度変数βが−90°〜+90°、の範囲内でランダムに位置を決定する。
一方、対称性をもつ粒子の場合には、その対称性に応じて角度変数が取り得る範囲に制限を加えることが可能である。例えば、4回対称性をもつ粒子の場合は、角度変数γのみを0〜+90°の範囲とする。ここで、角度変数βが+90°あるいは−90°の方向に近づくにつれて、角度変数γにおける1°刻みの球体上の間隔は狭くなる。これは、ちょうどメルカトル世界地図で緯度が高くなるほど面積が拡大されることに対応する。もし、一様乱数で平均画像の位置を決定した場合は、上部と下部付近(すなわち、角度変数β=±90°)に移動が片寄ることになる。そこで、仮想球体をZ軸方向から眺めたXY平面座標を用いて、この範囲でランダムに移動点を決める。
制限移動では、現在の位置を中心として正規乱数σ=10°で設定する。平均画像の回転角度(オイラー角のα)についても、0°〜+360°(=±0°)の範囲での一様分布乱数による設定と、現在の角度変数を中心とした正規乱数σ=10°の設定とが、それぞれ1/2の確率となるように角度変数を変化させる。また、平均画像の位置変数の変化は、σ=1pixelの正規分布乱数により決定した。
初期設定後は、以下に説明するステップを所定のサイクル数Cだけ繰り返すこととなるが、平均画像の変数変化処理が受け入れられなかったサイクルの数(失敗回数)をIte、平均画像の変数変化処理が受け入れられたサイクルの数(成功回数)をIte、としてカウントする。したがって、サイクルの反復数の初期値を、予めIte=0、Ite=0と設定する(ステップS108)。
そして、N枚の平均画像の中から平均画像をランダムに1枚選択して、この平均画像のオイラー角と回転角・位置変数をランダムに変化させ(ステップS109)、この平均画像の移動後の位置で当該平均画像のFBPを行い、再び3次元構造を構築する(ステップS110、図2(c))。
ここで、i番目の平均粒子画像をf(pxi,pyi)とし、その高周波領域の増強フィルタの画像をf(pxi,pyi)’、オイラー角α、β、γのバックプロジェクション演算子をH(αiii)とすると、3次元構造の密度データVは、次式(1)で与えられる。ここで、Nは計算に使用した平均画像の枚数であり、pxiとpyiは平均画像を縦方向および横方向(x方向およびy方向)にずらしたピクセル(pixel)の数である。
このようにして再構築された3次元構造Vを基に、全ての平均画像の対応する角度に対して再プロジェクションを行う(ステップS111、図2(d))。この再プロジェクション画像をgとすると、再プロジェクション演算はバックプロジェクション演算の逆演算であるから、再プロジェクション演算子はバックプロジェクション演算子H(αiii)を逆変換関数として次式(2)で与えられる。
次に、この再投射画像gと平均画像fとの相互相関の2乗値を計算し、この総和を新しいスコアLnewとする(ステップS112)。ここでのLnewは請求項1のLに対応するものである。具体的なスコアLの計算は、次式(3)および(4)で実行される。
ここで、
は平均画像の平均輝度値であり、
は再プロジェクション画像の平均輝度値である。また、mとnはピクセル(pixel)の縦と横の位置を示す変数(mおよびnのそれぞれを画像の縦と横の中心を示す定数)としている。なお、ここでの平均画像fは、平均画像画位置を修正した後のものf(pxi,pyi)を用いることとしている。
このような各平均画像の移動(角度変数および位置変数の変化)が選択されるか拒絶されるかは、シミュレーテッド・アニーリングのアルゴリズムにより決定される。もし、新しいスコアLnewが以前のスコアLoldよりも高い場合(Lnew>Lold、ステップS113:Yes)は、この角度・位置移動を確定して新しいスコアLnewを以前のスコアLoldと置き換え(ステップS114)、成功回数Iteの値を1付加してステップS116へと移行する。ここでのLoldは請求項1のLに対応するものである。
一方、新しいスコアLnewが以前のスコアLold以下の場合(Lnew≦Lold、ステップS113:No)は、以前のスコアLoldと新しいスコアLnewの差(ΔL=Lold−Lnew)と現在の温度Tとから、ボルツマンの確率分布(式5)にしたがって遷移確率P(ΔL)を求め(ステップS117)、0〜1の範囲にある乱数値と比較して、遷移確率P(ΔL)が乱数値よりも大きければ(ステップS118:Yes)、移動が確定されてステップS114に移行する。一方、遷移確率P(ΔL)が乱数値以下であれば(ステップS118:No)、以前の角度・位置へと戻されて(ステップS119)、失敗回数Iteの値を1付加してステップS116へと移行する。
遷移確率P(ΔL)は温度パラメータTにより制御されており、比較的温度が高い場合は多少スコアLが低下しても移動が確定される確率は高くなる。一方、比較的温度が低い場合は、スコアLが高くなる移動のみが確定されるようになる。なお、計算開始の初期段階では、温度パラメータTは比較的高い値をとるため、スコアLには依存せずにほぼランダムに平均画像が移動し、温度パラメータTが低下する(クーリング)につれて徐々にスコアLが高くなる方向にのみ平均画像が移動するようになる。
ステップS116では、失敗回数Iteおよび成功回数Iteが、予め与えられた最大失敗回数Itemax1および最大成功回数Itemax2と比較され、失敗回数Iteまたは成功回数Iteの少なくとも一方が最大回数以上であれば(ステップS116:Yes)、ステップS121に移行して温度パラメータTを低く設定し直す(クーリング)。一方、失敗回数Iteと成功回数Iteの何れもが最大回数に満たなければ(ステップS116:No)、ステップS109に戻って以降の各ステップを繰り返す。
このような一連の処理を繰り返し、系の温度を徐々に下げてゆく。ここでの繰り返しプロセスは、たとえば、平均画像枚数Nの10倍の画像移動が成功した場合(Ite2max=10N)、あるいは平均画像枚数Nの30倍の画像移動を試行した場合(Ite1max=30N)、を1つのサイクルとし、1つのサイクルが終了するとステップS122でサイクル数Cに1が付加される。
温度パラメータTは、次式(6)および(7)にしたがって指数関数的に低下させる。ここで、Tは初期温度、Tは終了温度である。また、Cmaxは繰り返し演算の最大サイクル数であり、サイクル数CはステップS123で最大サイクル数Cmaxと比較され、サイクル数Cが最大サイクル数Cmaxよりも大きいと判断(ステップS123:Yes)された場合には演算が終了し(ステップS124)、サイクル数Cが最大サイクル数Cmax以下であればステップS108に移行してその後の各ステップを繰り返す。そして、最終的に図2(e)に示すような、最適化された3次元構造が再構築される。
たとえば、最大サイクル数Cmaxは100〜1000程度に設定され、初期温度はT=1、終了温度はT=0.01などとされるが、これらのパラメータは処理するデータに応じて適宜変更可能であることはいうまでもない。
対称性を有するタンパク質粒子の画像を処理対象とする場合は、その対称性に応じてオイラー角の範囲を狭めることができる。ここで使用したRF2は、完全に非対称な粒子のため、オイラー角の範囲は全域となる(γ=−180°〜+180°、β=−90°〜+90°)。
以下に、実施例により本発明をより詳細に説明する。
本実施例は、本発明の手法によりRF2タンパクのモデルデータからプロジェクション画像を作製した例である。
RF2は完全な非対称性を有するタンパク質であり、その構造は極めて複雑である。テストデータとして、RF2の単粒子の3次元モデルデータからオイラー角や回転角をランダムに変化させた60枚のプロジェクション画像を作製した。
図4(a)は、テストデータ用に作製した60枚のプロジェクション画像の中から、10枚の画像を例として示す図である。また、図4(b)は、これらの10枚のプロジェクション画像の位置を±2pixelの範囲でランダムに変化させ、さらに正規分布10σのノイズを加えた画像である。本実施例では、図4(b)に示したような、テストデータ用に作製した60枚のプロジェクション画像に位置変化とノイズ付与を施した60枚のプロジェクション画像をテストデータとして画像処理を実行している。
先ず、初期値として、各RF2の60枚のテストデータをオイラー角上にランダムに配置する。この様子を図4(c)に示してある。この画像配置からランダムに選択された画像の位置を変化させ、シミュレーテッド・アニーリングのプロセスによりその画像位置変化の許容もしくは拒絶の決定を行う。
画像位置変化に伴う一連のサイクルを繰り返しながら、徐々に温度を低下させてゆくと、所定のサイクル数の計算を繰り返した後には、図4(d)に示すように、各平均画像のオイラー角、回転角、位置がほぼ妥当な配置をとることが確認できる。
図5は、一連のサイクルを繰り返して再構築される3次元構造(図5(a))、スコア変化の様子(図5(b))、および再構築された3次元構造とモデルデータとの比較結果(図5(c))、を説明するための図である。
計算初期段階では、系の温度パラメータTが高いために、各平均画像はスコアに依存せず移動し、得られるスコアは低い(図5(b))。また、再構築される3次元構造もいびつな形状を有しておりノイズも極めて高い(図5(a)のサイクル0〜280)。
温度パラメータが0.3以下にまで低下すると、スコアは徐々に高くなり、再構築される3次元構造もその輪郭がはっきりしてくると同時にその周囲のノイズも低下する(図5(a)のサイクル280〜380)。
さらに、温度パラメータが0.05以下まで低下すると、スコアの上昇は徐々に鈍り、3次元構造の細部の構造が現れてくる(図5(a)のサイクル480)。この段階では、最終的な位置や角度の微調整が行われ、最終的に再構築された3次元構造は、図5(c)に示すように、極めてモデルデータと類似している。つまり、本発明の画像処理手法により、高い精度で3次元構造が再構築されることがわかる。
本発明は、単粒子構造解析における3次元角度推定問題に、シミュレーテッド・アニーリングのプロセスを適応したものとして把握することも可能である。すなわち、従来の画像処理方法では極めて困難であった非対称粒子や対称性の低い粒子のオイラー角(3次元角度)を推定し、この3次元角度に基づいて自動的に3次元構造が再構築される。
また、本発明の画像処理方法は、2次元画像を用いたコンピュータ上での「結晶化プロセス」として捉えることができ、繰り返し計算の回数を増やして、温度の低下をスローにすることで、得られる3次元構造の再構築精度を向上させることができる。したがって、今後のコンピュータの計算速度の向上や並列化などによって、ほぼ完全な3次元構造を自動的に再構築することが可能である。
さらに、本発明の画像処理方法につき、タンパク質の単粒子を電子顕微鏡で撮影した画像の処理を例として説明してきたが、本発明はこのような画像処理に限定されるものではなく、透過型電子顕微鏡(TEM)や走査型電子顕微鏡(SEM)で撮影された種々の試料の2次元画像は勿論のこと、原子間力顕微鏡(AFM)や光学顕微鏡(OM)により撮影された画像やX線トポグラフ(XRT)像、あるいは航空写真など、極めて広範囲に適用することができる。
以上、本発明の3次元構造の再構築に関する画像処理の手法について説明したが、上記実施例は本発明を実施するための例にすぎず、本発明はこれらに限定されるものではない。これらの実施例を種々変形することは本発明の範囲内にあり、更に本発明の範囲内において他の様々な実施例が可能であることは上記記載から自明である。
本発明は、角度情報がなくても2次元画像そのままのイメージからの3次元構造の再構築を可能とし、立体構造が未知の対象物の3次元構造を高精度で再構築することができる画像処理方法およびこれを実行するためのプログラムを提供する。
本発明の3次元構造の再構築方法の手順を説明するためのフローチャートである。 本発明の3次元構造の再構築方法の各ステップで得られる3次元構造の様子を説明するための図である。 本発明の3次元構造の再構築方法を実行するに際して選択される5つの変数を説明するための図である。 図(a)はテストデータ用に作製した60枚のプロジェクション画像の中から、10枚の画像を例として示す図、図(b)はこれらの10枚のプロジェクション画像の位置を±2pixelの範囲でランダムに変化させ、さらに正規分布10σのノイズを加えた画像を示す図、図(c)は初期値として各RF2の60枚のテストデータをオイラー角上にランダムに配置した様子を示す図、そして図(d)は最終的に得られる3次元構造をモデルデータと対比して示す図である。 図(a)は一連のサイクルを繰り返して再構築される3次元構造を示す図、図(b)はスコア変化の様子を示す図、そして図(c)は再構築された3次元構造とモデルデータとの比較結果を説明するための図である。

Claims (10)

  1. 複数の2次元画像から3次元構造を再構築するための画像処理方法であって、
    N枚(Nは2以上の整数)の2次元画像を仮想球面上の初期画像位置にランダムに配置する第1のステップと、
    該ランダム配置されたN枚の2次元画像を前記仮想球面の中心点に投射して初期3次元構造を構築する第2のステップと、
    該初期3次元構造を前記初期画像位置に再投射してN枚の新たな2次元画像を得る第3のステップと、
    前記初期画像位置の各点において再投射前後の2次元画像の相互相関を求めて第1のスコア(L)を算出する第4のステップと、
    前記再投射後のN枚の2次元画像から1枚の2次元画像を任意に選択し、該選択された2次元画像の座標パラメータをランダムに変化させる第5のステップと、
    該座標パラメータ変化後の1枚の2次元画像とその余の(N−1)枚の2次元画像から3次元構造を再構築する第6のステップと、
    該再構築された3次元構造を前記仮想球面上に再投射してN枚の新たな2次元画像を得る第7のステップと、
    前記再投射前後の2次元画像の相互相関を求めて第2のスコア(L)を算出する第8のステップと、
    該第2のスコア(L)と前記第1のスコア(L)との比較に基づいて前記第5のステップにおける座標パラメータの変化の許容もしくは拒絶を判断する第9のステップと、
    前記座標パラメータの変化が許容された場合に前記選択された2次元画像の座標パラメータを置き換える第10のステップと、
    を備えていることを特徴とする画像処理方法。
  2. 前記第5ないし第10のステップを所定の回数だけ繰り返す第11のステップを備えていることを特徴とする請求項1に記載の画像処理方法。
  3. 前記第9のステップにおける判断は、前記第1のスコア(L)と第2のスコア(L)がL>Lの関係を満足する場合に前記座標パラメータの変化を許容するものであることを特徴とする請求項1または2に記載の画像処理方法。
  4. 前記第9のステップにおける判断は、L≦Lの場合には、温度パラメータTと遷移確率P(ΔL=L−L)に基づいて前記座標パラメータの変化を許容するサブステップを備えていることを特徴とする請求項3に記載の画像処理方法。
  5. 前記第11のステップに続き、温度パラメータTを所定値だけ減少させて新たな温度パラメータTを設定し、該温度パラメータTを用いて前記第5乃至第11のステップを所定回数だけ反復する第12のステップを備えていることを特徴とする請求項2に記載の画像処理方法。
  6. 前記座標パラメータは3つの角度変数と2つの位置変数を含んでいることを特徴とする請求項1乃至5の何れか1項に記載の画像処理方法。
  7. 前記3つの角度変数はオイラー角(α、β、γ)であり、前記2つの位置変数は前記2次元画像の中心位置調整用の変数(p、p)であることを特徴とする請求項6に記載の画像処理方法。
  8. 前記スコアLは、次式で算出されるものであることを特徴とする請求項1乃至7の何れか1項に記載の画像処理方法。
    ここで、mとnは2次元画像中のピクセル位置を示す変数であり、
    は2次元画像fの平均輝度値であり、
    は再投射画像gの平均輝度値である。
  9. 請求項6乃至8の何れか1項の画像処理方法により、前記2次元画像に映し出された3次元構造での角度情報を求めることを特徴とする3次元角度推定方法。
  10. コンピュータに、請求項1乃至8の何れか1項に記載された各ステップを実行させるためのプログラム。
JP2005014169A 2005-01-21 2005-01-21 画像処理方法および画像処理プログラム Pending JP2006202115A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005014169A JP2006202115A (ja) 2005-01-21 2005-01-21 画像処理方法および画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005014169A JP2006202115A (ja) 2005-01-21 2005-01-21 画像処理方法および画像処理プログラム

Publications (1)

Publication Number Publication Date
JP2006202115A true JP2006202115A (ja) 2006-08-03

Family

ID=36960051

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005014169A Pending JP2006202115A (ja) 2005-01-21 2005-01-21 画像処理方法および画像処理プログラム

Country Status (1)

Country Link
JP (1) JP2006202115A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008053667A1 (fr) * 2006-10-31 2008-05-08 National Institute Of Advanced Industrial Science And Technology Système d'estimation de structure, procédé d'estimation de structure et programme
CN107341827A (zh) * 2017-07-27 2017-11-10 腾讯科技(深圳)有限公司 一种视频处理方法、装置和存储介质
CN113640326A (zh) * 2021-08-18 2021-11-12 华东理工大学 一种纳米孔树脂基复合材料微纳结构的多级映射重构方法
EP3738999A4 (en) * 2018-01-12 2021-11-24 Zeon Corporation LATEX COMPOSITION

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008053667A1 (fr) * 2006-10-31 2008-05-08 National Institute Of Advanced Industrial Science And Technology Système d'estimation de structure, procédé d'estimation de structure et programme
JP2008134212A (ja) * 2006-10-31 2008-06-12 National Institute Of Advanced Industrial & Technology 構造推定システム、構造推定方法およびプログラム
US8391619B2 (en) 2006-10-31 2013-03-05 National Institute Of Advanced Industrial Science And Technology Structure determination system, structure determination method, and program
CN107341827A (zh) * 2017-07-27 2017-11-10 腾讯科技(深圳)有限公司 一种视频处理方法、装置和存储介质
CN107341827B (zh) * 2017-07-27 2023-01-24 腾讯科技(深圳)有限公司 一种视频处理方法、装置和存储介质
EP3738999A4 (en) * 2018-01-12 2021-11-24 Zeon Corporation LATEX COMPOSITION
CN113640326A (zh) * 2021-08-18 2021-11-12 华东理工大学 一种纳米孔树脂基复合材料微纳结构的多级映射重构方法
CN113640326B (zh) * 2021-08-18 2023-10-10 华东理工大学 一种纳米孔树脂基复合材料微纳结构的多级映射重构方法

Similar Documents

Publication Publication Date Title
Vurpillot et al. Reconstructing atom probe data: A review
Larson et al. Atom probe tomography spatial reconstruction: Status and directions
Gommes et al. Density of states for a specified correlation function and the energy landscape
Hanuš et al. Thermophysical modeling of main-belt asteroids from WISE thermal data
Haley et al. Atom probe trajectory mapping using experimental tip shape measurements
Lanzavecchia et al. Conical tomography of freeze-fracture replicas: a method for the study of integral membrane proteins inserted in phospholipid bilayers
WO2020041517A9 (en) Systems and methods for enhanced imaging and analysis
Zhou et al. Atomic electron tomography in three and four dimensions
CN114119607B (zh) 基于深度神经网络的酒瓶缺陷样本生成方法及系统
Killedar et al. Gravitational lensing with three-dimensional ray tracing
Frank et al. [1] Studying ribosome structure by electron microscopy and computer-image processing
JP2006202115A (ja) 画像処理方法および画像処理プログラム
CN109389572A (zh) 用于生成物体的区域的合成图像的方法和系统
CN110441342A (zh) 一种精确表征晶体三维取向和晶体学取向的方法
Hofer et al. Revealing the 3D structure of graphene defects
Li Imaging of orientation and geometry in microstructures: development and applications of high energy x-ray diffraction microscopy
Batey Ptychographic imaging of mixed states
US9733071B2 (en) Method of three-dimensional measurements by stereo-correlation using a parametric representation of the measured object
Fletcher et al. Automated calibration of model-driven reconstructions in atom probe tomography
Zheng et al. DQS advisor: a visual interface and knowledge-based system to balance dose, quality, and reconstruction speed in iterative CT reconstruction with application to NLM-regularization
Ding et al. Automatic 3D reconstruction of SEM images based on Nano-robotic manipulation and epipolar plane images
Wu et al. Three-dimension reconstruction method based on silhoutte for pot rice.
Villarrubia et al. Virtual rough samples to test 3D nanometer-scale scanning electron microscopy stereo photogrammetry
Heymann High resolution electron tomography and segmentation‐by‐modeling interpretation in Bsoft
Baba et al. A novel “ghost”-free tomographic image reconstruction method applicable to rotary-shadowed replica specimens

Legal Events

Date Code Title Description
A621 Written request for application examination

Effective date: 20070213

Free format text: JAPANESE INTERMEDIATE CODE: A621

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070227

A131 Notification of reasons for refusal

Effective date: 20090324

Free format text: JAPANESE INTERMEDIATE CODE: A131

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090422

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090623

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091020