JP2014075999A - 心筋細胞の運動検出方法、画像処理プログラム及び画像処理装置、心筋細胞の培養方法、心筋細胞の薬剤評価方法及び薬剤製造方法 - Google Patents

心筋細胞の運動検出方法、画像処理プログラム及び画像処理装置、心筋細胞の培養方法、心筋細胞の薬剤評価方法及び薬剤製造方法 Download PDF

Info

Publication number
JP2014075999A
JP2014075999A JP2012225242A JP2012225242A JP2014075999A JP 2014075999 A JP2014075999 A JP 2014075999A JP 2012225242 A JP2012225242 A JP 2012225242A JP 2012225242 A JP2012225242 A JP 2012225242A JP 2014075999 A JP2014075999 A JP 2014075999A
Authority
JP
Japan
Prior art keywords
time
image
region
cell
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012225242A
Other languages
English (en)
Other versions
JP2014075999A5 (ja
JP6102166B2 (ja
Inventor
Masabumi Mimura
正文 三村
Takashi Nakagawa
敬 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2012225242A priority Critical patent/JP6102166B2/ja
Publication of JP2014075999A publication Critical patent/JP2014075999A/ja
Publication of JP2014075999A5 publication Critical patent/JP2014075999A5/ja
Application granted granted Critical
Publication of JP6102166B2 publication Critical patent/JP6102166B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

【課題】細胞観察において取得された時系列画像から心筋細胞の周期的な運動を正確に検出可能な手段を提供する。
【解決手段】画像処理方法、画像処理プログラム、及び画像処理装置は、所定時間を隔てて心筋細胞が撮影された時系列画像を取得するステップと、該取得した時系列画像から動きのある領域を抽出するステップと、時系列画像から動き領域の細胞の形態的特徴量を算出するステップと、画像特徴量の時系列変化に基づいて心筋細胞の周期的な拍動運動を検出するステップと、前記心筋細胞の拍動運動の中心を検出するステップとをコンピュータに実現させる構成である。
【選択図】図1

Description

本発明は、幹細胞から分化した心筋細胞の運動解析するために最適な運動検出方法、画像処理プログラム、画像処理装置、心筋細胞の培養方法、心筋細胞の薬剤評価方法及び薬剤製造方法に関する。
心筋疾患などを対象とした再生医療や創薬の分野では、胚性幹細胞(embryonic stem cell:ES細胞)や人工多能性幹細胞(induced pluripotent stem cell:iPS細胞)などの幹細胞から分化誘導した心筋細胞が再生医療や創薬のリソースとして利用が期待されている。このような心筋細胞などの培養細胞の状況を観察する装置の例として、培養顕微鏡が挙げられる。また、培養容器中の心筋細胞をモニターする方法としては、心筋細胞を含む培養容器中の細胞または細胞集団を一定時間ごとに撮像し、撮像して得た細胞または細胞集団の画像を比較することにより、心筋細胞をそれ以外の細胞から区別してモニターするものがある(例えば、特許文献1を参照)。
特開2007−121106号公報
上記特許文献1に記載されているように、心筋細胞を培養する過程において、幹細胞が自律的に収縮・弛緩の拍動運動を周期的に繰り返す心筋細胞を特定する方法が提供されている。しかしながら、上記特許文献1では、心筋細胞の拍動する領域を検出できるものの、拍動領域内にある拍動中心の細胞(ペースメーカー細胞)まで正確に特定できていない。
本発明は、上記のような課題に鑑みてなされたものであり、細胞観察において取得された時系列画像から細胞の周期的な運動を正確に検出可能な手段を提供することを目的とする。
本発明を例示する第1の態様に従えば、所定時間を隔てて観察細胞が撮影された時系列画像を取得し、前記取得した前記時系列画像から心筋細胞の候補となる細胞コロニーを抽出し、前記抽出した細胞コロニーの中で動きのある動き領域を抽出し、前記時系列画像から前記動き領域の細胞の形態的特徴量を算出し、前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出し、前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する細胞を特定することを特徴とする心筋細胞の運動検出方法が提供される。
本発明を例示する第2の態様に従えば、コンピュータにより読み取り可能であり、撮像装置により撮影された画像を取得して画像処理する画像処理装置として前記コンピュータを機能させるための画像処理プログラムであって、前記撮像装置によって所定時間を隔てて観察細胞を撮影し、前記観察細胞の時系列画像を取得するステップと、前記取得した前記時系列画像から、前記画像処理装置によって心筋細胞の候補となる細胞コロニーを抽出するステップと、前記画像処理装置によって、前記抽出した細胞コロニーの中で動きのある動き領域を抽出するステップと、前記画像処理装置によって、前記時系列画像から前記動き領域の細胞の形態的特徴量を算出するステップと、前記画像処理装置によって、前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出するステップと、前記画像処理装置によって、前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する細胞を特定することを前記コンピュータに実現させることを特徴とする画像処理プログラムが提供される。
本発明を例示する第3の態様に従えば、撮像装置により所定時間を隔てて観察細胞が撮影された時系列画像を取得して画像を解析する画像解析部と、前記画像解析部による解析結果を出力する出力部とを備えた画像処理装置であって、前記画像解析部は、前記取得した前記時系列画像から心筋細胞の候補となる細胞コロニーを抽出するコロニー検出部と、前記抽出した細胞コロニーの中で動きのある動き領域を抽出する動き領域検出部と、前記時系列画像から前記動き領域の細胞の形態的特徴量を算出する特徴量算出部と、前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出する拍動領域抽出部と、前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する細胞を特定する中心細胞特定部とを備えことを特徴とする画像処理装置が提供される。
本発明の細胞の運動検出方法、画像処理プログラム、画像処理装置、心筋細胞の培養方法、心筋細胞の薬剤評価方法及び薬剤製造方法によれば、心筋細胞の周期的な運動を正確に検出して、該細胞運動を定量的に評価・判断することが可能である。
画像処理プログラムの概要を示すフローチャートである。 本発明の適用例として示す培養観察システムの概要構成図である。 上記培養観察システムのブロック図である。 心筋細胞の拍動の様子を説明するための模式図である。 所定時間を隔てて撮影された心筋細胞コロニーの観察画像であり、(a)は弛緩時の第1画像、(b)は収縮時の第2画像を示す模式図である。 動きベクトルの検出を実行する処理を説明するための模式図である。 画像処理装置の概要構成を示すブロック図である。 拍動中心検出手法の流れを説明するための模式図である。 注目点及び小領域窓を算出する処理を説明するための模式図である。 コロニー内の拍動中心領域を示す模式図である。 拍動中心検出手法の概要を示すフローチャートである。 心筋細胞の拍動領域を特定するための細胞・細胞コロニーの形態的特徴を示す表である。
以下、本発明を実施するための形態について、図面を参照しながら説明する。本実施形態に係る画像処理装置を適用したシステムの一例として、培養観察システムの概要構成図及びブロック図を、それぞれ図2及び図3に示しており、まず培養観察システムBSの全体構成について概要説明する。その後、この培養観察システムBSによって心筋細胞のペースメーカー細胞の特定までの一連の画像処理について説明する。このペースメーカー細胞を特定するには、培養細胞や細胞コロニーの形態的特徴に基づき、培養細胞(心筋細胞)の「細胞コロニー」を抽出し、その抽出された細胞コロニーに画像中から「動きのある領域」を特定し、さらに動きのある領域から心筋細胞の「拍動する領域」を特定して拍動中心の「細胞(ペースメーカー細胞)」を特定する(図12の表1を参照)。なお、この「動きのある領域」には心筋細胞の拍動運動に直接的に係りのない細胞も含まれ、いわゆるノイズも含まれることになる。更に、この心筋細胞の拍動領域の評価が再生医療や創薬に適用できる例を説明する。
培養観察システムBSは、大別的には、筐体1の上部に設けられた培養室2と、複数の培養容器10を収容保持する棚状のストッカー3と、培養容器10内の試料を観察する観察ユニット5と、培養容器10をストッカー3と観察ユニット5との間で搬送する搬送ユニット4と、システムの作動を統括的に制御する制御ユニット6と、画像表示装置を備えた操作盤7などから構成される。
培養室2は、培養環境を形成する部屋であり、断熱材で覆われた恒温室となっている。この培養室2に付随して、培養室2内の温度を調整する温度調整装置21、湿度を調整する加湿器22、CO2ガスやN2ガス等のガスを供給するガス供給装置23、培養室2全体の環境を均一化させるための循環ファン24、培養室2の温度や湿度、二酸化炭素濃度等を検出する環境センサ25などが設けられている。各機器の作動は制御ユニット6により制御され、培養室2の温度や湿度、二酸化炭素濃度等により規定される培養環境が、操作盤7において設定された培養条件に合致した状態に維持される。
ストッカー3は、前後及び上下に仕切られた棚状に形成され、各棚に固有の番地が設定されており、例えば、前後方向をA〜C列、上下方向を1〜7段とした場合に、A列5段の棚が「A−5」のように設定される。培養容器10は、培養する細胞の種別や目的に応じてディッシュやウェルプレート、フラスコなど適宜なものが選択され、例えばディッシュタイプの培養容器に細胞試料(以下で詳述する「心筋細胞」)が所定の培地とともに注入保持される。各培養容器10にはコード番号が付与され、ストッカー3の指定番地に対応付けられて収容されている。
搬送ユニット4は、培養室2内の内部に設けられて上下移動可能なZステージ41、前後移動可能なYステージ42、左右移動可能なXステージ43などからなり、Xステージ43の先端側に培養容器10を持ち上げ支持する支持アーム45が設けられている。搬送ユニット4は、ストッカー3の全棚と観察ユニット5との間を培養容器10が移動可能となるように構成されている。
観察ユニット5は、試料のマクロ観察を行うマクロ観察系54、試料のミクロ観察を行う顕微観察系55、マクロ観察系54の光軸に沿って試料台15の下方から試料を照明する第1照明部51、顕微観察系55の光軸に沿って試料台15の上方から試料を照明する第2照明部52及び下方から試料を照明する第3照明部53、観察系54,55の撮像装置により撮影した画像を取得して各種の画像処理を施す画像処理装置100などから構成される。試料台15は、透光性を有する材質で形成されるとともに観察領域に透明な窓部16が設けられている。また、試料台15は、制御ユニット6からの駆動制御によりXY方向(水平面内方向)及びZ方向(上下方向)に移動可能な微細駆動ステージからなり、その上面部に載置された培養容器10をXYZ方向に移動させることにより、培養容器10の被観察領域をマクロ観察系54や顕微観察系55の観察視野内へ位置決めすることが可能になっている。
第1照明部51は、下部フレーム1b側に設けられた面発光の光源からなり、試料台15の下方から培養容器10全体をバックライト照明する。第2照明部52は、LED(Light Emitting Diode)やハロゲンランプ等の光源52aと、輪帯絞りやコンデンサレンズ等からなる照明光学系52cとを有しており、試料台15の上方から顕微観察系55の光軸に沿って培養容器10内の試料を照明する。第3照明部53は、それぞれ落射照明観察や蛍光観察に好適な波長の光を射出する複数のLEDや水銀等の光源53aと、各光源53aから射出された光を顕微観察系55の光軸に重畳させるビームスプリッタや蛍光フィルタ等からなる照明光学系53cとを有しており、試料台15の下方から顕微観察系55の光軸に沿って培養容器10内の試料を照明する。各光源52a,53aの照明光量は、制御ユニット6からの駆動信号(電流/電圧)に基づいて制御される。
マクロ観察系54は、観察光学系54aと、この観察光学系54aにより結像された試料の像を撮影するCCDカメラ等の撮像装置54cとを有しており、第1照明部51によりバックライト照明された培養容器10の上方からの全体観察画像(マクロ画像)を撮影する。
顕微観察系55は、対物レンズや位相リング等を有する観察光学系55aと、観察光学系55aにより結像された試料の像を撮影する冷却CCD等の撮像装置55cとを有している。対物レンズは、レンズ駆動機構87により光軸に沿う方向(Z方向)に往復移動可能に構成されており、対物レンズと試料面との光軸方向の相対位置(光学的距離)を変化させることにより焦点調節が可能になっている。また、対物レンズは複数設けられるとともに、レボルバやスライダなどの変位機構を用いて複数倍率に設定可能に構成されており、初期選択のレンズ設定に応じて、本実施形態では、少なくとも低倍観察用(例えば2倍観察用)と高倍観察用(例えば10倍観察用)との2種類の倍率の間で変倍可能なように切り換えられる。顕微観察系55は、第2照明部52により照明された試料の位相差画像、第3照明部53により照明された試料の反射像、第3照明部53により照明された試料の蛍光画像など、培養容器10内の試料を顕微鏡観察した顕微観察画像(ミクロ画像)を撮影する。
画像処理装置100は、マクロ観察系54の撮像装置54c、顕微観察系55の撮像装置55cにより撮影され、これらの撮像装置から入力された信号を処理して全体観察画像または顕微観察画像の画像データを生成する。また、画像処理装置100は、これらの観察画像(画像データ)に対して画像解析を施し、タイムラプス画像の生成、細胞運動の動きベクトルの検出、画像特徴量の算出、細胞の拍動運動の解析、などを実行する。なお、画像処理装置100については、後に詳述する。
制御ユニット6は、処理を実行するCPU61、培養観察システムBSの制御プログラムや制御データ等が設定記憶されたROM62、観察条件や画像データ等を一時記憶するRAM63などを有し、培養観察システムBSの作動を制御する。そのため、図3に示すように、培養室2、搬送装置4、観察ユニット5、操作盤7の各構成機器が制御ユニット6に接続されている。RAM63には、観察プログラムに応じた培養室2の環境条件や、観察スケジュール、観察ユニット5における観察種別や観察位置、観察倍率等が設定され記憶される。また、RAM63には、観察ユニット5により撮影された画像データを記録する画像データ記録領域が設けられ、培養容器10のコード番号や撮影日時等を含むインデックス・データと画像データとが対応付けて記録される。
操作盤7には、キーボードやマウス、スイッチ等の入出力機器が設けられた操作パネル71、操作画面や画像データ等を表示する表示パネル72が設けられ、操作パネル71において観察プログラムの設定や条件選択、動作指令等の入力が行われる。通信部65は有線または無線の通信規格に準拠して構成されており、この通信部65に外部接続されるコンピュータ等との間でデータの送受信が可能になっている。
このように概要構成される培養観察システムBSは、操作盤7において設定された観察プログラムに従ってCPU61が各部の作動を制御し、培養容器10内の試料の撮影を自動的に実行する。観察プログラムがスタートされると、CPU61はRAM63に記憶された環境条件の各条件値を読み込むとともに、環境センサ25から入力される培養室2の環境状態を検出し、条件値と実測値との差異に応じて温度調整装置21、加湿器22、ガス供給装置23、循環ファン24等を作動させて、培養室2の温度や湿度、二酸化炭素濃度などの培養環境についてフィードバック制御が行われる。
また、CPU61はRAM63に記憶された観察条件を読み込み、観察スケジュールに基づいて搬送ユニット4のX,Y,Zステージ41,42,43を作動させてストッカー3から観察対象の培養容器10を観察ユニット5の試料台15に搬送して、観察ユニット5による観察を開始させる。例えば、観察プログラムにおいて設定された観察がマクロ観察である場合には、搬送ユニット4によりストッカー3から搬送してきた培養容器10をマクロ観察系54の光軸上に位置決めして試料台15に載置し、第1照明部51の光源を点灯させて、バックライト照明された培養容器10の上方から撮像装置54cにより全体観察像を撮影する。撮像装置54cから制御ユニット6に入力された信号は、画像処理装置100により処理されて全体観察画像が生成され、その画像データが撮影日時等のインデックス・データなどとともにRAM63の画像データ記憶領域に記憶される。
また、観察プログラムにおいて設定された観察が、培養容器10内の特定位置の試料のミクロ観察である場合には、搬送ユニット4により搬送してきた培養容器10内の特定位置を顕微観察系55の光軸上に位置決めして試料台15に載置し、第2照明部52又は第3照明部53の光源を点灯させて、透過照明、落射照明、蛍光による顕微観察像を撮像装置55cに撮影させる。撮像装置55cにより撮影されて制御ユニット6に入力された信号は、画像処理装置100により処理されて顕微観察画像(位相差画像、蛍光画像等)が生成され、その画像データが撮影日時等のインデックス・データなどとともにRAM63の画像データ記憶領域に記憶される。
[心筋細胞の細胞コロニーの抽出]
以上のように構成される培養観察システムBSにおいて、画像処理装置100は、撮像装置54c,55cにより所定時間の時間間隔ごとに培養容器10内の培養細胞の画像が時系列で取得される(タイムラプス撮影)。このように、幹細胞から分化した心筋細胞の細胞集団(コロニー)が撮影された時系列画像に基づいて、心筋細胞の細胞コロニーの形態的特徴を検出し、心筋細胞の細胞コロニーを抽出する。この取得した時系列画像を解析して、例えば、図12の表1にあるように、細胞コロニーの形態的特徴(輪郭、厚み、面積、特徴点(重心、始点、終点、屈曲点、分岐点など)、形状(細胞内部構造の変化も含む)、明るさ等)から抽出できる。
具体的には、図12の表1に記載するように、細胞コロニーは、細胞の形態的特徴量に基づき特定される。
I. 細胞コロニーの輪郭を用いる場合には、例えば、(i)細胞コロニーの輪郭帯(輪郭線に沿って内側に所定幅の帯状)の平均輝度や輝度の分散値が所定値以上のものを細胞コロニーと特定する。また、(ii)輪郭帯の平均輝度や輝度の分散値とそのコロニー内部の平均輝度や輝度の分散値との輝度比較から細胞コロニーと特定する。
II. 細胞コロニーの厚さを考慮して、細胞コロニー全体を適正露光量で撮像するために、例えば、(i)撮像装置54cは、異なる露光量ごとに取得した画像から細胞コロニーを特定する。また、露光量を変える代わりに、撮像措置のセンサゲインを調整した画像を使用してもよい。なお、後述する・動き領域・拍動部位・ペースメーカー細胞の特定においても同様に露光両、センサゲインを調整した画像を用いることが可能である。またさらに、前述(i)の代わりに、撮像装置のダイナミックレンジの広いセンサにより画像取得しても良い。
III. 細胞コロニーの面積を用いる場合には、(i)面積が所定値以上のものを細胞コロニーと特定する。あるいは、(ii)所定の面積範囲以上のものを細胞コロニーと特定する。
IV. 細胞コロニーの形状を用いる場合には、(i)所定の形状のもの(例えば真円度が所定値以上)を細胞コロニーと特定する。あるいは、(ii)内部構造変化が、所定の構造変化より大きいものを細胞コロニーと特定する(詳しくは後述する)。あるいは、(iii)細胞コロニーの周囲に存在する周辺細胞と細胞コロニーとの空間周波数の違いを利用し、細胞コロニーが有する空間周波数を透過する空間フィルタ(ローパスフィルタ)を適用して、細胞コロニーを特定する。尚、空間フィルタは光学的なフィルタを用いてもよいし、画像を計算処理してフィルタリングしてもよい。
V. 細胞コロニーの明るさ情報(輝度情報)を用いる場合には、(i)細胞コロニーの輪郭内の輝度分布が所定輝度分布以上のものを細胞コロニーと特定する。あるいは、(ii)細胞コロニーの輪郭帯が所定の輝度をもつものを細胞コロニーと特定する。
[心筋細胞の拍動運動の検出]
以上のように構成される培養観察システムBSにおいて、画像処理装置100は、撮像装置54c,55cにより所定時間を隔てて心筋細胞の細胞集団(コロニー)が撮影された時系列画像を取得し、この取得した時系列画像を解析して心筋細胞の拍動運動を検出する機能を有している。
心筋細胞は、例えば、心臓疾患などを対象とした再生医療や創薬のリソースとして、胚性幹細胞(embryonic stem cell:ES細胞)や人工多能性幹細胞(induced pluripotent stem cell:iPS細胞)から分化誘導されたものであり、自律的に収縮・弛緩の拍動運動を所定の時間間隔で周期的に繰り返す。心筋細胞は、細胞同士が接着し合い細胞集団(コロニー)を形成しており、フィーダ細胞とともにディッシュ(培養容器10)内に散布されている。
画像処理装置100では、取得した時系列画像から動きベクトルを検出し、動きベクトルが検出された動きのある領域の画像特徴量を順次算出し、この算出された画像特徴量の時系列変化に基づいて心筋細胞の拍動を検出する構成になっている。それでは、以下にこの画像処理装置100が実行する画像処理方法(細胞の運動検出方法)について基本的な概念から説明する。なお、以降の説明では、第2照明部52及び顕微観察系55等によって構成される位相差顕微鏡によって撮影される位相差画像(顕微観察画像)に基づいて観察を行う場合を例示する。なお、細胞の観察を行う事が可能であれば、位相差観察以外の観察手法を用いても構わない。このとき、顕微観察系55では、観察光学系55aの観察倍率を切り換えることにより低倍観察及び高倍観察が可能である。
(動き領域の抽出)
図4に示すように、心筋細胞MCの拍動運動は、収縮・弛緩を繰り返す周期的な動きであることから、まず、細胞集団(コロニー)を撮影した時系列画像から動きベクトルを検出し、この動きベクトルの検出された領域を動きのある領域(「動き領域」)として抽出する。図12の表1に記載したように、細胞コロニーの「特徴点(重心、始点、終点、屈曲点、分岐点など)」を求めることで動きベクトルを検出する。以下に具体的に説明する。
先ず、心筋細胞MCのコロニーCが撮影された時系列画像(時刻t=1,2,3,…,T−1,T,…)を取得し、この時系列画像における第1の時刻t−1に撮影された第1画像(例えば、図5(a)を参照)と、第1の時刻t−1よりも所定時間後の第2の時刻tに撮影された第2画像(例えば、図5(b)を参照)と、に注目する。
図6に示すように、動きベクトル(図中では符号「V」で示す)は、時刻t−1の第1画像と、次時刻tの第2画像との間で、例えばオプティカルフロー(ブロックマッチング法、勾配法など)等の既知の手法を利用して推定する。この動きベクトルは、例えば各画像において画素単位で検出され、第1画像での注目画素の中心座標(始点)から、この注目画素に対応する第2画像での対応画素の中心座標(終点)までのベクトルとして算出される。より詳細には、動きベクトルは、2つの画像間(第1画像及び第2画像間)における各検出点での動きの向きと大きさを表すベクトル(「速度ベクトル」とも称される)であり、このベクトルの向きが動きの方向を表し、ベクトルの長さが動き量を表している。なお、ここでは、動きベクトルが検出された各画素を動き領域として定義するが、視野画像をN×M画素(複数画素)からなるブロック毎に分割して、動きベクトルをこのブロック単位で検出し、このブロックを動き領域として定義してもよい。
以下では、第1の時刻t−1と第2の時刻tとの間の時間間隔Δtを収縮・弛緩のタイミングに合わせ、第1の時刻t−1を弛緩時とし、第2の時刻tを収縮時として時系列画像を撮影した場合を例示して説明する。なお、取得した時系列画像の中から、少なくとも弛緩時を撮影した第1の画像と収縮時を撮影した第2の画像とを選択することができるならば、時系列画像を取得するサンプリング間隔は特に限定されない。
ここで、心筋細胞MCのコロニーCを時系列で観察した場合、動きベクトルが検出された領域(動き領域)の全てが必ずしも収縮・弛緩を交互に繰り返す拍動部位(拍動領域)であるとは限らない。すなわち、動きベクトルの検出では、拍動している心筋細胞のみが動き領域として検出されるだけでなく、この心筋細胞の収縮・弛緩に引っ張られて移動する周辺細胞(フィーダ細胞を含む)FCや、ディッシュ内の培地に浮遊して動きを伴っている浮遊細胞NCやゴミGなども動き領域として検出されてしまう。しかしながら、本目的においては、拍動に加担している心筋細胞のみを他と区別して正確に検出されることが好ましい。このとき、心筋細胞MCには核や内部繊維などの内部構造(テクスチャ)が存在し、心筋細胞が収縮・弛緩の拍動(形態変化)を繰り返す際に内部構造が顕著に変化する。より具体的には、収縮時には内部構造が密になり、弛緩時には内部構造が元の状態(収縮時に比して疎)となる。つまり、位相差観察において拍動部位に照射される照明光は、この部位を通過する直接光と回折光とに分かれるが、この回折現象は屈折率に変化がある部位で発生するため、当該回折光は拍動部位の内部構造(位相物体)の形状情報を含み、心筋細胞が収縮・弛緩の拍動を繰り返す際に内部構造の顕著な変化として捉えることが可能である。一方、それ以外の細胞(周辺細胞、浮遊細胞)やゴミなどの異物は動きを伴っていても内部構造の変化が極めて乏しいといえる。そこで、動きベクトルの検出された動き領域に対して、内部構造の変化に関する画像特徴量を時系列で算出し、この画像特徴量の時系列変化に基づいて心筋細胞のコロニーから拍動部位を検出する手法(拍動検出手法)を考える。
(形態的特徴量の時系列変化)
時系列画像における第1画像と第2画像との間で動きベクトルが検出された動き領域につき画像特徴量(形態的特徴量)を算出し、この画像特徴量の時系列変化を算出する。具体的には、各動き領域に対して動きベクトルの始点と終点とに注目し、第1画像に関して当該始点に対応する点近傍(画素近傍)の小領域と、第2画像に関して当該終点に対応する点近傍(画素近傍)の小領域と、で画像の特徴量をそれぞれ算出する。ここで、同一対象について、始点の小領域は時刻t−1での動き領域(又は動き領域を含む領域)を意味し、終点の小領域は時刻tでの動き領域(又は動き領域を含む領域)を意味する。従って、始点の小領域と終点の小領域との画像特徴量の差分をとることにより、第1画像及び第2画像間での動き領域の画像特徴量の時系列変化を導出できる。
画像の特徴量は、公知の種々の指標を用いることができ、例えば以下のようなものを列挙することができる。すなわち、細胞コロニーの内部構造を示すテクスチャ特徴量として、(1)微分の総和、(2)輝度値の分散、(3)空間周波数、などである。
(1)微分の総和
小領域(動き領域)内の輝度の空間方向に対する微分(縦、横、斜め方向の輝度値の差分、Sobel Filterなども含む)により、エッジ強度を算出する。
(2)輝度値の分散
小領域(動き領域)内の輝度値のバラツキをみることで、値が大きければバラツキがあることから、例えば、細胞内の顆粒の増減や核の数や大きさ、密度によるムラを概算できる。
(3)空間周波数
フーリエ変換による空間周波数のスペクトル強度は、前記までのシンプルな特徴量とは違い、より詳細なテクスチャパターンを解析した多次元特徴量である。この相関値を算出することによって、より詳細な情報を捉えることができる。
また、図12の表1に記載するように、細胞コロニーの動き領域を検出するために、時系列画像に基づき細胞コロニーの面積の変化率(収縮・拡張の変化)を算出し、所定値以上の変化率を示す場合にその画素群を動き領域として特定する。更にまた、動き領域は、細胞コロニーのエッジ部分に存在する確率が高く、エッジ部分の輝度変化領域を抽出することで動き領域を特定することも可能である。なお、細胞コロニーの厚みを考慮するためには、前述した通り、露光量などを調整すればよい。
(拍動領域(拍動部位)の抽出)
こうして得られた第1画像におけるテクスチャ特徴量と第2画像におけるテクスチャ特徴量との差分を算出し、この差分を時系列変化量とする。前述したように、拍動部位では収縮・弛緩の繰り返しによって内部構造が密→疎→密→疎→…と交互に形態変化するため、これに応じてテクスチャ特徴量(画像特徴量)も変化する。つまり、内部構造が密になる収縮時にはテクスチャ特徴量は増加し、内部構造が疎になる弛緩時にはテクスチャ特徴量は減少する。そのため、拍動部位に関してテクスチャ特徴量の差分は、ある一定の大きさを有した変化量として表れる。これに対して、非拍動部位である周辺細胞やゴミ等の異物では、動きがあった場合でも内部構造の変化がほとんど見られず、テクスチャ特徴量の変化は乏しい。そこで、テクスチャ特徴量の変化量と予め設定した所定の閾値とを比較し、テクスチャ特徴量の変化量が所定の閾値以上である場合に、そのテクスチャ変化を持つ領域(動き領域)を拍動領域として判別する。
所定の閾値は、例えば拍動検出に先立って、代表的な心筋細胞のコロニーを観察し、このコロニーに存在する拍動部位をサンプリングして得られたテクスチャ特徴量の時系列変化を基準として予め算出しておくことが好ましい。なお、例えばユーザインターフェースにより所定の閾値を任意に変更できるようにしてもよい。このユーザインターフェースでは、操作パネル71において「閾値設定」が選択されると、表示パネル72に「スライドレバー」が表示されて、マウスやキーボード等を用いたスライドレバーのドラッグ操作を行うことにより(スライドレバーを移動させることにより)、所望の閾値を選択可能に構成する。
なお、画像特徴量としては、前述のテクスチャ特徴量に限定されず、他の指標を採用してもよく、例えば単純な輝度値(平均輝度値)を用いても同様の効果が得られる。前述したように、拍動部位では収縮・弛緩の繰り返しにより、内部構造が密→疎→密→疎→…と交互に形態変化するため、これに応じて輝度値も変化する。つまり、内部構造が密になる収縮時には照明光が吸収され暗くなり(輝度値が低下し)、内部構造が疎になる弛緩時には透過光が増加して明るくなる(輝度値が増加する)。そのため、拍動部位に関してテクスチャ特徴量の差分は、ある一定の大きさを有した変化量として表れる。これに対して、周辺細胞やゴミ等では、内部構造の変化がほとんど見られず、輝度値の変化も乏しいといえる。このように、輝度値を画像特徴量として採用した場合でも、拍動部位にのみ輝度値の時系列変化が顕著に表れるため、この画像特徴量の変化に基づいて拍動部位を検出することができる。
また、上述のように、心筋細胞は拍動(収縮・弛緩)のタイミングで内部構造が形態変形して画像の特徴量(テクスチャ特徴量、輝度値など)も変化するため、拍動の判別手法として、収縮・弛緩の時間的周期(動きベクトルの往復運動)と、画像の特徴量の時系列変化とが同期していることを条件に追加してもよく、この手法を利用することにより拍動部位をより正確に検出することが可能になる。
また、図12の表1に記載のように、拍動領域は細胞コロニーのエッジ部分に存在する確率が高いため、エッジ幅に合わせた分散フィルタを適用して輝度の分散値を求め、この分散値が所定値以上のものを拍動領域に特定する。また、上記動きベクトルの大小によって動き領域内から拍動部位を特定する。あるいは、動き領域内において、上述のごとく輝度変化・輝度分布を捉え、拍動領域を特定する。あるいは、細胞コロニーの動き領域内の内部構造の空間周波数のスペクトル強度に基づき拍動領域を特定する。
次に、培養観察システムBSの画像処理装置100において実行される画像解析の具体的なアプリケーションについて図1及び図7を併せて参照しながら説明する。ここで、図1は画像処理プログラムGP1における処理の概要を示すフローチャート、図7は画像処理装置100の概要構成を示すブロック図である。
画像処理装置100は、撮像装置54c,55cにより撮影された画像を記憶する画像記憶部110と、画像記憶部110に記憶された画像を取得して解析する画像解析部120と、画像解析部120により解析された解析結果を出力する出力部130とを備えて構成される。画像解析部120は、オプティカルフロー(ブロックマッチング法、勾配法など)等の既知の手法を用いて時系列画像から第1画像及び第2画像間の動きベクトルを検出する動きベクトル検出部121と、動きベクトルが検出された動き領域について画像特徴量の時系列変化を算出する特徴量算出部122と、を備える。出力部130からは、画像解析部120による解析結果、例えば、動きベクトルの検出結果、画像特徴量の時系列変化の情報、拍動運動する心筋細胞の判別結果、などが出力され、表示パネル72への表示や記憶媒体への記録、通信部65を介して外部へのデータ送信等が行われる。
画像処理装置100は、ROM62に設定記憶された画像処理プログラムGPがCPU61に読み込まれ、CPU61によって画像処理プログラムGPに基づく処理が順次実行されることによって構成される。換言すれば、画像処理プログラムGPはハードウェア資源であるCPU61(コンピュータ)を画像処理装置として機能させるためのソフトウェアである。
既述したように、培養観察システムBSでは、観察プログラムにおいて設定された観察条件に従って、所定時間ごとに指定された培養容器10内の心筋細胞集団(コロニー)の観察が行われる。具体的に、CPU61は、搬送ユニット4の各ステージ41,42,43を作動させてストッカー3から観察対象の培養容器10を観察ユニット5に搬送(本実施形態では、顕微観察系55の光軸上に配置)する。CPU61は、試料台15を面内方向(X,Y方向)に移動させるとともに、レンズ駆動機構87により対物レンズを光軸方向に沿って移動させて、培養容器10内の試料と対物レンズとの位置決めを行う。なお、ここでは高倍観察用(例えば10倍)の対物レンズを用いていており、これにより解像度の高い画像に基づいて心筋細胞の内部構造に関する特徴をより定量的に判断できる。
画像解析部120は、画像処理プログラムGPに基づき、撮像装置(説明では顕微観察系の撮像装置55cとする)により撮影され、画像記憶部110に記憶された心筋細胞のコロニーの画像を以下のように画像処理する。
先ず始めにステップS101では、画像解析部120は、画像記憶部110に記憶された時刻t−1の第1画像(例えば、図5(a)に示す弛緩時の画像)と、所定時間を隔てた次時刻tの第2画像(例えば、図5(b)に示す収縮時の画像)とを取得する。
ステップS102では、動きベクトル検出部121は、オプティカルフロー法などの既知の手法を用いて、第1画像及び第2画像間の動きベクトルを画素単位(もしくは複数画素のブロック単位)で検出する。具体的には、図6に示す如く、第1画像及び第2画像間において動きが検出された動き領域(画素またはブロック)に動きベクトルを示す矢印が割り付けられる。
ステップS103では、特徴量算出部122は、動きベクトルが検出された画素近傍の小領域(動き領域)について画像特徴量の時系列変化を算出する。具体的には、動きベクトルごとに、第1画像において動きベクトルの始点にあたる小領域と、第2画像において動きベクトルの終点にあたる小領域とで画像特徴量をそれぞれ算出し、その差分を画像特徴量の変化量として導出する。画像特徴量としては種々の指標を用いることができるが、ここでは前述のようにテクスチャ特徴量や平均輝度値などが例示される。
ステップS104では、画像解析部120は、画像特徴量の変化量と所定の閾値とを比較して、画像特徴量の変化量が所定の閾値以上である小領域を拍動領域(拍動検出領域)として検出する。
ステップS105では、判定結果を出力部130から出力し、表示パネル72等に表示させる。具体的な表示方法として、例えば、拍動検出領域とそれ以外の領域(非拍動領域)とを異なる色相や輝度で表示したり、非拍動領域を塗り潰して表示したり、非拍動領域を除去した画像を表示する等により、拍動検出領域と非拍動領域とを判別可能に表示する。また、出力部130から出力される上記判定結果を、通信部65を介して外部接続されるコンピュータ等に送信して、同様の画像を表示させたり、心筋細胞の状態を観察するための基礎データとして用いたりすることができる。
[心筋細胞コロニーの拍動中心の検出]
ところで、心筋細胞のコロニー内には、その拍動中心にペースメーカー細胞(歩調取り細胞)が存在しており、このペースメーカー細胞から発生した電気信号が心筋細胞同士、異なる細胞間を経て伝達されることで拍動経路を形成していると推測される。そのため、心筋細胞の拍動のメカニズムを解明するためにも、心筋細胞のコロニー内から拍動領域だけではなく拍動中心をも検出することが求められる。
そこで、上記実施形態で例示した拍動検出手法の応用手法として、図8〜図10、図12の表1を追加参照しながら、以下において拍動中心検出手法について説明する。ここで、図8は拍動中心検出手法の流れを説明するための模式図、図9は注目点及び小領域窓を算出する処理を説明するための模式図、図10はコロニー内の拍動中心領域を示す模式図である。
先ず、心筋細胞MCのコロニーCの時系列画像(時刻t=1,2,3,…,T−1,T,…)から動きベクトルを検出し、このコロニーC内において弛緩〜収縮の運きを伴う時刻t−1〜時刻tを捉える。時系列画像から時刻t−1の第1画像と次時刻tの第2画像とを取得し、そのうちの時刻t−1の第1画像に対してコロニーCの最も外側の輪郭を抽出してセグメンテーションを行い、そのコロニーCの内部領域Iを設定する。このような最外輪郭抽出処理には、例えば、分散フィルタを施したのち二値化させる手法や、動的輪郭法(SnakesやLevel Set法)などが挙げられる。
そして、オプティカルフロー法などの既知の手法を利用して第1画像及び第2画像間の動きベクトルを検出し、この検出された動きベクトルのうちから収縮方向の動きベクトル群(図中では符号「VG」で示す)のみを抽出する。ここで、収縮方向の動きベクトル群とは、画像内のある一点(中心)に収束するように配向する複数のベクトルの集まりをいう。
次いで、収縮方向の動きベクトルが検出された或る画素G(m)を注目画素として、注目点P(0)又はこの注目点P(0)を中心とする小領域窓(複数画素のブロック)W(0)を考え、注目点Pを採用する場合にはその位置P(0)での動きベクトルV(P0)を検出し、小領域窓Wの場合にはこのブロックW(0)内での平均ベクトルV(W0)を検出する。この動きベクトルV(P0)又は平均ベクトルV(W0)の向き及び大きさに従って、注目点P(0)を移動させ、新たな注目点P(1)を設定する。
同様に、この注目点P(1)又はこの注目点P(1)を中心とする小領域窓W(1)について動きベクトルV(P1)又は平均ベクトルV(W1)を検出していき、注目点P(n)の移動がなくなるような終着点Pendまで処理を繰り返す。これを内部領域I内で収縮方向の動きベクトルが検出された全ての画素G(m)について実行し、注目点P(n)の移動があった場合の終着点Pendのみを抽出する。図10に示すように、この終着点Pendの集合領域(図中では点線で囲まれた領域)と、上述した拍動検出手法にて検出された拍動検出領域(図中では網掛けの領域)と、で重なる領域を算出することにより、コロニーCの拍動中心領域を検出することができる。
ここで、単に終着点Pendの集合より導出された領域では、動きによる滞留点(細胞は拍動していない)でしかない場合があるが、終着点Pendの集合領域と、前述の拍動検出手法で導出された拍動検出領域と、を組み合わせることにより、詳細な拍動中心(収縮中心)を推定することが可能である。なお、上述の説明では、コロニーCの収縮時に着目して収縮方向の動きベクトルに基づいて拍動中心領域を推定したが、コロニーCの弛緩時においても動きベクトルの向きを逆にすれば同様の効果が得られる。
また、例えば、図8,10から明らかなように、動きベクトルの方向(各部位の位置の変化の方向)を検出すると、複数の動きベクトルの向かう位置(動きベクトルの中心)が拍動領域の中心となる為、複数の動きベクトルの方向が重なる部分(つまり動きベクトルの中心)から直接的に拍動領域の中心を求める事も可能である。この場合、拍動領域を特定せずに、拍動中心を推定することもできる。なお、コロニーCが弛緩している時にはベクトルの方向は図8、10と逆になり、拍動中心から遠ざかる方向に動きベクトルが向かうが、同様に動きベクトルの長さをを延長させて重なる領域が拍動中心となる。
続いて、画像処理装置100において実行される拍動中心検出手法の画像処理方法について図11を追加参照して説明する。ここで、図11は画像処理プログラムGP2における処理の概要を示すフローチャートである。
ステップS201では、ディッシュ内で観察対象となるコロニーCの時系列画像(t=1,2,3,…,T−1,T,…)を撮像装置55cにて撮影する。この時系列画像は画像処理装置100の画像記憶部110に記憶される。
ステップS202では、画像解析部120は、オプティカルフロー法などの既知の手法を利用して時系列画像から動きベクトルを算出することで、コロニーCの収縮状態を検出し、この収縮時の時刻=tを検出する。
ステップS203では、画像解析部120は、ステップS2で設定した時刻tに基づき、画像記憶部110から時刻t−1の第1画像と次時刻tの第2画像とを取得する。なお、先のステップS202で第1画像及び第2画像間の動きベクトルは既に検出されており、コロニーCが弛緩状態から収縮状態へ変形する際の動きベクトルが第1画像上に割り付けられている。
ステップS204では、画像解析部120は、時刻tの第1画像に対して分散フィルタを施したのち二値化させる手法や動的輪郭法(SnakesやLebelSet法)などを利用して、コロニーCのセグメンテーションを行い、コロニーCの内部領域Iを設定する。
ステップS205では、動きベクトル検出部121は、第1画像においてコロニーCの内部領域I内で検出された複数の動きベクトルの中から、収縮方向の動きベクトル群VGを検出する。
ステップS206では、動きベクトル検出部121は、コロニーCの内部領域I内で収縮方向の動きベクトルが検出された画素G(m)、(画素番号m=1,2,3,…M)を動きベクトルの検出点として抽出する。
ステップS207では、画像解析部120は、繰り返し数nに初期値0を設定し、ある画素G(m)の位置を注目点P(n)の初期位置P(0)として設定するとともに、この注目点P(n)を中心とする矩形ブロック状の小領域窓W(0)を設定する。
ステップS208では、画像解析部120は、注目点P(n)を中心とする小領域窓W(n)内で検出された収縮方向の動きベクトルを演算処理して、小領域窓W(n)内の平均ベクトルV(Wn)を算出する。
ステップS209では、画像解析部120は、注目点P(n)を平均ベクトルV(Wn)に従って移動させて次の注目点P(n+1)を設定するとともに、この注目点P(n+1)を中心とする小領域窓W(n+1)を設定する。
ステップS210では、画像解析部120は、次の注目点P(n+1)が元の注目点P(n)から移動したものであるか否か、換言すれば、次の注目点P(n+1)が元の注目点P(n)と異なる位置にあるか否かを判定する。
ステップS210で肯定判定(Yes)の場合、すなわち、次の注目点P(n+1)が元の注目点P(n)から移動したものである場合には、次のステップS211において、繰り返し数nを1インクリメントして、ステップS208に移行する。ステップS210で否定判定(No)の場合、すなわち、次の注目点P(n+1)が元の注目点P(n)と一致する場合には、注目点P(n)の移動が終了したものとみなし、ステップS212において、この注目点P(n)を終着点Pendとして設定する。
ステップS213では、画像解析部120は、内部領域I内で全ての画素G(m)に対して処理を完了したか否かを判定する。ステップS213で否定判定(No)の場合には、ステップS214において、処理対象となる注目画素G(m)の画素番号mを1インクリメントして、ステップS207に移行する。ステップS213で肯定判定(Yes)の場合には、ステップ15において、終着点Pendの集合領域と、上述の実施形態(拍動検出手法)にて検出された拍動検出領域とが重なる領域を抽出する。
ステップS216では、画像解析部120は、ステップS215で算出した抽出領域をコロニーCの拍動中心領域(つまり、この領域内にペースメーカー細胞が存在する)として決定する。
以上説明したように、本実施形態に係る画像処理プログラムGP、この画像処理プログラムGPが実行されることにより構成される画像処理方法(運動検出方法:拍動検出手法)及び画像処理装置100によれば、時系列画像から動きのある領域を抽出して、この動き領域の画像特徴量の時系列変化に基づいて拍動領域を判別するため、ゴミ等の異物や浮遊細胞などを誤検出することなく、心筋細胞の拍動運動を正確に検出することができ、心筋細胞の拍動運動を定量的に評価・判断することが可能となる。
また、拍動検出手法において検出されたコロニーの拍動領域の中から、収縮方向又は弛緩方向の動きベクトル群の流れを利用して拍動中心を検出することで、拍動運動のメカニズムの究明に資することができる。
(心筋細胞の拍動運動の評価に基づく再生医療及び創薬への応用)
上述した実施形態の如く、分化した心筋細胞の拍動中心細胞(ペースメーカー細胞)を特定することで、少なくとも拍動中心細胞の特定された前記細胞コロニーの育成状態を拍動周期から評価する。この評価の結果に基づき心筋細胞の細胞コロニーの培養条件を変更して、心筋細胞の培養条件を最適化することができる。具体的には、心筋細胞の細胞コロニーの培養条件の変更は拍動周期が所定周期と比較されて、その比較結果に基づき培養条件の最適化が行われる。また、上述した実施形態の如く、分化した心筋細胞の拍動中心細胞(ペースメーカー細胞)を特定することで、少なくとも拍動中心細胞の特定された細胞コロニーに所定タイミングで薬剤を滴下し、心筋細胞の薬剤の効果を拍動周期から評価することができる。具体的には、拍動周期と所定周期とを比較して、心筋細胞の薬剤の効果を評価する。また、薬剤の製造方法において、薬剤の上記評価方法を用いて心筋細胞の薬剤の効果を評価し、評価結果を薬剤の成分の調合割合に用いる。
(心筋細胞コロニーのピックアップへの応用)
さらに、上述した実施形態の如く、分化した拍動中心細胞(ペースメーカー細胞心筋細胞)を特定することで、拍動中心細胞の周囲のみを切り出す(ピックアップ)ことで、心筋細胞コロニーの製品化が可能になり、心筋細胞コロニーとしての質の向上や出荷の効率を上げることができる。この拍動中心細胞の周囲のみを切り出す画像処理は、細胞コロニーの輪郭抽出の画像処理、既に説明した最外輪郭抽出処理が適用され、抽出された輪郭線から所定の幅を切り出すことで行う。この所定の幅は実験的に求められたペースメーカー細胞を十分に包含する量が設定される。このように拍動中心細胞の周囲の細胞が特定されると、図3の制御ユニット6において培養容器が載置されたステージ上の座標系(XYZ)が計算される。この座標系に基づき、ピッキングされる拍動中心細胞が特定され、その周囲の細胞とともに自動的にピッキング装置(不図示)によってピッキングされる。ピッキング装置の細胞ピックアップ用針の針先は、ピッキング装置内のCPU(制御部)によって自動駆動されるが、このCPUによって培養容器(シャーレ)内の特定された細胞の座標(ステージ座標系)情報を入力することで所望の細胞の位置に針先を駆動制御する。ピッキング装置は培養容器内の特定された細胞をピッキングし、新たな培養容器に移し替える。また、ピッキング装置は操作者の操作によってもピッキング用針を電動駆動できる。この場合には図3の表示パネル72には培養容器内の細胞コロニーとピッキング用針の針先が同時に映し出され、操作者がその画面を見ながら所望の細胞をピックアップできる構成となっている。
なお、以上説明した本実施形態に係る画像処理プログラムGP,画像処理方法(拍動検出手法)及び画像処理装置100は、上記実施の形態に限定されるものではなく、本発明の技術的思想の範囲内で考えられるその他の形態についても、本発明の範囲内に含まれる。
上述の実施形態では、培養観察システムBSにおいて撮像装置にて撮影され、RAM63に記憶された時系列画像(画像データ)を読み出して心筋細胞の拍動運動を解析する構成を例示したが、これに限定されるものではなく、撮像装置により撮影されて画像を第1、第2画像としてリアルタイムで解析し現時点における拍動運動を解析して表示するように構成してもよく、また、他の観察システムにおいて撮影され磁気記憶媒体等に記録された時系列画像や、通信回線を通じて転送されてきた時系列画像を読み込んで、拍動運動を解析するように構成してもよい。さらに、観察者が観察画像の所定範囲(例えば、特定のコロニーや、コロニー内の特定部位)をマウス等により解析範囲として設定し、この設定された解析範囲について画像処理装置が拍動運動の解析を実行するように構成してもよい。
また、上述の実施形態では、時系列画像における2枚の画像間の動きベクトルを利用して動きのある領域を抽出する構成を例示しているが、これに限定されるものではなく、例えば、移動体追尾等で利用するトラッキング手法や、画像の差分処理、などの他の既知の手法を利用して動きのある領域を抽出してもよい。
なお、上述の実施形態では、コロニーの特定、動き領域の特定、拍動領域の特定、拍動中心の特定を全て実施しているが、全てを必ずしも実施しなければ他の領域の推定ができないわけではなく、いずれか一つの特定を行っても良いし、適宜複数種類の領域の特定を組合わせて実施しても良い。
また、上述の実施形態では、画像特徴量として心筋細胞の内部構造に基づく特徴量(テクスチャ特徴量)を算出する構成を例示しているが、これに限定されるものではなく、例えば、心筋細胞の外形に基づく画像特徴量を用いてもよい。外形に基づく画像特徴量としては、領域の幅や長さ、面積、周囲長、形状の複雑度(周囲長2/面積)などが例示される。
C コロニー
V 動きベクトル
MC 心筋細胞
BS 培養観察システム
GP 画像処理プログラム
5 観察ユニット 6 制御ユニット
54 マクロ観察系 54c 撮像装置
55 顕微観察系 55c 撮像装置
61 CPU 62 ROM
63 RAM 100 画像処理装置
120 画像解析部 121 動きベクトル検出部
122 特徴量算出部 130 出力部

Claims (21)

  1. 所定時間を隔てて観察細胞が撮影された時系列画像を取得し、
    前記取得した前記時系列画像から心筋細胞の候補となる細胞コロニーを抽出し、
    前記抽出した細胞コロニーの中で動きのある動き領域を抽出し、
    前記時系列画像から前記動き領域の細胞の形態的特徴量を算出し、
    前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出し、
    前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する細胞を特定することを特徴とする心筋細胞の運動検出方法。
  2. 前記時系列画像における二以上の画像間の動きベクトルを検出し、
    前記時系列画像において前記動きベクトルが検出された領域を前記動き領域として抽出することを特徴とする請求項1に記載の心筋細胞の運動検出方法。
  3. 前記形態的特徴量が、前記観察細胞の内部構造に関するテクスチャ特徴を利用したものであることを特徴とする請求項1又は2に記載の心筋細胞の運動検出方法。
  4. 前記時系列画像における二以上の画像間の動きベクトルを検出し、
    前記時系列画像において、前記動き領域の前記動きベクトルの時系列変化と、前記形態的特徴量の時系列変化と、が同期的に検出されたときに、当該動き領域の中の周期的な運動を繰り返す細胞部位を前記拍動領域として判別することを特徴とする請求項1に記載の心筋細胞の運動検出方法。
  5. 前記拍動領域の時系列画像における二以上の画像間の動きベクトルを検出し、
    収縮方向の前記動きベクトルから前記拍動領域の画像中の注目点を算出し、前記注目点中心の小領域から拍動中心を算出することを特徴とする請求項4に記載の心筋細胞の運動検出方法。
  6. 前記細胞コロニーの画像に基づき、前記細胞コロニーのエッジ領域を抽出し、前記エッジ領域の画像から前記動き領域を抽出することを特徴とする請求項2に記載の心筋細胞の運動検出方法。
  7. コンピュータにより読み取り可能であり、撮像装置により撮影された画像を取得して画像処理する画像処理装置として前記コンピュータを機能させるための画像処理プログラムであって、
    前記撮像装置によって所定時間を隔てて観察細胞を撮影し、前記観察細胞の時系列画像を取得するステップと、
    前記取得した前記時系列画像から、前記画像処理装置によって心筋細胞の候補となる細胞コロニーを抽出するステップと、
    前記画像処理装置によって、前記抽出した細胞コロニーの中で動きのある動き領域を抽出するステップと、
    前記画像処理装置によって、前記時系列画像から前記動き領域の細胞の形態的特徴量を算出するステップと、
    前記画像処理装置によって、前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出するステップと、
    前記画像処理装置によって、前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する細胞を特定することを前記コンピュータに実現させることを特徴とする画像処理プログラム。
  8. 前記時系列画像における二以上の画像間の動きベクトルを検出するステップと、
    前記時系列画像において前記動きベクトルが検出された領域を前記動き領域として抽出するステップとを備えたことを特徴とする請求項7に記載の画像処理プログラム。
  9. 前記時系列画像における二以上の画像間の動きベクトルを検出するステップと、
    前記時系列画像において、前記動き領域の前記動きベクトルの時系列変化と、前記形態的特徴量の時系列変化と、が同期的に検出されたときに、当該動き領域の中の周期的な運動を繰り返す細胞部位を前記拍動領域として判別するステップとを備えたことを特徴とする請求項7に記載の画像処理プログラム。
  10. 前記拍動領域の時系列画像における二以上の画像間の動きベクトルを検出するステップと、
    収縮方向の前記動きベクトルから前記拍動領域の画像中の注目点を算出し、前記注目点中心の小領域から拍動中心を算出するステップとを備えたことを特徴とする請求項9に記載の画像処理プログラム。
  11. 撮像装置により所定時間を隔てて観察細胞が撮影された時系列画像を取得して画像を解析する画像解析部と、前記画像解析部による解析結果を出力する出力部とを備えた画像処理装置であって、
    前記画像解析部は、前記取得した前記時系列画像から心筋細胞の候補となる細胞コロニーを抽出するコロニー検出部と、前記抽出した細胞コロニーの中で動きのある動き領域を抽出する動き領域検出部と、前記時系列画像から前記動き領域の細胞の形態的特徴量を算出する特徴量算出部と、前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出する拍動領域抽出部と、前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する細胞を特定する中心細胞特定部とを備えたことを特徴とする画像処理装置。
  12. 前記動き領域検出部は、前記時系列画像における二以上の画像間の動きベクトルを検出し、前記時系列画像において前記動きベクトルが検出された領域を前記動き領域として抽出することを特徴とする請求項11に記載の画像処理装置。
  13. 前記画像解析部は、前記時系列画像における二以上の画像間の動きベクトルを検出する動きベクトル検出部と、前記時系列画像において、前記動き領域の前記動きベクトルの時系列変化と前記形態的特徴量の時系列変化とが同期的に検出されたときに、当該動き領域の中の周期的な運動を繰り返す細胞部位を前記拍動領域として判別する判別部とを備えたことを特徴とする請求項11に記載の画像処理装置。
  14. 所定時間を隔てて観察細胞が撮影された時系列画像を取得し、
    前記取得した前記時系列画像から心筋細胞の候補となる細胞コロニーを抽出し、
    前記抽出した細胞コロニーの中で動きのある動き領域を抽出し、
    前記時系列画像から前記動き領域の細胞の形態的特徴量を算出し、
    前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出し、
    前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する中心細胞を特定し、
    少なくとも前記拍動中心細胞の特定された前記細胞コロニーの育成状態を前記拍動周期から評価し、
    前記評価の結果に基づき前記細胞コロニーの培養条件を変更する
    ことを特徴とする心筋細胞の培養方法。
  15. 前記心筋細胞の細胞コロニーの培養条件の変更は前記拍動周期が所定周期と比較されて、その比較結果に基づき行われることを特徴とする請求項14に記載の心筋細胞の培養方法。
  16. 所定時間を隔てて観察細胞が撮影された時系列画像を取得し、
    前記取得した前記時系列画像から心筋細胞の候補となる細胞コロニーを抽出し、
    前記抽出した細胞コロニーの中で動きのある動き領域を抽出し、
    前記時系列画像から前記動き領域の細胞の形態的特徴量を算出し、
    前記形態的特徴量の時系列変化に基づいて、前記観察細胞の周期的な運動を検出して拍動領域を抽出し、
    前記拍動領域の細胞の動きを検出して、前記拍動領域の中心に位置する拍動中心細胞を特定し、
    少なくとも前記拍動中心細胞の特定された細胞コロニーに所定タイミングで薬剤を滴下し、前記心筋細胞の薬剤の効果を前記拍動周期から評価する
    ことを特徴とする薬剤評価方法。
  17. 前記拍動周期と所定周期とを比較して、前記心筋細胞の薬剤の効果を評価することを特徴とする請求項16に記載の薬剤評価方法。
  18. 前記請求項16または請求項17に記載の薬剤評価方法を用いて前記心筋細胞の薬剤の効果を評価し、前記評価結果を薬剤の成分の調合割合に用いることを特徴とする薬剤の製造方法。
  19. 時間を隔てて心筋細胞を含む画像を複数取得し、
    前記複数の画像から、時間と共に位置が変化する部位を複数検出し、
    前記複数部位の位置の変化方向に基づいて前記心筋細胞の動きの中心に位置する細胞を推定する心筋細胞の運動検出方法。
  20. 前記複数の部位の位置変化の大きさに基づいて前記心筋細胞の拍動領域を推定し、
    前記拍動領域内に位置する前記複数部位の位置の変化方向に基づいて前記心筋細胞の動きの中心に位置する細胞を推定する請求項19に記載の心筋細胞の運動検出方法。
  21. 前記複数の画像から心筋細胞の候補となる細胞コロニーを抽出し、
    前記細胞コロニー内に位置する前記複数部位の位置の変化方向に基づいて前記心筋細胞の動きの中心に位置する細胞を推定する請求項19または20に記載の心筋細胞の運動検出方法。
JP2012225242A 2012-10-10 2012-10-10 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置 Active JP6102166B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012225242A JP6102166B2 (ja) 2012-10-10 2012-10-10 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012225242A JP6102166B2 (ja) 2012-10-10 2012-10-10 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017037283A Division JP6424911B2 (ja) 2017-02-28 2017-02-28 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置

Publications (3)

Publication Number Publication Date
JP2014075999A true JP2014075999A (ja) 2014-05-01
JP2014075999A5 JP2014075999A5 (ja) 2015-11-05
JP6102166B2 JP6102166B2 (ja) 2017-03-29

Family

ID=50781909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012225242A Active JP6102166B2 (ja) 2012-10-10 2012-10-10 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置

Country Status (1)

Country Link
JP (1) JP6102166B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015008682A1 (ja) * 2013-07-19 2015-01-22 ソニー株式会社 細胞評価装置および方法、並びにプログラム
WO2016024377A1 (ja) * 2014-08-14 2016-02-18 ソニー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2016042956A1 (ja) * 2014-09-18 2016-03-24 富士フイルム株式会社 細胞培養装置および方法
JP2017108703A (ja) * 2015-12-18 2017-06-22 大日本印刷株式会社 微生物培養装置
WO2017154318A1 (ja) * 2016-03-09 2017-09-14 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び情報処理システム
WO2017169397A1 (ja) * 2016-03-29 2017-10-05 ソニー株式会社 画像処理装置、画像処理方法、及び画像処理システム
JP2017192313A (ja) * 2016-04-18 2017-10-26 学校法人 工学院大学 情報処理装置、方法、及びプログラム
US20180098683A1 (en) * 2015-06-05 2018-04-12 Sony Corporation Image processing device, image processing method, and surgical system
JPWO2017061155A1 (ja) * 2015-10-08 2018-08-02 ソニー株式会社 情報処理装置、情報処理方法及び情報処理システム
JP2021036830A (ja) * 2019-09-04 2021-03-11 株式会社ニコン 画像解析装置、細胞培養観察装置、画像解析方法、プログラム、及び情報処理システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1728856A1 (en) * 2005-06-01 2006-12-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. A method for optically determining the dynamic behaviour of contracting muscle cells
JP2007121106A (ja) * 2005-10-27 2007-05-17 Foundation For Biomedical Research & Innovation 心筋細胞のモニター方法およびモニター装置
WO2011122200A1 (ja) * 2010-03-29 2011-10-06 ソニー株式会社 データ処理装置およびデータ処理方法、画像処理装置および方法、並びに、プログラム
JP2012105631A (ja) * 2010-10-19 2012-06-07 Sony Corp 画像処理装置および方法、並びに、プログラム
JP2012194168A (ja) * 2011-02-28 2012-10-11 Sony Corp 画像処理装置および方法、記録媒体、並びに、プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1728856A1 (en) * 2005-06-01 2006-12-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. A method for optically determining the dynamic behaviour of contracting muscle cells
JP2007121106A (ja) * 2005-10-27 2007-05-17 Foundation For Biomedical Research & Innovation 心筋細胞のモニター方法およびモニター装置
WO2011122200A1 (ja) * 2010-03-29 2011-10-06 ソニー株式会社 データ処理装置およびデータ処理方法、画像処理装置および方法、並びに、プログラム
JP2012105631A (ja) * 2010-10-19 2012-06-07 Sony Corp 画像処理装置および方法、並びに、プログラム
JP2012194168A (ja) * 2011-02-28 2012-10-11 Sony Corp 画像処理装置および方法、記録媒体、並びに、プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CYTOMETRY A., 2009, VOL.75, NO.4, PP.298-308, JPN6016027575, ISSN: 0003484642 *
TISSUE ENG. PART C METHODS, 2012 [AVAILABLE ONLINE ON 2011.10.11], VOL.18, NO.1, PP.21-32, JPN6016027577, ISSN: 0003484643 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015008682A1 (ja) * 2013-07-19 2015-01-22 ソニー株式会社 細胞評価装置および方法、並びにプログラム
US10157459B2 (en) 2013-07-19 2018-12-18 Sony Corporation Cell evaluation apparatus and method to search for an area to be observed in cardiomyocytes
WO2016024377A1 (ja) * 2014-08-14 2016-02-18 ソニー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2016042956A1 (ja) * 2014-09-18 2016-03-24 富士フイルム株式会社 細胞培養装置および方法
US20180098683A1 (en) * 2015-06-05 2018-04-12 Sony Corporation Image processing device, image processing method, and surgical system
EP3305171A4 (en) * 2015-06-05 2019-01-16 Sony Corporation IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND SURGICAL SYSTEM
JPWO2017061155A1 (ja) * 2015-10-08 2018-08-02 ソニー株式会社 情報処理装置、情報処理方法及び情報処理システム
JP2017108703A (ja) * 2015-12-18 2017-06-22 大日本印刷株式会社 微生物培養装置
WO2017154318A1 (ja) * 2016-03-09 2017-09-14 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び情報処理システム
US10845186B2 (en) 2016-03-09 2020-11-24 Sony Corporation Information processing device, information processing method, and information processing system
WO2017169397A1 (ja) * 2016-03-29 2017-10-05 ソニー株式会社 画像処理装置、画像処理方法、及び画像処理システム
JP2017192313A (ja) * 2016-04-18 2017-10-26 学校法人 工学院大学 情報処理装置、方法、及びプログラム
JP2021036830A (ja) * 2019-09-04 2021-03-11 株式会社ニコン 画像解析装置、細胞培養観察装置、画像解析方法、プログラム、及び情報処理システム

Also Published As

Publication number Publication date
JP6102166B2 (ja) 2017-03-29

Similar Documents

Publication Publication Date Title
JP6102166B2 (ja) 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置
WO2011016189A1 (ja) 細胞の分類手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
US20160370569A1 (en) Cell image acquisition device, method, and program
US10538729B2 (en) Cell imaging control device, method, and program
WO2009119330A1 (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
WO2012029817A1 (ja) 観察装置、観察プログラム及び観察システム
WO2011013319A1 (ja) 細胞塊の成熟判定手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2010146802A1 (ja) 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2011004568A1 (ja) 受精卵観察の画像処理方法、画像処理プログラム及び画像処理装置、並びに受精卵の製造方法
JP2022190082A (ja) 細胞コロニー採集システム
JP6143365B2 (ja) 細胞画像評価装置および方法並びにプログラム
WO2009119329A1 (ja) 細胞観察画像の画像解析方法、画像処理プログラム及び画像処理装置
JP5516108B2 (ja) 観察装置、観察方法、及びプログラム
JP2009229274A (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
US20240095910A1 (en) Plaque detection method for imaging of cells
JP5365691B2 (ja) 生体試料観察装置
JP6343874B2 (ja) 観察装置、観察方法、観察システム、そのプログラム、および細胞の製造方法
JP6424911B2 (ja) 心筋細胞の運動検出方法、心筋細胞の培養方法、薬剤評価方法、画像処理プログラム及び画像処理装置
JP2009229276A (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
JP6567244B2 (ja) 細胞の運動観察方法、画像処理プログラム及び画像処理装置
US20240118527A1 (en) Fluorescence microscopy for a plurality of samples
US20150285785A1 (en) Monitoring and/or characterising biological or chemical material
JP2011010621A (ja) 培養物観察の画像処理方法、画像処理プログラム及び画像処理装置
US20240102912A1 (en) Plaque counting assay method
US20230341748A1 (en) Method and apparatus for displaying cultured cells

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150916

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150916

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170213

R150 Certificate of patent or registration of utility model

Ref document number: 6102166

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250