JP6886306B2 - 位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム - Google Patents

位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム Download PDF

Info

Publication number
JP6886306B2
JP6886306B2 JP2017017994A JP2017017994A JP6886306B2 JP 6886306 B2 JP6886306 B2 JP 6886306B2 JP 2017017994 A JP2017017994 A JP 2017017994A JP 2017017994 A JP2017017994 A JP 2017017994A JP 6886306 B2 JP6886306 B2 JP 6886306B2
Authority
JP
Japan
Prior art keywords
phase
region
phase distribution
axis direction
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017017994A
Other languages
English (en)
Other versions
JP2018124215A (ja
Inventor
石渡 裕
裕 石渡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2017017994A priority Critical patent/JP6886306B2/ja
Priority to US15/863,153 priority patent/US10775603B2/en
Publication of JP2018124215A publication Critical patent/JP2018124215A/ja
Application granted granted Critical
Publication of JP6886306B2 publication Critical patent/JP6886306B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0056Optical details of the image generation based on optical coherence, e.g. phase-contrast arrangements, interference arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/14Condensers affording illumination for phase-contrast observation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/38Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals measured at different points on the optical axis, e.g. focussing on two or more planes and comparing image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure
    • G02B21/26Stages; Adjusting means therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラムに関する。
従来から、位相差顕微鏡や微分干渉顕微鏡などを用いて生体細胞等の位相物体の位相分布を算出して位相物体を可視化することで、位相物体を観察する技術が知られている。また、位相物体内での光の散乱による位相量の減衰分を補償することで、位相分布を高い精度で算出する技術も知られている。このような技術は、例えば、特許文献1に記載されている。
特開2001−272603号公報
細胞が立体的な集合体を形成したスフェロイドやコロニーなどのような比較的大きな位相物体を観察対象物とする場合、減衰した位相量を補償する技術は特に効果的であり、当該技術の更なる改善が求められている。
以上のような実情を踏まえ、本発明の一側面に係る目的は、位相物体の位相分布を高精度に算出する技術を提供することである。
本発明の一態様に係る位相分布算出方法は、位相分布を像強度分布に変換する光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、前記複数の位置で取得した複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正し、前記第1の位相分布を補正することは、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定することと、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、前記減衰特性を算出することは、前記物体領域と前記注目領域との面積比率を算出することと、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む。
本発明の別の態様に係る位相分布算出方法は、位相分布を像強度分布に変換する光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、前記複数の位置で取得した複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正し、前記第1の位相分布を補正することは、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記計測領域中から前記注目領域を特定することと、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、前記減衰特性を算出することは、前記計測領域と前記注目領域との面積比率を算出することと、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む。
本発明の一態様に係る評価方法は、上記態様に記載の位相分布算出方法で前記第1の位相分布を補正することで第2の位相分布を算出し、前記第2の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記3次元領域中から第1の比較対象領域を特定し、前記第2の位相分布と前記第1の閾値よりも小さな位相量である第2の閾値とに基づいて、前記3次元領域中から第2の比較対象領域を特定し、前記第1の比較対象領域と前記第2の比較対象領域の比較結果に基づいて、前記位相物体を評価する。
本発明の一態様に係る画像処理装置は、顕微鏡装置で取得された複数の画像を処理する画像処理装置であって、前記顕微鏡装置は、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、前記画像処理装置は、前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され、前記第1の位相分布を補正することは、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定することと、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、前記減衰特性を算出することは、前記物体領域と前記注目領域との面積比率を算出することと、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む。
本発明の一態様に係る画像処理システムは、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得する顕微鏡装置と、前記複数の位置で前記顕微鏡装置により取得された複数の画像を処理する画像処理装置と、を備え、前記画像処理装置は、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され、前記第1の位相分布を補正することは、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定することと、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、前記減衰特性を算出することは、前記物体領域と前記注目領域との面積比率を算出することと、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む。
本発明の一態様に係るプログラムは、顕微鏡装置で取得された複数の画像を処理する画像処理装置のプログラムであって、前記顕微鏡装置は、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得するように構成され、前記画像処理装置を、前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出する手段、前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正する手段、として機能させ、前記第1の位相分布を補正する手段は、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定する手段と、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定する手段と、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、前記減衰特性に基づいて、前記物体領域の位相量を補正する手段、を含み、前記減衰特性を算出する手段は、前記物体領域と前記注目領域との面積比率を算出する手段と、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、を含む
本発明の別の態様に係る画像処理装置は、顕微鏡装置で取得された複数の画像を処理する画像処理装置であって、前記顕微鏡装置は、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、前記画像処理装置は、前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され、前記第1の位相分布を補正することは、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記計測領域中から前記注目領域を特定することと、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、前記減衰特性を算出することは、前記計測領域と前記注目領域との面積比率を算出することと、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む。
本発明の別の態様に係る画像処理システムは、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得する顕微鏡装置と、前記複数の位置で前記顕微鏡装置により取得された複数の画像を処理する画像処理装置と、を備え、前記画像処理装置は、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され、前記第1の位相分布を補正することは、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記3次元領域中から選択された計測領域前記注目領域を特定することと、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、前記減衰特性を算出することは、前記計測領域と前記注目領域との面積比率を算出することと、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む。
本発明の別の態様に係るプログラムは、顕微鏡装置で取得された複数の画像を処理する画像処理装置のプログラムであって、前記顕微鏡装置は、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得するように構成され、前記画像処理装置を、前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出する手段、前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正する手段、として機能させ、前記第1の位相分布を補正する手段は、前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定する手段と、前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記計測領域中から前記注目領域を特定する手段と、前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、前記減衰特性に基づいて、前記物体領域の位相量を補正する手段、を含み、前記減衰特性を算出する手段は、前記計測領域と前記注目領域との面積比率を算出する手段と、前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、を含む。
上記の態様によれば、位相物体の位相分布を高精度に算出することができる。
画像処理システム100の構成を例示した図である。 顕微鏡装置20の構成を例示した図である。 画像処理装置30の構成を例示した図である。 補正位相分布算出処理のフローチャートの一例である。 画像取得処理のフローチャートの一例である。 位相分布算出処理のフローチャートの一例である。 位相物体を側面から見た図である。 撮像領域P1の位相量のヒストグラムである。 撮像領域P2の位相量のヒストグラムである。 位相分布補正処理のフローチャートの一例である。 補正前における物体領域と注目領域との面積比率の深さ方向の変化を示した図である。 補正前における物体領域と注目領域との面積比率の深さ方向の変化を示した拡大図である。 補正後における物体領域と注目領域との面積比率の深さ方向の変化を示した拡大図である。 位相分布補正処理のフローチャートの別の例である。 位相分布補正処理のフローチャートの更に別の例である。 位相物体評価処理のフローチャートの一例である。 位相物体評価処理のフローチャートの別の例である。
[第1の実施形態]
図1は、画像処理システム100の構成を例示した図である。図2は、顕微鏡装置20の構成を例示した図である。図3は、画像処理装置30の構成を例示した図である。図1から図3を参照しながら、画像処理システム100の構成について説明する。
本実施形態に係る画像処理システム100は、生体細胞等の位相物体の画像を取得し、取得した画像を処理することで、位相物体を可視化し評価するシステムである。画像処理システム100は、図1に示すように、顕微鏡装置20と、顕微鏡装置20で取得した画像を処理する画像処理装置30と、画像処理装置30で処理された画像を表示する表示装置40と、入力装置(キーボード51、マウス52)を備えている。
顕微鏡装置20は、図1に示すように、位相物体であるサンプルSの画像を取得する顕微鏡本体1と、顕微鏡本体1を制御する制御装置14と、を備えている。顕微鏡本体1は、図2に示すように、位相分布を像強度分布に変換する光学系1aと、光学系1aに含まれている光学素子を動かす複数の駆動装置(駆動装置15、16、17、18)と、撮像装置13を備えている。制御装置14は、顕微鏡本体1と一体的に構成されてもよく、顕微鏡本体1とは別体であってもよい。
光学系1aは、照明系と、ステージ8と、検出系を備えている。照明系には、光源2と、レンズ3と、視野絞り4と、像コントラスト変化ユニット5と、ノマルスキープリズム6と、コンデンサレンズ7が含まれる。像コントラスト変化ユニット5は、偏光子5aとλ/4板5bを有している。検出系には、対物レンズ9、ノマルスキープリズム10、検光子11、及び結像レンズ12が含まれる。撮像装置13は、例えば、CCD(Charge Coupled Device)イメージセンサを備えるカメラである。複数の駆動装置は、例えば、ステッピングモータなどのモータである。
光源2から出射した光は、レンズ3及び視野絞り4を介して入射する偏光子5aで直線偏光に変換され、λ/4板5bで円偏光又は楕円偏光に変換される。その後、光はノマルスキープリズム6で常光線と異常光線とに分離されて、コンデンサレンズ7によりステージ8上に配置されたサンプルSに照射される。サンプルSを透過した常光線と異常光線は、対物レンズ9を介して入射するノマルスキープリズム10で合成される。合成された光は、検光子11を介して入射した結像レンズ12によってCCDカメラ13の受光面に集光し、サンプルSの微分干渉像を形成する。このようにして微分干渉像が得られる。
常光線と異常光線は、サンプルSにおいてわずかに異なる位置に入射する。この位置ずれ量をシアー量といい、位置ずれの方向をシアー方向という。駆動装置16、駆動装置18は、ノマルスキープリズム6、ノマルスキープリズム10を回転させる装置である。制御装置14が駆動装置16及び駆動装置18を制御することで、顕微鏡装置20は、シアー方向の異なる微分干渉像を得ることができる。
異なる位置からサンプルSに入射した常光線と異常光線は、サンプルSの厚みや屈折率が異なる位置を通過することになる。このため、常光線と異常光線の間の光路長差によってノマルスキープリズム10で合成された光に位相差が生じる。この位相差はリターデーションともいう。駆動装置15は、偏光子5aを回転させる装置である。制御装置14が駆動装置15を制御することで、顕微鏡装置20は、ノマルスキープリズム6へ入射した時点における光の位相差(リタデーション)を変更することができる。これにより、撮像装置13へ入射した時点における光の位相差(リタデーション)も変化するため、微分干渉像の像コントラストを変更することができる。
駆動装置17は、ステージ8を光学系1aの光軸方向に移動させる装置である。制御装置14が駆動装置17を制御することで、顕微鏡装置20は、光学系1aの焦点位置を光学系1aの光軸方向に異なるサンプルS内の複数の位置に順次移動させて、それら複数の位置の各々で光学系1aを介して微分干渉像を取得することができる。
画像処理装置30は、例えば、標準的なコンピュータである。画像処理装置30は、図3に示すように、プロセッサ31、メモリ32、入出力インターフェース33、ストレージ34、及び、可搬記録媒体36が挿入される可搬記録媒体駆動装置35を備え、これらがバス37によって相互に接続されている。
プロセッサ31は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)などであり、プログラムを実行してプログラムされた処理、例えば、後述する補正位相分布算出処理、位相物体評価処理などを行う。メモリ32は、例えば、RAM(Random Access Memory)であり、プログラムの実行の際に、ストレージ34または可搬記録媒体36に記録されているプログラムまたはデータを一時的に記憶する。
入出力インターフェース33は、画像処理装置30以外の装置(例えば、顕微鏡装置20、表示装置40、キーボード51、マウス52など)と信号をやり取りする回路である。ストレージ34は、例えば、ハードディスク、フラッシュメモリであり、主に各種データやプログラムの記録に用いられる。可搬記録媒体駆動装置35は、光ディスクやコンパクトフラッシュ(登録商標)等の可搬記録媒体36を収容するものである。可搬記録媒体36は、ストレージ34を補助する役割を有する。ストレージ34及び可搬記録媒体36は、それぞれプログラムを記録した非一過性のコンピュータ読取可能媒体の一例である。
なお、図3に示す構成は、画像処理装置30のハードウェア構成の一例であり、画像処理装置30はこの構成に限定されるものではない。画像処理装置30は、汎用装置ではなく専用装置であってもよい。画像処理装置30は、プログラムを実行するプロセッサの代わりに又は加えて、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などの電気回路を備えてもよく、それらの電気回路により、後述する処理が行われてもよい。
表示装置40は、例えば、液晶ディスプレイ、有機ELディスプレイである。表示装置40は、タッチパネルを備えてもよく、その場合、表示装置40は、入力装置としても機能する。
図4は、補正位相分布算出処理のフローチャートの一例である。図5は、画像取得処理のフローチャートの一例である。図6は、位相分布算出処理のフローチャートの一例である。図7は、位相物体であるサンプルSを側面から見た図である。図8Aは、撮像領域P1の位相量のヒストグラムである。図8Bは、撮像領域P2の位相量のヒストグラムである。図9は、位相分布補正処理のフローチャートの一例である。図10Aは、補正前における物体領域と注目領域との面積比率の深さ方向の変化を示した図である。図10Bは、補正前における物体領域と注目領域との面積比率の深さ方向の変化を示した拡大図である。図10Cは、補正後における物体領域と注目領域との面積比率の深さ方向の変化を示した拡大図である。図4から図10Cを参照しながら、画像処理システム100で行われる処理について説明する。
図4に示す補正位相分布算出処理は、位相物体であるサンプルSの位相分布を高精度に算出する処理であり、画像取得処理(ステップS10)、位相分布算出処理(ステップS20)、位相分布補正処理(ステップS30)の3つの処理を含んでいる。なお、画像取得処理は、顕微鏡装置20で行われ、位相分布算出処理及び位相分布補正処理は、画像処理装置30で行われる。
画像処理システム100は、補正位相分布算出処理を開始すると、顕微鏡装置20で画像取得処理を行う(ステップS10)。画像取得処理では、顕微鏡装置20は、図5に示すように、まず、像コントラストの異なる複数の画像を取得する(ステップS11)。
より詳細には、制御装置14は、シアー方向が基準方向に対して45°方向になるように、駆動装置16、駆動装置18にノマルスキープリズム6、ノマルスキープリズム10を回転させる。その後、制御装置14は、駆動装置15に偏光板5aを回転させることによりノマルスキープリズム6へ入射した時点でのリターデーションを±θ、0に順番に変化させて、撮像装置13に像コントラストの異なる3枚の微分干渉画像I1(−θ)、I1(0)、I1(θ)を取得させる。さらに、制御装置14は、シアー方向が基準方向に対して−45°方向になるように、駆動装置16、駆動装置18にノマルスキープリズム6、ノマルスキープリズム10を回転させる。その後、制御装置14は、駆動装置15に偏光板5aを回転させることによりノマルスキープリズム6へ入射した時点でのリターデーションを±θ、0に順番に変化させて、撮像装置13に再び像コントラストの異なる3枚の微分干渉画像I2(−θ)、I2(0)、I2(θ)を取得させる。撮像装置13が取得した微分干渉画像は、画像処理装置30へ送信され、画像処理装置30のストレージ34に格納される。
次に、顕微鏡装置20は、光学系1aの焦点位置を光軸方向に移動する(ステップS12)。ここでは、制御装置14が駆動装置17にステージ8を光軸方向に所定距離Δzだけ移動させることで、焦点位置が光軸方向に移動する。
焦点位置の移動が完了すると、顕微鏡装置20は、移動後の焦点位置が位相分布を算出する所定の3次元領域内か否かを判定する(ステップS13)。そして、顕微鏡装置20は、焦点位置が所定の3次元領域外になるまで、ステップS11からステップS13の処理を繰り返し、その後、画像取得処理を終了する。これにより、顕微鏡装置20によって、光学系1aの焦点位置が光軸方向にΔzずつ異なる位相物体S内の複数の位置に順次移動し、それら複数の位置の各々で光学系1aを介して像コントラストの異なる複数の微分干渉画像が取得される。なお、所定の3次元領域は、位相分布を算出する対象とする領域として予め設定された領域である。
画像取得処理が終了すると、画像処理システム100は、画像処理装置30で位相分布算出処理を行う(ステップS20)。位相分布算出処理では、画像処理装置30は、図6に示すように、まず、同じ焦点位置で取得された複数の微分干渉画像をストレージ34からメモリ32へ読み出す(ステップS21)。
次に、画像処理装置30は、位相成分画像を生成する(ステップS22)。ここでは、プロセッサ31は、ステップS21で読み出した取得した複数の微分干渉画像を用いて以下の演算を行うことで、規格化された位相成分画像をシアー方向毎に生成する。ここで、Def1、Def2は、規格化された位相成分画像である。
Def1={I1(θ)−I1(−θ)}/{I1(θ)+I1(−θ)−I1(0)}
Def2={I2(θ)−I2(−θ)}/{I2(θ)+I2(−θ)−I2(0)}
規格化された位相分布画像を形成することにより、位相物体内の吸収による強度変化の影響を小さくすることができる。
その後、画像処理装置30は、規格化された位相成分画像Def1、Def2を空間周波数で分解する(ステップS23)。ここでは、画像処理装置30は、サイズの異なる複数のカーネルを用いることで、規格化された位相成分画像を、空間周波数が最も低い背景成分の画像と、サンプルS内部で屈折した光によって生成される屈折成分の画像と、サンプルS内部の構造で回折した光によって生成される空間周波数が最も高い構造成分の画像とに分解する。
より詳細には、プロセッサ31は、規格化された位相成分画像Def1、Def2のそれぞれに対して、平均化領域(カーネルサイズ)が100x100の平均化フィルターで平均化処理を数回行い、背景成分の画像BG1、BG2を生成する。さらに、プロセッサ31は、規格化された位相成分画像Def1、Def2のそれぞれから背景成分の画像BG1、BG2を差し引く。さらに、プロセッサ31は、その結果得られた視野ムラなどの外乱が除去された画像(Def1−BG1)、(Def2−BG2)のそれぞれに対して、平均化領域(カーネルサイズ)が20x20の平均化フィルターで平均化処理を数回行い、屈折成分の画像GR1、GR2を生成する。さらに、プロセッサ31は、規格化された位相成分画像Def1、Def2から背景成分の画像BG1、BG2と屈折成分の画像GR1、GR2を差し引き、構造成分の画像ST1(=Def1−BG1−GR1)、ST2(=Def2−BG2−GR2)を生成する。
空間周波数で分解されると、画像処理装置30は、位相分布を算出する(ステップS24)。ここでは、画像処理装置30は、まず、構造成分の画像ST1、ST2に光学系1aの合焦状態における光学伝達関数(OTF)を用いてデコンボリューション処理を行い、物体の微細構造を表す構造成分の位相分布PhS1、PhS2を算出する。その後、画像処理装置30は、構造成分の位相分布PhS1、PhS2を合成して、新たな位相分布を算出する。
なお、構造成分の位相分布PhS1、PhS2は、同じ物体(サンプルS)に対して異なるシアー方向を設定して算出した構造成分の位相分布である。このため、それぞれのシアー方向に対して略垂直な構造に関する位相分布以外は類似している。この点を利用して、構造成分の位相分布PhS1、PhS2に例えば位相限定相関法を適用して2つの画像間の相対的な位置ずれ量(δx、δy)を算出してもよい。算出した相対的な位置ずれ量を用いて構造成分の位相分布PhS1、PhS2間の位置ずれを補正した後に合成し、位相分布を算出してもよい。
位相分布の算出が完了すると、画像処理装置30は、プロセッサ31から全ての焦点位置の微分干渉画像を読み出したか否かを判定する(ステップS25)。全ての焦点位置の微分干渉画像が読み出されていない場合には、画像処理装置30は、ステップS21の焦点位置の次の焦点位置で取得された複数の微分干渉画像をストレージ34からメモリ32へ読み出す(ステップS26)。
その後、画像処理装置30は、全ての焦点位置の微分干渉画像が読み出されるまで、ステップS22からステップS26の処理を繰り返し、位相分布算出処理を終了する。これにより、画像処理装置30によって、顕微鏡装置20が光軸方向に異なる複数の位置で取得した複数の微分干渉画像に基づいて、複数の画像に対応する所定の3次元領域の位相分布が算出される。なお、以降では、図6に示す位相分布算出処理で算出された3次元領域の位相分布を第1の位相分布と記す。
ところで、図2に示す倒立型の顕微鏡装置で図7に示すサンプルSの画像を取得する場合を例にすると、焦点位置Z2で取得した画像は、サンプルSの表面(底面)からより離れた位置で取得した画像であるので、焦点位置Z1で取得した画像よりも光の散乱の影響を大きく受ける。このため、図6に示す位相分布算出処理で算出された第1の位相分布は、焦点位置Z2において散乱の影響により焦点位置Z1に比べて大きく減衰した位相量を示す。
位相物体であるサンプルSが生体細胞等である場合、細胞内でミトコンドリアなどの細胞小器官は一様に分布しているとみなし得る。このため、図8A及び図8Bに示すように、ヒストグラムH1の形状とヒストグラムH2の形状は、散乱による減衰の影響を受けることなく、また、サンプルSの形状によらず、ほぼ相似になる。なお、ヒストグラムH1は、図7に示す焦点位置Z1で取得した画像から算出される位相量のヒストグラムであり、ヒストグラムH2は、焦点位置Z2で取得した画像から算出される位相量のヒストグラムである。一方、散乱による位相量の減衰は、両ヒストグラムの分布位置を異ならせる。なお、細胞に一様に分布するミトコンドリアなどの特定の構造に対応する位相量を閾値T1とするとき、このヒストグラムの分布位置の違いは、ヒストグラムに占める閾値T1以上の位相量の割合の違いとして算出することができる。
細胞による散乱は弱散乱であり、Lambert-Beer則に従って位相量(位相分布)が減衰することを考慮すると、閾値T1以上の位相量の割合の違いと焦点位置間の距離(図7に示す距離d)に基づいて減衰特性を算出することが可能であり、これにより、散乱による減衰の影響を見積もることができる。このため、画像処理システム100では、位相分布算出処理が終了すると、画像処理装置30が、位相物体内での光の散乱による位相量の減衰分が補償されるように、第1の位相分布を補正する位相分布補正処理を行う(ステップS30)。
位相分布補正処理では、画像処理装置30は、図9に示すように、まず、所定の3次元領域から物体領域を特定する(ステップS31)。なお、所定の3次元領域とは、顕微鏡装置20で取得した複数の画像に対応する領域である。ここでは、プロセッサ31は、位相分布算出処理で算出された第1の位相分布に基づいて、所定の3次元像領域中からサンプルSが存在する物体領域を特定する。例えば、位相物体であるサンプルSが存在しない領域では位相量が極めて小さな値となることを利用して、プロセッサ31は、第1の位相分布から所定値以上の位相量を有する領域を抽出し、抽出した領域を物体領域と特定してもよい。
物体領域が特定されると、画像処理装置30は、所定の3次元領域から注目領域を特定する(ステップS32)。なお、注目領域とは、サンプルS中の特定の構造に対応する位相量である閾値T1以上の位相量を有する領域であり、例えば、サンプルS中のミトコンドリアに対応する位相量以上の位相量を有する領域である。閾値T1は、ステップS31で用いる所定値よりも大きな位相量を示している。ここでは、プロセッサ31は、位相分布算出処理で算出された第1の位相分布と閾値T1とに基づいて、注目領域を特定する。
物体領域と注目領域が特定されると、画像処理装置30は、サンプルSの減衰特性を算出する(ステップS33)。ここでは、プロセッサ31は、ステップS32で特定した注目領域の光軸方向(深さ方向)の変化に基づいて、サンプルSの減衰特性を算出する。より具体的には、プロセッサ31は、まず、物体領域と注目領域との面積比率をサンプル底面からの距離毎に算出する。物体領域と注目領域との面積比率とは、物体領域に占める注目領域の割合であり、“注目領域の面積÷物体領域の面積”で算出される。その後、プロセッサ31は、算出した面積比率の光軸方向の変化に基づいて、サンプルSの減衰特性を算出する。なお、正立顕微鏡の場合には、基準面はサンプル底面ではなくサンプル上面となるため、サンプル上面からの距離毎に面積比率を算出すればよい。
図10Aの線L1は、サンプルSの底面からの距離毎に算出した面積比率をプロットしたものである。なお、図10Aに示すサンプルSの底面からの距離が小さいほど、図7に示すz位置も小さくなる。サンプルSの底面から遠くなるほど、光の散乱の影響を大きく受けることになる。このため、底面からの距離によらず一定の割合で存在すると考えられる注目領域が、底面からの距離が長くなるほど小さくなり、その結果、線L1に示すように、面積比率が小さくなる。
サンプルSでの散乱は弱散乱であり、Lambert-Beer則に従って位相量(位相分布)が減衰するため、深さ方向に距離dだけ異なる2点での位相量ΦZ1、ΦZ2は、下式(1)で表される関係を有する。なお、kは位相量に関するサンプルSの減衰特性を示す係数(以降、位相減衰係数と記す。)である。
ΦZ2=ΦZ1×exp(−kd) ・・・(1)
式(1)における位相量は、物体領域と注目領域との面積比率に置き換え可能である。このため、深さ方向に距離dだけ異なる2点での面積比率SRZ1、SRZ2は、下式(2)で表される関係を有する。
SRZ2=SRZ1×exp(−kd) ・・・(2)
つまり、面積比率は、式(2)に示すように、サンプルSの位相減衰係数kに応じて光軸方向に指数関数的に変化する。この特性を利用することで、プロセッサ31は、位相減衰係数kを算出する。プロセッサ31は、底面からの距離毎に算出した面積比率に対して、例えば、最小二乗法等を適用して式(2)に示す関係を有する近似関数を算出することで、位相減衰係数kを算出してもよい。なお、図10Aの線L2は、プロセッサ31によって算出された近似関数を示している。
なお、式(1)、式(2)は、dが小さい場合には、指数関数を展開して下式のように近似することが可能である。
ΦZ2=ΦZ1(1−kd) ・・・(1−1)
SRZ2=SRZ1(1−kd) ・・・(2−1)
つまり、面積比率は、式(2−1)に示すように、局所的にはサンプルSの位相減衰係数kに応じて光軸方向に直線的に変化するとみなすことができる。図10Bは、図10Aに示す拡大範囲を拡大した図であり、図10Bでは、線L2がおよそ直線で表されている。
最後に、画像処理装置30は、減衰特性に基づいて物体領域の位相量を補正する(ステップS34)。ここでは、プロセッサ31は、ステップS33で算出した減衰特性に基づいて、所定の3次元領域のうちのステップS31で特定された物体領域の位相量を補正する。より具体的には、プロセッサ31は、減衰特性に基づいて算出される底面からの距離毎の位相量の減衰分を補償するように、物体領域の位相量を補正する。これは、近似関数である線L2を底面からの距離に寄らず一定値を示す近似関数である線L4に変換することにより行われる。なお、図10Cの線L4が示す一定値は、図7に示すサンプルSの底面における面積比率に相当する。これにより、図10Cの線L3に示すように、面積比率が底面からの距離によらずサンプルSの底面における比率に近づき、ほぼ一定になる。
以上のように、画像処理装置30が図9に示す位相分布補正処理を行うことで、3次元領域中から特定された注目領域の光軸方向の変化に基づいて第1の位相分布が補正されて、散乱による位相量の減衰が抑制された第2の位相分布が算出される。
本実施形態に係る画像処理システム100によれば、図4に示す補正位相分布算出処理を行うことで、散乱による位相量の減衰の影響を補正により小さく抑えることができる。このため、位相物体の位相分布を高精度に算出することができる。従って、例えば、細胞が立体的な集合体を形成したスフェロイドやコロニーなどのような比較的大きな位相物体を観察対象物とする場合であっても、位相物体を良好に可視化することができる。
さらに、第2の位相分布に基づいて位相物体を可視化した画像を表示することで、例えば、多能性細胞の良否判断の精度が向上する、多能性細胞のコロニー内の変質を3次元的に評価できる、スフェロイド内の各細胞の観察が可能となる、などの効果が期待できる。また、スフェロイド内の細胞の変性や壊死などの検出精度が向上する、スフェロイド上部細胞(つまり、スフェロイドの深部)の画像が従来に比べて強調されてはっきりと観察できる、などの効果も期待できる。
図11は、位相分布補正処理のフローチャートの別の例である。画像処理システム100では、図9に示す位相分布補正処理の代わりに、図11に示す位相分布補正処理が行われてもよい。
図11に示す位相分布補正処理は、図9に示す位相分布補正処理と同様に、画像処理装置30により行われる。まず、画像処理装置30は、所定の3次元領域から物体領域を特定する(ステップS41)。ステップS41の処理は、図9のステップS31と同様である。
次に、画像処理装置30は、計測領域の選択を受け付ける(ステップS42)。ここでは、システムの利用者が、ステップS41で特定された物体領域中からキーボード51、マウス52を用いて計測領域を選択し、画像処理装置30が、利用者の操作を検出して選択された計測領域を特定する。なお、選択した計測領域が狭すぎると、計測領域にサンプルS中のある特定の構造のみが含まれてしまうことがあり、サンプルSを代表する領域として相応しくない場合がある。このため、画像処理装置30は、選択された計測領域が狭すぎる場合には、利用者に再設定を促すようにしてもよい。
計測領域が選択されて特定されると、画像処理装置30は、計測領域から注目領域を特定する(ステップS43)。ここでは、プロセッサ31は、第1の位相分布と第1の閾値T1とステップS42で選択された計測領域とに基づいて、計測領域中から注目領域を特定する。なお、注目領域とは、閾値T1以上の位相量を有する領域であり、例えば、サンプルS中のミトコンドリアに対応する位相量以上の位相量を有する領域である。
計測領域と注目領域が特定されると、画像処理装置30は、サンプルSの減衰特性を算出する(ステップS44)。ここでは、プロセッサ31は、ステップS43で算出した注目領域の光軸方向(深さ方向)の変化に基づいて、サンプルSの減衰特性を算出する。より具体的には、プロセッサ31は、まず、計測領域と注目領域との面積比率をサンプルSの底面からの距離毎に算出する。計測領域と注目領域との面積比率とは、計測領域に占める注目領域の割合であり、“注目領域の面積÷計測領域の面積”で算出される。その後、プロセッサ31は、算出した面積比率の光軸方向の変化に基づいて、サンプルSの減衰特性を算出する。なお、減衰特性は、例えば、上述した位相減衰係数として算出される。
最後に、画像処理装置30は、減衰特性に基づいて物体領域の位相量を補正する(ステップS45)。ステップS45の処理は、図9のステップS34の処理と同様である。
図11に示す位相分布補正処理は、物体領域の一部である計測領域と計測領域中の注目領域との面積比率から減衰特性を算出する点が、図9に示す位相分布補正処理とは異なる。減衰特性の算出に用いられる面積比率は、閾値T1に対応する特定の構造が一様に分布している領域とその領域中の注目領域との面積比率であればよい。従って、本実施形態に係る画像処理システム100によれば、図9に示す位相分布補正処理の代わりに、図11に示す位相分布補正処理が行割れた場合であっても、位相量の減衰の影響を補正により小さく抑えて、位相物体の位相分布を高精度に算出することができる。
図12は、位相分布補正処理のフローチャートの更に別の例である。画像処理システム100では、図9に示す位相分布補正処理の代わりに、図12に示す位相分布補正処理が行われてもよい。
図12に示す位相分布補正処理は、図9に示す位相分布補正処理と同様に、画像処理装置30により行われる。まず、画像処理装置30は、所定の3次元領域から物体領域を特定する(ステップS51)。ステップS51の処理は、図9のステップS31と同様である。ただし、ステップS51で特定した物体領域は、以降では、注目領域としても特定される。
次に、画像処理装置30は、物体領域(注目領域)の平均位相量をサンプルSの底面からの距離毎に算出する(ステップS52)。ここでは、プロセッサ31は、第1の位相分布とステップS51で算出した物体領域とに基づいて、物体領域の平均位相量を底面からの距離毎に算出する。
平均位相量が算出されると、画像処理装置30は、サンプルSの減衰特性を算出する(ステップS53)。ここでは、プロセッサ31は、ステップS52で算出した物体領域の平均位相量の光軸方向(深さ方向)の変化に基づいて、サンプルSの散乱係数を算出する。なお、ステップS52で算出した物体領域の平均位相量は、上述した式(1)及び式(1−1)に示す位相量に相当し、ひいては式(2)及び式(2−1)の面積比率に相当する。このため、ステップS53では、面積比率の光軸方向の変化の代わりに、平均位相量の光軸方向の変化を用いる点を除き、図9のステップS33と同様の手順で、減衰特性を算出することができる。
最後に、画像処理装置30は、減衰特性に基づいて物体領域の位相量を補正する(ステップS54)。ステップS54の処理は、図9のステップS34の処理と同様である。
本実施形態に係る画像処理システム100によれば、図9に示す位相分布補正処理の代わりに、図12に示す位相分布補正処理が行われた場合であっても、位相量の減衰の影響を補正により小さく抑えて、位相物体の位相分布を高精度に算出することができる。
図13は、位相物体評価処理のフローチャートの一例である。画像処理システム100は、高精度に算出された位相分布に基づいて位相物体を評価してもよい。以下、図13を参照しながら、サンプルSが多能性細胞であるiPS細胞を含む位相物体である場合を例に、位相物体であるサンプルSの多能性を評価する位相物体評価処理について説明する。
なお、人工多能性を持つように誘導された体細胞である未分化のiPS細胞では、通常の体細胞とは、ミトコンドリアの形態、数量が異なる。また、iPS細胞でも、分化誘導後は、ミトコンドリアの形態、数量は、通常の体細胞におけるミトコンドリアの形態、数量に近くなる。このため、iPS細胞を含む位相物体の多能性は、未分化のiPS細胞と分化誘導後のiPS細胞及び他の体細胞との割合や、それらの分布状況によって評価することができる。
画像処理システム100は、位相物体評価処理を開始すると、補正位相分布算出処理を行い、第2の位相分布を算出する(ステップS61)。ステップS61の処理は、図4に示す補正位相分布算出処理と同様である。
次に、画像処理システム100は、閾値T1に基づいて、所定の3次元領域中から第1の比較対象領域を特定する(ステップS62)。ここでは、プロセッサ31は、ステップS61で算出した第2の位相分布と閾値T1に基づいて、第1の比較対象領域を特定する。なお、閾値T1は、細胞に一様に分布するミトコンドリアなどの特定の構造に対応する位相量であり、より詳細には、iPS細胞ではない通常の体細胞におけるミトコンドリアに対応する位相量である。なお、未分化のiPS細胞におけるミトコンドリアに対応する位相量は、閾値T1よりも小さい。また、第1の比較対象領域とは、所定の3次元領域のうちの閾値T1以上の位相量を有する領域であり、多能性を有しない細胞(つまり、通常の体細胞及び分化誘導後のiPS細胞)が存在する領域である。
さらに、画像処理システム100は、閾値T2に基づいて、所定の3次元領域中から第2の比較対象領域を特定する(ステップS63)。ここでは、プロセッサ31は、ステップS61で算出した第2の位相分布と閾値T2に基づいて、第2の比較対象領域を特定する。なお、閾値T2は、閾値T1よりも小さな位相量であり、例えば、未分化のiPS細胞におけるミトコンドリアに対応する位相量である。また、第2の比較対象領域とは、所定の3次元領域のうちの閾値T2以上の位相量を有する領域であり、細胞(通常の体細胞、未分化のiPS細胞、分化誘導後のiPS細胞を含む)が存在する領域である。
最後に、画像処理システム100は、第1の比較対象領域と第2の比較対象領域の比較結果に基づいて、サンプルSを評価する(ステップS64)。ここでは、プロセッサ31は、まず、第1、第2の比較対象領域のサイズを算出して、さらに、第1の比較対象領域のサイズと第2の比較対象領域のサイズの比率を算出する。なお、サイズとは、大きさのことであり、例えば、面積又は体積のことである。サイズの比率とは、第2の比較対象領域に対する第1の比較対象領域の割合のことであり、“第1の比較対象領域のサイズ÷第2の比較対象領域のサイズ”で算出される。その後、算出したサイズの比率に基づいて、サンプルSを評価する。例えば、比率が高いほど多能性を有しない細胞の存在割合が大きく、多能性が低いと判断することができる。このため、プロセッサ31は、比率に基づいてサンプルSの多能性の高低を判定してもよい。また、プロセッサ31は、判定結果を表示装置40へ出力し表示してもよい。また、プロセッサ31は、第2の位相分布に基づいて可視化したサンプルSの画像上で、第1の比較対象領域と第2の比較対象領域を識別可能に表示してもよい。
本実施形態に係る画像処理システム100によれば、図13に示す位相物体評価処理を行うことで、サンプルSの位相分布を高い精度で算出することできる。また、複数の閾値を用いることで壊死などによってコロニー内で細胞が存在しない領域を誤って評価対象に加えてしまうことを防止することができる。従って、サンプルSの位相分布に基づいて、サンプルSを正しく評価することができる。
以上では、サンプルSの多能性を評価する例を示したが、位相物体評価処理で評価する対象は、サンプルSの多能性に限らない。異なる位相量を示す複数の閾値に基づいて、サンプルSを様々な観点から評価することができる。例えば、閾値T1を通常の体細胞におけるミトコンドリアに対応する位相量に設定し、閾値T2にガン細胞におけるミトコンドリアに対応する位相量を設定しても良い。これらの閾値に基づいて、第1の比較対象領域のサイズと第2の比較対象領域のサイズの比率を算出することで、細胞のガン化の進行度合いを評価してもよい。また、閾値には、ミトコンドリアに限らず、任意の細胞小器官に対応する位相量が設定されてもよい。また、第1の比較対象領域のサイズと第2の比較対象領域のサイズの比率は、体積比率であっても面積比率であってもよい。例えば、所定の3次元領域中の特定の断面に注目し、注目した断面中における第1、第2の比較対象領域の面積比率を算出することで、位相物体の多能性等を評価してもよい。
また、第1、第2の比較対象領域を所定の3次元領域から特定する例を示したが、例えば、細胞単位で、第1、第2の比較対象領域を特定しても良い。この場合、サンプルS単位ではなく、細胞単位で多能性等を評価することができる。
[第2の実施形態]
図14は、本実施形態に係る位相物体評価処理のフローチャートの一例である。なお、本実施形態に係る画像処理システム(以降、単に画像処理システムと記す)の構成は、画像処理システム100と同様である。画像処理システムは、画像処理装置30が位相分布補正処理を行わない点が、画像処理システム100とは異なる。以下、図14を参照しながら、本実施形態に係る位相物体評価処理について説明する。
画像処理システムは、位相物体評価処理を開始すると、顕微鏡装置20が画像取得処理を行い(ステップS71)、画像処理装置30が位相分布算出処理を行う(ステップS72)。これにより、第1の位相分布が算出される。なお、ステップS71、ステップS72の処理は、それぞれ、図4のステップS10、ステップS20の処理と同様である。
その後、画像処理システムは、閾値T1に基づいて、所定の3次元領域中から第1の比較対象領域を特定し(ステップS73)、閾値T2に基づいて、所定の3次元領域中から第2の比較対象領域を特定する(ステップS74)。ここで、閾値T1、閾値T2は、それぞれ、例えば、iPS細胞ではない通常の体細胞におけるミトコンドリアに対応する位相量、未分化のiPS細胞におけるミトコンドリアに対応する位相量である。また、閾値T2は、閾値T1よりも小さな位相量である。なお、ステップS73、ステップS74の処理は、それぞれ、図13のステップS62、ステップS63の処理と同様である。
最後に、画像処理システムは、第1の比較対象領域と第2の比較対象領域の比較結果に基づいて、サンプルSを評価する(ステップS75)。ステップS75の処理は、図13のステップS64の処理と同様である。
本実施形態に係る画像処理システムによっても、複数の閾値が用いられるため、壊死などによってコロニー内で細胞が存在しない領域を誤って評価対象に加えてしまうことを防止することができる。従って、図13に示す位相物体評価処理を行うことで、サンプルSの位相分布に基づいてサンプルSを正しく評価することができる。
上述した実施形態は、発明の理解を容易にするための具体例を示したものであり、本発明の実施形態はこれらに限定されるものではない。位相分布算出方法、評価方法、画像処理装置、及び、画像処理システムは、特許請求の範囲の記載を逸脱しない範囲において、さまざまな変形、変更が可能である。例えば、図2には、サンプルSの構造(位相分布)を像強度分布として撮像素子の受光面に投影する微分干渉顕微鏡の光学系1aを例示したが、顕微鏡装置の光学系は位相分布を像強度分布に変換する光学系であればよく、例えば、位相差顕微鏡の光学系であってもよい。
1・・・顕微鏡本体、2・・・光源、3・・・レンズ、4・・・視野絞り、5・・・像コントラスト変化ユニット、5a・・・偏光子、5b・・・λ/4板、6、10・・・ノマルスキープリズム、7・・・コンデンサレンズ、8・・・ステージ、9・・・対物レンズ、11・・・検光子、12・・・結像レンズ、13・・・撮像装置、14・・・制御装置、15、16、17、18・・・駆動装置、20・・・顕微鏡装置、30・・・画像処理装置、31・・・プロセッサ、32・・・メモリ、33・・・入出力インターフェース、34・・・ストレージ、35・・・可搬記録媒体駆動装置、36・・・可搬記録媒体、37・・・バス、40・・・表示装置、51・・・キーボード、52・・・マウス、100・・・画像処理システム、H1、H2・・・ヒストグラムL1、L2、L3、L4・・・線、S・・・サンプル

Claims (12)

  1. 位相分布を像強度分布に変換する光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、
    前記複数の位置で取得した複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、
    前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正し、
    前記第1の位相分布を補正することは、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定することと、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、
    前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、
    前記減衰特性を算出することは、
    前記物体領域と前記注目領域との面積比率を算出することと、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む
    ことを特徴とする位相分布算出方法。
  2. 位相分布を像強度分布に変換する光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、
    前記複数の位置で取得した複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、
    前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正し、
    前記第1の位相分布を補正することは、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記計測領域中から前記注目領域を特定することと、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、
    前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、
    前記減衰特性を算出することは、
    前記計測領域と前記注目領域との面積比率を算出することと、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む
    ことを特徴とする位相分布算出方法。
  3. 請求項又は請求項に記載の位相分布算出方法において、
    前記第1の閾値は、ミトコンドリアに対応する位相量である
    ことを特徴とする位相分布算出方法。
  4. 請求項1又は請求項2に記載の位相分布算出方法において、
    前記第1の位相分布を補正することは、さらに、
    前記第1の位相分布に基づいて、前記3次元領域中から前記物体領域を前記注目領域として特定することを含み、
    前記減衰特性を算出することは、前記注目領域の平均位相量の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することを含む
    ことを特徴とする位相分布算出方法。
  5. 請求項1又は請求項2に記載の位相分布算出方法で前記第1の位相分布を補正することで第2の位相分布を算出し、
    前記第2の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記3次元領域中から第1の比較対象領域を特定し、
    前記第2の位相分布と前記第1の閾値よりも小さな位相量である第2の閾値とに基づいて、前記3次元領域中から第2の比較対象領域を特定し、
    前記第1の比較対象領域と前記第2の比較対象領域の比較結果に基づいて、前記位相物体を評価する
    ことを特徴とする評価方法。
  6. 請求項に記載の評価方法において、
    前記位相物体を評価することは、
    前記第1の比較対象領域のサイズと前記第2の比較対象領域のサイズの比率を算出することと、
    前記算出したサイズの比率に基づいて、前記位相物体を評価することと、を含む
    ことを特徴とする評価方法。
  7. 顕微鏡装置で取得された複数の画像を処理する画像処理装置であって、
    前記顕微鏡装置は、
    位相分布を像強度分布に変換する光学系を備え、
    前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、
    前記画像処理装置は、
    前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、
    前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され
    前記第1の位相分布を補正することは、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定することと、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、
    前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、
    前記減衰特性を算出することは、
    前記物体領域と前記注目領域との面積比率を算出することと、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む
    ことを特徴とする画像処理装置。
  8. 位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得する顕微鏡装置と、
    前記複数の位置で前記顕微鏡装置により取得された複数の画像を処理する画像処理装置と、を備え、
    前記画像処理装置は、
    前記複数の画像に対応する3次元領域の第1の位相分布を算出し、
    前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され
    前記第1の位相分布を補正することは、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定することと、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、
    前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、
    前記減衰特性を算出することは、
    前記物体領域と前記注目領域との面積比率を算出することと、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む
    ことを特徴とする画像処理システム。
  9. 顕微鏡装置で取得された複数の画像を処理する画像処理装置のプログラムであって、
    前記顕微鏡装置は、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得するように構成され、
    前記画像処理装置を、
    前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出する手段、
    前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正する手段、として機能させ
    前記第1の位相分布を補正する手段は、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定する手段と、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値とに基づいて、前記注目領域を特定する手段と、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、
    前記減衰特性に基づいて、前記物体領域の位相量を補正する手段、を含み、
    前記減衰特性を算出する手段は、
    前記物体領域と前記注目領域との面積比率を算出する手段と、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、を含む
    ことを特徴とするプログラム。
  10. 顕微鏡装置で取得された複数の画像を処理する画像処理装置であって、
    前記顕微鏡装置は、
    位相分布を像強度分布に変換する光学系を備え、
    前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得し、
    前記画像処理装置は、
    前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出し、
    前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され、
    前記第1の位相分布を補正することは、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記計測領域中から前記注目領域を特定することと、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、
    前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、
    前記減衰特性を算出することは、
    前記計測領域と前記注目領域との面積比率を算出することと、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む
    ことを特徴とする画像処理装置。
  11. 位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得する顕微鏡装置と、
    前記複数の位置で前記顕微鏡装置により取得された複数の画像を処理する画像処理装置と、を備え、
    前記画像処理装置は、
    前記複数の画像に対応する3次元領域の第1の位相分布を算出し、
    前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正するように構成され、
    前記第1の位相分布を補正することは、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定することと、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記3次元領域中から選択された計測領域前記注目領域を特定することと、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、
    前記減衰特性に基づいて、前記物体領域の位相量を補正すること、を含み、
    前記減衰特性を算出することは、
    前記計測領域と前記注目領域との面積比率を算出することと、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出することと、を含む
    ことを特徴とする画像処理システム。
  12. 顕微鏡装置で取得された複数の画像を処理する画像処理装置のプログラムであって、
    前記顕微鏡装置は、位相分布を像強度分布に変換する光学系を備え、前記光学系の焦点位置を前記光学系の光軸方向に異なる位相物体内の複数の位置に順次移動させて、前記複数の位置の各々で前記光学系を介して画像を取得するように構成され、
    前記画像処理装置を、
    前記複数の位置で前記顕微鏡装置により取得された前記複数の画像に基づいて、前記複数の画像に対応する3次元領域の第1の位相分布を算出する手段、
    前記第1の位相分布に基づいて前記3次元領域中から特定された注目領域の前記光軸方向の変化に基づいて、前記第1の位相分布を補正する手段、として機能させ、
    前記第1の位相分布を補正する手段は、
    前記第1の位相分布に基づいて、前記3次元領域中から前記3次元領域のうちの前記位相物体が存在する物体領域を特定する手段と、
    前記第1の位相分布と前記位相物体内の特定の構造に対応する位相量である第1の閾値と前記3次元領域中から選択された計測領域とに基づいて、前記計測領域中から前記注目領域を特定する手段と、
    前記注目領域の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、
    前記減衰特性に基づいて、前記物体領域の位相量を補正する手段、を含み、
    前記減衰特性を算出する手段は、
    前記計測領域と前記注目領域との面積比率を算出する手段と、
    前記面積比率の前記光軸方向の変化に基づいて、前記位相物体の減衰特性を算出する手段と、を含む
    ことを特徴とするプログラム。
JP2017017994A 2017-02-02 2017-02-02 位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム Active JP6886306B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017017994A JP6886306B2 (ja) 2017-02-02 2017-02-02 位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム
US15/863,153 US10775603B2 (en) 2017-02-02 2018-01-05 Phase distribution calculation method, evaluation method, and image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017017994A JP6886306B2 (ja) 2017-02-02 2017-02-02 位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム

Publications (2)

Publication Number Publication Date
JP2018124215A JP2018124215A (ja) 2018-08-09
JP6886306B2 true JP6886306B2 (ja) 2021-06-16

Family

ID=62979776

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017017994A Active JP6886306B2 (ja) 2017-02-02 2017-02-02 位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム

Country Status (2)

Country Link
US (1) US10775603B2 (ja)
JP (1) JP6886306B2 (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5610897A (en) * 1992-08-31 1997-03-11 Canon Kabushiki Kaisha Optical information reproducing apparatus
JP3292314B2 (ja) * 1992-09-11 2002-06-17 キヤノン株式会社 光学的検出装置
US5751475A (en) 1993-12-17 1998-05-12 Olympus Optical Co., Ltd. Phase contrast microscope
JP3540352B2 (ja) 1993-12-17 2004-07-07 オリンパス株式会社 位相差顕微鏡
JP3943620B2 (ja) 1995-04-24 2007-07-11 オリンパス株式会社 微分干渉顕微鏡
JP4673955B2 (ja) * 2000-03-24 2011-04-20 オリンパス株式会社 光学装置
US9008406B2 (en) * 2009-10-09 2015-04-14 Kawasaki Jukogyo Kabushiki Kaisha Method and apparatus for discriminating undifferentiated pluripotent stem cells, and automated culture method and system
JP5740101B2 (ja) 2010-04-23 2015-06-24 国立大学法人名古屋大学 細胞評価装置、インキュベータ、細胞評価方法、細胞評価プログラムおよび細胞の培養方法
JP5814684B2 (ja) 2010-09-03 2015-11-17 オリンパス株式会社 位相物体の可視化方法及び可視化装置
MX346624B (es) * 2011-09-13 2017-03-27 Koninklijke Philips Nv Sistema y metodo para la deteccion de anormalidades en una muestra biologica.
JP6124774B2 (ja) * 2013-03-22 2017-05-10 オリンパス株式会社 位相分布計測方法、及び、位相分布計測装置

Also Published As

Publication number Publication date
US10775603B2 (en) 2020-09-15
JP2018124215A (ja) 2018-08-09
US20180217369A1 (en) 2018-08-02

Similar Documents

Publication Publication Date Title
US7929044B2 (en) Autofocus searching method
US9400254B2 (en) Method and device for measuring critical dimension of nanostructure
JP7568639B2 (ja) 設定可能焦点オフセットによって試料表面を追跡するための自動焦点調節システム
US10563177B2 (en) Evaluating a pluripotent stem cell based on a region of a phase distribution image having a phase amount less than a threshold phase amount of a mitochondrion in a somatic cell
CN108254295B (zh) 一种定位与表征球形微粒的方法及其装置
US9915919B2 (en) Microscope, method and computer program for obtaining quantitative phase images by means of digital holographic microscopy
CN107113370A (zh) 图像捕获装置及图像捕获方法
JPWO2020066041A1 (ja) 顕微鏡システム
WO2020258434A1 (zh) 一种基于tie的相位成像方法、装置及可读存储介质
JP2023542619A (ja) 試料のデジタル画像の品質管理のためのコンピュータ実装方法
CN106153579A (zh) 测量装置、测量方法和程序
WO2011052172A1 (ja) 撮像装置およびそれを用いた測距装置
JP6886306B2 (ja) 位相分布算出方法、評価方法、画像処理装置、画像処理システム、プログラム
US20200412961A1 (en) Apparatus and method for controlling apparatus
WO2019021621A1 (ja) 試料観察装置及び試料観察方法
JP2015102694A (ja) アライメント装置、顕微鏡システム、アライメント方法、及びアライメントプログラム
TWI751184B (zh) 產生一樣本之三維(3-d)資訊之方法及三維(3-d)量測系統
AU2011265379A1 (en) Single shot image based depth mapping
JP2018017970A (ja) 光シート顕微鏡、及び、光シート顕微鏡の制御方法
KR101195370B1 (ko) 초점 정보 제공 장치 및 초점 조절 장치
JP2008111726A (ja) 3次元位相計測方法とそれに使われる微分干渉顕微鏡
Kwon et al. Numerical phase-detection autofocusing method for digital holography reconstruction processing
US11972590B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and storage medium
JP2002221665A (ja) 収束光偏光顕微鏡装置および収束光偏光顕微鏡観察方法
JP4496149B2 (ja) 寸法測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200122

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201208

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210203

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20210203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210420

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210514

R151 Written notification of patent or utility model registration

Ref document number: 6886306

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250