WO2021261158A1 - 情報処理装置、その作動方法及び作動プログラム - Google Patents

情報処理装置、その作動方法及び作動プログラム Download PDF

Info

Publication number
WO2021261158A1
WO2021261158A1 PCT/JP2021/019891 JP2021019891W WO2021261158A1 WO 2021261158 A1 WO2021261158 A1 WO 2021261158A1 JP 2021019891 W JP2021019891 W JP 2021019891W WO 2021261158 A1 WO2021261158 A1 WO 2021261158A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
focus position
reconstruction
original image
initial position
Prior art date
Application number
PCT/JP2021/019891
Other languages
English (en)
French (fr)
Inventor
拓明 山本
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to EP21828784.5A priority Critical patent/EP4175283A4/en
Priority to JP2022532438A priority patent/JP7397196B2/ja
Publication of WO2021261158A1 publication Critical patent/WO2021261158A1/ja
Priority to US18/069,279 priority patent/US20230121799A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

合焦位置の探索を高速化することが可能な情報処理装置、その作動方法及び作動プログラムを提供する。観察対象物体の干渉縞像を含む原画像を再構成する情報処理装置であって、少なくとも1つのプロセッサを備え、プロセッサは、原画像を取得する原画像取得処理と、原画像取得処理により取得された原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成する再構成処理と、再構成画像が生成されるたびに再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出する合焦位置検出処理と、合焦位置を記録する合焦位置記録処理と、合焦位置記録処理により記録した合焦位置に基づき、次回の再構成処理における初期位置を決定する初期位置決定処理と、原画像取得処理、再構成処理、合焦位置検出処理、合焦位置記録処理、及び初期位置決定処理を1撮像周期ごとに実行する繰り返し処理とを実行する。

Description

情報処理装置、その作動方法及び作動プログラム
 本開示の技術は、情報処理装置、その作動方法及び作動プログラムに関する。
 細胞等の小さな観察対象物体を撮像する装置を小型化するために、光学系部品を排除した、いわゆるレンズフリーのデジタルホログラフィが知られている。デジタルホログラフィでは、レーザ光等のコヒーレントな光を発する光源を用いて観察対象物体を撮像し、撮像により得られた干渉縞像を含む画像を再構成することにより、任意の再構成位置において再構成画像を生成することができる。再構成処理には、撮像センサから光源方向への距離に対応する位置である再構成位置がパラメータとして用いられる。以下、再構成を行う前の干渉縞像を含む画像を原画像という。
 観察対象物体に対して再構成位置が適切でない場合には、得られる再構成画像が不鮮明となる。そこで、再構成処理において、再構成位置をパラメータとして、鮮明な再構成画像が得られる合焦位置を探索することが提案されている(例えば、特許文献1参照)。なお、再構成位置は、特許文献1に記載の焦点距離に対応する位置である。
 また、デジタルホログラフィにおいて、微小な流路であるマイクロ流路(マイクロ流体チャネルとも称される。)に流れる細胞等を観察対象として撮像を行うことが知られている(例えば、特許文献2参照)。特許文献2には、マイクロ流路に流れる観察対象物体を撮像センサにより動画撮像しながら、原画像をリアルタイムに処理することにより、細胞の選別等を行うことが開示されている。
特表2017-168602号公報 特開2017-075958号公報
 特許文献2に記載のようにマイクロ流路を流れる観察対象物体を動画撮像する場合には、マイクロ流路における観察対象物体の深さ方向(撮像センサの撮像面に直交する方向)に関する位置は一定でなく、ばらつきが生じる。このため、鮮明な再構成画像を得るためには、1撮像周期ごとに得られる原画像に基づいて合焦位置を探索する必要がある。原画像をリアルタイムに処理する場合には、少なくとも1撮像周期内に合焦位置の探索を終了する必要があるので、合焦位置の探索の高速化が求められる。
 本開示の技術は、合焦位置の探索を高速化することが可能な情報処理装置、その作動方法及び作動プログラムを提供することを目的とする。
 上記目的を達成するために、本開示の情報処理装置は、観察対象物体の干渉縞像を含む原画像を再構成する情報処理装置であって、少なくとも1つのプロセッサを備え、プロセッサは、原画像を取得する原画像取得処理と、原画像取得処理により取得された原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成する再構成処理と、再構成処理により再構成画像が生成されるたびに再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出する合焦位置検出処理と、合焦位置検出処理により検出した合焦位置を記録する合焦位置記録処理と、合焦位置記録処理により記録した合焦位置に基づき、次の再構成処理における初期位置を決定する初期位置決定処理と、原画像取得処理、再構成処理、合焦位置検出処理、合焦位置記録処理、及び初期位置決定処理を1撮像周期ごとに実行する繰り返し処理とを実行する。
 プロセッサは、初期位置決定処理において、合焦位置記録処理により過去に記録された1以上の合焦位置のうち、直前の撮像周期で得られた合焦位置を初期位置として決定することが好ましい。
 プロセッサは、初期位置決定処理において、合焦位置記録処理により過去に記録された1以上の合焦位置の統計量に基づいて初期位置を決定することが好ましい。
 統計量は、最頻値、中央値、又は平均値であることが好ましい。
 プロセッサは、再構成処理において、初期位置から鮮鋭度が高くなる方向へ再構成位置を変更することが好ましい。
 プロセッサは、撮像周期が異なる2つの原画像又は2つの再構成画像の差分量を算出する差分処理と、差分処理により算出された差分量が一定値以下である場合に、繰り返し処理を停止する停止処理と、をさらに実行することが好ましい。
 プロセッサは、差分処理により算出された差分量が一定値以下である場合に、報知情報を出力する報知情報出力処理をさらに実行することが好ましい。
 プロセッサは、合焦位置検出処理により検出した合焦位置における再構成画像を最適再構成画像として出力する最適再構成画像出力処理を、繰り返し処理において実行することが好ましい。
 本開示の情報処理装置の作動方法は、観察対象物体の干渉縞像を含む原画像を再構成する情報処理装置の作動方法であって、原画像を取得する原画像取得処理と、原画像取得処理により取得された原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成する再構成処理と、再構成処理により再構成画像が生成されるたびに再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出する合焦位置検出処理と、合焦位置検出処理により検出した合焦位置を記録する合焦位置記録処理と、合焦位置記録処理により記録した合焦位置に基づき、次の再構成処理における初期位置を決定する初期位置決定処理と、原画像取得処理、再構成処理、合焦位置検出処理、合焦位置記録処理、及び初期位置決定処理を1撮像周期ごとに実行する繰り返し処理とを実行する。
 本開示の作動プログラムは、観察対象物体の干渉縞像を含む原画像を再構成する処理をコンピュータに実行させる作動プログラムであって、原画像を取得する原画像取得処理と、原画像取得処理により取得された原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成する再構成処理と、再構成処理により再構成画像が生成されるたびに再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出する合焦位置検出処理と、合焦位置検出処理により検出した合焦位置を記録する合焦位置記録処理と、合焦位置記録処理により記録した合焦位置に基づき、次の再構成処理における初期位置を決定する初期位置決定処理と、原画像取得処理、再構成処理、合焦位置検出処理、合焦位置記録処理、及び初期位置決定処理を1撮像周期ごとに実行する繰り返し処理とをコンピュータに実行させる。
 本開示の技術によれば、合焦位置の探索を高速化することが可能な情報処理装置、その作動方法及び作動プログラムを提供することができる。
第1実施形態に係るデジタルホログラフィシステムの構成の一例を示す図である。 撮像装置の構成の一例を示す図である。 撮像センサの構成の一例を示す図である。 細胞により干渉縞像が生成される様子を示す図である。 回折光及び透過光が、互いに強め合う場合における波面を示す図である。 回折光及び透過光が、互いに弱め合う場合における波面を示す図である。 撮像センサから出力される原画像の一例を示す図である。 情報処理装置のハードウェア構成の一例を示すブロック図である。 情報処理装置の機能構成の一例を示すブロック図である。 撮像装置の撮像動作を説明する図である。 再構成画像生成部による再構成処理を説明する図である。 再構成位置の変更処理を説明する図である。 再構成位置の変更方向の決定処理を説明する図である。 繰り返し処理の流れの一例を示すフローチャートである。 再構成処理の流れの一例を示すフローチャートである。 合焦位置検出処理の流れの一例を示すフローチャートである。 合焦位置の探索処理を説明する図である。 初期位置決定処理の流れの一例を示すフローチャートである。 初期位置決定処理の一例を示す図である。 第2実施形態に係る情報処理装置の機能構成を示すブロック図である。 第2実施形態に係る繰り返し処理の流れを示すフローチャートである。 停止判定処理の一例を示すフローチャートである。
 添付図面に従って本開示の技術に係る実施形態の一例について説明する。
 [第1実施形態]
 図1は、第1実施形態に係るデジタルホログラフィシステム2の構成を示す。デジタルホログラフィシステム2は、情報処理装置10と撮像装置11とで構成される。情報処理装置10には、撮像装置11が接続されている。
 情報処理装置10は、例えば、デスクトップ型のパーソナルコンピュータである。情報処理装置10には、ディスプレイ5、キーボード6、及びマウス7などが接続されている。キーボード6及びマウス7は、ユーザが情報を入力するための入力デバイス8を構成する。入力デバイス8には、タッチパネル等も含まれる。
 図2は、撮像装置11の構成の一例を示す。撮像装置11は、光源20及び撮像センサ22を有する。光源20は、例えばレーザーダイオードである。光源20は、発光ダイオードとピンホールとを組み合わせて構成されたものであってもよい。
 光源20と撮像センサ22との間には、マイクロ流路13が配置される。マイクロ流路13は、例えばシリコーン樹脂により形成された流路ユニットに形成されており、液体を流すことが可能な流路である。流路ユニットは、透光性を有しており、流路ユニットの外部からマイクロ流路13内に光を照射することが可能である。マイクロ流路13には、細胞12等を含む溶液14を導入するための開口部13Aと、マイクロ流路13に導入された溶液14を排出するための開口部13Bが設けられている。
 溶液14は、図示しないタンクからマイクロ流路13の開口部13Aに導入され、マイクロ流路13内を一定の速度で流れて開口部13Bから排出される。光源20、撮像センサ22、及びマイクロ流路13は、例えば、図示しないインキュベータ内に配置されている。撮像装置11は、例えば、溶液14に含まれる細胞12を撮像対象として撮像を行う。細胞12は、本開示の技術に係る「観察対象物体」の一例である。
 光源20は、マイクロ流路13に向けて照射光23を照射する。照射光23は、コヒーレントな光である。照射光23は、マイクロ流路13に入射し、マイクロ流路13を透過した後、撮像センサ22の撮像面22Aに入射する。なお、矢印で示すZ方向は、照射光23の照射方向である。マイクロ流路13は、溶液14の流れる方向が、Z方向にほぼ直交するように配置されている。
 なお、マイクロ流路13の形状、及び開口部13A,13Bの数は、適宜変更可能である。また、光源20と撮像センサ22との間に配置されるマイクロ流路13の数は1に限られず、2以上であってもよい。本実施形態では、光源20と撮像センサ22との間に1つのマイクロ流路13が配置されているとする。
 撮像センサ22は、例えば、モノクロのCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサにより構成されている。撮像センサ22の撮像動作は、情報処理装置10により制御される。撮像センサ22は、撮像面22Aが、Z方向に直交するように配置されている。なお、撮像面22Aと、マイクロ流路13が形成された流路ユニットとの距離Lは、可能な限り小さいことが好ましい。また、撮像面22Aと流路ユニットとを接触させる(すなわち、L=0とする)ことも好ましい。
 マイクロ流路13内の溶液14に照射光23が入射し、細胞12で照射光23が回折されることにより、細胞12の形状が反映された干渉縞像が生じる。干渉縞像は、ホログラム画像とも称される。
 図3は、撮像センサ22の構成の一例を示す。撮像センサ22は、撮像面22Aに配置された複数の画素22Bを有する。画素22Bは、入射光を光電変換することにより、入射光量に応じた画素信号を出力する光電変換素子である。
 画素22Bは、X方向及びY方向に沿って等ピッチで配列されている。画素22Bの配列は、いわゆる正方配列である。なお、X方向は、Z方向に直交する方向である。Y方向は、X方向及びZ方向に直交する方向である。画素22Bは、X方向に第1配列ピッチΔxで配列されており、かつ、Y方向に第2配列ピッチΔyで配列されている。
 撮像センサ22は、撮像面22Aに入射する光を撮像し、画素22Bの各々から出力される画素信号により構成される画像データを出力する。以下では、単に、画像を出力するという。
 図4は、細胞12により干渉縞像33が生成される様子を示す。マイクロ流路13に入射した照射光23は、一部が細胞12によって回折される。すなわち、照射光23は、細胞12によって回折される回折光30と、細胞12によって回折されず、マイクロ流路13を透過する透過光31とに分かれる。透過光31は平面波である。回折光30及び透過光31は、マイクロ流路13を透過して、撮像センサ22の撮像面22Aに入射する。
 回折光30と透過光31とは、互いに干渉することにより、干渉縞像33を生成する。干渉縞像33は、明部36及び暗部38により構成される。図4では、干渉縞像33は、明部36及び暗部38をそれぞれ円形として図示しているが、干渉縞像33の形状は、細胞12の形状及び内部構造に応じて変化する。撮像センサ22は、撮像面22Aに形成された干渉縞像33を含む光像を撮像し、干渉縞像33を含む原画像OP(図7参照)を出力する。
 図5及び図6は、回折光30及び透過光31の波面を示す。図5は、回折光30及び透過光31が、互いに強め合う場合における波面を示す。図6は、回折光30及び透過光31が、互いに弱め合う場合における波面を示す。図5及び図6において、実線は回折光30及び透過光31の最大振幅の波面を示す。これに対して、破線は回折光30及び透過光31の最小振幅の波面を示す。
 図5において、撮像面22A上に示す白点35は、回折光30及び透過光31の波面が揃って強め合う部分である。白点35の部分は、干渉縞像33の明部36(図4参照)に対応する。図6において、撮像面22A上に示す黒点37は、回折光30及び透過光31の波面が半波長分ずれて弱め合う部分である。黒点37の部分は、干渉縞像33の暗部38(図4参照)に対応する。
 図7は、撮像センサ22から出力される原画像OPの一例を示す。図7に示す原画像OPは、撮像センサ22の撮像領域に含まれる1つの細胞12(図4参照)により照射光23が回折されることにより生じた1つの干渉縞像33が含まれている。
 図8は、情報処理装置10のハードウェア構成の一例を示す。図8に示すように、情報処理装置10は、CPU(Central Processing Unit)40、記憶装置41、及び通信部42を備え、これらはバスライン43を介して相互接続されている。また、バスライン43には、前述のディスプレイ5及び入力デバイス8が接続されている。
 CPU40は、記憶装置41に格納された作動プログラム41A及び各種データ(図示せず)を読み出して処理を実行することにより、各種機能を実現する演算装置である。CPU40は、本開示の技術に係るプロセッサの一例である。
 記憶装置41は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、又はストレージ装置等を含む。RAMは、例えば、ワークエリア等として用いられる揮発性メモリである。ROMは、例えば、作動プログラム41A及び各種データを保持するフラッシュメモリ等の不揮発性メモリである。ストレージ装置は、例えば、HDD(Hard Disk Drive)又はSSD(Solid State Drive)である。ストレージは、OS(Operating System)、アプリケーションプログラム、画像データ、及び各種データ等を記憶する。
 通信部42は、LAN(Local Area Network)又はWAN(Wide Area Network)等のネットワークを介した各種情報の伝送制御を行うネットワークインターフェースである。情報処理装置10は、通信部42を介して撮像装置11に接続される。ディスプレイ5は、各種画面を表示する。情報処理装置10は、各種画面を通じて、入力デバイス8からの操作指示の入力を受け付ける。
 図9は、情報処理装置10の機能構成の一例を示す。情報処理装置10の機能は、作動プログラム41Aに基づいてCPU40が処理を実行することにより実現される。図9に示すように、CPU40には、撮像制御部50、画像処理部51、繰り返し制御部52、及び表示制御部53が構成される。
 撮像制御部50は、撮像装置11の動作を制御する。具体的には、撮像制御部50は、光源20による照射光23の発生動作、及び撮像センサ22の撮像動作を制御する。以下、光源20による照射光23の発生動作と、撮像センサ22の撮像動作とを合わせて、撮像装置11の撮像動作という。撮像制御部50は、入力デバイス8から入力される操作信号に基づいて、撮像装置11に撮像動作を実行させる。
 撮像制御部50は、1撮像周期ごとに周期的に撮像を行うように撮像装置11を駆動する。すなわち、撮像装置11は、動画撮像を行う。図10に示すように、撮像装置11は、1撮像周期ごとに撮像動作を行い、原画像OPを出力する。
 画像処理部51は、撮像装置11から出力される原画像OP(図7参照)に基づいて再構成処理及び合焦位置検出処理等を行い、観察対象物体である細胞12にフォーカスが合った最適再構成画像を出力する。
 繰り返し制御部52は、撮像装置11の撮像周期に同期して、画像処理部51に、再構成処理及び合焦位置検出処理等を繰り返し実行させる。画像処理部51は、1撮像周期ごとに、最適再構成画像を出力する。
 表示制御部53は、画像処理部51から1撮像周期ごとに出力される最適再構成画像を、ディスプレイ5に表示させる。これにより、ディスプレイ5には、最適再構成画像がリアルタイムに表示される。
 撮像制御部50は、入力デバイス8から撮像開始信号が入力されたことに応じて、撮像装置11に撮像動作を開始させ、入力デバイス8から撮像停止信号が入力されたことに応じて、撮像装置11の撮像動作を停止させる。繰り返し制御部52は、撮像装置11が撮像動作を開始することに応じて画像処理部51に動作を開始させ、撮像動作が停止することに応じて画像処理部51の動作を停止させる。
 画像処理部51は、原画像取得部60、再構成画像生成部61、合焦位置検出部62、合焦位置記録部63、初期位置決定部64、及び最適再構成画像出力部65を有する。
 原画像取得部60は、1撮像周期ごとに、撮像装置11がマイクロ流路13を撮像した結果出力される原画像OP(図10参照)を取得する。原画像取得部60は、取得した原画像OPを記憶装置41に記憶させる。
 再構成画像生成部61は、再構成位置を変更しながら原画像OPを再構成して、各再構成位置において再構成画像RPを生成する。具体的には、図11に示すように、再構成画像生成部61は、再構成位置Pを一定値ずつ変更しながら、再構成位置Pを変更するたびに再構成画像RPを生成する。再構成位置Pは、撮像センサ22の撮像面22Aから光源20の方向への距離dにより表される位置(いわゆる深さ位置)である。
 再構成画像生成部61は、例えば、下式(1)~(3)で表されるフレネル変換式に基づいて再構成処理を行う。
Figure JPOXMLDOC01-appb-M000001
Figure JPOXMLDOC01-appb-M000002
Figure JPOXMLDOC01-appb-M000003
 ここで、I(x,y)は、原画像OPを表す。xは、撮像センサ22の画素22B(図3参照)のX方向に関する座標を表す。yは、画素22BのY方向に関する座標を表す。Δxは、前述の第1配列ピッチであり、Δyは、前述の第2配列ピッチである(図3参照)。λは、照射光23の波長である。
 式(1)に示すように、Γ(m,n)は、原画像OPがフレネル変換された複素振幅画像である。ここで、m=1,2,3,・・・Nx-1、及びn=1,2,3,・・・Ny-1である。Nxは、撮像面22AにおけるX方向への画素22Bの配列数を表している。Nyは、撮像面22AにおけるY方向への画素22Bの配列数を表している。
 式(2)に示すように、A(m,n)は、複素振幅画像Γ(m,n)の強度成分を表す強度分布画像である。式(3)に示すように、φ(m,n)は、複素振幅画像Γ(m,n)の位相成分を表す位相分布画像である。
 再構成画像生成部61は、式(1)に原画像OPを適用することにより複素振幅画像Γ(m,n)を求め、求めた複素振幅画像Γ(m,n)を、式(2)又は式(3)に適用することにより、強度分布画像A(m,n)又は位相分布画像φ(m,n)を求める。再構成画像生成部61は、強度分布画像A(m,n)と位相分布画像φ(m,n)とのうちのいずれか1つを求めて、再構成画像RPとして出力し、記憶装置41に記憶させる。
 本実施形態では、再構成画像生成部61は、位相分布画像φ(m,n)を再構成画像RPとして出力する。位相分布画像φ(m,n)は、観察対象物体の屈折率分布を表す画像である。本実施形態での観察対象物体である細胞12は、半透明であるので、照射光23の大部分は、細胞12により吸収されずに、透過するか、又は回折されるので、強度分布には像がほとんど現れない。このため、本実施形態では、再構成画像RPとして位相分布画像φ(m,n)を用いることが好ましい。
 照射光23の波長λは、例えば、撮像装置11から供給される撮像条件11Aに含まれる。再構成画像生成部61は、撮像条件11Aに含まれる波長λの値を用いて、式(1)の演算を行う。また、再構成画像生成部61は、再構成位置Pに対応する距離dを一定値ずつ変更しながら式(1)の演算を行うことにより複素振幅画像Γ(m,n)を求め、求めた複素振幅画像Γ(m,n)を、式(2)又は式(3)に適用する。
 また、再構成画像生成部61は、後述する初期位置決定部64から供給される初期位置Piから再構成位置Pの変更を開始する。再構成画像生成部61は、例えば、図12に示すように、初期位置Piから矢印Dで示す方向(以下、変更方向Dという。)に、再構成位置Pを一定値ΔPずつ変更しながら再構成画像RPの生成を繰り返す。なお、図12に示すP1及びP2は、Z方向に関して、観察対象物体である細胞12が存在し得る範囲の下限及び上限にそれぞれ対応する。再構成画像生成部61は、下限位置P1から上限位置P2の範囲内で、再構成位置Pを変更する。再構成位置Pの変更は、式(1)の距離dを変更することに対応する。
 また、再構成画像生成部61は、再構成位置Pの初期位置Piからの変更方向Dを、後述する合焦位置検出部62により算出される再構成画像RPの鮮鋭度に基づいて決定する。例えば、再構成画像生成部61は、初期位置Piから鮮鋭度が高くなる方向を、変更方向Dとする。再構成画像生成部61は、例えば、図13に示すように、初期位置Piから上限位置P2の方向へ一定値ΔPだけずらした位置(Pi+ΔP)における鮮鋭度を合焦位置検出部62から取得する。再構成画像生成部61は、位置(Pi+ΔP)の鮮鋭度が、初期位置Piの鮮鋭度より高くなった場合には、初期位置Piから上限位置P2へ向かう方向を、変更方向Dとする。再構成画像生成部61は、逆に、位置(Pi+ΔP)の鮮鋭度が、初期位置Piの鮮鋭度より低くなった場合には、初期位置Piから下限位置P1へ向かう方向を、変更方向Dとする。
 なお、再構成画像生成部61は、フレネル変換式を用いる方法に限られず、フーリエ反復位相回復法等により再構成処理を行ってもよい。
 図9に戻り、合焦位置検出部62は、再構成画像生成部61から出力されて記憶装置41に記憶される各再構成画像RPの鮮鋭度を求め、鮮鋭度が極大化される再構成位置P(以下、合焦位置Pm)を探索する。合焦位置検出部62は、1撮像周期ごとに、合焦位置Pmを検出して合焦位置記録部63に入力する。
 合焦位置検出部62は、例えば、再構成画像RPのコントラスト値を鮮鋭度として算出する。なお、合焦位置検出部62は、再構成画像RPにおける細胞12の像の広がりを断面プロファイル等で評価した値を鮮鋭度としてもよい。また、合焦位置検出部62は、フーリエ解析等によって周波数解析を行うことにより鮮鋭度を求めてもよい。
 合焦位置記録部63は、1撮像周期ごとに合焦位置検出部62から入力される合焦位置Pmを、記憶装置41に順次記録する合焦位置記録処理を行う。
 初期位置決定部64は、合焦位置記録部63により1撮像周期ごとに合焦位置Pmが記録されるたびに、記憶装置41に記録されている過去の1以上の合焦位置Pmに基づき、再構成画像生成部61が次の撮像周期で再構成処理に用いるための初期位置Piを決定する。初期位置決定部64は、例えば、複数の合焦位置Pmの統計量(例えば、最頻値、中央値、又は平均値)に基づいて初期位置Piを決定する。初期位置決定部64は、決定した初期位置Piを、再構成画像生成部61に入力する。
 最適再構成画像出力部65は、合焦位置記録部63により1撮像周期ごとに合焦位置Pmが記録されるたびに、合焦位置Pmに対応する再構成画像RPを記憶装置41から取得する。また、最適再構成画像出力部65は、取得した再構成画像RPを最適再構成画像として表示制御部53に出力する最適再構成画像出力処理を行う。
 図14は、繰り返し制御部52による繰り返し処理の流れの一例を示す。撮像装置11による撮像動作(図10参照)が開始されると、原画像取得部60は、第1番目の撮像周期に対応する原画像OPを取得する(ステップS10)。原画像取得部60が取得した原画像OPは、記憶装置41に記憶される。
 次に、再構成画像生成部61は、記憶装置41から原画像OPを読み込み、再構成位置Pを初期位置Piに設定したうえで前述の再構成処理を行うことにより、再構成画像RPを生成する(ステップS20)。再構成画像生成部61により生成された再構成画像RPは、記憶装置41に記憶される。
 次に、合焦位置検出部62は、記憶装置41から再構成画像RPを読み込み、当該再構成画像RPの鮮鋭度を算出し、算出した鮮鋭度に基づき、合焦位置Pmを検出する(ステップS30)。なお、合焦位置Pmは、鮮鋭度が極大化される再構成位置Pであるので、合焦位置Pmの検出には、少なくとも3枚の再構成画像RPについて鮮鋭度を算出する必要がある。このためには、ステップS30が少なくとも3回繰り返される必要がある。
 繰り返し制御部52は、合焦位置検出部62により合焦位置Pmが検出されたか否かを判定する(ステップS40)。繰り返し制御部52は、合焦位置Pmが検出されなかったと判定した場合には(ステップS40:NO)、処理をステップS20に戻す。ステップS20及びステップS30の各処理は、ステップS40において判定が肯定されるまでの間、繰り返し実行される。
 繰り返し制御部52は、合焦位置検出部62により合焦位置Pmが検出された場合には(ステップS40:YES)、処理をステップS50に移行させる。ステップS50では、合焦位置記録部63は、合焦位置検出部62により検出された合焦位置Pmを、記憶装置41に記録する。
 次に、初期位置決定部64は、過去に記憶装置41に記録された1以上の合焦位置Pmに基づき、次の撮像周期における再構成処理(ステップS20)で用いる初期位置Piを決定する(ステップS60)。初期位置決定部64により決定された初期位置Piは、再構成画像生成部61に供給される。
 最適再構成画像出力部65は、今回の撮像周期で記憶装置41に記録された合焦位置Pmに対応する再構成画像RPを記憶装置41から取得し、取得した再構成画像RPを最適再構成画像として表示制御部53に出力する(ステップS70)。表示制御部53は、最適再構成画像出力部65から入力された最適再構成画像をディスプレイ5に表示させる(ステップS80)。
 次に、繰り返し制御部52は、入力デバイス8から撮像停止信号が入力されたか否かを判定する(ステップS90)。繰り返し制御部52は、撮像停止信号が入力されなかったと判定した場合には(ステップS90:NO)、撮像周期の番号を表すパラメータN(図10参照)をインクリメントして(ステップS100)、処理をステップS10に戻す。ステップS10では、原画像取得部60は、第2番目の撮像周期に対応する原画像OPを取得する。ステップS10からステップS100までの各処理は、ステップS90において判定が肯定されるまでの間、1撮像周期ごとに繰り返し実行される。
 繰り返し制御部52は、入力デバイス8から撮像停止信号が入力されたと判定した場合には(ステップS90:YES)、一連の繰り返し処理を終了させる。
 以下において、再構成処理(ステップS20)、合焦位置検出処理(ステップS30)、及び初期位置決定処理(ステップS60)を詳細に説明する。
 図15は、再構成画像生成部61による再構成処理の流れの一例を示す。まず、再構成画像生成部61は、原画像取得部60による原画像取得処理で取得されて記憶装置41に記憶された原画像OPを読み込む(ステップS21)。次に、再構成画像生成部61は、初期位置決定部64により決定された初期位置Piを取得する(ステップS22)。
 次に、再構成画像生成部61は、取得した初期位置Piを、再構成位置Pとして設定する(ステップS23)。なお、初期位置決定部64による初期位置Piの決定には、少なくとも1回の再構成処理が終了することが必要であるので、第一回目の再構成処理では、初期位置決定部64から初期位置Piが得られない。このため、再構成画像生成部61は、第一回目の再構成処理では、例えば、初期位置Piを、下限位置P1と上限位置P2との間の中央に位置する中央位置に設定する(図12参照)。また、再構成画像生成部61は、第一回目の再構成処理において、初期位置Piを下限位置P1又は上限位置P2に設定してもよい。
 次に、再構成画像生成部61は、式(1)及び式(3)を用い、原画像OPに基づいて演算を行うことにより、図11に示すように、再構成位置Pにおける再構成画像RPを生成する(ステップS24)。このとき、再構成画像生成部61は、撮像装置11から供給される撮像条件11Aに含まれる波長λの値を用いて演算を行う。前述のように、本実施形態では、再構成画像RPは、位相分布画像φ(m,n)である。
 再構成画像生成部61は、生成した再構成画像RPを出力して記憶装置41に記憶させる(ステップS25)。記憶装置41に記憶された再構成画像RPは、合焦位置検出部62による合焦位置検出処理で用いられる。
 次に、再構成画像生成部61は、再構成位置Pを、変更方向Dへ一定値ΔP(図12参照)だけ変更する(ステップS26)。なお、第一回目の再構成処理では、再構成画像生成部61は、例えば、初期位置Piから上限位置P2へ向かう方向を変更方向Dとして再構成位置Pを変更する。そして、第二回目の再構成処理では、再構成画像生成部61は、第一回目の再構成処理で得られた再構成画像RPの鮮鋭度と、第二回目の再構成処理で得られた再構成画像RPの鮮鋭度とを比較し、鮮鋭度が高くなる方向を変更方向Dとして再構成位置Pを変更する(図13参照)。以上で、一回の再構成処理が終了する。
 図16は、合焦位置検出部62による合焦位置検出処理の流れの一例を示す。まず、合焦位置検出部62は、再構成画像生成部61から出力されて記憶装置41に記憶された1つの再構成画像RPを取得する(ステップS31)。合焦位置検出部62は、取得した再構成画像RPの鮮鋭度を算出する(ステップS32)。
 次に、合焦位置検出部62は、算出した鮮鋭度が極大に達したか否かを判定する(ステップS33)。合焦位置検出部62は、鮮鋭度が極大に達していないと判定した場合には(ステップS33:NO)、処理を終了する。
 合焦位置検出部62は、算出した鮮鋭度が極大に達したと判定した場合には(ステップS33:YES)、鮮鋭度が極大化された再構成位置Pを合焦位置Pmとして検出し、検出した合焦位置Pmを合焦位置記録部63へ出力する(ステップS34)。以上で、一回の合焦位置検出処理が終了する。
 図17は、合焦位置Pmの探索処理の一例を示す。図17に示すように、合焦位置検出部62は、例えば、いわゆる山登り方式による鮮鋭度のピーク判定を行う。合焦位置検出部62は、鮮鋭度を算出するたびに、算出した鮮鋭度を再構成位置Pと関連付けてプロットする。鮮鋭度は、再構成位置Pが合焦位置Pmに近づくに連れて増大し、合焦位置Pmを過ぎると減少する。合焦位置検出部62は、鮮鋭度が増大から減少に転じたことを検出した場合に、1つ前の再構成位置Pを合焦位置Pmとして検出する。合焦位置Pmは、観察対象物体である細胞12の深さ位置に対応する。
 図18は、初期位置決定部64による初期位置決定処理の流れの一例を示す。まず、初期位置決定部64は、合焦位置記録部63により、過去に記憶装置41に記録された1以上の合焦位置Pmを取得する(ステップS61)。初期位置決定部64は、例えば、撮像装置11による撮像動作が開始されてから現時点の撮像周期までの間に記憶装置41に記録された1以上の合焦位置Pmを取得する。
 次に、初期位置決定部64は、取得した1以上の合焦位置Pmの統計量を算出する(ステップS62)。初期位置決定部64は、例えば、図19に示すように、取得した1以上の合焦位置Pmに基づいてヒストグラムを作成することにより、合焦位置Pmの最頻値を算出する。なお、初期位置決定部64は、最頻値に限られず、中央値又は平均値などを算出してもよい。
 そして、初期位置決定部64は、算出した統計量を初期位置Piとして決定し(ステップS63)、決定した初期位置Piを再構成画像生成部61へ出力する(ステップS64)。以上で、一回の初期位置決定処理が終了する。
 なお、初期位置決定部64は、合焦位置Pmの統計量を算出せずに、合焦位置検出部62により直前の撮像周期で得られた合焦位置Pmを初期位置Piとして決定してもよい。
 以上のように、本開示の技術によれば、再構成処理を開始する再構成位置Pの初期位置Piを、過去の合焦位置Pmに基づいて決定するので、合焦位置Pmの探索を高速化することができる。
 マイクロ流路13内を流れる細胞12の深さ方向に関する位置は一定でなく、ばらつきが生じるが、過去の合焦位置Pmに基づいて初期位置Piが決定されることにより、再構成処理及び合焦位置検出処理の回数が低減される。これにより、合焦位置Pmの探索が高速化する。合焦位置Pmの探索が高速化することにより、観察対象物体としての細胞12が鮮明に映った最適再構成画像をリアルタイムにディスプレイ5に表示させることができる。
 [第2実施形態]
 次に、本開示の技術の第2実施形態について説明する。図20は、第2実施形態に係る情報処理装置10Aの機能構成を示す。第2実施形態に係る情報処理装置10Aには、第1実施形態に係る情報処理装置10の機能構成に加えて、停止判定部66及び報知情報出力部54が構成されている。停止判定部66は、画像処理部51に含まれる。
 本実施形態では、繰り返し制御部52は、停止判定部66から入力される停止指示66Aが入力された場合に、画像処理部51の繰り返し処理を停止する停止処理を行う。また、繰り返し制御部52は、停止指示66Aの入力が解除された場合に、画像処理部51の繰り返し処理を再開させる。
 停止判定部66は、撮像周期が異なる2つの原画像OPの差分量を算出し、算出した差分量が一定値以下である場合に、停止指示66Aを繰り返し制御部52へ出力する。2つの原画像OPの差分量が一定値以下であることは、原画像OP内に観察対象物体としての細胞12が映っていないことに対応する。すなわち、停止判定部66は、物体検出器としても機能する。また、マイクロ流路13内の溶液14の流れが停止した場合には、各撮像周期で得られる原画像OPの変化が減少し、差分量が一定値以下となる。このように、停止判定部66は、マイクロ流路13内の溶液14の流れを検出する流れ検出器としても機能する。
 報知情報出力部54は、停止判定部66により算出された差分量が一定値以下である場合に、報知情報54Aを表示制御部53に出力する報知情報出力処理を行う。表示制御部53は、報知情報出力部54から入力された報知情報54Aをディスプレイ5に表示させる。報知情報54Aは、例えば、細胞12が検出されていないことをユーザに報知する情報である。報知情報54Aは、溶液14の流れが停止していることをユーザに報知する情報であってもよい。
 なお、報知情報出力部54は、報知情報54Aをスピーカ(図示せず)に出力することにより、細胞12の検出の有無等を、音声によってユーザに報知してもよい。
 図21は、第2実施形態に係る繰り返し制御部52による繰り返し処理の流れを示す。本実施形態の繰り返し処理は、ステップS10とステップS20との間に、ステップS110及びステップS120が追加されている点のみが、図14に示す第1実施形態の繰り返し処理と異なる。
 本実施形態では、ステップS10において原画像取得部60により原画像OPが取得されて記憶装置41に記憶された後、停止判定部66により前述の判定処理が行われる(ステップS110)。停止判定部66は、前述の停止条件を満たした場合に、停止指示66Aを出力する。
 次に、繰り返し制御部52は、停止判定部66から停止指示66Aを受信したか否かを判定する(ステップS120)。繰り返し制御部52は、停止指示66Aを受信しなかったと判定した場合には(ステップS120:NO)、処理をステップS20に移行させる。ステップS20以降の処理は、第1実施形態と同様である。
 一方、繰り返し制御部52は、停止指示66Aを受信したと判定した場合には(ステップS120:YES)、処理をステップS90に移行させる。ステップS90以降の処理は、第1実施形態と同様である。
 このように、本実施形態の繰り返し処理では、停止判定部66から停止指示66Aが出力された場合に、ステップS20からステップS30に含まれる再構成処理及び合焦位置検出処理等の処理がスキップされる。すなわち、再構成処理及び合焦位置検出処理等の処理は、細胞12が検出されている場合にのみ実行される。
 図22は、停止判定部66による停止判定処理の一例を示す。まず、停止判定部66は、記憶装置41から直近の2撮像周期で得られた2つの原画像OPを取得する(ステップS111)。次に、停止判定部66は、取得した2つの原画像OPのうちの一方から他方を減算することにより、差分量を算出する差分処理を行う(ステップS112)。
 そして、停止判定部66は、算出した差分量が一定値以下であるか否かを判定する(ステップS113)。停止判定部66は、差分量が一定値以下でない場合には(ステップS113:NO)、処理を終了する。停止判定部66は、差分量が一定値以下である場合には(ステップS113:YES)、停止指示66Aを出力して(ステップS114)、処理を終了する。
 以上のように、第2実施形態によれば、細胞12が検出されている場合にのみ再構成処理及び合焦位置検出処理等の処理が実行されるので、CPU40の演算負荷及び記憶装置41が記憶するデータ量を低減することができる。また、第2実施形態では、細胞12が検出されていない場合に、報知情報54Aが報知されるので、ユーザは、細胞12が検出されていないことを容易に把握することができる。
 なお、第2実施形態では、停止判定部66は、撮像周期が異なる2つの原画像OPの差分量を算出しているが、これに限られず、停止判定部66は、撮像周期が異なる2つの再構成画像RPの差分量を算出してもよい。また、停止判定部66は、撮像周期が異なる2つの最適再構成画像の差分量を算出してもよい。
 また、第2実施形態では、停止判定部66は、差分量が一定値以下であると判定した場合に停止指示66Aを出力しているが、差分量が一定値以下となった撮像周期が一定回数繰り返された場合に停止指示66Aを出力してもよい。
 また、第2実施形態では、報知情報出力部54は、細胞12が検出されていないことを報知情報54Aとして出力しているが、これとは逆に、細胞12が検出されていることを報知情報54Aとして出力してもよい。
 また、第2実施形態では、停止判定部66は、2つの画像の差分量を算出することにより、細胞12の有無を検出しているが、画像解析、又は機械学習等の手法を用いた画像認識処理により細胞12の有無を検出してもよい。この場合において、報知情報出力部54は、細胞12の画像、細胞12の個数、マイクロ流路13を流れる細胞12の速度等を報知情報54Aとして出力してもよい。
 また、観察対象物体は、細胞には限られず、死細胞、又はゴミ等の物体であってもよい。報知情報出力部54は、画像解析又は画像認識により検出された観察対象物体の形状等から、観察対象物体の種類を判定し、観察対象物体の種類を報知情報54Aとして出力してもよい。
 また、第2実施形態では、撮像装置11は、1つのマイクロ流路13を撮像しているが、複数のマイクロ流路13を同時に撮像してもよい。この場合、再構成処理及び合焦位置検出処理等の処理を、細胞12が検出されているマイクロ流路13に対してのみ実行することが好ましい。
 [変形例]
 以下に、各種変形例について説明する。上記各実施形態では、式(3)により求まる位相分布画像φ(m,n)を再構成画像RPとしているが、これに限られず、式(2)により求まる強度分布画像A(m,n)を再構成画像RPとしてもよい。観察対象物体が細胞集団(いわゆるコロニー)等の厚みを有るものである場合に、強度分布に像が現れるため、強度分布画像A(m,n)を再構成画像RPとすることが好ましい。
 また、位相分布画像φ(m,n)と強度分布画像A(m,n)とのうち、いずれを再構成画像RPとして用いるかを、入力デバイス8によりユーザが選択可能としてもよい。これにより、ユーザは、観察対象物体に応じて最適な再構成画像RPを選択することができる。
 上記各実施形態に係るデジタルホログラフィシステム2は、撮像装置11に光学レンズを備えない、いわゆるレンズフリーイメージングと呼ばれる技術に関する。本開示の技術は、レンズフリーイメージングに限定されず、デジタルホログラフィ全般(例えば、参照光を用いる場合など)に適用可能である。
 情報処理装置10,10Aを構成するコンピュータのハードウェア構成は種々の変形が可能である。例えば、情報処理装置10を、処理能力及び信頼性の向上を目的として、ハードウェアとして分離された複数台のコンピュータで構成することも可能である。
 このように、情報処理装置10,10Aのコンピュータのハードウェア構成は、処理能力、安全性、信頼性等の要求される性能に応じて適宜変更することができる。さらに、ハードウェアに限らず、作動プログラム41A等のアプリケーションプログラムについても、安全性及び信頼性の確保を目的として、二重化すること、あるいは、複数のストレージデバイスに分散して格納することも可能である。
 上記各実施形態において、例えば、撮像制御部50、画像処理部51、繰り返し制御部52、表示制御部53、及び報知情報出力部54といった各種の処理を実行する処理部(Processing Unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(Processor)を用いることができる。各種のプロセッサには、上述したように、ソフトウェア(作動プログラム41A)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU40に加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device: PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
 1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、及び/又は、CPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
 複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアント及びサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip: SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
 さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)を用いることができる。
 また、上記実施形態及び各変形例は、矛盾が生じない範囲で適宜組み合わせ可能である。
 本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
2 デジタルホログラフィシステム
5 ディスプレイ
6 キーボード
7 マウス
8 入力デバイス
10,10A 情報処理装置
11 撮像装置
11A 撮像条件
12 細胞
13 マイクロ流路
13A,13B 開口部
14 溶液
20 光源
22 撮像センサ
22A 撮像面
22B 画素
23 照射光
30 回折光
31 透過光
33 干渉縞像
35 白点
36 明部
37 黒点
38 暗部
40 CPU
41 記憶装置
41A 作動プログラム
42 通信部
43 バスライン
50 撮像制御部
51 画像処理部
52 繰り返し制御部
53 表示制御部
54 報知情報出力部
54A 報知情報
60 原画像取得部
61 再構成画像生成部
62 合焦位置検出部
63 合焦位置記録部
64 初期位置決定部
65 最適再構成画像出力部
66 停止判定部
66A 停止指示
D 変更方向
L 距離
OP 原画像
P1 下限位置
P2 上限位置
P 再構成位置
Pi 初期位置
Pm 合焦位置
RP 再構成画像
d 距離

Claims (10)

  1.  観察対象物体の干渉縞像を含む原画像を再構成する情報処理装置であって、
     少なくとも1つのプロセッサを備え、
     前記プロセッサは、
     前記原画像を取得し、
     取得された前記原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成し、
     前記再構成画像が生成されるたびに前記再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出し、
     検出した前記合焦位置を記録し、
     記録した前記合焦位置に基づき、次回の再構成の初期位置を決定し、
     前記原画像取得、前記再構成、前記合焦位置検出、前記合焦位置記録、及び前記初期位置決定を1撮像周期として繰り返す、
     情報処理装置。
  2.  前記プロセッサは、
     過去に記録された1以上の前記合焦位置のうち、直前の撮像周期で得られた前記合焦位置を前記初期位置として決定する、
     請求項1に記載の情報処理装置。
  3.  前記プロセッサは、
     過去に記録された1以上の前記合焦位置の統計量に基づいて前記初期位置を決定する、
     請求項1に記載の情報処理装置。
  4.  前記統計量は、最頻値、中央値、又は平均値である、
     請求項3に記載の情報処理装置。
  5.  前記プロセッサは、
     前記初期位置から前記鮮鋭度が高くなる方向へ前記再構成位置を変更する、
     請求項1から請求項4のうちいずれか1項に記載の情報処理装置。
  6.  前記プロセッサは、
     撮像周期が異なる2つの前記原画像又は2つの前記再構成画像の差分量を算出し、
     算出された前記差分量が一定値以下である場合に、前記繰り返しを停止する、
     請求項1から請求項5のうちいずれか1項に記載の情報処理装置。
  7.  前記プロセッサは、
     前記差分量が一定値以下である場合に、報知情報を出力する、
     請求項6に記載の情報処理装置。
  8.  前記プロセッサは、
     検出した前記合焦位置における前記再構成画像を最適再構成画像として出力する、
     請求項1から請求項7のうちいずれか1項に記載の情報処理装置。
  9.  観察対象物体の干渉縞像を含む原画像を再構成する情報処理装置の作動方法であって、
     前記原画像を取得する原画像取得処理と、
     原画像取得処理により取得された前記原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成する再構成処理と、
     前記再構成処理により前記再構成画像が生成されるたびに前記再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出する合焦位置検出処理と、
     前記合焦位置検出処理により検出した前記合焦位置を記録する合焦位置記録処理と、
     前記合焦位置記録処理により記録した前記合焦位置に基づき、次回の前記再構成処理における前記初期位置を決定する初期位置決定処理と、
     前記原画像取得処理、前記再構成処理、前記合焦位置検出処理、前記合焦位置記録処理、及び前記初期位置決定処理を1撮像周期ごとに実行する繰り返し処理と、
     を実行する情報処理装置の作動方法。
  10.  観察対象物体の干渉縞像を含む原画像を再構成する処理をコンピュータに実行させる作動プログラムであって、
     前記原画像を取得する原画像取得処理と、
     原画像取得処理により取得された前記原画像に基づいて、再構成位置を初期位置から変更しながら再構成画像を生成する再構成処理と、
     前記再構成処理により前記再構成画像が生成されるたびに前記再構成画像の鮮鋭度を算出し、かつ算出した鮮鋭度が極大化される合焦位置を検出する合焦位置検出処理と、
     前記合焦位置検出処理により検出した前記合焦位置を記録する合焦位置記録処理と、
     前記合焦位置記録処理により記録した前記合焦位置に基づき、次回の前記再構成処理における前記初期位置を決定する初期位置決定処理と、
     前記原画像取得処理、前記再構成処理、前記合焦位置検出処理、前記合焦位置記録処理、及び前記次回初期位置決定処理を1撮像周期ごとに実行する繰り返し処理と、
     を前記コンピュータに実行させる作動プログラム。
PCT/JP2021/019891 2020-06-25 2021-05-26 情報処理装置、その作動方法及び作動プログラム WO2021261158A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP21828784.5A EP4175283A4 (en) 2020-06-25 2021-05-26 INFORMATION PROCESSING DEVICE, ASSOCIATED OPERATING METHOD AND OPERATING PROGRAM
JP2022532438A JP7397196B2 (ja) 2020-06-25 2021-05-26 情報処理装置、その作動方法及び作動プログラム
US18/069,279 US20230121799A1 (en) 2020-06-25 2022-12-21 Information processing device, and operation method and operation program thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020109803 2020-06-25
JP2020-109803 2020-06-25

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/069,279 Continuation US20230121799A1 (en) 2020-06-25 2022-12-21 Information processing device, and operation method and operation program thereof

Publications (1)

Publication Number Publication Date
WO2021261158A1 true WO2021261158A1 (ja) 2021-12-30

Family

ID=79282454

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/019891 WO2021261158A1 (ja) 2020-06-25 2021-05-26 情報処理装置、その作動方法及び作動プログラム

Country Status (4)

Country Link
US (1) US20230121799A1 (ja)
EP (1) EP4175283A4 (ja)
JP (1) JP7397196B2 (ja)
WO (1) WO2021261158A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016163560A1 (ja) * 2015-04-09 2016-10-13 国立大学法人神戸大学 ディジタルホログラフィック顕微鏡
JP2017075958A (ja) 2011-12-07 2017-04-20 アイメックImec 流体中の物体の分析および選別
JP2017146696A (ja) * 2016-02-16 2017-08-24 ソニー株式会社 画像処理装置、画像処理方法及び画像処理システム
JP2017168602A (ja) 2016-03-15 2017-09-21 富士電機株式会社 半導体装置および半導体装置の製造方法
WO2018158810A1 (ja) * 2017-02-28 2018-09-07 株式会社島津製作所 細胞観察装置
WO2019180810A1 (ja) * 2018-03-20 2019-09-26 株式会社島津製作所 細胞観察装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101349540B (zh) * 2007-07-18 2011-06-29 财团法人工业技术研究院 影像调整方法及影像撷取装置
US9036900B2 (en) * 2011-01-21 2015-05-19 University Of Hyogo Three-dimensional shape measurement method and three-dimensional shape measurement device

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017075958A (ja) 2011-12-07 2017-04-20 アイメックImec 流体中の物体の分析および選別
WO2016163560A1 (ja) * 2015-04-09 2016-10-13 国立大学法人神戸大学 ディジタルホログラフィック顕微鏡
JP2017146696A (ja) * 2016-02-16 2017-08-24 ソニー株式会社 画像処理装置、画像処理方法及び画像処理システム
JP2017168602A (ja) 2016-03-15 2017-09-21 富士電機株式会社 半導体装置および半導体装置の製造方法
WO2018158810A1 (ja) * 2017-02-28 2018-09-07 株式会社島津製作所 細胞観察装置
WO2019180810A1 (ja) * 2018-03-20 2019-09-26 株式会社島津製作所 細胞観察装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4175283A4

Also Published As

Publication number Publication date
EP4175283A1 (en) 2023-05-03
JPWO2021261158A1 (ja) 2021-12-30
EP4175283A4 (en) 2023-11-22
US20230121799A1 (en) 2023-04-20
JP7397196B2 (ja) 2023-12-12

Similar Documents

Publication Publication Date Title
RU2633922C2 (ru) Устройство и способ для профилирования глубины поверхности целевого объекта
JP5134694B2 (ja) 画像処理装置及び画像処理方法
JP6490219B2 (ja) デジタルホログラフィにおけるオートフォーカスシステムおよびオートフォーカス方法
JP5354254B2 (ja) 形状測定装置及び方法、並びにプログラム
Pei et al. Dynamic non-line-of-sight imaging system based on the optimization of point spread functions
JP2007522557A (ja) ドップラシフト及びレーザ自己混合に基づく光入力装置
US11378521B2 (en) Optical condition determination system and optical condition determination method
JP2018189700A (ja) 焦点距離可変レンズ装置および焦点距離可変レンズ制御方法
TWI452335B (zh) 應用共聚焦顯微鏡結構的被測物圖像獲取方法及系統
US9438887B2 (en) Depth measurement apparatus and controlling method thereof
JP6999129B2 (ja) 細胞観察システムおよび細胞観察方法
Cao et al. Design and realization of retina-like three-dimensional imaging based on a MOEMS mirror
WO2019077610A1 (en) DEPTH DETECTION BASED ON DEPTH
US20230120464A1 (en) Imaging system and imaging device
WO2021261158A1 (ja) 情報処理装置、その作動方法及び作動プログラム
EP2227705A2 (en) Method and apparatus for providing image data
WO2021261150A1 (ja) 情報処理装置、その作動方法及び作動プログラム
KR101505745B1 (ko) 이중 검출 반사 공초점 현미경 및 이를 사용하는 시편의 높이의 정보를 검출하는 방법
Hu et al. Multi-slice ptychographic imaging with multistage coarse-to-fine reconstruction
JP2013088570A (ja) 顕微鏡装置
Liang et al. Ultrafast optical imaging
JP2004078175A (ja) 共焦点顕微鏡
JP2004257934A (ja) 3次元形状計測方法及び3次元形状計測装置並びにその処理プログラムと記録媒体
Tan et al. Imaging-free object recognition enabled by optical coherence
JP2023090091A (ja) 波面計測装置及び波面計測方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21828784

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022532438

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021828784

Country of ref document: EP

Effective date: 20230125