JP2015154324A - 撮像システム、撮像装置、画像処理装置 - Google Patents
撮像システム、撮像装置、画像処理装置 Download PDFInfo
- Publication number
- JP2015154324A JP2015154324A JP2014027534A JP2014027534A JP2015154324A JP 2015154324 A JP2015154324 A JP 2015154324A JP 2014027534 A JP2014027534 A JP 2014027534A JP 2014027534 A JP2014027534 A JP 2014027534A JP 2015154324 A JP2015154324 A JP 2015154324A
- Authority
- JP
- Japan
- Prior art keywords
- data
- imaging
- areas
- image
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 250
- 238000003384 imaging method Methods 0.000 title claims abstract description 209
- 230000002093 peripheral effect Effects 0.000 claims abstract description 154
- 238000000034 method Methods 0.000 claims description 182
- 230000008569 process Effects 0.000 claims description 155
- 238000007906 compression Methods 0.000 claims description 107
- 230000006835 compression Effects 0.000 claims description 93
- 230000002427 irreversible effect Effects 0.000 claims description 29
- 230000002441 reversible effect Effects 0.000 claims description 7
- 230000005540 biological transmission Effects 0.000 claims description 5
- 238000012937 correction Methods 0.000 description 62
- 239000010410 layer Substances 0.000 description 31
- 239000000203 mixture Substances 0.000 description 20
- 238000010586 diagram Methods 0.000 description 17
- 238000000926 separation method Methods 0.000 description 17
- 238000012546 transfer Methods 0.000 description 16
- 238000006243 chemical reaction Methods 0.000 description 14
- 238000006073 displacement reaction Methods 0.000 description 14
- 238000012544 monitoring process Methods 0.000 description 14
- 230000009466 transformation Effects 0.000 description 11
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 10
- 239000011159 matrix material Substances 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 238000001514 detection method Methods 0.000 description 8
- 239000003086 colorant Substances 0.000 description 7
- 230000015572 biosynthetic process Effects 0.000 description 6
- 238000003786 synthesis reaction Methods 0.000 description 6
- 238000013139 quantization Methods 0.000 description 5
- 230000009467 reduction Effects 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 230000001575 pathological effect Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000004826 seaming Methods 0.000 description 3
- 238000005314 correlation function Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 238000002834 transmittance Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000004886 process control Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/28—Indexing scheme for image data processing or generation, in general involving image processing hardware
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/32—Indexing scheme for image data processing or generation, in general involving image mosaicing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Studio Devices (AREA)
Abstract
【課題】非可逆圧縮した画像データの継ぎ合わせ処理の精度を向上するための技術を提供する。
【解決手段】撮像装置が、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像し、前記複数のエリアそれぞれに対し、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成し、前記画像データを非可逆圧縮する。画像処理装置が、前記複数のエリアそれぞれの、非可逆圧縮された画像データと周辺データを取得し、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定し、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記パラメータを用いて継ぎ合わせる。
【選択図】図1
【解決手段】撮像装置が、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像し、前記複数のエリアそれぞれに対し、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成し、前記画像データを非可逆圧縮する。画像処理装置が、前記複数のエリアそれぞれの、非可逆圧縮された画像データと周辺データを取得し、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定し、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記パラメータを用いて継ぎ合わせる。
【選択図】図1
Description
本発明は、画像の継ぎ合わせ機能を有する顕微鏡撮像システムに関する。
近年、病理医の不足や遠隔地医療等の問題を解消するため、病理標本画像を用いた診断の重要性が高まっている。病理標本画像は、電動ステージを備えた顕微鏡や医療用スライドスキャナ(以後、顕微鏡撮像システムと呼ぶ)により取得されるが、診断に耐えうる高精度な画像を取得するためには多くの技術課題を克服する必要がある。
技術課題の一つとして、画像の継ぎ合わせに関する問題が知られている。デジタル顕微鏡の対物レンズで結像できる標本の範囲は、標本全体と比べて小さく、通常は100分の1以下である。そのため、標本全体を画像化するには、位置の異なる複数の画像を撮像して継ぎ合わせる必要がある。
一般的に、電動ステージにより標本を一定間隔ずつ動かしながら撮像を繰り返し、複数の画像データが取得される(一回の撮像で取得される画像データを「タイル」と呼ぶ)。このとき、ステージのガタ等の影響で位置ずれが生じ、像が影響を受ける。その結果、タイルを並べるだけでは継ぎ目に差異が生じて全体を表す画像データ(以後、「全体画像」と呼ぶ)が得られない。そのため、隣接するタイルの周辺部が重なるようにタイルを取得し、重複箇所の形状が一致するように位置ずれ補正を行ってから全体画像を合成するのが一般的である。また、対物レンズの歪曲収差や像の回転等の補正も行われている。
また、多数のタイルを継ぎ合わせる場合には、近傍に位置するタイルのみから位置ずれを推定することができず、広範囲に相当する多数のタイルを保持して位置ずれ推定を行う必要がある。この方法はグローバルレジストレーションとして知られている。病理標本の全体画像を作成するには、一般的な構成(1/1.8インチのイメージセンサと20倍対物レンズ)を用いた場合、2万枚以上のタイルが必要である。このように多数のタイルを保持し処理するために、顕微鏡撮像システムは、記憶容量が大きく高速アクセス可能なメモリやハードディスク、計算負荷の大きい位置ずれ量推定処理を実行できるCPUを備える必要がある。しかしながら、ハードウェア規模の増大は、装置の大きさやコストの観点から望ましくない。
特許文献1に開示されている顕微鏡撮像システムでは、画像ストライプ(ステージを動かしながらラインセンサで取得した横長の区画)を順番に撮像し、隣接する画像ストライプが得られたタイミングで位置ずれ推定を行う。画像ストライプは、イメージセンサにより取得されるタイルの100倍以上の大きさの領域に相当する。イメージセンサを使用した顕微鏡撮像システムと比較すると、継ぎ目の数が大幅に減ることになり、グローバルレジストレーションを実施する必要が無い。結果として、顕微鏡撮像システムのハードウェアを小規模に保っている。
顕微鏡撮像システム以外のスキャナ装置においても、継ぎ合わせ処理実行のために装置内ハードウェア規模が大きくなる場合が考えられる。特許文献2に開示されているハンドスキャナは、本体を紙上で動かし、本体に搭載されているラインセンサにより、紙に記載されている画像情報を取得する装置である。手で保持して動かすために、装置本体は極力小さくする必要がある。上記ハンドスキャナは、一定区間スキャンしたデータを一つのタイルとし、タイルを圧縮してからPCに送信する。ハンドスキャナの位置データをタイルに付加して送り、PC内で位置データを基にタイルを継ぎ合わせる。通常、スキャナ装置
とPC間で行われるデータ通信の転送レートは低いが、タイルを圧縮して送ることで、スキャナ装置内でタイルを蓄える必要が無い。計算負荷の大きい継ぎ合わせ処理をPC上で実行して小規模のハードウェア構成を実現している。
とPC間で行われるデータ通信の転送レートは低いが、タイルを圧縮して送ることで、スキャナ装置内でタイルを蓄える必要が無い。計算負荷の大きい継ぎ合わせ処理をPC上で実行して小規模のハードウェア構成を実現している。
また、継ぎ合わせ処理内で行われる位置ずれ推定処理は、複数画像を用いた画像高精細化処理でも用いられる。継ぎ合わせ処理を用いた装置と同様にハードウェア規模の増大が伴う可能性がある。特許文献3に開示されている画像処理装置は、低解像度の全体像に対し、圧縮した高解像度部分像を位置合わせして貼り合わせることで、高精細画像を生成する。高精細化する前の圧縮した状態で保存、通信を行うことで、メモリ等のハードウェア規模を小さく保っている。
課題の説明の前に、装置構成に関する用語を定義する。顕微鏡撮像システムでは、イメージセンサにより撮像した画像データに対し、ノイズ補正処理等の計算負荷の小さく軽い処理から、継ぎ合わせ処理のように重い処理まで施す必要がある。以後、二つの装置(各々撮像装置、画像処理装置と呼ぶこととする)により構成され、各装置において処理を分担する顕微鏡撮像システムを取り扱う。撮像装置は、イメージセンサによる画像データ取得とセンサノイズ補正等の比較的軽い処理を担当し、画像処理装置は継ぎ合わせ処理等の比較的重い処理を担当する。画像処理装置には、ワークステーションやサーバー等の外部計算機や、市販のマザーボードによる実装を想定している。
顕微鏡撮像システムにおいて撮像装置のハードウェア規模を小さく保ちながら、継ぎ合わせ処理をワークステーション等の画像処理装置で実行するためには、撮像装置で取得したタイルを滞りなく画像処理装置に転送する必要がある。イメージセンサの画素数が多い場合や複数のイメージセンサを用いる場合には、データ転送レートが低いデータ伝送路(撮像装置と画像処理装置間のケーブル)がボトルネックとなるため、撮像装置側でタイルに圧縮処理を施す必要がある。顕微鏡撮像システムでは取り扱うデータが非常に大きいことから、1/10以下の圧縮率(圧縮前のデータサイズを1としたときの圧縮後のデータサイズの割合)を達成できる非可逆圧縮が必須となる。
しかしながら、非可逆圧縮処理を施したタイルを復号すると、圧縮前タイルに存在しなかったノイズ(以後の説明ではアーチファクトと呼ぶ)が発生する。位置ずれ推定時には、重複撮像されているタイルの周辺部と隣接タイルの周辺部の一致度を計算するが、アーチファクトが影響し推定値に誤差が混入する。我々が行ったシミュレーションでは、非圧縮のタイルを用いれば位置ずれ推定に成功するが、JPEG圧縮(圧縮率4%)を施した場合に位置ずれ推定結果が異なる割合は、全試行の10%に及んでいる。また、位置ずれ推定結果の差は、10%の内、5%は1画素程度の微小差であったが、残りの5%は比較的大きい位置ずれ推定誤差であり、20画素以上になる場合も確認している。
この課題を解決するために、特許文献2に開示されている方法のように、ステージの位置変動を測定しそのデータをもとに継ぎ合わせ処理を行うことも考え得る。しかしながら、ステージの位置変動の測定には高価な測定器が必要なため、コスト増大につながる。また、歪曲等の変形要因の測定は測定器の設置自体が難しい。
また、特許文献3に開示されている方法のように、圧縮データの代わりにタイルの縮小画像データを送ることで課題を解決することも考えられる。しかし、全体の縮小像をあらかじめ取得する必要があり、縮小像取得のための対物レンズの導入によりコスト増大につながる。また、タイルの縮小像からは縮小前画像に含まれていた高周波成分が除去されており、位置ずれ推定精度の低下も懸念される。
本発明は上記課題に鑑みなされたものであり、非可逆圧縮した画像データの継ぎ合わせ処理の精度を向上するための技術を提供することを目的とする。本発明のさらなる目的は、コストやハードウェア規模の増大を招くことなく、非可逆圧縮した画像データの継ぎ合わせ処理の精度を向上するための技術を提供することにある。
本発明の第一態様は、撮像装置と画像処理装置を有する撮像システムであって、前記撮像装置は、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する撮像手段と、前記複数のエリアそれぞれに対し、前記撮像手段で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する生成手段と、前記画像データを非可逆圧縮する非可逆圧縮手段と、を有し、前記画像処理装置は、前記複数のエリアそれぞれの、非可逆圧縮された画像データと周辺データを取得する取得手段と、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する決定手段と、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定手段で決定された前記パラメータを用いて継ぎ合わせる合成手段と、を有することを特徴とする撮像システムを提供する。
本発明の第二態様は、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する撮像手段と、前記複数のエリアそれぞれに対し、前記撮像手段で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する生成手段と、前記画像データを非可逆圧縮する非可逆圧縮手段と、非可逆圧縮された前記画像データ、及び、前記周辺データを出力する出力手段と、を有することを特徴とする撮像装置を提供する。
本発明の第三態様は、隣接するエリアの端部が互いに重なるように設定された被写体の複数のエリアそれぞれについて、非可逆圧縮された画像データと、隣接するエリアの間の重なり部分のデータである周辺データとを取得する取得手段と、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する決定手段と、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定手段で決定された前記パラメータを用いて継ぎ合わせる合成手段と、を有することを特徴とする画像処理装置を提供する。
本発明の第四態様は、撮像装置と画像処理装置を有する撮像システムの制御方法であって、前記撮像装置が、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する工程と、前記撮像装置が、前記複数のエリアそれぞれに対し、前記撮像工程で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する工程と、前記撮像装置が、前記画像データを非可逆圧縮する工程と、前記画像処理装置が、前記複数のエリアそれぞれの、非可逆圧縮された画像データと周辺データを取得する工程と、前記画像処理装置が、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する工程と、前記画像処理装置が、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定工
程で決定された前記パラメータを用いて継ぎ合わせる工程と、を有することを特徴とする撮像システムの制御方法を提供する。
程で決定された前記パラメータを用いて継ぎ合わせる工程と、を有することを特徴とする撮像システムの制御方法を提供する。
本発明の第五態様は、撮像装置の制御方法であって、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する工程と、前記複数のエリアそれぞれに対し、前記撮像手段で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する工程と、前記画像データを非可逆圧縮する工程と、非可逆圧縮された前記画像データ、及び、前記周辺データを出力する工程と、を有することを特徴とする撮像装置の制御方法を提供する。
本発明の第六態様は、画像処理装置の制御方法であって、隣接するエリアの端部が互いに重なるように設定された被写体の複数のエリアそれぞれについて、非可逆圧縮された画像データと、隣接するエリアの間の重なり部分のデータである周辺データとを取得する工程と、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する工程と、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定工程で決定された前記パラメータを用いて継ぎ合わせる工程と、を有することを特徴とする画像処理装置の制御方法を提供する。
本発明により、非可逆圧縮した画像データの継ぎ合わせ処理の精度を向上することが可能になる。
[第1実施形態]
本発明の第1の実施形態について、図1を用いて説明する。顕微鏡撮像システム101は、撮像装置102と画像処理装置103から構成される。
本発明の第1の実施形態について、図1を用いて説明する。顕微鏡撮像システム101は、撮像装置102と画像処理装置103から構成される。
撮像装置102は、対物レンズ111、標本保持部112、三軸ステージ113、イメージセンサ114、撮像処理ボード115、標本選択部116、ハロゲンランプ117、電動フィルタホイール118より構成される。電動フィルタホイール118は、6種類のカラーフィルタを搭載でき、通常の撮像では3種類のカラーフィルタRGBを用いる。
画像処理装置103は、市販されているワークステーションに必要な画像処理プログラムをインストールすることにより構成される。上記ワークステーションは、システム全体動作の制御装置104としても使用する。撮像装置102と画像処理装置103(制御装置104)の間はネットワークケーブル105により接続され、双方向にデータを転送できる。撮像装置102と画像処理装置103の間は高速シリアルバスなど他の方式のデータ伝送路で接続してもよいし、有線でなく無線のデータ伝送路で接続してもよい。また、図1では撮像装置102と画像処理装置103が近くに配置されているように示されているが、撮像装置102と画像処理装置103が遠隔地に配置され、両装置の間がインターネット等の広域ネットワークで接続されていてもよい。逆に、撮像装置102と画像処理装置103とが一つの筐体内に収められており、顕微鏡撮像システム101が一台の装置の外観を呈していてもよい。
撮像装置102の撮像処理ボード115の構成について図2を用いて説明する。撮像処理ボード115は、メモリ132、センサ補正部134、周辺データクリップ部135、色変換・YC分離部136、圧縮部137、カメラリンクインターフェース138、通信インターフェース139を有する。また撮像処理ボード115は、タイル取得コントローラ145、補正処理コントローラ146、データクリップ・圧縮処理コントローラ147を有する。符号150はデータバス制御信号(占有許可信号、占有可否問い合わせなど)を示し、符号151は制御信号(処理開始指示、処理完了通知など)を示し、符号152はデータの流れを示す。各コントローラは、調停回路140からデータバスの占有許可を表わす信号(以後、「データバス占有許可信号」と呼ぶ)を取得した後、データバス141により接続された各構成要素に処理開始指示151を送り、構成要素毎の画像処理を実行する。
顕微鏡撮像システム101における撮像の流れについて説明する。利用者は、先ず、撮像対象となる複数の標本を標本選択部116に挿入する。標本選択部116において、各標本のサムネール画像が撮像され、制御装置104に送られる。利用者は、ディスプレイ上に表示されたサムネール画像から、顕微鏡画像の撮影を行う標本(被写体)と撮像範囲を選択する。
<タイルの取得>
次に、図3に記載されている手順に従い、タイルの取得を行う。顕微鏡撮像システム101は、被写体である標本を複数の撮像エリアに分けて撮像を行う。タイルは、各々の撮像エリアから取得される部分画像データをいう。本実施形態では、タイルの継ぎ合わせ処理のために、隣接する撮像エリアの端部が互いに重なるように各エリアの位置(つまり各エリアを撮像するときの撮像位置)を制御し、隣接する二つのタイルに被写体の同じ部分の画像情報が含まれるようにする。以後、タイルの端部領域であって、隣接タイルと重複する部分をタイルの周辺部と呼ぶ。
次に、図3に記載されている手順に従い、タイルの取得を行う。顕微鏡撮像システム101は、被写体である標本を複数の撮像エリアに分けて撮像を行う。タイルは、各々の撮像エリアから取得される部分画像データをいう。本実施形態では、タイルの継ぎ合わせ処理のために、隣接する撮像エリアの端部が互いに重なるように各エリアの位置(つまり各エリアを撮像するときの撮像位置)を制御し、隣接する二つのタイルに被写体の同じ部分の画像情報が含まれるようにする。以後、タイルの端部領域であって、隣接タイルと重複する部分をタイルの周辺部と呼ぶ。
状態テーブル作成工程201では、制御装置104において、選択された標本の番号と撮像範囲を元に、状態テーブルを作成する。状態テーブルは、初期状態(以後、状態を表わす数値を「状態番号」と呼び、初期状態を状態番号0とする)から最終状態(状態番号Nとする)までの三軸ステージのx,y座標値を記録したテーブルである。つまり、状態番号0〜Nは、標本の撮像範囲全体を(N+1)個の撮像エリアに分割して撮像する場合の、各撮像エリアの番号を表しているともいえる。本明細書において、光軸に垂直な平面を為す2座標軸に沿った座標をx,y座標、光軸に沿った座標はz座標とする。
ステージ駆動工程202では、制御装置104において、状態番号0におけるx,y座標値を状態テーブルから取得し、上記x,y座標値の位置への駆動指示を三軸ステージ113に送り、ステージを駆動する。
合焦位置検出工程203では、上記ステージ駆動終了後に合焦位置検出を行う。まず制御装置104から、三軸ステージ113をz座標軸方向に微小距離駆動しながら複数枚のタイルを取得する指示を三軸ステージ113とイメージセンサ114に送り、同じ撮像エリアからz方向の焦点位置が異なる複数枚のタイルを取得する。このように得られたタイルのそれぞれは、標本内の異なる高さ(深さ)の層を画像化したデータに相当しており、以後、「層画像」と呼ぶこととする。本実施形態では、複数の層画像の中心部において、フォーカスアルゴリズムの一つである正規化分散を適用し、ピントのあうステージ高さ(合焦z座標値と呼ぶ)を算出する。
タイル取得工程204では、得られた合焦z座標値の高さに三軸ステージ113を駆動し、電動フィルタホイール118によりカラーフィルタを切り替えることでRGB各色に対応するタイル(以後、「単色タイル」と呼ぶ)を順番に取得する。単色タイルは撮像処理ボード115のメモリ132に保持される。
次に、状態番号Sを1ずつ増やしながら、ステージ駆動工程202、合焦位置検出工程203、タイル取得工程204を繰り返し、全ての状態番号(撮像エリア)に対応する単色タイルを取得する。なお、本実施形態では、状態番号毎(撮像エリア毎)に合焦z座標値を決定したが、標本内の同じ高さ(深さ)の層を画像化したい場合には、すべての状態番号(撮像エリア)で同じz座標値を用いてもよい。例えば、状態番号0の場合のみ合焦位置検出工程203を実行し、状態番号1以降は合焦位置検出工程203を省略してもよい。
<撮像装置内で行われる画像処理(構成要素間で行われるデータ交換)>
撮像装置内画像処理は、複数の構成要素間でデータ交換しながら実行される。最初に、構成要素間で行われるデータ交換について図4、図5、図6を用いて説明し、その後、処理を担当する構成要素内で実行される画像処理(以後、「個別処理」と呼ぶ)について説明する。
撮像装置内画像処理は、複数の構成要素間でデータ交換しながら実行される。最初に、構成要素間で行われるデータ交換について図4、図5、図6を用いて説明し、その後、処理を担当する構成要素内で実行される画像処理(以後、「個別処理」と呼ぶ)について説明する。
構成要素間で行われるデータ交換の順序は、撮像状態管理テーブル301を用いて管理される。撮像状態管理テーブル301は、撮像処理ボードのメモリ132に割り当てられた配列である。撮像状態管理テーブル301のインデックスは、単色タイルの取得順(今後、「単色タイル番号」と呼ぶ)に対応している。撮像状態管理テーブル301の値は撮像状態に対応する数値(以後、「撮像状態値」と呼ぶ)である。
図7を用いて上記撮像状態について説明する。撮像状態値は0〜5の値をとる。各値は、0:未取得状態401、1:取得完了状態402、2:補正実行状態403、3:補正完了状態404、4:クリップ実行状態405、5:クリップ完了状態406を表す。未
取得状態401は単色タイルが未取得である状態である。取得完了状態402は、単色タイルが取得されているが、後述するセンサ補正処理501は施されていない状態である。補正実行状態403は、単色タイルに対して後述するセンサ補正処理501を実行中である状態である。補正完了状態404は、後述するセンサ補正処理501の実行が完了した状態である。クリップ実行状態405は後述する周辺データクリップの実行中の状態を表し、クリップ完了状態406は周辺データクリップの完了後の状態を表す。
取得状態401は単色タイルが未取得である状態である。取得完了状態402は、単色タイルが取得されているが、後述するセンサ補正処理501は施されていない状態である。補正実行状態403は、単色タイルに対して後述するセンサ補正処理501を実行中である状態である。補正完了状態404は、後述するセンサ補正処理501の実行が完了した状態である。クリップ実行状態405は後述する周辺データクリップの実行中の状態を表し、クリップ完了状態406は周辺データクリップの完了後の状態を表す。
今後、単色タイル番号に対する撮像状態値を撮像状態管理テーブル301に設定することを、撮像状態管理テーブルの「更新」と呼び、単色タイル番号に対応する撮像状態値を読みだすことを「検索」と呼ぶ。更新、検索、およびそれらを組み合わせた手続き(検索結果に応じた条件付き更新等)の実行中は、並行して実行される処理に割り込みをかけられないよう、調停回路140により調停が行われる。また、特定のインデックスに対し、特定の値が得られるまで撮像状態管理テーブル301の検索を一定時間間隔で行う、あるいは、特定の値になったことが別の処理から通知されるまで待機することを、撮像状態管理テーブル301の「監視」と呼ぶ。
まず、図4に示されるように、制御装置104は、撮像処理ボード115に単色タイルの取込開始指示を送る。タイル取得コントローラ145は、通信インターフェース139の特定のポートに取込開始指示が来ているのを確認後、カメラリンクインターフェース138を介してイメージセンサ114に取得開始を指示する。コントローラ145は、画像データ(単色タイル)を取得後、画像データをメモリ132に保存する。コントローラ145は、画像データ保存後、撮像状態管理テーブル301の値を1(取得完了状態402)に更新する。
一方、図5に示されるように、補正処理コントローラ146は、タイル取得開始と同時に単色タイル番号0に対する撮像状態管理テーブル301の監視を開始する。コントローラ146は、撮像状態管理テーブル301の値が1(取得完了状態402)であるのを確認後、その値を2(補正実行状態403)に更新する。その後、コントローラ146は、センサ補正部134に単色タイルの先頭アドレスを送り、後述するセンサ補正処理501の実行を指示する。コントローラ146は、センサ補正処理後、撮像状態管理テーブル301の値を3(補正完了状態404)に更新し、監視対象とする単色タイル番号を1増加させて監視を続行する。
また、図6に示されるように、データクリップ・圧縮処理コントローラ147も、タイル取得開始と同時に撮像状態管理テーブル301の監視を開始する。コントローラ147は、同じ状態番号に属する複数の単色タイル番号(例えば、状態番号pに対するRGB各色の単色タイル番号は3p,3p+1,3p+2である)に対する値を順番に検索する。コントローラ147、全ての単色タイル番号の撮像状態値が3(補正完了状態404)の場合に、それらの値を4(クリップ実行状態405)へ更新した後に作業を開始する。まず、コントローラ147は、周辺データクリップ部135に特定の色のセンサ補正後単色タイルの先頭アドレスを送り、後述する周辺データクリップ処理の実行を指示する。上記センサ補正後単色タイルの色は任意に選択できるが、目視で観察する標本に対しては目の被視感度曲線に近い分光透過率を持つ色(RGB三原色の場合にはG)を選択すればよい。後述する周辺データクリップ処理の生成物である周辺データは、ネットワーク経由で画像処理装置103に転送される。
なお、周辺データクリップ処理に用いる単色タイルの色はGに限らない。例えば、標本選択部116で取得したサムネール画像を解析し、最もコントラストの高い色を選択してもよい。あるいは、複数色の単色タイルを用いてもよいし、複数色の単色タイルを合成したデータを用いてもよい。
続けて、コントローラ147は、同じ状態番号に属するセンサ補正後単色タイルの先頭アドレスを色変換・YC分離部136に送り、色変換処理を実行する。色変換・YC分離部136の出力データ(以後、「YC分離後タイル」と呼ぶ)は圧縮部137に送られ、圧縮処理が実行される。圧縮部137の出力データ(以後、「圧縮タイル」と呼ぶ)は、通信インターフェース139を経由し、画像処理装置103に転送される。コントローラ147は、圧縮タイルの転送後、同じ状態番号に属する単色タイル番号に対して撮像状態管理テーブル301の値を5(クリップ完了状態406)に更新し、監視対象とする単色タイル番号を3増加させて監視を続行する。
状態番号Nの単色タイルに対する画像処理が終了後、撮像状態管理テーブル301の値を0(未取得状態401)にリセットし、撮像装置内画像処理は終了する。
状態番号Nの単色タイルに対する画像処理が終了後、撮像状態管理テーブル301の値を0(未取得状態401)にリセットし、撮像装置内画像処理は終了する。
<撮像装置内で行われる画像処理(個別処理)>
次に、個別処理について説明する。
センサ補正処理501について図8Aに示すフローチャートを用いて説明する。メモリ132から読みだされた単色タイルデータに対し、傷欠陥補正工程502、パターンノイズ抑制工程503、ゲイン調整工程504、照明ムラ補正工程505、歪曲・回転補正工程506の順で実施し、出力値をメモリ132上に記録する。傷欠陥補正工程502は、イメージセンサの傷や画素欠陥に起因するノイズを除去する処理である。パターンノイズ抑制工程503は、イメージセンサのハードウェアに起因して発生するパターンノイズを除去する処理である。ゲイン調整工程504は、露光時間が足りない場合などに画素値にゲイン(定数)を乗ずることで画像全体の輝度レベルを上げる処理である。照明ムラ補正工程505は、視野の中央部と周辺部のあいだの照明ムラに起因する輝度ムラを補正する処理である。歪曲・回転補正工程506は、対物レンズの収差補正やステージとイメージセンサの相対回転ずれなどを補正する処理である。各工程は、一般的な画像処理において行われ、よく知られているため説明は省略する。
次に、個別処理について説明する。
センサ補正処理501について図8Aに示すフローチャートを用いて説明する。メモリ132から読みだされた単色タイルデータに対し、傷欠陥補正工程502、パターンノイズ抑制工程503、ゲイン調整工程504、照明ムラ補正工程505、歪曲・回転補正工程506の順で実施し、出力値をメモリ132上に記録する。傷欠陥補正工程502は、イメージセンサの傷や画素欠陥に起因するノイズを除去する処理である。パターンノイズ抑制工程503は、イメージセンサのハードウェアに起因して発生するパターンノイズを除去する処理である。ゲイン調整工程504は、露光時間が足りない場合などに画素値にゲイン(定数)を乗ずることで画像全体の輝度レベルを上げる処理である。照明ムラ補正工程505は、視野の中央部と周辺部のあいだの照明ムラに起因する輝度ムラを補正する処理である。歪曲・回転補正工程506は、対物レンズの収差補正やステージとイメージセンサの相対回転ずれなどを補正する処理である。各工程は、一般的な画像処理において行われ、よく知られているため説明は省略する。
周辺データクリップ処理601について、図8Bに示すフローチャートを用いて説明する。クリップ工程602では、上記センサ補正後単色タイルの先頭アドレスから画素値のラスタスキャンを行い、別のメモリ領域にデータをコピーする。その際、図8Cに示すように、左右周辺部M画素、上下周辺部N画素のいずれにも該当しない中心部(黒色の領域)のデータはコピーしない。このように周辺部のみコピーしたデータを、今後、周辺データと呼ぶ。ヘッダ情報付加工程603では、周辺データにヘッダ情報(状態番号、クリップした領域の幅M,N、単色タイルのx,y方向画素数)を付加する。
色変換・YC分離処理701について図9Aに記載のフローチャートを用いて説明する。色補正工程702では、各色のセンサ補正後単色タイルの画素値に対して式1に与えられる線形演算を行うことにより、RGB三原色に相当する画素値(以後、RGB値と呼ぶ)を算出する。
ここで、P1〜P3は、同じ状態番号に属する三つのセンサ補正後単色タイルにおいて、同一位置で得られる画素値、a11〜a33は色補正行列の係数である。色補正行列の係数は、カラーバランスやカラーフィルタの分光透過率に応じて事前に与えられる。
色差成分サンプリング工程704においては、YCC値の色差成分Cb,Crの間引き処理を行い、データを削減する。通常は1画素間隔で間引くが、画質を保ちたい場合には、この工程は実施しない。
以上の工程を実行して得られた、Y成分および間引き処理が行われた色差成分Cb,Cr毎の画像データが得られる。上記画像データを一つにまとめたデータを出力(YC分離後タイル)とする。
以上の工程を実行して得られた、Y成分および間引き処理が行われた色差成分Cb,Cr毎の画像データが得られる。上記画像データを一つにまとめたデータを出力(YC分離後タイル)とする。
圧縮処理801について、図9Bに記載のフローチャートを用いて説明する。本実施の形態で用いる圧縮処理801は、DCT方式のJPEG圧縮処理である。DCT方式のJPEG圧縮処理は一般に良く知られているため、工程の詳細は省略して概要のみ述べる。DCT工程802では、YC分離後タイルを8×8画素のブロックに分割し、各ブロックに対してDCTを実行する。量子化工程803では、各ブロックのDCT係数の量子化を行う。ハフマン符号化工程804では、量子化されたDCT係数をハフマン符号化により圧縮する。ヘッダ情報付加工程805では、処理後のデータにヘッダ情報(状態番号、単色タイルのx,y方向画素数、色差成分Cr,Cbの間引き間隔、量子化工程で用いた量子化テーブル等)を付加して、出力データ(圧縮タイル)とする。
<画像処理装置内で行われる画像処理(構成要素間で行われるデータ交換)>
画像処理装置内で行われる画像処理も、複数の構成要素(プログラムで実行される複数のプロセスと、共有メモリに割り当てられた状態管理用のテーブル)の間でデータ交換しながら実行される。撮像装置内画像処理の説明と同様に、上記データ交換について図10、図11、図12を用いて説明し、その後、構成要素内で実行される個別処理について説明する。
画像処理装置内で行われる画像処理も、複数の構成要素(プログラムで実行される複数のプロセスと、共有メモリに割り当てられた状態管理用のテーブル)の間でデータ交換しながら実行される。撮像装置内画像処理の説明と同様に、上記データ交換について図10、図11、図12を用いて説明し、その後、構成要素内で実行される個別処理について説明する。
画像処理装置103のメインメモリには、異なるプロセスがアクセスできる共有メモリ領域が確保されている。共有メモリ領域には、四つの配列と一つの変数が割り当てられている。
図13を用いて上記配列および変数と、それらで表現される画像処理の実行状態について説明する。第1の配列は、複数のプロセスを管理するための配列であり、今後、プロセス管理テーブル901と呼ぶ。第2、第3の配列は、ローカルアライメント処理の実行を管理するための配列であり、今後、アライメント管理テーブル902,903と呼ぶ。ここで、ローカルアライメント処理は、隣接する2つのタイルにおいて、一方のタイルを基準としたときの他方のタイルの位置ずれ・変形を、各々の周辺データを用いて計算する処理である。ローカルアライメント処理の詳細は後述する。第4の配列は、隣接タイルの状態番号検索に用いる配列であり、今後、状態番号リンクテーブル904と呼ぶ。変数は、グローバルアライメントの実行状態を示す変数であり、今後、グローバルアライメント実行状態変数905と呼ぶ。ここで、グローバルアライメント処理は、ローカルアライメント処理により得られた2タイル間の相対的位置ずれ・変形を基に、各タイルに与える位置ずれ・変形を算出する処理である。グローバルアライメント処理の詳細は後述する。
プロセス管理テーブル901、アライメント管理テーブル902、903のインデック
スは状態番号であり、各テーブルの値は、プロセス内で実行されている画像処理の進行を表わす状態(以後、画像処理実行状態と呼ぶ)に対応する数値である。
スは状態番号であり、各テーブルの値は、プロセス内で実行されている画像処理の進行を表わす状態(以後、画像処理実行状態と呼ぶ)に対応する数値である。
プロセス管理テーブル901の画像処理実行状態は、0〜6の値をとる。各値は、0:未取得状態921、1:周辺データ受信済み状態922、2:圧縮タイル受信済み状態923、3:復号実行状態940、4:復号完了状態941、5:変形補正実行状態942、6:変形補正完了状態943を表す。未取得状態921は、撮像装置からデータが送信されていない状態である。周辺データ受信済み状態922は、撮像装置から周辺データを受信した状態である。圧縮タイル受信済み状態923は、周辺データと圧縮タイルの両方を受信した状態である。復号実行状態940は、後述する復号処理を実行中である状態である。復号完了状態941は、復号の実行が完了した状態である。変形補正実行状態942は、後述する変形補正処理を実行中である状態である。変形補正完了状態943は、変形補正の実行が完了した状態である。
アライメント管理テーブル902、903の画像処理実行状態は、0〜3の値をとる。各値は、0:ローカルアライメント未実行状態930、1:ローカルアライメント実行不能状態931、2:ローカルアライメント実行状態932、3:ローカルアライメント完了状態933を表す。ローカルアライメント未実行状態930は、ローカルアライメント処理が実行されていない状態である。ローカルアライメント実行不能状態931は、隣接タイルが無い等の理由でローカルアライメント処理が実行できない状態である。ローカルアライメント実行状態932は、ローカルアライメント処理を実行中である状態である。ローカルアライメント完了状態933は、ローカルアライメント処理の実行が完了した状態である。
グローバルアライメント実行状態変数905の画像処理実行状態は、0〜2の値をとる。各値は、0:グローバルアライメント未実行状態935、1:グローバルアライメント実行状態936、グローバルアライメント完了状態937を表す。グローバルアライメント未実行状態935は、グローバルアライメント処理が実行されていない状態である。グローバルアライメント実行状態936は、グローバルアライメント処理を実行中である状態である。グローバルアライメント完了状態937は、グローバルアライメント処理の実行が完了した状態である。
プロセス管理テーブル901の値は、インデックス(状態番号)に対するタイルの状態を表し、初期値は0(未取得状態921)である。アライメント管理テーブル902の値は、インデックスに対するタイルの上部にある隣接タイルと、状態番号に対するタイルとの間で行われるローカルアライメントの実行状態を表わす。アライメント管理テーブル903の値は、インデックスに対するタイルの左部にある隣接タイルと、状態番号に対するタイルとの間で行われるローカルアライメントの実行状態を表わす。アライメント管理テーブル902、903の初期値は、0(ローカルアライメント未実行状態930)あるいは、1(ローカルアライメント実行不能状態931)である。隣接タイルが存在しない、あるいは撮像回数を減らすために隣接タイルの取得を省略するような場合にローカルアライメント実行不能状態931に設定する。
プロセス管理テーブル901に対して、撮像状態管理テーブル301と同様の操作(更新、検索、およびそれらを組み合わせた手続き)を実行できる。また、プロセス管理テーブル901とアライメント管理テーブル902、903に対して、ローカルアライメント処理の実行に関わる2種類の操作(今後、アライメント状態監視、アライメント状態更新と呼ぶ)を実行できる。上記操作を実行中は、他のプロセスが各テーブルにアクセスできないように、ロック取得による調停が行なわれる。
状態番号リンクテーブル904のインデックスは状態番号であり、状態番号リンクテーブル904の値は、インデックスに相当するタイルの上下左右に位置するタイルの状態番号を4要素とするベクトルである。
グローバルアライメント実行状態変数905は、グローバルアライメントの実行状態を保持する変数である。初期値は、0(グローバルアライメント未実行状態935)である。
グローバルアライメント実行状態変数905は、グローバルアライメントの実行状態を保持する変数である。初期値は、0(グローバルアライメント未実行状態935)である。
上記複数のプロセスは、内部で実行される処理により3種類に分類できる。今後、各々をデータ受信プロセス、位置ずれ・変形推定プロセス、画像合成プロセスと呼ぶ。画像処理装置のハードウェアリソースによっては、各々の種類のプロセス数を増やし、処理を高速化することも可能である。本実施形態では、各プロセスが独立にプロセス管理テーブル901の検索、監視を行う方式を採用しているが、プロセス管理テーブル901へのアクセスがボトルネックになり処理効率が低下する場合がある。そのような場合には、プロセス管理テーブル901の検索を行い、検索結果に基づいて子プロセスに処理命令を発行する専用のプロセスを設け、子プロセスに上記の3種類の処理を実行させる構成を用いても良い。この構成は、プロデューサーコンシューマーデザインパターンとして一般に知られる。
図10を用いてデータ受信プロセス1001と構成要素間で行われるデータ交換について説明する。データ受信プロセス1001は、ネットワークの特定のポートを監視し、撮像装置102が送信してきたデータ(周辺データまたは圧縮タイル)を受信し、メインメモリに格納する。上記データが周辺データの場合は、プロセス管理テーブル901の値を1(周辺データ受信済み状態922)に更新し、圧縮タイルの場合は2(圧縮タイル受信済状態923)に更新する。終了後、ポートの監視状態に戻る。
図11を用いて位置ずれ・変形推定プロセス1002と構成要素間で行われるデータ交換について説明する。位置ずれ・変形推定プロセス1002の実行開始時には、処理対象とする状態番号(以後、「対象状態番号」と呼ぶ)を1あるいは所定の値に初期化する。次に、プロセス管理テーブル901とアライメント管理テーブル902、903に対して、アライメント状態監視操作を実行する。
以下に、アライメント状態監視操作について説明する。まず、対象状態番号に対するタイルへの画像処理実行状態が、0(未取得状態921)ではない(1以上である)ことを確認する。次に、アライメント管理テーブル902、903により、対象状態番号に対するタイルと上下左右に隣接する4タイルとの間でのローカルアライメント処理の実施状態を検索する。上、左に隣接するタイルのローカルアライメント実施状態はアライメント管理テーブル902、903から直接得られる。一方、下、右に位置するタイルのローカルアライメント実施状態は、状態番号リンクテーブル904を用いて、下、右のタイルの状態番号を得てから、アライメント管理テーブル902、903を用いることで得られる。
隣接タイルのローカルアライメント実施状態が0(ローカルアライメント未実行状態930)であった場合、プロセス管理テーブル901により、上記隣接タイルの画像処理実行状態を取得する。画像処理実行状態が0(未取得状態921)ではない場合には、アライメント管理テーブル902、903の値を、2(ローカルアライメント実行状態932)に更新する。
上記アライメント状態監視操作の終了後、画像処理実行状態が2(ローカルアライメント実行状態932)に更新された隣接タイルと、対象状態番号に対するタイルに対して、ローカルアライメント処理を実行する。
ローカルアライメント処理の実行後には、アライメント状態更新操作を実行する。アラ
イメント状態更新操作は、アライメント管理テーブル902、903の値を更新する操作であり、ローカルアライメントを実施した隣接タイルに対する値を3(ローカルアライメント完了状態933)に更新する。
ローカルアライメント処理の実行後には、アライメント状態更新操作を実行する。アラ
イメント状態更新操作は、アライメント管理テーブル902、903の値を更新する操作であり、ローカルアライメントを実施した隣接タイルに対する値を3(ローカルアライメント完了状態933)に更新する。
対象状態番号がN(最終状態)の場合には、ローカルアライメント処理の実行後に、グローバルアライメント処理を実行する。グローバルアライメント処理の出力データは、各タイルに対する幾何補正用のパラメータであり、今後、「位置ずれ・変形推定量」と呼ぶ。実行開始時には、グローバルアライメント実行状態変数905の値を1(グローバルアライメント実行状態936)に更新した後、グローバルアライメント処理を実行する。実行後、グローバルアライメント実行状態変数905の値を2(グローバルアライメント完了状態937)に更新する。
図12を用いて画像合成プロセス1003と構成要素間で行われるデータ交換について説明する。位置ずれ・変形推定プロセス1002と同様に、プロセス開始時に対象状態番号を1あるいは所定の値に初期化する。初期化後、対象状態番号に対応する値が2(圧縮タイル受信済み状態923)になるまで、プロセス管理テーブル901を監視する。状態の変化を確認後、プロセス管理テーブル901の値を3(復号実行状態940)に更新し、対象状態番号に対応する圧縮データに対して後述する復号処理を実行する。以後、復号処理の出力画像データを復号タイルと呼ぶ。復号処理実行後、プロセス管理テーブル901の値を4(復号完了状態941)に更新する。
次に、画像合成プロセス1003は、グローバルアライメント実行状態変数905の監視を行う。グローバルアライメント実行状態変数905の数値が2(グローバルアライメント完了状態937)になるのを確認後に、プロセス管理テーブル901の値を5(変形補正実行状態942)に更新し、変形補正処理を対象状態番号に対する復号タイルに施す。変形補正処理の出力は、対象状態番号に対応する位置ずれ・変形補正後タイルとその縮小画像データであり、それらは、画像処理装置103のメインメモリに保持される。変形補正処理の終了後に、画像合成プロセス1003は、プロセス管理テーブル901の値を6(変形補正完了状態943)に更新する。対象状態番号がNではない場合には、対象状態番号を更新してプロセス管理テーブル901の監視状態に戻る。更新する数値は、位置ずれ・変形推定プロセスの場合と同じである。
一方、対象状態番号がNである場合には、全ての状態番号に対するプロセス管理テーブル901の値が6(変形補正完了状態943)になったことを確認後、後述する画像合成処理を実行する。画像合成処理の結果、後述する合成後画像データが得られ、合成後画像データはハードディスクに保存される。
合成後画像データのハードディスクへの保存後、共有メモリに割り当てた全てのテーブル及び変数と、全てのプロセスが保持する状態番号を初期化することで、画像処理装置内で行われる画像処理が終了する。
合成後画像データのハードディスクへの保存後、共有メモリに割り当てた全てのテーブル及び変数と、全てのプロセスが保持する状態番号を初期化することで、画像処理装置内で行われる画像処理が終了する。
<画像処理装置内で行われる画像処理(個別処理)>
次に、画像処理装置内で行われる各画像処理の詳細について説明する。
ローカルアライメント処理は、隣接する2つのタイルにおいて、一方のタイルを基準としたときの他方のタイルの位置ずれ・変形を、各々の周辺データを用いて計算する処理である。以後、基準となるタイルを「基準タイル」、基準ではないタイルを「比較タイル」と呼ぶ。隣接タイルが左右に配置されている場合には、左側のタイルを基準タイルとし、上下の場合には上側のタイルを基準タイルとする。上記位置ずれ・変形は、式3により与えられるアフィン変換で表現できると仮定している。
x,yは基準タイル内の画素位置を表す座標値、x’,y’は比較タイル内の画素位置を表す座標値である。m11〜m22は変形に関する行列成分、s1,s2は位置ずれに関する行列成分、t1,t2は基準タイルの中心を原点としたときの比較タイルの中心座標である。
次に、画像処理装置内で行われる各画像処理の詳細について説明する。
ローカルアライメント処理は、隣接する2つのタイルにおいて、一方のタイルを基準としたときの他方のタイルの位置ずれ・変形を、各々の周辺データを用いて計算する処理である。以後、基準となるタイルを「基準タイル」、基準ではないタイルを「比較タイル」と呼ぶ。隣接タイルが左右に配置されている場合には、左側のタイルを基準タイルとし、上下の場合には上側のタイルを基準タイルとする。上記位置ずれ・変形は、式3により与えられるアフィン変換で表現できると仮定している。
ローカルアライメント処理は、Feature-based registration手法に基づいている。Feature-based registrationでは、まず、隣接する二つのタイルにおいて重複して撮像された周辺データから、コーナーや直線のような特徴の位置を抽出する。次に、各々のタイルに属する同一特徴の位置の差を最小化する位置ずれ・変形のパラメータを、最小二乗法により算出する。
しかしながら、本実施形態の撮像対象である病理標本画像中には、コーナーや直線のように位置検出に適した特徴はほとんど存在しない。このような場合には、図14に示すように、周辺データに矩形の微小区画(以後、パッチと呼ぶ)を設け、パッチ内の模様を特徴として利用することが一般的に行われている。本実施形態においては、パッチを特徴として利用したFeature-based registrationを採用する。
ローカルアライメント処理1011の流れについて、図15Aに記載のフローチャートを用いて説明する。パッチ位置ずれ検出工程1012では、まず、基準タイルの周辺データからパッチを取得する。パッチの位置は任意に選択しても、事前に与えても良いが、パッチ内に細かい模様(テクスチャ)を含む必要がある。次に、比較タイルの周辺データにおいて、上記パッチの位置を推定する。推定位置は、式4により与えられる正規化相関関数により得られる。
ここで、I0(x)は基準タイルのパッチにおいて位置xに存在する画素の画素値、I1(x)は比較タイルのパッチにおいて位置xに存在する画素の画素値、iはパッチ内の画素の番号、Nはパッチ内の画素数である。uは両パッチの位置ずれを表すベクトルである。正規化相関関数が最大の値を示すuをパッチ間位置ずれとして用いる。
位置ずれ・変形パラメータ推定工程1013では、以下の式に従って式3で与えられる位置ずれ・変形関数の係数を推定する。
ここで、G(M)は行列Mの一般逆行列を返す関数である。一般逆行列は、非正方行列に対して機能する疑似的な逆行列であり、様々な種類がある。本実施形態においては、最小二乗解を求める際に一般的に用いられるG(M)=[MTM]−1MTとする。xi,yi(ただし、i=1,2,…,P)は、基準タイル内にP個存在するパッチの中心座標、x’i,y’i(i=1,2,…,P)は、比較タイルから推定した基準タイルのパッチの中心座標推定値である。m11,m12,m21,m22,s1,s2,t1,t2は、式3の係数である。式4により得られる位置ずれuの要素は(x’i−xi,y’i−yi)(ただし、i=1,2,…,P)であり、t1,t2は既知であることから、位置ずれ・変形関数の係数m11,m12,m21,m22,s1,s2を計算できる。得られた位置ずれ・変形関数の係数は、メインメモリに保存される。
グローバルアライメント処理は、ローカルアライメント処理により得られた2タイル間の相対的位置ずれ・変形を基に、各タイルに与える位置ずれ・変形を算出する処理である。最も単純な処理として、左上に存在するタイルに変形を与えず、周辺に存在するタイルの位置ずれ・変形を順番に決定する処理が考えられる。しかしながら、左上タイルが絶対座標に対して微小回転していた場合に、右下のタイルの位置が大きくずれる可能性がある。また、途中の相対的位置ずれ・変形推定値の精度が低い場合には、右下タイルとその隣接タイルとの間に隙間が生じる可能性がある。本実施の形態で採用したグローバルアライメント処理は、これらの問題の発生を抑制した手法である。
グローバルアライメント処理1021について、図15Bに記載のフローチャートを用いて説明する。初期値算出工程1022では、一つのタイルを基準とした位置ずれ・変形量を、2タイル間の相対的位置ずれ・変形を基に算出する。例えば、四つのタイルが横に並んで配置されている状況において最左タイルを基準とする場合、2タイル間の相対的位置ずれを基にして、最右タイルの位置ずれ・変形量は以下の式で与えられる。
ここで、Ai,k(x)は、i番目のタイルを基準としたときのk番目のタイルの位置ずれ・変形を表すアフィン変換(式3)である。Mi,k,si,k,ti,kは、各々、i番目のタイルを基準としたときのk番目のタイルの変形を表す行列、位置ずれを表すベクトル、中心位置を表すベクトルである。アフィン変換の合成関数はアフィン変換であり、さらに、中心位置を表すベクトルt1,4が事前に与えられることから、未知数であるM1,4、s1,4を決めることができる。
初期値算出工程1022により得られた位置ずれ・変形量に基づいてタイルを継ぎ合わせた場合、式6の算出に用いた複数のタイルの継ぎ合わせは良好であるが、算出に用いていないタイルとの間には継ぎ目が現れやすい。最適化工程1023では、初期値算出工程
1022により得られた各タイルの位置ずれ・変形量の調整を行い、継ぎ目を抑制する。具体的には、基準タイルから離れたタイルにおいては、複数の異なる経路において式6の算出を行い、得られた値の平均値を位置ずれ・変形量として採用する。結果として、隣接タイル間に隙間を発生させずに、各タイルの位置ずれ・変形量を決定できる。
1022により得られた各タイルの位置ずれ・変形量の調整を行い、継ぎ目を抑制する。具体的には、基準タイルから離れたタイルにおいては、複数の異なる経路において式6の算出を行い、得られた値の平均値を位置ずれ・変形量として採用する。結果として、隣接タイル間に隙間を発生させずに、各タイルの位置ずれ・変形量を決定できる。
復号処理1031について、図15Cに記載のフローチャートを用いて説明する。復号処理1031はDCT方式のJPEG復号処理である。DCT方式のJPEG復号処理は一般に良く知られているため、工程の詳細は省略して概要のみ述べる。ハフマン復号工程1032では、圧縮データにハフマン復号処理を施して量子化後DCT係数を求める。逆量子化工程1033では、量子化後DCT係数から連続DCT係数を求める。IDCT工程1034では、DCT係数からYC分離後タイルを復元する。
変形補正処理1041について、図15Dに記載のフローチャートを用いて説明する。アフィン変換工程1042では、まず、以下の式7に基づいて、アフィン変換処理後タイルの画素(以後、「注目画素」と呼ぶ)に対応する補正対象タイル内の点の座標値を計算する。
ただし、x,yは注目画素の座標値、x’,y’は補正対象タイル内における注目画素の座標値(ただし、原点は基準タイルの中心点)である。t’1,t’2は補正に用いるタイルの中心点の座標値(ただし、原点は基準タイルの中心)である。m’11〜m’22、s’1、s’2は、グローバルアライメント処理1021により得られたタイル毎の位置ずれ・変形量である。
次に、補正対象タイル内における注目画素の値を近傍画素補間により求める。アフィン変換処理後タイルにおいて、注目画素をラスタスキャンすることで、アフィン変換処理後タイル内の全画素値を得る。
倍率変換工程1043では、アフィン変換処理後のタイルに所定の倍率を掛けた画像データを生成する。あらかじめ異なる倍率を与えられた画像データを作成することで、表示時の倍率変換処理を簡略化するのが目的である。ガンマ補正工程1044では、アフィン変換処理後のタイルと倍率変換処理後のタイルにガンマ補正を施す。倍率変換工程1043とガンマ補正工程1044は必要なければ省略しても良い。
画像合成処理1051について、図15Eに記載のフローチャートを用いて説明する。画像データ収集工程1052では、対象状態番号がN以下の画像合成プロセスにおいて生成されたタイルを同じ倍率毎に収集する。整形工程1053では、隣接タイルの重複領域を適切に処理した後に一つの画像データに整形する。画像フォーマットは、表示プログラムに依存して決められる。例えば、表示プログラムがJPEG圧縮データの表示と、異なる倍率の切り替え表示に対応している場合には、倍率毎に異なるJPEG圧縮データを一つのZIP圧縮フォルダにまとめたフォーマットを採用する。
以上のように、顕微鏡撮像システムの出力である合成後画像データを生成することができる。
以上のように、顕微鏡撮像システムの出力である合成後画像データを生成することができる。
このように、本発明の第1実施形態は、タイルの周辺データを非圧縮の状態で、また画像データを非可逆圧縮した状態で画像処理装置に転送し、周辺データを用いて推定した位置ずれ・変形量に基づいて圧縮データを合成する顕微鏡撮像システム、である。この構成
により、撮像装置のハードウェア規模を小規模に保ちながら、正確な継ぎ合わせ処理と高速な処理が可能となる。
により、撮像装置のハードウェア規模を小規模に保ちながら、正確な継ぎ合わせ処理と高速な処理が可能となる。
また本実施形態では、撮像装置から画像処理装置への周辺データの転送と、圧縮タイルの転送とが非同期に行われる。詳しくは、周辺データが先に画像処理装置へ転送され、撮像装置がタイルデータの生成、非可逆圧縮、転送を行っている時間を利用して、画像処理装置が位置ずれ・変形推定量の計算を並列に実行する。言い換えると、画像処理装置は、周辺データを先に取得し、タイルデータが取得可能となるまでのタイムラグを利用して、タイルの継ぎ合わせに用いるパラメータの決定処理を行う。したがって、画像処理装置は、撮像装置から圧縮タイルを受信すると直ぐに画像合成処理を開始することができる。これにより効率的な(つまり高速な)継ぎ合わせ処理を実現している。特に本実施形態では、周辺データに色変換やYC分離などの処理を施さない(RAWデータをそのまま用いる)ので、周辺データの作成にかかる撮像装置の負荷を最小限にできるとともに、周辺データを画像処理装置に早いタイミングで転送可能である。
[第2実施形態]
本発明の第2実施形態について説明する。第2実施形態は、状態番号毎(撮像エリア毎)に複数層のタイル(以後、zスタックデータと呼ぶ)を取得し、層毎にタイルを継ぎ合わせることにより、標本全面の3次元構造を取得する顕微鏡撮像システムである。第1実施形態と類似した構成を持つが、画像処理装置としてワークステーションを用いず、画像処理ボード上に実装されている点が異なる。また、周辺データに可逆圧縮をかけて画像処理装置に転送する点も異なる。
本発明の第2実施形態について説明する。第2実施形態は、状態番号毎(撮像エリア毎)に複数層のタイル(以後、zスタックデータと呼ぶ)を取得し、層毎にタイルを継ぎ合わせることにより、標本全面の3次元構造を取得する顕微鏡撮像システムである。第1実施形態と類似した構成を持つが、画像処理装置としてワークステーションを用いず、画像処理ボード上に実装されている点が異なる。また、周辺データに可逆圧縮をかけて画像処理装置に転送する点も異なる。
図16に示すように、第2実施形態の顕微鏡撮像システム1101は、撮像装置1102と画像処理装置1103から構成される。撮像装置1102の構成は、第1実施形態と同じである(第1実施形態と同一の構成要素には図1と同一の符号を付す。)。画像処理装置1103は、撮像装置1102と同じ筐体内にある画像処理ボード1119で構成されている。撮像装置1102の撮像処理ボード1115と画像処理ボード1119は、ネットワークケーブル1105により接続され、双方向にデータを転送できる。第1実施形態とは異なり、制御装置1104は画像処理装置1103とは別となっており、PCのマザーボードを使用する。制御装置1104も撮像装置1102と同じ筐体内に据え付けられている。顕微鏡撮像システム1101には、ディスプレイ1121がディスプレイケーブル1122を介して接続されている。
撮像処理ボード1115の構成について図17を用いて説明する。第1実施形態における撮像処理ボード115(図2)とほぼ同じ構成であるが、非可逆圧縮部1137と可逆圧縮部1153を備える点が異なる。第1実施形態と同一の構成要素については図2と同一の符号を付し、詳しい説明を省略する。
画像処理ボード1119の構成について図18を用いて説明する。画像処理ボード1119は、メモリ1161、通信インターフェース1162、周辺データ復号部1163、ローカルアライメント部1164、グローバルアライメント部1165、タイル復号部1166、変形補正部1167、画像合成部1168を有する。また、画像処理ボード1119は、データ受信コントローラ1169、位置ずれ・変形推定コントローラ1170、画像合成コントローラ1171を有する。符号1174はデータバス制御信号(占有許可信号、占有可否問い合わせなど)を示し、符号1175は制御信号(処理開始指示、処理完了通知など)を示し、符号1176はデータの流れを示す。各コントローラは、調停回路1172からデータバス占有許可信号を取得した後、データバス1173により接続された各構成要素に処理開始指示を送り、構成要素毎の画像処理を実行する。
<タイルの取得>
本実施形態の顕微鏡撮像システムにおける撮像の流れは、図3に示す第1実施形態とほぼ同じである。第1実施形態と内容が異なる、タイル取得工程204のみ説明する。第2実施形態におけるタイル取得工程204では、合焦位置検出工程203で得られた合焦z座標値を基準に、タイルを取得する複数の層の高さ(深さ)を決定する。例えば、合焦z座標値を中心にして上下に層を設定してもよいし、合焦z座標値の下側(又は上側)に複数の層を設定してもよい。以後、タイルを取得する層の数を「層数」、各層の番号を「層番号」と呼ぶ。なお、隣接する層同士の間隔は対物レンズの被写界深度よりも小さくなるように設定すればよい。タイル取得工程204では、各層の高さに三軸ステージを駆動し、各ステージ高さにおいて、電動フィルタホイール118によりカラーフィルタを切り替えて撮像することで、単色タイルを取得する。第1実施形態においては、一つの状態番号(撮像エリア)に対する単色タイル数は3であったが、本実施形態においては、一つの状態番号に対する単色タイル数は3×H(ただし、Hは層数)となる。なお、合焦z座標値と各層の高さは、状態番号毎(撮像エリア毎)に決定してもよいし、すべての状態番号(撮像エリア)で同じ値を用いてもよい。
本実施形態の顕微鏡撮像システムにおける撮像の流れは、図3に示す第1実施形態とほぼ同じである。第1実施形態と内容が異なる、タイル取得工程204のみ説明する。第2実施形態におけるタイル取得工程204では、合焦位置検出工程203で得られた合焦z座標値を基準に、タイルを取得する複数の層の高さ(深さ)を決定する。例えば、合焦z座標値を中心にして上下に層を設定してもよいし、合焦z座標値の下側(又は上側)に複数の層を設定してもよい。以後、タイルを取得する層の数を「層数」、各層の番号を「層番号」と呼ぶ。なお、隣接する層同士の間隔は対物レンズの被写界深度よりも小さくなるように設定すればよい。タイル取得工程204では、各層の高さに三軸ステージを駆動し、各ステージ高さにおいて、電動フィルタホイール118によりカラーフィルタを切り替えて撮像することで、単色タイルを取得する。第1実施形態においては、一つの状態番号(撮像エリア)に対する単色タイル数は3であったが、本実施形態においては、一つの状態番号に対する単色タイル数は3×H(ただし、Hは層数)となる。なお、合焦z座標値と各層の高さは、状態番号毎(撮像エリア毎)に決定してもよいし、すべての状態番号(撮像エリア)で同じ値を用いてもよい。
<撮像装置内で行われる画像処理>
本実施形態の顕微鏡撮像システムにおける画像処理内容は、第1実施形態とほぼ同じである。異なる点は、データクリップ・圧縮処理コントローラ147により制御される構成要素に可逆圧縮部1153が追加され、画像処理に可逆圧縮処理が追加されたことである。
本実施形態の顕微鏡撮像システムにおける画像処理内容は、第1実施形態とほぼ同じである。異なる点は、データクリップ・圧縮処理コントローラ147により制御される構成要素に可逆圧縮部1153が追加され、画像処理に可逆圧縮処理が追加されたことである。
データクリップ・圧縮処理コントローラ147により制御される構成要素間のデータ交換について、図19を用いて説明する。データクリップ・圧縮処理コントローラ147は、タイル取得開始と同時に撮像状態管理テーブル301の監視を開始する。同じ状態番号に属する複数の単色タイル番号に対する値を順番に検索し、全て補正完了状態404の場合に、クリップ実行状態405に更新した後に作業を開始する。例えば、層数がHの場合には、状態番号pに対するRGB各色の単色タイル番号は、3Hp,3Hp+1,…,3Hp+3H−2,3Hp+3H−1である。
まず、コントローラ147は、周辺データクリップ部135に特定の色、及び、特定の層番号のセンサ補正後単色タイルの先頭アドレスを送り、周辺データクリップ処理の実行を指示する。上記センサ補正後単色タイルの色を任意に選択できるのは、第1実施形態と同じである。上記特定の層番号も任意に選択できるが、細かいテクスチャが含まれる層やコントラストが高い層の層番号を選択するとよい。例えば、合焦位置検出工程203で得られた合焦z座標値と同じ高さにある層の層番号を選択するとよい。
周辺データクリップ処理の生成物である周辺データは、可逆圧縮部1153に送信され、後述する可逆圧縮処理を施される。可逆圧縮後の周辺データは、ネットワーク経由で画像処理装置1103に転送される。なお、本実施形態では、一層のみの周辺データを用いるが、二層以上の周辺データを用いることもできる。あるいは、二層以上の周辺データを合成(例えば深度合成)して高コントラストの周辺データを作成してもよい。
次に色変換・YC分離部136により実行される色変換処理は、第1実施形態と同じである。YC分離後タイルは非可逆圧縮部1137に送られ、非可逆圧縮処理が実行される。非可逆圧縮処理は、第1実施形態と同じくDCT方式のJPEG圧縮とする。非可逆圧縮部1137の出力データである圧縮タイルは、通信インターフェース139を経由し、画像処理装置1103に転送される。転送後、撮像状態管理テーブル301の値を5(クリップ完了状態406)に更新し、監視対象とする単色タイル番号を3H増加させて(ただし、Hは層数)監視を続行する。
次に、可逆圧縮部1153で行なわれる可逆圧縮処理1201について、図20に記載のフローチャートを用いて説明する。可逆圧縮処理1201は、spatial方式のJPEG圧縮処理である。spatial方式のJPEG圧縮処理は一般に良く知られているため、工程の詳細は省略して概要のみ述べる。2次元予測工程1202では、周辺データ内の各画素において、近傍画素による予測値を計算する。ハフマン符号化工程1203では、予測値と画素値の差分によってハフマン符号化を実行する。結果として非可逆圧縮した周辺データが得られる。
<画像処理装置内で行われる画像処理>
本実施形態の画像処理装置1103で行われる画像処理は、第1実施形態とは異なり、画像処理ボード1119上の構成要素の連携により実行されるが、処理内容はほぼ同じである。
本実施形態の画像処理装置1103で行われる画像処理は、第1実施形態とは異なり、画像処理ボード1119上の構成要素の連携により実行されるが、処理内容はほぼ同じである。
第1実施形態と同じく、画像処理装置1103のメモリ1161にはプロセス管理テーブル、二種類のアライメント管理テーブル、状態番号リンクテーブル、グローバルアライメント実行状態変数が割り当てられ、それらがプロセス制御に用いられる。
第1実施形態において、データ受信プロセス、位置ずれ・変形推定プロセス、画像合成プロセスに関して行われたデータ交換は、データ受信コントローラ1169、位置ずれ・変形推定コントローラ1170、画像合成コントローラ1171が担当する。各々について、図21、図22、図23を用いて説明する。
図21を用いて、データ受信コントローラ1169と構成要素間で行われるデータ交換を説明する。データ受信コントローラ1169は、通信インターフェース1162の特定のポートを監視し、撮像装置1102が送信してきたデータ(可逆圧縮後周辺データまたは圧縮タイル)を受信する。圧縮タイルの場合、コントローラ1169は、データをそのままメモリ1161に格納し、プロセス管理テーブル901の値を2(圧縮タイル受信済状態923)に更新する。一方、可逆圧縮後周辺データの場合は、コントローラ1169は、周辺データ復号部1163に可逆圧縮後周辺データを送り、後述する可逆復号処理を実行する。結果として得られた周辺データをメモリ1161に格納する。その後、コントローラ1169は、プロセス管理テーブル901の値を1(周辺データ受信済み状態922)に更新する。終了後、ポートの監視状態に戻る。
次に、図22を用いて位置ずれ・変形推定コントローラ1170と構成要素間で行われるデータ交換について説明する。位置ずれ・変形推定コントローラ1170は、第1実施形態において説明した対象状態番号を保持するレジスタを持っている。位置ずれ・変形推定コントローラ1170の動作開始時に、上記レジスタを0あるいは所定の値に初期化し、対象状態番号に対する位置ずれ・変形推定処理が完了後に、レジスタの値を一定値増加させて更新する。
位置ずれ・変形推定コントローラ1170と構成要素の間のデータ交換は、第1実施形態において、位置ずれ・変形推定プロセス1002と構成要素の間で行なわれたものと同じである。ローカルアライメント処理とグローバルアライメント処理は、ローカルアライメント部1164およびグローバルアライメント部1165を使って実行する。
次に、図23を用いて画像合成コントローラ1171と構成要素との間で行われるデータ交換について説明する。画像合成コントローラ1171も、第1実施形態において説明した対象状態番号を保持するレジスタを持ち、第1実施形態と同様に初期化、更新を行う。データ交換手順は、図12において、画像合成プロセス1003を画像合成コントロー
ラ1171に置き換えたものと同じである。復号処理と変形補正処理は、タイル復号部1166、変形補正部1167において実行する。画像合成処理は、画像合成部1168により実行する。
ラ1171に置き換えたものと同じである。復号処理と変形補正処理は、タイル復号部1166、変形補正部1167において実行する。画像合成処理は、画像合成部1168により実行する。
個別処理の内容は、第1実施形態とほぼ同じであるが、図24に示す可逆復号処理1301を周辺データ復号部1163において実行する点が異なる。可逆復号処理1301は一般に良く知られているため、工程の詳細は省略する。ハフマン復号工程1302では、可逆圧縮された周辺データに対し、圧縮時に行ったハフマン符号化の逆演算を行い、予測値と画素値の差分値を得る。画素値復元工程1303では、圧縮時の2次元予測で得られた符号列と上記差分値から画素値を復元する。
また、画像合成処理の出力ファイルである合成後画像データのファイルフォーマットをzスタックデータに対応させる必要がある点も、第1実施形態と異なる。例えば、表示プログラムが深度切り替えに対応している場合には、層毎に異なるJPEG圧縮データを一つのZIP圧縮フォルダにまとめたフォーマットを採用する。
以上のように、顕微鏡撮像システムの出力である合成後画像データを生成することができる。合成後画像データは、メモリ1161又は外部記憶装置1177に格納される。
以上のように、顕微鏡撮像システムの出力である合成後画像データを生成することができる。合成後画像データは、メモリ1161又は外部記憶装置1177に格納される。
このように、本発明の第2実施形態では、zスタックデータの中の一層のタイルの周辺データに可逆圧縮を施した状態、且つ、画像データを非可逆圧縮した状態で画像処理装置に転送する。そして、画像処理装置において、復号した周辺データを用いて推定した位置ずれ・変形量に基づいて圧縮データを合成する。この構成により、撮像装置のハードウェア規模を小規模に保ちながら、zスタックデータの正確な継ぎ合わせ処理と高速な処理が可能となる。
また本実施形態でも、第1実施形態と同様、撮像装置から画像処理装置への周辺データの転送と、圧縮タイルの転送とが非同期に行われる。したがって、画像処理装置は、撮像装置から圧縮タイルを受信すると直ぐに画像合成処理を開始することができる。これにより効率的な(つまり高速な)継ぎ合わせ処理を実現している。特に本実施形態では、周辺データに可逆圧縮を施して転送しているので、周辺データの転送量及び転送時間を短縮することが可能である。
また一層分の周辺データのみ転送し、これを複数層のzスタックデータの継ぎ合わせ処理に共通に用いるので、周辺データの転送量及び転送時間を短縮できるとともに、位置ずれ・変形推定処理の負荷を低減することもできる。
また一層分の周辺データのみ転送し、これを複数層のzスタックデータの継ぎ合わせ処理に共通に用いるので、周辺データの転送量及び転送時間を短縮できるとともに、位置ずれ・変形推定処理の負荷を低減することもできる。
[第3実施形態]
本発明の第3実施形態について説明する。第3実施形態は撮像装置であり、分割撮像を行った後に、非可逆圧縮を施したタイルと、非可逆圧縮を施した周辺データを送信する機能を有することを特徴とする。構成は、第1実施形態の撮像装置とほぼ同じであるが、撮像処理ボードにて、周辺データクリップ後に、非可逆圧縮処理を実行する点が異なる。
本発明の第3実施形態について説明する。第3実施形態は撮像装置であり、分割撮像を行った後に、非可逆圧縮を施したタイルと、非可逆圧縮を施した周辺データを送信する機能を有することを特徴とする。構成は、第1実施形態の撮像装置とほぼ同じであるが、撮像処理ボードにて、周辺データクリップ後に、非可逆圧縮処理を実行する点が異なる。
装置構成は図1に示す撮像装置102と同じであり、説明を省略する。撮像処理ボードについても、構成は図2と同一であるが、データクリップ・圧縮処理コントローラ147により行われる構成要素間データ交換が異なる。
本実施形態の構成要素間データ交換について図25を用いて説明する。データクリップ・圧縮処理コントローラ147は、周辺データクリップ部135による周辺データクリップ処理の前に、色変換・YC分離部136に色変換処理とYC分離処理の実行を指示する。次に、コントローラ147は、周辺データクリップ部135に、YC分離後の輝度成分(Y成分)に対する周辺データクリップ処理の実行を指示する。
周辺データクリップ処理の実行完了通知を受け取った後、データクリップ・圧縮処理コントローラ147は、周辺データクリップ処理後の輝度成分に対する非可逆圧縮処理の実行を圧縮部137に指示する。周辺データに対する圧縮率は、圧縮タイルの圧縮率より大きくなるように(情報の削減割合が圧縮タイルに比べて小さくなるように)設定する。過去のシミュレーション結果では、JPEG圧縮の圧縮率が27%の場合、位置ずれ推定に失敗する確率は約1%で、圧縮率が4%の場合に失敗する確率は約10%であった。圧縮タイルの圧縮率は5%程度が良く用いられることから、周辺データに対する圧縮率を6〜30%程度にすることで、位置ずれ推定の成功率が高まり、スティッチング(継ぎ合わせ)の精度も向上する。圧縮部137では、非可逆圧縮処理の実行後に、圧縮後周辺データを通信インターフェース経由で外部に送信する。
続けて行われるYC分離後タイルに対する処理は、第1実施形態と同じである。
続けて行われるYC分離後タイルに対する処理は、第1実施形態と同じである。
このように、本発明の第3実施形態は、分割画像を撮像し、分割画像とその周辺データに圧縮率の異なる非可逆圧縮を施すことを特徴とする撮像装置である。非可逆圧縮を施しているが、情報の削減割合が小さいため、アーチファクトの少ない周辺データを利用できるため、外部装置において高精度スティッチング処理の実行が可能になる。また、第1実施形態(非圧縮)や第2実施形態(可逆圧縮)に比べて周辺データの転送量及び転送時間を短縮できるという利点もある。
[第4実施形態]
本発明の第4実施形態について説明する。第4実施形態は、非可逆圧縮された分割画像と周辺データを基にして、高精度に分割画像の継ぎ合わせ処理を実行する画像処理装置である。構成は第1実施形態における画像処理装置と同じである。
本発明の第4実施形態について説明する。第4実施形態は、非可逆圧縮された分割画像と周辺データを基にして、高精度に分割画像の継ぎ合わせ処理を実行する画像処理装置である。構成は第1実施形態における画像処理装置と同じである。
画像処理内容もほぼ第1実施形態と同じであるが、図26に示すように、データ受信プロセスに関する処理が異なる。データ受信プロセスは、通信インターフェースからデータを受信後にデータ種類の判定を行い、受信データが圧縮後周辺データである場合には、非可逆復号処理を実施する。復号後の周辺データは、メモリに保存される。本実施形態では、第3実施形態の撮像装置が送信するデータのように、周辺データに施された非可逆圧縮処理の情報削減の割合が、タイルに施された非可逆圧縮処理よりも低いことを前提としている。復号後の周辺データからは情報が削減されていないため、周辺データから位置ずれ・変形量推定を高精度に実行できる。結果として、高精度な合成画像を生成できる。
このように、本発明の第4実施形態は、非可逆圧縮された周辺データを基にして、タイルの位置ずれ・変形量推定を行うことで、高精度にタイルを継ぎ合わせることができる画像処理装置である。
[その他の実施形態]
上記実施形態で述べた各構成を適宜組み合わせることもできる。例えば、第1実施形態の撮像システム(図1)の構成で、第2実施形態のようなzスタックデータの撮像及び合成を行うこともできるし、第2実施形態のような周辺データの可逆圧縮や、第3及び第4実施形態のような周辺データの非可逆圧縮を行ってもよい。また、第2実施形態の撮像システム(図16)の構成で、第1実施形態のような単一層の撮像及び合成を行うこともできるし、第1実施形態のように周辺データを非圧縮にしたり、第3及び第4実施形態のような周辺データの非可逆圧縮を行ってもよい。また、第3実施形態の撮像装置において、周辺データを非圧縮又は可逆圧縮してもよい。その場合、第4実施形態の画像処理装置では、周辺データの圧縮の有無や圧縮形式に応じて処理を変えればよい。
上記実施形態で述べた各構成を適宜組み合わせることもできる。例えば、第1実施形態の撮像システム(図1)の構成で、第2実施形態のようなzスタックデータの撮像及び合成を行うこともできるし、第2実施形態のような周辺データの可逆圧縮や、第3及び第4実施形態のような周辺データの非可逆圧縮を行ってもよい。また、第2実施形態の撮像システム(図16)の構成で、第1実施形態のような単一層の撮像及び合成を行うこともできるし、第1実施形態のように周辺データを非圧縮にしたり、第3及び第4実施形態のような周辺データの非可逆圧縮を行ってもよい。また、第3実施形態の撮像装置において、周辺データを非圧縮又は可逆圧縮してもよい。その場合、第4実施形態の画像処理装置では、周辺データの圧縮の有無や圧縮形式に応じて処理を変えればよい。
記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を
実現するシステムや装置のコンピュータ(又はCPU、MPU等のデバイス)によっても、本発明を実施することができる。また、例えば、記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を実現するシステムや装置のコンピュータによって実行されるステップからなる方法によっても、本発明を実施することができる。この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。従って、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能な記録媒体は、いずれも本発明の範疇に含まれる。
実現するシステムや装置のコンピュータ(又はCPU、MPU等のデバイス)によっても、本発明を実施することができる。また、例えば、記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を実現するシステムや装置のコンピュータによって実行されるステップからなる方法によっても、本発明を実施することができる。この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。従って、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能な記録媒体は、いずれも本発明の範疇に含まれる。
101:顕微鏡撮像システム
102:撮像装置
103:画像処理装置
114:イメージセンサ
115:撮像処理ボード
102:撮像装置
103:画像処理装置
114:イメージセンサ
115:撮像処理ボード
Claims (26)
- 撮像装置と画像処理装置を有する撮像システムであって、
前記撮像装置は、
被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する撮像手段と、
前記複数のエリアそれぞれに対し、前記撮像手段で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する生成手段と、
前記画像データを非可逆圧縮する非可逆圧縮手段と、を有し、
前記画像処理装置は、
前記複数のエリアそれぞれの、非可逆圧縮された画像データと周辺データを取得する取得手段と、
隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する決定手段と、
前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定手段で決定された前記パラメータを用いて継ぎ合わせる合成手段と、を有する
ことを特徴とする撮像システム。 - 前記撮像装置と前記画像処理装置とがデータ伝送路で接続されており、
前記非可逆圧縮された画像データ、及び、前記周辺データは、前記データ伝送路を介して前記撮像装置から前記画像処理装置へ送信される
ことを特徴とする請求項1に記載の撮像システム。 - 前記非可逆圧縮された画像データよりも先に前記周辺データが前記撮像装置から前記画像処理装置へ送信され、
前記撮像装置において前記画像データの生成、非可逆圧縮、及び、前記画像処理装置への送信が行われている時間を利用して、前記決定手段による前記パラメータの決定処理が行われる
ことを特徴とする請求項2に記載の撮像システム。 - 前記周辺データは、圧縮処理を施されずに、前記撮像装置から前記画像処理装置へ送信される
ことを特徴とする請求項2又は3に記載の撮像システム。 - 前記撮像装置は、前記周辺データを可逆圧縮する可逆圧縮手段をさらに有しており、
前記周辺データは、前記可逆圧縮手段により可逆圧縮されて、前記撮像装置から前記画像処理装置へ送信される
ことを特徴とする請求項2又は3に記載の撮像システム。 - 前記撮像装置は、前記非可逆圧縮手段の非可逆圧縮よりもデータが削減されない非可逆圧縮を前記周辺データに施す第2の非可逆圧縮手段をさらに有し、
前記周辺データは、前記第2の非可逆圧縮手段により非可逆圧縮されて、前記撮像装置から前記画像処理装置へ送信される
ことを特徴とする請求項2又は3に記載の撮像システム。 - 前記周辺データは、単色のデータである
ことを特徴とする請求項1〜6のうちいずれか1項に記載の撮像システム。 - 前記撮像手段は、前記複数のエリアそれぞれに対し、複数の層の撮像を行い、
前記生成手段は、前記撮像手段で得られたデータから、前記複数の層に対応する複数枚の画像データと、一つの層のみに対応する周辺データとを生成し、
前記一つの層のみに対応する周辺データを用いて決定されたパラメータが、前記複数の層それぞれの画像データの継ぎ合わせ処理に用いられる
ことを特徴とする請求項1〜7のうちいずれか1項に記載の撮像システム。 - 被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する撮像手段と、
前記複数のエリアそれぞれに対し、前記撮像手段で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する生成手段と、
前記画像データを非可逆圧縮する非可逆圧縮手段と、
非可逆圧縮された前記画像データ、及び、前記周辺データを出力する出力手段と、を有する
ことを特徴とする撮像装置。 - 前記周辺データは、画像処理装置において、前記複数のエリアの画像データを継ぎ合わせる処理に用いるパラメータを決定するために用いられる
ことを特徴とする請求項9に記載の撮像装置。 - 前記画像データの生成、非可逆圧縮、及び、出力が行われている時間を利用して、前記画像処理装置が前記パラメータを決定する処理を実行できるように、
前記出力手段は、前記非可逆圧縮された画像データよりも先に前記周辺データを出力する
ことを特徴とする請求項10に記載の撮像装置。 - 前記出力手段は、前記周辺データを、圧縮処理を施さずに出力する
ことを特徴とする請求項9〜11のうちいずれか1項に記載の撮像装置。 - 前記周辺データを可逆圧縮する可逆圧縮手段をさらに有し、
前記出力手段は、前記可逆圧縮手段により可逆圧縮した周辺データを出力する
ことを特徴とする請求項9〜11のうちいずれか1項に記載の撮像装置。 - 前記非可逆圧縮手段の非可逆圧縮よりもデータが削減されない非可逆圧縮を前記周辺データに施す第2の非可逆圧縮手段をさらに有し、
前記出力手段は、前記第2の非可逆圧縮手段により非可逆圧縮した周辺データを出力する
ことを特徴とする請求項9〜11のうちいずれか1項に記載の撮像装置。 - 前記周辺データは、単色のデータである
ことを特徴とする請求項9〜14のうちいずれか1項に記載の撮像装置。 - 前記撮像手段は、前記複数のエリアそれぞれに対し、複数の層の撮像を行い、
前記生成手段は、前記撮像手段で得られたデータから、前記複数の層に対応する複数枚の画像データと、一つの層のみに対応する周辺データとを生成し、
前記出力手段は、非可逆圧縮された前記複数枚の画像データ、及び、前記一つの層のみに対応する周辺データを出力する
ことを特徴とする請求項9〜15のうちいずれか1項に記載の撮像装置。 - 隣接するエリアの端部が互いに重なるように設定された被写体の複数のエリアそれぞれについて、非可逆圧縮された画像データと、隣接するエリアの間の重なり部分のデータである周辺データとを取得する取得手段と、
隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する決定手段と、
前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定手段で決定された前記パラメータを用いて継ぎ合わせる合成手段と、を有することを特徴とする画像処理装置。 - 前記取得手段は、前記非可逆圧縮された画像データよりも先に前記周辺データを取得し、
前記決定手段は、前記非可逆圧縮された画像データが取得可能となるまでの時間を利用して、前記パラメータの決定処理を行う
ことを特徴とする請求項17に記載の画像処理装置。 - 前記周辺データは、圧縮処理が施されていないデータである
ことを特徴とする請求項17又は18に記載の画像処理装置。 - 前記周辺データは、可逆圧縮が施されたデータである
ことを特徴とする請求項17又は18に記載の画像処理装置。 - 前記周辺データは、前記画像データに施されている非可逆圧縮よりもデータが削減されない非可逆圧縮を施されたデータである
ことを特徴とする請求項17又は18に記載の画像処理装置。 - 前記周辺データは、単色のデータである
ことを特徴とする請求項17〜21のうちいずれか1項に記載の画像処理装置。 - 前記取得手段は、前記複数のエリアそれぞれについて、複数の層に対応する複数枚の非可逆圧縮された画像データと、一つの層のみに対応する周辺データとを取得し、
前記決定手段は、前記複数の層それぞれの画像データを継ぎ合わせる処理に用いるパラメータを、前記一つの層のみに対応する周辺データを用いて決定する
ことを特徴とする請求項17〜22のうちいずれか1項に記載の画像処理装置。 - 撮像装置と画像処理装置を有する撮像システムの制御方法であって、
前記撮像装置が、被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する工程と、
前記撮像装置が、前記複数のエリアそれぞれに対し、前記撮像工程で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する工程と、
前記撮像装置が、前記画像データを非可逆圧縮する工程と、
前記画像処理装置が、前記複数のエリアそれぞれの、非可逆圧縮された画像データと周辺データを取得する工程と、
前記画像処理装置が、隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する工程と、
前記画像処理装置が、前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定工程で決定された前記パラメータを用いて継ぎ合わせる工程と、を有する
ことを特徴とする撮像システムの制御方法。 - 撮像装置の制御方法であって、
被写体の複数のエリアを、隣接するエリアの端部が互いに重なるように、撮像する工程と、
前記複数のエリアそれぞれに対し、前記撮像手段で得られたデータから、当該エリアの画像データと、当該エリアと当該エリアに隣接するエリアの間の重なり部分のデータである周辺データとを生成する工程と、
前記画像データを非可逆圧縮する工程と、
非可逆圧縮された前記画像データ、及び、前記周辺データを出力する工程と、を有することを特徴とする撮像装置の制御方法。 - 画像処理装置の制御方法であって、
隣接するエリアの端部が互いに重なるように設定された被写体の複数のエリアそれぞれについて、非可逆圧縮された画像データと、隣接するエリアの間の重なり部分のデータである周辺データとを取得する工程と、
隣接する二つのエリアの画像データを継ぎ合わせる処理に用いるパラメータを、当該二つのエリアの周辺データを用いて決定する工程と、
前記非可逆圧縮された画像データを復号し、復号された前記複数のエリアの画像データを前記決定工程で決定された前記パラメータを用いて継ぎ合わせる工程と、を有する
ことを特徴とする画像処理装置の制御方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014027534A JP2015154324A (ja) | 2014-02-17 | 2014-02-17 | 撮像システム、撮像装置、画像処理装置 |
EP15153753.7A EP2908286A1 (en) | 2014-02-17 | 2015-02-04 | Imaging system, imaging apparatus, and image processing apparatus |
US14/619,169 US20150234171A1 (en) | 2014-02-17 | 2015-02-11 | Imaging system, imaging apparatus, and image processing apparatus |
CN201510085387.XA CN104853086A (zh) | 2014-02-17 | 2015-02-17 | 成像系统、成像装置和图像处理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014027534A JP2015154324A (ja) | 2014-02-17 | 2014-02-17 | 撮像システム、撮像装置、画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015154324A true JP2015154324A (ja) | 2015-08-24 |
Family
ID=52464206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014027534A Pending JP2015154324A (ja) | 2014-02-17 | 2014-02-17 | 撮像システム、撮像装置、画像処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20150234171A1 (ja) |
EP (1) | EP2908286A1 (ja) |
JP (1) | JP2015154324A (ja) |
CN (1) | CN104853086A (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6455829B2 (ja) * | 2013-04-01 | 2019-01-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP6494294B2 (ja) | 2014-05-15 | 2019-04-03 | キヤノン株式会社 | 画像処理装置、及び撮像システム |
JP6746310B2 (ja) | 2015-05-22 | 2020-08-26 | キヤノン株式会社 | 画像処理装置、撮像システム、画像処理方法 |
CN112415733B (zh) * | 2020-12-11 | 2024-01-09 | 平湖莱顿光学仪器制造有限公司 | 控制显微镜拍摄试样图像的方法、系统、设备及介质 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6272235B1 (en) * | 1997-03-03 | 2001-08-07 | Bacus Research Laboratories, Inc. | Method and apparatus for creating a virtual microscope slide |
DE69816185T2 (de) | 1997-06-12 | 2004-04-15 | Hewlett-Packard Co. (N.D.Ges.D.Staates Delaware), Palo Alto | Bildverarbeitungsverfahren und -vorrichtung |
US7456377B2 (en) * | 2004-08-31 | 2008-11-25 | Carl Zeiss Microimaging Ais, Inc. | System and method for creating magnified images of a microscope slide |
EP3564851B1 (en) | 2004-09-01 | 2022-12-07 | Leica Biosystems Imaging Inc. | System and method for data management in a linear-array-based microscope slide scanner |
JP5484048B2 (ja) * | 2006-06-30 | 2014-05-07 | アペリオ・テクノロジーズ・インコーポレイテッド | Dicomを介した大画像保存および取得方法 |
US7675549B1 (en) * | 2006-12-08 | 2010-03-09 | Itt Manufacturing Enterprises, Inc. | Imaging architecture for region and time of interest collection and dissemination |
CN101288585B (zh) * | 2007-04-17 | 2011-06-08 | 天津市索维电子技术有限公司 | 一种超声生物显微镜检查实现眼科前节的全景成像方法 |
JP2009048487A (ja) | 2007-08-21 | 2009-03-05 | Olympus Corp | 画像処理装置及び画像処理プログラム |
JP5655557B2 (ja) * | 2010-07-12 | 2015-01-21 | ソニー株式会社 | 顕微鏡制御装置、画像表示装置、画像管理サーバ、合焦位置情報生成方法、画像表示方法、画像管理方法及び顕微鏡画像管理システム |
JP2013025466A (ja) * | 2011-07-19 | 2013-02-04 | Sony Corp | 画像処理装置、画像処理システム及び画像処理プログラム |
US20130077892A1 (en) * | 2011-09-27 | 2013-03-28 | Yasunori Ikeno | Scan Order Optimization and Virtual Slide Stitching |
-
2014
- 2014-02-17 JP JP2014027534A patent/JP2015154324A/ja active Pending
-
2015
- 2015-02-04 EP EP15153753.7A patent/EP2908286A1/en not_active Withdrawn
- 2015-02-11 US US14/619,169 patent/US20150234171A1/en not_active Abandoned
- 2015-02-17 CN CN201510085387.XA patent/CN104853086A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
EP2908286A1 (en) | 2015-08-19 |
CN104853086A (zh) | 2015-08-19 |
US20150234171A1 (en) | 2015-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6494294B2 (ja) | 画像処理装置、及び撮像システム | |
JP4815807B2 (ja) | Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ | |
JP2021533507A (ja) | 画像繋ぎ合わせ方法及び装置、車載画像処理装置、電子機器、記憶媒体 | |
JP3824116B2 (ja) | 顕微鏡画像遠隔制御システム | |
JP5006814B2 (ja) | 撮像装置 | |
WO2014069247A1 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
WO2013080920A1 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
WO2013084414A1 (ja) | デジタル標本作製装置、デジタル標本作製方法およびデジタル標本作製サーバ | |
JP2015154324A (ja) | 撮像システム、撮像装置、画像処理装置 | |
JPWO2010090025A1 (ja) | 撮像処理装置 | |
JP4329542B2 (ja) | 画素の類似度判定を行う画像処理装置、および画像処理プログラム | |
WO2018147059A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2014056378A (ja) | 画像処理装置及び画像処理方法 | |
JP2009055410A (ja) | 画像処理装置および画像処理方法 | |
JP2005328215A (ja) | 画像処理装置および画像処理プログラム | |
JP5738904B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP2013044597A (ja) | 画像処理装置および方法、プログラム | |
CN103167247A (zh) | 一种视频序列彩色图像拼接方法 | |
JP2009301181A (ja) | 画像処理装置、画像処理プログラム、画像処理方法、および電子機器 | |
US20100182464A1 (en) | Joint Automatic Demosaicking And White Balancing | |
US20200310128A1 (en) | Image processing apparatus, head-mounted display, and image displaying method | |
JP6415330B2 (ja) | 画像処理装置、撮像装置、画像処理方法 | |
JP4888306B2 (ja) | 画像処理装置および画像処理方法 | |
JP7126737B1 (ja) | 顕微鏡システム及びデータ処理方法 | |
JP7158795B1 (ja) | 顕微鏡システム及びデータ処理方法 |