JP2015128322A - 撮像素子 - Google Patents

撮像素子 Download PDF

Info

Publication number
JP2015128322A
JP2015128322A JP2015042588A JP2015042588A JP2015128322A JP 2015128322 A JP2015128322 A JP 2015128322A JP 2015042588 A JP2015042588 A JP 2015042588A JP 2015042588 A JP2015042588 A JP 2015042588A JP 2015128322 A JP2015128322 A JP 2015128322A
Authority
JP
Japan
Prior art keywords
image
light
subject
light source
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015042588A
Other languages
English (en)
Other versions
JP6307770B2 (ja
Inventor
安比古 足立
Yasuhiko Adachi
安比古 足立
佳州 佐藤
Yoshikuni Sato
佳州 佐藤
本村 秀人
Hideto Motomura
秀人 本村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2015042588A priority Critical patent/JP6307770B2/ja
Publication of JP2015128322A publication Critical patent/JP2015128322A/ja
Application granted granted Critical
Publication of JP6307770B2 publication Critical patent/JP6307770B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0008Microscopes having a simple construction, e.g. portable microscopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Processing (AREA)
  • Image Input (AREA)

Abstract

【課題】単一の撮像素子を用いて高分解能画像を取得する。【解決手段】本開示のある実施形態による撮像素子は、照明システムと、撮像素子を着脱可能に保持する保持装置と、画像処理部とを有する画像取得装置に用いられる撮像素子である。この撮像素子は、画像取得装置に対して着脱可能であり、撮像面に被写体支持部を備える。撮像素子は、保持装置によって画像取得装置に保持された状態において、被写体を透過した照明光が入射する位置に配置され、異なる照射方向に応じて異なる複数の画像を取得する。画像取得装置の画像処理部は、撮像素子によって取得される複数の画像を合成して、複数の画像の各々よりも分解能の高い高分解能画像を形成する。【選択図】図15

Description

本願は、撮像素子に関する。
撮像装置に使用される撮像素子には、多数の光電変換部が撮像面内に行および列状に配列された2次元イメージセンサが採用されている。光電変換部は、典型的には、半導体層または半導体基板に形成されたフォトダイオードであり、入射光を受けて電荷を生成する。2次元イメージセンサの分解能(解像度)は、撮像面上における光電変換部の配列ピッチまたは配列密度に依存する。個々の光電変換部の配列ピッチは、可視光の波長程度まで短くなっているため、分解能を更に向上させることは極めて困難である。
撮像素子によって取得される画像は、多数の画素によって規定される。各画素は、1つの光電変換部を含む単位領域によって区画されている。撮像面上において、配線が占有する領域が存在するため、1つの光電変換部の受光面積S2は、1つの画素の面積S1よりも小さい。画素の面積S1に対する受光面積S2の比率(S2/S1)は、「開口率」と呼ばれている。開口率(S2/S1)は、例えば25%程度の値をとり得る。開口率が小さいと、光電変換に用いられる入射光量が少なくなるため、撮像素子が出力する画素信号の質が低下する。撮像面に対向するようにマイクロレンズアレイを配置し、個々のマイクロレンズが個々の光電変換部に対向し、集光する構成を採用すれば、受光面積S2を実効的に拡大し、開口率(S2/S1)を高めて1に近づけることが可能である。しかし、このように開口率(S2/S1)を高めても、画素の配列ピッチおよび配列密度は増加しないので、分解能は変化しない。
特許文献1および特許文献2は、複数の撮像素子を用いて撮像装置の分解能を高める技術を開示している。
特公平5−2033号公報 特開昭62−137037号公報
複数の撮像素子を用いて高分解能画像を形成することは難しく、新しい高分解能化技術が求められている。
本開示の一態様による画像取得装置は、被写体を基準にして複数の異なる照射方向から、順次、照明光を出射し、前記照明光で前記被写体を照射する照明システムと、前記被写体を透過した前記照明光が入射する位置に配置され、前記異なる照射方向に応じて異なる複数の画像を取得する撮像素子と、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する画像処理部とを備える。
本開示の一態様による画像取得方法は、被写体を基準にして複数の異なる照射方向から、順次、照明光を出射し、前記照明光で前記被写体を照射する工程と、前記被写体を透過した前記照明光が入射する位置に配置された撮像装置により、前記異なる照射方向に応じて異なる複数の画像を取得する工程と、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する工程とを含む。
本開示の一態様による画像取得装置は、照明装置と、撮像素子と、コンピュータとを備える画像取得装置であって、前記コンピュータは、前記照明装置により、被写体を基準にして複数の異なる照射方向から、順次、照明光を出射し、前記照明光で前記被写体を照射し、前記被写体を透過した前記照明光が入射する位置に配置された撮像装置により、前記異なる照射方向に応じて異なる複数の画像を取得し、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する。
本開示の一態様によるプログラムは、照明装置と、撮像素子と、コンピュータとを備える画像取得装置のためのプログラムであって、前記照明装置により、被写体を基準にして複数の異なる照射方向から、順次、照明光を出射し、前記照明光で前記被写体を照射し、前記被写体を透過した前記照明光が入射する位置に配置された撮像装置により、前記異なる照射方向に応じて異なる複数の画像を取得し、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成するように構成されている。
本開示の一態様による画像取得装置は、被写体に対して光を照射し、姿勢および位置が固定されている光源と、前記被写体を複数の傾斜角度に傾斜させる傾斜機構と、前記被写体を透過した前記光が入射する位置に配置され、かつ前記被写体と一体的に前記傾斜機構により傾斜され、前記複数の傾斜角度に応じて複数の画像を取得する撮像素子と、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する画像処理部とを備える。
本開示の実施形態によれば、1つの撮像素子によって得られる複数の低分解能画像を合成することにより、高分解能化を実現できる。
撮像素子におけるフォトダイオードの配列例を模式的に示す平面図 撮像素子における一画素と開口領域との関係を模式的に示す平面図 撮像素子における一画素と開口領域との関係を模式的に示す断面図 本開示による画像取得装置の構成および動作を説明するための断面図 本開示による画像取得装置の構成および動作を説明するための断面図 本開示の画像取得装置における照明の例を示す図 本開示による画像取得装置における照明の例を示す図 本開示による画像取得装置における照明の例を示す図 本開示による画像取得装置における照明の他の例を示す図 本開示における撮像素子における光線入射の例を示す断面図 本開示における撮像素子における光線入射の他の例を示す断面図 (a)は、被写体30の一部を示す平面図、(b)は、撮像素子113のフォトダイオード40のうち、(a)に示されている領域の撮像に係る6個のフォトダイオード40のみを抽出して模式的に示す平面図 (a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図、(b)は、着目する6個のフォトダイオード40の配列例を模式的に示す平面図、(c)は、6個のフォトダイオード40で取得される6個の画素300aを模式的に示す図 (a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図、(b)は、着目する6個のフォトダイオード40の配列を模式的に示す平面図、(c)は、6個のフォトダイオード40で取得される6個の画素300bを模式的に示す図 (a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図、(b)は、着目する6個のフォトダイオード40を模式的に示す平面図、(c)は、6個のフォトダイオード40で取得される6個の画素300cを模式的に示す図 (a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図、(b)は、着目する6個のフォトダイオード40を模式的に示す平面図、(c)は、6個のフォトダイオード40で取得される6個の画素300dを模式的に示す図 4枚の画像60a、60b、60c、60dから高分解能画像600が合成される様子を示す図 (a)〜(c)は、重なり合わない2枚の画像60a、60bの合成例を示す図 (a)〜(c)は、部分的に重なり合う2枚の画像60a、60bの合成例を示す図 第一実施形態に係る画像取得装置の概略構成を示すブロック図 第一実施形態に係る画像取得装置における光源の位置ずれに起因する光線入射位置の誤差を示す断面図 第一実施形態に係る撮像素子における光源位置の例を示す図 第一実施形態に係る画像取得装置における点光源から出射された光ビームの広がりに起因する光線入射位置のシフトを示す断面図 第一実施形態に係る画像取得装置の動作の一例を示すフローチャート 第一実施形態に係る画像取得装置の動作の他の例を示すフローチャート 第一実施形態に係る画像取得装置の動作の更に他の例を示すフローチャート 第一実施形態に係る画像取得装置における校正用サンプルとその配置を示す図 第一実施形態に係る画像取得装置におけるカバーガラスを挿入した場合の図 第一実施形態に係る画像取得装置における光の入射方向の他の例を示す断面図 本開示の第二実施形態に係る画像取得装置における光源の配置例を示す図 第二実施形態に係る画像取得装置における被写体の入射光線位置とフォトダイオードとの対応関係を示す配置図 第二実施形態に係る画像取得装置で取得される画像の例 第二実施形態に係る画像取得装置で取得される画像の例 第二実施形態に係る画像取得装置において行う精度向上処理を説明するための図であり、撮像素子上に配置された被写体における一部のエリアと、そのエリアの下方に位置する撮像面の一部との配置関係を模式的に示す平面図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 撮像対象である被写体および撮像素子を着脱可能に保持する保持装置を備えている更に他の改変例を示す図 本開示の第三実施形態における検体管理装置の全体構成の一例を示す図 本開示の第三実施形態における標本像取得装置の断面図 本開示の第三実施形態における検体管理装置の構成を示すブロック図 本開示の第三実施形態における検体管理方法の処理手順を示すフローチャート 本開示の第三実施形態における標本像取得装置の詳細な構成例を示すブロック図 本開示の第三実施形態における標本像取得装置の動作の一例を示すフローチャート 本開示の第三実施形態における照明方向調整部の構成を示す図 本開示の第三実施形態における照明方向調整部の構成を示す図 本開示の第三実施形態における標本像取得装置の動作(照明方向の変化)を示す図 本開示の第三実施形態における標本像取得装置の動作(照明方向の変化)を示す図 本開示の第三実施形態における標本とイメージセンサとの関係を示した斜視図 本開示の第三実施形態における照明方向とセンサに入射する光の量の関係を表す行列の例を示す図 本開示の第三実施形態における照明方向とセンサに入射する光の量の関係を表す行列の例を示す図 病理標本を高倍率(高分解能)で観察した時の画像の例を示す図 病理標本を低倍率(低分解能)で観察した時の画像の例を示す図 本開示の第三実施形態におけるデータベースの内容の例を示す図 本開示の第三実施形態における患者IDにより同一患者の異なる染色の標本の情報を関連付けて格納した例を示す図 同一患者で染色が異なる標本の例 本開示の第四実施形態における標本像取得装置の動作(標本の移動)を示す図 本開示の第四実施形態における標本像取得装置の詳細な構成を示すブロック図
本開示による画像取得装置の実施形態を説明する前に、まず、撮像素子の基本的な構成例を説明する。
図1は、撮像素子113の一例であるCCDイメージセンサの撮像面の一部を模式的に示す平面図である。図1に示されるように、撮像面上には複数のフォトダイオード(光電変換部)40が行および列状に配列されている。図1において、1つの画素50が点線の矩形領域で示されている。撮像面において多数の画素50が行および列状に密に並んでいる。
各フォトダイオード40に入射した光は、フォトダイオード40内で電荷を生成する。生成される電荷の量は、そのフォトダイオード40に入射した光の量に応じて変化する。各フォトダイオード40で生成された電荷は、縦方向に延びる垂直電荷転送路44に移動し、垂直電荷転送路44を順次転送されて水平電荷転送路46に移動する。次に、電荷は横方向に延びる水平電荷転送路46を転送され、水平電荷転送路46の一端から画素信号として撮像素子113の外部に出力される。電荷転送路44,46上には不図示の転送電極が配列されている。なお、本開示の画像取得装置で使用される撮像素子113の構成は、上記の例に限定されない。CCDイメージセンサに代えて、MOS型イメージセンサが使用されても良い。
撮像面内におけるフォトダイオード40の配列ピッチは、垂直方向および水平方向で一致している必要はない。本明細書では、簡単のため、フォトダイオード40の配列ピッチは、垂直方向および水平方向で等しく、いずれも大きさK[μm]を有するものとする。
図2は、1つの画素50と、その画素50に含まれるフォトダイオード40を模式的に示す平面図である。この例における各画素のサイズは、K[μm]×K[μm]である。また、フォトダイオード40のサイズ(受光領域のサイズ)は、P[μm]×P[μm]である。従って、1つの画素の面積はS1=K×Kで表され、1つのフォトダイオード40の面積はS2=P×Pで表される。なお、本実施形態によれば、分解能は、画素ピッチではなく、フォトダイオード40のサイズ(受光領域のサイズ)によって決まる。しかし、照明に使用する可視光の波長を考慮すると、本実施形態におけるフォトダイオード40のサイズPは、0.1μm以上に設定され得る。
本開示の画像取得装置では、個々のフォトダイオード40に対応するマイクロレンズは設けられていない。このため、各画素50のうち、フォトダイオード40の受光領域(P×Pの領域)以外の領域は「遮光領域」であり、遮光領域に入射した光は、光電変換されず、画素信号を形成しない。P[μm]×P[μm]で示される受光領域は、「開口領域」と呼んでも良い。個々の画素50におけるフォトダイオード40の位置、形状、および大きさは、図2に示される例に限定されない。
画素領域およびフォトダイオードは、撮像面において典型的には矩形の形状を有している。その場合において、n、mを1より大きな実数とすると、撮像面内の水平方向における画素領域のサイズに対するフォトダイオードのサイズの比率を(1/n)で表し、撮像面内の垂直方向における画素領域のサイズに対するフォトダイオードのサイズの比率を(1/m)で表すことができる。このとき、開口率は、(1/n)×(1/m)で表される。n、mは、いずれも、2以上の実数であり得る。
図3は、撮像素子113に含まれる1つの画素50の断面構成の例を模式的に示す断面図である。撮像素子は、図3に示されるように、半導体基板400と、半導体基板400の表面に形成されたフォトダイオード40と、半導体基板400に支持される配線層402と、配線層402を覆う遮光層42と、半導体基板400の光入射側面を被覆する透明層406とを備えている。図3では、単一の画素に対応する部分の断面が示されているため、1つのフォトダイオード40のみが図示されているが、現実には、1つの半導体基板400に多数のフォトダイオード40が形成されている。なお、撮像素子113がCCDイメージセンサである場合、半導体基板400には、垂直または水平電荷転送路として機能する不純物拡散層(不図示)が配線層402の下部に形成されている。配線層402は、電荷転送路上に配列された不図示の電極に接続される。なお、撮像素子113がMOS型イメージセンサの場合は、画素単位でMOS型トランジスタ(不図示)が半導体基板400に形成される。MOS型トランジスタは対応するフォトダイオード40の電荷を読み出すためのスイッチング素子として機能する。
撮像素子113におけるフォトダイオード40以外の構成要素は、遮光層42によって覆われている。図3の例では、遮光層42によって覆われている領域が黒く塗りつぶされている。
本実施形態に使用され得る撮像素子の構成は、上記の例に限定されず、裏面照射型のCCDイメージセンサまたは裏面照射型のMOS型イメージセンサであってもよい。
次に、図4Aおよび図4Bを参照しながら、本開示による画像取得装置の概略構成例を説明する。図4Aおよび図4Bは、それぞれ、本開示による画像取得装置の概略構成例を模式的に示す断面図である。
図示されている画像取得装置は、被写体(撮像対象)30を基準にして複数の異なる光源方向(照射方向)から、順次、照明光を出射し、その照明光で被写体30を照射する照明装置111と、被写体30を透過した照明光が入射する位置に配置され、異なる光源方向に応じて異なる複数の画像を取得する撮像素子113とを備えている。また、この画像取得装置は、異なる光源方向に応じて取得した複数の画像を合成する画像処理部12を備えており、この画像処理部12は、撮像素子113から得た複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する。画像処理部12は、汎用または専用のコンピュータによって実現され得る。
撮像素子113が第1の画像を取得する時(図4A)、照明装置111は、照明光を被写体30に対して第1の方向から入射させる。また、撮像素子113が第2の画像を取得する時(図4B)、照明装置111は、照明光を被写体30に対して第2の方向から入射させる。図4Aおよび図4Bに示される光線のうち、遮光層42に入射した光線は画像の取得に利用されていない。言い換えると、照明装置111から出射された光のうち、フォトダイオード40に入射した光線のみによって各画像が取得される。
被写体30に対する光線の入射方向が異なると、フォトダイオード40に入射する光線が被写体30を透過する領域が異なることになる。本開示によれば、被写体30に対する照明光の入射方向を調整することにより、それぞれ、被写体30の異なる部分の像を得ることができる。なお、本開示の画像取得装置で撮像可能な被写体30は、光線を透過することが可能な領域を少なくとも一部に含む物体である。被写体30は、厚さが数μmの病理標本を含むスライドであり得る。被写体30の形状は、プレート状に限定されず、粉末や液体であってもよい。撮像面の法線方向における被写体30のサイズは、例えば数十μm以下である。
次に、図5A、図5Bおよび図5Cを参照して、照明装置111の第1の構成例を説明する。
第1の構成例における照明装置111は、複数の光源(照明光源)10a、10b、10cを有している。これらの光源10a、10b、10cは、複数の異なる光源方向に対応した異なる位置に配置されており、順次、点灯する。例えば光源10aが点灯している時、図5Aに示されるように、光源10aから光が出射し、その光で被写体30が照射される。図5A〜5Cでは、光源10a、10b、10cからの光が発散しているように示されているが、現実には、光源10a、10b、10cから撮像素子113までの距離は充分に長く、実質的に平行な光が被写体30および撮像素子113に入射すると考えて良い。また、図示されていないレンズなどの光学系により、光源10a、10b、10cから放射された光が平行光または平行光に近い光に収束されていてもよい。従って、光源10a、10b、10cは、点光源であってもよいし、面光源であってもよい。被写体30は、撮像素子113の上面の上に置かれている。撮像素子113の上面は、図5Aにおいて破線で示されており、被写体支持部112として機能する。
まず、光源10aからの光で被写体30が照射された状態で撮像素子113による撮像が行われると、次に、例えば光源10bが点灯し、光源10aおよび光源10cが消灯状態になる。このとき、図5Bに示されるように光源10bから光が出射し、その光で被写体30が照射される。光源10bからの光で被写体30が照射された状態で撮像素子113による撮像が行われると、次に、光源10cが点灯し、光源10aおよび光源10bが消灯状態になる。このとき、図5Cに示されるように光源10cから光が出射し、その光で被写体30が照射される。この状態で、また撮像素子113による撮像が行われる。
図5A〜5Cの例では、3つの異なる光源方向から被写体30が照射され、その都度、撮像が行われるため、合計3枚の画像が取得される。照明装置111が有する光源の個数は、3個に限定されない。また、発光波長の異なる複数の光源が同一の光源方向に近接して配置されていても良い。例えば図5Aの光源10aの位置およびその近傍に、赤、緑、および青の光源(RGB光源)を配置しておけば、図5Aに示される状態で赤、緑、および青の光を順次照射し、3枚の画像を取得することが可能になる。このような3枚の画像が取得できれば、それらを重畳するだけでフルカラー画像を得ることができる。このような画像は、タイムシーケンシャルのカラー画像である。
なお、照明装置111が有する光源の波長は、可視光域に限定されず、赤外または紫外であってもよい。また、各光源から白色の光が出射されても良いし、シアン、マゼンタ、イエローなどの光が出射されても良い。
次に、図6を参照する。図6は照明装置111の第2の構成例を模式的に示している。図6の構成例における照明装置111は、移動可能に支持される少なくとも1つの光源10を有している。この光源10を移動させることにより、複数の光源方向に含まれる任意の方向から光を出射し、その光で被写体30を照射することが可能になる。
なお、図5A〜5Cの例においても、光源10a、10b、10cは特定位置に固定されている必要は無く、移動可能に支持されていても良い。更に、固定された1個の光源10から出た光ビームの光路をミラーなどの駆動光学系を介して変更し、それによって被写体30に異なる方向から入射させるようにしてもよい。
図5A〜5Cの例および図6の例では、図面の紙面に平行な面内で光源方向が変化しているが、光源方向は、この面に対して傾斜する方向であってもよい。
次に図7および図8を参照して、照明光の入射方向について説明する。図7では、着目する中央のフォトダイオード40に入射する2方向の光が同時に記載されている。これは、例えば、図5Aの状態における撮像状態と、図5Bの状態における撮像状態とを、便宜上、1つの図に示すことに対応している。図7の例では、被写体30の隣接する2つの領域を通過した光が、いずれも、同一のフォトダイオード40に入射するように光源方向が調整されている。図5Bに示す光源10bから出射された光の被写体30に対する入射方向(入射の角度および方位)が不適切であると、被写体30の隣接する領域を透過した光がともに同一のフォトダイオード40に入射しない。
図7に示すように異なる方向から被写体30に入射した光で被写体30の撮像を行えば、被写体30から「空間的」にサンプリングされる画素情報を増加させることができる。このことは、図7に示す2方向からの光で得られる2枚の画像を単純に足し合わせることにより、高分解能(高解像度)の画像を合成できることを意味する。
なお、異なる方向から被写体30に入射し、これを透過した光は、同一のフォトダイオード40に入射する必要は無い。例えば、図8に示されるように、被写体30の隣接する2つの領域を通過した光が、それぞれ、異なるフォトダイオード40に入射するように光源の方向が調整されていてもよい。
図7および図8には、撮像面から被写体30までの距離Lと、画素ピッチKとが示されている。光の入射角度θは、L、Kなどによって表現され得る。この点については、後述する。
次に、図9から図16を参照しながら、異なる方向から被写体30に入射する光で複数回の撮像を行って得た複数の画像から高分解能画像を合成する原理を説明する。この例では、撮像素子113における画素の開口率が25%であり、異なる4つの方向から光を被写体30に入射する。
まず、図9を参照する。図9(a)は、被写体30の一部を示す平面図であり、図9(b)は、撮像素子113のフォトダイオード40のうち、図9(a)に示されている領域の撮像に係る6個のフォトダイオード40のみを抽出して模式的に示す平面図である。本開示によれば、被写体30の像は、被写体30を透過する実質的に平行な光線によって取得される。被写体30と撮像素子113との間には結像のためのレンズを配置する必要は無く、被写体30は撮像素子113に近接して配置され得る。撮像素子113の撮像面から被写体30までの距離は、典型的には1mm以下であり、例えば1μm程度に設定され得る。現実には6個よりも遥かに多いフォトダイオード40で被写体30の全体が撮像されるが、図では簡単のため、6個のフォトダイオード40のみが示されている。
次に図10を参照する。図10(a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図であり、図10(b)は、着目する6個のフォトダイオード40の配列例を模式的に示す平面図であり、図10(c)は、6個のフォトダイオード40で取得される6個の画素300aを模式的に示す図である。複数の画素300aの各々は、個々のフォトダイオード40に入射した光の量を示す値(画素値)を持つ。この例では、図10(c)の画素300aから画像60aが構成される。
次に図11を参照する。図11(a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図であり、図11(b)は、着目する6個のフォトダイオード40の配列を模式的に示す平面図であり、図10(b)と同じである。図11(c)は、6個のフォトダイオード40で取得される6個の画素300aを模式的に示す図である。図11(c)の画素300bから画像60bが構成される。
図10(a)と図11(a)とを比較することによって理解されるように、被写体30に入射する光の方向を適切に設定することにより、図10(a)の状態と図11(a)の状態とで被写体30の異なる領域を透過した光がフォトダイオード40に入射する。その結果、図10(c)の画像60aと図11(c)の画像60bは、被写体30の異なる位置に対応する画素情報を含むことができる。
次に図12および図13を参照する。図12(a)および図13(a)は、被写体30を透過してフォトダイオード40に入射する光線の方向を模式的に示す断面図である。これらの例では、光線は図の紙面に垂直な方向に対して傾斜している。図12(b)および図13(b)は、着目する6個のフォトダイオード40を模式的に示す平面図であり、図12(c)および図13(c)は、6個のフォトダイオード40で取得される6個の画素300cおよび画素300dを模式的に示す図である。図12(c)の画素300cから画像60cが構成され、図13(c)の画素300dから画像60dが構成される。
図14は、4枚の画像60a、60b、60c、60dから高分解能画像600が合成される様子を示している。高分解能画像600の画素数または画素密度は、4枚の画像60a、60b、60c、60dの各々の画素数または画素密度の4倍である。この例では、撮像素子113の開口率が25%であるため、異なる4方向からの光照射によって最大4倍の高分解能化が可能になる。Nを2以上の整数するとき、撮像素子113の開口率が近似的に1/Nに等しければ、最大N倍の高分解能化が可能になる。
本開示の撮像装置によると、照明光の方向を変えながら複数の低分解能画像を取得する間に、被写体30が移動したり、変形したりしないことが好ましい。
次に、図15および図16を参照する。図15は、上述した図10および図11の状態をまとめて示した図である。図15に示す状態は、被写体30に入射する光線の方向が適切に調整されている。このため、図15(c)に示すように重ね合わされた2枚の画像60a、60bにおける画素300a、300bは、重複することなく、被写体30の異なる領域に対応している。
図16(a)、図16(b)、図16(c)は、図15(a)、図15(b)、図15(c)に対応している。ただし、図16の状態では、被写体30に入射する光線の方向が適切に調整されていない。このため、図16(c)に示すように重ね合わされた2枚の画像60a、60bにおける画素300a、300bは、被写体30の部分的に重なり合う領域に対応している。以上の説明から、被写体30を照射する光の方向を適切に設定することが重要であることがわかる。また、少なくとも撮像時に照明のための光以外の光が被写体30に入射しないように、被写体30および撮像素子113は外光を遮蔽する壁面によって取り囲まれ得る。
以下、本開示の実施形態をより詳細に説明する。
(第一実施形態)
図17を参照しながら、本開示の第一実施形態に係わる画像取得装置を説明する。図17は本実施形態における画像取得装置のブロック図である。図17に示すように、画像取得装置1は、照明機能および撮像機能を有する撮像処理部11と、撮像処理部11で得られた低分解能画像から高分解能画像を生成して出力する画像処理部12と、光源位置情報および低分解能画像を記憶する記憶装置13とを備えている。
撮像処理部11は、照明装置111、被写体支持部112、撮像素子113、ディスプレイ114、出力部115を備える。照明装置111は、前述した構成を有しており、複数方向から被写体に対して、所定の照度の平行光を照射することができる。この被写体支持部112は、撮像素子113の撮像面から被写体までの距離が10mm以下(典型的には1mm以下)となるように被写体を支持する。
本実施形態の照明装置111は、LEDを光源として有している。照明装置111は、RGBの3色のLEDを有し、それぞれ4カ所の位置に配置されている。光源としては、LEDの代わりに、白熱電球、レーザダイオード、ファイバーレーザを用いてもよい。白熱電球を用いる場合、白熱電球から放射された光を平行光に変換するレンズまたは反射鏡を使用しても良い。光源は、赤外光や紫外光を発するものでもよい。光源から放射された光の波長を変換またはフィルタリングするためのカラーフィルタが光路上に配置されていても良い。
照明装置111は、図5A〜5Cに示すように複数の光源を有していてもよいし、図6に示すように被写体に入射する光の方向を変化させるように移動可能に支持された光源を有していてもよい。
被写体支持部112は、撮像中に被写体を支持する部材であり、撮像素子113の上面であってもよい。撮像中に被写体の位置が変化しないようにこれらを保持する機構を有していても良い。被写体支持部112は、撮像素子113上に被写体30をほとんど隙間なく配置するように構成され得る。
図18は、撮像素子113上に配置された被写体30と光源10との配置関係を示す図である。
光源10と被写体30との間隔Dは例えば1m以上に設定され得る。撮像素子113の撮像面から被写体30までの距離Lは、画像のボケを抑制するために、100μm(=1×10-4m)以下、例えば1μm(=1×10-6m)に設定される。D=1m、L=1×10-6mの場合、光源10から出て被写体30の位置Aを通過する光線は、光源10の位置が水平横方向にXmだけずれると、撮像面上でΔXmだけシフトした位置に入射することになる。ΔX/X=D/Lの関係があるため、ΔXを0.1μm(=1×10-7m)以下に抑制するには、Xを0.1m以下に抑制すれば良い。光源10の位置を調整する際、光源10の位置ずれXを0.1m(=10cm)以下にすることは容易である。画素ピッチKが1μm程度の撮像素子113を用いる場合、撮像素子113から光源10までの距離を1m程度に設定しておけば、光源の位置ずれXが数cm程度発生しても画質に悪影響は及ばない。また上記のことから、特定の光源方向に、赤、緑、および青の光源(RGB光源)を配置する場合、それらの複数の光源が0.1m(=10cm)以下の範囲にあって近接していれば、それらを1個の光源として扱うこともできる。
本実施形態における撮像素子113は、例えば約4800×3600画素の構成を有する。この場合、画素ピッチKは、一例として1.3μm程度に設定され得る。また、撮像面から撮像素子上面までの距離、すなわち、撮像面から被写体までの距離Lは一例として約1.3μmに設定され得る。本実施形態では、撮像素子113の開口率は25%であるとする。
次に、図19を参照しながら、照明装置111の光源10と撮像素子113との間に存在する配置関係の例を有する。
図19の照明装置111は、撮像素子113から約1m離れた位置に4個の光源10A、10B、10C、10Dを有している。各光源10A、10B、10C、10Dからは、約1/100[rad]以下の広がりを持つ光ビームが出射される。これらの光ビームは、いずれも、ほぼ平行光である。図19では、2行2例に配列された4個の画素に対応する4個のフォトダイオード40が示されている。このうち、ある1つの着目するフォトダイオード40に入射する4本の光線が図示されている。4本の光線は、光源10A、10B、10C、10Dから出射される光ビームの中心軸(単に「光軸」と称する)に相当する。なお、図19に示される被写体30には、便宜上、4行4列に配列された16個の領域を示す区画線が引かれている。現実の被写体30には、このような線は引かれていない。被写体30の区画線は、1つのフォトダイオード40に入射する光線が、被写体30のどの領域を透過したかを分かりやすく示すために記載されている。区画線で区分された16個の領域のうち、各フォトダイオード40の真上に位置する領域にはハッチングが付加されている。
第1の光源10Aは、撮像素子113の直上に位置し、その光軸は、撮像面に対して垂直である。すなわち、第1の光源10Aの光軸は、撮像面の法線方向に対して平行である。ここで、第1の光源10Aの光軸が撮像素子113の上面(被写体)と交差する位置を「基準位置」とする。
第2の光源10Bの光軸は、撮像面の法線に対して、Y軸の負の方向に傾斜している。第2の光源10Bの光軸が撮像素子113の上面(被写体)と交差する位置は、「基準位置」に対して、Y軸の負の方向にK/2だけシフトしている。第3の光源10Cの光軸は、撮像面の法線に対して、X軸の負の方向に傾斜している。第3の光源10Cの光軸が撮像素子113の上面(被写体)と交差する位置は、「基準位置」に対して、X軸の負の方向にK/2だけシフトしている。第4の光源10Dの光軸は、撮像面の法線に対して、X軸の負の方向からπ/4ラジアンだけ回転した方向に傾斜している。第4の光源10Dの光軸が撮像素子113の上面(被写体)と交差する位置は、「基準位置」に対して、Y軸の負の方向にK/2、X軸の負の方向にK/2だけシフトしている。
光源10A、10B、10C、10Dの位置は、それらの光軸が撮像面の法線に対して、照明光の「照射方向」は、光源および被写体(撮像面)との相対的な配置関係によって決まる。撮像面を基準にし、撮像面に入射する照明光の光線の方向を「照射方向」と定義する。撮像面における水平方向をX軸、垂直方向をY軸、撮像面の法線方向をZ軸とするとき、照射方向は、XYZ座標内のベクトルによって特定され得る。照射方向は任意であり、照射方向の数も任意である。
撮像面に垂直な「照射方向」は、例えばベクトル(0,0,1)によって表現され得る。撮像面から被写体までの距離をLとすると、撮像面に垂直な「照射方向」は、ベクトル(0,0,1)によって表現され得る。例えば、16通りの照射方向θ1〜θ16は、それぞれ、(0,0,L)、(K/4,0,L)、(2K/4,0,L)、(3K/4,0,L)、(0,K/4,L)、(K/4,K/4,L)、(2K/4,K/4,L)、(3K/4,K/4,L)、(0,2K/4,L)、(K/4,2K/4,L)、(2K/4,2K/4,L)、(3K/4,2K/4,L)、(0,3K/4,L)、(K/4,3K/4,L)、(2K/4,3K/4,L)、(3K/4,3K/4,L)のベクトルで表現され得る。同一の画像が取れる別の角度でも良い。
なお、光源10A、10B、10C、10Dから同一のフォトダイオードに入射する光線が被写体に入射する位置は、必ずしもK/2だけX軸またはY軸に平行な方向にシフトしている必要は無い。このシフトの大きさは、奇数×(K/2)であってもよい。M、Nを奇数とするとき、ベクトル表記で(基準のベクトル、例えば(0,0、L))+(MK/2、NK/2、0)であり得る。また、後述する第二実施形態のように開口率が1/9の場合、各光源から同一のフォトダイオードに入射する光線が被写体に入射する位置は、K/3、2K/3だけX軸またはY軸に平行な方向にシフトすることになる。
なお、光源10Aの光軸は撮像面に垂直に設定されているが、光源10A、10B、10C、10Dの光軸が、すべて、撮像面の法線に対して傾斜していても良い。また、図6を参照して説明したように、少なくとも1つの光源10が可動に支持され、適切な位置に移動して、その位置から所定方向に光を出射する構成を採用してもよい。
図20は、1つの光源10から出た光線の入射角度の分布を誇張して記載した図である。光源10の真下に位置する領域には垂直に光線が入射している。一方、撮像面の端部に位置する領域には傾斜して光線が入射している。撮像面から光源10までの距離Dが約1mに設定されている場合を考える。撮像素子の中央から端部までの距離Cは、せいぜい10mm(=1×10-2m)である。また、L=1×10-6mである。本来、光源から垂直に光が入射すべきであるのに、撮像面の端部には光が斜めに入射するため、その入射位置は、垂直に入射した場合の入射位置に対してΔxだけシフトする。上記の数値例では、C/D=Δx/Lの関係が成立しているため、Δx=(LC)/D=(1×10-6×1×10-2)/1=1×10-8=10nmである。すなわち、フォトダイオードに入射する光線が被写体を通過する領域の位置は、撮像素子の中央か端部かによって、Δx=10nmよりも小さい範囲でしかシフトしない。画素ピッチKが1μm(=1×10-6m)であるとすると、Δx=10nm(=1×10-8m)は画素ピッチKよりも2桁小さい。このため、撮像面から光源10までの距離Dが撮像面のサイズを考慮して適切な大きさに設定されている限り、被写体を基準にした光源方向は、同じ光源に対して、被写体の位置によらず一定であると考えて良い。
再度、図17を参照する。本実施形態における画像処理部12は、照明条件調整部121、画像情報取得部122、光源位置決定部123、画像構成処理部124を備えている。これらは、画像処理部12を実現するコンピュータの機能ブロックから構成されていても良く、各構成要素はコンピュータブログラムによって実現され得る。記憶装置13は、光源位置情報サーバ131と低分解能画像サーバ132とを有する。記憶装置13は、ハードディスク、半導体メモリ、または光記録媒体であり得、インターネットなどのデジタルネットワークを介して画像処理部12に接続されるデータサーバであってもよい。
画像処理部12の照明条件調整部121は、照明装置111における光源の位置、明るさ、光照射間隔、照度などの照明条件を調整する。画像情報取得部122は、照明装置111の照明条件が適切に設定された状態で撮像素子113を制御し、点灯する光源の切り替えに応じて撮像素子113に撮像を行わせる。画像情報取得部122は、撮像素子113が取得した画像(低分解能画像)のデータを撮像素子113から受け取る。また、受け取った画像データに関連付けて照明条件を規定する情報(光源方向、発光強度、照度、波長など)を照明条件調整部121から取得する。
光源位置決定部123は、光源位置の校正時に光源位置を決定する。光源位置決定部123は、光源位置の校正時に被写体支持部112に校正用サンプルを設置して画像情報取得部122から得られた画像を用いて光源位置の変更を決定し照明装置111の光源位置を変化させる。
光源位置情報サーバ131は、光源位置決定部123によって決まった光源位置を示す情報を位置データベースとして格納している。光源位置決定部123によって光源の位置を調整した場合は、そのたびに位置データベースを書き換える。
低分解能画像サーバ132は、画像情報取得部122を介して得た低分解能画像のデータと、各低分解能画像を取得するときに使用された照明条件を示す情報とを画像データベースに格納する。本実施形態では、4つの方向からの照明光で被写体を照射して4つの低分解能画像を得る。これらの低分解能画像は、図14に模式的に示した画像60a〜60dに対応する。後述する画像構成処理が終了すると、低分解能画像のデータは画像データベースから削除されてもよい。
画像処理部12における画像構成処理部124は、画像情報取得部122から得られる撮像終了を示す信号に応答して、記憶装置13の光源位置情報サーバ131および低分解能画像サーバ132から光源位置情報および低分解能画像を得て、前述した原理による高分解能化を達成する(図14、図19)。すなわち、画像60a〜60dを構成する画素値を組み合わせることにより、1枚の高分解能画像を得ることができる。このとき、色補正、デモザイク処理、階調補正(γ補正)、YC分離処理、重なった部分の補正等、補正の処理を施す。高分解能画像はディスプレイ114に表示されたり、出力部115を介して画像取得装置1の外部に出力されたりする。出力部115から出力された高分解能画像は、不図示の記録媒体に記録されたり、他のディスプレイに表示されたりし得る。
本実施形態では、開口率が25%の撮像素子113を用いて画素数が4倍の高分解能画像(2倍に拡大された画像)を形成しているが、開口率が1/Nの撮像素子を用いてN枚の低分解能画像を取得し、これらからN倍画素数を持つN0.5倍に拡大された高分解能画像を形成することもできる。
本実施形態によれば、低分解能の画像から高分解能の画像を取得できるが、特に高分解能の画像が必要ないときは、低分解能の画像を使用すればよい。本実施形態では、倍率の高いレンズを用いることなく、画像の倍率を簡単に変化させることができる。
次に、図21Aを参照して、上記の実施形態にかかわる画像取得装置1の初期化および画像取得の動作を説明する。図21Aは、画像取得装置1における画像取得の流れを示すフローチャートである。
[準備ステップ] 光源位置の調整
光源位置の初期化を行うために被写体支持部112に校正用サンプルを設置し(S201)、光源位置決定処理を実行する(S202)。校正用サンプルとは、あらかじめ二次元情報として各位置における光透過率がわかっているサンプルである。たとえば、図22に示す校正用サンプル500は、透明なフィルムから形成されており、表面に格子状に配列された黒いドットパターンを有している。図22では、校正用サンプル500のうち、4画素分の領域だけが示されているが、現実の校正用サンプル500は、撮像素子113の撮像面の全体を覆う大きさを有していても良い。ここでは、簡単のため、黒い領域は光を完全に遮光する領域であるとする。
図22に示されている校正用サンプル500の4個の黒い領域の形状および位置は、フォトダイオード40の形状および位置に整合している。また、4個の黒い領域は、それぞれ、4個のフォトダイオード40の真上に位置しているとする。この状態で、不図示の照明装置111の特定の光源から光が出射され、その光で校正用サンプル500を照射する場合を考える。光源の光軸が撮像面に垂直であれば、光源からの光線は、黒い領域で遮光される。このため、4個のフォトダイオード40の出力は最低レベルの値を持つことになる。一方、光源の光軸が撮像面に対して僅かに傾斜していれば、黒い領域で遮光されることなく、各フォトダイオード40に入射する光線が存在する。このため、各フォトダイオード40の出力は最低レベルよりも高い値を持つことになる。光源の光軸が撮像面に略垂直になるように光源の位置を定めた後、光源の位置を変えながら、各フォトダイオード40の出力を検出すると、その出力が極小値となるときがある。そのとき、光源の光軸は撮像面に垂直であると決定できる。
上記の例では、4個の黒い領域が完全に遮光する領域であったが、黒い領域の光透過率は0%である必要は無い。また、図22の例では、4個の黒い領域の配列が4個のフォトダイオード40の配列に一致しているが、校正サンプル500のパターンは、そのような例に限定されない。校正サンプル500のパターンが既知であれば、そのパターンの形状は任意である。
記憶装置13は、校正用サンプル500に関連付けて、あらかじめ設定された複数の光源位置に対応するサンプルデータを有している。照明条件調整部121は、複数の光源位置から所定の光源位置を選択し、校正用サンプル500を光で照射する。撮像素子113は、所定の光源位置から光が照射された状態で校正用サンプル500の画像を取得する。光源位置決定部123は、こうして取得した画像と、記憶装置13に格納されているサンプルデータとを比較する。取得した画像とサンプルデータとが一致するまで、光源位置を僅かに変化させて撮像を繰り返し行う。その結果、光源位置を適切に決定することができる。例えば、図16に示すような光入射ではなく、図15に示すような光入射が実現するように複数の光源の配置関係を決定することができる。
[高分解能化ステップ]
次に、被写体を被写体支持部112に配置する(S203)。ここでの被写体は病理検体である。病理検体の代わりに、例えば厚さが数μm程度で撮像中に形態が変化しない光透過性の試料(細胞、剥切した組織など)であってもよい。スライドガラスを上下反転させ、撮像素子上面にカバーガラス32を載せ、その上にサンプルをおいた状態で撮像を行っても良い。その場合、距離Lには、カバーガラス32の厚さが加算される。このため、光源の位置を再調整してもよい(図23)。
次に、低分解能画像を取得するため、4つの光源を順番に点灯しながら画像取得をする。具体的には、i =1と定義し(S204)、i番目の光源のみを点灯する(S205)。i番目の光源のコントラスト調整を行いながら(S206)、i番目の画像(低分解能画像)を取得する(S207)。
その後、i = i+1と定義し(S208)、iが画像取得回数であるN=4回を超えているか否かを判断する(S209)。iが4回を超えるまで、画像取得を繰り返す。
取得したi番目の低分解能画像は、画像バッファに格納される。i>Nを満たす(S209)と判断された場合(YES)、画像構成処理が行われる。具体的には、図14に示したようにN枚の低分解能画像を重ね合わせるようにして、各低分解能画像の画素の位置をずらして画素データを合成し、高分解能画像を構成する(S210)。これを高分解能画像出力として送出する(S211)。高分解能画像はディプレイ114に出力されたり、外部に送出されたりし得る。
なお、図24は、開口率が1/9撮像素子を用いて、X方向およびY方向の各々について3倍に拡大した画像を得るときに入射する光線の方向を示す図である。
図21Bは、本実施形態に係る画像取得装置の動作の他の例を示すフローチャートである。この例では、毎回、光源位置を計算によって計算する。このフローでは、ステップS301で光源照射角度を計算によって求める。ステップS302において、光源位置を決定する。その後のステップS205〜S210は、前述したとおりである。
図21Cは、本実施形態に係る画像取得装置の動作の更に他の例を示すフローチャートである。この例では、光源位置を計算によってではなく実験的に決定する。
X方向とY方向で角度調整を行う方法を説明する。ピッチの間隔がX方向とY方向で異なる場合など、それぞれ実行する必要があるが、説明はY方向の場合のみとする。X方向とY方向で調整をしなおす必要がない場合は、一方の調整だけでよく、そこで得られた角度を用いればよい。
図27、図28を参照して説明する。図27は、例えば光源Bを点灯させて画像情報取得部122によって得た画像を示す。図28は、例えば光源Hを点灯させて画像情報取得部122によって得た画像を示す。これらの画像は、校正シートの同じ位置を透過してきた光線によって取得された像である。
図21Cのフローチャートは、Y方向において0.5画素だけずらすような適切な照射角度を求めることを目的としている。このとき、ある照射角度をθ、−θとする。θが求める正しい角度であれば、それぞれから得られた画像は例えば、図27、図28に示される一画素ずれた画像のようになる。一方で、θが正しくない場合は、一画素以下、もしくは一画素以上ずれた画像が得られる。これらついて、パラボラフィッティング法やSSD(Sum of Squared Difference)などの任意の方法によってサブピクセルマッチングを行い、適切なθを求め直す。これを繰り返すことにより、任意の許容範囲内で二画像の一画素ずれが適合した時点で角度を決定する。
θは前回の撮影で用いた角度や、単純な計算などから求めた推定値でも適切と考えられる初期値ならなんでも良い。
(第二実施形態)
図25〜図29を参照して、本開示による撮像装置の第2の実施形態を説明する。本実施形態では、図25及び図26に示すように、光源の数を4個から9個に増やしている。その他の点では、第一実施形態における画像取得装置の構成と同一の構成を備えている。
光源位置決定部123は、9個の光源A、B、C、D、E、F、G、H、Iを順次点灯し、その都度、撮像を行う。こうして得られた9枚の画像を合成することにより、2倍に拡大された精度の良い高分解能画像を得ることができる。
前述した図27の画像と図28の画像とを取得し、これらを比較し、画素ピッチだけシフトした状態になるように光源位置を決定し、照明装置111における光源位置の調整を行う。他の光源についても同様に位置の調整を行うことができる。
次に、図29を参照して、精度を上げる処理を説明する。本実施形態では、この処理の後、撮影された9枚の画像を用いて2倍に拡大された高分解能画像(画素数は4倍)を得ることができる。
図29は、撮像素子上に配置された被写体における一部のエリアと、そのエリアの下方に位置する撮像面の一部との配置関係を模式的に示す平面図である。図29には、4個のフォトダイオード(PD)40a、40b、40c、40dが示されている。被写体の図示されているエリアは、3行3列の9個の領域(1、1)、(1、2)、(1、3)、(2、1)、(2、2)、(2、3)、(3、1)、(3、2)、(3、3)に分けられている。j行k列の領域には(j、k)の参照符号を付している。この例では、4個の領域が全体として1画素の大きさに対応しており、第1実施形態について説明した方法と同様の方法により、最終的に4倍の高分解能化が達成される。
図25に示される光源Aから出た斜めの光で被写体を照射したとき、被写体の中央の領域(2、2)を透過した光は、フォトダイオード40dに入射する。光源Iから出た斜めの光で被写体を照射したとき、領域(2、2)を透過した光は、フォトダイオード40aに入射する。光源Cから出た斜めの光で被写体を照射したとき、領域(2、2)を透過した光は、フォトダイオード40cに入射する。光源Gから出た斜めの光で被写体を照射したとき、領域(2、2)を透過した光は、フォトダイオード40bに入射する。一方、例えば光源Eから出た光で被写体を照射したとき、その光は撮像面に垂直に進行するため、領域(2、2)を透過した後、その真下に入射する。すなわち、領域(2、2)を透過した光は、いずれのフォトダイオードにも入射しない。同様に、光源B、D、F、Hから出た光も、領域(2、2)を透過した後、フォトダイオードには入射しない。
9個の光源A、B、C、D、E、F、G、H、Iを順次点灯し、その都度、撮像を行って得た9枚の画像を、それぞれ、画像PA、PB、PC、PD、PE、PF、PG、PH、PIと表記する。これらの画像PA〜PIのうち、4枚の画像PA、PC、PG、PIの各々には、領域(2、2)の透過率を反映した画素値を持つ1つの画素が存在することになる。これらの対応する4個の画素値を平均すれば、領域(2、2)の透過率について、より精度の高い情報が得られる。
図29では、中央の領域(2、2)に対して、4個のフォトダイオード(PD)40a、40b、40c、40dから延びる4本の太い矢印が記載されている。このことは、4個のフォトダイオード(PD)40a、40b、40c、40dの出力に基づいて、領域(2、2)の画素値を決定できることを意味する。例えば、4個のフォトダイオード(PD)40a、40b、40c、40dの出力(4枚の画像PA、PC、PG、PIから得られる)を全て加算し、4で割れば、平均化された画素値が得られる。ただし、領域(2、2)の画素値を決定するため、4個のフォトダイオード(PD)40a、40b、40c、40dの出力の全てを用いる必要は無い。
次に、被写体の他の領域の画素値の取得について説明する。まず、領域(1、2)、(3、2)について説明する。
光源Dから出た光で被写体を照明するとき、領域(1、2)、(3、2)を通過した光は、それぞれ、フォトダイオード40b、40dに入射する。このときの撮像によって得られる画像は、画像PDである。また、光源Fから出た光で被写体を照明するとき、領域(1、2)、(3、2)を通過した光は、それぞれ、フォトダイオード40a、40cに入射する。このときの撮像によって得られる画像は、画像PFである。このように、2枚の画像には、領域(1、2)、(3、2)の各々の透過率を反映した画素値を持つ画素が存在する。これらの対応する画素値を平均化すれば、領域(1、2)、(3、2)の各々の透過率について、精度の高い情報が得られる。
図29では、例えば領域(1、2)に対して、2個のフォトダイオード(PD)40a、40bから延びる2本の矢印が記載されている。このことは、2個のフォトダイオード(PD)40a、40bの出力に基づいて、領域(1、2)の画素値を決定できることを意味する。2個のフォトダイオード(PD)40a、40bの出力を加算し、2で割れば、平均化された画素値が得られる。領域(3、2)についても同様である。
次に、領域(2、1)、(2、3)について説明する。基本的には、光の方向は異なるが、領域(1、2)、(3、2)について説明したことが成立する。
光源Bから出た光で被写体を照明するとき、領域(2、1)、(2、3)を通過した光は、それぞれ、フォトダイオード40c、40dに入射する。また、光源Hから出た光で被写体を照明するとき、領域(2、1)、(2、3)を通過した光は、それぞれ、フォトダイオード40a、40bに入射する。2枚の画像PB、PHには、領域(2、1)、(2、3)の各々の透過率を反映した画素値を持つ画素が存在する。これらの対応する画素値を平均化すれば、領域(1、2)、(3、2)の各々の透過率について、精度の高い情報が得られる。
本開示による画像取得装置は、被写体および撮像素子を一体的に傾斜させる傾斜機構を含む照明システムを備えていても良い。その場合、光源の位置が固定されていても、傾斜機構によって被写体および撮像素子を回転させることにより、被写体を基準にしたときの光源方向を変化させることができる。このような照明システムによれば、被写体および撮像素子を一体的に傾斜させ、被写体を基準にして複数の異なる光源方向から、順次、照明光を出射することができる。
(改変例)
図30は、被写体および撮像素子(以下、「撮像対象」と称する。)140を着脱可能に保持する保持装置を備えている改変例の構成を模試的に示している。撮像対象140は、被写体と撮像素子とが一体化された「プレパラート」でありえる。この例では、「照明角度調整部」が撮像対象140の姿勢を変化させる機構を有している。この機構は、直交する鉛直面内で被写体の向きを回転させることができる2つのゴニオ機構120を含んでいる。ゴニオ機構120のゴニオ中心150は撮像対象140における被写体の中央部に位置している。この改変例では、ゴニオ機構120が照明光の照射方向を変化させることができるため、光源10Pは固定されていてもよい。この改変例では、光源10Pは平行光を発するように構成されている。なお、図31に示されるように、この改変例による画像取得装置は複数の平行光光源10Pを有していてもよい。
ここで、光源10Pを固定し、かつ撮影対象140を移動させる場合は、撮影対象140を固定し、かつ光源10Pを移動させる場合と比較して、撮影時間が短くなる点で好ましい。これは、撮影対象140と光源10Pとの距離L1が、撮影対象140を構成する被写体と撮像素子との距離L2よりも非常に大きいため、それに比例して光源10Pを大きく移動させる必要があるためである。撮影時間が短くなることにより、被写体が秒単位で経時的に変化するもの、例えば、生物試料からのルミネセンスであっても適切な画像を取得できる。
図32は、被写体の姿勢を変化させる機構がゴニオ機構120と回転機構122とを備えている改変例の構成を示している。ゴニオ機構120による鉛直面内における撮像対象140の回転と、回転機構122による鉛直軸周りの撮像対象140の回転とを組み合わせることにより、撮像対象140に対して任意の照射方向から照明光を入射することが可能になる。点150は、ゴニオ中心および回転中心に位置している。なお、図33に示されるように、この改変例による画像取得装置は複数の平行光光源10Pを有していてもよい。
図34は、光源から放射された光の平行度を上げ、被写体に平行光を入射させる光学系の一例を示している。この例では、光源から出た発散光をコリメートするレンズ130がXY移動機構(移動ステージ)124に搭載されている。撮像対象140は、移動ステージ124とともに、水平面内のX軸および/またはY軸の方向に任意の距離だけ移動させられる。
図35は、水平面内の所望の方向に所望の距離だけ移動した撮像対象140に対して照明光が斜めに入射する様子を示している。光源10aの位置が固定されていても、撮像対象140の位置を調整することにより、照明光の照射方向を制御できる。なお、図36に示されるように、この改変例による画像取得装置は複数の光源を有していてもよい。このように複数の光源10a、10b、10cを有しているとき、撮像対象140を移動させる機構は無くてもよいし、図37に示されるように、XY移動機構(移動ステージ)124を備えていてもよい。図38、図39および図40に示されるように、点灯する光源10a、10b、10cの位置および撮像対象140の位置の一方または両方を変化させることにより、所望の入射角度で照明光を撮像対象140に入射できる。
図41は、2つのゴニオ機構120が平行光光源10Pを支持する改変例の構成を模式的に示している。図42は、ゴニオ機構120および回転機構122が平行光光源10Pを支持する改変例の構成を模試的に示している。
これらの改変例では、平行光を発する光源を使用したり、光源が発する光の平行度を高める光学系を使用したりしている。しかし、本開示の実施形態は、このような例に限定されない。前述したように、光源と被写体との間隔が十分に広いとき、実質的には平行といえる光が被写体に入射する。
また、被写体に対して光を照射し、姿勢および位置が固定されている光源を用いる場合、被写体を複数の傾斜角度に傾斜させる傾斜機構があれば、被写体を透過した光が入射する位置に配置された撮像素子と被写体と一体的に傾斜機構により傾斜して、複数の傾斜角度に応じて複数の画像を取得することができる。
本開示の例示的な態様によれば、検体管理装置は標本像取得装置と情報処理装置とを備えている。標本像取得装置は、病理標本が置かれる標本支持部と、病理標本の画像を複数の分解能(倍率)のうちの指定された一つの分解能(倍率)で取得するように構成された撮像素子を有する。情報処理装置は、標本像取得装置によって取得された画像の特徴量を求め、その特徴量に基づいて病理標本の患者情報を表示装置に出力させるように構成されている。より詳細には、情報処理装置は、患者の標本画像から算出された特徴量と患者情報とが対応付けられたデータベースを参照して、その画像の特徴量に一致する患者情報を検索する。そして、画像の特徴量に一致する複数の患者情報がデータベースに含まれていた場合は、その画像の分解能よりも高い分解能を有する高分解能画像を取得し、またデータベースを参照して高分解能画像の特徴量に一致する患者情報を検索する。ここで、患者情報は、例えば、患者の氏名、病名、所見、他の検査の情報、臨床情報の少なくとも1つを含む。
本開示の検体管理装置で使用され得る標本像取得装置は、標本支持部に置かれた病理標本から異なる分解能(倍率)で複数の画像の取得が可能である。このような標本像取得装置の一例は、撮像素子であるイメージセンサ上に配置された薄い病理標本を照明光で照射し、病理標本を透過した光に基づいてデジタル画像を取得するように構成された装置である。このような装置によれば、撮像素子と病理標本との間には結像のための対物レンズを配置する必要は無く、撮像素子と病理標本とが近接した状態で複数の画像を取得することができる。その結果、撮像素子が備える微細な画素の配列に基づいて顕微鏡並みの分解能を有する画像を取得することができる。取得する画像の分解能の変更は、撮像素子におけるビニング処理によって行うこともできるし、後述する実施形態について詳しく説明するように、病理標本に入射する照明光の方向を変えて複数の低分解能画像を得て画像処理によって高分解能化してよい。
情報処理装置は、本開示のプログラムがインストールされた汎用コンピュータであっても良い。そのような情報処理装置の典型例は、プロセッサとメモリとを備え、メモリに格納されたプロクラムの命令によって動作する。その結果、プロセッサとメモリとを備える装置が、全体として、後述する各機能ブロックを備える装置として機能し得る。本開示における情報処理装置が備える各機能ブロックは、専用のハードウェア、または、ハードウェアおよびソフトウェアの組み合わせによって実現されていても良い。
患者の標本画像から算出された特徴量と患者情報とが対応付けられたデータベースは、情報処理装置が備える記憶装置に設けられていても良いし、デジタルネットワークを介して情報処理装置に接続され得るデータストレージまたはデータサーバに設けられていても良い。画像の特徴量としては、公知の種々の特徴量が選択可能であり、患者情報の検索は公知のマッチング技術によって実現し得る。
以下、図面を参照しながら本開示の第三実施形態を説明する。
(第三実施形態)
図43は、本実施形態における検体管理装置の全体の構成例を示す図である。
図示されている検体管理装置は、標本像取得装置1110と情報処理装置1230とを備えている。標本像取得装置1110は、図44に示されるように、病理標本1030が置かれる標本支持部1100と、病理標本1030の画像を複数の分解能(倍率)のうちの指定された一つの分解能(倍率)で取得する撮像素子1220とを有する。撮像素子1220としては、多数の光電変換部が撮像面内に行および列状に配列された2次元イメージセンサが採用され得る。光電変換部は、典型的には、半導体層または半導体基板に形成されたフォトダイオードであり、入射光を受けて電荷を生成する。2次元イメージセンサの分解能は、撮像面上における光電変換部の配列ピッチまたは配列密度に依存する。個々の光電変換部の配列ピッチは、可視光の波長程度まで短くなっている。撮像素子1220の典型例は、CCD(Charge Coupled Device)イメージセンサまたはMOS(Metal Oxide Semiconductor)型イメージセンサである。
情報処理装置1230は、標本像取得装置1110によって取得された画像の特徴量を求め、その特徴量に基づいて病理標本1030の患者情報を出力装置1170に出力させるように構成されている。より詳細には、情報処理装置1230は、患者の標本画像から算出された特徴量と患者情報とが対応付けられたデータベースを参照して、病理標本1030の画像の特徴量に一致する患者情報を検索する。
情報処理装置1230は、入力装置1160および出力装置1170に接続されている。入力装置1160は、ユーザが情報処理装置1230に対してデータを入力したり、命令を入力したりする装置である。入力装置1160は、キーボード、マウス、タッチスクリーンなどであり得る。出力装置1170は、画像および文字を表示し得るディスプレイ、プリンタ、スピーカなどであり得る。入力装置1160および出力装置1170はタッチスクリーンと表示装置とが一体化された装置であってもよい。
情報処理装置1230は、画像の特徴量に一致する1つの患者情報がデータベースに含まれていた場合、その患者情報を出力装置1170に出力する。また、画像の特徴量に一致する複数の患者情報がデータベースに含まれていた場合、情報処理装置1230は、その画像の分解能よりも高い分解能を有する高分解能画像を取得した上で、データベースを参照して高分解能画像の特徴量に一致する患者情報を検索する。更に、画像の特徴量に一致する1つの患者情報がデータベースに含まれていなかった場合、情報処理装置1230は、入力装置1160から患者情報の入力を受け取り、画像から算出された特徴量と患者情報とを対応付けて前記データベースに格納する。このとき、標本像取得装置1110は、最初に取得した画像の分解能よりも高い分解能を有する高分解能画像を取得し、情報処理装置1230は、取得した各画像から算出された特徴量と患者情報とを対応付けてデータベースに格納する。
図45は、本開示の第三実施形態における検体管理装置のブロック図である。図45に示されるように、本実施形態における検体管理装置は、標本支持部1100と、標本像取得装置1110と、画像特徴量算出部1120と、情報検索部1130と、患者情報データベース(以下、単に「データベース」と称する。)1140と、倍率変更部1150と、入力装置1160と、出力装置1170とを備えている。
患者情報を取得または更新したい病理標本1030が標本支持部1100上に置かれる。病理標本1030は、例えば、病理検査で使用されている一般的なスライドであり得る。
標本像取得装置1110は、標本支持部1100に置かれた病理標本1030の画像を、予め定められた複数の異なる倍率のうちの1つの倍率で取り込む。画像特徴量算出部1120は、標本像取得装置1110で取得された標本像から画像特徴量を算出する。情報検索部1130は、患者情報と画像特徴量が対応付けられて蓄積されたデータベース1140から、画像特徴量算出部1120で算出された画像特徴量と一致する患者情報が存在するかを検索する。倍率変更部1150は、情報検索部1130によって取得した検索結果が複数存在する場合、取得する倍率を高い倍率(高い分解能)に変更し、標本像取得装置1110によって再度画像の取り込みを行い、高い倍率での標本の検索を行う。
入力装置1160は、情報検索部1130によって画像特徴量が一致する患者情報を取得できなかった場合、新規患者の標本として、患者情報の入力を受けつける。出力装置1170は、情報検索部1130によって画像特徴量が一致する患者情報を取得できた場合、取得された患者情報を出力する。
以下、本開示の実施形態における各部の動作および構成をより詳しく説明する。
<検体管理装置の動作>
まず、図46を参照する。図46は、検体管理の手順を示すフローチャートである。
ステップS10では、患者情報を参照し、または更新したい標本を標本支持部1100上に置く。標本支持部1100は、図44に示すように、病理標本1030がちょうど収まる大きさの凹部を有し得る。このような標本支持部1100によれば、画像を取り込む際に標本1030の位置ずれが生じることを抑制できる。日本では、規格で定められた76mm×26mmのサイズの病理標本が一般的に使用される。標本支持部1100は、このような大きさの病理標本1030がセットされ得る形状を有している。
再び図46を参照する。ステップS11では、標本像取得装置1110によって、予め定められた複数の異なる倍率のうちの1つの倍率によって病理標本1030の画像を取得する。図47は、標本像取得装置1110の構成例を示すブロック図である。標本像取得装置1110は、照明方向調節部11200と、照明装置1210と、撮像素子1220とを有している。情報処理装置1230によって指定された任意の倍率で標本の像(例えば、全体像)を取得する。
異なる倍率の画像を取得する際、逆行列計算部1240および行列格納部1250を用いて高解像化を行うことができる。逆行列計算部1240および行列格納部1250は、図47に例示するように、情報処理装置1230内に設けられていても良いが、逆行列計算部1240および行列格納部1250の一方または両方が標本像取得装置1110の内部に設けられていても良い。逆行列計算部1240および行列格納部1250の動作の詳細については後述する。
次に、図48を参照しながら、本実施形態における画像取得の処理手順の例を説明する。
まず、ステップS110において、標本1030に照射する平行光照明の角度を照明方向調節部1200によって調節する。照明方向を調整する方法としては、図49Aに示すように、予め定められた角度で光を照射できるように複数の光源を設置しておいても良いし、図49Bに示すように、1つの光源を指定された角度に移動させてもよい。
ステップS111では、照明装置1210によって、ステップS110で調整された角度で撮影対象の標本に対して平行光を照射する。照明方向の変化の例を図50Aおよび図50Bに示す。標本1030と撮像素子1220とは、図51に示すように、2次元的な配置関係を有している。図50Aおよび図50Bでは、簡単のため、1つのフォトダイオード(PD)を含む1画素領域の断面を模式的に示している。フォトダイオードPDに入射した光は、光電変換により、電気信号に変換される。図50Aおよび図50Bにおいて、矢印の太さはPDに入射する光の量を表しており、太い矢印ほど多くの光が入射していることを表している。
図50Aの例では、真上から平行光を照射している。この場合、フォトダイオードPDには標本1030中の領域S2、S3を透過した光が入射している。一方、図50Bの角度から平行光を照射した場合には、標本1030中の領域S2、S3、S4を透過した光がフォトダイオードPDに入射している。具体的には、標本1030中の領域S2およびS4の各々を透過した光の半分がフォトダイオードPDに入射し、領域S3を透過した光の略全てがフォトダイオードPDに入射している。この場合、図50Aの場合とは異なる画素値がフォトダイオードPDから出力されることになる。
図50Aおよび図50Bの例では、1つの照射方向で撮影した画像では、領域S1、S2、S3、S4それぞれの画素値を求めることはできない。本実施形態における標本像取得装置では、図50Aおよび図50Bに示すように、照射方向を変更した状態で撮影した複数の画像から、領域S1、S2、S3、S4、それぞれの領域を透過した光に対応する画素値を求めることができる。これらの領域S1、S2、S3、S4は、1つの画素の大きさよりも小さい領域であり、サブ画素領域に相当する。以下、この点をより詳細に説明する。
ここでは、4つの異なる方向1、2、3、4から標本1030に光を照射した場合を例にとる。異なる方向1、2、3、4から光が照射された状態で4枚の画像が取得される。4枚の画像を構成する画素のうち、同一の位置に存在する1つの画素に着目する。この着目する画素に含まれるフォトダイオードPDの出力を、光照射の方向1、2、3、4について、それぞれ、A1、A2、A3、A4とする。また、標本1030における領域S1、S2、S3、S4の光透過率を、それぞれ、S1、S2、S3、S4とする。この場合、図50Aに示される例では、A1=0×S1+1×S2+1×S3+0×S4の式が成立する。また、図50Bに示される例では、A2=0×S1+(1/2)×S2+1×S3+(1/2)×S4の式が成立する。図示していない光照射の方向3の例では、A3=0×S1+0×S2+(1/2)S3+1×S4が成立し、図示していない光照射の方向4の例では、A4=(1/2)×S1+1×S2+(1/2)S3+0×S4が成立しているとする。
以上の例では、透過率S1、S2、S3、S4は、標本1030の組織構造に依存し、未知である。フォトダイオードPDの出力A1、A2、A3、A4は、4枚の画像を取得することにより、得られる。従って、4つの未知数S1、S2、S3、S4についての連立方程式が決まるため、演算により、S1、S2、S3、S4を求めることが可能になる。
図52Aは、上記の例における連立方程式の係数の行列を示している。この行列の逆行列を出力A1、A2、A3、A4のベクトルに演算することにより、1画素よりも狭い領域(サブ画素領域)S1、S2、S3、S4の光透過率を求めることができる。その結果、4倍の分解能を持つ画像を得ることができる。言い換えると、撮像素子1220における画素密度の4倍の画素密度の高分解能画像を得ることができる。
図52Aに示す行列の数値は、標本1030の組織構造には依存せず、撮像素子1220の構造および光照射の方向に依存する。同じ撮像素子1220であっても、光照射の方向が変わると、行列の数値が変化する。図52Bは、異なる方向1〜8から光を照射した場合の行列の数値例を示している。この例では、サブ画素領域の個数は8であるため、少なくとも異なる方向1〜8から標本1030に光を照射し、各画素について8個の出力を得れば、未知数である8個のサブ画素領域の光透過率を決定することができる。その結果、8倍の分解能を持つ画像を得ることができる。言い換えると、撮像素子1220における画素密度の8倍の画素密度の高分解能画像を得ることができる。
本実施形態によれば、こうして画像の高分解能が実現する。言い換えると、照明方向を変えて撮像することにより、標本画像として、分解能(拡大倍率)の異なる画像を得ることができ、対物レンズを用いた焦点合わせが不要である。
ステップS112では、撮像素子1220によって標本1030を撮影する。一般的なスキャナ等の装置では、ラインセンサが用いられることが多いが、撮像素子1220としてCCDイメージセンサなどのエリアセンサを用いることによって、標本の識別に必要な広範囲の画像を高速に撮影できる。また、本実施形態における標本像取得装置1110では、撮影倍率を制御するためのレンズを持たず、照射方向を変更した複数の画像から任意の倍率の画像を生成する。
ステップS113では、指定された倍率の標本像を生成するために必要な画像が全て揃っているかを判定する。揃っている場合にはステップS114に進み、揃っていない場合には、ステップS110に戻り、必要な角度で照射された画像の取り込みを行う。
ステップS114では、情報処理装置1230によって、ステップS110からステップS113で撮影された、照射方向の異なる複数の画像から、指定倍率の画像を生成する。指定倍率の画像を生成するために、予め照射方向とフォトダイオードPDに入射する光の量の関係を算出しておいた行列を行列格納部1250に格納しておく。図52Aおよび図52Bは、照明方向とセンサに入射する光の関係を示す行列の例を示す。このような行列は、照射角度とフォトダイオードPDの大きさ、求めたい画素の大きさから計算によって求めることが可能である。また、予め画素値がわかっているテスト標本を用いて、角度に応じてどの画素の光がどの程度フォトダイオードPDに入ったかを計測することによって実験的に算出しておいても良い。
この照射方向と撮像素子に入射する光の関係を示す行列をM、各照射方向によって得られた画素値ベクトルをA、求めたい画素値のベクトルをSとすると、各画素について、MS=Aの関係が成り立つ。ここで行列M、Aの値はわかっているため、逆行列計算によってSの値を求める事ができる。ステップS114では、行列格納部1250から照明方向とフォトダイオードPDに入射する光の関係を示す行列を取得し、逆行列計算部1240によって各画素値を算出する。以上の構成の標本像取得装置1110を用いることにより、任意の倍率で標本の全体像を撮影する。
ステップS12(図46)では、画像特徴算出部1120によって、ステップS11で取得された標本画像から、検体を識別するための画像特徴量を算出する。画像特徴量としては、平均輝度等の色情報、円形度等の形状特徴、SIFT、HOG、HLAC等の特徴を用いる。また、病理画像特有の特徴量として、核・細胞間の距離や核・細胞の色の比率といった特徴を用いることも可能である。
病理画像の例を図53および図54に示す。図53は高倍率(例えば、200倍以上の倍率)で観察した場合の病理標本の例、図54は低倍率(例えば、10倍未満の倍率)で観察した時の病理標本の例である。倍率がN倍(Nは1以上の整数とする)になることは、画像の分解能(1画像を構成する画素数、また画素密度)がN×N倍に増加することに相当する。なお、表示装置の表示画面上の倍率は、撮像素子における画素ピッチに対する表示装置の画面ピッチの比率によって規定される。
病理標本では、図53に示すように高い倍率で観察した場合、細胞や核が認識できる。標本によって、細胞・核間の配置や距離は異なるため、細胞・核間の平均距離などは標本を識別するための特徴として用いることができる。また、病理標本における観察対象の組織はそのままでは透明なため、染色を行い観察しやすくするのが一般的である。染色の種類としては基本的な染色方法であるHE染色や、特定の検査の目的に合わせて染色を行う各種の免疫染色が存在する。このような染色によって染め分けられた細胞・核の比率も特徴として使用可能である。例えば、免疫染色の1つであるKi−67では、増殖細胞は赤褐色、それ以外の細胞は青色に染め分けられる。このような比率は診断に使われる指標になるが、病理標本の識別情報としても有用である。また、本ステップでは、病理標本画像の倍率に応じて、重視する画像特徴量を変更しても良い。病理標本の場合、観察する倍率によって画像的な特徴が大きく異なるという特徴がある。図53のように高い倍率で観察した場合には細胞や核が認識できる画像となり、低倍率では、図54のように病理切片の全体の形状が捉えられる画像となる。このような特徴を考慮して、低倍率の画像では、円形度、SIFT(Scale−Invariant Feature Transform)、HOG(Histogram of Oriented Gradient)、HLAC(Higher−order Local AutoCorrelation)といった、一般的な形状認識に適した特徴量を中心に用いることができる。また、高倍率の画像では、細胞・核の距離や染色された色の比率のような病理標本特有の特徴を中心に用いることができる。具多的には、画像の分解能が基準値よりも低いとき、円形度、SIFT、HOG、HLACのいずれか1つ以上の特徴量を算出取得し、画像の分解能が基準値以上のとき、特徴量に加えて、細胞または核間の平均距離、および/または染色によって染め分けられた色の比率を算出するようにしてもよい。
ステップS13では、情報検索部1130によって、ステップS12で算出された画像特徴量と一致する患者データをデータベース1140から取得する。データベースの例を図55に示す。データベースは病理標本画像から算出した画像特徴量、画像特徴量を算出した標本画像の撮影倍率、および患者情報が対応付けられた患者データを記憶する。このような形式で患者情報を保持しておくことで、ステップS12で算出された画像特徴量と一致する画像特徴量を持つ患者データをデータベースから検索することができる。検索の一致条件は、画像特徴量が完全に一致するものとしても良い。また、画像特徴量を例えばベクトルで表現した場合は、ベクトル間のユークリッド距離が予め定められた閾値以下の場合に一致する画像とみなすものとしてもよい。その他、データベースの構成は、図56に示すような形式であっても良い。図56の形式では、患者に応じたIDを付与することによって、同一患者の異なる染色の検査を関連付けて格納している。現在の病理検査(組織診)では、基本的な染色であるHE(ヘマトキシリン・エオジン)染色の他に、特定の目的の検査を行うための免疫染色が行われることが多い。このような同一患者の異なる染色の標本は、図57に示した例のように、色は全く異なるものの、標本の形状はほぼ同一であることが多い。これは、同一患者から複数の染色の標本を作成する場合、連続するスライスで作られることが多いためである。このような病理標本の性質を利用すれば、本開示では、検体の標本像を画像として取得しているため、取得された画像の形状的な特徴量を比較することによって、同一患者の異なる染色の標本を自動的に関連付けることが可能である。
ステップS14では、ステップS13の検索の結果、ステップS12で算出した画像特徴量と同一の画像特徴量を持つ患者データが、データベース1140中に存在するかを判定する。同一の画像特徴量を持つ患者データが存在しない場合にはステップS15に、存在する場合にはステップS17に進む。
ステップS15では、入力装置1160によって、ステップS10において置かれた病理標本に対応する患者情報の記入を求める。ステップS16では、ステップS15で入力された患者情報をステップS11で取得した標本像の倍率および、ステップS12で算出した画像特徴量と関連付けてデータベース1140に格納する。
ステップS17では、ステップS13の検索の結果、ステップS12で算出した画像特徴量と同一の画像特徴量を持つ患者情報が、データベース1140中に複数存在するかを判定する。データベース中に、画像特徴量が一致する患者情報が複数存在し、1つに特定できない場合にはステップS18に、画像特徴量が一致する患者データが1つのみ存在した場合にはステップS19に進む。
ステップS18では、患者情報が特定できなかった場合、標本像取得装置で取得する倍率を変更し、再度ステップS11に戻る。病理標本の場合、低倍率で形状が似ている場合にも、高倍率の細胞、核レベルで観察すれば必ず識別可能という特徴がある。一方で、ステップS11で標本の取り込みに要する時間は、倍率とトレードオフの関係にある。そのため、はじめは低倍率で識別を試み、認識できない場合に倍率を上げていくと効率がよい。具体的には、ステップS11からステップS17を患者情報が1つに特定できるまで、繰り返し撮影倍率を上げていく。なお、新規標本の患者情報をデータベースに追加する際、画像の特徴量のうち、色に依存しない形状特徴のみを用いて、データベース中に一致する症例がないかを検索し、一致する症例があった場合には、同一患者の異なる染色の標本として関連付けるようにしてもよい。
ステップS19では、出力装置1170によって、ステップS13で取得された患者情報を出力する。出力装置1170は、表示装置またはプリンタを備えている必要は無い。出力装置1170は、外部の表示装置またはプリンタに接続され、それらの装置または機器に信号を出力する装置であってもよい。
本実施形態の構成により、病理標本の正確かつ作業者の負担の少ない検体管理を実現できる。また、本構成の検体管理では、病理スライドにバーコードやICタグを付与する必要がなく、従来のスライドをそのまま使用することが出来る。
(第四実施形態)
次に、図58および図59を参照して、本開示の第四実施形態における検体管理装置を説明する。
本実施形態における標本像取得装置1110は、標本支持部に置かれた標本1030を図58に示すように移動させながら撮影することによって、高倍率の標本画像を生成するための複数の画像を撮影する。標本像取得装置1110以外の構成は、第三実施形態における検体管理装置の構成と同じである。
図59は、本実施形態における標本像取得装置1110のブロック図である。本実施形態では、平行光の照射方向を変えることによって複数の画像を得る代わりに、標本自体を移動させながら撮影することによって、高倍率の画像を構成するための複数の画像を得る。行列格納部1250には、照明方向と撮像素子に入射する光の関係を表現する行列を格納する代わりに、移動方向、移動距離と撮像素子に入射する光の関係を表す行列を格納しておく。本構成の標本像取得装置1110は、ステップS110からステップS114とほぼ同様の処理によって、任意の倍率の画像を取得する機能を実現することができる。ただし、ステップS110では、平行光の照射角度を変更する代わりに、標本支持部に置かれた標本を移動する。本構成では、病理標本に照射する平行光の方向は一定でよい。ステップS111からステップS114は第三実施形態の処理と全く同じ処理を用いることによって、複数の低倍率画像から高倍率の画像を生成することができる。
本開示の画像取得装置によれば、焦点合わせに時間がかかる顕微鏡を用いることなく高倍率の画像が得られるため、被写体が微細な組織を有する病理標本であっても高倍率の画像データを短時間で得ることができる。
本開示の一態様による画像取得方法は、被写体を基準にして複数の異なる光源方向から、順次、照明光を出射し、前記照明光で前記被写体を照射する工程と、前記被写体を透過した前記照明光が入射する位置に配置された撮像装置により、前記異なる光源方向に応じて異なる複数の画像を取得する工程と、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する工程とを含む。
また、本開示の画像取得装置は、上述した照明装置および撮像素子、ならびに汎用的なコンピュータを備え、このコンピュータが、照明装置により、被写体を基準にして複数の異なる光源方向から、順次、照明光を出射し、照明光で前記被写体を照射し、被写体を透過した前記照明光が入射する位置に配置された撮像装置により、前記異なる光源方向に応じて異なる複数の画像を取得し、前記複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成するように構成されていても良い。このような動作は、記録媒体に記録されたコンピュータプログラムによって実行され得る。
本開示に係る撮像素子は、焦点調整の手間を省き、高倍率の画像を取得することが可能になる。
1 画像取得装置
10 光源
11 撮像処理部
12 画像処理部
13 記憶装置
30 被写体
40 フォトダイオード
42 遮光膜
44 垂直電荷転送路
46 水平電荷転送路
50 画素
60a〜60d 低分解能画像
111 照明
112 被写体支持部
113 撮像素子
114 ディスプレイ
115 出力部
121 照明条件調整部
122 画像情報取得部
123 光源位置決定部
124 画像構成処理部
131 光源位置情報サーバ
132 低分解能画像サーバ
300a〜300d 低分解能画像の画素
400 半導体基板
402 配線層
406 透明層
600 高分解能画像

Claims (4)

  1. 被写体を基準にして複数の異なる照射方向から、順次、照明光を出射し、前記照明光で前記被写体を照射する照明システムと、
    撮像素子を着脱可能に保持する保持装置と、
    前記撮像素子によって取得される複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する画像処理部と、
    を備える画像取得装置に用いられる前記撮像素子であって、
    前記撮像素子は、
    前記画像取得装置に対して着脱可能に構成されており、
    前記撮像素子の撮像面に前記被写体を配置可能な領域である被写体支持部を備え、
    前記保持装置によって前記画像取得装置に保持された状態において、前記被写体を透過した前記照明光が入射する位置に配置され、前記異なる照射方向に応じて異なる前記複数の画像を取得する、
    撮像素子。
  2. スライドガラス上に設けられ、
    前記スライドガラスの一部を介して前記保持装置によって前記画像取得装置に対して着脱可能に保持される、
    請求項1に記載の撮像素子。
  3. 前記被写体支持部上に撮像範囲を制限する遮光領域が配置される、
    請求項1または2に記載の撮像素子。
  4. 被写体を基準にして複数の異なる照射方向から、順次、照明光を出射し、前記照明光で前記被写体を照射する照明システムと、
    前記被写体を透過した前記照明光が入射する位置に配置される撮像素子によって前記異なる照射方向に応じて取得された異なる複数の画像を合成して、前記複数の画像の各々よりも分解能の高い前記被写体の高分解能画像を形成する画像処理部と、
    を備える画像取得装置に用いられる前記撮像素子であって、
    前記撮像素子は、
    前記画像取得装置に対して着脱可能に構成されており、
    前記画像取得装置に装着された状態において前記照明システムからの前記照明光が入射する側の面に、前記被写体を配置可能な被写体支持部を備える、
    撮像素子。
JP2015042588A 2013-06-06 2015-03-04 撮像素子 Active JP6307770B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015042588A JP6307770B2 (ja) 2013-06-06 2015-03-04 撮像素子

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2013119692 2013-06-06
JP2013119692 2013-06-06
JP2013121123 2013-06-07
JP2013121123 2013-06-07
JP2015042588A JP6307770B2 (ja) 2013-06-06 2015-03-04 撮像素子

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014555025A Division JP5789766B2 (ja) 2013-06-06 2014-06-05 画像取得装置、画像取得方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2015128322A true JP2015128322A (ja) 2015-07-09
JP6307770B2 JP6307770B2 (ja) 2018-04-11

Family

ID=52007860

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2014555025A Active JP5789766B2 (ja) 2013-06-06 2014-06-05 画像取得装置、画像取得方法、およびプログラム
JP2015042588A Active JP6307770B2 (ja) 2013-06-06 2015-03-04 撮像素子

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2014555025A Active JP5789766B2 (ja) 2013-06-06 2014-06-05 画像取得装置、画像取得方法、およびプログラム

Country Status (5)

Country Link
US (1) US9426363B2 (ja)
EP (1) EP3007428A4 (ja)
JP (2) JP5789766B2 (ja)
CN (1) CN105308949B (ja)
WO (1) WO2014196203A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017038052A1 (ja) * 2015-08-28 2017-03-09 パナソニックIpマネジメント株式会社 撮像装置、及び固体撮像装置
KR20190067608A (ko) * 2017-12-07 2019-06-17 삼성전기주식회사 촬상 광학계

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016027448A1 (ja) * 2014-08-22 2016-02-25 パナソニックIpマネジメント株式会社 画像取得装置および画像形成システム
EP3225975A4 (en) * 2014-11-27 2017-11-29 Panasonic Intellectual Property Management Co., Ltd. Image acquisition device, image formation system, and image formation method
US11308601B2 (en) * 2015-04-29 2022-04-19 Emhart Glass S.A. Container inspection system with individual light control
AT518019A1 (de) * 2015-12-01 2017-06-15 Bernecker + Rainer Industrie-Elektronik Ges M B H Beleuchtung für industrielle Bildverarbeitung
CA2925791C (en) * 2016-03-31 2017-09-12 Cae Inc Image generator for suppressing a gap between two adjacent reflective surfaces
CN106060506B (zh) * 2016-05-19 2018-03-13 深圳市金立通信设备有限公司 一种图像处理方法及终端
JP6698451B2 (ja) * 2016-07-11 2020-05-27 オリンパス株式会社 観察装置
CN107645625B (zh) * 2016-07-22 2020-10-09 松下知识产权经营株式会社 图像生成装置以及图像生成方法
JP6817566B2 (ja) * 2016-07-22 2021-01-20 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
JP6739060B2 (ja) * 2017-01-24 2020-08-12 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
JP7026333B2 (ja) 2017-03-01 2022-02-28 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
CN107734272B (zh) * 2017-09-30 2020-02-11 京东方科技集团股份有限公司 掩模板检测设备、掩模板检测方法以及相应的光源控制方法
KR102486426B1 (ko) 2018-02-23 2023-01-09 엘지이노텍 주식회사 카메라 모듈
JP7213466B2 (ja) * 2019-03-28 2023-01-27 パナソニックIpマネジメント株式会社 カメラシステム、搭乗者監視システム、移動装置、撮像方法及びプログラム
WO2021117099A1 (ja) * 2019-12-09 2021-06-17 株式会社アルステクネ 画像処理方法、プログラム、及び画像処理装置
US11950000B2 (en) * 2022-09-07 2024-04-02 Microsoft Technology Licensing, Llc Resolution enhancement in spatial-frequency space

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998030022A1 (fr) * 1996-12-26 1998-07-09 Sony Corporation Dispositif d'acquisition d'images a haute resolution et procede de capture d'images
JPH1132256A (ja) * 1997-07-09 1999-02-02 Sony Corp 撮像装置
JP2000295639A (ja) * 1999-04-08 2000-10-20 Nikon Corp 固体撮像素子検査用照明装置及びそれに用いる調整工具
JP2003319146A (ja) * 2002-04-22 2003-11-07 Pentax Corp フィルムスキャナ
JP2009129364A (ja) * 2007-11-27 2009-06-11 Sony Corp 撮像装置およびその方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62137037A (ja) 1985-12-11 1987-06-19 株式会社東芝 X線撮影装置
JPH052033A (ja) 1990-11-15 1993-01-08 Fujitsu Ltd 電流センサ及びその検出電流範囲の設定方法
JPH05316434A (ja) * 1992-05-12 1993-11-26 Olympus Optical Co Ltd 高分解能撮像装置
JP3422045B2 (ja) * 1993-06-21 2003-06-30 株式会社日立製作所 組成及び格子歪測定用電子顕微鏡及びその観察方法
US5943116A (en) * 1997-04-01 1999-08-24 Johns Hopkins University System for imaging an ocular fundus semi-automatically at high resolution and wide field
JP3975133B2 (ja) 2002-08-26 2007-09-12 株式会社エスアールエル タグ書込装置
US6895076B2 (en) * 2003-06-03 2005-05-17 Ge Medical Systems Global Technology Company, Llc Methods and apparatus for multiple image acquisition on a digital detector
JP4172416B2 (ja) * 2004-04-22 2008-10-29 国立大学法人東京工業大学 超解像処理に適するサブピクセルモーション画像を撮影するための移動決定方法及びそれを用いた撮像装置、並びに移動方向の評価方法
US20070279536A1 (en) * 2006-06-05 2007-12-06 Chinh Tan Arrangement for and method of projecting an image to be viewed over extended viewing range
WO2008137746A1 (en) * 2007-05-04 2008-11-13 Aperio Technologies, Inc. Rapid microscope scanner for volume image acquisition
JP2009129365A (ja) * 2007-11-27 2009-06-11 Sony Corp 撮像装置およびその方法
US7991245B2 (en) * 2009-05-29 2011-08-02 Putman Matthew C Increasing image resolution method employing known background and specimen
JP5497386B2 (ja) * 2009-09-11 2014-05-21 浜松ホトニクス株式会社 画像取得装置
JP5311664B2 (ja) 2009-09-30 2013-10-09 富士フイルム株式会社 検体管理システム、検体管理方法、検体管理プログラム
CN102792151B (zh) * 2010-03-23 2015-11-25 加州理工学院 用于2d和3d成像的超分辨率光流体显微镜
JP2012003214A (ja) * 2010-05-19 2012-01-05 Sony Corp 情報処理装置、情報処理方法、プログラム、撮像装置、及び光学顕微鏡を搭載した撮像装置
US20120092480A1 (en) * 2010-05-28 2012-04-19 Putman Matthew C Unique digital imaging method employing known background
JP5738564B2 (ja) * 2010-09-30 2015-06-24 オリンパス株式会社 画像処理システム
JP2012185384A (ja) * 2011-03-07 2012-09-27 Nikon Corp 撮像装置
US8866063B2 (en) * 2011-03-31 2014-10-21 The Regents Of The University Of California Lens-free wide-field super-resolution imaging device
JP5350532B2 (ja) * 2011-12-27 2013-11-27 キヤノン株式会社 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998030022A1 (fr) * 1996-12-26 1998-07-09 Sony Corporation Dispositif d'acquisition d'images a haute resolution et procede de capture d'images
JPH1132256A (ja) * 1997-07-09 1999-02-02 Sony Corp 撮像装置
JP2000295639A (ja) * 1999-04-08 2000-10-20 Nikon Corp 固体撮像素子検査用照明装置及びそれに用いる調整工具
JP2003319146A (ja) * 2002-04-22 2003-11-07 Pentax Corp フィルムスキャナ
JP2009129364A (ja) * 2007-11-27 2009-06-11 Sony Corp 撮像装置およびその方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017038052A1 (ja) * 2015-08-28 2017-03-09 パナソニックIpマネジメント株式会社 撮像装置、及び固体撮像装置
JPWO2017038052A1 (ja) * 2015-08-28 2018-02-08 パナソニックIpマネジメント株式会社 撮像装置、及び固体撮像装置
US10129494B2 (en) 2015-08-28 2018-11-13 Panasonic Intellectual Property Management Co., Ltd. Imaging device, and solid-state image sensor
KR20190067608A (ko) * 2017-12-07 2019-06-17 삼성전기주식회사 촬상 광학계
KR102472924B1 (ko) * 2017-12-07 2022-12-01 삼성전기주식회사 촬상 광학계

Also Published As

Publication number Publication date
EP3007428A1 (en) 2016-04-13
US9426363B2 (en) 2016-08-23
WO2014196203A1 (ja) 2014-12-11
CN105308949B (zh) 2018-11-09
JPWO2014196203A1 (ja) 2017-02-23
US20150172575A1 (en) 2015-06-18
JP5789766B2 (ja) 2015-10-07
CN105308949A (zh) 2016-02-03
JP6307770B2 (ja) 2018-04-11
EP3007428A4 (en) 2016-05-11

Similar Documents

Publication Publication Date Title
JP6307770B2 (ja) 撮像素子
JP6265153B2 (ja) 撮像素子
US10838192B2 (en) Method and device for high-resolution color imaging using merged images from holographic and lens-based devices
JP5698398B2 (ja) スライド全体蛍光スキャナ
US11482021B2 (en) Adaptive sensing based on depth
JP2021193459A (ja) 二重光学経路および単一撮像センサを使用した低解像度スライド撮像、スライドラベル撮像および高解像度スライド撮像
JP7009619B2 (ja) 2回通過式マクロ画像
US20240085688A1 (en) Accelerating digital microscopy scans using empty/dirty area detection
JP2019505836A (ja) マルチスペクトル軌跡を使用するデジタル撮像のための自動合焦の方法およびシステム
JP2020536271A (ja) 二次元および三次元の固定式z走査
JP6952891B2 (ja) 2×3および1×3スライド用のカルーセル
JP6260871B2 (ja) プレパラート部品セット、プレパラート、プレパラートの作製方法、画像撮影装置、および画像撮影方法
JP2017045431A (ja) 画像出力装置、画像送信装置、画像受信装置、画像出力方法およびプログラム
JP2019045737A (ja) 観察装置
JP2017045430A (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
US20200174242A1 (en) Dual processor image processing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180222

R151 Written notification of patent or utility model registration

Ref document number: 6307770

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250