JP2012254042A - 画像処理装置、プログラム及び画像処理システム - Google Patents

画像処理装置、プログラム及び画像処理システム Download PDF

Info

Publication number
JP2012254042A
JP2012254042A JP2011129350A JP2011129350A JP2012254042A JP 2012254042 A JP2012254042 A JP 2012254042A JP 2011129350 A JP2011129350 A JP 2011129350A JP 2011129350 A JP2011129350 A JP 2011129350A JP 2012254042 A JP2012254042 A JP 2012254042A
Authority
JP
Japan
Prior art keywords
image
candidate
target cell
captured image
rectangular area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011129350A
Other languages
English (en)
Other versions
JP5413408B2 (ja
Inventor
Ryoko Usuba
亮子 薄葉
Noriji Kato
典司 加藤
Yukio Kumazawa
幸夫 熊澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2011129350A priority Critical patent/JP5413408B2/ja
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to BR112013030787A priority patent/BR112013030787A8/pt
Priority to RU2013153508/08A priority patent/RU2595495C2/ru
Priority to CN201180071407.8A priority patent/CN103582697B/zh
Priority to EP11867361.5A priority patent/EP2719754B1/en
Priority to PCT/JP2011/075626 priority patent/WO2012169088A1/ja
Publication of JP2012254042A publication Critical patent/JP2012254042A/ja
Priority to US14/097,500 priority patent/US9363486B2/en
Application granted granted Critical
Publication of JP5413408B2 publication Critical patent/JP5413408B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Abstract

【課題】標的細胞の検体や撮像条件等の差異の影響を受け難くする。
【解決手段】画像処理装置10は、核を有する標的細胞を含む試料を撮像した撮像画像を取得し、撮像画像に含まれる画素の中から、核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出し、抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいてさらに抽出し、抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を撮像画像に設定し、設定した矩形領域から得られる画像特徴量が、標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、矩形領域に標的細胞が含まれるか否かを判定する。
【選択図】図1

Description

本発明は、画像処理装置、プログラム及び画像処理システムに関する。
出生前の胎児の診断を行う場合に、母胎血中に極微量に含まれる胎児由来の有核赤血球(NRBCs、以下標的細胞)を検出し、利用することが行われている。母胎血中に存在するNRBCsの数は極めて少ないため、NRBCsを目視により検出するのは負担が大きい。そこで、下記の特許文献1に記載されているように、NRBCsの色、形状、位置関係、面積比等の条件に合致する細胞を対象画像から探索することにより、NRBCsを機械的に検出する技術が提案されている。
特許第4346923号公報
本発明の目的は、核を有する標的細胞を撮像した撮像画像から画像処理によって標的細胞を探索する場合に、標的細胞の検体ごとの差異や撮像条件等の差異の影響を受け難くすることができる画像処理装置及びプログラムを提供することにある。
上記目的を達成するために、請求項1に記載の発明は、核を有する標的細胞を含む試料を撮像した撮像画像を取得する取得手段と、前記撮像画像に含まれる画素の中から、前記核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出する第1抽出手段と、前記第1抽出手段により抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、前記標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいて抽出する第2抽出手段と、前記第2抽出手段により抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を前記撮像画像に設定する設定手段と、前記設定手段により設定した矩形領域から得られる画像特徴量が、前記標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する判定手段と、を含むことを特徴とする画像処理装置である。
また、請求項2に記載の発明は、前記設定手段により設定した矩形領域の中心と、当該矩形領域に含まれる前記連結画素群の重心とを結ぶベクトルが予め定められた方向を向くように前記矩形領域に含まれる前記撮像画像を回転させた後に、当該回転させた前記撮像画像から画像特徴量を取得する画像特徴量取得手段をさらに含み、前記判定手段は、前記画像特徴量取得手段により取得された画像特徴量が、前記画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定することを特徴とする請求項1に記載の画像処理装置である。
また、請求項3に記載の発明は、前記設定手段により設定される矩形領域に前記撮像画像の端が含まれる場合に、当該矩形領域に含まれる画像のうち、当該矩形領域に含まれる前記連結画素群内に設定した中心線に対して前記端と対称の領域よりも前記中心線に対して外側にある画像を前記端側に結合して補間する補間手段をさらに含むことを特徴とする請求項1又は2に記載の画像処理装置である。
また、請求項4に記載の発明は、前記判定手段により標的細胞が含まれると判定された矩形領域に対応する前記撮像画像の座標領域を表示装置に表示させることを特徴とする請求項1乃至3のいずれかに記載の画像処理装置である。
また、請求項5に記載の発明は、核を有する標的細胞を含む試料を撮像した撮像画像を取得する取得手段と、前記撮像画像に含まれる画素の中から、前記核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出する第1抽出手段と、前記第1抽出手段により抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、前記標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいて抽出する第2抽出手段と、前記第2抽出手段により抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を前記撮像画像に設定する設定手段と、前記設定手段により設定した矩形領域から得られる画像特徴量が、前記標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する判定手段としてコンピュータを機能させるためのプログラムである。
また、請求項6に記載の発明は、画像処理装置と、当該画像処理装置と接続される光学顕微鏡と、当該画像処理装置と接続される表示装置とを含み、前記画像処理装置は、核を有する標的細胞を含む試料を撮像した撮像画像を取得する取得手段と、前記撮像画像に含まれる画素の中から、前記核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出する第1抽出手段と、前記第1抽出手段により抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、前記標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいて抽出する第2抽出手段と、前記第2抽出手段により抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を前記撮像画像に設定する設定手段と、前記設定手段により設定した矩形領域から得られる画像特徴量が、前記標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する判定手段と、を含むことを特徴とする画像処理システムである。
請求項1、5及び6に記載の発明によれば、本構成を有しない場合と比較して、核を有する標的細胞を撮像した撮像画像から画像処理によって標的細胞を探索する場合に、標的細胞の検体ごとの差異や撮像条件等の差異の影響を受け難くすることができる。
請求項2に記載の発明によれば、矩形領域内の画像を一定の向きに合わせてから取得した画像特徴量を用いることにより、本構成を有しない場合と比較して、矩形領域内の画像が標的細胞であるか否かを精度良く判定できる。
請求項3に記載の発明によれば、本構成を有しない場合と比較して、撮像画像の端に設定された矩形領域からも、矩形領域内の画像が標的細胞であるか否かを精度良く判定できる。
請求項4に記載の発明によれば、核を有する標的細胞を撮像した撮像画像のうち、標的細胞が含まれる画像領域を表示させることができる。
本実施形態に係る画像処理システムのシステム構成図である。 画像処理装置の機能ブロック図である。 試料(母胎血)を光学顕微鏡で撮像した撮像画像の一例を示す図である。 核候補の画素の一例を示す図である。 標的細胞の候補として抽出された画素群の一例を示す図である。 撮像画像に設定された判定対象領域の一例を示す図である。 正規化部による処理の流れを説明した図である。 画像補間部による処理の流れを説明した図である。 HOG特徴量を説明する図である。 標的細胞の正例及び負例に基づいて行われる画像特徴量の学習処理のフローチャートである。 光学顕微鏡による試料(母胎血)の撮像画像から標的細胞を探索する処理のフローチャートである。 光学顕微鏡による試料(母胎血)の撮像画像から標的細胞を探索する処理のフローチャートである。 画像補間処理のフローチャートである。
以下、本発明を実施するための実施の形態(以下、実施形態という)を、図面に従って説明する。
図1には、本実施形態に係る画像処理システム1のシステム構成図を示す。図1に示されるように、画像処理システム1は、光学顕微鏡2、画像処理装置10、表示装置6を含み、画像処理装置10は光学顕微鏡2と表示装置6の各々とデータ通信可能に接続されている。
光学顕微鏡2は、試料台に配置されたスライドグラス3上の試料を、対物レンズ4等の光学系を介してCCDカメラ5で撮像する。本実施形態では、試料には、母体血をスライドグラス3に塗布し、メイ・ギムザ染色を施したものを用いる。これにより、母体血中の胎児由来有核赤血球(NRBCs)が青紫色に染色される。以下、NRBCsを標的細胞と称する。
画像処理装置10は、光学顕微鏡2で撮像された撮像画像を取得するとともに、当該取得した撮像画像の中から標的細胞を探索する。画像処理装置10において行われる標的細胞の探索処理の詳細については後述する。
表示装置6は、画像処理装置10による処理の結果に基づいて画面を表示する。例えば、表示装置6には、光学顕微鏡2で撮像された撮像画像や、画像処理装置10による標的細胞の探索結果等が表示される。
図2には、画像処理装置10の機能ブロック図を示した。図2に示されるように、画像処理装置10は、撮像画像取得部12、前処理部14、核候補領域抽出部16、標的細胞候補領域抽出部18、判定対象領域設定部20、正規化部22、画像補間部24、特徴量演算部26、学習データ取得部28、学習部30、判定部32、標的細胞領域記憶部34、及び結果出力部36を備える。
画像処理装置10に備えられた上記の各部の機能は、CPU等の制御手段、メモリ等の記憶手段、外部デバイスとデータを送受信する入出力手段等を備えたコンピュータが、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等の情報記憶媒体によってコンピュータたる画像処理装置10に供給されることとしてもよいし、インターネット等のデータ通信網を介して画像処理装置10に供給されることとしてもよい。
撮像画像取得部12は、光学顕微鏡2に備えられたCCDカメラ5より試料を撮像した撮像画像を光学顕微鏡2から取得する。
図3には、撮像画像取得部12により取得された、試料(母胎血)を光学顕微鏡2で撮像した撮像画像の一例を示した。図3に示される撮像画像において、濃く着色された核を有する細胞が標的細胞である。なお、標的細胞(NRBCs)は、以下の4つの特徴を有している(多量な顕微鏡画像からの有核赤血球の自動抽出、画像電子学会誌、Vol.37 No.5 2008年9月を参照)。NRBCsの第1の特徴は、NRBCsには1個の核が存在し、核の形状は真円に近く、密度が高いという点である。第2の特徴は、NRBCsの核はメイ・ギムザ染色により他の細胞の核よりもわずかに濃く染色される点である。第3の特徴は、NRBCsの面積とその核の面積、及びその比率は特定の範囲内に収まるという点である。そして、第4の特徴は、NRBCsは核と細胞質の濃度差が他の細胞に比べてわずかに大きいという点である。
前処理部14は、撮像画像取得部12により取得された撮像画像にヒストグラム正規化、主成分分析による色合わせ、平均値フィルタ、メディアンフィルター等の画像処理を施して、撮像画像の色の正規化やノイズ除去を行う。
核候補領域抽出部16は、前処理部14によりノイズが除去された撮像画像に対して、色又は濃度が予め定められた範囲内にある画素を、核の候補領域として抽出する。例えば、核候補領域抽出部16は、撮像画像内の画素を、予め定められた色(又は濃度)の閾値により二値化することとしてよく、具体的には、色(又は濃度)が閾値よりも(又は閾値以上)濃い画素を黒画素として抽出することとしてよい。
図4には、図3に示された撮像画像に対して、核候補領域抽出部16により抽出された核候補の画素の一例を示した。図4に示されるように、核候補領域抽出部16による処理により、撮像画像の中から核の候補となる領域(画素)が抽出される。
標的細胞候補領域抽出部18は、核候補領域抽出部16により抽出された核の候補となる画素のうち隣り合う画素をそれぞれ連結した連結画素群の中から、大きさ及び形状が予め定められた条件を満足する連結画素群を標的細胞の候補となる画素群(標的細胞候補領域)として抽出する。例えば、標的細胞候補領域抽出部18は、核候補領域抽出部16により抽出された核候補の画素(黒画素)を連結した連結画素群をラベリングし(連結画素群1〜n)、連結画素群i(i=1〜n)のそれぞれについて外接矩形を設定する。そして、標的細胞候補領域抽出部18は、設定した外接矩形の縦と横の長さ、縦と横の長さの比、外接矩形内の黒画素密度が、それぞれの値について予め定められた範囲にある連結画素群を標的細胞の候補として抽出する。
図5には、図4に示された核候補の画素から標的細胞の候補として抽出された画素群の一例を示した。図5に示されるように、標的細胞候補領域抽出部18による処理により、核候補の中からさらに標的細胞における核の可能性がある画像領域が抽出される。
判定対象領域設定部20は、標的細胞候補領域抽出部18により抽出された連結画素群に設定された矩形領域(候補矩形領域)の画素を中心とした所与のサイズ(例えばN×M画素)の矩形領域(判定対象矩形領域)を撮像画像に設定する。例えば、判定対象領域設定部20は、候補矩形領域の中から1画素を選択し、当該選択した1画素の位置座標に基づいて撮像画像における対応画素を特定し、当該特定した対応画素を中心とした所与のサイズの判定対象矩形領域を設定する。なお、判定対象領域設定部20は、候補矩形領域の中から1画素を順次選択し、選択した画素ごとに判定対象領域を設定することとしてよい。
図6には、判定対象領域設定部20により撮像画像に設定された判定対象領域の一例を示した。図6に示されるように、候補矩形領域の1画素を中心として判定対象領域が設定される。
正規化部22は、判定対象領域設定部20により設定された判定対象領域内の画像の向きが予め定められた向きとなるように回転させる処理を行う。例えば、正規化部22は、判定対象領域内の二値化画像の重心位置を求め、判定対象領域の中心位置と上記求めた重心位置とを結ぶ方位ベクトルが、予め定められた方位(例えば上向き)を向くのに要する回転角度を演算する。そして、正規化部22は、上記演算された回転角度で、判定対象領域内の画像(撮像画像の部分画像)を回転させる。なお、正規化部22による処理は、必ずしも実行しなくともよい。
図7には、正規化部22による処理の流れを説明した図を示した。図7(A)は撮像画像に設定された判定対象領域であり、図7(B)は判定対象領域内の二値化画像である。そして、図7(B)の方位ベクトルが上に向くのに必要な回転角度θで、図7(A)に示される撮像画像を回転させて判定対象領域で切り取った画像が図7(C)である。
画像補間部24は、判定対象領域設定部20により設定された判定対象領域内に、撮像画像の端が含まれている場合に、判定対象領域内の画像を補間する。例えば、画像補間部24は、判定対象領域を予め定められたサイズ(2M×2M)となるように拡張した後に、当該拡張した判定対象領域に含まれる二値化画像のうち撮像画像の端と平行な線分のうち最長の部分を中心線に設定する。そして、画像補間部24は、設定した中心線から撮像画像の端までの距離Lを求め、拡張した領域において中心線に対して撮像画像の端と対向する端から、中心線と垂直に(M−L)画素、中心線と平行の2M画素からなる部分領域を中心線に対して線対称の位置に移動して、判定対象領域内の画像を補間する。
図8には、画像補間部24による処理の流れを説明した図を示した。図8(A)は判定対象領域設定部20により設定された判定対象領域の例であり、図8(A)に示されるように判定対象領域には撮像画像の端が含まれている。このとき、画像補間部24は、図8(B)に示されるように、判定対象領域が2M×2Mとなるように拡張した後に、判定対象領域内の二値化画像のうち撮像画像の端と平行であって最も長い線分の位置を中心線として設定する。次に、画像補間部24は、中心線と撮像画像の端との長さLを求め(図8(C)参照)、拡張した判定対称領域において中心線に対して撮像画像の端と対向する端から、中心線と垂直に(M−L)画素、中心線と平行の2M画素からなる部分領域を中心線に対して線対称の位置に移動し結合した図が図8(D)である。なお、結合する部分領域は中心線に対して反転させることとしてよい。
特徴量演算部26は、判定対象領域設定部20により設定された判定対象領域内の画像(正規化処理部による正規化後の画像であることが好ましいが正規化処理をしていない画像でもよい)についての画像特徴量を演算する。例えば、画像特徴量には、HOG特徴量を用いることとしてよい。
図9には、特徴量演算部26により演算されるHOG特徴量を説明する図を示した。図9(A)に示されるように、判定対象領域を予め定められた数(例えば4×4)の部分領域に分割し、各部分領域内の各画素において輝度勾配の方向を算出し、算出した輝度勾配方向のヒストグラムを各部分領域に対して計算し、各領域のヒストグラムを連結することによりHOG特徴量を算出する。図9(B)に示されるように、輝度勾配方向は例えば8方向(上、右上、右下、右、下、左下、左、左上)としてよい。
学習データ取得部28は、標的細胞の正例と負例の標本画像を取得し、当該取得した正例と負例の標本画像のそれぞれについての画像特徴量を取得する。例えば、学習データ取得部28は、標本画像について特徴量演算部26によりHOG特徴量を演算し、その結果を得ることとしてもよい。
学習部30は、学習データ取得部28により得た正例と負例のそれぞれの画像特徴量に基づいて、標的細胞とそれ以外とを識別する画像特徴量の条件(基準)を学習する。なお、学習は、サポートベクターマシン(Support Vector Machine)、アダブースト(AdaBoost)等の学習アルゴリズムを用いて行うこととしてよい。例えば、学習にサポートベクターマシンを用いた場合には、学習される画像特徴量の条件は、標的細胞に合致する画像特徴量と、合致しない画像特徴量とを分離する超平面により表される。
判定部32は、判定対象領域設定部20により設定された判定対象領域内の画像について特徴量演算部26により演算された画像特徴量が、学習部30により学習された標的細胞とそれ以外とを識別する画像特徴量の条件を満たすか否かに基づいて、上記判定対称領域内の画像が標的細胞を表すか否かを判定する。
標的細胞領域記憶部34は、判定部32により標的細胞を含むと判定された判定対象領域に対応する撮像画像中の座標範囲を記憶する。なお、標的細胞領域記憶部34には、標的細胞を含むと判定された複数の判定対象領域が重なった部分を標的細胞の存在領域として記憶するようにしてもよい。
結果出力部36は、標的細胞領域記憶部34に記憶された撮像画像の座標範囲に基づく結果を出力する。例えば、結果出力部36は、標的細胞領域記憶部34に記憶された撮像画像の座標範囲を表示する画像を表示装置6に表示させたり、当該座標範囲に光学顕微鏡2の撮像位置を移動させたりする処理を行うこととしてよい。
次に、画像処理装置10において行われる処理の流れの一例を、図10、図11A、図11B、及び図12に示したフローチャートを参照しながら説明する。
図10には、標的細胞の正例及び負例に基づいて行われる画像特徴量の学習処理のフローチャートを示した。
画像処理装置10は、標的細胞の正例画像を取得し(S101)、取得した正例画像から画像特徴量(HOG特徴量)を算出して正例の学習データを生成する(S102)。
次に、画像処理装置10は、標的細胞の負例画像を取得し(S103)、取得した負例画像から画像特徴量(HOG特徴量)を算出して負例の学習データを生成する(S104)。
画像処理装置10は、正例の学習データと、負例の学習データとに基づいて、標的細胞の画像特徴量を識別する識別器の状態(モデルパラメータ)を学習し(S105)、学習したモデルパラメータを記憶して(S106)、学習処理を終了する。
次に、光学顕微鏡2による試料(母胎血)の撮像画像から標的細胞を探索する処理について、図11A及び図11Bに示されたフローチャートを参照しながら説明する。
図11Aに示されるように、画像処理装置10は、光学顕微鏡2により母体血を撮像した撮像画像を取得し(S201)、取得した撮像画像にメディアンフィルター等の前処理を施す(S202)。そして、画像処理装置10は、前処理を施した撮像画像について色(例えばRGB値)が予め定められた範囲にある画素を1(黒画素)、それ以外を0(白画素)とした二値化画像を生成する(S203)。ここで、二値化画像における黒画素は核の候補領域を示している。
画像処理装置10は、二値化画像における黒画素のうち隣り合う画素同士を連結して連結画素群を生成し、連結画素群のラベリングを行う(S204)。
画像処理装置10は、ラベリングした連結画素群のうち1つを選択し(S205、ここで選択した連結画素群をLi、iの初期値=1とする)、Liについて設定した外接矩形のサイズ及び形状が、標的細胞の候補として満たすべき条件を満足するか否かを判定する(S206)。S206で条件を満足すると判定された場合には(S206:Y)、Liを標的細胞の探索対象領域として設定し(S207)、S206で条件を満足しないと判定された場合には(S206:N)、Liを標的細胞の探索対象領域に設定しない(S208)。画像処理装置10は、未選択の連結画素群が残っている場合には(S209:Y)、iをインクリメントして(S210)、S206に戻り、未選択の連結画素群が残っていない場合には(S209:N)、S211に進む。
図11Bに示されるように、画像処理装置10は、上記設定された探索対象領域(A1〜Am)のうち1つを選択し(S211、ここで選択した探索対象領域Aj、jの初期値=1とする)、さらにAjの外接矩形内の画素のうち未選択の1画素を選択する(S212)。そして、画像処理装置10は、上記選択した画素を中心とした所与のサイズの矩形領域(判定対象領域:サイズS、Sの初期値=Smin)を撮像画像に設定し(S213)、当該設定した判定対象領域の画像の向きを正規化する(S214)とともに、当該判定対象領域の中心から撮像画像の端までの距離が閾値未満である場合(すなわち、判定対象領域が撮像画像の端で切れている場合)には画像補間処理を行う(S215)。この画像補間処理のフローの詳細については後述する。
画像処理装置10は、上記処理の後に、上記設定した判定対象領域に含まれる画像の画像特徴量を算出し(S216)、算出した画像特徴量と、予め学習された標的細胞の画像特徴量を識別する識別器のモデルパラメータに基づいて、判定対象領域に標的細胞が含まれるか否かを判定し(S217)、標的細胞が含まれていると判定される場合には(S217:Y)、判定対象領域に対応する撮像画像の座標範囲を記憶する(S218)。S218の後、及びS217で標的細胞が含まれていないと判定された場合(S217:N)において、Ajの外接矩形内の画素に未処理の画素が残っているときには(S219:Y)、S212に戻り、未処理の画素が残っていないときには(S219:N)、判定対象領域のサイズSがSmax(>Smin)に達しているか否かを判定する(S220)。ここで、判定対象領域のサイズSがSmaxに達していない場合には(S220:N)、SをΔSだけ大きくして(S221)、S213に戻り、判定対象領域のサイズSがSmaxに達している場合には(S220:Y)、S222に進む。
画像処理装置10は、全ての探索対象領域を処理していない場合には(S222:N)、Ajのjをインクリメントして(S223)、S212に戻り、全ての探索対象領域を処理した場合には(S222:Y)、標的細胞が含まれると判定された撮像画像の座標範囲を表示して(S224)、処理を終了する。
次に、S215に示した画像補間処理の流れについて、図12に示されたフローチャートを参照しながら説明する。
画像処理装置10は、判定対象領域の中心から撮像画像の端までの距離(d)が閾値(M)以上でない場合には(S301:N)、撮像画像の端に合わせて一辺の長さがM×M画素となるように領域を拡張し(S302)、拡張した領域に含まれる二値化画像のうち撮像画像の端と平行な線分のうち最長の部分を中心線に設定する(S303)。
画像処理装置10は、設定した中心線から撮像画像の端までの距離Lを求め(S304)、拡張した領域において中心線に対して撮像画像の端と対向する端から、中心線と垂直の(M−L)画素×中心線と平行の2M画素からなる部分領域を中心線から線対称の位置に移動して、判定対象領域内の画像を補間する(S305)。S305の後、及び判定対象領域の中心から撮像画像の端までの距離(d)が閾値(M)以上でない場合には(S301:Y)、リターンする。
以上説明した、本実施形態に係る画像処理システム1によれば、母体血中に含まれるNRBCs(標的細胞)の候補を色又は濃度で第1の絞り込みを行い、さらに第1の絞り込みで得られた候補をNRBCsのサイズ、形状で第2の絞り込みを行った結果に基づいて判定対象領域を設定し、その判定対象領域から得た画像特徴量をNRBCsの正例及び負例に基づいて学習した基準と比較して判定対象領域内にNRBCsが含まれているかを判定するようにしたことで、細胞の候補1つ1つにパターンマッチングを行う場合に比べて、母体血中に含まれるNRBCsを検出する処理の負荷を軽減しつつも、母体血の検体ごとの差異や撮像条件等の差異の影響を受け難くなる。
本発明は上記の実施形態に限定されるものではない。例えば、上記の実施形態では、光学顕微鏡2から試料の撮像画像を順次入力される画像処理システム1の例を示したが、画像処理装置10が通信網を介して情報処理装置から撮像画像内の標的細胞の探索要求を受け付けて、その探索結果を情報処理装置に返すようにしてもよい。
1 画像処理システム、2 光学顕微鏡、3 スライドグラス、4 対物レンズ、5 CCDカメラ、6 表示装置、10 画像処理装置、12 撮像画像取得部、14 前処理部、16 核候補領域抽出部、18 標的細胞候補領域抽出部、20 判定対象領域設定部、22 正規化部、24 画像補間部、26 特徴量演算部、28 学習データ取得部、30 学習部、32 判定部、34 標的細胞領域記憶部、36 結果出力部。

Claims (6)

  1. 核を有する標的細胞を含む試料を撮像した撮像画像を取得する取得手段と、
    前記撮像画像に含まれる画素の中から、前記核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出する第1抽出手段と、
    前記第1抽出手段により抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、前記標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいて抽出する第2抽出手段と、
    前記第2抽出手段により抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を前記撮像画像に設定する設定手段と、
    前記設定手段により設定した矩形領域から得られる画像特徴量が、前記標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する判定手段と、
    を含むことを特徴とする画像処理装置。
  2. 前記設定手段により設定した矩形領域の中心と、当該矩形領域に含まれる前記連結画素群の重心とを結ぶベクトルが予め定められた方向を向くように前記矩形領域に含まれる前記撮像画像を回転させた後に、当該回転させた前記撮像画像から画像特徴量を取得する画像特徴量取得手段をさらに含み、
    前記判定手段は、前記画像特徴量取得手段により取得された画像特徴量が、前記画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記設定手段により設定される矩形領域に前記撮像画像の端が含まれる場合に、当該矩形領域に含まれる画像のうち、当該矩形領域に含まれる前記連結画素群内に設定した中心線に対して前記端と対称の領域よりも前記中心線に対して外側にある画像を前記端側に結合して補間する補間手段をさらに含む
    ことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記判定手段により標的細胞が含まれると判定された矩形領域に対応する前記撮像画像の座標領域を表示装置に表示させる
    ことを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
  5. 核を有する標的細胞を含む試料を撮像した撮像画像を取得する取得手段と、
    前記撮像画像に含まれる画素の中から、前記核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出する第1抽出手段と、
    前記第1抽出手段により抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、前記標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいて抽出する第2抽出手段と、
    前記第2抽出手段により抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を前記撮像画像に設定する設定手段と、
    前記設定手段により設定した矩形領域から得られる画像特徴量が、前記標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する判定手段
    としてコンピュータを機能させるためのプログラム。
  6. 画像処理装置と、当該画像処理装置と接続される光学顕微鏡と、当該画像処理装置と接続される表示装置とを含み、
    前記画像処理装置は、
    核を有する標的細胞を含む試料を撮像した撮像画像を取得する取得手段と、
    前記撮像画像に含まれる画素の中から、前記核の候補となる画素を、当該候補となる画素が有すべき色又は輝度の少なくとも一方について予め定められた第1の条件に基づいて抽出する第1抽出手段と、
    前記第1抽出手段により抽出された画素について隣り合う画素をそれぞれ連結した連結画素群の中から、前記標的細胞の候補となる連結画素群を、当該候補となる連結画素群が有すべき大きさ及び形状について予め定められた第2の条件に基づいて抽出する第2抽出手段と、
    前記第2抽出手段により抽出された連結画素群に含まれる画素を中心とする所与の大きさの矩形領域を前記撮像画像に設定する設定手段と、
    前記設定手段により設定した矩形領域から得られる画像特徴量が、前記標的細胞の正例及び負例の標本画像に基づいて機械学習された画像特徴量の条件を満足するか否かに基づいて、前記矩形領域に前記標的細胞が含まれるか否かを判定する判定手段と、
    を含むことを特徴とする画像処理システム。
JP2011129350A 2011-06-09 2011-06-09 画像処理装置、プログラム及び画像処理システム Active JP5413408B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2011129350A JP5413408B2 (ja) 2011-06-09 2011-06-09 画像処理装置、プログラム及び画像処理システム
RU2013153508/08A RU2595495C2 (ru) 2011-06-09 2011-11-07 Устройство обработки изображений, способ обработки изображений и система обработки изображений
CN201180071407.8A CN103582697B (zh) 2011-06-09 2011-11-07 图像处理装置、图像处理方法和图像处理系统
EP11867361.5A EP2719754B1 (en) 2011-06-09 2011-11-07 Image processing apparatus, image processing method and image processing system
BR112013030787A BR112013030787A8 (pt) 2011-06-09 2011-11-07 Dispositivo de processamento de imagem, método de processamento de imagem, e, sistema de processamento de imagem
PCT/JP2011/075626 WO2012169088A1 (ja) 2011-06-09 2011-11-07 画像処理装置、画像処理方法及び画像処理システム
US14/097,500 US9363486B2 (en) 2011-06-09 2013-12-05 Image processing device, image processing method, and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011129350A JP5413408B2 (ja) 2011-06-09 2011-06-09 画像処理装置、プログラム及び画像処理システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2013162410A Division JP5861678B2 (ja) 2013-08-05 2013-08-05 画像処理装置、プログラム及び画像処理システム

Publications (2)

Publication Number Publication Date
JP2012254042A true JP2012254042A (ja) 2012-12-27
JP5413408B2 JP5413408B2 (ja) 2014-02-12

Family

ID=47295683

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011129350A Active JP5413408B2 (ja) 2011-06-09 2011-06-09 画像処理装置、プログラム及び画像処理システム

Country Status (7)

Country Link
US (1) US9363486B2 (ja)
EP (1) EP2719754B1 (ja)
JP (1) JP5413408B2 (ja)
CN (1) CN103582697B (ja)
BR (1) BR112013030787A8 (ja)
RU (1) RU2595495C2 (ja)
WO (1) WO2012169088A1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014192182A1 (ja) 2013-05-31 2014-12-04 富士ゼロックス株式会社 画像処理装置、プログラム、記憶媒体及び画像処理方法
WO2014192184A1 (ja) * 2013-05-31 2014-12-04 富士ゼロックス株式会社 画像処理装置、画像処理方法、プログラム、及び記憶媒体
WO2015008682A1 (ja) * 2013-07-19 2015-01-22 ソニー株式会社 細胞評価装置および方法、並びにプログラム
WO2015098177A1 (ja) 2013-12-27 2015-07-02 富士ゼロックス株式会社 画像処理装置、プログラム、情報記憶媒体、及び画像処理方法
WO2015098199A1 (ja) 2013-12-27 2015-07-02 富士ゼロックス株式会社 画像処理装置、プログラム、記憶媒体、及び画像処理方法
JP2015127912A (ja) * 2013-12-27 2015-07-09 大日本印刷株式会社 培地情報登録システム、コロニー検出装置、プログラム及び衛生管理システム
WO2016021310A1 (ja) * 2014-08-05 2016-02-11 富士フイルム株式会社 胎児の染色体の検査方法
WO2020026349A1 (ja) * 2018-07-31 2020-02-06 オリンパス株式会社 画像診断支援システムおよび画像診断支援装置
JP7434008B2 (ja) 2019-04-01 2024-02-20 キヤノンメディカルシステムズ株式会社 医用画像処理装置およびプログラム

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5333635B1 (ja) 2012-08-23 2013-11-06 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム
JP6197659B2 (ja) * 2014-01-20 2017-09-20 富士ゼロックス株式会社 検出制御装置、プログラム及び検出システム
WO2018068511A1 (zh) * 2016-10-10 2018-04-19 深圳市瀚海基因生物科技有限公司 基因测序的图像处理方法及系统
US10467749B2 (en) 2016-10-10 2019-11-05 Genemind Biosciences Company Limited Method and system for processing an image comprising spots in nucleic acid sequencing
CN110869485A (zh) * 2017-06-26 2020-03-06 奥林巴斯株式会社 细胞观察系统
JP6928653B2 (ja) 2017-06-26 2021-09-01 オリンパス株式会社 細胞観察システム
CN107543788A (zh) * 2017-08-15 2018-01-05 焦作市人民医院 一种尿红细胞畸形率检测方法及系统
JP6627069B2 (ja) * 2018-06-01 2020-01-08 株式会社フロンティアファーマ 画像処理方法、薬剤感受性試験方法および画像処理装置
WO2020037573A1 (zh) 2018-08-22 2020-02-27 深圳市真迈生物科技有限公司 检测图像上的亮斑的方法、装置和计算机程序产品
WO2020037574A1 (zh) 2018-08-22 2020-02-27 深圳市真迈生物科技有限公司 基于图像构建测序模板的方法、碱基识别方法和装置
US11481957B2 (en) * 2019-04-01 2022-10-25 Canon Medical Systems Corporation Medical image processing apparatus and storage medium

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0696192A (ja) * 1992-09-10 1994-04-08 Sumitomo Metal Ind Ltd 核抽出方法
JP2004248619A (ja) * 2003-02-21 2004-09-09 Haruo Takabayashi 標的細胞自動探索システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10185911A (ja) 1996-10-23 1998-07-14 K O Denshi Kogyo Kk 細胞解析装置及びその方法
US6169816B1 (en) * 1997-05-14 2001-01-02 Applied Imaging, Inc. Identification of objects of interest using multiple illumination schemes and finding overlap of features in corresponding multiple images
JP2002541438A (ja) * 1999-02-18 2002-12-03 バイオ−ヴィユー リミテッド 混合細胞個体群内の希少な細胞型の同定及び分析用システム及び方法
JP3915033B2 (ja) 2003-05-15 2007-05-16 株式会社テクノホロン ステレオ光学系を用いた測定方法及び測定装置
JP5245424B2 (ja) 2008-01-25 2013-07-24 日本電気株式会社 病理組織画像撮影システム、病理組織画像撮影方法、および病理組織画像撮影プログラム
JP5380026B2 (ja) * 2008-09-24 2014-01-08 シスメックス株式会社 標本撮像装置
RU2385494C1 (ru) * 2008-10-22 2010-03-27 Государственное образовательное учреждение высшего профессионального образования Московский инженерно-физический институт (государственный университет) Способ распознавания изображения текстуры клеток
JP5783043B2 (ja) 2009-06-12 2015-09-24 株式会社ニコン 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
JPWO2010146802A1 (ja) 2009-06-19 2012-11-29 株式会社ニコン 細胞塊の状態判別方法、この方法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
JPWO2011013319A1 (ja) 2009-07-31 2013-01-07 株式会社ニコン 細胞塊の成熟判定手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2011016189A1 (ja) 2009-08-07 2011-02-10 株式会社ニコン 細胞の分類手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0696192A (ja) * 1992-09-10 1994-04-08 Sumitomo Metal Ind Ltd 核抽出方法
JP2004248619A (ja) * 2003-02-21 2004-09-09 Haruo Takabayashi 標的細胞自動探索システム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN6013011415; 映像情報メディア学会技術報告 Vol.33, No.34, 20090827, p.1-2 *
JPN6013011416; 画像電子学会誌 Vol.40, No.1, 20110125, p.67-73 *

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150356342A1 (en) * 2013-05-31 2015-12-10 Fuji Xerox Co., Ltd. Image processing apparatus, image processing method, and storage medium
WO2014192184A1 (ja) * 2013-05-31 2014-12-04 富士ゼロックス株式会社 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP2014235494A (ja) * 2013-05-31 2014-12-15 富士ゼロックス株式会社 画像処理装置及びプログラム
JP2014235033A (ja) * 2013-05-31 2014-12-15 富士ゼロックス株式会社 画像処理装置及びプログラム
US10395091B2 (en) 2013-05-31 2019-08-27 Fujifilm Corporation Image processing apparatus, image processing method, and storage medium identifying cell candidate area
WO2014192182A1 (ja) 2013-05-31 2014-12-04 富士ゼロックス株式会社 画像処理装置、プログラム、記憶媒体及び画像処理方法
CN105121620A (zh) * 2013-05-31 2015-12-02 富士施乐株式会社 图像处理设备、图像处理方法、程序和存储介质
US9858662B2 (en) 2013-05-31 2018-01-02 Fuji Xerox Co., Ltd. Image processing device, computer storage medium, and method for detecting and displaying nucleated target cells
WO2015008682A1 (ja) * 2013-07-19 2015-01-22 ソニー株式会社 細胞評価装置および方法、並びにプログラム
US10157459B2 (en) 2013-07-19 2018-12-18 Sony Corporation Cell evaluation apparatus and method to search for an area to be observed in cardiomyocytes
CN105378052B (zh) * 2013-07-19 2018-04-24 索尼公司 细胞评估装置和方法以及程序
CN105378052A (zh) * 2013-07-19 2016-03-02 索尼公司 细胞评估装置和方法以及程序
JPWO2015008682A1 (ja) * 2013-07-19 2017-03-02 ソニー株式会社 細胞評価装置および方法、並びにプログラム
US10146042B2 (en) 2013-12-27 2018-12-04 Fujifilm Corporation Image processing apparatus, storage medium, and image processing method
JP2015127912A (ja) * 2013-12-27 2015-07-09 大日本印刷株式会社 培地情報登録システム、コロニー検出装置、プログラム及び衛生管理システム
WO2015098199A1 (ja) 2013-12-27 2015-07-02 富士ゼロックス株式会社 画像処理装置、プログラム、記憶媒体、及び画像処理方法
US10169861B2 (en) 2013-12-27 2019-01-01 Fujifilm Corporation Image processing apparatus, non-transitory computer readable medium, and image processing method
WO2015098177A1 (ja) 2013-12-27 2015-07-02 富士ゼロックス株式会社 画像処理装置、プログラム、情報記憶媒体、及び画像処理方法
WO2016021310A1 (ja) * 2014-08-05 2016-02-11 富士フイルム株式会社 胎児の染色体の検査方法
WO2020026349A1 (ja) * 2018-07-31 2020-02-06 オリンパス株式会社 画像診断支援システムおよび画像診断支援装置
JPWO2020026349A1 (ja) * 2018-07-31 2021-04-08 オリンパス株式会社 画像診断支援システムおよび画像診断支援方法
US11488311B2 (en) 2018-07-31 2022-11-01 Olympus Corporation Diagnostic imaging support system and diagnostic imaging apparatus
JP7434008B2 (ja) 2019-04-01 2024-02-20 キヤノンメディカルシステムズ株式会社 医用画像処理装置およびプログラム

Also Published As

Publication number Publication date
RU2013153508A (ru) 2015-07-20
CN103582697B (zh) 2017-04-05
WO2012169088A1 (ja) 2012-12-13
BR112013030787A2 (pt) 2016-09-06
CN103582697A (zh) 2014-02-12
EP2719754A1 (en) 2014-04-16
US20140092228A1 (en) 2014-04-03
JP5413408B2 (ja) 2014-02-12
EP2719754B1 (en) 2021-06-23
US9363486B2 (en) 2016-06-07
EP2719754A4 (en) 2015-01-14
RU2595495C2 (ru) 2016-08-27
BR112013030787A8 (pt) 2017-12-19

Similar Documents

Publication Publication Date Title
JP5413408B2 (ja) 画像処理装置、プログラム及び画像処理システム
JP5333570B2 (ja) 画像処理装置、プログラム及び画像処理システム
US9934571B2 (en) Image processing device, program, image processing method, computer-readable medium, and image processing system
US9704017B2 (en) Image processing device, program, image processing method, computer-readable medium, and image processing system
US9684958B2 (en) Image processing device, program, image processing method, computer-readable medium, and image processing system
EP3124967B1 (en) Image-processing device and image-processing program
US20160189378A1 (en) Image processing apparatus, non-transitory computer readable medium, and image processing method
EP3006551B1 (en) Image processing device, image processing method, program, and storage medium
JP5861678B2 (ja) 画像処理装置、プログラム及び画像処理システム
JP5907125B2 (ja) 画像処理装置、プログラム及び画像処理システム
US10146042B2 (en) Image processing apparatus, storage medium, and image processing method
CN112258453B (zh) 一种工业故障巡检机器人定位地标检测方法
JP5292886B2 (ja) 画像解析装置、その方法、プログラムおよび記録媒体
CN113066121A (zh) 图像分析系统和识别重复细胞的方法
WO2015102945A1 (en) Image processing-based method and apparatus
AU2021103689A4 (en) A Method for Automatic Detection of Infected Erythrocytes

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130118

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20130118

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20130304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131015

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131028

R150 Certificate of patent or registration of utility model

Ref document number: 5413408

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250