JP2017219912A - 画像処理装置、画像領域検出方法および画像領域検出プログラム - Google Patents
画像処理装置、画像領域検出方法および画像領域検出プログラム Download PDFInfo
- Publication number
- JP2017219912A JP2017219912A JP2016111766A JP2016111766A JP2017219912A JP 2017219912 A JP2017219912 A JP 2017219912A JP 2016111766 A JP2016111766 A JP 2016111766A JP 2016111766 A JP2016111766 A JP 2016111766A JP 2017219912 A JP2017219912 A JP 2017219912A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- specific
- group
- similar
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
また、画像上で指定された注目領域と、領域抽出アルゴリズムで抽出される抽出領域との画像データを比較して類似度が高い領域抽出アルゴリズムを選択し、選択した領域抽出アルゴリズムによる抽出領域の画像データを表示する画像処理方法が提案されている。
さらに、1つの案では、上記の画像処理装置に基づく処理と同様の処理をコンピュータに実行させる画像領域検出プログラムが提供される。
[第1の実施の形態]
図1は、第1の実施の形態に係る画像処理装置の構成例および処理例を示す図である。画像処理装置10は、選択部11および検出部12を備える。選択部11および検出部12の処理は、例えば、画像処理装置10が備えるプロセッサが所定のプログラムを実行することで実現される。
[ステップS1]選択部11は、画像M1〜M4を用いて、画像間の類似度を算出する。例えば、選択部11は、撮影時刻が隣り合う画像の類似度を算出する。すなわち、選択部11は、画像M1と画像M2の類似度、画像M2と画像M3の類似度および画像M3と画像M4の類似度を算出する。また、選択部11は、算出した類似度に基づき類似度の大小を判定する。図1の例では、画像M1と画像M2の類似度は小さく、画像M2と画像M3の類似度は大きく、画像M3と画像M4の類似度は小さいと判定されたとする。
次に、第2の実施の形態として、撮像画像間の類似度を計算する際に、画像の特徴量としてBRIEF(Binary Robust Independent Elementary Features)を用いて計算する画像処理装置について説明する。
図2は、第2の実施の形態に係る画像処理装置のハードウェア構成例を示す図である。第2の実施の形態に係る画像処理装置100は、例えば、図2に示すようなコンピュータとして実現される。
RAM102は、画像処理装置100の主記憶装置として使用される。RAM102には、プロセッサ101に実行させるOS(Operating System)プログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、RAM102には、プロセッサ101による処理に必要な各種データが格納される。
以上のようなハードウェア構成によって、画像処理装置100の処理機能を実現することができる。
図3は、画像処理装置が備える処理機能の構成例を示すブロック図である。画像処理装置100は、記憶部110、画像取得部121、類似度算出部122、グループ選択部123、特定領域検出部124および結果出力部125を有する。
次に、類似度算出部122による特徴量算出処理について詳しく説明する。
類似度算出部122は、撮像画像上に特徴点を設定する。特徴点は、各撮像画像で共通に設定される。本実施の形態では例として、撮像画像上に等間隔(例えば、24画素間隔)で特徴点を設定するDense Samplingを用いる。そして、類似度算出部122は、各撮像画像の各特徴点についての輝度差特徴量を算出する。
特徴量管理テーブル113には、撮像画像内の特徴点ごとにレコードが登録される。各レコードには、ID、特徴点座標および輝度差特徴量が登録される。IDは、撮像画像内の特徴点を識別するための識別番号を示す。特徴点座標は、特徴点の座標を示す。輝度差特徴量の項目には、特徴点の輝度差特徴量を示すビット列が登録される。
[ステップS21]類似度算出部122は、処理対象の撮像画像から特徴点を1つ選択する。また、類似度算出部122は、画素ペア管理テーブル112から画素ペアを1つ選択する。類似度算出部122は、選択された特徴点に対応する特徴領域内の画素ペアのうち、選択された画素ペアについて、画素ペアの輝度値の差と閾値の0とを比較し、比較結果に基づいて輝度差特徴量のビット値を決定する算出処理を行う。例えば、画素ペアの輝度値の差が0より大きい場合はビット値を“1”とし、画素ペアの輝度値の差が0以下の場合はビット値を“0”と決定する。
次に、類似度算出部122による投票処理について詳しく説明する。なお、撮影時刻が隣接する撮像画像ペアのうち、撮影時刻が早い方がキー画像に設定され、撮影時刻が遅い方が対象画像に設定されるものとする。
yv=yi・yr+(hr/2) ・・・(1−2)
図8の特徴点211と特徴点221との対応関係に基づいて対象画像220におけるキー画像210の中心位置として画素222が推定されたとすると、類似度算出部122は、対象画像220の画素のうち、画素222に対して投票する。この投票処理には、例えば、対象画像220の各画素に対応するエントリを有する投票マップ130が用いられる。投票マップ130の各エントリの初期値は0とされる。図8の処理では、投票マップ130における画素222に対応するエントリに1が加算される(ステップS33)。
対応点管理テーブル114には、キー画像の特徴点を識別するためのID、キー画像の特徴点の座標、対象画像の対応点の座標、および特定特徴点ペアの判定結果が登録される。特定特徴点ペアの判定結果は、特徴点と対応点とのペアが特定特徴点ペアと判定されたか否かを示し、特定特徴点ペアと判定されれば“○”、特定特徴点ペアでないと判定されれば“×”と登録される。なお、特定特徴点ペアとは、投票マップにおいて投票数が最大となったエントリに対する投票が行われた特徴点と対応点とのペアである。
図14は、投票処理の例を示すフローチャートである。図14に示す処理は、記憶部110に記憶された画像データ111に対し、撮影時刻が早い順に画像IDを1〜Nと設定された際に、画像IDが1からN−1までの画像に対して行われるものである。
[ステップS42]類似度算出部122は、キー画像Aを予め決められたサイズに拡大または縮小する。また、類似度算出部122は、対象画像Bを予め決められた複数枚の異なるサイズに拡大または縮小して、対象画像B1、B2、…、BMを生成する。例えば、B1:横幅=800、B2:横幅=720、・・・、BM:横幅=230というように、異なるサイズの対象画像B1、B2、…、BMが生成される。
[ステップS46]類似度算出部122は、対象画像B1〜BMまでステップS45が処理済みかを判定する。処理済みでない対象画像がある場合、ステップS43に戻り、他の対象画像が選択される。すべての対象画像について処理済みの場合、ステップS47の処理が実行される。
次に、グループ選択部123によるグループ選択処理について詳しく説明する。
グループ選択部123は、撮影時刻が連続し、かつ類似度の高い画像を、1つのグループとしてまとめる。そして、グループ選択部123は、生成した複数のグループの中から、撮影者にとって重要な対象物が写っていることを推定するための所定条件を満たす特定グループを選択する。
[ステップS51]グループ選択部123は、画像IDがnの画像をキー画像A、画像IDがn+1の画像を対象画像Bとして選択する。なお、nの初期値は1である。
このように、グループ選択部123では、グループ内の画像枚数が閾値Th1以上であり、かつグループ内の画像の撮影時刻の最も早い画像と最も遅い画像との時間差が閾値Th2以上を満たす場合のグループを、所定条件を満たす特定グループとする。これにより、1つのグループにおいて、撮影者によってたくさんの枚数および長い時間に渡って同じシーンが撮影されているか否かが判定できるので、撮影者が写真に残したかった重要対象物の画像が含まれるグループを特定することができる。
次に、特定領域検出部124による特定グループ内の画像からの特定領域検出処理について詳しく説明する。なお、特定領域検出処理としては、第1、第2の特定領域検出処理が考えられる。最初に第1の特定領域検出処理について説明する。
y1=(y2−i1)×(K1−I1)/(k1−i1)+I1・・・(2−2)
特定領域検出部124は、上記の式(2−1)、(2−2)にもとづく座標変換を行って、画像m1上における画像m2の矩形領域b1の座標位置を算出することができる。図19の座標変換の例では、画像m2上の矩形領域b1の座標(H2,I2)が画像m1上の座標(H21,I21)に変換され、画像m2上の矩形領域b1の座標(J2,K2)が画像m1上の座標(J21,K21)に変換されている。
y2=(y3−i2)×(K2−I2)/(k2−i2)+I2・・・(3−2)
特定領域検出部124は、上記の式(3−1)、(3−2)にもとづく座標変換を行って、画像m2上における画像m3の矩形領域c1の座標位置を算出することができる。図20の座標変換の例では、画像m3上の矩形領域c1の座標(H3,I3)が画像m2上の座標(H31,I31)に変換され、画像m3上の矩形領域c1の座標(J3,K3)が画像m2上の座標(J31,K31)に変換されている。
図21は、特定領域を求める際の処理を説明するための図である。特定領域とは、特定グループに含まれる各画像において、撮影者にとって重要な対象物が写っていると推定される領域である。図20に示したように画像m1上で重複部分と包含部分とを求めると、特定領域検出部124は、まず、これらの重複部分および包含部分を、画像m1における特定領域とする。さらに、特定領域検出部124は、画像m1上で求めた重複部分と包含部分を画像m2、m3、m4のそれぞれの座標に逆算し、逆算によって変換した領域を画像m2、m3、m4のそれぞれにおける特定領域とする。
y2=(y1−I1)×(k1−i1)/(K1−I1)+i1・・・(4−2)
また、特定領域検出部124は、画像m2上の矩形領域を画像m3上の矩形領域へ逆変換する場合、画像m3から画像m2への座標変換式の逆算を行って逆変換する。さらに、特定領域検出部124は、画像m3上の矩形領域を画像m4上の矩形領域へ逆変換する場合、画像m4から画像m3への座標変換式の逆算を行って逆変換する。特定領域検出部124は、このような逆変換を重複部分と包含部分に対して行って、それぞれの画像の座標に変換し、各画像における特定領域として検出する。
[ステップS61]特定領域検出部124は、グループ管理テーブル116に基づいて、特定グループを1つ選択する。
次に、第2の特定領域検出処理について説明する。第1の特定領域検出処理では、特定特徴点ペアを基に画像内に設定した類似領域を重ね合わせることで、特定グループに含まれる画像間で共通する特定領域を検出した。これに対し、第2の特定領域検出処理では、特定領域検出部124は、類似度の判定処理で求めたキー画像と対象画像との対応位置(対象画像におけるキー画像の中心位置)および対象画像のサイズ(倍率)に基づいて、特定グループ内の各画像を重ね合わせることで、特定領域を検出する。重ね合わせの際には、特定領域検出部124は、上記の対応位置およびサイズに基づいて、画像間で対応する位置の関係を保ちながら各画像を重ね合わせる。そして、重ね合わされた各画像の重複部分を特定領域として検出する。
次に、特定領域の検出結果を用いた処理例について説明する。まず、ベストショット抽出処理について説明する。
[ステップS71]特定領域検出部124は、グループ管理テーブル116に基づいて、特定グループを1つ選択する。
[ステップS73]特定領域検出部124は、選択した特定グループに対応する特定領域管理テーブル118を参照して、選択した画像における重複部分を認識し、重複部分の画像範囲における品質指標を算出する。例えば、特定領域検出部124は、エッジの強さやコントラストなどの画像品質の指標値を計算する。特定領域検出部124は、算出した品質指標値をベストショット管理テーブル119に登録する。
次に、特定領域の検出結果を用いたサムネイル生成処理について説明する。
サムネイル生成処理では、特定グループ内の各画像に対応するサムネイル画像が生成される。サムネイル画像は、元の画像にどのような対象物が写っているかを確認できることが望ましいが、対象物だけが拡大されて写っている画像よりは、対象物の周囲の状態も確認できる方が望ましい。このため、サムネイル画像は、特定領域として検出された重複部分と包含部分のうち、包含部分を元の画像から切り出して生成されることが望ましい。
[ステップS81]特定領域検出部124は、グループ管理テーブル116に基づいて、特定グループを1つ選択する。
[ステップS83]特定領域検出部124は、選択した特定グループに対応する特定領域管理テーブル118を参照して、選択した画像における包含部分を認識し、画像から包含部分を切り出して所定サイズのサムネイル画像を生成する。
次に、特定領域の検出結果を基に生成または選択された画像の表示例について説明する。
11 選択部
12 検出部
M1、M2、M3、M4 画像
G1 特定グループ
M2a、M3a 特定領域(画像領域)
S1 類似度算出処理
S2 グループ選択処理
S3 特定領域検出処理
Claims (14)
- それぞれ撮影時刻が付加された複数の画像の中から、撮影時刻が連続し、かつ類似する画像を同一のグループに分類し、分類された前記グループの中から、画像枚数または撮影期間の長さに関する所定条件を満たす特定グループを選択する選択部と、
前記特定グループに含まれる画像の間で共通性の高い領域を特定領域として検出する検出部と、
を有する画像処理装置。 - 前記選択部は、画像枚数が所定の閾値以上である前記グループを前記特定グループとして選択する、
請求項1記載の画像処理装置。 - 前記選択部は、画像枚数が第1の閾値以上であり、かつ各画像の撮影時刻のうち最も早い時刻と最も遅い時刻との時間差が第2の閾値以上である前記グループを、前記特定グループとして選択する、
請求項1記載の画像処理装置。 - 前記検出部は、前記特定グループに含まれる各画像から類似性が高い類似領域を特定し、前記類似領域間で対応する位置の関係を保ちながら前記各類似領域を重ね合わせたときに、前記各類似領域が重複する重複領域または前記各類似領域を包含する包含領域の少なくとも一方を、前記特定領域として検出する、
請求項1乃至3のいずれか1項に記載の画像処理装置。 - 前記検出部は、前記複数の画像のうち前記特定グループに含まれる特定画像のそれぞれにおける前記重複領域の画質を評価し、画質の評価値が最大の前記特定画像を代表画像として抽出する、
請求項4記載の画像処理装置。 - 前記検出部は、前記特定グループに含まれる画像から前記包含領域を切り出してサムネイル画像を生成する、
請求項4または5記載の画像処理装置。 - 前記選択部は、前記グループの分類のために前記複数の画像に含まれる画像ペアの間の類似度を判定する際に、前記画像ペアの間で類似する特徴点同士の位置関係に関する統計情報に基づいて前記画像ペアの間の類似度を判定し、
前記検出部は、前記統計情報に基づいて同一対象物が写っていると推定される領域を前記類似領域として特定する、
請求項4乃至6のいずれか1項に記載の画像処理装置。 - 前記検出部は、前記複数の画像のうち前記特定グループに含まれる特定画像の間で対応する位置の関係を保ちながら前記特定画像を重ね合わせたときの重複領域を、前記特定領域として検出する、
請求項1乃至3のいずれか1項に記載の画像処理装置。 - 前記選択部は、前記複数の画像のうち、撮影時刻が隣接する画像間の類似度が所定の類似度閾値以上であり、かつ撮影時刻が連続する画像群を、同一の前記グループに分類する、
請求項1乃至8のいずれか1項に記載の画像処理装置。 - コンピュータが、
それぞれ撮影時刻が付加された複数の画像の中から、撮影時刻が連続し、かつ類似する画像を同一のグループに分類し、
分類された前記グループの中から、画像枚数または撮影期間の長さに関する所定条件を満たす特定グループを選択し、
前記特定グループに含まれる画像の間で共通性の高い部分を特定領域として検出する、
画像領域検出方法。 - コンピュータに、
それぞれ撮影時刻が付加された複数の画像の中から、撮影時刻が連続し、かつ類似する画像を同一のグループに分類し、
分類された前記グループの中から、画像枚数または撮影期間の長さに関する所定条件を満たす特定グループを選択し、
前記特定グループに含まれる画像の間で共通性の高い部分を特定領域として検出する、
処理を実行させる画像領域検出プログラム。 - 記憶部に記憶される、撮影された時間情報が付加された1又は複数の画像を用いた特定の処理要求を受け付けた場合、前記記憶部に記憶される前記1又は複数の画像の類似度を判定する判定部と、
類似すると判定した画像が複数ある場合には、類似する複数の画像それぞれに付加された時間情報を参照して、類似する前記複数の画像が撮影された期間と前記期間に撮影された画像数を特定する特定部と、
特定した前記期間と前記画像数に基づいて、前記特定の処理要求に対応する類似する前記複数の画像の中から特定の画像、又は前記複数の画像を用いて生成した画像を出力する出力部と、
を有する画像処理装置。 - コンピュータが、
記憶部に記憶される、撮影された時間情報が付加された1又は複数の画像を用いた特定の処理要求を受け付けた場合、前記記憶部に記憶される前記1又は複数の画像の類似度を判定し、
類似すると判定した画像が複数ある場合には、類似する複数の画像それぞれに付加された時間情報を参照して、類似する前記複数の画像が撮影された期間と前記期間に撮影された画像数を特定し、
特定した前記期間と前記画像数に基づいて、前記特定の処理要求に対応する類似する前記複数の画像の中から特定の画像、又は前記複数の画像を用いて生成した画像を出力する、
画像領域検出方法。 - コンピュータに、
記憶部に記憶される、撮影された時間情報が付加された1又は複数の画像を用いた特定の処理要求を受け付けた場合、前記記憶部に記憶される前記1又は複数の画像の類似度を判定し、
類似すると判定した画像が複数ある場合には、類似する複数の画像それぞれに付加された時間情報を参照して、類似する前記複数の画像が撮影された期間と前記期間に撮影された画像数を特定し、
特定した前記期間と前記画像数に基づいて、前記特定の処理要求に対応する類似する前記複数の画像の中から特定の画像、又は前記複数の画像を用いて生成した画像を出力する、
処理を実行させる画像領域検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016111766A JP6770227B2 (ja) | 2016-06-03 | 2016-06-03 | 画像処理装置、画像領域検出方法および画像領域検出プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016111766A JP6770227B2 (ja) | 2016-06-03 | 2016-06-03 | 画像処理装置、画像領域検出方法および画像領域検出プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017219912A true JP2017219912A (ja) | 2017-12-14 |
JP6770227B2 JP6770227B2 (ja) | 2020-10-14 |
Family
ID=60657742
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016111766A Active JP6770227B2 (ja) | 2016-06-03 | 2016-06-03 | 画像処理装置、画像領域検出方法および画像領域検出プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6770227B2 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006079461A (ja) * | 2004-09-10 | 2006-03-23 | Fuji Photo Film Co Ltd | 電子アルバム表示システム、画像分類装置、電子アルバム表示方法、画像分類方法、及びプログラム |
JP2010173323A (ja) * | 2010-02-10 | 2010-08-12 | Seiko Epson Corp | 印刷装置 |
JP2011508310A (ja) * | 2007-12-20 | 2011-03-10 | イーストマン コダック カンパニー | 場所別画像分類 |
JP2012049815A (ja) * | 2010-08-26 | 2012-03-08 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2014197386A (ja) * | 2013-03-08 | 2014-10-16 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP2015225353A (ja) * | 2014-05-26 | 2015-12-14 | 富士通株式会社 | 画像処理装置、画像判断方法、及びプログラム |
-
2016
- 2016-06-03 JP JP2016111766A patent/JP6770227B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006079461A (ja) * | 2004-09-10 | 2006-03-23 | Fuji Photo Film Co Ltd | 電子アルバム表示システム、画像分類装置、電子アルバム表示方法、画像分類方法、及びプログラム |
JP2011508310A (ja) * | 2007-12-20 | 2011-03-10 | イーストマン コダック カンパニー | 場所別画像分類 |
JP2010173323A (ja) * | 2010-02-10 | 2010-08-12 | Seiko Epson Corp | 印刷装置 |
JP2012049815A (ja) * | 2010-08-26 | 2012-03-08 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2014197386A (ja) * | 2013-03-08 | 2014-10-16 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP2015225353A (ja) * | 2014-05-26 | 2015-12-14 | 富士通株式会社 | 画像処理装置、画像判断方法、及びプログラム |
Non-Patent Citations (2)
Title |
---|
JUN LI ET AL.: "Automatic Summarization for Personal Digital Photos", FOURTH INTERNATIONAL CONFERENCE ON INFORMATION, COMMUNICATIONS AND SIGNAL PROCESSING, 2003 AND THE F, JPN6020003264, 18 December 2003 (2003-12-18), pages 1536 - 1540, XP010701781, ISSN: 0004204204, DOI: 10.1109/ICICS.2003.1292724 * |
野中 俊一郎 外4名: "大量のDSC撮影画像からの自動選択を可能とする画像評価技術"iAgent"の開発", 富士フイルム研究報告 第52号, vol. 第52号, JPN6020003262, 22 March 2007 (2007-03-22), JP, pages 17 - 21, ISSN: 0004204203 * |
Also Published As
Publication number | Publication date |
---|---|
JP6770227B2 (ja) | 2020-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10134165B2 (en) | Image distractor detection and processing | |
US9342756B2 (en) | Methods and apparatus to detect differences between images | |
TWI462035B (zh) | 物件偵測後設資料 | |
KR101729195B1 (ko) | 질의동작기반 안무 검색 시스템 및 방법 | |
WO2018028583A1 (zh) | 字幕提取方法及装置、存储介质 | |
JP6465215B2 (ja) | 画像処理プログラムおよび画像処理装置 | |
WO2023279847A1 (zh) | 单元格位置的检测方法、装置和电子设备 | |
CN112199545A (zh) | 基于图片文字定位的关键词显示方法、装置及存储介质 | |
JP6565661B2 (ja) | 画像処理システム、画像類似判定方法および画像類似判定プログラム | |
JP5027201B2 (ja) | テロップ文字領域検出方法,テロップ文字領域検出装置およびテロップ文字領域検出プログラム | |
US20190122391A1 (en) | Apparatus for processing image and method thereof | |
JP6770227B2 (ja) | 画像処理装置、画像領域検出方法および画像領域検出プログラム | |
JP2019016128A (ja) | 画像類否判断プログラム、画像類否判断装置および画像類否判断方法 | |
JP2011141664A (ja) | 文書比較装置、文書比較方法、及びプログラム | |
JP6244887B2 (ja) | 情報処理装置、画像探索方法、及びプログラム | |
US20180189602A1 (en) | Method of and system for determining and selecting media representing event diversity | |
Jang et al. | Robust detection of mosaic regions in visual image data | |
JP6485084B2 (ja) | 画像探索装置、画像探索方法および画像探索プログラム | |
JP6485072B2 (ja) | 画像探索装置、画像探索方法および画像探索プログラム | |
CN112069357A (zh) | 视频资源处理方法、装置、电子设备及存储介质 | |
JP2017072940A (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
TWI571753B (zh) | 用於產生一影像之一互動索引碼圖之電子計算裝置、其方法及其電腦程式產品 | |
CN115205555B (zh) | 确定相似图像的方法、训练方法、信息确定方法及设备 | |
CN113393418A (zh) | 一种用户界面组件检索方法及装置、设备、存储介质 | |
CN112017092A (zh) | 水印检测模型的生成和水印检测方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190212 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200331 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20200331 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20200331 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200825 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200907 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6770227 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |