JP7205380B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP7205380B2
JP7205380B2 JP2019098188A JP2019098188A JP7205380B2 JP 7205380 B2 JP7205380 B2 JP 7205380B2 JP 2019098188 A JP2019098188 A JP 2019098188A JP 2019098188 A JP2019098188 A JP 2019098188A JP 7205380 B2 JP7205380 B2 JP 7205380B2
Authority
JP
Japan
Prior art keywords
white
frame
reference block
pixels
balance control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019098188A
Other languages
English (en)
Other versions
JP2020195017A (ja
Inventor
純平 杉谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2019098188A priority Critical patent/JP7205380B2/ja
Publication of JP2020195017A publication Critical patent/JP2020195017A/ja
Application granted granted Critical
Publication of JP7205380B2 publication Critical patent/JP7205380B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

この発明は、映像を撮像する撮像装置及び撮像方法に関するものである。
従来の撮像装置におけるホワイトバランス制御として、赤(R)、緑(G)、青(B)の色信号から色差信号(R-Y、B-Y)、輝度信号(Y)を算出し、算出した色差信号と輝度信号からフレームから白に近い色の画素を抽出した後、抽出した白に近い色の画素の色信号の平均値を無彩色(目標とする白色)と等しくなるように制御するものがある(例えば、特許文献1参照)。
特開2009-225150号公報
従来の撮像装置におけるホワイトバランス制御では、順次生成されるフレームのすべてに対して白に近い色の画素を抽出するために、処理負荷が高くなるという課題があった。
この発明は上記のような課題を解決するためになされたもので、白に近い色の画素の抽出の処理負荷を削減することができる撮像装置を得ることを目的としている。
この発明に係る撮像装置は、
複数の画素から構成されるフレームを順次生成する撮像処理部と、
前記フレームの1つである対象フレームを複数に分割した部分ブロックのうち、白色または白に近い色の前記画素である白色画素の数が第一の閾値以上存在する前記部分ブロックを基準ブロックとして選択する白色検出部と、
前記基準ブロックを基準として、当該基準ブロックが白色となるように前記対象フレームのホワイトバランス制御を行うホワイトバランス制御部とを備え、
前記ホワイトバランス制御部が基準とする前記基準ブロックの位置は、
前記対象フレームとその前に生成されたフレームとの輝度値の平均の変化量が第二の閾値以上の場合、前記対象フレームで選択された前記基準ブロックの位置であり、
前記対象フレームと前記前に生成されたフレームとの輝度値の平均の変化量が第二の閾値より小さい場合、前記前に生成されたフレームで選択された前記基準ブロックの位置であることを特徴とするものである。
この発明によれば、上記のように構成したので、ホワイトバランス制御における白に近い画素の抽出の処理負荷を削減することができるという効果がある。
この発明の実施の形態1に係る監視カメラシステムの構成の一例を示す図である。 この発明の実施の形態1に係る撮像装置の構成の一例を示すブロック図である。 この発明の実施の形態1に係る撮像装置の動作の一例を示すフローチャートである。 この発明の実施の形態2に係る監視カメラシステムの構成の一例を示す図である。 この発明の実施の形態2に係る撮像装置の構成の一例を示すブロック図である。 この発明の実施の形態2に係る撮像装置の動作の一例を示すフローチャートである。
以下、この発明の実施の形態について図面を参照しながら詳細に説明する。
実施の形態1.
図1は、この発明の実施の形態1に係る監視カメラシステムの構成の一例を示す図である。
図1に示すように、監視カメラシステム1は、映像を撮像するn台の撮像装置2(nは1以上の整数)、撮像装置2が順次出力するフレームを記録する映像記録再生装置3、映像記録再生装置3が出力するフレームを表示するモニタ4を備える。
撮像装置2は、人物や車両など(図示せず)を撮像し、複数の画素から構成されるフレームを映像記録再生装置3に順次出力するものである。
映像記録再生装置3は、撮像装置2から順次出力されたフレームを記録し、また、記録されたフレームを再生して、モニタ4に出力するものである。
モニタ4は、映像記録再生装置3から出力されたフレームを表示するものである。
図2は、この発明の実施の形態1に係る撮像装置の構成の一例を示すブロック図である。
図2に示すように、撮像装置2は、撮像処理部21、信号処理部22、輝度情報変化判定部23、白色検出部24、記憶部25、ホワイトバランス制御部26及びIF部27を備える。
撮像処理部21は、レンズ(図示せず)により集光された光を電気信号に変換して、複数の画素から構成されるフレームを順次生成し、信号処理部22に出力するものである。
信号処理部22は、撮像処理部21から出力されたフレームの赤(R)、緑(G)、青(B)の色信号から色差信号(R-Y、B-Y)、輝度信号(Y)を算出し、算出した色差信号(R-Y、B-Y)、輝度信号(Y)及びフレームを輝度情報変化判定部23に出力するものである。
輝度情報変化判定部23は、信号処理部22から出力された、前後するフレームについて、各フレームの輝度値の平均の変化の有無を判定するものである。
白色検出部24は、フレームを所定の数に分割し、分割された領域(部分ブロック)ごとに、信号処理部22により算出された色差信号(R-Y、B-Y)と輝度信号(Y)に基づき白または白に近い色の画素(白色画素)を抽出し、白色画素の数が所定の閾値(第一の閾値)以上である部分ブロックを基準ブロックとして選択するものである。
記憶部25は、基準ブロックの位置を記憶するものである。
ホワイトバランス制御部26は、基準ブロックを基準として、当該基準ブロックに含まれる画素の色信号の平均値が無彩色(目標とする白色)と等しくなるようにフレームのホワイトバランス制御を行うものである。
IF部27は、ホワイトバランス制御部26から出力されたフレームを映像記録再生装置3に出力するものである。
次に、撮像装置2の基本的な動作について、図2及び図3を参照しながら説明する。
撮像処理部21はレンズにより集光された光を電気信号に変換し、複数の画素から構成されるフレームを信号処理部22に順次出力する。
信号処理部22は、撮像処理部21から順次出力されたフレームの1つ(対象フレーム)について、赤(R)、緑(G)、青(B)の色信号から色差信号(R-Y、B-Y)、輝度信号(Y)を算出し、算出した色差信号(R-Y、B-Y)、輝度信号(Y)及び対象フレームを輝度情報変化判定部23に出力する。
輝度情報変化判定部23は、信号処理部22から出力された、対象フレームとその前に生成されたフレームとについて(すなわち前後するフレームについて)、各フレームの輝度値の平均の変化量が所定の閾値(第二の閾値)以上であるか否かを判定する(ステップST101)。なお、前後するフレームは、連続するフレームでもよいし、所定のフレーム数だけ離れたフレームでもよい。
輝度情報変化判定部23によりフレームの輝度値の平均の変化量が所定の閾値(第二の閾値)以上であると判定された場合(ステップST101、Yes)、白色検出部24は、対象フレームを複数に分割した部分ブロックごとに、信号処理部22により算出された色差信号(R-Y、B-Y)と輝度信号(Y)に基づき白色画素を抽出し、白色画素の数が所定の閾値(第一の閾値)以上抽出されたか否かを、判定する(ステップST102)。
白色検出部24により、白色画素の数が所定の閾値(第一の閾値)以上抽出された部分ブロックが存在すると判定された場合(ステップST103、Yes)、白色検出部24は、当該部分ブロックを基準ブロックとして選択し(ステップST104)、記憶部25は、当該基準ブロックの位置を記憶する(ステップST105)。ホワイトバランス制御部26は、白色検出部24により対象フレームで選択された基準ブロックを基準として、当該基準ブロックに含まれる画素の色信号の平均値が無彩色(目標とする白色)と等しくなるように対象フレームのホワイトバランス制御を行う(ステップST106)。この場合、ホワイトバランス制御部26が基準とする基準ブロックの位置は、対象フレームで選択された基準ブロックの位置となる。なお、本実施の説明においては、本動作の開始の時点で基準ブロックが選択されているものとしている。
白色検出部24により、白色画素の数が所定の閾値(第一の閾値)以上抽出された部分ブロックが存在しないと判定された場合(ステップST103、No)、ホワイトバランス制御部26は、対象フレームの全体の色差信号(R-Y、B-Y)が0となるように制御する(ステップST107)。
輝度情報変化判定部23によりフレームの輝度値の平均の変化量が所定の閾値(第二の閾値)より小さいと判定された場合(ステップST101、No)、白色検出部24は白色画素の抽出及び基準ブロックの選択をせず、ホワイトバランス制御部26は、記憶部25により記憶されている基準ブロックの位置(すなわち、白色検出部24により前に生成されたフレームで選択された基準ブロックの位置)にある部分ブロックを基準ブロックとして、当該基準ブロックに含まれる画素の色信号の平均値が無彩色(目標とする白色)と等しくなるように対象フレームのホワイトバランス制御を行う(ステップST108)。
このように、本実施の形態に係る撮像装置は、フレームの輝度値の平均の変化量が小さい場合、白色画素を抽出せず、前に生成されたフレームで選択された基準ブロックを基準として、ホワイトバランス制御を行うように構成したので、白色画素を抽出するための処理負荷を軽減することが可能となる。
実施の形態2.
実施の形態2では、白色検出部24により、白色画素の数が所定の閾値(第一の閾値)以上抽出された部分ブロックが複数存在すると判定された場合について、説明する。
図4は、この発明の実施の形態2に係る監視カメラシステムの構成の一例を示す図である。図4において、図1と同一の符号は、同一または相当するものであるので、説明を省略する。
図4に示すように、監視カメラシステム5は、映像を撮像するn台の撮像装置6(nは1以上の整数)、撮像装置2が順次出力するフレームを記録する映像記録再生装置3、映像記録再生装置3が出力するフレームを表示するモニタ4を備える。
撮像装置6は、人物や車両など(図示せず)を撮像し、複数の画素から構成されるフレームを映像記録再生装置3に順次出力するものである。
図5は、この発明の実施の形態2に係る撮像装置の構成の一例を示すブロック図である。図5において、図2と同一の符号は、同一または相当するものであるので、説明を省略する。
図5に示すように、撮像装置6は、撮像処理部21、信号処理部22、輝度情報変化判定部23、白色検出エリア決定部61、白色検出部62、物体情報取得部63、記憶部64、ホワイトバランス制御部26及びIF部27を備える。
白色検出エリア決定部61は、信号処理部22により算出された輝度信号(Y)に基づき、部分ブロックを、輝度値の変化量が大きいエリアと小さいエリアとのいずれかに区分するものである。
白色検出部62は、部分ブロックごとに、信号処理部22により算出された色差信号(R-Y、B-Y)と輝度信号(Y)に基づき白色画素を抽出し、白色画素の数が所定の閾値(第一の閾値)以上抽出されている部分ブロックを基準ブロックとして選択するものである。
物体情報取得部63は、フレームの指定された部分ブロックから物体を検出し、当該物体に関する物体情報を取得するものである。
記憶部64は、基準ブロックの位置及び基準ブロックから検出された物体の物体情報を記憶するものである。
次に、撮像装置6の基本的な動作について、図5及び図6を参照しながら説明する。図5において、図3と同一の符号は、同一または相当するものであるので、説明を省略する。
輝度情報変化判定部23によりフレームの輝度値の平均の変化量が所定の閾値(第二の閾値)以上であると判定された場合(ステップST101、Yes)、白色検出エリア決定部61は、前後するフレームについて、前に生成されたフレームの部分ブロックの輝度値の平均と、対象フレームの部分ブロックの輝度値の平均との変化量が、所定の閾値(第三の閾値)以上か否かにより、対象フレームの部分ブロックを、輝度変化量の大きいエリアと輝度変化量の小さいエリアとのいずれかに区分する(ステップST201)。
白色検出部62は、信号処理部22により算出された色差信号(R-Y、B-Y)と輝度信号(Y)に基づき白色画素を抽出し、白色画素の数が所定の閾値(第一の閾値)以上抽出されているかを、対象フレームの部分ブロックのうち、白色検出エリア決定部61により輝度変化量の小さいエリアに区分された部分ブロックについて判定する(ステップST202)。
白色検出部62により、白色画素の数が所定の閾値(第一の閾値)以上抽出された部分ブロックが存在すると判定した場合において(ステップST103、Yes)、そのような部分ブロックが1つだけ存在するとき(ステップST203、No)、白色検出部62は、当該部分ブロックを基準ブロックとして選択し(ステップST104)、記憶部64は、当該基準ブロックの位置を記憶する(ステップST208)。ホワイトバランス制御部26は、白色検出部62により対象フレームで選択された基準ブロックを基準として、当該基準ブロックに含まれる画素の色信号の平均値が無彩色(目標とする白色)と等しくなるように対象フレームのホワイトバランス制御を行う(ステップST106)。なお、本実施の説明においては、本動作の開始の時点で基準ブロックが選択されているものとしている。
白色検出部62により、白色画素の数が所定の閾値(第一の閾値)以上抽出された部分ブロックが存在すると判定した場合において(ステップST103、Yes)、そのような部分ブロックが複数存在するとき(ステップST203、Yes)、物体情報取得部63は、それらの部分ブロックのそれぞれについて、所定のアルゴリズムを用いて、物体情報を取得する(ステップST204)。
物体情報取得部63により、白色画素の数が所定の閾値(第一の閾値)以上抽出された複数の部分ブロックのうちのある部分ブロックから、記憶部により記憶された物体情報と同一の物体情報が取得された場合(ステップST205、Yes)、白色検出部62は、その部分ブロックを基準ブロックとして選択し(ステップST206)、記憶部64は、当該基準ブロックの位置及び当該基準ブロックから取得された物体情報を記憶する(ステップST208)。ホワイトバランス制御部26は、白色検出部62により対象フレームで選択された基準ブロックを基準として、当該基準ブロックに含まれる画素の色信号の平均値が無彩色(目標とする白色)と等しくなるように対象フレームのホワイトバランス制御を行う(ステップST106)。この場合、ホワイトバランス制御部26が基準とする基準ブロックは、前に生成されたフレームで選択された基準ブロックから取得された物体情報と同一の物体情報が取得された基準ブロックとなる。
物体情報取得部63により、白色画素の数が所定の閾値(第一の閾値)以上抽出された複数の部分ブロックのいずれからも記憶部により記憶された物体情報が取得されなかった場合、または記憶部が物体情報を記憶していない場合(ステップST205、No)、白色検出部62は、白色画素の数が最も多い部分ブロックを基準ブロックとして選択し(ステップST207)、記憶部64は、当該基準ブロックの位置及び(もし取得されていれば)当該基準ブロックから取得された物体情報を記憶する(ステップST208)。ホワイトバランス制御部26は、白色検出部62により対象フレームで選択された基準ブロックを基準として、当該基準ブロックに含まれる画素の色信号の平均値が無彩色(目標とする白色)と等しくなるように対象フレームのホワイトバランス制御を行う(ステップST106)。
このように、本実施の形態に係る撮像装置は、フレームの部分ブロックのうち、輝度値の変化量の小さい部分ブロックについて白色画素の抽出を実施するように構成したので、白色画素を抽出するための処理負荷を削減することが可能となる。
また、本実施の形態に係る撮像装置は、前に生成されたフレームで選択された基準ブロックから取得された物体情報と同一の物体情報が取得された部分ブロックを、ホワイトバランス制御の基準ブロックとするように構成したので、ホワイトバランス制御に伴うフレームの色変化量を軽減することが可能となる。
なお、本実施の形態2では、順次生成されるフレームのうち、フレームの輝度値の平均の変化量が所定の閾値(第二の閾値)以上であると判定されたフレームに対し、輝度値の変化量の小さい部分ブロックについて白色画素の抽出を実施するように構成したが、順次生成されるすべてのフレームに対し、輝度値の変化量の小さい部分ブロックについて白色画素の抽出を実施するように構成しても、白色画素を抽出するための処理負荷が削減される。
1 監視カメラシステム、
2 撮像装置、
3 映像記録再生装置、
4 モニタ、
5 監視カメラシステム、
6 撮像装置、
21 撮像処理部、
22 信号処理部、
23 輝度情報変化判定部、
24 白色検出部、
25 記憶部、
26 ホワイトバランス制御部、
27 IF部、
61 白色検出エリア決定部、
62 白色検出部、
63 物体情報取得部、
64 記憶部

Claims (4)

  1. 複数の画素から構成されるフレームを順次生成する撮像処理部と、
    前記フレームの1つを複数に分割した部分ブロックのうち、白色または白に近い色の前記画素である白色画素の数が第一の閾値以上存在する前記部分ブロックを基準ブロックとして選択する白色検出部と、
    前記基準ブロックを基準として、当該基準ブロックが白色となるように前記フレームのホワイトバランス制御を行うホワイトバランス制御部とを備え、
    前記ホワイトバランス制御部が基準とする前記基準ブロックの位置は、
    前記ホワイトバランス制御を行う対象フレームとその前に生成されたフレームとの輝度値の平均の変化量が第二の閾値以上の場合、前記対象フレームで選択された前記基準ブロックの位置であり、
    前記対象フレームと前記前に生成されたフレームとの輝度値の平均の変化量が第二の閾値より小さい場合、前記前に生成されたフレームで選択された前記基準ブロックの位置であることを特徴とする撮像装置。
  2. 前記白色検出部が、
    前記部分ブロックのうち、前記対象フレームと前記前に生成されたフレームとの当該部分ブロックの輝度値の平均の変化量が第三の閾値より小さい前記部分ブロックから、前記白色画素を抽出することを特徴とする請求項1に記載の撮像装置。
  3. 前記基準ブロックから物体を検出し、前記物体に関する物体情報を取得する物体情報取得部をさらに備え、
    前記白色検出部により複数の前記基準ブロックが選択されたとき、
    前記ホワイトバランス制御部は、
    前記複数の前記基準ブロックのうち、前記前に生成されたフレームで選択された前記基準ブロックから取得された前記物体情報が取得された前記基準ブロックが白色となるように前記対象フレームのホワイトバランス制御を行うことを特徴とする請求項2に記載の撮像装置。
  4. 複数の画素から構成されるフレームを順次生成する撮像処理部と、
    前記フレームの1つである対象フレームを複数に分割した部分ブロックのうち、白色または白に近い色の前記画素である白色画素の数が第一の閾値以上存在する前記部分ブロックを基準ブロックとして選択する白色検出部と、
    前記基準ブロックを基準として、当該基準ブロックが白色となるように前記対象フレームのホワイトバランス制御を行うホワイトバランス制御部とを備える撮像装置の撮像方法であって、
    前記ホワイトバランス制御部が基準とする前記基準ブロックの位置は、
    前記対象フレームとその前に生成されたフレームとの輝度値の平均の変化量が第二の閾値以上の場合、前記対象フレームで選択された前記基準ブロックの位置であり、
    前記対象フレームと前記前に生成されたフレームとの輝度値の平均の変化量が第二の閾値より小さい場合、前記前に生成されたフレームで選択された前記基準ブロックの位置であることを特徴とする撮像方法。
JP2019098188A 2019-05-27 2019-05-27 撮像装置及び撮像方法 Active JP7205380B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019098188A JP7205380B2 (ja) 2019-05-27 2019-05-27 撮像装置及び撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019098188A JP7205380B2 (ja) 2019-05-27 2019-05-27 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP2020195017A JP2020195017A (ja) 2020-12-03
JP7205380B2 true JP7205380B2 (ja) 2023-01-17

Family

ID=73548646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019098188A Active JP7205380B2 (ja) 2019-05-27 2019-05-27 撮像装置及び撮像方法

Country Status (1)

Country Link
JP (1) JP7205380B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000196949A (ja) 1998-12-24 2000-07-14 Sharp Corp カメラ装置
JP2009164838A (ja) 2007-12-28 2009-07-23 Canon Inc 画像処理装置及び方法、及び撮像装置
JP2012119756A (ja) 2010-11-29 2012-06-21 Ricoh Co Ltd 撮像装置およびホワイトバランス制御方法
JP2013192057A (ja) 2012-03-14 2013-09-26 Canon Inc 撮像装置、その制御方法、および制御プログラム
JP2016174349A (ja) 2015-03-17 2016-09-29 上海兆芯集成電路有限公司 自動ホワイトバランス補償方法および自動ホワイトバランス補償装置
JP2018517369A (ja) 2015-06-08 2018-06-28 クアルコム,インコーポレイテッド オートホワイトバランスのための動的フレームスキップ

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000196949A (ja) 1998-12-24 2000-07-14 Sharp Corp カメラ装置
JP2009164838A (ja) 2007-12-28 2009-07-23 Canon Inc 画像処理装置及び方法、及び撮像装置
JP2012119756A (ja) 2010-11-29 2012-06-21 Ricoh Co Ltd 撮像装置およびホワイトバランス制御方法
JP2013192057A (ja) 2012-03-14 2013-09-26 Canon Inc 撮像装置、その制御方法、および制御プログラム
JP2016174349A (ja) 2015-03-17 2016-09-29 上海兆芯集成電路有限公司 自動ホワイトバランス補償方法および自動ホワイトバランス補償装置
JP2018517369A (ja) 2015-06-08 2018-06-28 クアルコム,インコーポレイテッド オートホワイトバランスのための動的フレームスキップ

Also Published As

Publication number Publication date
JP2020195017A (ja) 2020-12-03

Similar Documents

Publication Publication Date Title
JP5845464B2 (ja) 画像処理装置及び画像処理方法並びにデジタルカメラ
US9270875B2 (en) Dual image capture processing
WO2009133693A1 (ja) 撮像装置
US20130021504A1 (en) Multiple image processing
JP6574878B2 (ja) 画像処理装置及び画像処理方法、撮像装置、プログラム、並びに記憶媒体
US8860840B2 (en) Light source estimation device, light source estimation method, light source estimation program, and imaging apparatus
US20170280066A1 (en) Image processing method by image processing apparatus
JP4075748B2 (ja) 画像記録装置
JP7205380B2 (ja) 撮像装置及び撮像方法
JP6450107B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP4288954B2 (ja) 欠陥検出回路及び欠陥検出方法
KR100649891B1 (ko) 디지털 영상 신호 처리 장치 및 방법과 이 방법을 이용한디지털 비디오 레코더
KR20070048919A (ko) 방송 신호를 캡쳐하는 방송수신장치 및 그 방법
US10397587B2 (en) Image processing apparatus and control method thereof
KR100452097B1 (ko) 영상데이터의 변화값 추출을 이용한 영상데이터 저장방법
KR100420620B1 (ko) 객체기반 영상 감시시스템
JP4508043B2 (ja) 映像監視装置及び映像監視用プログラム
JPH1079881A (ja) 撮像装置
JP2003259161A (ja) 撮像装置および撮像方法
KR100391266B1 (ko) 객체기반 영상 압축을 위한 배경설정방법
JP2677224B2 (ja) 画像取り込み装置
KR101279575B1 (ko) 영역 영상을 처리하는 영상처리 시스템 및 그 제어방법
JP2005057609A (ja) カメラ
WO2019106797A1 (ja) 映像表示制御装置および映像表示制御方法
KR100250889B1 (ko) 제이펙 알고리즘을 이용한 움직임 검출방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211208

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20220427

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221212

R151 Written notification of patent or utility model registration

Ref document number: 7205380

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151