JP2021114135A - 画像検索装置、画像検索方法、及び画像検索プログラム - Google Patents
画像検索装置、画像検索方法、及び画像検索プログラム Download PDFInfo
- Publication number
- JP2021114135A JP2021114135A JP2020006539A JP2020006539A JP2021114135A JP 2021114135 A JP2021114135 A JP 2021114135A JP 2020006539 A JP2020006539 A JP 2020006539A JP 2020006539 A JP2020006539 A JP 2020006539A JP 2021114135 A JP2021114135 A JP 2021114135A
- Authority
- JP
- Japan
- Prior art keywords
- metadata
- image
- acquisition unit
- acquired
- group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 22
- 238000012545 processing Methods 0.000 description 60
- 238000003384 imaging method Methods 0.000 description 26
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Abstract
Description
図1を参照して、実施の形態1に係る画像検索装置100が適用された画像検索システム1の要部の構成について説明する。
図1は、実施の形態1に係る画像検索装置100が適用された画像検索システム1の要部の構成の一例を示すブロック図である。
画像検索システム1は、撮像装置10、画像蓄積装置20、画像記憶装置30、メタデータ記憶装置40、操作入力装置50、表示装置60、ネットワーク70、及び、画像検索装置100を備える。
実施の形態1では、画像検索システム1は、一例として、撮像装置10として、第1撮像装置11及び第2撮像装置12の2台の撮像装置10を備えるものとして説明する。なお、実施の形態1では、第1撮像装置11及び第2撮像装置12は、監視カメラであるものとして説明する。また、撮像装置10の台数は、2台に限定されるものではなく、1台であっても、3台以上であっても良い。
画像記憶装置30は、画像蓄積装置20が出力した画像データと画像メタデータとを画像データベースとを受けて、当該画像データと当該画像メタデータとを記憶する。
画像記憶装置30は、例えば、画像データベースを備え、画像蓄積装置20が出力した画像データと画像メタデータとの対応付けを画像データベースで管理する。
撮影日時情報、撮影位置情報、撮像装置情報、又は、イベント情報等の情報は、例えば、画像データのヘッダに含まれている。
例えば、画像蓄積装置20は、画像データのヘッダから撮影日時情報、撮影位置情報、撮像装置情報、又は、イベント情報等の情報を抽出することにより、画像メタデータを生成する。画像データのヘッダから撮影日時情報、撮影位置情報、撮像装置情報、又は、イベント情報等の情報を抽出する方法は公知であるため、説明を省略する。
物体情報が示す物体の種別とは、例えば、物体が車両である場合、普通自動車、軽自動車、トラック、バス、自動二輪車、又は、自転車等である。
例えば、画像蓄積装置20は、画像データが示す画像を画像解析技術により解析し、解析結果として取得した画像に写る物体の名称若しくは種別等に基づいて物体情報を生成することにより、画像メタデータを生成する。画像解析技術により画像に写る物体の名称若しくは種別等を取得する方法は公知であるため、詳細な説明を省略する。
表示装置60は、入力された表示画像情報が示す表示画像を表示するディスプレイ又はプロジェクタ等の表示出力機器であって、画像検索装置100が出力する表示画像情報を受けて、当該表示画像情報が示す表示画像を表示する。
図2は、実施の形態1に係る画像検索装置100の要部の構成の一例を示すブロック図である。
画像検索装置100は、操作取得部101、第1メタデータ取得部110、第2メタデータ取得部120、画像データ取得部130、表示画像生成部140、及び、表示画像出力部199を備える。
画像検索装置100は、上述の構成に加えて、選択群取得部150、優先度取得部160、最大個数取得部170、及び、優先度変更部180等を備えるものであっても良い。
実施の形態1では、画像検索装置100は、操作取得部101、第1メタデータ取得部110、第2メタデータ取得部120、画像データ取得部130、表示画像生成部140、選択群取得部150、優先度取得部160、最大個数取得部170、優先度変更部180、及び、表示画像出力部199を備えるものとして説明する。
具体的には、例えば、操作取得部101は、操作入力装置50が出力する操作情報を取得する。
第1メタデータ取得部110は、操作取得部101が取得した操作情報から第1メタデータを取得する。
第1メタデータは、ユーザ操作により指定された情報であって、期間を示す期間情報、位置を示す位置情報、撮像装置情報、イベント情報、又は、物体情報等である。
ここでいう関連とは、類似又は近傍等を意味する。
なお、1以上の第2メタデータのうちの1つは、第1メタデータに相当するものである。
より具体的には、例えば、第1メタデータである期間情報が示す期間がある日の1日間である場合、第2メタデータ取得部120は、第1メタデータである期間情報が示す日の近傍である当該日の3日前の1日間、当該日の2日前の1日間、当該日の1日前の1日間、当該日の当日の1日間、当該日の1日後の1日間、当該日の2日後の1日間、及び、当該日の3日後の1日間のそれぞれを示す7個の第2メタデータを取得する。
具体的には、例えば、第1メタデータである位置情報が示す位置がある都市である場合、第2メタデータ取得部120は、第1メタデータである位置情報が示す都市の近傍にある1以上の都市のそれぞれを示す1以上の第2メタデータを取得する。第2メタデータ取得部120は、1以上の第2メタデータのうちの1つとして、第1メタデータである位置情報に相当する第2メタデータを取得しても良い。
また、例えば、第1メタデータが監視カメラ等の予め定められた位置に固定された撮像装置10を示す撮像装置情報である場合、第2メタデータ取得部120は、第1メタデータである撮像装置情報が示す撮像装置10が固定された位置に対して、空間的に近傍の位置に固定された他の1以上の撮像装置10のそれぞれを示す1以上の第2メタデータを取得する。第2メタデータ取得部120は、1以上の第2メタデータのうちの1つとして、第1メタデータである撮像装置情報に相当する第2メタデータを取得しても良い。
第2メタデータ取得部120は、1以上の第2メタデータのうちの1つとして、第1メタデータであるイベント情報に相当する第2メタデータを取得しても良い。
メタデータ記憶装置40は、SSD又はHDD等の記憶媒体を備えた記憶装置である。
具体的には、例えば、メタデータ記憶装置40は、メタデータベースを備え、互いに関連する1以上のメタデータを1つのメタデータグループに対応付けて記憶する。
図3は、実施の形態1に係るメタデータ記憶装置40が備えるメタデータベースに登録された内容の一例を説明するための説明図である。
図3に示すように、メタデータベースには、車両グループ、監視カメラグループ、又は、センサイベントグループ等のメタデータグループが、予め登録されている。
同様に、メタデータベースには、互いに監視カメラであるという点において共通する第1撮像装置11、又は、第2撮像装置12等のそれぞれを示すメタデータが、メタデータベースに予め登録された監視カメラグループに対応付けられて、予め登録されている。
同様に、メタデータベースには、互いに監視カメラである第1撮像装置11、又は、第2撮像装置12等が撮影する際のトリガとなるセンサイベントであるという点において共通する第1イベント、又は、第2イベント等のそれぞれを示すメタデータが、メタデータベースに予め登録されたセンサイベントグループに対応付けられて、予め登録されている。
なお、図3に示すメタデータベースに登録された内容のうち、優先度については、後述する。
具体的には、第1メタデータが普通自動車を示すメタデータである場合、第2メタデータ取得部120は、普通自動車を示すメタデータが対応付けられている車両グループに対応付けられた1以上のメタデータである普通自動車、軽自動車、トラック、バス、自動二輪車、又は、自転車等のそれぞれを示すメタデータを、第2メタデータとして取得する。
具体的には、画像データ取得部130は、1以上の第2メタデータのそれぞれに該当する画像メタデータに対応する1以上の画像データを、第2メタデータ毎に画像記憶装置30から読み出すことにより取得し、第2メタデータのそれぞれについて取得した1以上の画像データを1つの画像データ群とする。
具体的には、表示画像生成部140は、画像データ取得部130が取得した1以上の画像データ群のそれぞれを表す画像群画像を生成する。
例えば、表示画像生成部140は、1以上の画像データ群のそれぞれについて、画像データ群に含まれる1以上の画像データのうち、画像データ群を代表する1以上の画像データを用いて、画像データ群毎に画像データ群を表す画像群画像を生成する。画像データ群に含まれる1以上の画像データのうち、画像群画像を生成するために用いる画像データ群を代表する1以上の画像データを選択する方法は、周知であるため説明を省略する。
更に、表示画像生成部140は、生成した1以上の画像群画像を並べた表示画像を生成する。
表示画像出力部199は、表示画像生成部140が生成した表示画像を表示画像情報として出力する。
ユーザは、表示装置60に表示される表示画像を視覚的に確認することにより、最初に入力された検索条件である第1メタデータが正確なものでない場合であっても、所望の画像を探し当てることができる。
例えば、表示画像生成部140は、優先度が高い第2メタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像の大きさを、優先度が低い第2メタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像の大きさと比較して、大きく生成する。
また、例えば、表示画像生成部140は、優先度が高い第2メタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像を、優先度が低い第2メタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像と比較して、表示装置60の表示画面における左方又は上方に位置させるように、1以上の画像群画像を並べた表示画像を生成する。
具体的には、例えば、優先度は、図3に示すように、メタデータ記憶装置40が備えるメタデータベースにおいて、メタデータベースに登録された1以上のメタデータのそれぞれに対応付けられて予め登録されている。優先度取得部160は、例えば、第2メタデータ取得部120が取得する1以上の第2メタデータのそれぞれに対応付けられて予め付与された優先度を、メタデータ記憶装置40が備えるメタデータベースを用いて検索することにより取得する。
具体的には、例えば、最大個数は、メタデータ記憶装置40に予め記憶されている。最大個数取得部170は、例えば、表示画像生成部140が生成する表示画像に並べる画像群画像の最大個数を、メタデータ記憶装置40から読み出すことにより取得する。最大個数は、予め最大個数取得部170が有していても良い。
図4に示す表示画像200は、一例として、メタデータベースに登録されたメタデータ及び優先度が図3に示すものである場合、且つ、第1メタデータが普通自動車を示すメタデータであり、最大個数取得部170が取得する最大個数が5である場合において、表示画像生成部140が生成したものである。
第1メタデータが普通自動車を示すメタデータであるため、例えば、第2メタデータは、図3に示すように、普通自動車、軽自動車、トラック、バス、自動二輪車、及び、自転車等のそれぞれを示すメタデータとなる。
図4に示す表示画像200は、普通自動車、軽自動車、トラック、バス、自動二輪車、及び、自転車等のそれぞれを示すメタデータのうち、優先度が最も高い普通自動車から優先度が5番に高いトラックまでの5個のメタデータのそれぞれに該当する画像メタデータに対応する画像データ群を表す5個の画像群画像201,202,203,204,205を有している。
また、画像群画像202は、優先度が2番に高い自動二輪車を示すメタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像であり、当該画像データ群に含まれる1個の画像データに基づいて生成されている。
同様に、画像群画像203は、優先度が3番に高い自転車を示すメタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像、画像群画像204は、優先度が4番に高いトラックを示すメタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像、及び、画像群画像205は、優先度が4番に高い軽自動車を示すメタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像である。
このように構成することにより、画像検索装置100は、表示画像生成部140が画像群画像を生成する必要のない第2メタデータに該当する画像メタデータに対応する画像データ群を取得する必要がなくなる。そのため、画像検索装置100は、表示装置60に表示画像情報を出力するまでに掛かる時間を削減することができる。
具体的には、例えば、ユーザは、表示装置60を介してユーザに提供さえれた図4に示す表示画像200が有する1以上の画像群画像である5個の画像群画像201,202,203,204,205のうち、1個以上の画像群画像を選択するユーザ操作を、操作入力装置50を用いて行う。操作取得部101は、当該ユーザ操作を示す操作情報を操作入力装置50から取得する。選択群取得部150は、このようにして、操作取得部101が取得した操作情報から選択群情報を取得する。
このように構成することにより、画像検索装置100は、ユーザが最初に入力した検索条件が正確なものでない場合であっても、ユーザが所望の画像を検索できるようにすることができる。
具体的には、優先度変更部180は、優先度取得部160が取得する1以上の優先度のうち、選択群取得部150が取得した選択群情報が示す画像データ群に対応する画像メタデータに相当する第2メタデータに対応付けられて予め付与された優先度を変更する。
このように構成することにより、画像検索装置100は、ユーザが最初に入力した検索条件が正確なものでない場合であっても、ユーザが所望の画像を検索できるようにすることができるようにしつつ、ユーザが過去に一覧表示させた画像データ群に対応する画像メタデータに相当するメタデータの優先度を高くすることにより、ユーザが所望の画像をより検索しやすくすることができる。
当該図を参照して、実施の形態1に係る画像検索装置100の要部のハードウェア構成について説明する。
図6A及び図6Bは、実施の形態1に係る画像検索装置100の処理の一例を説明するフローチャートであり、図6Aは、実施の形態1に係る画像検索装置100の処理の一部を示し、図6Bは、実施の形態1に係る画像検索装置100の処理の残部を示すものである。
画像検索装置100は、図6A及び図6Bに示すフローチャートの処理を繰り返し実行する。
次に、ステップST602にて、第1メタデータ取得部110は、操作情報が第1メタデータを指定する操作情報であるか否かを判定する。
ステップST602にて、第1メタデータ取得部110が、操作情報が第1メタデータを指定する操作情報でないと判定した場合については後述する。
ステップST602にて、第1メタデータ取得部110が、操作情報が第1メタデータを指定する操作情報であると判定した場合、ステップST603にて、第1メタデータ取得部110は、操作情報から第1メタデータを取得する。
ステップST611にて、第2メタデータ取得部120が第2メタデータを検索した結果、第2メタデータ取得部120が第1メタデータに相当する第2メタデータが存在しないと判定した場合、ステップST621にて、第2メタデータ取得部120は、メタデータ記憶装置40が有するメタデータベースに第1メタデータに相当するメタデータを新規に追加登録する。なお、第2メタデータ取得部120は、がメタデータを新規に追加登録する際に、当該メタデータに対応する優先度を0等の予め定められた値として登録しても良い。
ステップST621の後、ステップST622にて、第2メタデータ取得部120は、第1メタデータを第2メタデータとして取得する。
ステップST611にて、第2メタデータ取得部120が第2メタデータを検索した結果、第1メタデータに相当する第2メタデータが1以上存在すると判定した場合、ステップST612にて、第2メタデータ取得部120は、当該1以上の第2メタデータを取得する。
ステップST631の後、ステップST632にて、最大個数取得部170は、表示画像に並べる画像群画像の最大個数を取得する。
ステップST632の後、ステップST633にて、画像データ取得部130は、1以上の第2メタデータのそれぞれに該当する画像メタデータに対応する1以上の画像データである画像データ群を第2メタデータ毎に取得する。なお、画像データ取得部130は、ステップST633において、優先度取得部160が取得する優先度に基づいて、最大個数取得部170が取得する最大個数を上限とする第2メタデータについて、画像データ群を取得しても良い。
ステップST634の後、ステップST635にて、表示画像生成部140は、ステップST634にて表示画像生成部140が生成した1以上の画像群画像を並べた表示画像を生成する。なお、表示画像生成部140は、ステップST635において、優先度取得部160が取得する優先度に基づいて、最大個数取得部170が取得する最大個数を上限とする画像群画像を並べた表示画像を生成しても良い。
ステップST636の後、画像検索装置100は、図6A及び図6Bに示すフローチャートの処理を終了し、画像検索装置100は、ステップST601の処理に戻って図6A及び図6Bに示すフローチャートの処理を繰り返し実行する。
当該場合、ステップST641にて、選択群取得部150は、表示画像出力部199が直前に出力した表示画像情報が、1以上の画像群画像を並べた表示画像を示す表示画像情報であるか否かを判定する。
ステップST641にて、選択群取得部150が、直前に出力された表示画像情報が、1以上の画像群画像を並べた表示画像を示す表示画像情報でないと判定した場合、画像検索装置100は、図6A及び図6Bに示すフローチャートの処理を終了し、画像検索装置100は、ステップST601の処理に戻って図6A及び図6Bに示すフローチャートの処理を繰り返し実行する。
ステップST642にて、選択群取得部150が、操作情報が選択群情報でないと判定した場合、画像検索装置100は、図6A及び図6Bに示すフローチャートの処理を終了し、画像検索装置100は、ステップST601の処理に戻って図6A及び図6Bに示すフローチャートの処理を繰り返し実行する。
ステップST643の後、ステップST644にて、優先度変更部180は、選択群情報が示す画像データ群に対応する画像メタデータに相当する第2メタデータに対応付けられて予め付与された優先度を変更する。
ステップST645の後、ステップST646にて、表示画像出力部199は、表示画像生成部140が生成した表示画像を表示画像情報として出力する。
ステップST646の後、画像検索装置100は、図6A及び図6Bに示すフローチャートの処理を終了し、画像検索装置100は、ステップST601の処理に戻って図6A及び図6Bに示すフローチャートの処理を繰り返し実行する。
このように構成することで、画像検索装置100は、最初に入力された検索条件に該当する画像だけでなく、関連する画像も検索することができる。そのため、画像検索装置100は、最初に入力された検索条件が正確なものでない場合であっても、所望の画像を検索することができる。したがって、ユーザは、ユーザが最初に入力する検索条件が正確なものでない場合であっても、所望の画像を検索することができる。
このように構成することで、画像検索装置100は、最初に入力された検索条件が正確なものでない場合であっても、所望の画像を検索することができる。そのため、ユーザは、ユーザが最初に入力する検索条件が正確なものでない場合であっても、所望の画像を検索することができる。
このように構成することで、画像検索装置100は、最初に入力された検索条件が正確なものでない場合であっても、所望の画像を検索することができるようにしつつ、優先度が高い第2メタデータに該当する画像メタデータに対応する画像データ群を、優先度が低い第2メタデータに該当する画像メタデータに対応する画像データ群と比較して、視覚的に目立たせるようにした表示画像を、表示装置60を介してユーザに提供することができる。
このように構成することで、画像検索装置100は、最初に入力された検索条件が正確なものでない場合であっても、所望の画像を検索することができるようにしつつ、優先度が高い第2メタデータに該当する画像メタデータに対応する画像データ群を表す画像群画像について、予め定められた個数だけ表示される表示画像を、表示装置60を介してユーザに提供することができる。
このように構成することで、画像検索装置100は、表示画像生成部140が画像群画像を生成する必要のない第2メタデータに該当する画像メタデータに対応する画像データ群を取得する必要がなくなる。そのため、画像検索装置100は、表示装置60に表示画像情報を出力するまでに掛かる時間を削減することができる。
このように構成することで、画像検索装置100は、ユーザが最初に入力した検索条件が正確なものでない場合であっても、ユーザが所望の画像を検索できるようにすることができるようにしつつ、ユーザが過去に一覧表示させた画像データ群に対応する画像メタデータに相当するメタデータの優先度を高くすることにより、ユーザが所望の画像をより検索しやすくすることができる。
図7並びに図8A及び図8Bを参照して、実施の形態2に係る画像検索装置100aについて説明する。
実施の形態2に係る画像検索装置100aが適用された画像検索システム1a(不図示)は、図1に一例として示す実施の形態1に係る画像検索システム1が備える画像検索装置100が、画像検索装置100aに変更されたものに過ぎない。そのため、実施の形態2に係る画像検索システム1aの要部の構成の一例を示すブロック図の記載については省略する。また、画像検索システム1aが、実施の形態1に係る画像検索システム1と同様に備える撮像装置10、画像蓄積装置20、画像記憶装置30、メタデータ記憶装置40、操作入力装置50、表示装置60、及び、ネットワーク70の説明については省略する。
実施の形態1では、ユーザが最初に入力する検索条件である第1メタデータが、1個の場合について説明したが、ユーザが最初に入力する第1メタデータは、1個に限定されるものではなく、2個以上であっても良い。
実施の形態2では、一例として、ユーザが最初に入力する第1メタデータが、2個の場合について説明する。
図7は、実施の形態2に係る画像検索装置100aの要部の構成の一例を示すブロック図である。
画像検索装置100aは、操作取得部101、第1メタデータ取得部110a、第2メタデータ取得部120a、画像データ取得部130a、表示画像生成部140a、及び、表示画像出力部199を備える。
画像検索装置100aは、上述の構成に加えて、選択群取得部150、優先度取得部160a、最大個数取得部170、及び、優先度変更部180a等を備えるものであっても良い。
実施の形態2に係る画像検索装置100aは、操作取得部101、第1メタデータ取得部110a、第2メタデータ取得部120a、画像データ取得部130a、表示画像生成部140a、選択群取得部150、優先度取得部160a、最大個数取得部170、優先度変更部180a、及び、表示画像出力部199を備えるものとして説明する。
画像検索装置100aの構成において、実施の形態1に係る画像検索装置100と同様の構成については、説明を省略する。
なお、実施の形態2において、第1メタデータ取得部110aが取得する2個の第1メタデータは、AND条件であるものとする。
また、第1メタデータ取得部110aが取得する第1メタデータの個数は、2個に限定されるものではなく3個以上であっても良い。
実施の形態2では、第1メタデータ取得部110aが第1撮像装置11を示すメタデータと、第1イベントを示すメタデータとを2個の第1メタデータとして取得するものとして説明する。
具体的には、例えば、第2メタデータ取得部120aは、第1メタデータ取得部110が取得した2個の第1メタデータのそれぞれについて、第1メタデータに関連する1以上の第2メタデータを取得する。
第2メタデータ取得部120aが第1メタデータに関連する1以上の第2メタデータを取得する方法は、実施の形態1に係る第2メタデータ取得部120が第1メタデータに関連する1以上の第2メタデータを取得する方法と同様であるため説明を省略する。
以下、実施の形態2では、メタデータ記憶装置40が備えるメタデータベースに登録されているメタデータが図3に示すメタデータと同様であるものとして説明すする。
第2メタデータ取得部120aは、第1撮像装置11を示す第1メタデータに関連する第2メタデータとして、第1撮像装置11を示すメタデータと、第2撮像装置12を示すメタデータとを取得する。また、第2メタデータ取得部120aは、第1イベントを示す第1メタデータに関連する第2メタデータとして、第1イベントを示すメタデータと、第2イベントを示すメタデータとを取得する。
画像データ取得部130aは、生成した4個の第2メタデータ組のそれぞれに該当する画像メタデータに対応する画像データ群を第2メタデータ組毎に取得する。
更に、表示画像生成部140aは、生成した1以上の画像群画像を並べた表示画像を生成する。
また、表示画像生成部140aは、優先度取得部160aが取得する第2メタデータの優先度に基づく第2メタデータ組の優先度と、最大個数取得部170が取得する最大個数とを用いて、生成する1以上の画像群画像のそれぞれの態様、又は、生成した1以上の画像群画像を並べる態様を決定し、決定した態様に基づいて、1以上の画像群画像を並べた表示画像を生成しても良い。
1以上の画像群画像のそれぞれの態様、及び、1以上の画像群画像を並べる態様については、実施の形態1で説明したため、説明を省略する。
より具体的には、例えば、優先度変更部180aは、優先度取得部160aが取得する複数の第2メタデータのそれぞれの優先度のうち、選択群取得部150が取得した選択群情報が示す画像データ群に対応する画像メタデータに相当する複数の第2メタデータのそれぞれに対応付けられた優先度であって、メタデータ記憶装置40が有するメタデータベースに予め登録された優先度を、より高い優先度になるように変更する。
図8A及び図8Bは、実施の形態2に係る画像検索装置100aの処理の一例を説明するフローチャートであり、図8Aは、実施の形態2に係る画像検索装置100aの処理の一部を示し、図8Bは、実施の形態2に係る画像検索装置100aの処理の残部を示すものである。
画像検索装置100aは、図8A及び図8Bに示すフローチャートの処理を繰り返し実行する。
次に、ステップST802にて、第1メタデータ取得部110aは、操作情報が第1メタデータを指定する操作情報であるか否かを判定する。
ステップST802にて、第1メタデータ取得部110aが、操作情報が第1メタデータを指定する操作情報でないと判定した場合については後述する。
ステップST802にて、第1メタデータ取得部110aが、操作情報が第1メタデータを指定する操作情報であると判定した場合、ステップST803にて、第1メタデータ取得部110aは、操作情報から第1メタデータを取得する。
実施の形態2では、第1メタデータ取得部110aは、複数の第1メタデータを取得したものとして説明する。なお、第1メタデータ取得部110aが1個の第1メタデータを取得した場合については、上述の実施の形態1にて説明したため省略する。
ステップST811にて、第2メタデータ取得部120aは、第1メタデータに基づいて第2メタデータを検索して、第1メタデータに相当する第2メタデータが存在するか否かを判定する。
ステップST811にて、第2メタデータ取得部120aが第2メタデータを検索した結果、第2メタデータ取得部120aが第1メタデータに相当する第2メタデータが存在しないと判定した場合、ステップST821にて、第2メタデータ取得部120aは、メタデータ記憶装置40が有するメタデータベースに第1メタデータに相当するメタデータを新規に追加登録する。なお、第2メタデータ取得部120aは、がメタデータを新規に追加登録する際に、当該メタデータに対応する優先度を0等の予め定められた値として登録しても良い。
ステップST821の後、ステップST822にて、第2メタデータ取得部120aは、第1メタデータを第2メタデータとして取得する。
ステップST811にて、第2メタデータ取得部120aが第2メタデータを検索した結果、第1メタデータに相当する第2メタデータが1以上存在すると判定した場合、ステップST812にて、第2メタデータ取得部120aは、当該1以上の第2メタデータを取得する。
ステップST813にて、画像データ取得部130aは、1以上の第2メタデータ組を生成する。
ステップST813の後、ステップST831にて、優先度取得部160aは、複数の第2メタデータのそれぞれに対応する優先度を取得して、1以上の第2メタデータ組のそれぞれの優先度を算出する。
ステップST831の後、ステップST832にて、最大個数取得部170は、表示画像に並べる画像群画像の最大個数を取得する。
ステップST832の後、ステップST833にて、画像データ取得部130aは、1以上の第2メタデータ組のそれぞれに該当する画像メタデータに対応する1以上の画像データである画像データ群を第2メタデータ組毎に取得する。なお、画像データ取得部130aは、ステップST833において、優先度取得部160aが取得する優先度に基づいて、最大個数取得部170が取得する最大個数を上限とする第2メタデータ組について、画像データ群を取得しても良い。
ステップST834の後、ステップST835にて、表示画像生成部140aは、ステップST834にて表示画像生成部140aが生成した1以上の画像群画像を並べた表示画像を生成する。なお、表示画像生成部140aは、ステップST835において、優先度取得部160aが取得する優先度に基づいて、最大個数取得部170が取得する最大個数を上限とする画像群画像を並べた表示画像を生成しても良い。
ステップST836の後、画像検索装置100aは、図8A及び図8Bに示すフローチャートの処理を終了し、画像検索装置100aは、ステップST801の処理に戻って図8A及び図8Bに示すフローチャートの処理を繰り返し実行する。
当該場合、ステップST841にて、選択群取得部150は、表示画像出力部199が直前に出力した表示画像情報が、1以上の画像群画像を並べた表示画像を示す表示画像情報であるか否かを判定する。
ステップST841にて、選択群取得部150が、直前に出力された表示画像情報が、1以上の画像群画像を並べた表示画像を示す表示画像情報でないと判定した場合、画像検索装置100aは、図8A及び図8Bに示すフローチャートの処理を終了し、画像検索装置100aは、ステップST801の処理に戻って図8A及び図8Bに示すフローチャートの処理を繰り返し実行する。
ステップST842にて、選択群取得部150が、操作情報が選択群情報でないと判定した場合、画像検索装置100aは、図8A及び図8Bに示すフローチャートの処理を終了し、画像検索装置100aは、ステップST801の処理に戻って図8A及び図8Bに示すフローチャートの処理を繰り返し実行する。
ステップST843の後、ステップST844にて、優先度変更部180aは、選択群情報が示す画像データ群に対応する画像メタデータに相当する第2メタデータ組に含まれる第2メタデータに対応付けられて予め付与された優先度を変更する。
ステップST845の後、ステップST846にて、表示画像出力部199は、表示画像生成部140aが生成した表示画像を表示画像情報として出力する。
ステップST846の後、画像検索装置100aは、図8A及び図8Bに示すフローチャートの処理を終了し、画像検索装置100aは、ステップST801の処理に戻って図8A及び図8Bに示すフローチャートの処理を繰り返し実行する。
図9並びに図10A及び図10Bを参照して、実施の形態3に係る画像検索装置100bについて説明する。
実施の形態3に係る画像検索装置100bが適用された画像検索システム1b(不図示)は、図1に一例として示す実施の形態1に係る画像検索システム1が備える画像検索装置100が、画像検索装置100bに変更されたものに過ぎない。そのため、実施の形態3に係る画像検索システム1bの要部の構成の一例を示すブロック図の記載については省略する。また、画像検索システム1bが、実施の形態1に係る画像検索システム1と同様に備える撮像装置10、画像蓄積装置20、画像記憶装置30、メタデータ記憶装置40、操作入力装置50、表示装置60、及び、ネットワーク70の説明については省略する。
図9は、実施の形態3に係る画像検索装置100bの要部の構成の一例を示すブロック図である。
画像検索装置100bは、操作取得部101、第1メタデータ取得部110、第2メタデータ取得部120b、画像データ取得部130、表示画像生成部140、選択群取得部150、優先度取得部160b、最大個数取得部170、優先度変更部180b、カテゴリ取得部190、及び、表示画像出力部199を備える。
画像検索装置100bの構成において、実施の形態1に係る画像検索装置100と同様の構成については、説明を省略する。
なお、実施の形態3では、画像検索装置100bは、実施の形態1に係る画像検索装置100を変形したものとして説明するが、実施の形態2に係る画像検索装置100aを変形したものであっても良い。すなわち、画像検索装置100bは、実施の形態2に係る画像検索装置100aと比較して、実施の形態2に係る画像検索装置100aが備えていないカテゴリ取得部190を備え、実施の形態2に係る画像検索装置100aが備える第2メタデータ取得部120a、優先度取得部160a、及び、優先度変更部180aが、第2メタデータ取得部120b、優先度取得部160b、優先度変更部180bに変更されたものであっても良い。
上述のユーザ分類、撮像装置分類、又は、撮像装置組分類等は、カテゴリ分類の一例に過ぎず、カテゴリ分類は、ユーザ分類、撮像装置分類、又は、撮像装置組分類等に限定されるものではない。例えば、カテゴリ分類は、撮像装置10が監視カメラである場合、1以上の監視領域のそれぞれを示す監視領域識別情報による監視領域分類であっても良い。
カテゴリ取得部190は、例えば、操作取得部101が取得する操作情報からカテゴリ情報を取得する。
第2メタデータ取得部120bは、カテゴリ取得部190が取得するカテゴリ情報が示すカテゴリ分類に対応するメタデータベースを用いて、第1メタデータ取得部110が取得した第1メタデータに関連する1以上の第2メタデータを、メタデータ記憶装置40から読み出すことにより取得する。
また、例えば、撮像装置10毎に対応するメタデータベースを予め用意し、画像検索装置100bが、カテゴリ分類情報が示すカテゴリ分類である撮像装置10に対応するメタデータベースを用いて第2メタデータを取得することにより、画像検索装置100bを使用するユーザは、所望する画像を発見しやすくなる。
また、例えば、撮像装置組毎に対応するメタデータベースを予め用意し、画像検索装置100bが、カテゴリ分類情報が示すカテゴリ分類である撮像装置組に対応するメタデータベースを用いて第2メタデータを取得することにより、画像検索装置100bを使用するユーザは、所望する画像を発見しやすくなる。
優先度変更部180bは、選択群取得部150が取得した選択群情報が示す画像データ群に対応する画像メタデータに相当する第2メタデータに対応付けられた優先度であって、該カテゴリ情報が示すカテゴリ分類に対応するメタデータベースに予め登録された優先度を、より高い優先度になるように変更する。
図10A及び図10Bは、実施の形態3に係る画像検索装置100bの処理の一例を説明するフローチャートであり、図10Aは、実施の形態3に係る画像検索装置100bの処理の一部を示し、図10Bは、実施の形態3に係る画像検索装置100bの処理の残部を示すものである。
画像検索装置100bは、図10A及び図10Bに示すフローチャートの処理を繰り返し実行する。
ステップST1000の後、ステップST1001にて、操作取得部101は、操作情報を取得する。
次に、ステップST1002にて、第1メタデータ取得部110は、操作情報が第1メタデータを指定する操作情報であるか否かを判定する。
ステップST1002にて、第1メタデータ取得部110が、操作情報が第1メタデータを指定する操作情報でないと判定した場合については後述する。
ステップST1002にて、第1メタデータ取得部110が、操作情報が第1メタデータを指定する操作情報であると判定した場合、ステップST1003にて、第1メタデータ取得部110は、操作情報から第1メタデータを取得する。
ステップST1011にて、第2メタデータ取得部120bが第2メタデータを検索した結果、第2メタデータ取得部120bが第1メタデータに相当し、且つ、当該カテゴリ分類に属する第2メタデータが存在しないと判定した場合、ステップST1021にて、第2メタデータ取得部120bは、当該カテゴリ分類に対応するメタデータベースに、第1メタデータに相当するメタデータを新規に追加登録する。なお、第2メタデータ取得部120bは、がメタデータを新規に追加登録する際に、当該メタデータに対応する優先度を0等の予め定められた値として登録しても良い。
ステップST1021の後、ステップST1022にて、第2メタデータ取得部120bは、第1メタデータを第2メタデータとして取得する。
ステップST1011にて、第2メタデータ取得部120bが第2メタデータを検索した結果、第1メタデータに相当し、且つ、当該カテゴリ分類に属する第2メタデータが1以上存在すると判定した場合、ステップST1012にて、第2メタデータ取得部120bは、当該1以上の第2メタデータを取得する。
ステップST1031の後、ステップST1032にて、最大個数取得部170は、表示画像に並べる画像群画像の最大個数を取得する。
ステップST1032の後、ステップST1033にて、画像データ取得部130は、1以上の第2メタデータのそれぞれに該当する画像メタデータに対応する1以上の画像データである画像データ群を第2メタデータ毎に取得する。なお、画像データ取得部130は、ステップST1033において、優先度取得部160bが取得する優先度に基づいて、最大個数取得部170が取得する最大個数を上限とする第2メタデータについて、画像データ群を取得しても良い。
ステップST1034の後、ステップST1035にて、表示画像生成部140は、ステップST1034にて表示画像生成部140が生成した1以上の画像群画像を並べた表示画像を生成する。なお、表示画像生成部140は、ステップST1035において、優先度取得部160bが取得する優先度に基づいて、最大個数取得部170が取得する最大個数を上限とする画像群画像を並べた表示画像を生成しても良い。
ステップST1036の後、画像検索装置100bは、図10A及び図10Bに示すフローチャートの処理を終了し、画像検索装置100bは、ステップST1001の処理に戻って図10A及び図10Bに示すフローチャートの処理を繰り返し実行する。
当該場合、ステップST1041にて、選択群取得部150は、表示画像出力部199が直前に出力した表示画像情報が、1以上の画像群画像を並べた表示画像を示す表示画像情報であるか否かを判定する。
ステップST1041にて、選択群取得部150が、直前に出力された表示画像情報が、1以上の画像群画像を並べた表示画像を示す表示画像情報でないと判定した場合、画像検索装置100bは、図10A及び図10Bに示すフローチャートの処理を終了し、画像検索装置100bは、ステップST1001の処理に戻って図10A及び図10Bに示すフローチャートの処理を繰り返し実行する。
ステップST1042にて、選択群取得部150が、操作情報が選択群情報でないと判定した場合、画像検索装置100bは、図10A及び図10Bに示すフローチャートの処理を終了し、画像検索装置100bは、ステップST1001の処理に戻って図10A及び図10Bに示すフローチャートの処理を繰り返し実行する。
ステップST1043の後、ステップST1044にて、優先度変更部180bは、選択群情報が示す画像データ群に対応する画像メタデータに相当し、且つ、カテゴリ情報が示すカテゴリ分類に属する第2メタデータに対応付けられて予め付与された優先度を変更する。
ステップST1045の後、ステップST1046にて、表示画像出力部199は、表示画像生成部140が生成した表示画像を表示画像情報として出力する。
ステップST1046の後、画像検索装置100bは、図10A及び図10Bに示すフローチャートの処理を終了し、画像検索装置100bは、ステップST1001の処理に戻って図10A及び図10Bに示すフローチャートの処理を繰り返し実行する。
また、画像検索装置100bは、第2メタデータを取得する際に、第1メタデータに関連するメタデータのうち、カテゴリ情報が示すカテゴリ分類に属する1以上のメタデータを第2メタデータとして取得するようにしたため、ユーザは、所望の画像を発見しやすくなる。
Claims (9)
- ユーザ操作に基づく操作情報を取得する操作取得部と、
前記操作取得部が取得した前記操作情報から第1メタデータを取得する第1メタデータ取得部と、
前記第1メタデータ取得部が取得した前記第1メタデータに基づいて、前記第1メタデータに関連する1以上の第2メタデータを取得する第2メタデータ取得部と、
前記第2メタデータ取得部が取得する1以上の前記第2メタデータに基づいて、前記第2メタデータのそれぞれに該当する画像メタデータに対応する1以上の画像データである画像データ群を前記第2メタデータ毎に取得する画像データ取得部と、
表示画像を生成する表示画像生成部であって、前記画像データ取得部が取得した1以上の前記画像データ群のそれぞれを表す画像群画像を生成し、生成した1以上の前記画像群画像を並べた前記表示画像を生成する前記表示画像生成部と、
前記表示画像生成部が生成した前記表示画像を表示画像情報として出力する表示画像出力部と、
を備えたこと
を特徴とする画像検索装置。 - 前記操作取得部が取得した前記操作情報から、前記画像データ取得部が取得した1以上の前記画像データ群のうち、選択された前記画像データ群がいずれであるかを示す選択群情報を取得する選択群取得部を備え、
前記表示画像生成部は、前記選択群取得部が取得した前記選択群情報が示す前記画像データ群に含まれる1以上の前記画像データが示す画像を並べた前記表示画像を生成すること
を特徴とする請求項1記載の画像検索装置。 - 前記第2メタデータ取得部が取得する1以上の前記第2メタデータのそれぞれに対応付けられて予め付与された優先度を取得する優先度取得部を備え、
前記表示画像生成部は、前記優先度取得部が取得する前記優先度に用いて、生成する1以上の前記画像群画像のそれぞれの態様、又は、生成した1以上の前記画像群画像を並べる態様を決定し、決定した態様に基づいて、1以上の前記画像群画像を並べた前記表示画像を生成すること
を特徴とする請求項1記載の画像検索装置。 - 前記第2メタデータ取得部が取得する1以上の前記第2メタデータのそれぞれに対応付けられて予め付与された優先度を取得する優先度取得部を備え、
前記表示画像生成部が生成する前記表示画像に並べる前記画像群画像の最大個数を取得する最大個数取得部を備え、
前記表示画像生成部は、前記優先度取得部が取得する前記優先度と、前記最大個数取得部が取得する前記最大個数とを用いて、生成する1以上の前記画像群画像のそれぞれの態様、又は、生成した1以上の前記画像群画像を並べる態様を決定し、決定した態様に基づいて、1以上の前記画像群画像を並べた前記表示画像を生成すること
を特徴とする請求項1記載の画像検索装置。 - 前記第2メタデータ取得部が取得する1以上の前記第2メタデータのそれぞれに対応付けられて予め付与された優先度を取得する優先度取得部と、
前記表示画像生成部が生成する前記表示画像に並べる前記画像群画像の最大個数を取得する最大個数取得部と、
を備え、
前記画像データ取得部は、前記第2メタデータ取得部が取得する1以上の前記第2メタデータのうち、前記優先度取得部が取得する前記優先度の高いものから順に、前記最大個数取得部が取得する前記最大個数に相当する数以下の前記第2メタデータを選択し、選択した前記第2メタデータのそれぞれに該当する前記画像メタデータに対応する1以上の前記画像データである前記画像データ群を前記第2メタデータ毎に取得すること
を特徴とする請求項1記載の画像検索装置。 - 前記操作取得部が取得した前記操作情報から、前記画像データ取得部が取得した1以上の前記画像データ群のうち、選択された前記画像データ群がいずれであるかを示す選択群情報を取得する選択群取得部と、
前記第2メタデータ取得部が取得する1以上の前記第2メタデータのそれぞれに対応付けられて予め付与された優先度を取得する優先度取得部と、
前記優先度取得部が取得する前記優先度を変更する優先度変更部と、
を備え、
前記優先度変更部は、前記優先度取得部が取得する1以上の前記優先度のうち、前記選択群取得部が取得した前記選択群情報が示す前記画像データ群に対応する前記画像メタデータに相当する前記第2メタデータに対応付けられて予め付与された前記優先度を変更すること
を特徴とする請求項1記載の画像検索装置。 - カテゴリ分類を示すカテゴリ情報を取得するカテゴリ取得部を備え、
前記第2メタデータ取得部は、前記第1メタデータ取得部が取得した前記第1メタデータと、前記カテゴリ取得部が取得する前記カテゴリ情報とに基づいて、前記第1メタデータに関連するメタデータのうち、前記カテゴリ情報が示す前記カテゴリ分類に属する1以上のメタデータを前記第2メタデータとして取得すること
を特徴とする請求項1記載の画像検索装置。 - 操作取得部が、ユーザ操作に基づく操作情報を取得する操作取得ステップと、
第1メタデータ取得部が、前記操作取得部が取得した前記操作情報から第1メタデータを取得する第1メタデータ取得ステップと、
第2メタデータ取得部が、前記第1メタデータ取得部が取得した前記第1メタデータに基づいて、前記第1メタデータに関連する1以上の第2メタデータを取得する第2メタデータ取得ステップと、
画像データ取得部が、前記第2メタデータ取得部が取得する前記第2メタデータに基づいて、前記第2メタデータのそれぞれに該当する画像メタデータに対応する1以上の画像データである画像データ群を前記第2メタデータ毎に取得する画像データ取得ステップと、
表示画像生成部が表示画像を生成する表示画像生成ステップであって、前記画像データ取得部が取得した1以上の前記画像データ群のそれぞれを表す画像群画像を生成し、生成した1以上の前記画像群画像を並べた前記表示画像を生成する前記表示画像生成ステップと、
表示画像出力部が、前記表示画像生成部が生成した前記表示画像を表示画像情報として出力する表示画像出力ステップと、
を備えたこと
を特徴とする画像検索方法。 - コンピュータに、
ユーザ操作に基づく操作情報を取得する操作取得機能と、
前記操作取得機能により取得された前記操作情報から第1メタデータを取得する第1メタデータ取得機能と、
第1検索取得機能により取得された前記第1メタデータに基づいて、前記第1メタデータに関連する1以上の第2メタデータを取得する第2メタデータ取得機能と、
前記第2メタデータ取得機能により取得された前記第2メタデータに基づいて、前記第2メタデータのそれぞれに該当する画像メタデータに対応する1以上の画像データである画像データ群を前記第2メタデータ毎に取得する画像データ取得機能と、
表示画像を生成する表示画像生成機能であって、前記画像データ取得機能により取得された1以上の前記画像データ群のそれぞれを表す画像群画像を生成し、生成した1以上の前記画像群画像を並べた前記表示画像を生成する前記表示画像生成機能と、
前記表示画像生成機能により生成された前記表示画像を表示画像情報として出力する表示画像出力機能と、
を実現させるための画像検索プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020006539A JP2021114135A (ja) | 2020-01-20 | 2020-01-20 | 画像検索装置、画像検索方法、及び画像検索プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020006539A JP2021114135A (ja) | 2020-01-20 | 2020-01-20 | 画像検索装置、画像検索方法、及び画像検索プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021114135A true JP2021114135A (ja) | 2021-08-05 |
Family
ID=77077086
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020006539A Pending JP2021114135A (ja) | 2020-01-20 | 2020-01-20 | 画像検索装置、画像検索方法、及び画像検索プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021114135A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023282148A1 (ja) | 2021-07-09 | 2023-01-12 | 株式会社日立製作所 | 情報管理システム、情報管理方法、及び情報共有システム |
-
2020
- 2020-01-20 JP JP2020006539A patent/JP2021114135A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023282148A1 (ja) | 2021-07-09 | 2023-01-12 | 株式会社日立製作所 | 情報管理システム、情報管理方法、及び情報共有システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6607271B2 (ja) | 顕著フラグメントへのビデオストリームの分解 | |
CN112560999B (zh) | 一种目标检测模型训练方法、装置、电子设备及存储介质 | |
US9311366B2 (en) | Interactive object retrieval method and system | |
US20160371305A1 (en) | Method, device and apparatus for generating picture search library, and picture search method, device and apparatus | |
US20110087677A1 (en) | Apparatus for displaying result of analogous image retrieval and method for displaying result of analogous image retrieval | |
US20090161963A1 (en) | Method. apparatus and computer program product for utilizing real-world affordances of objects in audio-visual media data to determine interactions with the annotations to the objects | |
CN107766377B (zh) | 一种监控数据查询方法及装置 | |
JPWO2010070804A1 (ja) | 画像検索装置及び画像検索方法 | |
WO2020200146A1 (zh) | 页面信息处理方法、装置及电子设备 | |
WO2014050432A1 (ja) | 情報処理システム、情報処理方法及びプログラム | |
US11860837B2 (en) | Determining inconsistencies in digital evidence | |
CN110879845B (zh) | 生成日志数据的方法、非暂时性计算机可读介质和数据结构 | |
KR20220098030A (ko) | 타깃 운동 궤적 구축 방법, 기기 및 컴퓨터 저장 매체 | |
US20090132467A1 (en) | System and method of organizing images | |
AU2020225135B2 (en) | Video annotation | |
EP3396566A1 (en) | Method, information processing apparatus and program | |
JP2021114135A (ja) | 画像検索装置、画像検索方法、及び画像検索プログラム | |
Ibrahimi et al. | Inside out visual place recognition | |
JP2003256427A (ja) | 画像検索装置 | |
JP5160160B2 (ja) | 車両画像検索方法、そのシステム及びそのプログラム | |
US11500937B1 (en) | Data retrieval system | |
US20080181525A1 (en) | Image evaluation method, apparatus, and program | |
CN115018077A (zh) | 贝叶斯网络的结构学习方法、装置及电子设备 | |
JP2019174989A (ja) | 画像圧縮方法及び画像圧縮装置 | |
TWI534023B (zh) | 一種包含位置資訊之檔案屬性產生方法和相關之行車記錄裝置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220915 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20220915 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230927 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231010 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240404 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240430 |