JP2019220025A - Image processing apparatus and image processing method - Google Patents
Image processing apparatus and image processing method Download PDFInfo
- Publication number
- JP2019220025A JP2019220025A JP2018118196A JP2018118196A JP2019220025A JP 2019220025 A JP2019220025 A JP 2019220025A JP 2018118196 A JP2018118196 A JP 2018118196A JP 2018118196 A JP2018118196 A JP 2018118196A JP 2019220025 A JP2019220025 A JP 2019220025A
- Authority
- JP
- Japan
- Prior art keywords
- human body
- body detection
- area
- image processing
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims 2
- 238000000034 method Methods 0.000 claims abstract description 48
- 238000004590 computer program Methods 0.000 claims description 9
- 238000001514 detection method Methods 0.000 abstract description 246
- 238000003384 imaging method Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 12
- 230000004048 modification Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 238000009434 installation Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Emergency Alarm Devices (AREA)
- Alarm Systems (AREA)
Abstract
Description
本発明は、画像からのオブジェクトの検知技術に関するものである。 The present invention relates to a technique for detecting an object from an image.
従来より、人体検出によって検出された人体の情報に応じてアラートを通知する技術がある。例えば、特許文献1には、検出した人物が単独で作業しているかどうかを判定し、単独で作業している人物が存在したときにアラートを通知する技術が開示されている。特許文献2には、検出した人体の行動に応じて、アラートに優先度をつけて通知する技術が開示されている。
2. Description of the Related Art Conventionally, there is a technique of notifying an alert according to information on a human body detected by human body detection. For example, Patent Literature 1 discloses a technique for determining whether a detected person is working alone and notifying an alert when there is a person working alone.
しかしながら、従来技術では、複数の検出領域での検出人数と検出領域全体の検出人数の合計に閾値が設定されていたとき、どれで閾値以上となったために発生したアラートなのかが分からなかった。 However, in the related art, when a threshold is set for the sum of the number of persons detected in a plurality of detection areas and the number of persons detected in the entire detection area, it is not clear which alert has been generated because the number of persons has exceeded the threshold.
本発明では、設定領域単位で検出数が閾値以上であるのか、設定領域全体で検出数が閾値以上であるのか、をユーザに分かりやすく通知するため技術を提供する。 The present invention provides a technique for notifying a user in an easy-to-understand manner whether the number of detections is equal to or greater than a threshold value in units of a setting area or whether the number of detections is equal to or greater than a threshold in the entire setting area.
本発明の一様態は、撮像画像上の設定領域から検出されたオブジェクトの数が閾値以上の場合には、第1の警告を通知する第1の通知手段と、前記撮像画像上のそれぞれの設定領域から検出されたオブジェクトの数の合計値が閾値以上の場合には、前記第1の警告とは異なる第2の警告を通知する第2の通知手段とを備えることを特徴とする。 One aspect of the present invention is a first notification unit for notifying a first warning when the number of objects detected from a setting area on a captured image is equal to or greater than a threshold value, and setting each setting on the captured image. When the total value of the number of objects detected from the area is equal to or more than a threshold, the apparatus further includes a second notification unit that notifies a second warning different from the first warning.
本発明の構成によれば、設定領域単位で検出数が閾値以上であるのか、設定領域全体で検出数が閾値以上であるのか、をユーザに分かりやすく通知することができる。 According to the configuration of the present invention, it is possible to notify the user in an easy-to-understand manner whether the number of detections is equal to or greater than the threshold value in units of the setting area or whether the number of detections is equal to or greater than the threshold value in the entire setting area.
以下、添付図面を参照し、本発明の実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施形態の1つである。 Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings. The embodiment described below shows an example when the present invention is specifically implemented, and is one of the specific embodiments having the configuration described in the claims.
[第1の実施形態]
本実施形態では、撮像画像における人体検出領域(設定領域)から検出された人体の数が閾値以上の場合と、該撮像画像におけるそれぞれの人体検出領域から検出された人体の数の合計値が閾値以上の場合とで独立した警告(アラート)を通知する。
[First Embodiment]
In the present embodiment, the case where the number of human bodies detected from the human body detection region (set region) in the captured image is equal to or larger than the threshold value, and the total value of the number of human bodies detected from each human body detection region in the captured image is the threshold value An independent warning (alert) is notified in the above cases.
先ず、本実施形態に係るシステムの構成例について図2を用いて説明する。図2に示す如く、本実施形態に係るシステムは、撮像装置202、記憶装置203、画像処理装置200、表示装置201を有し、撮像装置202、記憶装置203、表示装置201は画像処理装置200に接続されている。装置間の接続形態は特定の接続形態に限らない。
First, a configuration example of a system according to the present embodiment will be described with reference to FIG. As shown in FIG. 2, the system according to the present embodiment includes an
先ず、撮像装置202について説明する。撮像装置202は、監視カメラなどのネットワークカメラであり、撮像範囲内を撮像した各フレームの撮像画像を順次、画像処理装置200に対して送信する。撮像装置202が動画像を撮像する装置であれば、該動画像を構成する各フレームの撮像画像を画像処理装置200に対して送信する。また、撮像装置202が定期的若しくは不定期的に静止画像を撮像する装置であれば、該定期的若しくは不定期的に撮像した静止画像のそれぞれを各フレームの撮像画像として画像処理装置200に対して送信する。
First, the
このような撮像装置202には、例えば、デジタルスチルカメラやデジタルビデオカメラ、カメラ機能を備えたスマートフォンやタブレット端末、工業用カメラ、車載カメラ、ウェアラブルカメラ等が適用可能である。
For example, a digital still camera, a digital video camera, a smartphone or a tablet terminal having a camera function, an industrial camera, a vehicle-mounted camera, a wearable camera, or the like can be applied to the
なお、画像処理装置200に各フレームの撮像画像を供給する方法は上記の方法に限らない。例えば、撮像装置202が撮像した各フレームの撮像画像を記憶装置203に格納しておき、該記憶装置203に格納されている各フレームの撮像画像を画像処理装置200に対して供給するようにしても良い。また、撮像装置202が撮像した各フレームの撮像画像を記憶装置203以外の装置(例えばサーバ装置)に一端格納してから、該装置から画像処理装置200に対して該各フレームの撮像画像を送信するようにしても良い。
The method of supplying the captured image of each frame to the
次に、画像処理装置200について説明する。画像処理装置200は、PC(パーソナルコンピュータ)、スマートフォン、タブレット型端末装置などのコンピュータ装置である。画像処理装置200のハードウェア構成例について、図1のブロック図を用いて説明する。
Next, the
CPU100は、ROM101やRAM102に格納されているコンピュータプログラムやデータを用いて画像処理装置200全体の動作制御を行うと共に、画像処理装置200が行うものとして後述する各処理を実行若しくは制御する。ROM101には、画像処理装置200の設定データや起動プログラムなど、書換不要の情報が格納されている。
The
RAM102は、ROM101やストレージ装置103からロードされたコンピュータプログラムやデータ、通信I/F(インターフェース)106を介して外部(撮像装置202や記憶装置203)から受信した撮像画像、を格納するためのエリアを有する。さらにRAM102は、CPU100が各種の処理を実行する際に用いるワークエリアを有する。このようにRAM102は、各種のエリアを適宜提供することができる。
The
ストレージ装置103は、ハードディスクドライブ装置やソリッドステートドライブなどの大容量情報記憶装置である。ストレージ装置103には、OS(オペレーティングシステム)や、画像処理装置200が行うものとして後述する各処理をCPU100に実行若しくは制御させるためのコンピュータプログラムやデータが保存されている。ストレージ装置103に保存されているデータには、以下の説明において既知の情報として取り扱うもの(例えばユーザ204が入力装置104を用いて後述する設定操作により設定する情報)が含まれている。また、ストレージ装置103には、RAM102が保持するものとして上述したデータの一部若しくは全部を保存することもできる。
The
ストレージ装置103に保存されているコンピュータプログラムやデータは、CPU100による制御に従って適宜RAM102にロードされ、CPU100による処理対象となる。
The computer programs and data stored in the
CPU100は、画像処理装置200の電源ON等の起動時、ROM101に格納されている起動用プログラムを実行する。この起動用プログラムは、ストレージ装置103に保存されているOSを読み出し、RAM102に展開するためのものである。CPU100は、OSの起動後、後述する入力装置104を介してユーザ204により本実施形態に係る後述の処理を起動する旨の指示がなされると、ストレージ装置103から本実施形態に係る処理プログラムを読み出してRAM102に展開する。これにより、CPU100は、本実施形態の処理を実行可能な状態となる。また、CPU100は、本実施形態の処理プログラムの動作に用いられる各種データについてもRAM102上に格納して読み書きを行う。
The
入力装置104は、キーボード、マウス、タッチパネル画面などのユーザインターフェースであり、ユーザ204が操作することで各種の指示をCPU100に対して入力することができる。
The
I/F105は、上記の表示装置201を画像処理装置200に接続するためのインターフェースとして機能するものであり、画像処理装置200による処理結果はI/F105を介して表示装置201において画像や文字として表示されることになる。
The I /
通信I/F106は、上記の撮像装置202や記憶装置203を画像処理装置200に接続するためのインターフェースとして機能するものである。撮像装置202や記憶装置203から送信された各フレームの撮像画像は、通信I/F106を介してRAM102やストレージ装置103に格納される。例えば、撮像装置202や記憶装置203をLANを介して画像処理装置200に接続する場合、通信I/F106はLANインターフェースである。なお、通信I/F106には、撮像装置202や記憶装置203以外の装置やネットワークを接続しても良い。
The communication I /
本実施形態の処理プログラムは通信I/F106を介して外部から取得しても良い。また、図2に示した撮像装置202、記憶装置203、表示装置201のうち1つ以上を画像処理装置200と一体化させても良い。
The processing program of the present embodiment may be obtained from outside via the communication I /
また、画像処理装置200と撮像装置202もしくは記憶装置203との間は、LANなどのネットワークデバイス以外に、例えば、USB等により接続されていても構わない。
The
次に、本実施形態に係る画像処理装置200の機能構成例について、図4のブロック図を用いて説明する。以下では、図4の各機能部を処理の主体として説明する場合があるが、実際には、各機能部に対応するコンピュータプログラムをCPU100が実行することで該機能部に対応する機能が実現される。しかし、図4の各機能部はコンピュータプログラムで実装されることに限らず、一部若しくは全部をハードウェアで実装しても良い。
Next, an example of a functional configuration of the
画像取得部400は、ストレージ装置103、撮像装置202、記憶装置203などから撮像画像を取得する。画像取得部400による撮像画像の取得元は特定の取得元に限らない。
The
検出領域取得部401は、該撮像画像上で人体を検出する領域(人体検出領域)を規定する情報(人体検出領域情報)を取得する。本実施形態では、人体検出領域は撮像画像上の複数箇所に設定されるものとする。人体検出領域情報は、それぞれの人体検出領域を規定する情報であり、例えば、該それぞれの人体検出領域の左上隅の画像座標及び右下隅の画像座標を表す。この人体検出領域情報は予め生成されてストレージ装置103に保存されており、検出領域取得部401は、該ストレージ装置103から該人体検出領域情報を取得する。
The detection
人体検出部402は、撮像画像上で人体検出領域情報にて規定されるそれぞれの人体検出領域から人体を検出する。画像から人体を検出するための技術については周知であるため、これに係る詳細な説明は省略する。
The human
検出結果取得部403は、人体検出部402によるそれぞれの人体の検出結果を取得する。人体の検出結果には、撮像画像から検出した人体の画像領域を規定する情報(例えば、人体の画像領域の左上隅の画像座標及び右下隅の画像座標)が含まれている。そして検出結果取得部403は、人体検出領域ごとに、該人体検出領域から検出した人体の数を計数する。
The detection
閾値設定部404は、人体検出領域ごとの閾値、全体の人体検出領域(人体検出領域の集合)に対する閾値、をユーザからの操作に応じて設定する。
The threshold
アラート判定部405は、検出結果取得部403が人体検出領域ごとに計数した人体の数と、閾値設定部404が設定したそれぞれの閾値と、に基づいて、アラートを通知するか否かを判断する。
The
アラート通知部406は、アラート判定部405による判定結果に応じたアラートを通知する。つまりアラート通知部406は、人体検出領域から検出された人体の数が閾値以上の場合と、それぞれの人体検出領域から検出された人体の数の合計値が閾値以上の場合と、で独立したアラートを通知する。
The
次に、人体検出領域から検出された人体の数が閾値以上の場合と、それぞれの人体検出領域から検出された人体の数の合計値が閾値以上の場合と、で独立したアラートを通知するために画像処理装置200が行う処理について説明する。以下ではこの処理について、図5のフローチャートに従って説明する。
Next, in order to notify an independent alert when the number of human bodies detected from the human body detection area is equal to or greater than the threshold, and when the total value of the number of human bodies detected from each human body detection area is equal to or greater than the threshold. Next, the processing performed by the
ステップS500では、画像取得部400は、ストレージ装置103、撮像装置202、記憶装置203などから撮像画像を取得し、人体検出部402は、該撮像画像上で人体検出領域情報にて規定されるそれぞれの人体検出領域から人体を検出する。
In step S500, the
ステップS501では、検出結果取得部403は、人体検出部402によるそれぞれの人体の検出結果を取得し、人体検出領域ごとに、該人体検出領域から検出した人体の数(検出数)を計数する。そしてCPU100は、図3に例示するGUI(グラフィカルユーザインターフェース)390を表示装置201の表示画面上に表示する。
In step S501, the detection
GUI390の表示領域380には画像取得部400が取得した撮像画像が表示されており、該撮像画像上には人体検出領域情報が規定する3つの人体検出領域(人体検出領域A,B,C)のそれぞれの枠302a、304a、306aが重ねて表示されている。
The captured image acquired by the
また、枠302a内の領域303aには、該枠302aに対応する人体検出領域Aから検出された人体の数である「3」が表示されている。また、枠304a内の領域305aには、該枠304aに対応する人体検出領域Bから検出された人体の数である「2」が表示されている。また、枠306a内の領域307aには、該枠306aに対応する人体検出領域Cから検出された人体の数である「4」が表示されている。また、表示領域380内の領域301aには、人体検出領域Aから検出された人体の数「3」と、人体検出領域Bから検出された人体の数「2」と、人体検出領域Cから検出された人体の数「4」と、の合計値である「9」が表示されている。
In the
また、GUI390の表示領域300は、人体検出領域A,B,C全体に対する閾値と、人体検出領域A,B,Cのそれぞれに対する閾値と、を表示/設定するための領域である。領域301bには、人体検出領域A,B,C全体に対する閾値「7」が表示されており、この閾値はユーザが入力装置104を操作して変更することができる。領域302bには、人体検出領域Aに対する閾値「2」が表示されており、この閾値はユーザが入力装置104を操作して変更することができる。領域304bには、人体検出領域Bに対する閾値「3」が表示されており、この閾値はユーザが入力装置104を操作して変更することができる。領域306bには、人体検出領域Cに対する閾値「5」が表示されており、この閾値はユーザが入力装置104を操作して変更することができる。ユーザが入力装置104を用いて領域301b、302b、304b、306bに表示されている閾値を変更すると、閾値設定部404は、該閾値を該変更に応じて更新する。
The
次に、撮像画像上のそれぞれの人体検出領域(図3の場合は人体検出領域A,B,C)についてステップS502及びステップS503を含む処理ブロック590を実行するすべく、処理ブロック590を人体検出領域の数(図3の場合は「3」)だけ繰り返す。そして、全ての人体検出領域について処理ブロック590を実行した場合には、処理はステップS504に進む。
Next, in order to execute the
ステップS502では、アラート判定部405は、撮像画像上のそれぞれの人体検出領域から未選択の人体検出領域を1つ、選択人体検出領域として選択する。そしてアラート判定部405は、該選択人体検出領域から検出した人体の数が、該選択人体検出領域について設定されている閾値以上か否かを判断する。
In step S502, the
この判断の結果、選択人体検出領域から検出した人体の数が、該選択人体検出領域について設定されている閾値以上の場合には、処理はステップS503に進み、閾値未満の場合には、処理はステップS502に戻る。なお、ステップS502で全ての人体検出領域を選択人体検出領域として選択した場合(全ての人体検出領域について処理ブロック590を実行した場合)には、処理はステップS504に進む。
If the result of this determination is that the number of human bodies detected from the selected human body detection area is equal to or greater than the threshold value set for the selected human body detection area, the process proceeds to step S503; It returns to step S502. If all the human body detection areas have been selected as the selected human body detection areas in step S502 (the
図3の例では、人体検出領域Aを選択人体検出領域として選択した場合、該人体検出領域Aから検出した人体の数「3」は、該人体検出領域Aについて設定されている閾値「2」以上となっているので、処理はステップS503に進む。 In the example of FIG. 3, when the human body detection area A is selected as the selected human body detection area, the number “3” of the human bodies detected from the human body detection area A becomes the threshold “2” set for the human body detection area A. As described above, the processing proceeds to step S503.
ステップS503では、アラート通知部406は、選択人体検出領域に対応するアラートを通知する。選択人体検出領域に対応するアラートの通知方法には様々な通知方法があり、特定の通知方法に限らない。図3では人体検出領域Aからの検出数「3」が人体検出領域Aに対して設定されている閾値「2」以上となっている。そのため、人体検出領域Aの枠302aの表示色、領域303aの表示色(背景色)、人体検出領域Aの閾値を表示している領域302bの表示色(背景色)を変更している。なお、人体検出領域Aの枠302aの表示色、領域303aの表示色(背景色)、人体検出領域Aの閾値を表示している領域302bの表示色(背景色)、の全てを変更しても良いし、このうち1つ若しくは2つを変更しても良い。
In step S503, the
また、選択人体検出領域に対応するアラートを表示(表示制御)にて行う場合に、どのような情報をどのような表示形態で表示するのかについては特定の表示形態に限らない。また、選択人体検出領域に対応するアラートを音声にて行っても良い。つまり、選択人体検出領域に対応する音声を不図示のスピーカを介して出力するようにしても良い。 Further, when an alert corresponding to the selected human body detection area is displayed (display control), what kind of information is displayed in what display form is not limited to a specific display form. Further, an alert corresponding to the selected human body detection area may be issued by voice. That is, the sound corresponding to the selected human body detection area may be output via a speaker (not shown).
ステップS504では、アラート判定部405は、先に求めた「それぞれの人体検出領域から検出された人体の数の合計値」(図3の場合、領域301aに表示するために求めた合計値「9」)を取得する。
In step S504, the
そしてステップS505では、アラート判定部405は、ステップS504にて取得した合計値が、全体の人体検出領域に対する閾値以上か否かを判断する。この判断の結果、ステップS504にて取得した合計値が、全体の人体検出領域に対する閾値以上の場合には、処理はステップS506に進み、閾値未満の場合には、図5のフローチャートに従った処理は終了する。
Then, in step S505, the
図3の例では、人体検出領域Aから検出された人体の数「3」、人体検出領域Bから検出された人体の数「2」、人体検出領域Cから検出された人体の数「4」、の合計値「9」が、人体検出領域A,B,C全体に対する閾値「7」以上となっている。然るに、ステップS506に進む。 In the example of FIG. 3, the number of human bodies detected from the human body detection area A is “3”, the number of human bodies detected from the human body detection area B is “2”, and the number of human bodies detected from the human body detection area C is “4”. , Is greater than or equal to the threshold value “7” for the entire human body detection areas A, B, and C. Accordingly, the process proceeds to step S506.
ステップS506では、アラート通知部406は、全体の人体検出領域に対応するアラートを通知する。全体の人体検出領域に対応するアラートの通知方法には様々な通知方法があり、特定の通知方法に限らないが、ステップS506では、ステップS503におけるアラートとは異なるアラートの通知を行う。
In step S506, the
図3の例では、合計値「9」が、人体検出領域A,B,C全体に対する閾値「7」以上となっているため、領域301a表示色(背景色)、人体検出領域A,B,C全体に対する閾値を表示している領域301bの表示色(背景色)を変更している。なお、領域301a表示色(背景色)、人体検出領域A,B,C全体に対する閾値を表示している領域301bの表示色(背景色)、の全てを変更しても良いし、このうち1つを変更しても良い。
In the example of FIG. 3, since the total value “9” is equal to or larger than the threshold “7” for the entire human body detection areas A, B, and C, the display color (background color) of the
なお、全体の人体検出領域に対応するアラートを表示(表示制御)にて行う場合に、どのような情報をどのような表示形態で表示するのかについては特定の表示形態に限らない。例えば、領域301aの背景色に加えて若しくは代えて該領域301aの枠の表示色を変更しても良いし、撮像画像を囲む枠の表示色を変更しても良い。また、全体の人体検出領域に対応するアラートを音声にて行っても良い。つまり、全体の人体検出領域に対応する音声を不図示のスピーカを介して出力するようにしても良い。
Note that, when an alert corresponding to the entire human body detection area is displayed (display control), what kind of information is displayed in what display form is not limited to a specific display form. For example, the display color of the frame of the
また、ステップS503におけるアラートの通知、ステップS506におけるアラートの通知、では枠や領域の強調表示を行ってもよいし、アラートが発生した人体検出領域、もしくは人体検出領域全体かどうかに応じたメッセージを表示してもよい。 In the notification of the alert in step S503 and the notification of the alert in step S506, a frame or an area may be highlighted, or a message according to whether the alert is in the human body detection area or the entire human body detection area may be displayed. It may be displayed.
<変形例1>
閾値設定部404による閾値の設定処理には様々な設定処理が適用可能である。本変形例では、その一例を説明する。本変形例における、閾値設定部404による閾値の設定処理について、図6のフローチャートに従って説明する。
<Modification 1>
Various setting processes can be applied to the threshold setting process performed by the
図6のフローチャートに従った処理の開始前に、ユーザが入力装置104を操作して閾値設定用のGUIを表示装置201に表示させる指示を入力したことで、表示装置201の表示画面には、図7に例示する閾値設定用のGUI700が表示されている。
Before the process according to the flowchart of FIG. 6 is started, the user operates the
GUI700において領域701には人体検出領域A,B,C全体に対する閾値「7」が表示されており、領域702には人体検出領域Aに対する閾値「2」が表示されており、領域703には人体検出領域Bに対する閾値「3」が表示されている。また、領域704には人体検出領域Cに対する閾値「5」が表示されている。GUI700を最初に起動したときには領域701〜704のそれぞれには、人体検出領域A,B,C全体に対する閾値の初期値、人体検出領域Aに対する閾値の初期値、人体検出領域Bに対する閾値の初期値、人体検出領域Cに対する閾値の初期値が表示される。
In the
ステップS600では、閾値設定部404は、入力装置104としてのポインティングデバイス(マウスなど)の、表示装置201の表示画面上におけるカーソルフォーカス位置を取得する。
In step S600, the
ステップS601では、閾値設定部404は、領域701〜704(閾値設定項目)のうち何れかが選択されたか否かを判断する。例えば、ユーザが入力装置104としてのマウスを操作してカーソルフォーカス位置を領域701〜704のうち領域701の内部に移動させてからクリック操作を行うと、領域701が選択されたと判断する。
In step S601, the
このような判断の結果、領域701〜704(閾値設定項目)のうち何れかが選択された場合には、処理はステップS602に進み、領域701〜704(閾値設定項目)の何れも選択されていない場合には、図6のフローチャートに従った処理は終了する。
As a result of such a determination, if any of the
なお、領域701〜704(閾値設定項目)の何れも選択されていない場合には、閾値設定を終了するか否かを確認するべく、閾値設定の終了を指示するボタンを含む画面を表示装置201の表示画面上に表示するようにしても良い。この場合、ユーザが入力装置104を操作することで該ボタンが指示された場合に、図6のフローチャートに従った処理を終了する。
If none of the
ステップS602では、閾値設定部404は、選択された領域が、領域702〜704(閾値設定項目)の何れか(人体検出領域A,B,Cの何れかに対応する閾値を設定するための領域)であるか否かを判断する。
In step S602, the
この判断の結果、選択された領域が、領域702〜704(閾値設定項目)の何れかであれば、処理はステップS603に進む。一方、選択された領域が領域702〜704(閾値設定項目)の何れでもない(つまり選択された領域が、人体検出領域A,B,C全体に対する閾値を設定するための領域701である)場合には、処理はステップS604に進む。
As a result of this determination, if the selected area is any of the
ステップS603では、閾値設定部404は、選択された領域(領域702〜704のうち選択された領域)に対してユーザが入力装置104を操作して入力した数を、該領域に対応する閾値として設定する。例えば、ユーザが入力装置104を操作して領域702を選択し、該領域702内に数値を入力し、確定操作を行うと、閾値設定部404は、該領域702内に入力された数値を人体検出領域Aに対する閾値として設定する。そして処理はステップS600に進む。
In step S603, the
一方、ステップS604では、閾値設定部404は、選択された領域701に対してユーザが入力装置104を操作して入力した数を、該領域に対応する閾値として設定する。例えば、ユーザが入力装置104を操作して領域701を選択し、該領域701内に数値を入力し、確定操作を行うと、閾値設定部404は、該領域701内に入力された数値を人体検出領域A,B,C全体に対する閾値として設定する。そして処理はステップS600に進む。
On the other hand, in step S604, the
このような処理により、図7に示したような、領域と閾値との対応関係を設定することができるため、CPU100は、このような領域と閾値との対応関係をストレージ装置103に格納し、アラート判定部405による閾値との大小判定に用いる。
By such processing, the correspondence between the area and the threshold as shown in FIG. 7 can be set. Therefore, the
<変形例2>
2つ以上の人体検出領域の一部が重なっている場合におけるアラート判定部405の動作について説明する。以下では一例として図8(a)の左側に示す如く、撮像画像に対して人体検出領域801a(人体検出領域A)及び人体検出領域802a(人体検出領域B)が設定されており、人体検出領域Aと人体検出領域Bとが部分的に重なっているケースについて説明する。また図8(a)の右側に示す如く、人体検出領域A,B全体に対する閾値として、領域800bに示す如く「6」が設定されている。また、人体検出領域Aに対する閾値として、領域801bに示す如く「4」が設定されており、人体検出領域Bに対する閾値として、領域802bに示す如く「2」が設定されている。
<
The operation of the
図8(b)は、撮像画像に対して人体検出を行った結果として表示装置201の表示画面上に表示される表示領域380内の表示内容例を示す図である。領域801cには人体検出領域801aから検出された人体の数「4」が表示されており、領域802cには人体検出領域802aから検出された人体の数「2」が表示されている。
FIG. 8B is a diagram illustrating an example of display contents in a
上記の通り、人体検出領域Aと人体検出領域Bとは一部が重なっており、図8(b)ではこの重なっている部分から一人の人体が検出されている。この場合、アラート判定部405は、ステップS504において、人体検出領域Aから検出された人体の数と人体検出領域Bから検出された人体の数との合計値を取得する。そしてステップS505ではアラート判定部405は、該合計値から、人体検出領域Aと人体検出領域Bとの重複領域から検出された人体の数を引いた値(非重複合計値)が、人体検出領域A,B全体に対する閾値以上か否かを判断する。この判断の結果、非重複合計値が、人体検出領域A,B全体に対する閾値以上の場合には、処理はステップS506に進み、閾値未満の場合には、図5のフローチャートに従った処理は終了する。
As described above, the human body detection area A and the human body detection area B partially overlap, and in FIG. 8B, one human body is detected from the overlapping part. In this case, the
図8の例ではアラート判定部405は人体検出領域801aからの検出数「4」と人体検出領域802aからの検出数「2」との合計値「6」から人体検出領域Aと人体検出領域Bとの重複領域からの検出数「1」を引いた値「5」を非重複合計値として求める。そしてアラート判定部405は、該非重複合計値「5」が人体検出領域A,B全体に対する閾値「6」以上か否かを判断する。非重複合計値「5」は、人体検出領域A,B全体に対する閾値「6」未満であるから、図5のフローチャートに従った処理は終了する。領域800cには、この非重複合計値が表示される。
In the example of FIG. 8, the
このように、アラート判定部405は、上記の合計値から人体検出領域同士(設定領域同士)の重複部分から検出された人体の数を引いた値を非重複合計値として求め、該非重複合計値が全体の人体検出領域に対する閾値以上か否かを判断する。そして閾値以上の場合には、処理はステップS506に進み、閾値未満の場合には、図5のフローチャートに従った処理は終了する。この処理は、人体検出領域が3個以上重なっているケースに対しても適用可能である。
As described above, the
[第2の実施形態]
以下では、第1の実施形態との差分について説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。本実施形態では、第1の実施形態に係る構成に加え、ユーザが閾値を設定する際に補助を行う構成を有する。
[Second embodiment]
Hereinafter, differences from the first embodiment will be described, and unless otherwise noted below, it is assumed to be the same as the first embodiment. In the present embodiment, in addition to the configuration according to the first embodiment, a configuration is provided in which a user assists when setting a threshold.
本実施形態に係る画像処理装置の機能構成例について、図9のブロック図を用いて説明する。以下では、図9の各機能部を処理の主体として説明する場合があるが、実際には、各機能部に対応するコンピュータプログラムをCPU100が実行することで該機能部に対応する機能が実現される。しかし、図9の各機能部はコンピュータプログラムで実装されることに限らず、一部若しくは全部をハードウェアで実装しても良い。
An example of a functional configuration of the image processing apparatus according to the present embodiment will be described with reference to a block diagram in FIG. In the following, each functional unit in FIG. 9 will be described as a subject of processing. However, actually, a function corresponding to each functional unit is realized by the
図9において図4に示した機能部と同様の機能部には図4と同様の参照番号を付しており、該機能部に係る説明は省略する。図9に示した構成は、図4に示した構成に閾値算出部900を加えたものである。閾値算出部900は、アラート判定部405で使用する人体検出領域ごとの閾値若しくは全体の人体検出領域に対する閾値を算出する。
In FIG. 9, the same reference numerals as in FIG. 4 denote the same functional units as those shown in FIG. 4, and a description of the functional units will be omitted. The configuration shown in FIG. 9 is obtained by adding a threshold
本実施形態では、図6のフローチャートに従った処理の開始前にユーザが入力装置104を操作して閾値設定用のGUIを表示装置201に表示させる指示を入力したことで、表示装置201の表示画面にはGUI700に加えて自動設定ボタンが表示される。
In the present embodiment, before the process according to the flowchart of FIG. 6 is started, the user operates the
例えば図10の左側に示す如く、第1の実施形態と同様にして人体検出領域A,B,Cのそれぞれに対する閾値「3」、「3」、「5」を設定したものの、人体検出領域A,B,C全体に対する閾値は未だ設定していないとする。このときユーザが入力装置104を操作して自動設定ボタン1000を指示すると、閾値算出部900は、人体検出領域A,B,Cのそれぞれに対する閾値「3」、「3」、「5」の合計値「11」を人体検出領域A,B,C全体に対する閾値として算出する。そしてCPU100は、図10の右側に示す如く、人体検出領域A,B,C全体に対する閾値として算出した合計値「11」を、対応する領域701に表示する。なお、領域701に閾値を表示した後、ユーザが入力装置104を操作して第1の実施形態と同様に、この閾値を変更しても良い。また、領域701に表示するものは、合計値に適当な係数(例えば0.8)を乗じたものであっても良いし、各人体検出領域の閾値に該人体検出領域のサイズや位置などに応じた重みを乗じて合計したものであっても良い。
For example, as shown on the left side of FIG. 10, threshold values “3”, “3”, and “5” are set for each of the human body detection areas A, B, and C in the same manner as in the first embodiment. , B, and C are not set yet. At this time, when the user operates the
また例えば図11の左側に示す如く、第1の実施形態と同様にして人体検出領域A,B,C全体に対する閾値「20」を設定したものの、人体検出領域A,B,Cのそれぞれに対する閾値は未だ設定していないとする。ここで、人体検出領域A,B,Cは図11の下側に示す如く、それぞれ人体検出領域1100a、1101a、1102aに対応している。そして、人体検出領域1102aのサイズ(面積:画素数)>人体検出領域1100aのサイズ>人体検出領域1101aのサイズであるものとする。
For example, as shown on the left side of FIG. 11, the threshold value “20” is set for the entire human body detection areas A, B, and C in the same manner as in the first embodiment, but the threshold value for each of the human body detection areas A, B, and C is set. Is not set yet. Here, the human body detection areas A, B, and C correspond to the human
このときユーザが入力装置104を操作して自動設定ボタン1000を指示すると、閾値算出部900は、以下の式を計算することで、人体検出領域A,B,Cのそれぞれに対する閾値を算出する。
At this time, when the user operates the
人体検出領域Aに対する閾値=人体検出領域A,B,C全体に対する閾値×人体検出領域Aのサイズ/(人体検出領域Aのサイズ+人体検出領域Bのサイズ+人体検出領域Cのサイズ)
人体検出領域Bに対する閾値=人体検出領域A,B,C全体に対する閾値×人体検出領域Bのサイズ/(人体検出領域Aのサイズ+人体検出領域Bのサイズ+人体検出領域Cのサイズ)
人体検出領域Cに対する閾値=人体検出領域A,B,C全体に対する閾値×人体検出領域Cのサイズ/(人体検出領域Aのサイズ+人体検出領域Bのサイズ+人体検出領域Cのサイズ)
そしてCPU100は、図11の右側に示す如く、人体検出領域A,B,Cのそれぞれに対する閾値「6」、「4」、「10」を、対応する領域702〜704に表示する。図11の例では、人体検出領域Aのサイズは、(人体検出領域Aのサイズ+人体検出領域Bのサイズ+人体検出領域Cのサイズ)の30%である。然るに人体検出領域A,B,C全体に対する閾値「20」の30%である「6」が人体検出領域Aに対する閾値として求められる。また、図11の例では、人体検出領域Bのサイズは、(人体検出領域Aのサイズ+人体検出領域Bのサイズ+人体検出領域Cのサイズ)の20%である。然るに人体検出領域A,B,C全体に対する閾値「20」の20%である「4」が人体検出領域Bに対する閾値として求められる。また、図11の例では、人体検出領域Cのサイズは、(人体検出領域Aのサイズ+人体検出領域Bのサイズ+人体検出領域Cのサイズ)の50%である。然るに人体検出領域A,B,C全体に対する閾値「20」の50%である「10」が人体検出領域Cに対する閾値として求められる。
Threshold for human body detection area A = threshold for whole human body detection areas A, B, and C × size of human body detection area A / (size of human body detection area A + size of human body detection area B + size of human body detection area C)
Threshold for human body detection area B = threshold for whole human body detection areas A, B, and C × size of human body detection area B / (size of human body detection area A + size of human body detection area B + size of human body detection area C)
Threshold for human body detection area C = threshold for human body detection areas A, B, and C × size of human body detection area C / (size of human body detection area A + size of human body detection area B + size of human body detection area C)
Then, as shown on the right side of FIG. 11, the
なお、領域702〜704に閾値を表示した後、ユーザが入力装置104を操作して第1の実施形態と同様に、この閾値を変更しても良い。また、人体検出領域同士が重なっていた場合には、人体検出領域ごとの閾値を調整する処理を行ってもよい。
After the threshold is displayed in the
<変形例1>
本実施形態に係る閾値算出部900は、それぞれの人体検出領域中に写る人体の上限数に基づいて、人体検出領域ごとの閾値、全体の人体検出領域に対する閾値、を求める。本変形例に係る閾値の算出方法について、図12を例に取り説明する。
<Modification 1>
The threshold
図12では、床平面に対して見下ろした画角で撮像装置によって撮像した撮像画像1290に、人体検出領域1200及び人体検出領域1201(それぞれのサイズは同じ)が設定されている。この場合、人体検出領域1200内の画像は、人体検出領域1201内の画像よりも遠方を撮像した画像であるから、例えば人体検出領域1200内に人体枠1200aのサイズで写る人物は、人体検出領域1201内では人体枠1201aのサイズで写る。ここで、人体枠とは、人体検出領域内に写る人体のサイズの目安となる枠である。人体枠のサイズは、ユーザが撮像画像の目視結果に基づいて入力装置104を操作して調整してもよいし、閾値算出部900が、撮像装置の設置位置、高さ、角度の情報から算出してもよい。または、事前に撮像画像から人体検出を行い、該撮像画像上の様々な位置における人体検出領域内の人体サイズを該人体検出領域に対応する人体枠のサイズとして求めておいても良い。
In FIG. 12, a human
本変形例では閾値算出部900は、全体の人体検出領域に対する閾値(ここでは人体検出領域1200、1201全体に対する閾値)が設定されている場合、人体検出領域1200に対する閾値、人体検出領域1201に対する閾値は以下の式に従って算出する。
In the present modification, when a threshold value for the entire human body detection region (here, a threshold value for the entire human
人体検出領域1200に対する閾値=(人体検出領域1200、1201全体に対する閾値)×(人体検出領域1200内に写る人体の上限数)/(人体検出領域1200内に写る人体の上限数+人体検出領域1201内に写る人物の上限数)
人体検出領域1201に対する閾値=(人体検出領域1200、1201全体に対する閾値)×(人体検出領域1201内に写る人体の上限数)/(人体検出領域1200内に写る人体の上限数+人体検出領域1201内に写る人物の上限数)
なお、人体検出領域内に写る人体の上限数については、様々な方法で取得することができる。例えば、200画素×100画素のサイズを有する人体検出領域に対応する人体枠のサイズが50画素×50画素であった場合、該人体検出領域内に写る人体の上限数は200/50×100/50=8と計算できる。
Threshold value for human
Threshold for human
It should be noted that the upper limit number of the human body in the human body detection area can be obtained by various methods. For example, when the size of the human body frame corresponding to the human body detection area having the size of 200 pixels × 100 pixels is 50 pixels × 50 pixels, the upper limit number of the human body in the human body detection area is 200/50 × 100 / It can be calculated as 50 = 8.
また、人体検出領域内に写る人体のサイズが、人体検出領域の位置によって変化する場合には、その変化度合も考慮して「人体検出領域内に写る人体の上限数」を算出してもよい。その他、人体検出領域同士が重なっている場合は、重なっている部分のみ別途人体枠を設定するなどして調整してもよい。 When the size of the human body imaged in the human body detection area changes depending on the position of the human body detection area, the “upper limit number of the human body imaged in the human body detection area” may be calculated in consideration of the degree of the change. . In addition, when the human body detection areas overlap each other, the adjustment may be performed by setting a separate human body frame only for the overlapping part.
なお、上記の各実施形態や各変形例において説明したGUIの構成やその操作方法、各種の情報の設定方法や設定順序、人体検出領域の位置、サイズ、個数については上記のものに限らない。また、処理の順序についても上記のものに限らない。また、人体は検出するオブジェクトの一例に過ぎず、他の種のオブジェクトを人体に加えて若しくは代えて検出対象としても良い。 Note that the configuration and operation method of the GUI, the setting method and order of various information, the position, the size, and the number of the human body detection areas described in each of the embodiments and the modifications are not limited to those described above. Further, the order of processing is not limited to the above. The human body is merely an example of the object to be detected, and another type of object may be added to or replaced with the human body as a detection target.
なお、以上説明した各実施形態や各変形例の一部若しくは全部を適宜組み合わせて使用しても構わないし、以上説明した各実施形態や各変形例の一部若しくは全部を選択的に使用しても構わない。 It should be noted that some or all of the embodiments and the modifications described above may be appropriately combined and used, or some or all of the embodiments and the modifications described above may be selectively used. No problem.
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other embodiments)
The present invention supplies a program for realizing one or more functions of the above-described embodiments to a system or an apparatus via a network or a storage medium, and one or more processors in a computer of the system or the apparatus read and execute the program. It can also be realized by the following processing. Further, it can be realized by a circuit (for example, an ASIC) that realizes one or more functions.
400:画像取得部 401:検出領域取得部 402:人体検出部 403:検出結果取得部 404:閾値設定部 405:アラート判定部 406:アラート通知部 400: Image acquisition unit 401: Detection region acquisition unit 402: Human body detection unit 403: Detection result acquisition unit 404: Threshold setting unit 405: Alert determination unit 406: Alert notification unit
Claims (17)
前記撮像画像上のそれぞれの設定領域から検出されたオブジェクトの数の合計値が閾値以上の場合には、前記第1の警告とは異なる第2の警告を通知する第2の通知手段と
を備えることを特徴とする画像処理装置。 A first notification unit for notifying a first warning when the number of objects detected from the set area on the captured image is equal to or greater than a threshold;
A second notification unit configured to notify a second warning different from the first warning when a total value of the number of objects detected from each of the setting areas on the captured image is equal to or larger than a threshold. An image processing apparatus comprising:
前記画像処理装置の第1の通知手段が、撮像画像上の設定領域から検出されたオブジェクトの数が閾値以上の場合には、第1の警告を通知する第1の通知工程と、
前記画像処理装置の第2の通知手段が、前記撮像画像上のそれぞれの設定領域から検出されたオブジェクトの数の合計値が閾値以上の場合には、前記第1の警告とは異なる第2の警告を通知する第2の通知工程と
を備えることを特徴とする画像処理方法。 An image processing method performed by the image processing apparatus,
A first notification step of notifying a first warning when the number of objects detected from the set area on the captured image is equal to or greater than a threshold value;
The second notification unit of the image processing apparatus may determine that the total value of the number of objects detected from each of the setting areas on the captured image is equal to or greater than a threshold value. And a second notification step of notifying a warning.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018118196A JP2019220025A (en) | 2018-06-21 | 2018-06-21 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018118196A JP2019220025A (en) | 2018-06-21 | 2018-06-21 | Image processing apparatus and image processing method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019220025A true JP2019220025A (en) | 2019-12-26 |
Family
ID=69097275
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018118196A Pending JP2019220025A (en) | 2018-06-21 | 2018-06-21 | Image processing apparatus and image processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019220025A (en) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005216217A (en) * | 2004-02-02 | 2005-08-11 | Chuo Electronics Co Ltd | System and method for measuring the number of people in procession |
JP2006285409A (en) * | 2005-03-31 | 2006-10-19 | Bab-Hitachi Industrial Co | Method for counting number of people and people flow at store or the like, and method for suggesting in-store merchandizing using the same |
JP2012043021A (en) * | 2010-08-13 | 2012-03-01 | Secom Co Ltd | Moving object detector |
US20150213595A1 (en) * | 2012-10-09 | 2015-07-30 | Sk Telecom Co., Ltd. | Image monitoring apparatus for estimating size of singleton, and method therefor |
CN105513076A (en) * | 2015-12-10 | 2016-04-20 | 南京理工大学 | Weak object constant false alarm detection method based on object coordinate distribution features |
JP2016107817A (en) * | 2014-12-05 | 2016-06-20 | ダイムラー・アクチェンゲゼルシャフトDaimler AG | In-vehicle accident prevention system |
JP2017188023A (en) * | 2016-04-08 | 2017-10-12 | パナソニックIpマネジメント株式会社 | Institutional activity analysis device, institutional activity analysis system, and institutional activity analysis method |
JP2018042049A (en) * | 2016-09-06 | 2018-03-15 | パナソニックIpマネジメント株式会社 | Apparatus, system and method for congestion detection |
-
2018
- 2018-06-21 JP JP2018118196A patent/JP2019220025A/en active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005216217A (en) * | 2004-02-02 | 2005-08-11 | Chuo Electronics Co Ltd | System and method for measuring the number of people in procession |
JP2006285409A (en) * | 2005-03-31 | 2006-10-19 | Bab-Hitachi Industrial Co | Method for counting number of people and people flow at store or the like, and method for suggesting in-store merchandizing using the same |
JP2012043021A (en) * | 2010-08-13 | 2012-03-01 | Secom Co Ltd | Moving object detector |
US20150213595A1 (en) * | 2012-10-09 | 2015-07-30 | Sk Telecom Co., Ltd. | Image monitoring apparatus for estimating size of singleton, and method therefor |
JP2016107817A (en) * | 2014-12-05 | 2016-06-20 | ダイムラー・アクチェンゲゼルシャフトDaimler AG | In-vehicle accident prevention system |
CN105513076A (en) * | 2015-12-10 | 2016-04-20 | 南京理工大学 | Weak object constant false alarm detection method based on object coordinate distribution features |
JP2017188023A (en) * | 2016-04-08 | 2017-10-12 | パナソニックIpマネジメント株式会社 | Institutional activity analysis device, institutional activity analysis system, and institutional activity analysis method |
JP2018042049A (en) * | 2016-09-06 | 2018-03-15 | パナソニックIpマネジメント株式会社 | Apparatus, system and method for congestion detection |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10671175B2 (en) | Image processing apparatus, image processing method, and program product to control a display to display an image generated based on a manipulation target image | |
US10917621B2 (en) | Information processing apparatus, image generating apparatus, control methods therefor, and non-transitory computer-readable storage medium | |
US11644968B2 (en) | Mobile surveillance apparatus, program, and control method | |
US20210120189A1 (en) | Preview-image display method and terminal device | |
US20180232135A1 (en) | Method for window displaying on a mobile terminal and mobile terminal | |
US20150304566A1 (en) | Display apparatus and image composition method thereof | |
JP2016213677A (en) | Remote communication system, and control method and program for the same | |
JP2016144049A (en) | Image processing apparatus, image processing method, and program | |
JP2019220025A (en) | Image processing apparatus and image processing method | |
JP2020071717A (en) | Information processing device, information processing method, and program | |
US11700446B2 (en) | Information processing apparatus, system, control method of information processing apparatus, and non-transitory computer-readable storage medium | |
JP6700672B2 (en) | Remote communication system, its control method, and program | |
JP2021064398A (en) | Control method, program, and system | |
CN111464740A (en) | Image shooting method and device, storage medium and electronic equipment | |
CN112363787A (en) | Image processing method and device and electronic equipment | |
JP6515975B2 (en) | MOBILE MONITORING DEVICE, MOBILE MONITORING SYSTEM, PROGRAM, AND CONTROL METHOD | |
JP2014153747A (en) | Program, information equipment and method for controlling character display on basis of image complexity | |
JP6996758B2 (en) | Mobile monitoring devices, control methods, and programs | |
JP2014171054A (en) | Display device, monitor system with display device, and display control program | |
KR102684057B1 (en) | Computer device to communicate with network system including plurality of cameras and method of operating thereof | |
JP7140583B2 (en) | Image processing device, image processing method and program | |
CN106951162B (en) | Information processing method and electronic equipment | |
JP2024015004A (en) | Stationary determining system, and computer program | |
JP2017021751A (en) | Screen image generation device | |
KR20210012634A (en) | Computer device to communicate with network system including plurality of cameras and method of operating thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210610 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220510 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220701 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221223 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230217 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230602 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230901 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20230908 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20231110 |