JP7220972B1 - 情報処理システム、情報処理方法及びプログラム - Google Patents

情報処理システム、情報処理方法及びプログラム Download PDF

Info

Publication number
JP7220972B1
JP7220972B1 JP2022193108A JP2022193108A JP7220972B1 JP 7220972 B1 JP7220972 B1 JP 7220972B1 JP 2022193108 A JP2022193108 A JP 2022193108A JP 2022193108 A JP2022193108 A JP 2022193108A JP 7220972 B1 JP7220972 B1 JP 7220972B1
Authority
JP
Japan
Prior art keywords
captured image
cut filter
information processing
infrared cut
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022193108A
Other languages
English (en)
Other versions
JP2024080163A (ja
Inventor
彰吾 伊藤
渉 鬼城
大智 ▲高▼木
裕介 嶋田
直諒 柏木
直紀 冨田
Original Assignee
セーフィー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by セーフィー株式会社 filed Critical セーフィー株式会社
Priority to JP2022193108A priority Critical patent/JP7220972B1/ja
Application granted granted Critical
Publication of JP7220972B1 publication Critical patent/JP7220972B1/ja
Priority to US18/244,018 priority patent/US20240187743A1/en
Publication of JP2024080163A publication Critical patent/JP2024080163A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Studio Devices (AREA)

Abstract

本発明の一態様によれば、赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムが提供される。この情報処理システムは、撮像画像に基づき、赤外線カットフィルターに関する不具合を検知する。不具合に関する情報を出力する。【選択図】図1

Description

本発明は、情報処理システム、情報処理方法及びプログラムに関する。
ネットワークカメラは複数の物理的な構成要素(ハードウェア)から構成されている。物理的な構成要素の一例としては例えばIRカットフィルター(赤外線カットフィルター)がある。
特許文献1には赤外カットフィルターの挿抜制御を行う制御システムが開示されている。
特開2020-25168号公報
ネットワークカメラのハードウェアの一つに不具合が生じた場合であっても、一定の品質の撮像画像が撮像され、記憶されている場合、ハードウェアに何らかの不具合が生じているのか、許容している品質の範囲内なのかをすぐに判断することは困難であった。
本発明の一態様によれば、赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムが提供される。この情報処理システムは、撮像画像に基づき、赤外線カットフィルターに関する不具合を検知する。不具合に関する情報を出力する。
図1は、情報処理システム1000のシステム構成の一例を示す図である。 図2は、サーバー装置100のハードウェア構成の一例を示す図である。 図3は、クライアント装置110のハードウェア構成の一例を示す図である。 図4は、情報処理システム1000における情報処理の一例を示すシーケンス図である。 図5は、クライアント装置110に送信される電子メールの一例を示す図である。 図6は、変形例1の情報処理システム1000における情報処理の一例を示すシーケンス図である。
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。特に、本明細書において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、0又は1で構成される2進数のビット集合体として信号値の高低によって表されるか、信号値の物理的な数値によって表されるか、又は量子的な重ね合わせによって表されるかによらず、広義の回路上で通信・演算が実行されうる。
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。
また、実施形態中に登場するソフトウェアを実現するためのプログラムは、サーバーからダウンロード可能な態様で実施してもよいし、クラウドコンピュータ上でプログラムの実行がなされてもよいし、不揮発性又は揮発性の非一時的な記憶媒体に記憶させて頒布されてもよい。
以下の説明において、昼間とは、屋外で日が出ている時間帯のみならず、屋内で部屋が明るい時間帯(例えば会社の営業時間内)等も意味する。また、夜間とは、屋外で日が沈んでいる時間帯のみならず、屋内で部屋が暗い時間帯(例えば会社の営業時間外)等も意味する。
1.システム構成
図1は、情報処理システム1000のシステム構成の一例を示す図である。図1に示されるように、情報処理システム1000は、システム構成として、サーバー装置100と、クライアント装置110と、撮像装置120と、を含む。サーバー装置100と、クライアント装置110と、撮像装置120と、はネットワーク150を介して通信可能に接続されている。なお、サーバー装置100はクラウドで実現されてもよい。
サーバー装置100は、撮像装置120で撮像された撮像画像を記憶し、撮像画像を解析することで、撮像装置120を構成する少なくとも1つのハードウェアに故障が生じているか否かを判定し、故障が生じていると判定した場合は、ハードウェアの故障に関する情報を出力する。撮像装置120は、ネットワーク150を介してサーバー装置100と通信可能なカメラであって、撮像画像をサーバー装置100に送信する。撮像装置120の一例としては監視カメラ等がある。クライアント装置110は、情報処理システム1000の管理者等(このユーザーとしては、主に当該システムの提供/保守等を行う側を想定しているが、当該システムの利用者側でもよい。)が操作する端末である。例えば、ハードウェアの故障に関する情報は、クライアント装置110のディスプレイ等に表示されてもよい。図1では簡略化のため撮像装置120は1台しか図示していないが、情報処理システム1000には複数の撮像装置120が含まれる。但し、以下では説明の簡略化のため、1台の撮像装置120を例に説明を行う。
また、図1では、クライアント装置110の例としてスマートフォンを示しているが、スマートフォンに限定されるものではなく、PC(Personal Computer)、タブレット型コンピュータ等であってもよい。クライアント装置110は、サーバー装置100からの情報を表示等することができればどのようなものであってもよい。
ここで、特許請求の範囲に記載の情報処理システムは、複数の装置で構成されてもよいし、一つの装置で構成されてもよい。特許請求の範囲に記載の情報処理システムが一つの装置で構成され場合、その装置の一例はサーバー装置100である。特許請求の範囲に記載の情報処理システムが複数の装置で構成される場合、複数の装置の一例は、サーバー装置100及びクライアント装置110、又はサーバー装置100及び撮像装置120である。
2.ハードウェア構成
(サーバー装置100のハードウェア構成)
図2は、サーバー装置100のハードウェア構成の一例を示す図である。サーバー装置100は、ハードウェア構成として、制御部210と、記憶部220と、通信部230と、を含む。
制御部210は、CPU(Central Processing Unit)等であって、サーバー装置100の全体を制御する。制御部210は、記憶部220に記憶されているプログラムに基づき、処理を実行することによって、サーバー装置100の機能等が実現される。
記憶部220は、HDD(Hard Disk Drive)、ROM(Read Only Memory)、RAM(Random Access Memory)、SSD(Solid State Drive)の何れか、又はこれらの任意の組み合わせであって、プログラム及び制御部210がプログラムに基づき処理を実行する際に利用するデータ等を記憶する。制御部210が、記憶部220に記憶されているプログラムに基づき、処理を実行することによって、サーバー装置100の機能が実現される。記憶部220は、記憶媒体の一例である。なお、本実施形態では制御部210がプログラムに基づき処理を実行する際に利用するデータは記憶部220に記憶されるものとして説明するが、サーバー装置100と通信可能な他の装置の記憶部等に記憶されていてもよい。すなわち、データは、制御部210が参照可能であればどの装置の記憶部に記憶されていてもよい。
通信部230は、NIC(Network Interface Card)等であって、サーバー装置100をネットワーク150に接続し、他の装置との通信を司る。
(クライアント装置110のハードウェア構成)
図3は、クライアント装置110のハードウェア構成の一例を示す図である。クライアント装置110は、ハードウェア構成として、制御部310と、記憶部320と、撮像部330と、入出力部340と、通信部350と、を含む。
制御部310は、CPU等であって、クライアント装置110の全体を制御する。
記憶部320は、HDD、ROM、RAM、SSDの何れか、又はこれらの任意の組み合わせであって、プログラム、制御部310がプログラムに基づき処理を実行する際に利用するデータ等を記憶させる。制御部310が、記憶部320に記憶されているプログラムに基づき、処理を実行することによって、クライアント装置110の機能が実現される。
撮像部330は、被写体等を撮像する。
入出力部340は、タッチパネル等であってユーザー操作に基づいて情報を入力したり、制御部310の処理の結果等を出力したりする。
通信部350は、クライアント装置110をネットワーク150に接続し、他の装置との通信を司る。
なお、撮像装置120のハードウェア構成もクライアント装置110のハードウェア構成と概ね同様であり、撮像装置120の制御部が撮像装置120の記憶部に記憶されているプログラムに基づき処理を実行することによって撮像装置120の機能が実現される。撮像装置120は、撮像部を有し、これはレンズ、イメージセンサー等で構成される。また、撮像装置120は、夜間に赤外線を用いて撮影可能とするため、赤外線照射機構を有し、これを夜間の撮影時のみONにする。また、撮像装置120の撮像部は、赤外線も捉えられるが、そのままでは昼間に撮影した映像が全体に赤みがかってしまう(赤色だけでなく桃色や紫色に感じられることもある)ため、赤外線カットフィルター(IRカットフィルター)を有し、これを昼間はON/夜間はOFFにする。また、撮像装置120は、光を検知して昼間/夜間を判別する昼夜センサーを有し、この判別結果に応じて赤外線照射機構やIRカットフィルターのON/OFFを制御する。
3.情報処理
以下、本実施形態に係る情報処理を説明する。
(処理の概要)
制御部210は、撮像装置120によって撮像された撮像画像に基づき撮像装置120を構成する所定のハードウェアに関する不具合が検知された場合、所定のハードウェアに関する不具合に関する情報を出力する。本実施形態では、所定のハードウェアの一例として、赤外線カットフィルターを例に説明を行う。赤外線カットフィルター(IRカットフィルター)は、撮像装置120のレンズに取り付けられた光学ガラスであって、昼間の撮影時にはこれをONする(閉じる)ことにより赤外線をカットする。赤外線カットフィルターに不具合が起こり、例えばこれをONする(閉じる)ことができず常時OFF(開いた)状態になくなってしまうと、赤外線がカットされず、昼間の撮像画像は全体的に赤みがかった画像(赤色だけでなく桃色や紫色に感じられることもある)となってしまう。また、例えば赤外線カットフィルターが中途半端にONされた(閉じた)状態で止まってしまうと、昼間の撮像画像は部分的に赤みがかった画像となってしまう。一方、赤外線カットフィルターに不具合が起こり、例えばこれをOFFする(開く)ことができず常時ON(閉じた)状態になくなってしまうと、赤外線がカットされ、夜間の撮像画像は全体的に暗くなってしまう。また、例えば赤外線カットフィルターが中途半端にOFFされた(開いた)状態で止まってしまうと、昼間の撮像画像は部分的に暗い画像となってしまう。なお、夜間の撮像画像が暗くなってしまう原因としては、赤外線カットフィルターの不具合だけではなく、赤外線照射機構に不具合があり、赤外線が正しく照射されなくなってしまった場合等もある。制御部210が上述した処理を行うことによって、撮像装置120のハードウェアに不具合が起こった場合、すぐに不具合が起こったことを示す情報等を出力することができる。その結果、撮像装置120を設置しているお客様等に不具合が生じしていることを知らせたり、修理を担当する担当者に撮像装置120の修理を依頼したりすることができる。
(処理の詳細)
本実施形態(変形例も含む)に係る検知処理や画像処理は、サーバー装置側で行う例で説明するが、撮像装置側で行ってもよい。
また、本実施形態(変形例も含む)に係る不具合の検知処理において、不具合を1回検知するとその後に各種処理(検知情報の送信や画像処理)を行うが、不具合を複数回検知した場合に当該各種処理を行うようにしてもよいし、その回数はクライアント装置110等を介してユーザーにより任意に設定可能としてもよい。
また、本実施形態(変形例も含む)において不具合の検知処理を昼間と夜間の両方で行う場合、不具合が夜間のみで検知された場合には、不具合の原因は赤外線照射機構であると特定してもよい。また、不具合が昼間と夜間の両方で検知された場合には、不具合の原因は赤外線カットフィルターであると特定してもよい。
また、本実施形態(変形例も含む)に係るシーケンスは、例えば1日に1回の決まった時刻等、所定のタイミングで実行される。所定のタイミングは、予め定められたタイミングでもよいし、クライアント装置110等を介してユーザーにより任意に設定可能としてもよい。何れにしても、所定のタイミングは、昼間の撮像画像が赤みがかってしまうケースを対象とする場合には、昼間であることが望ましく、これを任意に設定可能とする場合には、ユーザーが夜間を設定しようとしたときに警告を出す等して、昼間が設定されるよう促してもよい。一方、所定のタイミングは、夜間の撮像画像が暗くなってしまうケースを対象とする場合には、夜間であることが望ましく、これを任意に設定可能とする場合には、ユーザーが昼間を設定しようとしたときに警告を出す等して、夜間が設定されるよう促してもよい。なお、この様な警告を行うために、設定の前段階で何れのケースを対象とするかユーザーにより選択可能とし、選択されたケースに対応して警告を出すようにしてもよい。また、その場合において、両方のケースが選択された場合、警告を出さないようにしてもよい。
図4は、情報処理システム1000における情報処理の一例を示すシーケンス図である。
シーケンスSQ401において、撮像装置120は、撮像画像をサーバー装置100に送信する。ここで、撮像画像には属性情報として撮像画像を撮像した撮像装置120を識別する識別情報、撮像日時、撮像に係るパラメータ情報等が含まれるものとする。サーバー装置100の制御部210は、撮像装置120から送信された撮像画像を受信する。
シーケンスSQ402において、制御部210は、受信した撮像画像を記憶部220等に記憶する。
撮像装置120は、起動中は常に画像を撮像し、撮像画像をサーバー装置100に送信する。サーバー装置100は、撮像画像を受信すると、シーケンスSQ402の処理を実行する。
シーケンスSQ403において、制御部210は、記憶部220に記憶されている撮像画像に基づき赤外線カットフィルターに不具合が起こっているかを調べる検知処理を実行する。例えば、制御部210は、撮像装置120で撮像された一の撮像画像に基づき赤外線カットフィルターに不具合が起こっているかを調べる。より具体的に説明すると、制御部210は、撮像画像における、異常な画素(例えば、昼間の撮像画像が赤みがかってしまうケースを対象とする場合には、画素ごとにRGBの色成分からR/GやB/Gを算出し、その両方が閾値以上となった画素を赤みがかった画素すなわち異常な画素と認識する。また、例えば、夜間の撮像画像が暗くなってしまうケースを対象とする場合には、画素ごとにRGBの各値が閾値以下となった画素を暗い画素すなわち異常な画素と認識する。)の数をカウントし、カウントした結果の値を撮像画像の全画素数で割った値を故障度とする。なお、本処理は必ずしも全画素を対象としなくてもよく、所定単位でスキップした画素を対象としてもよいし、縮小画像を生成した後にその全画素を対象としてもよい。また、制御部210は、デバイスのガンマ特性を考慮するため、RGB空間からリニアRGB空間に変換し、計算するようにしてもよい。制御部210は、故障度が閾値以上である場合は、撮像装置120の赤外線カットフィルターに不具合が起こっているとして、不具合を検知したとする。なお、不具合を検知した場合、その時間帯や画素値の特性に応じて、不具合の種類(昼間の撮像画像が赤みがかってしまうケース/夜間の撮像画像が暗くなってしまうケース)を判別してもよい。また、制御部210は、故障度が閾値未満である場合は、撮像装置120の赤外線カットフィルターに不具合は起きていないとして以下に説明するシーケンスSQ404以降の処理を省略する。
他の例として、制御部210は、一の撮像画像を学習済みモデルに入力するようにしてもよい。ここで、学習済みモデルは、一の撮像画像を入力データ、撮像画像を撮像した撮像装置の赤外線カットフィルターに不具合が生じているか否かを出力データとして学習された学習済みモデルである。制御部210は、出力データが赤外線カットフィルターに不具合が生じていることを示していた場合、撮像装置120の赤外線カットフィルターに不具合が起こっているとして、不具合を検知したとする。また、制御部210は、出力データが赤外線カットフィルターに不具合が生じていないことを示していた場合、撮像装置120の赤外線カットフィルターに不具合は起きていないとして以下に説明するシーケンスSQ404以降の処理を省略する。
シーケンスSQ404において、制御部210は、撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を管理者等に通知するため、クライアント装置110に送信する。例えば、制御部210は、電子メールを用いて、管理者宛に撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を送信する。図5は、クライアント装置110に送信される電子メールの一例を示す図である。電子メールには、不具合を起こした撮像装置120を識別する情報と、撮像装置120が設置されている設置場所の情報と、不具合の内容と、不具合を検知した日付等が記載されている。なお、不具合の内容としては、不具合の種類(昼間の撮像画像が赤みがかってしまうケース/夜間の撮像画像が暗くなってしまうケース)を記載してもよい。また、不具合を検知した日付としては、時刻や時間帯、昼間/夜間等を示す情報を記載してもよい。また、不具合を起した可能性があるハードウェアとしては、IRカットフィルター以外のものとして、例えば赤外線照射機構を併記してもよいし、その何れかが明確に分かる場合には片方のみを記載してもよい。また、メールの記載のうち「保守担当者に連絡してください」という部分については、通知先が保守担当者である場合には、省略される。シーケンスSQ404の処理等は、撮像画像の画素値に基づき所定のハードウェアに関する不具合が検知された場合、所定のハードウェアに関する不具合に関する情報を出力する処理の一例である。また、シーケンスSQ403及びシーケンスSQ404の処理は、撮像画像の画素値に基づき所定のハードウェアに関する不具合が発生しているか否かを判定し、所定のハードウェアに関する不具合が発生していると判定した場合、所定のハードウェアに関する不具合を検知したとして所定のハードウェアに関する不具合に関する情報を出力する処理の一例でもある。
なお、電子メールを送信するのは出力の一例であり、クライアント装置110の操作者等に撮像装置120の赤外線カットフィルターに不具合が起こっていることを通知することができればどのような方法であってもよい。例えば、制御部210は、ビジネスチャットツールにおいて担当者宛に図5に示されるような内容を送信するようにしてもよい。
また、制御部210は、出力の他の例として、撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を、CSV形式等(前述したメールに記載の情報を種類別に整理してまとめたもの)で記憶部220の所定の領域等に格納するようにしてもよい。
シーケンスSQ405において、制御部210は、赤外線カットフィルターに不具合が起こったことに応じた画像処理を記憶部220に記憶されている撮像画像に対して行う。例えば、制御部210は、昼間の撮像画像が赤みがかってしまうケースに対しては、赤みがかった撮像画像の赤みをなくすようRGB値の値を調整する画像処理を行う。また、制御部210は、夜間の撮像画像が暗くなってしまうケースに対しては、暗くなった撮像画像を明るくするようRGB値の値を調整する画像処理を行う。この処理は、撮像装置120で撮像された撮像画像に対して不具合に応じた画像処理を実行する処理の一例である。
ここで、制御部210は、制御部210は、撮像装置120の赤外線カットフィルターに関する不具合が検知された場合、撮像装置120の赤外線カットフィルターに不具合が生じたと検知してから撮像装置120の赤外線カットフィルターに関する不具合が修正されたと例えばクライアント装置110等の情報を受け取るまでの間に撮像装置120で撮像された撮像画像に対して、不具合に応じた画像処理を実行するようにしてもよい。
本実施形態によれば、撮像装置120のハードウェアに不具合が起こった場合、撮像画像に基づき不具合を検知し、すぐに不具合が起こったことを示す情報等を出力することができる。その結果、撮像装置120を設置しているお客様等に不具合が生じしていることを知らせたり、修理を担当する担当者に撮像装置120の修理を依頼したりすることができる。また、多くの撮像装置を様々な場所に設置している場合であっても、不具合が起こっていないか現場に出向いて人手で確認しなくてもよいため、情報処理システム1000全体の設置費用、管理費用等を安くすることができる。
(変形例1)
実施形態1の変形例1を説明する。
図6は、変形例1の情報処理システム1000における情報処理の一例を示すシーケンス図である。
例えば、所定のタイミングになったと判定した場合、シーケンスSQ601において、変形例1のサーバー装置100の制御部210は、撮像装置120に対して赤外線カットフィルターの機能をON(有効)にする制御信号を送信する。変形例1の撮像装置120は、サーバー装置100より赤外線カットフィルターの機能をON(有効)にする制御信号を受信する。
赤外線カットフィルターの機能をON(有効)にする制御信号を受信すると、シーケンスSQ602において、撮像装置120は、赤外線カットフィルターの機能をON(有効)にし、撮像を行い、撮像画像を生成する。赤外線カットフィルターの機能をON(有効)にして撮像を行うモードをIRカットフィルターONモードという。IRカットフィルターONモードは、第1の撮像モードの一例である。撮像装置120は、赤外線カットフィルターの機能が既に有効であった場合(既にIRカットフィルターONモードで動作していた場合)は、そのまま撮像を行い、撮像画像を生成する。変形例1の撮像画像の属性情報には、赤外線カットフィルターの機能がONの場合はON、OFFの場合はOFFであることを示す情報が含まれる。
シーケンスSQ603において、撮像装置120は、撮像画像をサーバー装置100に送信する。サーバー装置100の制御部210は、撮像装置120から送信された撮像画像を受信する。
シーケンスSQ604において、制御部210は、受信した撮像画像を記憶部220等に記憶する。
例えば、赤外線カットフィルターの機能をON(有効)にする制御信号を送信してから所定時間経過後、制御部210は、撮像装置120に対して赤外線カットフィルターの機能をOFF(無効)にする制御信号を送信する。なお、この所定時間は、SQ602とSQ606の撮像がほぼ同時刻と見なせる程度に(SQ601~SQ603の後SQ605~SQ607が速やかに行われるように)設定されることが望ましい。撮像装置120は、サーバー装置100より赤外線カットフィルターの機能をOFF(無効)にする制御信号を受信する。
赤外線カットフィルターの機能をOFF(無効)にする制御信号を受信すると、シーケンスSQ606において、撮像装置120は、赤外線カットフィルターの機能をOFF(無効)にし、撮像を行い、撮像画像を生成する。赤外線カットフィルターの機能をOFF(無効)にして撮像を行うモードをIRカットフィルターOFFモードという。IRカットフィルターOFFモードは、第2の撮像モードの一例である。撮像装置120は、赤外線カットフィルターの機能が既に無効であった場合(既にIRカットフィルターOFFモードで動作していた場合)は、そのまま撮像を行い、撮像画像を生成する。
すなわち、撮像装置120は、赤外線カットフィルターを有効にしたIRカットフィルターONモードと赤外線カットフィルターを無効にしたIRカットフィルターOFFモードとで撮像可能である。
シーケンスSQ607において、撮像装置120は、撮像画像をサーバー装置100に送信する。サーバー装置100の制御部210は、撮像装置120から送信された撮像画像を受信する。
シーケンスSQ608において、制御部210は、受信した撮像画像を記憶部220等に記憶する。
なお、シーケンスSQ601の処理と、シーケンスSQ602の処理との順序は逆であってもよい。また、この順序は、図6のシーケンスを開始したタイミングにおけるIRカットフィルターの状態に応じて(例えば始めにIRカットフィルターがONであればON/OFFという順序になるように)、決定してもよい。
シーケンスSQ609において、制御部210は、記憶部220に記憶されているIRカットフィルターONモードで撮像された撮像画像とIRカットフィルターOFFモードで撮像された撮像画像とに基づき赤外線カットフィルターに不具合が起こっているかを調べる検知処理を実行する。例えば、制御部210は、IRカットフィルターONモードで撮像された撮像画像とIRカットフィルターOFFモードで撮像された撮像画像とに差異がない、すなわち、昼間に撮影した映像が、全体的又は部分的に、どちらも赤みがかっていたり、どちらも赤みがかっていなかったりした場合、又は、夜間に撮影した映像が、全体的又は部分的に、どちらも暗くなっていたり、どちらも暗くなっていなかったりした場合は、赤外線カットフィルターに不具合が起こっているとして、不具合を検知したとする。
より具体的に説明すると、制御部210は、IRカットフィルターONモードで撮像された撮像画像(以下、第1の撮像画像ともいう)とIRカットフィルターOFFモードで撮像された撮像画像(以下、第2の撮像画像ともいう)とを比較し、色以外の動きがある画像領域を比較対象領域から除外する。例えば、第1の撮像画像には含まれているオブジェクト(例えば、車)の位置と第2の撮像画像に含まれているオブジェクトの位置とが異なる場合、第1の撮像画像のオブジェクトが存在する領域及び第2の撮像画像のオブジェクトが存在する領域を第1の撮像画像及び第2の撮像画像から削除することで、比較対象領域から除外する。制御部210は、第1の撮像画像の比較対象領域と第2の撮像画像の比較対象領域について、同じ位置の画素同士で色の差分を計算する。より具体的に説明すると、制御部210は、画素ごとにRGBの色成分の何れか又は全ての差分を算出し、そのうち何れか又は全ての差分が閾値未満となった画素を異常な画素と認識し、その数をカウントする。なお、この閾値は、撮像のタイミング(昼間/夜間)により異なる値としてもよい。そして、カウントした結果の値を撮像画像の全画素数で割った値を故障度とする。なお、本処理は必ずしも全画素を対象としなくてもよく、所定単位でスキップした画素を対象としてもよいし、縮小画像を生成した後にその全画素を対象としてもよい。また、制御部210は、デバイスのガンマ特性を考慮するため、RGB空間からリニアRGB空間に変換し、計算するようにしてもよい。制御部210は、故障度が閾値以上である場合は、撮像装置120の赤外線カットフィルターに不具合が起こっているとして、不具合を検知したとする。なお、不具合を検知した場合、その時間帯や画素値の特性に応じて、不具合の種類(昼間の撮像画像が赤みがかってしまうケース/夜間の撮像画像が暗くなってしまうケース)を判別してもよい。不具合が起こっていないと判定した場合、制御部210は、以下に説明するシーケンスSQ610以降の処理を省略する。なお、不具合の検知方法は、変形例2と同様に2つの撮像画像のヒストグラムの差分を求める方法を採用してもよい。
他の例として、制御部210は、第1の撮像画像と第2の撮像画像とを学習済みモデルに入力するようにしてもよい。ここで、学習済みモデルは、第1の撮像画像と第2の撮像画像とを入力データ、第1の撮像画像と第2の撮像画像とを撮像した撮像装置の赤外線カットフィルターに不具合が生じているか否かを出力データとして学習された学習済みモデルである。制御部210は、出力データが赤外線カットフィルターに不具合が生じていることを示していた場合、撮像装置120の赤外線カットフィルターに不具合が起こっているとして、不具合を検知したとする。また、制御部210は、出力データが赤外線カットフィルターに不具合が生じていないことを示していた場合、撮像装置120の赤外線カットフィルターに不具合は起きていないとして以下に説明するシーケンスSQ610以降の処理を省略する。
シーケンスSQ610において、制御部210は、撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を管理者等に通知するため、クライアント装置110に送信する。例えば、制御部210は、電子メールを用いて、図5に示されるような内容で、管理者宛に撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を送信する。シーケンスSQ610の処理等は、第1の撮像画像と第2の撮像画像とに基づき赤外線カットフィルターに関する不具合が検知された場合、赤外線カットフィルターに関する不具合に関する情報を出力する処理の一例である。また、シーケンスSQ609及びシーケンスSQ610の処理は、第1の撮像画像と第2の撮像画像とに基づき赤外線カットフィルターに関する不具合が発生しているか否かを判定し、赤外線カットフィルターに関する不具合が発生していると判定した場合、赤外線カットフィルターに関する不具合を検知したとして赤外線カットフィルターに関する不具合に関する情報を出力する処理の一例でもある。
なお、電子メールを送信するのは出力の一例であり、クライアント装置110の操作者等に撮像装置120の赤外線カットフィルターに不具合が起こっていることを通知することができればどのような方法であってもよい。例えば、制御部210は、ビジネスチャットツールにおいて担当者宛に図5に示されるような内容を送信するようにしてもよい。
また、制御部210は、出力の他の例として、撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を、CSV形式等(前述したメールに記載の情報を種類別に整理してまとめたもの)で記憶部220の所定の領域等に格納するようにしてもよい。
シーケンスSQ611において、制御部210は、赤外線カットフィルターに不具合が起こったことに応じた画像処理を記憶部220に記憶されている撮像画像に対して行う。例えば、制御部210は、昼間の撮像画像が赤みがかってしまうケースに対しては、赤みがかった撮像画像の赤みをなくすようRGB値の値を調整する画像処理を行う。また、制御部210は、夜間の撮像画像が暗くなってしまうケースに対しては、暗くなった撮像画像を明るくするようRGB値の値を調整する画像処理を行う。
ここで、制御部210は、制御部210は、撮像装置120の赤外線カットフィルターに関する不具合が検知された場合、撮像装置120の赤外線カットフィルターに不具合が生じたと検知してから撮像装置120の赤外線カットフィルターに関する不具合が修正されたと例えばクライアント装置110等の情報を受け取るまでの間に撮像装置120で撮像された撮像画像に対して、不具合に応じた画像処理を実行するようにしてもよい。
変形例1によっても、撮像装置120のハードウェアに不具合が起こった場合、撮像画像に基づき不具合を検知し、すぐに不具合が起こったことを示す情報等を出力することができる。その結果、撮像装置120を設置しているお客様等に不具合が生じしていることを知らせたり、修理を担当する担当者に撮像装置120の修理を依頼したりすることができる。また、多くの撮像装置を様々な場所に設置している場合であっても、不具合が起こっていないか現場に出向いて人手で確認しなくてもよいため、情報処理システム1000全体の設置費用、管理費用等を安くすることができる。
(変形例2)
実施形態1の変形例2を説明する。
変形例2の撮像画像の属性情報には、撮像画像が撮像された際の動作モードが含まれる。この動作モードには、少なくとも昼間の撮影モード(赤外線照射OFF/IRカットフィルターON)と夜間の撮影モード(赤外線照射ON/IRカットフィルターOFF)が含まれる。
変形例2の制御部210は、記憶部220等に記憶されている撮像画像の属性情報に含まれる撮像日時と、動作モードと、に基づき、同じ動作モードで、撮像日時が異なる少なくとも2つの撮像画像(以下、第3の画像、第4の画像ともいう)に基づき、撮像装置120の赤外線カットフィルターに不具合が起こっているかを調べる検知処理を実行する。例えば、制御部210は、第3の画像に含まれる被写体に関する画像のヒストグラムと、第4の画像に含まれる同じ被写体に関する画像のヒストグラムと、の差分を求め、差分が閾値以上の場合は、赤外線カットフィルターに不具合が生じていると判定し、不具合を検知したとする。一方、制御部210は、差分が閾値未満の場合は、赤外線カットフィルターに不具合が生じていないとする。なお、不具合の検知方法は、変形例1と同様に2つの撮像画像に含まれる画素同士の色の差分を求める方法を採用してもよい。
他の例として、制御部210は、第3の撮像画像と第4の撮像画像とを学習済みモデルに入力するようにしてもよい。ここで、学習済みモデルは、第3の撮像画像と第4の撮像画像とを入力データ、第3の撮像画像と第4の撮像画像とを撮像した撮像装置の赤外線カットフィルターに不具合が生じているか否かを出力データとして学習された学習済みモデルである。制御部210は、出力データが赤外線カットフィルターに不具合が生じていることを示していた場合、撮像装置120の赤外線カットフィルターに不具合が起こっているとして、不具合を検知したとする。また、制御部210は、出力データが赤外線カットフィルターに不具合が生じていないことを示していた場合、撮像装置120の赤外線カットフィルターに不具合は起きていないとする。
制御部210は、撮像装置120の赤外線カットフィルターに不具合が起こっていることを検知すると、撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を管理者等に通知するため、クライアント装置110に送信する。例えば、制御部210は、電子メールを用いて、図5に示されるような内容で、管理者宛に撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を送信する。この処理は、撮像装置120によって異なる時刻で撮像された少なくとも2つの撮像画像に基づき赤外線カットフィルターに関する不具合が検知された場合、赤外線カットフィルターに関する不具合に関する情報を出力する処理の一例である。また、上述した赤外線カットフィルターに関する不具合を検知する処理とこの処理とは、撮像装置120によって異なる時刻で撮像された少なくとも2つの撮像画像の画素値に基づき赤外線カットフィルターに関する不具合が発生しているか否かを判定し、赤外線カットフィルターに関する不具合が発生していると判定した場合、赤外線カットフィルターに関する不具合を検知したとして赤外線カットフィルターに関する不具合に関する情報を出力する処理の一例である。
なお、電子メールを送信するのは出力の一例であり、クライアント装置110の操作者等に撮像装置120の赤外線カットフィルターに不具合が起こっていることを通知することができればどのような方法であってもよい。例えば、制御部210は、ビジネスチャットツールにおいて担当者宛に図5に示されるような内容を送信するようにしてもよい。
また、制御部210は、出力の他の例として、撮像装置120の赤外線カットフィルターに不具合が起こっていることを示す情報を、CSV形式等(前述したメールに記載の情報を種類別に整理してまとめたもの)で記憶部220の所定の領域等に格納するようにしてもよい。
変形例2によっても、撮像装置120のハードウェアに不具合が起こった場合、撮像画像に基づき不具合を検知し、すぐに不具合が起こったことを示す情報等を出力することができる。その結果、撮像装置120を設置しているお客様等に不具合が生じしていることを知らせたり、修理を担当する担当者に撮像装置120の修理を依頼したりすることができる。また、多くの撮像装置を様々な場所に設置している場合であっても、不具合が起こっていないか現場に出向いて人手で確認しなくてもよいため、情報処理システム1000全体の設置費用、管理費用等を安くすることができる。
さらに、次に記載の各態様で提供されてもよい。
(1)赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムであって、前記撮像画像に基づき、前記赤外線カットフィルターに関する不具合を検知し、前記不具合に関する情報を出力する、情報処理システム。
(2)上記(1)に記載の情報処理システムにおいて、前記不具合の検知は、前記撮像画像の色成分に基づき行う、情報処理システム。
(3)上記(2)に記載の情報処理システムにおいて、前記撮像画像の色成分を解析し、前記撮像画像が赤みがかっている又は暗くなっていると判断される場合に、前記赤外線カットフィルターに関する不具合を検知する、情報処理システム。
(4)上記(1)に記載の情報処理システムにおいて、前記撮像装置は、前記赤外線カットフィルターを有効にした第1の撮像モードと前記赤外線カットフィルターを無効にした第2の撮像モードで撮像可能であって、前記不具合の検知は、前記第1の撮像モードで撮像された第1の撮像画像と前記第2の撮像モードで撮像された第2の撮像画像との差分に基づき行う、情報処理システム。
(5)上記(4)に記載の情報処理システムにおいて、前記不具合の検知において、前記第1の撮像画像と前記第2の撮像画像との差分が所定値未満である場合に、前記赤外線カットフィルターに不具合が起きていると判定する、情報処理システム。
(6)上記(1)に記載の情報処理システムにおいて、前記撮像装置は、前記赤外線カットフィルターを有効にした第1の撮像モードと前記赤外線カットフィルターを無効にした第2の撮像モードで撮像可能であって、前記不具合の検知は、前記第1の撮像モード又は前記第2の撮像モードの何れか一方のモードにおいて互いに異なる時刻で撮像された第1の撮像画像と第2の撮像画像との差分に基づき行う、情報処理システム。
(7)上記(6)に記載の情報処理システムにおいて、前記不具合の検知において、前記第1の撮像画像と前記第2の撮像画像との差分が所定値以上である場合に、前記赤外線カットフィルターに不具合が起きていると判定する、情報処理システム。
(8)上記(1)に記載の情報処理システムにおいて、前記前記赤外線カットフィルターに関する不具合が検知された場合、前記撮像装置で撮像された撮像画像に対して前記不具合による影響を軽減するための画像処理を実行する、情報処理システム。
(9)上記(8)に記載の情報処理システムにおいて、前記不具合による影響を軽減するための画像処理は、前記不具合を検知してから前記不具合が解消されるまでの間に前記撮像装置で撮像された撮像画像に対して行われる、情報処理システム。
(10)所定のハードウェアを有する撮像装置により撮像された撮像画像を処理する情報処理システムであって、前記撮像画像に基づき、前記所定のハードウェアに関する不具合を検知し、前記不具合に関する情報を出力する、情報処理システム。
(11)赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムが実行する情報処理方法であって、前記撮像画像に基づき、前記赤外線カットフィルターに関する不具合を検知し、前記不具合に関する情報を出力する、情報処理方法。
(12)プログラムであって、コンピュータを、上記(1)から(10)までの何れか1つに記載の情報処理システムとして機能させるためのプログラム。
もちろん、この限りではない。
例えば、上述したサーバー装置100の処理の一部、又は全てを撮像装置120で実行するようにしてもよい。
また、上述した実施形態等では撮像装置120の所定のハードウェアの一例として、赤外線カットフィルターを例に説明を行ったが、他のハードウェア、例えば撮像装置120のレンズ、イメージセンサー等であっても同様である。
最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
100 :サーバー装置
110 :クライアント装置
120 :撮像装置
150 :ネットワーク
210 :制御部
220 :記憶部
230 :通信部
310 :制御部
320 :記憶部
330 :撮像部
340 :入出力部
350 :通信部
1000 :情報処理システム

Claims (11)

  1. 赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムであって、
    前記撮像画像の色成分に基づき前記撮像画像が赤みがかっていると判断される場合に、前記赤外線カットフィルターに関する不具合を検知し、
    前記不具合に関する情報を出力する、
    情報処理システム。
  2. 請求項1に記載の情報処理システムにおいて、
    前記撮像装置は、前記赤外線カットフィルターを有効にした第1の撮像モードと前記赤外線カットフィルターを無効にした第2の撮像モードで撮像可能であって、
    前記不具合の検知は、前記第1の撮像モード又は前記第2の撮像モードの何れか一方のモードにおいて互いに異なる時刻で撮像された第1の撮像画像と第2の撮像画像との差分に基づき行う、
    情報処理システム。
  3. 請求項に記載の情報処理システムにおいて、
    前記不具合の検知において、前記第1の撮像画像と前記第2の撮像画像との差分が所定値以上である場合に、前記赤外線カットフィルターに不具合が起きていると判定する、
    情報処理システム。
  4. 請求項1に記載の情報処理システムにおいて、
    前記前記赤外線カットフィルターに関する不具合が検知された場合、前記撮像装置で撮像された撮像画像に対して前記不具合による影響を軽減するための画像処理を実行する、
    情報処理システム。
  5. 請求項に記載の情報処理システムにおいて、
    前記不具合による影響を軽減するための画像処理は、前記不具合を検知してから前記不具合が解消されるまでの間に前記撮像装置で撮像された撮像画像に対して行われる、
    情報処理システム。
  6. 赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムであって、
    前記撮像画像に基づき前記赤外線カットフィルターに関する不具合を検知し、
    前記不具合に関する情報を出力し
    前記撮像装置は、前記赤外線カットフィルターを有効にした第1の撮像モードと前記赤外線カットフィルターを無効にした第2の撮像モードで撮像可能であって、
    前記不具合の検知は、前記第1の撮像モードで撮像された第1の撮像画像と前記第2の撮像モードで撮像された第2の撮像画像との差分に基づき行う、
    情報処理システム。
  7. 請求項に記載の情報処理システムにおいて、
    前記不具合の検知において、前記第1の撮像画像と前記第2の撮像画像との差分が所定値未満である場合に、前記赤外線カットフィルターに不具合が起きていると判定する、
    情報処理システム。
  8. 所定のハードウェアを有する撮像装置により撮像された撮像画像を処理する情報処理システムであって、
    前記撮像画像の色成分に基づき前記撮像画像が赤みがかっていると判断される場合に、前記所定のハードウェアに関する不具合を検知し、
    前記不具合に関する情報を出力する、
    情報処理システム。
  9. 赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムが実行する情報処理方法であって、
    前記撮像画像の色成分に基づき前記撮像画像が赤みがかっていると判断される場合に、前記赤外線カットフィルターに関する不具合を検知し、
    前記不具合に関する情報を出力する、
    情報処理方法。
  10. 赤外線カットフィルターを有する撮像装置により撮像された撮像画像を処理する情報処理システムが実行する情報処理方法であって、
    前記撮像画像に基づき前記赤外線カットフィルターに関する不具合を検知し、
    前記不具合に関する情報を出力し、
    前記撮像装置は、前記赤外線カットフィルターを有効にした第1の撮像モードと前記赤外線カットフィルターを無効にした第2の撮像モードで撮像可能であって、
    前記不具合の検知は、前記第1の撮像モードで撮像された第1の撮像画像と前記第2の撮像モードで撮像された第2の撮像画像との差分に基づき行う、
    情報処理方法
  11. プログラムであって、
    コンピュータを、
    請求項1から請求項までの何れか1項に記載の情報処理システムとして機能させるためのプログラム。
JP2022193108A 2022-12-01 2022-12-01 情報処理システム、情報処理方法及びプログラム Active JP7220972B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022193108A JP7220972B1 (ja) 2022-12-01 2022-12-01 情報処理システム、情報処理方法及びプログラム
US18/244,018 US20240187743A1 (en) 2022-12-01 2023-09-08 Information processing system, information processing method, and memory medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022193108A JP7220972B1 (ja) 2022-12-01 2022-12-01 情報処理システム、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP7220972B1 true JP7220972B1 (ja) 2023-02-13
JP2024080163A JP2024080163A (ja) 2024-06-13

Family

ID=85197987

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022193108A Active JP7220972B1 (ja) 2022-12-01 2022-12-01 情報処理システム、情報処理方法及びプログラム

Country Status (2)

Country Link
US (1) US20240187743A1 (ja)
JP (1) JP7220972B1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160119617A1 (en) * 2014-10-23 2016-04-28 Texas Instruments Incorporated Fault detection and method of detecting faults in digital imaging systems
JP2017225073A (ja) * 2016-06-17 2017-12-21 キヤノン株式会社 撮像装置とその制御方法、プログラム及び撮像システム
WO2020121391A1 (ja) * 2018-12-11 2020-06-18 三菱電機ビルテクノサービス株式会社 エレベーターの防犯カメラの汚れの検知に用いられる監視装置、判定装置およびエレベーターシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160119617A1 (en) * 2014-10-23 2016-04-28 Texas Instruments Incorporated Fault detection and method of detecting faults in digital imaging systems
JP2017225073A (ja) * 2016-06-17 2017-12-21 キヤノン株式会社 撮像装置とその制御方法、プログラム及び撮像システム
WO2020121391A1 (ja) * 2018-12-11 2020-06-18 三菱電機ビルテクノサービス株式会社 エレベーターの防犯カメラの汚れの検知に用いられる監視装置、判定装置およびエレベーターシステム

Also Published As

Publication number Publication date
US20240187743A1 (en) 2024-06-06

Similar Documents

Publication Publication Date Title
US8737695B2 (en) Photography auto-triage
CN110428410B (zh) 眼底医学图像处理方法、装置、设备及存储介质
US11102456B2 (en) Video encoding system and video encoding method
CN111294526B (zh) 一种摄像机防太阳灼伤处理方法及装置
WO2017114151A1 (en) Method for controlling infrared illuminator and related image-recording device
CN112672114B (zh) 监控设备日夜模式的切换方法、系统、设备及存储介质
US20200019788A1 (en) Computer system, resource arrangement method thereof and image recognition method thereof
US11283997B2 (en) Surveillance apparatus, method for controlling the same, and storage medium
US10462346B2 (en) Control apparatus, control method, and recording medium
US11084091B2 (en) System and method for detecting 3D printing errors
US11765469B2 (en) Image capturing apparatus, device, control method, and computer-readable storage medium
US20150116489A1 (en) Imaging apparatus
KR20230036024A (ko) 전기차 충전기 화재 감지 및 상태 이상 예측 시스템
US20160372157A1 (en) Display control apparatus, display control method, and storage medium
JP7220972B1 (ja) 情報処理システム、情報処理方法及びプログラム
JP5293270B2 (ja) 撮影対象選択装置、撮影対象選択装置の制御方法、撮影対象選択装置制御プログラムおよび該プログラムを記録したコンピュータ読み取り可能な記録媒体
KR101925799B1 (ko) 디스플레이 장치에서 표시되는 정보의 유출을 방지하기 위한 컴퓨터 프로그램과 이를 이용한 보안 서비스 제공 방법
JP2024080163A (ja) 情報処理システム、情報処理方法及びプログラム
CN110611793A (zh) 基于工业视觉的供应链信息采集与数据分析方法及装置
CN109462728B (zh) 码率控制方法、装置、图像采集设备及可读存储介质
CN112770021B (zh) 摄影机与滤片切换方法
CN110557549A (zh) 用以控制影像捕获设备的电路及相关的控制方法
US11336789B1 (en) Controlling a multi-function device based on a user limit associated with a policy
US20210216755A1 (en) Face authentication system and face authentication method
CN113328520A (zh) 一种送电智能运维方法、系统、装置及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221202

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20221202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230131

R150 Certificate of patent or registration of utility model

Ref document number: 7220972

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350