JP2021100188A - 映像処理装置及び映像処理方法 - Google Patents

映像処理装置及び映像処理方法 Download PDF

Info

Publication number
JP2021100188A
JP2021100188A JP2019231011A JP2019231011A JP2021100188A JP 2021100188 A JP2021100188 A JP 2021100188A JP 2019231011 A JP2019231011 A JP 2019231011A JP 2019231011 A JP2019231011 A JP 2019231011A JP 2021100188 A JP2021100188 A JP 2021100188A
Authority
JP
Japan
Prior art keywords
video data
display
video
information
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019231011A
Other languages
English (en)
Other versions
JP6721915B1 (ja
Inventor
恒司 森川
Koji Morikawa
恒司 森川
高野 淳
Atsushi Takano
淳 高野
淳志 竹鼻
Atsushi Takehana
淳志 竹鼻
憲 土佐林
Ken Tosabayashi
憲 土佐林
香織 堀江
kaori Horie
香織 堀江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shutoko Engineering Co Ltd
Funcreate Co Ltd
Original Assignee
Shutoko Engineering Co Ltd
Funcreate Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shutoko Engineering Co Ltd, Funcreate Co Ltd filed Critical Shutoko Engineering Co Ltd
Priority to JP2019231011A priority Critical patent/JP6721915B1/ja
Application granted granted Critical
Publication of JP6721915B1 publication Critical patent/JP6721915B1/ja
Publication of JP2021100188A publication Critical patent/JP2021100188A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】再生すべき映像の選択を容易に行う。【解決手段】映像処理装置は、所定のフレーム毎に撮像環境を示す環境情報が記録された複数の映像データを保持するデータ保持手段と、検索情報を入力する入力手段と、前記入力された検索情報に基づいて所定の環境情報の範囲を設定する設定手段と、前記複数の映像データから前記設定された所定の範囲内の環境情報を有する映像データを表示候補として選択する候補選択手段と、前記選択された表示候補の映像データを提示する提示手段と、前記提示された表示候補の前記映像データから選択された映像データを表示させる表示手段とを備える。【選択図】図1

Description

本発明は、映像処理システム及び映像処理方法に関する。
従来、路面に関連する路面構造物や路面の周辺に設置された付属構造物等を含む道路構造物を点検する場合、点検用車両に搭載したカメラ等によって撮像した映像を点検者が確認している。
特許文献1には、光学映像に応じた撮像信号を用いて光学映像に応じた映像データを生成するときに、位置情報および方位情報を、映像データに挿入する技術が開示されている。
2009−159279号公報
カメラ等で撮像された映像をもとに点検対象となる物体の状態を確認する場合、例えば、特定の撮像条件で撮像されたフレームを取り出して確認することができると、点検作業効率が一段と向上する。
しかしながら、特許文献1に記載の技術では、撮像条件に応じて、複数の映像データから、再生すべき映像データの選択を容易にすることは考慮されていない。
本発明は、上記した従来技術に鑑み考案されたもので、再生すべき映像の選択を容易に行うことができる映像処理システム及び映像処理方法を提供することを目的とする。
上記課題を解決するために、本発明にかかる映像処理装置のある態様によれば、所定のフレーム毎に撮像環境を示す環境情報が記録された複数の映像データを保持するデータ保持手段と、検索情報を入力する入力手段と、前記入力された検索情報に基づいて所定の環境情報の範囲を設定する設定手段と、前記複数の映像データから前記設定された所定の範囲内の環境情報を有する映像データを表示候補として選択する候補選択手段と、前記選択された表示候補の映像データを提示する提示手段と、前記提示された表示候補の前記映像データから選択された映像データを表示させる表示手段とを備える映像処理装置が提供される。
また、ある態様によれば、環境情報には、映像データが撮像された時刻、映像データが撮像された位置、映像データが撮像された際の車両の姿勢、映像データが撮像された際の車両の振動、映像データが撮像された際の車両の周囲の温度、映像データが撮像された際の車両の周囲の音、映像データが撮像された際の車両の速度、の少なくとも1つが含まれる。
本発明によれば、再生すべき映像の選択を容易に行うことができる。
本発明の第1の実施形態に係る映像処理システムの一例を示す概略構成図である。 映像を撮像する撮像システムの一例を示す概略構成図である。 撮像装置の構成を示すブロック図である。 映像ファイルの構成例である。 再生制御装置のハードウェア構成の一例を示す図である。 映像ファイルの表示処理を示すフローチャートである。 検索情報を選択する画面の例を示す図である。 検索情報を入力する画面の例を示す図である。 検索情報の入力の例を示す図である。 所定の環境情報の範囲の設定と表示候補の映像ファイルの選択処理を概念的に示す図である。 表示候補となる映像ファイルの提示の例を示す図である。 表示候補となる映像ファイルの提示の例を示す図である。 表示候補のいずれかを選択した状態の画面の例を示す図である。 本発明の第2の実施形態に係る映像処理システムにおける映像ファイルの表示処理を示すフローチャートである。 選択された映像の表示画面の例を示す図である。 検索情報を選択する画面の例を示す図である。
以下、本発明の実施の形態を図面に基づいて説明する。
(第1の実施形態)
図1は、本実施形態における映像処理システム100の一例を示す概略構成図である。
この映像処理システムは、撮像された映像ファイル(映像データ)等が格納されている映像DB(データベース)1と、映像ファイルの再生等の処理を行う表示制御装置2と、ユーザからの指示等を入力する入力装置3と、映像ファイルに応じた画像等を表示する表示装置4とを備えている。
映像DB1には、様々な撮像条件で撮像された道路や周囲の風景等の映像ファイル1aと、地図等の画像データ1bと、条件設定や表示制御等に用いる設定データ1cとが格納されている。
表示制御装置2は、入力装置3を介してユーザからの指示を入力する指示入力部2aと、再生候補の映像ファイルを選択する候補選択部2bと、ユーザによって選択された映像を取得する映像取得部2cと、映像取得部2cが取得した映像ファイルに応じた画像等を表示装置4に表示させる表示制御部2dとを備えている。
入力装置3は、ユーザからの指示を入力するキーボード3aとマウス3b等を備えている。
表示装置4は、液晶ディスプレイ装置等からなり、表示制御装置2の表示制御部2dからの制御に応じた画像を表示させる。
映像DB1に格納されている映像ファイル1aは、例えば図2に示す撮像システム300によって様々な撮像条件で撮像されている。この撮像システム300は、例えば車両200に搭載可能である。車両200は、例えば、高速道路をはじめとする各種道路において、所定の日数毎に行われる点検を実施するための点検用車両である。撮像システム300は、3つの撮像装置10a、10b、10cを備えている。3つの撮像装置10a、10b、10cは同じ構造を有する。撮像装置10a、10b、10cは同期制御部30に接続されている。同期制御部30は、各撮像装置10a〜10cの撮像タイミングをフレーム単位で同期させるための制御を行う。また、撮像システム300は、撮像条件(例えば撮像時刻、車両200の位置や姿勢あるいは振動、周囲の温度、周囲の音、車両200の走行速度等)を測定するセンサ部37を備えている。このセンサ部37の出力は、同期制御部30を介して各撮像装置10a〜10cに供給されている。
センサ部37は、例えば時刻情報取得部37aと、位置情報取得部37bと、姿勢情報取得部37cと、温度情報取得部37dと、音情報取得部37eと、速度情報取得部37fとを備えている。
時刻情報取得部37aは、例えば、電波時計等に用いられる標準電波を受信する受信機を備え、当該受信機で受信した標準電波から得られる標準時刻情報を、撮像時刻を示す情報として同期制御部30を介して各撮像装置10a〜10cの信号処理部14に出力する。ここで、標準電波としては、日本のJJY、米国のWWVB、英国のMSF、及び、独国のDCF77などがある。なお、インターネットを通じて時刻情報を提供する時刻情報提供サービスや放送の時報を利用して時刻情報を取得してもよいし、同期制御部30や図示しないパソコンに内蔵された時計を利用して時刻情報を取得してもよい。
位置情報取得部37bは、例えば、GNSS(Global Navigation Satellite System)衛星から送信される信号を受信するGNSS受信機を含んで構成される。位置情報取得部37bは、受信した信号から撮像装置10aの位置(車両200の位置)を示す位置情報を取得し、その位置情報を、撮像位置を示す情報として各撮像装置10a〜10cの信号処理部14に出力する。なお、GNSSとは、GPS(米国)、GALILEO(欧州)、CLONASS(ロシア)、準天頂衛星(日本)などの測位衛星の総称である。
姿勢情報取得部37cは、例えば、3軸加速度センサ、3軸ジャイロセンサ等の3軸センサにより構成される。姿勢情報取得部37cは、撮像装置10a(車両200)の加速度情報や角速度情報を取得し、取得した情報を、撮像姿勢を示す情報として各撮像装置10a〜10cの信号処理部14に出力する。なお、この姿勢情報取得部37cが3軸加速度センサを備える場合、3軸加速度センサの出力によって、車両200の振動を検出することができる。
温度情報取得部37dは、例えば車両200の周囲の温度を検出する温度センサにより構成される。あるいは、車両200が走行している路面の温度を検出する放射温度計等のセンサを用いることもできる。温度情報取得部37dは、取得した温度情報を各撮像装置10a〜10cの信号処理部14に出力する。
音情報取得部37eは、例えば車両200の周囲の騒音のレベルを検出する騒音センサにより構成される。あるいは、車両200の周囲の音を収音するマイク等を用いることもできる。音情報取得部37eは、取得した音情報を各撮像装置10a〜10cの信号処理部14に出力する。
速度情報取得部37fは、例えば車両200の車輪200w(車軸)の回転数から車両200の走行速度を検出する速度センサにより構成される。速度情報取得部37fは、取得した速度情報を各撮像装置10a〜10cの信号処理部14に出力する。
なお、時刻情報取得部37a、位置情報取得部37b及び姿勢情報取得部37cは、それぞれ時刻情報、位置情報及び姿勢情報を取得可能な構成であれば、上記の構成に限定されない。また、時刻情報取得部37a、位置情報取得部37b及び姿勢情報取得部37cは、それぞれ撮像装置10aに内蔵してもよいし、車両200に設置してもよい。例えば、姿勢情報取得部37cを車両200のサスペンションによって車体の揺れが緩衝されない位置(例えば、車輪近傍)に設置した場合、路面の僅かな変動による揺れを検出することができる。
また、温度情報取得部37d及び音情報取得部37eは、それぞれ温度情報及び音情報を取得可能な構成であれば、上記の構成に限定されず、それぞれ撮像装置10aに内蔵してもよいし、車両200に設置してもよい。
撮像装置10a、10b、10cは、車両200のルーフに取り付けられる。撮像装置10a、10b、10cは、それぞれ約60度の画角(視野角)のデジタルビデオカメラである。撮像装置10bは、車両200の長手方向正面(進行方向)に向けられて設置されており、当該方向の左右30度ずつ(合計60度)の範囲で車両200の周辺を撮像する。撮像装置10aは、撮像装置10bの左60度の範囲で車両200の周辺を撮像する。撮像装置10cは、撮像装置10bの右60度の範囲で車両200の周辺を撮像する。従って、撮像装置10a、10b、10cは、合計で180度の撮像範囲を有することになる。なお、図示の都合上、図1では撮像装置10a、10b、10cが車両200の長手方向に並んで配置されているように描かれているが、撮像装置10a、10b、10cは、車両200の幅方向に配置されてよい。撮像装置10a、10b、10cは、同じ構造を有するので、以下の説明では、撮像装置10aを説明する。
撮像装置10aは、例えば、アスペクト比16:9の横長のハイビジョン映像を撮像するハイビジョンカメラである。これにより、アスペクト比4:3の映像に対し、人の視野に近い状態で映像を撮像することができる。撮像装置10aは、例えば車両200が所定の点検対象道路を走行しているとき、若しくは車両200が停車しているときに、当該車両200の周辺の映像を撮像する。
以下、撮像装置10a、10b、10cの構成について、撮像装置10aを例に具体的に説明する。
図3に示すように、撮像装置10aは、被写体からの光を集光するレンズ11と、撮像素子12と、撮像素子12を駆動する駆動回路13と、駆動回路13の制御や撮像素子12からの撮像信号に対する処理等を行う信号処理部14と、信号処理部14からの映像ファイルを記録する記録部15とを備えている。
撮像素子12は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等から構成される。
駆動回路13は、信号処理部14からの同期信号に応じて撮像素子12を駆動する。
信号処理部14は、同期信号を発生する同期信号発生部14aと、撮像素子12からの信号アナログ映像信号を入力し、アナログデジタル変換等の処理を行う信号処理回路14bと、信号処理回路14bの処理結果として得られるデジタル映像信号を符号化するエンコーダ14cと、信号処理部14全体の処理を制御する制御部14dとを備えている。
従来の撮像装置では、撮像素子からのアナログ映像信号に対して雑音除去やアナログデジタル変換等の処理を行うAFE(Analog Front End)を設けている。このような従来の撮像装置では、本実施例の信号処理部14に相当する部分において、AFEで処理されたデジタル映像信号に対して処理を行うようになっている。AFEを用いた場合、AFEでの処理が間に合わないフレームあるいはエラーが生じたフレームに対しては、AFEから映像のないフレーム(いわゆる黒フレーム)が出力される。従来の撮像装置の信号処理部14に相当する部分では、当該黒フレームに対するデジタル映像信号を出力せずに(つまり、黒フレームを捨てる。)、次の映像のあるフレームを出力する。これにより、出力される映像信号中にフレームの欠落が生じ、実際に撮像を行った時間よりも、全てのフレームの時間を足した時間が短くなる場合がある。
また、従来の撮像装置では、本実施形態の表示装置4に相当する部分から出力されたデジタル映像信号に対して時刻情報を記録するようになっている。このため、フレームの欠落があると、このようなデジタル映像信号に基づいて映像DB1に格納されている映像ファイル1a中の特定の時刻のフレームを取り出すことが困難になる。
これに対し、本実施形態の撮像装置10a(10b、10c)では、AFEを設けず、信号処理部14側で、アナログデジタル変換等の処理を行うようにしており、黒フレームが生じた場合でも、そのまま(黒フレームを捨てることなく)デジタル映像信号として出力している。また、本実施形態の撮像装置10a(10b、10c)では、信号処理部14内で、黒フレームも含めて、全てのフレームのデジタル映像信号に時刻情報を記録している。これにより、撮像装置10aでは、フレーム欠落は生じない。よって、実際に撮像を行った時間と、全てのフレームの時間を足した時間とが等しくなる。
このため、本実施形態では、信号処理部14からのデジタル映像信号に基づいて映像DB1に格納されている映像ファイル1a中のフレーム数をカウントするだけで特定の時刻のフレームを取り出すことができるようになっている。
信号処理部14は、撮像素子12から得られた電気信号に所定の信号処理を施し、複数のフレーム(画像フレーム)を含む映像データを生成する。本実施形態では、撮像時刻、撮像位置、撮像時の姿勢(撮像姿勢)、振動、周囲の温度、周囲の音、車両200の走行速度などの撮像環境に関する情報(以下、「環境情報」と称す。)を、各フレームに対応付けて映像データを生成する。この映像データの生成方法については後述する。また、信号処理部14は、エンコーダを介して映像データを圧縮処理するなどにより映像ファイルを生成する。ここでの圧縮方式は、例えば、H.264、MPEG4(Moving Picture Experts Group phase4)、MJPEG(Motion-JPEG)などの規格に基づく。記録部15は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気テープ等の磁気記録媒体、光ディスクや光磁気ディスク等の光/光磁気記憶媒体等の記録媒体を備えており、信号処理部14が生成した映像ファイルを記録する。
図4は、映像ファイルの一例を示している。図4に示すように、映像ファイル40は、ヘッダ部41と映像データ部42とを含んで構成されている。ヘッダ部41には、映像ファイル40のファイル名、ファイルの種類、ファイルサイズ等、映像ファイル40の構造を示すヘッダ情報(H)が含まれる。また、映像データ部42には、フレーム単位(1F,2F,…)の映像データが含まれる。映像データ部42内におけるフレームとフレームとの間には、環境情報43が、例えば数値データとして書き込まれる。環境情報43は、例えば、対応するフレームの直前に書き込む。すなわち、第2フレーム(2F)の環境情報43は、第1フレーム(1F)と第2フレーム(2F)との間に書き込む。なお、環境情報43とそれに対応するフレームとの対応付けがされていれば、環境情報43を書き込む位置は上記に限定されない。また、環境情報43は、映像データの全フレームに対して書き込んでもよいし、所定間隔で書き込んでもよい。なお、フレーム中に環境情報を書き込むようにしてもよい。
本実施形態においては、信号処理部14は、環境情報43を、映像データの再生に影響しない形で書き込む。例えば、環境情報43は、フレームごとに設けられたヘッダ(フレームヘッダ)内に格納してもよいし、フレームごとのメタデータとして格納してもよい。また、映像再生時に環境情報43が読み飛ばされるような制御コードを付加して環境情報43を書き込んでもよい。なお、映像再生時に環境情報43がコメントアウトされる形で環境情報43を書き込んでもよい。環境情報43の書き込み方法は、映像処理システム100のユーザ(例えば、車両200の乗員)が適宜設定することができる。
このように、信号処理部14は、各フレームに関連する環境情報43を書き込みながらフレーム単位で映像データ部42を順次生成していく。そして、信号処理部14は、映像データ部42の生成が完了すると、映像データ部42に対応するヘッダ部41を生成し、映像ファイル40を生成する。信号処理部14は、生成した映像ファイル40を記録部15に記録する。記録部15に記録された映像ファイルは、記録媒体若しくはネットワーク等を介して、上述の映像処理システム100に供給され、映像DB1に格納される。
図5は、表示制御装置2のハードウェア構成の一例を示す図である。
画像処理装置20は、CPU51と、ROM52と、RAM53と、外部メモリ54と、入力部55と、出力部56と、通信I/F57と、システムバス58とを備える。
CPU51は、画像処理装置20における動作を統括的に制御するものであり、システムバス58を介して、各構成部(52〜57)を制御する。
ROM52は、CPU51が処理を実行するために必要な制御プログラム等を記憶する不揮発性メモリである。なお、当該プログラムは、外部メモリ54や着脱可能な記憶媒体(不図示)に記憶されていてもよい。
RAM53は、CPU51の主メモリ、ワークエリア等として機能する。すなわち、CPU51は、処理の実行に際してROM52から必要なプログラム等をRAM53にロードし、当該プログラム等を実行することで各種の機能動作を実現する。
外部メモリ54は、例えば、CPU51がプログラムを用いた処理を行う際に必要な各種データや各種情報等を予め記憶している。また、外部メモリ54には、例えば、CPU51がプログラム等を用いた処理を行うことにより得られた各種データや各種情報等が記憶される。外部メモリ54は、SDカードやUSBメモリ等の外部記憶媒体であってもよい。また、外部メモリ54は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気テープ等の磁気記録媒体、光ディスクや光磁気ディスク等の光/光磁気記憶媒体等の記憶媒体(記憶装置)であってもよい。
入力部55は、図1の入力装置3に相当し、キーボードやマウス等のポインティングデバイスで構成され、表示制御装置2のユーザは、入力部55を介して当該表示制御装置2に指示を与えることができるようになっている。
出力部56は、図1の表示装置4等に相当し、液晶ディスプレイ(LCD)等のモニタで構成される。
通信I/F57は、外部装置(例えば撮像装置10a〜10c等)と通信するためのインターフェースである。通信I/F57は、例えばLANインターフェースである。
システムバス58は、CPU51、ROM52、RAM53、外部メモリ54、入力部55、出力部56及び通信I/F57を通信可能に接続する。
すなわち、CPU51は、ROM52に記憶されたプログラムを実行することで、図1の表示制御装置2として機能する。
次に、図6のフローチャートを用いて映像処理システム100の動作を説明する。
なお映像DB1には、予め撮像システム300で撮像された映像ファイル1aが格納されているものとする。
図6の処理を開始すると、表示制御装置2は、S1において、検索情報とする環境情報の種類をユーザに選択させるための画面(選択画面)を表示させるための画像を生成し、表示装置4に表示させる。
具体的には、候補選択部2bは、表示制御部2dに、例えば図7に示すように、選択画面60の選択領域61に、「時刻」を選択する選択ボタン61aと、「位置」を選択する選択ボタン61bと、「姿勢」を選択する選択ボタン61cと、「振動」を選択する選択ボタン61dと、「温度」を選択する選択ボタン61eと、「音」を選択する選択ボタン61fと、「速度」を選択する選択ボタン61gとを表示させる。
ユーザはマウス3bを操作して、選択画面60に表示されているカーソル65を移動させ、所望の環境情報に対応するボタンを選択した後、決定ボタン63を指示する。ユーザの選択が指示入力部2aを介して入力されると(S2)、候補選択部2bは、表示制御部2dに、検索情報を入力する入力画面を表示させる(S3)。
具体的には、例えば検索情報の種類として「位置」が選択されている場合には、候補選択部2bは、表示制御部2dに、図8に示すような入力画面70を表示させる。この入力画面70には、地図を表示する領域71と、ユーザの指示を入力するボタン72a〜72jを表示する領域72と、環境情報を表示する領域73と、映像を表示する領域74a、74b、74cが設けられている。なお、地図を表示する領域71には、候補選択部2bが、表示制御部2dに、初期状態の位置に対応する地図を表示させる。
このような入力画面70を表示させた後、候補選択部2bは、ユーザからの検索情報の入力を待機する(S4)。
検索情報の種類として「位置」が選択されており、図8に示す入力画面70が表示されている場合には、ユーザがマウス3bを操作して、マーカの表示を指示するボタン72eを指示(クリック)すると、候補選択部2bは、表示制御部2dに、例えば図9に示すように、入力画面70の領域71内にマーカ75を表示させる。さらに、ユーザがマウス3bを操作して、所望の位置にマーカ75を移動させて地図上のあるポイントをクリックすることによって、クリックされたポイントが位置に関する検索情報となる。
あるいは、検索情報の種類として「姿勢」が選択されている場合には、例えば車両200の前後あるいは左右の傾きの値を入力させる画面を表示させ、ユーザに姿勢の値(例えば「15°」等)を入力させるようにしてもよい。すなわち、この入力された姿勢の値が検索情報となる。また、検索情報の種類として「振動」が選択されている場合には、例えば振動の値を入力させる画面を表示させ、ユーザに振動の値を入力させるようにしてもよい。また、検索情報の種類として「温度」が選択されている場合には、例えば温度の値を入力させる画面を表示させ、ユーザに温度の値を入力させるようにしてもよい。また、検索情報の種類として「音」が選択されている場合には、例えば音の値(騒音レベル)を入力させる画面を表示させ、ユーザに音の値を入力させるようにしてもよい。また、検索情報の種類として「速度」が選択されている場合には、例えば速度の値を入力させる画面を表示させ、ユーザに速度の値を入力させるようにしてもよい。
S4においてユーザが検索情報を入力すると、候補選択部2bは、入力された検索情報に基づいて所定の環境情報の範囲を設定する(S5)。具体的には、検索情報として「位置」が入力されている場合には、候補選択部2bは、例えば図10に破線85で示すように、マーカ75の位置を中心とした所定の半径内の位置を所定の環境情報の範囲として設定する。なお、同図中において、位置情報81〜83は、映像DB1に格納複数の映像ファイル1aの各フレームの位置情報を地図上にプロットしたものである。
あるいは、検索情報として「姿勢」の値が入力されている場合には、例えば車両200の前後あるいは左右の傾きの値の入力値から所定の範囲を所定の環境情報の範囲として設定する。この場合には、さらに左右の傾きの値が所定の範囲にある状態が所定の時間(所定のフレーム数)継続することを所定の環境情報の範囲として設定してもよい。これにより、道路のねじれのある区間を所定の環境情報の範囲として設定することができる。また、検索情報として「振動」の値が入力されている場合には、例えば振動の値の入力値から所定の範囲を所定の環境情報の範囲として設定する。また、検索情報として「温度」の値が入力されている場合には、例えば温度の値の入力値から所定の範囲を所定の環境情報の範囲として設定する。また、検索情報として「音」の値が入力されている場合には、例えば音の値の入力値から所定の範囲あるいは所定のレベル以上を所定の環境情報の範囲として設定する。また、検索情報として「速度」の値が入力されている場合には、例えば速度の値の入力値から所定の範囲あるいは入力値から所定の速度以上を所定の環境情報の範囲として設定する。
上記S5において、所定の環境情報の範囲を設定すると、候補選択部2bは、映像取得部2cを介して表示すべき映像ファイル1aの候補(表示候補)を検索する(S6)。
表示すべき映像ファイル1aの候補の検索は、候補選択部2bが、映像DB1に格納されている各映像ファイル1aの環境情報と、設定した所定の環境情報の範囲とを比較して行う。具体的には、マーカ75の位置位置を中心とした所定の半径内が所定の環境情報の範囲として設定されている場合には、候補選択部2bは、映像ファイル1a内の位置情報がマーカ75の位置から所定の距離以内にあるか否かを判断し、マーカ75の位置から所定の距離以内にある位置情報を有する映像ファイル1aを表示候補として選択する。
また、他の所定の環境情報の範囲が設定されている場合には、候補選択部2bは、各映像ファイル1aの環境情報と設定された所定の環境情報の範囲とを比較して、表示候補を選択する。
表示候補を選択すると、候補選択部2bは、表示候補の映像データをユーザに提示する。具体的には、候補選択部2bは、表示制御部2dに指示して、選択した表示候補を表示装置4に表示させる(S7)。具体的には、マーカ75の位置から所定の距離以内にある位置情報を有する映像ファイル1aが表示候補として選択されている場合には、例えば図11に示すように、候補選択部2bは、地図を表示させる領域71に表示されている地図に重畳させて、表示候補の映像ファイル1aの位置情報81、82を表示させる。なお、図10中の位置情報83は、破線85の範囲内にないため、表示候補に入らない。よって、図11の領域71には、位置情報81〜83のうちの位置情報81、82のみが表示される。
なお、候補選択部2bは、マーカ75の位置が領域71の中心付近になるように地図を移動させる。また、この場合の位置情報81、82は、各表示候補の映像ファイル1aの各フレームの位置情報をプロットした線として表示している。
なお、表示候補の映像ファイル1aが複数ある場合には、視認性の向上のため、各々の映像ファイル1aの位置情報の表示態様(色、線種等)を異ならせてもよい。図11の例では、2つある映像ファイル1aの位置情報81、82を異なる線種で表示させている。また、表示候補の映像ファイル1aの位置情報81、82軌跡を表示させる代わりに、例えば図12に示すように、表示候補の映像ファイル1aをリスト形式で表示させるウィンドウ76を表示させてもよい。候補選択部2bは、このウィンドウ76内の表示領域76a、76bに、各表示候補の映像ファイル1aの時刻情報、位置情報等の環境情報を表示させる。なお、このウィンドウ76内の並び順は、例えば映像ファイル1aが有する位置情報がマーカ75の位置に近い順とする。あるいは、映像ファイル1aが有する時刻情報が新しい順としてもよい。
また、他の所定の環境情報の範囲に応じて表示候補の映像ファイル1aが選択された場合には、例えば図12と同様のリスト形式で表示してもよいし、図11と同様に映像ファイル1aの位置情報を地図に重畳させて表示してもよい。
この後、候補選択部2bは、ユーザが表示候補の映像ファイル1aのいずれかを選択するのを待機する(S8)。
ユーザが表示候補のいずれかの映像ファイル1aを選択すると、候補選択部2bは、映像取得部2cを介して当該選択された映像ファイル1aを取得し、表示制御部2dを介して当該映像ファイル1aのマーカ75に最も近い位置の位置情報に対応するフレームの画像を表示させる(S9)。具体的には、例えば図13に示すように、撮像装置10a、10b、10cで撮像された映像ファイル1aを同期させて、各々映像を表示する領域74a、74b、74cに表示させる。すなわち、撮像装置10a、10b、10cで同時に撮像された映像ファイル1aのいずれか(例えば撮像装置10bで撮像された映像ファイル1a)が選択され、候補選択部2bが、当該映像ファイル1aの所定のフレームの画像を表示させると共に、当該映像ファイル1a内の表示させているフレームに対応する時刻情報を用いて、同時に撮像された他の映像ファイル1aの同じ時刻情報を有するフレームの画像(撮像装置10a、10cで撮像された映像ファイル1aのフレームの画像)を表示させる。
また、表示制御部2dは、当該フレームに対応する位置情報の位置にマーカ75’を表示させる。さらに、候補選択部2bは、表示制御部2dを介して、現在表示させている映像ファイル1aのフレームに対応する環境情報を領域73内にさせる。
この後、表示制御部2dは、ユーザからの指示に応じて映像ファイル1aの表示を制御する。例えばユーザがボタン72gを指示すると、映像ファイル1aの再生を開始する。あるいは、ユーザがボタン72fを指示すると、映像ファイル1aの巻き戻しを実行する。また、ユーザがボタン72hを指示すると、映像ファイル1aの早送りを実行する。
表示制御部2dは、映像ファイル1aの再生に応じて領域71の位置を変更し、現在再生中のフレームに対応する位置情報に対応する地図上の位置が領域71の中央になるように地図を移動させる。
表示制御部2dは、以上のような処理をユーザから終了の指示があるまで継続する(S10)。あるいは、映像ファイル1aの再生が終了した時点で、処理を終了する。
なお、S6で得られた表示候補が1つである場合には、S8の処理を実行せずにS9の処理を実行するようにしてもよい。
本実施形態では、上述のように、ユーザが入力した検索情報に該当する映像ファイル1aを表示すべき候補としてユーザに提示し、提示した候補からユーザが再生すべき映像ファイル1aの選択を行っているため、再生すべき映像の選択を容易に行うことができる。
(第2の実施形態)
本発明の第2の実施形態に係る映像処理システム100は、図1と同様に構成されている。
第1の実施形態では、入力された検索情報に基づいて所定の環境情報の範囲を設定し、設定した所定の範囲内の環境情報を有する映像ファイルを表示候補として選択し、表示候補の映像ファイルをユーザに提示し、提示した表示候補の映像ファイルから選択された映像ファイルを表示させるようにしていた。
これに対し、第2の実施形態では、地図上の位置を入力し、当該位置から所定の距離以内にある位置情報を有する映像ファイルを表示させるようにしている。
本実施形態の映像処理システム100では、例えば図14に示すように、まず、候補選択部2bが、図8と同様の入力画面を表示させ(S11)、ユーザからの位置入力を待機する(S12)。
まず、ユーザがマウス3bを操作して、マーカの表示を指示するボタン72eを指示(クリック)すると、候補選択部2bは、表示制御部2dに、図9と同様に、入力画面70の領域71内にマーカ75を表示させる。さらに、ユーザがマウス3bを操作して、所望の位置にマーカ75を移動させて地図上のあるポイントをクリックすると、クリックされたポイントが位置に関する検索情報として入力される。
ユーザが位置を入力すると、候補選択部2bは、映像取得部2cを介して表示すべき映像ファイル1aの候補(表示候補)を検索する(S13)。
具体的には、候補選択部2bは、マーカ75の位置から一番近い位置情報を有する映像ファイル1aを1つだけ表示候補として選択する。
この後、候補選択部2bは、表示制御部2dに、表示候補の映像ファイル1aを表示させる(S14)。
具体的には、候補選択部2bは、例えば図15に示すように、表示制御部2dに、表示させる映像ファイル1aの所定のフレームの画像を表示させると共に、当該フレームの位置情報に対応する地図上の位置にマーカ75’を表示させる。
この後の表示制御部2dによる表示制御は、第1の実施形態と同様であり、表示制御部2dは、ユーザから終了の指示があるまで表示制御を継続する(S15)。
なお、S14において、映像ファイル1aの表示を行うと共に、図11と同様に、表示候補の映像データ1aの位置情報を重畳させて表示させておき、ユーザからの指示に応じて候補選択部2bが表示する映像ファイル1aを切り替えるようにしてもよい。
この実施形態では、ユーザが地図上の位置を入力するだけで、入力した位置から最も近い位置情報を有する映像ファイルを表示させることができるため、再生すべき映像の選択を容易に行うことができると共に、ユーザの入力負担を小さくすることができる。
(変形例)
上記実施形態においては、撮像環境に関する環境情報として、撮像時刻、撮像位置および撮像姿勢等を記録する場合について説明したが、環境情報には少なくとも撮像時刻を含んでいればよい。また環境情報として、例えば撮像時の速度に関する情報や、撮像時の音に関する情報などを含んでもよい。また、撮像時の音(音声データ)は、各フレーム1F、2F、3Fに含まれてもよい。
また、上記実施形態においては、撮像装置10a〜10cを車両200に設置する場合について説明したが、これに限定されるものではない。例えば、車両以外の移動体(ラジコン、ドローン(無人航空機)、ヘリコプターなど)に撮像装置10a〜10cを設置してもよいし、路肩等に撮像装置10を固定してもよい。さらに、撮像装置10a〜10cは、店舗や施設等に設置することもできる。この場合、映像処理システム100は、店舗や施設内を監視する監視システムとして機能させることができる。また、撮像装置10a〜10cは、人が携帯してもよい。
また、上記実施形態においては、映像処理システム100と撮像システム300を別個に設けた構成について説明したが、映像処理システム100と撮像システム300をひとつの装置あるいはシステムとして構成してもよい。
また、上記実施形態においては、表示制御装置2において、画像検索処理で検索したフレームを表示部に表示する場合について説明したが、検索したフレームを記録媒体に記録したり、サーバ装置へ転送したりするようにしてもよい。
なお、上記実施形態における表示制御装置2で実行されるプログラムは、インストール可能なファイル形式または実行可能なファイル形式で、コンピュータが読み取り可能な記憶媒体に記憶されて提供されてもよい。また、上記実施形態における表示制御装置2で実行されるプログラムは、インターネット等のネットワーク経由で提供されてもよい。
以上、本発明の実施形態について詳細に説明したが、上述した実施形態は、本発明を実施するにあたっての一例を示したにすぎず、本発明の技術的範囲は、上述した実施形態に限定されるものではない。本発明は、その趣旨を逸脱しない範囲において種々の修正又は変更が可能である。
また、第1の実施形態において、複数の表示候補の映像ファイル1aがある場合の並び順を選択できるようにしてもよい。この場合は、図7の選択画面の代わりに、例えば図16に示すように、複数の環境情報を選択し得る選択画面を表示させる。
複数の環境情報は、例えば「第1キー」、「第2キー」とし、候補選択部2bは、各々の種類を入力させる。さらに、候補選択部2bは、「第1キー」に基づいて上述の所定の環境情報の範囲を設定して表示候補を選択し、表示候補を提示するときに、「第2キー」に基づいて表示候補の並び順として、表示候補の提示を行う。
また、表示候補となるべき映像ファイル1aを予めある程度選択しておいてから、図6の処理を実行するようにしてもよい。例えば、映像ファイル1aの撮像位置に対応する都道府県を示す情報を記録しておき、検索情報として都道府県名を入力した際に、入力された都道府県名に対応する映像ファイル1aのみを検索対象とすることによって、検索時間を短縮することができる。
1…映像DB、2…表示制御装置、2a…指示入力部、2b…候補選択部、2c…映像取得部、2d…表示制御部、3…入力装置、4…表示装置、10a、10b、10c…撮像装置、30…同期制御部、37…センサ部
上記S5において、所定の環境情報の範囲を設定すると、候補選択部2bは、映像取得部2cを介して表示すべき映像ファイル1aの候補(表示候補)を検索する(S6)。
表示すべき映像ファイル1aの候補の検索は、候補選択部2bが、映像DB1に格納されている各映像ファイル1aの環境情報と、設定した所定の環境情報の範囲とを比較して行う。具体的には、マーカ75の位置を中心とした所定の半径内が所定の環境情報の範囲として設定されている場合には、候補選択部2bは、映像ファイル1a内の位置情報がマーカ75の位置から所定の距離以内にあるか否かを判断し、マーカ75の位置から所定の距離以内にある位置情報を有する映像ファイル1aを表示候補として選択する。
また、他の所定の環境情報の範囲が設定されている場合には、候補選択部2bは、各映像ファイル1aの環境情報と設定された所定の環境情報の範囲とを比較して、表示候補を選択する。
表示候補を選択すると、候補選択部2bは、表示候補の映像データをユーザに提示する。具体的には、候補選択部2bは、表示制御部2dに指示して、選択した表示候補を表示装置4に表示させる(S7)。具体的には、マーカ75の位置から所定の距離以内にある位置情報を有する映像ファイル1aが表示候補として選択されている場合には、例えば図11に示すように、候補選択部2bは、地図を表示させる領域71に表示されている地図に重畳させて、表示候補の映像ファイル1aの位置情報81、82を表示させる。なお、図10中の位置情報83は、破線85の範囲内にないため、表示候補に入らない。よって、図11の領域71には、位置情報81〜83のうちの位置情報81、82のみが表示される。
なお、候補選択部2bは、マーカ75の位置が領域71の中心付近になるように地図を移動させる。また、この場合の位置情報81、82は、各表示候補の映像ファイル1aの各フレームの位置情報をプロットした線として表示している。
なお、表示候補の映像ファイル1aが複数ある場合には、視認性の向上のため、各々の映像ファイル1aの位置情報の表示態様(色、線種等)を異ならせてもよい。図11の例では、2つある映像ファイル1aの位置情報81、82を異なる線種で表示させている。また、表示候補の映像ファイル1aの位置情報81、82軌跡を表示させる代わりに、例えば図12に示すように、表示候補の映像ファイル1aをリスト形式で表示させるウィンドウ76を表示させてもよい。候補選択部2bは、このウィンドウ76内の表示領域76 a、76bに、各表示候補の映像ファイル1aの時刻情報、位置情報等の環境情報を表示させる。なお、このウィンドウ76内の並び順は、例えば映像ファイル1aが有する位置情報がマーカ75の位置に近い順とする。あるいは、映像ファイル1aが有する時刻情報が新しい順としてもよい。
また、他の所定の環境情報の範囲に応じて表示候補の映像ファイル1aが選択された場合には、例えば図12と同様のリスト形式で表示してもよいし、図11と同様に映像ファイル1aの位置情報を地図に重畳させて表示してもよい。

Claims (9)

  1. 所定のフレーム毎に撮像環境を示す環境情報が記録された複数の映像データを保持するデータ保持手段と、
    検索情報を入力する入力手段と、
    前記入力された検索情報に基づいて所定の環境情報の範囲を設定する設定手段と、
    前記複数の映像データから前記設定された所定の範囲内の環境情報を有する映像データを表示候補として選択する候補選択手段と、
    前記選択された表示候補の映像データを提示する提示手段と、
    前記提示された表示候補の前記映像データから選択された映像データを表示させる表示手段と、
    を備えることを特徴とする映像処理装置。
  2. 前記環境情報は、映像データが撮像された時刻、映像データが撮像された位置、映像データが撮像された際の車両の姿勢、映像データが撮像された際の車両の振動、映像データが撮像された際の車両の周囲の温度、映像データが撮像された際の車両の周囲の音、映像データが撮像された際の車両の速度、の少なくとも1つを含む
    ことを特徴とする請求項1記載の映像処理装置。
  3. 前記環境情報は、映像データが撮像された位置を示す位置情報を含み、
    地図を表示させる地図表示手段を備え、
    前記入力手段は、前記地図上の位置を入力する位置入力手段を備え、
    前記設定手段は、前記入力した位置から所定の距離以内にある前記位置情報を前記検索範囲として設定する
    ことを特徴とする請求項1又は2に記載の映像処理装置。
  4. 前記提示手段は、前記選択された表示候補の映像データが有する前記位置情報を前記地図に重畳させてユーザに提示する
    ことを特徴とする請求項3に記載の映像処理装置。
  5. 前記提示手段は、前記表示候補の映像データが複数ある場合に、当該各映像データが有する前記位置情報毎に異なる表示形態で表示させる
    ことを特徴とする請求項4に記載の映像処理装置。
  6. 検索情報を入力するステップと、
    前記入力された検索情報に基づいて所定の環境情報の範囲を設定する設定手段と、
    所定のフレーム毎に撮像環境を示す環境情報が記録された複数の映像データから前記設定された所定の範囲内の環境情報を有する映像データを表示候補として選択するステップと、
    前記選択された表示候補の映像データを提示するステップと、
    前記提示された表示候補の前記映像データから選択された映像データを表示させるステップと、
    を備えることを特徴とする映像処理方法。
  7. 所定のフレーム毎に撮像位置を示す位置情報が記録された複数の映像データを保持するデータ保持手段と、
    地図を表示させる地図表示手段と、
    前記地図上に位置を入力する位置入力手段と、
    前記入力した位置に基づいて前記位置情報を有する前記映像データを表示させる映像データ表示手段と、
    前記表示された映像データが有する前記位置情報を前記地図に重畳させて表示させる重畳手段とを備え、
    前記重畳手段は、前記入力した位置から所定の距離以内にある前記位置情報を有する前記映像データのみを表示することを特徴とする映像処理装置。
  8. 前記重畳手段は、前記入力した位置から所定の距離以内にある前記位置情報を有する前記映像データのみを表示するが複数ある場合に、当該各映像データに記録された前記位置情報毎に異なる表示形態で表示することを特徴とする請求項7に記載の映像処理装置。
  9. 前記地図表示手段は、前記映像データの表示に応じて前記表示させる地図を移動させることを特徴とする請求項7または8に記載の映像処理装置。
JP2019231011A 2019-12-23 2019-12-23 映像処理装置及び映像処理方法 Active JP6721915B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019231011A JP6721915B1 (ja) 2019-12-23 2019-12-23 映像処理装置及び映像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019231011A JP6721915B1 (ja) 2019-12-23 2019-12-23 映像処理装置及び映像処理方法

Publications (2)

Publication Number Publication Date
JP6721915B1 JP6721915B1 (ja) 2020-07-15
JP2021100188A true JP2021100188A (ja) 2021-07-01

Family

ID=71523886

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019231011A Active JP6721915B1 (ja) 2019-12-23 2019-12-23 映像処理装置及び映像処理方法

Country Status (1)

Country Link
JP (1) JP6721915B1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7179437B1 (ja) * 2021-04-14 2022-11-29 中日本高速道路株式会社 高速道路点検用画像データ収集システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007179553A (ja) * 2007-01-15 2007-07-12 Matsushita Electric Ind Co Ltd 映像情報提供システム
JP2008171381A (ja) * 2006-12-12 2008-07-24 Asia Air Survey Co Ltd 地理情報関連付け画像データ管理システムおよび地理情報関連付け画像データ管理プログラム
JP2017005299A (ja) * 2015-06-04 2017-01-05 株式会社ファンクリエイト 映像処理装置及び映像処理方法
JP2017228074A (ja) * 2016-06-22 2017-12-28 株式会社日立国際電気 映像記録システムおよび映像表示方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008171381A (ja) * 2006-12-12 2008-07-24 Asia Air Survey Co Ltd 地理情報関連付け画像データ管理システムおよび地理情報関連付け画像データ管理プログラム
JP2007179553A (ja) * 2007-01-15 2007-07-12 Matsushita Electric Ind Co Ltd 映像情報提供システム
JP2017005299A (ja) * 2015-06-04 2017-01-05 株式会社ファンクリエイト 映像処理装置及び映像処理方法
JP2017228074A (ja) * 2016-06-22 2017-12-28 株式会社日立国際電気 映像記録システムおよび映像表示方法

Also Published As

Publication number Publication date
JP6721915B1 (ja) 2020-07-15

Similar Documents

Publication Publication Date Title
JP5948465B1 (ja) 映像処理システム及び映像処理方法
US8994785B2 (en) Method for generating video data and image photographing device thereof
US20080030580A1 (en) Command system, imaging device, command device, imaging method, command processing method, and program
JP5851766B2 (ja) 携帯機器
US20160171781A1 (en) Server, client terminal, system, and program for presenting landscapes
US20090256919A1 (en) Imaging device, captured image recording method, and program
JP5901825B1 (ja) 映像処理装置及び映像処理方法
JP2008039628A (ja) ルート検索装置
JPWO2014103731A1 (ja) 画像処理装置および方法、並びにプログラム
JP2009162722A (ja) 案内装置、案内方法、及び案内プログラム
JP4352332B2 (ja) 画像採点方法及び画像採点システム
JP6721915B1 (ja) 映像処理装置及び映像処理方法
JP6634502B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2009058255A (ja) レーザ離隔計測システム
JP6412400B2 (ja) 画像合成装置および画像合成プログラム
WO2020179869A1 (ja) 情報処理装置、及び情報処理プログラム
WO2020162264A1 (ja) 撮影システム、撮影箇所設定装置、撮影装置及び撮影方法
JP6639832B2 (ja) 撮像装置,撮像方法,撮像プログラム
JP7048357B2 (ja) 撮影画像事前確認システム及び撮影画像事前確認方法
JP2021068994A (ja) 走行ルートの検索方法
JP2011188054A (ja) 位置情報利用可能な画像撮影装置、画像撮影方法およびプログラム
JP5206445B2 (ja) 動画表示装置、プログラムおよび撮像装置
JP7089364B2 (ja) 撮影システム
JP6997164B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
KR101323099B1 (ko) 모자이크 영상 생성 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200109

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200109

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200611

R150 Certificate of patent or registration of utility model

Ref document number: 6721915

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250