JP2016105587A - デジタルビデオストリームの情報を可視化する方法及び装置 - Google Patents

デジタルビデオストリームの情報を可視化する方法及び装置 Download PDF

Info

Publication number
JP2016105587A
JP2016105587A JP2015214438A JP2015214438A JP2016105587A JP 2016105587 A JP2016105587 A JP 2016105587A JP 2015214438 A JP2015214438 A JP 2015214438A JP 2015214438 A JP2015214438 A JP 2015214438A JP 2016105587 A JP2016105587 A JP 2016105587A
Authority
JP
Japan
Prior art keywords
image frames
merged
video stream
series
blended
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015214438A
Other languages
English (en)
Other versions
JP2016105587A5 (ja
JP6291464B2 (ja
Inventor
ヨーン レーン,
Yoon Lane
ヨーン レーン,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Axis AB
Original Assignee
Axis AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Axis AB filed Critical Axis AB
Publication of JP2016105587A publication Critical patent/JP2016105587A/ja
Publication of JP2016105587A5 publication Critical patent/JP2016105587A5/ja
Application granted granted Critical
Publication of JP6291464B2 publication Critical patent/JP6291464B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/005Reproducing at a different information rate from the information rate of recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B31/00Arrangements for the associated working of recording or reproducing apparatus with related apparatus
    • G11B31/006Arrangements for the associated working of recording or reproducing apparatus with related apparatus with video camera or receiver
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B33/00Constructional parts, details or accessories not provided for in the other groups of this subclass
    • G11B33/10Indicating arrangements; Warning arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/432Content retrieval operation from a local storage medium, e.g. hard-disk
    • H04N21/4325Content retrieval operation from a local storage medium, e.g. hard-disk by playing back content from the storage medium
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4621Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)

Abstract

【課題】処理用リソース消費を低減し、短時間に発生する事象を容易に発見できるデジタルビデオストリーム情報を可視化する方法、装置及びプログラムを提供する。【解決手段】装置1は、デジタルビデオストリームの画像フレームの複数グループをマージすることによって形成される一連のマージされた画像フレームを記憶するように構成されたメモリ12と、複数のマージされた画像フレームを一連のブレンドされた画像フレームへとブレンドするように構成されたブレンドモジュール14と、一連のブレンドされた画像フレームを表示するように構成されたディスプレイ16を備える。【選択図】図1

Description

本発明はデジタルビデオストリームの情報の可視化に関し、特に、デジタルビデオストリームの早送り再生に関する。
ビデオカメラがエリアの監視に用いられることがしばしばある。一又は複数のデジタルビデオストリームの形態で取得されたビデオデータは、リアルタイムで閲覧されるか、又はデータベースに記憶されオフラインでチェックされる。デジタルビデオストリーム内で起こっている事象を発見すべく、記憶されたビデオデータの全体をサーチするために、デジタルビデオストリーム全体で早送り再生を用いたマニュアルでのサーチが使用されることが多い。しかしながら、デジタル録画されたビデオの早送り再生は多くの処理用リソースを消費し、且つ事象が短時間でのみ発生している場合には発見が困難であり得る。
上記に鑑み、本発明の目的は、先述した従来技術による不利益が大幅に低減されるデジタルビデオストリーム情報を可視化する方法及び装置を提供することである。
本発明の第1の態様によれば、上記の目的がデジタルビデオストリーム情報の可視化方法によって達成される。本方法は、デジタルビデオストリームの画像フレームの複数のグループをマージすることにより形成される一連のマージされた画像フレーム(merged image frames)を受信することと、複数のマージされたフレームを一連のブレンドされた画像フレーム(blended image frames)へとブレンドすることであって、複数のマージされた画像フレームの各々が複数のブレンドされた画像フレームに寄与する、ブレンドすることと、一連のブレンドされた画像フレームをディスプレイ上に表示することと、を含む。
複数のブレンドされた画像フレームに寄与する上記の複数のマージされた画像フレームの各々に従って、一連のブレンドされた画像フレームを形成することにより、一連のブレンドされた画像フレームが生成される。複数のオリジナルの画像フレームの各々からの情報が複数のブレンドされた画像フレームに寄与する。結果として、オリジナルフレームからの情報が複数のブレンドされた画像フレーム内に存在することとなる。従って、関心対象の情報がオリジナルの画像フレームの1つ(又は少数)にのみ存在する場合でも、この関心対象の情報が、ブレンドされた画像フレームの複数(少数より多く)に存在することとなる。即ち、一連のブレンドされた画像フレームが再生される場合、再生が早送り再生でありながらも、関心対象の情報がオリジナルフレームよりも多数のブレンドされた画像にわたって存在することとなる。ビデオストリームのオリジナルの画像フレーム中の関心対象の情報は、関心対象の情報がもともと存在した画像フレーム数と比較して、より多数のブレンドされた画像フレームにわたり「ゴースト(薄い像)」として存在する。
本方法は更に、各マージされたフレームに寄与する画像フレーム数を設定することを含み得る。
本方法は更に、ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数を設定することを含み得る。
マージされた画像フレームが寄与するブレンドされた画像フレームのうちの少なくとも2つの間で変化するように、マージされた画像フレームの寄与度の重みが設定され得る。
代替的に、マージされた画像フレームの寄与度の重みは、マージされた画像フレームが寄与するブレンドされた画像フレームの各々において一定であるように設定され得る。
ブレンドされた画像フレームを画像フレームのビデオストリームとして連続的に表示することによって、一連のブレンドされた画像フレームの表示が実施され得る。
代替的に又は付加的に、一連のブレンドされた画像フレームの表示が、ブレンドされた画像フレームをディスプレイ上に並べて表示することによって実施されてもよい。
本方法は更に、デジタルビデオストリームの画像フレームの複数のグループを一連のマージされた画像フレームへとマージすることを含み得る。
本方法は更に、ビデオストリームからの画像フレームの複数のグループを一連のマージされた画像フレームへとマージする前に、画像フレームの解像度を低下させることを含み得る。
代替的に、本方法は更に、ビデオストリームからの画像フレームの複数のグループを一連のマージされた画像フレームへとマージする際に、画像フレームの解像度を低下させることを含み得る。
本方法は更に、デジタルビデオストリーム中の関心対象の事象を検出すること、及び、当該事象を含むデジタルビデオストリームの画像フレームについての画像フレームの寄与度の重みを、当該事象を含まないデジタルビデオストリームの画像フレームについての画像フレームの寄与度の重みとは異なるように設定することを含み得る。
本方法は更に、デジタルビデオストリーム中の関心対象の事象を検出すること、及び、当該事象を含むマージされた画像フレームについてのマージされた画像フレームの寄与度の重みを、当該事象を含まないマージされた画像フレームについてのマージされた画像フレームの寄与度の重みとは異なるように設定すること含み得る。
本発明の第2の態様によれば、上記の目的が、デジタルビデオストリーム情報の可視化するための装置によって達成される。本装置は、デジタルビデオストリームの画像フレームの複数のグループをマージすることによって形成される一連のマージされた画像フレームを記憶するように構成されたメモリ、複数のマージされたフレームを一連のブレンドされた画像フレームへとブレンドするように構成されたブレンドモジュールであって、複数のマージされた画像フレームの各々が複数のブレンドされた画像フレームに寄与する、ブレンドモジュール、及び、一連のブレンドされた画像フレームを表示するように構成されたディスプレイを備える。
本装置は更に、デジタルビデオストリームの画像フレームの複数のグループを一連のマージされた画像フレームへとマージするように構成されたマージモジュールを含み得る。
上述した方法の特徴は、可能な場合にはこの第2の態様にも適用される。無用な繰り返しを避けるため上述を参照する。
本発明は、特許請求の範囲に記載されたすべての可能な特徴の組み合わせに関連することに留意されたい。
本発明の利用可能性の更なる範囲は、以下の詳細な説明から明らかになるであろう。しかしながら、この詳細な説明よって本発明の範囲内の様々な変更及び修正が当業者に明らかとなるため、詳細な説明及び具体例は、本発明の好適な実施形態を示しながらも例示的な形でのみ提示されることを理解されたい。
従って、記載のデバイス及び記載の方法は変形し得るため、この発明は記載のデバイスの特定の構成要素部品又は記載の方法のステップに限定されないことを理解されたい。本明細書で使用される用語は、特定の実施形態を説明する目的のためにすぎず、限定的であることを意図しないことを更に理解されたい。明細書及び添付の特許請求の範囲で使用されるように、冠詞(「a」、「an」、「the」、及び「said」)は、文脈によって他のことが明らかに示されない限り、1つ又は複数の要素があることを意味していると意図されることに留意するべきである。従って、例えば、「ユニット」(a unit)又は「当該ユニット」(the unit)に言及した場合、これは幾つかのデバイスなどを含んでもよい。更に、「備える」「含む」「包含する」及び同様の表現は、他の要素又はステップを除外しない。
本発明の上記の態様及びその他の態様を、本発明の実施形態を示す添付の図面を参照しながら更に詳細に説明する。図面は発明を具体的な実施形態へと限定するものでなく、本発明の説明及び理解のためのものである。
図面に示すように、レイヤーとエリアのサイズは図示目的のために誇張され、本発明の実施形態の一般構造を示すために提供される。類似の参照番号は、全体を通して類似の要素を指す。
デジタルビデオストリームの情報を可視化するための装置の概略図である。 デジタルビデオストリームの情報を可視化するための方法のブロック図である。
これより、本発明の現時点で好ましい実施形態を示す添付図面を参照して、本発明を以下により詳細に説明する。しかしながら本発明は多くの異なる形態で実施されることができ、本明細書で説明される実施形態に限定されるものと解釈されるべきではなく、これらの実施形態はむしろ、本開示が包括的で完全となるように提供されており、当業者に本発明の範囲を十分に伝えるためのものである。
図1は、デジタルビデオストリーム情報を可視化するための装置1を示す。特に、デジタルビデオストリームの早送り再生のためのものである。装置1は、マージモジュール10、メモリ12、ブレンドモジュール14、及びディスプレイ16を備える。
装置1は、デジタルビデオストリームに関連するビデオデータを生成するか又は受信するように構成される。装置1がデジタルビデオストリームに関連するビデオデータを生成するように構成されている場合、装置1は、画像記録モジュール(図示せず)を備える。画像記録モジュールは、例えば、画像センサ及び画像プロセッサを備え、且つ画像センサによって捕捉された画像データを処理するように構成されたモジュールであり得る。装置1がデジタルビデオストリームに関連するビデオデータを受信するように構成されている場合、装置1は入力ポート(図示せず)を備え、これを介してデジタルビデオストリームに関連するビデオデータが受信される。入力ポートは、デジタルネットワークポート又はデジタルビデオストリームに関連するビデオデータの受信に適した任意の他のポートであり得る。代替的に、入力ポートは、USBメモリスティックなどの交換可能なメモリを受容するように構成されたメモリポートであり得る。
マージモジュール10は、画像フレームの複数のグループを、デジタルビデオストリームから一連のマージされた画像フレームへとマージする(併合する)ように構成される。これは、下記の実施例によって可視化され得る。下記の画像フレームを含むデジタルビデオストリームを想定されたい。
ABCDEFGHIJKLMNOPQRSTUVWX
次いで、マージモジュール10は、下記に従って、一連のマージされた画像フレーム(MF)を生成するように構成される。
MF=1/3A+1/3B+1/3C
MF=1/3D+1/3E+1/3F
MF=1/3G+1/3H+1/3I
MF=1/3J+1/3K+1/3L
MF=1/3M+1/3N+1/3O
MF=1/3P+1/3Q+1/3R
MF=1/3S+1/3T+1/3U
MF=1/3V+1/3W+1/3X
この実施例によれば、マージされた画像フレームの各々は、デジタルビデオストリームの3つの異なるオリジナルの画像フレームからの画像データを含む。しかしながら、一連のマージされた画像フレームがデジタルビデオストリームの画像フレームの複数のグループをマージすることによって形成される限り、他の可能性もまた実行可能であることが理解されよう。一連のマージされた画像フレームは、マージされた画像フレームの数がオリジナルの画像フレームの数よりも少なく形成される。これは、例えば、各オリジナルの画像フレームが単一のマージされた画像フレームにのみ寄与するように、オリジナルの画像フレームの複数のグループをマージすることよってなされ得る。一連のマージされた画像フレームの再生に際し、デジタルビデオストリームについて、デジタルビデオストリームの早送り再生と同じ又は同様のフレームレートの使用が達成される。これは、一連のマージされた画像フレーム中の画像フレーム数がデジタルビデオストリームの画像フレームの数と比較して減少しているからである。マージモジュール10は、各マージされたフレームに寄与する画像フレームの数を設定するように構成され得る。各マージされたフレームに寄与する画像フレームの数は、装置1のユーザによって、例えば、キーボード、マウス、トラックボール、マイクロフォン、又は装置1に接続された任意の他の適切な入力装置との相互作用により設定され得る。マージされた画像フレームの各々に寄与する画像フレームの数は、マージされた画像フレームの各々について同じであるように設定され得る。代替的に、マージされた画像フレームの各々に寄与する画像フレームの数は、マージされた画像フレーム間で異なるように設定されてもよい。マージされた画像フレームの各々に寄与する画像フレームの数は、マージされた画像フレーム間で動的に変化するように構成されてもよい。マージされた画像フレームの各々に寄与する画像フレームの数のそのような動的変化は、例えば、シーン中の動きレベルによって制御されるか、又はシーン中で発生する特定のタイプの事象によって引き起こされてもよい。シーン中の動きレベルが高い場合、マージされた画像フレームの各々に寄与する画像フレームの数は低く設定され、シーン中の動きレベルが低い場合、マージされた画像フレームの各々に寄与する画像フレームの数は高く設定される。但しこれとは逆でもよい。マージされた画像フレームの各々に寄与する画像フレームの数の変化させることにより、マージされたフレームのフレームレートは一定でないことがある。マージされたフレームの一定でないフレームレートは、後述のブレンドを実施する際に補償され得る。代替的に、マージされたフレームの一定でないフレームレートが補償されず、従って、得られた一連のブレンドされた画像フレームの再生スピードが変動してもよい。
デジタルビデオストリームのオリジナルの画像フレームの画像データは、アルファ合成(Alpha compositing)、多重ブレンド、及びスクリーンブレンドなどの様々なマージ技法を用いて加算され得る。その他のマージ技法も利用可能であることを当業者は理解するであろう。
種々の画像フレームからマージされた画像フレームの各々への寄与の、画像フレームの寄与度の重みは、マージモジュール10で設定されてもよい。画像フレームの寄与度の重みは、装置1のユーザによって、例えば、キーボード、マウス、トラックボール、マイクロフォン、又は装置1に接続された任意の他の適切な入力装置との相互作用により設定され得る。上記の実施例のように、画像フレームの寄与度の重みは、特定のマージされた画像フレームに寄与するすべての画像フレームについて等しくなるように設定され得る。代替的に、画像フレームの寄与度の重みは、特定のマージされた画像フレームに寄与する画像フレームについて異なるように設定されてもよい。画像フレームの寄与度の重みは、マージされた画像フレーム間で動的に変化してもよい。画像フレームの寄与度の重みのそのような動的な変化は、例えば、画像フレーム中で発生する事象の検出によって制御され得る。ある画像フレームが何らかの理由でより興味深いとされる場合、当該画像フレームはより大きい画像フレームの寄与度の重みを取得し得る。より興味深いとされる画像フレームは、デジタルビデオストリーム中の関心対象の事象の発見に用いるビデオ分析によって発見され得る。例えば、顔検出アルゴリズムが、例えば、ある顔が他の画像フレームよりも見やすい一又は複数の画像フレームを示すことができる。デジタルビデオストリーム中の関心対象の事象の発見に、他の種のビデオ分析が使用されてもよい。
メモリ12は、一連のマージされた画像フレームを受信し記憶するように構成される。メモリ12は、デジタルデータの記憶に適した任意の種類の揮発性又は非揮発性メモリであり得る。一連のマージされた画像フレームはデジタルデータである。
ブレンドモジュール14は、一連のマージされた画像フレームの複数のマージされたフレームを、一連のブレンドされた画像フレーム(BF)へとブレンドする(合成する)ように構成される。複数のマージされた画像フレームの各々は、複数のブレンドされた画像フレームに寄与している。従って、マージされた画像フレームの群をブレンドすることによって、一連のブレンドされた画像フレームが形成される。これは、下記の実施例によって可視化され得る。
BF=1/3MF1+1/3MF2+1/3MF3
BF=1/3MF2+1/3MF3+1/3MF4
BF=1/3MF3+1/3MF4+1/3MF5
BF=1/3MF4+1/3MF5+1/3MF6
BF=1/3MF5+1/3MF6+1/3MF7
BF=1/3MF6+1/3MF7+1/3MF8
この実施例によれば、ブレンドされた画像フレームの各々は、一連のマージされた画像フレームのうちの3つの異なるマージされた画像フレームからの画像データを含む。しかしながら、一連のブレンドされた画像フレームが、一連のマージされた画像フレームのマージされた画像フレームの複数のグループをブレンドすることによって形成される限り、他の可能性もまた実行可能であることが理解されよう。更には、一連のマージされた画像フレームのマージされた画像フレームのうちの少なくとも幾つかは、1つよりも多いブレンドされた画像フレームに寄与する。従って、複数のマージされた画像フレームの各々が、複数のブレンドされた画像フレームに寄与する。マージされた画像フレームがどのように一連のブレンドされた画像フレームへとブレンドされるかに依存して、一連のブレンドされた画像フレーム中のブレンドされた画像フレームの数が、一連のマージされた画像フレームのマージされた画像フレームの数と比較して、低減され得る。従って、一連のブレンドされた画像フレームの再生時、一連のマージされた画像フレームの再生と比較して向上したデジタルビデオストリームの再生スピードが達成され得る。
ブレンドモジュール14は、ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数が設定されるように、構成され得る。ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数は、装置1のユーザによって、例えば、キーボード、マウス、トラックボール、マイクロフォン、又は装置1に接続された任意の他の適切な入力装置との相互作用により設定され得る。ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数は、ブレンドされた画像フレームの各々について同じであるように設定され得る。代替的に、ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数は、ブレンドされた画像フレーム間で異なるように構成されてもよい。ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数は、ブレンドされた画像フレーム間で動的に変化するように設定されてもよい。ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数は、マージされた画像フレームに寄与する画像フレームの数が動的に設定されていることに起因するフレームレートの変化を補償するために制御され得る。ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数は更に、或いは組み合わせとして、より多くのブレンドされた画像フレーム中の特に興味深い事象を含むマージされた画像フレームを含めるように増加されてもよい。特に興味深い事象を含むマージされた画像フレームは、デジタルビデオストリーム中の関心対象の事象の発見に用いるビデオ分析によって発見され得る。例えば、顔検出アルゴリズムが、例えば、ある顔が他の画像フレームよりも見やすい一又は複数の画像フレームを示すことができる。デジタルビデオストリーム中の関心対象の事象の発見に、他の種のビデオ分析が使用されてもよい。
一連のマージされた画像フレームのマージされた画像フレームの画像データは、アルファ合成、多重ブレンド、及びスクリーンブレンドなどの様々なマージ技法を用いて加算され得る。その他のブレンド技法も利用可能であることを当業者は理解するであろう。
種々のマージされた画像フレームからブレンドされた画像フレームの各々への寄与についてのマージされた画像フレームの寄与度の重みが、ブレンドモジュール10で設定されてもよい。マージされた画像フレームの寄与度は、装置1のユーザによって、例えば、キーボード、マウス、トラックボール、マイクロフォン、又は装置1に接続された任意の他の適切な入力装置との相互作用により設定され得る。上記の実施例のように、マージされた画像フレームの寄与度の重みは、特定のマージされた画像フレームに寄与するすべてのマージされた画像フレームについて等しくなるように設定され得る。代替的に、マージされた画像フレームの寄与度の重みは、特定のブレンドされた画像フレームに寄与するマージされた画像フレームについて異なるように設定されてもよい。これを下記の実施例で示す。
BF’=1/4MF1+1/2MF2+1/4MF3
BF’=1/4MF2+1/2MF3+1/4MF4
BF’=1/4MF3+1/2MF4+1/4MF5
BF’=1/4MF4+1/2MF5+1/4MF6
BF’=1/4MF5+1/2MF6+1/4MF7
BF’=1/4MF6+1/2MF7+1/4MF8
上記の実施例で、マージされた画像フレームは、ブレンドされた画像フレームへとフェード方式でブレンドされる。即ち、画像フレームの寄与は、一連のブレンドされた画像フレームにフェードインされ(徐々に強められ)、且つ/又は一連のブレンドされた画像フレームからフェードアウトされ(徐々に弱められ)得る。
代替的に又は付加的に、マージされた画像フレームの寄与度の重みは、ブレンドされた画像フレーム間で動的に変化するように設定され得る。関心対象であるとマークされたマージされた画像フレームは、マークされていないマージされた画像フレームよりも高いマージされた画像フレームの寄与度の重みを有し得る。マージされた画像フレームのマーキングは、デジタルビデオストリーム中の関心対象の事象を発見するビデオ分析によって引き起こされ得る。
ディスプレイ16は、一連のブレンドされた画像フレームを表示するように構成される。一連のブレンドされた画像フレームの表示は、ブレンドされた画像フレームを画像フレームのビデオストリームとして連続的に表示することによって、実施され得る。代替的に、一連のブレンドされた画像フレームの表示が、ブレンドされた画像フレームをディスプレイ上に並べて表示することによって実施されてもよい。
装置1は、解像度設定モジュール18を備え得る。解像度設定モジュール18は、デジタルビデオストリームの画像フレームの解像度を設定するように構成され得る。解像度設定モジュール18は、マージモジュール10がビデオストリームからの画像フレームの複数のグループを一連のマージされた画像フレームへとマージするように構成される前に、画像フレームのうちの少なくとも幾つかの解像度を低下させるように構成され得る。代替的に、解像度設定モジュール18及びマージモジュール10が協働して、ビデオストリームからの画像フレームの複数のグループを一連のマージされた画像フレームへとマージする際に、画像フレームの解像度を低下させるように構成されてもよい。
装置1は事象検出モジュール20も備える。事象検出モジュール20は、関心対象の情報を含むデジタルビデオストリーム内の事象(一又は複数)を検出するように構成される。事象は、デジタルビデオストリームによって示されたシーン中で動く物体(例えば、人、車、動物、又はシーン中で動くその他の物体)であり得る。代替的に又は付加的に、事象は、デジタルビデオストリームで示されているシーン中に存在する特定のタイプの物体(例えば、人の顔、車のナンバー、又はシーン中に存在する特定のタイプのその他の物体)であり得る。
検出された事象(一又は複数)に関連する情報は、上述の画像フレームの寄与度の重み及び/又はマージされた画像フレームの寄与度の重みの制御に用いられ得る。事象検出モジュール20によって検出された事象(一又は複数)を含む、オリジナル画像フレーム及び/又はマージされた画像フレームは、事象検出モジュール20によって検出された事象(一又は複数)を含まないオリジナル画像フレーム及び/又はマージ画像フレームよりも大きい重みを付与される。
更には、オリジナルの画像フレームの検出された事象(一又は複数)を含むエリアを、オリジナルの画像フレームのシーンの背景に関連するエリアとは異なって重み付けするために、デジタルビデオストリーム内の検出された事象(一又は複数)に関連する情報は、マージモジュール10によって使用され得る。代替的に又は付加的に、デジタルビデオストリーム内の検出された事象(一又は複数)に関連する情報は、マージ画像フレームの検出された事象(一又は複数)を含むエリアを、マージ画像フレームのうちシーンの背景に関するエリアとは異なって加重するために、ブレンドモジュール14によって使用されてもよい。シーンの背景とは、オリジナル画像フレーム及び/又はマージ画像フレームのうち、検出された事象(一又は複数)を含まないエリアであり得る。
装置1のマージモジュール10、ブレンドモジュール14、画像解像度設定モジュール18、及び/又は事象検出モジュール20は、処理装置によって実行されるソフトウェアコードとして、装置1に実装されたハードウェアとして、又はこれらの両方として、実装され得る。装置1は、追加のメモリ(図示せず)も備え得る。マージモジュール10、ブレンドモジュール14、及び/又は画像解像度設定モジュール18は、追加のメモリからの/追加のメモリ上のデータを記憶及び/又は読み出すように構成され得る。追加のメモリは、デジタルデータの記憶に適した任意の種類の揮発性又は非揮発性メモリであり得る。
図2は、デジタルビデオストリーム情報を可視化するための方法のブロック図を示す。本方法は、デジタルビデオストリームの画像フレームの複数のグループを、一連のマージ画像フレームへとマージすること(S200)、複数のマージされたフレームを、一連のブレンドされた画像フレームへとブレンドすること(S202)であって、複数のマージ画像フレームの各々が複数のブレンドされた画像フレームに寄与する、ブレンドすること(S202)、及び、一連のブレンドされた画像フレームを表示すること(S204)を含む。
当業者は、本発明はいかなる意味においても、上述した好ましい実施形態に限定されないことを理解するであろう。寧ろ、添付の特許請求項の範囲内で多くの修正例及び変形例が可能である。
例えば、装置1は、マージモジュール10を備える代わりに、一連のマージされたフレームを他の装置から受信するように構成されてもよい。この場合の他の装置は、例えば、図1に関して上述したマージモジュールによって構成されたマージモジュールを備えた、デジタルビデオカメラであってもよい。
装置1のディスプレイ16は、図1に示す装置1と一体化した部分を形成し得る。しかしながら、ディスプレイは、ブレンドモジュール、メモリ、及び/又はマージモジュールを備えた処理デバイスに接続された周辺機器の部分であってよく、当該処理デバイス及び当該周辺機器が装置1を形成していてもよい。
更に、当業者は、開示された実施形態の変形例を、図面、記載内容、及び添付の特許請求項の精査により理解し、且つ特許請求される本発明を実施する際に実行することが可能である。

Claims (15)

  1. デジタルビデオストリームの情報を可視化するための方法であって、
    前記デジタルビデオストリームの画像フレームの複数のグループをマージすることによって形成される一連のマージされた画像フレームを受信することと、
    複数のマージされたフレームを一連のブレンドされた画像フレームへとブレンドすることであって、複数の前記マージされた画像フレームの各々が複数の前記ブレンドされた画像フレームに寄与する、ブレンドすることと、
    前記一連のブレンドされた画像フレームをディスプレイ(16)上に表示することと
    を含む、方法。
  2. マージされたフレームの各々に寄与する画像フレームの数を設定することを更に含む、請求項1に記載の方法。
  3. ブレンドされた画像フレームの各々に寄与するマージされた画像フレームの数を設定することを更に含む、請求項1又は2に記載の方法。
  4. 前記マージされた画像フレームが寄与する前記ブレンドされた画像フレームのうちの少なくとも2つの間で変化するように、マージされた画像フレームの寄与度の重みが設定される、請求項1から3の何れか一項に記載の方法。
  5. 前記マージされた画像フレームが寄与する前記ブレンドされた画像フレームの各々において一定であるように、マージされた画像フレームの寄与度の重みが設定される、請求項1から4の何れか一項に記載の方法。
  6. 前記一連のブレンドされた画像フレームを前記表示することが、前記ブレンドされた画像フレームを、ブレンドされた画像フレームのビデオストリームとして連続的に表示することによって実施される、請求項1から5の何れか一項に記載の方法。
  7. 前記一連のブレンドされた画像フレームを前記表示することが、前記ブレンドされた画像フレームを、前記ディスプレイ上に並べて表示することによって実施される、請求項1から6の何れか一項に記載の方法。
  8. 前記デジタルビデオストリームのマージ画像フレームの複数のグループを、前記一連のマージされた画像フレームへとマージすることを更に含む、請求項1から7の何れか一項に記載の方法。
  9. 前記ビデオストリームからの画像フレームの複数のグループを前記一連のマージされた画像フレームへとマージする前に、前記画像フレームの解像度を低下させることを更に含む、請求項8に記載の方法。
  10. 前記ビデオストリームからの画像フレームの複数のグループを前記一連のマージされた画像フレームへとマージする際に、前記画像フレームの解像度を低下させることを更に含む、請求項8に記載の方法。
  11. 前記デジタルビデオストリーム中の関心対象の事象を検出すること、及び、前記事象を含む前記デジタルビデオストリームの画像フレームについての画像フレームの寄与度の重みを、前記事象を含まない前記デジタルビデオストリームの画像フレームについての画像フレームの寄与度の重みとは異なるように設定することを更に含む、請求項8から10の何れか一項に記載の方法。
  12. 前記デジタルビデオストリーム中の関心対象の事象を検出すること、及び、前記事象を含むマージされた画像フレームについてのマージされた画像フレームの寄与度の重みを、前記事象を含まないマージされた画像フレームについてのマージされた画像フレームの寄与度の重みとは異なるように設定することを更に含む、請求項1から10の何れか一項に記載の方法。
  13. デジタルビデオストリームの情報を可視化するための装置であって、
    前記デジタルビデオストリームの画像フレームの複数のグループをマージすることによって形成される一連のマージされた画像フレームを記憶するように構成された、メモリ(12)、
    複数のマージされたフレームを一連のブレンドされた画像フレームへとブレンドするように構成されたブレンドモジュール(14)であって、複数の前記マージされた画像フレームの各々が複数の前記ブレンドされた画像フレームに寄与する、ブレンドモジュール(14)、及び
    前記一連のブレンドされた画像フレームを表示するように構成された、ディスプレイ(16)
    を備える、装置。
  14. 前記デジタルビデオストリームからの画像フレームの複数のグループを前記一連のマージされた画像フレームへとマージするように構成された、マージモジュール(10)を更に備える、請求項13に記載の装置。
  15. 処理能力を有するデバイス上で実行されると請求項1から12の何れか一項に記載の方法を実施するプログラムを実行するように記憶している、コンピュータ可読記録媒体。
JP2015214438A 2014-11-20 2015-10-30 デジタルビデオストリームの情報を可視化する方法及び装置 Active JP6291464B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP14194035.3 2014-11-20
EP14194035.3A EP3023987B1 (en) 2014-11-20 2014-11-20 Method and apparatus for visualizing information of a digital video stream

Publications (3)

Publication Number Publication Date
JP2016105587A true JP2016105587A (ja) 2016-06-09
JP2016105587A5 JP2016105587A5 (ja) 2017-07-27
JP6291464B2 JP6291464B2 (ja) 2018-03-14

Family

ID=51951670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015214438A Active JP6291464B2 (ja) 2014-11-20 2015-10-30 デジタルビデオストリームの情報を可視化する方法及び装置

Country Status (6)

Country Link
US (1) US10878850B2 (ja)
EP (1) EP3023987B1 (ja)
JP (1) JP6291464B2 (ja)
KR (1) KR101847590B1 (ja)
CN (1) CN105635667B (ja)
TW (1) TWI684360B (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2838268B1 (en) * 2013-07-31 2019-02-20 Axis AB Method, device and system for producing a merged digital video sequence
US10055808B1 (en) * 2017-01-23 2018-08-21 Kinetica Db, Inc. Distributed and parallelized visualization framework
EP3413270A1 (en) * 2017-06-07 2018-12-12 Thomson Licensing Device and method for editing a virtual reality scene represented in a curved shape form
CN112147967A (zh) * 2019-06-27 2020-12-29 北京新能源汽车股份有限公司 一种汽车控制器的场景测试用例自动生成方法及装置
SE545897C2 (en) * 2022-02-04 2024-03-05 Livearena Tech Ab System and method for producing a shared video stream

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000187478A (ja) * 1998-12-24 2000-07-04 Casio Comput Co Ltd 画像処理装置及び画像処理方法
JP2002094947A (ja) * 2000-09-12 2002-03-29 Matsushita Electric Ind Co Ltd 高速映像再生装置、高速映像再生方法および記録媒体
JP2005210573A (ja) * 2004-01-26 2005-08-04 Mitsubishi Electric Corp 映像表示システム
JP2007036680A (ja) * 2005-07-27 2007-02-08 Victor Co Of Japan Ltd 記録再生装置
JP2008205693A (ja) * 2007-02-19 2008-09-04 Canon Inc 撮像装置、映像再生装置及びそれらの制御方法
US20100208142A1 (en) * 2009-02-18 2010-08-19 Zoran Corporation System and method for a versatile display pipeline architecture for an lcd display panel
AU2009243430A1 (en) * 2009-11-30 2011-06-16 Canon Kabushiki Kaisha Multiple frame-rate summary video using object detection
JP2011151429A (ja) * 2008-05-12 2011-08-04 Mitsubishi Electric Corp 映像再生装置、及び、映像再生方法
JP2013066020A (ja) * 2011-09-16 2013-04-11 Kyocera Corp 動画再生装置及び動画再生方法
WO2013065242A1 (ja) * 2011-11-04 2013-05-10 株式会社ニコン 画像生成装置、撮像装置およびプログラム
US20130163961A1 (en) * 2011-12-23 2013-06-27 Hong Kong Applied Science and Technology Research Institute Company Limited Video summary with depth information

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1091852B1 (en) 1998-06-12 2007-08-15 Avery Dennison Corporation Multilayered thermoplastic film and sign cutting method using the same
US8290351B2 (en) 2001-04-03 2012-10-16 Prime Research Alliance E., Inc. Alternative advertising in prerecorded media
WO2001078050A2 (en) * 2000-04-07 2001-10-18 Inmotion Technologies Ltd. Automated stroboscoping of video sequences
US7139006B2 (en) 2003-02-04 2006-11-21 Mitsubishi Electric Research Laboratories, Inc System and method for presenting and browsing images serially
JP4789494B2 (ja) 2004-05-19 2011-10-12 株式会社ソニー・コンピュータエンタテインメント 画像フレーム処理方法、装置、レンダリングプロセッサおよび動画像表示方法
KR100878640B1 (ko) 2004-05-19 2009-01-15 소니 컴퓨터 엔터테인먼트 인코포레이티드 동화상을 다양한 표시장치에 표시하기 위한 화상 프레임처리 방법과 장치
CN101373590B (zh) * 2004-05-19 2014-01-22 索尼电脑娱乐公司 图像帧处理方法及向各种显示器显示活动图像的设备
US7598977B2 (en) 2005-04-28 2009-10-06 Mitsubishi Electric Research Laboratories, Inc. Spatio-temporal graphical user interface for querying videos
CN101366027B (zh) * 2005-11-15 2013-03-20 耶路撒冷希伯来大学伊森姆研究发展公司 用于产生视频概要的方法和系统
WO2007096003A1 (en) 2006-02-27 2007-08-30 Robert Bosch Gmbh Trajectory-based video retrieval system, method and computer program
CN103002241A (zh) 2008-03-03 2013-03-27 松下电器产业株式会社 记录装置、再现装置及方法
JP5612457B2 (ja) 2010-12-21 2014-10-22 日本電信電話株式会社 動画像表示装置と動画像オブジェクト探索システムと動画像表示方法とプログラム
US8839110B2 (en) * 2011-02-16 2014-09-16 Apple Inc. Rate conform operation for a media-editing application
JP2014531142A (ja) * 2011-08-16 2014-11-20 デスティニーソフトウェアプロダクションズ インク スクリプトをベースとするビデオ・レンダリング

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000187478A (ja) * 1998-12-24 2000-07-04 Casio Comput Co Ltd 画像処理装置及び画像処理方法
JP2002094947A (ja) * 2000-09-12 2002-03-29 Matsushita Electric Ind Co Ltd 高速映像再生装置、高速映像再生方法および記録媒体
JP2005210573A (ja) * 2004-01-26 2005-08-04 Mitsubishi Electric Corp 映像表示システム
JP2007036680A (ja) * 2005-07-27 2007-02-08 Victor Co Of Japan Ltd 記録再生装置
JP2008205693A (ja) * 2007-02-19 2008-09-04 Canon Inc 撮像装置、映像再生装置及びそれらの制御方法
JP2011151429A (ja) * 2008-05-12 2011-08-04 Mitsubishi Electric Corp 映像再生装置、及び、映像再生方法
US20100208142A1 (en) * 2009-02-18 2010-08-19 Zoran Corporation System and method for a versatile display pipeline architecture for an lcd display panel
AU2009243430A1 (en) * 2009-11-30 2011-06-16 Canon Kabushiki Kaisha Multiple frame-rate summary video using object detection
JP2013066020A (ja) * 2011-09-16 2013-04-11 Kyocera Corp 動画再生装置及び動画再生方法
WO2013065242A1 (ja) * 2011-11-04 2013-05-10 株式会社ニコン 画像生成装置、撮像装置およびプログラム
US20130163961A1 (en) * 2011-12-23 2013-06-27 Hong Kong Applied Science and Technology Research Institute Company Limited Video summary with depth information

Also Published As

Publication number Publication date
CN105635667B (zh) 2018-08-24
KR101847590B1 (ko) 2018-04-10
US10878850B2 (en) 2020-12-29
EP3023987B1 (en) 2017-03-22
TW201625010A (zh) 2016-07-01
KR20160060553A (ko) 2016-05-30
US20160148649A1 (en) 2016-05-26
EP3023987A1 (en) 2016-05-25
JP6291464B2 (ja) 2018-03-14
TWI684360B (zh) 2020-02-01
CN105635667A (zh) 2016-06-01

Similar Documents

Publication Publication Date Title
JP6291464B2 (ja) デジタルビデオストリームの情報を可視化する方法及び装置
CN110691259B (zh) 视频播放方法、系统、装置、电子设备及存储介质
US10762649B2 (en) Methods and systems for providing selective disparity refinement
CN111095939B (zh) 识别媒体项目的先前流传输部分以避免重复重放
US8484223B2 (en) Image searching apparatus and image searching method
US20150104149A1 (en) Video summary apparatus and method
WO2021139728A1 (zh) 全景视频处理方法、装置、设备及存储介质
JP2013135468A (ja) 場面を取り込む一連の画像フレーム内の画像フレームの露光をその場面内の動きのレベルに基づいて最適化するためのカメラおよび方法
GB2563004A (en) Methods and apparatuses for handling visual virtual reality content
CN112805996A (zh) 用于采集高速高清视频的方法及设备
US11871125B2 (en) Method of processing a series of events received asynchronously from an array of pixels of an event-based light sensor
US11862053B2 (en) Display method based on pulse signals, apparatus, electronic device and medium
JP2016105587A5 (ja)
US11622099B2 (en) Information-processing apparatus, method of processing information, and program
EP3484145B1 (en) Compact video generation device and method, and recording medium in which computer program is recorded
JP5882883B2 (ja) テロップ検出装置、テロップ検出方法及びテロップ検出プログラム
JP5702269B2 (ja) 並列映像解析装置、並列映像解析方法及び並列映像解析プログラム
JP2010193026A (ja) 画像再生装置、画像再生方法およびプログラム
JP6720509B2 (ja) 画像評価装置、画像評価方法及びプログラム
GB2566478A (en) Probability based 360 degree video stabilisation
US20220036093A1 (en) Information processing apparatus, information processing method, and storage medium
JP2008042300A (ja) 画像表示装置
US20120212666A1 (en) Apparatus and method for detecting flexible video cadence
US10244225B2 (en) Method for determining depth for generating three dimensional images
CN117334225A (zh) 一种视频生成方法及相关装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170614

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170614

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170614

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180123

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180209

R150 Certificate of patent or registration of utility model

Ref document number: 6291464

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250