JP2014506062A - Ppg関連情報を保存するビデオ符号化及び復号化デバイス及び方法 - Google Patents

Ppg関連情報を保存するビデオ符号化及び復号化デバイス及び方法 Download PDF

Info

Publication number
JP2014506062A
JP2014506062A JP2013547926A JP2013547926A JP2014506062A JP 2014506062 A JP2014506062 A JP 2014506062A JP 2013547926 A JP2013547926 A JP 2013547926A JP 2013547926 A JP2013547926 A JP 2013547926A JP 2014506062 A JP2014506062 A JP 2014506062A
Authority
JP
Japan
Prior art keywords
encoding
interest
video
region
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013547926A
Other languages
English (en)
Other versions
JP5940558B2 (ja
JP2014506062A5 (ja
Inventor
イホール オレホヴィッヒ キレンコ
ハーン ヒェラルド デ
レースト アドリアーン ヨハン ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2014506062A publication Critical patent/JP2014506062A/ja
Publication of JP2014506062A5 publication Critical patent/JP2014506062A5/ja
Application granted granted Critical
Publication of JP5940558B2 publication Critical patent/JP5940558B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本発明は、ビデオデータをエンコードするためのビデオエンコーディングデバイス10,10´,10´´´及び方法、並びに、対応するビデオデコーディングデバイス60,60´に関する。ビデオエンコーダ出力ストリームのための大量の追加のデータを必要とすることなくエンコード後にPPG関連情報を保存するために、提案されたビデオエンコーディングデバイスは、強いPPG信号を供給する入力ビデオデータ100において関心のある領域101を選択するための選択ユニット20,20´と、エンコードされた関心のある領域におけるPPG関連情報を保存するためにエンコーディングの第1の設定により予め決められたエンコーディングスキームに従って前記入力ビデオデータ100の選択された関心のある領域101をエンコードするための第1のエンコーディングユニット30,30´と、エンコーディングの第2の設定により前記予め決められたエンコーディングスキームに従って前記入力ビデオデータ100の残りの部分103をエンコードするための第2のエンコーディングユニット40,40´と、エンコードされた関心のある領域102及び前記入力ビデオデータのエンコードされた残りの部分104をエンコーダ出力ビデオストリーム105に組み合わせるためのエンコーダ組み合わせユニット50とを有する。

Description

本発明は、PPG(photo plethysmographic imaging)関連情報が保存される、ビデオデータをエンコードするためのビデオエンコーディングデバイス及び対応するビデオエンコーディング方法に関する。
更に、本発明は、エンコードされたビデオデータをデコードするためのビデオデコーディングデバイス及び対応するビデオデコーディング方法に関する。
また更に、本発明は、ビデオデータをエンコード及びデコードするためのビデオ符号化システム、並びに、前記方法を実装するためのコンピュータプログラムに関する。
人々の生物測定信号の強い連続的モニタリングのための技術的ソリューションを与えるという増加している要求がある。この要求は、より若い世代の中の健康的でアクティブなライフスタイルの重要性の発達している認識の結果である。その上、増大された寿命の結果として絶えず高齢化する人口は、人の日常生活活動に対する最小限の干渉を伴う健康モニタリングシステムの必要性に追加の圧力をかける。生物測定信号の控え目なモニタリングは、いつでも体及びマインド状態に関する事実上直接のフィードバックを与え、できるだけ早く人々の健康状況の変化を評価するために用いられ得る。
生物測定信号(例えば、心拍数、呼吸速度、血圧、皮膚酸化等)を測定する従来のデバイス及び方法は、ユーザが面倒な体センサを着用することを必要とし、これは、通常の人間の生活活動に対して目障りなように体験され得る。それ故、近年、バイタル体信号の遠隔モニタリングに関するコンタクトレス技術を開発するという試みが見られる。最新の開発は、消費者(ウェブカメラ)又は放送ビデオのために設計されたイメージングセンサによる控え目な遠隔モニタリングの実装を示す。
皮膚色変化を測定する方法(PPG(Photo-Plethysmographic imaging)と呼ばれている)は、Wim Verkruysse、 Lars O. Svaasand 及び J. Stuart Nelsonによる"Remote plethysmographic imaging using ambient light", Optics Express, Vol. 16, No. 26, December 2008において述べられる。これは、皮膚における血液量の時間的変化が皮膚による光吸収の変化をもたらすという原理に基づく。斯様な変化は、皮膚エリア(例えば顔)の画像をとるビデオカメラにより登録され得る一方で、処理は、手動で選択された領域(典型的にはこのシステムにおける頬の部分)にわたるピクセル平均を計算する。この平均信号の周期的な変化を調べることにより、心拍速度及び呼吸速度が抽出され得る。
心拍又は呼吸速度信号の遠隔測定に関する既知のシステムは、画像検出の直後の圧縮されていない未処理のビデオシーケンスの分析に基づく。ほとんどの"実在の"アプリケーションにおいて、ビデオシーケンスは、圧縮された形態で格納又は出力される。ビデオ信号の圧縮は、(表示の視覚ポイントからの)いくつかの冗長な情報の削除を仮定する。不都合にも、視覚にとって重要でない情報は、生物測定信号の検出のために重要であり得る。例えば、MPEG圧縮規格は、ビデオ信号の時間的情報を僅かに変えるフレーム間予測を利用する。これらの変化は、時間的生物測定信号の検出を困難又は不可能にする。しかしながら、多くのアプリケーションに関して、ビデオからの心拍信号の抽出は、ビデオレコーディングが行われた後に実行されるべきである。これらの場合においては、圧縮ビデオが処理されるだろう。
PPG関連情報は、ビデオが高ビットレートで圧縮される場合に、符号化されたビットストリームにおいて保存され得る。しかしながら、低圧縮比でのビデオの圧縮は、格納ファイルのサイズを増大させるか又は伝送帯域幅を増大させるだろう。それ故、特に従来のビデオコーディング規格のうちの1つによる、ビデオレコーディング及び圧縮の間における、生物測定信号のオフライン抽出のために必要とされる情報の保存の必要性がある。
(MPEG2、MPEG4、H.264のような)標準のビデオ符号化技術は、時間予測を適用することによりビデオ情報の大幅な圧縮を実現する。ビデオシーケンス(タイプB及びP、Bは"双方向予測フレーム"を意味し、Pは"前方予測フレーム"を意味する)におけるフレームのほとんどは、元のフレームと動作補正されたインター符号化フレーム(タイプB又はP)との間の量子化された差分としてエンコードされる。視覚的情報の一部は、量子化及び動作予測のため失われる。この情報は、視覚的認識の観点からは重要ではないが、心拍のような生物測定信号の抽出のために重要なデータを含む。
PPG情報は、ビデオが、時間予測を適用することなく、及び/又は、(H.264に関して)デブロッキングフィルタリングを用いることなく、高ビットレートで圧縮された場合に、ビデオシーケンスにおいて保存され得る。例えば、内部フレーム符号化のみに基づくMJPEG又はMJPEG2Kは、ビデオを圧縮してPPG信号を保存するために適用され得る。しかしながら、フレーム全体の内部符号化は、ほとんどのマルチメディアアプリケーションにより必要とされる圧縮比を提供し得ない。それ故、とりわけ、標準の不可逆ビデオ圧縮技術を用いたビデオの圧縮を可能にし、ビデオのデコード後にPPG信号の抽出のために必要とされる画像情報を保存する方法及びデバイスの必要がある。
本発明の目的は、大量の追加のデータを必要とすることなくPPG関連情報が保存される、ビデオデータをエンコードするためのビデオエンコーディングデバイス及び対応するビデオエンコーディング方法を提供することにある。本発明の更なる目的は、対応するビデオデコーディングデバイス及び方法、ビデオ符号化システム並びに前記方法を実装するためのコンピュータプログラムを提供することにある。
本発明の第1の態様において、入力ビデオデータをエンコードするためのビデオエンコーディングデバイスであって、強いPPG信号を供給するために用いられ得る1又はそれ以上の関心のある領域を入力ビデオデータにおいて選択するための選択ユニットと、エンコードされた1又はそれ以上の関心のある領域におけるPPG関連情報を保存するためにエンコーディングの第1の設定により予め決められたエンコーディングスキームに従って前記入力ビデオデータ102の前記1又はそれ以上の関心のある領域をエンコードするための第1のエンコーディングユニットと、エンコーディングの第2の設定により前記予め決められたエンコーディングスキームに従って前記入力ビデオデータの残りの部分をエンコードするための第2のエンコーディングユニットと、エンコードされた1又はそれ以上の関心のある領域及びエンコードされた残りの部分を前記入力ビデオデータのエンコーダ出力ビデオストリームに組み合わせるためのエンコーダ組み合わせユニットとを有する、ビデオエンコーディングデバイスが示される。
本発明の他の態様において、エンコードされたビデオストリームをデコードするためのビデオデコーディングデバイスであって、前記エンコードされたビデオストリームは、エンコードされたビデオデータを有し、入力ビデオデータの1又はそれ以上の関心のある領域は、エンコードされた1又はそれ以上の関心のある領域におけるPPG関連情報を保存するために、エンコードの第1の設定により予め決められたエンコーディングスキームに従ってエンコードされたものであり、前記入力ビデオデータの残りの部分は、エンコードの第2の設定により前記予め決められたエンコードスキームに従ってエンコードされたものであり、前記ビデオデコーディングデバイスは、前記1又はそれ以上の関心のある領域をエンコードするために用いられたエンコードスキームに対して相補的なデコーディングスキームに従って、エンコードされた1又はそれ以上の関心のある領域をデコードするための第1のデコーディングユニットと、デコードされた1又はそれ以上の関心のある領域からPPG信号を抽出するためのPPG抽出ユニットとを有する、ビデオデコーディングデバイスが示される。
本発明の更なる態様において、対応するビデオ符号化方法、対応するビデオデコーディング方法、ビデオ符号化システム、及び、前記コンピュータプログラムがコンピュータ上で実行されたときに前記の提案された方法のステップをコンピュータに実行させるためのプログラムコード手段を有するコンピュータプログラムが示される。
本発明の好ましい実施形態は、従属請求項において規定される。請求項に記載されたビデオデコーディングデバイス、ビデオ符号化システム、方法及びコンピュータプログラムは、請求項に記載されたビデオ符号化デバイス及び従属請求項において規定されたものと類似のおよび/または同一の好ましい実施形態を有することが理解されるべきである。
本発明は、PPG信号が抽出されない(又は抽出され得ない)ビデオデータの他のエリアとは異なり(即ち、PPG関連情報に関して実質的に損失なく)、エンコードされたビデオ信号におけるPPG関連情報の保存のために、強いPPG信号(とりわけ、最も強いPPG信号)を導出することを可能にするPPG関連情報を有する1又はそれ以上のエリアを含む1又はそれ以上の関心のある領域をエンコードするという思想に基づく。詳細には、局所符号化パラメータ(通常、エンコーダの特定の設定)が1又はそれ以上の関心のある領域をエンコードするために設定され、ビット−バジェットは、PPG信号の抽出に役立つ1又はそれ以上の空間的画像エリア(即ち、1又はそれ以上の関心のある領域)に割り当てられ得る一方で、エンコード(例えば、圧縮比)と(少なくとも部分的に)デコードされた信号から抽出されるPPG信号の品質との間の最適なトレードオフを提供する。
生物測定信号は、例えばビデオカメラから流されるか又は圧縮されていないことが記録されたビデオシーケンスからPhoto−Plethysmography(PPG)原理を用いて検出され得る。上述の如く、実用的なアプリケーションにおいて、斯様な観察は、常に支持されるものではない。本発明は、例えば標準のビデオ符号器により、ビデオ圧縮の間、PPG信号/生物測定信号の抽出のためのPPG視覚的情報を保存することを実現する一方で、低ビットレートでの圧縮を可能にする。好ましくは、本発明は、例えばデータキャリア上への格納のために、又は、伝送ライン(例えばインターネット若しくは移動通信手段システム)を介した伝送のために、規格に準拠した符号化ビットストリームの生成を可能にする。
この文書において、"PPG関連情報"という表現は、PGG信号を得ることに関連する情報として理解されるべきである。斯様なPPG関連情報は、人間の目では認識されない元のビデオデータに含まれる情報(例えば、人の皮膚のわずかな色変化)を含み得る。この文書における"PPG信号"という表現は、一般に、時間的生物測定信号、例えば鼓動、心周期、呼吸速度、SpO2、麻酔の深さ又は低血及び多血のような、PhotoPlethysmoGraphy分析を介して得られ得る任意の信号を意味する。
好ましい実施形態において、前記エンコーディングデバイスは、入力ビデオデータにおけるエリア(とりわけ、皮膚エリア)を関心のある領域として選択するためのエリア選択ユニットであって、前記ビデオデータは、ビデオフレームのシーケンスを有し、これらのフレームは、空間ブロックに分割される、エリア選択ユニットと、選択されたエリアに関する前記空間ブロックを決定するためのブロック選択ユニットであって、決定された空間ブロックが関心のある領域を表す、ブロック選択ユニットとを更に有する。通常、ビデオデータは、ビデオフレームのシーケンスとして利用可能であり、各フレームは、(例えば、4x4又は16x16ピクセルを有するサイズの)空間ブロックに分割される。それ故、この実施形態による後のエンコードのために、第1のエンコーディングユニットでエンコードされるべき最適な空間ブロックが見つけられる。
他の実施形態によれば、前記エリア選択ユニットは、関心のある領域として用いられ得る入力ビデオデータにおける潜在的に使用可能なエリア(とりわけ、皮膚エリア)のセットを検出するための検出ユニットと、検出された潜在的に使用可能なエリアのセットを分析し、1又はそれ以上の予め決められた選択基準に基づいてエリアを関心のある領域として選択するための分析ユニットとを有する。斯様な分析ユニットは、とりわけ1又はそれ以上のビデオフレームにおいて、例えば、ビデオデータ中の顔及び/又は皮膚領域を検出するための顔及び/又皮膚検出器を有してもよい。それ故、好ましくは、顔又は皮膚エリアは、潜在的に使用可能である。好ましくは、最も(時間的に)安定した顔及び/又は皮膚領域が、関心のある領域として選択される。しかし、空間サイズ、照明安定性及び/又は色安定性のような他の選択基準が用いられてもよい。斯様な検出器は、例えば、Paul Viola, Michael Jonesの "Robust Real-time Object Detection", 2nd Intern. Workshop on Statistical and Computational Theories of Vision, Vancouver, Canada, 2001において述べられている。
他の実施形態において、前記分析ユニットは、検出された潜在的に使用可能なエリアからPPG信号を抽出するための、及び、抽出されたPPG信号の内容及び/又は品質に基づいて1又はそれ以上のエリアを関心のある領域として選択するためのPPG抽出ユニットを有する。それ故、分析ユニットは、潜在的に使用可能なエリアのうちどれが強いPPG信号を供給するかを十分に予測することができ、それ故、1又はそれ以上の関心のある領域の選択を適宜行うだろう。
好ましくは、前記PPG抽出ユニットは、抽出されたPPG信号に基づいて前記1又はそれ以上の関心のある領域をエンコードするための第1のエンコーディングユニットによる使用のためのエンコードのための第1の設定の1又はそれ以上のパラメータを決定するように適合され、前記第1のエンコーディングユニットは、前記1又はそれ以上の関心のある領域のエンコードのための第1の設定の前記1又はそれ以上のパラメータを用いるように適合される。それ故、PPG抽出の結果は、最良の可能なPPG信号がデコーダにおけるエンコードされた1又はそれ以上の関心のある領域から抽出され得ることを実現するための最適なエンコーダ設定を用いて、選択された1又はそれ以上の関心のある領域のエンコード処理を制御するために用いられるだろう。エンコーディングユニットのための第1の設定のこれらのパラメータは、圧縮速度ブロック/フィールド/フレームの内部又は間の符号化モード、使用されるAC係数の数、量子化スケール、内部DC精度、カスタマイズされた量子化マトリクス等のうち1又はそれ以上を含み得る。
一実施形態において、前記第1のエンコーディングユニットは、前記1又はそれ以上の関心のある領域の少なくともクロミナンス成分(とりわけ、クロミナンス成分のみ)をエンコードするように適合され、前記第2のエンコーディングユニットは、前記1又はそれ以上の関心のある領域の輝度成分をエンコードするとともに、前記入力ビデオデータの残りの部分のクロミナンス成分及び輝度成分をエンコードするように適合される。これは、ビデオデータにおけるエンコードされた1又はそれ以上の関心のある領域に関するデータ量の削減に寄与する。好ましくは、一般的ではないが、クロミナンス成分だけが選択されてエンコードされる。
他の実施形態によれば、前記第1のエンコーディングユニットは、内部ブロック符号化により前記1又はそれ以上の関心のある領域をエンコードするように適合され、前記第2のエンコーディングユニットは、ブロック間及び/又は内部ブロック符号化により前記入力ビデオデータの残りの部分をエンコードするように適合される。これは、1又はそれ以上の関心のある領域が実質的に損失を伴うことなくエンコードされることを提供する。内部ブロック符号化及びブロック間符号化は、一般に知られた技術であり、例えばMPEGエンコーダにおいて、エンコードのためにしばしば用いられる。それ故、これらの詳細は当業者にとって知られているので、更なる詳細はここで説明されない。
また更に、一実施形態において、前記第1のエンコーディングユニットは、前記1又はそれ以上の関心のある領域の少なくともクロミナンス成分(とりわけ、クロミナンス成分のみ)のブロック間又は内部ブロックのDC成分のみをエンコードするように適合される。これは、とりわけクロミナンス成分のブロック間又は内部ブロックのDC成分のみがエンコードされた場合、エンコードされた1又はそれ以上の関心のある領域のためのデータ量の削減に更に寄与する。PPG関連情報は一般に全てのピクセル毎にもたらされるが、一般に空間情報について多くの関心がない。代わりに、多くのピクセルが、個々ピクセルにおける所望のPPG信号(例えば鼓動)の信号−ノイズ比を改良するために平均をとるために必要とされる。PPG関連情報/PPG信号は、通常、圧縮されていない8ビットのビデオ信号の量子化ステップよりも小さい。この平均は、DC成分に基づいてもよく、個々のピクセル値を知っていることを絶対的に必要とはしないが、皮膚及び幾つかの他の画像部分(例えば顔の境界)を含むブロックについて支援することができる。
また更に、一実施形態において、前記選択ユニットは、強いPPG信号(とりわけ、最も強いPPG信号)を供給する前記入力ビデオデータにおける2又はそれ以上の関心のある領域を選択するように適合され、前記第1のエンコーディングユニットは、選択された関心のある領域をエンコードするように適合される。それ故、単一の関心のある領域だけでなく、幾つかの関心のある領域が、デコードの間においてPPG信号の評価及び検索のために利用可能であり、これは、信頼性を増大させる。例えば、一実施形態において、PPG信号が前記関心のある領域の各々から取り出されてもよく、その後、評価において、最も高い信頼性としてのPPG信号又は全てのPPG信号の平均化のうちどちらが実行されてもよい。
一実施形態において、ROI情報は、とりわけ選択ユニットにより、生成されてもよく、ROI情報は、関心のある領域の位置に関する情報を有し、エンコーダ出力ビデオデータに含まれてもよい。そして、デコーディングデバイスは、PPG信号をデコード及び抽出するための関心のある領域を容易に見つけるためにこのROI情報を用い得る。
デコードの間、ビデオデコーディングデバイスは、少なくとも、デコーダ入力ビデオデータからエンコードされた関心のある領域をデコードすること、及び、デコードされた関心のある領域からPPG信号を抽出することが可能である。PPG抽出は、この目的のために、例えば、PPGに関する上述の刊行物において述べられたような、又は、PPGの基本について説明している他の引用文献において述べられたような、一般に知られた方法を用いる。更なる実施形態において、しかしながら、デコーディングユニットは、とりわけエンコードの間に使用されたエンコーディングスキームに対して相補的なデコーディングスキームに従って、完全なビデオデータをデコードするように適合されてもよい。それ故、ビデオエンコーディングデバイスにおいて実行されるエンコードは、これを保証するように適合されなければならない。
本発明のこれらの及び他の態様は、以下で述べられる実施形態から明らかになり、これらの実施形態を参照して説明されるだろう。
本発明によるビデオエンコーディングデバイスの第1の実施形態の概略ブロック図を示す。 本発明によるビデオデコーディングデバイスの第1の実施形態の概略ブロック図を示す。 本発明によるビデオエンコーディングデバイスの第2の実施形態の概略ブロック図を示す。 本発明によるビデオエンコーディングデバイスの第3の実施形態の概略ブロック図を示す。 本発明によるビデオデコーディングデバイスの第2の実施形態の概略ブロック図を示す。 本発明によるビデオデコーディングデバイスの第3の実施形態の概略ブロック図を示す。 本発明によるビデオエンコーディングデバイスの第4の実施形態の概略ブロック図を示す。
図1は、本発明によるビデオエンコーディングデバイス10の第1の全般的な実施形態の概略ブロック図を示す。この実施形態によれば、入力ビデオデータとも呼ばれる元のビデオストリーム100は、選択ユニット20に供給され、選択ユニット20は、強いPPG信号を供給する入力ビデオデータ100における関心のある領域101を選択する。選択された関心のある領域101は、エンコードされた関心のある領域102におけるPPG関連情報を保存するためにエンコードの第1の設定により、予め決められたエンコードスキームに従って、選択された関心のある領域101をエンコードするための第1のエンコーディングユニット30に供給される。同時に、入力ビデオデータ100の残りの部分103は、エンコードの第2の設定により、予め決められたエンコードスキームに従って、第2のエンコーディングユニット40によりエンコードされる。エンコーダ組み合わせユニット50において、入力ビデオデータ100のエンコードされた関心のある領域102及びエンコードされた残りの部分104は、エンコーダ出力ビデオストリーム105にエンコードされる。
選択された関心のある領域101のエンコードのための第1の設定を用いることにより、少なくとも選択された関心のある領域101に含まれるPPG関連情報に関して、選択された関心のある領域101が実質的に損失することなくエンコードされることが実質的に保証され、従って、強いPPG信号が、デコーディングデバイスにおける選択された関心のある領域101から抽出され得る。入力ビデオデータ100の残りの部分103は、例えば低ビットレート(又は、少なくとも、認識のために最適でもよいがPPG抽出のために充分でなくてもよいビットレート)で、エンコードの第2の設定によって別々にエンコードされる。
図2は、本発明によるビデオデコーディングデバイス60の第1の全般的な実施形態の概略ブロック図を示す。この実施形態によれば、受信したエンコードされたビデオストリーム160がデコードされる。エンコードされたビデオストリーム160は、伝送及び/又は格納の間にもたらされる妨害はさておき、エンコーダ出力ビデオストリーム105に対応すべきであり、入力ビデオデータ100のエンコードされた関心のある領域161及びエンコードされた残りの部分162を含むエンコードされたビデオデータを有する。
ビデオデコーディングデバイス60は、ビデオエンコーディングデバイス10において関心のある領域101をエンコードするために用いられたエンコーディングスキームに対して相補的なデコーディングスキームに従って、エンコードされた関心のある領域161をデコードするための第1のデコーディングユニット70と、デコードされた関心のある領域163からPPG信号164を抽出するためのPPG抽出ユニット80とを有する。斯様な関心のある領域を規定するために、関心のある領域の座標は、例えばビデオデコーダ入力ストリーム160に含まれるROI情報を読みとることにより、又は、画像分析により(例えば、エンコードされた関心のある領域がエンコードされた残りの領域から区別され得る量子化レベルのチェックにより)好ましくは、対応するROI情報から得られる。
オプションとして、エンコードされた関心のある領域161とエンコードされた残りの部分162とを分離するための、又は、少なくとも、エンコードされた関心のある領域161をデコーダ入力ビデオデータ160から取り出すための、分離ユニット90が設けられてもよい。更に、オプションとして、前記デコーディングスキームに従って入力ビデオデータのエンコードされた残りの部分162をデコードするための第2のデコーディングユニット75が設けられてもよく、及び、そして、デコードされた関心のある領域163及びデコードされた残りの部分165をデコーダ出力ビデオストリーム166に組み合わせるためのデコーダ組み合わせユニット95が設けられてもよい。
図6は、本発明によるビデオデコーディングデバイス60´´の第2のより簡素な実施形態の概略ブロック図を示す。この実施形態によれば、入力ビデオストリーム160は、図2に示された実施形態のように分割されない。最初に、一般的なデコーディングユニット71において、入力ビデオストリーム160がデコードされる。そして、デコードされたビデオストリーム167において、関心のある領域168が選択ユニット72において選択され、ここから、PPG信号164がPPG抽出ユニット80により抽出される。
図3は、選択ユニット20の好ましい実施形態を有する、本発明によるビデオエンコーディングデバイス10´の第2のより詳細な実施形態の概略ブロック図を示す。詳細には、選択ユニット20´は、入力ビデオデータ100におけるエリア123(とりわけ、皮膚エリア)を関心のある領域として選択するためのエリア選択ユニット21を有し、前記ビデオデータは、ビデオフレームのシーケンスを有し、前記フレームは、空間ブロックに分割される。更に、選択ユニット20´は、選択されたエリア123に関する空間ブロック101を決定するためのブロック選択ユニット24を有し、決定された空間ブロック101は、関心のある領域を表す。
更なる改良において、図3に示すように、エリア選択ユニット21は、関心のある領域として用いられ得る入力ビデオデータ100における潜在的に使用可能なエリア(とりわけ、皮膚エリア)のセット122を検出するための検出ユニット22と、検出された潜在的に使用可能なエリアのセット122を分析し、1又はそれ以上の予め決められた選択基準に基づいてエリア123を関心のある領域として選択するための分析ユニット23とを有する。選択された関心のある領域から、対応する空間ブロック101がブロック選択ユニット24において決定され、これは、先に述べたとおり、その後、第1のエンコーディングユニット30´によりエンコードされる。
潜在的に使用可能なエリアの検出は、とりわけ皮膚検出のための利用可能な方法により、顔又は皮膚エリアを検出するように好ましくは適合される。特定のビデオコンテンツに依存して、検出された皮膚エリアは、ビデオフレームの小さな部分又はビデオフレーム全体のうちいずれかを占め得る。第2の場合において、例えば内部ブロック符号化を用いた、検出された皮膚エリア全体のエンコードは、圧縮効率の大幅な削減をもたらすだろう。
更に、通常、皮膚エリア全体は、PPG信号の抽出に役立つことはなかった。例えば、皮膚エリアの小さな部分のみが、時間の或る期間に渡って時間的に安定している。それ故、皮膚エリアのこの部分だけが、PPG信号抽出のために用いられるべきである。それ故、分析ユニット23は、検出ユニット22によりビデオフレームにおいて検出された全ての皮膚エリアを分析し、空間サイズ、時間安定性、照明安定性及び/又は色安定性を含む幾つかの基準に基づき最適な部分のみを選択する。
それ故、分析ユニット23は、好ましくは、最も安定した顔及び/又は皮膚領域を捜す。斯様な安定した領域は、一般に、最も強いPPGに信号を供給すると思われるからである。ユニット23は、PPG信号を供給することが可能である、最も少ない関心のある領域を選択し得る。PPG信号の予期された強さは、関心のある領域内の空間ピクセルの均一性を分析することにより、又は、好ましい顔エリア(例えば額、頬)を検出することにより、分析され得る。分析ユニット23の出力は、例えばROI情報の形式の、関心のある領域の位置に関する情報であり、これは、選択された関心のある領域に属する入力ビデオデータ100における空間ブロックを選択するためのブロック選択ユニット24に供給される。
これは、入力ビデオデータ100のビデオフレームが、(それぞれの圧縮スキームに依存して例えば4x4から16x16ピクセルまでのサイズを有する)空間ブロックに分割された場合に特に必要とされる。そして、最適な皮膚エリアの座標123は、分析ユニット23により、ブロック選択ユニット124に供給され、ブロック選択ユニット124は、最適な皮膚エリアを有するブロック101(即ち、選択された関心のある領域を表すブロック)を選択する。幾つかの関心のある領域が用いられる場合に、これは、最良のPPG信号を選択する能力を向上させるために、又は、異なる領域から得られたPPG信号を平均化するために、PPG信号抽出の間に前記オプションを提供する。
選択された皮膚エリアの圧縮は、エンコード後及び(その後の)デコード/解凍後のPPG関連情報の保存を保証する態様において行われる。PPG信号165(図2参照)は、ビデオストリームのクロミナンスチャネルから大部分が抽出される。それ故、PPG関連情報を保存するために、これらのブロック101は、一実施形態における内部ブロックとして、第1のエンコーディングユニット30によりエンコードされるだろう。他のフレームブロック103(即ち、残りの部分のブロック)は、第2のエンコーディングユニット40´の設定及びタイプに依存して、例えばブロック間又は内部ブロックとして標準の符号器により、第2のエンコーディングユニット40´においてエンコードされる。ビデオ符号化規格は、ブロックに基づく内部ブロック又はブロック間符号化モードの選択を可能にする。それ故、提案されたアルゴリズムは、保存されたPPG関連情報を有する、規格に準拠した符号化されたビットストリーム105の作成を可能にするだろう。
分析ユニット23及びブロック選択ユニット24は、信頼性が高いPPG信号の抽出のために必要とされる皮膚エリアのサイズと皮膚エリアの内部符号化のための大きなビット−バジェットの割り当てによる圧縮比の損失との間の最適なトレードオフを見つけるだろう。他の実施形態において、分析ユニット23は、皮膚エリアの選択をガイドするために、PPG信号抽出部25及び場合によりPPG信号メトリックを有してもよい(必須ではない)。
PPG信号を抽出するために、時間的クロミナンス情報は、エラーを伴うことなく一般に必要とされ、これは、更に他の実施形態において提供されているように、高ビットレートでクロミナンスブロックをエンコードすることにより実現され得る。詳細には、図4に示されたビデオエンコーディングデバイス10´´の更に他の実施形態において、第1のエンコーディングユニット30´´は、選択された関心のある領域101の少なくともクロミナンス成分101a(好ましくは、のみ)をエンコードするように適合される一方で、第2のエンコーディングユニット40´´は、選択された関心のある領域101の輝度成分101bをエンコードするように、及び、入力ビデオデータ100の残りの部分103のクロミナンス成分及び輝度成分をエンコードするように適合される。
原理上、ブロック間エンコードは、DC成分が情報の損失なしに(ロスレスで)圧縮される限り、選択されたブロックのクロミナンス符号化のために用いられ、AC成分の量子化はアーチファクトを取り込む。輝度ブロックは、情報の損失を伴ってエンコードされ得る。PPG抽出処理へのこれらの寄与は、クロミナンス成分の寄与よりあまり重要ではないためである。
更に他の実施形態によれば、選択された関心のある領域のクロミナンス成分のみが内部ブロックとしてエンコードされるか、又は、クロミナンス及び輝度成分の双方が選択された関心のある領域が内部ブロックとしてエンコードされることに関連する。この実施形態において、選択された皮膚エリア(即ち、関心のある領域)が移動しない場合において、追加のビットが、内部ブロックとしてブロックのエンコードに費やされる必要はないだろう。しかしながら、選択された皮膚エリアが移動する場合には、アーチファクトが取り込まれず、従って、この実施形態がより効率的になるだろう。
提案されたデコードプロセスは、例えばビデオ符号化規格による、ビデオストリームの復元だけでなく、部分的にデコードされたビデオストリームからの、とりわけデコードされた関心のある領域からのPPG信号の抽出も可能にする。
図5は、図3に示された相補的なビデオエンコーディングデバイス10´に実質的に対応する、本発明によるビデオデコーディングデバイス60´の第2のより詳細な実施形態を示す。この実施形態において、デコーダ入力ビデオデータ160は、第1のデコーディングユニット70及び第2のデコーディングユニット75´に供給される。第1のデコーディングユニット70は、上で説明された第1のデコーディングユニット70と実質的に同一であり、デコードされた関心のある領域163を出力する一方で、第2のデコーディングユニット75´は、残りのエリアをデコードするだけでなく、完全なデコーダ入力ビデオデータ160もデコードし、完全なデコーダ出力ビデオデータ166を出力する。即ち、全てのビデオデータが(例えば、従来通り)この中でデコードされる。
それ故、最初に、入力ビットストリームをデコードする標準の手順は、エンコードされたブロック抽出のレベルまで適用される。その後、ビットストリーム全体または内部符号化ブロックが更にデコードされる。これらの内部符号化ブロックは、エンコーダ側で選択された最適な皮膚エリアに対応する。
PPG信号164を得るために、PPG信号抽出ユニット80´は、デコードされた関心のある領域163からビデオエンコーディングデバイス10´の第1のエンコーディングユニット30´によりエンコードされた関心のある領域のブロックを抽出するためのブロック抽出ユニット81を有する。
その後、ブロック抽出ユニットにより供給されたブロック情報181を用いて、復元ユニット82は、関心のある領域のデコードされた内部ブロックから、関心のある領域(例えば、1又はそれ以上の皮膚エリア)を復元する。例えば、第1のデコーディングユニット70において関心のある領域の少なくともクロミナンス成分(好ましくは、のみ)がデコードされる場合、関心のある領域のクロミナンス成分は復元ユニット82において復元される。
その後、PPG信号抽出ユニット83において、PPG信号抽出アルゴリズムは、クロミナンス成分のみが、最終的に所望のPPG信号164を得るために、PPG関連情報の損失を伴うことなくエンコードされる場合にのみ、復元された関心のある領域182に(例えば、クロミナンス成分に)適用される。
ビデオデコーディングデバイスの他の実施形態において、PPG信号164は、ビデオエンコーディングデバイスにより、例えば内部ブロックとして、クロミナンス成分及び輝度成分の双方がエンコードされた場合に、クロミナンス、輝度又は双方チャネルから抽出され得る。それ故、ビデオエンコーディングデバイス及びビデオデコーディングデバイスの最適な実施形態の選択が、PPG信号の復元のために使用されるアプローチに基づいて行われ得る。
述べられたように、PPG信号抽出ユニット83は、復元された関心のある領域(例えば、復元された皮膚エリア)からPPG信号164を検出及び抽出する。原理上、復元された関心のある領域だけが、PPG信号の抽出のために用いられる。それ故、完全な元の解像度でビデオシーケンスをデコードすることは必須でないが、通常、(例えば内部ブロックの)関心のある領域のデコーディングのみは、PPG信号を得るのに十分である。それ故、PPG信号の抽出が望まれるが完全にデコードされたビデオデータを望まない場合に、全てのブロック間の動作補償及び復元により必要とされる計算パワーが節約され得る。
PPG信号の抽出のために使用される特定の方法及びパラメータは、PPG信号のデコード及び抽出の間、規定及び変更され得る。換言すれば、提案されたビデオエンコーディングデバイスは、PPG信号抽出方法の選択もモニタされた対象物の選択も制限しない。一度エンコードされると、ビデオシーケンスは、デコードの間又は後に異なるPPG抽出方法により処理され、異なるバイタルサイン(例えば、心拍数、心拍変動性、SpO2、呼吸、PPGイメージング等)が抽出され得る。提案されたPPGフレンドリーなビデオデコーディングデバイスは新規なPPG抽出アルゴリズムによりアップグレードされ得る。これは、すでにエンコードされたビデオシーケンスからのPPG信号のより良好な抽出を可能にする。
同一のエンコードされたビデオシーケンスは、PPG信号の抽出のための埋め込まれたアルゴリズムを伴うことなく、標準のビデオデコーディングデバイスによりデコードされ、それ故、既存のビデオデコーディングデバイスとの下位互換性を維持する。
提案されたスキームにおいて使用される標準のコーデックが符号化アーチファクトを低減するためにインループデブロッキングフィルタを含む場合において、斯様なデブロッキングフィルタは、選択された関心のある領域に関連するブロックの少なくともクロミナンス成分に対してオフに切り替えられるべきである。そうでなければ、インループデブロッキングフィルタは、PPG信号の抽出のために本質的である視覚的情報を抑制するかもしれない。
PPG抽出アルゴリズムは、パラメータの手動調整によるリアルタイム又は非リアルタイムであり得る。更に、本発明は、概して、特定のアプリケーションに依存して、ビデオデータが記録された後に生物測定信号抽出の任意の特定の方法の選択を可能にする。それ故、同じビデオが、異なる生物測定信号(例えば、心拍数、心拍変動性、SpO2、呼吸、PPGイメージング)の抽出に対して用いられ得る。
本発明によるビデオエンコーディングデバイス10´´´の更に他の実施形態が図7において概略的に示される。この実施形態は、図1に示されたビデオエンコーディングデバイス10の実施形態に非常に類似しているが、加えて、デコーディングユニット35及びPPG信号抽出ユニット36が、第1のエンコーディングユニット30´´´により形成されたフィードバックループに設けられる。このフィードバックループは、選択された関心のある領域101に割り当てられるビットの数を制御する、即ち、PPG関連情報がエンコードされた関心のある領域102において保存されることを確認するために、選択された関心のある領域101をエンコードするために使用されるエンコーディングの設定を制御する。
それ故、デコーディングユニット35は、エンコードされた関心のある領域102を(第1のエンコーディングユニット30´´´により適用された第1のエンコーディングスキームに対して相補的であるデコーディングスキームを適用して)デコードし、PPG信号抽出ユニット36は、デコードされた関心のある領域106からPPG信号107を抽出する。そして、第1のエンコーディングユニット30は、PPG信号が充分な品質を有するかどうか、又は、エンコードのために使用される設定が抽出されたPPG信号の品質を増大させるように変更される必要あるかどうか(例えば、より多くのビットがエンコードされた関心のある領域のために割り当てられる必要があるかどうか、及び/又は、圧縮速度が低下される必要があるかどうか)、を決め得る。それ故、デコーディングデバイスにおいて、PPG信号が充分な品質で抽出され得ることが保証され得る。
それ故、本発明は、バイタルサイン抽出を可能にする目的で、ビデオ圧縮の間におけるSNR又は品質スケーラビリティの既知のコンセプトを変更する。本発明は、ビデオストリーミングのためにも、圧縮されたビデオ材料の格納のためにも用いられ得る。通常、エンコードされたビデオデータ有するビットストリームだけが、基本的な品質でビデオデータを得るために伝達又は解凍されるだろう。全てのビデオデータは、即ち、単一のエンコードスキーム及び同一のエンコーディングパラメータ設定によって同様にエンコードされる。本発明によれば、追加のデータは、PPG基本情報を保存するエンコードされたビットストリームに含まれ、これは、生物測定信号が抽出されるべき場合にのみ伝達又は解凍されるだろう。この手法において、圧縮されたビデオにおける生物測定情報の保存と圧縮効率との間の最適なトレードオフが実現され得る。
要約すると、提案された発明は、ビデオ圧縮(解凍)後にPPG信号の抽出を可能にする。PPG抽出アルゴリズムの複雑さ及び精度は、具体的なアプリケーションに基づいて選択され得る。例えば、幾つかのアプリケーションは、心拍数情報のみの抽出を必要とし得る一方で、他のものは、心拍間隔の正確な鼓動信号、又は/及び呼吸、又は/及びSpO2(oxygenation)を必要とし得る。更に、本発明は、手動で最適なパラメータを選択及び調整するという可能性により、圧縮されたビデオからのPPG信号のオフライン(非リアルタイム)の抽出を可能にする。
概して、本発明は、特定のエンコーディング/デコーディングスキームに限定されるものではない。概して、1又はそれ以上の選択された関心のある領域をエンコードするために使用される第1のエンコーディングは、残りのデータをエンコードするために使用される第2のエンコーディングよりも損失しない。特定の実施形態において、PPG関連視覚的情報は、ブロック間符号化及び/又は内部ブロック符号化を用いてエンコードされる一方で、生物測定信号抽出のために必須ではない他の視覚的情報は、フレーム間符号化を用いてエンコードされる。それ故、内部フレームエンコードされたブロックからのビデオデコーディングの間のPPG情報の速くて低コストな抽出は、完全なビデオフレームをデコードする必要なく実現される。
本発明が図面及び前述の説明において示され、詳述された一方で、斯様な図例および説明は、例示又は単なる例であり、限定するものではないものとみなされるべきである。本発明は、開示された実施形態に限定されるものではない。開示された実施形態に対する他のバリエーションは、図面、開示及び添付の特許請求の範囲の研究から、当業者によって理解され、実施され得る。
請求項において、"有する"という用語は他の要素又はステップを除外するものではなく、単数表記は複数を除外するものではない。単一の要素又は他のユニットが請求項に記載された幾つかのアイテムの機能を実現してもよい。特定の手段が相互に異なる従属請求項に記載されるという単なる事実は、これらの手段の組み合わせが有効に用いられ得ないことを示すものではない。
コンピュータプログラムは、他のハードウェアと共に又はこの一部として供給される光記憶媒体又はソリッドステート媒体のような、適切な持続媒体に格納/分配されてもよいが、インターネット又は他の有線若しくは無線通信システムを介するような、他の形式において分配されてもよい。
請求項中のいかなる参照符号も、その範囲を限定するものとして解釈されるべきでない。

Claims (15)

  1. ビデオデータをエンコードするためのビデオエンコーディングデバイスであって、
    強いPPG信号を供給する入力ビデオデータにおいて関心のある領域を選択するための選択ユニットと、
    エンコードされた関心のある領域におけるPPG関連情報を保存するためにエンコーディングの第1の設定により予め決められたエンコーディングスキームに従って前記入力ビデオデータの選択された関心のある領域をエンコードするための第1のエンコーディングユニットと、
    エンコーディングの第2の設定により前記予め決められたエンコーディングスキームに従って前記入力ビデオデータの残りの部分をエンコードするための第2のエンコーディングユニットと、
    エンコードされた関心のある領域及び前記入力ビデオデータのエンコードされた残りの部分をエンコーダ出力ビデオストリームに組み合わせるためのエンコーダ組み合わせユニットとを有する、ビデオエンコーディングデバイス。
  2. 前記選択ユニットは、
    入力ビデオデータにおけるエリア(とりわけ、皮膚エリア)を関心のある領域として選択するためのエリア選択ユニットであって、前記ビデオデータは、ビデオフレームのシーケンスを有し、これらのフレームは、空間ブロックに分割される、エリア選択ユニットと、
    選択されたエリアに関する前記空間ブロックを決定するためのブロック選択ユニットであって、決定された空間ブロックが関心のある領域を表す、ブロック選択ユニットとを更に有する、請求項1に記載のビデオエンコーディングデバイス。
  3. 前記エリア選択ユニットは、
    関心のある領域として用いられ得る入力ビデオデータにおける潜在的に使用可能なエリア(とりわけ、皮膚エリア)のセットを検出するための検出ユニットと、
    検出された潜在的に使用可能なエリアのセットを分析し、1又はそれ以上の予め決められた選択基準に基づいてエリアを関心のある領域として選択するための分析ユニットとを有する、請求項2に記載のビデオエンコーディングデバイス。
  4. 前記分析ユニットは、空間サイズ、照明安定性及び/又は色安定性を選択基準として用いるように適合される、請求項3に記載のビデオエンコーディングデバイス。
  5. 前記分析ユニットは、検出された潜在的に使用可能なエリアからPPG信号を抽出するための、及び、抽出されたPPG信号の内容及び/又は品質に基づいてエリアを関心のある領域として選択するためのPPG抽出ユニットを有する、請求項3に記載のビデオエンコーディングデバイス。
  6. 前記PPG抽出ユニットは、抽出されたPPG信号に基づいて前記選択された関心のある領域をエンコードするための前記第1のエンコーディングユニットによる使用のためのエンコードのための前記第1の設定の1又はそれ以上のパラメータを決定するように適合され、
    前記第1のエンコーディングユニットは、前記選択された関心のある領域のエンコードのための前記第1の設定の前記1又はそれ以上のパラメータを用いるように適合される、請求項5に記載のビデオエンコーディングデバイス。
  7. 前記第1のエンコーディングユニットは、前記選択された関心のある領域の少なくともクロミナンス成分(とりわけ、クロミナンス成分のみ)をエンコードするように適合され、
    前記第2のエンコーディングユニットは、前記選択された関心のある領域の輝度成分をエンコードするとともに、前記入力ビデオデータの前記残りの部分のクロミナンス成分及び輝度成分をエンコードするように適合される、請求項1に記載のビデオエンコーディングデバイス。
  8. 前記第1のエンコーディングユニットは、内部ブロック符号化により前記選択された関心のある領域をエンコードするように適合され、
    前記第2のエンコーディングユニットは、ブロック間及び/又は内部ブロック符号化により前記入力ビデオデータの残りの部分をエンコードするように適合される、請求項1に記載のビデオエンコーディングデバイス。
  9. 前記第1のエンコーディングユニットは、前記選択された関心のある領域の少なくともクロミナンス成分(とりわけ、クロミナンス成分のみ)のブロック間又は内部ブロックのDC成分のみをエンコードするように適合される、請求項1に記載のビデオエンコーディングデバイス。
  10. ビデオデータをエンコードするためのビデオエンコーディング方法であって、
    強いPPG信号を供給する入力ビデオデータにおいて関心のある領域を選択するステップと、
    エンコードされた関心のある領域におけるPPG関連情報を保存するためにエンコーディングの第1の設定により予め決められたエンコーディングスキームに従って前記入力ビデオデータの選択された関心のある領域をエンコードするステップと、
    エンコーディングの第2の設定により前記予め決められたエンコーディングスキームに従って前記入力ビデオデータの残りの部分をエンコードするステップと、
    エンコードされた関心のある領域及び前記入力ビデオデータのエンコードされた残りの部分をエンコーダ出力ビデオストリームに組み合わせるステップとを有する、ビデオエンコーディング方法。
  11. エンコードされたビデオストリームをデコードするためのビデオデコーディングデバイスであって、前記エンコードされたビデオストリームは、エンコードされたビデオデータを有し、入力ビデオデータの関心のある領域は、エンコードされた関心のある領域におけるPPG関連情報を保存するために、エンコードの第1の設定により予め決められたエンコーディングスキームに従ってエンコードされたものであり、前記入力ビデオデータの残りの部分は、エンコードの第2の設定により前記予め決められたエンコードスキームに従ってエンコードされたものであり、当該ビデオデコーディングデバイスは、
    前記関心のある領域をエンコードするために用いられたエンコードスキームに対して相補的なデコーディングスキームに従って、エンコードされた関心のある領域をデコードするための第1のデコーディングユニットと、
    デコードされた関心のある領域からPPG信号を抽出するためのPPG抽出ユニットとを有する、ビデオデコーディングデバイス。
  12. 前記デコーディングスキームに従って前記入力ビデオデータのエンコードされた残りの部分をデコードするために第2のデコーディングユニットと、
    デコードされた1又はそれ以上の関心のある領域及びデコードされた残りの部分をデコーダ出力ビデオストリームに組み合わせるためのデコーダ組み合わせユニットとを更に有する、請求項11に記載のビデオデコーディングデバイス。
  13. エンコードされたビデオストリームをデコードするためのビデオデコーディング方法であって、前記エンコードされたビデオストリームは、エンコードされたビデオデータを有し、入力ビデオデータの関心のある領域は、エンコードされた関心のある領域におけるPPG関連情報を保存するために、エンコードの第1の設定により予め決められたエンコーディングスキームに従ってエンコードされたものであり、前記入力ビデオデータの残りの部分は、エンコードの第2の設定により前記予め決められたエンコードスキームに従ってエンコードされたものであり、当該ビデオデコーディング方法は、
    前記関心のある領域をエンコードするために用いられたエンコードスキームに対して相補的なデコーディングスキームに従って、エンコードされた関心のある領域をデコードするステップと、
    デコードされた関心のある領域からPPG信号を抽出するステップとを有する、ビデオデコーディング方法。
  14. ビデオデータをエンコード及びデコードするためのビデオ符号化システムであって、
    入力ビデオデータをエンコードするための請求項1に記載のビデオエンコーディングデバイスと、
    前記ビデオエンコーディングデバイスによりエンコードされたエンコードされたビデオデータをデコードするための請求項11に記載のビデオデコーディングデバイスとを有する、ビデオ符号化システム。
  15. コンピュータプログラムがコンピュータ上で実行されたときに請求項10又は請求項13に記載の方法のステップを前記コンピュータに実行させるためのプログラムコード手段を有する、コンピュータプログラム。
JP2013547926A 2011-01-05 2011-12-27 Ppg関連情報を保存するビデオ符号化及び復号化デバイス及び方法 Expired - Fee Related JP5940558B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP11150146.6 2011-01-05
EP11150146 2011-01-05
PCT/IB2011/055971 WO2012093320A2 (en) 2011-01-05 2011-12-27 Video coding and decoding devices and methods preserving ppg relevant information

Publications (3)

Publication Number Publication Date
JP2014506062A true JP2014506062A (ja) 2014-03-06
JP2014506062A5 JP2014506062A5 (ja) 2015-02-19
JP5940558B2 JP5940558B2 (ja) 2016-06-29

Family

ID=45531487

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013547926A Expired - Fee Related JP5940558B2 (ja) 2011-01-05 2011-12-27 Ppg関連情報を保存するビデオ符号化及び復号化デバイス及び方法

Country Status (7)

Country Link
US (1) US20130294505A1 (ja)
EP (2) EP2661885A2 (ja)
JP (1) JP5940558B2 (ja)
CN (1) CN103314583B (ja)
BR (1) BR112013017072A2 (ja)
RU (1) RU2597994C2 (ja)
WO (1) WO2012093320A2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016083342A (ja) * 2014-10-27 2016-05-19 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited 生理学的パラメータの推定
JP2018510669A (ja) * 2015-01-19 2018-04-19 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 皮膚検出に関するデバイス、システム、及び方法
WO2021153680A1 (ja) * 2020-01-28 2021-08-05 株式会社エクォス・リサーチ 動画圧縮装置、検出装置、動画圧縮プログラム、及び、検出プログラム
JP2021166389A (ja) * 2020-01-09 2021-10-14 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えたバイタル情報取得システムならびに画像処理方法
US11647913B2 (en) 2015-10-29 2023-05-16 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus and pulse estimation system provided therewith, and image processing method

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6389831B2 (ja) * 2013-03-06 2018-09-12 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. バイタルサイン情報を決定するためのシステム及び方法
EP2967376B1 (en) * 2013-03-14 2023-02-15 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
US10052038B2 (en) * 2013-03-14 2018-08-21 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
CN105101875A (zh) 2013-04-09 2015-11-25 皇家飞利浦有限公司 用于根据图像数据来确定胸部呼吸信号和腹部呼吸信号的装置和方法
CN105792742A (zh) * 2013-11-27 2016-07-20 皇家飞利浦有限公司 用于获得对象的脉搏传导时间和/或脉搏波速度信息的设备和方法
RU2015156254A (ru) 2014-05-07 2017-07-04 Конинклейке Филипс Н.В. Устройство, система и способ выделения физиологической информации
EP3051718B1 (en) * 2015-01-30 2019-12-04 Casio Computer Co., Ltd. Information transmission system, symbol stream generating apparatus, symbol stream decoding apparatus, symbol stream generating program, symbol stream decoding program, symbol stream generating method and symbol stream decoding method
WO2017121834A1 (en) * 2016-01-15 2017-07-20 Koninklijke Philips N.V. Device, system and method for generating a photoplethysmographic image carrying vital sign information of a subject
US10335045B2 (en) 2016-06-24 2019-07-02 Universita Degli Studi Di Trento Self-adaptive matrix completion for heart rate estimation from face videos under realistic conditions
GB2563037A (en) * 2017-05-31 2018-12-05 Nokia Technologies Oy Method and apparatus for image compression
DE102017118636B3 (de) 2017-08-15 2018-12-06 Technische Universität Chemnitz Verfahren zur kontaktlosen Bestimmung der Herzfrequenz einer Person
TWI693061B (zh) * 2019-05-09 2020-05-11 鉅怡智慧股份有限公司 非接觸式酒駕評判系統及相關方法
WO2021178643A1 (en) * 2020-03-04 2021-09-10 Videopura Llc An encoding device and method for utility-driven video compression

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133300A (ja) * 1992-10-15 1994-05-13 Sharp Corp 画像領域検出装置、該画像領域検出装置を用いた画像符号化装置、及び画像復号化装置
JP2002330951A (ja) * 2001-05-11 2002-11-19 Canon Inc 画像符号化装置及び復号装置及び方法及びコンピュータプログラム及び記憶媒体
JP2005252556A (ja) * 2004-03-03 2005-09-15 Kddi Corp 注目画素値選択型符号化装置および復号装置
EP1739970A1 (en) * 2005-06-28 2007-01-03 Matsushita Electric Industrial Co., Ltd. Method for encoding and transmission of real-time video conference data
JP2009141815A (ja) * 2007-12-07 2009-06-25 Toshiba Corp 画像符号化方法、装置及びプログラム
JP2010537489A (ja) * 2007-08-15 2010-12-02 トムソン ライセンシング 関心のある領域の情報を使用した改善されたビデオ符号化の方法及び装置
JP2012519894A (ja) * 2009-03-06 2012-08-30 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 少なくとも1の生物体の画像の処理

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US716917A (en) * 1900-10-16 1902-12-30 Morton Trust Company Motor-vehicle.
US6275614B1 (en) * 1998-06-26 2001-08-14 Sarnoff Corporation Method and apparatus for block classification and adaptive bit allocation
US6757434B2 (en) * 2002-11-12 2004-06-29 Nokia Corporation Region-of-interest tracking method and device for wavelet-based video coding
SE526226C2 (sv) * 2003-12-19 2005-08-02 Ericsson Telefon Ab L M Bildbehandling
WO2005072337A2 (en) * 2004-01-23 2005-08-11 Sarnoff Corporation Method and apparatus for digital video reconstruction
US20060062478A1 (en) * 2004-08-16 2006-03-23 Grandeye, Ltd., Region-sensitive compression of digital video
WO2008026896A1 (en) * 2006-08-31 2008-03-06 Samsung Electronics Co., Ltd. Video encoding apparatus and method and video decoding apparatus and method
JP2009049979A (ja) * 2007-07-20 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法、画像処理システム、及びプログラム
EP2141928A1 (en) * 2008-06-30 2010-01-06 Thomson Licensing S.A. Device and method for analysing an encoded image
US8478538B2 (en) * 2009-05-07 2013-07-02 Nellcor Puritan Bennett Ireland Selection of signal regions for parameter extraction
US20110251493A1 (en) * 2010-03-22 2011-10-13 Massachusetts Institute Of Technology Method and system for measurement of physiological parameters

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133300A (ja) * 1992-10-15 1994-05-13 Sharp Corp 画像領域検出装置、該画像領域検出装置を用いた画像符号化装置、及び画像復号化装置
JP2002330951A (ja) * 2001-05-11 2002-11-19 Canon Inc 画像符号化装置及び復号装置及び方法及びコンピュータプログラム及び記憶媒体
JP2005252556A (ja) * 2004-03-03 2005-09-15 Kddi Corp 注目画素値選択型符号化装置および復号装置
EP1739970A1 (en) * 2005-06-28 2007-01-03 Matsushita Electric Industrial Co., Ltd. Method for encoding and transmission of real-time video conference data
JP2010537489A (ja) * 2007-08-15 2010-12-02 トムソン ライセンシング 関心のある領域の情報を使用した改善されたビデオ符号化の方法及び装置
JP2009141815A (ja) * 2007-12-07 2009-06-25 Toshiba Corp 画像符号化方法、装置及びプログラム
JP2012519894A (ja) * 2009-03-06 2012-08-30 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 少なくとも1の生物体の画像の処理

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MING-ZHER POH, ET.AL.: ""Non-contact, automated cardiac pulse measurements using video imaging and blind source separation"", OPTICS EXPRESS, vol. 18, no. 10, JPN5014010023, 7 May 2010 (2010-05-07), XP002685985, ISSN: 0003305379, DOI: 10.1364/OE.18.010762 *
VERKRUYSSE, W., ET.AL.: ""Remote plethysmographic imaging using ambient light"", OPTICS EXPRESS, vol. 16, no. 26, JPN6016015619, 12 December 2008 (2008-12-12), pages 21434 - 21445, XP002735416, ISSN: 0003305380, DOI: 10.1364/OE.16.021434 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016083342A (ja) * 2014-10-27 2016-05-19 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited 生理学的パラメータの推定
JP2018510669A (ja) * 2015-01-19 2018-04-19 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 皮膚検出に関するデバイス、システム、及び方法
US11647913B2 (en) 2015-10-29 2023-05-16 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus and pulse estimation system provided therewith, and image processing method
JP2021166389A (ja) * 2020-01-09 2021-10-14 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えたバイタル情報取得システムならびに画像処理方法
WO2021153680A1 (ja) * 2020-01-28 2021-08-05 株式会社エクォス・リサーチ 動画圧縮装置、検出装置、動画圧縮プログラム、及び、検出プログラム
JP2021115305A (ja) * 2020-01-28 2021-08-10 株式会社エクォス・リサーチ 動画圧縮装置、検出装置、動画圧縮プログラム、及び、検出プログラム

Also Published As

Publication number Publication date
RU2013136494A (ru) 2015-02-10
JP5940558B2 (ja) 2016-06-29
EP2846550A1 (en) 2015-03-11
CN103314583A (zh) 2013-09-18
EP2661885A2 (en) 2013-11-13
US20130294505A1 (en) 2013-11-07
RU2597994C2 (ru) 2016-09-20
WO2012093320A2 (en) 2012-07-12
CN103314583B (zh) 2017-05-17
WO2012093320A3 (en) 2012-09-07
BR112013017072A2 (pt) 2018-02-14
EP2846550B1 (en) 2018-10-03

Similar Documents

Publication Publication Date Title
JP5940558B2 (ja) Ppg関連情報を保存するビデオ符号化及び復号化デバイス及び方法
JP5940557B2 (ja) Ppg関連情報を保存するビデオコーディング及びデコーディングデバイス及び方法
McDuff et al. The impact of video compression on remote cardiac pulse measurement using imaging photoplethysmography
EP3804307B1 (en) Fast region of interest coding using multi-segment resampling
Rapczynski et al. Effects of video encoding on camera-based heart rate estimation
US20140376624A1 (en) Scene change detection using sum of variance and estimated picture encoding cost
US10735724B2 (en) Method and device for compressing image on basis of photography information
US20110228846A1 (en) Region of Interest Tracking and Integration Into a Video Codec
CN103250182A (zh) 高动态范围视频色调映射
US20210142520A1 (en) Fast region of interest coding using multi-segment temporal resampling
US11310514B2 (en) Encoding method and apparatus using non-encoding region, block-based encoding region, and pixel-based encoding region
US10284877B2 (en) Video encoder
JP2009055236A (ja) 映像符号化装置及び方法
Münzer et al. Improving encoding efficiency of endoscopic videos by using circle detection based border overlays
Andaló et al. Transmitting what matters: Task-oriented video composition and compression
TW201244486A (en) Video coding and decoding devices and methods preserving PPG relevant information
US10003826B2 (en) Method of reducing noise of video signal
Arrivukannamma et al. A study on CODEC quality metric in video compression techniques
KR101624657B1 (ko) 필름 그레인 노이즈 보존을 위한 영상 부호화 및 복호화 방법 및 필름 그레인 노이즈 보존을 위한 영상 부호화 및 복호화 장치
Rao et al. Two Fundamental Challenges in Perceptual Coding and Image Restoration
Bartoli et al. Perceptual coding of stereo endoscopy video for minimally invasive surgery
Pattichis et al. Wireless Ultrasound Video Transmission for Stroke Risk Assessment: Quality Metrics and System Design

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160518

R150 Certificate of patent or registration of utility model

Ref document number: 5940558

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees