JP2018142950A - プライバシーマスクを含む画像を符号化する方法 - Google Patents

プライバシーマスクを含む画像を符号化する方法 Download PDF

Info

Publication number
JP2018142950A
JP2018142950A JP2017241499A JP2017241499A JP2018142950A JP 2018142950 A JP2018142950 A JP 2018142950A JP 2017241499 A JP2017241499 A JP 2017241499A JP 2017241499 A JP2017241499 A JP 2017241499A JP 2018142950 A JP2018142950 A JP 2018142950A
Authority
JP
Japan
Prior art keywords
image
privacy mask
encoding
quantization parameter
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017241499A
Other languages
English (en)
Other versions
JP2018142950A5 (ja
JP6871149B2 (ja
Inventor
ヴィクトル エドパルム,
Edpalm Viktor
ヴィクトル エドパルム,
ソン ユアン,
Song Yuan
ソン ユアン,
ファン, シン ダニエルソン
Danielsson Fan Xing
ファン, シン ダニエルソン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Axis AB
Original Assignee
Axis AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Axis AB filed Critical Axis AB
Publication of JP2018142950A publication Critical patent/JP2018142950A/ja
Publication of JP2018142950A5 publication Critical patent/JP2018142950A5/ja
Application granted granted Critical
Publication of JP6871149B2 publication Critical patent/JP6871149B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19686Interfaces masking personal details for privacy, e.g. blurring faces, vehicle license plates
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/16Implementing security features at a particular protocol layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/04Masking or blinding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Computing Systems (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】プライバシーマスクを備えるデジタル画像を符号化する方法を提供する。【解決手段】符号化方法において、デジタル画像20におけるピクセルを表す情報が受信される。それらのピクセルが、符号化ユニット22にグループ化される。また、プライバシーマスクが画像に適用されるべきプライバシーマスク区域21を表す情報も受信される。少なくとも部分的にプライバシーマスク区域内に位置するすべての符号化ユニットが識別され、プライバシーマスク区域が、識別された符号化ユニット23と揃えられるように拡張される。各符号化ユニット22に関して、画像を符号化するために使用されるべきそれぞれの量子化パラメータが決定される。プライバシーマスクが、画像の拡張されたプライバシーマスク区域において適用され、かつ適用されたプライバシーマスクを有する画像が、決定された量子化パラメータを使用して符号化される。【選択図】図8

Description

本発明は、プライバシーマスクを含むデジタル画像の符号化に関する。
監視カメラが、様々な環境を監視するために、屋内と屋外の両方で、異なる多くのアプリケーションにおいて使用される。キャプチャされたシーンを描写する画像は、例えば、作業員または警備員によって監視され得る。或る状況において、個人の人権(personal integrity)のために画像の一部をマスクする必要がある場合など、キャプチャされた画像の一部分を別の部分とは異なるように扱う必要性があり得る。これは、例えば、カメラが建造物内に、またはバス内もしくは列車内に配置され、外部の環境がカメラによって行われる監視から排除されるべき場合に生じ得る。別の例が、窓を有する建造物が監視され、かつその窓を通してその建造物の内部を監視することを回避する必要がある場合である。
そのような実例において、プライバシーマスクが、観察機器のセットアップ中に作業員によって定義され得る。プライバシーマスクは、静的であっても、動的であってもよい。静的プライバシーマスクは、グラフィカルユーザインターフェースにおいて画像上でマスクされるべき区域に印を付ける作業員によって、通常、作成される。その後、静的プライバシーマスクは、作業員がそのマスクを移動させること、または除去することを決定するまで、その場に留まる。動的プライバシーマスクは、ときとともに変化し得る。動的プライバシーマスクと同様に、作業員は、マスキングが所望される画像内の区域に印を付けてよい。また、作業員は、いつプライバシーマスクが適用されるべきかを決定する設定を入力してもよい。例えば、作業者は、画像内の窓の周囲に長方形を描いて、その印を付けられた区域内で顔が検出された場合、その顔がマスクされて消されるように設定を行うことも可能である。そのような動的プライバシーマスクは、プライバシーマスクに関して設定された条件が満たされない限り、視界を遮るマスクは存在しないが、例えば、顔検出アルゴリズム、被写体検出アルゴリズム、または動き検出アルゴリズムがそれらの条件が満たされたことを検出するとすぐに、プライバシーマスクが適用されるという点で有益であり得る。プライバシーマスクは、画像にオーバーレイとして適用され得る。いくつかのプライバシーマスクは、黒の、または他の着色された不透明な区域の形態をとる。他のプライバシーマスクは、画像データがプライバシーマスク区域にわたって「不鮮明にされて(smeared)」消される、ぼかしの形態をとり、またはプライバシーマスク内の画像がピクセル化ブロックに分割され、かつピクセル化ブロックのすべてのピクセルに同一の値が与えられて、画像がプライバシーマスク区域内でブロック様に見えるようにするピクセル化の形態をとる。プライバシーマスクは、多くの事例において長方形であり、または別の多角形であってよく、あるいは遮蔽すべき区域の形状により従う他の任意の形状を有してよい。
カメラが画像をキャプチャすると、それらの画像は、それらの画像が見られ、かつ/または記憶されることが可能な管理センタなどの、使用の拠点に通常、伝送される。また、それらの画像は、いわゆる「エッジストレージ」、すなわち、SDカードなどのカメラに搭載された、またはNAS(ネットワークアタッチトストレージ)などの、カメラと接続状態にある、カメラにおけるストレージに記憶されてもよい。伝送またはエッジストレージの前に、それらの画像は、帯域幅およびストレージを節約するために符号化される。符号化は、多くの異なる様態で、例えば、H.264標準または他の符号化標準により実行され得る。すべてではないとしても、ほとんどのビデオ符号化は、不可逆であり、すなわち、元の画像に存在する情報が符号化中に失われ、復号の際に再獲得され得ない。元の画像を表すのに要求されるビットの数の低減ともたらされる画像品質の間にトレードオフが存在する。利用可能なビットを可能な限り効率的に利用する符号化スキームを開発する取組みが行われてきた。
ほとんどのビデオ圧縮標準は、元来、放送および映画撮影において使用されるように開発されてきたが、それらの標準は、要件が異なる他の分野においても使用される。1つのそのような分野が、監視または観察であり、監視用途または観察用途のために符号化を最適化する取組みが行われてきた。監視アプリケーションにおいて特に有用である符号化方法の例が、本出願者の欧州特許出願第3,021,583号明細書において開示される。この符号化方法は、大幅な効率向上を可能にするものの、符号化をさらに向上させる要望が依然として存在することは変わらない。例えば、プライバシーマスクを備える画像において、ビットが必ずしも、最も重要な画像に、または画像の最も重要な部分に費やされないことがあり得る。また、符号化された画像および復号された画像に視覚的アーチファクトが存在することもあり得る。
欧州特許出願第3,021,583号明細書
本発明の目的は、利用可能な帯域幅およびストレージの効率的な使用を可能にするプライバシーマスクを備えるデジタル画像を符号化する方法を提供することである。
別の目的は、気に障る視覚的アーチファクトを減らすプライバシーマスクを備えるデジタル画像を符号化する方法を提供することである。
さらなる目的は、プライバシーマスクによって遮蔽されるべき画像情報がアクセス可能でないことを確実にすることを可能にするプライバシーマスクを備えるデジタル画像を符号化する方法を提供することである。
また、本発明の目的は、利用可能なビットを画像を表すために効率的に使用することができるプライバシーマスクを備えるデジタル画像を符号化するためのデジタル画像符号化システムを提供することでもある。
本発明の目的は、符号化された画像および復号された画像において視覚的アーチファクトを減らすことを可能にするプライバシーマスクを備えるデジタル画像を符号化するためのデジタル画像符号化システムを提供することでもある。
さらなる目的は、プライバシーマスクによって与えられる保護に関して向上したセキュリティを可能にするプライバシーマスクを備えるデジタル画像を符号化するためのデジタル画像符号化システムを提供することである。
第1の態様によれば、これら、およびその他の目的は、全部が、または少なくとも一部が、プライバシーマスクを備えるデジタル画像を符号化する方法によって実現され、前記方法は、デジタル画像におけるピクセルを表す情報を受信すること、前記画像のピクセルを隣接ピクセルのグループの符号化ユニットにグループ化すること、プライバシーマスクが画像に適用されるべきプライバシーマスク区域を表す情報を受信すること、プライバシーマスク区域内に少なくとも部分的に位置するすべての符号化ユニットを識別すること、識別された符号化ユニットと揃えられるようにプライバシーマスク区域を拡張すること、各符号化ユニットに関して、画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定すること、画像の拡張されたプライバシーマスク区域においてプライバシーマスクを適用すること、および決定された量子化パラメータを使用して適用されたプライバシーマスクを有する画像を符号化することを備える。このようにして、プライバシーマスクによって遮られるべき画像データのすべてが適切な様態で符号化され得ることを確実にすることが可能である。例えば、プライバシーマスクによって覆われた区域に関して1つの量子化パラメータを設定し、画像の残りの部分に関して別の量子化パラメータを設定することが可能である。また、初期に部分的にしかプライバシーマスク区域内にないブロックの部分における画像データが、プライバシーマスクによって遮られることになっている情報に意図しないアクセスを与えることがないことを確実にすることも可能である。このことは、少なくとも理論上、符号化ユニットに関する量子化パラメータの決定が画像解析または画像統計に基づいて行われる符号化スキームにおいて生じる可能性がある。部分的には初期のプライバシーマスク区域の内部にあり、部分的にはその外部にある符号化ユニットに関する量子化パラメータが、その符号化ユニットにおける画像データの解析に基づくものとした場合、それ自体、初期のプライバシーマスクによって覆われる画像データが、初期プライバシーマスクの外部にある同一の符号化ユニットにおける画像データの符号化に影響を及ぼして、プライバシーマスクによって保護されることになっている画像データに関するいくらかの情報が、量子化パラメータのリバースエンジニアリングを介して得られるようになる可能性がある。さらに、プライバシーマスクの境界における極端な品質変化が回避されて、より少ない視覚的アーチファクトにつながることが可能である。
本発明の方法の別形によれば、識別された符号化ユニットを符号化するために所定の符号化パラメータが使用され、前記所定の符号化パラメータは、所定の符号化ユニットサイズと所定の量子化パラメータのうちの少なくとも1つである。所定の符号化ユニットサイズまたは所定の量子化パラメータを施行することによって、プライバシーマスクによって遮られるべき画像データについての情報が、マスクされた区域内の符号化ユニットサイズまたは量子化パラメータの空間パターンの調査によってまったくアクセスされ得ないことが確実にされ得る。
画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定するステップは、識別された符号化ユニットの量子化パラメータを所定の低減された品質の量子化パラメータに設定することを備え得る。このことは、プライバシーマスクによって覆われる画像の部分を符号化するために使用されるビットの数を少なくすることを可能にする。そうではなく、量子化パラメータの決定が、プライバシーマスクにかかわらず、通常どおりに実行されたとした場合、プライバシーマスクによって覆われた画像の部分は、ユーザにまったく価値のない高い品質で符号化されることがあり得る。代わりに、プライバシーマスクによって覆われた画像の部分の品質を低減することによって、ビットが、監視目的で実際に役立つ画像の他のより関心を引く部分のために節約され得る。
識別された符号化ユニットにおけるピクセルは、所定の大きいサイズの変更された符号化ユニットにグループ化されてよく、または再グループ化されてよい。一般に、大きい符号化ユニットを使用して画像の所与の部分を符号化するのに、小さい符号化ユニットを使用して同一の部分を符号化するのと比べて、より少ないビットしか必要とされない。より大きい符号化ユニットを使用することによってより多くの情報が失われ得るが、プライバシーマスクに関して、このことは、そこに示すべき関心対象の画像データが存在しないので、問題とならない。符号化ユニットのサイズが画像データの解析に基づいて決定される符号化スキームが存在する。そのようなスキームにおいて、情報は、少なくとも理論上、プライバシーマスク区域内の符号化ユニットサイズの空間パターンのリバースエンジニアリングによってプライバシーマスクの下から漏れ出すことがあり得る。拡張されたプライバシーマスク区域内のピクセルをグループ化するための所定の符号化ユニットサイズを設定することによって、このリスクが回避される。
プライバシーマスクは、一様の色、ぼかし、およびピクセル化のうちの少なくとも1つを備え得る。
本発明の別形によれば、プライバシーマスクは、プライバシーマスク区域内のピクセルが隣接ピクセルのピクセル化グループにグループ化されるピクセル化を備え、それぞれのピクセル化グループの各ピクセルのピクセル値は、それぞれのピクセル化グループを表す共通のピクセル値に設定され、方法は、プライバシーマスク区域内の画像のピクセルを、ピクセル化グループに対応する符号化ユニットにグループ化することをさらに備える。そのような方法は、プライバシーマスクの境界における品質差によって生じる気に障る視覚的アーチファクトを回避することを可能にする。また、そのような方法は、符号化ユニットが、プライバシーマスクによって覆われるべき画像データについての情報を導き出すために使用される可能性があるピクセル化とは異なる空間パターンを形成しないことを確実にすることによって、セキュリティを向上させもする。
画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定するステップは、関係のある区域における符号化ユニットに第1の量子化パラメータが与えられ、かつ関係のない区域における符号化ユニットに第2の量子化パラメータが与えられるように、画像における関係のある区域の識別に基づいて各符号化ユニットに関する量子化パラメータを設定することを備え得、前記第1の量子化パラメータは、前記第2の量子化パラメータと比べて、より高い画像品質を与える圧縮を表す。量子化パラメータを決定するためにそのようなアプローチを使用して、利用可能な帯域幅およびストレージを効率的に利用することが可能である。画像の関係のある区域の高品質の表現を許しながら、画像の関係のない区域を表すために使用されるビットの数を少なく保つことが可能である。
画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定するステップは、各符号化ユニットに関するグループ値を形成する各符号化ユニットに関するピクセルを表す情報の空間統計測定値を計算すること、グループ値の間の差を計算すること、前記差を閾値と比較すること、前記差が前記閾値以上である場合、前記符号化ユニットが画像の関係のある区域内にあると識別すること、および前記差が前記閾値未満である場合、前記符号化ユニットが画像の関係のない区域内にあると識別することをさらに備え得る。このことは、画像における関係のある区域および関係のない区域を識別する効率的な方法を提供し得る。
空間統計測定値は、前記情報の合計、平均値、中央値、四分位範囲、標準偏差、分散、歪度、および尖度から成るグループからの少なくとも1つであり得る。
各符号化ユニットは、少なくとも256のピクセルを含み得る。このサイズは、多くの監視用途事例において画像の関係のある部分と見なされ得る、人間の顔のサイズに対応し得る。
画像におけるピクセルを表す情報は、輝度、光度、および色値に関するデータから成るグループからの少なくとも1つであり得る。
第2の態様によれば、これら、およびその他の目的は、全部が、または少なくとも一部が、プライバシーマスクを備えるデジタル画像を符号化するためのデジタル画像符号化システムによって実現され、システムは、デジタル画像におけるピクセルを表す情報を受信し、前記画像のピクセルを隣接ピクセルのグループの符号化ユニットにグループ化するように構成された受信モジュールと、プライバシーマスクが画像に適用されるべきプライバシーマスク区域を表す情報を受信するように構成されたプライバシーマスク入力モジュールと、プライバシーマスク区域内に少なくとも部分的に位置するすべての符号化ユニットを識別し、識別された符号化ユニットと揃えられるようにプライバシーマスク区域を拡張するように構成された適応モジュールと、画像を符号化するために使用されるべき各符号化ユニットに関するそれぞれの量子化パラメータを決定するように構成された圧縮決定モジュールと、画像の拡張されたプライバシーマスク区域においてプライバシーマスクを適用するように構成されたプライバシーマスク適用モジュールと、決定された量子化パラメータを使用して適用されたプライバシーマスクを有する画像を符号化するように構成された符号器モジュールとを備える。そのような符号化システムを使用して、帯域幅およびストレージの効率的な使用を確実にすることが可能である。また、初期のプライバシーマスクによって部分的に覆われた符号化ユニットのマスクされない部分を介したプライバシーマスクによって遮られることが意図される画像データに関する情報の「漏れ」を回避することも可能である。第2の態様の符号化システムは、一般に、付随する利点を伴って第1の態様の方法と同一の様態で実施され得る。
実施形態において、プライバシーマスク入力モジュールは、プライバシーマスク区域内のピクセルが隣接ピクセルのピクセル化グループにグループ化されるピクセル化に関する情報を受信するように構成され、受信モジュールは、プライバシーマスク区域内の画像のピクセルをピクセル化グループに対応する符号化ユニットにグループ化するように構成され、かつプライバシーマスク適用モジュールは、それぞれのピクセル化グループの各ピクセルのピクセル値をそれぞれのピクセル化グループを表す共通のピクセル値に設定するように構成される。このようにして、プライバシーマスクの境界における気に障る視覚的アーチファクトが回避されることが確実にされ得る。また、第1の態様の方法に関連して前述したとおり、向上したセキュリティが確実にされることも可能である。
圧縮決定モジュールは、関係のある区域における符号化ユニットに第1の量子化パラメータが与えられ、かつ関係のない区域における符号化ユニットに第2の量子化パラメータが与えられるように、画像における関係のある区域の識別に基づいて各符号化ユニットに関する量子化パラメータを設定するように構成され得、前記第1の量子化パラメータは、前記第2の量子化パラメータと比べて、より高い画像品質を与える圧縮を表す。符号化システムは、その結果、利用可能なビットを効率的に利用し得る。
符号化システムの圧縮決定モジュールは、各符号化ユニットに関するグループ値を形成する各符号化ユニットに関するピクセルを表す情報の空間統計測定値を計算し、グループ値の間の差を計算し、前記差を閾値と比較し、前記差が前記閾値以上である場合、前記符号化ユニットが画像の関係のある区域内にあると識別し、および前記差が前記閾値未満である場合、前記符号化ユニットが画像の関係のない区域内にあると識別するように構成され得る。このようにして、符号化システムは、ビットが、監視用途事例におけるニーズに鑑みて賢明に費やされることを確実にし得る。
第3の態様によれば、これら、およびその他の目的は、全部が、または少なくとも一部が、第2の態様によるデジタル符号化システムを備えるカメラによって実現される。
第4の態様によれば、これら、およびその他の目的は、全部が、または少なくとも一部が、プロセッサによって実行された場合、第1の態様による方法を遂行するように適応させられた命令を有するコンピュータ可読記憶媒体を備えるコンピュータプログラム製品によって実現される。
本発明の適用可能性のさらなる範囲が、後段で与えられる詳細な説明から明白となろう。しかし、詳細な説明、および特定の例は、本発明の好ましい実施形態を示すものの、本発明の範囲内の様々な変更および変形が、この詳細な説明から当業者には明白となるので、例示として与えられるに過ぎないことを理解されたい。
故に、本発明は、説明されるデバイスの特定の構成部分にも、説明される方法のステップにも、そのようなデバイスおよび方法が変化し得るので、限定されないことを理解されたい。また、本明細書において使用される術語は、特定の実施形態を説明することを目的とするに過ぎず、限定することは意図していないことも理解されたい。本明細書および添付の特許請求の範囲において使用される「或る」および「その」という冠詞、ならびに「前記」は、文脈がそうでないことを明確に規定するのでない限り、それらの要素のうちの1つまたは複数が存在することを意味するように意図されることに留意されたい。このため、例えば、「或る対象」または「その対象」について述べることは、いくつかの対象、および類似したものを含み得る。さらに、「備える」という語は、他の要素も他のステップも排除することはない。
次に、本発明が、例として、添付の概略図を参照して詳細に説明される。
カメラによって監視されるシーンを示す透視図である。 デジタル画像を示す図である。 符号化ユニットにグループ化されたピクセルを有する図2のデジタル画像を示す図である。 図1のシーンの画像を示す図である。 プライバシーマスクが適用された図4の画像を示す図である。 図6a〜図6cは、画像および異なるピクセル化を示す図である。 画像のピクセルがグループ化されている符号化ユニットも示す図5の画像を示す図である。 識別された符号化ユニットを示す図5および図7の画像を示す図である。 プライバシーマスク区域が拡張されている図7の画像を示す図である。 本発明の方法の別形を示す流れ図である。 実施形態による符号化システムを示すブロック図である。 実施形態によるカメラを示すブロック図である。
図1において、カメラ2によって監視されるシーン1が示される。シーン1において、窓4と、出入口5とを有する家3が存在する。自動車6が家の前に駐車されており、かつ第1の個人7が家の外部に立っている。窓4のうちの1つを通して目に見える、第2の個人8が家の中にいる。
カメラ2が、そのシーンの画像をキャプチャする。図2において、画像10の主要な構造が示される。画像10は、カメラ2の画像センサ(図示せず)のピクセルに対応する、いくつかのピクセル11から構成される。画像は、例えば、1280×720ピクセル、1920×1080ピクセル、または3840×2160ピクセルから構成され得る。
図3に示されるとおり、画像10のピクセル11は、隣接ピクセル11の符号化ユニット12にグループ化され得る。また、符号化ユニット12は、マクロブロック、ピクセルブロック、コーディングツリーユニット、またはコーディングユニットと呼ばれることもあり得る。符号化ユニット12は、ほとんどの事例において、例えば、8×8ピクセル、16×16ピクセル、または32×32ピクセルから成る、正方形であり得る。また、ピクセル11を他のサイズおよび他の形状の符号化ユニットにグループ化することも可能である。
図4は、カメラ2によってキャプチャされた画像20を示す。画像20において、家の内部の第2の個人8が窓を通して目に見えることが理解され得る。シーン1を監視する目的は、家3の内部で何が起きるかではなく、家3の外部で何が起きるかを常に把握していることであり得る。したがって、家3の内部を示す画像20の部分をマスクして消すことが望ましいことがあり得る。図5に例示されるとおり、カメラ2のユーザが、画像データが遮られるべきプライバシーマスク区域21を指定してよい。図5において、プライバシーマスク21は、単に黒の長方形である。このため、プライバシーマスク21の背後の画像データは、シーン1からの映像を観る作業者によって見られない。
また、プライバシーマスク21は、他の形態をとってもよいことに留意されたい。例えば、画像上に黒の長方形を重ね合わせる代わりに、ピクセル化されたプライバシーマスクが使用されてよい。図6aにおいて、人間の顔の画像が示される。この顔は、顔をマスクして消して、シーンに出現する個人が識別され得ないようにすることが望ましいシーンの画像の部分であり得る。ピクセル化が、図6bにおいて行われ、画像におけるピクセルがピクセル化グループ31にグループ化される。各ピクセル化グループ31に関して、ピクセル化グループ31におけるすべてのピクセルは、そのピクセル化グループ31におけるピクセルを表す1つの共通の値に設定される。例えば、ピクセル化グループ31におけるすべてのピクセル値の平均が、その共通の値として使用されてよい。また、グループの中の単一のピクセルの値が同一のピクセル化グループの中のすべてのピクセルに関する共通の値として使用されるピクセル化の変更形態、およびピクセル化グループの中のピクセルのサブセットの平均がその共通の値として使用される変更形態も存在する。
図6bにおいて理解され得るとおり、画像30において顔が存在することを検出することが依然として可能である。画像における個人を知る誰かには、その個人を認識することが可能でさえあり得る。図6cは、より大きいサイズのピクセル化グループ32が使用される例を示す。図6bと同一の様態で、ピクセル化グループ32の中のすべてのピクセルに関して共通のピクセル値が設定されるが、ピクセル化グループは、より大きいので、マスクされた区域においてより少ない情報が残されて、顔が存在することを見分けるのさえ難しくする。ピクセル化グループのサイズは、画像のサイズ、マスクされて消されるべき被写体までの距離、および被写体が識別不可能にされるべき度合などの要因に依存して選択されてよい。
図7において、画像20が再び示されるが、今度は、画像20のピクセルがグループ化されている符号化ユニット22も概略で示している。プライバシーマスク21がそれぞれ、いくつかの符号化ユニット22の全部を覆うこと、およびプライバシーマスク21がいくつかの符号化ユニット22の一部も覆うことが図において理解され得る。プライバシーマスク21によって少なくとも部分的に覆われるすべての符号化ユニット22は、図8においてドット付きのパターンで印が付けられており、識別された符号化ユニット23と呼ばれる。明確にするため、ドット付きのパターンは、黒の長方形の上で見ることはできないものの、プライバシーマスク21によって全部が覆われた符号化ユニットも識別された符号化ユニット23に含まれることが指摘される。
本発明によれば、図7および図8に示された初期のプライバシーマスク区域21が、識別された符号化ユニット23と揃えられるように拡張されて、今や、拡張されたプライバシーマスク区域24を形成する。このため、少なくとも部分的に初期のプライバシーマスク区域21内にあったすべての符号化ユニット22、すなわち、識別された符号化ユニット23は、拡張されたプライバシーマスク24によって覆われる。その結果、初期のプライバシーマスク21の外部にあるが、識別された符号化ユニット23に入っている画像データが、初期のプライバシーマスク区域21の内部の画像データへのアクセスを不用意に与えることがないことが確実にされ得る。言い換えると、プライバシーマスクの下からの情報の「漏れ」が防止される。このことは、そうではなく、部分的に覆われた符号化ユニットの符号化が、プライバシーマスク区域21内に存在する情報に少なくとも部分的に基づく場合、起きる可能性がある。
図6におけるプライバシーマスクの拡張は、かなり極端に見える可能性があるが、符号化ユニット22は概略であることに留意されたい。図面を明確にするため、ピクセルおよび符号化ユニットは、サイズが誇張されている。例えば、1920×1080ピクセルの画像フレームが16×16ピクセルの符号化ユニットに分割されるとした場合、120×68の符号化ユニットが存在することになり、それらの符号化ユニットのすべてを示すことは、乱雑な図面をもたらす。
画像20を拡張されたプライバシーマスク24で符号化するために、画像20における各符号化ユニット22に関して量子化パラメータが決定される。いくつかのアプリケーションにおいて、画像全体に関して1つの量子化パラメータを設定することしか可能でなく、そのため、各符号化ユニット22に同一の量子化パラメータを与えることがあり得る。量子化パラメータは、ユーザ入力によって設定されてよく、またはそうではなく、例えば、ビデオシーケンスにおける画像における動きに基づいて決定されてよい。しかし、多くの事例において、個々の符号化ユニットにさえ至るまで、画像の異なる部分に関して異なる量子化パラメータを設定できることが有利である。いくつかの符号化スキームにおいて、画像データが、画像の残りの部分と比べて、より少なく圧縮されるべき、ROIという頭字語でしばしば呼ばれる、関心対象の1つまたは複数の領域を設定することが可能である。例として図1に示されるシーン1の場合、ユーザは、家3の前の区域において家3を覆うROIを設定してよい。また、関心を引かない領域を設定することが可能であってもよい。例えば、ユーザは、家3の上の空に関心がない可能性があり、したがって、空を示す画像の区域が、画像の残りの部分と比べて、より多く圧縮されるべきことを決定してよい。
また、そのようなROIベースの符号化方法をさらに改良して、ROIが動的であるようにする取組みも行われてきた。1つのそのような方法が、参照により本明細書に組み込まれている、本出願人の欧州特許出願第3,021,583号明細書において開示される。この方法によれば、画像の関係のある区域および関係のない区域が、画像におけるピクセルのブロック統計を調査することによって決定される。ピクセルの各グループに関するグループ値を形成する画像における隣接ピクセルの各グループに関する空間統計測定値が決定される。グループ値は、互いに比較され、1つのグループのグループ値が隣接グループとは十分に異なる場合、そのグループは、画像の関係のある区域に入っていると決定される。そのような動的ROIの場合、関心を引く詳細が存在する画像の区域において良好な画像品質を得ること、および関心対象の詳細を包含しない画像の区域に対してより少ないビットを費やすことが可能である。例えば、監視状況において、人間の顔は、関係があると見なされ得るのに対して、芝生の小さい詳細は、関係がないと見なされ得る。グループ値が計算される隣接ピクセルのグループは、符号化ユニット22と同一であってもよく、同一でなくてもよい。例えば、画像の関係のある区域および関係のない区域を識別するために使用されるピクセルのグループは、符号化ユニット22より大きく、例えば、32×32ピクセルのグループが、それぞれが16×16ピクセルから構成された4つの符号化ユニットを含むようになっていてよい。量子化パラメータが、画像の関係のある区域および関係のない区域の識別に基づいて隣接ピクセルのグループに関して決定される場合、その量子化パラメータは、隣接ピクセルのそのグループにおけるすべての符号化ユニットに適用される。
利用可能な帯域幅および/またはストレージを有効に利用するために、方法の別形によれば、量子化パラメータは、拡張されたプライバシーマスク24の外部の画像20の部分に関して、拡張されたプライバシーマスク24の内部の画像20の部分とは異なるように設定され得る。より詳細には、量子化パラメータは、識別された符号化ユニット23に関して、高い圧縮を暗示し、故に、復号された画像フレームの低い画像品質を暗示する、高い設定にされてよい。プライバシーマスクによって覆われるべき画像の部分において多くの詳細が存在する可能性は高く、量子化パラメータが決定される方法に依存して、このことは、画像のその部分に関して、復号された画像フレームの低い圧縮および高い画像品質を暗示する、低い量子化パラメータにつながり得る。しかし、ひとたびプライバシーマスクが画像に適用されると、プライバシーマスクによって覆われた区域において高い画像品質を有することは、プライバシーマスクだけしか見るものがなく、関係のある画像データは存在しないので、無意味である。識別された符号化ユニット23、すなわち、拡張されたプライバシーマスク24によって覆われた符号化ユニットに関して低い画像品質を表す量子化パラメータを設定することによって、ビットが節約されることが可能であり、画像20の他の部分において、ビデオシーケンスにおける他の画像において、または同一の監視システムにおける他のカメラからの画像においてより有効に利用され得る。例えば、0が最も軽い圧縮を暗示し、51が最も重い圧縮を暗示する、0〜51の量子化パラメータが設定されることが可能なコーデックにおいて、51という量子化パラメータが、識別された符号化ユニット23に関して設定されてよい。
同様に、識別された符号化ユニットにおけるピクセルは、所定の符号化ユニットサイズの符号化ユニットにグループ化されてよく、または再グループ化されてよい。例として、コーデックが、8×8ピクセルから64×64ピクセルまでの範囲内の符号化ユニットサイズ、またはマクロブロックサイズ、またはコーディングツリーユニットサイズを使用してよい。64×64ピクセルという所定の符号化ユニットサイズは、この場合、識別された符号化ユニット23におけるピクセル、すなわち、拡張されたプライバシーマスク24によって覆われるピクセルに関して使用され得る。
プライバシーマスクは符号器によって適用されるため、符号化ユニットがプライバシーマスクと揃えられることが元々行われている従来技術のプライバシーマスキング方法が存在することがここで注目され得る。そのような方法において、プライバシーマスクは、マスクされるべき区域を重度に圧縮することによって適用される。その結果、情報がプライバシーマスク区域において、見る人に対して画像データが十分に遮られるような高い程度に失われる。そのような方法は、符号器がどのように実施されるかに完全に依存し、したがって、プライバシーマスクの見え方を制御することが可能でない。また、同一の意図されるプライバシーマスクが、異なる符号器において異なるように適用されることにもなり、このことは、画像フレームの同一のビデオシーケンスが異なる符号器に同時に送信されるべき場合、望ましくないことがあり得る。セキュリティに関して、そのような方法は、すべての画像データが、マスクされるべき区域においても、符号器に実際に供給されるので、より信頼性が低いこともあり得る。したがって、プライバシーマスクの下から情報を抽出することが可能であり得る。
図7〜図9において、プライバシーマスク21は、黒の長方形であるに過ぎない。前述したとおり、プライバシーマスクは、図6a〜図6cに示されるようなピクセル化の形態であってもよい。ピクセル化されたプライバシーマスクの場合、前述した方法は、さらに発展させられ得る。前の場合と同様に、初期のプライバシーマスク21が、初期のプライバシーマスク21によって少なくとも部分的に覆われる識別された符号化ユニット23と揃えられるように拡張されて、その結果、拡張されたプライバシーマスク24を形成する。拡張されたプライバシーマスク区域24内で、画像のピクセルは、ピクセル化グループ31、32のサイズに対応するようにグループ化されてよく、または再グループ化されてよい。例えば、画像20が16×16ピクセルの符号化ユニットに初期にグループ化され、かつピクセル化グループに関して設定されたサイズが32×32ピクセルであるものと想定すると、ピクセルグループサイズに不適合が存在することが理解され得る。したがって、拡張されたプライバシーマスク区域24内で、符号化ユニットは、ピクセル化グループ31、32と同一のサイズの符号化ユニット22にグループ化されて、各ピクセル化グループ31、32が1つの符号化ユニット22に対応するようにされ得る。これにより、符号化ユニットとピクセル化グループの不揃いによって生じる気に障る視覚的アーチファクトが回避され得る。また、符号化ユニットとピクセル化グループをそのように揃えることは、プライバシーマスクを実際に拡張することなしに行われることも可能である。しかし、そのようにすると、量子化パラメータがどのように決定されるかに依存して、部分的に覆われた符号化ユニットの目に見える部分を介したプライバシーマスクの下からの情報の漏れが依然として存在する可能性がある。
次に、前述した方法が、本発明の方法の別形の流れ図である図10を参照して、より簡単に要約される。
画像におけるピクセルを表す情報が受信される(ステップS1)。それらのピクセルが、隣接ピクセルの符号化ユニットにグループ化される(S2)。また、画像に適用されるべきプライバシーマスクを表す情報も受信される(S3)。プライバシーマスクによって少なくとも部分的に覆われる、すなわち、少なくとも部分的にプライバシーマスク区域内にある画像における符号化ユニットが識別される(S4)。プライバシーマスクが、識別された符号化ユニットを覆うように拡張されて、プライバシーマスクが拡張されたプライバシーマスク区域を覆うようになる(S5)。画像における各符号化ユニットに関して、量子化パラメータが決定される(S6)。拡張されたプライバシーマスクが画像に適用され(S7)、画像が、決定された量子化パラメータを使用してプライバシーマスクを有して符号化される(S8)。次に、同一の手順が、ビデオシーケンスにおける後続の画像に関して使用され得る。
図11は、前述した方法により動作させられ得る符号化システム40の簡略化されたブロック図である。符号化システム40は、符号化すべき画像におけるピクセルを表す情報を受信するように構成された受信モジュール41を備える。前段で述べたとおり、この情報は、例えば、輝度、光度、および色値に関するデータのうちの少なくとも1つであり得る。また、受信モジュールは、ピクセルを隣接ピクセルのグループの符号化ユニットにグループ化するようにも構成される。また、符号化ユニットは、マクロブロックまたはピクセルブロックと呼ばれることもあり得る。
また、符号化システム40は、プライバシーマスクが画像に適用されるべきプライバシーマスク区域を表す情報を受信するためのプライバシーマスク入力モジュール42も有する。複数のプライバシーマスクが同一の画像に適用されてよいこと、およびそれらのプライバシーマスクは、タイプ、形状、およびサイズが同一のものであっても、異なるものであってもよいことに留意されたい。例えば、1つのプライバシーマスクは、黒の長方形であってよく、別のプライバシーマスクは、ピクセル化された正方形であってよい。プライバシーマスク情報は、ユーザが監視されるシーンの表示された画像上にボックスを描くことによってなど、任意の適切な様態で入力されてよい。また、背景技術のセクションにおいて検討されたとおり、プライバシーマスク情報は、例えば、ユーザによって設定された条件が満たされたかどうかを判定するために使用され得る顔検出器、被写体検出器、または動き検出器に由来してもよい。
さらに、符号化システム40は、プライバシーマスク区域内に少なくとも部分的に位置するすべての符号化ユニットを識別するため、および識別された符号化ユニットと揃えられるようにプライバシーマスク区域を拡張するための適応モジュール43を有する。このようにして、適応モジュールは、プライバシーマスクによって部分的に覆われながら、見る人に部分的にアクセス可能である符号化ユニットが存在しないことを確実にし得る。
圧縮決定モジュール44が、各符号化ユニットに関するそれぞれの量子化パラメータを決定するために符号化システム40に備えられる。この決定は、様々な知られている、または発明される可能性がある様態のうちの1つで実行され得る。
また、符号化システム40は、拡張されたプライバシーマスク区域においてプライバシーマスクを適用するように構成されたプライバシーマスク適用アプリケーションモジュール45も備える。
さらに、符号化システム40は、決定された量子化パラメータを使用して適用されたプライバシーマスクを有する画像の実際の符号化を実行するための符号器モジュール46を有する。このため、符号化システム40は、拡張されたプライバシーマスクを有する画像を符号化して、プライバシーマスクの下からの情報の漏れが回避され得るようにし、かつ視覚的アーチファクトが低減され得るようにすることができる。
前述した方法の別形に沿って、圧縮決定モジュール44は、欧州特許出願第3,021,583号明細書において開示される方法などの、動的ROI方法により動作してよい。
図12において、カメラ2のブロック図が示される。カメラ2は、それ自体、一般に知られるとおり、光学部品51と、画像センサ52とを備える。また、カメラ2は、前述した符号化システム40、および画像処理パイプラインと呼ばれることもあり得る画像処理モジュール53も含む。画像処理モジュールは、例えば、モザイク解除、ノイズフィルタリング、鮮明化、およびトーンマッピングなどの処理を実行し得る。当業者には認識されるとおり、カメラは、さらなる構成要素を有するが、それらの構成要素は、本発明の理解のために必要ではないので、それらの構成要素は、図12には示されず、さらに検討されることはない。
当業者は、多くの様態で前述した実施形態を変形することができ、それでも、前述した実施形態に示される本発明の利点を使用することができることが認められよう。例として、量子化パラメータは、任意の所望される様態で決定されてよい。量子化パラメータは、画像全体に関して統計的に設定されてよく、または量子化パラメータは、画像解析もしくは画像統計に基づくなど、より技巧を凝らした様態で決定されてよい。
プライバシーマスクは、異なる形態をとってよく、かつ、例えば、長方形または他の形状の黒の、またはそれ以外の着色された区域であってよい。それらの区域は、前段でさらに詳細に検討したとおり、ピクセル化されてよく、またはそれらの区域は、各ピクセルのピクセル値を当該のピクセルの近隣におけるピクセル値の平均で置き換えること、すなわち、かなり強力な(heavy−handed)ノイズフィルタを適用することによってぼかされるもしくは不鮮明にされてよい。ピクセル化と不鮮明化の両方が、ときとして、ぼかしと呼ばれる。
画像の異なる符号化ユニットがどのように符号化されるかに依存して、符号化された画像、および復号された画像は、ブロック様に見えることがあり得る。例えば、1つの符号化ユニットもしくはマクロブロックがフレーム内モード(intra mode)で(Iブロックとして)コーディングされ、かつ隣接する符号化ユニットもしくはマクロブロックがフレーム間モード(inter mode)で(PブロックもしくはBブロックとして)符号化される場合、それらの符号化ユニットもしくはマクロブロックの間の境界は、目立つことがあり得る。したがって、多くの符号器は、符号化ユニット間の境界を越えて差を平滑化することが可能なブロック解除フィルタを適用する。このことは、その境界の両側のいくつかのピクセル値の平均を形成すること、およびその境界近くのピクセルの値を平均値で置き換えることによって行われ得る。プライバシーマスクの下から画像データが漏れ出すことがあり得ないことをさらに確実にするため、そのようなブロック解除フィルタは、マスクされた符号化ユニット、すなわち、識別された符号化ユニット23に関してオフにされ得る。
方法のステップが前段で説明されてきた順序は、重要ではないことに留意されたい。例えば、量子化パラメータは、プライバシーマスクに関係なく、画像におけるすべての符号化ユニットに関してまず設定されてよく、その後、それらの量子化パラメータが、識別された符号化ユニットにおいて無効にされてよい。また、プライバシーマスクによって覆われることになる符号化ユニットをまず識別して、それらの符号化ユニットに関して低品質量子化パラメータを設定し、その後、拡張されたプライバシーマスク区域の外部の符号化ユニットに関して量子化パラメータを決定することも可能である。同様に、画像のピクセルがまずすべて、符号化ユニットにグループ化され、その後、拡張されたプライバシーマスク区域において再グループ化されてよく、または画像のピクセルは、拡張されたプライバシーマスク区域内で1つの様態でグループ化され、かつ拡張されたプライバシーマスク区域の外部で別の様態でグループ化されてよい。
符号化は、量子化パラメータおよび/または符号化ユニットサイズを設定することが可能である限り、任意の所望されるコーデックを使用して、任意の所望される方法により実行され得る。H.264、H.265、MPEG−4 Part2、またはVP9コーデックなどのブロックベースのハイブリッドコーデックが、符号化のために使用され得る。その最も一般的な形態において、本発明は、任意の符号化方法を用いて、量子化パラメータおよび/または符号化ユニットサイズに関して柔軟性のない符号化方法を用いてさえ、実際に使用され得る。
図12に関連して説明されるとおり、符号化システムは、カメラに組み込まれてよい。しかし、符号化システムを別個に構成して、符号化システムをカメラに動作可能に接続することも可能である。また、カメラから画像を、例えば、プライバシーマスクなしに管理センタに伝送し、管理センタにおいて、例えば、VMS(ビデオマネジメントシステム)において、プライバシーマスクを適用することも可能である。そのような事例において、符号化システムは、VMSにおいて、またはそれ以外で管理センタにおいて構成されて、符号化された画像がカメラから受信され、復号され、その後、再符号化されるが、今度は、プライバシーマスクを有してそのようにされる、いわゆるトランスコーディングのために使用されてよい。このことは、異なるアクセス権が、それらの画像の異なるユーザに適用される場合、関心対象であり得る。例えば、ビデオシーケンスを、警察による後の法科学用途のためにプライバシーマスクなしで記録することが望ましいことがあり得るが、ライブの伝送を観る警備員は、マスクされない画像を観ることを許されなくてよい。
方法は、コンピュータ可読記憶媒体上に記憶された命令を実行することによって遂行され得る。それらの命令は、任意の種類のプロセッサ、例えば、中央処理装置(CPU)、グラフィックスプロセシングユニット(GPU)、集積回路に実装された特別仕様の処理デバイス、ASIC、FPGA、あるいはディスクリートの構成要素を含むロジック回路によって実行され得る。
符号化システムは、ソフトウェア、ファームウェア、ハードウェア、または以上の任意の組合せとして実現され得る。
カメラは、可視光カメラ、IRカメラ、またはサーマルカメラなどの任意の種類のカメラであってよい。
このため、本発明は、示される実施形態に限定されるべきではなく、添付の特許請求の範囲によってのみ規定されるべきである。
1 シーン
2 カメラ
3 家
4 窓
5 出入口
6 自動車
7 第1の個人
8 第2の個人
10 画像
11 ピクセル
12 符号化ユニット
20 画像
21 プライバシーマスク、プライバシーマスク区域
22 符号化ユニット
23 識別された符号化ユニット
24 拡張されたプライバシーマスク、拡張されたプライバシーマスク区域
30 画像
31 ピクセル化グループ
32 ピクセル化グループ
40 符号化システム
41 受信モジュール
42 プライバシーマスク入力モジュール
43 適応モジュール
44 圧縮決定モジュール
45 プライバシーマスク適用アプリケーションモジュール
46 符号器モジュール
51 光学部品
52 画像センサ
53 画像処理モジュール

Claims (15)

  1. プライバシーマスクを備えるデジタル画像を符号化する方法であって、
    前記デジタル画像におけるピクセルを表す情報を受信することと、
    前記画像の前記ピクセルを隣接ピクセルのグループの符号化ユニットにグループ化することと、
    プライバシーマスクが前記画像に適用されるべきプライバシーマスク区域を表す情報を受信することと、
    前記プライバシーマスク区域内に少なくとも部分的に位置するすべての符号化ユニットを識別することと、
    前記識別された符号化ユニットと揃えられるように前記プライバシーマスク区域を拡張することと、
    各符号化ユニットに関して、前記画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定することと、
    前記画像の拡張されたプライバシーマスク区域において前記プライバシーマスクを適用することと、
    前記決定された量子化パラメータを使用して前記適用されたプライバシーマスクを有する前記画像を符号化することとを備える、方法。
  2. 前記識別された符号化ユニットを符号化するために所定の符号化パラメータが使用され、前記所定の符号化パラメータは、所定の符号化ユニットサイズと所定の量子化パラメータのうちの少なくとも1つである、請求項1に記載の方法。
  3. 前記画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定することは、前記識別された符号化ユニットの前記量子化パラメータを所定の低減された品質の量子化パラメータに設定することを備える、請求項1または2に記載の方法。
  4. 前記プライバシーマスクは、前記プライバシーマスク区域内のピクセルが隣接ピクセルのピクセル化グループにグループ化されるピクセル化を備え、それぞれのピクセル化グループの各ピクセルのピクセル値は、前記それぞれのピクセル化グループを表す共通のピクセル値に設定され、前記方法がさらに、
    前記プライバシーマスク区域内の前記画像の前記ピクセルを、前記ピクセル化グループに対応する符号化ユニットにグループ化することを備える、請求項1から3のいずれか一項に記載の方法。
  5. 前記画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定することは、
    前記画像における関係のある区域の識別に基づいて各符号化ユニットに関する量子化パラメータを設定して、関係のある区域における符号化ユニットに第1の量子化パラメータが与えられ、かつ関係のない区域における符号化ユニットに第2の量子化パラメータが与えられるようにすることを備え、前記第1の量子化パラメータは、前記第2の量子化パラメータと比べて、より高い画像品質を与える圧縮を表す、請求項1から4のいずれか一項に記載の方法。
  6. 前記画像を符号化するために使用されるべきそれぞれの量子化パラメータを決定することは、
    各符号化ユニットに関するグループ値を形成する各符号化ユニットに関する前記ピクセルを表す前記情報の空間統計測定値を計算することと、
    グループ値の間の差を計算することと、
    前記差を閾値と比較することと、
    前記差が前記閾値以上である場合、前記符号化ユニットが前記画像の関係のある区域内にあると識別することと、
    前記差が前記閾値未満である場合、前記符号化ユニットが前記画像の関係のない区域内にあると識別することとを備える、請求項5に記載の方法。
  7. 前記空間統計測定値は、前記情報の合計、平均値、中央値、四分位範囲、標準偏差、分散、歪度、および尖度から成るグループからの少なくとも1つである、請求項6に記載の方法。
  8. 各符号化ユニットは、少なくとも256ピクセルを含む、請求項6または7に記載の方法。
  9. 前記画像における前記ピクセルを表す前記情報は、輝度、光度、および色値に関するデータから成るグループからの少なくとも1つである、請求項1から8のいずれか一項に記載の方法。
  10. プライバシーマスクを備えるデジタル画像を符号化するためのデジタル画像符号化システムであって、
    前記デジタル画像におけるピクセルを表す情報を受信し、前記画像の前記ピクセルを隣接ピクセルのグループの符号化ユニットにグループ化するように構成された受信モジュールと、
    プライバシーマスクが前記画像に適用されるべきプライバシーマスク区域を表す情報を受信するように構成されたプライバシーマスク入力モジュールと、
    前記プライバシーマスク区域内に少なくとも部分的に位置するすべての符号化ユニットを識別し、前記識別された符号化ユニットと揃えられるように前記プライバシーマスク区域を拡張するように構成された適応モジュールと、
    前記画像を符号化するために使用されるべき各符号化ユニットに関するそれぞれの量子化パラメータを決定するように構成された圧縮決定モジュールと、
    前記画像の前記拡張されたプライバシーマスク区域において前記プライバシーマスクを適用するように構成されたプライバシーマスク適用モジュールと、
    前記決定された量子化パラメータを使用して前記適用されたプライバシーマスクを有する前記画像を符号化するように構成された符号器モジュールとを備える、デジタル画像符号化システム。
  11. 前記プライバシーマスク入力モジュールは、前記プライバシーマスク区域内のピクセルが隣接ピクセルのピクセル化グループにグループ化されるピクセル化に関する情報を受信するように構成され、
    前記受信モジュールは、前記プライバシーマスク区域内の前記画像の前記ピクセルを前記ピクセル化グループに対応する符号化ユニットにグループ化するように構成され、かつ
    前記プライバシーマスク適用モジュールは、それぞれのピクセル化グループの各ピクセルのピクセル値を前記それぞれのピクセル化グループを表す共通のピクセル値に設定するように構成される、請求項10に記載の符号化システム。
  12. 前記圧縮決定モジュールは、関係のある区域における符号化ユニットに第1の量子化パラメータが与えられ、かつ関係のない区域における符号化ユニットに第2の量子化パラメータが与えられるように、前記画像における関係のある区域の識別に基づいて各符号化ユニットに関する量子化パラメータを設定するように構成され、前記第1の量子化パラメータは、前記第2の量子化パラメータと比べて、より高い画像品質を与える圧縮を表す、請求項10または11に記載の符号化システム。
  13. 前記圧縮決定モジュールは、
    各符号化ユニットに関するグループ値を形成する各符号化ユニットに関する前記ピクセルを表す前記情報の空間統計測定値を計算し、
    グループ値の間の差を計算し、
    前記差を閾値と比較し、
    前記差が前記閾値以上である場合、前記符号化ユニットが前記画像の関係のある区域内にあると識別し、および
    前記差が前記閾値未満である場合、前記符号化ユニットが前記画像の関係のない区域内にあると識別するように構成される、請求項12に記載の符号化システム。
  14. 請求項10から13のいずれか一項に記載のデジタル符号化システムを備えるカメラ。
  15. プロセッサによって実行された場合、請求項1から9のいずれか一項に記載の方法を遂行するように適応させられた命令を有するコンピュータ可読記憶媒体を備えるコンピュータプログラム製品。
JP2017241499A 2016-12-20 2017-12-18 プライバシーマスクを含む画像を符号化する方法 Active JP6871149B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP16205465.4A EP3340623B1 (en) 2016-12-20 2016-12-20 Method of encoding an image including a privacy mask
EP16205465.4 2016-12-20

Publications (3)

Publication Number Publication Date
JP2018142950A true JP2018142950A (ja) 2018-09-13
JP2018142950A5 JP2018142950A5 (ja) 2020-08-13
JP6871149B2 JP6871149B2 (ja) 2021-05-12

Family

ID=57755001

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017241499A Active JP6871149B2 (ja) 2016-12-20 2017-12-18 プライバシーマスクを含む画像を符号化する方法

Country Status (6)

Country Link
US (1) US10636263B2 (ja)
EP (1) EP3340623B1 (ja)
JP (1) JP6871149B2 (ja)
KR (1) KR102188002B1 (ja)
CN (1) CN108206951B (ja)
TW (1) TWI804478B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020120370A (ja) * 2018-12-20 2020-08-06 アクシス アーベー オブジェクトのプライバシが保護されるイメージフレームのシーケンスをエンコーディング及びデコーディングする方法及びデバイス

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3340624B1 (en) * 2016-12-20 2019-07-03 Axis AB Encoding a privacy masked image
GB2560393B (en) * 2017-07-31 2019-01-30 Matthew Russell Iain Unmanned aerial vehicles
EP3640903B1 (en) * 2018-10-18 2023-12-27 IDEMIA Identity & Security Germany AG Signal dependent video surveillance
KR102544626B1 (ko) * 2019-01-23 2023-06-19 한국전자통신연구원 마스킹 영역 처리 시스템 및 방법
CN110096955A (zh) * 2019-03-21 2019-08-06 北京迈格威科技有限公司 监控方法、装置、系统和存储介质
EP3796654A1 (en) * 2019-09-20 2021-03-24 Axis AB Privacy masks where intra coefficients are set to zero
US11577084B2 (en) * 2020-04-08 2023-02-14 Pacesetter, Inc. Method and device for managing biological activity data storage utilizing lossy compression
CN111783803B (zh) * 2020-08-14 2022-06-28 支付宝(杭州)信息技术有限公司 实现隐私保护的图像处理方法及装置
US11899805B2 (en) * 2020-09-11 2024-02-13 IDEMIA National Security Solutions LLC Limiting video surveillance collection to authorized uses
FR3114418A1 (fr) * 2020-09-18 2022-03-25 Data Smart Process Masquage dynamique de zones privatives dans une caméra PTZ.
CN112468823A (zh) * 2020-11-10 2021-03-09 浙江大华技术股份有限公司 一种基于模拟录像装置的隐私遮挡方法、装置和存储介质
EP4009634A1 (en) * 2020-12-07 2022-06-08 Axis AB A device and a method of encoding images including a privacy filter
CN114727108A (zh) * 2021-01-04 2022-07-08 北京金山云网络技术有限公司 量化因子调整方法、装置、电子设备及存储介质
EP4192006A1 (en) * 2021-12-03 2023-06-07 Axis AB A method for controlling a bitrate of a video stream captured with an image acquisition device
CN114584787A (zh) * 2022-05-05 2022-06-03 浙江智慧视频安防创新中心有限公司 一种基于数字视网膜敏感视频内容隐藏的编码方法与装置
CN115081467B (zh) * 2022-07-22 2023-02-03 深圳市成为信息股份有限公司 一种手持机采集原始图像的方法、手持机及存储介质
CN115718445B (zh) * 2022-11-15 2023-09-01 杭州将古文化发展有限公司 适用于博物馆的智能物联网管理系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005295379A (ja) * 2004-04-02 2005-10-20 Sony Corp 画像符号化方法,撮像装置およびコンピュータプログラム
JP2010232754A (ja) * 2009-03-26 2010-10-14 Sony Corp データマスク装置およびマスクデータ復元システム
JP2012090157A (ja) * 2010-10-21 2012-05-10 Canon Inc 表示制御装置、表示制御方法
JP2013229666A (ja) * 2012-04-24 2013-11-07 Toshiba Corp 異常点検装置および遠隔監視点検システム
JP2014207541A (ja) * 2013-04-12 2014-10-30 パナソニック株式会社 通信システム、画像生成方法、及び通信装置
JP2016111695A (ja) * 2014-11-14 2016-06-20 アクシス アーベー デジタル画像の関連領域を特定する方法、デジタル画像の符号化方法、及び符号化システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2244898C (en) * 1996-01-29 2005-06-14 Matsushita Electric Industrial Co., Ltd. Method for supplementing digital image with picture element, and digital image encoder and decoder using the same
JP2005229188A (ja) * 2004-02-10 2005-08-25 Matsushita Electric Ind Co Ltd 映像通信装置および映像通信方法
WO2006070249A1 (en) 2004-12-27 2006-07-06 Emitall Surveillance S.A. Efficient scrambling of regions of interest in an image or video to preserve privacy
KR101113844B1 (ko) 2005-03-08 2012-02-29 삼성테크윈 주식회사 감시카메라 및 감시카메라의 프라이버시 보호방법
EP1867174B1 (en) * 2005-04-04 2016-05-04 Thomson Licensing Method for locally adjusting a quantization step
US8326061B2 (en) * 2008-05-12 2012-12-04 Google Inc. Fast visual degrading of images
FR2932045B1 (fr) 2008-06-03 2010-08-20 Thales Sa Procede et systeme permettant de proteger des la compression la confidentialite des donnees d'un flux video lors de sa transmission
KR101271461B1 (ko) 2009-10-09 2013-06-05 한국전자통신연구원 감시영상의 프라이버시 정보 보호 장치 및 방법
US9282333B2 (en) * 2011-03-18 2016-03-08 Texas Instruments Incorporated Methods and systems for masking multimedia data
JP6179183B2 (ja) 2013-05-15 2017-08-16 富士通株式会社 情報処理装置、プログラム、及び画像処理方法
CN110769255B (zh) * 2016-06-30 2022-04-22 华为技术有限公司 一种图像编码方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005295379A (ja) * 2004-04-02 2005-10-20 Sony Corp 画像符号化方法,撮像装置およびコンピュータプログラム
JP2010232754A (ja) * 2009-03-26 2010-10-14 Sony Corp データマスク装置およびマスクデータ復元システム
JP2012090157A (ja) * 2010-10-21 2012-05-10 Canon Inc 表示制御装置、表示制御方法
JP2013229666A (ja) * 2012-04-24 2013-11-07 Toshiba Corp 異常点検装置および遠隔監視点検システム
JP2014207541A (ja) * 2013-04-12 2014-10-30 パナソニック株式会社 通信システム、画像生成方法、及び通信装置
JP2016111695A (ja) * 2014-11-14 2016-06-20 アクシス アーベー デジタル画像の関連領域を特定する方法、デジタル画像の符号化方法、及び符号化システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020120370A (ja) * 2018-12-20 2020-08-06 アクシス アーベー オブジェクトのプライバシが保護されるイメージフレームのシーケンスをエンコーディング及びデコーディングする方法及びデバイス

Also Published As

Publication number Publication date
US10636263B2 (en) 2020-04-28
TWI804478B (zh) 2023-06-11
KR102188002B1 (ko) 2020-12-07
CN108206951A (zh) 2018-06-26
KR20180071945A (ko) 2018-06-28
CN108206951B (zh) 2022-04-15
US20180174414A1 (en) 2018-06-21
JP6871149B2 (ja) 2021-05-12
TW201838414A (zh) 2018-10-16
EP3340623B1 (en) 2023-04-12
EP3340623A1 (en) 2018-06-27

Similar Documents

Publication Publication Date Title
JP6871149B2 (ja) プライバシーマスクを含む画像を符号化する方法
TWI766906B (zh) 編碼隱私遮罩影像
US10277901B2 (en) Encoding a video stream having a privacy mask
TWI619376B (zh) 識別數位影像中相關區域之方法、編碼數位影像之方法及編碼器系統
Lin et al. Visual distortion gauge based on discrimination of noticeable contrast changes
JP5638731B1 (ja) 拡張ダイナミックレンジをもつ画像の階層式符号化における適応的な偽輪郭生成防止
US11240510B2 (en) Blurring privacy masks
CN110175967B (zh) 图像去雾处理方法、系统、计算机设备和存储介质
US11544878B2 (en) Method of encoding an image including a privacy mask
US10049436B1 (en) Adaptive denoising for real-time video on mobile devices
Yang et al. Perceptual based SAO rate-distortion optimization method with a simplified JND model for H. 265/HEVC
CN112532982A (zh) 使用跳过块掩码来减小来自监控摄像机的比特率
WO2011134105A1 (en) Method of processing an image
KR20150137891A (ko) 사생활 보호를 위한 마스크 처리 방법 및 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200702

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200702

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200702

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201023

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210415

R150 Certificate of patent or registration of utility model

Ref document number: 6871149

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250