JP6027159B2 - 画像ぼかし方法および機器、および電子装置 - Google Patents

画像ぼかし方法および機器、および電子装置 Download PDF

Info

Publication number
JP6027159B2
JP6027159B2 JP2015037951A JP2015037951A JP6027159B2 JP 6027159 B2 JP6027159 B2 JP 6027159B2 JP 2015037951 A JP2015037951 A JP 2015037951A JP 2015037951 A JP2015037951 A JP 2015037951A JP 6027159 B2 JP6027159 B2 JP 6027159B2
Authority
JP
Japan
Prior art keywords
image
calculation
depth information
background
diffusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015037951A
Other languages
English (en)
Other versions
JP2015177544A (ja
Inventor
シャオウェイ・ヤン
ズクワン・チェン
ジンシェン・シャオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Publication of JP2015177544A publication Critical patent/JP2015177544A/ja
Application granted granted Critical
Publication of JP6027159B2 publication Critical patent/JP6027159B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/571Depth or shape recovery from multiple images from focus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理の分野に関し、特に、画像ぼかしの方法および機器、および電子装置に関する。
一般的な写真撮影手段として、背景ぼかしは対象物を迅速に目立たせることができ、したがって、大多数のアマチュア写真家に周知であり使用されている。しかし、背景ぼかし効果で写真をキャプチャするためには、プロフェッショナルな一眼レフカメラを使用しなければならず、複雑な調節操作を行わないと所望の効果を得ることができない。
プロではない写真家の要求を満たすために、ソフトウェアにより画像を処理することで背景ぼかし効果を得るための既存の方法がある。即ち、画像をキャプチャした後、ユーザが画像処理ソフトウェアを用いて当該画像を開き、当該画像処理ソフトウェアに同梱されているツールを用いて背景領域を手動で選択する。当該画像処理ソフトウェアは、ユーザが選択した背景領域に対して同一スケールまたは勾配スケールでガウスぼかしを実施して、背景ぼかし効果を有する画像を出力する。
本発明を実現する過程において、発明者らは先行技術には少なくとも以下の欠点が存在することを発見した。
既存の画像処理方法では、先ず、ユーザがソフトウェアを用いて画像を開き背景領域を手動で選択する必要があり、さらに、手動で選択した背景領域は不正確であり、操作プロセスは複雑であり、そのため、ぼかし効果が貧弱になり、ユーザの多くの時間が無駄になる。
ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題を解決するために、本発明の諸実施形態では、画像ぼかし方法および機器、および電子装置を提供する。当該技術的解決策は以下の通りである。
第1の態様では画像ぼかし方法を提供する。当該方法は、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するステップであって、第1の画像の画像距離は第2の画像の画像距離より短いステップと、第1の画像と第2の画像に従って深度情報を取得するステップであって、当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用されるステップと、第1の画像の背景領域を当該深度情報に従って決定するステップと、第1の画像の背景領域の内容にぼかし処理を実施するステップとを含む。
第1の態様の第1の可能な実装方式では、第1の画像と第2の画像に従って深度情報を取得するステップは、カメラの写真撮影パラメータを取得するステップであって、当該写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含み、当該関係パラメータはカメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用されるステップと、当該写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って、初期化された深度情報を決定するステップと、当該写真撮影パラメータ、第1の画像、および第2の画像に従って当該初期化された深度情報にN回の反復計算を実施するステップであって、Nは正の整数かつN≧2であるステップと、N番目の反復計算により得られた結果を取得し、当該結果を深度情報として使用するステップとを含む。
第1の態様の第1の可能な実装方式を参照して、第1の態様の第2の可能な実装方式では、写真撮影パラメータ、第1の画像、および第2の画像に従って初期化された深度情報にN回の反復計算を実施するステップは、第1の計算を実施するとき、第1の計算の拡散係数および第1の計算の拡散領域を当該初期化された深度情報および当該写真撮影パラメータに従って決定し、第1の画像、第2の画像、第1の計算の拡散係数、および第1の計算の拡散領域に従って、第1の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、第1の計算で最小値式を決定し、第1の計算での最小値式に従って、第1の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、事前設定補正式に従って、第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、第1の計算の後に深度情報を取得するステップであって、当該最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、第1の差分は、第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、第2の差分は、第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2であるステップと、p番目の計算を実施するとき、(p−1)番目の計算の後に取得した深度情報および写真撮影パラメータに従ってp番目の計算の拡散係数およびp番目の計算の拡散領域を決定し、第1の画像、第2の画像、p番目の計算の拡散係数、およびp番目の計算の拡散領域に従って、p番目の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、p番目の計算で最小値式を決定し、p番目の計算での最小値式に従って、p番目の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、当該事前設定補正式に従って、p番目の計算での最小勾配が当該事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、p番目の計算の後に深度情報を取得するステップであって、2≦p≦Nであるステップとを含む。
第1の態様の第2の可能な実装方式を参照して、第1の態様の第3の可能な実装方式では、当該補正式は、
Figure 0006027159
である。s’(y)は補正後の深度情報であり、s(y)は補正前の深度情報であり、data_regは最小値勾配であり、αおよびkは事前設定された正則化パラメータである。
第1の態様の第4の可能な実装方式では、第1の画像の背景領域を深度情報に従って決定するステップは、写真撮影パラメータに従う前景領域と背景領域の間の臨界深度、および、第1の画像と第2の画像の各画像距離を決定するステップと、第1の画像において、当該深度情報が表す深度が当該臨界深度より大きいという当該深度情報に対応する画素領域は第1の画像の背景領域であると判定するステップとを含む。
第1の態様の第5の可能な実装方式では、第1の画像の背景領域の内容にぼかし処理を実施するステップは、深度情報を正規化して正規化した深度情報を取得するステップと、当該背景領域において、当該正規化した深度情報の区間を均等にq個のセグメントに分割してq個の背景区間を取得するステップと、事前設定最大ぼかし半径に従って、当該q個の背景区間の各々に対応するぼかしパラメータを決定するステップであって、当該ぼかしパラメータはぼかし半径と標準偏差を含むステップと、当該q個の背景区間の各々に対応するぼかし半径と標準偏差に従って、第1の画像において、当該q個の背景区間の各々に対応する画素領域に別々にぼかし処理を実施するステップとを含む。
第2の態様では画像ぼかし機器を提供する。当該機器は、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するように構成された画像取得モジュールであって、第1の画像の画像距離は第2の画像の画像距離より短い画像取得モジュールと、第1の画像と第2の画像に従って深度情報を取得するように構成された深度情報取得モジュールであって、当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される深度情報取得モジュールと、第1の画像の背景領域を当該深度情報に従って決定するように構成された背景決定モジュールと、第1の画像の背景領域の内容にぼかし処理を実施するように構成されたぼかしモジュールとを備える。
第2の態様の第1の可能な実装方式では、深度情報取得モジュールは、カメラの写真撮影パラメータを取得するように構成された第1の取得ユニットであって、当該写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含み、当該関係パラメータはカメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用される第1の取得ユニットと、当該写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って、初期化された深度情報を決定するように構成された初期化ユニットと、当該写真撮影パラメータ、第1の画像、および第2の画像に従って、当該初期化された深度情報にN回の反復計算を実施するように構成された計算ユニットであって、Nは正の整数かつN≧2である計算ユニットと、N番目の反復計算により得られた結果を取得し当該結果を深度情報として使用するように構成された第2の取得ユニットとを備える。
第2の態様の第1の可能な実装方式を参照して、第2の態様の第2の可能な実装方式では、計算ユニットは、第1の計算を実施するとき、第1の計算の拡散係数と第1の計算の拡散領域を初期化された深度情報と写真撮影パラメータに従って決定し、第1の画像、第2の画像、第1の計算の拡散係数、および第1の計算の拡散領域に従って、第1の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を計算し、第1の計算で最小値式を決定し、第1の計算での最小値式に従って、第1の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、事前設定補正式に従って、第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、第1の計算の後に深度情報を取得するように構成される。当該最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、第1の差分は、第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、第2の差分は、第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2である。当該計算ユニットは、p番目の計算を実施するとき、p番目の計算の拡散係数とp番目の計算の拡散領域を(p−1)番目の計算の後に取得した深度情報と写真撮影パラメータに従って決定し、第1の画像、第2の画像、p番目の計算の拡散係数、およびp番目の計算の拡散領域に従って、p番目の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、p番目の計算での最小値式を決定し、p番目の計算での最小値式に従って、p番目の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、当該事前設定補正式に従って、p番目の計算での最小勾配が当該事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、p番目の計算の後の深度情報を取得するように構成される。2≦p≦Nである。
第2の態様の第3の可能な実装方式では、背景決定モジュールは、写真撮影パラメータに従う前景領域と背景領域の間の臨界深度と第1の画像と第2の画像の各画像距離を決定するように構成された臨界深度決定ユニットと、第1の画像において、当該深度情報が表す深度が当該臨界深度より大きいという当該深度情報に対応する画素領域は第1の画像の背景領域であると判定するように構成された背景決定ユニットとを備える。
第2の態様の第4の可能な実装方式では、ぼかしモジュールは、深度情報を正規化して正規化した深度情報を取得するように構成された正規化ユニットと、背景領域において、当該正規化した深度情報の区間をq個のセグメントに均等に分割してq個の背景区間を取得するように構成された分割ユニットと、事前設定最大ぼかし半径に従って、当該q個の背景区間の各々に対応するぼかしパラメータを決定するように構成されたパラメータ決定ユニットであって、当該ぼかしパラメータはぼかし半径と標準偏差を含むパラメータ決定ユニットと、当該q個の背景区間の各々に対応するぼかし半径と標準偏差に従って、第1の画像において、当該q個の背景区間の各々に対応する画素領域に別々にぼかし処理を実施するように構成されたぼかしユニットとを備える。
第3の態様では電子装置を提供する。当該電子装置は、第2の態様または第2の態様の可能な実装方式の何れかに従う画像ぼかし機器を備える。
本発明の諸実施形態で提供する技術的解決策がもたらす有利な効果は以下の通りである。即ち、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
本発明の諸実施形態における技術的解決策をより明確に説明するために、以下では、当該諸実施形態を説明するのに必要な添付図面を簡単に説明する。明らかに、以下の説明における添付図面は本発明の諸実施形態の一部を示すにすぎず、当業者は創造的作業なしにこれらの添付図面から他の図面を導出することができる。
本発明の1実施形態に従う画像ぼかし方法の流れ図である。 本発明の別の実施形態に従う画像ぼかし方法の流れ図である。 本発明の1実施形態に従う画像ぼかし機器の機器構造図である。 本発明の別の実施形態に従う画像ぼかし機器の機器構造図である。 本発明の1実施形態に従う電子装置の装置構成図である。 本発明の別の実施形態に従う電子装置の装置構成図である。 本発明のさらに別の実施形態に従う電子装置の装置構成図である。
本発明の目的、技術的解決策、および利点をより明確にするために、以下では添付図面を参照して本発明の諸実施形態を詳細に説明する。
図1を参照する。図1は、本発明の1実施形態に従う画像ぼかし方法の流れ図を示す。当該画像ぼかし方法は、画像に背景ぼかしを実施する電子装置で使用される。当該電子装置が、携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。当該画像ぼかし方法は以下を含んでもよい。
ステップ102で、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得する。第1の画像の画像距離は第2の画像の画像距離より短い。ステップ104で、第1の画像と第2の画像に従って深度情報を取得する。当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される。ステップ106で、第1の画像の背景領域を当該深度情報に従って決定する。ステップ108で、第1の画像の背景領域の内容にぼかし処理を実施する。
纏めると、本発明の当該実施形態で提供する画像ぼかし方法によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
図2を参照する。図2は、本発明の別の実施形態に従う画像ぼかし方法の流れ図を示す。当該画像ぼかし方法は画像に背景ぼかしを実施する電子装置で使用される。当該電子装置が、携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。当該電子装置が画像収集ユニットを備える電子装置である例では、当該画像ぼかし方法が以下を含んでもよい。
ステップ202で、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得する。第1の画像の画像距離は第2の画像の画像距離より短い。
当該電子装置は、当該電子装置に備えられた画像収集ユニット(即ち、当該電子装置内のカメラ)を用いて1群の多焦点画像を収集し、当該1群の多焦点画像から、(画像距離が比較的短い)前景にフォーカスした画像と(画像距離が比較的長い)背景にフォーカスした別の画像を取得し、前者の画像を第1の画像として使用し後者の画像を第2の画像として使用してもよい。
ステップ204で、第1の画像および第2の画像の深度情報を第1の画像および第2の画像に従って取得する。
当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される。第1の画像と第2の画像は同一のカメラでキャプチャされた同一グループの多焦点画像から取られるので、第1の画像の各画素のシーンとキャプチャ点の間の距離は第2の画像の各画素のシーンと当該キャプチャ点の間の距離と一貫している。即ち、計算により取得された深度情報は、第1の画像の深度情報だけでなく第2の画像の深度情報でもある。
当該電子装置が、当該電子装置内のカメラの写真撮影パラメータを取得してもよい。当該写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含む。当該関係パラメータはカメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用される。当該電子装置は、当該写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って、初期化された深度情報を決定する。当該電子装置は、当該写真撮影パラメータ、第1の画像、および第2の画像に従って当該初期化された深度情報にN回の反復計算を実施する。Nは正の整数かつN≧2である。当該電子装置は、N番目の反復計算により得られた結果を取得し、当該結果を深度情報として使用する。
第1の計算を実施するとき、当該電子装置は、第1の計算の拡散係数および第1の計算の拡散領域を当該初期化された深度情報および当該写真撮影パラメータに従って決定し、第1の画像、第2の画像、第1の計算の拡散係数、および第1の計算の拡散領域に従って、第1の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、第1の計算で最小値式を決定し、第1の計算での最小値式に従って、第1の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得して、事前設定補正式に従って、第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、第1の計算の後に深度情報を取得する。当該最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、第1の差分は、第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、第2の差分は、第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2である。
p番目の計算を実施するとき、当該電子装置は、p番目の計算の拡散係数とp番目の計算の拡散領域を(p−1)番目の計算の後に取得した深度情報および写真撮影パラメータに従って決定し、第1の画像、第2の画像、p番目の計算の拡散係数、およびp番目の計算の拡散領域に従って、p番目の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、p番目の計算で最小値式を決定し、p番目の計算での最小値式に従って、p番目の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、当該事前設定補正式に従って、p番目の計算での最小勾配が当該事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、p番目の計算の後に深度情報を取得する。2≦p≦Nである。
当該補正式は、
Figure 0006027159
である。s’(y)は補正後の深度情報であり、s(y)は補正前の深度情報であり、data_regは最小勾配であり、αおよびkは事前設定された正則化パラメータである。
カメラがキャプチャしたシーン画像は単に、シーンの光度のエネルギ分布である。当該エネルギ分布を金属板上の熱拡散を用いて説明する。所与の点の温度は強度を表し、熱拡散の理論を用いて多焦点画像化プロセスをモデル化してもよい。
多焦点画像の画像化プロセスを、異方熱拡散の理論を用いてモデル化する。当該理論では、深度情報の抽出を、正則化項およびフィールド深度を有するエネルギ関数の極値問題に変換する。即ち、第1の画像と第2の画像の深度情報は反復により得られる。具体的な計算ステップは以下の通りである。
1)当該電子装置によりキャプチャされた2つの多焦点画像IおよびIを取得し、必要な補正されたカメラ・パラメータを取得する。当該パラメータには、カメラの焦点距離f、当該2つの多焦点画像の画像距離vおよびv、レンズ径D、および関係パラメータγが含まれる。当該電子装置は、焦点距離f、ターゲット距離dおよびd、ならびに開口値Fを画像のファイル・ヘッダから直接読み取ってもよい。次に、式(2.1)に従い、fおよびdおよびdを用いて画像距離vおよびvを得ることができる。レンズ径D=f/Fである。上述のパラメータを画像のファイル・ヘッダから取得できない場合には、デフォルトのパラメータを使用してもよい。即ち、f=12mm、F=2.0であり、dおよびdはそれぞれ0.52mおよび0.85mである。
Figure 0006027159
2)勾配閾値ε、仮想時間Δt、正則化パラメータαおよびk、補正ステップ長β、および反復回数Nを設定する。
3)初期化された深度情報
Figure 0006027159
を取得する。この場合、画像内の各画素の初期深度値はこの値であり、yは画像IまたはIの2次元座標である。
4)深度情報s(y)に従って、以下の式を用いて対応する拡散係数c(y)および拡散領域Ω+およびΩ−を計算する。
Figure 0006027159
5)上述のステップで得たパラメータを用いて当該2つの画像の以下の前方熱拡散式をシミュレートする。
Figure 0006027159
当該式において、I(y)は入力画像Iであり、I(y)は入力画像Iであり、拡散係数
Figure 0006027159
であり、▽は勾配演算子
Figure 0006027159
であり、▽・は発散演算子
Figure 0006027159
である。
6)5)の熱拡散式2.4および2.5を別々に解いて、時間Δtの後の夫々の熱拡散画像u(y、Δt)およびu(y、Δt)を取得し、当該熱拡散画像u(y、Δt)およびu(y、Δt)を使用して以下の熱拡散放物式をシミュレートする。
Figure 0006027159
7)6)の式を解いて、w(y、Δt)およびw(y、Δt)を得、式(2.8)の最小値を得る。
Figure 0006027159
当該式で、
Figure 0006027159
であり、式(2.8)に対して勾配を計算する。
Figure 0006027159
式(2.11)で、
Figure 0006027159
である。上述の式において、H(・)はヘビサイド関数(単位ステップ関数)を表し、δ(・)はディラック関数(単位インパルス関数)を表す。u(y、Δt)およびu(y、Δt)は5)の式を解くことで得られ、w(y、Δt)およびw(y、Δt)は6)の式を解くことによって得られる。c’(s)は熱拡散係数の勾配値であり、以下のように式(2.2)に従う計算により得ることができる。
Figure 0006027159
M(s)の計算式は以下の通りである。
Figure 0006027159
式(2.11)を解くことで得られる結果の最小勾配をdata_regで示す。即ち
Figure 0006027159
であり、次いでdata_regを事前設定勾配閾値と比較する。data_reg≦εである場合は、画素の深度推定は比較的正確であり、補正は必要でない。data_reg>εである場合は、画素の深度推定は不正確であり、深度値補正を実施する必要がある。
8)7)において事前設定時間ステップ長βで補正する必要がある深度値に補正を実施(即ち、深度補正をβ回実施)し、深度マップを更新する。
Figure 0006027159
であると仮定する。Δs(y)はs(y)のラプラス演算子、即ち、二次微分の平方和を表す。7)の計算で得たdata_regに従って、単位ステップ長における補正深度s(y)を得ることができる。
Figure 0006027159
深度値s(y)に対してβ回反復を行い、最終的な補正深度値を得る。
9)各画素で得た補正深度値を初期深度値として使用して、4)に戻り、N回の反復が終了するまで実行を続ける。各画素の最終的に得られた補正深度値は第1の画像および第2の画像の深度情報である。
当該深度情報の上述の計算を促進するために、第1の画像および第2の画像をRGB(赤、緑、青)のモデルからHSI(色相、彩度、強度)のモデルに前もって変換する必要があることに留意されたい。
ステップ206で、第1の画像の背景領域を深度情報に従って決定する。当該電子装置が、前景領域と背景領域の間の臨界深度を、写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って決定し、当該深度情報が表す深度が当該臨界深度より大きいという当該深度情報に対応する第1の画像内の画素領域は第1の画像の背景領域であると判定してもよい。
特に、拡散境界を表す式
Figure 0006027159
を用いることによって、当該電子装置は鮮明度とぼかし度の境界の深度
Figure 0006027159
を得ることができる。
次に、前景と背景を以下の式に示すように当該深度情報に従って直接分割してもよい。
Figure 0006027159
ステップ208で、第1の画像の背景領域を階層化し、当該背景領域の各レイヤのぼかしパラメータを決定する。
特に、当該電子装置が、深度情報を正規化して正規化した深度情報を取得し、当該背景領域において、当該正規化した深度情報の区間をq個のセグメントに均等に分割してq個の背景区間を取得し、事前設定最大ぼかし半径に従って、当該q個の背景区間の各々に対応するぼかしパラメータを決定してもよい。当該ぼかしパラメータはぼかし半径と標準偏差を含む。当該背景について、当該背景に対するガウスぼかしのスケールを決定する。
先ず、取得した深度マップを0から255の範囲に正規化する。
Figure 0006027159
当該正規化した深度情報に従って、qの値が2である例では、ぼかしスケールを3つのセグメントに分割する。
Figure 0006027159
であると仮定する。本発明の当該実施形態では背景領域[u,255]を均等に2つのセグメントに分割する。当該分割は特に以下の通りである。
Figure 0006027159
第1の画像の前景領域(第1の画像はデフォルトで前景領域にフォーカスしている)は不変に保たれ、他の2つのセグメントは背景領域であり、2つの増分的なぼかしスケールが選択される。
本実施形態でスケールを選択するための方法では先ず、最大ぼかし半径jを決定する。jを、シミュレートすべきカメラの開口サイズに従って決定してもよい。一般に、大きい開口サイズは強い背景ぼかし効果を生み出し、mの値は大きい。小さい開口サイズはマイルドな背景ぼかし効果を生み出し、mの値は小さい。
次に、各セグメントのぼかし半径rを、2を基数として選択することによって減少規則に従って決定する。
Figure 0006027159
ガウス関数の離散近似を実際の適用事例で計算するとき、ガウス関数の分布特性によれば、比較的、おおよそ3σの距離を超える画素の重み付けされた値は極度に小さく、したがって、これらの画素の計算を省略してもよい。次に、ガウス標準偏差が
Figure 0006027159
であると判定してもよい。
ステップ210で、当該背景領域の各レイヤのぼかしパラメータに従って当該背景領域の各レイヤに別々にぼかしを実施する。
電子装置が、q個の背景区間の各々に対応するぼかし半径と標準偏差に従って、当該q個の背景区間の各々に対応する第1の画像内の画素領域に別々にぼかし処理を実施してもよい。
ガウス関数の半径と標準偏差を得た後、ガウス・フィルタを用いてぼかし処理を画像に対して実施してもよい。畳込み処理をソース画像とガウス関数に対して実施し、ぼかし画像を得ることができる。
Figure 0006027159
ここで、g[x,y]はぼかし処理を実施する必要があるソース画像であり、f[x,y]は2次元ガウス関数であり、xとyは当該画像の座標であり、mとnはそれぞれ水平ガウスぼかし半径と垂直ガウスぼかし半径であり、本明細書では、値rをmとnに割り当てる。
当該2次元ガウス関数は、
Figure 0006027159
として定義される。この式では、(x,y)はフィルタリングの中央の画素であり、σとσはそれぞれガウス分散の水平方向の標準偏差と垂直方向の標準偏差であり、本明細書では、値σをσとσに割り当てる。Aは正規化されたパラメータであり、
Figure 0006027159
である。
纏めると、本発明の当該実施形態で提供する画像ぼかし方法によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
さらに、本発明の当該実施形態で提供する画像ぼかし方法では、第1の画像の背景領域が深度情報に従って階層化され、様々なぼかしパラメータに従って背景領域の各レイヤにぼかしが実施され、ぼかし効果がさらに高まる。
図3を参照する。図3は、本発明の1実施形態に従う画像ぼかし機器の機器構造図を示す。当該画像ぼかし機器は、画像に背景ぼかしを実施する電子装置内で構成される。当該電子装置が携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。
当該画像ぼかし機器は、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するように構成された画像取得モジュール301であって、第1の画像の画像距離は第2の画像の画像距離より短い画像取得モジュール301と、第1の画像と第2の画像に従って深度情報を取得するように構成された深度情報取得モジュール302であって、当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される深度情報取得モジュール302と、第1の画像の背景領域を当該深度情報に従って決定するように構成された背景決定モジュール303と、第1の画像の背景領域の内容にぼかし処理を実施するように構成されたぼかしモジュール304とを備えてもよい。
纏めると、本発明の当該実施形態で提供する画像ぼかし機器によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
図4を参照する。図4は、本発明の1実施形態に従う画像ぼかし機器の機器構造図を示す。当該画像ぼかし機器は、画像に背景ぼかしを実施する電子装置内で構成される。当該電子装置が携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。
当該画像ぼかし機器は、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するように構成された画像取得モジュール401であって、第1の画像の画像距離は第2の画像の画像距離より短い画像取得モジュール401と、第1の画像と第2の画像に従って深度情報を取得するように構成された深度情報取得モジュール402であって、当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される深度情報取得モジュール402と、第1の画像の背景領域を当該深度情報に従って決定するように構成された背景決定モジュール403と、第1の画像の背景領域の内容にぼかし処理を実施するように構成されたぼかしモジュール404とを備えてもよい。
深度情報取得モジュール402は、カメラの写真撮影パラメータを取得するように構成された第1の取得ユニット402aであって、当該写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含み、当該関係パラメータはカメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用される第1の取得ユニット402aと、当該写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って、初期化された深度情報を決定するように構成された初期化ユニット402bと、
当該写真撮影パラメータ、第1の画像、および第2の画像に従って、当該初期化された深度情報にN回の反復計算を実施するように構成された計算ユニット402cであって、Nは正の整数かつN≧2である計算ユニット402cと、N番目の反復計算により得られた結果を取得し当該結果を深度情報として使用するように構成された第2の取得ユニット402dとを備える。
計算ユニット402cは、第1の計算を実施するとき、第1の計算の拡散係数と第1の計算の拡散領域を、初期化された深度情報と写真撮影パラメータに従って決定し、第1の画像、第2の画像、第1の計算の拡散係数、および第1の計算の拡散領域に従って、第1の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を計算し、第1の計算で最小値式を決定し、第1の計算での最小値式に従って、第1の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、事前設定補正式に従って、第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、第1の計算の後に深度情報を取得するように構成される。当該最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、第1の差分は、第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、第2の差分は、第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2である。
計算ユニット402cは、p番目の計算を実施するとき、p番目の計算の拡散係数とp番目の計算の拡散領域を(p−1)番目の計算の後に取得した深度情報と写真撮影パラメータに従って決定し、第1の画像、第2の画像、p番目の計算の拡散係数、およびp番目の計算の拡散領域に従って、p番目の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、p番目の計算での最小値式を決定し、p番目の計算での最小値式に従って、p番目の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、当該事前設定補正式に従って、p番目の計算での最小勾配が当該事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、p番目の計算の後の深度情報を取得するように構成される。2≦p≦Nである。
背景決定モジュール403は、前景領域と背景領域の間の臨界深度を、写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って決定するように構成された臨界深度決定ユニット403aと、第1の画像において、当該深度情報が表す深度が当該臨界深度より大きいという当該深度情報に対応する画素領域は第1の画像の背景領域であると判定するように構成された背景決定ユニット403bとを備える。
ぼかしモジュール404は、深度情報を正規化して正規化した深度情報を取得するように構成された正規化ユニット404aと、背景領域において、当該正規化した深度情報の区間をq個のセグメントに均等に分割してq個の背景区間を取得するように構成された分割ユニット404bと、事前設定最大ぼかし半径に従って、当該q個の背景区間の各々に対応するぼかしパラメータを決定するように構成されたパラメータ決定ユニット404cであって、当該ぼかしパラメータはぼかし半径と標準偏差を含むパラメータ決定ユニット404cと、当該q個の背景区間の各々に対応するぼかし半径と標準偏差に従って、第1の画像において、当該q個の背景区間の各々に対応する画素領域に別々にぼかし処理を実施するように構成されたぼかしユニット404dとを備える。
纏めると、本発明の当該実施形態で提供する画像ぼかし機器によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
さらに、本発明の当該実施形態で提供する画像ぼかし機器では、第1の画像の背景領域が当該深度情報に従って階層化され、様々なぼかしパラメータに従って背景領域の各レイヤにぼかしが実施され、ぼかし効果がさらに高まる。
図5を参照する。図5は、本発明の1実施形態に従う電子装置の装置構成図を示す。当該電子装置が、携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。当該電子装置は、上述の図3または図4に示す画像収集ユニット001および画像ぼかし機器002を備えてもよい。
纏めると、本発明の当該実施形態で提供した電子装置によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
さらに、本発明の当該実施形態で提供した電子装置では、第1の画像の背景領域が当該深度情報に従って階層化され、様々なぼかしパラメータに従って背景領域の各レイヤにぼかしが実施され、ぼかし効果がさらに高まる。
図6を参照する。図6は、本発明の別の実施形態に従う電子装置の装置構成図を示す。当該電子装置が、携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。当該電子装置は、プロセッサ50と、プロセッサ50により実行可能な命令を格納するように構成されたメモリ60とを備えてもよい。
プロセッサ50は、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するように構成される。第1の画像の画像距離は第2の画像の画像距離より短い。
プロセッサ50は、第1の画像と第2の画像に従って深度情報を取得するように構成される。当該深度情報は、第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される。プロセッサ50は、第1の画像の背景領域を当該深度情報に従って決定するように構成される。プロセッサ50は、第1の画像の背景領域の内容にぼかし処理を実施するように構成される。
纏めると、本発明の当該実施形態で提供した電子装置によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
図7を参照する。図7は、本発明のさらに別の実施形態に従う電子装置の装置構成図を示す。当該電子装置が、携帯電話、デジタル・カメラ、タブレット・コンピュータ等であってもよい。当該電子装置は、プロセッサ70と、プロセッサ70により実行可能な命令を格納するように構成されたメモリ80とを備えてもよい。
プロセッサ70は、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するように構成される。第1の画像の画像距離は第2の画像の画像距離より短い。プロセッサ70は、第1の画像と第2の画像に従って深度情報を取得するように構成される。当該深度情報は第1の画像の各画素のシーンとキャプチャ点の間の距離、および、第2の画像の各画素のシーンと当該キャプチャ点の間の距離を表すために使用される。プロセッサ70は、第1の画像の背景領域を当該深度情報に従って決定するように構成される。 プロセッサ70は、第1の画像の背景領域の内容にぼかし処理を実施するように構成される。
プロセッサ70は、カメラの写真撮影パラメータを取得するように構成される。当該写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含み、当該関係パラメータはカメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用される。プロセッサ70は、当該写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って、初期化された深度情報を決定するように構成される。プロセッサ70は、当該写真撮影パラメータ、第1の画像、および第2の画像に従って、当該初期化された深度情報にN回の反復計算を実施するように構成される。Nは正の整数かつN≧2である。プロセッサ70は、N番目の反復計算により得られた結果を取得し当該結果を深度情報として使用するように構成される。
プロセッサ70は、第1の計算を実施するとき、第1の計算の拡散係数と第1の計算の拡散領域を、初期化された深度情報と写真撮影パラメータに従って決定し、第1の画像、第2の画像、第1の計算の拡散係数、および第1の計算の拡散領域に従って、第1の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を計算し、第1の計算で最小値式を決定し、第1の計算での最小値式に従って、第1の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、事前設定補正式に従って、第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、第1の計算の後に深度情報を取得するように構成される。当該最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、第1の差分は、第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、第2の差分は、第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2である。
プロセッサ70は、p番目の計算を実施するとき、p番目の計算の拡散係数とp番目の計算の拡散領域を(p−1)番目の計算の後に取得した深度情報と写真撮影パラメータに従って決定し、第1の画像、第2の画像、p番目の計算の拡散係数、およびp番目の計算の拡散領域に従って、p番目の計算における第1の画像と第2の画像にそれぞれ対応する前方熱拡散式を決定し、p番目の計算での最小値式を決定し、p番目の計算での最小値式に従って、p番目の計算における第1の画像と第2の画像の中の各画素の最小勾配を取得し、当該事前設定補正式に従って、p番目の計算での最小勾配が当該事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、p番目の計算の後の深度情報を取得するように構成される。ここで、2≦p≦Nである。
プロセッサ70は、前景領域と背景領域の間の臨界深度を、写真撮影パラメータと第1の画像および第2の画像の各画像距離に従って決定するように構成される。プロセッサ70は、第1の画像において、当該深度情報が表す深度が当該臨界深度より大きいという当該深度情報に対応する画素領域は第1の画像の背景領域であると判定するように構成される。
プロセッサ70は、当該深度情報を正規化して正規化した深度情報を取得するように構成される。プロセッサ70は、当該背景領域において、当該正規化した深度情報の区間をq個のセグメントに均等に分割してq個の背景区間を取得するように構成される。プロセッサ70は、事前設定最大ぼかし半径に従って、当該q個の背景区間の各々に対応するぼかしパラメータを決定するように構成される。当該ぼかしパラメータはぼかし半径と標準偏差を含む。プロセッサ70は、当該q個の背景区間の各々に対応するぼかし半径と標準偏差に従って、第1の画像において、当該q個の背景区間の各々に対応する画素領域に別々にぼかし処理を実施するように構成される。
纏めると、本発明の当該実施形態で提供した電子装置によれば、同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像が取得され、深度情報が第1の画像と第2の画像に従って取得され、第1の画像の背景領域が当該深度情報に従って決定され、当該背景領域に対してぼかしが実施される。画像内の各画素での深度情報が、それぞれ前景と背景にフォーカスされた2つの画像に従って得られ、背景領域が当該深度情報に従って決定される。その結果、ぼかし処理が自動的に完了し、それにより、ユーザがソフトウェアを用いて画像を開き手動で背景領域を選択する必要があるので背景領域のボックス選択が不正確であり操作プロセスが複雑であるという先行技術の課題が解決され、ぼかし効果が高まり、ユーザの操作が簡単になり、ユーザの時間が節約されるという効果が達成される。
さらに、本発明の当該実施形態で提供した電子装置では、第1の画像の背景領域が当該深度情報に従って階層化され、様々なぼかしパラメータに従って背景領域の各レイヤにぼかしが実施され、ぼかし効果がさらに高まる。
上述の機能モジュールの分割は、以上の諸実施形態で提供した画像ぼかし機器が背景ぼかしを実施するときの説明の例として使用したにすぎないことに留意されたい。実際の適用では、上述の機能を要件に従って様々な機能モジュールに割り当ててもよい。即ち、機器の内部構造を様々な機能モジュールに分割して、上述の機能の全部または一部を実現してもよい。さらに、以上の諸実施形態で提供した画像ぼかし機器は画像ぼかし方法の諸実施形態と同じ概念に関連するので、当該画像ぼかし機器の具体的な実装プロセスについては当該方法の諸実施形態を参照されたい。ここでは再度説明することはしない。
本発明の諸実施形態における上述の符号は単に説明のためのものであり、諸実施形態の利点や欠点を表すものではない。
諸実施形態のステップの全部または一部を、ハードウェアまたは関連ハードウェアに指示するプログラムにより実装してもよいことは当業者には理解される。当該プログラムをコンピュータ可読記憶媒体に格納してもよい。当該記憶媒体は、読取専用メモリ、磁気ディスク、または光ディスクを備えてもよい。
以上の説明は本発明の例示的な諸実施形態にすぎず、本発明を限定しようとするものではない。本発明の原理から逸脱せずに行った任意の修正、均等な置換え、および改善は本発明の保護範囲に入るものとする。
301 画像取得モジュール
302 深度情報取得モジュール
303 背景決定モジュール
304 ぼかしモジュール
401 画像取得モジュール
402 深度情報取得モジュール
402a 第1の取得ユニット
402b 初期化ユニット
402c 計算ユニット
402d 第2の取得ユニット
403 背景決定モジュール
403a 臨界深度決定ユニット
403b 背景決定ユニット
404 ぼかしモジュール
404a 正規化ユニット
404b 分割ユニット
404c パラメータ決定ユニット
404d ぼかしユニット
001 画像収集ユニット
002 画像ぼかし装置
50 プロセッサ
60 メモリ
70 プロセッサ
80 メモリ

Claims (10)

  1. 同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するステップであって、前記第1の画像の画像距離は前記第2の画像の画像距離より短いステップと、
    前記第1の画像と前記第2の画像に従って深度情報を取得するステップであって、前記深度情報は前記第1の画像の各画素のシーンとキャプチャ点の間の距離、および、前記第2の画像の各画素のシーンと前記キャプチャ点の間の距離を表すために使用されるステップと、
    前記第1の画像の背景領域を前記深度情報に従って決定するステップと、
    前記第1の画像の前記背景領域の内容にぼかし処理を実施するステップと、
    を含
    前記第1の画像と前記第2の画像に従って深度情報を取得するステップは、
    前記カメラの写真撮影パラメータを取得するステップであって、前記写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含み、前記関係パラメータは前記カメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用される、ステップと、
    前記写真撮影パラメータと前記第1の画像および前記第2の画像の各画像距離に従って、初期化された深度情報を決定するステップと、
    前記写真撮影パラメータ、前記第1の画像、および前記第2の画像に従って前記初期化された深度情報にN回の反復計算を実施するステップであって、Nは正の整数かつN≧2である、ステップと、
    N番目の反復計算により得られた結果を取得し、前記結果を前記深度情報として使用するステップと、
    を含む、画像ぼかし方法。
  2. 前記写真撮影パラメータ、前記第1の画像、および前記第2の画像に従って前記初期化された深度情報にN回の反復計算を実施するステップは、
    第1の計算を実施するとき、前記第1の計算の拡散係数および前記第1の計算の拡散領域を前記初期化された深度情報および前記写真撮影パラメータに従って決定し、前記第1の画像、前記第2の画像、前記第1の計算の前記拡散係数、および前記第1の計算の前記拡散領域に従って、前記第1の計算における前記第1の画像と前記第2の画像にそれぞれ対応する前方熱拡散式を決定し、前記第1の計算で最小値式を決定し、前記第1の計算での前記最小値式に従って、前記第1の計算における前記第1の画像と前記第2の画像における各画素の最小勾配を取得し、事前設定補正式に従って、前記第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、前記第1の計算の後に深度情報を取得するステップであって、前記最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、前記第1の差分は、前記第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、前記第2の差分は、前記第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2である、ステップと、
    p番目の計算を実施するとき、(p−1)番目の計算の後に取得した深度情報および前記写真撮影パラメータに従って前記p番目の計算の拡散係数および前記p番目の計算の拡散領域を決定し、前記第1の画像、前記第2の画像、前記p番目の計算の前記拡散係数、および前記p番目の計算の前記拡散領域に従って、前記p番目の計算における前記第1の画像と前記第2の画像にそれぞれ対応する前方熱拡散式を決定し、前記p番目の計算で最小値式を決定し、前記p番目の計算での前記最小値式に従って、前記p番目の計算における前記第1の画像と前記第2の画像における各画素の最小勾配を取得し、前記事前設定補正式に従って、前記p番目の計算での最小勾配が前記事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、前記p番目の計算の後に深度情報を取得するステップであって、2≦p≦Nであるステップと、
    を含む、請求項に記載の方法。
  3. 前記事前設定補正式は、
    Figure 0006027159
    であり、s’(y)は補正の後の深度情報であり、s(y)は前記補正の前の深度情報であり、data_regは最小勾配であり、αおよびkは事前設定された正則化パラメータである、請求項に記載の方法。
  4. 前記第1の画像の背景領域を前記深度情報に従って決定するステップは、
    写真撮影パラメータと前記第1の画像および前記第2の画像の各画像距離に従って前景領域と背景領域の間の臨界深度を決定するステップと、
    前記深度情報が表す深度が前記臨界深度より大きいという前記深度情報に対応する前記第1の画像内の画素領域は前記第1の画像の前記背景領域であると判定するステップと、
    を含む、請求項1に記載の方法。
  5. 前記第1の画像の前記背景領域の内容にぼかし処理を実施するステップは、
    前記深度情報を正規化して正規化した深度情報を取得するステップと、
    前記背景領域において、前記正規化した深度情報の区間を均等にq個のセグメントに分割してq個の背景区間を取得するステップと、
    事前設定最大ぼかし半径に従って、前記q個の背景区間の各々に対応するぼかしパラメータを決定するステップであって、前記ぼかしパラメータはぼかし半径と標準偏差を含むステップと、
    前記q個の背景区間の各々に対応する前記ぼかし半径と前記標準偏差に従って、前記第1の画像において、前記q個の背景区間の各々に対応する画素領域に別々にぼかし処理を実施するステップと、
    を含む、請求項1に記載の方法。
  6. 同一のカメラにより捕捉され同一の視野率を有する第1の画像と第2の画像を取得するように構成された画像取得モジュールであって、前記第1の画像の画像距離は前記第2の画像の画像距離より短い画像取得モジュールと、
    前記第1の画像と前記第2の画像に従って深度情報を取得するように構成された深度情報取得モジュールであって、前記深度情報は前記第1の画像の各画素のシーンとキャプチャ点の間の距離、および、前記第2の画像の各画素のシーンと前記キャプチャ点の間の距離を表すために使用される深度情報取得モジュールと、
    前記第1の画像の背景領域を前記深度情報に従って決定するように構成された背景決定モジュールと、
    前記第1の画像の前記背景領域の内容にぼかし処理を実施するように構成されたぼかしモジュールと、
    を備え、
    前記深度情報取得モジュールは、
    前記カメラの写真撮影パラメータを取得するように構成された第1の取得ユニットであって、前記写真撮影パラメータは、較正焦点距離、レンズ径、および関係パラメータを含み、前記関係パラメータは前記カメラの開口サイズと不鮮明画像のぼかし度の間の関係を表すために使用される、第1の取得ユニットと、
    前記写真撮影パラメータと前記第1の画像および前記第2の画像の各画像距離に従って、初期化された深度情報を決定するように構成された初期化ユニットと、
    前記写真撮影パラメータ、前記第1の画像、および前記第2の画像に従って、前記初期化された深度情報にN回の反復計算を実施するように構成された計算ユニットであって、Nは正の整数かつN≧2である、計算ユニットと、
    N番目の反復計算により得られた結果を取得し前記結果を前記深度情報として使用するように構成された第2の取得ユニットと、
    を備える、画像ぼかし機器。
  7. 前記計算ユニットは、第1の計算を実施するとき、前記第1の計算の拡散係数と前記第1の計算の拡散領域を前記初期化された深度情報と前記写真撮影パラメータに従って決定し、前記第1の画像、前記第2の画像、前記第1の計算の前記拡散係数、および前記第1の計算の前記拡散領域に従って、前記第1の計算における前記第1の画像と前記第2の画像にそれぞれ対応する前方熱拡散式を計算し、前記第1の計算で最小値式を決定し、前記第1の計算での前記最小値式に従って、前記第1の計算における前記第1の画像と前記第2の画像における各画素の最小勾配を取得し、事前設定補正式に従って、前記第1の計算における最小勾配が事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、前記第1の計算の後に深度情報を取得するように構成され、前記最小値式は第1の差分と第2の差分の和の最小値を表すために使用され、前記第1の差分は、前記第1の画像に対応する前方熱拡散式の実際の出力値と理論出力値との間の差分であり、前記第2の差分は、前記第2の画像に対応する前方熱拡散式の実際の出力値と理論出力値との差分であり、nは正の整数でありn≧2であり、
    前記計算ユニットは、p番目の計算を実施するとき、前記p番目の計算の拡散係数と前記p番目の計算の拡散領域を(p−1)番目の計算の後に取得した深度情報と前記写真撮影パラメータに従って決定し、前記第1の画像、前記第2の画像、前記p番目の計算の前記拡散係数、および前記p番目の計算の前記拡散領域に従って、前記p番目の計算における前記第1の画像と前記第2の画像にそれぞれ対応する前方熱拡散式を決定し、前記p番目の計算での最小値式を決定し、前記p番目の計算での前記最小値式に従って、前記p番目の計算における前記第1の画像と前記第2の画像における各画素の最小勾配を取得し、前記事前設定補正式に従って、前記p番目の計算での最小勾配が前記事前設定勾配閾値より小さい画素に対応する深度情報にn回の反復補正を実施し、前記p番目の計算の後の深度情報を取得するように構成され、2≦p≦Nである、
    請求項に記載の機器。
  8. 前記背景決定モジュールは、
    写真撮影パラメータおよび前記第1の画像と前記第2の画像の各画像距離に従って前景領域と背景領域の間の臨界深度を決定するように構成された臨界深度決定ユニットと、
    前記深度情報が表す深度が前記臨界深度より大きいという前記深度情報に対応する前記第1の画像内の画素領域は前記第1の画像の前記背景領域であると判定するように構成された背景決定ユニットと、
    を備える、請求項に記載の機器。
  9. 前記ぼかしモジュールは、
    前記深度情報を正規化して正規化した深度情報を取得するように構成された正規化ユニットと、
    前記背景領域において、前記正規化した深度情報の区間をq個のセグメントに均等に分割してq個の背景区間を取得するように構成された分割ユニットと、
    事前設定最大ぼかし半径に従って、前記q個の背景区間の各々に対応するぼかしパラメータを決定するように構成されたパラメータ決定ユニットであって、前記ぼかしパラメータはぼかし半径と標準偏差を含むパラメータ決定ユニットと、
    前記q個の背景区間の各々に対応する前記ぼかし半径と前記標準偏差に従って、前記第1の画像において、前記q個の背景区間の各々に対応する画素領域に別々にぼかし処理を実施するように構成されたぼかしユニットと、
    を備える、請求項に記載の機器。
  10. 請求項乃至の何れか1項に記載の画像ぼかし機器を備えた、電子装置。
JP2015037951A 2014-03-14 2015-02-27 画像ぼかし方法および機器、および電子装置 Active JP6027159B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201410095114.9 2014-03-14
CN201410095114.9A CN103945118B (zh) 2014-03-14 2014-03-14 图像虚化方法、装置及电子设备

Publications (2)

Publication Number Publication Date
JP2015177544A JP2015177544A (ja) 2015-10-05
JP6027159B2 true JP6027159B2 (ja) 2016-11-16

Family

ID=51192577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015037951A Active JP6027159B2 (ja) 2014-03-14 2015-02-27 画像ぼかし方法および機器、および電子装置

Country Status (6)

Country Link
US (1) US9215381B2 (ja)
EP (1) EP2919188B1 (ja)
JP (1) JP6027159B2 (ja)
KR (1) KR101686926B1 (ja)
CN (1) CN103945118B (ja)
ES (1) ES2626174T3 (ja)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11256931B2 (en) 2010-04-19 2022-02-22 SMR Patent S.à.r.l Rearview device simulation
TWI578780B (zh) * 2014-10-02 2017-04-11 晶睿通訊股份有限公司 模糊影像偵測方法及其相關攝影機和影像處理系統
JP5927265B2 (ja) * 2014-10-28 2016-06-01 シャープ株式会社 画像処理装置及びプログラム
CN104463775A (zh) * 2014-10-31 2015-03-25 小米科技有限责任公司 一种实现图片景深效果的方法及装置
TWI566601B (zh) * 2015-02-25 2017-01-11 光寶科技股份有限公司 影像處理裝置及影像景深處理方法
CN105100615B (zh) * 2015-07-24 2019-02-26 青岛海信移动通信技术股份有限公司 一种图像的预览方法、装置及终端
CN105163042B (zh) * 2015-08-03 2017-11-03 努比亚技术有限公司 一种虚化处理深度图像的装置和方法
US10284835B2 (en) * 2015-09-04 2019-05-07 Apple Inc. Photo-realistic shallow depth-of-field rendering from focal stacks
CN105352455B (zh) * 2015-11-18 2017-09-05 宁波大学 一种基于图像模糊度的平面倾斜度测量方法
CN105513105B (zh) * 2015-12-07 2018-05-29 天津大学 基于显著图的图像背景虚化方法
CN105592271A (zh) * 2015-12-21 2016-05-18 深圳市金立通信设备有限公司 一种图像处理的方法及终端
CN106060423B (zh) 2016-06-02 2017-10-20 广东欧珀移动通信有限公司 虚化照片生成方法、装置和移动终端
CN106331492B (zh) * 2016-08-29 2019-04-16 Oppo广东移动通信有限公司 一种图像处理方法及终端
CN106530241B (zh) * 2016-10-31 2020-08-11 努比亚技术有限公司 一种图像虚化处理方法和装置
CN108886572B (zh) * 2016-11-29 2021-08-06 深圳市大疆创新科技有限公司 调整图像焦点的方法和系统
US10389948B2 (en) * 2016-12-06 2019-08-20 Qualcomm Incorporated Depth-based zoom function using multiple cameras
CN106803920B (zh) * 2017-03-17 2020-07-10 广州视源电子科技股份有限公司 一种图像处理的方法、装置及智能会议终端
CN108230234B (zh) * 2017-05-19 2019-08-20 深圳市商汤科技有限公司 图像虚化处理方法、装置、存储介质及电子设备
CN108234858B (zh) * 2017-05-19 2020-05-01 深圳市商汤科技有限公司 图像虚化处理方法、装置、存储介质及电子设备
CN107426493A (zh) * 2017-05-23 2017-12-01 深圳市金立通信设备有限公司 一种虚化背景的拍摄方法及终端
CN107085825A (zh) * 2017-05-27 2017-08-22 成都通甲优博科技有限责任公司 图像虚化方法、装置及电子设备
CN107038681B (zh) 2017-05-31 2020-01-10 Oppo广东移动通信有限公司 图像虚化方法、装置、计算机可读存储介质和计算机设备
CN107704798B (zh) * 2017-08-09 2020-06-12 Oppo广东移动通信有限公司 图像虚化方法、装置、计算机可读存储介质和计算机设备
CN108024054B (zh) * 2017-11-01 2021-07-13 Oppo广东移动通信有限公司 图像处理方法、装置、设备及存储介质
CN108055452B (zh) 2017-11-01 2020-09-18 Oppo广东移动通信有限公司 图像处理方法、装置及设备
CN107682639B (zh) * 2017-11-16 2019-09-27 维沃移动通信有限公司 一种图像处理方法、装置及移动终端
CN108024058B (zh) * 2017-11-30 2019-08-02 Oppo广东移动通信有限公司 图像虚化处理方法、装置、移动终端和存储介质
CN108419008B (zh) * 2018-01-30 2020-04-28 努比亚技术有限公司 一种拍摄方法、终端及计算机可读存储介质
CN108564541B (zh) * 2018-03-28 2022-04-15 麒麟合盛网络技术股份有限公司 一种图像处理方法及装置
WO2020036468A1 (ko) * 2018-08-16 2020-02-20 주식회사 날비컴퍼니 이미지에 보케 효과를 적용하는 방법 및 기록매체
TWI701639B (zh) * 2018-12-11 2020-08-11 緯創資通股份有限公司 辨識影像中前景物件的方法與電子裝置
CN109618173B (zh) * 2018-12-17 2021-09-28 深圳Tcl新技术有限公司 视频压缩方法、装置和计算机可读存储介质
CN109889724B (zh) * 2019-01-30 2020-11-06 北京达佳互联信息技术有限公司 图像虚化方法、装置、电子设备及可读存储介质
EP3726473A1 (en) 2019-04-18 2020-10-21 SMR Patents S.à.r.l. Method for rearview device simulation
CN110336942B (zh) * 2019-06-28 2021-02-02 Oppo广东移动通信有限公司 一种虚化图像获取方法及终端、计算机可读存储介质
CN110992284A (zh) * 2019-11-29 2020-04-10 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、电子设备和计算机可读存储介质
WO2021114061A1 (en) * 2019-12-09 2021-06-17 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Electric device and method of controlling an electric device
CN113052754B (zh) * 2019-12-26 2022-06-07 武汉Tcl集团工业研究院有限公司 一种图片背景虚化的方法及装置
WO2021135676A1 (zh) * 2019-12-30 2021-07-08 武汉Tcl集团工业研究院有限公司 一种拍照背景虚化方法、移动终端及存储介质
KR102260193B1 (ko) 2019-12-30 2021-06-03 주식회사 버넥트 3차원 공간에 대한 보안기능을 제공하는 증강현실 원격 통신방법 및 시스템
CN111385481A (zh) * 2020-03-30 2020-07-07 北京达佳互联信息技术有限公司 图像处理方法及装置、电子设备及存储介质
KR20220005820A (ko) * 2020-07-07 2022-01-14 삼성전자주식회사 그래픽 효과를 적용하기 위한 전자 장치 및 그에 관한 방법
CN112165575B (zh) * 2020-09-25 2022-03-18 Oppo(重庆)智能科技有限公司 图像虚化处理方法及装置、存储介质和电子设备
WO2022178781A1 (en) * 2021-02-25 2022-09-01 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Electric device, method of controlling electric device, and computer readable storage medium
US11727537B1 (en) * 2022-03-24 2023-08-15 Qualcomm Incorporated Bokeh effect in variable aperture (VA) camera systems

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7657171B2 (en) * 2006-06-29 2010-02-02 Scenera Technologies, Llc Method and system for providing background blurring when capturing an image using an image capture device
US8929645B2 (en) * 2007-04-24 2015-01-06 21 Ct, Inc. Method and system for fast dense stereoscopic ranging
JP2009284056A (ja) * 2008-05-20 2009-12-03 Fujifilm Corp 画像処理装置および方法並びにプログラム
JP5434361B2 (ja) * 2009-02-24 2014-03-05 株式会社リコー 画像処理装置及び画像処理方法
US8363085B2 (en) * 2010-07-06 2013-01-29 DigitalOptics Corporation Europe Limited Scene background blurring including determining a depth map
US9007689B2 (en) * 2011-04-04 2015-04-14 General Electric Company Method and apparatus for forming multiple images
AU2011224051B2 (en) * 2011-09-14 2014-05-01 Canon Kabushiki Kaisha Determining a depth map from images of a scene
CN102722080B (zh) * 2012-06-27 2015-11-18 杭州南湾科技有限公司 一种基于多镜头拍摄的多用途立体摄像方法
US9214025B2 (en) * 2012-11-30 2015-12-15 Adobe Systems Incorporated Depth estimation using normalized displacement of image pairs
AU2012258467A1 (en) * 2012-12-03 2014-06-19 Canon Kabushiki Kaisha Bokeh amplification
CN103152521B (zh) * 2013-01-30 2016-08-17 广东欧珀移动通信有限公司 一种移动终端中实现景深效果的方法及移动终端
US20150243035A1 (en) * 2014-02-21 2015-08-27 Metaio Gmbh Method and device for determining a transformation between an image coordinate system and an object coordinate system associated with an object of interest

Also Published As

Publication number Publication date
KR20150107605A (ko) 2015-09-23
US9215381B2 (en) 2015-12-15
CN103945118A (zh) 2014-07-23
EP2919188B1 (en) 2017-03-15
CN103945118B (zh) 2017-06-20
ES2626174T3 (es) 2017-07-24
KR101686926B1 (ko) 2016-12-15
JP2015177544A (ja) 2015-10-05
EP2919188A1 (en) 2015-09-16
US20150264271A1 (en) 2015-09-17

Similar Documents

Publication Publication Date Title
JP6027159B2 (ja) 画像ぼかし方法および機器、および電子装置
US10205896B2 (en) Automatic lens flare detection and correction for light-field images
US9444991B2 (en) Robust layered light-field rendering
US8335390B2 (en) Blur function modeling for depth of field rendering
US9307222B1 (en) Configuration settings of a digital camera for depth map generation
Favaro et al. Shape from defocus via diffusion
US10026160B2 (en) Systems and techniques for automatic image haze removal across multiple video frames
US20070172141A1 (en) Image conversion device, image conversion method, and recording medium
JP5968073B2 (ja) 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
US9613403B2 (en) Image processing apparatus and method
WO2019105261A1 (zh) 背景虚化处理方法、装置及设备
WO2017190415A1 (zh) 一种图像优化方法、装置及终端
WO2023030139A1 (zh) 图像融合方法、电子设备和存储介质
JP5911292B2 (ja) 画像処理装置、撮像装置、画像処理方法、および、画像処理プログラム
CN109661815A (zh) 存在相机阵列的显著强度变化的情况下的鲁棒视差估计
JP2009111921A (ja) 画像処理装置及び画像処理方法
JP6341087B2 (ja) 画像処理装置及び画像処理プログラム
CN117058183A (zh) 一种基于双摄像头的图像处理方法、装置、电子设备及存储介质
JP2008245033A (ja) 被写界深度制御方法、画像処理装置及びプログラムと記録媒体
GB2533449B (en) Configuration settings of a digital camera for depth map generation
KR20150032764A (ko) 인위적으로 디포커스된 블러 이미지를 생성하는 방법 및 이미지 캡쳐링 디바이스
JP6468751B2 (ja) 画像処理装置、画像処理方法及びプログラム
JPWO2019012647A1 (ja) 画像処理装置、画像処理方法およびコンピュータプログラム
JP2017173920A (ja) 画像処理装置、画像処理方法、画像処理プログラム、および記録媒体
AU2015202282A1 (en) Camera parameter optimisation for depth from defocus

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160223

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160523

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161013

R150 Certificate of patent or registration of utility model

Ref document number: 6027159

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250