JP2021090208A - プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム - Google Patents

プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム Download PDF

Info

Publication number
JP2021090208A
JP2021090208A JP2021016349A JP2021016349A JP2021090208A JP 2021090208 A JP2021090208 A JP 2021090208A JP 2021016349 A JP2021016349 A JP 2021016349A JP 2021016349 A JP2021016349 A JP 2021016349A JP 2021090208 A JP2021090208 A JP 2021090208A
Authority
JP
Japan
Prior art keywords
audio
image
refocusing
dominant
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021016349A
Other languages
English (en)
Other versions
JP7178435B2 (ja
Inventor
アリー,ヴァレリー
Allie Valerie
エリエ,ピエール
Hellier Pierre
カーン ンゴ ドン,クァン
Quang Khanh Ngoc Duong
カーン ンゴ ドン,クァン
ペレス,パトリック
Perez Patrick
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
InterDigital CE Patent Holdings SAS
Original Assignee
InterDigital CE Patent Holdings SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by InterDigital CE Patent Holdings SAS filed Critical InterDigital CE Patent Holdings SAS
Publication of JP2021090208A publication Critical patent/JP2021090208A/ja
Application granted granted Critical
Publication of JP7178435B2 publication Critical patent/JP7178435B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/20Processing of the output signals of the acoustic transducers of an array for obtaining a desired directivity characteristic
    • H04R2430/25Array processing for suppression of unwanted side-lobes in directivity characteristics, e.g. a blocking matrix
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/15Aspects of sound capture and related signal processing for recording or reproduction

Abstract

【課題】プレノプティック・カメラによりキャプチャされた画像をリフォーカシングするための方法及びシステムを提供する。【解決手段】オーディオ・キャプチャ・デバイスとともに処理を行うプレノプティック・カメラによる自動リフォーカシング機能を実行する方法は、画像に関連する支配的なオーディオ・ソースの方向を決定するステップと、支配的なオーディオ・ソースに関連するもの以外の全てのオーディオ信号をフィルタで除くことにより、オーディオ・ズームを引き起こすステップと、引き起こされたオーディオ・ズームに基づいて画像の自動的なリフォーカシングを実行するステップと、を含む。【選択図】図1

Description

本開示は、一般にディジタル記録及び写真技術に関連し、特に、焦点面及び深度のオーディオに基づく選択を利用するプレノプティック・カメラによるディジタル記録及び写真技術に関連する。
写真技術は光又は他の電磁放射を記録することにより耐久性のある画像を作成する。画像は、画像センサを利用して電子的に又は感光材料を利用して化学的にキャプチャされる。典型的には、対象物から反射又は放出された光を、露出時間中にカメラの中で、感光面上の実像へ焦点を合わせるために、レンズが使用される。電子画像センサにより、電荷が各ピクセルで生成され、そして電荷は処理され、更なる利用のためにディジタル画像ファイルに保存される。古典的な写真技術では、焦点表面は近似的に平面又は焦点面(approximately a plane or focal plane)である。焦点表面はカメラの光軸に垂直であり、その面に沿って被写界深度は一定である。キャプチャされる画像は、被写界深度の焦点表面に対するこれらの規則に起因する範囲内に制限されるので、キャプチャされる画像は基本的なコンフィギュレーションである。これに対して、ライト・フィールド又はプレノプティック・カメラはより複雑なコンフィギュレーションを示す。
プレノプティック・カメラは、メイン・レンズの画像面内に配置され且つフォト・センサ・アレイの前方に配置されるマイクロ・レンズ・アレイを利用し、そのフォトセンサのアレイに1つのマイクロ画像(サブ画像とも呼ばれる)が投影される。従って、各マイクロ画像が、キャプチャしたシーンの或る領域を描き、そのマイクロ画像に関連する各ピクセルは、メイン・レンズの射出瞳における或るサブ・アパーチャ位置の観点から、その或る領域を見せる。そして、シーンのロー画像(The raw images)は、フォト・センサ・アレイの個々の部分から取得されるマイクロ画像全体の合計の結果として取得される。このロー画像は、ライト・フィールドの角度情報を含む。理論上及び計算上、プレノプティック・カメラは、古典的なカメラを使う場合には利用できない複雑なコンフィギュレーションを利用して、優れた画像キャプチャを提案する可能性を提示する。しかしながら、不都合なことに、プレノプティック・カメラを利用して実現されることが可能な実現性を考慮すると、従来技術を制限する多くの実用上の欠点が存在する。これらの制限は、ビデオ・コンテンツのキャプチャリングを試みる場合にいっそう深刻化している。
プレノプティック・カメラによりキャプチャされた画像をリフォーカシングするための方法及びシステムが提供される。一実施形態において、プレノプティック・カメラはオーディオ・キャプチャ・デバイスとともに処理を行う。本方法は、画像に関連する支配的なオーディオ・ソース(a dominant audio source)の方向を決定するステップ;支配的なオーディオ・ソースに関連するもの以外の全てのオーディオ信号をフィルタで除くことにより、オーディオ・ズーム(an audio zoom)を引き起こすステップ;及び 引き起こされたオーディオ・ズームに基づいて画像の自動的なリフォーカシングを実行するステップを有する。
別の実施形態では、オーディオに基づくリフォーカシング画像システムが提供され、本システムは、ビデオ画像をキャプチャするプレノプティック・ビデオ・カメラと、キャプチャされた画像に関連するオーディオをキャプチャするオーディオ・キャプチャ手段と、支配的なオーディオ・ソースを決定する手段と、支配的なオーディオ・ソースの方向を決定するためにオーディオ信号分析を実行する手段と、支配的なオーディオ・ソースの方向に基づいて、関心のあるオーディオ・シーンを識別する手段と、支配的なオーディオ・ソースに関連するもの以外の全てのオーディオ信号をフィルタで選択的に除くために、関心のあるオーディオ・シーンについてビームフォーミングを行うことにより、オーディオ・ズームを引き起こす手段と、引き起こされたオーディオ・ズームに基づいて画像の自動的なリフォーカスをもたらす手段とを有する。
追加的な特徴及び利点が本発明の技術により実現される。本発明の他の実施形態及び側面は、本願で詳細に記述されており、請求項に係る発明の一部として考えられる。利点及び特徴とともに本発明の更なる理解のために、詳細な説明及び図面が参照される。
本発明は、添付図面を参照しながら、非限定的に、以下の実施形態及び実行例を用いて更に理解及び説明される。
一実施形態による自動リフォーカシング機能を実行するためのステップを示すフローチャートを示す図。
図1の実施形態による処理ステップを実行する際に使用されるシステムのブロック図。 図1の実施形態による処理ステップを実行する際に使用されるシステムのブロック図。
一実施形態による関心のあるエリアの支配的なオーディオ方向及び推定された幅を示すブロック図。
一実施形態による関心のあるビデオ・コーン(a video cone of interest)を図式的に示す図。
分散したマイクロフォン・アレイ構成を有する別のシステムの実施形態を示す図。 分散したマイクロフォン・アレイ構成を有する別のシステムの実施形態を示す図。
図1の実施形態のうちのビームフォーミング・ステップのブロック図による説明図。
図2ないし図4に関連して説明されるようなシステムに従って実行されるもののようなビームフォーミング機能を表現する図。
図5及び図6に関連して説明されるシステムに従って実行されるもののようなビームフォーミング機能を表現する図。
別の実施形態による分散されたマイクロフォン・アレイを有するシステムのブロック図。
図1-10において、表現されているブロックは純粋に機能的なエンティティであり、物理的に別個のエンティティに必ずしも対応していない。即ち、ブロックはソフトウェアやハードウェアの形式で展開されることが可能であり、或いは、1つ以上のプロセッサを有する1つ又は幾つもの集積回路で実現されることが可能である。
同一又は類似するパーツを指すために、可能であれば、同じ参照番号が各図を通じて使用される。
本発明の図面及び説明は、本発明の明確な理解に関連する要素を示すように簡略化されている一方、簡明化のため、一般的なディジタル・マルチメディア・コンテンツ配信方法及びシステムに見受けられる多くの他の要素を除外していることが、理解されるべきである。しかしながら、そのような要素は当該技術分野で良く知られているので、そのような要素の詳細な議論は本願では与えられていない。ここでの開示は、そのような全ての変形及び修正に向けられている。
図1は、1つ以上のプレノプティック・カメラを利用して画像の自動リフォーカシングを行う方法を示す一実施形態のフローチャート表現である。一実施形態において、画像の適切な焦点面及び被写界深度を算出するために、オーディオ・コンポーネントが利用されることが可能である。そのような技術の1つが図1の方法を利用して議論される。図1の実施形態のステップは、理解を促すために、図2ないし10において与えられる実施形態のシステム構成に関連して説明される。
古典的な写真技術では、焦点表面はカメラの光軸に垂直な面である。プレノプティック・カメラを利用する場合において、静止画を撮影する場合、ユーザの相互作用はベーシック・レベルに留まるので、同様なリフォーカス・プロパティが利用されることが可能である。これは、プレノプティック・カメラを利用してビデオ・キャプチャ及びライブ画像ストリーミングを行う場合ではなく、なぜならその場合より複雑な演算が必要とされるからである。プレノプティック・カメラのレンズのアレイでキャプチャされるシーン及び画像は、様々な角度からキャプチャされ、且つ、シーン中の様々な画像の鮮明さの程度を選択するための様々なオプションが存在するので、様々なシーン及び画像のプロパティをフォーカシングすることは、困難になり得る。自動的なリフォーカシング技術を利用することは望まれるであろうが、焦点面が光軸に垂直のままそれを行うことは困難である。その理由は、多くの場合、焦点面は光軸に垂直のまま残ることはできないからであり、特に、常に変化するビデオ又はライブ・ストリーム・ブロードキャストの最中にはそうである。他の例も容易に想像できる。例えば、「オール・イン・フォーカス(all-in-focus)」モードが利用される場合を考察する。この場合、キャプチャされるシーンは、距離によらず全て意図的に鮮明のまま残らなければならない画像を生成する。これは、無限の被写界深度、及び、光軸に垂直でない任意の焦点面を意味し得る。別の例では、「インタラクティブ・フォーカス(interactive focus)」フィールドが使用され、これは関心のある対象をユーザが指示及び選択することを許容する。この場合、焦点の面は、各画像に対する正しい距離に、演算により、配置される必要がある。この場合、焦点は、鮮明な焦点に維持されなければならない対象に限り、光軸に垂直である。同様な場合において、近接した対象のみが、鮮明な画像を生成するために選択されても良い。そのような場合、被写界深度は小さな一定数として維持され、或る距離を隔てた全てのシーン要素は、近接したものとは別様に算出される。従って、対象が焦点から外れると、それらは意図的に不鮮明に見える。更に別の例では、焦点面が傾斜させられるようにカメラが配置され、従って、焦点面は光軸に垂直ではない。
図1の実施形態に戻り、ここで使用される技術は、一実施形態では、画像(以後、静止画又はビデオ・キャプチャとして定義される)が最適に投影されることが可能であるように、適用されることが可能である。画像/ビデオは、ブロードキャスト・ストリーム、静止画像、記録された画像として提供されることが可能であり、或いは、当業者に認められるように、ユーザ選択入力デバイスを介してユーザにより選択されることが可能である。何れにせよ、それに応じて、そのエリアの深度又は対象深度を識別するために、ライト・フィールド・セグメンテーションが実行される。そして、光軸に垂直な焦点面が規定され、それにより、関心のあるエリア又は対象は、意図されるように鮮明な焦点のまま残る。この技術は、フレーム間の時間的な一貫性を保証するために、(オブジェクト・トラッキングを行う又は行わない)ビデオ・キャプチャに拡張されることが可能である。図1の実施形態に示されるような個々のステップを議論する前に、そのようなステップを具現化するために使用されることが可能なシステムを考察することは有益であろう。図2A及び2Bは、本願の原理の一実施形態に関するシステムのブロック図を示す。
図2A及び2Bのシステムは、図1の実施形態により与えられる技術を適用するために利用されることが可能である。図2A及び2Bにおいて、自動リフォーカシング・システム200は、1つ以上のプレノプティック・カメラ及び関連する技術を利用しているように示されている。一実施形態では、ディスプレイ210が示されている。ディスプレイ210は、コンピュータ、テレビジョン・セット、投影スクリーン、モバイル・デバイス(例えば、スマート・フォン等)及びその他の当業者により認められるものに関連して使用されることが可能であるので、任意のサイズ又は形状のものであるとすることが可能である。図に示される例では、理解を促すために、投影スクリーン又はテレビジョン・ディスプレイのような大きなディスプレイが使用されているが、これは単なる一例に過ぎない。
図2Aは、一実施形態では図2Bのコンポーネントを全て組み込むことが可能である。代替的に、図2Bは、以後説明されるように、様々な独立したコンポーネントにより構成されることが可能である。理解を促すために、図2Bの実施形態が
説明されるが、その理由は、個々のコンポーネントが視覚的に識別可能であり、従って参照するのに容易だからである。
図2Bはディスプレイ210を有するシステム200を示す。一実施形態において、システム200は、プレノプティック又はカメラ・アレイ技術に基づくライト・フィールド・ビデオ・キャプチャ・デバイス230(単に、プレノプティック・カメラ230と言及されても良い)を有する。オーディオ・キャプチャ・デバイス220は、カメラ230と処理中に通信する。オーディオ・キャプチャ・デバイス220は、1つ又は複数の分散されたマイクロフォン・アレイにより構成される。一実施形態において、オーディオ・システム220(即ち、マイクロフォン)は、ビデオ・キャプチャ・デバイス又はプレノプティック・カメラ230に関連して概ね較正されている。図2A及び2Bに示される例では、参照場号290により指し示される1つ又は複数のプロセッサが提供されている。プロセッサ290は、破線で示されるように、ディスプレイ210、プレノプティック・カメラ230及びオーディオ・キャプチャ・デバイス220と処理中に通信する。1つより多いプロセッサが存在する場合、複数のプロセッサも互いに処理中に通信する。プロセッサは、ディスプレイ210、カメラ230、オーディオ・キャプチャ・デバイス220内の様々なエリアに組み込まれても良いし、代替的に図2A及び2Bの例に示されるように独立していても良い。従って、1つ又は複数のプロセッサがカメラ230及び/又はオーディオ・キャプチャ・デバイス220に組み込まれる一実施形態では、カメラ230及びオーディオ・キャプチャ・デバイス220は、互いにディジタル・データを送受信し、互いに処理中に通信することが可能である。更に、プロセッサは、他のコンピュータ又はコンピューティング環境及びネットワーク(図示せず)と通信することが可能である。
ここで図1に戻り、参照番号100で示されるステップでは、表示している画像に関連する支配的なオーディオ・ソース(又は音源)が決定される。一実施形態において、ライブの又は記録済みの番組及び/又は放送の中で、次々と速やかに続く画像又はビデオの形式で画像が素早く現れる場合、支配的なオーディオ・ソースは継続的な基準で決定されることが可能である。一実施形態では、当業者に認められるように、例えばオーディオ・ソース位置確認アルゴリズムによって、支配的なオーディオの方向を引き出すために、オーディオ処理技術が使用されることが可能である。参照番号110により示されるように、音声についての関心のある方向が決定されるように、支配的なオーディオ・ソースの方向が選択される。別の実施形態では、ステップ105及び110が1つのステップで組み合わせられても良く、それにより、オーディオ・ソース位置確認アルゴリズムは、リフォーカスされるターゲット・ソースとして後に考慮される支配的なオーディオ・ソースの方向を出力する。
図2A及び2Bの実施形態により議論される例に図1のステップ105ないし110を適用すると、図3に示されるようなシステムをもたらす結果となる。
図3は、支配的なオーディオ・ソースに関連するオーディオ方向を引き出すために(即ち、図1のステップ110)、オーディオ処理技術が使用される実施形態を示す。図3の実施形態では、少なくとも1つの支配的なオーディオ方向に関連する関心のある領域340が設定されている。参照番号302により示されるように、支配的なオーディオ方向が決定され、305で示されるように、関心のある領域の幅340も算出される。一例では、支配的なポイント・ソース(a dominant point source)に関して関心のある領域の幅が狭いということは、支配的な音声が単独の方向から来ている(例えば、単独の人が喋っている)ようなものである。別の例では、より広がった又は移動しているソースに対して、幅が大きく設定される。これは、支配的な音声が、幾つかの共存したソースから来ている場合であり、例えば、参照番号320により示されるような図3の右上隅に提供されるスクリーンに示されるようなステージ上の幾つもの楽器及びリード・ボイスを伴う音楽バンドから来ている場合である。
オーディオ・ソース位置確認アルゴリズムがオーディオ方向を更に設定するために使用される一例において、オーディオ信号分析は、関心のあるエリアの角度幅の近似的な推定を提供するように実行されても良い。オーディオ・ソース位置確認アルゴリズムは、関心のある領域の角度範囲を決定するように使用され、その結果、図4の410で示されるような「関心のあるコーン(cone of interest)」をもたらす。
一実施形態では、図5に示されるように、没入型ユーザ体感(the immersive user experience)が、最新技術の分散されたマイクロフォン・アレイ520を利用することにより更に改善されることが可能である。図6の実施形態では、自動的なオーディオ位置確認を改善するために、同様な分散されたマイクロフォン・アレイ・システム620が使用されることが可能である。図6では、図1のステップ110で説明されたような支配的なオーディオ・ソースは、関心のある方向を決定するために、オーディオ及びビデオ信号の双方を活用することにより、決定される。図4と同様に、関心のあるビデオ・コーン610が決定され、この場合ビデオ・コーンはマイクロフォン・アレイ620に起因して改善される。オーディオ信号を決定するために、位置確認アルゴリズムが使用され、支配的なオーディオ・ソースの方向は、関心のある方向として考えられる。ビデオ信号を決定するために、一実施形態では、オブジェクト・トラッキング・アルゴリズムを使用することが可能である。この場合、シーンの中で動いているオブジェクトの方向は、支配的なオーディオ・ソースに関連する関心のある方向として潜在的に考えることが可能である。一実施形態において、オーディオ及びビデオは、オーディオ及びビデオの場合に単独で検出されるように、後期融合候補(a late fusion of candidates)を提供するように組み合わせられることが可能であり、それに応じて、関心のある最適化された方向を見出す際にそれらは適用されることが可能である。
図1に戻り、参照番号115により参照される次のステップが実行される。ステップ115において、関心のあるオーディオ・シーンが決定され、このオーディオ・シーンに関し、ステップ120でオーディオ・フォーカス分析が実行される。オーディオ・フォーカス又はオーディオ・ズーム(an audio focus or an audio zoom)を実行するために、関心のあるオーディオ方向の決定の後に、オーディオ・シーンの中でオーディオ・ビーム(audio beams)が生成される。一実施形態では、当業者に認められるように、オーディオ・ビームはビームフォーミングを利用して生成される。ビームフォーミング又は空間フィルタリングは、空間的な選択性を達成するために指向性信号の送信又は受信を利用する信号処理技術である。これは、特定の角度において或る信号は建設的な干渉を経験するが、その他は破壊的な干渉を経験するような方法で、フェーズド・アレイ形式で素子を組み合わせることにより達成される。アレイの指向性を変更するために、信号の位相及び相対的な振幅が制御され、建設的及び/又は破壊的な電波干渉のパターンを形成する。最適空間フィルタリング及び干渉排除法を利用することにより、センサ・アレイの出力において関心のある信号を検出及び推定するために、適応ビームフォーミングが使用される。このように、所定の信号パターンのみについての、マイクロフォン・アレイからのオーディオ信号が、ターゲット・ソースに関して選択されることが可能である。オーディオ・フォーカスは、同時複数ビームを形成することが可能であり、アクティブ・スピーカを追跡することが可能である。ステップ120により提供されるようなビームフォーミングの概念は、図7のブロック図により更に示されている。
一実施形態では、図7に示されるように、オーディオ・ビームの幅は、マイクロフォン・アレイのサイズ及び設定に依存する。音を生成するターゲット・ソースは、図7の710で示されるように例示的に与えられている。ターゲット・ソース750は、760で示されるような音響ビームを生成する。音は、マイクロフォン・アレイ720により受信され、オーディオ・ビームフォーミング技術を利用して処理され、ビデオ及びオーディオの双方の観点から改善されたターゲット・ソースを提供する。ノイズ及びその他の干渉(780)は適切にフィルタで除去される。結果のオーディオ・ビーム760は、図2ないし4に示されるものに類似する実施形態では図8の図形表現で示され、(図5及び6に類似する)分散したマイクロフォン・アレイ構成の実施形態では図9の参照番号960で使用される図形表現で示される。
図10では、オーディオ・システムが分散されたマイクロフォン・アレイ・システム1020を有する別の実施形態が使用されている。支配的なオーディオ方向940が決定される。その後、参照番号1050により示されるように、関心のある領域同士の間の交わりを算出することにより、関心深度(interest depth)に関する別の情報を取得することが可能であり、それにより、図1のステップ120と同様なビームフォーミングのような他のステップが行われる。
(不図示の)代替的な実施形態では、ユーザ・インタラクション・システムを提供することが可能であり、ユーザは、(i)オーディオに基づいて識別される方向候補の中から方向、及び(ii)幅を選択する。この選択に基づいて、一実施形態では、特定の選択された方向から到来する音に照準を合わせるために、上述したもののようなオーディオ・ビームフォーミング技術を使用することが可能である。最終的な焦点表面及び被写界深度は、これまでのように方向及び幅の情報に応じて選択されレンダリングされる。
図8ないし10の実施形態では、ビームフォーミング出力信号はx(t)である。出力信号は、位置A及びBからの双方の音を含むが、ターゲットのズーミング面(the targeted zooming plane)は、位置Bからの音のみを含むかもしれない。この例の場合、位置B付近のマイクロフォンからのオーディオ信号が活用され、それにより、最終的なオーディオ出力は、一実施形態では次のように与えられる:
xx(t)=alpha*x(t) + (1-alpha)*y(t)
ここで、「alpha 」は重み付け因子である。この例では、数式に示されるように、「alpha」の値が高いと、ローカルなマイクロフォン位置Bから記録されたオーディオ信号が、最終的なオーディオ・フォーカスに大きく寄与することを意味する。
図1を再び参照すると、最終的なステップ130が実行されている。ステップ130は、関心のあるオーディオ・ソースにより駆動されるビデオ・リフォーカシング・ステップである。関心のあるコーンの中のシーン要素は焦点を合わせてレンダリングされ、残りの焦点表面(及び被写界深度)は自動的に有意義な方法で推定される。これは、焦点面及び被写界深度を自動的かつ動的に選択する新しいオーディオ・ベースの魅力的な方法にアクセスすることを可能にする。このように、オーディオ・ズーム機能が、強く関連するビデオ焦点とともに強化されることも可能である。

Claims (15)

  1. 処理中にオーディオ・キャプチャ・デバイスと通信するプレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法であって、
    画像に関連する支配的なオーディオ・ソースの方向を決定するステップ;
    前記支配的なオーディオ・ソースに関連するもの以外の全てのオーディオ信号をフィルタで除くことにより、オーディオ・ズームを引き起こすステップ;及び
    引き起こされたオーディオ・ズームに基づいて前記画像の自動的なリフォーカシングを実行するステップ;
    を有する方法。
  2. 支配的なオーディオ・ソースの方向に基づいて、関心のあるオーディオ・シーンを識別するステップ;
    前記支配的なオーディオ・ソースに関連するもの以外の全てのオーディオ信号を選択的にフィルタで除くために、前記関心のあるオーディオ・シーンについてビームフォーミングを実行することにより、前記オーディオ・ズームを達成するステップ;
    を更に有する請求項1に記載の方法。
  3. 前記オーディオ・キャプチャ・デバイスが、マイクロフォン・アレイを更に有する、請求項1又は2に記載の方法。
  4. 前記プレノプティック・カメラがビデオ・カメラであり、前記キャプチャされた画像がビデオ画像である、請求項3に記載の方法。
  5. 前記オーディオ・キャプチャ・デバイスが、複数の場所に分散された複数のマイクロフォン・アレイを更に有する、請求項4に記載の方法。
  6. 前記関心のあるオーディオ・シーンの角度及び幅を決定することを含むオーディオ信号分析を実行するステップを更に有する、請求項2又は4に記載の方法。
  7. オーディオ・ソース位置確認法を利用することにより、オーディオ・ソースの方向を決定するステップを更に有する、請求項2に記載の方法。
  8. オーディオに基づいて識別される候補方向の中で特定の方向をユーザが選択するユーザ入力部を更に有する、請求項1に記載の方法。
  9. オーディオに基づいて識別される候補方向において特定の幅をユーザが選択するユーザ入力部を更に有する、請求項1に記載の方法。
  10. オーディオに基づくリフォーカシング画像システムであって:
    ビデオ画像をキャプチャするプレノプティック・ビデオ・カメラ;
    キャプチャされた画像に関連する音をキャプチャするオーディオ・キャプチャリング手段;
    画像に関連する支配的なオーディオ・ソースを決定する手段;
    前記支配的なオーディオ・ソースの方向を決定するためにオーディオ信号分析を実行する手段;
    支配的なオーディオ・ソースの方向に基づいて、関心のあるオーディオ・シーンを識別する手段;
    前記支配的なオーディオ・ソースに関連するもの以外の全てのオーディオ信号をフィルタで選択的に除くために、関心のあるオーディオ・シーンについてビームフォーミングを実行することにより、オーディオ・ズームを引き起こす手段;及び
    引き起こされたオーディオ・ズームに基づいて前記画像の自動的なリフォーカシングをもたらす手段;
    を有する、オーディオに基づくリフォーカシング画像システム。
  11. 前記プレノプティック・カメラによりキャプチャされた画像を表示する表示手段を更に有する、請求項10に記載のオーディオに基づくリフォーカシング画像システム。
  12. 前記プレノプティック・カメラ、表示手段、及び前記オーディオ・キャプチャ・デバイスと通信するプロセッサを更に有する、請求項10に記載のオーディオに基づくリフォーカシング画像システム。
  13. 前記プロセッサは、支配的なオーディオ・ソースの方向に基づいて、関心のあるオーディオ・シーンを識別するように構成されている、請求項12に記載のオーディオに基づくリフォーカシング画像システム。
  14. 前記オーディオ・ズームは、前記関心のあるオーディオ・シーンについてビームフォーミングを実行することにより生じる、請求項10又は13に記載のオーディオに基づくリフォーカシング画像システム。
  15. 前記プレノプティック・カメラはビデオ・カメラであり、前記キャプチャされた画像はビデオ画像である、請求項10に記載のオーディオに基づくリフォーカシング画像システム。
JP2021016349A 2015-09-29 2021-02-04 プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム Active JP7178435B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP15306528.9A EP3151534A1 (en) 2015-09-29 2015-09-29 Method of refocusing images captured by a plenoptic camera and audio based refocusing image system
EP15306528.9 2015-09-29

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018535248A Division JP6835853B6 (ja) 2015-09-29 2016-09-28 プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム

Publications (2)

Publication Number Publication Date
JP2021090208A true JP2021090208A (ja) 2021-06-10
JP7178435B2 JP7178435B2 (ja) 2022-11-25

Family

ID=54337220

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018535248A Active JP6835853B6 (ja) 2015-09-29 2016-09-28 プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム
JP2021016349A Active JP7178435B2 (ja) 2015-09-29 2021-02-04 プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018535248A Active JP6835853B6 (ja) 2015-09-29 2016-09-28 プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム

Country Status (6)

Country Link
US (1) US10880466B2 (ja)
EP (3) EP3151534A1 (ja)
JP (2) JP6835853B6 (ja)
KR (1) KR20180059802A (ja)
CN (2) CN115297255A (ja)
WO (1) WO2017055348A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10531187B2 (en) * 2016-12-21 2020-01-07 Nortek Security & Control Llc Systems and methods for audio detection using audio beams
GB201800918D0 (en) 2018-01-19 2018-03-07 Nokia Technologies Oy Associated spatial audio playback
KR20200020590A (ko) 2018-08-16 2020-02-26 한화테크윈 주식회사 시각화된 객체에서 특정영역의 소리를 추출하는 감시 카메라 시스템 및 그 동작 방법
WO2020036377A1 (ko) * 2018-08-16 2020-02-20 한화테크윈 주식회사 시각화된 객체에서 특정영역의 소리를 추출하는 감시 카메라 시스템 및 그 동작 방법
KR20210048271A (ko) * 2019-10-23 2021-05-03 엘지전자 주식회사 복수 객체에 대한 자동 오디오 포커싱 방법 및 장치
EP3866457A1 (en) * 2020-02-14 2021-08-18 Nokia Technologies Oy Multi-media content
US11259112B1 (en) * 2020-09-29 2022-02-22 Harman International Industries, Incorporated Sound modification based on direction of interest

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005354223A (ja) * 2004-06-08 2005-12-22 Toshiba Corp 音源情報処理装置、音源情報処理方法、音源情報処理プログラム
CN101278596A (zh) * 2005-09-30 2008-10-01 史克尔海德科技公司 定向音频捕获
US20100110232A1 (en) * 2008-10-31 2010-05-06 Fortemedia, Inc. Electronic apparatus and method for receiving sounds with auxiliary information from camera system
US20100123785A1 (en) * 2008-11-17 2010-05-20 Apple Inc. Graphic Control for Directional Audio Input
JP2011211291A (ja) * 2010-03-29 2011-10-20 Sanyo Electric Co Ltd 画像処理装置、撮像装置及び表示装置
JP2011259397A (ja) * 2010-06-11 2011-12-22 Nippon Telegr & Teleph Corp <Ntt> 瞬時直間比推定装置、雑音除去装置、遠近判定装置、音源距離測定装置と、各装置の方法と、装置プログラム
JP2012015651A (ja) * 2010-06-29 2012-01-19 Sanyo Electric Co Ltd 電子機器
JP2012512413A (ja) * 2008-12-16 2012-05-31 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ パーティクルフィルタリングを利用した音源位置の推定
JP2014050005A (ja) * 2012-09-03 2014-03-17 Canon Inc 再生装置、再生装置の制御方法
US20140176663A1 (en) * 2012-12-20 2014-06-26 Microsoft Corporation Privacy camera
CN104780341A (zh) * 2014-01-10 2015-07-15 华为技术有限公司 一种信息处理方法以及信息处理装置

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020140804A1 (en) 2001-03-30 2002-10-03 Koninklijke Philips Electronics N.V. Method and apparatus for audio/image speaker detection and locator
US20030160862A1 (en) * 2002-02-27 2003-08-28 Charlier Michael L. Apparatus having cooperating wide-angle digital camera system and microphone array
US7483061B2 (en) * 2005-09-26 2009-01-27 Eastman Kodak Company Image and audio capture with mode selection
EA011601B1 (ru) * 2005-09-30 2009-04-28 Скуэрхэд Текнолоджи Ас Способ и система для направленного захвата аудиосигнала
KR101524463B1 (ko) 2007-12-04 2015-06-01 삼성전자주식회사 어레이 스피커를 통해 음향을 포커싱하는 방법 및 장치
US8782988B2 (en) * 2008-02-06 2014-07-22 Boral Stone Products Llc Prefabricated wall panel with tongue and groove construction
WO2010065344A1 (en) * 2008-11-25 2010-06-10 Refocus Imaging, Inc. System of and method for video refocusing
US8300845B2 (en) * 2010-06-23 2012-10-30 Motorola Mobility Llc Electronic apparatus having microphones with controllable front-side gain and rear-side gain
US9274744B2 (en) * 2010-09-10 2016-03-01 Amazon Technologies, Inc. Relative position-inclusive device interfaces
US20130076931A1 (en) * 2011-09-22 2013-03-28 John Norvold Border Plenoptic lens unit providing refocusable imaging mode
CN103875034B (zh) 2011-10-17 2018-03-09 皇家飞利浦有限公司 基于医疗环境中的声音分析的医疗反馈系统
TW201318421A (zh) 2011-10-24 2013-05-01 Hon Hai Prec Ind Co Ltd 控制攝影機裝置的系統及方法
EP2837211B1 (en) * 2012-04-13 2017-08-30 Nokia Technologies Oy Method, apparatus and computer program for generating an spatial audio output based on an spatial audio input
EP2680616A1 (en) * 2012-06-25 2014-01-01 LG Electronics Inc. Mobile terminal and audio zooming method thereof
US9607424B2 (en) * 2012-06-26 2017-03-28 Lytro, Inc. Depth-assigned content for depth-enhanced pictures
US9258644B2 (en) * 2012-07-27 2016-02-09 Nokia Technologies Oy Method and apparatus for microphone beamforming
US8754829B2 (en) * 2012-08-04 2014-06-17 Paul Lapstun Scanning light field camera and display
EP2720464B1 (en) 2012-10-11 2018-01-10 Sony Mobile Communications Inc. Generating image information
WO2014080074A1 (en) * 2012-11-20 2014-05-30 Nokia Corporation Spatial audio enhancement apparatus
US10127912B2 (en) * 2012-12-10 2018-11-13 Nokia Technologies Oy Orientation based microphone selection apparatus
CN104969264A (zh) 2012-12-21 2015-10-07 维迪诺蒂有限公司 用于将注解添加到全光光场的方法和设备
CN104281397B (zh) * 2013-07-10 2018-08-14 华为技术有限公司 多深度区间的重聚焦方法、装置及电子设备
US20150022636A1 (en) * 2013-07-19 2015-01-22 Nvidia Corporation Method and system for voice capture using face detection in noisy environments
KR102021857B1 (ko) * 2013-07-23 2019-09-17 엘지전자 주식회사 이동 단말기 및 그의 파노라마 촬영방법
US9596437B2 (en) * 2013-08-21 2017-03-14 Microsoft Technology Licensing, Llc Audio focusing via multiple microphones
US20150130907A1 (en) * 2013-11-11 2015-05-14 Samsung Electronics Co., Ltd. Plenoptic camera device and shading correction method for the camera device
US20150146078A1 (en) * 2013-11-27 2015-05-28 Cisco Technology, Inc. Shift camera focus based on speaker position
US20170287499A1 (en) * 2014-09-05 2017-10-05 Thomson Licensing Method and apparatus for enhancing sound sources
KR101990370B1 (ko) * 2014-11-26 2019-06-18 한화테크윈 주식회사 카메라 시스템 및 카메라 시스템 동작 방법
EP3139614A1 (en) * 2015-09-07 2017-03-08 Thomson Licensing Method and device for encoding and decoding a light field based image, and corresponding computer program product
EP3151535A1 (en) * 2015-09-29 2017-04-05 Thomson Licensing Plenoptic camera having an array of sensors for generating digital images and method of capturing an image using a plenoptic camera

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005354223A (ja) * 2004-06-08 2005-12-22 Toshiba Corp 音源情報処理装置、音源情報処理方法、音源情報処理プログラム
CN101278596A (zh) * 2005-09-30 2008-10-01 史克尔海德科技公司 定向音频捕获
US20100110232A1 (en) * 2008-10-31 2010-05-06 Fortemedia, Inc. Electronic apparatus and method for receiving sounds with auxiliary information from camera system
US20100123785A1 (en) * 2008-11-17 2010-05-20 Apple Inc. Graphic Control for Directional Audio Input
JP2012512413A (ja) * 2008-12-16 2012-05-31 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ パーティクルフィルタリングを利用した音源位置の推定
JP2011211291A (ja) * 2010-03-29 2011-10-20 Sanyo Electric Co Ltd 画像処理装置、撮像装置及び表示装置
JP2011259397A (ja) * 2010-06-11 2011-12-22 Nippon Telegr & Teleph Corp <Ntt> 瞬時直間比推定装置、雑音除去装置、遠近判定装置、音源距離測定装置と、各装置の方法と、装置プログラム
JP2012015651A (ja) * 2010-06-29 2012-01-19 Sanyo Electric Co Ltd 電子機器
JP2014050005A (ja) * 2012-09-03 2014-03-17 Canon Inc 再生装置、再生装置の制御方法
US20140176663A1 (en) * 2012-12-20 2014-06-26 Microsoft Corporation Privacy camera
CN104780341A (zh) * 2014-01-10 2015-07-15 华为技术有限公司 一种信息处理方法以及信息处理装置

Also Published As

Publication number Publication date
EP3357230A1 (en) 2018-08-08
EP3151534A1 (en) 2017-04-05
US20180288307A1 (en) 2018-10-04
JP7178435B2 (ja) 2022-11-25
KR20180059802A (ko) 2018-06-05
EP3357230B1 (en) 2022-11-02
WO2017055348A1 (en) 2017-04-06
JP6835853B6 (ja) 2021-05-26
JP6835853B2 (ja) 2021-02-24
CN115297255A (zh) 2022-11-04
EP4123368A1 (en) 2023-01-25
JP2018536365A (ja) 2018-12-06
CN108370411A (zh) 2018-08-03
US10880466B2 (en) 2020-12-29

Similar Documents

Publication Publication Date Title
JP7178435B2 (ja) プレノプティック・カメラによりキャプチャされた画像をリフォーカシングする方法及びオーディオに基づくリフォーカシング画像システム
JP7396341B2 (ja) 映像音響処理装置および方法、並びにプログラム
US10074012B2 (en) Sound and video object tracking
JP6288952B2 (ja) 撮像装置およびその制御方法
CN107439002B (zh) 深度成像
US20150022636A1 (en) Method and system for voice capture using face detection in noisy environments
JP6838994B2 (ja) 撮像装置、撮像装置の制御方法およびプログラム
KR20150120317A (ko) 리포커싱을 실행하는 방법 및 전자 기기
JP6800797B2 (ja) 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム
US9759994B1 (en) Automatic projection focusing
KR20170042226A (ko) 멀티-애퍼처 이미징 시스템을 위한 애플리케이션 프로그래밍 인터페이스
EP3275213B1 (en) Method and apparatus for driving an array of loudspeakers with drive signals
KR20180008588A (ko) 스테레오 오토포커스
US10664128B2 (en) Information processing apparatus, configured to generate an audio signal corresponding to a virtual viewpoint image, information processing system, information processing method, and non-transitory computer-readable storage medium
CN113853529A (zh) 用于空间音频捕获的装置和相关方法
US20210274108A1 (en) A Device Having Exactly Two Cameras and a Method of Generating Two Images Using the Device
JP2018019295A (ja) 情報処理システム及びその制御方法、コンピュータプログラム
KR101683634B1 (ko) 플레놉틱 카메라 원리를 이용한 디지털 촬상 장치
WO2023189079A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
CN111629126A (zh) 音视频采集设备和方法
CN115244570A (zh) 合并分离像素数据以获得更深景深

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210304

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221114

R150 Certificate of patent or registration of utility model

Ref document number: 7178435

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150