JP6803335B2 - 時間的分解能及び知覚される画像鮮鋭度を改善した画像捕捉 - Google Patents

時間的分解能及び知覚される画像鮮鋭度を改善した画像捕捉 Download PDF

Info

Publication number
JP6803335B2
JP6803335B2 JP2017531563A JP2017531563A JP6803335B2 JP 6803335 B2 JP6803335 B2 JP 6803335B2 JP 2017531563 A JP2017531563 A JP 2017531563A JP 2017531563 A JP2017531563 A JP 2017531563A JP 6803335 B2 JP6803335 B2 JP 6803335B2
Authority
JP
Japan
Prior art keywords
frame
pixel
pixel output
image
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017531563A
Other languages
English (en)
Other versions
JP2017538360A (ja
Inventor
クラウス ヴェーバー
クラウス ヴェーバー
ヘール ロニー ファン
ヘール ロニー ファン
Original Assignee
ジーブイビービー ホールディングス エス.エイ.アール.エル.
ジーブイビービー ホールディングス エス.エイ.アール.エル.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ジーブイビービー ホールディングス エス.エイ.アール.エル., ジーブイビービー ホールディングス エス.エイ.アール.エル. filed Critical ジーブイビービー ホールディングス エス.エイ.アール.エル.
Publication of JP2017538360A publication Critical patent/JP2017538360A/ja
Application granted granted Critical
Publication of JP6803335B2 publication Critical patent/JP6803335B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/51Control of the gain

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

関連出願の相互参照
本願は、「IMPROVED TEMPORAL RESOLUTION AND PERCEIVED IMAGE SHARPNESS」という名称の2014年12月15日に出願された米国仮特許出願第62/092110号明細書の利益を主張するものであり、この仮特許出願は全体的に、参照により本明細書に援用される。
本開示は、一般的には画像データに関する。態様は、カメラに組み込み得、例えば、超高精細(UHD)ディスプレイ用の画像の生成に使用し得る。
超高精細(UHD)ディスプレイは、テレビ、パーソナルコンピュータ及びタブレット、スマートフォン、並びにカメラビューファインダを含め、様々な用途で使用されている。そのようなディスプレイでの鮮鋭度の低減は、画像内での物体の相対移動に起因して生じ得る。カメラビューファインダの場合、「モーションブラー」の影響は、各画像の比較的長い露出時間により生じる(50Hzシステムでは20ms、59.94Hzシステムでは16.6ms)。物体が、カメライメージャの画像露出中に移動する場合、物体が複数のピクセルにわたり拡散するため、細部が失われる。一解決策は、秒毎に捕捉されているフレーム数を増大させ、その結果として、個々の各フレームの露出時間を低減することである。より高いフレームレートでのこれらのフレームは全て、ディスプレイに送信されて、より鮮鋭な画像を送出し得るが、信号帯域幅での大きな費用がかかる。加えて、カメラが毎秒当たりより多くの画像を生成するため、画像センサが画像毎に受信する光子量は低減し、結果としてカメラの光感度は低減し、信号対雑音比は低くなる。
毎秒当たりより多くの画像を生成することへの代替として、電子シャッターを使用することにより露出を低減して、毎秒当たりのフレーム数を同じに維持することもでき、各画像の露出時間のみが短くなる。これは、モーションブラーを低減する(移動の時間が短くなるため)が、光感度の低減にも繋がり、加えて、憂慮すべきストロボ効果(すなわち、「ブレ」)をもたらす。この手法を効率的に使用することにより、シャッターが閉じられたとき、フレーム内にゼロ露出(すなわち、黒さ)を生成し、画像間にギャップを生み出す。人間の目は、フレームからフレームに物体の動きを「追跡」しようと試みる。空中を飛ぶボールは、各画像ではカミソリのように鮮鋭であることができるが、カメラ画像センサは短い露出移動しか捕捉していないため、視覚的軌跡情報は失われ、ボールはシーンを通してとびとびに見え、動きの平滑性を欠く。人間の視覚系は物体を追跡するように「訓練」されているため、これは気を取られる視覚経験に繋がる。
以下は、1つ又は複数の態様の基本的理解を提供するために、そのような態様の簡略化した概要を提示する。この概要は、意図される全ての態様の広範囲に及ぶ概説ではなく、全ての態様の主要要素又は重要要素の識別も意図していなければ、任意又は全ての態様の範囲を定めることも意図してない。概要の唯一の目的は、以下提示されるより詳細な説明への前置きとして、1つ又は複数の態様の幾つかの概念を簡略化された形態で提示することである。
本明細書に提示される態様は、露出中、複数のポイントで画像センサ出力を捕捉することにより、画像性能の改善及び画像ブラーの低減を提供する。複数のポイントからの情報を使用して、画像を表す改善された信号を生成し得る。
態様は、一連のフレームでビデオ画像を捕捉するカメラ、方法、装置、システム、及びコンピュータ可読媒体を含み得、ピクセルアレイを有する画像センサを含む。各ピクセルは、光子を受け取り、光子の受け取りに応答して電荷を蓄積する。ピクセルプロセッサは、フレームの中間部分中、少なくとも一度、各ピクセルにより蓄積された電荷をサンプリングし、サンプルを処理して、デジタル画像を生成し、それにより、ディスプレイでのモーションブラーを低減する。
上記及び関連する目的を達成するために、1つ又は複数の態様は、以下十分に説明され、特許請求の範囲において特に指摘される特徴を備える。以下の説明及び添付図面は、1つ又は複数の態様の特定の例示的な特徴を詳細に記載する。しかし、これらの特徴は、様々な態様の原理を利用し得る様々な方法の少数のみを示しており、この説明は、そのような態様及びそれらの均等物の全ての包含を意図する。
ビューファインダディスプレイを有する例としてのカメラシステム100のブロック図である。 図2Aは、細部補正信号のために中間露出を使用することにより強化されたピクセルプロセッサの細部補正回路例のブロック図である。図2Bは、複数の中間露出を決定する減算器例のブロック図である。 動きが存在することの指示としての一連の露出中のピクセル電荷率例のグラフ図である。 細部補正信号のために中間露出を適用する方法例のフローチャートである。 図5Aは、動き検出に応答して、中間露出のピクセル出力に切り替えるモーションブラー低減回路例のブロック図である。図5Bは、中間露出プロセッサ例のブロック図である。 動きが検出される場合、中間露出からピクセル出力に切り替える方法例のフローチャートである。 移動中の物体に露出される一連の隣接ピクセルのピクセル電荷率及びピクセル出力のグラフ図である。 図2A及び図5Aの要素を結合する細部補正回路のブロック図である。 移動中の物体に露出される一連の隣接ピクセルのピクセル電荷出力のグラフ図である。
添付図面と併せて以下に記載される詳細な説明は、様々な構成の説明として意図され、本明細書に記載される概念を実施し得る唯一の構成を表すことを意図しない。詳細な説明は、様々な概念の完全な理解を提供するために、具体的な詳細を含む。しかし、これらの概念が、これらの具体的な詳細なしで実施可能なことが当業者には明白であろう。幾つかの場合、周知の構造及び構成要素は、そのような概念を曖昧にしないように、ブロック図の形態で示されている。
ビデオ制作システムの特定の態様について、様々な装置及び方法を参照してこれより説明する。これらの装置及び方法は、以下の詳細な説明で説明され、様々なブロック、モジュール、構成要素、回路、ステップ、プロセス、アルゴリズム等(まとめて「要素」と呼ぶ)により添付図面に示される。これらの要素は、電子ハードウェア、コンピュータソフトウェア、又はそれらの任意の組合せを使用して実施し得る。そのような要素がハードウェアで実施されるか、それともソフトウェアで実施されるかは、特定の用途及び全体システムに課される設計制約に依存する。
例として、要素、要素の任意の部分、又は要素の任意の組合せは、1つ又は複数のプロセッサを含む「ピクセルプロセッサ」を用いて実施し得る。プロセッサの例としては、マイクロプロセッサ、マイクロコントローラ、画像プロセッサ、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、プログラマブル論理デバイス(PLD)、状態機械、ゲーテッド論理、離散ハードウェア回路、及び本開示全体を通して記載される様々な機能を実行するように構成される他の適するハードウェアが挙げられる。処理システム内の1つ又は複数のプロセッサは、ソフトウェアを実行し得る。ソフトウェアは、呼ばれ方がソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語等であれ関係なく、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、プロシージャ、関数等を広く意味するものと解釈されるものとする。ソフトウェアは、非一時的コンピュータ可読媒体に常駐し得る。コンピュータ可読媒体は、例として、磁気記憶デバイス(例えば、ハードディスク、フロッピーディスク、磁気ストリップ)、光ディスク(例えば、コンパクトディスク(CD)、デジタル多用途ディスク(DVD))、スマートカード、フラッシュメモリデバイス(例えば、カード、スティック、キードライブ)、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、プログラマブルROM(PROM)、消去可能PROM(EPROM)、電気的消去可能PROM(EEPROM)、レジスタ、リムーバブルディスク等の非一時的記憶装置並びに搬送波、伝送線、及びソフトウェアの記憶又は伝送に適する任意の他の媒体を含み得る。コンピュータ可読媒体は、処理システムに常駐してもよく、処理システムの外部にあってもよく、又は処理システムを含む複数のエンティティにわたり分散してもよい。特定の用途及び全体システムに課される全体設計制約に応じて、本開示全体を通して提示される記載される機能を最良に実施する方法を当業者は認識するであろう。
図1は、ピクセルプロセッサ122を実施する例としてのカメラシステム100を示す簡易化ブロック図である。カメラシステム100は、カメラ102、ビューファインダ104、及びレンズ系106を備え得る。カメラ102は画像センサ120を含み得、画像センサ120は、光子を電荷に変換するピクセルのアレイを備え得る。特に、画像センサは、電荷結合素子(CCD)又は相補型金属酸化膜半導体(CMOS)を備え得る。したがって、ピクセルアレイは、CCDピクセル又はCMOSピクセルのアレイを含み得る。画像は、レンズ系106により画像センサ120に投射される。画像センサ120の出力は、ピクセルアレイからの出力信号を含む。画像センサ120は、各ピクセルの光子入力レベルをアレイ内の各ピクセルの比例電圧信号に変換することにより、電圧信号を生成する。画像センサ120のピクセルは、光子に露出され、例えば、レンズ系106により投射され、フレーム露出という時間単位で画像センサのピクセルにより読み取られる。各ピクセルは、露出フレームの過程中、画像を表す電荷を蓄積する。画像センサ120は、電荷をアナログ出力電圧信号に変換し得る。代替的には、画像センサ120は、電荷をアナログ電圧に変換し、アナログ/デジタル変換器を使用してアナログ電圧をデジタル信号に変換して、例えば、デジタル出力電圧信号を生成し得る。画像センサ120は、フレームレートで周期的に出力電圧信号を送信し得る。ピクセルは、蓄積された電荷を放電することによりリセットし得、それにより、次のフレームの次のピクセル電荷蓄積を開始することができる。光子量は、ピクセル出力に向けてそれ以上は電荷を蓄積することができない飽和閾値まで電圧信号に変換し得る。一例では、複数の画像センサ120が同期して動作し得る。複数の画像センサ120は、互いと異なる位相で動作することもできる。
ピクセルプロセッサ121は、モーションブラーについて画像センサピクセル出力信号を補正するように構成し得る。ピクセルプロセッサ121の出力は、ビデオシーケンスの各フレーム露出の画像を形成するピクセル信号のアレイであり得る。カメラ102は、一連の画像を受信し、所望のフレームレート、アスペクト比等を有するデジタルビデオ出力を生成するビデオプロセッサ122を含む。ビデオプロセッサ122は、ホワイトバランス、色補正、及びガンマ補正をビデオ画像に対して実行することもできる。ビデオプロセッサ122は、上記機能のうちの1つ又は複数を実行するようにそれぞれ構成された複数の別個のプロセッサとして実施し得る。代替的には、ピクセルプロセッサ121及びビデオプロセッサ122は、逆に配置し得、それにより、ピクセルプロセッサ121は、ビデオプロセッサ122により既に補正された画像をピクセル単位で処理する。
エンコーダ124は、未処理ビデオ出力をビデオプロセッサ122から受信し、特定の仕様(例えば、シリアルデジタルインタフェース(SDI)、H.264/MPEG−4アドバンストビデオコーディング、又は高精細マルチメディアインタフェース(HDMI(登録商標)))に従って符号化されたフォーマットデジタルビデオ信号を生成し得る。エンコーダ124からの信号は、ビデオ制作システムへ及び/又は送受信機126を使用してネットワークを介して送信される出力であり得る。エンコーダ124は、符号化されたビデオフィード又は未処理ビデオフィードをビューファインダ104に提供することもできる。
ビューファインダ104は、符号化ビデオ又は未処理ビデオをエンコーダ124から受信し、画像データをディスプレイ142に提供するように構成されるデコーダ141を含み得る。一例では、ディスプレイ142は、各ピクセルに有機発光ダイオード(OLED)を含み得、それにより、発光ダイオード(LED)は、電流に応答して発光する有機化合物から形成される発光性エレクトロルミネセンス層でコーティングされる。ディスプレイ142に画像を生成するために、これら及び他のデバイスが使用可能である。
レンズ系106は、1枚又は複数枚のレンズを含み得、レンズの所望の光学構成を提供するように制御し得、所望の光学構成は、例えば、被写界深度設定、開口数、及び焦点距離を指定し得る。
図2Aは、フレームの中間部分中、画像センサ120をサンプリングして、画像を表す信号を生成するピクセルプロセッサ121の例としての細部補正回路200のブロック図である。画像センサ120のピクセル毎に、サンプル器202は入力201を受信し、入力201は、画像センサ120から受信されるピクセル出力である。サンプル器202は、離散時間サンプルS1〜Snにおいて蓄積ピクセル出力値(例えば、電荷又は出力電圧信号値)を読み取り得る。サンプルS1〜Snは、露出フレームの開始時及び終了時にそれぞれ生じ得、1つ又は複数のサンプルがサンプルS1とSnとの間に生じる。例えば、n=4の場合、サンプルSn=S4はフレーム露出の終了時に生じ、サンプルS2は全フレーム露出間隔の約25%で生じ得、サンプルS3は全フレーム露出間隔の約75%で生じ得る。代替的には、サンプルS2は全フレーム露出間隔の約33%で生じ得、サンプルS3は全フレーム露出間隔の約66%で生じ得る。代替の例として、n=3の場合、サンプルS3は露出フレームの終了時に生じ、サンプルS2は、フレーム露出の約25%と約75%との間のどこかで生じ得る。n>4の場合の他の可能な代替の変形が実施可能であり、サンプル202器は、全フレーム露出内のピクセル出力値の追加のサンプルを提供する。画像センサ120のCMOS実施の場合、サンプル器202は、上述したように動作して、露出フレーム毎に複数のサンプルを読み取り得る。画像センサ120のCCD実施の場合、中間サンプルの読み取りは、単一フレーム内で可能ではないことがある。したがって、CCD画像センサ120は、公称フレーム内で複数のサンプルをシミュレートするために、カメラ100の公称レートより高速のフレームレートで動作する必要があり得る。例えば、カメラ100のビデオ信号は、50FPS(20msフレーム)レートで処理され、サンプル器202は、フレーム毎に4つのサンプル(n=4)を必要とし、CCD画像センサ120は、200FPS(5msフレーム)でのより高速のレートで動作し、20msフレーム毎に4つのCCD画像をもたらし得る。各組のサンプルS1〜S4が次に、同等の20msフレームでの4つのCCD画像のブロックから導出し得る。
減算器203は、サンプルSnでの蓄積ピクセル出力値からサンプルS1でのピクセル出力値を減算することにより、全フレーム露出の蓄積ピクセル出力(例えば、電荷又は出力電圧信号値)を特定する。減算器204は、サンプルS3での蓄積ピクセル出力値からサンプルS2での蓄積ピクセル出力値を減算することにより、中間フレーム露出の蓄積ピクセル出力値を特定する。n=4、露出フレームの25%におけるサンプルS2、及び全フレーム露出間隔の75%におけるサンプルS3の例では、中間露出は、フレーム露出の中間50%のピクセル出力値を提供する。n=4、フレーム露出の約33%で生じるサンプルS2、及び全フレーム露出の約66%におけるサンプルS3の例では、中間露出は、全フレーム露出の中部1/3でのピクセル出力を提供する。代替的には、n=3の例では、サンプルS3は全フレーム露出の終了時に生じ、サンプルS2が全フレーム露出の50%において生じ、減算器204は、サンプルS3におけるピクセル出力値からサンプルS2におけるピクセル出力値を減算して、全フレーム露出の最後の半分に関連する中間露出値を提供し得る。代替的には、減算器204は、サンプルS2におけるピクセル出力値からサンプルS1におけるピクセル出力値を減算して、全フレーム露出の最初の半分に関連する中間露出値を提供し得る。
図2Bは、複数の中間露出を特定し得る例としての減算器204のブロック図を示す。サンプル器202がサンプルSn、n>4を読み取る実施形態では、複数の中間露出が、複数の減算器214を使用して、各中間露出をそれぞれ別個に特定することにより、減算器204により取得し得る。例えば、n=6の場合、中間露出S6〜S5、S5〜S4、S4〜S3、S3〜S2及びS2〜S1は、1つ又は複数の減算器214により特定し得る。セレクタ224は、どの中間露出が細部補正回路200により処理されるべきかを適応的に選択するマルチプレクサとして実施し得る。
増幅器205は、中間フレーム露出のピクセル出力を受信し、全フレーム露出への正規化として増幅する。例えば、増幅器205は、6dBブーストを蓄積ピクセル出力値に適用し得る。細部プロセッサ206は、増幅されたピクセル出力値を受信し、細部補正アルゴリズムを適用して、モーションブラーを補正する。細部プロセッサ206は、任意の信号遷移において補正信号を生成することにより、知覚される画像の鮮鋭度を改善する。輝度及び/又は色差での遷移は、細部プロセッサ206により強化されて、シーンでの物体を強化する。計算された細部補正は、ピクセル毎に元の画像に追加される。この細部補正信号は、画像の鮮鋭度に依存する。この例では、中間露出はピクセルのモーションブラーの50%を含む。細部補正を全フレーム露出の代わりにより短い中間フレーム露出に対して実行することにより、ピクセルでのモーションブラーの影響は低減され、細部補正の有効性を強化する。合算器207は、細部補正信号を全露出ピクセル出力に加算し、それにより、強化ピクセル出力208を与えるように構成される。
図3は、一連の単一のフレーム露出301、302、303中の複数のサンプルS1〜Snの画像センサ120のピクセル出力のサンプリング例のグラフ図である。この例では、n=4であり、蓄積ピクセル出力値は順次、サンプルS1、S2、S3、及びS4において読み取られ、サンプルS1はフレームの開始時に生じ、サンプルS4はフレームの終了時に生じるため、サンプルS1及びS4は、全フレーム露出の蓄積ピクセル出力を提供する。中間フレーム露出の画像センサ120のピクセル出力は、サンプルS2とS3との間で取得することができる。露出301では、S1とS4との間の間隔中の蓄積ピクセル出力の一定の傾きは、このピクセルの一定の光子入力を示し、これは、一定の光レベルがカメラの視野内の物体から反射されていることを意味する。光レベルは一定であるため、物体は固定されており、フレーム露出301内でこのピクセル単位にわたり移動しない可能性が高い。これとは対照的に、フレーム露出302及び303は、各サンプル対間隔(例えば、Si及びSi+1)間のピクセル電荷率変動を示す。例えば、露出302において、ピクセル電荷蓄積率は、サンプルS1とS2との間、サンプルS2とS3との間で一定であるが、サンプルS3とSnとの間で下がり、より明るい物体からより暗い物体にピクセル出力の動きが存在し、ひいてはモーションブラーの潜在性が存在することを明らかにする。露出303は、ピクセル電荷率がS1とS3との間のピクセル電荷率と比較してサンプルS3とSnとの間で増大するため、画像センサ120のピクセルにより検知されるより暗い物体からより明るい物体への遷移(すなわち、ピクセルによりより明るい光子が検知されている)として動きの存在を示す。したがって、サンプル器202が各フレーム内の中間露出(例えば、サンプルS2とS3との間)を追跡するように構成される場合、動きは検出可能である。これとは対照的に、フレームの開始時及びフレームの終了時(すなわち、サンプルS1及びSnにおいて)のみでピクセル出力を測定する従来の手法は、ミスリードさせるピクセル電荷率312及び313が生じ、動きの指示を見過ごすおそれがある。
図4は、細部補正回路300を実施する例としての方法400のフローチャートを示す。ステップ402において、ピクセル出力値(すなわち、電荷又は出力電圧信号値)は、サンプル器302によりサンプルS1〜Snにおいて読み取られる。ステップ404において、中間フレーム露出のピクセル出力を減算器204により特定し得る。例えば、図3の例に関連して説明したように、中間フレーム露出のピクセル出力は、サンプルS3におけるピクセル出力からサンプルS2におけるピクセル出力を減算することにより、サンプリングし得る。増幅器205は、ステップ406において、中間露出のピクセル出力値を増幅し得る。任意選択的な態様が、図4において破線で示される。細部プロセッサ206は、ステップ408において、中間露出の増幅されたピクセル出力値の細部処理を実行し、細部補正信号210を生成する。この細部補正は、細部処理を全露出期間に対して実行することと比較して、より短い中間露出期間に対する動きの露出を低減することにより強化される。ステップ410において、細部補正信号210は、合算器207において全露出のピクセル出力値に加算し得、モーションブラーが補正された最終的なピクセル出力信号208を生成する。細部処理は中間露出に基づき得るが、ピクセル出力信号208は、全露出ピクセル出力に細部補正信号210を加えたものを捕捉する。したがって、方法400は、単に各フレーム露出のピクセル出力をシャッターして、フレーム内の動きの持続時間を圧縮する従来の手法を使用して生じるいかなるブレもなく、画像センサピクセルでのモーションブラーの影響を低減する。
図5Aは、ピクセルプロセッサ121の例としてのモーションブラー低減回路500のブロック図である。サンプル器202の入力501は、ピクセル信号を画像センサ120からとり、複数のサンプルS1〜Snにおいて蓄積ピクセル出力を読み取る。減算器203は、図2を参照して上述したように、全露出ピクセル出力を特定する。減算器504は、図2の減算器204に関して上述した様式と同様に、中間露出ピクセル出力を特定する。コンパレータ506は、図3の露出302、303に示されるように、中間露出サンプリングを利用して、動きを検出するように構成される。一実施形態では、コンパレータ506は、全露出持続時間と中間露出持続時間との比率を特定するように構成される。例えば、サンプルS2とS3との間隔が、サンプルS1とS4との全露出間隔の50%である場合、コンパレータ506は、S3〜S2間隔が間隔Sn〜S1の半分であり、したがって、ピクセル電荷率が一定の場合、S3〜S2間隔中のピクセル出力が全フレーム間隔Sn〜S1のピクセル出力の半分であると判断し得る。次に、コンパレータ506は、中間露出のピクセル出力を全露出のピクセル出力の半分と比較し得る。この比較が等比較である場合、予期されるピクセル出力が一定である(例えば、図3の露出301は一定のピクセル電荷率を示す)ことが確認されたため、コンパレータは、動きが存在しないと判断する。他方、比較が不等比較である場合、コンパレータ506は、このフレームでのピクセル電荷率が一定ではないと判断し、したがって、動きが検出される。動きの持続時間が低減する場合、モーションブラーの影響は低減するため、コンパレータ506は、スイッチ507を位置Bに動作させ、ピクセル出力508を中間露出から導出できるようにする。増幅器205は、全露出のピクセル出力に比例するようにピクセル出力を正規化する。50%中間露出の例では、増幅器205は、概ね200%、ピクセル出力値をブーストするように構成される。動きがコンパレータ506により検出されない場合、スイッチ507は、コンパレータ506からの制御信号に応答して、位置Aに動くように構成され、全露出ピクセル出力をピクセル出力508として送信できるようにする。画像センサピクセルアレイの各ピクセルは、それに従って処理されて、フレームの全デジタル画像を生成し得る。したがって、ピクセルでの動きの検出に応じるとともに、スイッチ507の切り替えを用いて、全露出のピクセル出力508と、中間露出のピクセル出力508との混合を有するデジタル画像を生成して、全デジタル画像のピクセルアレイを形成し得る。
図5Bは、中間露出ピクセル出力を導出する代替の実施形態のブロック図例を示す。減算器504の代わりに、中間露出プロセッサ504’は、中間露出セレクタ524により実施し得、中間露出セレクタ524は、サンプル器202から受信される中間サンプル514を受信し、加重アルゴリズムを実行し、加重アルゴリズムは、モーションブラーの量について各サンプルをランク付けし、最小量のブラーを有するサンプルを選択する。
図6は、モーションブラーが低減した画像信号を生成する例としての方法600のフローチャートを示す。方法は、ピクセルプロセッサ121又はモーションブラー低減回路500等の少なくとも1つのプロセッサにより実行し得る。方法は、カメラシステム100等のカメラにより実行されて、カメラにより生成される画像を改善し得る。
ステップ602において、サンプル器202は、複数のサンプルポイントS1〜Snにおいてピクセル出力を読み取る。例は3つ又は4つのサンプル点を有し示すが、本明細書において提示される態様に関連して任意の数のサンプル点を使用し得る。ステップ604において、減算器204は、サンプルS3におけるピクセル出力値からサンプルS2におけるピクセル出力値を減算することにより、中間露出のピクセル出力を特定する。次に、606において、コンパレータ506は、全露出持続時間に対する中間露出持続時間の比率に基づいて係数kを特定し(例えば、中間露出期間の持続時間が全露出期間の持続時間の半分である場合、コンパレータ506はk=1/2であることを特定し)、以下の比較テストを実行し、
kFE/IE=1
式中、FEは全露出ピクセル出力、例えば、Sn〜S1であり、IEは中間露出ピクセル出力、例えば、S3〜S2である。比較テストが真ではない場合、動きが検出される。動きは、露出302と同様により明るい物体からより暗い物体への動きであってもよく、又は露出303と同様に逆の動きが検出される。動きが検出される場合、610において、スイッチ507は、出力508のピクセル出力を選択する。608において、中間露出のピクセル出力も増幅器205により増幅し得る。比較テストが真である場合、動きは検出されず、612において、コンパレータ506は、スイッチ507をアクティブ化して、全露出からのピクセル出力を選択する。
614において、画像のデジタル画像データが、ピクセルから生成されて、例えば、画像を表す信号を生成する。これは、120等の画像センサのピクセルアレイに基づいて信号を生成することを含み得る。
方法は、1フレーム持続時間の全画像が、動きが検出されない場合に選択されるサンプルと、動きが検出される場合に選択されるサンプルとを有するピクセルの混合を含むように、ピクセルアレイからデジタル画像データを生成することを更に含み得る。これは、全フレームのピクセル出力の大きさと平衡する大きさで、フレームの中間部分中のピクセル出力の大きさを増幅し、増幅された大きさに対して細部処理を実行して、細部補正信号を生成することを含み得る。細部補正信号は、移動中の物体が検出されない場合、全フレームのピクセル出力に追加されて、モーションブラーが補正されたデジタル画像データを生成し得、細部補正信号は、移動中の物体が検出される場合、フレームの中間部分のピクセル出力に追加され得る。
方法は、1フレーム持続時間中に複数の隣接ピクセルにわたり移動する移動中の物体の複数の隣接ピクセルのデジタル画像データを特定することを更に含み得る。
方法は、複数のピクセル出力の加重細部比較に従って、最小量のブラーを有するピクセル出力を選択することにより、フレームの中間部分中の少なくとも1つのサンプルを選択することを更に含み得る。例えば、更に生成される信号の露出時間に対してより小さな又はより大きな影響を有するような露出内の異なる時間で追加のサンプリングを行い得る。これは、分解能及び鮮鋭度のより大きな改善を提供し得る。細部信号は、複数のスナップショットで作成し得、例えば、サンプル及び細部は、最も確実なスナップショット、例えば、最小量のブラーを有するサンプルを検出するアルゴリズムに従って加重し得る。
別の例では、本明細書に提示された態様は、CMOSイメージャの蓄積特徴なしで、秒毎により多くの画像を生成し、イメージャに向けて個々の時間フレームを加算することにより実行することもできる。
ピクセルプロセッサ121は、コンピュータ可読媒体/メモリに結合される少なくとも1つのプロセッサを備え得る。コンピュータ可読媒体は、少なくとも1つのプロセッサに、図4及び/又は図6に関連して示される方法の態様を実行させる実行可能コードを含み得る。
図7は、移動中の物体701が複数のピクセルにわたり動く際、画像センサ120の一連の連続ピクセルのピクセル電荷率例のグラフ図を示す。図を簡潔にするために、この例では、物体701は、4つのピクセルのそれぞれの検知領域を通して均等に移動し、各画像ピクセルにより検知される光子に影響することができる単純な形状として表される。様々なサイズの移動中の物体の任意の組合せが、画像センサピクセルの光子入力に影響を及ぼし得、その結果として、ピクセル電荷率がより複雑であり得ることを理解されたい。この例では、4つのピクセルP1〜P4が調べられるが、プロセスは、行単位又は特定数のピクセルブロックで同様にしてピクセルアレイ全体に適用し得る。この例では、サンプリングは、サンプルS1〜Snにおいてサンプル器202により実行され、ここで、n=4であり、サンプルS2及びS3は、全露出時間の25%及び75%において生じる。移動中の物体701は、時刻T0から時刻T1までの単一の露出フレームの持続時間にわたり、ピクセルP1からピクセルP4に向かって移動中である。物体が各ピクセルを超えて移動するにつれ、ピクセル電荷は、露出T0〜T1中、ピクセル率チャート702に示されるように活性化される。したがって、702は、ピクセルの出力信号が時間の経過に伴っていかに蓄積されるかを示す。ピクセル1の場合、物体は、露出の最初の概ね25%にわたりピクセル電荷を活性化させ、蓄積電荷は、物体がピクセルP2に移動したため、運動がないことを反映して、露出期間の残りの時間にわたり一定レベルに維持される。ピクセルP2において、ピクセル電荷は、露出フレームの最初の50%中、蓄積される。ピクセルP3でのピクセル電荷は、露出フレームの中間50%中、蓄積され、一方、ピクセルP4は、露出フレームの最後の25%でのみ、ピクセル電荷を蓄積する。
全露出にわたる4つのピクセルにわたるピクセル出力プロット703は、時刻T0とT1との間で一定値を有して示され、この間、中間露出強化は適用されない。したがって、703は、4つのピクセルのピクセル出力信号が、通常の露出時間でどのように見えるかを示す。
ピクセルプロット704は、ピクセルの中間サンプル、例えば、全露出時間の50%における中間サンプルを使用した4つのピクセルの出力信号を示す。
細部補正回路200により細部補正を1組のピクセルP1〜P4に適用した後、出力プロット704は、ピクセルP2及びP3での移動中の物体の強調された存在をより正確に反映した強化ピクセル出力を示す(すなわち、物体は、露出持続時間の50%にわたり、ピクセルP2及びP3により検知されるが、ピクセルP1及びP4は、露出持続時間の25%のみにわたり物体を検知する)。
図7に示されるように、全てのピクセルP1〜P4について、サンプルS3とS2との間(すなわち、中間露出IE)のピクセル電荷は、サンプルS4とS1との間(すなわち、全露出FE)のピクセル電荷の半分に等しくなく、これは、k=1/2である606により、ピクセルP1〜P4のそれぞれでの動きの存在を示す。その結果、スイッチ507は、ステップ610に従って、増幅器205からの出力を受け入れるように制御される。増幅器205は、サンプルS3とS2との間の中間露出に基づいてピクセルP2及びP3のピクセル出力を強化し、したがって、ピクセル出力プロット704は、ピクセル出力プロット703よりも高い振幅を反映する。ピクセルP1及びP4では、スイッチ507は、増幅器205から出力をとる(ステップ610)が、サンプルS3及びS2でのピクセル電荷蓄積はゼロであり、ステップ604に従って中間露出に計算されるピクセル出力はゼロである。その結果、強化ピクセル出力プロット704は、ピクセルP1、P2、P3、及びP4にわたり伸ばされたものと比較して、ピクセルP2及びP3での物体の画像をよりよく反映する。
図9はこの例を更に示す。902は、単一の露出長全体にわたるピクセル毎の電荷を示す。ピクセルは、露出中、4つのサンプルS1、S2、S3、及びS4においてサンプリングされる。図9では、最初のピクセルは、露出時間の最初の25%のみで物体を見、2番目のピクセルは最初の50%、3番目のピクセルは次の50%、及び3番目のピクセルは最後の25%を見るが、露出の終了時、S4での合計露出又は出力は全て同じレベルを示す。
まず、904において、2番目のサンプルS2と3番目のサンプルS3との間の信号が、4番目のサンプルS4又は合計露出出力の1/2よりも大きいか、それとも小さいかを考慮する。これは、各ピクセルで真である。これが各サンプルで真であるため、動きが検出され、S2とS3との差は、ピクセルの出力信号として、例えば増幅を用いて使用し得る。
次に、906において、S2における出力とS3における出力との差があるか否かを考慮する。ピクセル1及び4では、S2とS3との間に差がないため、これらのピクセルの出力はゼロになる。
図8は、図2A及び図5Aに示される実施形態を組み合わせた例としてのモーションブラー低減回路800を示す。この例では、細部プロセッサ206での露出時間低減を用いて生成された細部補正信号は、合算器207において、全露出(FE)持続時間の場合は出力508に追加し得、中間露出(IE)持続時間の場合は増幅出力に追加し得る。出力808は、コンパレータ506によるステップ606における動きの検出及びその結果としてのスイッチ507における出力選択に依存する。
限定ではなく例として、本開示の態様は、テレビ番組の制作又はスポーツイベントで使用し得るビデオ制作システムの様々な構成要素を構成するのに使用されるシステム及び方法を参照して提示されている。本開示全体を通して提示される様々な概念は、動画及び/又は静止画を捕捉し処理するシステム、テレビ会議システム等を含め、多種多様な撮像用途にわたり実施し得る。
上記説明は、当業者が本明細書に記載される様々な態様を実施できるようにするために提供される。これらの態様への様々な変更が当業者には容易に明らかになり、本明細書に定義される一般原理は他の態様にも適用可能である。したがって、特許請求の範囲は、本明細書に示される態様への限定を意図せず、言語クレームと一貫する全範囲に従うべきであり、ここでは、単数形の要素への言及は、「1つのみ」と特に記載される場合を除き、「1つのみ」を意味することを意図せず、正確には「1つ又は複数」を意味することが意図される。特に別段のことが記載される場合を除き、「幾つかの」という用語は1つ又は複数を指す。当業者に既知又は後に既知になる、本開示全体を通して記載される様々な態様の要素への構造的均等物及び機能的均等物は全て、参照により本明細書に明示的に援用され、特許請求の範囲により包含されることが意図される。さらに、本明細書に開示されたものは、そのような開示が特許請求の範囲において明示的に記載されるか否かに関係なく、公開に向けられることが意図される。いかなるクレーム要素も、「する手段」という語句を使用して明示的に記載されるか、又は方法クレームの場合、要素が「するステップ」という語句を使用して記載される場合を除き、米国特許法第112章第6段落の規定下で解釈されるべきではない。

Claims (18)

  1. 画像内で移動中の物体のモーションブラーを低減することにより、画像鮮鋭度が改善された画像を生成するカメラシステムであって、
    ピクセルのアレイを備える画像センサであって、前記アレイの各ピクセルは、フレーム中に捕捉される前記画像である捕捉画像を表す電荷を蓄積するように構成される、画像センサと、
    前記画像センサの前記ピクセルのそれぞれのピクセル出力をサンプリングして、前記フレームの中間部分中にサンプリングされた中間ピクセル出力及び前記フレームの終了部分でサンプリングされた終了ピクセル出力を生成するように構成されるピクセル出力サンプル器と、
    前記サンプリングされた中間ピクセル出力から補正信号を生成して、前記捕捉画像の前記フレームの前記終了ピクセル出力を強化するように構成される画像補正信号生成器と、
    前記フレームの前記サンプリングされた終了ピクセル出力に基づいて、前記アレイの前記ピクセルのそれぞれの蓄積ピクセル出力を特定するように構成される蓄積ピクセル出力特定モジュールと、
    前記補正信号を前記蓄積ピクセル出力に適用して、モーションブラー及びブレが低減した前記捕捉画像のデジタルビデオ出力を生成する強化ピクセル出力を生成するように構成される画像信号出力モジュールと
    を備え、
    前記ピクセル出力サンプル器は、前記フレームの開始部分で前記ピクセル出力をサンプリングするようにさらに構成され、前記ピクセルのそれぞれについて、前記蓄積ピクセル出力特定モジュールは、前記フレームの前記サンプリングされた終了ピクセル出力から、前記開始部分でサンプリングされた前記ピクセル出力を減算することにより、前記蓄積ピクセル出力を特定するように構成され、
    前記画像補正信号生成器は、さらに、
    前記蓄積ピクセル出力の大きさと平衡する大きさにより、前記サンプリングされた中間ピクセル値の大きさを増幅し、
    前記増幅された大きさに対して細部処理を実行して、前記補正信号を生成し、
    前記補正信号を前記蓄積ピクセル出力に追加して、前記強化ピクセル出力を生成する、
    ようにさらに構成される、カメラシステム。
  2. 前記ピクセル出力サンプル器は、各中間部分中、複数の中間ピクセル出力をサンプリングするように更に構成され、前記画像補正信号生成器は、前記サンプリングされた複数の中間ピクセル出力に基づいて前記補正信号を生成する、請求項1に記載のカメラシステム。
  3. ピクセルのアレイを備える画像センサであって、各ピクセルは、フレーム中に捕捉される画像を表す電荷を蓄積するように構成される、画像センサと、
    ピクセルプロセッサと
    を備え、
    前記ピクセルプロセッサは、
    前記フレームの中間部分中、前記画像センサの前記ピクセルの少なくとも1つのピクセル出力をサンプリングして、前記画像を表す信号を生成することと、
    前記フレームの前記中間部分の前記サンプリングされたピクセル出力の大きさを前記フレームの蓄積ピクセル出力の大きさの割合kと比較することにより、前記画像内の移動中の物体を検出することであって、前記割合kは、前記フレームの前記中間部分中及び前記フレームの全露出持続時間中に取得される2つのサンプリングピクセル出力間の持続時間の比率に等しい、検出することと
    を行うように構成される、カメラ。
  4. 前記ピクセルプロセッサは、
    動きが検出されない場合、第1のフレームの開始時及び終了時に得られるサンプリングピクセル出力を選択し、
    前記フレームの前記中間部分中に得られる少なくとも1つのサンプリングピクセル出力を選択し、動きが検出される場合、第2のフレームの終了時の前記サンプリングピクセル出力の大きさと平衡する大きさにより、前記フレームの前記中間部分中の選択される少なくとも1つのサンプリングピクセル出力の大きさを増幅すること
    により、前記画像を表す前記信号を生成するように更に構成される、請求項3に記載のカメラ。
  5. 前記ピクセルプロセッサは、1フレーム持続時間の全画像が、動きが検出されない場合のサンプリングピクセル出力と、動きが検出される場合の選択されるサンプリングピクセル出力とを有するピクセルの混合を含むように、前記ピクセルのアレイからデジタル画像データを生成するように更に構成される、請求項4に記載のカメラ。
  6. 前記ピクセルプロセッサは、
    前記フレームの前記蓄積ピクセル出力の大きさと平衡する大きさにより、前記フレームの前記中間部分中の前記サンプリングピクセル出力の大きさを増幅することと、
    前記増幅された大きさに対して細部処理を実行して、細部補正信号を生成することと、
    前記フレーム内で移動中の物体が検出されない場合、前記細部補正信号を前記蓄積ピクセル出力に加算して、モーションブラーが補正されたデジタル画像データを生成することと、
    前記フレーム内で移動中の物体が検出される場合、前記細部補正信号を前記フレームの前記中間部分の前記サンプリングピクセル出力に加算することと
    を行うように更に構成される、請求項4に記載のカメラ。
  7. 画像内の移動中の物体のモーションブラーを低減することにより、画像鮮鋭度を改善した画像を生成するカメラシステムであって、
    ピクセルのアレイを備える画像センサであって、前記アレイの各ピクセルは、フレーム中に捕捉される前記画像である捕捉画像を表す電荷を蓄積するように構成される、画像センサと、
    ピクセルプロセッサと
    を備え、
    前記ピクセルプロセッサは、
    前記ピクセルのアレイのうちの少なくとも1つのピクセルの電荷蓄積率に基づいて、前記画像内の動きを検出することと、
    動きが検出される条件下で、前記少なくとも1つのピクセルのピクセル出力をサンプリングして、前記フレームの中間部分中にサンプリングされる中間ピクセル出力及び前記フレームの終了部分でサンプリングされる終了ピクセル出力を生成することと、
    前記サンプリングされる中間ピクセル出力から補正信号を生成して、前記捕捉画像の前記フレームの前記終了ピクセル出力を強化することと、
    前記フレームの前記サンプリングされる終了ピクセル出力に基づいて、前記少なくとも1つのピクセルの蓄積ピクセル出力を特定することと、
    前記補正信号を前記蓄積ピクセル出力に適用して、前記捕捉画像の強化ピクセル出力を生成することと、
    前記フレームの前記中間部分中に、前記画像センサの前記ピクセルの、それぞれのピクセル出力をサンプリングすることと、
    を行うように構成される、カメラシステム。
  8. 前記ピクセルプロセッサは、前記フレームの開始部分において前記ピクセルのそれぞれの前記ピクセル出力をサンプリングし、前記ピクセルのそれぞれについて、前記フレームの前記サンプリングされる終了ピクセル出力から前記開始部分でサンプリングされた前記ピクセル出力を減算することにより、前記蓄積ピクセル出力を特定するように更に構成される、請求項7に記載のカメラシステム。
  9. 前記ピクセルプロセッサは、
    前記フレームの前記蓄積ピクセル出力の大きさと平衡する大きさにより、前記フレームの前記中間部分中の前記サンプリングされた前記ピクセル出力の大きさを増幅することと、
    細部処理を前記増幅された大きさに対して実行して、前記補正信号を生成することと、
    前記補正信号を前記蓄積ピクセル出力に追加して、前記強化ピクセル出力を生成することと
    を行うように更に構成される、請求項8に記載のカメラシステム。
  10. 画像内で移動中の物体のモーションブラーを低減することにより、画像鮮鋭度が改善された画像を生成するカメラシステムであって、
    複数のピクセルを有する画像センサであって、各ピクセルは、フレーム中に捕捉される画像である捕捉画像をピクセル出力に変換するように構成される、画像センサと、
    前記フレームの中間部分中及び前記フレームの終了部分において、前記画像センサの前記ピクセルのそれぞれのピクセル出力をサンプリングするように構成されるサンプル器と、
    前記フレームの前記中間部分中にサンプリングされた前記ピクセル出力の2つのサンプルに基づいて、中間露出ピクセル出力を生成するように構成される中間サンプル減算器であって、前記中間サンプル減算器は、1組の中間露出ピクセル出力を特定するように構成される複数の中間露出減算器を備える、中間サンプル減算器と、
    前記1組の中間露出ピクセル出力から前記中間露出ピクセル出力を選択するように構成される中間サンプル選択器と、
    前記フレームの前記終了部分においてサンプリングされる終了ピクセル出力に基づいて、蓄積ピクセル出力を生成するように構成される全露出減算器と、
    前記中間露出ピクセル出力から細部補正信号を生成して、前記捕捉画像のデジタルビデオ出力を強化するように構成される細部補正信号生成器と、
    前記生成された細部補正信号を蓄積ピクセル出力に適用して、モーションブラー及びブレが低減した前記捕捉画像の前記デジタルビデオ出力を生成するための強化ピクセル出力を生成することにより、前記デジタルビデオ出力の細部補正を実行するように構成される細部補正モジュールと
    を備えるカメラシステム。
  11. 画像を生成するカメラシステムであって、
    ピクセルのアレイを備える画像センサであって、前記アレイの各ピクセルは、フレーム中に捕捉される前記画像を表す電荷を蓄積するように構成される、画像センサと、
    前記フレームの開始部分中、前記フレームの複数の中間部分中、及び前記フレームの終了部分において、前記画像センサの前記ピクセルのそれぞれのピクセル出力をサンプリングするように構成されるピクセル出力サンプル器と、
    前記フレームの前記終了部分での前記サンプリングされたピクセル出力と、前記フレームの開始部分での前記サンプリングされたピクセル出力との差に基づいて、全フレームピクセル出力を生成するように構成される全フレーム露出出力と、
    前記フレームの前記複数の中間部分中にそれぞれサンプリングされるサンプリングピクセル出力の少なくとも一対間の差に基づいて、中間露出ピクセル出力を生成するように構成される中間フレーム露出出力と、
    前記フレームの前記開始部分と終了部分との間の第1の時間間隔及び前記フレームの前記複数の中間部分の一対間の第2の間隔に基づいて、中間露出持続時間に対する全露出持続時間の比率を特定するように構成されるコンパレータと、
    全フレーム露出の正規化として、前記生成された中間露出ピクセル出力を増幅するように構成される増幅器と、
    前記生成された増幅された中間露出ピクセル出力から、細部補正信号を生成するように構成される細部プロセッサと、
    前記生成された細部補正信号を前記全フレームピクセル出力に適用して、モーションブラー及びブレが低減した前記画像のデジタルビデオ出力を生成するための強化ピクセル出力を生成するように構成される画像信号出力モジュールと
    を備えるカメラシステム。
  12. 前記コンパレータは、前記中間露出持続時間に対する前記全露出持続時間の特定された比率に基づいて、前記画像が動きを含むか否かを判断するように構成される、請求項11に記載のカメラシステム。
  13. 前記コンパレータにより制御されるスイッチであって、前記スイッチ自体の状態に基づいて、前記画像信号出力モジュールを前記細部プロセッサ及び前記全フレーム露出出力のうちの一方に結合するスイッチ
    を更に備え、
    前記コンパレータは、前記画像において動きが検出されない場合、前記画像信号出力モジュールを前記全フレーム露出出力に結合する第1の状態に前記スイッチを設定し、それにより、前記画像信号出力モジュールは、前記画像の前記デジタルビデオ出力を生成するための前記全フレームピクセル出力を出力し、
    前記コンパレータは、前記画像において動きが検出される場合、前記画像信号出力モジュールを前記細部プロセッサに結合する第2の状態に前記スイッチを設定し、それにより、前記生成された細部補正信号は、前記全フレームピクセル出力に適用されて、モーションブラー及びブレを低減した前記画像の前記デジタルビデオ出力を生成するための前記強化ピクセル出力を生成する、請求項12に記載のカメラシステム。
  14. 画像内で移動中の物体のモーションブラーを低減することにより、画像鮮鋭度が改善された画像を生成する方法であって、
    画像センサのピクセルアレイ内の複数のピクセルにより、フレーム中に捕捉された前記画像である捕捉画像を表す電荷を蓄積することと、
    前記画像センサの前記ピクセルのそれぞれのピクセル出力をサンプリングして、前記フレームの開始部分中にサンプリングされる開始ピクセル出力と、前記フレームの中間部分中にサンプリングされる中間ピクセル出力、前記フレームの終了部分でサンプリングされる終了ピクセル出力を生成することと、
    前記フレームの前記サンプリングされる終了ピクセル出力から前記フレームの前記開始部分においてサンプリングされる前記開始ピクセル出力を減算することにより前記ピクセルアレイの前記ピクセルのそれぞれの蓄積ピクセル出力を特定することと、
    前記蓄積ピクセル出力の大きさと平衡する大きさにより前記サンプリングされる中間ピクセル出力の大きさを増幅することと、
    前記増幅された大きさに対して細部処理を実行して、前記サンプリングされる中間ピクセル出力から補正信号を生成して、前記捕捉画像の前記フレームの前記終了ピクセル出力を強化することと、
    前記補正信号を前記蓄積ピクセル出力に適用して、モーションブラー及びブレが低減した前記捕捉画像のデジタルビデオ出力を生成するための強化ピクセル出力を生成することと
    を含む方法。
  15. 各中間部分中、複数の中間ピクセル出力をサンプリングすることと、前記サンプリングされた複数の中間ピクセル出力に基づいて、前記補正信号を生成することとを更に含む、請求項14に記載の方法。
  16. 画像を生成する方法であって、
    画像センサのピクセルアレイ内の複数のピクセルにより、フレーム中に捕捉された前記画像を表す電荷を蓄積することと、
    前記フレームの開始部分、前記フレームの複数の中間部分、及び前記フレームの終了部分中、前記画像センサの前記ピクセルのそれぞれのピクセル出力をサンプリングすることと、
    前記フレームの前記終了部分中、前記サンプリングされたピクセル出力と、前記フレームの前記開始部分中、前記サンプリングされたピクセル出力との差に基づいて、全フレームピクセル出力を生成することと、
    前記フレームの前記複数の中間部分中にそれぞれサンプリングされるサンプリングピクセル出力の少なくとも一対間の差に基づいて、中間露出ピクセル出力を生成することと、
    前記フレームの前記開始部分と前記終了部分との間の第1の時間間隔及び前記フレームの前記複数の中間部分の一対間の第2の間隔に基づいて、中間露出持続時間に対する全露出持続時間の比率を特定することと、
    全フレーム露出の正規化として、前記生成された中間露出ピクセル出力を増幅することと、
    前記生成され増幅された中間露出ピクセル出力から細部補正信号を生成することと、
    前記生成された細部補正信号を前記全フレームピクセル出力に適用して、モーションブラー及びブレが低減した前記画像のデジタルビデオ出力を生成するための強化ピクセル出力を生成することと
    を含む方法。
  17. 前記中間露出持続時間に対する前記全露出持続時間の特定された比率に基づいて、前記画像が動きを含むか否かを判断することを更に含む、請求項16に記載の方法。
  18. スイッチにより、前記スイッチの状態に基づいて、画像信号出力モジュールを細部プロセッサ及び全フレーム露出出力のうちの一方に結合することと、
    前記画像において動きが検出されない場合、前記画像信号出力モジュールを前記全フレーム露出出力に結合する第1の状態に前記スイッチを設定し、それにより、前記画像信号出力モジュールは、前記画像の前記デジタルビデオ出力を生成するための前記全フレームピクセル出力を出力することと、
    前記画像において動きが検出される場合、前記画像信号出力モジュールを前記細部プロセッサに結合する第2の状態に前記スイッチを設定し、それにより、前記細部プロセッサは、前記生成された細部補正信号を、前記全フレームピクセル出力に適用して、モーションブラー及びブレを低減した前記画像の前記デジタルビデオ出力を生成するための前記強化ピクセル出力を生成することと
    を更に含む、請求項17に記載の方法。
JP2017531563A 2014-12-15 2015-12-15 時間的分解能及び知覚される画像鮮鋭度を改善した画像捕捉 Active JP6803335B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201462092110P 2014-12-15 2014-12-15
US62/092,110 2014-12-15
PCT/EP2015/079795 WO2016096859A1 (en) 2014-12-15 2015-12-15 Image capture having improved temporal resolution and perceived image sharpness

Publications (2)

Publication Number Publication Date
JP2017538360A JP2017538360A (ja) 2017-12-21
JP6803335B2 true JP6803335B2 (ja) 2020-12-23

Family

ID=54979659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017531563A Active JP6803335B2 (ja) 2014-12-15 2015-12-15 時間的分解能及び知覚される画像鮮鋭度を改善した画像捕捉

Country Status (7)

Country Link
US (2) US9826157B2 (ja)
EP (1) EP3235239B1 (ja)
JP (1) JP6803335B2 (ja)
CN (1) CN107211092B (ja)
AU (1) AU2015367738B2 (ja)
CA (1) CA2970908C (ja)
WO (1) WO2016096859A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9521351B1 (en) * 2015-09-21 2016-12-13 Rambus Inc. Fractional-readout oversampled image sensor
CN107710317A (zh) * 2016-09-27 2018-02-16 深圳市柔宇科技有限公司 一种oled屏幕保护方法及保护系统
KR102657050B1 (ko) * 2017-01-25 2024-04-15 삼성전자주식회사 전자 장치 및 전자 장치에서의 영상을 촬영하기 위한 방법
US10587807B2 (en) 2018-05-18 2020-03-10 Gopro, Inc. Systems and methods for stabilizing videos
US10432864B1 (en) 2018-09-19 2019-10-01 Gopro, Inc. Systems and methods for stabilizing videos

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6441848B1 (en) * 2000-05-19 2002-08-27 Damon L. Tull Preventing blur caused by motion of the subject in a digital image
JP2002027300A (ja) * 2000-07-05 2002-01-25 Minolta Co Ltd デジタルカメラ
JP4888081B2 (ja) * 2006-01-23 2012-02-29 セイコーエプソン株式会社 撮像装置、撮像方法、撮像システム及び画像処理装置
JP2007281555A (ja) * 2006-04-03 2007-10-25 Seiko Epson Corp 撮像装置
US7952612B2 (en) * 2006-06-22 2011-05-31 Nokia Corporation Method and system for image construction using multiple exposures
JP5217213B2 (ja) * 2007-03-30 2013-06-19 カシオ計算機株式会社 撮像装置及びプログラム
CN101990756B (zh) * 2008-01-09 2013-11-20 欧洲空间局 用于星象跟踪仪器件中的有源像素传感器设备
JP2010074584A (ja) * 2008-09-19 2010-04-02 Sony Corp 撮像装置および撮像方法
US8606032B2 (en) * 2009-12-23 2013-12-10 Sony Corporation Image processing method, device and program to process a moving image

Also Published As

Publication number Publication date
JP2017538360A (ja) 2017-12-21
US20180041703A1 (en) 2018-02-08
CN107211092A (zh) 2017-09-26
US9826157B2 (en) 2017-11-21
CA2970908C (en) 2023-06-27
AU2015367738B2 (en) 2020-04-02
WO2016096859A1 (en) 2016-06-23
CA2970908A1 (en) 2016-06-23
US20160173779A1 (en) 2016-06-16
AU2015367738A1 (en) 2017-08-03
EP3235239B1 (en) 2022-02-02
CN107211092B (zh) 2020-07-21
US10462367B2 (en) 2019-10-29
EP3235239A1 (en) 2017-10-25

Similar Documents

Publication Publication Date Title
US10462367B2 (en) Image capture having temporal resolution and perceived image sharpness
US9160934B2 (en) Image capturing apparatus obtaining high-exposure and low-exposure images, and method for controlling the same
US9794493B2 (en) Image capturing apparatus, image capturing method, and control method
JP5458865B2 (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
US8605185B2 (en) Capture of video with motion-speed determination and variable capture rate
US8587692B2 (en) Method and apparatus for increasing dynamic range of image by using electronic shutter
US20140253792A1 (en) Image capture apparatus and control method thereof
JP6320571B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6209533B2 (ja) フリッカ低減装置、撮像装置およびフリッカ低減方法
JP6366739B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN101296315A (zh) 图像降噪装置和方法
WO2016011872A1 (zh) 图像拍摄方法、装置和计算机存储介质
US11818466B2 (en) Notifying apparatus, image capturing apparatus, notifying method, image capturing method, and storage medium
US20130063622A1 (en) Image sensor and method of capturing an image
US10999489B2 (en) Image processing apparatus, image processing method, and image capture apparatus
JP5452269B2 (ja) 撮像装置
US20150156408A1 (en) Imaging apparatus, method for controlling the same, and recording medium
WO2023143708A1 (en) Hdr reconstruction from bracketed exposures and events

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170815

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201130

R150 Certificate of patent or registration of utility model

Ref document number: 6803335

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360