JP2018056753A - カメラコントローラ、画像処理モジュール、および半導体システム - Google Patents

カメラコントローラ、画像処理モジュール、および半導体システム Download PDF

Info

Publication number
JP2018056753A
JP2018056753A JP2016189500A JP2016189500A JP2018056753A JP 2018056753 A JP2018056753 A JP 2018056753A JP 2016189500 A JP2016189500 A JP 2016189500A JP 2016189500 A JP2016189500 A JP 2016189500A JP 2018056753 A JP2018056753 A JP 2018056753A
Authority
JP
Japan
Prior art keywords
amount
correction
blur
vector
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016189500A
Other languages
English (en)
Other versions
JP6674701B2 (ja
Inventor
弘志 村上
Hiroshi Murakami
弘志 村上
浩秀 奥野
Hirohide Okuno
浩秀 奥野
鈴木 稔也
Toshiya Suzuki
稔也 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2016189500A priority Critical patent/JP6674701B2/ja
Priority to US15/663,730 priority patent/US10348969B2/en
Priority to CN201710829645.XA priority patent/CN107888821B/zh
Priority to TW106131887A priority patent/TWI738869B/zh
Priority to KR1020170123267A priority patent/KR102393775B1/ko
Publication of JP2018056753A publication Critical patent/JP2018056753A/ja
Application granted granted Critical
Publication of JP6674701B2 publication Critical patent/JP6674701B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6842Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by controlling the scanning position, e.g. windowing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】静止画撮影モードで使用される光学式手振れ補正では、手振れが大きいと、補正の精度が悪くなり、動画撮影モードで使用される電子式手振れ補正では、手振れの周波数が高いと、補正の精度が悪くなる。
【解決手段】カメラモジュール102は、振動検出センサ107による検出結果に基づいて光学系104における光軸のブレを検出し、ブレの量の一部を補正するために、光学式手振れ補正量に基づいて、補正レンズが光軸に垂直な面内でシフトするようにアクチュエータ106を制御し、ブレの残りの量を補正するために、ブレの補正残し量を表わすデータを画像処理モジュール103に送信する。画像処理モジュール103は、ブレの補正残し量を表わすデータを受信し、補正残し量に応じた電子式手振れ補正量に基づいて、フレームデータに含まれる撮像画像データの有効領域を変化させる。
【選択図】図1

Description

本発明は、カメラコントローラ、画像処理モジュール、および半導体システムに関し、たとえば、手振れ補正付きカメラを制御するのに適したカメラコントローラ、画像処理モジュール、および半導体システムに関する。
ビデオカメラおよびデジタルカメラにおいて、手振れ補正する技術が知られている。
たとえば、特許文献1には、電子式手振れ補正(electronic image stabilization:EIS)の機能と、光学式手振れ補正(optical image stabilization:OIS)の機能とを備えた装置が記載されている。この装置では、光学式手振れ補正部は、振動検出素子の出力信号に応じて光軸を補正する。電子式手振れ補正部は、撮像素子により形成される撮像領域の画像信号のうち、有効領域を適応的に変化させる。
特開2009−152793号公報
しかしながら、特許文献1の装置では、動画撮影モードでは、電子式手振れ補正を実行し、静止画撮影モードでは、光学式手振れ補正を実行する。
光学式手振れ補正は、比較的高い周波数の手ぶれを補正することが可能であるが、撮像画像の周辺部(端)でレンズ歪みの影響を受ける。光学式手振れ補正を利用する静止画撮影モードにおいて、手振れが大きいと、補正の精度が悪くなるという問題がある。
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
一実施形態では、ブレの量の一部を光学式手振れ補正し、ブレの補正残し量を電子式手振れ補正する。
一実施形態によれば、手振れ補正の精度を高くすることができる。
第1の実施形態の半導体システムの構成を表わす図である。 第2の実施形態の半導体システムの構成を表わす図である。 光学系14の構成を表わす図である。 第3の実施形態の半導体システムの構成を表わす図である。 第3の実施形態における受光面の一方の軸方向に補正レンズ212がずれたときの光学式手振れ補正を説明するための図である。 第1アプリケーションプロセッサ35が、補正残しベクトルを表わすデータCMAを受信するタイミングと、垂直同期信号VSYNCを受信するタイミングを表わす図である。 第4の実施形態の半導体システムの構成を表わす図である。 第5の実施形態の半導体システムの構成を表わす図である。 第6の実施形態の半導体システムの構成を表わす図である。 第7の実施形態の半導体システムの構成を表わす図である。 OISコントローラ67が、垂直同期信号VSYNCを受信するタイミングと、ブレベクトルを受信するタイミングと、光学式手振れ補正後の補正レンズ212の位置ベクトルを受信するタイミングと、代表ブレベクトルおよび代表位置ベクトルを送信するタイミングを表わす図である。 第8の実施形態の半導体システムの構成を表わす図である。 第8の実施形態における受光面の一方の軸方向に補正レンズ212がずれたときの手振れ補正を説明するための図である。 (a)は、歪補正前の撮像画像を表わす図である。(b)は、歪補正後の撮像画像を表わす図である。
以下、本発明の実施の形態について、図面を用いて説明する。
[第1の実施形態]
図1は、第1の実施形態の半導体システム100の構成を表わす図である。
この半導体システム100は、光学手振れ補正機能を備えたカメラモジュール102と、電子式手振れ補正機能を備えた画像処理モジュール103とを備える。
カメラモジュール101は、光学系104と、振動検出センサ107と、イメージセンサ105と、アクチュエータ106と、光学式手振れ補正を制御するカメラコントローラ108とを備える。
光学系104は、手振れを補正するための補正レンズを含む。光学系104には、外部から光が入射される。
振動検出センサ107は、カメラモジュール101の振動を検出する。
イメージセンサ105は、光学系104を介して入力された光を光電変換することによって撮像画像を生成し、撮像画像を含むフレームデータを出力する。
アクチュエータ106は、光学系104に含まれる補正レンズを駆動する。
カメラコントローラ108は、演算部110と、制御部109と、通信部111とを備える。
演算部110は、振動検出センサ107による検出結果に基づいて光学系104における光軸のブレを検出し、ブレの一部の量を補正するために、光学式手振れ補正量を算出する。
制御部109は、光学式手振れ補正量に基づいて、補正レンズが光軸に垂直な面内でシフトするように補正レンズを駆動するアクチュエータ106を制御する。
通信部111は、ブレの残りの量を補正するために、ブレの補正残し量を表わすデータを画像処理モジュール103に送信する。
画像処理モジュール103は、第1のプロセッサ112と、第2のプロセッサ113と、第3のプロセッサ114とを備える。
第1のプロセッサ112は、カメラコントローラ108から送信されるブレの補正残し量を表わすデータを受信し、補正残し量に応じた電子式手振れ補正量を表わす信号を出力する。
第2のプロセッサ113は、イメージセンサ105から送られるフレームデータを受信する。
第3のプロセッサ114は、電子式手振れ補正を実行する。電子式手振れ補正には、隣接するフレーム間において、撮像画像の特徴点の移動量に基づいて、撮像画像の有効画素領域を設定する第1の補正方法と、振動検出センサによる振動検出結果に基づいて、撮像画像の有効領域を設定する第2の補正方法の2通りがある。第1の補正方法は、演算量が多いため、発熱量が大きくなり、消費電流も大きくなるという問題があるととともに、動画にしか適用できないという問題がある。さらに、第1の補正方法では、特徴点が手振れによって移動したのではない場合に、手振れ補正の精度が劣化するという問題がある。第3のプロセッサ114は、電子的手振れ補正実行後のデータを、たとえばカメラ内の表示装置に出力することができる。
本実施の形態では、第2の補正方法を用いる。以下の実施形態においても、電子式手振れ補正として、第2の補正方法が用いられる。
第3のプロセッサ114は、第1のプロセッサ112から送られる電子式手振れ補正量に基づいて、第2のプロセッサ113から送られるフレームデータに含まれる撮像画像の有効領域を変化させる。
以上のように、本実施の形態によれば、手振れが発生したときに、限られた範囲で光学式手振れ補正を行ない、光学式手振れ補正によって補正しきなかった分を電子式手振れ補正するので、手振れ補正の精度を高くすることができる。
特に、スマートフォンでは、搭載される光学系は、軽量、薄型化のために、小径でレンズ数が少ない構成をとるため、レンズ歪の影響を受けやすいという問題がある。本実施の形態では、光学式手振れ補正において、レンズ歪のない範囲で補正し、残りは、電子式手振れ補正によって補正することができるので、手振れ補正の精度がよくなる。
一方、電子式手振れ補正では、撮像素子の高画素化に伴い、大きな振れ角でも補正することが可能であるが、高い周波数の手振れを補正することができない。電子式手振れ補正を利用する動画撮影モードにおいて、手振れの周波数が高いと、補正の精度が悪くなるという問題がある。本実施の形態では、光学式手振れ補正と電子式手振れ補正の両方のメリットを利用することができる。これによって、静止画撮影モードと動画撮影モードの両方において、光学式手振れ補正において、レンズ歪のない範囲で補正し、残りは、電子式手振れ補正によって補正することができるので、手振れ補正の精度がよくなる。
[第2の実施形態]
図2は、第2の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール11と、画像処理モジュール12と、モニタ27とを備える。
カメラモジュール11は、光学系14と、振動検出センサ18と、アクチュエータ20と、OISコントローラ17と、イメージセンサ16とを備える。
図3は、光学系14の構成を表わす図である。
光学系14は、ズームレンズ211、補正レンズ212、絞り213、およびフォーカスレンズ214を含む。
ズームレンズ211は、被写体13の像の倍率を変化させる。補正レンズ212は、被写体13の像のぶれを補正する。補正レンズ212は、カメラモジュール11のぶれを相殺する方向に移動することにより、イメージセンサ16上の被写体13の像のぶれを小さくする。絞り213は、光学系14を通過する光の量を調整する。フォーカスレンズ214は、イメージセンサ16に形成される被写体13の像のフォーカス状態を変化させる。
振動検出センサ18は、カメラモジュール11に加わる振動を検出する。振動検出センサ18は、ジャイロセンサによって構成され、カメラモジュール11の鉛直面内の角速度および水平面内の角速度を検出して、これらの角速度を表わす信号をOISコントローラ17へ出力する。
OISコントローラ17の演算部は、振動検出センサ18から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、カメラモジュール11の回転角を算出する。OISコントローラ17の演算部は、カメラモジュール11の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。
OISコントローラ17の制御部は、補正レンズ212がブレベクトルと逆向きのベクトルの大きさと方向にシフトするように指示する制御信号をアクチュエータ20へ出力する。
アクチュエータ20は、OISコントローラ17からの制御信号を受けて、光学系の光軸に垂直な面内で補正レンズ212を駆動する。アクチュエータ20は、たとえば、マグネットと平板コイルとによって構成される。
イメージセンサ16は、光学系14を介して入射した光を光電変換することによって、撮像画像を生成する。イメージセンサ16は、たとえば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサである。CMOSイメージセンサは、2次元に配列された複数の単位画素を含み、それぞれの単位画素は、フォトダイオードと、フォトダイオードに蓄積された電荷を浮遊拡散領域(FD(Floating Diffusion))に転送する転送ゲートと、浮遊拡散領域の電荷をリセットするリセットトランジスタとを備える。
画像処理モジュール12は、システムメインボード上に搭載されたイメージシグナルプロセッサ21と、バッファメモリ22と、振動検出センサ26と、第1アプリケーションプロセッサ25と、第2アプリケーションプロセッサ23と、フレームメモリ24とを備える。
カメラモジュール11は、画像処理モジュール12とI2C(Inter-Integrated Circuit)バス99で接続される。
画像処理モジュール12内の第1アプリケーションプロセッサ25が、カメラモジュール11内のOISコントローラ17へ制御コマンドを送ることができる。また、第1アプリケーションプロセッサ25が、OISコントローラ17からの情報を受信することができる。
イメージセンサ16は、スタートビット列と、フレーム番号と、撮像画像と、エンドビット列とを含むフレームデータFD1をイメージシグナルプロセッサ21へ送る。ここで、フレーム番号の初期値は0である。
イメージシグナルプロセッサ21は、フレームデータFD1に含まれる撮像画像の明るさ、色、またはエッジなどの各種補正を行い、補正後の撮像画像を含むフレームデータFD2をバッファメモリ22へ出力する。
振動検出センサ26は、画像処理モジュール12の振動を検出する。振動検出センサ26は、ジャイロセンサによって構成され、画像処理モジュール12の鉛直面内の角速度および水平面内の角速度を検出して、これらの角速度を表わす信号を第1アプリケーションプロセッサ25へ出力する。
第1アプリケーションプロセッサ25は、振動検出センサ26から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、画像処理モジュール12の回転角を算出する。第1アプリケーションプロセッサ25は、画像処理モジュール12の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。第1アプリケーションプロセッサ25は、ブレベクトルを表わす信号DPLを第2アプリケーションプロセッサ23へ出力する。
バッファメモリ22は、フレーム送り信号FRAを受信するごとに、1個分のフレームデータFD2を第2アプリケーションプロセッサ23へ出力する。
第2アプリケーションプロセッサ23は、電子式手振れ補正を実行する。第2アプリケーションプロセッサ23は、ブレベクトルを表わす信号DPLを受信する。第2アプリケーションプロセッサ23は、ブレベクトルと逆向きのベクトルの大きさと方向にフレームデータFD2に含まれる撮像画像の有効領域を移動させる。
第2アプリケーションプロセッサ23は、撮像画像のうち有効領域内の画素のデータ(有効画像データ)をフレームデータFD3としてフレームメモリ24へ出力する。
フレームメモリ24は、フレーム送り信号FRAを受信するごとに、1個分のフレームデータFD3をモニタ27へ出力する。
モニタ27は、フレームメモリ24内のフレームデータFD3を表示する。
以上のように、本実施の形態によれば、動画撮影モードでも静止画撮影モードでも、カメラモジュール11と画像処理モジュール12とで、それぞれ独立して、光学式手振れ補正と、電子式手振れ補正が実行される。
しかしながら、それぞれ独立して、実行されるので、過剰に手振れ補正が実行されてしまうという問題がある。すなわち、振動検出センサ18で得られる振動情報に従って光学式手振れ補正が実行された後に得られる画像に対して、さらに、振動検出センサ26で得られる振動情報に従って、電子的手振れ補正が実行されるので、過剰に手振れ補正が実行される。
なお、I2Cバスに代えて、SPI(Serial Peripheral Interface)バスを用いるものとしてもよい。他の実施形態でも同様である。
カメラモジュールが補正レンズの現在位置を検出する位置検出センサを備え、位置検出センサによって検出された補正レンズの現在位置を用いて、アクチュエータをサーボ制御するものとしてもよい。他の実施形態でも同様である。
[第3の実施形態]
図4は、第3の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール31と、画像処理モジュール32とを備える。
図4の構成が、図2の構成と相違する点は、図4のカメラモジュール31に含まれるOISコントローラ37とイメージセンサ36の機能、および図4の画像処理モジュール32に含まれる第1アプリケーションプロセッサ35の機能が、図2における対応するものと相違することである。また、図4の画像処理モジュール32が振動検出センサを備えないことが、図2の対応するものと相違する。
イメージセンサ36は、フレームデータFD1を作成後、フレームデータFD1をイメージシグナルプロセッサ21へ出力するタイミングにおいて、垂直同期信号VSYNCを第1アプリケーションプロセッサ35へ出力する。
OISコントローラ37の演算部は、振動検出センサ18から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、カメラモジュール31の回転角を算出する。OISコントローラ37の演算部は、カメラモジュール31の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。
OISコントローラ37の演算部は、ブレベクトルから光学式手振れ補正ベクトルを算出する。光学式手振れ補正ベクトルの向きは、ブレベクトルの向きと逆である。光学式手振れ補正ベクトルの大きさ(光学式手振れ補正量)は、ブレベクトルの大きさ(ブレ量)に補正係数を乗算することによって算出される。補正係数は、ブレベクトルの大きさ(ブレ量)に応じて変わる。
OISコントローラ37の制御部は、補正レンズ212が光学式手振れ補正ベクトルの大きさと方向にシフトするように指示する制御信号をアクチュエータ20へ出力する。
図5は、第3の実施形態における受光面の一方の軸方向に補正レンズ212がずれたときの光学式手振れ補正を説明するための図である。
図5(a)には、ブレベクトルの時間変化を表わす曲線CV1と、光学式手振れ補正後の補正レンズ212の位置の時間変化を表わす曲線CV2が示されている。
図5(b)には、補正係数を表わされている。
ブレベクトルの大きさ(ブレ量)がD0のときに、補正係数が0である。ブレベクトルの大きさ(ブレ量)がD1よりも大きく、D0未満のときには、ブレベクトルの大きさ(ブレ量)が小さくなるほど、補正係数が大きくなる。ブレベクトルの大きさ(ブレ量)がD1以下のときには、補正係数が一定値となる。
OISコントローラ37の演算部は、ブレベクトルと光学式手振れ補正ベクトルとに基づいて、補正残しベクトルを算出する。補正残しベクトルの向きは、光学式手振れ補正ベクトルの向きと同じ(ブレベクトルの向きと逆向き)である。補正残しベクトルの大きさ(ブレの補正残し量)は、ブレベクトルの大きさ(ブレ量)から光学式手振れ補正ベクトルの大きさ(光学式手振れ補正量)を減算することによって算出される。OISコントローラ37の通信部は、補正残しベクトルを表わすデータCMAを第1アプリケーションプロセッサ35へ出力する。
第1アプリケーションプロセッサ35は、補正残しベクトルを表わすデータCMAと、垂直同期信号VSYNCを受信する。
図6は、第1アプリケーションプロセッサ35が、補正残しベクトルを表わすデータCMAを受信するタイミングと、垂直同期信号VSYNCを受信するタイミングを表わす図である。
垂直同期信号VSYNCを受信するタイミングと、データCMAを受信するタイミングは同期していない。垂直同期信号VSYNCは、1/30秒ごとに受信される。データCMAは、1/30秒よりも短い周期で受信される。
第1アプリケーションプロセッサ35は、垂直同期信号VSYNCを受信したときに、そのタイミングよりも前で、かつ1つ前に垂直同期信号VSYNCを受信したタイミングよりも後に受信した複数個のデータCMAで表される補正残しベクトルに基づいて、電子式手振れ補正ベクトルを求める。
たとえば、複数個のデータCMAに含まれる補正残しベクトルの平均値、あるいは、最も新しいデータCMAに含まれる補正残しベクトルなどを電子式手振れ補正ベクトルとすることができる。あるいは、手振れ補正を抑制したい場合には、複数の補正残しベクトルのうち、大きさが最小のものを電子式手振れ補正ベクトルとしてもよい。また、手振れ補正を促進したい場合には、複数の補正残しベクトルのうち、大きさが最大のものを電子式手振れ補正ベクトルとしてもよい。
第1アプリケーションプロセッサ35は、電子式手振れ補正ベクトルを表わす信号CMA′を第2アプリケーションプロセッサ33へ送る。
第2アプリケーションプロセッサ33は、電子式手振れ補正を実行する。第2アプリケーションプロセッサ33は、電子式手振れ補正ベクトルを表わす信号CMA′を受信する。第2アプリケーションプロセッサ33は、電子式手振れ補正ベクトルの大きさと方向にフレームデータFD2に含まれる撮像画像の有効領域を移動させる。
第2アプリケーションプロセッサ33は、撮像画像のうち有効領域内の画素データ(有効画像データ)をフレームデータFD3としてフレームメモリ24へ出力する。
以上のように、本実施の形態によれば、OISコントローラが、光学式手振れ補正によって補正しきれなかった補正残し量を表わすデータを画像処理モジュールに送信し、画像処理モジュールが、受信した補正残し量を表わすデータに基づいて、電子式手振れ補正を実行する。これによって、過剰な手振れ補正が防止されるので、手振れ補正の精度を高くすることができる。
また、本実施の形態では、補正残しベクトルを表わすデータCMAとして、補正残しベクトル自体(大きさと向き)が送られるので、ブレベクトルと光学式手振れ補正ベクトルがそれぞれ送られることに比べ、I2Cバスに流れるデータ量を少なくすることができる。
[第4の実施形態]
図7は、第4の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール91と、画像処理モジュール32とを備える。
図7の構成が、図4の構成と相違する点は、カメラモジュール91に含まれるOISコントローラ97の機能が、図4における対応するものと相違することである。さらに、図7のカメラモジュール91は、位置検出センサ19を備える。
位置検出センサ19は、光学系の光軸に垂直な面(受光面)内における補正レンズ212の位置を表わす位置ベクトルを検出し、補正レンズ212の位置ベクトルを表わす信号をOISコントローラ97へ出力する。手振れがないときの補正レンズ212の位置を位置ベクトルの原点とする。位置検出センサ19は、例えば、マグネットとホール素子とによって構成される。
OISコントローラ97の演算部は、振動検出センサ18から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、カメラモジュール91の回転角を算出する。OISコントローラ97の演算部は、カメラモジュール91の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。
OISコントローラ97の演算部は、ブレベクトルから光学式手振れ補正ベクトルを算出する。光学式手振れ補正ベクトルの向きは、ブレベクトルの向きと逆である。光学式手振れ補正ベクトルの大きさ(光学式手振れ補正量)は、ブレベクトルの大きさ(ブレ量)に補正係数を乗算することによって算出される。補正係数は、第3の実施形態と同様に、ブレベクトルの大きさに応じて変わる。
OISコントローラ97の制御部は、補正レンズ212が光学式手振れ補正ベクトルの大きさと方向に移動するように指示する制御信号をアクチュエータ20へ出力する。
OISコントローラ97の演算部は、ブレベクトルと、補正後(アクチュエータ20が移動後)の補正レンズ212の位置ベクトルとに基づいて、補正残しベクトルを算出する。補正残しベクトルの向きは、光学式手振れ補正ベクトルの向きと同じ(ブレベクトルの向きと逆向き)である。補正残しベクトルの大きさ(ブレ補正残し量)は、ブレベクトルの大きさ(ブレ量)から補正レンズ212の位置ベクトルの大きさ(位置を表わす量)を減算することによって算出される。OISコントローラ97の通信部は、補正残しベクトルを表わすデータCMAを第1アプリケーションプロセッサ35へ出力する。
以上のように、本実施の形態によれば、光学式手振れ補正後の補正レンズの位置に基づいて、補正残し量を算出することができる。本実施の形態でも、第3の実施形態と同様に、過剰な手振れ補正を防止されるので、手振れ補正の精度を高くすることができる。
[第5の実施形態]
図8は、第5の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール31と、画像処理モジュール42とを備える。
図8の構成が、図7の構成と相違する点は、画像処理モジュール42に含まれる第1アプリケーションプロセッサ45および第2アプリケーションプロセッサ43の機能が、図7における対応するものと相違することである。
第1アプリケーションプロセッサ45は、第3または第4の実施形態と同様にして得られた電子式手振れ補正ベクトルにフレーム番号を付したフレーム番号付き電子式手振れ補正ベクトルを表わす信号CMA′_FNを第2アプリケーションプロセッサ43へ送る。ここで、フレーム番号の初期値は0である。
第2アプリケーションプロセッサ43は、電子式手振れ補正を実行する。第2アプリケーションプロセッサ33は、フレーム番号付き電子式手振れ補正ベクトル表わす信号CMA′_FNを逐次受信する。
第2アプリケーションプロセッサ43は、逐次受信した信号CMA′_FNに含まれるフレーム番号付き電子式手振れ補正ベクトルのうち、バッファメモリ22から出力されたフレームデータFD2に含まれるフレーム番号と同一のフレーム番号が付された電子式手振れ補正ベクトルを選択する。第2アプリケーションプロセッサ43は、選択した電子式手振れ補正ベクトルの大きさと方向にフレームデータFD2に含まれる撮像画像の有効領域を移動させる。
以上のように、本実施の形態によれば、イメージセンサ16から出力されるフレームデータと、OISコントローラから出力される電子式手振れ補正ベクトルとを対応させることができる。動画の間引き再生などによって、バッファメモリ22内でフレームデータFD2が間引かれる場合でも、第2アプリケーションプロセッサ23は、フレームデータFD2に対応する電子式手振れ補正ベクトルを用いて、電子式手振れ補正を実行することができる。
[第6の実施形態]
図9は、第6の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール51と、画像処理モジュール52とを備える。
図9の構成が、図8の構成と相違する点は、図9のカメラモジュール51に含まれるOISコントローラ57と、図9の画像処理モジュール52に含まれる第1アプリケーションプロセッサ55の機能が、図8における対応するものと相違することである。
OISコントローラ57の演算部は、振動検出センサ18から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、カメラモジュール51の回転角を算出する。OISコントローラ57の演算部は、カメラモジュール51の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。
OISコントローラ57の演算部は、ブレベクトルから光学式手振れ補正ベクトルを算出する。光学式手振れ補正ベクトルの向きは、ブレベクトルの向きと逆である。光学式手振れ補正ベクトルの大きさは、ブレベクトルの大きさに補正係数を乗算することによって算出される。補正係数は、第3の実施形態と同様に、ブレベクトルの大きさに応じて変わる。
OISコントローラ57の制御部は、補正レンズ212が光学式手振れ補正ベクトルの大きさと方向に移動するように指示する制御信号をアクチュエータ20へ出力する。OISコントローラ57の通信部は、ブレベクトルと、光学式手振れ補正後(アクチュエータ20が移動後)の補正レンズ212の位置ベクトルとを表わすデータCMを補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ55へ出力する。
第1アプリケーションプロセッサ55は、データCMを受信する。第1アプリケーションプロセッサ55は、垂直同期信号VSYNCを受信したときに、そのタイミングよりも前で、かつ1つ前に垂直同期信号VSYNCを受信したタイミングよりも後に受信した複数個のデータCMで表されるブレベクトルと光学式手振れ補正後の補正レンズ212の位置ベクトルとから、代表ブレベクトルと、補正レンズ212の代表位置ベクトルを求める。
たとえば、最も新しいデータCMに含まれるブレベクトルおよび光学式手振れ補正後の補正レンズ212の位置ベクトルを代表ブレベクトルおよび補正レンズ212の代表位置ベクトルとしてもよい。
第1アプリケーションプロセッサ55は、代表ブレベクトルおよび補正レンズ212の代表位置ベクトルとから、電子式手振れ補正ベクトルを求める。
電子式手振れ補正ベクトルの向きは、補正レンズ212の代表位置ベクトルの向きと同じである。電子式手振れ補正ベクトルの大きさは、代表ブレベクトルの大きさから補正レンズ212の代表位置ベクトルの大きさを減算することによって算出される。
第1アプリケーションプロセッサ55は、電子式手振れ補正ベクトルにフレーム番号を付したフレーム番号付き電子式手振れ補正ベクトルを表わす信号CMA′_FNを第2アプリケーションプロセッサ43へ送る。ここで、フレーム番号の初期値は0である。
なお、第1アプリケーションプロセッサ55は、代表ブレベクトルの大きさ(ブレ量)が所定値以上のときに、電子式手振れ補正が実行され、代表ブレベクトルの大きさ(ブレ量)が所定値未満のとき、補正残し量があっても、電子式手振れ補正が実行されないようにしてもよい。すなわち、第1アプリケーションプロセッサ55は、代表ブレベクトルの大きさが所定値未満のときには、電子式手振れ補正ベクトルを算出しないこととしてもよい。これによって、画像処理モジュール52側で、被写体ぶれが発生しているのか、あるいはパン・チルトが発生しているのかを区別して、被写体ぶれが発生しているときに限り、電子式手振れ補正を実行するようにすることができる。
以上のように、本実施の形態によれば、OISコントローラから画像処理モジュールに、補正残し量を算出する前のデータであるブレ量と、補正レンズの位置を表わすデータとを送信する。このようなデータが送信されても、第5の実施形態と同様の効果が得られる。また、代表ブレベクトルの大きさ(ブレ量)に基づいて、電子式手振れ補正を実行するか否かを判断することもできる。
[第6の実施形態の変形例]
本実施の形態では、OISコントローラ57は、ブレベクトルと、光学式手振れ補正後(アクチュエータ20が移動後)の補正レンズ212の位置ベクトルとを表わすデータCMを補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ55へ出力するものとしたが、これに限定するものではない。
たとえば、OISコントローラ57の通信部は、ブレベクトルと、光学式手振れ補正ベクトルとを表わすデータCMを補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ55へ出力するものとしてもよい。
[第7の実施形態]
図10は、第7の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール61と、画像処理モジュール62とを備える。
図10の構成が、図9の構成と相違する点は、図10のカメラモジュール61に含まれるイメージセンサ66とOISコントローラ67、および図10の画像処理モジュール62に含まれる第1アプリケーションプロセッサ65の機能が、図9における対応するものと相違することである。
イメージセンサ66は、フレームデータFD1を作成後、フレームデータFD1をイメージシグナルプロセッサ21へ出力するタイミングにおいて、垂直同期信号VSYNCを第1アプリケーションプロセッサ65ではなく、OISコントローラ67へ出力する。
OISコントローラ67の演算部は、振動検出センサ18から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、カメラモジュール61の回転角を算出する。OISコントローラ67の演算部は、カメラモジュール61の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。
OISコントローラ67の演算部は、ブレベクトルから光学式手振れ補正ベクトルを算出する。光学式手振れ補正ベクトルの向きは、ブレベクトルの向きと逆である。光学式手振れ補正ベクトルの大きさは、ブレベクトルの大きさに補正係数を乗算することによって算出される。補正係数は、第3の実施形態と同様に、ブレベクトルの大きさに応じて変わる。
OISコントローラ67の制御部は、補正レンズ212が光学式手振れ補正ベクトルの大きさと方向に移動するように指示する制御信号をアクチュエータ20へ出力する。
図11は、OISコントローラ67が、垂直同期信号VSYNCを受信するタイミングと、ブレベクトルを受信するタイミングと、光学式手振れ補正後の補正レンズ212の位置ベクトルを受信するタイミングと、代表ブレベクトルおよび代表位置ベクトルを送信するタイミングを表わす図である。
OISコントローラ67が、垂直同期信号VSYNCを受信するタイミングと、ブレベクトルを受信するタイミングおよび光学式手振れ補正後の補正レンズ212の位置ベクトルを受信するタイミングは同期していない。垂直同期信号VSYNCは、1/30秒ごとに受信される。ブレベクトルおよび位置ベクトルは、1/30秒よりも短い周期で受信される。
OISコントローラ67の演算部は、垂直同期信号VSYNCを受信するごとに、その受信タイミングよりも前で、かつ1つ前に垂直同期信号VSYNCを受信したタイミングよりも後に取得したブレベクトルと学式手振れ補正後の補正レンズ212の位置ベクトルとから、代表ブレベクトルと、補正レンズ212の代表位置ベクトルを求める。
たとえば、最も新しいブレベクトルおよび光学式手振れ補正後の補正レンズ212の位置ベクトルを代表ブレベクトルおよび補正レンズ212の代表位置ベクトルとしてもよい。
OISコントローラ67の通信部は、代表ブレベクトルと、補正レンズ212の代表位置ベクトルを表わすデータCM′を補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ65へ出力する。
第1アプリケーションプロセッサ65は、データCM′を受信する。第1アプリケーションプロセッサ67は、データCM′に含まれる代表ブレベクトルおよび補正レンズ212の代表位置ベクトルから、電子式手振れ補正ベクトルを求める。電子式手振れ補正ベクトルの向きは、補正レンズ212の代表位置ベクトルの向きと同じである。電子式手振れ補正ベクトルの大きさは、代表ブレベクトルの大きさから補正レンズ212の代表位置ベクトルの大きさを減算することによって算出される。
第1アプリケーションプロセッサ65は、電子式手振れ補正ベクトルにフレーム番号を付したフレーム番号付き電子式手振れ補正ベクトルを表わす信号CMA′_FNを第2アプリケーションプロセッサ43へ送る。ここで、フレーム番号の初期値は0である。
以上のように、本実施の形態では、OISコントローラが補正残し量を表わすデータを垂直同期信号VSYNCに同期して画像処理モジュールへ送信するので、IC2バスを流れるデータの量を少なくすることができる。
また、本実施の形態では、第1アプリケーションプロセッサ側で必要となる情報に再生成する必要がなく、第1アプリケーションプロセッサの性能に影響されないシステムが構築できる。
また、本実施の形態では、振動検出センサに近い場所で、フレームタイミングに同期して、データが加工できる為、振動検出センサの出力遅延に影響されないシステムが構築できる。さらに、本実施の形態では、適切な周期で動きベクトルの情報を生成することもできる。また、本実施の形態では、OISコントローラが、光学式手振れ補正と電子式手振れ補正の補正量の割り当てを一括管理する為、感度調整などの工程調整が容易になる。
[第7の実施形態の変形例]
第7の実施形態では、OISコントローラ67の通信部は、代表ブレベクトルと、補正レンズ212の代表位置ベクトルを表わすデータCM′を補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ65へ出力したが、これに限定するものではない。
OISコントローラ67の通信部は、代表ブレベクトルと、代表光学式手振れ補正ベクトルを表わすデータCM′を補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ65へ出力するものとしてもよい。代表光学式手振れ補正ベクトルは、たとえば、前フレームの最新の光学式手振れ補正ベクトルとすることができる。
OISコントローラ67の通信部は、代表ブレベクトルから代表光学式手振れ補正ベクトルを減算した補正残しベクトル表わすデータCM′を補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ65へ出力するものとしてもよい。
また、OISコントローラ67の通信部は、代表ブレベクトルから補正レンズ212の代表位置ベクトルを減算した補正残しベクトル表わすデータCM′を補正残しベクトルを表わすデータとして第1アプリケーションプロセッサ65へ出力するものとしてもよい。
[第8の実施形態]
図12は、第8の実施形態の半導体システムの構成を表わす図である。
この半導体システムは、カメラモジュール71と、画像処理モジュール72とを備える。
図12の構成が、図10の構成と相違する点は、図12のカメラモジュール71に含まれるOISコントローラ77、および図12の画像処理モジュール72に含まれる第1アプリケーションプロセッサ75、バッファメモリ74および第2アプリケーションプロセッサ73の機能が、図10における対応するものと相違することである。
さらに、図12のカメラモジュール71は、歪補正用LUT(LookUp Table)メモリ78を含み、図12の画像処理モジュール72が、第3アプリケーションプロセッサ79を備える点で、図10に示すものと相違する。
OISコントローラ77の演算部は、振動検出センサ18から送られる鉛直面内の角速度および水平面内の角速度を表わす信号に基づいて、カメラモジュール71の回転角を算出する。OISコントローラ77の演算部は、カメラモジュール71の回転角に基づいて、光学系14における光軸のブレ、すなわち受光面内における被写体13からの光の光軸からのブレを表わすブレベクトルを計算する。
OISコントローラ77の演算部は、ブレベクトルから光学式手振れ補正ベクトルを算出する。光学式手振れ補正ベクトルの向きは、ブレベクトルの向きと逆である。光学式手振れ補正ベクトルの大きさは、ブレベクトルの大きさに補正係数を乗算することによって算出される。補正係数は、ブレベクトルの大きさに応じて変わる。
OISコントローラ77の制御部は、補正レンズ212が光学式手振れ補正ベクトルの大きさと方向に移動するように指示する制御信号をアクチュエータ20へ出力する。
図13は、第8の実施形態における受光面の一方の軸方向に補正レンズ212がずれたときの手振れ補正を説明するための図である。
図13(a)には、ブレベクトルの時間変化を表わす曲線CV1と、参考として第3の実施形態における補正後の補正レンズ212の位置の時間変化を表わす曲線CV2と、第8の実施形態における補正後の補正レンズ212の位置の時間変化を表わす曲線CV3が示されている。
図13(b)には、参考として第3の実施形態の補正係数(点線)と、第8の実施形態の補正係数(実線)が表わされている。
第8の実施形態では、ブレベクトルの大きさがD0のときに、補正係数がK(>0)である。ブレベクトルの大きさ(ブレ量)がD1よりも大きく、D0未満のときには、ブレベクトルの大きさ(ブレ量)が小さくなるほど、補正係数が大きくなる。ブレベクトルの大きさ(ブレ量)がD1以下のときには、補正係数が一定値となる。本実施の形態の補正係数は、第3の実施形態の補正係数よりも手振れ補正に対する抑制が低く、補正レンズ212の端においても手振れ補正がある程度実行される。そのため、レンズ収差によって、撮像画像に歪が生じる。
OISコントローラ77の演算部は、垂直同期信号VSYNCを受信するごとに、その受信タイミングよりも前で、かつ1つ前に垂直同期信号VSYNCを受信したタイミングよりも後に取得したブレベクトルと光学式手振れ補正後の補正レンズ212の位置ベクトルとから、代表ブレベクトルと、補正レンズ212の代表位置ベクトルを求める。
歪補正用LUTメモリ78は、代表ブレベクトルと、撮像画像の歪補正用データとの対応関係を定めたLUTを記憶する。歪補正用データは、たとえばアフィン変換のためのデータとすることができる。
OISコントローラ77の演算部は、歪補正用LUTメモリ78から代表ブレベクトルに対応する歪補正用データを読出す。
OISコントローラ77の通信部は、歪補正用データと、代表ブレベクトルと、補正レンズ212の代表位置ベクトルを表わすデータCXを第1アプリケーションプロセッサ75へ出力する。
第1アプリケーションプロセッサ75は、データCXを受信する。第1アプリケーションプロセッサ67は、データCXに含まれる代表ブレベクトルおよび補正レンズ212の代表位置ベクトルとから、電子式手振れ補正ベクトルを求める。電子式手振れ補正ベクトルの向きは、補正レンズ212の代表位置ベクトルの向きと同じである。電子式手振れ補正ベクトルの大きさは、代表ブレベクトルの大きさ(ブレ量)から補正レンズ212の代表位置ベクトルの大きさ(位置を表和す量)を減算することによって算出される。
第1アプリケーションプロセッサ75は、電子式手振れ補正ベクトルにフレーム番号を付したフレーム番号付き電子式手振れ補正ベクトルを表わす信号CMA′_FNを第2アプリケーションプロセッサ43へ送る。ここで、フレーム番号の初期値は0である。
第1アプリケーションプロセッサ75は、データCXに含まれる歪補正用データにフレーム番号を付したフレーム番号付き歪補正データAFNを第3アプリケーションプロセッサ79へ送る。
バッファメモリ74は、フレーム送り信号FRAを受信するごとに、1個分のフレームデータFD2を第3アプリケーションプロセッサ79へ出力する。
第3アプリケーションプロセッサ79は、逐次受信したフレーム番号付き歪補正データAFNのうち、バッファメモリ74から出力されたフレームデータFD2に含まれるフレーム番号と同一のフレーム番号が付された歪補正データを選択する。第3アプリケーションプロセッサ79は、フレームデータFD2に含まれる撮像画像を選択した歪補正データによって補正し、補正後の撮像画像が含まれるフレームデータFD4を第2アプリケーションプロセッサ73へ送る。
図14(a)は、歪補正前の撮像画像を表わす図である。図14(b)は、歪補正後の撮像画像を表わす図である。歪補正によって、補正レンズ212の端の部分を介して入力された光によって生成される撮像画像の端の部分に歪が生じるが、歪補正によって、撮像画像の歪が減少または除去される。
第2アプリケーションプロセッサ73は、電子式手振れ補正を実行する。第2アプリケーションプロセッサ73は、逐次受信した信号CMA′_FNに含まれるフレーム番号付き補正残しベクトルのうち、フレームデータFD4に含まれるフレーム番号と同一のフレーム番号が付された電子式手振れ補正ベクトルを選択する。第2アプリケーションプロセッサ73は、選択した電子式手振れ補正ベクトルの大きさと方向にフレームデータFD4に含まれる撮像画像の有効領域を移動させる。第2アプリケーションプロセッサ73は、撮像画像のうち有効領域内の画素のデータ(有効画像データ)をフレームデータFD3としてフレームメモリ24へ出力する。
以上のように、本実施の形態によれば、光が補正レンズの端を介して入力されることによって、撮像画像に歪が生じる場合でも、画像処理モジュールによって、ブレ量に応じた歪補正が実行されるので、表示される画像の歪を除去または低減できる。
なお、歪補正は、撮像画像全体ではなく、撮像画像の端の部分のみに対して行なうものとしてもよい。
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。
101 半導体システム、11,31,51,61,71,91,102 カメラモジュール、12,32,42,52,62,72,103 画像処理モジュール、13 被写体、14,104 光学系、16,36,66,105 イメージセンサ、17,37,57,67,77,97 OISコントローラ、20,106 アクチュエータ、18,26,107 振動検出センサ、21 イメージシグナルプロセッサ、22,74 バッファメモリ、23,33,43,73 第2アプリケーションプロセッサ、24 フレームメモリ、25,35,45,55,65,75 第1アプリケーションプロセッサ、27 モニタ、78 歪補正用LUTメモリ、79 第3アプリケーションプロセッサ、99 I2Cバス、108 カメラコントローラ、109 制御部、110 演算部、111 通信部、112 第1のプロセッサ、113 第2のプロセッサ、114 第3のプロセッサ。

Claims (14)

  1. 光学式手振れ補正を制御するカメラコントローラであって、
    振動検出センサによる検出結果に基づいて光学系における光軸のブレを検出し、前記ブレの量の一部を補正するために、光学式手振れ補正量を算出する演算部と、
    前記光学式手振れ補正量に基づいて、前記光学系に含まれる補正レンズが前記光軸に垂直な面内でシフトするように前記補正レンズを駆動するアクチュエータを制御する制御部と、
    前記ブレの残りの量を補正するために、前記ブレの補正残し量を表わすデータを電子式手振れ補正機能を備えた画像処理モジュールに送信する通信部とを備えた、カメラコントローラ。
  2. 前記通信部は、イメージセンサから垂直同期信号を受けるごとに、前記ブレの補正残し量を表わすデータを前記画像処理モジュールに送信する、請求項1記載のカメラコントローラ。
  3. 前記ブレの量に応じた、イメージセンサの撮像画像の歪補正用のデータを記憶する記憶部を備え、
    前記通信部は、前記ブレの量に応じた前記歪補正用のデータを前記画像処理モジュールに送信する、請求項1記載のカメラコントローラ。
  4. 前記ブレの補正残し量を表わすデータは、前記ブレの量から前記光学式手振れ補正量を減算した量を表わすデータである、請求項1記載のカメラコントローラ。
  5. 前記ブレの補正残し量を表わすデータは、前記ブレの量から前記補正レンズのシフト後の位置を表わす量を減算した量を表わすデータである、請求項1記載のカメラコントローラ。
  6. 前記ブレの補正残し量を表わすデータは、前記ブレの量と、前記補正レンズのシフト後の位置を表わすデータである、請求項1記載のカメラコントローラ。
  7. 前記ブレの補正残し量を表わすデータは、前記ブレの量と、前記光学式手振れ補正量を表わすデータである、請求項1記載のカメラコントローラ。
  8. 電子式手振れ補正機能を備えた画像処理モジュールであって、
    カメラコントローラから送信される光学系における光軸のブレの補正残し量を表わすデータを受信し、前記補正残し量に応じた電子式手振れ補正量を表わす信号を出力する第1のプロセッサと、
    イメージセンサから送られるフレームデータを受信する第2のプロセッサと、
    前記第1のプロセッサから送られる前記電子式手振れ補正量に基づいて、前記フレームデータに含まれる撮像画像の有効領域を変化させる第3のプロセッサとを備えた、画像処理モジュール。
  9. 前記第1のプロセッサは、イメージセンサから垂直同期信号を受信するごとに、1つ前の垂直同期信号を受信したタイミングよりも後に受信した複数個の前記ブレの補正残し量を表わすデータに基づいて、前記電子式手振れ補正量を求める、請求項8記載の画像処理モジュール。
  10. 前記第1のプロセッサは、電子式手振れ補正量にフレーム番号を付した信号を前記第3のプロセッサへ出力し、
    前記第3のプロセッサは、前記フレームデータのフレーム番号と同一の番号が付された前記電子式手振れ補正量に基づいて、前記撮像画像の有効領域を変化させる、請求項8記載の画像処理モジュール。
  11. 前記第1のプロセッサは、前記ブレの補正残し量を表わすデータとともに、ブレの量に応じた前記撮像画像の歪補正用のデータを受信し、
    前記歪補正用のデータを用いて、前記撮像画像の歪を補正する第4のプロセッサを備える、請求項8記載の画像処理モジュール。
  12. 前記第1のプロセッサは、前記ブレの補正残し量を表わすデータとして、前記ブレの量と前記光学系に含まれる補正レンズのシフト後の位置を表わすデータを受信し、前記ブレの量から前記位置を表わす量を減算することによって前記電子式手振れ補正量を算出する、請求項8記載の画像処理モジュール。
  13. 前記第1のプロセッサは、前記ブレの補正残し量を表わすデータとして、前記ブレの量と前記光学系に含まれる補正レンズのシフト後の位置を表わすデータを受信し、前記ブレの量が所定値以上の場合に、前記ブレの量から前記位置を表わす量を減算することによって前記電子式手振れ補正量を算出する、請求項8記載の画像処理モジュール。
  14. 光学手振れ補正機能を備えたカメラモジュールと、電子式手振れ補正機能を備えた画像処理モジュールとを備えた半導体システムであって、
    前記カメラモジュールは、
    手振れを補正するための補正レンズを含む光学系と、
    前記カメラモジュールの振動を検出する振動検出センサと、
    前記光学系を介して入力された光を光電変換することによって撮像画像を生成し、撮像画像を含むフレームデータを出力するイメージセンサと、
    前記補正レンズを駆動するアクチュエータと、
    光学式手振れ補正を制御するカメラコントローラとを備え、
    前記振動検出センサによる検出結果に基づいて前記光学系における光軸のブレを検出し、前記ブレの量の一部を補正するために、光学式手振れ補正量を算出し、前記光学式手振れ補正量に基づいて前記補正レンズが前記光軸に垂直な面内でシフトするように前記アクチュエータを制御し、前記ブレの残りの量を補正するために、前記ブレの補正残し量を表わすデータを前記画像処理モジュールに送信し、
    前記画像処理モジュールは、
    前記カメラコントローラから送信される前記ブレの補正残し量を表わすデータを受信し、前記補正残し量に応じた電子式手振れ補正量を表わす信号を出力する第1のプロセッサと、
    前記イメージセンサから送られるフレームデータを受信する第2のプロセッサと、
    前記第1のプロセッサから送られる前記電子式手振れ補正量に基づいて、前記第2のプロセッサから送られる前記フレームデータに含まれる撮像画像データの有効領域を変化させる第3のプロセッサとを備えた、半導体システム。
JP2016189500A 2016-09-28 2016-09-28 画像処理モジュール、および半導体システム Active JP6674701B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016189500A JP6674701B2 (ja) 2016-09-28 2016-09-28 画像処理モジュール、および半導体システム
US15/663,730 US10348969B2 (en) 2016-09-28 2017-07-29 Camera controller, image processing module, and semiconductor system
CN201710829645.XA CN107888821B (zh) 2016-09-28 2017-09-15 相机控制器、图像处理模块以及半导体系统
TW106131887A TWI738869B (zh) 2016-09-28 2017-09-18 影像處理模組
KR1020170123267A KR102393775B1 (ko) 2016-09-28 2017-09-25 카메라 컨트롤러, 화상 처리 모듈 및 반도체 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016189500A JP6674701B2 (ja) 2016-09-28 2016-09-28 画像処理モジュール、および半導体システム

Publications (2)

Publication Number Publication Date
JP2018056753A true JP2018056753A (ja) 2018-04-05
JP6674701B2 JP6674701B2 (ja) 2020-04-01

Family

ID=61686977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016189500A Active JP6674701B2 (ja) 2016-09-28 2016-09-28 画像処理モジュール、および半導体システム

Country Status (5)

Country Link
US (1) US10348969B2 (ja)
JP (1) JP6674701B2 (ja)
KR (1) KR102393775B1 (ja)
CN (1) CN107888821B (ja)
TW (1) TWI738869B (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108353131B (zh) * 2016-10-17 2021-05-04 华为技术有限公司 获取图像的方法和终端设备
CN109819178B (zh) * 2017-11-21 2022-07-08 虹软科技股份有限公司 一种用于帧处理的方法和装置
US11402730B2 (en) * 2018-06-19 2022-08-02 Hangzhou Taro Positioning Technology Co., Ltd. Camera mobile device holder with stablization
CN114270801B (zh) * 2019-09-29 2024-04-12 Oppo广东移动通信有限公司 防抖电路、方法、设备及存储介质
CN112333385B (zh) * 2020-10-28 2022-02-22 维沃移动通信有限公司 电子防抖控制方法及装置
KR20220145621A (ko) * 2021-04-22 2022-10-31 삼성전자주식회사 촬영 시 흔들림을 보정하는 방법 및 그 전자 장치
EP4135311A4 (en) 2021-06-29 2023-05-03 Samsung Electronics Co., Ltd. METHOD OF IMAGE STABILIZATION AND ELECTRONIC DEVICE THEREFOR
WO2023005355A1 (zh) * 2021-07-30 2023-02-02 荣耀终端有限公司 图像防抖方法与电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004029640A (ja) * 2002-06-28 2004-01-29 Canon Inc 防振ズームレンズ装置およびカメラシステム
JP2010200278A (ja) * 2009-02-27 2010-09-09 Nikon Corp カメラ
JP2014039131A (ja) * 2012-08-14 2014-02-27 Canon Inc 撮像システム及びその制御方法
JP2017152995A (ja) * 2016-02-26 2017-08-31 キヤノン株式会社 撮像システムおよびその制御方法、撮像装置、レンズ装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005215388A (ja) * 2004-01-30 2005-08-11 Canon Inc 交換レンズ及びそれを用いたカメラシステム
JP2006033758A (ja) * 2004-07-21 2006-02-02 Olympus Imaging Corp 撮像装置および画像復元方法
US7742644B2 (en) * 2006-01-18 2010-06-22 Qualcomm Incorporated Processing of images in imaging systems
JP2008160637A (ja) * 2006-12-26 2008-07-10 Matsushita Electric Ind Co Ltd 撮像装置
JP5259172B2 (ja) 2007-12-19 2013-08-07 セミコンダクター・コンポーネンツ・インダストリーズ・リミテッド・ライアビリティ・カンパニー 手振れ補正制御回路およびそれを搭載した撮像装置
JP5513029B2 (ja) * 2009-07-15 2014-06-04 キヤノン株式会社 撮像装置およびその制御方法
JP5720556B2 (ja) * 2011-12-14 2015-05-20 株式会社Jvcケンウッド 撮像装置及び画像ぶれ補正方法
JP6004785B2 (ja) * 2012-06-29 2016-10-12 キヤノン株式会社 撮像装置、光学機器、撮像システムおよび制御方法
JP6074298B2 (ja) * 2013-03-18 2017-02-01 キヤノン株式会社 撮像装置、画像処理装置、及びそれらの制御方法
US9374514B2 (en) * 2013-10-18 2016-06-21 The Lightco Inc. Methods and apparatus relating to a camera including multiple optical chains
US9406114B2 (en) * 2014-02-18 2016-08-02 Empire Technology Development Llc Composite image generation to remove obscuring objects
KR101642569B1 (ko) * 2014-04-18 2016-07-26 삼성전기주식회사 디지털 촬영시스템 및 그 제어방법
JP6472176B2 (ja) * 2014-06-10 2019-02-20 キヤノン株式会社 撮像装置、像振れ補正装置、撮像装置の制御方法及び像振れ補正方法
JP6385212B2 (ja) * 2014-09-09 2018-09-05 キヤノン株式会社 画像処理装置及び方法、撮像装置、及び画像生成装置
WO2016093502A1 (ko) * 2014-12-10 2016-06-16 엘지전자 주식회사 차량 디스플레이 장치 및 이를 구비한 차량
JP6702323B2 (ja) * 2015-07-22 2020-06-03 ソニー株式会社 カメラモジュール、固体撮像素子、電子機器、および撮像方法
JP6700853B2 (ja) * 2016-02-26 2020-05-27 キヤノン株式会社 撮像システムおよびその制御方法、撮像装置、レンズ装置
JP6910765B2 (ja) * 2016-08-26 2021-07-28 キヤノン株式会社 制御装置、防振制御方法および防振制御プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004029640A (ja) * 2002-06-28 2004-01-29 Canon Inc 防振ズームレンズ装置およびカメラシステム
JP2010200278A (ja) * 2009-02-27 2010-09-09 Nikon Corp カメラ
JP2014039131A (ja) * 2012-08-14 2014-02-27 Canon Inc 撮像システム及びその制御方法
JP2017152995A (ja) * 2016-02-26 2017-08-31 キヤノン株式会社 撮像システムおよびその制御方法、撮像装置、レンズ装置

Also Published As

Publication number Publication date
US10348969B2 (en) 2019-07-09
TW201825998A (zh) 2018-07-16
US20180091739A1 (en) 2018-03-29
KR20180035150A (ko) 2018-04-05
JP6674701B2 (ja) 2020-04-01
CN107888821B (zh) 2021-04-09
KR102393775B1 (ko) 2022-05-03
CN107888821A (zh) 2018-04-06
TWI738869B (zh) 2021-09-11

Similar Documents

Publication Publication Date Title
JP6674701B2 (ja) 画像処理モジュール、および半導体システム
US10848676B2 (en) Semiconductor device and electronic device
US9019387B2 (en) Imaging device and method of obtaining image
US8279290B2 (en) Blur correcting image pickup apparatus and control method
JP7277513B2 (ja) レンズ装置、レンズ装置の制御方法およびレンズ装置の制御プログラム、
WO2011086728A1 (ja) 撮像装置および画像振れ補正方法
CN107135349B (zh) 摄像设备、镜头单元、摄像系统及其控制方法
JP2017152995A (ja) 撮像システムおよびその制御方法、撮像装置、レンズ装置
JP2016118701A (ja) 撮像装置及びその制御方法
JP2019128362A (ja) 撮像装置
US9507170B2 (en) Optical apparatus, interchangeable lens, and method for correcting image blurring
JP2018033076A (ja) アクセサリ装置、撮像装置、撮像システム、通信制御方法および通信制御プログラム
JP5436116B2 (ja) 画像処理装置、撮像装置、及び制御方法
JP5241019B2 (ja) 防振用シフトレンズを備えたレンズ装置
JP2019135818A (ja) 撮像装置、固体撮像素子、カメラモジュール、駆動制御部、および撮像方法
JP5393877B2 (ja) 撮像装置および集積回路
JP2008124850A (ja) 画像動き補正装置、レンズ装置および撮像装置
JP2006203493A (ja) 画像動き補正装置
JP4759238B2 (ja) 光学機器
JP7182962B2 (ja) 撮像装置、レンズ装置およびこれらの制御方法
JP2004252486A (ja) 撮像装置における像ぶれ補正装置
JP7172214B2 (ja) 交換レンズ、カメラボディ及びカメラシステム
JP7214424B2 (ja) 撮像装置およびその制御方法
WO2020012960A1 (ja) 撮像装置
JP2017200107A (ja) 撮像システム、レンズ装置、撮像装置及び撮像システムの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200305

R150 Certificate of patent or registration of utility model

Ref document number: 6674701

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150