JP7178402B2 - 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 - Google Patents

複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 Download PDF

Info

Publication number
JP7178402B2
JP7178402B2 JP2020501801A JP2020501801A JP7178402B2 JP 7178402 B2 JP7178402 B2 JP 7178402B2 JP 2020501801 A JP2020501801 A JP 2020501801A JP 2020501801 A JP2020501801 A JP 2020501801A JP 7178402 B2 JP7178402 B2 JP 7178402B2
Authority
JP
Japan
Prior art keywords
imaging module
framing
image
imaging
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020501801A
Other languages
English (en)
Other versions
JP2022502871A (ja
Inventor
杜慧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Mobile Software Co Ltd
Original Assignee
Beijing Xiaomi Mobile Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Mobile Software Co Ltd filed Critical Beijing Xiaomi Mobile Software Co Ltd
Publication of JP2022502871A publication Critical patent/JP2022502871A/ja
Application granted granted Critical
Publication of JP7178402B2 publication Critical patent/JP7178402B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Image Processing (AREA)

Description

(関連出願の相互参照)
本出願は、2019年9月10日付の中国特許出願第201910855143.3号に基づく優先権を主張するものであり、該中国特許出願の全内容を参照として本出願に援用する。
本出願は、端末技術分野に関し、特に、複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体に関する。
端末技術の急激な進化に伴い、スマートホン、タブレット等のようなインテリジェント端末にはいずれもカメラが配置されている。インテリジェント端末は、モバイル端末に配置されているカメラにより、画像撮影を行うことができる。撮影された画像の品質を向上させるために、一部のインテリジェント端末には、複数のカメラが配置されている。最もよく知られているのは、2つのカメラが配置されているインテリジェント端末である。このようなインテリジェント端末は、撮影シーンに応じて、1つのカメラを選択して画像撮影を行うことができる。例えば、インテリジェント端末に配置されている2つのカメラは、それぞれ広角カメラと長焦点距離カメラである。しかしながら、異なカメラは、異なる撮影シーンに用いられるものであり、撮影範囲の広いカメラにより撮影された画像には、画質が好ましくないことがある。
関連技術における欠点を解消するために、本開示の実施例は、複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体を提供する。
本開示の実施例の第1態様によれば、複数の撮像モジュールに基づいた画像処理方法を提供する。前記画像処理方法は、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を含む。
任意選択的な実施例において、前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OpticalImage Stabilization:OIS)により前記第2撮影モジュールの現在のフレーミング視野を最大範囲に調整することと、を含み、
ここで、前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である。
任意選択的な実施例において、前記対象とする被写体はフレーミング領域における注目される対象であり、前記第2撮像モジュールのフレーミング視野を調整することは、
前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含む。
任意選択的な実施例において、前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における合焦点、前記合焦点により決定された焦点領域、前記第1撮像モジュールのフレーミング領域における指定部分領域、又は前記第1撮像モジュールのフレーミング領域である。
任意選択的な実施例において、前記第2撮像モジュールは1つのカメラを備え、前記第2撮像モジュールのフレーミング領域が前記対象とする被写体をカバーするようにすることは、前記対象とする被写体を第2撮像モジュールの同一のフレーミング領域内又は同一のフレーミング領域の特定位置に位置させることを含み、前記特定位置は事前設定された位置、又は検出した操作信号により決定された位置である。
任意選択的な実施例において、前記第2撮像モジュールは1つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含み、
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、サブターゲット方法に沿って第2撮像モジュールを調整した後に取得されたセカンダリ画像を含む。
任意選択的な実施例において、前記第2撮像モジュールは、少なくとも2つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含み、
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、各カメラの調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含む。
任意選択的な実施例において、前記画像処理方法は、
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含む。
任意選択的な実施例において、前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行される。
任意選択的な実施例において、前記複数の撮像モジュールは、視野角が順次小さくなる広角撮像モジュールと、汎用撮像モジュールと、長焦点距離撮像モジュールとを備える。
本開示の実施例の第2態様によれば、複数の撮像モジュールに基づいた画像処理装置を提供し、前記画像処理装置は、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成される視野調整モジュールであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい、視野調整モジュールと、
セカンダリ画像とプライマリ画像をフュージョン処理するように構成されるフュージョン処理モジュールであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、フュージョン処理モジュールとを備える。
本開示の実施例の第3態様によれば、複数の撮像モジュールに基づいた電子機器を提供し、該電子機器は、
少なくとも2つの視野角が異なる撮像モジュールと、
プロセッサと、
プロセッサが実行可能な命令を記憶するように構成されるメモリと、を備え、
前記プロセッサは、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を実行するように構成される。
本開示の実施例の第4態様によれば、コンピュータ可読記憶媒体を提供し、該コンピュータ可読記憶媒体には、コンピュータプログラムが記憶されており、該プログラムがプロセッサにより実行されるときに、上記いずれか一項に記載の画像処理方法のステップを実現する。
本発明は、例えば、以下の項目を提供する。
(項目1)
複数の撮像モジュールに基づいた画像処理方法であって、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が前記第1撮像モジュールにより撮影された画像であることと、を含む、前記画像処理方法。
(項目2)
前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OIS)により前記第2撮影モジュールの現在のフレーミング視野を最大範囲に調整することと、を含み、
前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点であることを特徴とする
項目1に記載の画像処理方法。
(項目3)
前記対象とする被写体はフレーミング領域における注目される対象であり、前記第2撮像モジュールのフレーミング視野を調整することは、
前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含むことを特徴とする
項目1に記載の画像処理方法。
(項目4)
前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における合焦点、前記合焦点により決定された焦点領域、前記第1撮像モジュールのフレーミング領域における指定部分領域、又は前記第1撮像モジュールのフレーミング領域であることを特徴とする
項目1に記載の画像処理方法。
(項目5)
前記第2撮像モジュールは1つのカメラを備え、前記第2撮像モジュールのフレーミング領域が前記対象とする被写体をカバーするようにすることは、前記対象とする被写体を第2撮像モジュールの同一のフレーミング領域内又は同一のフレーミング領域の特定位置に位置させることを含み、前記特定位置は事前設定された位置、又は検出した操作信号により決定された位置であることを特徴とする
項目1に記載の画像処理方法。
(項目6)
前記第2撮像モジュールは1つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含み、
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、サブターゲット方法に沿って第2撮像モジュールを調整した後に取得されたセカンダリ画像を含むことを特徴とする
項目3に記載の画像処理方法。
(項目7)
前記第2撮像モジュールは、少なくとも2つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含み、
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、各カメラの調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含むことを特徴とする
項目3に記載の画像処理方法。
(項目8)
前記画像処理方法は、
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含むことを特徴とする
項目1から7のうちいずれか一項に記載の画像処理方法。
(項目9)
前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行されることを特徴とする
項目1から7のうちいずれか一項に記載の画像処理方法。
(項目10)
前記複数の撮像モジュールは、視野角が順次小さくなる広角撮像モジュールと、汎用撮像モジュールと、長焦点距離撮像モジュールとを備えることを特徴とする
項目1から7のうちいずれか一項に記載の画像処理方法。
(項目11)
複数の撮像モジュールに基づいた画像処理装置であって、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成される視野調整モジュールであって、前記第2撮像モジュールの視野角が前記第1撮像モジュールの視野角より小さい、視野調整モジュールと、
セカンダリ画像とプライマリ画像をフュージョン処理するように構成されるフュージョン処理モジュールであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、フュージョン処理モジュールと、を備える、前記画像処理装置。
(項目12)
複数の撮像モジュールに基づいた電子機器であって、
少なくとも2つの視野角が異なる撮像モジュールと、
プロセッサと、
プロセッサが実行可能な命令を記憶するように構成されるメモリと、を備え、
前記プロセッサは、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を実行するように構成される、前記電子機器。
(項目13)
コンピュータプログラムが記憶されているコンピュータ可読記憶媒体であって、前記プログラムがプロセッサにより実行されるときに、項目1から9のうちいずれか一項に記載の画像処理方法のステップを実現する、前記コンピュータ可読記憶媒体。
本開示の実施例が提供する技術的解決手段は、以下の有益な効果を有することができる。
本開示の実施例において、第1撮像モジュールが現在、主要撮影状態にあり、且つ第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、第2撮像モジュールのフレーミング視野を調整し、第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにし、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理し、画像の画質を高め、更に、第2撮像モジュールを調整することで、第2撮像モジュールの撮影範囲を拡大し、調整により得られた調整済みフレーミング領域が初期フレーミング領域に存在しない領域をカバーするようにすることで、画質向上不可能であった画像領域の少なくとも一部について、画質向上を実現させる。
上記の一般的な説明及び後述する細部に関する説明は、例示及び説明のためのものに過ぎず、本開示の実施例を限定するものではないことが理解されるべきである。
ディスプレイスクリーンにおける、各カメラのフレーミング領域の表示を示す図である。 本開示の一例示的な実施例に係る複数の撮像モジュールに基づいた画像処理方法を示すフローチャートである。 本開示の一例示的な実施例に係る最大フレーミング領域を示す概略図である。 本開示の一例示的な実施例に係る合焦点を示す概略図である。 本開示の一例示的な実施例に係るフレーミング領域が調整される前後を比較した概略図である。 本開示の一例示的な実施例に係る第1スプライシングフレーミング領域を示す概略図である。 本開示の一例示的な実施例に係る第2スプライシングフレーミング領域を示す概略図である。 本開示の一例示的な実施例に係る別の複数の撮像モジュールに基づいた画像処理方法を示すフローチャートである。 本開示の一例示的な実施例に係る複数の撮像モジュールに基づいた画像処理装置を示すブロック図である。 本開示の一例示的な実施例に係る複数の撮像モジュールに基づいた画像処理装置の構成を示す概略図である。
ここで添付した図面は、明細書に組み込まれて本明細書の一部分を構成し、本開示に合う実施例を示し、かつ、明細書とともに本開示の実施例の原理を解釈することに用いられる。
ここで、例示的な実施例を詳細に説明し、その例を図面に示す。以下の記述が図面に係る場合、別途にて示さない限り、異なる図面における同じ数字は、同じまたは類似する要素を示す。以下の例示的な実施例において記述する実施形態は、本開示の実施例に合致するすべての実施形態を代表するものではない。一方、それらは、添付された特許請求の範囲に詳細に記載されたような、本開示の実施例の一部の形態に合致する装置及び方法の例に過ぎない。
本開示の実施例において使用される用語は、特定の実施例を説明することだけを目的としており、そして本開示の実施例を限定することは意図されていない。本開示の実施例及び添付の特許請求の範囲で使用されるとき、単数形の「1つの」、「前記」及び「該」は、文脈が明らかに違うように示さない限り、複数形も含む意図である。本明細書中で使用される「及び/又は」という語句は、列挙された1つ以上の関連する対象物の任意の又は全ての可能的な組み合わせを参照かつ包含することも理解されるべきである。
本開示の実施例では、用語である第1、第2、第3などを用いて各種情報を記述する可能性があるが、これらの情報はこれらの用語に限定されないことが理解されるべきである。これらの用語は、同一種類の情報をお互いに区別するためだけに用いられる。例えば、本開示の実施例の範囲を逸脱しない限り、第1情報は第2情報と称されてもよく、同様に、第2情報は第1情報と称されてもよい。文脈によっては、ここで使用される語句「とすれば」は「…場合」、「…時」又は「と決定されるのに応答して」と解釈される。
現在、日常生活では、スマートホン、タブレット等のような端末による画像撮影に慣れているユーザが多くなってくる。また、端末により撮影される画像の品質について、ユーザからの要望も厳しくなっている。カメラのハードウェア技術及び画像処理技術の進化に伴い、ユーザのニーズを更に満たすために、一部の端末に複数のカメラを配置し始めた。ここで、複数のカマラのうちの各カメラは、それ独自の優位点を持つことができる。例えば、1つのカメラは、あるシーンの撮影に好適に用いられるが、別のカメラは、別のシーンの撮影に好適に用いられる。このような、画像撮影を行う時、端末は、異なる撮影シーンに応じて複数のカメラから異なるカメラを選択して撮影を行うことができる。従って、同一の端末を用いて異なるシーンの画像を撮影することができる。異なる撮影シーンに対応するために、カメラの視野角は異なることが多い。つまり、視野範囲が異なり、これに応じて、フレーミング視野も異なる。視野角の異なるカメラにより撮影される画像の画質は異なる可能性がある。
これに基づいて、本開示の実施例は、複数の撮像モジュールに基づいた画像処理方法を提供する。一般的には、撮像モジュールのフレーミング範囲(撮影範囲)は一定なものであるが、本開示の実施例において、撮像モジュールのフレーミング領域を調整することで、撮像モジュールのフレーミング範囲を拡大することができる。第1撮像モジュールが現在、主要撮影状態にあり、且つ第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、第2撮像モジュールのフレーミング視野を調整し、第2撮像モジュールの調整済みフレーミング領域が対象とする被写体をカバーするようにし、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理し、画像の画質を高め、更に、第2撮像モジュールを調整することで、第2撮像モジュールの撮影範囲を拡大し、調整により得られた調整済みフレーミング領域が初期フレーミング領域に存在しない領域をカバーするようにすることで、画質向上不可能であった画像領域の少なくとも一部について、画質向上を実現させる。
本実施例が提供する複数の撮像モジュールに基づいた画像処理方法は、ソフトウェアにより実行されてもよく、ソフトウェアとハードウェアとの組み合わせ又はハードウェアにより実行されてもよい。関連ハードウェアは、2つ又は複数の物理エンティティからなるものであってものよく、1つの物理エンティティからなるものであってもよい。一例として、本実施例の方法は、電子機器における撮影ソフトウェアにより実行されてもよい。ここで、電子機器は、スマートホン、タブレット、ノートパソコン、デスクトップパソコン、PDA(Personal Digital Assistant:パーソナルデジタルアシスタント)、ウェアラブル機器等であってもよい。
撮像モジュールは、電子機器に配置されて、電子機器と共に、複合機を構成するものであってもよい。撮像モジュールは、独立した装置であって、電子機器に搭載されるものであってもよい。複数の撮像モジュールは、少なくとも2つの撮像モジュールであってもよい。撮像モジュールは、画像を撮影するように構成される。各撮像モジュールは、1つのカメラを備えてもよく、複数のカメラを備えてもよい。例えば、前記複数の撮像モジュールは、広角撮像モジュール、長焦点距離撮像モジュール、汎用撮像モジュール、カラーカメラ、モノクロカメラ等のうちの1つ又は複数である。ここで、汎用撮像モジュールは、主要撮像モジュールと称されてもよく、電子機器において撮影するように構成される主要撮像モジュールである。汎用撮像モジュールは主カメラを備える。本開示の実施例において、複数の撮像モジュールは、視野角が異なる撮像モジュールであってもよい。従って、視野角が小さい撮像モジュールにより撮影された画像で、視野角が大きい撮像モジュールにより撮影された画像を強調し、画像の画質を向上させるという効果を達成する。一例において、複数の撮像モジュールは3つの撮像モジュールであってもよく、視野角が順次小さくなる広角撮像(DW)モジュール、汎用撮像(W)モジュール、長焦点距離撮像(Tele)モジュールを備える。例えば、広角撮像モジュールにおける広角カメラは、視野角(FOV)が120°であってもよく、画素が13M~48Mであってもよい。汎用撮像モジュールにおける汎用カメラは、視野角が80°であってもよく、画素が48M~64Mであってもよい。長焦点距離撮像モジュールは、視野角が30°~20°であってもよく、画素が13M~8Mであってもよい。ディスプレイスクリーンにおける、各カメラのフレーミング領域の表示は図1に示すようなものであってもよい。即ち、広角カメラの視野角が最も大きく、次いで、汎用カメラ(主カメラ)の視野角となり、長焦点距離カメラの視野角が最も小さい。それに応じて、フレーミング領域のサイズも順次小さくなる。図1は、視野角が異なるカメラを説明するためのものに過ぎず、そのフレーミング領域に差異があるが、実際には、異なるフレーミング領域の比例関係は実際の状況によるものであってもよいことが理解される。
幾つかの適用シーンにおいて、異なる撮像モジュールを用いて撮影を行う場合、そのうちの1つの撮像モジュールを用いて撮影を行う時に注目される対象は、別の撮像モジュールの視野範囲内に位置するか、又は別の撮像モジュールの視野範囲内に位置しないことがある。従って、本開示の実施例は、注目される被写体が別の撮像モジュールの視野範囲内に位置しないことに起因する望ましくないフュージョン効果を得ることを避けるために、撮像モジュールのフレーミング領域を調整することで、撮像モジュールのフレーミング領域が、そもそもカバー不可能な対象とする被写体をカバーするようにする。
図2は、本開示の一例示的な実施例に係る複数の撮像モジュールに基づいた画像処理方法を示すフローチャートである。図2を参照すると、前記画像処理方法は、以下のステップ202~ステップ204を含む。
ステップ202において、第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにし、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい。
ステップ204において、セカンダリ画像とプライマリ画像をフュージョン処理し、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である。
該実施例において、1つの撮像モジュールが撮影用として選択されると、それよりも視野角が小さい撮像モジュールを補助撮像モジュールとして用いることで、結像効果を高めることができる。区別のために、撮影用として選択される撮像モジュールは、第1撮像モジュールと称されてもよく、それよりも視野角が小さい別の撮像モジュールは第2撮像モジュールと称されてもよい。第1撮像モジュールは、撮影用として選択され、この場合、第1撮像モジュールが主要撮影状態にあると考えられる。第2撮像モジュールは、補助撮像モジュールであり、この場合、第2撮像モジュールは補助撮影状態であると考えられる。従って、第1撮像モジュールにより撮影される画像は、プライマリ画像と称されてもよく、第2撮像モジュールにより撮影される画像は、セカンダリ画像と称されてもよい。
広角撮像モジュール、汎用撮像モジュール、長焦点距離撮像モジュールを例として、一般的には、視野角の大きい方から小さい方の順に従うランキングは、広角撮像モジュール、汎用撮像モジュール、長焦点距離撮像モジュールとなる。従って、広角撮像モジュールが第1撮像モジュールである時、第2撮像モジュールは、汎用撮像モジュールであってもよく、ひいては、長焦点距離撮像モジュールであってもよい。汎用撮像モジュールが第1撮像モジュールである時、第2撮像モジュールは長焦点距離撮像モジュールであってもよい。
第1撮像モジュールが現在、主要撮影状態にある時、第1撮像モジュールのフレーミング領域における対象とする被写体を決定することができる。対象とする被写体は、撮影点であってもよく、撮影領域等であってもよい。一例として、対象とする被写体は、フレーミング領域における注目される対象である。第1撮像モジュールのフレーミング領域における対象とする被写体は、1つであっても、複数であってもよい。
第2撮像モジュールのフレーミング視野の調整について、第2撮像モジュールの調整済みフレーミング視野が対象とする被写体をカバーするようにすることを目的として調整することができる。
幾つかのシーンにおいて、モバイル機器の画像撮影装置に光学手振れ補正装置を設けることで、手持ち撮影時の手振れによる撮影画像ボケの問題を解決する。光学手振れ補正装置は、モバイル機器における手振れコントローラであってもよく、OIS(OpticalImage Stabilization)コントローラと称されてもよく、光学レンズの浮動を制御することで、「光軸ズレ」を補正する。その原理は、レンズ内のセンサにより微細な移動を検出し、続いて信号をマイクロプロセッサに伝送し、マイクロプロセッサで、補償されるべきシフト量を算出し、続いて補償レンズ群により、レンズの振れ方向及びシフト量に基づいて補償を行うことで、モバイル機器の振れによる映像のボケを克服する。従って、一例として、光学手振れ補正(Optical Image Stabilization:OIS)技術により、第2撮像モジュールのフレーミング視野を調整することができる。
例えば、カメラのOISを広角に設計することで、カメラのフレーミング可能な範囲を拡張することができる。一例において、第2撮像モジュールにおけるカメラのOISを広角に設計することで、第2撮像モジュールのフレーミング可能な範囲(複数のフレーミング領域の集合に対応する範囲)が第1撮像モジュールのフレーミング範囲をカバーできることを実現する。長焦点距離撮像モジュールを例として、OISにより、Teleのフレーミング可能な範囲を補償し、Teleのフレーミング可能な範囲を更に拡大し、例えば、3%~5%拡大することができる。
該実施例において、OIS光学手振れ補正技術によって、第2撮像モジュールのフレーミング視野を調整し、第2撮像モジュールのフレーミング可能な範囲を拡大すると共に、コストを低減させることもでき、他のハードウェアを追加する必要がない。
他の手段により第2撮像モジュールのフレーミング視野を調整することもできることが理解されるべきである。例えば、幾つかの端末において、第2撮像モジュールのレンズは、回転可能なものである。従って、端末を静止状態に保持する場合、レンズを回転させることで第2撮像モジュールのフレーミング視野等を調整することができる。他の調整手段について、第2撮像モジュールにより対象とする被写体を撮影できるようにすればよく、ここでは説明を省略する。更に、第2撮影モジュールのフレーミング視野を調整する時、第1撮像モジュールのフレーミング視野をそのまま保持することができる。
一実施例において、前記第2撮像モジュールのフレーミング視野を調整することは、前記第2撮像モジュールの現在のフレーミング視野を決定することと、OISにより、前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することとを含む。前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である。
ここで、最大範囲は、OISの調整可能な最大範囲である。例えば、カメラのOISを広角に設計することで、それよりも視野角が大きい他のカメラのフレーミング領域を可能な限りカバーすることができる。
最大フレーミング領域は、OISにより毎回調整された第2撮像モジュールのフレーミング領域の集合である。最大フレーミング領域は、OISの調整幅及び第2撮像モジュールのフレーミング範囲によるものであってもよい。例えば、M回調整された第2撮像モジュールの調整済みフレーミング領域の集合からなる。図3は、本開示の一例示的な実施例に係る最大フレーミング領域を示す概略図である。該概略図において、M=4を例とし、実線枠は初期フレーミング領域を表す。4回の調整を行い、調整を行うたびに、1つの調整済みフレーミング領域を得て、それを点線枠で表す。4つの調整済みフレーミング領域は、図3における4つの点線枠に示すように、最大フレーミング領域を構成する。Mは4に限定されず、他の数値であってもよいことが理解されるべきである。なお、集合における調整済みフレーミング領域同士には、重複領域が存在しなくても、存在してもよく、調整幅によるものであってもよい。図3において、最大フレーミング領域が第1撮像モジュールのフレーミング領域より小さいことを例とし、幾つかのシーンにおいて、最大フレーミング領域が第1撮像モジュールのフレーミング領域以上であることもあるが、ここで説明を省略する。
それに応じて、フュージョン中に係るセカンダリ画像は、各調整された第2撮像モジュールにより撮影されるセカンダリ画像を含むことで、1フレーム分または複数フレーム分の画像でプライマリ画像の画質を向上させることを実現させる。
該実施例において、直接的にOISにより、第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することで、最大フレーミング領域を取得し、画像の画質を最大限向上させることを実現させる。
別の実施例において、OISにより、第2撮像モジュールのフレーミング領域を、対象とする被写体へ移動するように調整することで、第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることもできる。
一例として、対象とする被写体は、フレーミング領域における注目される対象であってもよい。前記第2撮像モジュールのフレーミング視野を調整することは、前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、OISにより、前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含んでもよい。
該実施例において、第2撮像モジュールを、前記ターゲット方向に沿って運転するように制御することで、対象とする被写体が第2撮像モジュールにより撮影されることを実現させ、これにより対象とする被写体の画質を向上させることができる。
一例として、前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における合焦点、又は前記合焦点により決定された焦点領域を含む。合焦点は、撮影ソフトウェアがフレーミング領域に応じて自動合焦を行うことで決定したものであってもよく、検出した焦点制御信号により決定したものであってもよい。合焦点は他の手段で決定されてもよいことが理解されるべきであり、ここで説明を省略する。
図4は、本開示の一例示的な実施例に係る合焦点を示す概略図である。該概略図において、複数の撮像モジュールは、広角カメラを備える広角撮像モジュール、主カメラを備える汎用撮像モジュール、及び長焦点距離カメラを備える長焦点距離撮像モジュールであってもよい。第1撮像モジュールが汎用撮像モジュールであり、第2撮像モジュールが長焦点距離撮像モジュールであることを例として、第1撮像モジュールフレーミング領域における合焦領域は、第2撮像モジュールのフレーミング領域内に位置しないため、第2撮像モジュールのフレーミング領域を調整することで、合焦領域を第2撮像モジュールのフレーミング領域内に位置させることができる。
該実施例において、対象とする被写体は、第1撮像モジュールのフレーミング領域における合焦点、又は合焦点により決定された焦点領域を含むため、第2撮像モジュールにより撮影された画像で、合焦点又は合焦領域の分解能及び画質を向上させることができる。分解能は解像力とも称され、被写体の細部を解像する能力である。分解能は、マイクロ撮影システムが被写体の細部を再現する能力を示すための物理量であり、映像解像力を評価するための重要な指標である。分解能が高いほど、細部に対する把握力が高くなり、撮影画像の鮮明度を反映するために用いることができる。
一例として、前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における指定部分領域を含んでもよい。指定した部分領域は、ソフトウェア開発者によって事前指定された領域であってもよく、ユーザが設定ページにより指定した領域等であってもよい。例えば、ユーザが画面中の中央領域に注目することが多い。従って、指定した部分領域が中央領域であり、それにより、第2撮像モジュールにより撮影される画像で、中央領域の分解能及び画質を向上させることができる。また、例えば、指定した部分領域は、画面中の上部分、下部分、左部分、右部分、縁部分等であってもよく、ここで説明を省略する。
該実施例において、対象とする被写体は、第1撮像モジュールのフレーミング領域において指定した部分領域を含むため、第2撮像モジュールにより撮影される画像で、指定部分領域の分解能及び画質を向上させることができる。
一例として、前記対象とする被写体は、第1撮像モジュールのフレーミング領域を含んでもよい。例えば、第1撮像モジュールが汎用撮像モジュールであり、第2撮像モジュールが長焦点距離撮像モジュールであり、対象とする被写体が第1撮像モジュールのフレーミング領域全体であることで、第2撮像モジュールにより撮影される画像で、第1撮像モジュールにより撮影される画像全体の画質を向上させることを実現させる。
対象とする被写体は上記対象を含むが、これに限定されず、他の対象であってもよいことが理解されるべきであり、ここで説明を省略する。
第2撮像モジュールのフレーミング視野の調整は、第2撮像モジュールが対象とする被写体を撮影できるようにすることを目的とする。第2撮像モジュールが1つのみのカメラを備える場合、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズ以下である可能性がある。例えば、前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における合焦点、前記合焦点により決定された焦点領域、又は前記第1撮像モジュールのフレーミング領域における指定部分領域を含む場合、対象とする被写体のサイズは第2撮像モジュールのフレーミング領域のサイズ以下である可能性がある。換言すれば、対象とする被写体は、完全に第2撮像モジュールの同一のフレーミング領域に現れることができる。
一例において、前記第2撮像モジュールは1つのカメラを備える。前記第2撮像モジュールのフレーミング領域が前記対象とする被写体をカバーするようにすることは、前記対象とする被写体を第2撮像モジュールの同一のフレーミング領域内又は同一のフレーミング領域の特定位置に位置させることを含む。前記特定位置は事前設定された位置、又は検出した操作信号により決定された位置である。
例えば、第2撮像モジュールのフレーミング視野を調整することで、対象とする被写体が第2撮像モジュールのフレーミング領域に現れることができればよいか、又は可能な限り第2撮像モジュールフレーミング領域の事前設定された位置(例えば中央位置)に現れることができればよい。図5は、本開示の一例示的な実施例に係るフレーミング領域が調整される前後を比較した概略図である。該概略図において、丸印は合焦点により決定された対象とする被写体を表し、小さな実線矩形枠は、調整される前の第2撮像モジュールのフレーミング領域(初期フレーミング領域と称する)を表す。対象とする被写体が小さな実線矩形枠内に位置しないため、第2撮像モジュールのフレーミング視野を調整する。小さな点線矩形枠は、調整された第2撮像モジュールのフレーミング領域(調整済みフレーミング領域と称する)を表す。対象とする被写体は小さな点線矩形枠内に位置し、即ち、対象とする被写体は、第2撮像モジュールの同一のフレーミング領域内に位置する。
第2撮像モジュールの調整幅が十分に大きい場合、対象とする被写体を第2撮像モジュールのフレーミング領域の特定位置に位置させるように限定を行うこともできる。前記特定位置は、事前設定された位置であってもよい。例えば、開発者により事前設定された位置、又はユーザにより事前設定された位置であってもよい。例えば、中央位置、中央よりも上側の位置等であってもよい。前記特定位置は、検出した操作信号により決定された位置であってもよい。例えば、フレーミング中に設定リマインダ情報をポップアップし、対象とする被写体が第2撮像モジュールのフレーミング領域内に現れる位置等を設定することを、ユーザに注意喚起する。
該実施例において、第2撮像モジュールの同一のフレーミング領域が対象とする被写体をカバーできるため、第2撮像モジュールのフレーミング視野を調整することで、対象とする被写体を第2撮像モジュールの同一のフレーミング領域内に位置させるか又は同一のフレーミング領域的特定位置に位置させる。これにより、その後に第1撮像モジュールと調整された第2撮像モジュールが同じ時点で撮影する画像をフュージョン処理し、第1撮像モジュールにより撮影されるプライマリ画像を強調する。
第2撮像モジュールが1つのみのカメラを備える場合、幾つかのシーンにおいて、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きい。例えば、対象とする被写体が第1撮像モジュールのフレーミング領域における指定部分領域、又は第1撮像モジュールのフレーミング領域である場合、対象とする被写体の範囲は、第2撮像モジュールのフレーミング領域の範囲を超えることがある。換言すれば、第2撮像モジュールの同一のフレーミング領域は、対象とする被写体の一部のみをカバーできる。
一例において、前記第2撮像モジュールは1つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は少なくとも2つのサブターゲット方向を含む。
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含む。
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものである。これに応じて、第2撮像モジュールの調整済みフレーミング領域が対象とする被写体をカバーするようにすることは、全ての調整により得られた第1スプライシングフレーミング領域が対象とする被写体をカバーするようにすることであってもよい。
対象とする被写体が第2撮像モジュールの同一のフレーミング領域内に現れることができないと、複数を調整することで、第2撮像モジュールが対象とする被写体を撮影できるようにすることができる。例えば、毎回調整された第2撮像モジュールが対象とする被写体の一部をカバーできるようにすることを目的として調整することで、全ての、対象とする被写体の一部をスプライシングすることにより完全な対象とする被写体を得ることができる。対象とする被写体全体をカバーするために少なくともN個の第2撮像モジュールのフレーミング領域を要するとすれば、N回調整を行うことで、対象とする被写体を第2撮像モジュールの第1スプライシングフレーミング領域内に位置させる。第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものである。それぞれの調整されたフレーミング領域間には重複画面が存在しなくても、存在してもよく、具体的には必要に応じて設定されるものである。
後のフュージョン中において、前記第2撮像モジュールにより撮影されるセカンダリ画像は、サブターゲット方向に沿って第2撮像モジュールを毎回調整した後に撮影されたセカンダリ画像を含んでもよい。例えば、フレーミング視野が毎回調整された第2撮像モジュールにより撮影されたセカンダリ画像とプライマリ画像をフュージョン処理することができる。それぞれの調整された第2撮像モジュールにより撮影されたセカンダリ画像をスプライシングし,スプライシングセカンダリ画像を得て、更にスプライシングセカンダリ画像とプライマリ画像をフュージョン処理し、プライマリ画像の画質を向上させる。
一例として、第2撮像モジュールのフレーミング領域を複数回調整することは、調整ポリシーに応じて実行することができる。調整ポリシーには、各回の調整のための調整命令が含まれる。これにより、前記第2撮像モジュールを、前記子ターゲット方向に沿って運転するように調整する。調整ポリシーは事前指定されたものであってもよく、前記対象とする被写体と前記初期フレーミング領域との位置関係に応じて生成されたものであってもよい。
一例において、前記対象とする被写体は第1撮像モジュールのフレーミング領域であってもよい。該実施例において、第2撮像モジュールのフレーミング範囲が第1撮像モジュールの的フレーミング範囲より小さくても、第2撮像モジュールのフレーミング視野を調整することで、複数回の調整により得られたフレーミング領域の集合が第1撮像モジュールのフレーミング領域をカバーするようにすることもできる。従って、第2撮像モジュールのフレーミング可能な範囲を拡張するという効果を達成する。更に、第2撮像モジュールのフレーミング領域に対する調整回数は、第1撮像モジュールのフレーミング範囲と第2撮像モジュールのフレーミング範囲との比により決定されたものであってもよい。
図6Aは、本開示の一例示的な実施例に係る第1スプライシングフレーミング領域を示す概略図である。第1撮像モジュールのフレーミング領域を構成するために少なくともN個の第2撮像モジュールのフレーミング領域をスプライシングする必要があるとする。該概略図において、N=4を例として例示的に説明する。図中の左上の点線枠は1回目の調整を経た後の調整済みフレーミング領域を表し、右上の点線枠は2回目の調整を経た後の調整済みフレーミング領域を表し、左下の点線枠は3回目の調整を経た後の調整済みフレーミング領域を表し、右下の点線枠は4回目の調整を経た後の調整済みフレーミング領域を表す。実線枠は第1撮像モジュールのフレーミング領域を表す。第1、2、3、4回目の調整を経た後の調整済みフレーミング領域をスプライシングし、第1スプライシングフレーミング領域を取得する。第1スプライシングフレーミング領域が第1撮像モジュールのフレーミング領域をカバーすることが明らかである。第1スプライシングフレーミング領域のサイズは、第1撮像モジュールのフレーミング領域のサイズ以上であることが理解される。該図面において同じサイズで例示する。第1撮像モジュールと第2撮像モジュールのフレーミング範囲が一定であるため、一実施例において、調整ポリシーは事前設定されたものであってもよく、該調整ポリシーには、毎回の調整のための調整命令が含まれる。例えば、第1回目の調整のための調整命令、第2回目の調整のための調整命令、第3回目の調整のための調整命令及び第4回目の調整のための調整命令を含むことで、異なる調整命令により対応する位置に調整することができる。調整ポリシーを仮決定する必要がなく、処理速度を向上させることができる。
幾つかの適用シーンにおいて、対象とする被写体のサイズが第2撮像モジュールにおけるカメラのフレーミング領域のサイズより大きいため、対象とする被写体を第2撮像モジュールの同一のフレーミング領域内に位置させることができないことを引き起こすことがある。調整幅の制限により、対象とする被写体の範囲が第2撮像モジュールにおけるカメラのフレーミング範囲以下であっても、対象とする被写体を第2撮像モジュールの同一のフレーミング領域内に位置させることができないことが生じることもある。これに鑑み、別の実施例において、前記第2撮像モジュールは少なくとも2つのカメラを備える。単一のカメラのサブフレーミング領域のサイズは対象とする被写体のフレーミング領域のサイズより小さい可能性があるが、対象とする被写体のフレーミング領域のサイズより大きい可能性がある。少なくとも2つのカメラのサブフレーミング範囲からなるフレーミング領域集合は、対象とする被写体のフレーミング領域以上であってもよい。同一の撮像モジュールにおけるカメラは同一タイプのカメラであってもよい。長焦点距離撮像モジュールを例として、長焦点距離撮像モジュールにおける複数のカメラは長焦点距離カメラであってもよい。
これに応じて、前記ターゲット方向は少なくとも2つのサブターゲット方向を含む。OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含む。
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、カメラの調整済みフレーミング領域をスプライシングしてなるものである。
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含む。
該実施例において、複数のカメラを調整することで、第2撮像モジュールのフレーミング領域が対象とする被写体をカバーすることを実現させ、対象とする被写体のサイズが大きいか又は単一のカメラの調整範囲が限られることを避けることができる。
図6Bは、本開示の一例示的な実施例に係る第2スプライシングフレーミング領域を示す概略図である。第1撮像モジュールのフレーミング領域は少なくとも第2撮像モジュールにおけるN個のカメラのフレーミング領域からなるとする。該概略図において、N=4を例として例示的に説明する。図中の左上の点線枠は第1カメラの調整により得られた調整済みフレーミング領域を表し、右上の点線枠は第2カメラの調整により得られた調整済みフレーミング領域を表し、左下の点線枠は第3カメラの調整により得られた調整済みフレーミング領域を表し、右下の点線枠は第4カメラの調整により得られた調整済みフレーミング領域を表す。実線枠は、第1撮像モジュールのフレーミング領域又は対象とする被写体を表す。第1、2、3、4カメラの調整により得られた調整済みフレーミング領域をスプライシングし、第2スプライシングフレーミング領域を得る。対象とする被写体が第2スプライシングフレーミング領域に現れることができることが明らかである。
上記調整方式は例に過ぎず、第2撮像モジュールが対象とする被写体を撮影できるようにする他の従来又は将来の調整方法は本開示の実施例に適用可能であり、いずれも本開示の実施例の保護範囲内に含まれるべきであることが理解されるべきである。
プライマリ画像とセカンダリ画像の撮影時点について、前記第2撮像モジュールが1つのカメラを備え、且つ対象とする被写体のサイズが第2撮像モジュールのフレーミング領域のサイズ以下である場合、又は第2撮像モジュールが複数のカメラを含む場合には、セカンダリ画像とプライマリ画像とは同一の時点で撮影された画像であってもよい。第2撮像モジュールのフレーミング視野を複数回調整する実施例において、セカンダリ画像は、フレーミング視野が毎回調整された後に第2撮像モジュールにより撮影されたセカンダリ画像であってもよい。プライマリ画像の撮影時点は、複数のセカンダリ画像のうちのいずれかのセカンダリ画像の撮影時点と同じであってもよく、又は複数のセカンダリ画像の撮影期間中の任意の時点であってもよい。画像撮影頻度が高いため、短時間で連続的に撮影した画像の差異が小さい。従って、複数フレーム分のセカンダリ画像で、1フレーム分のプライマリ画像に対して画像品質向上処理を行うことができる。
本開示の実施例は、視野角が小さい撮像モジュールにより撮影された画像で、視野角が大きい撮像モジュールにより撮影された画像を強調しようとする。従って、調整された第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョンし、フュージョンされた画像を得ることができる。幾つかのシーンにおいて、フュージョン中に係るセカンダリ画像は、調整される前の第2撮像モジュールにより撮影されたセカンダリ画像を含んでもよく、具体的には必要に応じて設定されるものである。フュージョン中において、全ての重複部分をフュージョンしてもよく、一部の重複部分をフュージョンしてもよい。第2撮像モジュールの視野角が第1撮像モジュールの視野角より小さいため、セカンダリ画像とプライマリ画像をフュージョンすることで、画質がより高い画像を得ることができる。例えば、事前設定された画像フュージョンアルゴリズムを用いて全て又は一部の重複部分とプライマリ画像をフュージョンし、フュージョンされた画像を得る。具体的な画像フュージョンアルゴリズムは、関連技術におけるフュージョンアルゴリズムを参照することができ、ここで限定しない。
一例において、前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行される。該実施例において、フレーミング中であるか、あるいは撮影操作後であるかに関わらず、いずれも、フュージョンされたプライマリ画像を表示することができる。
幾つかの適用シーンにおいて、異なる撮像モジュールを用いて撮影を行う場合、そのうちの1つの撮像モジュールを用いて撮影を行う時に注目される対象は、別の撮像モジュールの視野範囲内に位置することがある。従って、前記画像処理方法は、第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含む。
該実施例において、対象とする被写体が第2撮像モジュールのフレーミング領域内に位置すると、第2撮像モジュールの調整を必要とせず、直接的に第2撮像モジュールにより撮影された画像で、第1撮像モジュールにより撮影された画像の画質を向上させる。
不一致又は矛盾がない限り、上記実施形態における様々な技術的特徴を任意に組み合わせることが可能である。紙数に限りがあるため、ここで逐一説明しない。従って、上記実施形態における様々な技術的特徴の任意な組み合わせも本明細書に開示されている範囲内にも含まれる。
そのうちの2つの技術的特徴の組み合わせを例として説明する。
一例において、撮影時、ユーザが一般的に注目する部分は画像の中央位置又は合焦位置に位置する。WはDWよりも画質及び分解能が好ましいという優位性を有するため、DWにより撮影を行うと同時に、Wにより撮影を行い、続いて、DWにより撮影された画像の中央部分について、Wによる画像でフュージョン強調を行うことで、中央領域の画質を向上させる。Wにより撮影を行うと同時に、Teleにより画像を撮影し、Wによる写真の合焦点がTele範囲内にあれば、Teleで、Wの合焦領域の画質を向上させることができる。Wによる写真の合焦点がTele範囲内に存在しなければ、Teleの範囲を調整することで、Wによる写真の合焦点をTele範囲内に位置させることができる。
一例として、Tele(長焦点距離撮像モジュール)のOISを広角に設計することで、Teleが汎用撮像モジュールの全てのfov(レンズの視角/視野角)をカバーできることを実現させ、汎用撮像モジュールによる撮影時の合焦点位置に基づいて、Teleのフレーミング領域を対応する位置に調整し、続いて同時に撮影を行い、更にfusion(フュージョン)処理を行うことで、合焦位置の分解能を向上させ、画質を高める。
別の例において、本開示の一例示的な実施例に係る別の複数の撮像モジュールに基づいた画像処理方法のフローチャートである図7に示すように、前記複数の撮像モジュールは視野角が順次小さくなる広角撮像モジュール(DW)、汎用撮像モジュール(W)、長焦点距離撮像モジュール(Tele)を備え、前記画像処理方法は、以下のステップ702~ステップ708を含む。
ステップ702において、撮像モジュールの撮影状態を決定する。
ステップ704において、広角撮像モジュールが現在、主要撮影状態にある場合、広角撮像モジュールにより撮影されたプライマリ画像、汎用撮像モジュールにより撮影されたセカンダリ画像を取得し、セカンダリ画像とプライマリ画像をフュージョン処理する。
ステップ706において、汎用撮像モジュールが現在、主要撮影状態にある場合、長焦点距離撮像モジュールの現在のフレーミング視野を決定し、OISにより、長焦点距離撮像モジュールの現在のフレーミング視野を最大範囲に調整する。
ステップ708において、調整された長焦点距離撮像モジュールにより撮影されたセカンダリ画像と汎用撮像モジュールにより撮影されたプライマリ画像をフュージョン処理する。
該実施例において、異なるカメラを組み合わせることで、異なるシーンで撮影を行う時に、現在のシーンにおける撮影の分解能及び画質の向上を実現させる。特に、OISによりTeleのフレーミング可能な範囲を拡張し、汎用撮像モジュールの主要撮影状態(主要撮影モードと略称する)での画質を向上させる。
上述した各方法の実施例について、記述を簡単にするために、それらを一連の動作の組み合わせと表記する。当業者は、本開示の実施例が記述した動作の順番に限定されず、本開示の実施例によれば、幾つかのステップを他の順番で実行するか又は同時に実行することができることを理解すべきである。
そして、当業者は、明細書中に記述した実施例は、すべて、選択可能な実施例に属し、関連する動作及びモジュールは、本開示の実施例にとって必ずしも必須なものではないことを理解すべきである。
上述した複数の撮像モジュールに基づいた画像処理方法の実施例に対応して、本開示の実施例は複数の撮像モジュールに基づいた画像処理装置、装置に使用する機器及び記憶媒体の実施例を更に提供する。
本開示の一例示的な実施例に係る複数の撮像モジュールに基づいた画像処理装置を示すブロック図である図8に示すように、前記画像処理装置は、視野調整モジュール820とフュージョン処理モジュール840とを備える。
視野調整モジュール820は、第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成され、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい。
フュージョン処理モジュール840は、セカンダリ画像とプライマリ画像をフュージョン処理するように構成され、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である。
一任意選択的な実施例において、前記視野調整モジュール820が前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
OISにより前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと、を含み、
ここで、前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である。
任意選択的な実施例において、前記対象とする被写体はフレーミング領域における注目される対象であり、前記視野調整モジュール820が前記第2撮像モジュールのフレーミング視野を調整することは、
前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含む。
任意選択的な実施例において、前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における合焦点、前記合焦点により決定された焦点領域、前記第1撮像モジュールのフレーミング領域における指定部分領域、又は前記第1撮像モジュールのフレーミング領域である。
任意選択的な実施例において、前記第2撮像モジュールは1つのカメラを備え、前記第2撮像モジュールのフレーミング領域が前記対象とする被写体をカバーするようにすることは、前記対象とする被写体を第2撮像モジュールの同一のフレーミング領域内又は同一のフレーミング領域の特定位置に位置させることを含み、前記特定位置は事前設定された位置、又は検出した操作信号により決定された位置である。
任意選択的な実施例において、前記第2撮像モジュールは1つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
前記視野調整モジュール820がOISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含み、
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、サブターゲット方法に沿って第2撮像モジュールを調整した後に取得されたセカンダリ画像を含む。
任意選択的な実施例において、前記第2撮像モジュールは、少なくとも2つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
前記視野調整モジュール820がOISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含み、
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、各カメラの調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含む。
任意選択的な実施例において、前記前記フュージョン処理モジュール840は、
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理するように更に構成される。
任意選択的な実施例において、前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行される。
任意選択的な実施例において、前記複数の撮像モジュールは、視野角が順次小さくなる広角撮像モジュールと、汎用撮像モジュールと、長焦点距離撮像モジュールとを備える。
上述した装置における各モジュールの機能および作用の具体的な実現過程については、上述した方法における対応するステップの実現過程を参照すれば理解できるため、ここでその説明を省略する。
装置の実施例は、基本的に方法の実施例に対応するため、関連するところは方法の実施例の部分的な説明を参考にすることができる。以上に記述した装置の実施例は例示的なものに過ぎず、別体の部品として記述したモジュールは、物理的に分離したものであっても、でなくてもよい。モジュールとして示した部品は、物理的に分離したモジュールであっても、でなくてもよい。即ち、一箇所に位置してもよく、複数のネットワークモジュールに分布してもよい。実際の需要に応じて、一部又は全部のモジュールを選択して本開示の実施例の目的を実現させることができる。当業者は創造的な労力を要することなく、理解して実施することができる。
これに応じて、本開示の実施例において、コンピュータ可読記憶媒体を提供し、該媒体には、コンピュータプログラムが記憶されており、該プログラムがプロセッサにより実行される時、上記いずれか一項に記載の方法のステップを実現する。
本開示の実施例は、プログラムコードを記憶した1つ又は複数の記憶媒体(ディスクストレージ、CD-ROM、光学メモリを含むが、これらに限定されず)上で実行されるコンピュータプログラム製品の形態をとりうる。コンピュータ使用可能記憶媒体は、不揮発性及び揮発性のもの、携帯型及び非携帯型ものを含み、任意の方法又は技術により情報の記憶を実現することができる。情報は、コンピュータ読み取り可能な命令、データ構造、プログラムのモジュール又は他のデータであってもよい。コンピュータの記憶媒体の例として、相変化メモリ(PRAM)、スタティックランダムアクセスメモリ(SRAM)、ダイナミックランダムアクセスメモリ(DRAM)、読み取り専用メモリ(ROM)、電気的消去可能なプログラマブル読み出し専用メモリ(EEPROM)、フラッシュメモリ又は他のメモリ、コンパクトディスク読取専用メモリ(CD-ROM)、デジタル多用途ディスク(DVD)又は他の光学メモリ、テープカートリッジ、カートリッジやディスクメモリ又は他の磁気記憶装置、その他任意の非伝送媒体を含むが、これらに限定されず、コンピュータによりアクセスされた情報を記憶するように構成されてもよい。
それに応じて、本開示の実施例において、複数の撮像モジュールに基づいた電子機器を提供し、前記電子機器は、少なくとも2つの視野角が異なる撮像モジュールと、プロセッサと、プロセッサが実行可能な命令を記憶するように構成されるメモリとを備え、前記プロセッサは、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を実行するように構成される。
図9は一例示的な実施例に係る複数の撮像モジュールに基づいた画像処理装置900の構成を示す概略図である。例えば、装置900は、ユーザ機器であってもよく、具体的には、撮影機能を有する携帯電話、コンピュータ、デジタル放送端末、メッセージング装置、ゲームコンソール、タブレットデバイス、医療機器、フィットネス機器、パーソナルデジタルアシスタント、スマートウォッチ、スマートメガネ、スマートブレスレットなどのようなウェアラブル機器であってもよい。
図9に示すように、装置900は、処理コンポーネント902、メモリ904、電源コンポーネント906、マルチメディアコンポーネント908、オーディオコンポーネント910、入力/出力(I/O)インタフェース912、センサコンポーネント914及び通信コンポーネント916のうちの1つ又は複数を備えてもよい。
処理コンポーネント902は一般的には、装置900の全体操作を制御する。例えば、表示、通話呼、データ通信、カメラ操作及び記録操作に関連する操作を制御する。処理コンポーネント902は、指令を実行するための1つ又は複数のプロセッサ920を備えてもよい。それにより上記方法の全て又は一部のステップを実行する。なお、処理コンポーネント902は、他のコンポーネントとのインタラクションのために、1つ又は複数のモジュールを備えてもよい。例えば、処理コンポーネント902はマルチメディアモジュールを備えることで、マルチメディアコンポーネント908と処理コンポーネント902とのインタラクションに寄与する。
メモリ904は、各種のデータを記憶することで装置900における操作をサポートするように構成される。これらのデータの例として、操作900上で操作れる如何なるアプリケーション又は方法の命令、連絡先データ、電話帳データ、メッセージ、イメージ、ビデオ等を含む。メモリ904は任意のタイプの揮発性または不揮発性記憶装置、あるいはこれらの組み合わせにより実現される。例えば、スタティックランダムアクセスメモリ(SRAM)、電気的消去可能なプログラマブル読み出し専用メモリ(EEPROM)、電気的に消去可能なプログラマブル読出し専用メモリ(EPROM)、プログラマブル読出し専用メモリ(PROM)、読出し専用メモリ(ROM)、磁気メモリ、フラッシュメモリ、磁気もしくは光ディスクを含む。
電源コンポーネント906は装置900の様々なコンポーネントに電力を提供する。電源コンポーネント906は、電源管理システム、1つ又は複数の電源、及び装置900のための電力生成、管理、分配に関連する他のコンポーネントを備えてもよい。
マルチメディアコンポーネント908は、上記装置900とユーザとの間に出力インタフェースを提供するためのスクリーンを備える。幾つかの実施例において、スクリーンは、液晶ディスプレイ(LCD)及びタッチパネル(TP)を含む。スクリーンは、タッチパネルを含むと、タッチパネルとして実現され、ユーザからの入力信号を受信する。タッチパネルは、タッチ、スライド及びパネル上のジェスチャを感知する1つ又は複数のタッチセンサを備える。上記タッチセンサは、タッチ又はスライド動作の境界を感知するだけでなく、上記タッチ又はスライド操作に関連する持続時間及び圧力を検出することもできる。幾つかの実施例において、マルチメディアコンポーネント908は、フロントカメラ及び/又はリアカメラを備える。装置900が、撮影モード又は映像モードのような操作モードであれば、フロントカメラ及び/又はリアカメラは外部からのマルチメディアデータを受信することができる。各フロントカメラ及びリアカメラは固定した光学レンズシステム又は焦点及び光学ズーム能力を持つものであってもよい。
オーディオコンポーネント910は、オーディオ信号を出力/入力するように構成される。例えば、オーディオコンポーネント910は、マイクロホン(MIC)を備える。装置900が、通話モード、記録モード及び音声識別モードのような操作モードであれば、マイクロホンは、外部からのオーディオ信号を受信するように構成される。受信したオーディオ信号を更にメモリ904に記憶するか、又は通信コンポーネント916を経由して送信することができる。幾つかの実施例において、オーディオコンポーネント910は、オーディオ信号を出力するように構成されるスピーカーを更に備える。
I/Oインタフェース912は、処理コンポーネント902と周辺インタフェースモジュールとの間のインタフェースを提供する。上記周辺インタフェースモジュールは、キーボード、クリックホイール、ボタン等であってもよい。これらのボタンは、ホームボダン、ボリュームボタン、スタートボタン及びロックボタンを含むが、これらに限定されない。
センサコンポーネント914は、1つ又は複数のセンサを備え、装置900のために様々な状態の評価を行うように構成される。例えば、センサコンポーネント914は、装置900のオン/オフ状態、コンポーネントの相対的な位置決めを検出することができる。例えば、上記コンポーネントが装置900のディスプレイ及びキーパッドである。センサコンポーネント914は装置900又は装置900における1つのコンポーネントの位置の変化、ユーザと装置900との接触の有無、装置900の方位又は加速/減速及び装置900の温度の変動を検出することもできる。センサコンポーネント914は近接センサを備えてもよく、いかなる物理的接触もない場合に周囲の物体の存在を検出するように構成される。センサコンポーネント914は、CMOS又はCCD画像センサのような光センサを備えてもよく、結像に適用されるように構成される。幾つかの実施例において、該センサコンポーネント914は、加速度センサ、ジャイロセンサ、磁気センサ、圧力センサ又は温度センサを備えてもよい。
通信コンポーネント916は、装置900と他の機器との有線又は無線方式の通信に寄与するように構成される。装置900は、WiFi、2G又は3G、4G LTE、5G NR又はそれらの組み合わせのような通信規格に基づいた無線ネットワークにアクセスできる。一例示的な実施例において、通信コンポーネント916は放送チャネルを経由して外部放送チャネル管理システムからの放送信号又は放送関連する情報を受信する。一例示的な実施例において、上記通信コンポーネント916は、近接場通信(NFC)モジュールを更に備えることで近距離通信を促進する。例えば、NFCモジュールは、無線周波数識別(RFID)技術、赤外線データ協会(IrDA)技術、超広帯域(UWB)技術、ブルートゥース(登録商標)(BT)技術及び他の技術に基づいて実現される。
例示的な実施例において、装置900は、1つ又は複数の特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、デジタル信号処理機器(DSPD)、プログラマブルロジックデバイス(PLD)、フィールドプログラマブルゲートアレイ(FPGA)、コントローラ、マイクロコントローラ、マイクロプロセッサ又は他の電子素子により実現され、上記方法を実行するように構成されてもよい。
例示的な実施例において、命令を記憶したメモリ904のような非一時的コンピュータ可読記憶媒体を更に適用する。記憶媒体における命令は装置900のプロセッサ920により実行される時、装置900に複数の撮像モジュールに基づいた画像処理方法を実行させる。該画像処理方法は、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を含む。
前記非一時的コンピュータ可読記憶媒体はROM、CD-ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ記憶装置等であってもよい。
当業者は明細書を検討し、ここで開示した発明を実践した後、本開示のその他の実施方案を容易に思いつくことができる。本開示の実施例は、本開示の実施例のいかなる変形、用途、又は適応的な変化を含むことを目的としており、いかなる変形、用途、又は適応的な変化は、本開示の一般原理に基づいて、且つ本開示の実施例において公開されていない本技術分野においての公知常識又は慣用技術手段を含む。明細書及び実施例は、例示的なものを開示しており、本開示の保護範囲と主旨は、特許請求の範囲に記述される。
本開示の実施例は、上記で説明した、また図面において示した精確な構造に限定されず、その範囲を逸脱しない前提のもとで種々の変更及び修正を行うことができることを理解すべきである。本開示の実施例の範囲は付された特許請求の範囲によってのみ限定される。
本開示の実施例において、第1撮像モジュールが現在、主要撮影状態にあり、且つ第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、第2撮像モジュールのフレーミング視野を調整し、第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにし、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理し、画像の画質を高め、更に、第2撮像モジュールを調整することで、第2撮像モジュールの撮影範囲を拡大し、調整により得られた調整済みフレーミング領域が初期フレーミング領域に存在しない領域をカバーするようにすることで、画質向上不可能であった画像領域の少なくとも一部について、画質向上を実現させる。

Claims (7)

  1. 複数の撮像モジュールに基づいた画像処理方法であって、
    第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、光学手振れ補正(OIS)により前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい、ことと、
    セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が前記第1撮像モジュールにより撮影された画像であることと
    を含み、
    前記OISにより前記第2撮像モジュールのフレーミング視野を調整することは、
    前記第2撮像モジュールの現在のフレーミング視野を決定することと、
    光学手振れ補正(OIS)により前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと
    を含み、
    前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点であることを特徴とする、画像処理方法。
  2. 前記画像処理方法は、
    第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含むことを特徴とする
    請求項に記載の画像処理方法。
  3. 前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行されることを特徴とする
    請求項に記載の画像処理方法。
  4. 前記複数の撮像モジュールは、視野角が順次小さくなる広角撮像モジュールと、汎用撮像モジュールと、長焦点距離撮像モジュールとを備えることを特徴とする
    請求項に記載の画像処理方法。
  5. 複数の撮像モジュールに基づいた画像処理装置であって、
    第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、OISにより前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成される視野調整モジュールであって、前記第2撮像モジュールの視野角が前記第1撮像モジュールの視野角より小さい、視野調整モジュールと、
    セカンダリ画像とプライマリ画像をフュージョン処理するように構成されるフュージョン処理モジュールであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、フュージョン処理モジュールと
    を備え
    前記視野調整モジュールが、前記OISにより前記第2撮像モジュールのフレーミング視野を調整することは、
    前記第2撮像モジュールの現在のフレーミング視野を決定することと、
    光学手振れ補正(OIS)により前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと
    を含み、
    前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である、画像処理装置。
  6. 複数の撮像モジュールに基づいた電子機器であって、
    少なくとも2つの視野角が異なる撮像モジュールと、
    プロセッサと、
    プロセッサが実行可能な命令を記憶するように構成されるメモリと
    を備え、
    前記プロセッサは、
    第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、OISにより前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい、ことと、
    セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、ことと
    を実行するように構成され
    前記プロセッサが、前記OISにより前記第2撮像モジュールのフレーミング視野を調整することは、
    前記第2撮像モジュールの現在のフレーミング視野を決定することと、
    光学手振れ補正(OIS)により前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと
    を含み、
    前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である、電子機器。
  7. コンピュータプログラムが記憶されているコンピュータ可読記憶媒体であって、前記プログラムがプロセッサにより実行されるときに、請求項1からのうちいずれか一項に記載の画像処理方法のステップを実現する、コンピュータ可読記憶媒体。
JP2020501801A 2019-09-10 2019-12-06 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 Active JP7178402B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910855143.3A CN110493526B (zh) 2019-09-10 2019-09-10 基于多摄像模块的图像处理方法、装置、设备及介质
CN201910855143.3 2019-09-10
PCT/CN2019/123658 WO2021047077A1 (zh) 2019-09-10 2019-12-06 基于多摄像模块的图像处理方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
JP2022502871A JP2022502871A (ja) 2022-01-11
JP7178402B2 true JP7178402B2 (ja) 2022-11-25

Family

ID=68557206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020501801A Active JP7178402B2 (ja) 2019-09-10 2019-12-06 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体

Country Status (6)

Country Link
US (1) US11070744B2 (ja)
EP (1) EP3793185A1 (ja)
JP (1) JP7178402B2 (ja)
KR (1) KR102278474B1 (ja)
CN (1) CN110493526B (ja)
WO (1) WO2021047077A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110493526B (zh) * 2019-09-10 2020-11-20 北京小米移动软件有限公司 基于多摄像模块的图像处理方法、装置、设备及介质
WO2021120188A1 (en) * 2019-12-20 2021-06-24 Qualcomm Incorporated Image fusion
CN112514366A (zh) * 2020-02-28 2021-03-16 深圳市大疆创新科技有限公司 图像处理方法、图像处理装置和图像处理系统
CN111479065B (zh) * 2020-04-16 2021-08-10 北京迈格威科技有限公司 相机视场角同步方法及装置、图像拍摄方法及装置
CN111770277A (zh) * 2020-07-31 2020-10-13 RealMe重庆移动通信有限公司 一种辅助拍摄方法及终端、存储介质
CN112399076B (zh) * 2020-10-27 2022-08-02 维沃移动通信有限公司 视频拍摄方法及装置
CN112511744A (zh) * 2020-11-26 2021-03-16 南京维沃软件技术有限公司 图像显示方法及装置
CN112995467A (zh) * 2021-02-05 2021-06-18 深圳传音控股股份有限公司 图像处理方法、移动终端及存储介质
CN115225799B (zh) * 2021-04-14 2024-10-15 华为技术有限公司 图像处理方法和终端设备
FR3121998B1 (fr) * 2021-04-19 2023-03-03 Idemia Identity & Security France Dispositif de capture optique
CN113364976B (zh) * 2021-05-10 2022-07-15 荣耀终端有限公司 一种图像的显示方法及电子设备
CN115209191A (zh) * 2022-06-14 2022-10-18 海信视像科技股份有限公司 显示设备、终端设备和设备间共享摄像头的方法
CN115499589B (zh) * 2022-09-19 2024-09-24 维沃移动通信有限公司 拍摄方法、装置、电子设备及介质
CN117014560A (zh) * 2023-08-09 2023-11-07 云图视界(杭州)科技有限公司 一种视频调度的方法、装置、介质及设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009044475A (ja) 2007-08-09 2009-02-26 Victor Co Of Japan Ltd 監視カメラ装置
JP2012001755A (ja) 2010-06-15 2012-01-05 National Institute Of Advanced Industrial Science & Technology 軽量で耐酸化性に優れる高熱伝導性硬質材料及びその作製方法
JP2014127151A (ja) 2012-12-27 2014-07-07 Sony Computer Entertainment Inc 情報処理装置、情報処理システム、および情報処理方法

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002335435A (ja) * 2001-05-11 2002-11-22 Fujitsu Ltd 映像撮影装置
JP5237978B2 (ja) * 2010-02-12 2013-07-17 パナソニック株式会社 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法
JP4787906B1 (ja) * 2010-03-30 2011-10-05 富士フイルム株式会社 撮像装置、方法およびプログラム
CN102821238B (zh) * 2012-03-19 2015-07-22 北京泰邦天地科技有限公司 宽视场超高分辨率成像系统
US20150145950A1 (en) 2013-03-27 2015-05-28 Bae Systems Information And Electronic Systems Integration Inc. Multi field-of-view multi sensor electro-optical fusion-zoom camera
CN105637413B (zh) * 2013-08-21 2018-07-06 奥林巴斯株式会社 摄像装置以及摄像方法
KR102157675B1 (ko) * 2014-07-25 2020-09-18 삼성전자주식회사 촬영 장치 및 그 촬영 방법
US20160227100A1 (en) * 2015-01-29 2016-08-04 Qualcomm Incorporated Dual camera systems and methods for rapid 3a convergence and high dynamic range exposure metering
CN104796615B (zh) * 2015-04-27 2018-12-07 惠州Tcl移动通信有限公司 一种ois防抖马达的大像素拍摄方法、系统及移动终端
KR20170123125A (ko) * 2016-04-28 2017-11-07 엘지전자 주식회사 이동단말기 및 그 제어방법
US10432869B2 (en) * 2016-09-07 2019-10-01 Multimedia Image Solution Limited Method of utilizing wide-angle image capturing element and long-focus image capturing element for achieving clear and precise optical zooming mechanism
CN106385541A (zh) * 2016-09-30 2017-02-08 虹软(杭州)科技有限公司 利用广角摄像组件及长焦摄像组件实现变焦的方法
KR102609464B1 (ko) 2016-10-18 2023-12-05 삼성전자주식회사 영상을 촬영하는 전자 장치
CN106791377B (zh) 2016-11-29 2019-09-27 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
DE102017210408A1 (de) * 2017-06-21 2018-12-27 Conti Temic Microelectronic Gmbh Kamerasystem mit unterschiedlichen Shuttermodi
KR20190000520A (ko) 2017-06-23 2019-01-03 엘지전자 주식회사 태양 전지 패널 및 이의 제조 방법
CN109923850B (zh) * 2017-07-07 2020-09-11 华为技术有限公司 一种图像捕捉装置及方法
WO2019048904A1 (en) * 2017-09-06 2019-03-14 Corephotonics Ltd. STEREOSCOPIC DEPTH CARTOGRAPHY AND COMBINED PHASE DETECTION IN A DOUBLE-OPENING CAMERA
CN107770448A (zh) 2017-10-31 2018-03-06 努比亚技术有限公司 一种图像采集方法、移动终端和计算机存储介质
EP3487162B1 (en) * 2017-11-16 2021-03-17 Axis AB Method, device and camera for blending a first and a second image having overlapping fields of view
CN108377342B (zh) * 2018-05-22 2021-04-20 Oppo广东移动通信有限公司 双摄像头拍照方法、装置、存储介质及终端
CN109194881A (zh) * 2018-11-29 2019-01-11 珠海格力电器股份有限公司 图像处理方法、系统及终端
CN109379522A (zh) 2018-12-06 2019-02-22 Oppo广东移动通信有限公司 成像方法、成像装置、电子装置及介质
CN110493526B (zh) * 2019-09-10 2020-11-20 北京小米移动软件有限公司 基于多摄像模块的图像处理方法、装置、设备及介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009044475A (ja) 2007-08-09 2009-02-26 Victor Co Of Japan Ltd 監視カメラ装置
JP2012001755A (ja) 2010-06-15 2012-01-05 National Institute Of Advanced Industrial Science & Technology 軽量で耐酸化性に優れる高熱伝導性硬質材料及びその作製方法
JP2014127151A (ja) 2012-12-27 2014-07-07 Sony Computer Entertainment Inc 情報処理装置、情報処理システム、および情報処理方法

Also Published As

Publication number Publication date
US11070744B2 (en) 2021-07-20
EP3793185A1 (en) 2021-03-17
JP2022502871A (ja) 2022-01-11
KR102278474B1 (ko) 2021-07-20
CN110493526A (zh) 2019-11-22
CN110493526B (zh) 2020-11-20
WO2021047077A1 (zh) 2021-03-18
KR20210032922A (ko) 2021-03-25
US20210075975A1 (en) 2021-03-11

Similar Documents

Publication Publication Date Title
JP7178402B2 (ja) 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体
US9992421B2 (en) Image pickup apparatus having FA zoom function, method for controlling the apparatus, and recording medium
CN108377329B (zh) 摄像装置及其控制方法
JP6366395B2 (ja) ズーム制御装置、撮像装置、ズーム制御装置の制御方法、被写体検出装置の制御プログラムおよび記憶媒体
JP6370140B2 (ja) ズーム制御装置、撮像装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体
CN104823094B (zh) 摄像装置及对焦控制方法
US9800774B2 (en) Image capture device with restoration processing and image restoration processing method
US9177395B2 (en) Display device and display method for providing image display in first color mode and second color mode
JP6188474B2 (ja) ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体
CN115134505B (zh) 预览画面生成方法及装置、电子设备、存储介质
JP2005295418A (ja) 撮像装置および撮像表示方法
JP2016103666A (ja) 電子機器および撮像装置
CN114339022A (zh) 摄像头拍摄参数确定方法、神经网络模型的训练方法
US10362206B2 (en) Image capturing apparatus having a function which assists a panning shot with specific framing
JP6224925B2 (ja) 制御装置及び画角制御方法
JP6768449B2 (ja) 撮像制御装置、撮像装置の制御方法及びプログラム
CN111343375A (zh) 图像信号处理方法及装置、电子设备、存储介质
CN112866555B (zh) 拍摄方法、装置、设备及存储介质
JP6188455B2 (ja) 制御装置、撮像システム、画角制御方法、プログラム、および、記憶媒体
JP6234103B2 (ja) ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体
WO2023230860A1 (zh) 变焦方法、变焦装置、电子设备及存储介质
WO2023007904A1 (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP2017118356A (ja) 撮像装置およびその制御方法
CN115150540A (zh) 拍摄方法、终端设备及计算机可读存储介质
JP2017017592A (ja) 撮像制御装置およびその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221020

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221114

R150 Certificate of patent or registration of utility model

Ref document number: 7178402

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150