JP7178402B2 - 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 - Google Patents
複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 Download PDFInfo
- Publication number
- JP7178402B2 JP7178402B2 JP2020501801A JP2020501801A JP7178402B2 JP 7178402 B2 JP7178402 B2 JP 7178402B2 JP 2020501801 A JP2020501801 A JP 2020501801A JP 2020501801 A JP2020501801 A JP 2020501801A JP 7178402 B2 JP7178402 B2 JP 7178402B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging module
- framing
- image
- imaging
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 538
- 238000003672 processing method Methods 0.000 title claims description 39
- 238000009432 framing Methods 0.000 claims description 334
- 238000007499 fusion processing Methods 0.000 claims description 34
- 238000012545 processing Methods 0.000 claims description 21
- 230000003287 optical effect Effects 0.000 claims description 20
- 230000006641 stabilisation Effects 0.000 claims description 11
- 238000011105 stabilization Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 5
- 230000007423 decrease Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 18
- 238000005516 engineering process Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 230000004927 fusion Effects 0.000 description 8
- 230000006872 improvement Effects 0.000 description 8
- 230000000694 effects Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Image Processing (AREA)
Description
本出願は、2019年9月10日付の中国特許出願第201910855143.3号に基づく優先権を主張するものであり、該中国特許出願の全内容を参照として本出願に援用する。
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を含む。
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OpticalImage Stabilization:OIS)により前記第2撮影モジュールの現在のフレーミング視野を最大範囲に調整することと、を含み、
ここで、前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である。
前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含む。
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含み、
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、サブターゲット方法に沿って第2撮像モジュールを調整した後に取得されたセカンダリ画像を含む。
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含み、
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、各カメラの調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含む。
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含む。
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成される視野調整モジュールであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい、視野調整モジュールと、
セカンダリ画像とプライマリ画像をフュージョン処理するように構成されるフュージョン処理モジュールであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、フュージョン処理モジュールとを備える。
少なくとも2つの視野角が異なる撮像モジュールと、
プロセッサと、
プロセッサが実行可能な命令を記憶するように構成されるメモリと、を備え、
前記プロセッサは、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を実行するように構成される。
本発明は、例えば、以下の項目を提供する。
(項目1)
複数の撮像モジュールに基づいた画像処理方法であって、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が前記第1撮像モジュールにより撮影された画像であることと、を含む、前記画像処理方法。
(項目2)
前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OIS)により前記第2撮影モジュールの現在のフレーミング視野を最大範囲に調整することと、を含み、
前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点であることを特徴とする
項目1に記載の画像処理方法。
(項目3)
前記対象とする被写体はフレーミング領域における注目される対象であり、前記第2撮像モジュールのフレーミング視野を調整することは、
前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含むことを特徴とする
項目1に記載の画像処理方法。
(項目4)
前記対象とする被写体は、前記第1撮像モジュールのフレーミング領域における合焦点、前記合焦点により決定された焦点領域、前記第1撮像モジュールのフレーミング領域における指定部分領域、又は前記第1撮像モジュールのフレーミング領域であることを特徴とする
項目1に記載の画像処理方法。
(項目5)
前記第2撮像モジュールは1つのカメラを備え、前記第2撮像モジュールのフレーミング領域が前記対象とする被写体をカバーするようにすることは、前記対象とする被写体を第2撮像モジュールの同一のフレーミング領域内又は同一のフレーミング領域の特定位置に位置させることを含み、前記特定位置は事前設定された位置、又は検出した操作信号により決定された位置であることを特徴とする
項目1に記載の画像処理方法。
(項目6)
前記第2撮像モジュールは1つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含み、
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、サブターゲット方法に沿って第2撮像モジュールを調整した後に取得されたセカンダリ画像を含むことを特徴とする
項目3に記載の画像処理方法。
(項目7)
前記第2撮像モジュールは、少なくとも2つのカメラを備え、前記対象とする被写体のサイズは、第2撮像モジュールのフレーミング領域のサイズより大きく、前記ターゲット方向は、少なくとも2つのサブターゲット方向を含み、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含み、
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、各カメラの調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含むことを特徴とする
項目3に記載の画像処理方法。
(項目8)
前記画像処理方法は、
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含むことを特徴とする
項目1から7のうちいずれか一項に記載の画像処理方法。
(項目9)
前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行されることを特徴とする
項目1から7のうちいずれか一項に記載の画像処理方法。
(項目10)
前記複数の撮像モジュールは、視野角が順次小さくなる広角撮像モジュールと、汎用撮像モジュールと、長焦点距離撮像モジュールとを備えることを特徴とする
項目1から7のうちいずれか一項に記載の画像処理方法。
(項目11)
複数の撮像モジュールに基づいた画像処理装置であって、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成される視野調整モジュールであって、前記第2撮像モジュールの視野角が前記第1撮像モジュールの視野角より小さい、視野調整モジュールと、
セカンダリ画像とプライマリ画像をフュージョン処理するように構成されるフュージョン処理モジュールであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、フュージョン処理モジュールと、を備える、前記画像処理装置。
(項目12)
複数の撮像モジュールに基づいた電子機器であって、
少なくとも2つの視野角が異なる撮像モジュールと、
プロセッサと、
プロセッサが実行可能な命令を記憶するように構成されるメモリと、を備え、
前記プロセッサは、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を実行するように構成される、前記電子機器。
(項目13)
コンピュータプログラムが記憶されているコンピュータ可読記憶媒体であって、前記プログラムがプロセッサにより実行されるときに、項目1から9のうちいずれか一項に記載の画像処理方法のステップを実現する、前記コンピュータ可読記憶媒体。
ステップ202において、第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにし、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい。
ステップ204において、セカンダリ画像とプライマリ画像をフュージョン処理し、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である。
該実施例において、OIS光学手振れ補正技術によって、第2撮像モジュールのフレーミング視野を調整し、第2撮像モジュールのフレーミング可能な範囲を拡大すると共に、コストを低減させることもでき、他のハードウェアを追加する必要がない。
別の実施例において、OISにより、第2撮像モジュールのフレーミング領域を、対象とする被写体へ移動するように調整することで、第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることもできる。
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
OISにより前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと、を含み、
ここで、前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である。
前記対象とする被写体と前記初期フレーミング領域との位置関係に基づいて、ターゲット方向を決定することと、
OISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することと、を含む。
前記視野調整モジュール820がOISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、各サブターゲット方向に対して、OISにより前記第2撮像モジュールを、前記サブターゲット方向に沿って運転するように調整することを含み、
前記対象とする被写体は、第1スプライシングフレーミング領域内に位置し、前記第1スプライシングフレーミング領域は、全ての調整により得られた調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、サブターゲット方法に沿って第2撮像モジュールを調整した後に取得されたセカンダリ画像を含む。
前記視野調整モジュール820がOISにより前記第2撮像モジュールを、前記ターゲット方向に沿って運転するように調整することは、OISにより、前記第2撮像モジュールにおけるカメラを、対応する前記サブターゲット方向に沿って運転するようにそれぞれ調整することを含み、
前記対象とする被写体は、第2スプライシングフレーミング領域内に位置し、前記第2スプライシングフレーミング領域は、各カメラの調整済みフレーミング領域をスプライシングしてなるものであり、
前記第2撮像モジュールにより撮影されたセカンダリ画像は、全ての調整されたカメラにより撮影された画像を含む。
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理するように更に構成される。
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を実行するように構成される。
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、ここで、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さいことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像であることと、を含む。
Claims (7)
- 複数の撮像モジュールに基づいた画像処理方法であって、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、光学手振れ補正(OIS)により前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい、ことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が前記第1撮像モジュールにより撮影された画像であることと
を含み、
前記OISにより前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OIS)により前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと
を含み、
前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点であることを特徴とする、画像処理方法。 - 前記画像処理方法は、
第1撮像モジュールが現在、主要撮影状態にあり、かつ前記第1撮像モジュールのフレーミング領域における対象とする被写体が、第2撮像モジュールの初期フレーミング領域内に位置している場合、第2撮像モジュールにより撮影されたセカンダリ画像と第1撮像モジュールにより撮影されたプライマリ画像をフュージョン処理することを更に含むことを特徴とする
請求項1に記載の画像処理方法。 - 前記フュージョン処理は、フレーミング中に実行されるか、又は前記フュージョン処理は、撮影操作命令を受信した後に実行されることを特徴とする
請求項1に記載の画像処理方法。 - 前記複数の撮像モジュールは、視野角が順次小さくなる広角撮像モジュールと、汎用撮像モジュールと、長焦点距離撮像モジュールとを備えることを特徴とする
請求項1に記載の画像処理方法。 - 複数の撮像モジュールに基づいた画像処理装置であって、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、OISにより前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにするように構成される視野調整モジュールであって、前記第2撮像モジュールの視野角が前記第1撮像モジュールの視野角より小さい、視野調整モジュールと、
セカンダリ画像とプライマリ画像をフュージョン処理するように構成されるフュージョン処理モジュールであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、フュージョン処理モジュールと
を備え、
前記視野調整モジュールが、前記OISにより前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OIS)により前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと
を含み、
前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である、画像処理装置。 - 複数の撮像モジュールに基づいた電子機器であって、
少なくとも2つの視野角が異なる撮像モジュールと、
プロセッサと、
プロセッサが実行可能な命令を記憶するように構成されるメモリと
を備え、
前記プロセッサは、
第1撮像モジュールが現在、主要撮影状態にあり、且つ前記第1撮像モジュールのフレーミング領域における対象とする被写体が第2撮像モジュールの初期フレーミング領域に位置しない場合、OISにより前記第2撮像モジュールのフレーミング視野を調整し、前記第2撮像モジュールの調整済みフレーミング領域が前記対象とする被写体をカバーするようにすることであって、前記第2撮像モジュールの視野角が、前記第1撮像モジュールの視野角より小さい、ことと、
セカンダリ画像とプライマリ画像をフュージョン処理することであって、前記セカンダリ画像が、前記第2撮像モジュールにより撮影された画像であり、前記プライマリ画像が、前記第1撮像モジュールにより撮影された画像である、ことと
を実行するように構成され、
前記プロセッサが、前記OISにより前記第2撮像モジュールのフレーミング視野を調整することは、
前記第2撮像モジュールの現在のフレーミング視野を決定することと、
光学手振れ補正(OIS)により前記第2撮像モジュールの現在のフレーミング視野を最大範囲に調整することと
を含み、
前記対象とする被写体は、前記第2撮像モジュールの調整された最大フレーミング領域と初期フレーミング領域との非重複部における任意の撮影点である、電子機器。 - コンピュータプログラムが記憶されているコンピュータ可読記憶媒体であって、前記プログラムがプロセッサにより実行されるときに、請求項1から4のうちいずれか一項に記載の画像処理方法のステップを実現する、コンピュータ可読記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910855143.3A CN110493526B (zh) | 2019-09-10 | 2019-09-10 | 基于多摄像模块的图像处理方法、装置、设备及介质 |
CN201910855143.3 | 2019-09-10 | ||
PCT/CN2019/123658 WO2021047077A1 (zh) | 2019-09-10 | 2019-12-06 | 基于多摄像模块的图像处理方法、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022502871A JP2022502871A (ja) | 2022-01-11 |
JP7178402B2 true JP7178402B2 (ja) | 2022-11-25 |
Family
ID=68557206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020501801A Active JP7178402B2 (ja) | 2019-09-10 | 2019-12-06 | 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11070744B2 (ja) |
EP (1) | EP3793185A1 (ja) |
JP (1) | JP7178402B2 (ja) |
KR (1) | KR102278474B1 (ja) |
CN (1) | CN110493526B (ja) |
WO (1) | WO2021047077A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110493526B (zh) * | 2019-09-10 | 2020-11-20 | 北京小米移动软件有限公司 | 基于多摄像模块的图像处理方法、装置、设备及介质 |
WO2021120188A1 (en) * | 2019-12-20 | 2021-06-24 | Qualcomm Incorporated | Image fusion |
CN112514366A (zh) * | 2020-02-28 | 2021-03-16 | 深圳市大疆创新科技有限公司 | 图像处理方法、图像处理装置和图像处理系统 |
CN111479065B (zh) * | 2020-04-16 | 2021-08-10 | 北京迈格威科技有限公司 | 相机视场角同步方法及装置、图像拍摄方法及装置 |
CN111770277A (zh) * | 2020-07-31 | 2020-10-13 | RealMe重庆移动通信有限公司 | 一种辅助拍摄方法及终端、存储介质 |
CN112399076B (zh) * | 2020-10-27 | 2022-08-02 | 维沃移动通信有限公司 | 视频拍摄方法及装置 |
CN112511744A (zh) * | 2020-11-26 | 2021-03-16 | 南京维沃软件技术有限公司 | 图像显示方法及装置 |
CN112995467A (zh) * | 2021-02-05 | 2021-06-18 | 深圳传音控股股份有限公司 | 图像处理方法、移动终端及存储介质 |
CN115225799B (zh) * | 2021-04-14 | 2024-10-15 | 华为技术有限公司 | 图像处理方法和终端设备 |
FR3121998B1 (fr) * | 2021-04-19 | 2023-03-03 | Idemia Identity & Security France | Dispositif de capture optique |
CN113364976B (zh) * | 2021-05-10 | 2022-07-15 | 荣耀终端有限公司 | 一种图像的显示方法及电子设备 |
CN115209191A (zh) * | 2022-06-14 | 2022-10-18 | 海信视像科技股份有限公司 | 显示设备、终端设备和设备间共享摄像头的方法 |
CN115499589B (zh) * | 2022-09-19 | 2024-09-24 | 维沃移动通信有限公司 | 拍摄方法、装置、电子设备及介质 |
CN117014560A (zh) * | 2023-08-09 | 2023-11-07 | 云图视界(杭州)科技有限公司 | 一种视频调度的方法、装置、介质及设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009044475A (ja) | 2007-08-09 | 2009-02-26 | Victor Co Of Japan Ltd | 監視カメラ装置 |
JP2012001755A (ja) | 2010-06-15 | 2012-01-05 | National Institute Of Advanced Industrial Science & Technology | 軽量で耐酸化性に優れる高熱伝導性硬質材料及びその作製方法 |
JP2014127151A (ja) | 2012-12-27 | 2014-07-07 | Sony Computer Entertainment Inc | 情報処理装置、情報処理システム、および情報処理方法 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002335435A (ja) * | 2001-05-11 | 2002-11-22 | Fujitsu Ltd | 映像撮影装置 |
JP5237978B2 (ja) * | 2010-02-12 | 2013-07-17 | パナソニック株式会社 | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 |
JP4787906B1 (ja) * | 2010-03-30 | 2011-10-05 | 富士フイルム株式会社 | 撮像装置、方法およびプログラム |
CN102821238B (zh) * | 2012-03-19 | 2015-07-22 | 北京泰邦天地科技有限公司 | 宽视场超高分辨率成像系统 |
US20150145950A1 (en) | 2013-03-27 | 2015-05-28 | Bae Systems Information And Electronic Systems Integration Inc. | Multi field-of-view multi sensor electro-optical fusion-zoom camera |
CN105637413B (zh) * | 2013-08-21 | 2018-07-06 | 奥林巴斯株式会社 | 摄像装置以及摄像方法 |
KR102157675B1 (ko) * | 2014-07-25 | 2020-09-18 | 삼성전자주식회사 | 촬영 장치 및 그 촬영 방법 |
US20160227100A1 (en) * | 2015-01-29 | 2016-08-04 | Qualcomm Incorporated | Dual camera systems and methods for rapid 3a convergence and high dynamic range exposure metering |
CN104796615B (zh) * | 2015-04-27 | 2018-12-07 | 惠州Tcl移动通信有限公司 | 一种ois防抖马达的大像素拍摄方法、系统及移动终端 |
KR20170123125A (ko) * | 2016-04-28 | 2017-11-07 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
US10432869B2 (en) * | 2016-09-07 | 2019-10-01 | Multimedia Image Solution Limited | Method of utilizing wide-angle image capturing element and long-focus image capturing element for achieving clear and precise optical zooming mechanism |
CN106385541A (zh) * | 2016-09-30 | 2017-02-08 | 虹软(杭州)科技有限公司 | 利用广角摄像组件及长焦摄像组件实现变焦的方法 |
KR102609464B1 (ko) | 2016-10-18 | 2023-12-05 | 삼성전자주식회사 | 영상을 촬영하는 전자 장치 |
CN106791377B (zh) | 2016-11-29 | 2019-09-27 | Oppo广东移动通信有限公司 | 控制方法、控制装置及电子装置 |
DE102017210408A1 (de) * | 2017-06-21 | 2018-12-27 | Conti Temic Microelectronic Gmbh | Kamerasystem mit unterschiedlichen Shuttermodi |
KR20190000520A (ko) | 2017-06-23 | 2019-01-03 | 엘지전자 주식회사 | 태양 전지 패널 및 이의 제조 방법 |
CN109923850B (zh) * | 2017-07-07 | 2020-09-11 | 华为技术有限公司 | 一种图像捕捉装置及方法 |
WO2019048904A1 (en) * | 2017-09-06 | 2019-03-14 | Corephotonics Ltd. | STEREOSCOPIC DEPTH CARTOGRAPHY AND COMBINED PHASE DETECTION IN A DOUBLE-OPENING CAMERA |
CN107770448A (zh) | 2017-10-31 | 2018-03-06 | 努比亚技术有限公司 | 一种图像采集方法、移动终端和计算机存储介质 |
EP3487162B1 (en) * | 2017-11-16 | 2021-03-17 | Axis AB | Method, device and camera for blending a first and a second image having overlapping fields of view |
CN108377342B (zh) * | 2018-05-22 | 2021-04-20 | Oppo广东移动通信有限公司 | 双摄像头拍照方法、装置、存储介质及终端 |
CN109194881A (zh) * | 2018-11-29 | 2019-01-11 | 珠海格力电器股份有限公司 | 图像处理方法、系统及终端 |
CN109379522A (zh) | 2018-12-06 | 2019-02-22 | Oppo广东移动通信有限公司 | 成像方法、成像装置、电子装置及介质 |
CN110493526B (zh) * | 2019-09-10 | 2020-11-20 | 北京小米移动软件有限公司 | 基于多摄像模块的图像处理方法、装置、设备及介质 |
-
2019
- 2019-09-10 CN CN201910855143.3A patent/CN110493526B/zh active Active
- 2019-12-06 WO PCT/CN2019/123658 patent/WO2021047077A1/zh active Application Filing
- 2019-12-06 KR KR1020207007604A patent/KR102278474B1/ko active IP Right Grant
- 2019-12-06 JP JP2020501801A patent/JP7178402B2/ja active Active
-
2020
- 2020-01-16 US US16/744,708 patent/US11070744B2/en active Active
- 2020-01-21 EP EP20152830.4A patent/EP3793185A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009044475A (ja) | 2007-08-09 | 2009-02-26 | Victor Co Of Japan Ltd | 監視カメラ装置 |
JP2012001755A (ja) | 2010-06-15 | 2012-01-05 | National Institute Of Advanced Industrial Science & Technology | 軽量で耐酸化性に優れる高熱伝導性硬質材料及びその作製方法 |
JP2014127151A (ja) | 2012-12-27 | 2014-07-07 | Sony Computer Entertainment Inc | 情報処理装置、情報処理システム、および情報処理方法 |
Also Published As
Publication number | Publication date |
---|---|
US11070744B2 (en) | 2021-07-20 |
EP3793185A1 (en) | 2021-03-17 |
JP2022502871A (ja) | 2022-01-11 |
KR102278474B1 (ko) | 2021-07-20 |
CN110493526A (zh) | 2019-11-22 |
CN110493526B (zh) | 2020-11-20 |
WO2021047077A1 (zh) | 2021-03-18 |
KR20210032922A (ko) | 2021-03-25 |
US20210075975A1 (en) | 2021-03-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7178402B2 (ja) | 複数の撮像モジュールに基づいた画像処理方法、装置、機器及び媒体 | |
US9992421B2 (en) | Image pickup apparatus having FA zoom function, method for controlling the apparatus, and recording medium | |
CN108377329B (zh) | 摄像装置及其控制方法 | |
JP6366395B2 (ja) | ズーム制御装置、撮像装置、ズーム制御装置の制御方法、被写体検出装置の制御プログラムおよび記憶媒体 | |
JP6370140B2 (ja) | ズーム制御装置、撮像装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体 | |
CN104823094B (zh) | 摄像装置及对焦控制方法 | |
US9800774B2 (en) | Image capture device with restoration processing and image restoration processing method | |
US9177395B2 (en) | Display device and display method for providing image display in first color mode and second color mode | |
JP6188474B2 (ja) | ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体 | |
CN115134505B (zh) | 预览画面生成方法及装置、电子设备、存储介质 | |
JP2005295418A (ja) | 撮像装置および撮像表示方法 | |
JP2016103666A (ja) | 電子機器および撮像装置 | |
CN114339022A (zh) | 摄像头拍摄参数确定方法、神经网络模型的训练方法 | |
US10362206B2 (en) | Image capturing apparatus having a function which assists a panning shot with specific framing | |
JP6224925B2 (ja) | 制御装置及び画角制御方法 | |
JP6768449B2 (ja) | 撮像制御装置、撮像装置の制御方法及びプログラム | |
CN111343375A (zh) | 图像信号处理方法及装置、电子设备、存储介质 | |
CN112866555B (zh) | 拍摄方法、装置、设备及存储介质 | |
JP6188455B2 (ja) | 制御装置、撮像システム、画角制御方法、プログラム、および、記憶媒体 | |
JP6234103B2 (ja) | ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体 | |
WO2023230860A1 (zh) | 变焦方法、变焦装置、电子设备及存储介质 | |
WO2023007904A1 (ja) | 電子機器、電子機器の制御方法、プログラム、記憶媒体 | |
JP2017118356A (ja) | 撮像装置およびその制御方法 | |
CN115150540A (zh) | 拍摄方法、终端设备及计算机可读存储介质 | |
JP2017017592A (ja) | 撮像制御装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220310 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220720 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221006 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221020 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221114 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7178402 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |