TWI676386B - 影像捕獲設備、個人電子裝置、影像捕獲系統及可安裝透鏡配置 - Google Patents
影像捕獲設備、個人電子裝置、影像捕獲系統及可安裝透鏡配置 Download PDFInfo
- Publication number
- TWI676386B TWI676386B TW106100196A TW106100196A TWI676386B TW I676386 B TWI676386 B TW I676386B TW 106100196 A TW106100196 A TW 106100196A TW 106100196 A TW106100196 A TW 106100196A TW I676386 B TWI676386 B TW I676386B
- Authority
- TW
- Taiwan
- Prior art keywords
- image
- personal electronic
- electronic device
- optical
- lens
- Prior art date
Links
- 230000003287 optical effect Effects 0.000 claims abstract description 256
- 238000012545 processing Methods 0.000 claims abstract description 151
- 238000007906 compression Methods 0.000 claims description 20
- 230000006835 compression Effects 0.000 claims description 19
- 230000010365 information processing Effects 0.000 claims 1
- 238000000034 method Methods 0.000 description 33
- 238000010586 diagram Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 21
- 230000008901 benefit Effects 0.000 description 15
- 238000004891 communication Methods 0.000 description 8
- 239000000872 buffer Substances 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000013461 design Methods 0.000 description 5
- 238000013507 mapping Methods 0.000 description 5
- 239000000463 material Substances 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000002156 mixing Methods 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 229920001296 polysiloxane Polymers 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000007779 soft material Substances 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 239000004753 textile Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 239000000853 adhesive Substances 0.000 description 1
- 230000001070 adhesive effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 239000012464 large buffer Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000001681 protective effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
Abstract
一種影像捕獲設備,具有基本為球面之視場並可以連接或連接或集成至諸如智能電話的個人電子裝置,包括:至少兩個光學配置,分別指向不同的方向,各光學配置覆蓋球面之一部份且包含:透鏡及用於捕獲通過透鏡之光照的感測器,至少兩個光學配置基本覆蓋球面視場,控制單元,用於控制至少兩個光學配置,以並行捕獲透過至少兩個光學配置提供的至少兩個視頻序列,處理單元,用於在捕獲至少兩個視頻序列時合併至少兩個視頻序列,以形成覆蓋球面視場之單一序列,及輸出單元,用於在捕獲至少兩個視頻序列時向個人電子裝置輸出合併之序列影像。
Description
本發明係關於一種用於個人電子裝置的影像捕獲裝置,藉以捕捉球面視頻影像。
在影像捕獲與動態圖像捕獲的領域中,可透過多種個人電子裝置,例如:移動電話、輸入板、膝上型電腦、可穿戴裝置(如手錶)及類似的電子裝置,來實現照相機。這些照相機具有寬泛的技術特徵與執行方式。而照相機之決定性品質標準在於:空間解析度、時間解析度及如諸視場之光學特徵。
圖1示出了作為智能電話的個人電子裝置100的前視圖。通常,這樣的智能電話具有:主體130,顯示部分120,前置照相機110,用戶介面140(其一部分也可以是具有觸摸屏的顯示部分120)以及額外的輸入/輸出部分150,藉以作為各種連接器插槽和開口、麥克風、揚聲器或類似部件。
大多數如圖1所示的智能電話這樣的個人電子裝置具有:兩個獨立的照相機,其中一個前置照相機110在個人電子裝置100的正面,而另一個照相機在個人電子裝置背面(圖中未示出)。與在移動電話的正面上的前置相機110相比,在設備背面的相機通常可提供具有更高空間解析度的圖片。而後置照相機用於捕獲使用者前方的視圖的圖片,進而使用者可握住智能電話,藉以使顯示部分120示出透過顯示器對側之後置照相機所觀看到的場景。前置照相機110與顯示部分120位於智能手機的同一側,藉以捕獲可能包括使用者的視圖。而使用者可以選擇性地使用(位於顯示器對側之)後置照相機與(位於顯
示器同一側之)前置照相機,這意味著:在一定時間僅有一個照相機可用以拍攝影像。
通常,個人電子裝置提供放縮功能並且僅為背面之照相機時使用閃光燈。
為了消除平板設備的設計約束,在移動電話、平板電腦及類似裝置中實現的照相機具有受限的視場,然而其仍然適用於許多常見的應用。特別是,若需要使電話盡可能地薄,則只能內置一些數量有限且沒有較大彎曲的微型透鏡。
此外,個人電子裝置通常並不能捕獲球面視頻(spherical videos)。只有應用程序可用於使用戶能從他所在的位置捕獲不同的圖像並且基於此重建全景影像。
在圖像捕獲的領域中,可利用圍繞圓形或球面或其他擴展結構分佈之兩個或更多個透鏡獲得若干影像,進而透過對這些影像進行毗接與數字拼接可能獲得360°視場或球面視圖。然而,由於這些相機是獨立的,它們僅可能透過標準化介面將所捕獲之視頻傳送至電腦(可以是個人電子裝置)或用於存儲之雲端。所以,由於因包括複數個透鏡,需要進行包含有圖像處理,拼接,壓縮,存儲,音頻處理等處理之整體處理以及用於對接網絡或其它裝置之設備/接口,這種照相機通常是比較大的。
為了克服上述缺陷,本發明之一目的在於透過提出用於個人電子裝置之光學裝置,藉以捕獲具有360度視場的影像與視頻。
上述目的可透過獨立項之特徵達成。
而其它較佳實施例體現於獨立項之標的中。
本發明之一方面提供了一種影像捕獲設備,影像捕獲設備具有基本上為球面之視場並且可以連接或連接至或集成至一個人電子裝置,影像捕獲設備包括:至少兩個光學配置,係分別指向不同的方向,至少兩個光學配置
中之各光學配置覆蓋球面之一部份,各光學配置包含:透鏡以及用於捕獲通過透鏡之光照的感測器,其中至少兩個光學配置基本上覆蓋球面視場;控制單元,係用於控制至少兩個光學配置,藉以並行地捕獲透過至少兩個光學配置所提供的至少兩個視頻序列;處理單元,係用於在捕獲至少兩個視頻序列時合併至少兩個視頻序列,以形成覆蓋球面視場之單一序列;以及輸出單元,係用於在捕獲至少兩個視頻序列時向個人電子裝置輸出合併後之序列的影像。
在一較佳實施例中,處理單元還用於拼接至少兩個視頻序列藉以在少於或等於捕獲兩個連續影像間之時段的時間內形成球面影像之單一序列,或處理單元還用於拼接至少兩個視頻序列藉以在複數個處理階段內形成球面影像之單一序列,各處理階段少於或這些於捕獲視頻序列之兩個連續影像間之時間,其中透過這些處理階段並行地對這些連續影像進行處理。
在一較佳實施例或其它實施例中,其中影像捕獲設備用於減少將從感測器讀出的畫素數量,或者該影像捕獲設備用於減少透過拼接或減少從感測器讀出且將進行拼接處理之畫素數量,藉以提升後續的影像捕獲處理。
其中處理單元還用於:在透過輸出單元輸出合併後之影像前,對合併後之影像進行增益控制、白平衡、加馬指數控制、去雜訊或銳化處理中的至少一種處理。
其中處理單元還用於:在至少兩個光學配置對至少兩個視頻序列的影像進行合併或拼接前,透過增益控制或白平衡中的至少一種處理由該至少兩個光學配置分別捕獲的至少兩個視頻序列的影像。
在一實施例中,影像捕獲設備還可包含編碼單元,係用於壓縮從處理單元輸出之合併後的影像。
在一實施例中,影像捕獲設備還包含兩個光學配置各自具有朝向相反方向之半球面視場,其中各光學配置具有視場至少為180度的透鏡。
其中兩個光學配置係包含一第一光學配置和一第二光學配置,且兩個光學配置相鄰地安置,並且其中第一光學配置之感測器位於第二光學配
置之首透鏡的背面,而第二光學配置之感測器位於第一光學配置之首透鏡的背面。
在一實施例中,影像捕獲設備還包含連接裝置,係用於與個人電子裝置相連,此連接裝置為:-一插座,用於接合一插頭轉接器之一第一側,插頭轉接器之另一側與個人電子裝置之插座相匹配;-一導線,係透過導線之一端固定於影像捕獲設備,且導線之另一端為針對個人電子裝置的一連接器;以及-一無線網絡介面中的至少一個,此外,輸出單元還用於透過連接裝置輸出這些影像,其連接裝置用於從個人電子裝置接收供電和/或從個人電子裝置接收資料和/或向個人電子裝置傳送資料。
影像捕獲設備還包含外殼,外殼基本上呈球形並包含用於各光學配置的透鏡之開口。
本發明之另一方面提供了一種個人電子裝置包含:顯示裝置;以及前述之影像捕獲設備。
在一實施例中,其中各光學配置中至少一個首透鏡是可安裝拆卸的,進而至少一個首透鏡可安裝在個人電子裝置中配設之多個光輸入區域上方,藉以使光照照射至各光學配置之感測器。
在一實施例中,個人電子裝置還包含照相機控制器,用於透過切換選擇使用一個光學配置還是使用兩個光學配置,藉以捕獲視頻或影像。
本發明之又一方面提供了一種系統包含:個人電子裝置及外部影像捕獲設備,其中個人電子裝置包含有處理器,處理器用於從影像捕獲設備接收合併後之影像並對合併後之影像進行增益控制、白平衡、去扭曲、拼接、壓縮中的至少一種處理。
本發明之又一方面提供了一種可安裝透鏡配置,係安裝於個人
電子裝置上,此可安裝透鏡配置係包含:附接設備,具有兩個透鏡配置,進而於將兩個透鏡裝置可拆卸地安裝於這些光線輸入區域,藉以將光照引導至各光學配置之感測器,其中各透鏡裝置還包含至少一個首透鏡。
本發明之又一方面提供了一種用於捕獲影像之影像拼接裝置的光學系統,包括:兩個光學配置,即第一光學配置和第二光學配置,其中各光學配置包含複數個透鏡,這些透鏡包含:首透鏡及位於同一光軸上之影像感測器;其中第一光學配置和第二光學配置設置於彼此的旁邊,第一光學配置之影像感測器位於第二光學配置之首透鏡處,且第二光學配置之影像感測器位於第一光學配置之首透鏡處。
在這種光學系統中,第一光學配置之影像感測器位於第二光學配置之首透鏡的背面,第二光學配置之影像感測器位於第一光學配置之首透鏡的背面。
當在第一光學配置之光軸方向中觀察時,第一光學配置之首透鏡的背面區域與第二光學配置之首透鏡的背面區域重疊。
各光學配置之視場至少為180度。因此可同時捕獲之影像進行拼接,藉以形成球面影像。
在一實施例中,第一光學配置之光軸圍繞第一光學配置之光軸與第二光學配置之光軸共有的一虛擬軸轉動,進而第一光學配置與第二光學配置之間呈預定轉動角度。
在一實施例中,第一光學配置之光軸與第二光學配置之光軸平行且位於同一平面中。
本發明之又一方面提供了一種影像捕獲裝置,係包含前述之光學系統;控制器,用於控制光學系統,藉以透過兩個光學配置並行地捕捉影像;處理單元,係將分別透過兩個光學配置捕獲之影像合並為合併影像;以及介面,用於將合併後之影像傳送至另一裝置。
在一實施例中,處理單元還用於對透過兩個光學配置分別捕獲
之影像進行白平衡、增益控制、曝光控制與去扭曲處理中的至少一種處理。
在一實施例中,處理單元還用於對合併後之影像進行白平衡、增益控制、曝光控制與去扭曲處理中的至少一種處理。
在一實施例中,影像捕獲裝置還包含編碼單元,藉以壓縮併後之影像。
在一實施例中,其中控制器控制兩個光學配置以捕獲各影像序列,其中控制透過兩個光學配置進行的第N個影像之捕獲與第N-m個影像之合併和/或處理並行執行,其中N為一整數,其中m為大於或等於1之一整數。
在一實施例中,影像捕獲裝置為可連接於個人電子裝置,即手機、輸入板、膝上型電腦或智能手錶;影像捕獲裝置還包含輸出單元,輸出單元用於使用介面將合併後之影像傳送至人電子裝置。
在一實施例中,介面為無線介面、電纜或連接器中的一種,其中影像之捕獲與影像之傳送並行進行。
影像捕獲裝置為個人電子裝置,個人電子裝置包含:手機、輸入板、膝上型電腦或智能手錶。
在一實施例中,個人電子裝置具有配設顯示裝置之正面與背面;光學系統集成於個人電子裝置中,其中第一光學配置之首透鏡安裝於正面,第二光學配置安裝於背面。
本發明之其它益處及優點可明顯從本說明書及圖式中得出。其中,可透過說明書及圖式中之變化實施例與特點中獨立地獲得這些益處及優點,同時為了獲得這種益處和/或優點,本發明實施例與特點不必全部進行描述。
1、2‧‧‧感測器
10‧‧‧影像捕獲裝置
20、30‧‧‧光學配置
50‧‧‧透鏡
60‧‧‧感測器
70‧‧‧控制單元
80‧‧‧合併單元
90‧‧‧輸出單元
100‧‧‧個人電子設備
110‧‧‧前置照相機
120‧‧‧顯示部分
130‧‧‧主體
140‧‧‧用戶介面
150‧‧‧輸入/輸出部分
200‧‧‧個人電子裝置
210‧‧‧圖像捕獲設備
220‧‧‧顯示器
211、212‧‧‧魚眼透鏡
250‧‧‧轉接器
251‧‧‧第一插頭
253‧‧‧電纜
255‧‧‧第二插頭
350‧‧‧轉接器
360‧‧‧無線連接
400‧‧‧輸出介面
501、502‧‧‧部分
511、512‧‧‧透鏡
513、514‧‧‧透鏡配置
516、517‧‧‧安裝位置
601‧‧‧光照
610‧‧‧光學配置
620‧‧‧控制單元
630‧‧‧合併單元
650‧‧‧輸出單元
700‧‧‧光學系統
701、704‧‧‧首透鏡
702、705‧‧‧透鏡集合
703、706‧‧‧影像感測器
710‧‧‧第一光學配置
720‧‧‧第二光學配置
730、740‧‧‧光軸
730'、740'‧‧‧光軸
750、751‧‧‧背面
760‧‧‧虛擬軸
800‧‧‧光學結構
820‧‧‧棱鏡
810a、810b‧‧‧光軸
910‧‧‧影像合併單元
920‧‧‧影像管道處理單元
930‧‧‧去扭曲與拼接單元
940‧‧‧編碼單元
1010‧‧‧影像管線單元
1020‧‧‧影像合併單元
1030‧‧‧去扭曲與拼接單元
1040‧‧‧壓縮單元
1110‧‧‧影像管道處理單元
1120‧‧‧去扭曲單元
1130‧‧‧影像合併單元
1140‧‧‧編碼單元
1200‧‧‧個人電子裝置
1200a‧‧‧部分
1201‧‧‧顯示器
1202‧‧‧用戶介面
1204‧‧‧連接裝置
1205‧‧‧外殼
1208‧‧‧輸入單元
1210‧‧‧光學配置
1220‧‧‧光學配置
1230‧‧‧處理單元
1232‧‧‧影像處理單元
1233‧‧‧壓縮單元
1240‧‧‧合併單元
1250‧‧‧去扭曲單元
1270‧‧‧存儲器
1280‧‧‧通訊單元
1300‧‧‧個人電子裝置
1305‧‧‧箭頭
1310‧‧‧前置照相機
1311‧‧‧後置照相機
1320‧‧‧夾子
1321‧‧‧打開狀態
1322‧‧‧夾緊狀態
1325‧‧‧臂
1326‧‧‧臂
1328‧‧‧透鏡
1329‧‧‧透鏡
1330‧‧‧透鏡
1315‧‧‧匹配螺紋
1335‧‧‧安裝環
1340‧‧‧透鏡
1351‧‧‧頂部
1352‧‧‧底部
1760‧‧‧陀螺儀
A‧‧‧物體
B‧‧‧圖像
a、d‧‧‧距離
α‧‧‧非零角度
Proc 1‧‧‧處理階段
Proc 2‧‧‧處理階段
Proc 3‧‧‧處理階段
Proc 4‧‧‧處理階段
Proc 5‧‧‧處理階段
Proc 6‧‧‧處理階段
Proc 7‧‧‧處理階段
圖1a係為帶有照相機之智能電話的示意圖。
圖1b係為影像捕獲設備的框圖。
圖2係為透過包含電纜之轉接器連接智能電話與外部球面捕獲裝置的示意圖。
圖3a係為透過未包含電纜之轉接器連接智能電話與外部球面捕獲裝置的示意圖。
圖3b係為透過無線連接使智能電話與外部球面捕獲裝置連接的示意圖。
圖4係為智能電話連接雲端與外部球面捕獲裝置的示意圖。
圖5a係為具有內置之兩個半球面透鏡之個人電子裝置的示意圖。
圖5b係為具有兩個可安裝半球面透鏡之個人電子裝置的示意圖。
圖6係為影像捕獲設備之功能結構之框圖。
圖7a係為兩個光學配置與通過光學配置之光路徑之示意圖。
圖7b係為光學配置間相互位置之兩種變化之示意圖。
圖8a係為單一軸上光學配置之示意圖。
圖8b係為兩條光軸上光學配置之示意圖。
圖9係為本發明之捕獲影像之實例之示意圖。
圖10係為本發明之捕獲影像之實例之示意圖。
圖11係為本發明之捕獲影像之實例之示意圖。
圖12係為具有集成照相機之個人電子設備的功能結構之示意圖。
圖13A至圖13D係為可安裝透鏡配置之示意圖。
圖14係為不同處理階段之時序之示意圖。
本發明係關於基本上具有球面視場並且可以連接或與個人電子裝置相連之影像捕獲設備。同時,本發明還關於可使用並從這種影像捕獲設備獲益的光學系統。
圖1b所示的這種影像捕獲設備10可以包括分別具有不同視場的至少兩個光學配置20、30,其中每個光學配置可覆蓋球面的一部分,並且每
個光學配置包含:透鏡50;以及用於捕獲通過透鏡之光照的感測器60。同時,上述至少兩個光學配置基本上覆蓋了球面視場。此處,應當注意,頭部透鏡也可以由透明保護蓋覆蓋。
考慮到透鏡或類似元件未對準會在球面視場內產生一小部份盲點,所以本文會用到術語「基本上」。此外,例如,所捕獲的場景之多個部分還可以包含影像捕獲設備的支架,而非場景。
影像捕獲設備還可以包括處理單元,此處理單元可包含控制單元70,用於透過控制至少兩個光學配置20、30並行地分別捕獲至少兩個影像序列;拼接單元80,用於在分別捕獲至少兩個影像序列過程中拼接這至少兩個影像序列,藉以形成球面影像之單一視頻序列;以及輸出單元90,用於向個人電子裝置輸出所捕獲的影像。
其中,拼接單元80可透過將所捕獲的影像轉化為可以使這些影像發生混合的期望投影來拼接這些所捕獲影像,藉以使這些影像形成場景的連續影像。特別地,所捕獲影像之魚眼投影可以被轉換成平面投影,藉以拼接其邊界與另一個半球的邊界。為了達成拼接之目的,也可以應用混合(blending),其中以預定比例(例如,兩個圖像等比例)混合兩個拼接圖像的邊界畫素(以及可能接近邊界之其它畫素)。
特別地,兩個光學配置20、30之控制過程可包含:控制分別從兩個感測器60的讀出過程。例如,控制單元70讀出感測器之步驟的時序,進而將所讀出的視頻影像提供至混合單元,藉以進行進一步處理。其中,提供時序的過程可透過本領域技術人員已知的時脈訊號而實現。在一較佳實施例中,控制單元70可同步地讀取兩個感測器,進而兩個感測器可被同時讀取。然而,由於可能存在一些錯位的狀況,所以可在影像捕獲設備中配設緩衝器,藉以對讀出影像進行緩衝。依據這種方法,可在對控制單元70之時序進行控制時,提供兩個所捕獲之視頻影像,進而對這些視頻影像一併進行下一個處理步驟。
但是,還可以透過其它方法實現定時(透過兩個感測器所捕獲
之影像的同步化)。例如,不需要同時執行從多個感測器的讀出,並可透過控制單元70分別對這些讀出方式進行計時。此處,本發明不受任何特定感測器讀出同步計時的限制。
換言之,影像捕獲設備10能夠並行(特別是同時)通過各個不同的光學配置20、30捕獲影像,並且基於由控制單元70所提供之計時將它們輸出到下一個處理級。
具體而言,為了進行實時作業,此處理單元還可拼接至少兩個影像視頻序列,藉以在比捕獲兩個圖像之間的時間段(或此時間的數倍)更短的時間內形成單獨的球面影像之序列。而為了實現這一點,可使捕獲影像的圖框速率低於拼接圖像的圖框速率。然而,這種方法僅僅對於預覽或而後使用剩餘影像改進離線拼接的應用是有效的。
當具有預定的拼接處理以及預定的輸出圖框速率(拼接視頻之圖框速率)時,還可透過減少從感測器讀出的畫素數量來執行實時作業。而這種減少需要控制器和相應感測器可以有選擇性地僅僅讀取所感興趣之期望區域內的畫素。
作為另一種選擇或額外的選擇,還可透過減少來自感測器的將要進行拼接處理之畫素數量來實現實時作業。換言之,所拼接之影像比所捕獲之影像具有更小的解析度。
此處,值得注意的是,下一個處理階段可以是拼接,並且可以在如上所述的影像捕獲設備處執行。然而,本發明不限於此,處理單元可以僅對捕獲後之影像進行合併,並將合併後之影像輸出至個人電子裝置(PED)藉以進行拼接。此時,若透過平板外部設備執行實時拼接,則必須在小於合併影像的圖框速率的時間段內執行合併。
而後,個人電子裝置可實時地,即在小於拼接影像的圖框速率的倒數的時間段內進行拼接。捕獲圖框與於影像捕獲設備或個人電子裝置進行實際的拼接之間可能存在延遲。如上所述,為了能以給定的圖框速率和拼接算
法實現實時作業,可對從讀出影像讀出或用到的畫素數量進行調節。具體而言,為了能夠使性能適應不同的個人電子裝置,影像捕獲設備可使用戶能夠配置所要輸出的空間解析度和時間解析度(圖框速率)。
其中可減少畫素數量,例如,可透過省略列和/或畫素行減少畫素數量。
或者,影像處理裝置可以執行平行化並且在多個處理階段中將視頻序列的影像拼接成球面影像,其中每個處理階段少於或等於捕獲視頻的兩個連續影像間之時間,其中這些連續影像可在多個階段中進行並行處理。此處,術語「並行」可表示同時。然而,由於時序未對準和可能不同的任務週期,術語「並行」還可能意味著兩個或更多個階段中的不同影像的處理週期發生重疊。
需要注意的是,其中多個階段的並行處理可以是額外的處理任務或是在不同任務之間完成。例如,可對多個處理過程並行化處理,進而為不同影像並行地執行例如合併、去扭曲、白平衡或壓縮等多個不同任務中之一個或多個處理階段。
本發明的任何實施例中的光學配置的視場可以是重疊的。
將獨立(外部)影像捕獲設備連接到個人電子裝置。
相對於個人電子裝置而言,這樣的影像捕獲設備10可以設置於外部。注意,此處個人電子裝置可以是移動電話、智能電話、平板電腦、膝上型電腦或電腦或任何其他類型的電子裝置。
依據本發明實施例,影像捕獲設備可具有兩個光學配置,這兩個光學配置在兩個相反的方向中分別對應至少一個半球面視場,其中各光學配置具有視場至少為180度的一透鏡,這種透鏡也被稱為魚眼透鏡。這種裝置可為外部影像捕獲設備(獨立於個人電子裝置的裝置,其可以作為用於個人電子裝置或諸如智能手機,智能手錶,平板電腦等的多個個人電子裝置的附件)提供緊湊的設計。
為了連接到個人電子裝置,影像捕獲設備還可以包括連接裝置。
圖2示出了示例性的外部影像捕獲設備,即獨立於個人電子裝置但是可與個人電子裝置連接或連接其它部件的捕獲設備。
外部的影像捕獲設備210經由轉接器250被連接到個人電子裝置200,在本實施例提供了一種具有顯示器220的智能手機。其中,影像捕獲設備210包括兩個魚眼透鏡211和212,其中每個魚眼透鏡捕獲至少180度的影像,最好是至少整個半球的影像,這意味著,其中一個透鏡可在水平方向上捕獲360度的影像並在垂直方向上捕獲180度的影像。進而,可用兩個透鏡可使影像捕獲設備210能夠捕獲球面影像。影像捕獲設備210經由其連接裝置與轉接器250連接。其中,此連接裝置可以是用於接合轉接器250的一個末端上的第一插頭251的插座,其中另一末端的第二插頭255與個人電子裝置200之插座相匹配。
在圖2中,轉接器250具有帶有第一插頭251和第二插頭255的電纜253,其中一個插頭用於影像捕獲設備,而另一個插頭用於個人電子裝置。根據將要連接之特定個人電子裝置,第一插頭251和第二插頭255可以彼此相同或彼此不同。因為影像捕獲設備可使用適當轉接器(具有匹配特定個人電子裝置的插頭)與任何其它個人電子裝置連接,所以使用外部(可插入)轉接器增加了影像捕獲設備與各種設備的互通性。影像捕獲設備和/或個人電子裝置處的連接器可以是諸如通用總線匯流排(USB),蘋果手機(iPhone)/蘋果平板電腦(iPad)連接器等的標準化連接器。然而,影像捕獲設備210還可以具有不同的用於相應插頭之專屬插座。
然而,請注意,圖2僅為一個實例。連接裝置也可以由電纜形成,此電纜的一端固定於影像捕獲設備設備210處,並且連接器在其用於個人電子裝置之另一端具有第二插頭255。同時,轉接器或使用電纜之連接可定位與個人電子裝置的位置無關的影像捕獲設備。
圖3a與圖3b示出了影像捕獲設備210和個人電子裝置200之間的另一示例性連接,即通過轉接器350的第二實施例進行連接。本實施例中,轉接器350是不使用電纜253的連接器。這種連接器有利於影像捕獲設備之免持
(hand-free)操作。進而,這種設計不僅能夠形成影像捕獲設備210與個人電子裝置200間之互連,而且能夠將影像捕獲設備固定在個人電子裝置上。因此,具有以這種方式連接的圖像拍攝裝置的個人電子裝置可以容易地作為單獨的照相機進行操作。
根據另一實施例,由於個人電子裝置200可以支持一種或多種類型的無線連接360,所以可透過這種連接與影像捕獲設備210連接。在這種情況下,額外地或作為一種變形,影像捕獲設備210可包括作為連接裝置的無線網絡接口(圖中未示出)。無線網絡接口可以是例如藍牙(BlueTooth),無線上網(WiFi)或具有足夠傳輸捕獲圖像/視頻能力之其它任何無線標準。在這種情況下,人們可能仍然想使用連接元件將影像捕獲設備附接或連接至個人電子裝置。換言之,諸如用於設置在個人電子裝置上的插座的插頭之連接元件可以用於將影像捕獲設備添附至個人電子裝置,而可以並不提供透過這種元件交換資料的可能性。此處,連接元件可以具有兩個插頭,其中一個插頭用於個人電子裝置,而一個插頭用於影像捕獲設備。在此插頭更好的連接形式中,連接元件是剛性的並且較為穩定地附接到個人電子裝置。本發明實施例之優點在於,僅以機械方式連接到個人電子裝置的影像捕獲設備可以作為個人電子裝置的一部分來操作。
而本說明書還可以支持影像捕獲設備和個人電子裝置之間的全部或其中一些連接形式。例如,影像捕獲設備可以具有一連接裝置,此連接裝置包括用於轉接器(具有或不具有電纜)之插頭、連接元件,和/或此影像捕獲設備可經由無線介面額外地支撐連接。換言之,上述多個實施例是可以組合的。
影像捕獲設備210的輸出單元90用於透過連接裝置250將影像輸出到個人電子裝置。
經由如圖2和圖3所示之連接裝置250、350或360,影像捕獲設備210可以傳送資料,或僅向個人電子裝置200發送資料,或者向個人電子裝置發送資料並從個人電子裝置發送接收資料。但是影像捕獲裝置設備也可以接
收從個人電子裝置之電源,進而經由影像捕獲設備中之可充電電池或是直接向影像捕獲設備210供電。
需要注意的是,影像捕獲設備還可以連接到或可連接到不同於個人電子裝置的任何電源。例如,上述電纜或適配器還可以連接到蓄電池、與供電網絡連接的轉接器或用以提供電力輸出的任意一種裝置。
此外,上述實施例並不對本發明構成限制。這些連接裝置還可以採用其它方式實現。例如,連接可以是一種用於供電和/或充電並用於交換資料之電感連接。在這種情況下,個人電子裝置或另一設備可以提供或作為用於影像捕獲設備的無線充電器。如上所述,個人電子裝置和影像捕獲設備之間的資料交換也可以經由無線連接來實現。
需要注意的是,由於在影像捕獲設備210內不需要用於無線通信或電源之多餘的體積,所以有線連接也可能是有益的。影像捕獲設備可採用更為緊致的設計。然後,影像捕獲設備210可以使用個人電子裝置200將資料發送到另外的設備,例如,將資料傳送到網際網路或云端存儲。
圖4示出了如圖2所示的影像捕獲設備210經由適配器250連接到個人電子裝置200的實例。與前文已經描述之狀況類似,影像捕獲設備210可透過連接接收供電和/或進行放電。而透過相同的連接,影像捕獲設備將所捕獲之圖像發送到個人電子裝置。特別地,此影像捕獲設備210可以使用其輸出單元90將捕獲的圖像發送到個人電子裝置200。較為有利的是,可拼接捕獲後之圖像。或者,可以僅僅將這些影像合併,即在它們被捕獲時並列地排佈這些影像。然後,可在個人電子裝置200中存儲和/或處理圖像並且/或者使用個人電子裝置200的輸出介面400將圖像發送到外部存儲器。個人電子裝置200可以包括到外部存儲器的一個或多個輸出介面400。此介面400可以是任何無線介面或有線接介面。其中,採用無線之輸出介面400可以是例如無線上網(即,支持IEEE 802.11標準族之一)、藍牙、全球微波互聯接入(WiMAX)、長期演化(LTE)等。這種介面可以是與外部存儲器相連之網絡所連接的任何介面,包括與局域
網、本地存取網路(local access network)、網際網路及類似網路相連之任何一種有線連接。
在圖4中,所示實例於個人電子裝置200與外部存儲之間採用了無線連接,在實例採用了基於雲端的存儲。因此,可透過諸如YouTube,臉書等的各種應用程式從雲端存取所儲存之被捕獲的影像,或由使用者直接瀏覽的所捕獲之影像。可以用特殊眼鏡/頭戴式耳機,如圖中示意性地示出的虛擬現實眼鏡,來觀看球面影像,或透過經由觀看者所使用之應用程式/軟體於電子裝置(個人電腦、智能電話、平板電腦、膝上型電腦、投影機等裝置)的顯示器上觀看球面影像。
換言之,本發明的實施例提供了一種系統,包括:如上所述的影像捕獲設備、個人電子裝置和外部存儲器。其中,個人電子裝置可以連接到外部存儲器並存儲所捕獲之影像,但也可以或者可替換地在外部存儲器本地,即在其內置存儲器中)存儲所捕獲之圖像(視頻)。特別是在捕獲高分辨率球面視頻之狀況下,由於內置存儲器容量會受到限制,所以對於較小的個人電子裝置而言最好使用外部存儲器。並且,對於智能電話,智能手錶或平板電腦的個人電子裝置而言,這種狀況尤為明顯的。因此,若個人電子裝置是膝上型計算機或通常具有足夠存儲的電腦,也可以在本地存儲所捕獲的視頻。
需要注意的是,儘管圖4示出了連接個人電子裝置與圖2所示的影像捕獲設備之無線連接,但是諸如圖3a和3b所示的任何其它連接方式也是為本發明所支持的。
除了連接於個人電子裝置之外,根據本發明實施例之變體實施例,照相機還可以實現將資料,如所捕獲之影像,直接傳送到外部存儲器之介面。其中,外部存儲目的地(地址)可以透過使用個人電子裝置進行配置。例如,個人電子裝置可以配備有用於配置影像捕獲設備之軟體(例如,應用程式)。這些配置可以包括:諸將被捕獲圖像序列的空間和時間分辨率之各種參數;一些元資料(例如捕獲序列之用戶描述)之輸入;壓縮水平(即捕獲圖像的品質);
壓縮類型(諸如將要用於壓縮圖像的編解碼器,例如H.264/AVC等);編解碼器的進一步設置;用於音頻記錄和壓縮的設置(若音頻亦被捕獲);用於存儲所捕獲之視頻和/或音頻、全球定位系統(GPS)資料或陀螺儀資料的存儲地址或類似資料。
換言之,此影像捕獲設備還可以包括一輸入單元,此輸入單元用於從個人電子裝置接收資料,這些資料諸如與將要捕獲之圖像的特徵相關的配置資料和/或與所捕獲圖像之存儲或傳送相關之設定。
圖2至圖4所示的影像捕獲設備具有球面並包含由於透鏡之開口的外殼。因此,這種形狀的殼體特別緊湊並為透鏡之比180度更為寬廣的視場留出了空間。然而,這種殼體形狀並不對本發明構成限制。因此,這種殼體還可以具有不限制影像捕獲設備透鏡的視場的任何其它形狀。例如,殼體可以具有橢圓形而不是圓形切口,或者可以具有諸如於其平坦側面上放置照相機之圓柱體、立方體或其它形狀之完全不同的形狀。
上述實例示出了可與個人電子裝置連接之外部影像捕獲設備。這種影像捕獲設備的優點是:可以與任何個人電子裝置配合,而不會牽涉到個人電子裝置的設計,並且仍能透過使用個人電子裝置之顯示器和/或其他用戶介面部件和/或處理部件提供球面影像捕獲之可能性,同時也使得影像捕獲設備的結構緊湊。個人電子裝置還可以針對所捕獲的圖像執行一些處理步驟。下文將更詳細地討論共享個人電子裝置功能(除了顯示和通信介面之外)的可能性。
集成在個人電子裝置中之影像捕獲設備
然而,本發明的影像捕獲設備不限於是外部設備。通常,影像捕獲設備還可以部分地或完全地集成在個人電子裝置內。另一方面,此方法提供了使用個人電子裝置的內置光學配置以及個人電子裝置之處理能力的較大部分的可能性。這種方式對於如個人電腦或筆記本電腦之更強大的個人電子裝置尤為有效,但這種方式也可用於平板電腦和智能電話。
特別地,「集成」係指影像捕獲設備的至少一部分與諸如處理
器和通訊裝置的其它個人電子裝置部件一起包括在個人電子裝置外殼內。
圖5a示意性地示出了個人電子裝置(例如智能電話或平板電腦)的一部分501,此部分501上配設有相應兩個光學配置的兩個透鏡511和512,每個光學配置提供了至少180度的視場。個人電子裝置集成了圖1b所示之影像捕獲設備10。特別地,影像捕獲設備之透鏡50分別對應於圖5a中所示的透鏡511和512。進而,此透鏡向感測器60提供光照,其中此感測器60進一步連接到集成於個人電子裝置內之控制單元70、合併單元80及輸出單元90。此處,這些單元可以由運行相應軟體之個人電子裝置的一個或多個處理器來實現。
換言之,本發明實施例之個人電子裝置包括:顯示裝置200;兩個光學配置20、30,分別具有相反方向的相應的至少半球視場,其中每個光學配置20、30具有透鏡50(例如圖5a中的透鏡511、透鏡512),這種透鏡具有至少180度之視場,因此這種透鏡也被稱為魚眼透鏡。並且,這種個人電子裝置還包含:感測器60,用於捕獲通過透鏡50的光;控制單元70,用於控制所述至少兩個光學配置20、30藉以並行地分別捕獲至少兩個影像序列;以及合併單元80,用於在分別捕獲至少兩個影像序列之期間內合併或拼接至少兩個圖像序列,藉以形成單個球面影像序列。其中,還可配設輸出單元90以輸出合併後的影像,藉以進行如拼接之進一步處理,或是藉以對拼接後之影像進行存儲、傳送或使之顯示於顯示器200上。
其中,個人電子裝置還可以包含通訊單元,此通訊單元用於向網路傳送資料和/或從網路接收資料,此網路可為諸如:局域網路,廣域網絡,蜂窩網絡,網際網路或類似之網路。進而,此通訊單元可經由網路將所捕獲之影像與合併後之影像傳送至預定的目的地。其中,此目的地可由使用者輸入或預先配置。
外部魚眼鏡頭
圖5b示出了集成於個人電子裝置內的影像捕獲設備之第二實施例。在此實施例中,具有較窄視場(換言之,小於180度視場,即小於半個球
體)的前置照相機與後置照相機之個人電子裝置變成了透過安裝有前置照相機與後置照相機分別至少為180度視場之透鏡配置513、514而能進行球體成像之個人電子裝置。
因此,在本發明第二實施例中僅集成了圖1b所示出的影像捕獲設備10的一部分。換言之,影像捕獲設備10被集成到個人電子裝置中,而沒有配設具有半球面視角的透鏡50。因此,第二實施例中的光學配置20、30可包含感測器60,並且還可以包含位於通向感測器之各條光路徑上之各種透鏡。然而,沒有透鏡配置513、514,這些光學配置20、30便無法提供半球面視圖。其中,透鏡配置513、514中的每一個包含有首透鏡,還可能有其它透鏡。
魚眼透鏡裝置513和514可以安裝在個人電子裝置之一部分502上。同時,圖中於個人電子裝置之一部分502的每一側面標出了安裝位置516、517。其中,安裝位置516、517為個人電子裝置中內置的兩個照相機(具有小於半球的視場的影像捕獲設備),即前置照相機與後置照相機之位置。
本發明不限於任何特定的安裝方式。透鏡裝置513和514可以位於可以夾在個人電子裝置周圍的夾子上。此處,夾子的優點在於:無須在個人電子裝置上配設特殊之裝置。然而,也可以提供其他安裝裝置。
例如,魚眼透鏡可以嵌入一框架內,而此框架適於與圍繞光學配置20、30之內置部份位置的框架相結合。例如,這種結合可透過擰緊或推進圍繞安裝區域之框架上方或內部的彈性透鏡框架之至少一部份而實現。
配設外部透鏡可增加內置照相機之使用的靈活性。特別地,內置相機仍然可以如在習知應用程式用中使用,換言之,為捕獲影像或視頻而使用的後置照相機或前置照相機可具有窄視場。另一方面,可於向個人電子裝置提供兩個內置相機之同時使個人電子裝置具備捕獲靜止或視頻影像的能力。當安裝魚眼透鏡時,個人電子裝置處理裝置可以用於執行透過內置照相機所捕獲之各個影像的拼接,內置照相機用於接收穿過魚眼透鏡之光線。
總之,根據本發明第二實施例,各個光學配置的透鏡(透鏡組
中一些提供廣角視圖的透鏡)是可安裝拆卸的透鏡,藉以使這些透鏡被安裝於個人電子裝置中內置的各個光學配置部件之光線輸入區域的上方。
這些透鏡是可以獨立配設的,並且這些透鏡可獨立地或是一起被安裝於個人電子裝置前面(包含有顯示器之側面)的光線輸入區域上及個人電子裝置前面相對一側上的光線輸入區域上。但是,如上所述,這並不對本發明構成限制,並且可以在夾住個人電子裝置上之夾子的臂上配設這種可安裝拆卸的透鏡,藉以使夾子的臂分別位於前後兩面並使各透鏡覆蓋個人電子裝置之光學配置部分的光輸入區域。
圖13A至圖13D示出了安裝於(如上所述之)個人電子裝置上的可安裝透鏡裝置的示例性實施例,這種可安裝透鏡裝置包含:具有兩個透鏡配置的附接設備,用於將兩個透鏡裝置可拆卸地安裝於光線輸入區域,藉以將光照引導至各光學配置之感測器,其中各個透鏡裝置還包含至少一個首透鏡。
特別地,圖13A示出了具有內置的前置照相機1310的個人電子裝置1300。個人電子裝置在另一側具有相應的內置的後置照相機。圖13中的個人電子裝置1300在側視圖中為後置照相機1311。圖13B進一步示出了可安裝透鏡裝置可以是夾子1320,在圖式中示出了處於打開狀態1321和夾緊狀態1322之夾子。其中,夾子具有兩個臂1325和1326,這兩個臂1325和1326嵌入了待夾在相應的前置照相機1310和後置照相機1311上方的透鏡1328和1329。其中,這種夾子可包含環繞透鏡之軟材料,例如,這種軟材料可以由橡膠、紡織原料或矽樹脂製成,藉以保護個人電子裝置之殼體。此外,這種夾子還可以包括彈簧或將夾子保持在夾緊狀態1322之其它結構。
圖13C示出了可安裝透鏡配置的示例性實施例,這種可安裝透鏡裝置包含嵌入安裝環1335之一對透鏡1330,這些透鏡1330在其內側具有用於安裝在個人電子裝置上的匹配螺紋1315上的螺紋。同時,這對透鏡1330的安裝環1335可以與如由諸如紡織原料、橡膠或矽樹脂的柔性材料製成的弓型體之平坦部分形成內部互連,以保持此安裝環是成對且不會丟失。進而,可於安裝
環旋轉(擰緊安裝環)時,藉由不使弓型體發生轉動的方式將此弓型體附接至安裝環。
圖13D提供了可安裝透鏡裝置的另一示例,可安裝透鏡裝置是一種個人電子裝置外罩(如智能電話蓋),這種個人電子裝置外罩可將透鏡1340嵌入到一個內置照相機1310之光輸入口相對應的位置上。如圖13D所示,這種外罩是可滑動的。同時,透鏡被排佈於外罩正面上與前置照相機相對應的位置以及外罩背面上與後置照相機相對應的位置。在圖13D中,外罩具有兩個部分:頂部1351和底部1352,當外罩依箭頭1305所指示最終位置而蓋上個人電子裝置時,最好使上述兩部分彼此接合或附接(未示出)。因此,頂部1351和底部1352可滑動至個人電子裝置上。進而,這種位於個人電子裝置的可滑動定位提供了穩定性並且確保鏡頭正確地定位在內置照相機上。
然而,應當注意:這種個人電子裝置外罩也可由柔性材料製成,這種柔性材料可不按滑動之方式套在個人電子裝置上。
為了便於執行上述方案,這種個人電子裝置可包括控制器,這種控制器用於控制不同光學配置(至少部分地由諸如感測器、位於光路徑中指向各感測器之透鏡與類似元件之內置照相機部件形成)。這種控制器可透過在個人電子裝置之處理器上運行的軟體實現。具體而言,為了執行球面影像之捕獲,可控制光學配置上之各感測器,藉以並行地捕獲影像。但是,這種控制器還可控制個人電子裝置,進而僅使用多個光學配置中一個光學配置拍攝靜態影像或視頻序列。而前置光學配置或後置光學配置係可透過使用者進行選擇。換言之,控制器可以被配置為接收經由個人電子裝置之使用者界面之使用者輸入並選擇光學配置中的一個或兩者,藉以捕獲靜止圖像或視頻;此控制器還可依據使用者輸入來判斷執行或是不執行對兩個照相機所捕獲之影像進行拼接。又換言之,個人電子裝置之處理器上所執行的照相機控制應用程式可令使用者選擇一個或多個照相機。而作為另一種選擇或者其它方式,可用獨立的應用程式使兩個照相機捕獲影像或視頻和/或拼接著這種影像或視頻。
所捕獲的影像之處理
圖6示出了影像捕獲設備的示意性結構和功能結構。
特別地,圖6示出了所述影像捕獲設備的部件601-650,其中影像捕獲設備可以是個人電子裝置之外部照相機(如圖6所示)或是個人電子裝置之一部份,即集成於此個人電子裝置中。這種影像捕獲設備透過第一光學配置和第二光學配置(光學配置610)捕獲的光照601,其中第一光學配置和第二光學配置各自包含至少一個具有180度或更大視場之廣角透鏡;以及用於捕獲通過透鏡之光照的感測器。其中第一光學配置和第二光學配置最好觀測相反之方向,藉以使影像捕獲設備基本上能夠捕獲整個球面影像。例如,光學配置採用之感測器可以是半導體電荷耦合器件(CCD)或互補金屬氧化物半導體(CMOS)感測器。
影像捕獲設備還包括控制單元620,此控制單元620由於透過光學配置控制影像或視頻序列之捕獲。具體而言,此控制單元620可以控制捕獲的時序並控制其它設置。此控制單元可被實現為處理器、特定之硬體或作為影像捕獲設備一部份的可程式硬體電路。進而,來自第一光學配置和第二光學配置之所捕獲的影像或影像序列可被存儲或緩沖在影像捕獲設備之記憶體中。在更好的狀況中,可於外部影像捕獲設備內實現此控制單元。若影像捕獲設備是個人電子裝置的一部分,則控制單元之功能可透過個人電子裝置之處理器執行,其中此處理器還可以執行與影像捕獲設備和/或個人電子裝置相關的其它任務。
合併單元630用於(直接從光學配置、或從緩衝器、或從存儲器)接收由第一光學配置捕獲之影像和由第二光學配置捕獲之影像,並用於將這些影像拼接為可覆蓋由光學配置所覆蓋之組合視場的一整幅影像。其中,此合併單元之作業也可透過控制單元620控制時序。
外部影像捕獲設備中之合併單元所執行之拼接包含對所捕獲影像進行去扭曲(dewarping)處理,即將所捕獲之魚眼投影轉換為另一種投影進
而對轉換後之影像進行合併或混合。基於這些光學配置之位置,這種轉換係在產生過程中之最終校正時確定。例如,上述過程係透過捕獲預先定義之模板影像並基於所捕獲之影像(被透鏡感測器投影所扭曲並透過計算逆轉換而對投影進行補償)執行。其中,將要獲得之目標投影為平面投影。而這種在外部捕獲裝置中進行拼接之結構的優點在於:可使(例如智能手機或手錶)之類的個人電子裝置(之處理器)用更低的能耗對影像或視頻進行拼接,並因而可以執行其它功能。在更好的狀況中,可為處理器配設相應的軟體(或專用/可程式化硬體),藉以執行拼接,即使合併單元發揮作用。另一方面,如個人電子裝置之處理能力足以對透過兩個光學配置所捕獲之影像進行拼接,則外部影像捕獲設備中的合併單元可以僅僅執行合併(即,僅將兩個影像合併成一個影像,而不執行投影轉換或邊界匹配)而不去執行拼接。
這種拼接步驟可透過個人電子裝置內之如通用處理器的處理單元執行,而此通用處理器還可以執行諸如個人電子裝置任務之一些其它任務。按照這種方式,可使影像捕獲設備更為緊湊。在這種狀況中,所捕獲的影像被提供給影像捕獲設備的輸出端並且經由介面被傳送至個人電子裝置,而在此個人電子裝置中,可對影像進行拼接,將拼接後之影像存儲於本地、顯示或(例如,透過網路)將其提供到外部記憶體。與之相似地,若影像捕獲設備如圖5中的示例中的實現於個人電子裝置內,則也可以在個人電子裝置的一個或多個處理器或者處理電路上實現此合併單元。
而後,經合併(拼接)之影像被提供至輸出單元650,進而輸出單元650可透過介面將這些影像提供至個人電子裝置。如上所述,可透過使用任意一種可用協議之無線形式實現此介面。此輸出單元可用以採用將傳輸的資料之介面所支持的協議封裝攜帶封裝影像之資料,進而透過此介面傳送資料。
如上所述,根據本發明,可以實現若干不同的任務共享方法以共享影像捕獲設備和個人電子裝置之間的任務。在下面,我們將詳細描述這些共享方法。
圖9示出了根據本發明的實施例的示意圖。所示的流程包括由根據本發明的光學佈置的兩個感測器捕獲圖像,這兩個感測器表示為感測器1和感測器2,進而可合併兩個圖像,並且還依據變體實施例執行影像管道處理、去扭曲、拼接及解碼。其中,影像管道處理可包含如白平衡、增益控制等多種作業。
本文中,增益係指視頻訊號之電子放大倍數。因此,透過增益控制,可在電子方面提升影像訊號,將更大電壓施加至從影像感測器(耦合器或互補式金氧半導體)讀出之畫素,藉以放大訊號強度,進而增強影像之亮度。
進一步而言,色彩平衡係為多種顏色(通常是紅色,綠色和藍色這三原色)之強度的整體性調節。這種色彩平衡之目的在於:使指定顏色,特別是如白色的中性顏色以令人舒適的方式被感知到。因此,白平衡可用於影像中所有的色彩混合並用於在影像捕獲過程中對不同亮度條件進行校正。
本文中,術語「去扭曲」可理解為拼接步驟之一部份。如上所述,這意味著將來自透鏡投影由於之兩個所捕獲之影像轉換為一個不同的投影,進而對去扭曲後之影像進行混合或合併。特別是在視場大於180度狀況中,此去扭曲過程還可包含對一些修剪進行轉換。因此,這種去扭曲可以抑制或減少因透鏡而引起的扭曲效應。在有限距離處拍攝相同的圖像引入各種失真,例如使所捕獲的水平線和垂直線看起來彎曲的扭曲(也稱為「魚眼」效應)。這可以通過校準視差進行校正,以確定隨後應用以在製造期間補償如上所述的扭曲效應的映射。而在後續過程中也可執行重新校正步驟。
具體而言,圖9示出了其中相應的兩個光學配置之兩個感測器的輸出在影像合併單元910中被合併的實施例。在實施例中每個感測器按原始格式輸出影像,即按預定方式(例如按列掃描之方式)掃描二進制化畫素值之序列。其中,影像可包含與本領域內具有通常知識者所習知的感測器類型相對應的一個或多個彩色分量。在影像合併單元910中,分別來自兩個感測器(感測器1與感測器2)之兩個影像被合併在一起,藉以形成單個影像,此單個影像
可覆蓋有兩個感測器所捕獲之視場。在一較佳實施例中,可根據預定方案執行合併。具體而言,這種影像捕獲設備可存儲來自兩個感測器之影像與所得到的合併後之影像間的映射關係。其中,這種映射關係可以是預設的,例如可透過影像捕獲設備的初始校準獲得這種映射關係。然而,本發明並不受限於這種校準方式。作為替代方案或附加方案,這種映射關係可以是可配置的。例如,可透過諸如電腦之外部設備執行這種配置,而這種配置還可能是具有相應軟體之個人電子裝置。而應用預定方案來合併影像之優點在於:可執行內部合併而不用執行任何需要使用者去初始化之複雜的作業。但是,還可透過對透過影像處理裝置所所獲得之兩個影像的正確對準進行確認和/或檢查,如透過處理單元執行的邊界匹配,執行合併。
合併後之影像可由輸出單元輸出到個人電子裝置。圖9中影像合併單元910右邊的箭頭示出了此輸出步驟。在捕獲圖像序列(視頻)的情況下,可周而複始地執行透過兩個感測器進行的捕獲步驟與影像合併步驟。在較佳實施例中,兩個光學配置同時執行影像捕獲(即,從感測器讀出影像)。為了實現實時操作並避免於將影像捕獲設備中引入較大的緩衝器,影像合併單元910必須快速執行影像合併。特別地,若影像捕獲設備沒有擴展性緩衝器並且將捕獲和合併的圖像直接輸出到個人電子裝置用於實時顯示,則合併步驟不應比影像之捕獲步驟佔用更多的時間,進而可在透過各照相機捕獲到兩個新的影像的同時輸出合併後之影像。然而,由於透過電路執行的同步處理作業與感測器讀出作業可能存在一些誤差,所以上述操作可能是難以實現的。因此,影像捕獲設備優選地具有緩衝器,藉以存儲一個或多個捕獲的圖框。
通常,為了實現實時作業,在捕獲圖框影像之步驟與輸出拼接和處理後的圖框之步驟間仍然可能存在延遲。然而,拼接之步驟不應花費比兩個輸出拼接圖像之步驟間之時間更長的時間,或者拼接操作可以在多個處理階段中細分,其中每個處理階段皆少於或等於捕獲視頻序列中兩個連續圖像之間的時間。進而,可在多個階段並行地處理連續的影像。
否則,會使處理延遲增加,並且無法以期望的輸出圖框速率輸出處理後之影像。
如圖1b所述,拼接步驟(或特定拼接階段)可能花費比捕獲圖框速率的倒數更多的時間。在這種情況下,輸出圖框速率(拼接圖像之圖框速率)可以小於捕獲圖框速率。然而,如果所捕獲之影像丟失,則這種捕獲步驟是沒有效果的。在其它實施例中,可將所捕獲之影像存儲於影像捕獲設備中或者可在未被拼接時進行傳送並在離線狀態下進行拼接。而另一種更有效的解決方案是在處理捕獲的圖像之前減小所捕獲之圖像的空間解析度。具體而言,可以透過在兩個輸出的拼接圖框之間所期望時間內進行拼接對將要進行處理之畫素的數量進行選擇。其中,最好使期望的時間與兩個捕獲圖像之間的時間相同。
作為替代方案或附加方案,還可在捕獲兩個連續圖像間的兩個或更多個時間段中兩個或更多個階段中執行拼接。其中,這些階段可以是並行的,進而在不同階段中可同時對不同影像進行處理。
由於仍需要輸出連續的視頻流,所以影像捕獲與輸出處理(拼接)間之恒定潛時可使得實施作業保持連續。例如,可以在感測器1與感測器2對第(N+m)個合成圖像進行捕獲期間(並且可能在其他圖像的各種處理階段期間)至少部份地執行第N圖像的圖像合併和/或拼接和/或其他處理階段,其中m是等於到或大於1的整數。
其中,對於拼接步驟時序之考量和諸如白平衡壓縮、增益控制等步驟時序之考量是一樣的。例如,若執行白平衡,則需要在小於等於輸出框速率倒數的時間間隔內執行此白平衡或是在複數個階段中分解執行白平衡。但是,也可以在與執行縫合的時間段不同的時間段內執行。按這種方式,附加的處理步驟可以增加潛時,但是仍然可以實時地執行。
如上針對拼接所進行之描述,一些處理任務還可以佔用捕獲兩個連續圖像之間的時間段的倍數。圖12示意性地示出根據實施例的處理的一般時序。其中,可持續時間1/f的相應時間段內在連續地為所捕獲之影像執行處理
階段Proc 1至Proc 7,其中f是輸出經處理視頻之圖框速率(在較佳的情況下,可對應於圖像捕獲的圖框速率)。因此,七個處理階段可導致7倍於圖框週期1/f之潛時。根據本發明實例,處理階段Proc 1可以是捕獲兩個影像之階段,處理階段Proc 2可以是將兩個影像合併成一個圖像之階段,處理階段Proc 3和處理階段Proc 4可以是去扭曲任務之不同階段,處理階段Proc 5可以是拼接步驟(合併或僅僅對去扭曲進行混合),並且處理階段Proc 6和處理階段Proc 7可以是對拼接後圖像進行壓縮之兩個階段。然而,這僅僅是示例,並且通常可以具有任何數量的處理任務和對應的階段。因此,任務的持續時間也可以是不同的。
對於圖像處理設備(可以包括一個或多個處理器)中的不同影像,最好並行地執行這些任務。這意味著:同時執行圖框N的處理任務i與圖框N+1的處理任務i-1以及圖框N+2的處理任務i-2等多個處理任務。例如,在上述實例中,圖框N的圖像在處理階段Proc 6中被壓縮,而圖框N+1之圖像在處理階段Proc 5中被合併,並且圖框N+2的圖像在處理階段Proc 4中去扭曲。
依據本發明變型實施例,如圖9中的虛線所示,影像捕獲設備之處理單元可以對合併的圖像執行進一步的影像處理功能,並僅在此處理後將合併的影像輸出到個人電子裝置。例如,可以執行影像管道處理單元920,此影像管道處理包括增益控制、白平衡、任何種類的濾波等,藉以提高合併後影像之質量。
作為替代方案或附加方案,根據本發明實施例另一變型,處理單元可以執行組成合併圖像的兩個影像之去扭曲與拼接單元930,並相應地調整合併後之圖像。如果在影像捕獲設備處執行去扭曲與拼接單元930,則可將合併並且顯影的影像輸出到個人電子裝置。
在本文中,術語「拼接」是指將兩個或更多個影像合併在一起以形成一個可被適當的觀察者所觀看到的影像。通常,會按下列方式執行拼接,即使拼接邊界是不可見的,進而給觀看者經合併後之影像係直接捕獲所得而非
合併所得之印象。
根據本發明實施例之變型實施例,影像捕獲設備可以包括編碼單元940,用於壓縮與影像合併單元910相對應的資料;或者如果可應用的話,影像捕獲設備還可在影像管道處理單元920和/或去扭曲與拼接單元930進一步處理的壓縮後的資料。在此變型實施例中,影像捕獲設備將壓縮後的合併圖像輸出到個人電子裝置。
此壓縮過程可以是可變長度編碼過程,掃描編碼(run length coding)過程或根據任何標準化或專有算法的混合編碼過程。例如,可以應用國際電信聯合會H.264/AVC(MPEG-4)或國際電信聯合會H.265/HEVC或H.263或任何其它視頻編碼標準。
若捕獲靜止圖像,則可以應用任何靜止圖像標準。而在將合併圖像輸出到個人電子裝置之前執行壓縮可以實現減少傳送器所需之傳輸容量的優點。另一方面,諸如智能電話,平板電腦,個人電腦等之裝置還可包括用於執行壓縮之軟體,進而可於個人電子裝置處執行壓縮。在這種情況下,影像捕獲設備不需要提供用於執行壓縮的緩衝器,從而簡化了設備。
在影像捕獲設備和個人電子裝置之間共享計算能力的水平取決於個人電子裝置的可用功率。例如,對於具有較弱處理器的智能電話而言,執行影像捕獲設備中的單元(影像管道處理單元920、去扭曲與拼接單元930、編碼單元940)中的所有處理步驟可能是有利的。另一方面,若僅在影像捕獲設備處執行影像合併單元910之合併步驟並且透過個人電子裝置輸出及進一步處理合併後之影像,則緊湊且執行複雜度較低的影像捕獲設備較為有利。
如已經提及的,圖9中的影像管道處理單元920、去扭曲與拼接單元930、編碼單元940之步驟由虛線示出,這意味著依據影像捕獲設備的變型實施例,這些單元可能是或不是設備的一部分。例如,影像合併單元910中的合併可以在影像捕獲設備中執行,並且將合併後之圖像輸出到個人電子裝置。在這種情況下,進而個人電子裝置可實現隨後的步驟,例如,進一步執行處理
和壓縮。此外,也可以在影像捕獲設備和個人電子裝置外部執行處理和壓縮中的一個步驟或兩個步驟。
圖10示出由影像捕獲設備的處理單元執行的處理流程的另一實施例之示意圖。圖10的處理流程與圖9的處理流程的不同之處特別在於:在影像合併單元1020之前,分別即在各影像管線單元1010中對從感測器1和2讀出的兩個影像進行影像處理。其中,這種處理流程提供了並行執行影像管線處理1010之可能性。此外,透過不同光學配置捕獲影像,即不同的透鏡與影像感測器所捕獲之影像可能是在不同光學條件下被捕獲的,所以可能有必要進行獨立的調節。在本實例中,在於各影像管線單元1010內對兩個影像進行獨立的處理之後,可按圖9的實施例中那樣在影像合併單元1020中合併處理後之影像,並可將其輸出到個人電子裝置。然後,個人電子裝置可以執行去扭曲/拼接處理和/或進一步的圖像處理和/或壓縮處理。或者,在將處理後和/或壓縮後的合併圖像輸出到個人電子裝置之前,於影像捕獲設備中執行去扭曲與拼接單元1030和/或壓縮單元1040(應用於合併圖像)。在圖10中,去扭曲步驟可由去扭曲與拼接單元1030的一部分執行。這是因為,去扭曲步驟係用於所捕獲之影像,藉以補償因捕獲光學元件(魚眼透鏡)所引起的扭曲,以便透過簡單的合併進行拼接。因此,為了達成去扭曲之目的,可以整個地將合併後之影像轉化為拼接影像;或是在捕獲時將合併後之影像再次分成兩個影像,而在進行去扭曲步驟之後再進行合併,藉以合併影像並使拼接邊緣無法被看到。
圖11示出了可由影像捕獲設備執行的處理流程的另一實施例之示意圖。圖11的處理流程與圖10的處理流程的不同之處在於:去扭曲模組1120在圖像合併模組1130之前執行,其中最好對將要合併之兩個獨立圖像進行去扭曲處理,而且這種去扭曲處理可以是獨立的。其中對所捕獲之圖像而不是對合併後之圖像執行去扭曲處理的優點在於:可並行地對將要進行匹配的影像執行去扭曲處理。此外,扭曲效應係由各個光學佈置的廣角透鏡所引起之失真而造成。因此,用於校正圖像之去扭曲功能可獨立地適應於各個圖像。
其中,對應於拼接步驟,透過兩個感測器分別捕獲、透過獨立之影像管道處理單元1110處理並透過去扭曲單元1120分開之兩個圖像可於圖9和/或10的實施例所描述之影像合併單元1130內被合併,進而經拼接後之影像被輸出至個人電子裝置。而在另一實施例中,可在輸出拼接後的影像之前,於圖9和/或圖10的實施例所描述之編碼單元1140內對拼接後之影像進行壓縮,而後將其輸出至個人電子裝置。
關於時序之問題,透過影像管道處理單元1110、去扭曲單元1120及影像合併單元1130所執行之任務中的每一個應該耗費少於輸出兩個處理後之圖像之間的時間,並且最好耗費少於兩個影像捕獲過程間之時間。另外,如上所述,還可進一步將這些處理任務細分為多個階段,並於這些階段中並行地處理不同的影像。另一方面,請注意:若處理任務皆可於輸出速率的倒數期間內執行,則也可以在一個處理階段中組合並執行這些處理任務。
根據本發明的另一實施例,上述於圖5a和5b所述的影像捕獲設備也可以是個人電子裝置的一部分。
雖然兩個照相機可配設於習知的移動電話,智能電話和平板電腦中,但是僅實現了單個圖像管道和單個編碼器。因此,不可能同時用兩個攝像機拍攝圖像以捕獲兩個不同的視場。另外,可用的計算能力(中央處理單元和通用處理單元)並不足以允許同時處理由兩個相機捕獲的靜止圖像,更不足以對所捕獲之視頻剪輯進行處理。此外,當前使用的圖像處理技術並不能合併透過兩個內置照相機所捕獲之影像。
為了將影像捕獲設備集成在諸如智能電話的個人電子裝置內,個人電子裝置之硬件和/或軟件必須適於從兩個光學佈置並行捕獲兩個圖像,即透過提供對用於讀取感測器之時序與用於合併各影像之時序是捕獲步驟同步化。
因此,根據本發明實施例,圖12中所示的個人電子裝置1200包含能夠同時拍攝影像之兩個光學配置1210、1220,並且此個人電子裝置包含
多個單元,這些單元用以實現上述多個任務及其它任務,其中其它任務可用於提供拼接後之球面影像或影像序列(視頻,特別是360°視頻)。這些光學配置從頂部開始示出於個人電子裝置的部分1200a的詳細視圖中。然而,應當注意的是,此詳細視圖僅僅是示意性的。這些光學配置也可以採用其它配置。例如,在該圖中,光學配置1210和1220沿著個人電子裝置的頂部邊緣設置於彼此的旁邊。然而,這種配置也可以是不同的。在較佳實施例中,相對於個人電子裝置的頂部邊緣,兩個光學配置可正交的方向上彼此相鄰地佈置。此時,也可以應用任何其它配置。如上所述,個人電子裝置也可以透過如圖8b所示之不同的光學配置實現。
如圖所示,個人電子裝置1200具有一些個人電子裝置部件,諸如用作用戶介面(觸摸屏)之顯示器1201、例如按鍵/按鈕的其它用戶介面1202、外殼1205、用於提供資料輸入/輸出連接之一些連接裝置1204及供電輸入。
而在個人電子裝置內部可以包含印刷電路板,此印刷電路板可包括諸如處理器、控制器及其它單元的另外的組件。特別地,個人電子裝置可以包含輸入單元1208,此輸入單元用於處理來自用戶介面之輸入並提供與將相應之訊號提供至處理單元及其它單元。通常,此個人電子裝置還包含:存儲器1270、通訊單元1280及處理單元1230。此外,個人電子裝置還可嵌入有陀螺儀1760。顯示器1201可以由顯示控制器控制,此顯示控制器可以是獨立的或是實現於處理單元內。
在結構上,處理單元1230可包含一個或多個處理器,此處理器或這些處理器可包含:通用處理器和/或數位訊號處理器和/或其他可編程的或專用的硬體。
本實施例中,個人電子裝置1200之處理單元1230可包含:合併單元1240;及去扭曲單元1250,此去扭曲單元用於對所捕獲的圖像進行去扭曲處理。這些單元可提供於韌體或應用程式內,或者這些單元可在一個或多個處理器上運行之作業系統內核中執行。在較佳實施例中,處理單元1230可包含:
用於執行諸如白平衡或增益控制之影像處理的影像處理單元1232,以及用於壓縮所捕獲影像之資料的壓縮單元1233。
陀螺儀1260可以用於穩定拼接後之視頻資料。進而,在例如由使用者進行調整或攜帶個人電子裝置1200之支撐件發生移動之狀況中個人電子裝置1200之位置可在捕獲視頻時發生改變。為了補償照相機移動所引起的兩個光學配置1210、1220之視場的變動,基於來自陀螺儀1260之指明光學配置1210、1220在捕獲特定影像時的當前位置之輸入,個人電子裝置1200之處理單元1230(例如影像處理單元1232或單獨的單元)可對影像序列之變動進行補償,藉以使得它們看起來好像是從相同位置拍攝的,即,具有相同的視場。
此處,所記錄之視頻資料可被本地存儲於存儲單元1270、於網路上形成資料流、或直接經由通信裝置1280傳輸到平台或虛擬現實(VR)頭戴式設備。
圖9至圖11中所示的示例性處理流程也可以應用於具有圖12中示例的集成了影像捕獲設備的個人電子裝置。圖9至11中的「輸出」可以是從個人電子裝置提供給如存儲器之另一裝置,其中此存儲器可以是外部裝置或被傳送到諸如社群網路或任意其它基於網際網路之平台的網路平台。
影像捕獲設備的上述實例已經基本上描述了兩個光學配置。然而,應當注意的是:本發明並不限於僅用覆蓋大致的球面視場之兩個光學配置的實施方式。此處,外部的影像捕獲設備(術語「影像捕獲裝置」和「影像捕獲設備」在本文中用作同義詞)可以配設有多於兩個的光學配置,而這些光學配置分別具有多個透鏡和多個感測器。而後,必須對兩個或多個獨立的影像進行合併,進而將合併後之影像傳送到個人電子裝置。其中,如圖12所示,在個人電子裝置中僅使用兩個光學配置的實例是較為有利的。
由於個人電子裝置通常具有兩個主側面的平面形狀(在其中一個主側面上設置有顯示器),所以可能較為有利的是配設具有兩個光學配置的球面影像捕獲設備,這種球面影像捕獲設備的每一個主側面上配設有一個光學
配置。
然而,根據本發明實施例之變型,集成了影像捕獲設備之個人電子裝置還可包含多於兩個或更多的光學配置。例如,可以在個人電子裝置的前主表面和後主表面間之邊緣部分上配設第三光學配置。利用這種佈置,可以使用具有小於180°的視場的光學配置。
緊湊型光學配置
對於一些應用而言,較為有利的是使照相機的光學配置佔用盡可能小的空間。此外,為了拼接由不同光學配置所拍攝之影像,須要使兩個魚眼鏡頭間之距離應當盡可能小,藉以避免視差。進而,可透過使用內置於裝置中的陀螺儀在進行記錄過程中穩定視頻資料。
因此,本發明還提供了用於兩個相機的光學配置的特別緊湊的裝置,如下面將對此進行描述。這種裝置可用於上述實施例之任意一個實施例中。然而,這並不對本發明構成限制,並且通常這種裝置也可以用於嵌入有兩個相機朝向相反方向的任何設備。
在一特別優選實施例中,圖7a示出了根據本發明的用於捕獲圖像的光學系統之配置。光學系統700包括第一光學配置710和第二光學配置720。
此處,第一光學配置710和第二光學配置720的每一個光學配置包含:首透鏡701、704,特別是具有至少180度視場之魚眼透鏡;以及此首透鏡之後分別沿光軸730、740設置之透鏡集合702、705與影像感測器703、706。此處,第一光學配置710和第二光學配置720分別沿基本上平行的光軸730、740朝向相反之方向。為了使緊湊結構中首透鏡701與首透鏡704間之距離d減少,一些光學配置安置於首透鏡701附近與第一光學配置710之影像感測器706相鄰之光軸上而並非同一光軸上,藉以使光進入朝向相反方向之第二光學配置720,反之亦然。這種光學系統具有首尾相對的結構,進而形成具有可接受視差水平之緊湊設計。依據本實施例,光學系統700中,第一光學配置710和第二光學配置720被佈置成使得第一光學配置710之感測器706位於第二光學配置720之首
透鏡701的背面750處,並使得第二光學配置720之感測器703位於第一光學配置710的首透鏡704的背面751處。因此,可以減小光軸730和740之間的距離a。
在此實施例中,在如圖7a所繪的平面內,第一光學配置710的光軸730和第二光學配置720的光軸740彼此平行且位於同一平面中。
然而,根據圖7b所示之實施例的變型,圖7b示出了光軸730'和光軸740'的俯視圖和側視圖,當第一光學配置710和第二光學配置720之光軸730'和光軸740'不在同一平面中時,即若這些光軸可略微傾斜,則可形成更為緊湊的光學系統。換言之,儘管這兩個光學配置(這些光學配置)可平行地放置,這些光學配置也可以圍繞實質上與第一光學配置之光軸和第二光學配置之光軸垂直的虛擬軸760轉動一個較小的角度,非零角度α。比較有利地,可使傾斜角度/旋轉角度介於2和20度之間。因此,光軸730'和光軸740'之間產生傾斜的優點之一在於:其使得能夠使彼此具有更為緊湊的定位,進而可減小光軸間的距離,藉以獲得比圖7a中的實施例更小之視差。
需要注意的是,當使用具有大於180°視場之透鏡時,仍然可以覆蓋完整的球面視場,甚至具有非零傾斜角α。
但是,還需要注意的是,本發明並不限於首尾相對的結構。如上所述的本發明不限於上述的頭對尾結構。與圖8a所示的光學結構(如圖7a所示的第一光學配置710的首透鏡701、透鏡集合702和首透鏡704共享公共光軸730)相比,圖8b示出了具有折斷的光軸810a、光軸810b的光學結構800。
在圖8a中,光從物體A通過首透鏡701和透鏡組702到達記錄圖像B的圖像感測器703。
在圖8b中,光路包括反射鏡或棱鏡820上呈90度反射角之反射。其中具有反射之光路可更好地進一步減少獲得整個球面捕獲裝置所需之體積。作為進一步變形,還可使用具有多次反射或並非90度反射角之多次反射的光路徑,藉以改善可用空間的使用。
此處,若第一光學配置之感測器和第二光學配置之首透鏡間的距離盡可能接近,例如使二者彼此接觸或用粘結劑彼此粘附,則更有利於形成緊湊結構。但是,在可選擇的實施例中,還可在感測器與首透鏡之間形成間隙。其中,此首透鏡之背面位於透鏡之一側,該側與光進入此首透鏡而射向之影像感測器一側相對。
較為有利的是,上述光學系統之首尾相對結構可用於與個人電子裝置相連之外部影像捕獲設備,例如圖2至圖4所示之個人電子裝置或如圖5a所示之內置於光學配置的個人電子裝置中,因此這種光學結構是非常緊湊的。
如上所述,內置於光學系統之影像捕獲設備還可以包含:控制器,此控制器用於控制光學系統以並行地(至少部分同時或同時)用兩個光學配置捕獲圖像;處理單元,用於將透過兩個光學配置分別捕獲之圖像合併成一合併圖像;以及接口,用於將合併後之圖像發送到另一裝置。其中,最好是此控制器控制兩個光學配置以捕獲各自的圖像序列,並且透過兩個光學配置對第N個圖像所進行之捕獲與第N-1個圖像之合併和/或處理並行地執行,其中N是整數。此時,這種方法可在進行捕獲時對視頻進行實時合併。而較為有利的,還可透過介面將合併後之影像立即提供至其它裝置。上面已經描述了可以內置於光學系統中的影像捕獲設備之其它特徵。
需要注意的是,特別有利的是,具有頭對尾結構的光學系統的上述實施例可提供能夠覆蓋球面視場的影像捕獲設備。然而,本發明還可以應用於覆蓋例如在一個方向上的全景視場(360°)和在另一個方向上的更窄的視場,例如,具有45°至120°的視場。而本發明還可忽略視場的大小而被應用於併與拼接影像之任何裝置。
還應認識到,可以使用計算設備(處理器)來實現或執行各種實施例。計算設備或處理器可以例如是通用處理器、數字信號處理器(DSP)、專用集成電路(ASIC)、現場可編程門陣列(FPGA)或其他可編程邏輯器件等。同時,還可以透過這些裝置的組合執行或體現本發明各種實施例。
此外,各種實施例還可以藉助於由處理器執行或直接在硬體中執行的軟體模組來實現。而且,軟體模組和硬體實現的組合也是可能的。軟體模組可以存儲在任何種類的計算機可讀存儲介質上,例如隨機存取記憶體(RAM)、可抹除可規劃唯讀記憶體(EPROM)、電子式可消除性可程式化唯讀記憶體(EEPROM)、閃存、寄存器、硬碟、壓縮式唯讀光碟記憶體(CD-ROM)、數位化多功能光碟(DVD)等。
本領域中熟習相象技藝者應當理解,可以對如在具體實施例中所示的發明進行多種變化和/或修改。因此,本發明之實施例於各個方面來看都是說明性的而不是限制性的。
本發明涉及一種影像捕獲設備具有基本上球面視場並且是可連接的或是可連接或集成於智能電話的個人電子裝置。影像捕獲設備包括具有不同相應視場的至少兩個光學配置,其中每個光學配置覆蓋球體的一部分並包含:透鏡;感測器,用於捕獲透過透鏡之光線;至少兩個光學配置,基本上覆蓋了球面視場;控制單元,用於控制至少兩個光學配置,藉以並行地捕獲透過這至少兩個光學配置提供的至少兩個視頻圖像序列;處理單元,用於在捕獲覆蓋球體的視頻圖像的相應之至少兩個序列期間合併至少兩個視頻圖像序列,藉以形成單個視頻圖像序列;以及輸出單元,用於向個人電子裝置輸出合併後之視頻圖像序列的捕獲圖像。
Claims (14)
- 一種影像捕獲設備,該影像捕獲設備具有基本上為球面之視場並且可以連接或連接至或集成至一個人電子裝置,該影像捕獲設備包括:兩個光學配置,係分別指向相反的方向,該兩個光學配置中之各光學配置覆蓋一半球面視場,該各光學配置包含:視場至少為180度的一透鏡以及用於捕獲通過該透鏡之光照的一感測器,其中該兩個光學配置基本上覆蓋球面視場;一控制單元,係用於控制該兩個光學配置,藉以並行地捕獲透過該兩個光學配置所提供的兩個視頻序列;一處理單元,係用於在捕獲該兩個視頻序列時合併該兩個視頻序列,以形成覆蓋球面視場之一單一序列;以及一輸出單元,係用於在捕獲該兩個視頻序列時向該個人電子裝置輸出合併後之視頻序列的影像。
- 如請求項1所述之影像捕獲設備,其中該處理單元還用於拼接該兩個視頻序列藉以在少於或等於捕獲兩個連續影像間之時段的一時間內形成球面影像之該單一序列,或該處理單元還用於拼接該兩個視頻序列藉以在複數個處理階段內形成球面影像之該單一序列,各該處理階段少於或等於捕獲一視頻序列之兩個連續影像間之時間,其中透過該等處理階段並行地對該等連續影像進行處理。
- 如請求項1所述之影像捕獲設備,其中該影像捕獲設備用於減少將從感測器讀出的畫素數量,或者該影像捕獲設備用於減少透過拼接或減少從感測器讀出且將進行拼接處理之畫素數量。
- 如請求項1所述之影像捕獲設備,其中該處理單元還用於:在透過該輸出單元輸出合併後之影像前,對合併後之影像進行增益控制、白平衡、加馬指數控制、去雜訊或銳化處理中的至少一種處理。
- 如請求項1所述之影像捕獲設備,其中該處理單元還用於:在該兩個光學配置對該兩個視頻序列的影像進行合併或拼接前,透過增益控制或白平衡中的至少一種處理由該兩個光學配置分別捕獲的該兩個視頻序列的影像。
- 如請求項1所述之影像捕獲設備,還包含一編碼單元,係用於壓縮從該處理單元輸出之合併後的影像。
- 如請求項1所述之影像捕獲設備,其中該兩個光學配置,即一第一光學配置和一第二光學配置,相鄰地安置,並且其中該第一光學配置之感測器位於該第二光學配置之首透鏡的背面,而該第二光學配置之感測器位於該第一光學配置之首透鏡的背面。
- 如請求項1所述之影像捕獲設備,還包含一連接裝置,係用於與該個人電子裝置相連,該連接裝置為:-一插座,用於接合一插頭轉接器之一第一側,該插頭轉接器之另一側與該個人電子裝置之插座相匹配;-一導線,係透過該導線之一端固定於該影像捕獲設備,且該導線之另一端為針對該個人電子裝置的一連接器;以及-一無線網絡介面中的至少一個,其中該輸出單元係用於透過該連接裝置輸出該等影像,其該連接裝置用於從該個人電子裝置接收供電和/或從該個人電子裝置接收資料和/或向該個人電子裝置傳送資料。
- 如請求項1所述之影像捕獲設備,還包含:一外殼,該外殼基本上呈球形並包含用於各該光學配置的透鏡之開口。
- 一種個人電子裝置,係包含:一顯示裝置;以及如請求項1至9中任意一項所述之影像捕獲設備。
- 如請求項10所述之個人電子裝置,其中各該光學配置中至少一個首透鏡是可安裝拆卸的,進而該至少一個首透鏡可安裝在該個人電子裝置中配設之多個光輸入區域上方,藉以使光照照射至各該光學配置之感測器。
- 如請求項10或11所述之個人電子裝置,還包含:一照相機控制器,用於透過切換選擇使用一個光學配置還是使用兩個光學配置,藉以捕獲視頻或影像。
- 一種影像捕獲系統,包含:一個人電子裝置及如請求項1至9中任意一項所述之影像捕獲設備,其中該個人電子裝置包含有一處理器,該處理器用於從該影像捕獲設備接收合併後之影像並對合併後之影像進行增益控制、白平衡、去扭曲、拼接、壓縮中的至少一種處理。
- 一種可安裝透鏡配置,係安裝於如請求項10至12中任意一項所述之個人電子裝置上,該可安裝透鏡配置係包含:一附接設備,具有兩個透鏡配置,進而於將兩個透鏡裝置可拆卸地安裝於該等光線輸入區域,藉以將光照引導至該各光學配置之該等感測器,其中各該透鏡裝置還包含至少一個首透鏡。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP16305008.1 | 2016-01-05 | ||
EP16305008.1A EP3190780A1 (en) | 2016-01-05 | 2016-01-05 | Two-lens spherical camera |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201725894A TW201725894A (zh) | 2017-07-16 |
TWI676386B true TWI676386B (zh) | 2019-11-01 |
Family
ID=55236321
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW106100196A TWI676386B (zh) | 2016-01-05 | 2017-01-04 | 影像捕獲設備、個人電子裝置、影像捕獲系統及可安裝透鏡配置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20190230283A1 (zh) |
EP (1) | EP3190780A1 (zh) |
TW (1) | TWI676386B (zh) |
WO (1) | WO2017118498A1 (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018078365A (ja) * | 2016-11-07 | 2018-05-17 | オリンパス株式会社 | 制御装置、制御システム及び制御方法 |
JP6878974B2 (ja) * | 2017-03-16 | 2021-06-02 | 株式会社リコー | 撮像装置、撮像システム |
US11049219B2 (en) | 2017-06-06 | 2021-06-29 | Gopro, Inc. | Methods and apparatus for multi-encoder processing of high resolution content |
CN111066314A (zh) * | 2017-09-15 | 2020-04-24 | 亮锐控股有限公司 | 汽车行驶记录仪 |
JP7081473B2 (ja) * | 2018-03-02 | 2022-06-07 | 株式会社リコー | 撮像光学系、撮像システム及び撮像装置 |
US10764513B2 (en) * | 2018-07-31 | 2020-09-01 | Ricoh Company, Ltd. | Communication terminal, image data communication system, and communication method |
US10880475B2 (en) * | 2018-10-25 | 2020-12-29 | Korea Electronics Technology Institute | Video conversion apparatus and system for generating 360-degree virtual reality video in real time |
US20200213570A1 (en) * | 2019-01-02 | 2020-07-02 | Mediatek Inc. | Method for processing projection-based frame that includes at least one projection face and at least one padding region packed in 360-degree virtual reality projection layout |
JP7293698B2 (ja) * | 2019-02-07 | 2023-06-20 | 株式会社リコー | 光学システム、撮像システム及び撮像装置 |
WO2020185201A1 (en) * | 2019-03-10 | 2020-09-17 | Google Llc | 360 degree wide-angle camera with baseball stitch |
US10768508B1 (en) | 2019-04-04 | 2020-09-08 | Gopro, Inc. | Integrated sensor-optical component accessory for image capture device |
JP7350511B2 (ja) * | 2019-05-14 | 2023-09-26 | キヤノン株式会社 | 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体 |
US11109067B2 (en) | 2019-06-26 | 2021-08-31 | Gopro, Inc. | Methods and apparatus for maximizing codec bandwidth in video applications |
US11228781B2 (en) | 2019-06-26 | 2022-01-18 | Gopro, Inc. | Methods and apparatus for maximizing codec bandwidth in video applications |
US11178342B2 (en) * | 2019-07-18 | 2021-11-16 | Apple Inc. | Camera systems for bendable electronic devices |
EP3796082B1 (en) * | 2019-09-18 | 2023-06-14 | Axis AB | Camera device |
US11481863B2 (en) | 2019-10-23 | 2022-10-25 | Gopro, Inc. | Methods and apparatus for hardware accelerated image processing for spherical projections |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003008968A (ja) * | 2001-06-20 | 2003-01-10 | Sony Corp | 撮像装置 |
US20060182437A1 (en) * | 2005-02-11 | 2006-08-17 | Williams Karen E | Method and apparatus for previewing a panoramic image on a digital camera |
EP2573605A2 (en) * | 2011-08-31 | 2013-03-27 | Ricoh Company, Ltd. | Imaging optical system, imaging device and imaging system |
US20130201281A1 (en) * | 2010-09-09 | 2013-08-08 | Giroptic | Optical device for capturing images according to a 360° field |
CN104092799A (zh) * | 2014-07-24 | 2014-10-08 | 广东欧珀移动通信有限公司 | 手机全景摄像附件以及手机 |
US20150288864A1 (en) * | 2012-11-15 | 2015-10-08 | Giroptic | Process and device for capturing and rendering a panoramic or stereoscopic stream of images |
TW201601531A (zh) * | 2014-06-19 | 2016-01-01 | 豪威科技股份有限公司 | 360度多攝影機系統 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6123274B2 (ja) * | 2012-03-08 | 2017-05-10 | 株式会社リコー | 撮像装置 |
US9699379B1 (en) * | 2012-09-17 | 2017-07-04 | Amazon Technologies, Inc. | Camera arrangements for wide-angle imaging |
US9413930B2 (en) * | 2013-03-14 | 2016-08-09 | Joergen Geerds | Camera system |
US8730299B1 (en) * | 2013-11-27 | 2014-05-20 | Dmitry Kozko | Surround image mode for multi-lens mobile devices |
US10171792B2 (en) * | 2014-08-15 | 2019-01-01 | The University Of Akron | Device and method for three-dimensional video communication |
US20160249038A1 (en) * | 2015-02-23 | 2016-08-25 | Abdelhakim Abdelqader Mosleh | Method and apparatus for capturing 360 degree viewing images using spherical camera and mobile phone |
US9992394B2 (en) * | 2015-03-18 | 2018-06-05 | Gopro, Inc. | Dual-lens mounting for a spherical camera |
US10186012B2 (en) * | 2015-05-20 | 2019-01-22 | Gopro, Inc. | Virtual lens simulation for video and photo cropping |
US9787887B2 (en) * | 2015-07-16 | 2017-10-10 | Gopro, Inc. | Camera peripheral device for supplemental audio capture and remote control of camera |
US10043237B2 (en) * | 2015-08-12 | 2018-08-07 | Gopro, Inc. | Equatorial stitching of hemispherical images in a spherical image capture system |
US10217189B2 (en) * | 2015-09-16 | 2019-02-26 | Google Llc | General spherical capture methods |
-
2016
- 2016-01-05 EP EP16305008.1A patent/EP3190780A1/en not_active Withdrawn
- 2016-10-26 WO PCT/EP2016/075837 patent/WO2017118498A1/en unknown
- 2016-10-26 US US16/325,876 patent/US20190230283A1/en not_active Abandoned
-
2017
- 2017-01-04 TW TW106100196A patent/TWI676386B/zh not_active IP Right Cessation
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003008968A (ja) * | 2001-06-20 | 2003-01-10 | Sony Corp | 撮像装置 |
US20060182437A1 (en) * | 2005-02-11 | 2006-08-17 | Williams Karen E | Method and apparatus for previewing a panoramic image on a digital camera |
US20130201281A1 (en) * | 2010-09-09 | 2013-08-08 | Giroptic | Optical device for capturing images according to a 360° field |
EP2573605A2 (en) * | 2011-08-31 | 2013-03-27 | Ricoh Company, Ltd. | Imaging optical system, imaging device and imaging system |
US20150288864A1 (en) * | 2012-11-15 | 2015-10-08 | Giroptic | Process and device for capturing and rendering a panoramic or stereoscopic stream of images |
TW201601531A (zh) * | 2014-06-19 | 2016-01-01 | 豪威科技股份有限公司 | 360度多攝影機系統 |
CN104092799A (zh) * | 2014-07-24 | 2014-10-08 | 广东欧珀移动通信有限公司 | 手机全景摄像附件以及手机 |
Also Published As
Publication number | Publication date |
---|---|
TW201725894A (zh) | 2017-07-16 |
US20190230283A1 (en) | 2019-07-25 |
EP3190780A1 (en) | 2017-07-12 |
WO2017118498A1 (en) | 2017-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI676386B (zh) | 影像捕獲設備、個人電子裝置、影像捕獲系統及可安裝透鏡配置 | |
CN217849511U (zh) | 图像捕捉装置、设备和系统以及集成传感器光学部件配件 | |
US20170195565A1 (en) | Two-lens optical arrangement | |
US8988558B2 (en) | Image overlay in a mobile device | |
US11445126B2 (en) | Image capture device with interchangeable integrated sensor-optical component assemblies | |
US9055220B1 (en) | Enabling the integration of a three hundred and sixty degree panoramic camera within a mobile device case | |
US11611824B2 (en) | Microphone pattern based on selected image of dual lens image capture device | |
US11871105B2 (en) | Field of view adjustment | |
JP2019030007A (ja) | 複数のカメラを用いて映像を取得するための電子装置及びこれを用いた映像処理方法 | |
US11889228B2 (en) | Conference device with multi-videostream capability | |
WO2019157427A1 (en) | Image processing | |
US20230262385A1 (en) | Beamforming for wind noise optimized microphone placements | |
TW201734569A (zh) | 移動主體上的影像捕獲裝置 | |
JP2020204874A (ja) | 画像処理システム、撮像システム、画像処理装置、撮像装置およびプログラム | |
US20220021852A1 (en) | Color fringing processing independent of tone mapping | |
US11122202B2 (en) | Imaging device, image processing system, and image processing method | |
US11470249B1 (en) | Panoramic camera device | |
US20220272300A1 (en) | Conference device with multi-videostream control | |
JP2018180324A (ja) | パノラマ画像撮像システム | |
JP2021005828A (ja) | 撮像装置、撮像システム、方法およびプログラム | |
WO2022019879A1 (en) | Wide angle adapter lens for enhanced video stabilization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
MM4A | Annulment or lapse of patent due to non-payment of fees | ||
MM4A | Annulment or lapse of patent due to non-payment of fees |