TW201443827A - 鏡頭影像校正系統及鏡頭影像校正方法 - Google Patents
鏡頭影像校正系統及鏡頭影像校正方法 Download PDFInfo
- Publication number
- TW201443827A TW201443827A TW102115928A TW102115928A TW201443827A TW 201443827 A TW201443827 A TW 201443827A TW 102115928 A TW102115928 A TW 102115928A TW 102115928 A TW102115928 A TW 102115928A TW 201443827 A TW201443827 A TW 201443827A
- Authority
- TW
- Taiwan
- Prior art keywords
- image
- image capturing
- vehicle
- angle
- lens
- Prior art date
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
- B60R2300/402—Image calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Human Computer Interaction (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
一種適用於交通工具上的鏡頭影像校正系統,包括至少一取像單元、多個方向感測單元以及一處理單元。取像單元依一高度配置於交通工具上,用於預視一影像。方向感測單元配置於交通工具以及取像單元上,用於取得交通工具的一交通工具方向角度及取像單元的一取像方向角度。處理單元用於計算一影像轉換關係,並依影像轉換關係使影像符合一影像預設條件。於一靜態校正程序中,處理單元根據影像及交通工具方向角度與取像方向角度決定取像單元的一偏移角度,處理單元再根據高度、偏移角度與影像計算出影像轉換關係。一種鏡頭影像校正方法亦被提供。
Description
本發明是有關於一種校正系統,且特別是有關於一種鏡頭影像校正系統。
本發明是有關於一種校正方法,且特別是有關於一種鏡頭影像校正方法。
為了降低交通事故的發生,如車道偏移警示系統(Lane Departure Warning System,LDWS)以及車輛俯視圖系統(bird eye view)等各種交通工具行進監控裝置已被開發並受到高度重視。此外,各種交通工具在行進時,搭載偏移警示系統亦能輔助駕駛良好地控制交通工具,以避免事故的發生。
然而,為了維持準確的警示功能,各種偏移警示系統的出廠校正極為重要。一般而言,目前市面上的車道偏移警示系統是透過具有特徵點的定位件(如棋盤格或是具有特徵點的校正板等)進行校正。然而,由於目前駕駛偏移警示系統所使用的鏡頭影像解析度並不高,因此透過拍攝特徵點做為鏡頭取像方向角度校
正的方式容易產生誤差而難以達到準確的警示效果,然而,若誤差存在,則可能會產生誤判,造成事故與無法彌補的遺憾。並且,在實際使用時,若鏡頭受到使用者誤觸或是由於其他外力偏移甚至脫落,只能再次送回校正場所,需花費大量人力、時間以及金錢。並且,若交通工具由於傾斜或環境等因素而使得鏡頭朝向光源時(如太陽光或路燈等),容易因影像過曝、模糊而影響警示效果。另外,若交通工具行駛於顛簸震動的環境,由於一般的駕駛偏移警示系統的鏡頭與內部影像轉換矩陣已於廠內校正時固定而無法動態調整之故,駕駛偏移警示系統容易受到顛簸震動環境的影響而造成誤判。因此,如何有效地進行交通工具上的鏡頭影像的校正,已成為當前亟待解決的問題之一。
本發明提供一種鏡頭影像校正系統與一種鏡頭影像校正方法,適用於交通工具上。
本發明的實施例中的適用於交通工具上的鏡頭影像校正系統包括至少一取像單元、多個方向感測單元以及一處理單元。取像單元依一高度配置於交通工具上,用於預視一影像。方向感測單元分別配置於交通工具以及取像單元上,用於取得交通工具的一交通工具方向角度及取像單元的一取像方向角度。處理單元用於計算一影像轉換關係,並依影像轉換關係使影像符合一影像預設條件。其中,於一靜態校正程序中,處理單元根據影像及交
通工具方向角度與取像方向角度決定取像單元配置於交通工具內的一偏移角度,處理單元再根據高度、偏移角度與影像計算出影像轉換關係。
在本發明的一實施例中,當上述的影像發生改變而不再符合影像預設條件時,鏡頭影像校正系統進行一動態校正程序,以改變影像轉換關係與取像單元的取像方向角度其中之一,並再次進行靜態校正程序,直到影像符合影像預設條件為止。
在本發明的一實施例中,當上述的影像符合影像預設條件時,影像正確地反映交通工具相對於所處環境的移動方向。
在本發明的一實施例中,當上述的交通工具晃動或傾斜程度超過一閾值時,鏡頭影像校正系統根據取像方向角度與交通工具方向角度之間的一方向關係調整影像轉換關係,直到影像符合影像預設條件為止。
在本發明的一實施例中,上述的取像方向角度朝向交通工具的前方,方向關係為交通工具與取像方向角度之間的傾斜角(pitch)的差異。
在本發明的一實施例中,上述的至少一取像單元為多個取像單元,分別配置於交通工具上的不同位置,並且各取像單元以不同的各取像方向角度拍攝各影像,鏡頭影像校正系統根據這些影像轉換關係分別轉換這些影像為多個部份俯視圖,鏡頭影像校正系統將這些部份俯視圖拼接為一鳥瞰圖。
在本發明的一實施例中,上述的這些取像方向角度至少
涵蓋交通工具的傾斜方向(pitch)、偏航方向(yaw)以及翻轉方向(roll)。
在本發明的一實施例中,上述的鏡頭影像校正系統更包括至少一調整支架,其中當影像發生模糊時,鏡頭影像校正系統透過調整支架調整取像單元的取像方向角度,直到影像符合影像預設條件為止。
在本發明的一實施例中,上述的取像方向角度朝向交通工具的前方,調整支架調整取像單元的傾斜角(pitch)。
在本發明的一實施例中,上述的至少一取像單元為多個取像單元,至少一調整支架為多個調整支架,這些取像單元分別配置於交通工具上的不同位置,並且各取像單元以不同的各取像方向角度拍攝各影像,鏡頭影像校正系統根據這些影像轉換關係分別轉換這些影像為多個部份俯視圖,鏡頭影像校正系統將這些部份俯視圖拼接為一鳥瞰圖。
在本發明的一實施例中,上述的這些取像方向角度至少涵蓋交通工具的傾斜方向(pitch)、偏航方向(yaw)以及翻轉方向(roll),並且這些調整支架分別調整各取像單元的傾斜角(pitch)、偏航角(yaw)以及翻轉角(roll)至少其一。
本發明的一實施例中的一種適用於交通工具上的鏡頭影像校正方法,包括一靜態校正程序。靜態校正程序包括:利用至少一取像單元預視一影像,其中取像單元是依一高度配置於交通工具上;利用分別配置於交通工具以及取像單元上的多個方向感
測單元,取得交通工具的一交通工具方向角度及取像單元的一取像方向角度;利用一處理單元,計算一影像轉換關係,並依影像轉換關係轉換影像為一平面影像並使平面影像符合一影像預設條件。其中,於一靜態校正程序中,處理單元根據影像及交通工具方向角度與取像方向角度決定取像單元配置於交通工具內的一偏移角度,處理單元再根據高度、偏移角度與影像計算出影像轉換關係。
在本發明的一實施例中,上述的鏡頭影像校正方法更包括一動態校正程序,當上述的影像發生改變而不再符合影像預設條件時,鏡頭影像校正系統進行動態校正程序,以改變影像轉換關係與取像單元的取像方向角度其中之一,並再次進行靜態校正程序,直到影像符合影像預設條件為止。
在本發明的一實施例中,上述的鏡頭影像校正方法更包括:當上述的交通工具晃動或傾斜程度超過一閾值時,根據取像方向角度與交通工具方向角度之間的一方向關係調整影像轉換關係,直到影像符合影像預設條件為止。
在本發明的一實施例中,上述的至少一取像單元為多個取像單元,分別配置於交通工具上的不同位置,並且各取像單元以不同的各取像方向角度拍攝各影像。其中,鏡頭影像校正方法更包括:根據這些影像轉換關係分別轉換這些影像為多個部份俯視圖;以及將這些部份俯視圖拼接為一鳥瞰圖。
在本發明的一實施例中,上述的鏡頭影像校正方法更包
括:當影像發生模糊時,透過至少一調整支架調整取像單元的取像方向角度,直到影像符合影像預設條件為止。
在本發明的一實施例中,上述的至少一取像單元為多個取像單元,至少一調整支架為多個調整支架,這些取像單元分別配置於交通工具上的不同位置,並且各取像單元以不同的各取像方向角度拍攝各影像。其中,鏡頭影像校正方法更包括:根據這些影像轉換關係分別轉換這些影像為多個部份俯視圖;以及將這些部份俯視圖拼接為一鳥瞰圖。
基於上述,本發明的實施例中的鏡頭影像校正系統在靜態校正後,可藉由改變影像轉換關係與取像單元的取像方向角度其中之一,並再次進行靜態校正程序,藉此維持符合影像預設條件的影像,以作為判斷交通工具的行進狀態的依據。並且,本發明的實施例中的鏡頭影像校正方法可藉由改變影像轉換關係與取像單元的取像方向角度其中之一動態維持影像,藉此使影像符合影像預設條件,以作為判斷交通工具的行進狀態的依據。
為讓本發明的上述特徵和優點能更明顯易懂,下文特舉實施例,並配合所附圖式作詳細說明如下。
10‧‧‧交通工具
100、200‧‧‧鏡頭影像校正系統
110、111、112、113、114‧‧‧取像單元
120‧‧‧方向感測單元
121‧‧‧方向感測單元
122‧‧‧方向感測單元
130‧‧‧調整支架
A、B、C、D、A’、B’、C’、D’、O‧‧‧點
AP‧‧‧取像孔徑
CD、CD1、CD2、CD3、CD4‧‧‧取像方向角度
f‧‧‧焦距
G1、G2、G3、G4‧‧‧區域
H‧‧‧高度
HZ‧‧‧水平線
i、j‧‧‧長度
S‧‧‧實際物體
S’‧‧‧影像
SR‧‧‧影像感測元件
PU‧‧‧處理單元
PX‧‧‧畫素
S100、S110、S120、S130、S140、S200、S205、S210、S215、S220‧‧‧步驟
SL‧‧‧斜坡
TD‧‧‧交通工具方向角度
u、v、w、x、y、z‧‧‧座標值
X、Y、Z‧‧‧座標軸
θ‧‧‧偏移角度
α、β‧‧‧夾角
圖1A是本發明之一實施例中配置於一交通工具上的鏡頭影像校正系統的側視圖。
圖1B是本發明之一實施例中配置於一交通工具上的鏡頭影像校正系統的俯視圖。
圖2A是取像鏡頭拍攝真實物體時的光路示意圖。
圖2B是依照圖1實施例中的取像鏡頭的投影光路示意圖。
圖3繪示出配有圖1實施例中鏡頭影像校正系統的交通工具位於斜坡上的示意圖。
圖4是繪示出圖1實施例中的取像單元與調整支架的示意圖。
圖5是本發明之另一實施例中的鏡頭影像校正系統的示意圖。
圖6A是本發明之又一實施例的影像鏡頭校正方法中的靜態校正程序的流程圖。
圖6B是本發明之又一實施例的影像鏡頭校正方法中的動態校正程序的流程圖。
圖1A是本發明之一實施例中配置於一交通工具上的鏡頭影像校正系統的側視圖。圖1B是本發明之一實施例中配置於一交通工具上的鏡頭影像校正系統的俯視圖。請參照圖1A以及圖1B,在本實施例中,適用於交通工具10上的鏡頭影像校正系統100可包括至少一取像單元110、多個方向感測單元120以及一處理單元PU。在本實施例中,方向感測單元120例如可包括二個方向感測單元121以及方向感測單元122,並且方向感測單元120例如可以包括三軸的陀螺儀、加速度計、磁場計等適於偵測方向的裝置,取像單元110例如為攝像鏡頭等適於拍攝影像的裝置。
並且,在本實施例中,交通工具10以車輛為例,然而本發明不以此為限。取像單元110可配置於交通工具10上。方向感測單元121與122可分別配置於取像單元110以及交通工具10上。
在本實施例中,為了使取像單元110所拍攝到的影像能夠用以作為判斷交通工具10行進時是否偏移,因此需先校正取像單元110。詳細而言,在本實施例中,取像單元110是依一高度H配置於交通工具10上,並可用於預視一影像。在本實施例中,此高度H可為一預設值,並例如是取像單元110與交通工具10的底部(例如圖1A中繪示之車底)之間的高度,然而本發明不以此為限。方向感測單元120可分別配置於交通工具10以及取像單元110上,用於取得交通工具10的一交通工具方向角度TD及取像單元的一取像方向角度CD。處理單元PU可用於計算一影像轉換關係,並依影像轉換關係使影像符合一影像預設條件。其中,影像轉換關係與影像預設條件將於後續詳述。
詳細而言,在本實施例中,於一靜態校正程序中,處理單元PU可根據影像及交通工具方向角度TD與取像方向角度CD決定取像單元110配置於交通工具10內的一偏移角度θ(如圖1所繪示),處理單元PU可再根據高度H、偏移角度θ與影像計算出影像轉換關係。舉例而言,在本實施例中,處理單元PU例如可透過其他驅動機制(將於後敘)調整取像單元110的偏移角度θ,並且在本實施例中,影像轉換關係例如是影像轉換矩陣,處理單元PU在計算出此影像轉換矩陣後例如可儲存於一記憶單元(未圖示)
中,以供後續之使用。有關影像轉換關係的詳細敘述亦將於後敘。
舉例而言,在本實施例中,影像預設條件例如是使影像能夠正確反應真實世界座標(即交通工具10所處環境)的條件,並可以是使影像所包含的拍攝涵蓋範圍、影像的尺寸大小或是相關的影像參數。更詳細而言,在本實施例中,當取像單元110以預設的高度H與特定的方向配置於交通工具10,並使得上述的影像符合影像預設條件時,影像可正確地反映交通工具10相對於所處環境的移動方向。因此,當影像符合影像預設條件時,處理單元PU可根據影像判斷交通工具10相對於所處環境的移動狀態,因此可應用於例如為車道偏航警示系統(Lane Departure Warning System,LDWS)或是其他交通工具的影像警示系統上。
由於本實施例中的鏡頭影像校正系統100在靜態校正程序中可透過處理單元PU根據預設的高度H、偏移角度θ與影像計算出影像轉換關係並儲存起來,因此可不必以人工或手動的方式校正各取像單元110的取像方向角度CD與高度H來符合影像預設條件,並且也不必在特定的校正場地進行繁複的校正過程,因此校正所花費的時間與金錢得以節省,同時亦能具有良好的準確度。
換言之,當經過靜態校正程序後,鏡頭影像校正系統100可將取像單元110所拍攝到的影像內的特徵(如車道線等)透過影像轉換關係轉換為真實世界中的座標。在本實施例中,由於取像單元110是安裝交通工具10上,當取像單元110所拍攝到的影像
內的特徵偏移時(例如車道線發生偏移歪斜現象時),即代表交通工具10對地面的行進方向產生偏移,而可進一步透過如車道偏移警示系統(Lane Departure Warning System,LDWS)等其他警示系統對駕駛進行警示。
詳細而言,在本實施例中,影像轉換關係例如是取像方向角度CD以及取像單元110所拍攝到一影像之間的關係。舉例而言,圖2A是取像鏡頭拍攝真實物體時的光路示意圖,請參照圖1A至圖2A,在本實施例中,取像單元110所包含的影像感測元件SR以及取像孔徑AP如圖2A所繪示,其中,當取像單元110朝向X軸方向拍攝實際物體S的影像時,根據針孔成像(pin-hole camera module)原理,實際物體S的影像會透過取像孔徑AP而成像於影像感測元件SR上,如影像S’所示。換言之,實際物體S與影像S’之間的存在著一轉換矩陣,亦即,可由影像S’上的特徵變化(例如車道線的方向變化),透過轉換矩陣的轉換,即可得知車輛相對於真實世界中的車道的偏移程度。
舉例而言,若在影像S’在影像感測元件SR上的影像座標為[u,v,w],而影像S’所反映的實際物體S在真實世界中的座標為[x,y,z],則[u,v,w]可透過下式轉換為[x,y,z]:
其中,R(θRoll)、R(θPitch)、R(θYaw)分別代表在傾斜角(pitch)、翻轉角(Roll)以及偏航角(Yaw)的旋轉矩陣。
進一步而言,取像單元110相對於水平面(即X-Y平面)的位置、高度、角度等可以預先依照需求而設定好。舉例而言,圖2B是依照圖1實施例中的取像鏡頭的投影光路示意圖,請參照圖1至圖2B,在本實施例中,取像單元110相對於真實世界(即週遭環境)的座標例如為(0,0,150)(單位例如為公分),而取像單元110的影像感測元件SR(點A’B’C’D’構成的四邊形)可對應至取像單元110在真實世界的取像範圍所形成的點ABCD構成的四邊形。在本實施例中,以640×480感測像素的互補式金氧半導體感測器(complementary metal oxide semiconductor sensor,CMOS sensor)為例,假設A’B’C’D’四點的座標分別如下:
其中,i代表影像感測元件SR上每一個畫素PX在Y軸方向上的
長度,j代表影像感測元件SR上每一個畫素PX在Z軸方向上的長度。並且f代表取像單元110的取像焦距。由於取像單元110的初始位置與取像方向角度CD可依照需求事先決定,而取像單元110與交通工具10的傾斜角(pitch)、翻轉角(Roll)以及偏航角(Yaw)的資訊可由方向感測單元120得知。藉此,影像感測元件SR上的座標點A’B’C’D’可藉由針孔成像原理以及透過上述R(θRoll)、R(θPitch)、R(θYaw)的旋轉矩陣轉換至真實世界座標點ABCD。而可不必透過特定的校正板或校正場所即可準確地校正。
另一方面,為了使真實世界座標(相對於水平面)再轉換至交通工具10目前所處之環境(例如山坡等非水平的路面),因此可再將由影像感測元件SR上的座標點A’B’C’D’所推得的真實世界座標點ABCD投影至所需要的面上。假設A’點對應於真實世界中的座標點(即A點)的座標如下:
由於取像單元110在真實世界的座標點O位於[0,0,150],因此,向量AO即為[1,1,-1]。推得向量AO之後,即可利用向量AO推算A’點投影在真實世界座標中的各平面上的座標點。舉例而言,假設A點位於真實世界座標中的X-Y平面(即Z=0)上,可根據下式:
推算出A點投影至X-Y平面的座標為[150,150,0]。同理,可利用取像單元110所拍攝到的影像將其餘的BCD點先轉換為B’C’D’點,再轉換至欲投影的平面(例如為Z=0的平面)上,然而本發明不限於投影至Z=0之平面,在其他實施例中,例如亦可投影至交通工具10所處的具有坡度(可由方向感測單元120得出)的斜坡之平面上,進而能夠反應交通工具10與路面的關係以作為判斷是否偏移的依據。換言之,利用取像單元110,可將真實世界的座標(即相對於水平面的座標),透過上述計算,轉換為交通工具所處環境(例如車輛所行進的地面,可能傾斜或顛簸而與水平面不平行等等情況),而能夠進行即時的校正而更能貼近現實需求。
更進一步而言,在影像感測元件SR上的座標[u,v,w]與真實世界中的座標位置[x,y,z]之間的影像轉換關係(即矩陣M)可由二維齊次方程式如下:
由於上式矩陣M有8個變數,至少只需利用4組數據(例如ABCD點所對應的A’B’C’D’點)即可透過最小誤差(least square error)演算法推得影像轉換關係(即矩陣M)。在推算出影像轉換關係(即矩陣M)後,鏡頭影像校正系統100可儲存影像轉換關係(即矩陣M),而在交通工具10行進時,可利用查表(look-up table)的方式查詢矩陣M以將影像中的特徵(例如車道線)轉換為真實世界的座標,作
為判斷交通工具10是否有行進偏移等現象的依據,藉此,可進一步節省大量計算矩陣M的時間,有助於即時地、準確地判別影像。值得注意的是,上述的矩陣M以3階方陣為例,然而本發明不以此為限。
由於取像單元110配置於交通工具上的高度H、位置與取像方向角度CD皆可事先被決定好,因此,在靜態校正程序時,透過上述的針孔成像原原理,可由取像單元110中的影像感測元件SR上所拍攝到的影像中的特徵點(例如車道線上的反光點)的座標[u,v,w],推算出特徵點位於真實世界中(相對於水平面)的座標[x,y,z]的座標為何。在得出至少四組配對的座標[u,v,w]以及座標[x,y,z]後,可利用上述之最小誤差演算法推算出兩者之間的影像轉換關係(即矩陣M),並可進一步地將此影像轉換關係儲存為查表(look-up table)於記憶單元,例如快閃記憶體(flash memory)或其他記憶體,然而本發明不以此為限。換言之,取像單元110可在不需特定的校正場所即可進行自動的靜態校正程序,如此一來,可節省大量人力與時間即能準確地校正。藉此,鏡頭影像校正系統100可藉由取像單元110所拍攝到的影像特徵點(例如車道線)的變化,準確地判斷交通工具是否產生行進偏移等現象。
然而,當影像發生改變而不再符合影像預設條件時,例如交通工具行駛於顛簸或傾斜的路面等場合而使得影像受到影響而無法用以判斷交通工具的行進方向是否偏移時,鏡頭影像校正系統100可進行一動態校正程序,以改變影像轉換關係(即矩陣
M)與取像單元110的取像方向角度CD其中之一,並再次進行上述的靜態校正程序,直到影像符合影像預設條件為止。在本實施例中,當上述的影像符合影像預設條件時,取像單元110所拍攝到的影像可以正確地反映交通工具10相對於所處環境(例如道路)的移動方向。
詳細而言,在動態校正程序中,當上述的交通工具10晃動或傾斜程度超過一閾值時,鏡頭影像校正系統100可根據取像方向角度CD與交通工具方向角度TD之間的一方向關係調整影像轉換關係(即矩陣M),直到影像符合影像預設條件為止(亦即直到影像足以用來作為判斷交通工具10是否行進偏移的基準為止)。
舉例而言,圖3繪示出配有圖1實施例中鏡頭影像校正系統的交通工具位於斜坡上的示意圖,請參照圖1與圖3,在本實施例中,交通工具10(例如為車輛)行駛於斜坡SL上,此斜坡與水平線HZ的坡度夾角為β。取像方向角度CD朝向交通工具10的前方。其中,交通工具10的交通工具方向角度TD亦與水平線HZ夾β角,而取像單元110的取像方向角度CD與水平線HZ夾α角。由於交通工具10與取像單元110分別具有方向感測單元121、122(如圖1中所繪示),因此α角與β角的資訊可被量測出來。其中,α角與β角之間的差(α-β)角即為取像單元110與斜坡SL的傾斜角(pitch)差異,亦即上述之方向關係。據此(α-β)角,當路面顛簸或斜坡SL斜率有劇烈變化超過預先設定的閾值時,鏡頭影像校正系統100可偵測此一傾斜角變化,並執行上述之動態校正程
序以重新計算調整影像轉換關係(即調整靜態校正程序中已算出的矩陣M),將受到影響的影像重新調整轉換以得到正確的透視矩陣(即新的矩陣M),藉此以適應路面顛簸或斜坡SL斜率的劇烈變化對影像所產生的影響。
另一方面,圖4是繪示出圖1實施例中的取像單元與調整支架的示意圖,請參照圖1與圖4,上述的鏡頭影像校正系統100可更包括至少一調整支架130,其中當影像發生模糊時,鏡頭影像校正系統100可透過調整支架130調整取像單元110的取像方向角度CD,直到影像符合影像預設條件為止。舉例而言,在某些場合的光影影響甚劇(例如曝光情況嚴重的場所),此時取像單元110所拍攝到的影像可能亦受到影響而產生嚴重曝光或模糊的情況,而影響判別的準確度。在這種情況下,取像單元110可透過調整支架130調整取像方向角度CD(本實施例中,取像方向角度CD朝向交通工具10的前方,調整支架130例如可調整取像單元的傾斜角(pitch),然而本發明不以此為限),並根據新的取像方向角度CD重新進行上述的靜態校正程序,藉此以使影像能夠恢復判別的準確度。
圖5是本發明之另一實施例中的鏡頭影像校正系統的示意圖,請參照圖1至圖5,與圖1實施例中的鏡頭影像校正系統100相似,然而,不同之處在於,本實施例中的鏡頭影像校正系統200中的至少一取像單元110為多個取像單元111、112、113以及114,至少一調整支架130為多個調整支架(未繪示於圖5中)。其
中,這些取像單元111至114分別配置於交通工具10上的不同位置,例如設置於交通工具10的前後左右四周,並且各取像單元111至114以不同的各取像方向角度CD1、CD2、CD3以及CD4拍攝各方向的影像。鏡頭影像校正系統200可根據各取像方向角度CD1、CD2、CD3以及CD4所拍攝到的影像所推得的這些影像轉換關係分別轉換這些影像為多個部份俯視圖,鏡頭影像校正系統200可將這些部份俯視圖拼接為一鳥瞰圖。換言之,各取像單元111至114例如可分別取得區域G1至G4的影像並合併為鳥瞰圖,以進一步做為判別交通工具10在各方向上是否有行進偏移等變化的依據。
進一步而言,上述的這些取像方向角度CD1、CD2、CD3以及CD4可至少涵蓋交通工具10的傾斜方向(pitch)、偏航方向(yaw)以及翻轉方向(roll)。藉此,鏡頭影像校正系統200可進一步判別交通工具10在各方向上(例如傾斜方向(pitch)、偏航方向(yaw)以及翻轉方向(roll))是否發生改變的情形,當道路顛簸或是傾斜程度有劇烈變化時,鏡頭影像校正系統200可偵測此一變化並動態調整影像轉換關係(即各取像單元111、112、113以及114的透視矩陣)。
舉例而言,即使是交通工具10(如車輛)由於零件問題或是道路的傾斜導致交通工具10向右傾斜的狀態(即交通工具10具有翻轉角(roll)),當此一傾斜狀態超過一預先決定的閾值時,各取像單元111、112、113以及114所拍攝到的影像可能會發生變化而
使得車輛偏移的判別不再準確,此時鏡頭影像校正系統200可利用各取像單元111、112、113以及114的方向感測單元(未繪示於圖5中)判斷各取像單元111、112、113以及114的傾斜方向(pitch)、偏航方向(yaw)以及翻轉方向(roll),而可以選擇性地改變影像轉換關係或是透過各調整支架130調整各取像方向角度CD1至CD4,再進行靜態影像校正程序,藉此以維持影像判別交通工具10行進是否發生偏移的準確度。
圖6A是本發明之又一實施例的影像鏡頭校正方法中的靜態校正程序的流程圖,圖6B是本發明之又一實施例的影像鏡頭校正方法中的動態校正程序的流程圖,請參照圖1至圖6B,在本實施例中,影像鏡頭校正方法例如可透過上述圖1與圖5實施例中的鏡頭影像校正系統100與鏡頭影像校正系統200來執行。其中,適用於交通工具10上的鏡頭影像校正方法包括靜態校正程序(步驟S100)以及動態校正程序(步驟S200)。其中,靜態校正程序可包括:利用至少一取像單元110預視一影像,其中取像單元110是依一高度H配置於交通工具10上(步驟S110);利用分別配置於交通工具10以及取像單元110上的多個方向感測單元120,取得交通工具10的取像方向角度CD與交通工具方向角度TD(步驟S120);利用一處理單元PU,計算一影像轉換關係(例如上述之矩陣M),並依影像轉換關係轉換影像為一平面影像並使平面影像符合一影像預設條件(步驟S130)。其中,於一靜態校正程序中,處理單元PU可根據影像及交通工具方向角度TD與取像方向角度
CD決定取像單元110配置於交通工具10內的偏移角度θ,處理單元PU再根據高度H、偏移角度θ與影像計算出影像轉換關係。相關的構件與詳細說明可參照圖1至圖6B實施例中所述,在此不再贅述。
舉例而言,在本實施例中的步驟S110中,利用至少一取像單元110預視一影像,並且取像單元110配置於交通工具10內的位置、取像單元110欲擺放的取像方向角度CD、光圈大小、取像單元110的影像感測解析度、取像單元110的透鏡焦距以及擺放於交通工具10內的高度H等可依照實際需求決定,本發明不以此為限。並且,在步驟S130中,取像方向角度CD、取像單元110與影像轉換關係的數量可為一個或多個,當其數量為多個時,鏡頭影像校正方法可更包括:根據這些影像轉換關係分別轉換這些影像為多個部份俯視圖;以及將這些部份俯視圖拼接為一鳥瞰圖,如圖1與圖5實施例中所述,在此不再贅述。
此外,在本實施例中,靜態校正程序亦可更包括儲存影像轉換關係(步驟S140),藉此,可藉由查表方式,節省多次計算影像轉換關係的時間,待影像由於外在因素的影響而須重新校正時,再以後續之動態校正流程校正。
動態校正程序包括當影像發生改變而不再符合影像預設條件時(例如交通工具10行駛於顛簸或傾斜的路面等場合而使得影像受到影響而無法用以判斷交通工具10的行進方向是否偏移時),改變影像轉換關係與取像方向角度CD其中之一,並再次進
行靜態校正程序,直到影像符合影像預設條件為止。詳細而言,上述的鏡頭影像校正方法中的動態校正程序可更包括:判斷交通工具10晃動或傾斜程度是否超過一閾值(步驟S205),當上述的交通工具10晃動或傾斜程度超過閾值時,根據取像方向角度CD與交通工具方向角度TD之間的一方向關係調整影像轉換關係(步驟S210),直到影像符合影像預設條件為止,以及:判斷影像是否有模糊或曝光情形(步驟S215),當影像發生模糊時,透過至少一調整支架130調整取像單元110的取像方向角度CD(步驟S220),直到影像符合影像預設條件為止。值得注意的是,上述之各步驟之順序與流程僅用以例示本實施例,本發明不以此為限,例如,在其他實施例中,亦可在動態校正程序中先執行步驟S215與步驟S220,再執行步驟S205與步驟S210,而亦可具有相似之功效。其中,詳細的裝置與說明細節可參照圖1至圖5實施例中所述,在此不再贅述。
綜上所述,本發明的實施例中的鏡頭影像校正系統與鏡頭影像校正方法可不必使用特定的校正場地即可達成靜態校正程序,可節省人力、時間與費用,而亦可維持良好的精準度。並且,本發明的實施例中的鏡頭影像校正系統與鏡頭影像校正方法可依照需求隨時啟動進行動態校正程序,即使交通工具位於顛簸或傾斜環境,甚或是使用者誤觸而改變取像單元的取像方向角度時仍可即時自動地進行校正鏡頭影像校正系統而恢復準確度,此外,本發明的實施例中的鏡頭影像校正系統中的方向感測器價格低廉
而能提供即時的鏡頭影像校正,並可進一步用於各種交通工具上的鏡頭校正。
雖然本發明已以實施例揭露如上,然其並非用以限定本發明,任何所屬技術領域中具有通常知識者,在不脫離本發明的精神和範圍內,當可作些許的更動與潤飾,故本發明的保護範圍當視後附的申請專利範圍所界定者為準。
10‧‧‧交通工具
100‧‧‧鏡頭影像校正系統
110‧‧‧取像單元
120‧‧‧方向感測單元
121‧‧‧方向感測單元
122‧‧‧方向感測單元
CD‧‧‧取像方向角度
H‧‧‧高度
PU‧‧‧處理單元
TD‧‧‧交通工具方向角度
X、Y、Z‧‧‧座標軸
θ‧‧‧偏移角度
Claims (22)
- 一種適用於交通工具上的鏡頭影像校正系統,包括:至少一取像單元,依一高度配置於該交通工具上,用於預視一影像;以及多個方向感測單元,分別配置於該交通工具以及該取像單元上,用於取得該交通工具的一交通工具方向角度及該取像單元的一取像方向角度;一處理單元,用於計算一影像轉換關係,並依該影像轉換關係使該影像符合一影像預設條件;其中,於一靜態校正程序中,該處理單元根據該影像及該交通工具方向角度與該取像方向角度決定該取像單元配置於該交通工具內的一偏移角度,該處理單元再根據該高度、該偏移角度與該影像計算出該影像轉換關係。
- 如申請專利範圍第1項所述的鏡頭影像校正系統,其中當該影像符合該影像預設條件時,該影像正確地反映該交通工具相對於所處環境的行進狀態。
- 如申請專利範圍第1項所述的鏡頭影像校正系統,其中當該影像發生改變而不再符合該影像預設條件時,該鏡頭影像校正系統進行一動態校正程序,以改變該影像轉換關係與該取像單元的該取像方向角度其中之一,並再次進行該靜態校正程序,直到該影像符合該影像預設條件為止。
- 如申請專利範圍第1項所述的鏡頭影像校正系統,其中當 該交通工具晃動或傾斜程度超過一閾值時,該鏡頭影像校正系統根據該取像方向角度與該交通工具方向角度之間的一方向關係調整該影像轉換關係,直到該影像符合該影像預設條件為止。
- 如申請專利範圍第4項所述的鏡頭影像校正系統,其中該取像方向角度朝向該交通工具的前方,該方向關係為該交通工具與該取像方向角度之間的傾斜角的差異。
- 如申請專利範圍第4項所述的鏡頭影像校正系統,其中該至少一取像單元為多個取像單元,分別配置於該交通工具上的不同位置,並且各該取像單元以不同的各該取像方向角度拍攝各該影像,該鏡頭影像校正系統根據該些影像轉換關係分別轉換該些影像為多個部份俯視圖,該鏡頭影像校正系統將該些部份俯視圖拼接為一鳥瞰圖。
- 如申請專利範圍第6項所述的鏡頭影像校正系統,其中該些取像方向角度至少涵蓋該交通工具的傾斜方向、偏航方向以及翻轉方向。
- 如申請專利範圍第1項所述的鏡頭影像校正系統,更包括至少一調整支架,其中當該影像發生模糊時,該鏡頭影像校正系統透過該調整支架調整該取像單元的該取像方向角度,直到該影像符合該影像預設條件為止。
- 如申請專利範圍第8項所述的鏡頭影像校正系統,其中該取像方向角度朝向該交通工具的前方,該調整支架調整該取像單元的傾斜角。
- 如申請專利範圍第8項所述的鏡頭影像校正系統,其中該至少一取像單元為多個取像單元,該至少一調整支架為多個調整支架,該些取像單元分別配置於該交通工具上的不同位置,並且各該取像單元以不同的各該取像方向角度拍攝各該影像,該鏡頭影像校正系統根據該些影像轉換關係分別轉換該些影像為多個部份俯視圖,該鏡頭影像校正系統將該些部份俯視圖拼接為一鳥瞰圖。
- 如申請專利範圍第10項所述的鏡頭影像校正系統,其中該些取像方向角度至少涵蓋該交通工具的傾斜方向、偏航方向以及翻轉方向,並且該些調整支架分別調整各該取像單元的傾斜角、偏航角以及翻轉角至少其一。
- 一種適用於交通工具上的鏡頭影像校正方法,包括:一靜態校正程序,包括:利用至少一取像單元預視一影像,其中該取像單元是依一高度配置於該交通工具上;利用分別配置於該交通工具以及該取像單元上的多個方向感測單元,取得該交通工具的一交通工具方向角度及該取像單元的一取像方向角度;利用一處理單元,計算一影像轉換關係,並依該影像轉換關係轉換該影像為一平面影像並使該平面影像符合一影像預設條件;其中,於該靜態校正程序中,該處理單元根據該影像及該交 通工具方向角度與該取像方向角度決定該取像單元配置於該交通工具內的一偏移角度,該處理單元再根據該高度、該偏移角度與該影像計算出該影像轉換關係。
- 如申請專利範圍第12項所述的鏡頭影像校正方法,其中當該影像符合該影像預設條件時,該影像正確地反映該交通工具相對於所處環境的行進狀態。
- 如申請專利範圍第12項所述的鏡頭影像校正方法,更包括一動態校正程序,其中當該影像發生改變而不再符合該影像預設條件時,該鏡頭影像校正系統進行該動態校正程序,以改變該影像轉換關係與該取像單元的該取像方向角度其中之一,並再次進行該靜態校正程序,直到該影像符合該影像預設條件為止。
- 如申請專利範圍第14項所述的鏡頭影像校正方法,更包括:當該交通工具晃動或傾斜程度超過一閾值時,根據該取像方向角度與該交通工具方向角度之間的一方向關係調整該影像轉換關係,直到該影像符合該影像預設條件為止。
- 如申請專利範圍第15項所述的鏡頭影像校正方法,其中該取像方向角度朝向該交通工具的前方,該方向關係為該交通工具與該取像方向角度之間的傾斜角的差異。
- 如申請專利範圍第15項所述的鏡頭影像校正方法,其中該至少一取像單元為多個取像單元,分別配置於該交通工具上的不同位置,並且各該取像單元以不同的各該取像方向角度拍攝各 該影像,其中該鏡頭影像校正方法更包括:根據該些影像轉換關係分別轉換該些影像為多個部份俯視圖;以及將該些部份俯視圖拼接為一鳥瞰圖。
- 如申請專利範圍第17項所述的鏡頭影像校正方法,其中該些取像方向角度至少涵蓋該交通工具的傾斜方向、偏航方向以及翻轉方向。
- 如申請專利範圍第14項所述的鏡頭影像校正方法,更包括:當該影像發生模糊時,透過至少一調整支架調整該取像單元的該取像方向角度,直到該影像符合該影像預設條件為止。
- 如申請專利範圍第19項所述的鏡頭影像校正方法,其中該取像方向角度朝向該交通工具的前方,該調整支架調整該取像單元的傾斜角。
- 如申請專利範圍第18項所述的鏡頭影像校正方法,其中該至少一取像單元為多個取像單元,該至少一調整支架為多個調整支架,該些取像單元分別配置於該交通工具上的不同位置,並且各該取像單元以不同的各該取像方向角度拍攝各該影像,其中該鏡頭影像校正方法更包括:根據該些影像轉換關係分別轉換該些影像為多個部份俯視圖;以及將該些部份俯視圖拼接為一鳥瞰圖。
- 如申請專利範圍第21項所述的鏡頭影像校正方法,其中該些取像方向角度至少涵蓋該交通工具的傾斜方向、偏航方向以及翻轉方向,並且該些調整支架分別調整各該取像單元的傾斜角、偏航角以及翻轉角至少其一。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW102115928A TW201443827A (zh) | 2013-05-03 | 2013-05-03 | 鏡頭影像校正系統及鏡頭影像校正方法 |
US13/912,208 US20140327765A1 (en) | 2013-05-03 | 2013-06-07 | Camera image calibrating system and method of calibrating camera image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW102115928A TW201443827A (zh) | 2013-05-03 | 2013-05-03 | 鏡頭影像校正系統及鏡頭影像校正方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
TW201443827A true TW201443827A (zh) | 2014-11-16 |
Family
ID=51841253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW102115928A TW201443827A (zh) | 2013-05-03 | 2013-05-03 | 鏡頭影像校正系統及鏡頭影像校正方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20140327765A1 (zh) |
TW (1) | TW201443827A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113170079A (zh) * | 2018-07-30 | 2021-07-23 | 小马智行 | 用于校准车载摄像头的系统和方法 |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101510336B1 (ko) * | 2013-11-14 | 2015-04-07 | 현대자동차 주식회사 | 차량용 운전자 지원 시스템의 검사 장치 |
KR101510338B1 (ko) * | 2013-11-22 | 2015-04-07 | 현대자동차 주식회사 | 차량용 차선 이탈 경보 시스템의 검사 장치 |
EP2942951A1 (en) * | 2014-05-06 | 2015-11-11 | Application Solutions (Electronics and Vision) Limited | Image calibration |
US9578311B2 (en) * | 2014-10-22 | 2017-02-21 | Microsoft Technology Licensing, Llc | Time of flight depth camera |
JP6511406B2 (ja) * | 2016-02-10 | 2019-05-15 | クラリオン株式会社 | キャリブレーションシステム、キャリブレーション装置 |
CN108230393A (zh) * | 2016-12-14 | 2018-06-29 | 贵港市瑞成科技有限公司 | 一种智能车前方运动车辆的测距方法 |
CN110567469B (zh) * | 2018-06-05 | 2021-07-20 | 北京市商汤科技开发有限公司 | 视觉定位方法、装置、电子设备及系统 |
CN110602393B (zh) * | 2019-09-04 | 2020-06-05 | 南京博润智能科技有限公司 | 一种基于图像内容理解的视频防抖方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US2630983A (en) * | 1951-02-08 | 1953-03-10 | United Aircraft Corp | Aerial camera mount and control means therefor |
JP2004289670A (ja) * | 2003-03-24 | 2004-10-14 | Nisca Corp | 画像配信カメラシステム、画像配信カメラ、画像配信サーバ、及び画像配信方法 |
US7380951B2 (en) * | 2003-11-10 | 2008-06-03 | Morgan Plaster | Driver observation system and method therefor |
US7337650B1 (en) * | 2004-11-09 | 2008-03-04 | Medius Inc. | System and method for aligning sensors on a vehicle |
US20100235129A1 (en) * | 2009-03-10 | 2010-09-16 | Honeywell International Inc. | Calibration of multi-sensor system |
WO2012145822A1 (en) * | 2011-04-25 | 2012-11-01 | Magna International Inc. | Method and system for dynamically calibrating vehicular cameras |
US9596387B2 (en) * | 2011-08-02 | 2017-03-14 | Magna Electronics Inc. | Vehicular camera system |
CN102930544B (zh) * | 2012-11-05 | 2014-06-18 | 北京理工大学 | 一种车载摄像机的参数标定系统 |
-
2013
- 2013-05-03 TW TW102115928A patent/TW201443827A/zh unknown
- 2013-06-07 US US13/912,208 patent/US20140327765A1/en not_active Abandoned
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113170079A (zh) * | 2018-07-30 | 2021-07-23 | 小马智行 | 用于校准车载摄像头的系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
US20140327765A1 (en) | 2014-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TW201443827A (zh) | 鏡頭影像校正系統及鏡頭影像校正方法 | |
US10701341B2 (en) | Calibration method, calibration device, and computer program product | |
KR101592740B1 (ko) | 차량용 광각카메라의 영상 왜곡 보정 장치 및 방법 | |
WO2018196391A1 (zh) | 一种车载摄像机的外部参数标定方法及装置 | |
US8605156B2 (en) | Calibration target detection apparatus, calibration target detecting method for detecting calibration target, and program for calibration target detection apparatus | |
US9361687B2 (en) | Apparatus and method for detecting posture of camera mounted on vehicle | |
JP2011182236A (ja) | カメラキャリブレーション装置 | |
JP2007261463A (ja) | 車載カメラのキャリブレーションシステム | |
JP6177006B2 (ja) | カメラ較正装置、およびカメラ較正方法 | |
CN115511974A (zh) | 一种车载双目相机的快速外参标定方法 | |
CN110956585B (zh) | 全景图像拼接方法、装置以及计算机可读存储介质 | |
JP3666348B2 (ja) | 距離認識装置 | |
JP2014174067A (ja) | 車載カメラのキャリブレーション装置 | |
CN111131801B (zh) | 投影仪校正系统、方法及投影仪 | |
JP2002099902A (ja) | 両眼立体視によって物体の3次元情報を計測する画像処理装置およびその方法又は計測のプログラムを記録した記録媒体 | |
TWI424259B (zh) | 相機擺置角度校正法 | |
JP5964093B2 (ja) | 車両サイズ測定装置、車両サイズ測定方法、およびプログラム | |
JP7405710B2 (ja) | 処理装置及び車載カメラ装置 | |
CN104135599A (zh) | 镜头图像校正系统及镜头图像校正方法 | |
JP6680335B2 (ja) | ステレオカメラ、車両、算出方法及びプログラム | |
JP3122777B2 (ja) | 無人走行車の測距装置 | |
JPH09126759A (ja) | 車載カメラによる測距方法およびそれを用いる測距装置 | |
JP3833042B2 (ja) | 距離認識装置 | |
WO2023067867A1 (ja) | 車載制御装置、および、3次元情報取得方法 | |
JP2005318355A (ja) | プロジェクタの台形歪み補正装置と該台形歪み補正装置を備えたプロジェクタ |