TWI551490B - Photographic apparatus, vehicle and image correction method - Google Patents

Photographic apparatus, vehicle and image correction method Download PDF

Info

Publication number
TWI551490B
TWI551490B TW104104795A TW104104795A TWI551490B TW I551490 B TWI551490 B TW I551490B TW 104104795 A TW104104795 A TW 104104795A TW 104104795 A TW104104795 A TW 104104795A TW I551490 B TWI551490 B TW I551490B
Authority
TW
Taiwan
Prior art keywords
image
adjustment
mark
unit
lateral
Prior art date
Application number
TW104104795A
Other languages
English (en)
Other versions
TW201534514A (zh
Inventor
Naoki Nanba
Original Assignee
Yamaha Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Motor Co Ltd filed Critical Yamaha Motor Co Ltd
Publication of TW201534514A publication Critical patent/TW201534514A/zh
Application granted granted Critical
Publication of TWI551490B publication Critical patent/TWI551490B/zh

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • G01C3/085Use of electric radiation detectors with electronic parallax measurement

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Measurement Of Optical Distance (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Manufacturing & Machinery (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

攝影裝置、車輛及圖像修正方法
本發明係關於一種攝影裝置、車輛及圖像修正方法。
立體相機包括複數個相機。各相機係以特定之姿勢設置於特定之位置。各相機進行立體視覺之拍攝。自各相機獲得之圖像由圖像處理部進行處理。例如,圖像處理部使用相機之內部參數及外部參數,計算圖像之深度方向上之資訊。相機之外部參數係由相機之位置及姿勢規定。
此處,將相機之位置及姿勢發生偏移之情況適當地稱為「位置偏移」。位置偏移係由各種原因引起。例如,當相機受到衝擊或振動時,可能發生位置偏移。若發生「位置偏移」,則相機之實際之位置及實際之姿勢背離外部參數所規定之位置及姿勢。其結果為,深度方向上之資訊所包含之誤差增大,從而深度方向上之資訊之精度下降。
為了消除位置偏移,立體相機之操作者亦可手動地調整相機之位置及姿勢。藉由該方法,可使相機恢復至正確之位置及正確之姿勢。然而,會花費操作者之工夫。
因此,先前,研究有藉由修正圖像而消除位置偏移之方法。該方法例如如下所述。首先,相機拍攝格子狀圖等測試圖案。圖像處理部基於所獲得之圖像,調整用以修正圖像之修正參數。具體而言,圖像處理部調整用以沿縱向平行移動圖像之修正參數、及用以旋轉圖像之修正參數。圖像處理部使用經調整之修正參數對圖像進行修正(例 如,參照專利文獻1、2)。該方法中,亦可不調整相機之位置及姿勢,故而可減輕操作者之負擔。
[先前技術文獻] [專利文獻]
[專利文獻1]
日本專利特開2004-132870號公報
[專利文獻2]
日本專利特開2000-284389號公報
然而,於具有此種構成之先前例之情形時,存在如下問題。
先前例未調整用以沿橫向平行移動圖像之修正參數。由此,即便修正圖像,亦無法充分地降低因位置偏移而引起之誤差。
又,先前例於立體相機之實際運轉中不調整修正參數。例如,專利文獻1僅揭示調整修正參數之方法,絲毫未揭示調整修正參數之時序。專利文獻2揭示出在搭載立體相機之汽車等進入實際運轉之前,進行修正參數之調整。此處,所謂進入實際運轉之前係例如車輛正處於靜止時。
本發明係鑒於此種情況而完成者,其目的在於提供一種可較佳地調整用以使圖像沿橫向平行移動之修正參數的攝影裝置、車輛及圖像修正方法。又,本發明之目的在於提供一種可於搭載圖像感測器之車輛正在實際運轉時調整用以修正圖像之修正參數的車輛及圖像修正方法。
本發明係為了達成此種目的,而採取如下構成。
即,本發明係一種攝影裝置,上述攝影裝置包括:一對圖像感 測器;圖像修正部,其使由至少任一個上述圖像感測器拍攝所得之圖像沿上述圖像之橫向平行移動橫偏移量之程度;及橫偏移量調整部,其將上述圖像感測器之各者於在光軸方向上與第1標記隔開之距離和在光軸方向上與第2標記隔開之距離大致相等之位置拍攝第1標記及第2標記所得之圖像分別作為調整用圖像,並基於上述調整用圖像調整上述橫偏移量;且上述橫偏移量調整部包括:測定部,其基於上述調整用圖像之兩者計測關於上述第1標記及上述第2標記之至少任一者之視差,而取得視差之計測值;理論值計算部,其基於上述第1標記與上述第2標記之間之間隔、及上述調整用圖像中之任一者,算出關於上述第1標記及上述第2標記之視差之理論值;橫向調整量計算部,其基於上述視差之計測值與上述視差之理論值算出橫向調整量;及橫偏移量變更部,其使用上述橫向調整量變更上述橫偏移量。
[作用.效果]一對圖像感測器構成立體相機。各圖像感測器進行立體視覺之拍攝。
圖像修正部使用橫偏移量修正圖像。橫偏移量為修正參數之一。圖像修正部既可對自各圖像感測器獲得之圖像進行修正,亦可僅對自任一個圖像感測器獲得之圖像進行修正。
橫偏移量調整部基於自各圖像感測器獲得之調整用圖像,調整橫偏移量。
調整用圖像係各圖像感測器拍攝第1標記及第2標記所得之一對圖像。而且,調整用圖像係於圖像感測器與第1標記之間之光軸方向上之距離和圖像感測器與第2標記之間之光軸方向上之距離大致相等時各圖像感測器進行拍攝所得之圖像。此處,所謂「大致相等」包含各距離嚴格地相等、及各距離以可調整橫偏移量之程度近似之兩種含義。
其結果為,第1標記及第2標記投影於調整用圖像。而且,投影 於調整用圖像之第1標記之深度方向上之資訊、與投影於調整用圖像之第2標記之深度方向上之資訊大致相同。
橫偏移量調整部包括測定部、理論值計算部、橫向調整量計算部、及橫偏移量變更部。測定部基於2個調整用圖像,取得「視差之計測值」。理論值計算部基於1個調整用圖像,取得「視差之理論值」。橫向調整量計算部基於「視差之計測值」與「視差之理論值」,算出橫向調整量。橫偏移量變更部使用橫向調整量,變更橫偏移量。
如此,根據本發明,由於包括橫偏移量調整部,故而可較佳地調整橫偏移量。藉此,圖像修正部可較佳地修正圖像。即,可較佳地調整自各圖像感測器獲得之2個圖像之間之視差。由此,即便圖像感測器之位置及姿勢發生偏移,亦可較佳地維持攝影裝置之精度及攝影裝置之可靠性。
於上述發明中,較佳為上述理論值計算部基於上述第1標記與上述第2標記之間之上述間隔、以及任一個上述調整用圖像上之上述第1標記之投影點及上述第2標記之投影點,計算上述第1標記及上述第2標記與上述圖像感測器之間之光軸方向上之距離,並基於上述距離算出上述視差之理論值。藉此,理論值計算部可精度良好地算出視差之理論值。其結果為,橫向調整量計算部可精確地算出橫向調整量。
於上述發明中,較佳為上述理論值計算部基於上述第1標記與上述第2標記之間之上述間隔、以及任一個上述調整用圖像上之上述第1標記之投影點與上述第2標記之投影點之間之間隔,計算上述第1標記及上述第2標記與上述圖像感測器之間之光軸方向上之距離,並基於上述距離算出上述視差之理論值。藉此,理論值計算部可精度良好地算出視差之理論值。其結果為,橫向調整量計算部可精確地算出橫向調整量。
於上述發明中,較佳為上述橫向調整量計算部以使上述視差之 計測值與上述視差之理論值之差變小之方式,決定上述橫向調整量。藉此,可使自各圖像感測器獲得之2個圖像之間之實際之視差接近於視差之理論值。其結果為,可較佳地改善圖像之深度方向上之資訊之精度。
於上述發明中,較佳為上述調整用圖像之至少一者為已藉由上述圖像修正部進行過處理之圖像,上述橫偏移量變更部對上述圖像修正部所使用之上述橫偏移量加減上述橫向調整量。即,上述橫偏移量變更部將對橫偏移量加減橫向調整量所得之值設定為新的橫偏移量。於調整用圖像之至少一者為已被修正之圖像之情形時,可根據本發明,適當地調整橫偏移量。
於上述發明中,較佳為上述調整用圖像之兩者為未藉由上述圖像修正部進行處理之圖像,上述橫偏移量變更部將上述橫向調整量設定為新的上述橫偏移量。於調整用圖像之兩者為未被修正之圖像之情形時,可根據本發明,適當地調整橫偏移量。
於上述發明中,較佳為上述攝影裝置進而包括調整用圖像特定部,該調整用圖像特定部基於圖像上之上述第1標記之投影點及上述第2標記之投影點,判定自上述圖像感測器之各者獲得之圖像是否為調整用圖像。藉此,可較佳地特定出調整用圖像。
於上述發明中,較佳為上述第1標記與上述第2標記係配置於大致相同之高度位置。藉此,可簡化理論值計算部之處理。又,可簡化調整用圖像特定部之處理。
於上述發明中,較佳為上述圖像修正部進而使由至少任一個上述圖像感測器拍攝所得之圖像沿上述圖像之縱向平行移動縱偏移量之程度,上述攝影裝置進而包括縱偏移量調整部,該縱偏移量調整部基於上述調整用圖像調整上述縱偏移量。縱偏移量為修正參數之一。攝影裝置由於包括縱偏移量調整部,故而可較佳地調整縱偏移量。由 此,圖像修正部可更加適當地修正圖像。
於上述發明中,較佳為上述圖像修正部進而使由至少任一個上述圖像感測器拍攝所得之圖像旋轉旋轉量之程度,上述攝影裝置進而包括旋轉量調整部,該旋轉量調整部基於上述調整用圖像調整上述旋轉量。旋轉量為修正參數之一。攝影裝置由於包括旋轉量調整部,故而可較佳地調整旋轉量。由此,圖像修正部可更加適當地修正圖像。
又,本發明係一種車輛,其具備上述攝影裝置。
[作用.效果]根據本發明,車輛由於具備攝影裝置,故而可較佳地偵測車輛周圍之被攝體。又,由於攝影裝置之精度及可靠性得以較佳地維持,故而可較佳地抑制車輛之運轉率下降。
於上述發明中,較佳為於上述車輛在跑道上行駛時,上述圖像感測器分別拍攝上述第1標記及上述第2標記。藉此,可於車輛正在實際運轉時調整橫偏移量。由此,可不使車輛之運轉率下降而維持攝影裝置之精度。
於上述發明中,較佳為上述跑道係預先決定,上述車輛於上述跑道上自主行駛。由於車輛在預先決定之跑道上行駛,故而圖像感測器可適當地拍攝第1標記及第2標記。藉此,理論值計算部可更加精度良好地算出「視差之理論值」。
又,本發明係一種圖像修正方法,其包括如下步驟:於車輛正在行駛時,搭載於車輛之複數個圖像感測器拍攝設置於車輛之外部之標記群;對自上述圖像感測器之至少任一者獲得之圖像進行修正;對如下步驟中所使用之修正參數進行調整,該步驟係將自上述圖像感測器獲得且標記群所投影之圖像作為調整用圖像,並基於上述調整用圖像修正上述圖像。
[作用.效果]進行拍攝之步驟係於車輛之行駛中拍攝標記群。進行修正之步驟係對自圖像感測器獲得之圖像進行修正。進行調整之步 驟係基於調整用圖像調整修正參數。如此,根據本發明,可一面使車輛實際運轉,一面適當地調整用以修正圖像之修正參數。
於上述發明中,較佳為上述修正參數為橫偏移量,上述修正圖像之步驟係使上述圖像沿上述圖像之橫向平行移動上述橫偏移量之程度,上述標記群包含相互隔開間隔而配置之第1標記與第2標記,於執行上述進行拍攝之步驟時,上述圖像感測器與第1標記之間之光軸方向上之距離和上述圖像感測器與第2標記之間之光軸方向上之距離大致相等,上述調整修正參數之步驟包括如下步驟:基於上述調整用圖像之兩者計測關於上述第1標記及上述第2標記之至少任一者之視差,而取得視差之計測值;基於上述第1標記與上述第2標記之間之上述間隔、及上述調整用圖像之任一者,算出關於上述第1標記及上述第2標記之視差之理論值;基於上述視差之計測值與上述視差之理論值算出橫向調整量;及使用上述橫向調整量變更上述橫偏移量。
於進行拍攝之步驟中,各圖像感測器係於在光軸方向上與第1標記及第2標記隔開大致相等之距離之位置,拍攝第1標記及第2標記。此處,所謂「大致相等」,包含各距離嚴格地相同、及各距離以可調整橫偏移量之程度近似之兩種含義。
進行修正之步驟係使用橫偏移量,使圖像沿橫向平行移動。
調整修正參數之步驟係基於調整用圖像調整橫偏移量。調整修正參數之步驟進而包括如下步驟:取得視差之計測值;算出視差之理論值;算出橫向調整量;及變更橫偏移量。因此,調整修正參數之步驟可適當地調整橫偏移量。
藉此,修正圖像之步驟可適當地修正圖像。其結果為,可較佳地調整自各圖像感測器獲得之圖像之間之視差。由此,即便圖像感測器之位置及姿勢發生偏移,亦可精度良好地獲得圖像之深度方向上之資訊。
再者,本說明書亦揭示有如下檢測裝置及車輛之發明。
(1)於上述發明中,較佳為上述第1標記與上述第2標記係隔開既知之間隔而配置。
根據上述(1),理論值計算部可較佳地算出視差之理論值。
(2)於上述發明中,較佳為上述圖像感測器之各者係以各圖像感測器之光軸相互平行之方式、且以自各圖像感測器獲得之圖像之橫軸成為同軸之方式配置。
根據上述(2),可由各圖像感測器較佳地構成立體相機。
(3)於上述發明中,較佳為上述理論值計算部基於上述第1標記與上述第2標記之間之上述間隔、以及如下三角形之內角,計算上述第1標記及上述第2標記與上述圖像感測器之間之光軸方向上之距離,並基於上述距離算出上述視差之理論值,上述三角形係以與任一個上述調整用圖像相關之光學中心、該調整用圖像上之上述第1標記之投影點、及該調整用圖像上之上述第2標記之投影點為頂點。
根據上述(3),理論值計算部可精度良好地算出視差之理論值。其結果為,橫向調整量計算部可精確地算出橫向調整量。
(4)於上述發明中,較佳為上述理論值計算部基於上述第1標記與上述第2標記之間之上述間隔、如下三角形之內角、以及上述圖像感測器與上述第1標記及上述第2標記之位置關係,計算上述第1標記及上述第2標記與上述圖像感測器之間之光軸方向上之距離,並基於上述距離算出上述視差之理論值,上述三角形係以與任一個上述調整用圖像相關之光學中心、該調整用圖像上之上述第1標記之投影點、及該調整用圖像上之上述第2標記之投影點為頂點。
根據上述(4),理論值計算部可精度良好地算出視差之理論值。其結果為,橫向調整量計算部可精確地算出橫向調整量。
根據本發明之攝影裝置、車輛及圖像修正方法,可較佳地調整用以使圖像沿橫向平行移動之修正參數。由此,可提高攝影裝置之可靠性。又,可於搭載圖像感測器之車輛正在實際運轉時,調整用以修正圖像之修正參數。由此,可防止車輛之運轉率下降。
1‧‧‧車輛
3‧‧‧車輛本體
5‧‧‧攝影裝置
11R‧‧‧相機(圖像感測器)
11L‧‧‧相機(圖像感測器)
13‧‧‧圖像處理部
15‧‧‧標記支持具
21‧‧‧修正參數記憶部
22‧‧‧圖像修正部
23‧‧‧圖像記憶部
24‧‧‧圖像再修正部
25‧‧‧調整用圖像特定部
26‧‧‧攝影條件記憶部
27‧‧‧橫偏移量調整部
28‧‧‧縱偏移量調整部
29‧‧‧旋轉量調整部
31‧‧‧測定部
32‧‧‧理論值計算部
33‧‧‧橫向調整量計算部
34‧‧‧橫偏移量變更部
36‧‧‧縱向調整量計算部
37‧‧‧縱偏移量變更部
38‧‧‧旋轉方向調整量計算部
39‧‧‧旋轉量變更部
41‧‧‧橫向調整量判定部
42‧‧‧縱向調整量判定部
43‧‧‧旋轉方向調整量判定部
AL‧‧‧光軸
AR‧‧‧光軸
Bh‧‧‧橫偏移量
Br‧‧‧旋轉量
Bv‧‧‧縱偏移量
CR‧‧‧光學中心
d‧‧‧焦點距離
D‧‧‧距離
D1L‧‧‧距離
D1R‧‧‧距離
D2L‧‧‧距離
D2R‧‧‧距離
Da‧‧‧距離
Db‧‧‧距離
EL‧‧‧調整用圖像
ER‧‧‧調整用圖像
Fm‧‧‧視差之計測值
Ft‧‧‧視差之理論值
Hh‧‧‧橫向調整量
Hr‧‧‧旋轉方向調整量
Hv‧‧‧縱向調整量
IL‧‧‧圖像
ILc‧‧‧圖像
IR‧‧‧圖像
J1‧‧‧直線
J2‧‧‧直線
J3‧‧‧直線
J4‧‧‧直線
KL‧‧‧假想線
KR‧‧‧假想線
Lm‧‧‧投影點之間隔
LM‧‧‧標記之間隔
M1‧‧‧標記(第1標記)
M2‧‧‧標記(第2標記)
MG‧‧‧標記群
mL1‧‧‧投影點
mL2‧‧‧投影點
mR1‧‧‧投影點
mR2‧‧‧投影點
OL‧‧‧圖像中心
OR‧‧‧圖像中心
P‧‧‧平面
QR‧‧‧點
QR'‧‧‧點
T‧‧‧跑道
Ta‧‧‧點
Tab‧‧‧標記群拍攝區間
Tb‧‧‧點
uL‧‧‧橫軸
uR‧‧‧橫軸
vL‧‧‧縱軸
vL1‧‧‧投影點mL1之縱向上之位置
vL2‧‧‧投影點mL2之縱向上之位置
vR‧‧‧縱軸
vR1‧‧‧投影點mR1之縱向上之位置
vR2‧‧‧投影點mR2之縱向上之位置
X‧‧‧橫向
Y‧‧‧上下方向
Z‧‧‧前後方向
Zb‧‧‧後方向
Zf‧‧‧前方向
α‧‧‧角度
β‧‧‧角度
圖1係實施例之車輛之前視圖。
圖2係車輛與跑道之俯視圖。
圖3係車輛與標記之側視圖。
圖4係標記之正面圖。
圖5係表示實施例之攝影裝置之構成之方塊圖。
圖6(a)、圖6(b)係分別模式性地例示圖像之圖。
圖7(a)、圖7(b)係分別模式性地例示圖像中之投影點之圖。
圖8係算出相機與標記之間之光軸方向上之距離之方法的說明圖。
圖9係表示攝影裝置之動作例之流程圖。
圖10係算出相機與標記之間之光軸方向上之距離之方法之變化實施例的說明圖。
圖11係表示變化實施例之攝影裝置之構成之方塊圖。
以下,參照圖式對本發明之實施例進行說明。
1.車輛之概略構成
圖1係實施例之車輛1之前視圖,圖2係車輛1與跑道T之俯視圖。於本實施例中,車輛1為於高爾夫球場內行駛之高爾夫球車。於高爾夫球場內預先鋪設有跑道T。車輛1於跑道T上自主行駛。車輛1反覆於跑道T上行駛。車輛1於跑道T上行駛係指車輛1實際運轉。
於本說明書中,將車輛1前進之方向稱為「前方向Zf」,將與前方 向相反之方向稱為「後方向Zb」(參照圖3)。使用者以朝向前方向Zf之姿勢乘坐於車輛1。於以下之說明中,「右」、「左」、「上」及「下」分別指對於乘坐於車輛1之使用者而言之「右」、「左」、「上」及「下」。又,於不特別地區分前方向Zf與後方向Zb之情形時,簡稱為「前後方向Z」。進而,適當地將左右方向稱為「橫向X」。前後方向Z、橫向X及上下方向Y相互正交。
車輛1包括車輛本體3與一對相機11R、11L。相機11R、11L構成立體相機。各相機11R、11L係固定於車輛本體3之前表面。
於各相機11R、11L未發生「位置偏移」之情形時,各相機11R、11L之配置及姿勢為所謂之平行立體。即,相機11R之光軸AR與左相機11L之光軸AL相互平行。於本實施例中,光軸AR、AL分別與前方向Zf平行。又,各相機11R、11L相互隔開特定之間隔距離(基線長)於橫向X上排列。相機11R係配置於相機11L之右側。以下,適當地將相機11R、11L稱為「右相機11R」、「左相機11L」。
相機11R、11L進行立體視覺之拍攝。各相機11R、11L可同時拍攝同一被攝體。被攝體例如為地面、跑道、樹木、障礙物。
各相機11R、11L例如為可見光相機。各相機11R、11L係藉由CMOS(Complementary Metal Oxide Semiconductor,互補金屬氧化物半導體)感測器或CCD(Charge coupled Device,電荷耦合器件)感測器等實現。相機11R、11L係本發明中之圖像感測器之例。
如圖2所示,於跑道T之附近,設置有標記群MG。標記群MG包含2個標記M1、M2。標記M1、M2係分別以隔著跑道T之方式配置。標記M1與標記M2之間之距離LM既知。於本說明書中,適當地將「距離LM」記載為「間隔LM」。
參照圖2及圖3。圖3係車輛1與標記M1、M2之側視圖。於本實施例中,於車輛1位於跑道T上之自點Ta至點Tb之區間Tab時,各相機 11R、11L可分別拍攝標記M1、M2之兩者。以下,適當地將區間Tab稱為「標記群拍攝區間Tab」。
由於標記群拍攝區間Tab為直線,故而於車輛1位於標記群拍攝區間Tab時,光軸AR/AL實質上固定。如圖3所示,於側視時,光軸AR/AL與標記群拍攝區間Tab中之路面大致平行。
此處,將相對於車輛1位於區間Tab時之光軸AR/AL大致垂直之一平面設為「平面P」。標記M1、M2分別以位於平面P上之方式配置。其結果為,於車輛1位於標記群拍攝區間Tab之情形時,相機11R、11L在光軸方向AR/AL上與標記M1隔開之距離、和相機11R、11L在光軸方向AR/AL上與標記M2隔開之距離大致相等。
更詳細地進行說明。於車輛1位於標記群拍攝區間Tab之情形時,以下關係成立。右相機11R與標記M1之間之光軸AR方向上之距離D1R、和右相機11R與標記M2之間之光軸AR方向上之距離D2R大致相等。而且,左相機11L與標記M1之間之光軸AL方向上之距離D1L、和左相機11L與標記M2之間之光軸AL方向上之距離D2L大致相等。又,由於右相機11R與左相機11L構成立體相機,故而距離D1R、D2R與距離D1L、D2L大致相等。以下,於不特別地區分距離D1R、D2R、D1L、D2L之情形時,簡單地記載為「距離D」。距離D相當於相機11R/11L與平面P之距離。再者,「於光軸方向AR/AL上隔開之距離」、及「光軸方向AR/AL上之距離」係指光軸方向AR/AL之成分之距離。
圖4係標記M1、M2之正面圖。標記M1、M2分別顯示於標記支持具15之正面。於本實施例中,標記M1與標記M2配置於大致相同之高度位置。標記M1、M2係本發明中之第1標記、第2標記之例。
2.攝影裝置之構成
其次,對攝影裝置5之構成進行說明。圖5係表示攝影裝置之構成之方塊圖。
車輛1具備攝影裝置5。攝影裝置5除了包括上述相機11R、11L以外,還包括圖像處理部13。圖像處理部13對由右相機11R拍攝所得之圖像IR、與由左相機11L拍攝所得之圖像IL進行處理。再者,「圖像IR」等係指可由圖像處理部13進行處理之圖像資訊。圖像處理部13係藉由例如中央運算處理裝置(CPU,Central Processing Unit(中央處理單元))與記憶部實現。
圖6(a)、(b)模式性地例示一對圖像IR、IL。所謂「一對圖像IR、IL」係指同時進行拍攝所得之圖像IR、IL之組合。
圖像IR上之位置係以包含橫軸uR、及縱軸vR之座標表示。橫軸uR與圖像IR之橫向平行,縱軸vR與圖像IR之縱向平行。圖像中心OR相當於圖像IR與光軸AR之交點。
圖像IL上之位置係以包含橫軸uL、及縱軸vL之座標表示。橫軸uL與圖像IL之橫向平行,縱軸vL與圖像IL之縱向平行。圖像中心OL相當於圖像IL與光軸AL之交點。
圖6(b)例示左相機11L發生位置偏移之情形。然而,若各相機11R、11L未發生位置偏移,則橫軸uR與橫軸uL為同軸,縱軸vR與縱軸vL平行。又,若各相機11R、11L未發生位置偏移,則橫軸uR、uL分別與橫向X平行,縱軸vR、vL分別與上下方向Y平行。進而,若各相機11R、11L未發生位置偏移,則圖像IR、IL之間之關於標記M1、M2之視差與拍攝圖像IR、IL之時點時之距離D對應。
參照圖5。圖像處理部13包含修正參數記憶部21、圖像修正部22、圖像記憶部23、圖像再修正部24、調整用圖像特定部25、攝影條件記憶部26、橫偏移量調整部27、縱偏移量調整部28、及旋轉量調整部29。以下,對各部21至29進行說明。
修正參數記憶部21記憶修正參數。修正參數例如為橫偏移量Bh、縱偏移量Bv及旋轉量Br。如圖6(b)所示,橫偏移量Bh為橫軸uL 方向之移動量。縱偏移量Bv為縱軸vL方向之移動量。旋轉量Br為旋轉方向之角度。再者,旋轉之中心例如為圖像中心OL。修正參數Bh、Bv、Br係以適當之形式表示。例如,亦可藉由修正圖或矩陣式表示修正參數Bh、Bv、Br。
圖像修正部22使用記憶於修正參數記憶部21之修正參數Bh、Bv、Br,對圖像IL進行修正。具體而言,圖像修正部22使圖像IL沿圖像IL之橫向平行移動橫偏移量Bh之程度,使圖像IL沿圖像IL之縱向平行移動縱偏移量Bv之程度,使圖像IL繞圖像中心OL旋轉旋轉量Br之程度。
藉由修正,圖像IL上之各位置(uL,vL)之像素例如移動至新的位置(u+△,vL+△)。原來之位置(uL,vL)之像素值規定新的位置(uL+△,vL+△)之像素值。該修正之結果係產生圖像ILc。
圖像記憶部23記憶圖像IL。
圖像再修正部24係於記憶於修正參數記憶部21之修正參數Bh、Bv、Br中之至少任一者被變更之情形時,使用最新之修正參數Bh、Bv、Br,再次對圖像IL進行修正。修正本身與圖像修正部22進行之修正相同。
調整用圖像特定部25判定一對圖像IR、ILc是否分別為調整用圖像ER、EL。以下例示調整用圖像特定部25之具體處理。
圖7(a)係模式性地表示標記M1、M2投影於圖像IR上之點即投影點mR1、mR2之圖,圖7(b)係模式性地表示標記M1、M2投影於圖像ILc上之點即投影點mL1、mL2之圖。如圖7(a)所示,調整用圖像特定部25基於圖像IR,檢測圖像IR上之標記M1、M2之投影點mR1、mR2。如圖7(b)所示,調整用圖像特定部25基於圖像ILc,檢測圖像ILc上之標記M1、M2之投影點mL1、mL2。於檢測投影點mR1、mR2、mL1、mL2時,調整用圖像特定部25進行例如使用關於標記 M1、M2之模板之模板匹配。
此處,調整用圖像特定部25既可識別投影點mR1為標記M1及標記M2中之哪一個之投影點,亦可不識別。關於其他投影點mR2、mL1、mL2亦同樣。以下,於不特別地區分投影點mR1、mR2之情形時,記載為「投影點mR」,於不特別地區分投影點mL1、mL2之情形時,記載為「投影點mL」。進而,於不特別地區分投影點mR、mL之情形時,記載為「投影點m」。
調整用圖像特定部25基於投影點m,判定圖像IR、ILc是否分別為調整用圖像ER、EL。具體而言,基於投影點m之個數及各投影點m之位置,進行判定處理。
例如,調整用圖像特定部25判定投影點m是否滿足以下判定條件1至4之全部。
判定條件1:圖像IR之投影點mR之個數為2個。
判定條件2:一投影點mR1之縱向上之位置vR1與另一投影點mR2之縱向上之位置vR2之差△vR為閾值以下。
判定條件3:圖像IL之投影點mL之個數為2個。
判定條件4:一投影點mL1之縱向上之位置vL1與另一投影點mL2之縱向上之位置vL2之差△vL為閾值以下。
閾值例如為10像素。而且,於判定為投影點m滿足判定條件1至4之情形時,調整用圖像特定部25將圖像IR特定為調整用圖像ER,將圖像ILc特定為調整用圖像EL。於並非如此之情形時,不將圖像IR、IL特定為調整用圖像ER、EL。
攝影條件記憶部26記憶有關於標記M1、M2之間隔LM之資訊。攝影條件記憶部26進而記憶有右相機11R及左相機11L之內部參數及外部參數。
橫偏移量調整部27基於調整用圖像ER、EL,調整記憶於修正參 數記憶部21之橫偏移量Bh。橫偏移量調整部27包括測定部31、理論值計算部32、橫向調整量計算部33、及橫偏移量變更部34。以下,對各部31至34進行說明。
測定部31基於調整用圖像ER、EL計測關於標記M1、M2之任一者之視差,而取得視差之計測值Fm。以下例示測定部31之具體處理。
測定部31特定出調整用圖像ER之投影點mR與調整用圖像EL之投影點mL之對應關係。於特定出對應關係時,測定部31進行例如立體匹配。藉此,測定部31特定出投影點mR1與投影點mL1對應、及投影點mR2與投影點mL2對應。
繼而,測定部31計測任一個投影點mR之橫向上之位置、與對應於該投影點mR之投影點mL之橫向上之位置之差。測定部31將計測所得之差設為關於標記M1、M2之任一者之視差之計測值Fm。
理論值計算部32基於調整用圖像ER與間隔LM,算出視差之理論值Ft。視差之理論值Ft係於假設右相機11R及左相機11L未發生位置偏移時理應獲得之關於標記M1、M2之視差。
更詳細而言,理論值計算部32基於調整用圖像ER與間隔LM,推斷相機11R與平面P之距離。該推斷係與計算相機11R與標記M1、M2之間之光軸方向AR上之距離D1R、D2R同義,且與計算相機11L與標記M1、M2之間之光軸方向AL上之距離D1L、D2L同義。換言之,所推斷之距離相當於「距離D」。繼而,理論值計算部32基於距離D算出視差之理論值Ft。
首先,參照圖8,對推斷距離D之方法進行說明。圖8係將調整用圖像ER模型化所得之圖。於圖8中,光軸AR於點QR處與平面P正交。經模型化之調整用圖像ER位於與光軸AR正交之平面上。換言之,經模型化之調整用圖像ER與平面P平行。光軸方向AR與調整用圖像ER 正交之點相當於圖像中心OR。右相機11R之光學中心CR位於光軸方向AR上。
投影點mR1、mR2位於調整用圖像ER上,標記M1、M2位於平面P上。標記M1位於連結光學中心CR與投影點mR1之線J1上,標記M2位於連結光學中心CR與投影點mR2之線J2上。以光學中心CR、投影點mR1及投影點mR2作為頂點之三角形、與以光學中心CR、標記M1及標記M2作為頂點之三角形相似。
此處,將光學中心CR視為右相機11R之嚴密之位置,將距離D設為光學中心CR與平面P(點QR)之距離。又,將光學中心CR與調整用圖像ER(圖像中心OR)之距離規定為「焦點距離d」。進而,將投影點mR1與投影點mR2之距離規定為「間隔Lm」。再者,標記M1與M2之間隔LM為實際空間上之距離,相對於此,間隔Lm為調整用圖像ER上之距離。若如此,間隔Lm與間隔LM之比等於焦點距離d與距離D之比。即,以下關係式成立。
Lm/LM=d/D...(1)
再者,間隔LM既知。間隔Lm係由調整用圖像ER(投影點mR1、mR2)賦予。焦點距離d係由右相機11R之內部參數賦予。根據該等間隔LM、間隔Lm、及焦點距離d,而唯一地決定距離D。
其次,以下例示理論值計算部32之具體處理。理論值計算部32自攝影條件記憶部26讀出間隔LM與右相機11R之內部參數。理論值計算部32基於右相機11R之內部參數,取得焦點距離d。理論值計算部32基於調整用圖像ER,求出投影點mR1與投影點mR2之間之間隔Lm。理論值計算部32將間隔Lm、間隔LM及焦點距離d代入至關係式(1),而算出距離D。進而,理論值計算部32基於距離D、以及相機11R、11L之內部參數及外部參數,算出關於標記M1、M2之視差之理論值Ft。
橫向調整量計算部33基於視差之計測值Fm與視差之理論值Ft算出橫向調整量Hh。橫向調整量計算部33較佳為以使視差之計測值Fm與視差之理論值Ft相等之方式,決定橫向調整量Hh。橫向調整量Hh例如為視差之計測值Fm與視差之理論值Ft之差。
橫偏移量變更部34基於橫向調整量Hh變更橫偏移量Bh。於本實施例中,橫偏移量變更部34對記憶於修正參數記憶部21之橫偏移量Bh加減橫向調整量Hh。算出之值作為新的橫偏移量Bh記憶於修正參數記憶部21。
縱偏移量調整部28基於調整用圖像ER、EL調整縱偏移量Bv。縱偏移量調整部28包括縱向調整量計算部36與縱偏移量變更部37。
縱向調整量計算部36基於處於對應關係之1組以上之投影點mR、點mL,算出縱向調整量Hv。縱向調整量計算部36較佳為以使投影點mR之縱向上之位置與對應於投影點mR之投影點mL之縱向上之位置相同之方式,決定縱向調整量Hv。於投影點mR1與投影點mL1處於對應關係之情形時,縱向調整量Hv例如為投影點mR1之縱向上之位置vR1與投影點mL1之縱向上之位置vL1之差。
縱偏移量變更部37基於縱向調整量Hv變更縱偏移量Bv。於本實施例中,縱偏移量變更部37對記憶於修正參數記憶部21之縱偏移量Bv加減縱向調整量Hv。算出之值作為新的縱偏移量Bv記憶於修正參數記憶部21。
旋轉量調整部29基於調整用圖像ER、EL調整旋轉量。旋轉量調整部29包括旋轉方向調整量計算部38與旋轉量變更部39。
旋轉方向調整量計算部38基於處於對應關係之2組以上之投影點mR、mL,算出旋轉方向調整量Hr。參照圖7,旋轉方向調整量計算部38較佳為以使連結投影點mR1、mR2之假想線KR之斜率與連結投影點mL1、mL2之假想線KL之斜率相等之方式,決定旋轉方向調整量 Hr。旋轉方向調整量Hr例如為假想線KR與假想線KL所形成之角度。
旋轉量變更部39基於旋轉方向調整量Hr變更旋轉量Br。於本實施例中,旋轉量變更部39對記憶於修正參數記憶部21之旋轉量Br加減旋轉方向調整量Hr。算出之值作為新的旋轉量Br記憶於修正參數記憶部21。
攝影裝置5亦可進而包括對圖像IR、ILc進行處理之立體處理部(未圖示)。例如,立體處理部亦可基於圖像IR、ILc,計算圖像IR、ILc之深度方向上之資訊。例如,立體處理部亦可基於圖像IR、ILc,計算光軸方向AR/AL上之至被攝體之距離。又,例如,立體處理部亦可基於圖像IR、ILc,檢測妨礙車輛1之行駛之障礙物。
3.動作說明
其次,對實施例之車輛1之動作進行說明。圖9係表示攝影裝置5之動作例之流程圖。於以下之說明中,設為車輛1正在跑道T上行駛。即,以下說明於車輛1正在行駛時攝影裝置5執行之動作例。
<步驟S1> 攝影
右相機11R及左相機11L分別拍攝圖像IR、IL。
<步驟S2> 圖像之擷取
圖像處理部13擷取圖像IR、IL。圖像IL係記憶於圖像記憶部23。
<步驟S3> 圖像之修正
圖像修正部22自修正參數記憶部21讀出最新之橫偏移量Bh、縱偏移量Bv、及旋轉量Br。圖像修正部22使用讀出之修正參數Bh、Bv、Br對圖像IL進行修正。藉此,圖像修正部22產生圖像ILc。
<步驟S4> 圖像為調整用圖像?
調整用圖像特定部25基於圖像IR檢測投影點mR。調整用圖像特定部25基於圖像ILc檢測投影點mL。調整用圖像特定部25基於投影點mR、mL,判定圖像IR、ILc是否為調整用圖像ER、EL。於判定為圖 像IR、ILc為調整用圖像ER、EL之情形時,進入步驟S5。於並非如此之情形時,返回至步驟S1。
<步驟S5> 調整量之算出
橫偏移量調整部27算出橫向調整量Hh。具體而言,測定部31基於調整用圖像ER、EL取得視差之計測值Fm。理論值計算部32基於調整用圖像ER取得視差之理論值Ft。橫向調整量計算部33基於視差之計測值Fm與視差之理論值Ft算出橫向調整量Hh。
與上述處理並行,縱向調整量計算部36基於調整用圖像ER、EL算出縱向調整量Hv。旋轉方向調整量計算部38基於調整用圖像ER、EL算出旋轉方向調整量Hr。
<步驟S6> 修正參數之變更
橫偏移量變更部34使用橫向調整量Hh變更橫偏移量Bh。縱偏移量變更部37使用縱向調整量Hv變更縱偏移量Bv。旋轉量變更部39使用旋轉方向調整量Hr變更旋轉量Br。
<步驟S7> 圖像之再修正
圖像再修正部24自圖像記憶部23讀出圖像IL,且自修正參數記憶部21讀出變更後之修正參數Bh、Bv、Br。繼而,圖像再修正部24使用修正參數Bh、Bv、Br,對圖像IL進行修正。其後,返回至步驟S1。
如此,根據實施例,攝影裝置5由於包括橫偏移量調整部27,故而可較佳地調整橫偏移量Bh。由此,圖像修正部22可使用適當之橫偏移量Bh使圖像IL沿橫向平行移動。藉此,與圖像IR、IL之視差相比,圖像IR、ILc之視差變得接近於視差之理論值Ft。由此,即便於相機11R、11L發生位置偏移時,亦可基於圖像IR、ILc,精度良好地獲得關於被攝體之深度方向上之資訊。如此,即便於相機11R、11L之位置及姿勢發生偏移之情形時,亦可較佳地維持攝影裝置5之精度 及可靠性。其結果為,可較佳地防止車輛1之運轉率下降。
尤其是理論值計算部32不使用調整用圖像ER、EL之兩者,而使用一調整用圖像ER,算出視差之理論值Ft。該算出方法與使用調整用圖像ER、EL之兩者之情形相比,不易受相機11R、11L之位置偏移影響。由此,理論值計算部32可精度良好地取得視差之理論值Ft。
理論值計算部32利用標記M1、M2之間隔LM與投影點mR1、mR2之間隔Lm之關係,算出相機11R/11L與標記M1、M2之間之光軸方向AR/AL上之距離D。藉此,理論值計算部32可較佳地算出視差之理論值Ft。
測定部31取得相當於圖像IR與圖像ILc之間之實際之視差的「視差之計測值Fm」。由此,橫向調整量計算部33可掌握視差之計測值Fm與視差之理論值Ft之偏差。其結果為,橫向調整量計算部33可決定適當之橫向調整量Hh。尤其是於橫向調整量Hh為視差之計測值Fm與視差之理論值Ft之差之情形時,可使圖像IR與圖像ILc之間之實際之視差與視差之理論值Ft一致。
又,橫偏移量調整部27由於包括橫偏移量變更部34,故而可較佳地更新記憶於修正參數記憶部21之橫偏移量Bh。於本實施例中,調整用圖像EL為由圖像修正部22修正後之圖像ILc,因此,橫偏移量變更部34對用以產生調整用圖像EL之橫偏移量Bh加減橫向調整量Hh。藉此,可較佳地調整橫偏移量。
又,由於包括調整用圖像特定部25,故而可較佳地特定出適當地拍攝標記M1、M2所得之圖像IR、ILc。
又,由於包括縱偏移量調整部28,故而可較佳地調整縱偏移量Bh。由此,圖像修正部22可更加適當地修正圖像IL。
又,由於包括旋轉量調整部29,故而可較佳地調整旋轉量Br。由此,圖像修正部22可更加適當地修正圖像IL。
又,藉由考慮跑道T之佈局、相機11R、11L之光軸AR/AL等而適當地配置標記M1、M2,可於跑道T上較佳地形成標記群拍攝區間Tab。藉此,可較佳地獲得調整用圖像ER、EL。
具體而言,以於直線性標記群拍攝區間Tab內各相機11R、11L可拍攝標記M1、M2之兩者之方式,設置有標記M1、M2。進而,於相對於標記群拍攝區間Tab中之相機11R、11L之光軸AR/AL大致垂直之平面P上,配置有標記M1、M2。此處,「大致垂直之」係包含嚴格地垂直、及以可適當地調整橫偏移量Bh之程度接近於垂直之兩種含義。
因此,於標記群拍攝區間Tab,相機11R可同時拍攝在光軸方向AR上隔開大致相同距離之複數個標記M1、M2。此處,「大致相同」包含嚴格地相等、及以可精確地修正橫偏移量Bh之程度近似之兩種含義。由此,理論值計算部32可基於圖像IR,精度良好地推斷距離D,且可精度良好地算出視差之理論值Ft。又,於標記群拍攝區間Tab,相機11L亦可與相機11R同樣地拍攝標記M1、M2。由此,測定部31可基於圖像IR、ILc,較佳地取得視差之計測值Fm。
進而,標記M1、M2係配置於大致相同之高度位置。藉此,可簡化理論值計算部32算出投影點mR1、mR2之間隔Lm之處理。又,可簡化調整用圖像特定部25判定各投影點m之位置是否滿足判定條件2、4之處理。
又,由於上述標記群拍攝區間Tab為跑道T之一部分,故而於車輛1正在實際運轉時,相機11R、11L可較佳地拍攝標記M1、M2,圖像處理部13可較佳地對修正參數Bh、Bv、Br進行調整。由此,可不使車輛1之運轉率下降,而較佳地維持攝影裝置5之精度及可靠性。
又,由於跑道T係預先決定,故而可將標記M1、M2預先設置於適當之位置。由此,各相機11R、11L可適當地拍攝標記M1、M2。由 此,圖像處理部13可更加精度良好地對修正參數Bh、Bv、Br進行調整。
本發明並不限定於上述實施例,可如下所述般變化實施。
(1)於上述實施例中,理論值計算部32係基於間隔LM與間隔Lm,計算距離D,但並不限定於此。例如,理論值計算部32亦可利用三角測量之方法或使用幾何學之方法,算出距離D。
參照圖10,作為變化實施例之方法之一例,對使用三角測量之方法推斷距離D之方法進行說明。圖10係將調整用圖像ER模型化所得之圖。再者,藉由對與實施例相同之構成標註相同之符號,而省略詳細之說明。
於圖10中,直線J3係連結投影點mR1與投影點mR2之線。直線J4係連結標記M1與標記M2之線。角度α係直線J1與直線J3所形成之角度。角度β係直線J2與直線J3所形成之角度。角度α、β分別相當於以光學中心CR、投影點mR1及投影點mR2作為頂點之三角形之內角。該三角形與以光學中心CR、標記M1及標記M2作為頂點之三角形相似。由此,角度α與直線J1與直線J4所形成之角度相等,角度β與直線J2與直線J4所形成之角度相等。
此處,點QR'係自光學中心CR垂直地下引至直線J4上之點。將光學中心CR與點QR'之距離規定為「距離Da」。
若如此,則距離Da可使用三角測量之方法,由以下式(2)表示。
Da=LMsinαsinβ/sin(α+β)...(2)
以光學中心CR、點QR及點QR'作為頂點之三角形為直角三角形。此處,將點QR與點QR'之距離規定為「距離Db」。距離Db係根據相機11R與標記M1、M2之位置關係而計算。作為相對簡單之例,距離Db為相機11R之高度與標記M1、M2之高度之差。作為相對複雜之例,距離Db係使用相機11R之位置及角度、與標記M1、M2之位置而 算出。
按照畢氏定律(Pythagorean theorem),距離D係由以下式(3)表示。
於使用此種三角測量之方法之情形時,理論值計算部32基於間隔LM、與以光學中心CR及投影點mR1、mR2作為頂點之三角形之內角α、β,計算距離Da。具體而言,理論值計算部32自攝影條件記憶部26讀出間隔LM與右相機11R之內部參數。理論值計算部32基於調整用圖像ER與內部參數,計算光學中心CR及投影點mR1、mR2之相對位置關係,並基於光學中心CR及投影點mR1、mR2之相對位置關係,算出角度α、β。理論值計算部32將間隔LM及角度α、β代入至關係式(2),而算出距離Da。
繼而,理論值計算部32自攝影條件記憶部26讀出右相機11R之外部參數與標記M1、M2之各位置。再者,標記M1、M2之各位置亦預先記憶於攝影條件記憶部26。理論值計算部32基於右相機11R之外部參數與標記M1、M2之各位置,算出距離Db。進而,理論值計算部32使用關係式(3),計算距離D。
於上述變化實施例中,尤佳為將標記M1、M2配置於大致相同之高度位置。又,尤佳為於側視時光軸AR/AL與標記群拍攝區間Tab中之路面大致平行。其原因在於,理論值計算部32可簡便地算出距離Db。
於上述變化實施例中,進而尤佳為將相機11R/11L配置於與標記M1、M2大致相同之高度位置。藉此,點QR'與點QR一致,距離Da與 距離D相等。由此,理論值計算部32可使用關係式(2)直接地取得距離D,而可省略距離Db之計算。
(2)於上述實施例中,理論值計算部32係基於調整用圖像ER算出視差之理論值Ft,但並不限定於此。例如,理論值計算部32亦可基於調整用圖像EL算出視差之理論值Ft。使用調整用圖像EL,亦可較佳地算出視差之理論值Ft。又,例如,理論值計算部32亦可基於調整用圖像ER算出視差之理論值FtR,且基於調整用圖像EL算出視差之理論值FtL。於該情形時,理論值計算部32亦可進而基於視差之理論值FtR、FtL算出1個視差之理論值Ft。藉此,可更加精度良好地算出視差之理論值Ft。
(3)於上述實施例中,測定部31係基於處於對應關係之1組投影點mR、mL,取得關於標記M1、M2之任一者之視差之計測值Fm,但並不限定於此。例如,測定部31亦可基於處於對應關係之2組投影點mR、mL,取得關於標記M1、M2之兩者之視差之計測值Fm。於該情形時,測定部31亦可進而基於關於標記M1之視差之計測值Fm與關於標記M2之視差之計測值Fm,算出1個視差之計測值Fm。藉此,可更加精度良好地算出視差之計測值Fm。
(4)於上述實施例中,橫向調整量計算部33係以視差之計測值Fm與視差之理論值Ft相等之方式,決定橫向調整量Hh,但並不限定於此。例如,橫向調整量計算部33亦能夠以視差之計測值Fm與視差之理論值Ft之差變小之方式,決定橫向調整量Hh。藉由該變化實施例,亦可較佳地調整橫偏移量Bh。
同樣地,縱向調整量計算部36係以投影點mR之縱向上之位置與對應於投影點mR之投影點mL之縱向上之位置相同之方式,決定縱向調整量Hv,但並不限定於此。例如,縱向調整量計算部36亦能夠以投影點mR之縱向上之位置與對應於投影點mR之投影點mL之縱向上之 位置之差變小之方式,決定縱向調整量Hv。藉由該變化實施例,亦可較佳地調整縱偏移量Bv。
旋轉方向調整量計算部38係以假想線KR之斜率與假想線KL之斜率相等之方式,決定旋轉方向調整量Hr,但並不限定於此。例如,旋轉方向調整量計算部38亦能夠以假想線KR之斜率與假想線KL之斜率之差變小之方式,決定旋轉方向調整量Hr。藉由該變化實施例,亦可較佳地調整旋轉量Br。
(5)於上述實施例中,於已特定出調整用圖像ER、EL之情形時,橫偏移量調整部27必定變更橫偏移量Bh,但並不限定於此。例如,橫偏移量調整部27亦可根據橫向調整量Hh之值,選擇性地變更橫偏移量Bh。同樣地,於上述實施例中,於已特定出調整用圖像ER、EL之情形時,縱偏移量調整部28必定變更縱偏移量Bv,但並不限定於此。例如,縱偏移量調整部28亦可根據縱向調整量Hv之值,選擇性地變更縱偏移量Bv。又,於上述實施例中,於已特定出調整用圖像ER、EL之情形時,旋轉量調整部29必定變更旋轉量Br,但並不限定於此。例如,旋轉量調整部29亦可根據旋轉方向調整量Hr之值,選擇性地變更旋轉量Br。
參照圖11。圖11係表示變化實施例之攝影裝置之構成之方塊圖。再者,藉由對與上述實施例相同之構成標註相同之符號而省略詳細之說明。
橫偏移量調整部27進而包括橫向調整量判定部41。橫向調整量判定部41判定橫向調整量Hh是否為特定之閾值以上。於判定為橫向調整量Hh為特定之閾值以上之情形時,橫偏移量變更部34變更橫偏移量Bh。於並非如此之情形時,橫偏移量變更部34不變更橫偏移量Bh。
同樣地,縱偏移量調整部28進而包括縱向調整量判定部42。縱 向調整量判定部42判定縱向調整量Hv是否為特定之閾值以上。於判定為縱向調整量Hv為特定之閾值以上之情形時,縱偏移量變更部37變更縱偏移量Bv。於並非如此之情形時,縱偏移量變更部37不變更縱偏移量Bv。
旋轉量調整部29進而包括旋轉方向調整量判定部43。旋轉方向調整量判定部43判定旋轉方向調整量Hr是否為特定之閾值以上。於判定為旋轉方向調整量Hr為特定之閾值以上之情形時,旋轉量變更部39變更旋轉量Br。於並非如此之情形時,旋轉量變更部39不變更旋轉量Br。
於該變化實施例中,個別地變更修正參數Bh、Bv、Br。即,其結果為,分別有如下可能性:修正參數Bh、Bv、Br全部被變更,修正參數Bh、Bv、Br之一部分被變更,及修正參數Bh、Bv、Br中之任一者均未被變更。
根據該變化實施例,可較佳地防止橫偏移量Bh過於靈敏地變動。其結果為,圖像修正部22可更加適當地對圖像IL進行修正。同樣地,可較佳地防止縱偏移量Bv及旋轉量Br過於靈敏地變動。其結果為,圖像修正部22可進而更加適當地對圖像IL進行修正。
(6)於上述實施例中,圖像修正部22係對圖像IR、IL之一者進行了修正,但並不限定於此。例如,亦可修正圖像IR、IL之兩者。於該情形時,亦可如圖11所示般,修正參數記憶部21記憶圖像IR用之修正參數BhR、BvR、BrR、及圖像IL用之修正參數BhL、BvL、BrL。藉此,圖像修正部22可分別較佳地修正圖像IR、IL。
又,於該變化實施例中,橫偏移量調整部27亦可分別調整圖像IR用之橫偏移量BhR、與圖像IL用之橫偏移量BhL。同樣地,縱偏移量調整部28亦可分別調整縱偏移量BvR、BvL。旋轉量調整部29亦可分別調整旋轉量BrR、BrL。
(7)於上述實施例中,圖像修正部22進行使圖像IL移動之處理,但並不限定於此。例如,圖像修正部22亦可除了進行使圖像IL移動之處理以外,還修正圖像之失真(Distortion)。藉此,可更佳地修正圖像IL。
(8)於上述實施例中,調整用圖像ER為未藉由圖像修正部22進行修正之圖像IR,調整用圖像EL為藉由圖像修正部22進行了修正之圖像ILc,但並不限定於此。例如,亦可為調整用圖像ER為藉由圖像修正部22進行了修正之圖像,調整用圖像EL為未藉由圖像修正部22進行修正之圖像。又,於上述實施例中,調整用圖像ER、EL之一者為藉由圖像修正部22進行了修正之圖像ILc,但並不限定於此。例如,亦可調整用圖像ER、EL之兩者為藉由圖像修正部22進行了修正之圖像。藉此,橫偏移量調整部27、縱偏移量調整部28及旋轉量調整部29亦可分別較佳地調整修正參數Bh、Bv、Br。
又,例如,亦可調整用圖像ER、EL之兩者為未藉由圖像修正部22進行修正之圖像。具體而言,如圖11所示,調整用圖像特定部25亦可判定圖像IR、IL是否為調整用圖像ER、EL。於該變化實施例中,橫偏移量變更部34較佳為將橫向調整量Hh設定為新的橫偏移量Bh。藉此,橫向調整量Hh作為新的橫偏移量Bh記憶於修正參數記憶部21。同樣地,縱偏移量變更部37較佳為將縱向調整量Hv設定為新的縱偏移量Bv。旋轉量變更部39較佳為將旋轉方向調整量Hr設定為新的旋轉量Br。藉此,於調整用圖像ER、EL之兩者為未被修正之圖像之情形時,可分別較佳地調整修正參數Bh、Bv、Br。
進而,於該變化實施例中,亦可於判定為圖像IR、IL為調整用圖像ER、EL之情形時,各調整部27至29基於該調整用圖像ER、EL變更修正參數Bh、Bv、Br,且圖像修正部22使用經變更之修正參數Bh、Bv、Br,對被判定為調整用圖像ER、EL之圖像IR、IL進行修正。藉 此,可省略實施例中所說明之圖像再修正部24。
(9)於上述實施例中,例示了調整用圖像特定部25使用之判定條件1至4,但判定條件可適當地設計、選擇。
例如,調整用圖像特定部25亦可除了使用判定條件1至4以外,還使用以下所示之判定條件5。
判定條件5:差△vR與差△vL之間之差為閾值以下。
此處,差△vR係由判定條件2規定,差△vL係由判定條件4規定。
又,調整用圖像特定部25亦可使用以下所示之判定條件6至9。
判定條件6:圖像IR之投影點mR之個數為2個。
判定條件7:一投影點mR1位於圖像IR之區域WR1,另一投影點mR2位於圖像IR之區域WR2。
判定條件8:圖像IL之投影點mL之個數為2個。
判定條件9:一投影點mL1位於圖像IL之區域WL1,另一投影點mL2位於圖像IL之區域WL2。
此處,各區域WR1、WR2分別由橫軸uR之座標值及縱軸vR之座標值規定。同樣地,各WL1、WL2分別由橫軸uL之座標值及縱軸vL之座標值規定。藉由此種變化實施例,調整用圖像特定部25亦可較佳地判定圖像IR、ILc是否為調整用圖像ER、EL。
(10)於上述實施例中,包括橫偏移量調整部27、縱偏移量調整部28及旋轉量調整部29,但並不限定於此。例如,亦可省略該等調整部27至29中之任1個或2個。藉由該變化實施例,於車輛1正在實際運轉時,圖像處理部13亦可較佳地調整修正參數Bh、Bv、Br中之至少1個。
(11)於上述實施例中,攝影裝置5包括2台相機11R、11L,但並不限定於此。例如,攝影裝置5亦可包括3台以上之相機11。即,亦可由3台以上之相機11構成立體相機。
(12)於上述實施例中,光軸AR、AL分別與前方向Zf平行,但並不限定於此。即,光軸AR、AL亦可不與前方向Zf平行。
(13)於上述實施例中,標記群MG具備2個標記M1、M2,但並不限定於此。標記群MG亦可具備3個以上之標記M。於該變化實施例中,亦可將標記M配置於適當之位置。例如,亦可於實施例中所說明之平面P上配置3個以上之標記M。又,例如,亦可將2個以上之標記M配置於平面P上,且將其他標記M配置於自平面P偏離之位置。藉此,可更加精確地算出橫向調整量Hh、縱向調整量Hv及旋轉方向調整量Hr。
(14)於上述實施例中,車輛1為高爾夫球車,但並不限定於此。亦可將車輛1應用於各種用途。例如,車輛1亦可為用以在農園內行駛之車輛。又,車輛1亦可為無人行駛車。
(15)於上述實施例中,標記M1與標記M2係配置於大致相同之高度位置,但並不限定於此。例如,亦可任意地變更標記M1、M2之至少任一者之高度位置。
(16)關於上述實施例及上述(1)至(15)中所說明之各變化實施例,亦可進而將各構成與其他變化實施例之構成進行替換或組合等,而適當地變更。
5‧‧‧攝影裝置
11L‧‧‧相機(圖像感測器)
11R‧‧‧相機(圖像感測器)
13‧‧‧圖像處理部
21‧‧‧修正參數記憶部
22‧‧‧圖像修正部
23‧‧‧圖像記憶部
24‧‧‧圖像再修正部
25‧‧‧調整用圖像特定部
26‧‧‧攝影條件記憶部
27‧‧‧橫偏移量調整部
28‧‧‧縱偏移量調整部
29‧‧‧旋轉量調整部
31‧‧‧測定部
32‧‧‧理論值計算部
33‧‧‧橫向調整量計算部
34‧‧‧橫偏移量變更部
36‧‧‧縱向調整量計算部
37‧‧‧縱偏移量變更部
38‧‧‧旋轉方向調整量計算部
39‧‧‧旋轉量變更部
EL‧‧‧調整用圖像
ER‧‧‧調整用圖像
IL‧‧‧圖像
ILc‧‧‧圖像
IR‧‧‧圖像

Claims (15)

  1. 一種攝影裝置,其包括:一對圖像感測器;圖像修正部,其使由至少任一個上述圖像感測器拍攝所得之圖像沿上述圖像之橫向平行移動橫偏移量之程度;及橫偏移量調整部,其將上述圖像感測器之各者於在光軸方向上與第1標記隔開之距離和在光軸方向上與第2標記隔開之距離大致相等之位置拍攝第1標記及第2標記所得之圖像分別作為調整用圖像,並基於上述調整用圖像調整上述橫偏移量;且上述橫偏移量調整部包括:測定部,其基於上述調整用圖像之兩者計測關於上述第1標記及上述第2標記之至少任一者之視差,而取得視差之計測值;理論值計算部,其基於上述第1標記與上述第2標記之間之間隔、及上述調整用圖像中之任一者,算出關於上述第1標記及上述第2標記之視差之理論值;橫向調整量計算部,其基於上述視差之計測值與上述視差之理論值算出橫向調整量;及橫偏移量變更部,其使用上述橫向調整量變更上述橫偏移量。
  2. 如請求項1之攝影裝置,其中上述理論值計算部基於上述第1標記與上述第2標記之間之上述間隔、以及任一個上述調整用圖像上之上述第1標記之投影點及上述第2標記之投影點,計算上述第1標記及上述第2標記與上述圖像感測器之間之光軸方向上之距離,並基於上述距離算出上述視差之理論值。
  3. 如請求項1之攝影裝置,其中上述理論值計算部基於上述第1標記與上述第2標記之間之上述間隔、以及任一個上述調整用圖像上之上述第1標記之投影點與上述第2標記之投影點之間之間隔,計算上述第1標記及上述第2標記與上述圖像感測器之間之光軸方向上之距離,並基於上述距離算出上述視差之理論值。
  4. 如請求項1至3中任一項之攝影裝置,其中上述橫向調整量計算部以使上述視差之計測值與上述視差之理論值之差變小之方式,決定上述橫向調整量。
  5. 如請求項1至3中任一項之攝影裝置,其中上述調整用圖像之至少一者為已藉由上述圖像修正部進行過處理之圖像,上述橫偏移量變更部對上述圖像修正部所使用之上述橫偏移量加減上述橫向調整量。
  6. 如請求項1至3中任一項之攝影裝置,其中上述調整用圖像之兩者為未藉由上述圖像修正部進行處理之圖像,上述橫偏移量變更部將上述橫向調整量設定為新的上述橫偏移量。
  7. 如請求項1至3中任一項之攝影裝置,其中上述攝影裝置進而包括調整用圖像特定部,該調整用圖像特定部基於圖像上之上述第1標記之投影點及上述第2標記之投影點,判定自上述圖像感測器之各者獲得之圖像是否為調整用圖像。
  8. 如請求項1至3中任一項之攝影裝置,其中上述第1標記與上述第2標記係配置於大致相同之高度位置。
  9. 如請求項1至3中任一項之攝影裝置,其中上述圖像修正部進而使由至少任一個上述圖像感測器拍攝所得之圖像沿上述圖像之縱向平行移動縱偏移量之程度,上述攝影裝置進而包括縱偏移量調整部,該縱偏移量調整部基於上述調整用圖像調整上述縱偏移量。
  10. 如請求項1至3中任一項之攝影裝置,其中上述圖像修正部進而使由至少任一個上述圖像感測器拍攝所得之圖像旋轉旋轉量之程度,上述攝影裝置進而包括旋轉量調整部,該旋轉量調整部基於上述調整用圖像調整上述旋轉量。
  11. 一種車輛,其具備如請求項1至10中任一項之攝影裝置。
  12. 如請求項11之車輛,其中於上述車輛在跑道上行駛時,上述圖像感測器分別拍攝上述第1標記及上述第2標記。
  13. 如請求項11或12之車輛,其中上述跑道係預先決定,上述車輛係於上述跑道上自主行駛。
  14. 一種圖像修正方法,其包括如下步驟:於車輛正在行駛時,搭載於車輛之複數個圖像感測器拍攝設置於車輛外部之標記群;對自上述圖像感測器中之至少任一者獲得之圖像進行修正;及對將自上述圖像感測器獲得且標記群所投影之圖像作為調整用圖像,並基於上述調整用圖像修正上述圖像之步驟中所使用之修正參數進行調整。
  15. 如請求項14之圖像修正方法,其中上述修正參數為橫偏移量, 上述修正圖像之步驟係使上述圖像沿上述圖像之橫向平行移動上述橫偏移量之程度,上述標記群包含相互隔開間隔而配置之第1標記與第2標記,於執行上述進行拍攝之步驟時,上述圖像感測器與第1標記之間之光軸方向上之距離和上述圖像感測器與第2標記之間之光軸方向上之距離大致相等,上述調整修正參數之步驟包括如下步驟:基於上述調整用圖像之兩者,計測關於上述第1標記及上述第2標記之至少任一者之視差,而取得視差之計測值;基於上述第1標記與上述第2標記之間之上述間隔、及上述調整用圖像中之任一者,算出關於上述第1標記及上述第2標記之視差之理論值;基於上述視差之計測值與上述視差之理論值算出橫向調整量;及使用上述橫向調整量變更上述橫偏移量。
TW104104795A 2014-02-12 2015-02-12 Photographic apparatus, vehicle and image correction method TWI551490B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014024466 2014-02-12

Publications (2)

Publication Number Publication Date
TW201534514A TW201534514A (zh) 2015-09-16
TWI551490B true TWI551490B (zh) 2016-10-01

Family

ID=53800132

Family Applications (1)

Application Number Title Priority Date Filing Date
TW104104795A TWI551490B (zh) 2014-02-12 2015-02-12 Photographic apparatus, vehicle and image correction method

Country Status (4)

Country Link
JP (1) JP6161704B2 (zh)
KR (1) KR101812530B1 (zh)
TW (1) TWI551490B (zh)
WO (1) WO2015122389A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6765065B2 (ja) * 2017-11-15 2020-10-07 パナソニックIpマネジメント株式会社 車載カメラ装置
WO2019234936A1 (ja) * 2018-06-08 2019-12-12 マクセル株式会社 携帯端末、カメラ位置推定システム、カメラ位置推定方法および標識板
JP2020112959A (ja) * 2019-01-10 2020-07-27 株式会社ダイフク 物品搬送装置
JP7291594B2 (ja) * 2019-10-02 2023-06-15 株式会社Subaru 画像処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101223416A (zh) * 2005-07-13 2008-07-16 丰田自动车株式会社 物体检测装置
US20130190281A1 (en) * 2008-11-26 2013-07-25 Satiogen Pharmaceuticals, Inc. Compositions Containing Satiogens and Methods of Use
JP2013190281A (ja) * 2012-03-13 2013-09-26 Honda Elesys Co Ltd 設置状態検出システム、設置状態検出装置、及び設置状態検出方法
TWM466839U (zh) * 2013-07-26 2013-12-01 Univ Chaoyang Technology 車輛警示系統

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3436074B2 (ja) * 1997-06-10 2003-08-11 トヨタ自動車株式会社 車載ステレオカメラ
JP3666348B2 (ja) * 2000-03-27 2005-06-29 豊田工機株式会社 距離認識装置
JP2007256030A (ja) * 2006-03-23 2007-10-04 Clarion Co Ltd 車載カメラのキャリブレーション装置およびキャリブレーション方法
JP2008304248A (ja) * 2007-06-06 2008-12-18 Konica Minolta Holdings Inc 車載用ステレオカメラの校正方法、車載用距離画像生成装置及びプログラム
JP5915268B2 (ja) * 2012-03-05 2016-05-11 富士通株式会社 パラメータ算出方法、情報処理装置及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101223416A (zh) * 2005-07-13 2008-07-16 丰田自动车株式会社 物体检测装置
US20130190281A1 (en) * 2008-11-26 2013-07-25 Satiogen Pharmaceuticals, Inc. Compositions Containing Satiogens and Methods of Use
JP2013190281A (ja) * 2012-03-13 2013-09-26 Honda Elesys Co Ltd 設置状態検出システム、設置状態検出装置、及び設置状態検出方法
TWM466839U (zh) * 2013-07-26 2013-12-01 Univ Chaoyang Technology 車輛警示系統

Also Published As

Publication number Publication date
WO2015122389A1 (ja) 2015-08-20
KR20160013994A (ko) 2016-02-05
JP6161704B2 (ja) 2017-07-12
TW201534514A (zh) 2015-09-16
JPWO2015122389A1 (ja) 2017-03-30
KR101812530B1 (ko) 2017-12-27

Similar Documents

Publication Publication Date Title
TWI551490B (zh) Photographic apparatus, vehicle and image correction method
KR102085228B1 (ko) 깊이 센서의 깊이 보정을 위한 이미지 처리방법 및 그 장치
CN110264525B (zh) 一种基于车道线与目标车辆的相机标定方法
WO2014199929A1 (ja) 単眼モーションステレオ距離推定方法および単眼モーションステレオ距離推定装置
EP2743889A2 (en) Stereoscopic camera object detection system and method of aligning the same
US10165262B2 (en) Image processing device and markers
JP6070206B2 (ja) 位置座標変換システム、位置座標変換方法、車載装置、世界座標計測装置および位置座標変換プログラム
JP6602982B2 (ja) 車載カメラ、車載カメラの調整方法、車載カメラシステム
US20160251030A1 (en) Turning angle correction method, turning angle correction device, image-capturing device, and turning angle correction system
CN107923758A (zh) 车辆位置推定装置、车辆位置推定方法
CN106461403A (zh) 物体检测装置及物体检测方法
JP2014074632A (ja) 車載ステレオカメラの校正装置及び校正方法
CN103733138A (zh) 被曝光基板的定位校正方法及曝光装置
CN109074480B (zh) 用于检测机动车辆的环境区域的图像中的滚动快门效应的方法、计算装置、驾驶员辅助系统以及机动车辆
US10257489B2 (en) Stereo camera device and rectification method therefor
JP6755709B2 (ja) 溶接装置及び溶接方法
TW201443827A (zh) 鏡頭影像校正系統及鏡頭影像校正方法
KR102152720B1 (ko) 3차원 모델링용 촬영장치 및 촬영방법
JP5539250B2 (ja) 接近物体検知装置及び接近物体検知方法
JP7256734B2 (ja) 姿勢推定装置、異常検出装置、補正装置、および、姿勢推定方法
GB2513703B (en) Method and apparatus for three-dimensional imaging of at least a partial region of a vehicle environment
JP3842988B2 (ja) 両眼立体視によって物体の3次元情報を計測する画像処理装置およびその方法又は計測のプログラムを記録した記録媒体
WO2019087253A1 (ja) ステレオカメラのキャリブレーション方法
JP2009212734A (ja) 自動校正単眼ステレオ視装置
JP2012046081A (ja) 走行状態判定装置