JP2017126213A - Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method - Google Patents

Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method Download PDF

Info

Publication number
JP2017126213A
JP2017126213A JP2016005390A JP2016005390A JP2017126213A JP 2017126213 A JP2017126213 A JP 2017126213A JP 2016005390 A JP2016005390 A JP 2016005390A JP 2016005390 A JP2016005390 A JP 2016005390A JP 2017126213 A JP2017126213 A JP 2017126213A
Authority
JP
Japan
Prior art keywords
information
intersection
vehicle
unit
situation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016005390A
Other languages
Japanese (ja)
Inventor
賢 青木
Masaru Aoki
賢 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016005390A priority Critical patent/JP2017126213A/en
Publication of JP2017126213A publication Critical patent/JP2017126213A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To present a user with a display fitting an environment of an own vehicle using various information at intersections to be acquired from an imaging device.SOLUTION: An imaging device includes: an imaging unit 11 that photographs a moving body on a road at an intersection; a moving body detection/tracking unit 15 that detects the photographed moving body; a distance measurement unit 14 that measures a relative distance of the detected moving body; and a transmission unit 13 that transmits information about an intersection state from the detected moving body and measurement result to an on-vehicle device. The on-vehicle device includes: a reception unit 21 that receives the information about the intersection state; a map data storage unit 26; an own vehicle location acquisition unit 22 that acquires information including an own vehicle location and azimuth for which the own vehicle heads; an analysis unit 23 that analyses the intersection state on the basis of the received information, own vehicle information and map data; an information generation unit 24 that generates information having the intersection state visualized based on an analysis result; and a display unit 25 that displays the generated information.SELECTED DRAWING: Figure 5

Description

本発明は、交差点状況確認システム、撮像装置、車載装置、交差点状況確認プログラムおよび交差点状況確認方法に関する。   The present invention relates to an intersection situation confirmation system, an imaging device, an in-vehicle device, an intersection situation confirmation program, and an intersection situation confirmation method.

交差点は見通しが悪いところが多く、交通事故が発生しやすい。そのため、有効な対策が求められている。   Intersections often have poor visibility and are prone to traffic accidents. Therefore, effective measures are required.

図1(a)は信号がなく見通しの悪い交差点の例を平面図で示している。非優先道路R2から交差点に入ろうとしている自車C1からは、左右の建物等の障害物H1、H2によって死角B1、B2が発生し、優先道路R1に歩行者・自転車・車両が来ているかどうかわからない。「来ないだろう」とドライバが思い込み交差点に侵入すると、出合い頭の事故が起きてしまう。また、逆に慎重になりすぎて少しずつ頭を出して安全確認を行うと、後続車が待たされることになり、渋滞の発生に繋がってしまう。これを回避するべく、現状は、図1(b)に示すように、見通しの悪い交差点等には道路反射鏡(カーブミラー)Mが設置されている。   FIG. 1A is a plan view showing an example of an intersection with no signal and poor visibility. From the vehicle C1 that is about to enter the intersection from the non-priority road R2, blind spots B1 and B2 occur due to obstacles H1 and H2 such as left and right buildings, and whether or not pedestrians, bicycles, and vehicles are on the priority road R1 do not know. If the driver thinks “I will not come” and enters the intersection, an accident will occur. On the other hand, if you become too cautious and put your head out little by little to check the safety, the following vehicle will wait, leading to the occurrence of traffic jams. In order to avoid this, currently, as shown in FIG. 1B, road reflecting mirrors (curve mirrors) M are installed at intersections with poor visibility.

しかしながら、道路反射鏡Mはドライバからの死角の全てをカバーしておらず、若干の死角B1'、B2'が残るため、道路反射鏡Mのみで安全確認を行なうことでは、出合い頭の事故を完全に防ぐことはできない。   However, the road reflector M does not cover all the blind spots from the driver, and some blind spots B1 'and B2' remain. Cannot be prevented.

そこで、交差点に撮像装置(カメラ)を設け、その映像を交差点の周辺の車に対して無線送信し、車内のカーナビ装置やヘッドアップディスプレイ(HUD)等の表示デバイスに表示するシステムが提案されている(特許文献1、2等を参照)。図2(a)は交差点の一部に撮像装置を設けた状態を示しており、図2(b)は自車における表示画面の例を示している。また、図3(a)は交差点につながる4本の道路のそれぞれにビデオカメラとアンテナを設けた状態を示しており、図3(b)は自車における表示画面の例を示している。   Therefore, a system has been proposed in which an imaging device (camera) is provided at an intersection, the image is wirelessly transmitted to a car around the intersection, and displayed on a display device such as a car navigation device or a head-up display (HUD) in the vehicle. (See Patent Documents 1 and 2). FIG. 2A shows a state where an imaging device is provided at a part of the intersection, and FIG. 2B shows an example of a display screen in the own vehicle. FIG. 3A shows a state in which a video camera and an antenna are provided on each of four roads connected to the intersection, and FIG. 3B shows an example of a display screen in the own vehicle.

上述した従来の方式は、撮影した映像をそのまま車内で表示するため、実際の目で見るよりも距離感・遠近感がつかみにくく、自車と他車のどちらが交差点に対して距離的に近い位置にあるのかが不明であった。そのため、表示された映像に基づいて事故防止のための判断が必ずしも容易に行えるものではなかった。また、映像を伝送するためのデータサイズが大きいため、通信帯域や処理性能の確保が難しいという問題があった。   The conventional method described above displays the shot image as it is in the car, so it is hard to grasp the sense of distance and perspective compared to the actual eye, and either the own vehicle or the other vehicle is closer to the intersection. It was unclear whether there was. Therefore, it is not always easy to make a decision for preventing an accident based on the displayed video. In addition, since the data size for transmitting video is large, there is a problem that it is difficult to secure a communication band and processing performance.

本発明は上記の従来の問題点に鑑み提案されたものであり、その目的とするところは、映像をそのまま用いることなく、撮像装置から取得する交差点における様々な情報を用いて自車の環境に合わせた表示をユーザに提供することにある。   The present invention has been proposed in view of the above-described conventional problems, and the object of the present invention is to use the various information at the intersection acquired from the imaging device without using the image as it is, and use it in the environment of the own vehicle. To provide the user with a combined display.

上記の課題を解決するため、本発明にあっては、交差点につながる道路上の動体を撮像し、交差点状況に関する情報を周囲に送信する撮像装置と、当該撮像装置から交差点状況に関する情報を受信し、交差点状況を可視化する車載装置とを含む交差点状況確認システムであって、前記撮像装置は、撮像を行う撮像部と、前記撮像部によって撮像した動体を検出する検出部と、前記検出部で検出された動体に対して当該撮像装置からの動体の相対位置を計測する計測部と、前記検出部で検出された動体と前記計測部によって計測された結果から交差点状況に関する情報を前記車載装置へ送信する送信部と、を有し、前記車載装置は、前記撮像装置から送信された交差点状況に関する情報を受信する受信部と、前記交差点状況を示すための地図データを記憶する記憶部と、自車の位置と自車が進む方角とを含む情報を取得する自車情報取得部と、前記受信部によって受信した交差点状況に関する情報と前記自車情報取得部によって取得した情報と前記地図データとに基づいて交差点状況を解析する解析部と、前記解析部の解析結果に基づいて交差点状況を可視化した情報を生成する情報生成部と、前記情報生成部により生成された情報を表示する表示部と、を有する。   In order to solve the above problems, in the present invention, an imaging device that images a moving object on a road connected to an intersection and transmits information about the intersection situation to the surroundings, and receives information about the intersection situation from the imaging device. An intersection status confirmation system including an in-vehicle device for visualizing an intersection status, wherein the imaging device detects an imaging unit that performs imaging, a detection unit that detects a moving object imaged by the imaging unit, and detection by the detection unit A measurement unit that measures the relative position of the moving object from the imaging apparatus with respect to the moving object, and information related to the intersection state from the measurement result of the moving object detected by the detection unit and the measurement unit to the in-vehicle device The vehicle-mounted device receives the information on the intersection situation transmitted from the imaging device, and the map data for indicating the intersection situation. A storage unit that stores data, a host vehicle information acquisition unit that acquires information including the position of the host vehicle and the direction in which the host vehicle travels, and information on the intersection situation received by the receiver and the host vehicle information acquisition unit An analysis unit that analyzes an intersection situation based on the acquired information and the map data, an information generation unit that generates information that visualizes an intersection situation based on an analysis result of the analysis unit, and an information generation unit A display unit for displaying the information.

本発明にあっては、映像をそのまま用いることなく、撮像装置から取得する交差点における様々な情報を用いて自車の環境に合わせた表示をユーザに提供することができる。   In the present invention, it is possible to provide the user with a display that matches the environment of the vehicle using various information at the intersection acquired from the imaging device without using the video as it is.

見通しの悪い交差点の例を示す平面図である。It is a top view which shows the example of an intersection with a bad view. 従来の交差点状況認識システムの概要図である。It is a schematic diagram of the conventional intersection situation recognition system. 従来の交通状況表示システムの概要図である。It is a schematic diagram of the conventional traffic condition display system. 本発明の一実施形態にかかる交差点状況確認システムにおける各装置の配置例を示す図である。It is a figure which shows the example of arrangement | positioning of each apparatus in the intersection condition confirmation system concerning one Embodiment of this invention. 撮像装置および車載装置のソフトウェア構成例を示す図である。It is a figure which shows the software structural example of an imaging device and a vehicle-mounted apparatus. 撮像装置のハードウェア構成例を示す図である。It is a figure which shows the hardware structural example of an imaging device. 車載装置のハードウェア構成例を示す図である。It is a figure which shows the hardware structural example of a vehicle-mounted apparatus. 実施形態の処理例を示すフローチャートである。It is a flowchart which shows the process example of embodiment. 交差点状況データの例を示す図である。It is a figure which shows the example of intersection situation data. 交差点状況通知情報生成の処理例を示すフローチャートである。It is a flowchart which shows the example of a process of intersection status notification information generation. 非優先道路を走る自車に対する表示画面例を示す図である。It is a figure which shows the example of a display screen with respect to the own vehicle which drive | works a non-priority road. 非優先道路を走る自車に対するカーナビゲーションと連携した表示画面例を示す図である。It is a figure which shows the example of a display screen cooperated with the car navigation with respect to the own vehicle which drive | works a non-priority road. 後続車への注意喚起情報の提供のための処理例を示すフローチャートである。It is a flowchart which shows the process example for provision of the alerting information to a succeeding vehicle. 後続車への注意喚起情報を含む表示画面例を示す図である。It is a figure which shows the example of a display screen containing the alerting information to a succeeding vehicle. 優先道路を走る自車に対する飛び出し注意情報を含む表示画面例を示す図である。It is a figure which shows the example of a display screen containing the jumping out caution information with respect to the own vehicle which runs on a priority road. 優先道路を走る自車に対する危険なし表示情報を含む表示画面例を示す図である。It is a figure which shows the example of a display screen containing the display information without danger with respect to the own vehicle which drive | works a priority road. カメラ未設置の表示情報を含む表示画面例を示す図である。It is a figure which shows the example of a display screen containing the display information without a camera.

以下、本発明の好適な実施形態につき説明する。   Hereinafter, preferred embodiments of the present invention will be described.

<構成>
図4は本発明の一実施形態にかかる交差点状況確認システムにおける各装置の配置例を示す図である。図4において、優先道路R1と非優先道路R2の交差点は、四隅に建物等の障害物H1〜H4があり、非優先道路R2の優先道路R1への侵入部分には一時停止等の標識G1、G2が設けられている。標識G2には自車C1がおり、優先道路R1には他車C2、C3が走行しており、歩行者M1が存在する。自車C1は非優先道路R2から交差点に侵入しようとしており、障害物H1、H3があるため交差点の左・右ともに見通しが悪い状況である。なお、あくまでも交差点の一例を示しており、他の形態(T字路、五差路等)にも適用できることはいうまでもない。
<Configuration>
FIG. 4 is a diagram illustrating an arrangement example of each device in the intersection situation confirmation system according to the embodiment of the present invention. In FIG. 4, the intersection of the priority road R1 and the non-priority road R2 has obstacles H1 to H4 such as buildings at the four corners, and a sign G1, such as a temporary stop, is entered at the intrusion portion of the non-priority road R2 into the priority road R1, G2 is provided. The sign G2 includes the own vehicle C1, and other vehicles C2 and C3 are traveling on the priority road R1, and a pedestrian M1 exists. The own vehicle C1 is about to enter the intersection from the non-priority road R2, and there are obstacles H1 and H3. In addition, an example of an intersection is shown to the last, and it cannot be overemphasized that it can apply also to other forms (T-shaped road, five-way road, etc.).

このような交差点において、支柱等により所定の高さに撮像装置1が設けられている。撮像装置1は、全天球カメラにより同時に交差点の全方位の撮像が可能なものとしてもよいし、複数のカメラにより交差点の全方位が撮像できるものとしてもよい。また、少なくとも自車C1には、車載装置2が搭載されており、光や電波等による無線通信により、撮像装置1から情報を受信できるようになっている。   At such an intersection, the imaging device 1 is provided at a predetermined height by a column or the like. The imaging device 1 may be capable of simultaneously imaging all directions of the intersection with an omnidirectional camera, or may be capable of imaging all directions of the intersection with a plurality of cameras. In addition, at least the host vehicle C1 is equipped with an in-vehicle device 2 so that information can be received from the imaging device 1 by wireless communication using light, radio waves, or the like.

図5は撮像装置1および車載装置2のソフトウェア構成例を示す図である。図5において、撮像装置1は、撮像部11と画像処理部12と送信部13と距離計測部14と動体検出・追跡部15と設置位置16と動体認識部17と交差点状況統合部18と動体特徴量19とを備えている。   FIG. 5 is a diagram illustrating a software configuration example of the imaging device 1 and the in-vehicle device 2. In FIG. 5, the imaging device 1 includes an imaging unit 11, an image processing unit 12, a transmission unit 13, a distance measurement unit 14, a moving object detection / tracking unit 15, an installation position 16, a moving object recognition unit 17, an intersection situation integration unit 18, and a moving object. And a feature amount 19.

撮像部11は、カメラのハードウェアを制御し、撮像された映像を取得する機能を有している。カメラのハードウェアには、レンズと撮像素子が含まれる。カメラのハードウェアは、魚眼レンズを2枚使った構成により1つのカメラで構成することもできるし、カメラを複数台使った構成としてもよい。また、夜間の撮影のため赤外線カメラを使用してもよい。   The imaging unit 11 has a function of controlling camera hardware and acquiring captured images. The camera hardware includes a lens and an image sensor. The camera hardware can be configured with one camera by using two fisheye lenses, or can be configured with a plurality of cameras. An infrared camera may be used for night photography.

画像処理部12は、撮像部11からの映像信号に色補正処理や全天球イメージ形式(正距円筒図法)への変換処理を施す機能を有している。また、雨や雪等の悪天候下に備え、霧によるノイズを除去する霧除去機能を画像処理部12に付け加えてもよい。   The image processing unit 12 has a function of subjecting the video signal from the imaging unit 11 to color correction processing and conversion processing to an omnidirectional image format (an equirectangular projection). In addition, a fog removal function for removing noise due to fog may be added to the image processing unit 12 in preparation for bad weather such as rain or snow.

送信部13は、交差点に進入する車両に交差点状況を無線で送信する機能を有している。   The transmission unit 13 has a function of wirelessly transmitting an intersection situation to a vehicle entering the intersection.

距離計測部14は、撮像部11により撮像された映像に映っている動体の距離を計測する機能を有している。距離計測部14は、ステレオカメラ・ミリ波・レーザー・赤外線・超音波等を使い、組み合わせてもよい。   The distance measuring unit 14 has a function of measuring the distance of the moving object shown in the video imaged by the imaging unit 11. The distance measurement unit 14 may be combined using a stereo camera, millimeter wave, laser, infrared ray, ultrasonic wave, or the like.

動体検出・追跡部15は、撮像部11により撮像された映像から背景差分や前の画像との差分などにより動体を検出し、画像上の特徴点の移動(オプティカルフロー)を追跡することにより動体を追跡する機能を有している。   The moving object detection / tracking unit 15 detects a moving object from the video imaged by the imaging unit 11 based on a background difference, a difference from the previous image, and the like, and tracks the movement of the feature points on the image (optical flow) to thereby detect the moving object. It has a function to track.

設置位置16は、撮像装置1の設置位置の情報である。設置位置16は、あらかじめ記録しておいてもよいし、GPSセンサにより所定のタイミングで自動設定可能な構成としてもよい。   The installation position 16 is information on the installation position of the imaging apparatus 1. The installation position 16 may be recorded in advance, or may be configured to be automatically set at a predetermined timing by a GPS sensor.

動体認識部17は、動体が車両(色・大きさ)なのか歩行者・自転車なのかを識別する機能を有している。   The moving object recognition unit 17 has a function of identifying whether the moving object is a vehicle (color / size) or a pedestrian / bicycle.

交差点状況統合部18は、動体の識別結果と距離情報から、交差点を中心としたエリア内に存在している全ての動体(検出可能な物体に限る)とその位置・速度を計算し統合する機能を有している。   The intersection situation integration unit 18 calculates and integrates all moving objects (limited to detectable objects) existing in the area centering on the intersection, and their positions / velocities from the moving object identification result and distance information. have.

動体特徴量19は、動体を識別するための特徴量(動体種別(車両・歩行者・自転車・その他)、色、大きさ)の情報である。動体特徴量19は、動体認識部17による識別の処理において利用される。   The moving object feature value 19 is information of a feature value (moving object type (vehicle / pedestrian / bicycle / other), color, size) for identifying the moving object. The moving object feature 19 is used in the identification process by the moving object recognition unit 17.

一方、車載装置2は、受信部21と自車位置取得部22と解析部23と情報生成部24と表示部25と地図データ26とナビゲーション部27とを備えている。   On the other hand, the in-vehicle device 2 includes a reception unit 21, a vehicle position acquisition unit 22, an analysis unit 23, an information generation unit 24, a display unit 25, map data 26, and a navigation unit 27.

受信部21は、撮像装置1から無線により送信される交差点状況に関する情報を受信する機能を有している。   The receiving unit 21 has a function of receiving information related to the intersection situation transmitted from the imaging device 1 by radio.

自車位置取得部22は、自車がどの位置をどの方角に向けて走行しているかを示す情報を取得する機能を有している。自車の位置と走行の方角は、GPSセンサや地磁気センサ(コンパス)により取得することができる。GPSセンサや地磁気センサは車載装置2内に設けられているものを用いてもよいし、他の装置(カーナビ装置等)に設けられているGPSセンサや地磁気センサから検出信号を取得してもよい。   The own vehicle position acquisition unit 22 has a function of acquiring information indicating which position the host vehicle is traveling in which direction. The position of the vehicle and the direction of travel can be acquired by a GPS sensor or a geomagnetic sensor (compass). As the GPS sensor or the geomagnetic sensor, one provided in the in-vehicle device 2 may be used, or a detection signal may be acquired from a GPS sensor or a geomagnetic sensor provided in another device (such as a car navigation device). .

解析部23は、撮像装置1から受信部21によって受信した交差点状況に関する情報と、自車位置取得部22によって取得した情報と、地図データ26とに基づいて交差点状況を解析する機能を有している。解析としては、撮像装置1から受信した交差点状況に関する情報の中で自車の情報がどれかを解釈する機能を含む。自車の特定は、位置の一致判断(誤差を考慮した一致判断)に基づいて行うことができるが、更に、走行の方角やその他の種別を判断に用いてもよい。その他の解析として、自車の走行する道路が優先道路であるか非優先道路であるか、非優先道路からの危険があるか否か、接近車両の種別が何であるか、車両の車高が閾値以上であるか否か等がある。   The analysis unit 23 has a function of analyzing the intersection situation based on the information on the intersection situation received from the imaging device 1 by the reception unit 21, the information obtained by the own vehicle position obtaining unit 22, and the map data 26. Yes. The analysis includes a function of interpreting information on the own vehicle among the information on the intersection situation received from the imaging device 1. The identification of the own vehicle can be performed based on position matching determination (matching determination considering an error), but the direction of travel and other types may be used for determination. Other analyzes include whether the road on which the vehicle is traveling is a priority road or non-priority road, whether there is a danger from the non-priority road, what type of approaching vehicle is, and whether the vehicle height is Whether or not it is above a threshold.

情報生成部24は、解析部23の解析結果に基づいて交差点状況を可視化した情報を生成する機能を有している。例えば、交差点状況をアラウンドビュー表示形式(車両上方から見下ろしたような感覚の映像として表示する方式)に変換し、各種のアラートのメッセージを生成して重畳する。   The information generation unit 24 has a function of generating information that visualizes the intersection situation based on the analysis result of the analysis unit 23. For example, the situation of the intersection is converted into an around view display format (a method of displaying as a video image as if looking down from above the vehicle), and various alert messages are generated and superimposed.

表示部25は、情報生成部24により生成された情報を表示する機能を有している。例えば、交差点状況をアラウンドビュー表示し、各種のアラートのメッセージを重畳表示する。地図データ26は、交差点状況を表示するための地図情報である。ナビゲーション部27は、カーナビゲーションを行う機能を有している。   The display unit 25 has a function of displaying the information generated by the information generation unit 24. For example, the intersection situation is displayed in an around view, and various alert messages are superimposed and displayed. The map data 26 is map information for displaying the intersection situation. The navigation unit 27 has a function of performing car navigation.

なお、図5では、車載装置2としてカーナビ装置と一体化したものを想定しているが、カーナビ装置とは別に交差点状況通知情報を生成する装置として構成し、交差点状況通知情報をカーナビ装置における表示に合成するようにしてもよい。この場合、表示部25と地図データ26は、専用に設けてもよいし、カーナビ装置に設けられたものを利用することもできる。   In FIG. 5, it is assumed that the in-vehicle device 2 is integrated with the car navigation device, but is configured as a device that generates intersection situation notification information separately from the car navigation device, and the intersection situation notification information is displayed on the car navigation device. You may make it synthesize | combine. In this case, the display unit 25 and the map data 26 may be provided exclusively, or those provided in the car navigation device can be used.

図6は撮像装置1のハードウェア構成例を示す図である。図6において、撮像装置1は、バス101を介して相互に接続されたCPU(Central Processing Unit)102、ROM(Read Only Memory)103、RAM(Random Access Memory)104、HDD(Hard Disk Drive)/SSD(Solid State Drive)105、接続I/F(Interface)106、通信I/F108を備えている。接続I/F106にはカメラ107が接続される。   FIG. 6 is a diagram illustrating a hardware configuration example of the imaging apparatus 1. 6, an imaging apparatus 1 includes a CPU (Central Processing Unit) 102, a ROM (Read Only Memory) 103, a RAM (Random Access Memory) 104, an HDD (Hard Disk Drive) / HDD, which are connected to each other via a bus 101. An SSD (Solid State Drive) 105, a connection I / F (Interface) 106, and a communication I / F 108 are provided. A camera 107 is connected to the connection I / F 106.

CPU102は、RAM104をワークエリアとしてROM103またはHDD/SSD105等に格納されたプログラムを実行することで、撮像装置1の動作を統括的に制御する。通信I/F108は、無線通信により車載装置2と通信を行うためのインタフェースである。図5に示した撮像装置1の機能は、CPU102において所定のプログラムが実行されることで実現される。プログラムは、記録媒体を経由して取得されるものでもよいし、ネットワークを経由して取得されるものでもよいし、ROM組込でもよい。   The CPU 102 performs overall control of the operation of the imaging apparatus 1 by executing a program stored in the ROM 103 or the HDD / SSD 105 or the like using the RAM 104 as a work area. The communication I / F 108 is an interface for communicating with the in-vehicle device 2 by wireless communication. The functions of the imaging apparatus 1 illustrated in FIG. 5 are realized by executing a predetermined program in the CPU 102. The program may be acquired via a recording medium, may be acquired via a network, or may be embedded in a ROM.

図7は車載装置2のハードウェア構成例を示す図である。図7において、車載装置2は、バス201を介して相互に接続されたCPU202、ROM203、RAM204、HDD/SSD205、接続I/F206、GPS208、通信I/F209を備えている。接続I/F206にはタッチパネル等を伴ったディスプレイ207が接続される。   FIG. 7 is a diagram illustrating a hardware configuration example of the in-vehicle device 2. In FIG. 7, the in-vehicle device 2 includes a CPU 202, a ROM 203, a RAM 204, a HDD / SSD 205, a connection I / F 206, a GPS 208, and a communication I / F 209 that are connected to each other via a bus 201. A display 207 with a touch panel or the like is connected to the connection I / F 206.

CPU202は、RAM204をワークエリアとしてROM203またはHDD/SSD205等に格納されたプログラムを実行することで、車載装置2の動作を統括的に制御する。通信I/F209は、無線通信により撮像装置1と通信を行うためのインタフェースである。図5に示した車載装置2の機能は、CPU202において所定のプログラムが実行されることで実現される。プログラムは、記録媒体を経由して取得されるものでもよいし、ネットワークを経由して取得されるものでもよいし、ROM組込でもよい。   The CPU 202 centrally controls the operation of the in-vehicle device 2 by executing a program stored in the ROM 203 or the HDD / SSD 205 or the like using the RAM 204 as a work area. The communication I / F 209 is an interface for performing communication with the imaging apparatus 1 by wireless communication. The functions of the in-vehicle device 2 illustrated in FIG. 5 are realized by executing a predetermined program in the CPU 202. The program may be acquired via a recording medium, may be acquired via a network, or may be embedded in a ROM.

<動作>
図8は上記の実施形態の処理例を示すフローチャートであり、交差点状況確認システムの全体フローである。撮像装置1は交差点状況に関する情報の送信を行い、車載装置2は撮像装置1から交差点状況に関する情報の受信を行うが、基本的にそれぞれ並列に動作を行う。
<Operation>
FIG. 8 is a flowchart showing a processing example of the above embodiment, and is an overall flow of the intersection situation confirmation system. The imaging device 1 transmits information related to the intersection situation, and the in-vehicle device 2 receives information related to the intersection situation from the imaging device 1, but basically operates in parallel.

図8において、撮像装置1では、まず撮像部11で交差点の映像を撮像し(ステップS101)、画像処理部12で前処理および全天球イメージへの変換の画像処理を行い(ステップS102)、動体検出・追跡部15で動体検出・追跡処理を行う(ステップS103)。   In FIG. 8, in the image pickup apparatus 1, first, an image of an intersection is picked up by the image pickup unit 11 (step S101), and the image processing unit 12 performs image processing for preprocessing and conversion to an omnidirectional image (step S102). The moving object detection / tracking unit 15 performs moving object detection / tracking processing (step S103).

動体がなければ(ステップS104のNo)、以降の処理は何もせず、繰り返し撮像(ステップS101)から動体検出・追跡(ステップS103)までの処理を行う。   If there is no moving object (No in step S104), the subsequent processing is not performed, and processing from repeated imaging (step S101) to moving object detection / tracking (step S103) is performed.

動体があれば(ステップS104のYes)、動体検出・追跡部15による追跡中であるか否か判断し(ステップS105)、追跡中でなければ(ステップS105のNo)、動体認識部17で動体認識を行って追跡を行う(ステップS106)。この動体認識により、動体の種別、色、大きさを判断する。種別とは、車両(乗用車、軽自動車、トラックなど)、歩行者、自転車、その他のことを意味する。種別の認識は、動体特徴量19として保持された動体を識別するための特徴量の情報を用い、それらの特徴量が動体の画像に含まれているか否かを判断することで、特徴の合致する種別を特定することにより行う。   If there is a moving object (Yes in step S104), it is determined whether or not the moving object detection / tracking unit 15 is tracking (step S105). If not tracking (No in step S105), the moving object recognition unit 17 Recognize and track (step S106). By this moving object recognition, the type, color, and size of the moving object are determined. The type means a vehicle (passenger car, light vehicle, truck, etc.), pedestrian, bicycle, or the like. The type recognition uses feature information for identifying the moving object held as the moving object feature value 19 and determines whether or not those feature values are included in the moving object image. This is done by specifying the type to be performed.

動体認識(ステップS106)は、検出時に1度のみ処理を行えばよいので、追跡中の動体(ステップS105のYes)については行わない。   Since the moving object recognition (step S106) needs to be performed only once at the time of detection, the moving object being tracked (Yes in step S105) is not performed.

追跡中である場合(ステップS105のYes)および新な動体認識(ステップS106)が完了した後、距離計測部14で動体までの距離計測を行う(ステップS107)。   If tracking is in progress (Yes in step S105) and new moving object recognition (step S106) is completed, the distance measurement unit 14 measures the distance to the moving object (step S107).

次いで、交差点状況統合部18で前回の計測した時刻と距離から動体の位置・速度・方向を計算し(ステップS108)、交差点状況データとして統合する(ステップS109)。   Next, the position / velocity / direction of the moving object is calculated from the previously measured time and distance by the intersection situation integration unit 18 (step S108) and integrated as intersection situation data (step S109).

次いで、検出された全ての動体について位置・速度・方向が計算できているか判定し(ステップS110)、全ての動体について計算できていなければ(ステップS110のNo)、追跡中の判断(ステップS105)から処理を繰り返す。   Next, it is determined whether the position / velocity / direction has been calculated for all the detected moving objects (step S110). If all the moving objects have not been calculated (No in step S110), the determination during tracking (step S105) is performed. Repeat the process.

全ての動体について計算が完了したら(ステップS110のYes)、車載装置2に交差点状況に関する情報に相当する交差点状況データを送信する(ステップS111)。   When the calculation is completed for all moving objects (Yes in step S110), the intersection situation data corresponding to the information related to the intersection situation is transmitted to the in-vehicle device 2 (step S111).

図9は交差点状況データの例を示す図であり、XML(eXtensible Markup Language)形式で示したものであるが、所定の情報が伝達できれば情報の形式は限定されない。図9において、交差点状況データには、交差点状況データを送信した撮像装置1の設置位置(経度、緯度、高さ等)と動体リスト(動体ごとに、動体id、種別、色、大きさ、経度、緯度、高さ、速度、方向等)とが含まれている。設置位置は、撮像装置1の設置時に既にわかっており、設置位置16に記憶された情報に基づいている。動体リストは、動体認識部17により得られる動体の種別、色、大きさと、距離計測部14により得られる撮像装置1から各動体までの相対位置から得られる経度、緯度、高さと、動体の移動ベクトル(速度と方向)に基づいている。移動ベクトルは前回の測定位置と時刻を保持し、今回の測定位置と時刻との差分から求めることができる。   FIG. 9 is a diagram showing an example of the intersection situation data, and is shown in an XML (eXtensible Markup Language) format. However, the format of the information is not limited as long as predetermined information can be transmitted. In FIG. 9, the intersection status data includes an installation position (longitude, latitude, height, etc.) of the imaging apparatus 1 that transmitted the intersection status data and a moving object list (moving object id, type, color, size, longitude for each moving object). , Latitude, height, speed, direction, etc.). The installation position is already known when the imaging apparatus 1 is installed, and is based on information stored in the installation position 16. The moving object list includes the type, color, and size of the moving object obtained by the moving object recognizing unit 17, and the longitude, latitude, height obtained from the relative position from the imaging device 1 to each moving object obtained by the distance measuring unit 14, and the movement of the moving object. Based on vector (speed and direction). The movement vector holds the previous measurement position and time, and can be obtained from the difference between the current measurement position and time.

図8に戻り、車載装置2では、まず自車位置取得部22で自車がどの位置をどの方角に向けて走行しているのかを取得(検出)する(ステップS201)。自車位置取得部22は本システム専用の機能を用いてもよいが、既存のカーナビゲーションシステムを用いてもよい。自車位置と進行方向がわかると、これから進入する交差点を割り出すことができる。   Returning to FIG. 8, in the in-vehicle device 2, first, the vehicle position acquisition unit 22 acquires (detects) which position the vehicle is traveling in which direction (step S <b> 201). The own vehicle position acquisition unit 22 may use a function dedicated to this system, but may use an existing car navigation system. Once you know your vehicle position and direction of travel, you can determine the intersection you will enter.

撮像装置1からの交差点状況データを受信部21で受信すると(ステップS202)、解析部23と情報生成部24で交差点状況通知情報生成の処理を行う(ステップS203)。交差点状況通知情報生成の処理の詳細については後述する。   When the intersection state data from the imaging device 1 is received by the reception unit 21 (step S202), the analysis unit 23 and the information generation unit 24 perform intersection state notification information generation processing (step S203). Details of the process of generating the intersection situation notification information will be described later.

交差点状況通知情報生成の後、生成した情報により表示部25により表示更新を行い(ステップS204)、以上の処理を繰り返し行う。   After generating the intersection situation notification information, the display unit 25 updates the display with the generated information (step S204), and the above processing is repeated.

図10は交差点状況通知情報生成(図8のステップS203)の処理例を示すフローチャートである。図10において、まず、解析部23は、自車位置取得部22で取得した情報が撮像装置1から受信した交差点状況データの動体リストの位置情報に存在するかを確認する(ステップS211)。すなわち、自車位置取得部22で取得された位置情報(緯度・経度)と最も近いものを交差点状況データの動体リストから検索(マッチング)する。なお、GPS等のセンサで検知した位置情報には誤差が含まれ、対象が同一であっても完全には一致しないので、誤差を許容できるよう幅を持たせて一致を判断する。   FIG. 10 is a flowchart showing a processing example of intersection state notification information generation (step S203 in FIG. 8). In FIG. 10, first, the analysis unit 23 checks whether the information acquired by the vehicle position acquisition unit 22 exists in the position information of the moving object list of the intersection situation data received from the imaging device 1 (step S211). That is, the closest thing to the position information (latitude / longitude) acquired by the vehicle position acquisition unit 22 is searched (matched) from the moving object list of the intersection situation data. Note that the positional information detected by a sensor such as GPS includes an error and does not completely match even if the target is the same. Therefore, the matching is determined with a width so as to allow the error.

解析部23は、位置情報が一致した場合には同一交差点であると判断し、現在走行中の道路が優先道路であるか非優先道路であるかを地図データ26より判断する(ステップS212)。   If the position information matches, the analysis unit 23 determines that the intersection is the same intersection, and determines whether the currently running road is a priority road or a non-priority road from the map data 26 (step S212).

非優先道路であった場合には、情報生成部24は、接近車両情報を生成する(ステップS213)。接近車両情報には歩行者の情報を含めてもよい。なお、カーナビゲーションにより目的地までのルートが表示されている場合には、そのルートに関係する接近車両情報を生成する。すなわち、そのルート上に存在するか、そのルートに接近してくる車両等の情報以外は対象外とする。   If the road is a non-priority road, the information generation unit 24 generates approaching vehicle information (step S213). The approaching vehicle information may include pedestrian information. If a route to the destination is displayed by car navigation, approaching vehicle information related to the route is generated. That is, information other than information on a vehicle that exists on the route or approaches the route is excluded.

図11は非優先道路を走る自車に対する表示画面例を示す図である。図11(a)は、今から進入する交差点をアラウンドビュー表示したものであり、自車C1は三角形で示している。この例では、交差点の右方向から他車が2台(他車C2、C3)、左方向から歩行者が1人(歩行者M1)接近中である状態を、矩形や丸等の図形により示している。交差点をアラウンドビュー表示により俯瞰的に見ることにより、自車と他車の交差点との位置関係がわかる。このため、他車C2、C3の通過を待つべきか否かの判断が容易にできる。図示の例では、優先道路R1を走る他車C2、C3と非優先道路R2にいる自車C1は交差点に対して同程度の距離にあり、自車C1の速度も速いため、優先道路R1の他車C2、C3の通過を待つことと判断されるであろう。   FIG. 11 is a diagram showing an example of a display screen for the vehicle running on the non-priority road. FIG. 11A shows an intersection that will enter from now on in an around view display, and the vehicle C1 is indicated by a triangle. In this example, two vehicles from the right side of the intersection (other vehicles C2, C3) and one pedestrian (pedestrian M1) approaching from the left are shown by a figure such as a rectangle or a circle. ing. By looking at the intersection from an overhead view display, the positional relationship between the vehicle and the intersection of the other vehicle can be understood. For this reason, it can be easily determined whether or not to wait for the passage of the other vehicles C2 and C3. In the example shown in the figure, the other vehicles C2 and C3 running on the priority road R1 and the own vehicle C1 on the non-priority road R2 are at the same distance from the intersection and the speed of the own vehicle C1 is fast. It will be determined to wait for the passage of the other vehicles C2, C3.

また、図では歩行者や他車・後続車の速度や注意の通知をポップアップメッセージの形式で行っている。これにより、注意すべき度合いをより正確に判断することができる。なお、接近車両情報の表示開始位置は、交差点のある所定距離前からとし、この距離はユーザにより事前に設定することができるようにしてもよい。   In the figure, notifications of speed and attention of pedestrians, other vehicles / following vehicles are given in the form of pop-up messages. As a result, the degree of attention can be determined more accurately. Note that the approaching vehicle information display start position may be a predetermined distance before the intersection, and this distance may be set in advance by the user.

図11(b)は、自車C1の方が他車C2よりも明らかに交差点に近い位置にあり、他車C2も低速であることがわかるため、他車C2の通過を待たずに交差点に進入すると判断されるであろう。   FIG. 11B shows that the own vehicle C1 is clearly closer to the intersection than the other vehicle C2, and that the other vehicle C2 is also at a low speed. It will be judged to enter.

図12は非優先道路を走る自車に対するカーナビゲーションと連携した表示画面例を示す図であり、図12(a)(b)は図11(a)(b)と状況は同じにしてある。ナビゲーションにより、自車のルートがプラスされると、ルートに関係のある情報のみに絞って表示できるため、より快適に安全確認ができる。つまり、左折する場合には、右から進入する車両の状態がわかればよいので、左から進入する車両について詳細に情報を表示する必要がなくなる。また、カーナビゲーションと連動する場合と連動しない場合で表示がほぼ変わらないため違和感無く利用することができる。   FIG. 12 is a diagram showing an example of a display screen linked with the car navigation for the own vehicle running on the non-priority road, and FIGS. 12A and 12B are the same as FIGS. 11A and 11B. If the route of the vehicle is added by navigation, it can be displayed only on information related to the route, so that safety can be confirmed more comfortably. That is, when making a left turn, it is only necessary to know the state of the vehicle entering from the right, so that it is not necessary to display detailed information about the vehicle entering from the left. In addition, the display is almost the same between the case of interlocking with the car navigation and the case of not interlocking with the car navigation, so that it can be used without a sense of discomfort.

一方、接近車両情報として、前方の車両が大きく、後続車両が隠れてしまうことで、後続車が判断できない場合に対応する情報を付加することができる。すなわち、大型トラックなどの場合、定点カメラで撮影するとどうしても前方車両に後続車両が隠れて検出ができない場合がある。このとき、何も表示しなければ、ドライバは大型トラックが通過した後に行けると判断し、後続車と出合い頭の事故になってしまう可能性がある。これを回避するため、大型トラックなど後続車の有無が判断できないケースでは、注意喚起の表示を行うものとする。   On the other hand, as approaching vehicle information, it is possible to add information corresponding to a case where the preceding vehicle is large and the succeeding vehicle is hidden, so that the succeeding vehicle cannot be determined. That is, in the case of a large truck or the like, there is a case where the subsequent vehicle is obscured by the preceding vehicle and cannot be detected by the fixed point camera. At this time, if nothing is displayed, the driver may determine that he / she can go after the large truck has passed, which may lead to an accident with the following vehicle. In order to avoid this, in cases where it is impossible to determine the presence or absence of a following vehicle, such as a large truck, a warning display shall be displayed.

図13は後続車への注意喚起情報の提供のための処理例を示すフローチャートであり、接近車両情報の生成(図10のステップS213)に追加される処理の例である。図13において、まず、解析部23は、交差点に接近する車両の種別の判断を行う(ステップS221)。接近車両が軽自動車や普通車以外の場合(バス・トラック等)には、後ろに後続車が潜んでいる可能性があるため、情報生成部24は、後続車への注意喚起情報を生成し、表示部25により表示する(ステップS222)。図14は、交差点の右から進入する車両が大きい場合に後続車両が隠れてしまう場合に、後続車への注意喚起情報として「注意!! 後続車要確認」のポップアップメッセージによる表示が行われている状態を示している。なお、カーナビゲーションによるルート表示が行われている例を図示したが、ルート表示が行われていなくてもよい。   FIG. 13 is a flowchart showing an example of a process for providing alert information to the following vehicle, which is an example of a process added to the generation of approaching vehicle information (step S213 in FIG. 10). In FIG. 13, first, the analysis unit 23 determines the type of vehicle approaching the intersection (step S221). When the approaching vehicle is other than a light vehicle or a normal vehicle (such as a bus or truck), there is a possibility that a subsequent vehicle may be hidden behind it, so the information generating unit 24 generates warning information for the subsequent vehicle. The information is displayed on the display unit 25 (step S222). In FIG. 14, when a vehicle entering from the right of the intersection is large and the following vehicle is hidden, a pop-up message of “Caution! It shows the state. In addition, although the example in which the route display by the car navigation is performed is illustrated, the route display may not be performed.

図13に戻り、解析部23は、もし接近車両が軽自動車や普通車であった場合には、車高が閾値以上であるか否か判断し(ステップS223)、情報生成部24は、車高が閾値以上だったら注意喚起情報を生成し(ステップS222)、そうでない場合には、後続車が判断できるものとして、注意喚起情報の生成は行わない。なお、車高は交差点状況の物体リストに含まれる「高さ」を用いることができるが、別にカメラ映像から車高を推定してもよい。   Returning to FIG. 13, if the approaching vehicle is a light vehicle or a normal vehicle, the analysis unit 23 determines whether the vehicle height is equal to or higher than a threshold value (step S <b> 223). If the height is greater than or equal to the threshold value, the alert information is generated (step S222). If not, the succeeding vehicle can be determined and the alert information is not generated. As the vehicle height, the “height” included in the object list of the intersection situation can be used, but the vehicle height may be estimated from the camera video separately.

図10に戻り、解析部23は、自車のいる道路が優先道路であった場合には、非優先道路からの危険検知を行い(ステップS214)、もし非優先道路から突っ込んでくる車両や自転車・歩行者などが存在する場合には、危険ありとして、情報生成部24は、非優先道路からの飛び出し注意情報を生成する(ステップS215)。非優先道路からの危険の判断については、交差点に向かって減速せずに向かってくる動体が存在した場合に危険と判断する。危険と判断する速度や距離に関しては、パラメータ化し各交差点で調整できるようにしてもよい。   Returning to FIG. 10, when the road on which the vehicle is located is a priority road, the analysis unit 23 detects a danger from the non-priority road (step S214), and if the vehicle or bicycle thrusts from the non-priority road If there is a pedestrian or the like, the information generation unit 24 generates jump attention information from the non-priority road as dangerous (step S215). Regarding the determination of the danger from the non-priority road, it is determined that there is a moving object when there is a moving object that does not decelerate toward the intersection. The speed and distance determined as dangerous may be parameterized and adjusted at each intersection.

図15は優先道路を走る自車に対する飛び出し注意情報を含む表示画面例を示す図であり、交差点の右から進入する車両について、飛び出し注意情報として「飛び出し注意」のポップアップメッセージによる表示が行われている状態を示している。   FIG. 15 is a diagram showing an example of a display screen including pop-out caution information for the vehicle traveling on the priority road, and a pop-up message of “Jump-out caution” is displayed as the pop-out caution information for vehicles entering from the right of the intersection. It shows the state.

図10に戻り、非優先道路からの危険がない場合には、情報生成部24は、表示設定を確認し(ステップS216)、表示設定がOFFであれば表示情報の生成を行わず終了し、表示設定がONの場合には、危険なし表示情報を生成する(ステップS217)。ここでの表示設定は、非優先道路からの危険なし表示を行うか行わないかについての、ユーザによる事前の設定である。図16は優先道路を走る自車に対する危険なし表示情報を含む表示画面例を示す図であり、交差点の右側について、「危険なし」のポップアップメッセージによる表示が行われている状態を示している。   Returning to FIG. 10, when there is no danger from the non-priority road, the information generation unit 24 confirms the display setting (step S216), and if the display setting is OFF, the display generation is not performed and the process ends. If the display setting is ON, no danger display information is generated (step S217). The display setting here is a prior setting by the user as to whether or not to display without danger from a non-priority road. FIG. 16 is a diagram showing an example of a display screen including no danger display information for the own vehicle traveling on the priority road, and shows a state where a “no danger” pop-up message is displayed on the right side of the intersection.

図10に戻り、解析部23は、位置情報が一致しない場合には、カメラが設置されていないと判断し、撮像装置1から受信した交差点状況データを破棄し(ステップS218)、情報生成部24は、カメラ未設置の表示情報を生成する(ステップS219)。すなわち、本システムの搭載により、ドライバは常に死角からの車両情報が表示されるものだと思い込む可能性があるため、本システムの撮像装置1が設置されていない交差点に進入した場合には注意喚起するようにしている。図17はカメラ未設置の表示情報を含む表示画面例を示す図であり、「この交差点にはカメラが設置されておりません」のポップアップメッセージによる表示が行われている状態を示している。   Returning to FIG. 10, when the position information does not match, the analysis unit 23 determines that the camera is not installed, discards the intersection state data received from the imaging device 1 (step S218), and the information generation unit 24. Generates display information for cameras not installed (step S219). In other words, with this system installed, the driver may think that the vehicle information from the blind spot is always displayed, so if you enter an intersection where the imaging device 1 of this system is not installed, you will be alerted Like to do. FIG. 17 is a diagram showing an example of a display screen including display information indicating that no camera is installed, and shows a state where a pop-up message “No camera is installed at this intersection” is displayed.

<総括>
以上説明したように、本実施形態によれば、映像をそのまま用いることなく、撮像装置から取得する交差点における様々な情報を用いて自車の環境に合わせた表示をユーザに提供することができる。
<Summary>
As described above, according to the present embodiment, it is possible to provide the user with a display that matches the environment of the vehicle using various information at the intersection acquired from the imaging device without using the video as it is.

以上、本発明の好適な実施の形態により本発明を説明した。ここでは特定の具体例を示して本発明を説明したが、特許請求の範囲に定義された本発明の広範な趣旨および範囲から逸脱することなく、これら具体例に様々な修正および変更を加えることができることは明らかである。すなわち、具体例の詳細および添付の図面により本発明が限定されるものと解釈してはならない。   The present invention has been described above by the preferred embodiments of the present invention. While the invention has been described with reference to specific embodiments, various modifications and changes may be made to these embodiments without departing from the broad spirit and scope of the invention as defined in the claims. Obviously you can. In other words, the present invention should not be construed as being limited by the details of the specific examples and the accompanying drawings.

<実施形態の用語と請求項の用語の対応>
撮像装置1は「撮像装置」の一例である。車載装置2は「車載装置」の一例である。撮像部11は「撮像部」の一例である。動体検出・追跡部15および動体認識部17は「検出部」の一例である。距離計測部14は「計測部」の一例である。送信部13は「送信部」の一例である。受信部21は「受信部」の一例である。地図データ26は「記憶部」の一例である。自車位置取得部22は「自車情報取得部」の一例である。解析部23は「解析部」の一例である。情報生成部24は「情報生成部」の一例である。表示部25は「表示部」の一例である。
<Correspondence between Terms in Embodiment and Terms in Claims>
The imaging device 1 is an example of an “imaging device”. The in-vehicle device 2 is an example of an “in-vehicle device”. The imaging unit 11 is an example of an “imaging unit”. The moving object detection / tracking unit 15 and the moving object recognition unit 17 are examples of the “detection unit”. The distance measurement unit 14 is an example of a “measurement unit”. The transmission unit 13 is an example of a “transmission unit”. The receiving unit 21 is an example of a “receiving unit”. The map data 26 is an example of a “storage unit”. The own vehicle position acquisition unit 22 is an example of a “own vehicle information acquisition unit”. The analysis unit 23 is an example of an “analysis unit”. The information generation unit 24 is an example of an “information generation unit”. The display unit 25 is an example of a “display unit”.

1 撮像装置
11 撮像部
12 画像処理部
13 送信部
14 距離計測部
15 動体検出・追跡部
16 設置位置
17 動体認識部
18 交差点状況統合部
19 動体特徴量
2 車載装置
21 受信部
22 自車位置取得部
23 解析部
24 情報生成部
25 表示部
26 地図データ
27 ナビゲーション部
C3 他車
DESCRIPTION OF SYMBOLS 1 Imaging device 11 Imaging part 12 Image processing part 13 Transmission part 14 Distance measurement part 15 Moving object detection and tracking part 16 Installation position 17 Moving object recognition part 18 Intersection condition integration part 19 Moving object feature-value 2 In-vehicle apparatus 21 Receiving part 22 Own vehicle position acquisition 23 Analyzing unit 24 Information generating unit 25 Display unit 26 Map data 27 Navigation unit C3 Other vehicle

特開2010−55157号公報JP 2010-55157 A WO2008/068837WO2008 / 068888

Claims (19)

交差点につながる道路上の動体を撮像し、交差点状況に関する情報を周囲に送信する撮像装置と、当該撮像装置から交差点状況に関する情報を受信し、交差点状況を可視化する車載装置とを含む交差点状況確認システムであって、
前記撮像装置は、
撮像を行う撮像部と、
前記撮像部によって撮像した動体を検出する検出部と、
前記検出部で検出された動体に対して当該撮像装置からの動体の相対位置を計測する計測部と、
前記検出部で検出された動体と前記計測部によって計測された結果から交差点状況に関する情報を前記車載装置へ送信する送信部と、
を有し、
前記車載装置は、
前記撮像装置から送信された交差点状況に関する情報を受信する受信部と、
前記交差点状況を示すための地図データを記憶する記憶部と、
自車の位置と自車が進む方角とを含む情報を取得する自車情報取得部と、
前記受信部によって受信した交差点状況に関する情報と前記自車情報取得部によって取得した情報と前記地図データとに基づいて交差点状況を解析する解析部と、
前記解析部の解析結果に基づいて交差点状況を可視化した情報を生成する情報生成部と、
前記情報生成部により生成された情報を表示する表示部と、
を有することを特徴とする交差点状況確認システム。
An intersection status confirmation system including an imaging device that captures moving objects on a road connected to an intersection and transmits information about the intersection status to the surroundings, and an in-vehicle device that receives information about the intersection status from the imaging device and visualizes the intersection status Because
The imaging device
An imaging unit for imaging;
A detection unit for detecting a moving object imaged by the imaging unit;
A measurement unit that measures a relative position of the moving object from the imaging device with respect to the moving object detected by the detection unit;
A transmission unit that transmits information on the intersection situation from the moving object detected by the detection unit and the result measured by the measurement unit, to the in-vehicle device;
Have
The in-vehicle device is
A receiving unit for receiving information on the intersection situation transmitted from the imaging device;
A storage unit for storing map data for indicating the intersection situation;
A vehicle information acquisition unit that acquires information including the position of the vehicle and the direction in which the vehicle travels;
An analysis unit for analyzing the intersection situation based on the information about the intersection situation received by the receiving unit, the information obtained by the own vehicle information obtaining unit, and the map data;
An information generation unit that generates information that visualizes an intersection situation based on the analysis result of the analysis unit;
A display unit for displaying information generated by the information generation unit;
An intersection status confirmation system characterized by comprising:
前記解析部は、
前記自車情報取得部で取得した自車の位置に関する情報と受信した交差点状況に関する情報とを比較することで、同一の交差点であるか否かを判定する
ことを特徴とする請求項1に記載の交差点状況確認システム。
The analysis unit
The information regarding the position of the own vehicle acquired by the own vehicle information acquisition unit and the information regarding the received situation of the intersection are compared to determine whether or not they are the same intersection. Intersection status confirmation system.
前記解析部は、
同一の交差点でないと判定したとき、受信した交差点状況に関する情報を破棄する
ことを特徴とする請求項2に記載の交差点状況確認システム。
The analysis unit
The intersection status confirmation system according to claim 2, wherein when it is determined that the intersections are not the same, the received information on the intersection status is discarded.
前記解析部は、
自車が走行中の道路が優先道路か否かを判断し、
優先道路であると判断した場合、非優先道路からの動体に対して危険か否かを判断し、
前記情報生成部は、
危険ありの場合、非優先道路の物体に注意する旨の情報を生成し、
危険なしの場合、ユーザ設定に基づいて、危険がない旨の情報を生成する
ことを特徴とする請求項1乃至3のいずれか一項に記載の交差点状況確認システム。
The analysis unit
Determine whether the road on which your vehicle is traveling is a priority road,
If it is determined that it is a priority road, determine whether it is dangerous for moving objects from non-priority roads,
The information generator is
If there is a risk, generate information to pay attention to objects on non-priority road
4. If there is no danger, information indicating that there is no danger is generated based on a user setting, and the intersection status confirmation system according to any one of claims 1 to 3.
前記解析部は、
自車が走行中の道路が優先道路か否かを判断し、
前記情報生成部は、
前記解析部が非優先道路であると判断した場合、優先道路から接近する動体の情報を生成する
ことを特徴とする請求項1乃至3のいずれか一項に記載の交差点状況確認システム。
The analysis unit
Determine whether the road on which your vehicle is traveling is a priority road,
The information generator is
The intersection state confirmation system according to any one of claims 1 to 3, wherein when the analysis unit determines that the road is a non-priority road, information on a moving body approaching from the priority road is generated.
前記検出部は、動体を識別するための特徴量の情報を用い、それらの特徴量が動体の画像に含まれているか否かを判断することで、特徴の合致する種別を特定する
ことを特徴とする請求項1乃至5のいずれか一項に記載の交差点状況確認システム。
The detection unit uses feature amount information for identifying a moving object, and determines whether or not the feature amount is included in the image of the moving object, thereby identifying a type that matches the feature. The intersection status confirmation system according to any one of claims 1 to 5.
前記検出部が接近する車両について大型の車両の種別を特定した場合、
前記情報生成部は、後続車への注意喚起の情報を生成する
ことを特徴とする請求項6に記載の交差点状況確認システム。
When specifying the type of large vehicle for the vehicle approaching the detection unit,
The intersection status confirmation system according to claim 6, wherein the information generation unit generates information for alerting a subsequent vehicle.
前記表示部は、動体を図形で表示するとともに、通知すべき情報をポップアップメッセージの形式で表示する
ことを特徴とする請求項1乃至7のいずれか一項に記載の交差点状況確認システム。
The intersection status confirmation system according to any one of claims 1 to 7, wherein the display unit displays a moving object as a graphic and displays information to be notified in a pop-up message format.
前記情報生成部は、ナビゲーションによるルートの表示が行われている場合、前記ルートに関連する接近車両についての情報を生成する
ことを特徴とする請求項1乃至8のいずれか一項に記載の交差点状況確認システム。
The intersection according to any one of claims 1 to 8, wherein the information generation unit generates information about an approaching vehicle related to the route when a route is displayed by navigation. Status confirmation system.
前記情報生成部は、前記撮像装置から受信した交差点状況に関する情報に自車を示す情報が含まれないと前記解析部が判断した場合、前記撮像装置が未設置である旨の情報を生成する
ことを特徴とする請求項1乃至9のいずれか一項に記載の交差点状況確認システム。
The information generation unit generates information indicating that the imaging device is not installed when the analysis unit determines that the information regarding the intersection situation received from the imaging device does not include information indicating the own vehicle. The intersection status confirmation system according to any one of claims 1 to 9, wherein
前記情報生成部は、プリセットされた、またはユーザにより設定された所定の距離の範囲内に入ったと前記解析部が判断した交差点につき情報を生成する
ことを特徴とする請求項1乃至10のいずれか一項に記載の交差点状況確認システム。
The information generation unit generates information about an intersection determined by the analysis unit as being within a predetermined distance range preset or set by a user. The intersection status confirmation system according to one item.
前記撮像部は、全天球カメラであり、1台のカメラで全方向のアングルの映像を撮像する
ことを特徴とする請求項1乃至11のいずれか一項に記載の交差点状況確認システム。
The intersection status confirmation system according to any one of claims 1 to 11, wherein the imaging unit is an omnidirectional camera, and images of angles in all directions are captured by a single camera.
前記撮像部は、赤外線カメラである
ことを特徴とする請求項1乃至12のいずれか一項に記載の交差点状況確認システム。
The intersection status confirmation system according to any one of claims 1 to 12, wherein the imaging unit is an infrared camera.
前記撮像装置は、画像処理により霧によるノイズを除去する機能
を備えることを特徴とする請求項1乃至13のいずれか一項に記載の交差点状況確認システム。
The intersection status confirmation system according to any one of claims 1 to 13, wherein the imaging device has a function of removing noise caused by fog by image processing.
交差点につながる道路上の動体を撮像し、交差点状況に関する情報を周囲に送信する撮像装置であって、
撮像を行う撮像部と、
前記撮像部によって撮像した動体を検出する検出部と、
前記検出部で検出された動体に対して当該撮像装置からの動体の相対位置を計測する計測部と、
前記検出部で検出された動体と前記計測部によって計測された結果から交差点状況に関する情報を送信する送信部と
を有することを特徴とする撮像装置。
An imaging device that images a moving object on a road connected to an intersection and transmits information about the intersection situation to the surroundings,
An imaging unit for imaging;
A detection unit for detecting a moving object imaged by the imaging unit;
A measurement unit that measures a relative position of the moving object from the imaging device with respect to the moving object detected by the detection unit;
An imaging apparatus comprising: a moving object detected by the detection unit; and a transmission unit that transmits information related to an intersection situation from a result measured by the measurement unit.
撮像装置から交差点状況に関する情報を受信し、交差点状況を可視化する車載装置であって、
前記撮像装置から送信された交差点状況に関する情報を受信する受信部と、
前記交差点状況を示すための地図データを記憶する記憶部と、
自車の位置と自車が進む方角とを含む情報を取得する自車情報取得部と、
前記受信部によって受信した交差点状況に関する情報と前記自車情報取得部によって取得した情報と前記地図データとに基づいて交差点状況を解析する解析部と、
前記解析部の解析結果に基づいて交差点状況を可視化した情報を生成する情報生成部と、
前記情報生成部により生成された情報を表示する表示部と、
を有することを特徴とする車載装置。
An in-vehicle device that receives information on an intersection situation from an imaging device and visualizes the intersection situation,
A receiving unit for receiving information on the intersection situation transmitted from the imaging device;
A storage unit for storing map data for indicating the intersection situation;
A vehicle information acquisition unit that acquires information including the position of the vehicle and the direction in which the vehicle travels;
An analysis unit for analyzing the intersection situation based on the information about the intersection situation received by the receiving unit, the information obtained by the own vehicle information obtaining unit, and the map data;
An information generation unit that generates information that visualizes an intersection situation based on the analysis result of the analysis unit;
A display unit for displaying information generated by the information generation unit;
A vehicle-mounted device comprising:
交差点につながる道路上の動体を撮像し、交差点状況に関する情報を周囲に送信する撮像装置を構成するコンピュータを、
撮像を行う撮像手段、
前記撮像手段によって撮像した動体を検出する検出手段、
前記検出手段で検出された動体に対して当該撮像装置からの動体の相対位置を計測する計測手段、
前記検出手段で検出された動体と前記計測手段によって計測された結果から交差点状況に関する情報を送信する送信手段
として機能させることを特徴とする交差点状況確認プログラム。
A computer that constitutes an imaging device that captures images of moving objects on a road connected to an intersection and transmits information about the situation of the intersection to the surroundings,
Imaging means for imaging,
Detecting means for detecting a moving object imaged by the imaging means;
Measuring means for measuring the relative position of the moving object from the imaging device with respect to the moving object detected by the detecting means;
An intersection status confirmation program that functions as a transmission unit that transmits information on an intersection situation from a moving object detected by the detection unit and a result measured by the measurement unit.
撮像装置から交差点状況に関する情報を受信し、交差点状況を可視化する車載装置を構成するコンピュータを、
前記撮像装置から送信された交差点状況に関する情報を受信する受信手段、
前記交差点状況を示すための地図データを記憶する記憶手段、
自車の位置と自車が進む方角とを含む情報を取得する自車情報取得手段、
前記受信手段によって受信した交差点状況に関する情報と前記自車情報取得手段によって取得した情報と前記地図データとに基づいて交差点状況を解析する解析手段、
前記解析手段の解析結果に基づいて交差点状況を可視化した情報を生成する生成手段、
前記生成手段により生成された情報を表示する表示手段、
として機能させることを特徴とする交差点状況確認プログラム。
A computer that constitutes an in-vehicle device that receives information about an intersection situation from an imaging device and visualizes the intersection situation,
Receiving means for receiving information on the intersection situation transmitted from the imaging device;
Storage means for storing map data for indicating the intersection situation;
Own vehicle information acquisition means for acquiring information including the position of the host vehicle and the direction in which the host vehicle travels,
Analyzing means for analyzing the intersection situation based on the information about the intersection situation received by the receiving means, the information obtained by the own vehicle information obtaining means, and the map data;
Generating means for generating information visualizing the intersection situation based on the analysis result of the analyzing means;
Display means for displaying information generated by the generating means;
Intersection situation confirmation program characterized by functioning as
交差点につながる道路上の動体を撮像し、交差点状況に関する情報を周囲に送信する撮像装置と、当該撮像装置から交差点状況に関する情報を受信し、交差点状況を可視化する車載装置とが実行する方法であって、
前記撮像装置が、
撮像を行い、
撮像した動体を検出し、
検出された動体に対して当該撮像装置からの動体の相対位置を計測し、
検出された動体と計測された結果から交差点状況に関する情報を前記車載装置へ送信し、
前記車載装置が、
前記撮像装置から送信された交差点状況に関する情報を受信し、
自車の位置と自車が進む方角とを含む情報を取得し、
受信した交差点状況に関する情報と取得した自車の位置と自車が進む方角の情報と地図データとに基づいて交差点状況を解析する解析し、
解析結果に基づいて交差点状況を可視化した情報を生成し、
生成された情報を表示する
ことを特徴とする交差点状況確認方法。
This is a method executed by an imaging device that captures moving objects on a road connected to an intersection and transmits information about the intersection situation to the surroundings, and an in-vehicle device that receives information about the intersection situation from the imaging device and visualizes the intersection situation. And
The imaging device is
Take an image,
Detecting moving images
Measure the relative position of the moving object from the imaging device with respect to the detected moving object,
Send information about the intersection situation from the detected moving object and the measured result to the in-vehicle device,
The in-vehicle device is
Receiving information about the intersection situation transmitted from the imaging device;
Obtain information including the location of the vehicle and the direction in which the vehicle is traveling,
Analyzing the situation of the intersection based on the information on the received situation of the intersection, the position of the acquired vehicle, the information on the direction in which the vehicle travels, and the map data,
Based on the analysis result, generate information that visualizes the intersection situation,
An intersection status confirmation method characterized by displaying the generated information.
JP2016005390A 2016-01-14 2016-01-14 Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method Pending JP2017126213A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016005390A JP2017126213A (en) 2016-01-14 2016-01-14 Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016005390A JP2017126213A (en) 2016-01-14 2016-01-14 Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method

Publications (1)

Publication Number Publication Date
JP2017126213A true JP2017126213A (en) 2017-07-20

Family

ID=59365530

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016005390A Pending JP2017126213A (en) 2016-01-14 2016-01-14 Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method

Country Status (1)

Country Link
JP (1) JP2017126213A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020193956A (en) * 2019-05-30 2020-12-03 クラリオン株式会社 On-vehicle device, driving support method, and driving support system
CN112489416A (en) * 2019-09-11 2021-03-12 罗伯特·博世有限公司 Using information from traffic mirrors for automated driving
JP7491023B2 (en) 2020-03-31 2024-05-28 株式会社豊田中央研究所 Control equipment and control system

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020193956A (en) * 2019-05-30 2020-12-03 クラリオン株式会社 On-vehicle device, driving support method, and driving support system
JP7261090B2 (en) 2019-05-30 2023-04-19 フォルシアクラリオン・エレクトロニクス株式会社 In-vehicle device, driving assistance method, and driving assistance system
CN112489416A (en) * 2019-09-11 2021-03-12 罗伯特·博世有限公司 Using information from traffic mirrors for automated driving
JP7491023B2 (en) 2020-03-31 2024-05-28 株式会社豊田中央研究所 Control equipment and control system

Similar Documents

Publication Publication Date Title
US10497264B2 (en) Methods and systems for providing warnings of obstacle objects
JP4277217B2 (en) Approaching moving body display device, system and method, and collision information providing device and method
JP4434224B2 (en) In-vehicle device for driving support
US11158076B2 (en) Imaging control device and method, and vehicle
JP4622928B2 (en) In-vehicle camera control device and in-vehicle camera control method.
JP4311426B2 (en) Display system, in-vehicle device, and display method for displaying moving object
JP4719590B2 (en) In-vehicle peripheral status presentation device
US20190130742A1 (en) Safety drving assistant system, vehicle, and program
US11198398B2 (en) Display control device for vehicle, display control method for vehicle, and storage medium
JPWO2017187884A1 (en) RECOMMENDED TRAVEL SPEED PROVIDING PROGRAM, TRAVEL SUPPORT SYSTEM, VEHICLE CONTROL DEVICE, AND AUTOMATIC TRAVEL VEHICLE
CN112119282A (en) Information processing apparatus, mobile apparatus, method, and program
JP6129268B2 (en) Vehicle driving support system and driving support method
CN112534487B (en) Information processing apparatus, moving body, information processing method, and program
US20220189308A1 (en) Methods and systems for generating targeted warnings
JP2008097279A (en) Vehicle exterior information display device
JP6520687B2 (en) Driving support device
JP2008217813A (en) Collision information providing device and method
KR101281629B1 (en) Driving guidance system using sensors
JP2006236094A (en) Obstacle recognition system
JP2008046761A (en) System, device, and method for processing image of movable object
JP2008250453A (en) Drive support device and method
JP2017126213A (en) Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method
JP5523250B2 (en) Driving assistance device
JP5354193B2 (en) Vehicle driving support device
JP2008305283A (en) Drive support apparatus and drive support method