JP6651062B2 - 車外コミュニケーション装置、車外コミュニケーション方法、情報処理装置、及び車外コミュニケーションプログラム - Google Patents
車外コミュニケーション装置、車外コミュニケーション方法、情報処理装置、及び車外コミュニケーションプログラム Download PDFInfo
- Publication number
- JP6651062B2 JP6651062B2 JP2019554086A JP2019554086A JP6651062B2 JP 6651062 B2 JP6651062 B2 JP 6651062B2 JP 2019554086 A JP2019554086 A JP 2019554086A JP 2019554086 A JP2019554086 A JP 2019554086A JP 6651062 B2 JP6651062 B2 JP 6651062B2
- Authority
- JP
- Japan
- Prior art keywords
- pedestrian
- display
- intention
- display content
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004891 communication Methods 0.000 title claims description 82
- 238000000034 method Methods 0.000 title claims description 32
- 230000010365 information processing Effects 0.000 title claims description 7
- 238000012546 transfer Methods 0.000 claims description 72
- 230000006399 behavior Effects 0.000 claims description 52
- 230000008569 process Effects 0.000 claims description 13
- 230000002093 peripheral effect Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 16
- 238000001514 detection method Methods 0.000 description 15
- 238000000605 extraction Methods 0.000 description 15
- 230000015654 memory Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q1/00—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
- B60Q1/26—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic
- B60Q1/50—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking
- B60Q1/547—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking for issuing requests to other traffic participants; for confirming to other traffic participants they can proceed, e.g. they can overtake
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q1/00—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
- B60Q1/26—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic
- B60Q1/50—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking
- B60Q1/549—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking for expressing greetings, gratitude or emotions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/06—Systems determining position data of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/865—Combination of radar systems with lidar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/003—Transmission of data between radar, sonar or lidar systems and remote stations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
- G01S7/417—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
- H04W4/44—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q2300/00—Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
- B60Q2300/40—Indexing codes relating to other road users or special conditions
- B60Q2300/45—Special conditions, e.g. pedestrians, road signs or potential dangers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q2400/00—Special features or arrangements of exterior signal lamps for vehicles
- B60Q2400/50—Projected symbol or information, e.g. onto the road or car body
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9316—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles combined with communication equipment with other vehicles or with base stations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
- G01S7/415—Identification of targets based on measurements of movement associated with the target
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/10—Automotive applications
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Electromagnetism (AREA)
- Mechanical Engineering (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Human Computer Interaction (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Traffic Control Systems (AREA)
Description
《1−1》構成
<車外コミュニケーション装置>
図1は、実施の形態1に係る車外コミュニケーション装置の構成を概略的に示す機能ブロック図である。図1の車外コミュニケーション装置は、実施の形態1に係る車外コミュニケーション方法を実行することができる装置である。
図2は、実施の形態1に係る車外コミュニケーション装置を備えた車両91と道路93を横断しようとする実際の歩行者(以下「第1の歩行者」ともいう)92との位置関係の例を示す図である。図3は、車両91に対する第1の歩行者92の位置と道路93上に表示された表示コンテンツ61の例を示す図である。図2及び図3において、車両91は、Vx−Vy直交座標系における原点(0,0)にあり、矢印94方向すなわち+Vy軸方向に先端を向けている。第1の歩行者92は座標(Vx_h,Vy_h)にあり、矢印95方向すなわち−Vx軸方向に顔を向けており、−Vx軸方向に歩行して道路93を横断している又は横断したいと思って立ち止まっている。
譲り意思判断パラメタ学習部20は、実施の形態1に係る車外コミュニケーション装置を実際の交通シーンにおいて使用する前に、譲り意思判断パラメタ31を生成し、記憶部30に保存するために使用される。譲り意思判断パラメタ学習部20は、図1におけるカメラ11を頭部抽出部14から切り離し、ミリ波センサ12及びレーザセンサ13を歩行者検出部15から切り離した状態で使用される。この状態における処理を、オフライン処理と言う。譲り意思判断パラメタ学習部20は、予め交通シーンから作成された学習用DBに基づいて歩行者が車両に道を譲ろうとする意思である譲り意思の状態と前記歩行者の頭部の挙動と前記歩行者の位置との関係を予め学習し、「譲り意思の状態」に「歩行者の頭部の挙動」及び「歩行者の位置」を紐付けした学習データである譲り意思判断パラメタ31を生成し、譲り意思判断パラメタ31を記憶部30に記憶させる。
譲り意思判断パラメタ31を記憶する記憶部30は、半導体メモリ又はハードディスク装置などで構成できる。記憶部30は、譲り意思判断パラメタ31に加えて、「譲り意思の状態」に表示コンテンツの表示が必要であるか否かを示す要否情報を紐付けした要否決定テーブル32及び譲り意思の状態に表示コンテンツを紐付けしたコンテンツデータベース(コンテンツDB)33を予め記憶している。譲り意思判断パラメタ31、要否決定テーブル32、及びコンテンツDB33は、互いに異なる複数の記憶部にそれぞれ記憶されてもよい。
譲り意思判断部40は、第1の歩行者92の頭部画像及び第1の歩行者92の位置と記憶部30に記憶されている譲り意思判断パラメタ31とに基づいて、第1の歩行者92の譲り意思を判断する。第1の歩行者92の譲り意思は、第1の歩行者92が譲り意思を持っているときに現われる「譲り意思有り」、第1の歩行者92が譲り意思を持っていないときに現われる「譲り意思無し」、及び第1の歩行者92が車両に道を譲ろうか又は先に道路を渡ろうか迷っているときに現われる「譲り意思未決定」すなわち「迷っている状態」の内の1つ以上を含む。
表示機60は、道路93の路面上に表示コンテンツ97を表示する装置である。表示機60は、例えば、画像を投射するプロジェクタである。
表示制御部50は、第1の歩行者92の譲り意思の状態の判断の結果に基づいて、第1の歩行者92に対する表示コンテンツを表示するか否か、表示コンテンツの内容、及び表示コンテンツの道路93上における表示位置を決定し、前記決定に基づいて表示機60を制御する。
車外コミュニケーション装置の動作は、譲り意思判断パラメタ31を作成するために学習用DBを用いて学習を行うオフライン処理(後述の図4)と、実際の交通シーンにおける第1の歩行者92の譲り意思の状態の判断を行い、表示コンテンツを表示するオンライン処理(後述の図6)とを含む。学習用DBは、学習用DB取得用の車両に学習用DB取得用のカメラ、ミリ波センサ、及びレーザセンサを搭載し、実際の交通シーンを想定した実験環境下で歩行者を数秒から数十秒の時間、撮影及び検知して得られた時系列の画像データ及び時系列のセンサデータの集合である。譲り意思判断パラメタ31は、車外コミュニケーション装置を実際の交通シーンで使用するよりも前に生成され、記憶部30に記憶される。
図4は、実施の形態1に係る車外コミュニケーション装置の譲り意思判断パラメタ学習部20による学習動作を示すフローチャートである。学習動作においては、歩行者検出部15に予め用意された学習用DBの時系列のセンサデータが入力され、頭部抽出部14に予め用意された学習用DBの時系列の画像データが入力される。
図6は、実施の形態1に係る車外コミュニケーション装置の実際の交通シーンにおける車外コミュニケーション動作(オンライン処理により行われる)を示すフローチャートである。車外コミュニケーション動作においては、歩行者検出部15にはミリ波センサ12及びレーザセンサ13の時系列のセンサデータが入力され、頭部抽出部14にはカメラ11で撮影された時系列の画像データが入力される。
以上に説明したように、実施の形態1に係る車外コミュニケーション装置は、歩行者の挙動を示す時系列のデータとそれに紐付けられたタグとから自動的にルールを学習し、学習データとして譲り意思判断パラメタ31を生成する。実際の交通シーンで車外コミュニケーション装置を使用する場合には、譲り意思判断パラメタ31に応じて第1の歩行者92の譲り意思の状態を判断するので、予め人が決めたルールのみを用いた場合に比べ、譲り意思の状態を正確に判断することができる。そのため、第1の歩行者92に、適切な内容の表示コンテンツを適切な表示位置に表示できる。
《2−1》構成
上記実施の形態1に係る車外コミュニケーション装置は、第1の歩行者92の譲り意思の状態の判断(図6のステップS111〜S113)の結果に基づいて、第1の歩行者92に対して表示コンテンツを表示するか否かを決定し(図6のステップS114、S115)、表示コンテンツの内容を決定し(図6のステップS116)、表示コンテンツの道路93上における表示位置を決定し(図6のステップS117)、これらの決定に基づいて表示機60を制御する(図6のステップS118)。
実施の形態2に係る車外コミュニケーション装置は、譲り意思判断パラメタ31の作成及び理解度判断パラメタ34の作成のためのオフライン処理と、実際の交通シーンにおける譲り意思の判断及び理解度の判断に基づいて第1の歩行者92に対して表示コンテンツを提供するオンライン処理とを行う。実施の形態2では、オフライン処理において実施の形態1と同様の学習用DBを用いる。また、ミリ波センサ、レーザセンサ、及びカメラはキャリブレーション済みであるものとする。また、車両にカメラ、ミリ波センサ、及びレーザセンサを車載した状態で、実際の交通シーンを想定した実験環境下で歩行者を数秒から数十秒の期間、検知して得られた時系列のセンサデータ及び時系列の画像データの集合である理解度を学習するための学習用DBが予め用意されているものとする。また、各データは、表示コンテンツを「理解した」、表示コンテンツの「内容が理解できない」、「表示コンテンツが見えない」、表示コンテンツを「見ていない」等の歩行者の理解度に紐付けられているものとする。
図10は、実施の形態2に係る車外コミュニケーション装置の理解度判断パラメタ学習部70による学習動作(オフライン処理により行われる)を示すフローチャートである。
図12は、実施の形態2に係る車外コミュニケーション装置の実際の交通シーンにおける車外コミュニケーション動作(オンライン処理により行われる)を示すフローチャートである。図12において、図6に示される処理ステップと同じ内容の処理ステップには、図6におけるステップ番号と同じステップ番号が付される。図12において、ステップS111〜S118の処理は、図6におけるものとおなじである。
表示内容変更部54は、譲り意思判断部40から提供された第1の歩行者92の挙動に対応するコンテンツDB33内の表示コンテンツから、以前に表示した表示コンテンツと異なるものを選べばよい。例えば、第1の歩行者92の挙動が「譲り意思有り」を示しており、表示コンテンツとして図8における「ありがとう」が選択され既に表示されていた場合には、未だ表示されていない表示コンテンツである「Thank you!!」に変更すればよい。このように、新しい表示コンテンツをランダムに選択することも可能であるが、予めコンテンツDB33内の各歩行者の挙動のコンテンツを理解度ごとに対応させておくことで、より適切な新たな表示コンテンツを第1の歩行者92に提供できる。
以上に説明したように、実施の形態2に係る車外コミュニケーション装置は、歩行者の挙動を示す時系列のデータとそれに紐付けられたタグとから自動的にルールを学習し、学習データとして理解度判断パラメタ34を生成する。そして、理解度判断パラメタ34を用いて第1の歩行者92の理解度を判断し、表示コンテンツの理解度に応じて表示コンテンツを新たなものに変更する。このため、第1の歩行者92に正確に情報を提供することができる。
図14は、実施の形態1及び2に係る車外コミュニケーション装置のハードウェア構成を示す図である。図14に示されるように、この車外コミュニケーション装置は、プロセッサ101、記憶装置としての外部記憶媒体102、他の記憶装置としてのメモリ103、ネットワークインタフェース104、及び表示機インタフェース105を備える。これらの構成は、直接又はデータバス106を介して互いに接続される。カメラ11、ミリ波センサ12、及びレーザセンサ13は、ネットワークインタフェース104を介してデータバス106に接続される。表示機60は、及び表示機インタフェース105を介してデータバス106に接続される。
Claims (14)
- 予め交通シーンから作成された学習用データベースに基づいて歩行者が車両に道を譲ろうとする意思である譲り意思の状態と前記歩行者の頭部の挙動と前記歩行者の位置との関係を予め学習し、前記譲り意思の状態に前記挙動及び前記位置を紐付けした学習データである譲り意思判断パラメタを生成する譲り意思判断パラメタ学習部と、
前記譲り意思判断パラメタを記憶する記憶部と、
第1の歩行者の頭部画像及び位置を取得する周辺状況取得部と、
取得された前記第1の歩行者の頭部画像及び位置と前記記憶部に記憶されている前記譲り意思判断パラメタとに基づいて前記第1の歩行者の譲り意思の状態を判断する譲り意思判断部と、
道路上に表示コンテンツを表示する表示機と、
前記第1の歩行者の譲り意思の状態の判断の結果に基づいて、前記第1の歩行者に対して前記表示コンテンツを表示するか否か、前記表示コンテンツの内容、及び前記表示コンテンツの道路上における表示位置を決定し、前記決定に基づいて前記表示機を制御する表示制御部と
を備えたことを特徴とする車外コミュニケーション装置。 - 前記譲り意思判断パラメタにおける前記譲り意思の状態に紐付けされた前記挙動は、
前記歩行者が前記譲り意思を持っている場合に前記歩行者の頭部に現われる譲り意思有りの場合の挙動、
前記歩行者が前記譲り意思を持っていない場合に前記歩行者の頭部に現われる譲り意思無しの場合の挙動、及び
前記歩行者が車両に道を譲ろうか又は先に道路を渡ろうか迷っている場合に前記歩行者の頭部に現われる譲り意思未決定の場合の挙動
の内の1つ以上を含むことを特徴とする請求項1に記載の車外コミュニケーション装置。 - 前記譲り意思判断パラメタは、前記歩行者の時系列の頭部画像からなる頭部画像データ群と前記時系列の頭部画像に対応する時系列の位置からなる位置データ群とを含むデータ集合を、前記譲り意思の状態に紐付けした前記学習データであることを特徴とする請求項1又は2に記載の車外コミュニケーション装置。
- 前記譲り意思判断部は、前記第1の歩行者の頭部画像及び位置と前記記憶部に記憶されている前記譲り意思判断パラメタとに基づいて前記第1の歩行者の譲り意思の状態を判断することを特徴とする請求項1から3のいずれか1項に記載の車外コミュニケーション装置。
- 前記記憶部は、前記譲り意思の状態に表示コンテンツの表示が必要であるか否かを示す要否情報を紐付けした要否決定テーブルを予め記憶し、
前記表示制御部は、前記要否決定テーブルに基づいて、前記表示コンテンツを表示するか否かを決定する表示要否決定部を有する
ことを特徴とする請求項1から4のいずれか1項に記載の車外コミュニケーション装置。 - 前記記憶部は、前記譲り意思の状態に表示コンテンツを紐付けしたコンテンツデータベースを予め記憶し、
前記表示制御部は、前記コンテンツデータベースに基づいて、表示される前記表示コンテンツを決定する表示内容決定部を有する
ことを特徴とする請求項1から5のいずれか1項に記載の車外コミュニケーション装置。 - 前記表示制御部は、前記車両と前記第1の歩行者とを結ぶ線分上に前記表示コンテンツが表示されるように前記表示機を制御する表示位置決定部を有することを特徴とする請求項1から6のいずれか1項に記載の車外コミュニケーション装置。
- 前記表示位置決定部は、前記表示コンテンツに含まれる文字が、前記文字の下部が前記第1の歩行者の近くに位置し、前記文字の上部が前記第1の歩行者から遠くに位置するように、前記表示機を制御することを特徴とする請求項7に記載の車外コミュニケーション装置。
- 予め作成された理解度学習用データベースに基づいて道路上に表示された前記表示コンテンツに対する前記歩行者の理解度と前記歩行者の頭部の挙動と前記歩行者の位置との関係を予め学習し、前記理解度に前記挙動及び前記位置を紐付けした学習データである理解度判断パラメタを生成し、前記記憶部に記憶させる理解度判断パラメタ学習部と、
取得された前記第1の歩行者の頭部画像及び位置と前記記憶部に記憶されている前記理解度判断パラメタとに基づいて前記第1の歩行者の表示コンテンツに対する理解度を判断する理解度判断部と
をさらに備え、
前記表示制御部は、前記第1の歩行者の理解度の判断の結果に基づいて、表示されている前記表示コンテンツの変更の要否を決定する
ことを特徴とする請求項1から8のいずれか1項に記載の車外コミュニケーション装置。 - 前記理解度判断パラメタにおいて前記理解度に紐付けされた前記挙動は、
前記歩行者が前記表示コンテンツを理解した場合に前記歩行者の頭部に現われる挙動、
前記歩行者が前記表示コンテンツを理解できない場合に前記歩行者の頭部に現われる挙動、及び
前記歩行者が前記表示コンテンツを視認できない場合に前記歩行者の頭部に現われる挙動
の内の1つ以上を含むことを特徴とする請求項9に記載の車外コミュニケーション装置。 - 前記理解度判断部が前記第1の歩行者が前記表示コンテンツを理解したと判断した場合に、前記表示制御部は、新たな表示コンテンツを決定し、前記新たな表示コンテンツに基づいて前記表示機を制御することを特徴とする請求項10に記載の車外コミュニケーション装置。
- 予め交通シーンから作成された学習用データベースに基づいて歩行者が車両に道を譲ろうとする意思である譲り意思の状態と前記歩行者の頭部の挙動と前記歩行者の位置との関係を予め学習し、前記譲り意思の状態に前記挙動及び前記位置を紐付けした学習データである譲り意思判断パラメタを生成し、前記譲り意思判断パラメタを記憶部に記憶させるステップと、
周辺状況取得部から第1の歩行者の頭部画像及び位置を取得するステップと、
取得された前記第1の歩行者の頭部画像及び位置と前記記憶部に記憶されている前記譲り意思判断パラメタとに基づいて前記第1の歩行者の譲り意思の状態を判断するステップと、
前記第1の歩行者の譲り意思の状態の判断の結果に基づいて、前記第1の歩行者に対して表示コンテンツを表示するか否か、前記表示コンテンツの内容、及び前記表示コンテンツの道路上における表示位置を決定し、前記決定に基づいて道路上に表示コンテンツを表示する表示機を制御するステップと
を有することを特徴とする車外コミュニケーション方法。 - 第1の歩行者の頭部画像及び位置を取得する周辺状況取得部と道路上に表示コンテンツを表示する表示機とを備えた車両で使用される情報処理装置であって、
予め交通シーンから作成された学習用データベースに基づいて歩行者が車両に道を譲ろうとする意思である譲り意思の状態と前記歩行者の頭部の挙動と前記歩行者の位置との関係を予め学習し、前記譲り意思の状態に前記挙動及び前記位置を紐付けした学習データである譲り意思判断パラメタを生成し、前記譲り意思判断パラメタを記憶部に記憶させる譲り意思判断パラメタ学習部と、
前記周辺状況取得部から取得した前記第1の歩行者の頭部画像及び位置と前記記憶部に記憶されている前記譲り意思判断パラメタとに基づいて前記第1の歩行者の譲り意思の状態を判断する譲り意思判断部と、
前記第1の歩行者の譲り意思の状態の判断の結果に基づいて、前記第1の歩行者に対して前記表示コンテンツを表示するか否か、前記表示コンテンツの内容、及び前記表示コンテンツの道路上における表示位置を決定し、前記決定に基づいて前記表示機を制御する表示制御部と
を備えたことを特徴とする情報処理装置。 - 予め交通シーンから作成された学習用データベースに基づいて歩行者が車両に道を譲ろうとする意思である譲り意思の状態と前記歩行者の頭部の挙動と前記歩行者の位置との関係を予め学習し、前記譲り意思の状態に前記挙動及び前記位置を紐付けした学習データである譲り意思判断パラメタを生成し、前記譲り意思判断パラメタを記憶部に記憶させる処理と、
周辺状況取得部から第1の歩行者の頭部画像及び位置を取得する処理と、
取得された前記第1の歩行者の頭部画像及び位置と前記記憶部に記憶されている前記譲り意思判断パラメタとに基づいて前記第1の歩行者の譲り意思の状態を判断する処理と、
前記第1の歩行者の譲り意思の状態の判断の結果に基づいて、前記第1の歩行者に対して表示コンテンツを表示するか否か、前記表示コンテンツの内容、及び前記表示コンテンツの道路上における表示位置を決定し、前記決定に基づいて道路上に表示コンテンツを表示する表示機を制御する処理と
をコンピュータに実行させることを特徴とする車外コミュニケーションプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/041024 WO2019097595A1 (ja) | 2017-11-15 | 2017-11-15 | 車外コミュニケーション装置、車外コミュニケーション方法、情報処理装置、及び車外コミュニケーションプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6651062B2 true JP6651062B2 (ja) | 2020-02-19 |
JPWO2019097595A1 JPWO2019097595A1 (ja) | 2020-04-02 |
Family
ID=66538550
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019554086A Active JP6651062B2 (ja) | 2017-11-15 | 2017-11-15 | 車外コミュニケーション装置、車外コミュニケーション方法、情報処理装置、及び車外コミュニケーションプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11087224B2 (ja) |
JP (1) | JP6651062B2 (ja) |
CN (1) | CN111344761A (ja) |
DE (1) | DE112017008149B4 (ja) |
WO (1) | WO2019097595A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3670228B1 (en) * | 2018-12-17 | 2022-04-13 | Audi Ag | A display device and a vehicle comprising the display device |
JP7079747B2 (ja) * | 2019-03-08 | 2022-06-02 | 本田技研工業株式会社 | 表示装置、表示制御方法、およびプログラム |
JP7345123B2 (ja) * | 2019-08-26 | 2023-09-15 | パナソニックIpマネジメント株式会社 | 情報処理装置、情報処理方法、及び、コンピュータプログラム |
CN112329684B (zh) * | 2020-11-16 | 2024-04-30 | 常州大学 | 一种基于注视检测和交通场景识别的行人穿越马路意图识别方法 |
US11733369B2 (en) * | 2021-02-11 | 2023-08-22 | Waymo Llc | Methods and systems for three dimensional object detection and localization |
CN114529946A (zh) * | 2022-02-23 | 2022-05-24 | 厦门市美亚柏科信息股份有限公司 | 基于自监督学习的行人重识别方法、装置、设备及存储介质 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3988545B2 (ja) * | 2002-06-10 | 2007-10-10 | 日産自動車株式会社 | サービス提供システム、サービス提供方法および運転状況判定装置 |
JP2005332297A (ja) | 2004-05-21 | 2005-12-02 | Fujitsu Ten Ltd | 運転者意志通知装置 |
JP4862502B2 (ja) * | 2006-06-08 | 2012-01-25 | 日産自動車株式会社 | 運転支援システムおよび運転支援方法 |
JP2008282097A (ja) * | 2007-05-08 | 2008-11-20 | Toyota Central R&D Labs Inc | 衝突危険度推定装置及びドライバ支援装置 |
JP2013114536A (ja) | 2011-11-30 | 2013-06-10 | Seiko Epson Corp | 安全支援装置、及び、安全支援方法 |
US9253753B2 (en) * | 2012-04-24 | 2016-02-02 | Zetta Research And Development Llc-Forc Series | Vehicle-to-vehicle safety transceiver using time slots |
DE102012009555A1 (de) | 2012-05-12 | 2012-11-29 | Daimler Ag | Verfahren zur Unterstützung eines Fahrers beim Führen eines Fahrzeugs und Fahrerassistenzsystem |
JP5696701B2 (ja) | 2012-08-31 | 2015-04-08 | 株式会社デンソー | 対歩行者報知装置 |
US9196164B1 (en) * | 2012-09-27 | 2015-11-24 | Google Inc. | Pedestrian notifications |
JP6156732B2 (ja) * | 2013-05-15 | 2017-07-05 | スズキ株式会社 | 歩車間通信システム |
CN104175950A (zh) * | 2013-05-23 | 2014-12-03 | 北京千橡网景科技发展有限公司 | 一种用于车内人员与外界沟通的方法及设备 |
US9128577B2 (en) | 2013-12-10 | 2015-09-08 | Atmel Corporation | Hybrid capacitive touch system design and method |
US9349293B2 (en) * | 2014-02-07 | 2016-05-24 | Here Global B.V | Method and apparatus for providing vehicle synchronization to facilitate a crossing |
DE102014215057A1 (de) | 2014-07-31 | 2016-02-04 | Bayerische Motoren Werke Aktiengesellschaft | Bestimmung einer Kollisionswahrscheinlichkeit auf Basis einer Kopforientierung eines Fußgängers |
DE102014226254A1 (de) | 2014-12-17 | 2016-06-23 | Robert Bosch Gmbh | Verfahren zum Betreiben eines insbesondere autonom oder teilautonom fahrenden/fahrbaren Kraftfahrzeugs, Signalisierungsvorrichtung, Kraftfahrzeug |
CN104537360B (zh) * | 2015-01-15 | 2018-01-02 | 上海博康智能信息技术有限公司 | 车辆未让行违章检测方法及其检测系统 |
DE102015210781A1 (de) | 2015-06-12 | 2016-12-15 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren und Steuereinheit zur Kommunikation zwischen einem autonomen Fahrzeug und einem Verkehrsteilnehmer |
US9969326B2 (en) * | 2016-02-22 | 2018-05-15 | Uber Technologies, Inc. | Intention signaling for an autonomous vehicle |
CN106428000B (zh) * | 2016-09-07 | 2018-12-21 | 清华大学 | 一种车辆速度控制装置和方法 |
US10427596B2 (en) * | 2017-07-27 | 2019-10-01 | Alexa Lea Haushalter | Vehicle directional indicator for autonomous and non-autonomous vehicles |
-
2017
- 2017-11-15 WO PCT/JP2017/041024 patent/WO2019097595A1/ja active Application Filing
- 2017-11-15 US US16/652,176 patent/US11087224B2/en active Active
- 2017-11-15 JP JP2019554086A patent/JP6651062B2/ja active Active
- 2017-11-15 CN CN201780096507.3A patent/CN111344761A/zh active Pending
- 2017-11-15 DE DE112017008149.1T patent/DE112017008149B4/de active Active
Also Published As
Publication number | Publication date |
---|---|
JPWO2019097595A1 (ja) | 2020-04-02 |
US11087224B2 (en) | 2021-08-10 |
CN111344761A (zh) | 2020-06-26 |
DE112017008149B4 (de) | 2024-04-18 |
WO2019097595A1 (ja) | 2019-05-23 |
US20200250553A1 (en) | 2020-08-06 |
DE112017008149T5 (de) | 2020-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6651062B2 (ja) | 車外コミュニケーション装置、車外コミュニケーション方法、情報処理装置、及び車外コミュニケーションプログラム | |
US20190259284A1 (en) | Pedestrian detection for vehicle driving assistance | |
EP3349050A1 (en) | Inspection devices and methods for detecting a firearm | |
US10572072B2 (en) | Depth-based touch detection | |
CN111695402B (zh) | 用于标注3d点云数据中人体姿态的工具和方法 | |
JP2019527448A (ja) | 車両の運転者の状態を監視するための方法及びシステム | |
JP4173902B2 (ja) | 車両周辺監視装置 | |
CN111797657A (zh) | 车辆周边障碍检测方法、装置、存储介质及电子设备 | |
US9990710B2 (en) | Apparatus and method for supporting computer aided diagnosis | |
KR20170091677A (ko) | 체온이 증가한 개체를 식별하기 위한 방법 및 시스템 | |
CN111027481B (zh) | 基于人体关键点检测的行为分析方法及装置 | |
JP2005159392A (ja) | 車両周辺監視装置および方法 | |
Bertoni et al. | Perceiving humans: from monocular 3d localization to social distancing | |
JP2011238227A (ja) | 物体検知方法及び装置 | |
US20220414997A1 (en) | Methods and systems for providing a tutorial for graphic manipulation of objects including real-time scanning in an augmented reality | |
JP2007293627A (ja) | 車両の周辺監視装置、車両、車両の周辺監視方法、および車両の周辺監視用プログラム | |
EP3349142A1 (en) | Information processing device and method | |
CN111783640A (zh) | 检测方法、装置、设备以及存储介质 | |
JP2021033510A (ja) | 運転支援装置 | |
JP2002366958A (ja) | 画像認識方法および画像認識装置 | |
WO2020217812A1 (ja) | 被写体の状態を認識する画像処理装置及びその方法 | |
US20230091536A1 (en) | Camera Placement Guidance | |
KR101575100B1 (ko) | 사용자 그룹의 공간행동 센싱 및 의미분석 시스템 | |
US11314968B2 (en) | Information processing apparatus, control method, and program | |
JP2020009107A (ja) | 避難誘導装置、避難誘導システム、および制御プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191118 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20191118 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20191219 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191224 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200121 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6651062 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |