CN117141492A - 驾驶支援装置、驾驶支援方法及存储介质 - Google Patents
驾驶支援装置、驾驶支援方法及存储介质 Download PDFInfo
- Publication number
- CN117141492A CN117141492A CN202310610184.2A CN202310610184A CN117141492A CN 117141492 A CN117141492 A CN 117141492A CN 202310610184 A CN202310610184 A CN 202310610184A CN 117141492 A CN117141492 A CN 117141492A
- Authority
- CN
- China
- Prior art keywords
- occupant
- sight
- line
- driving support
- attention
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 24
- 230000000007 visual effect Effects 0.000 claims abstract description 52
- 238000012545 processing Methods 0.000 claims description 8
- 238000009826 distribution Methods 0.000 claims description 4
- 239000011521 glass Substances 0.000 description 18
- 238000010586 diagram Methods 0.000 description 16
- 238000012544 monitoring process Methods 0.000 description 7
- 210000003128 head Anatomy 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 238000002485 combustion reaction Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000012907 on board imaging Methods 0.000 description 1
- BULVZWIRKLYCBC-UHFFFAOYSA-N phorate Chemical compound CCOP(=S)(OCC)SCSCC BULVZWIRKLYCBC-UHFFFAOYSA-N 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000003867 tiredness Effects 0.000 description 1
- 208000016255 tiredness Diseases 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W10/00—Conjoint control of vehicle sub-units of different type or different function
- B60W10/20—Conjoint control of vehicle sub-units of different type or different function including control of steering systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W40/09—Driving style or behaviour
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/146—Display means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/225—Direction of gaze
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Traffic Control Systems (AREA)
Abstract
能根据乘员的视线的朝向、时间而灵活地执行驾驶支援的驾驶支援装置、驾驶支援方法及存储介质。驾驶支援装置具备:物体目标识别部,其识别移动体周边的物体目标;视线推定部,其推定移动体的乘员的视线朝着包含存在于移动体的构造体上的注视对象和物体目标在内的多个注视对象中的哪个注视对象;视觉辨认判定部,其在推定为乘员的视线朝着多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为乘员视觉辨认着该注视对象;驾驶支援部,其基于视觉辨认判定部的判定结果,执行移动体的驾驶支援,视觉辨认判定部从推定为乘员的视线离开了该注视对象的时间点起,将乘员视觉辨认着被判定为视觉辨认着的注视对象的判定结果维持第二规定期间。
Description
技术领域
本发明涉及驾驶支援装置、驾驶支援方法及存储介质。
背景技术
以往,已知检测移动体的乘员的视线,并基于检测到的视线来支援由该乘员进行的移动体的驾驶的技术。例如,在日本特开2021-33570号公报中公开了在移动体处于行驶状态、且检测到的视线的朝向未朝着规定区域的情况下,限制针对移动体的操作部而言的接受的技术。
然而,在以往技术中,有时不能根据移动体的乘员的视线的朝向、时间而灵活地执行驾驶支援。
发明内容
本发明是考虑这样的情况而完成的,其目的之一在于提供能够根据乘员的视线的朝向、时间而灵活地执行驾驶支援的驾驶支援装置、驾驶支援方法及存储介质。
本发明所涉及的驾驶支援装置、驾驶支援方法及存储介质采用了以下的结构。
(1):本发明的一方案所涉及的驾驶支援装置具备:物体目标识别部,其识别处于移动体的周边的物体目标;视线推定部,其推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;视觉辨认判定部,其在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;以及驾驶支援部,其基于所述视觉辨认判定部的判定结果,来执行所述移动体的驾驶支援,所述视觉辨认判定部在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
(2):在上述(1)的方案的基础上,所述视线推定部基于所述视线与表示视觉辨认着所述注视对象的概率的视线的概率分布之间的一致程度,来推定所述乘员的视线朝着所述多个注视对象中的哪个注视对象。
(3):在上述(2)的方案的基础上,所述视线推定部基于通过以所述移动体的乘员的头部为中心的极坐标表示的所述视线、以及通过以所述头部为中心的极坐标表示的所述注视对象的中心角度及角度的宽度,来算出所述一致程度,并推定所述乘员的视线朝着所述多个注视对象中的哪个注视对象。
(4):在上述(1)的方案的基础上,所述视觉辨认判定部根据所述多个注视对象的种类,来变更所述第二规定期间的长度。
(5):在上述(1)的方案的基础上,由所述视线推定部判定为所述乘员视觉辨认着所述注视对象的期间越长,则所述视觉辨认判定部越加长所述第二规定期间。
(6):在上述(1)的方案的基础上,所述乘员视觉辨认到由所述物体目标识别部识别到的物体目标的次数越多,则所述视觉辨认判定部越加长所述第二规定期间。
(7):在上述(2)的方案的基础上,所述视觉辨认判定部根据由所述视线推定部算出的所述一致程度的大小,来变更所述第二规定期间的长度。
(8):在上述(1)的方案的基础上,所述驾驶支援部在由所述视觉辨认判定部判定为所述乘员视觉辨认着所述注视对象、且判定为通过视觉辨认所述注视对象而能够识别所述注视对象所包含的物体目标的情况下,以降低对所述物体目标的警戒度的倾向来执行所述驾驶支援。
(9):本发明的别的方案所涉及的驾驶支援方法使计算机进行如下处理:识别处于移动体的周边的物体目标;推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;基于所述视觉辨认的判定结果,来执行所述移动体的驾驶支援;在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
(10):本发明的别的方案所涉及的存储介质存储有程序,其中,所述程序使计算机进行如下处理:识别处于移动体的周边的物体目标;推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;基于所述视觉辨认的判定结果,来执行所述移动体的驾驶支援;在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
根据(1)~(10)的方案,能够根据乘员的视线的朝向、时间而灵活地执行驾驶支援。
附图说明
图1是搭载实施方式的驾驶支援装置100的车辆M的结构图。
图2是表示搭载驾驶支援装置100的车辆M中的驾驶员监视相机60的配置位置的一例的图。
图3是用于说明视线推定部120检测驾驶员的视线LS的方法的图。
图4是用于说明视线推定部120算出注视对象的中心角度及角度的宽度的方法的图。
图5是用于说明视觉辨认判定部130判定由驾驶员对注视对象的视觉辨认的方法的图。
图6是用于说明视觉辨认判定部130考虑重叠率而算出第二规定期间的方法的图。
图7是用于说明由驾驶支援部140执行的驾驶支援的图。
图8是用于说明由驾驶支援部140执行的驾驶支援的别的图。
图9是表示由驾驶支援装置100执行的动作的流程的一例的流程图。
具体实施方式
以下,参照附图来说明本发明的驾驶支援装置、驾驶支援方法及存储介质的实施方式。
[整体结构]
图1是搭载实施方式的驾驶支援装置100的车辆M的结构图。车辆M例如是二轮、三轮、四轮等的车辆,其驱动源是柴油发动机、汽油发动机等内燃机、电动机、或它们的组合。电动机使用由与内燃机连结的发电机发出的发电电力、或二次电池、燃料电池的放电电力来进行动作。车辆M是“移动体”的一例。
在车辆M例如搭载相机10、雷达装置12、LIDAR(Light Detection and Ranging)14、物体识别装置16、HMI(Human Machine Interface)30、车辆传感器40、导航装置50、驾驶员监视相机60、驾驶操作件70、驾驶支援装置100、行驶驱动力输出装置200、制动装置210及转向装置220。这些装置、设备通过CAN(Controller Area Network)通信线等多路通信线、串行通信线、无线通信网等而互相连接。需要说明的是,图1所示的结构只是一例,既可以省略结构的一部分,也可以还追加别的结构。
相机10例如是利用了CCD(Charge Coupled Device)、CMOS(Complementary MetalOxide Semiconductor)等固体摄像元件的数码相机。相机10安装于搭载车辆系统1的车辆(以下称作车辆M)的任意部位。在对前方进行拍摄的情况下,相机10安装于前风窗玻璃上部、车室内后视镜背面等。相机10例如周期性地反复对车辆M的周边进行拍摄。相机10也可以是立体相机。
雷达装置12向车辆M的周边放射毫米波等电波,并且检测由物体反射的电波(反射波)来至少检测物体的位置(距离及方位)。雷达装置12安装于车辆M的任意部位。雷达装置12也可以通过FM-CW(Frequency Modulated Continuous Wave)方式来检测物体的位置及速度。
LIDAR14向车辆M的周边照射光(或波长与光相近的电磁波),并测定散射光。LIDAR14基于从发光到受光的时间,来检测距对象的距离。照射的光例如是脉冲状的激光。LIDAR14安装于车辆M的任意部位。
物体识别装置16对由相机10、雷达装置12及LIDAR14中的一部分或全部检测的检测结果进行传感器融合处理,来识别物体的位置、种类、速度等。物体识别装置16将识别结果向驾驶支援装置100输出。物体识别装置16可以将相机10、雷达装置12及LIDAR14的检测结果直接向驾驶支援装置100输出。也可以从车辆系统1中省略物体识别装置16。
HMI30对车辆M的乘员提示各种信息,并且接受由乘员进行的输入操作。HMI30包括各种显示装置、扬声器、蜂鸣器、振动产生装置(振动器)、触摸面板、开关、按键等。
车辆传感器40包括检测车辆M的速度的车速传感器、检测加速度的加速度传感器、检测绕铅垂轴的角速度的横摆角速度传感器、检测车辆M的朝向的方位传感器等。
导航装置50例如具有GNSS(Global Navigation Satellite System)接收机、引导控制部、存储有地图信息的存储部等。GNSS接收机基于从GNSS卫星接收到的信号,来确定车辆M的位置。车辆M的位置也可以通过利用了车辆传感器40的输出的INS(InertialNavigation System)来确定或补充。引导控制部例如参照地图信息来决定从由GNSS接收机确定的车辆M的位置(或输入的任意位置)到由乘员输入的目的地的路径,并使HMI30输出引导信息以使车辆M沿着路径行驶。地图信息例如是通过表示道路的路段和由路段连接的节点来表现道路形状的信息。地图信息也可以包括道路的曲率、POI(Point Of Interest)信息等。导航装置50也可以经由通信装置向导航服务器发送车辆M的当前位置和目的地,并从导航服务器取得路径。
驾驶员监视相机60例如是利用了CCD、CMOS等固体摄像元件的数码相机。驾驶员监视相机60以能够从正面(以拍摄面部的朝向)对就座于本车辆M的驾驶员座的乘员(以下称作驾驶员)的头部进行拍摄的位置及朝向安装于本车辆M中的任意部位。驾驶员监视相机60向驾驶支援装置100输出从所配置的位置对包含本车辆M的驾驶员在内的车室内进行拍摄而得到的图像。
图2是表示搭载驾驶支援装置100的车辆M中的驾驶员监视相机60的配置位置的一例的图。在图2中,RVM表示车室内后视镜,FWS表示前玻璃,LSM表示左侧部后视镜,LWS表示左侧部玻璃,RSM表示右侧部后视镜,RWS表示右侧部玻璃,DB表示前围板,SW表示转向盘,OB表示由物体识别装置16识别到的车外的物体目标(行人)。如图2所示那样,驾驶员监视相机60例如安装于在本车辆M的仪表板的中央部设置的显示器装置(HMI30)的下部,并从正面拍摄驾驶员的头部。车室内后视镜RVM、前玻璃FWS、左侧部后视镜LSM、左侧部玻璃LWS、右侧部后视镜RSM、右侧部玻璃RWS、前围板DB、物体目标OB是由驾驶员注视的“注视对象”的一例,由后述的视线推定部120判断驾驶员的视线朝着哪个注视对象。
驾驶操作件70例如包括油门踏板、制动踏板、转向盘、换挡杆、其他操作件。在驾驶操作件70安装有检测操作量或有无操作的传感器,其检测结果向行驶驱动力输出装置200、制动装置210及转向装置220中的一部分或全部输出。
行驶驱动力输出装置200将用于使车辆行驶的行驶驱动力(转矩)向驱动轮输出。行驶驱动力输出装置200例如具备内燃机、电动机及变速器等的组合、以及控制它们的ECU(Electronic Control Unit)。ECU按照从驾驶支援装置100输入的信息或从驾驶操作件70输入的信息,来控制上述的结构。
制动装置210例如具备制动钳、向制动钳传递液压的液压缸、使液压缸产生液压的电动马达、以及ECU。ECU按照从驾驶支援装置100输入的信息、或从驾驶操作件70输入的信息来控制电动马达,以使与制动操作相应的制动转矩向各车轮输出。制动装置210可以具备将通过驾驶操作件70所包含的制动踏板的操作而产生的液压经由主液压缸而向液压缸传递的机构作为备用。需要说明的是,制动装置210不限于上述说明的结构,也可以是按照从驾驶支援装置100输入的信息来控制致动器而将主液压缸的液压向液压缸传递的电子控制式液压制动装置。
转向装置220例如具备转向ECU和电动马达。电动马达例如使力作用于齿条-小齿轮机构来变更转向轮的朝向。转向ECU按照从驾驶支援装置100输入的信息或从驾驶操作件70输入的信息,来驱动电动马达,使转向轮的朝向变更。
[驾驶支援装置]
驾驶支援装置100例如具备物体目标识别部110、视线推定部120、视觉辨认判定部130及驾驶支援部140。这些功能部例如通过CPU(Central Processing Unit)等硬件处理器执行程序(软件)来实现。另外,这些构成要素中的一部分或全部也可以通过LSI(LargeScale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)等硬件(包括电路部:circuitry)来实现,也可以通过软件与硬件的协同配合来实现。程序可以预先保存于驾驶支援装置100的HDD、闪存器等存储装置(具备非暂时性的存储介质的存储装置),也可以保存于DVD、CD-ROM等能够装卸的存储介质,并通过存储介质(非暂时性的存储介质)装配于驱动装置而安装于驾驶支援装置100的HDD、闪存器。
物体目标识别部110基于由物体识别装置16识别的识别结果,来识别存在于车辆M的周边的物体目标。物体目标识别部110可以识别存在于车辆M的周边的所有物体目标,也可以使用例如雷达装置12、LIDAR14而仅识别存在于车辆M的周边的移动物体目标(风险物体目标)。
视线推定部120基于相机10及驾驶员监视相机60的输出图像,来推定车辆M的驾驶员的视线朝着包含存在于车辆M的构造体上的注视对象和由物体目标识别部110识别到的物体目标在内的多个注视对象中的哪个注视对象。
图3是用于说明视线推定部120检测驾驶员的视线LS的方法的图。视线推定部120首先当取得由驾驶员监视相机60拍摄到的包含车辆M的驾驶员在内的图像时,通过任意算法(例如,角膜反射法)来检测该驾驶员的视线。视线推定部120例如通过以驾驶员的头部为中心O的极坐标来表现所检测到的视线。也可以代替性地视线推定部120例如通过以驾驶员的眉间为中心O的极坐标来表现,更一般而言,中心O设定于驾驶员的两眼附近即可。以下,将在时间点t由视线推定部120检测到的视线LS的极坐标表示为
视线推定部120当取得由相机10拍摄到的包含物体目标的图像时,算出通过以驾驶员的头部为中心O的极坐标表示的包含该物体目标在内的多个注视对象的中心角度及角度的宽度。在此,注视对象如上述那样,表示由车辆M的驾驶员注视的候补,例如包括车室内后视镜RVM、前玻璃FWS、左侧部后视镜LSM、左侧部玻璃LWS、右侧部后视镜RSM、右侧部玻璃RWS、前围板DB、物体目标OB。
图4是用于说明视线推定部120算出注视对象的中心角度及角度的宽度的方法的图。图4作为一例表示视线推定部120作为注视对象而算出物体目标OB的角度及角度的宽度的例子。在图4中,RP表示物体目标OB的基准点(例如,重心等代表物体目标OB的点)。视线推定部120通过极坐标来算出基准点RP,以下,将在时间点t由视线推定部120算出的第n个注视对象的基准点RP的极坐标表示为中心角度而且,视线推定部120算出以中心O为基准的物体目标OB的角度的宽度(换言之,物体目标OB的角度/>的上下左右方向的宽度),以下,将在时间点t由视线推定部120算出的第n个注视对象的角度的宽度表示为角度宽度(Φobj_n,t,Θobj_n,t)。Φ表示/>方向的角度宽度,Θ表示θ方向的角度宽度。视线推定部120同样地对车室内后视镜RVM、前玻璃FWS、左侧部后视镜LSM、左侧部玻璃LWS、右侧部后视镜RSM、右侧部玻璃RWS、前围板DB,也算出以中心O为基准的中心角度和角度宽度,但也可以事先算出及存储这些距驾驶员座的位置关系固定的注视对象的中心角度和角度宽度。
视线推定部120当在时刻t算出视线LS的极坐标以及关于各注视对象的中心角度/>及角度宽度(Φobj_n,t,Θobj_n,t)时,将这些值输入由以下的式(1)表示的概率模型,由此算出驾驶员的视线朝着各注视对象的概率值。
式(1)的左边P(targ=n|s0:t,obj1:N,0:t)表示以从时间点0到时间点t中的视线LS的极坐标、以及从时间点0到时间点t的从第1个到第N个的注视对象的中心角度及角度宽度为前提而驾驶员的视线朝向第n个注视对象的概率。
在式(1)的右边,p(st|targ=n,objn,t)表示在假定为驾驶员的视线朝着对象物n的情况下的视线st的概率密度。在注视对象为车室内后视镜RVM、前玻璃FWS、左侧部后视镜LSM、左侧部玻璃LWS、右侧部后视镜RSM、右侧部玻璃RWS、前围板DB中的1个的情况下,驾驶员的视线朝着注视对象的概率密度p(st|targ=n,objn,t)通过均匀分布来定义。另一方面,在注视对象为物体目标OB的情况下,概率密度p(st|targ=n,objn,t)通过表示多维正态分布的以下的式(2)来定义。
式(2)表示以物体目标OB的中心角度为平均并以角度宽度(Φobj_n,t,Θobj_n,t)为标准偏差的正态分布。换言之,在式(2)中,视线LS的方向越接近物体目标OB的中心方向/> 则将驾驶员的视线朝着该物体目标OB的概率评价得越高。在式(2)中,方差/>及方差σθ(Θobj_n,t)通过事先被定为固定值的参数Φbase及Θbase,由以下的式(3)及(4)来分别定义。
而且,在式(1)的右边,P(targ=n|s0:t-1,obj1:N,0:t-1)表示驾驶员的视线朝着第n个注视对象的上次的概率,其初始值根据固定值或存在于车辆M的周边的对象物数而事先设计。这样,通过将上次的概率值P(targ=n|s0:t-1,obj1:N,0:t-1)乘以概率密度p(st|targ=n,objn,t),能够考虑上次的概率值而稳健(robust)地算出本次的概率值。而且,在式(1)的右边,p(st|S0:t-1,obj1:N,0:t)是用于调整概率值的归一化参数,以以下的式(5)成立的方式确定。
视觉辨认判定部130在推定为驾驶员的视线朝着多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为驾驶员视觉辨认着该注视对象。图5是用于说明视觉辨认判定部130判定驾驶员对注视对象的视觉辨认的方法的图。如图5所示那样,首先,视觉辨认判定部130在时间点t1识别为与某注视对象对应的概率值为阈值pth以上。之后,在到经过第一规定期间T1的时间点t2为止的期间该概率值为阈值pth以上的情况下,视觉辨认判定部130判定为驾驶员视觉辨认着该注视对象。之后,在到达时间点t3为止概率值为阈值pth以上,因此视觉辨认判定部130继续地判定为驾驶员视觉辨认着该注视对象。
之后,当超过时间点t3时,概率值小于阈值pth。然而,即便在概率值小于阈值pth的情况下,视觉辨认判定部130也在之后维持驾驶员视觉辨认着该注视对象的判定结果第二规定期间T2。这是由于,在驾驶员的视线朝着注视对象至少第一规定期间T1的情况下,即便假设视线离开该注视对象后,也设想驾驶员在片刻的期间识别着与注视对象相关的状况。这样,在驾驶员的视线离开注视对象后,也维持判定结果一定期间,由此后述的驾驶支援部140能够执行更与驾驶员的实际状态相符合的驾驶支援。更具体而言,通过维持该判定结果一定期间,驾驶支援部140能够提供降低了由驾驶员进行识别的自觉与驾驶支援强度之间的偏离、伴随偏离而引起的对驾驶支援警告的腻烦度的驾驶支援。
需要说明的是,此时,视觉辨认判定部130也可以根据注视对象的种类来变更为了判定视觉辨认而使用的第一规定期间及第二规定期间的长度。例如,视觉辨认判定部130也可以在是如前玻璃FWS、左侧部玻璃LWS、右侧部玻璃RWS、前围板DB这样为了确认车辆M的前方或侧方而使用的注视对象的情况下,与是如车室内后视镜RVM、左侧部后视镜LSM、右侧部后视镜RSM这样为了确认车辆M的后方而使用的注视对象的情况相比,缩短第一规定期间,或加长第二规定期间。
另外,例如,也可以是,驾驶员的视线朝着注视对象的期间,即概率值为阈值pth以上的期间(在图5中,为时间点t1与时间点t3之间的期间)越长,则视觉辨认判定部130越加长第二规定期间。另外,例如,视觉辨认判定部130也可以在概率值为阈值pth以上的期间将概率值(或概率值与阈值pth的差量)进行积分,积分值越大,则越加长第二规定期间。
另外,例如,也可以是,由物体目标识别部110在过去的一定期间中识别到的多个物体目标中的由驾驶员视觉辨认到的物体目标的数量(次数)越多(这意味着驾驶员的驾驶技能高),视觉辨认判定部130越加长第二规定期间。在该情况下,也可以是,在过去的一定期间中识别到的多个物体目标中,驾驶员视觉辨认的物体目标越是高风险的物体目标,则视觉辨认判定部130越更加长第二规定期间。例如,也可以是,视觉辨认判定部130算出车辆M与物体目标之间的TTC(time to collision),驾驶员视觉辨认到的物体目标的TTC越是较小,则将视觉辨认到的物体目标的风险判定得越高,越加长第二规定期间。
另外,例如,也可以是,视觉辨认判定部130算出车辆M与物体目标的重叠率,驾驶员视觉辨认到的物体目标的重叠率越大,则将视觉辨认到的物体目标的风险判定得越高,越加长第二规定期间。图6是用于说明视觉辨认判定部130考虑重叠率而算出第二规定期间的方法的图。例如,视觉辨认判定部130导出使车辆M的车宽α朝向行进方向延伸出的区域与作为物体目标OB的行人的区域之间的重叠量(图6的例子中,为车宽方向的距离)作为重叠量β。视觉辨认判定部130导出对重叠量β除以车宽α而得到的值乘上100而得到的值((β/α)×100)作为重叠率[%]。也可以是,驾驶员视觉辨认到的物体目标的重叠率越是较大,则视觉辨认判定部130将视觉辨认到的物体目标的风险判定得越高,越加长第二规定期间。通过这样的处理,能够更与驾驶员的实际状态相符合而决定维持判定结果的期间。
驾驶支援部140基于由视觉辨认判定部130判定的判定结果,来执行车辆M的驾驶支援。更具体而言,驾驶支援部140在由视觉辨认判定部130判定为驾驶员视觉辨认着某注视对象、且判定为通过视觉辨认该注视对象而能够识别该注视对象所包含的物体目标的情况下,以降低对该物体目标的警戒度的倾向来执行驾驶支援。
图7是用于说明由驾驶支援部140执行的驾驶支援的图。图7作为一例而表示在驾驶员视觉辨认了左侧部后视镜LSM的状况下驾驶支援部140执行驾驶支援的场景。在图7中,附图标记M1及M2表示其他车辆,附图标记LSM_R表示通过视觉辨认左侧部后视镜LSM而能够识别的物体目标的范围。在此,识别范围LSM_R包含其他车辆M1,另一方面不包含其他车辆M2。即,设想驾驶员通过视觉辨认左侧部后视镜LSM而识别着其他车辆M1,另一方面设想驾驶员未识别其他车辆M2。
因此,驾驶支援部140以降低对其他车辆M1的警戒度的(提高对其他车辆M2的警戒度的)倾向进行驾驶支援。图8是用于说明由驾驶支援部140执行的驾驶支援的别的图。如图8所示那样,驾驶支援部140例如使警告注意未包含在识别范围LSM_R中的其他车辆M2(摩托车)地驾驶车辆M的消息显示在HMI30上。另外,例如,驾驶支援部140也可以从扬声器输出警告注意其他车辆M2地驾驶车辆M的消息。另外,例如,也可以是,驾驶支援部140向转向装置220输出指令值,以使本车辆M以远离未包含在识别范围LSM_R中的其他车辆M2的方式行驶。这样,仅针对通过视觉辨认注视对象而识别到的范围所包含的物体目标来降低驾驶支援的警戒度,由此能够执行更与驾驶员的实际状态相符合的驾驶支援。
[动作的流程]
接着,参照图9,来说明由驾驶支援装置100执行的动作的流程。图9是表示由驾驶支援装置100执行的动作的流程的一例的流程图。图9所示的流程图的处理在车辆M行驶中驾驶支援装置100以规定的控制循环反复执行。
首先,物体目标识别部110基于由物体识别装置16识别的识别结果,来识别存在于车辆M的周边的物体目标(步骤S100)。接着,视线推定部120关于包含所识别到的物体目标在内的多个注视对象分别算出驾驶员的视线朝着的概率值,将所算出的概率值为阈值pth以上的注视对象推定为驾驶员的视线朝着的注视对象(步骤S102)。
接着,视觉辨认判定部130关于由视线推定部120推定为驾驶员的视线朝着的注视对象,判定所算出的概率值为阈值pth以上的期间是否为第一规定期间T1以上(步骤S104)。在判定为所算出的概率值为阈值pth以上的期间小于第一规定期间T1的情况下,视觉辨认判定部130使处理返回步骤S102,视觉辨认判定部130再次推定驾驶员的视线朝着的注视对象。
另一方面,在判定为所算出的概率值为阈值pth以上的期间为第一规定期间T1以上的情况下,视觉辨认判定部130判定为驾驶员视觉辨认着该注视对象(步骤S106)。接着,视觉辨认判定部130判定驾驶员的视线是否离开了该注视对象(换言之,概率值是否变成了小于阈值pth)(步骤S108)。在判定为驾驶员的视线未离开注视对象的情况下,视觉辨认判定部130使处理返回步骤S106,视觉辨认判定部130继续判定为驾驶员视觉辨认着该注视对象。
在判定为驾驶员的视线离开了该注视对象的情况下,视觉辨认判定部130从驾驶员的视线离开起,将认为驾驶员视觉辨认着注视对象的判定结果维持第二规定期间T2(步骤S110)。接着,驾驶支援部140在第二规定期间T2的期间,降低对该注视对象的警戒度(更具体而言,对通过视觉辨认该注视对象而识别的范围所包含的物体目标的警戒度),执行车辆M的驾驶支援(步骤S112)。由此,本流程图的处理结束。
根据如以上那样说明的本实施方式,识别处于移动体的周边的物体目标,推定移动体的乘员的视线朝着包含所识别到的物体目标在内的多个注视对象中的哪个注视对象,在推定为乘员的视线朝着注视对象第一规定期间以上的情况下,判定为乘员视觉辨认着该注视对象,在乘员的视线离开注视对象后,维持乘员视觉辨认着该注视对象的判定结果第二规定期间,以乘员降低对判定为视觉辨认着的注视对象的警戒度的倾向执行移动体的驾驶支援。由此,能够根据乘员的视线的朝向、时间而灵活地执行驾驶支援。
上述说明的实施方式能够如以下这样表现。
一种驾驶支援装置,其构成为具备:
存储介质(storage medium),其保存能够由计算机读入的命令(computer-readable instructions);以及
处理器,其连接于所述存储介质,
所述处理器通过执行能够由所述计算机读入的命令来进行如下处理:(theprocessor executing the computer-readable instructions to:)
识别处于移动体的周边的物体目标;
推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;
在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;
基于所述视觉辨认的判定结果,来执行所述移动体的驾驶支援;
在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
以上使用实施方式说明了本发明的具体实施方式,但本发明丝毫不被这样的实施方式限定,在不脱离本发明的主旨的范围内能够施加各种变形及替换。
Claims (10)
1.一种驾驶支援装置,其中,
所述驾驶支援装置具备:
物体目标识别部,其识别处于移动体的周边的物体目标;
视线推定部,其推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;
视觉辨认判定部,其在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;以及
驾驶支援部,其基于所述视觉辨认判定部的判定结果,来执行所述移动体的驾驶支援,
所述视觉辨认判定部在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
2.根据权利要求1所述的驾驶支援装置,其中,
所述视线推定部基于所述视线与表示视觉辨认着所述注视对象的概率的视线的概率分布之间的一致程度,来推定所述乘员的视线朝着所述多个注视对象中的哪个注视对象。
3.根据权利要求2所述的驾驶支援装置,其中,
所述视线推定部基于通过以所述移动体的乘员的头部为中心的极坐标表示的所述视线、以及通过以所述头部为中心的极坐标表示的所述注视对象的中心角度及角度的宽度,来算出所述一致程度,并推定所述乘员的视线朝着所述多个注视对象中的哪个注视对象。
4.根据权利要求1所述的驾驶支援装置,其中,
所述视觉辨认判定部根据所述多个注视对象的种类,来变更所述第二规定期间的长度。
5.根据权利要求1所述的驾驶支援装置,其中,
由所述视线推定部判定为所述乘员视觉辨认着所述注视对象的期间越长,则所述视觉辨认判定部越加长所述第二规定期间。
6.根据权利要求1所述的驾驶支援装置,其中,
所述乘员视觉辨认到由所述物体目标识别部识别到的物体目标的次数越多,则所述视觉辨认判定部越加长所述第二规定期间。
7.根据权利要求2所述的驾驶支援装置,其中,
所述视觉辨认判定部根据由所述视线推定部算出的所述一致程度的大小,来变更所述第二规定期间的长度。
8.根据权利要求1所述的驾驶支援装置,其中,
所述驾驶支援部在由所述视觉辨认判定部判定为所述乘员视觉辨认着所述注视对象、且判定为通过视觉辨认所述注视对象而能够识别所述注视对象所包含的物体目标的情况下,以降低对所述物体目标的警戒度的倾向来执行所述驾驶支援。
9.一种驾驶支援方法,其中,
所述驾驶支援方法使计算机进行如下处理:
识别处于移动体的周边的物体目标;
推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;
在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;
基于所述视觉辨认的判定结果,来执行所述移动体的驾驶支援;
在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
10.一种存储介质,其存储有程序,其中,
所述程序使计算机进行如下处理:
识别处于移动体的周边的物体目标;
推定所述移动体的乘员的视线朝着包含存在于所述移动体的构造体上的注视对象和所述物体目标在内的多个注视对象中的哪个注视对象;
在推定为所述乘员的视线朝着所述多个注视对象中的任意注视对象第一规定期间以上的情况下,判定为所述乘员视觉辨认着该注视对象;
基于所述视觉辨认的判定结果,来执行所述移动体的驾驶支援;
在判定为所述乘员视觉辨认着某注视对象后推定为所述乘员的视线离开了该注视对象的情况下,从推定为所述乘员的视线离开了该注视对象的时间点起,将认为所述乘员视觉辨认着被判定为视觉辨认着的所述注视对象的判定结果维持第二规定期间。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022-087539 | 2022-05-30 | ||
JP2022087539A JP2023175206A (ja) | 2022-05-30 | 2022-05-30 | 運転支援装置、運転支援方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117141492A true CN117141492A (zh) | 2023-12-01 |
Family
ID=88877658
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310610184.2A Pending CN117141492A (zh) | 2022-05-30 | 2023-05-26 | 驾驶支援装置、驾驶支援方法及存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230382413A1 (zh) |
JP (1) | JP2023175206A (zh) |
CN (1) | CN117141492A (zh) |
-
2022
- 2022-05-30 JP JP2022087539A patent/JP2023175206A/ja active Pending
-
2023
- 2023-05-26 US US18/202,391 patent/US20230382413A1/en active Pending
- 2023-05-26 CN CN202310610184.2A patent/CN117141492A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2023175206A (ja) | 2023-12-12 |
US20230382413A1 (en) | 2023-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6409699B2 (ja) | 自動運転システム | |
US11287879B2 (en) | Display control device, display control method, and program for display based on travel conditions | |
CN112208533B (zh) | 车辆控制系统、车辆控制方法及存储介质 | |
US20190073540A1 (en) | Vehicle control device, vehicle control method, and storage medium | |
US11755022B2 (en) | Vehicle control device | |
US11701967B2 (en) | Display control device, display control method, and storage medium | |
JP2008008679A (ja) | 物体検出装置、衝突予測装置、及び車両制御装置 | |
US11801863B2 (en) | Vehicle control device, vehicle control method, and storage medium | |
CN110816524B (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
US20220388533A1 (en) | Display method and system | |
US20220306153A1 (en) | Driving assistance apparatus | |
CN117141492A (zh) | 驾驶支援装置、驾驶支援方法及存储介质 | |
CN117141498A (zh) | 视线推定装置、视线推定方法及存储介质 | |
JP2022154840A (ja) | 検出装置、車両システム、検出方法、およびプログラム | |
US20230294676A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
US20230294673A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
US20230294679A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
US20230294675A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
US20230294674A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
JP7048832B1 (ja) | 車両制御装置、車両制御方法、およびプログラム | |
JP7461989B2 (ja) | 運転支援装置、運転支援方法、およびプログラム | |
US20230294680A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
US20220203989A1 (en) | Vehicle control device, vehicle control method, and storage medium | |
US20240092365A1 (en) | Estimation device, estimation method, and program | |
US20230322231A1 (en) | Vehicle control device, vehicle control method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |