CN102378998A - 信息显示设备和信息显示方法 - Google Patents
信息显示设备和信息显示方法 Download PDFInfo
- Publication number
- CN102378998A CN102378998A CN2010800144544A CN201080014454A CN102378998A CN 102378998 A CN102378998 A CN 102378998A CN 2010800144544 A CN2010800144544 A CN 2010800144544A CN 201080014454 A CN201080014454 A CN 201080014454A CN 102378998 A CN102378998 A CN 102378998A
- Authority
- CN
- China
- Prior art keywords
- display
- image
- information
- flow
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
提供了一种信息显示设备和信息显示方法,不受车辆的行驶状态的影响,提供容易引起注意而又不烦扰驾驶员的信息显示。该信息显示设备包括:关注对象检测单元(32),检测要向驾驶员显示的信息;符号图像选择单元(33),设置要对该驾驶员显示的符号图像;光线流计算单元(34a),检测本车辆的前向方向观看的光线流;移动效果确定单元(35),设置要向符号图像添加的移动效果;显示图像生成单元(36),通过组合由该移动效果确定单元添加的移动效果与符号图像来生成显示图像;以及显示控制单元(37),对驾驶员显示所生成的显示图像。移动效果确定单元(35)根据车辆的行驶状态来改变要向符号图像添加的移动效果。
Description
技术领域
本发明涉及信息显示设备和信息显示方法,它们显示用于支持驾驶员的驾驶的信息。
背景技术
近些年来,在车辆中设置的仪器和功能的数量已经增加。当驾驶车辆时,驾驶员需要处理从车载部和外部获取的各种信息。
由驾驶员处理的各种信息例如包括关于车辆速度的信息、发动机的旋转次数、在中心控制台上显示的无线电信道编号、关于音轨编号的信息、关于在车辆导航系统或路径指南的屏幕上显示的地图的信息和用于支持驾驶安全性的信息,该用于支持驾驶安全性的信息例如是用于向驾驶员警告提防在车辆周围的危险的信息。
通常,驾驶员可视地获取在仪器板或中心控制板上显示的信息。然而,当在驾驶员的眼睛的方向和显示信息的方向之间有较大差别时、或当在驾驶员和信息的显示位置之间的距离较大时,驾驶员必须移动视线或调整焦点,以便查看信息的内容。
为了显著地减小驾驶员眼睛方向的移动量或焦点的调整量,已经开发了抬头显示器(HUD)。HUD是在从车辆的仪表板的上部至风挡的特定范围中显示预定信息的显示器。
例如,存在两种类型的HUD,即:其中驾驶员直接地观看诸如液晶显示器或OELD(有机电致发光显示器)的显示设备的类型;以及,投影从液晶显示器、OELD或包括激光光源的显示设备向风挡上发射的光的另一种类型。
HUD的使用使得与驾驶员观看仪器板或中心控制台的情况作比较,可以减少当驾驶员在驾驶车辆同时观看前方时,驾驶员移动眼睛以便观看显示器所需的时间。
其中将光投影到风挡上的HUD的类型的特征在于显示信息重叠车辆的前景,并且可以减少在驾驶员和显示设备之间的光学路径长度。以这种方式,驾驶员可以在使用很少时间调整焦点的情况下观看显示信息。
HUD的使用使得可以在接近驾驶员的视场中心的位置处显示信息,并且预期将大大改善驾驶员对于显示信息的识别。HUD被认为对于具有低视觉功能的老年人特别有效。
当在接近驾驶员的视场的中心的位置处显示信息时,驾驶员可能感到不舒适。因此,需要使得驾驶员能够容易地识别信息并且也防止驾驶员感到不舒适的信息显示方法。已经提出了一种技术,该技术在驾驶员(操作员)的视场附近显示信息,并且在给定的定时向显示信息添加视觉吸引,由此改善显示信息的识别(例如,参见非专利文献1)。
例如,在非专利文献1中,诸如纵向振动或横向振动的移动效果被加到显示信息,由此获得作为视觉吸引的、使得驾驶员能够容易地识别显示信息并且防止驾驶员感到不舒适的效果。另外,作为在车辆的行驶期间应用使用振动的视觉吸引的示例,专利文献1公开了一种使用横向振动来改善驾驶员对于信息的识别的方法。
专利文献1公开了一种用于车辆的显示设备和方法,其中,在驾驶员的视场中生成具有可操作地与车辆的行驶相关联的移动速度的光线流,并且在该流上设置了用于指示另一辆车辆的存在的非显示区域。另外,在专利文献1中,当将该非显示区域保持预定时间段时,非显示区域在水平方向上振动,以便防止驾驶员习惯于非显示区域。
当HUD用于在风挡上显示预定图像以便被振动时,该图像与随着时间改变的车辆的前景重叠。因此,当在使用在专利文献1中公开的显示方法时,可以显示图像使得驾驶员可以容易地识别显示的图像,而没有不舒适。
具体地说,例如,向用于指示在车辆的路径上例如存在行人(关注对象)的图像添加横向振动的视觉吸引,然后,在HUD上显示该图像。以这种方式,可以可靠地短时间向驾驶员通知关注对象的存在。
引用列表
专利文献
专利文献1:JP-A-2006-264507
非专利文献
非专利文献1:Kimuro Shunichi et al.,“Adaptive Visual Effect forMulti-display Environment Using Head Pose”,Technical report of IEICE,HIP2006-135,pp.43 to 48
发明内容
技术问题
然而,根据本发明的发明人的研究,当用于指示关注对象的存在的图像仅在水平方向上振动时,难以在所有的行驶条件下显示图像以使得驾驶员可以容易地识别图像,而没有不舒适。
具体地说,当车辆右转或左转弯或在交叉口转弯时,水平方向是在车辆的前景的光线流中的主方向,并且,光线流与显示图像的振动方向基本上平行。因此,难以获得对于驾驶员而言的充分的视觉吸引。
已经根据上述问题建立了本发明,并且本发明的目的是提供一种信息显示设备和信息显示方法,它们能够显示信息使得驾驶员可以容易地识别显示信息而没有不舒适,而与车辆的行驶状态无关。
对于问题的解决方案
根据本发明的一个方面的信息显示设备是在包括用于拍摄前景图像的相机的车辆上设置并且显示预定信息的信息显示设备,所述设备包括:显示单元,其在被移动的同时显示所述预定信息;光线流计算单元,其获取由所述相机拍摄的多个前景图像,并且基于所述获取的多个前景图像来计算前景的光线流的向量信息;以及,移动效果确定单元,其从所述光线流计算单元获取所述光线流的所述向量信息,并且基于所述获取的所述光线流的向量信息来确定所述预定信息的移动效果。
本发明的有益效果
根据本发明的信息显示设备和信息显示方法,可以显示信息,使得驾驶员可以容易地识别显示信息而没有不舒适,而与车辆的行驶状态无关。
附图说明
图1是图示具有包括根据第一实施例的信息显示设备的信息显示系统的车辆的行驶的方面的图。
图2是图示在具有包括根据第一实施例的信息显示设备的信息显示系统的车辆中的驾驶员座椅附近的方面的图。
图3是图示包括根据第一实施例的信息显示设备的信息显示系统的结构的系统配置图。
图4是图示符号图像管理表的示例的图。
图5是图示移动效果确定表的示例的图。
图6是图示根据第一实施例的信息显示设备的操作的流程图。
图7是图示在根据第一实施例的本车辆的传感器检测到行人之前在本车辆和行人之间的位置关系的图。
图8是图示在根据第一实施例的本车辆的传感器检测到行人之后在本车辆和行人之间的位置关系的图。
图9是图示光线流的计算的方面的图。
图10是图示其中由相机拍摄的相机图像中的光线流的向量分量被投影在平面Z=-f的方面的图。在图10中,(a)是图示平面Z=-f的图,(b)是图示将向量分解为x和y分量的图。
图11是图示当车辆直线行驶时的光线流的图。在图11中,(a)是图示由在车辆中设置的相机拍摄的相机图像和光线流的示例的图,并且(b)是图示将光线流的向量分解为x和y分量的图。
图12是图示当车辆右转时的光线流的图。在图12中,(a)是图示由在车辆中设置的相机拍摄的图像和光线流的示例的图,并且(b)是图示将光线流的向量分解为x和y分量的图。
图13是图示移动效果的具体示例的图。在图13中,(a)是图示正弦波的图,(b)是图示方波的图,(c)是图示三角波的图,(d)是图示锯齿波的图,并且(e)是图示锯齿波的图。
图14是图示包括根据第二实施例的信息显示设备的信息显示系统的结构的系统配置图。
图15是图示基于分别从速度传感器和偏航率传感器输出的速度信息和角速度信息来计算光线流的向量的处理的图。在图15中,(a)是图示在基于虚拟相机的镜头的中心的坐标系中的前景的相对移动的方面的图,(b)是图示其中将相对于虚拟相机的前景的移动分解为水平移动和旋转移动的每一个分量的方面的图,并且,(c)是图示在投影表面上的光线流的向量的图。
图16是图示用于当使用虚拟相机时计算在光线流的向量的水平分量和垂直分量之间形成的角度的表的示例的图。在图16中,(a)示出表格,其中,车辆的速度、车辆的角速度和在光线流的向量的水平分量和垂直分量之间形成的角度彼此相关联,并且,(b)示出表格,其中,重叠区域的位置坐标、车辆的速度、车辆的角速度和在光线流的向量的水平分量和垂直分量之间形成的角度彼此相关联。
图17是图示用于设置重叠区域的位置坐标的表的示例的图。
图18是图示路径指南图像的示例的图。
图19是图示在显示单元上显示的显示图像的示例的图。在图19中,(a)示出仅包括符号图像的图像,并且(b)示出包括符号图像和背景图像的图像。
图20是图示显示放大条件信息的示例的图。
图21是图示在纵向和横向上的符号图像的放大或缩小移动模式的示例的图。在图21中,(a)是图示正弦波的放大或缩小移动模式的示例的图,(b)是图示其中正弦波的值的正部分重复的波的放大或缩小移动模式的示例,(c)是图示方波的放大或缩小移动模式的示例的图,(d)是图示三角波的放大或缩小移动模式的示例的图,(e)是图示锯齿波的放大或缩小移动模式的示例的图,并且,(f)是图示锯齿波的放大或缩小移动模式的示例的图。
图22是图示其中符号图像看起来好像被旋转的图像的纵向或横向移动模式的示例的图。在图22中,(a)是图示其中在正弦波的方向上旋转符号图像的移动模式的示例的图,(b)是图示其中在方波的方向上旋转符号图像的移动模式的示例的图,(c)是图示其中在三角波的方向上旋转符号图像的移动模式的示例的图,(d)是图示其中在锯齿波的方向上旋转符号图像的移动模式的示例的图,以及,(e)是图示其中在锯齿波的方向上旋转符号图像的移动模式的示例的图。
图23是图示其中符号图像看起来好像被旋转的图像中的改变的示例的图。在图23中,(a)至(m)是图示被改变的一系列帧图像的图。
图24是图示包括信息显示设备的信息显示系统的结构的系统配置图,该信息显示设备计算在前景图像中的重叠区域附近的光线流的向量。
图25是图示在驾驶员的眼球的位置和重叠区域之间的位置关系的图。在图25中,(a)是图示从驾驶员观看的在HUD上显示的符号图像的图,并且,(b)是图示沿着水平方向所取的车辆的横截面视图。
图26是图示包括车载(in-vehicle)信息显示设备的车载信息显示系统的结构的系统配置图,该车载信息显示设备是根据第三实施例的信息显示设备。
图27是图示车载信息显示设备的内部结构的框图,该车载信息显示设备是根据第三实施例的信息显示设备。
图28是图示对象车载信息的示例的图。
图29是图示移动效果条件信息的示例的图。
图30是图示车载信息显示设备的操作的流程图,该车载信息显示设备是根据第三实施例的信息显示设备。
图31是图示移动效果的示例的图。在图31中,(a)是图示正弦波的图,(b)是图示方波的图,(c)是图示三角波的图,(d)是图示锯齿波的图。
图32是图示包括车载信息显示设备的信息显示系统的结构的系统配置图,该车载信息显示设备是根据第四实施例的信息显示设备。
图33是图示车载信息显示设备的内部结构的框图,该车载信息显示设备是根据第四实施例的信息显示设备。
图34是图示在眼球的位置和重叠区域之间的位置关系的图。在图34中,(a)是图示从上侧看的位置关系的图,(b)是图示从水平方向看的位置关系的图。
附图标记列表
1:行人 5:车辆
6a至6d:传感器 7:检测范围
8,2401:相机 9:成像范围
10a至10e:信息显示系统 14:速度传感器
15:偏航率传感器 20,70:符号图像
21:显示区域 22:风挡
23:车内后视镜 30a至30e:信息显示设备
31:存储单元 32:关注对象检测单元
33:符号图像选择单元 34a至34e:光线流计算单元
35:移动效果确定单元 36:显示图像生成单元
37:显示控制单元 40:符号图像选择表格
50:移动效果确定表格 60:显示放大条件信息
71:第一图像 72:第二图像
80:驱动器 81:HUD单元
82:从HUD发射的光 83:视线
84:直线 85:道路表面
86:重叠区域 87:眼球的位置
90:显示单元 111、121、132、155:光线流的向量
131:镜头的中心 133:移动向量
151:虚拟相机 152:移动向量
153:直线分量 154:旋转分量
156:前景的任意区域 2402:眼球位置计算单元
2403:重叠区域计算单元 2601:显示对象检测单元
2602:显示图像选择单元 2603:图像生成单元
2800:对象车载信息 2900:移动效果条件信息
具体实施方式
以下,将参考附图描述本发明的示例性实施例。
(第一实施例)
图1是图示具有包括根据第一实施例的信息显示设备的信息显示系统的车辆的行驶的方面的图。图2是图示在具有包括根据第一实施例的信息显示设备的信息显示系统的车辆中的驾驶员座椅附近的方面的图。在下面的描述中,假定包括信息显示设备的信息显示系统被设置在诸如轿车的车辆中。另外,车辆被称为“本车辆(own vehicle)5”,并且,本车辆5的驾驶员被称为“驾驶员”。
本车辆5具有传感器单元,该传感器单元包括一个传感器或多个传感器6a至6d。在图1中,示出四个传感器,但是,传感器的数量不限于四。传感器6a至6d检测在本车辆5周围的预定检测范围7中的人或物体。然后,基于从传感器6a至6d输出的检测信息,在本车辆5中设置的HUD的显示区域21上显示显示信息。
例如,在图1中,当传感器6a至6d检测到行人1时,基于指示已经检测到“行人”的检测信息来选择用于指示行人1的符号图像。然后,向符号图像添加移动效果,以生成显示图像,并且,在显示区域21上显示该显示图像。
如图1中所示,本车辆5具有相机8(第一相机)。相机8拍摄本车辆5的外部环境。在这个实施例中,相机8拍摄本车辆5的前景,但是本发明不限于此。例如,相机8被设置在图2中所示的后视镜23的后侧上。
如图1中所示,相机8以预定的帧速率在本车辆5的前景中拍摄基于相机8的视角而确定的预定成像范围9,由此拍摄前景图像。前景图像用于计算光线流。
图3是图示根据第一实施例的包括信息显示设备30a的信息显示系统10a的结构的系统配置图。根据第一实施例的信息显示系统10a包括传感器6a至6d、相机8、显示单元90和信息显示设备30a。信息显示设备30a连接到传感器6a至6d和相机8。信息显示设备30a包括存储单元31、关注对象检测单元32、符号图像选择单元33、光线流计算单元34a、移动效果确定单元35、显示图像生成单元36和显示控制单元37。
图7示出在本车辆5右转之前的方面,并且图8示出在本车辆5右转的同时的方面。在图7中,如从本车辆5观看,行人1从传感器6a至6d的预定检测范围7外部进入该范围。传感器6a至6d例如检测在本车辆5周围的预定检测范围7内的人或对象。
具体地说,传感器6a至6d例如是成像装置、雷达装置、无线标签阅读器或道路至车辆通信装置,并且可以是检测诸如人的对象的种类的传感器或具有仅检测对象的存在的功能的车辆或传感器。
当传感器6a至6d在预定检测范围7中检测到诸如人或物体的检测目标时,它们向关注对象检测单元32输出包括与所检测的人或物体相关的信息的检测信息。
相机8拍摄在本车辆5的前景中的预定成像范围9的图像。例如,通过诸如相机的视角的相机8的性能来确定成像范围9。相机8向光线流计算单元34a输出所拍摄的前景图像。
显示单元90例如是显示区域21,它是本车辆5的风挡22的一部分。HUD被用作根据第一实施例的信息显示系统10a的显示单元90。在显示单元90上显示通过由信息显示设备30a生成并且需要向驾驶员通知的信息添加移动效果而获得的图像。
在下面的实施例的每一个中,用于在显示单元上显示信息并且未被添加移动效果的图像被称为“符号图像”,并且,通过向符号图像添加移动效果而获得的图像被称为“显示图像”。符号图像可以是预定信息。
存储单元31至少存储:符号图像选择表格40,其包括需要向驾驶员通知的检测目标的种类和符号图像;以及,移动效果确定表格50,用于指示用于向符号图像添加预定移动效果的条件。
图4是图示符号图像选择表格40的示例的图。图5是图示移动效果确定表格的示例的图。接下来,将参考图4来描述符号图像选择表格40,并且将参考图5来描述移动效果确定表格50。
如图4中所示,在符号图像选择表格40中,检测信息的种类和符号图像彼此相关联。例如,作为符号图像的“行人的图像”被分配到作为检测信息的种类的“行人”。另外,作为符号图像的“自行车的图像”被分配到作为检测信息的种类的“自行车”。作为符号图像的“车辆的图像”被分配到作为检测信息的种类的“车辆”。然而,符号图像选择表格40的内容不限于此。
如图5中所示,在移动效果确定表格50中,下述的用于识别光线流的条件的ID和通过光线流计算单元34a计算的光线流的条件与要增加的移动效果彼此相关联。
例如,移动效果确定表格50的ID“001”指示在“光线流的向量的幅度小于α”的光线流条件下不增加移动效果。参数α是预定值。在该情况下,不必增加移动效果,因为认为本车辆5几乎不移动并且没有危险。
移动效果确定表格50的ID“002”指示在下述光线流条件下增加纵向振动的移动效果:“光线流的向量的幅度等于或大于α,并且,光线流的向量的水平分量的幅度大于光线流的向量的垂直分量的幅度”。
移动效果确定表格50的ID“003”指示在下述光线流条件下增加横向振动的移动效果:“光线流的向量的幅度等于或大于α,并且,光线流的垂直分量的幅度等于或大于光线流的水平分量的幅度,并且等于或小于通过向水平分量的幅度加上参数β而获得的值”。
移动效果确定表格50的ID“004”指示在下述光线流条件下增加横向振动和放大的移动效果:“通过向光线流的水平分量的幅度加上参数β而获得的值小于光线流的垂直分量的幅度”。
然而,移动效果确定表格50的内容不限于此。可以向移动效果设置默认方向和幅度,并且,当光线流的向量的幅度等于或小于预定值时,可以在该默认方向上并且以默认幅度发生移动。
即,移动效果可以是振动方法,移动效果确定单元35基于光线流的向量信息来确定振动预定信息的方法。另外,移动效果可以是扩张和收缩方法。移动效果确定单元35基于光线流的向量信息来确定扩张和收缩预定信息的方法。
接下来,将参考图6至8来描述信息显示设备30a的操作。图6是图示根据第一实施例的信息显示设备30a的操作的流程图。图7是图示在本车辆5的传感器6a至6d检测到行人1之前在本车辆5和行人1之间的位置关系的图。
图8是图示在本车辆5的传感器6a至6d检测到行人1之后在本车辆5和行人1之间的位置关系的图。本车辆5的传感器6a至6d检测到行人1。
当传感器6a至6d例如在本车辆5的预定检测范围7中检测到人或物体时,关注对象检测单元32获取从传感器6a至6d的每一个输出的检测信息。关注对象检测单元32确定所获取的检测信息是否被包括在图4中所示的符号图像选择表格40的检测信息的种类中(S401)。
具体地说,关注对象检测单元32将在存储单元31中存储的符号图像选择表格40与从传感器6a至6d获取的检测信息作比较,并且,确定检测信息是否被包括在图4中所示的符号图像选择表格40的检测信息的种类中。
当检测信息被包括在检测信息的种类中时(S401的是),关注对象检测单元32向符号图像选择单元33通知用于指示检测信息被包括在符号图像选择表格40的检测信息的种类中的信息。
符号图像选择单元33从关注对象检测单元32获取用于指示检测信息被包括在符号图像选择表格40的检测信息的种类中的信息,并且选择对应的符号图像(S402)。符号图像选择单元33向显示图像生成单元36输出所选择的符号图像。
图9是图示光线流的计算的方面的图。
图10是图示其中由相机拍摄的相机图像中的光线流的向量分量被投影在平面Z=-f的方面的图。在图10中,(a)是图示平面Z=-f的图,(b)是图示将向量分解为x和y分量的图。
图11是图示当车辆直线行驶时的光线流的图。在图11中,(a)是图示由在车辆中设置的相机拍摄的相机图像和光线流的示例的图,并且,(b)是图示将光线流的向量分解为x和y分量的图。
图12是图示当车辆右转时的光线流的图。在图12中,(a)是图示由在车辆中设置的相机拍摄的图像和光线流的示例的图,并且,(b)是图示将光线流的向量分解为x和y分量的图。
接下来,将参考图9至12来描述光线流计算单元34a的操作。
在这个实施例中,相机8在本车辆5的前景中持续地拍摄预定成像范围9,并且向光线流计算单元34a输出所拍摄的前景图像。光线流计算单元34a基于从相机8输出的多个前景图像随着时间的变化来计算在图像中的光线流。
光线流计算单元34a将从相机8输出的第一前景图像与在第一前景图像之后的帧的第二前景图像作比较,并且估计其间的对应的坐标点。该对应的坐标点是在第一前景图像中包括的第一坐标点和在第二前景图像中用于指示由第一坐标点指示的背景信息的第二坐标点。
光线流计算单元34a计算在第一前景图像中的第一坐标点和在第二前景图像中的第二坐标点之间的差(移动向量),作为光线流的向量(S403)。例如,块匹配方法被用作估计在图像之间的同一点的方法。
例如,梯度方法在下述假设下计算光线流:x轴是前景图像的水平方向,y轴是前景图像的水平方向,并且,在图像上的同一点处的位置和亮度随着时间而平滑地改变。
具体地说,当在时间t在前景图像中的像素(x,y)的亮度是E(x,y,t),作为在图像中的光线流的向量的水平分量的x分量是u,并且,作为该向量的垂直分量的y分量是v时,下面的表达式1成立。
[表达式1]E(x+uδt,y+vδt,t+δt)=E(x,y,t)
从表达式1得出表达式2,并且,将在图像中的像素(x,y)附近的约束方程的最小平方解计算为光线流的向量。表达式2是约束方程。
[表达式2]Exu+Eyv+Et=0
将参考图9描述在对象实际移动和向图像上投影的光线流之间的关系。
如图9中所示,作为基于面向本车辆5的行驶方向的相机8的坐标系,使用矩形坐标系,其中,相机8的透镜的中心131是原点0,在水平方向上的本车辆5的右侧是X轴,在垂直方向上的本车辆5的上侧是Y轴,并且,与行驶方向相反的方向是Z轴。
当相机8的光轴是水平的并且与Z轴重叠并且相机8的焦距是f时,在作为实际成像表面的平面Z=f上形成反转图像。然而,当考虑图像的反转时,看起来好像是在向前方向上在平面Z=f上形成图像。
当道路表面是平面并且相机8相对于安装表面的高度是h时,道路表面被表示为平面Y=-h。当在相机8的视场中的道路表面上的点P(X0,Y0,Z0)移动到在下一个帧中的P’(X1,Y1,Z1),并且这些点分别被投影到在投影表面Z=-f上的点Q(x0,y0)和点Q’(x1,y1)时,表达式3和表达式4成立。这与向平面Z=-f上的点P’和Q’的投影相同。
[表达式3]x0=-f*X0/Z0
[表达式4]y0=-f*Y0/Z0=f*h/Z0
因此,当在图10中所示的光线流的向量132被表示为(u,v)时,表达式5和表达式6成立,并且,将实际的移动向量133投影到光线流的向量132上。然而,用于计算光线流的方法不限于上述的方法。
[表达式5]u=x1-x0=-f*(X1/Z1-X0/Z0)
[表达式6]v=y1-y0=f*h*(1/Z1-1/Z0)
光线流计算单元34a向移动效果确定单元35输出通过上述方法计算的光线流。移动效果确定单元35获取从光线流计算单元34a输出的光线流。移动效果确定单元35参考在存储单元31中存储的移动效果确定表格50来确定与所获取的光线流对应的移动效果(S404至S408和S410至S412)。
在这个实施例中,由相机8拍摄的前景图像的光线流的代表值可以被用作从光线流计算单元34a输出的光线流。
因为光线流的向量在前景上的每一个点处不同,所以光线流是向量分布信息。在光线流的计算中,具体地说,在与由驾驶员看到的显示图像重叠的前景的区域(以下称为“重叠区域”)中的光线流是重要的。
因此,光线流计算单元34a可以仅基于在前景图像中的重叠区域来计算光线流。作为光线流的代表值,可以使用在重叠区域中的几个点的光线流的平均,或者,可以使用在其中实际显示显示图像的重叠区域的一部分附近的有限区域的光线流的平均值。
接下来,将描述重叠区域。图24是图示信息显示系统10e的结构的图,该信息显示系统10e包括信息显示设备30e,信息显示设备30e计算在风挡22中的重叠区域的附近的光线流的向量。
在图24中示出的信息显示系统10e包括:相机2401(第二相机),其拍摄驾驶员的面部的图像;眼球位置计算单元2402,其从自相机2401获取的图像检测驾驶员的眼球的位置,并且基于指示相机2401的安装位置的安装信息来计算驾驶员的眼球的三维位置信息;以及,重叠区域计算单元2403,其基于所计算的眼球的位置和在风挡22上的符号图像20的显示位置来计算重叠区域。
指示相机2401的安装位置的安装信息被存储在信息显示系统10e中包括的存储器(未示出)中。
图25是图示在驾驶员80的眼球的位置和重叠区域之间的位置关系的图。在图25中,(a)是图示从驾驶员80观看的在HUD上显示的符号图像的图,其中,在风挡22的较低区域中显示符号图像20。在附图中,在符号图像20周围布置重叠区域86。
在图25中,(b)是图示沿着水平方向所取的车辆的横截面视图,并且对应于在图25中的(a)。从HUD单元81发射的光82到达风挡22,并且反射光向驾驶员80传播,然后入射在驾驶员80的眼睛上。以这种方式,驾驶员80观看符号图像20。当驾驶员80观看符号图像20时,驾驶员80的视线83通过符号图像20。
因为风挡22是透明的,所以驾驶员80的视线83通过符号图像20,并且到达道路表面85。在图25(b)中,与在符号图像20周围的预定区域重叠的道路表面85的区域是重叠区域86。
即,重叠区域86是下述区域:其中,由直线84切割的前景与由相机8(第一相机)拍摄的前景图像重叠,直线84链接驾驶员80的眼球的位置和包括在风挡22中的符号图像20的预定区域。
接下来,将参考图24和25来描述基于重叠区域86的前景图像来计算光线流的方法。
相机2401以预定的时间间隔拍摄驾驶员80的面部的图像。由相机2401拍摄的图像数据被输入到眼球位置计算单元2402。相机2401例如是立体相机,并且向眼球位置计算单元2402输入同时拍摄的图像。
眼球位置计算单元2402从输入图像检测驾驶员80的两个眼球的位置。该立体相机基于三角测量,使用从其间具有很小偏差的位置拍摄的图像的视差来计算到对象(在这个实施例中,眼球)的距离。因为已知使用立体相机的基本距离测量技术,所以在此不具体描述它。在用于使用立体相机来测量距离的技术中,因为人具有两只眼睛,所以例如,在驾驶员80的两眼的检测位置之间的中点可以作为眼球的位置。
接下来,将参考图34来描述在眼球的位置和重叠区域之间的位置关系。图34是图示在眼球的位置和重叠区域之间的位置关系的图,并且是图25的示意图。在图34中,(a)示出从上侧看的位置关系,并且,(b)示出从水平方向看的位置关系。在该坐标系中,每一个轴的方向与在图9中相同,但是,符号图像20的显示位置是原点。
在这个坐标系中,当眼球的位置87是(ex,ey,ez)并且重叠区域86是(xc,yc,h)时,通过表达式7来表示xc,并且通过表达式8来表示yc。
[表达式7]
[表达式8]
因此,当已知符号图像20的显示位置和眼球的位置87时,可以计算重叠区域86的位置。类似地,预先存储符号图像20的显示位置的几何关系,这使得容易将显示位置转换为基于相机8的坐标系中的坐标。
可以通过下述方式来使用上述方法计算光线流的向量:将由表达式7和8计算的xc和yc转换为基于相机8的坐标系。在计算光线流的向量后的操作与如上所述的相同,因此,将省略其说明。
如上所述,在图24中所示的系统的结构使得可以计算在重叠区域86中的光线流的向量。
移动效果确定单元35可以基于在重叠区域86中包括的光线流的向量信息来确定移动效果。
例如,在图6中,当光线流的向量的幅度小于预定值α(例如,α=-2)(在S404中的否)时,例如,当本车辆5停止时或当本车辆5以低速行驶时,移动效果确定单元35认为没有光线流,并且确定不向由符号图像选择单元33选择的符号图像提供移动效果(S405)。因此,在该情况下,在HUD的显示区域中显示符号图像20,以便不移动(S406)。
预定值是在图5中所示的移动效果确定表格50中的参数α。
当光线流的向量的幅度等于或大于预定值α(在S404中的否)时,移动效果确定单元35基于光线流的水平和垂直分量的每一个的幅度来执行比较,并且根据比较结果来确定移动效果。
例如,当本车辆5如图12的(a)中所示右转时,移动效果确定单元35分解光线流的向量111,如图12的(b)中所示。结果,水平和垂直分量(u,v)是(-10,-2)。然后,移动效果确定单元35将u的幅度与v的幅度作比较。
在图12的(b)中所示的示例中,从驾驶员看的光线流的水平分量u的幅度比垂直分量v的幅度大(在S407中的是)。因此,移动效果确定单元35参考在图5中所示的移动效果确定表格50来确定向符号图像添加“纵向振动”的移动效果(S408)。
以这种方式,可以显示信息使得驾驶员可以容易地识别信息,而没有不舒适。
例如,当本车辆5如图11的(a)中所示基本上直线地行驶时,获得光线流的向量121的水平和垂直分量(u,v)=(-3,-20),如在图11的(b)中所示。在这个示例中,移动效果确定单元35基于预定值β确定移动效果。例如,预定值β是-7。
在这种情况下,从驾驶员看的光线流的垂直分量v的幅度大于水平分量u的幅度,并且两个幅度之间的差大于7(在S410中的是)。因此,移动效果确定单元35参考在图5中所示的移动效果确定表格50来确定向符号图像20增加“横向振动”的移动效果(S411)。在该情况下,可以将放大率设置为固定值,或可以通过任何方法来独立地计算放大率。
以这种方式,可以显示信息使得驾驶员可以容易地识别信息,而没有不舒适。
虽然在附图中未示出,但是当光线流的向量的垂直分量v的幅度大于如图11的(b)中所示的水平分量u的幅度、并且其间的差小于β时(在S410中的否),移动效果确定单元35向符号图像给出横向振动的移动效果(S412)。
显示图像生成单元36向由符号图像选择单元33选择的符号图像增加由移动效果确定单元35确定的移动效果,以生成显示图像(S409)。然后,显示控制单元37获取具有由显示图像生成单元36向其增加的移动效果的显示图像,并且在显示单元90上显示该显示图像(S406)。
如上所述,移动效果的种类的示例包括在纵向上的一维振动、在横向上的一维振动、放大和缩小。作为诸如振动的幅度和周期的属性,使用预定值,但是,可以将任意值用作属性。移动效果的种类可以是周期的移动。
例如,对于在纵向或横向上的一维振动,如图13的(a)至(e)中所示,位置改变模式可以是正弦波、方波或三角波,并且显示位置可以以不连续的锯齿波形状来移动。图13是图示移动效果的示例的图。在图13中,(a)示出正弦波。在图13中,(b)示出方波。在图13中,(c)示出三角波。在图13中,(d)示出锯齿波。在图13中,(e)示出锯齿波。
对于在纵向或横向上的一维放大或缩小,如图21的(a)至(f)中所示,在放大和缩小方向上的宽度以正弦波形状、方波形状、三角波形状或锯齿波形状改变,正弦波形状是其中正弦波的值的正部分重复的波形状。图21是图示在纵向或横向上的符号图像20的放大或缩小移动模式的示例的图。在图21中,(a)是图示正弦波的放大或缩小移动模式的示例的图。在图21中,(b)是其中正弦波的值的正部分被重复的波的放大或缩小移动模式的示例。在图21中,(c)是图示方波的放大或缩小移动模式的示例的图。在图21中,(d)是图示三角波的放大或缩小移动模式的示例的图。在图21中,(e)是图示锯齿波的放大或缩小移动模式的示例的图。在图21中,(f)是图示锯齿波的放大或缩小移动模式的示例的图。
作为与放大或缩小类似的移动效果,存在一种显示方法,其中,驾驶员好像在纵向或横向上旋转图像那样观看图像。具体地说,例如,当如图23的(a)至(m)中所示改变图像时,图像看起来好像是自行车的符号图像围绕在水平方向上的垂直中线旋转。图23是图示其中符号图像看起来好像是被旋转的改变的示例的图。在图23中,(a)至(m)示出被改变的一系列帧图像的图。
图22是图示其中符号图像看起来好像是被旋转的图像的纵向或横向移动模式的示例的图。在图22中,(a)至(e)是其中水平轴是时间并且垂直轴是在旋转方向上的显示图像的宽度的图形,并且示出示例,其中,例如以正弦波形状、方波形状、三角波形状和锯齿波形状来改变移动模式。具体地说,在图22中,(a)是图示其中在正弦波的方向上旋转符号图像的移动模式的示例的图。在图22中,(b)是图示其中在方波的方向上旋转符号图像的移动模式的示例的图。在图22中,(c)是图示其中在三角波的方向上旋转符号图像的移动模式的示例的图。在图22中,(d)是图示其中在锯齿波的方向上旋转符号图像的移动模式的示例的图。在图22中,(e)是图示其中在锯齿波的方向上旋转符号图像的移动模式的示例的图。在图形中,垂直轴的负号指示原始符号图像的反转显示图像。
当以这种方式在显示区域21中显示行人1的显示图像时,驾驶员容易识别显示图像,而没有不舒适,即使行人1不在驾驶员的视场中。结果,可以减少用于避免与行人1的接触的操作所需的时间。
因此,在根据第一实施例的信息显示设备30a中,例如,检测驾驶员应当关注并且位于本车辆5周围的预定检测范围7中的行人1。
当检测信息对应于在符号图像管理表中的检测信息的种类时,计算本车辆5的光线流,并且确定要向符号图像添加的移动效果。
基于由相机8拍摄的本车辆5的前景图像来计算本车辆5的光线流。所确定的移动效果被加到符号图像,然后在本车辆5的显示单元90上被显示为显示图像。
如上所述,根据第一实施例的信息显示设备30a被设置在具有拍摄前景图像的相机8的车辆中,并且显示预定信息。信息显示设备30a包括:显示单元,其在移动预定信息的同时显示预定信息;光线流计算单元,其基于由相机8拍摄的多个前景图像来计算前景的光线流的向量信息;以及,移动效果确定单元,其从光线流计算单元获取光线流的向量信息,并且基于所获取的光线流的向量信息确定预定信息的移动效果。信息显示设备可以显示信息,而不被车辆的行驶状态影响,使得驾驶员可以容易地识别信息,而没有不舒适。
在这个实施例中,已经描述了其中检测到人或对象的示例。然而,传感器6a至6d可以具有仅检测对象的存在的功能(传感器不检测诸如人或特定对象的对象的种类)。在该情况下,可以不执行符号图像选择单元的选择处理,并且,可以显示所确定的图像。
在这个实施例中,已经描述了示例,其中,存在与所检测的关注对象对应的符号图像。然而,在一些情况下,在符号图像选择表格40中没有与关注对象对应的符号图像20。可以预先在符号图像选择表格40中准备与“其他”对应的符号图像。当检测到不清楚的对象时,可以选择“其他”,然后,可以生成显示图像。
另外,根据第一实施例的信息显示设备30a可以基于随着时间连续地拍摄的车辆的前景图像来计算车辆的前景的光线流。
显示图像在与所计算的光线流的向量的主分量相交的方向上移动。因此,驾驶员可以容易地识别显示图像。另外,因为增加的移动效果是周期的移动,所以容易预测显示图像的移动轨迹,并且可以减少从显示图像的识别至符号图像的内容的理解的时间。
而且,在这个实施例中,基于在光线流的垂直和水平分量的幅度之间的差来确定向符号图像增加的移动效果。然而,可以基于光线流的垂直分量的幅度与水平分量的幅度的比率来确定向符号图像添加的移动效果。
(第二实施例)
接下来,将参考图14描述包括根据第二实施例的信息显示设备的信息显示系统。图14是图示包括根据第二实施例的信息显示设备30b的信息显示系统10b的结构的系统配置图。在图14中,通过相同的附图标记来表示与图3中的部件相同的部件。
以下,在第二实施例中,将描述与在第一实施例的部件不同的部件和该部件的操作,并且将省略与在第一实施例中相同的内容的说明。信息显示系统10b与根据第一实施例的信息显示系统10a的不同在于取代相机8,将速度传感器14和偏航率传感器15连接到光线流计算单元34b,并且不同在于光线流计算单元34b的光线流计算处理。
速度传感器14持续地检测本车辆5的速度,并且向光线流计算单元34b输出与所检测的速度相关的速度信息。偏航率传感器15持续地检测本车辆5的旋转速度,并且向光线流计算单元34b输出与所检测的旋转速度相关的旋转速度信息。
接下来,将参考图15来描述光线流计算单元34b的计算处理。图15是图示基于从速度传感器14和偏航率传感器15输出的速度信息和旋转速度信息来计算光线流的处理的图。实际上,本车辆5移动,但是对于驾驶员看起来好像前景移动。在这个实施例中,考虑基于驾驶员的坐标系。
在图15中,(a)是图示在基于虚拟相机的镜头的中心的坐标系中的前景的相对移动的方面的图。在图15中,(b)是图示其中将相对于虚拟相机的前景的移动分解为水平移动和旋转移动的每一个分量的方面的图。在图15中,并且。在图15中,(c)是图示在投影表面上的光线流的向量的图。
图15的(a)中,对于驾驶员看起来好像前景的任意区域156从点P(X0,Y0,Z0)向点Q(X1,Y1,Z1)改变。在该情况下,通过移动向量152表示从点P至点Q的移动。
在图15的(b)中,从虚拟相机151看,向量153是直线移动的直线分量,并且,向量154是旋转移动的旋转分量。
在图15的(c)中,假定虚拟相机151拍摄如图15的(a)中所示的移动向量152,向量155是移动向量152向图像上的投影向量,即,光线流的向量。
接下来,将说明下述情况:其中,位于点P(X0,Y0,Z0)的坐标处的前景的任意区域156在本车辆5的行驶期间在预定时间段Δt后移动到点Q(X1,Y1,Z1),如图15的(a)中所示。
当考虑在本车辆5的行驶方向上面向前侧的虚拟相机151时,基于向虚拟相机151的成像表面上投影的图像来计算光线流。
考虑与在图9中所示的第一实施例的坐标系相同的虚拟相机151的坐标系,虚拟相机151拍摄给定图像时的本车辆5的速度被称为a,并且作为角速度的本车辆5的旋转速度被称为ω。
当在车辆的前景的给定点P(X0,Y0,Z0)处布置的前景的任意区域156在预定的时间段Δt后移动到给定点Q(X1,Y1,Z1)时,从点P至点Q的移动向量152可以被当作在图15(b)中所示的直线移动的直线分量(向量)153和围绕虚拟相机151的旋转移动的旋转分量(向量)154的和。因此,可以通过下面的表达式来表示在点P和点Q之间的关系。
[表达式9]
X1=X0*cos(ω*Δt)+(Z0+a*Δt)*sin(ω*Δt)
[表达式10]Y1=Y0
[表达式11]
Z1=-X0*sin(ω*Δt)+(Z0+a*Δt)*cos(ω*Δt)
当将表达式9和表达式11代入表达式5中并且将表达式9和表达式11也代入表达式6中时,可以计算光线流的向量155。
与第一实施例一样,可以基于以这种方式计算的光线流的向量155来确定要向符号图像20增加的移动效果。
如上所述,在根据第二实施例的信息显示设备30b中,例如,在本车辆5周围的预定检测范围7中检测作为驾驶员应当关注的对象的行人1。
当检测信息对应于在符号图像管理表格40中的检测信息的种类时,计算本车辆5的光线流,并且,确定要向符号图像20增加的移动效果。基于从速度传感器14和偏航率传感器15输出的值来计算本车辆5的光线流。
所确定的移动效果被加到符号图像20,然后在本车辆5的显示单元90上被显示为显示图像。
因此,根据第二实施例的信息显示设备30a可以显示信息,而不被车辆的行驶状态影响,使得驾驶员可以容易地识别信息,而没有不舒适。
基于例如从在车辆中设置的速度传感器14和偏航率传感器15输出的速度信息和旋转速度信息来计算车辆的前景的光线流。因此,可以不使用相机8获得相同的效果。
另外,因为显示图像周期性地移动,所以驾驶员容易预测显示图像的移动轨迹。以这种方式,可以减少从图像的显示的识别至符号图像的内容的了解的时间。
(第三实施例)
接下来,将描述包括根据第三实施例的信息显示设备的信息显示系统。具有包括作为根据第三实施例的信息显示设备的车载信息显示设备的车载信息显示系统的车辆的行驶状态的方面与在第一实施例中的图1中所示的相同。具有包括车载信息显示设备的车载信息显示系统的本车辆5的内部结构与在第一实施例中的图2中所示的相同。因此,将参考图1和2来描述根据第三实施例的信息显示系统。
本车辆5具有一个传感器或多个传感器6a至6d。在图1中示出四个传感器6a至6d,但是传感器的数量不限于4。传感器6a至6d检测在本车辆5周围的预定检测范围7中的人或物体,并且获取由该检测生成的显示信息。例如,如图1中所示,检测信息是用于指示行人1的存在的信息。传感器6a至6d向车载信息显示设备输出所生成的检测信息。
如图1中所示,本车辆5具有相机8。如图1中所示,相机8拍摄在本车辆5的行驶方向上的前侧上的预定成像范围9的前景。相机8向车载信息显示设备输出所拍摄的前景图像。另外,如图2中所示,作为显示单元90的显示区域21被设置在从驾驶员看的、在本车辆5中的风挡22下和后视镜23的右下侧。当传感器6a至6d检测到行人1时,车载信息显示设备将所检测的行人1的符号图像20在显示区域21上显示为需要向驾驶员通知的车载信息。
图26是图示包括车载信息显示设备30c的车载信息显示系统10c的结构的系统配置图,该车载信息显示设备30c是根据第三实施例的信息显示设备。根据第三实施例的信息显示系统10c包括传感器6a至6d、相机8、显示单元90和车载信息显示设备30c。车载信息显示设备30c连接到传感器6a至6d和相机8。图27是图示车载信息显示设备30c的内部结构的框图,该车载信息显示设备30c是根据第三实施例的信息显示设备。如图27中所示,车载信息显示设备30c包括存储单元31c、显示对象检测单元2601、显示图像选择单元2602、光线流计算单元34c、移动效果确定单元35、图像生成单元2603和显示控制单元37。显示对象检测单元2601对应于根据第一实施例的关注对象检测单元32,显示图像选择单元2602对应于根据第一实施例的符号图像选择单元33,并且,图像生成单元2603对应于根据第一实施例的显示图像生成单元36。
传感器6a至6d检测在本车辆5周围的预定检测范围7中是否例如有人或物体。当传感器6a至6d检测到在预定检测范围7中的例如人或物体时,它们向显示对象检测单元2601输出包括与所检测的人或物体相关的信息的检测信息。相机8拍摄在本车辆5的行驶方向上的前侧上的预定成像范围9的前景。相机8向光线流计算单元34c输出所拍摄的前景图像。显示单元90例如是显示区域21,显示区域21是本车辆5的风挡22的一部分。HUD被用作根据第三实施例的车载信息显示系统10a的显示单元90。在显示单元90上显示图像,该图像是由车载信息显示设备30c生成的信息并且需要被通知到本车辆5的驾驶员。在下面的实施例的每一个中,需要向本车辆5的驾驶员通知的信息被定义为“车载信息”,并且,用于指示该车载信息的图像被定义为“车载信息图像”。
存储单元31c至少存储:对象车载信息2800,其包括车载信息的种类和图像;以及,移动效果条件信息2900,用于指示用于向这个实施例中的车载信息图像提供预定的移动效果的条件信息。将参考图28来描述对象车载信息2800,并且,参考图29来描述移动效果条件信息2900。图28是图示对象车载信息2800的示例的图。图29是图示移动效果条件信息2900的示例的图。在存储单元31c中存储的信息是示例性的,并且,可以在存储单元31c中存储与根据第一实施例在存储单元31中存储的信息相同的信息。根据这个实施例的对象车载信息2800对应于根据第一实施例的符号图像选择表格40,并且,根据这个实施例的移动效果条件信息2900对应于根据第一实施例的移动效果确定表格50。
如图28中所示,对象车载信息2800包括彼此相关联的用于标识对象车载信息2800的ID、对象车载信息2800的种类和车载信息图像。例如,在具有ID“001”的对象车载信息2800中,车载信息的种类是“行人”,并且,“行人的图像”被分配为车载信息图像。在具有ID“002”的对象车载信息2800中,车载信息的种类是“自行车”,并且,“自行车的图像”被分配为车载信息图像。在具有ID“003”的对象车载信息2800中,车载信息的种类是“车辆”,并且,“车辆的图像”被分配为车载信息图像。然而,对象车载信息2800的内容不限于上述内容。
如图29中所示,移动效果条件信息2900包括彼此相关联的用于标识移动效果条件信息2900的ID、下述的由光线流计算单元34c计算的光线流的条件和要给出的移动效果。例如,在具有ID“001”的移动效果条件信息2900中,当光线流的条件是“光线流的向量的幅度<α”时,不给出移动效果。参数α是用于确定是否给出移动效果的阈值。在具有ID“002”的移动效果条件信息2900中,当光线流的条件是“光线流的向量的水平分量的幅度大于光线流的向量的垂直分量的幅度”时,给出纵向振动的移动效果。在具有ID“003”的移动效果条件信息2900中,当光线流的条件是“光线流的水平分量的幅度等于或小于光线流的垂直分量的幅度”时,给出横向振动的移动效果。在具有ID“004”的移动效果条件信息2900中,当光线流的条件是“通过向光线流的水平分量的幅度加上参数β获得的值小于光线流的垂直分量的幅度”时,给出横向振动和放大的移动效果。然而,移动效果条件信息2900的内容不限于上面的内容。
接下来,将参考图30、7和8来描述车载信息显示设备30c的操作。图30是图示车载信息显示设备30c的操作的流程图,该车载信息显示设备30c是根据第三实施例的信息显示设备。图7是图示如在第一实施例中所述的,在本车辆5的传感器6a至6d检测到行人1之前在本车辆5和行人1之间的位置关系的图。图8是图示如在第一实施例中所述的,在本车辆5的传感器6a至6d检测到行人1之后在本车辆5和行人1之间的位置关系的图。图8示出驾驶员关注接近在交叉口右转的本车辆5的行人1的状态。本车辆5的传感器6a至6d检测行人1。
当传感器6a至6d检测例如在本车辆5周围的预定检测范围7内的人或物体时,显示对象检测单元2601获取从传感器6a至6d的每一个输出的检测信息。显示对象检测单元2601确定所获取的检测信息是否包括在图28中所示的对象车载信息2800(S3001)。具体地说,显示对象检测单元2601将在存储单元31c中存储的对象车载信息2800与从传感器6a至6d获取的检测信息作比较,并且确定是否在检测信息中包括在图28中所示的对象车载信息2800中的对象的种类。当在检测信息中包括对象车载信息2800中的对象的种类时(S3001的是),显示对象检测单元2601向显示图像选择单元2602输出指示在检测信息中包括对象车载信息2800中的对象的种类的信息。
显示图像选择单元2602从显示对象检测单元2601获取用于指示在检测信息中包括在对象车载信息2800中的对象的种类的信息,并且选择与在检测信息中包括的对象车载信息2800中的对象的种类对应的车载信息图像(S3002)。显示图像选择单元2602向图像生成单元2603输出用于指示已经选择了车载信息图像的信息。
光线流计算单元34c的操作与根据第一实施例的光线流计算单元34a的操作相同。因此,将参考图9至12来描述光线流计算单元34c的操作。图9是图示如在第一实施例中所述的光线流的计算的方面的图。图10是图示如在第一实施例中所述的、其中在相机图像中的光线流的向量分量被投影到平面Z=-f的方面的图。在图10中,(a)是图示平面Z=-f的图,(b)是图示将向量分解为x和y分量的图。图11是图示如在第一实施例中所述当车辆直线行驶时的光线流的图。在图11中,(a)是图示在车辆中设置的相机8拍摄的图像的图,并且,(b)是图示将基于光线流的向量分解为x和y分量的图。图12是图示当车辆右转时的光线流的图。在图12中,(a)是图示在车辆中设置的相机8拍摄的图像的图,并且,(b)是图示将基于光线流的向量分解为x和y分量的图。
相机8持续地拍摄在本车辆5的行驶方向上的前侧的预定成像范围9的前景,并且向光线流计算单元34c输出所拍摄的前景图像。光线流计算单元34c基于随着时间在从相机8输出的前景图像中的变化来计算在图像中的光线流。在第三实施例中,假定由相机8拍摄的前景图像的光线流被用作光线流的代表值。另外,光线流的向量在由相机8拍摄的图像中的每一个点处不同。具体地说,在由驾驶员观看的车载信息图像的显示区域21中的光线流是重要的。因此,作为光线流的代表值,可以使用在显示区域21中的几个点的光线流的平均值,或者,可以使用在其中实际上显示图像的显示区域21的一部分附近的局部光线流的平均值。
光线流计算单元34c估计从相机8输出的两个前景图像的图像帧中的相同点,并且将该点的移动向量计算为光线流的向量(S3003)。作为估计在图像帧之间的相同点的方法,例如,使用梯度方法和块匹配方法。
例如,梯度方法在下述假设下计算光线流:x轴是前景图像的水平方向,y轴是前景图像的水平方向,并且在图像上的相同点的位置和亮度随着时间平滑地改变。具体地说,当在时间t处在前景图像中的像素(x,y)的亮度是E(x,y,t)时,作为图像中的光线流的向量的水平分量的x分量是u,并且,作为向量的垂直分量的y分量是v。在第一实施例中所述的表达式1成立。
从表达式1得出作为在第一实施例中所述的表达式2的约束方程,并且,从在图像中的像素(x,y)附近的约束方程将最小平方解计算为光线流的向量。
将参考图9来描述在对象的实际移动和被投影到图像上的光线流之间的关系。如图9中所示,作为基于面向本车辆5的行驶方向的相机8的坐标系,使用下述矩形坐标系:其中,相机8的镜头的中心131是原点O,在水平方向上的本车辆5的右侧是X轴,在垂直方向上的本车辆5的上侧是Y轴,并且,与行驶方向相反的方向是Z轴。当相机8的光轴是水平的并且与Z轴重叠并且相机8的焦距是f时,在平面Z=f上形成反转图像,平面Z=f是实际成像表面。然而,当考虑图像的反转时,看起来图像在前向方向上形成在平面Z=-f上。当道路表面是平面并且相机8相对于道路表面的高度是h时,通过平面Y=-h来表示道路表面。当在相机8的视场中的道路表面上的点P(X0,Y0,Z0)移动到下一个帧中的点P’(X1,Y1,Z1),并且这些点分别被投影到投影平面Z=-f上的点Q(x0,y0)和点Q’(x1,y1)时,在第一实施例中所述的表达式3和表达式4成立。这与点P’和Q’的投影相同。
因此,当在图10中所示的光线流的向量132被表示为(u,v)时,在第一实施例中所述的表达式5和表达式6成立,并且,实际移动向量133被投影到光线流的向量132上。
然而,用于计算光线流的方法不限于上述方法。
光线流计算单元34c向移动效果确定单元35输出由上述方法计算的光线流。移动效果确定单元35获取从光线流计算单元34c输出的光线流。移动效果确定单元35参考在存储单元31c中存储的移动效果条件信息2900来设置与所获取的光线流对应的移动效果(S3004至S3008)。例如,当光线流的向量的幅度小于预定值α(在S3004中的否)时,诸如当本车辆5停止时或当本车辆5以低速行驶时,移动效果确定单元35认为没有光线流,并且确定不向由显示图像选择单元2602选择的车载信息图像给出移动效果(S3005)。预定值是在图29中所示的移动效果条件信息2900中的参数α。
当光线流的向量的幅度等于或大于预定值α(在S3004中的否)时,移动效果确定单元35基于光线流的水平和垂直分量的每一个的幅度来确定移动效果。例如,假定当本车辆5如图11的(a)中所示基本上直线地行驶时,光线流的向量111的水平和垂直分量(u,v)是(-3,-20)。移动效果确定单元35将光线流的向量111分解为x轴分量和y轴分量,该x轴分量是图像的水平分量,该y轴分量是图像的垂直分量,并且,移动效果确定单元35将水平分量的幅度与垂直分量的幅度作比较,如图11的(b)中所示。
在图11的(b)中所示的示例中,因为从驾驶员看的光线流的垂直分量v的幅度比水平分量u的幅度大(在S3006中的是),所以移动效果确定单元35参考在图29中所示的移动效果条件信息2900来确定向车载信息图像给出“横向振动”的移动效果(S3007)。“横向振动”的移动效果主要基于水平分量。另外,当本车辆5如图11中所示行驶时,基本上在相对于光线流的垂直方向上显示车载信息图像,垂直分量具有大的幅度。因此,向车载信息图像给出“横向振动”的移动效果。以这种方式,可以显示车载信息使得驾驶员可以容易地识别车载信息,而没有不舒适。
例如,假定当本车辆5如图12(a)中所示右转时,光线流的向量121的水平和垂直分量(u,v)是(-10,2)。在该情况下,本车辆5接近转弯移动地行驶。在该情况下,因为从驾驶员看的光线流的水平分量u的幅度大于垂直分量v的幅度(在S3006中的否),则移动效果确定单元35参考在图29中所示的移动效果条件信息2900确定向车载信息图像给出“纵向振动”的移动效果。“纵向振动”的移动效果主要基于垂直分量。另外,当本车辆5如图12中所示行驶时,基本上在相对于光线流的垂直方向上显示车载信息图像,水平分量具有大的幅度。因此,向车载信息图像给出“纵向振动”的移动效果。以这种方式,可以显示车载信息使得驾驶员可以容易地识别车载信息,而没有不舒适。
图像生成单元2603向由显示图像选择单元2602选择的车载信息图像给出由移动效果确定单元35确定的移动效果,以生成车载信息图像(S3009)。然后,图像生成单元2603向显示控制单元37输出所生成的车载信息图像。显示控制单元37获取从图像生成单元2603输出的车载信息图像,并且在显示单元90上显示所获取的车载信息图像(S3010)。
如上所述,移动效果的种类的示例包括在纵向上的一维振动、在横向上的一维振动、放大和缩小。作为诸如振动的振幅和周期的属性,使用预定值,但是,可以将任意值用作该属性。移动效果的种类可以是周期性移动。例如,如图31的(a)至(d)中所示,位置或形状改变模式可以是正弦波、方波或三角波,并且,显示位置可以以不连续的锯齿波形状移动。图31是图示移动效果的示例的图。在图31中,(a)示出正弦波。在图31中,(b)示出方波。在图31中,(c)示出三角波。在图31中,(d)示出锯齿波。另外,可以使用在第一实施例中在图13的(a)至(e)中所示的波形。
当以这种方式在显示区域21中显示行人1的符号图像20时,即使行人1未在驾驶员的视场中,本车辆5的驾驶员也容易识别该显示,而没有不舒适。结果,可以减少用于避免与行人1接触的操作所需的时间。
如上所述,在作为根据第三实施例的信息显示设备的车载信息显示设备30c中,在本车辆5周围的预定检测范围7中检测到作为车载信息图像的对象的行人1。当车载信息图像的对象被包括在由该检测生成的检测信息中时,计算本车辆5的光线流,并且确定要向车载信息图像添加的移动效果。基于由相机8拍摄的本车辆5的行驶方向上的前景图像来计算本车辆5的光线流。具有在本车辆5的显示单元90上显示具有向其添加了所确定的移动效果的车载信息图像。
因此,作为根据第三实施例的信息显示设备的车载信息显示设备30c可以显示车载信息,而不被车辆的行驶状态影响,使得驾驶员可以容易地识别车载信息,而没有不舒适。另外,根据第三实施例的车载信息显示设备30c可以基于预定的对象车载信息2800来确定是否高精度地在车辆周围检测到需要向驾驶员通知的车载信息的对象。根据第三实施例的车载信息显示设备30c可以基于所计算的光线流的水平和垂直分量的幅度来高精度地确定是否车辆直线行驶或车辆转弯或旋转。根据第三实施例的车载信息显示设备30c可以基于在车辆的行驶方向上连续拍摄的图像来计算在车辆的行驶方向上的光线流。另外,因为移动效果是周期性移动,所以容易预测车载信息图像的显示轨迹,并且驾驶员可以容易地识别该显示,并且明白所显示的图像的内容。因为车载信息图像在与所计算的光线流的向量的主分量相交的方向上周期性地移动,所以驾驶员容易预测车载信息图像的显示轨迹,并且驾驶员可以容易地识别所显示的图像,并且明白所显示的图像的内容。另外,因为车载信息图像周期性地在与所计算的光线流的向量的主分量相交的方向上移动,所以驾驶员可以在识别所显示的车载信息图像后减少视线的移动量,并且容易明白所显示的图像的内容。
(第四实施例)
接下来,参见图32描述包括根据第四实施例的车载信息显示设备的车载信息显示系统。图32是图示包括车载信息显示设备30d的信息显示系统10d的结构的系统配置图,该车载信息显示设备30d是根据第四实施例的信息显示设备。在图32中,通过相同的附图标记来表示与在图26中的那些相同的部件。以下,在第四实施例中,将描述与在第三实施例中的那些不同的部件和该部件的操作,并且将省略与在第三实施例中相同的内容的说明。车载信息显示系统10d与根据第三实施例的车载信息显示系统10c的不同在于,取代相机8,将速度传感器14和偏航率传感器15连接到光线流计算单元34d,并且不同在于光线流计算单元34d的光线流计算处理。图33是图示车载信息显示设备30d的内部结构的框图,该车载信息显示设备30d是根据第四实施例的信息显示设备。该速度传感器14和偏航率传感器15与根据第二实施例的速度传感器14和偏航率传感器15相同。
速度传感器14持续地检测本车辆5的速度,并且向光线流计算单元34d输出与所检测的速度相关的速度信息。偏航率传感器15持续地检测本车辆5的旋转速度,并且向光线流计算单元34d输出与所检测的旋转速度相关的旋转速度信息。
接下来,光线流计算单元34d的计算处理与在第二实施例中的光线流计算单元34b相同,因此将参考图15来描述该计算处理。图15是图示基于从速度传感器14和偏航率传感器15输出的速度信息和旋转速度信息来计算光线流的处理的图。在图15的(a)中,当前景的任意区域156从点P(X0,Y0,Z0)向点Q(X1,Y1,Z1)移动时,附图标记151指示虚拟相机,并且附图标记152指示移动向量。在图15的(b)中,附图标记153指示从虚拟相机151看的移动向量152的直线分量,并且附图标记154指示从虚拟相机151看的移动向量152的旋转分量。在图15的(c)中,附图标记155指示图像的光线流的向量,由虚拟相机151向该图像上投影了前景的任意区域156的移动。
接下来,将说明下述情况:其中,位于点P(X0,Y0,Z0)的坐标处的前景的任意区域156在本车辆5的行驶期间,在预定时间段Δt后移动到点Q(X1,Y1,Z1),如图15的(a)中所示。考虑在本车辆5的行驶方向上面向前侧的虚拟相机151,并且考虑从虚拟相机151的成像表面计算的光线流。考虑与在图9中所示的第三实施例的坐标系相同的虚拟相机151的坐标系,当虚拟相机151拍摄图像时在给定时间的本车辆5的速度被称为a,并且作为角速度的本车辆5的旋转速度被称为ω。当在前景的给定点P(X0,Y0,Z0)处布置的任意区域156在预定的时间段Δt后移动到给定点Q(X1,Y1,Z1)时,从点P至点Q的移动向量152可以被当作在速度方向上的直线分量153和围绕虚拟相机151的旋转分量154的和。因此,在第二实施例中描述的表达式9、10和11在点P和点Q之间成立。
当将表达式9和表达式11代入表达式5中,并且将表达式9和表达式11也代入表达式6中时,可以计算光线流的向量155。与第三实施例一样,可以基于以这种方式计算的光线流的向量155来确定要向车载信息图像增加的移动效果。
如上所述,在作为根据第四实施例的信息显示设备的车载信息显示设备30d中,例如,在本车辆5周围的预定检测范围7中检测作为车载信息图像的对象的行人1。当在由检测生成的检测信息中包括车载信息图像的对象时,计算本车辆5的光线流,并且,确定要向车载信息图像添加的移动效果。基于从速度传感器14和偏航率传感器15输出的值来计算本车辆5的光线流。在本车辆5的显示单元90上显示被添加所确定的移动效果的车载信息图像。
因此,作为根据第四实施例的信息显示设备的车载信息显示设备30d可以显示车载信息,而不被车辆的行驶状态影响,使得驾驶员可以容易地识别车载信息,而没有不舒适。另外,根据第四实施例的车载信息显示设备30d可以基于所确定的对象车载信息2800来确定是否高精度地在车辆周围检测到需要向驾驶员通知的车载信息的目标。可以基于所计算的光线流的水平和垂直分量的绝对值来高精度地确定是否车辆直线行驶或车辆转弯或旋转。可以例如基于从在车辆上设置的速度传感器14和偏航率传感器15输出的速度信息和旋转速度信息来计算在车辆的行驶方向上的光线流。另外,驾驶员容易预测车载信息图像的显示轨迹,并且驾驶员可以容易地识别所显示的图像并且明白所显示的图像的内容。因为车载信息图像在与所计算的光线流的向量的主分量相交的方向上周期性地移动,所以驾驶员容易预测车载信息图像的显示轨迹,并且驾驶员可以容易地识别所显示的图像,并且明白所显示的图像的内容。另外,因为车载信息图像在与所计算的光线流的向量的主分量相交的方向上周期性地移动,所以驾驶员可以在识别所显示的车载信息图像后减少视线的移动量,并且容易地明白所显示的图像的内容。
以上已经参考附图描述了各个实施例,但是根据本发明的信息显示设备不限于上述实施例。本领域内的技术人员可以明白,可以在权利要求的范围内进行本发明的各种修改和改变,并且,这些修改和改变也被包括在本发明的技术范围中。例如,可以彼此适当地组合上述实施例,以显示信息,而不被车辆的行驶状态影响,使得驾驶员可以容易地识别信息,而没有不舒适。
在使用速度传感器14和偏航率传感器15的第四实施例中,即使没有相机8拍摄的图像,也可以计算光线流的向量。因此,当预先在图16的(a)中所示的表格中存储x分量、y分量和由x分量和y分量形成的角度时,可以基于表格来确定要向符号图像添加的移动效果的最佳移动方向,其中,x分量是与速度传感器14的输出值和偏航率传感器15的输出值的组合对应的光线流的向量的水平分量,并且,y分量是该向量的垂直分量。当已知与HUD的重叠区域重叠的道路表面的一部分的位置坐标时,可以基于包括作为参数的位置坐标的在图16的(b)中所示的表格来确定要向符号图像添加的移动效果的最佳移动方向。图16是图示用于计算当使用虚拟相机时,在光线流的向量的水平分量和垂直分量之间形成的角度的表格的示例的图。在图16中,(a)是用于图示表格的图,在该表格中,车辆的速度、车辆的角速度和在光线流的向量的水平分量和垂直分量之间形成的角度彼此相关联。在图16中,(b)示出了表格,其中,与HUD的重叠区域重叠的道路表面的一部分的位置坐标、车辆的速度、车辆的角速度和在光线流的向量的水平分量和垂直分量之间形成的角度彼此相关联。
可以指定驾驶员的眼球的位置,并且,可以将基于相机8的坐标系转换为基于驾驶员的眼球(或在左右眼球之间的中点)的位置的坐标系,由此计算驾驶员的视点的光线流。图24是图示信息显示系统的结构的图,该信息显示系统计算驾驶员的眼球的位置,并且计算与驾驶员的视点对应的光线流。可以通过使用相机的已知定位技术来计算驾驶员的眼球的位置。另外,通过已知的技术来转换图像的视点。因此,可以将由相机8拍摄的图像转换为与驾驶员的视点对应的图像,并且计算与HUD的显示区域重叠的转换图像的一部分的光线流。
另外,可以考虑驾驶员的座椅的位置和角度。由驾驶员观看的HUD的显示位置的背景(重叠区域)根据驾驶员的座椅的位置和角度来改变。因此,当预先在表格中存储由驾驶员的座椅的位置和角度确定的驾驶员的眼球的位置时,根据座椅的位置和角度来确定驾驶员的眼球的位置,并且,可以计算在从眼球的位置看的在HUD的显示区域之前的道路表面上的位置的光线流的向量。
另外,可以手动地或自动地调整HUD的显示位置,使得驾驶员容易观看HUD。在该情况下,如图17中所示,预先将当驾驶员观看显示位置时在HUD的显示位置(设置位置)和在作为背景的道路表面上的位置之间的关系存储为表格。以这种方式,当确定HUD的显示位置时,可以基于该表格来计算光线流的向量。图17是图示用于设置与HUD的重叠区域重叠的道路表面的位置坐标的表格的示例的图。
具体地说,例如,当本车辆5直线行驶并且在作为显示位置的背景的道路表面上的位置较远时,光线流的向量的幅度较小。当在道路表面上的位置较近时,该向量的幅度较大。当车辆右转或左转时,光线流的向量的方向与当车辆直线行驶时不同,但是,该向量的幅度等于当车辆直线行驶时该向量的幅度。
在上述实施例的每一个中,包括虚拟相机151的相机8的光轴与Z轴平行。然而,相机8可以具有俯角。在该情况下,类似地,可以根据几何关系计算光线流。
在上述实施例中,在本车辆5的行驶期间,传感器6a至6d和相机8持续地工作。然而,传感器6a至6d和相机8可以仅当车辆的速度等于或大于预定值时工作。该预定速度等于或大于例如5km/h。另外,传感器6a至6d和相机8可以当本车辆5的引擎启动时同时开始它们的工作,或它们可以仅当车辆的速度满足由驾驶员预定的操作条件时工作。
在上述实施例的每一个中,检测到行人1。然而,可以检测自行车或车辆。在该情况下,类似地,当自行车或车辆被注册为在符号图像管理表中的检测目标的种类时,选择符号图像,并且显示显示图像。另外,仅当在本车辆5和特定种类的对象之间的距离满足预定条件时,才可以将对象选择为检测信息的种类。该预定条件例如是“在本车辆5和特定种类的对象之间的距离等于或小于10[m]”。另外,传感器6a至6d可以检测本车辆5的右转。当本车辆5右转时,传感器可以仅检测在本车辆5的右侧上接近的对象。
在上述实施例的每一个中,检测行人1、自行车或车辆并且引起驾驶员的关注的安全驾驶辅助应用被给出为示例。然而,本发明可以被应用到路径指南应用,该路径指南应用使用当车辆右转时在车辆导航设备上显示的路径指南显示图像(图18)作为符号图像。图18是图示路径指南图像的示例的图。在该情况下,例如,当车辆接近右转位置时,可以振动符号图像,使得驾驶员可以容易地识别车辆向右转位置的接近,而没有不舒适。
本发明可以同样地应用到显示信息,诸如驾驶信息(例如,装置信息和车辆故障警告信息)、驾驶支持信息(例如,关于行驶环境的信息、关于标志的信息、用于加重视觉的信息、关于盲点的信息、障碍物警告信息和关于车道偏离、交通违章、瞌睡警告和推荐速度的信息)、车载环境信息(例如,关于时钟、空调器和多媒体的信息)和导航信息(例如,路径指南信息和经济驾驶支持信息)。
在上述实施例的每一个中,已经描述了用于基于光线流来确定要在水平方向或垂直方向上向符号图像添加的移动效果的方法。然而,例如,可以在不同方向上移动符号图像。例如,可以在在从驾驶员看的四个方向中与垂直于光线流方向的方向最接近的方向上增加移动效果,该四个方向即垂直方向、水平方向、从右上向左下的对角方向和从左上向右下的对角方向。另外,用于选择要增加的移动效果的方向的方式的数量可以进一步增加。例如,如图9中所示,当在光线流的向量132和x分量的方向之间形成的角度是θ时,可以在最接近与光线流的向量垂直的方向的方向上增加移动效果。
在上述实施例的每一个中,如图19的(a)中所示,向作为单个图像70的符号图像添加移动效果。然而,例如,如图19的(b)中所示,作为符号图像70拍摄的图像可以包括:需要向驾驶员通知的第一图像71;以及,用于改善对驾驶员的颜色吸引和驾驶员的可视性的第二图像(背景图像)72。图19是图示在显示单元上显示的显示图像的示例的图。在图19中,(a)示出仅包括符号图像的图像。在图19中,(b)示出包括符号图像和背景图像的图像。在该情况下,当第一图像71和第二图像72以相同方式移动时,驾驶员识别图像,但是驾驶员的可视性降低,因为第一图像71移动。因此,显示控制单元37仅向第二图像72添加移动效果,并且不向第一图像71添加移动效果。以这种方式,可以改善符号图像70的可视性。
在上述实施例的每一个中,已经描述了用于从由相机8拍摄的图像计算光线流的方法和用于基于来自速度传感器14和偏航率传感器15的输出值的组合计算光线流的方法。然而,可以基于GPS(全球定位系统)信息、方向盘、转弯信号和本车辆5的行驶状态来估计光线流。
在上述实施例的每一个中,不考虑个体驾驶员的视觉特征。视觉特征根据在年龄和个体上的差别来改变。例如,当提供了用于获取驾驶员的年龄信息和年龄视觉特征信息表的部件时,可以基于根据年龄的视觉特征(例如,视力、眼睛的光谱敏感度、颜色对比敏感度和亮度对比敏感度)来确定图像的颜色和大小,使得特定的年龄组观看图像较为容易,并且,可以向符号图像添加用于改善彩色吸引力的移动效果。另外,当预先查看个体驾驶员的视觉特征时,基于个体驾驶员的视觉特征数据和驾驶员的状态来显示图像。以这种方式,可以显示适合于每一个驾驶员的图像,使得驾驶员可以容易地识别图像,而不被混淆。
可以随着时间改变向符号图像添加的移动效果。移动效果可以被改变和显示以便逐渐地增加。例如,随着从符号图像的显示开始起的时间的经过,符号图像的移动的振幅增加,并且周期减小。
在上述实施例的每一个中,振动的振幅或周期不变,而与本车辆5的速度无关。然而,符号图像的大小或振动的周期可以根据本车辆5的速度改变。例如,当本车辆5的速度增大时,根据速度传感器14的输出值,符号图像的大小增大或向符号图像添加的移动效果的振动的周期减小。
在上述实施例的每一个中,不考虑本车辆5的振动。然而,可以检测本车辆5在垂直方向上的振动。在该情况下,当本车辆5在垂直方向上的振动较大时,符号图像的振动的振幅可以增大。
在第一和第三实施例中,在信息显示设备30a中不包括传感器6a至6d和相机8。然而,可以在信息显示设备30a中包括传感器6a至6d和相机8。同样地,在第二和第四实施例中,在信息显示设备30b中不包括速度传感器14和偏航率传感器15。然而,可以在信息显示设备30b中包括速度传感器14和偏航率传感器15。在上述实施例的每一个中,在信息显示设备30中不包括显示单元90。然而,可以在信息显示设备30中包括显示单元90。
在图28中所示的符号图像管理表格40中,检测信息的种类的格式是文本数据,并且符号图像的格式是图像数据。然而,本发明不限于此。例如,当符号图像的图像数据被存储在另一个存储单元中时,符号图像管理表格40可以例如存储检测信息的种类和用于访问存储符号图像的另一个存储单元的地址。
另外,可以使用相对于本车辆5要检测的对象的位置或速度的信息。在该情况下,显示图像的大小可以根据距离或速度而改变。例如,当相对距离增加时,显示图像的显示大小增大。另外,当相对速度增大时,显示图像的显示大小增大。当在图20中所示的显示放大条件信息60被存储在存储单元31中时,信息显示设备30可以基于例如本车辆5和行人1之间的相对距离来确定符号图像的显示放大率,并且显示符号图像。在图20中,当本车辆5和行人1之间的相对距离小于A[m]时,以比要显示的对象的图像的预定大小大三倍的大小来显示符号图像。当该相对距离在A[m]至B[m]的范围中时,使用比该预定大小大两倍的大小来显示符号图像。当该相对距离在B[m]至C[m]的范围中时,使用等于该预定大小的大小(通常的大小)来显示符号图像。
例如,可以分配具有不同颜色的符号图像,使得当在本车辆5和检测目标之间的相对距离减小时,以绿色、黄色和红色的顺序来改变符号图像的颜色。当该相对距离减小时,可以分配具有较高发光度的符号图像。当该相对距离减小时,可以分配具有较高色度的符号图像。替代地,当该相对距离减小时,可以分配具有较高亮度的符号图像。可以根据从本车辆5和检测目标之间的相对距离和相对速度计算的TTC(到碰撞的时间)值来分配符号图像。另外,符号图像可以根据相对于本车辆5的检测目标的位置来改变。例如,面向右的自行车的符号图像被分配到从左侧接近的自行车,并且面向左的自行车的符号图像被分配到从右侧接近的自行车。
在本发明中,基于所检测的关注对象来选择符号图像。然而,可以从获取的相机图像修整关注对象,并且,可以取代符号图像在HUD上显示修整后的关注对象的图像。
在本发明中,HUD显示图像,使得通过风挡与背景重叠。然而,可以在驾驶员之前设置的小的不透明显示器上显示图像。
本申请基于2009年12月10日提交的日本专利申请(No.2009-280559),其内容通过引用被合并于此。
工业上的适用性
根据本发明的信息显示设备和信息显示方法有益于用作作为在车辆中设置的驾驶安全支持系统的一部分的设备和方法。另外,信息显示设备和信息显示方法可以用于路径指南应用。例如,信息显示设备和信息显示方法可以作为导航设备的一部分被包含,并且使用路径指南图像作为符号图像。
Claims (9)
1.一种信息显示设备,被设置在包括第一相机的车辆中,所述第一相机拍摄前景图像,所述信息显示设备显示预定信息,所述信息显示设备包括:
显示单元,被配置为在被移动的同时显示所述预定信息;
光线流计算单元,被配置为获取由所述第一相机拍摄的多个前景图像,并基于所述获取的多个前景图像来计算前景的光线流的向量信息;以及,
移动效果确定单元,被配置为从所述光线流计算单元获取所述光线流的所述向量信息,并基于所获取的所述光线流的向量信息来确定所述预定信息的移动效果。
2.根据权利要求1所述的信息显示设备,其中,
所述移动效果是振动方法,并且
所述移动效果确定单元基于所述光线流的所述向量信息来确定所述预定信息的所述振动方法。
3.根据权利要求1所述的信息显示设备,其中
所述移动效果是扩张和收缩方法,并且
所述移动效果确定单元基于所述光线流的所述向量信息来确定所述预定信息的所述扩张和收缩方法。
4.根据权利要求1所述的信息显示设备,进一步包括:
显示图像生成单元,被配置为获取由所述移动效果确定单元确定的所述移动效果的信息,并且向所述预定信息添加所述移动效果的所述信息,以生成要由所述显示单元显示的显示图像。
5.根据权利要求1所述的信息显示设备,进一步包括:
存储单元,其中存储了检测目标,所述检测目标是关注对象;
关注对象检测单元,被配置为将从在所述车辆中设置并且检测车辆周围的所述检测目标的传感器获取的所述检测目标的信息与从所述存储单元获取的所述检测目标的所述信息作比较,并且确定从所述传感器获取的所述检测目标是否是关注对象;以及
符号图像选择单元,被配置为当所述关注对象检测单元确定从所述传感器获取的所述检测目标是所述关注对象时,选择与所述获取的检测目标对应的符号图像,其中
所述显示单元在被移动的同时将所述符号图像显示为所述预定信息。
6.根据权利要求1所述的信息显示设备,进一步包括:
凝视方向检测单元,其包括第二相机,所述第二相机拍摄所述车辆的驾驶员的图像,所述凝视方向检测单元被配置为基于所拍摄的驾驶员的图像来检测所述驾驶员的凝视方向,
其中,所述移动效果确定单元基于在所述光线流的向量信息中的、在包括由所述凝视方向检测单元检测的所述凝视方向的预定区域和所述前景之间的重叠区域中包括的所述向量信息,来确定所述预定信息的所述移动效果。
7.根据权利要求1所述的信息显示设备,其中,
所述移动效果确定单元基于所获取的所述光线流的向量信息的垂直分量的幅度和水平分量的幅度的比较结果,确定所述预定信息的所述移动效果。
8.一种信息显示设备,被设置在包括传感器的车辆中,所述传感器检测速度信息和旋转速度信息,并且所述信息显示设备显示预定信息,所述信息显示设备包括:
显示单元,被配置为在被移动的同时显示所述预定信息;
光线流计算单元,被配置为从所述传感器获取所述速度信息和所述旋转速度信息,并且基于所获取的速度信息和旋转速度信息来计算前景的光线流的向量信息;以及,
移动效果确定单元,被配置为从所述光线流计算单元获取所述光线流的所述向量信息,并基于所获取的所述光线流的向量信息来确定所述预定信息的移动效果。
9.一种信息显示方法,被实现在包括相机的车辆中,所述相机拍摄前景图像,所述信息显示方法显示预定信息,所述信息显示方法包括:
允许显示单元在被移动的同时显示所述预定信息;
允许光线流计算单元获取由所述相机拍摄的多个前景图像,并且基于所获取的多个前景图像来计算前景的光线流的向量信息;以及,
允许移动效果确定单元从所述光线流计算单元获取所述光线流的所述向量信息,并且基于所获取的所述光线流的向量信息来确定所述预定信息的移动效果。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009-280559 | 2009-12-10 | ||
JP2009280559 | 2009-12-10 | ||
PCT/JP2010/007156 WO2011070783A1 (ja) | 2009-12-10 | 2010-12-08 | 情報表示装置及び情報表示方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102378998A true CN102378998A (zh) | 2012-03-14 |
CN102378998B CN102378998B (zh) | 2014-12-10 |
Family
ID=44145342
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201080014454.4A Expired - Fee Related CN102378998B (zh) | 2009-12-10 | 2010-12-08 | 信息显示设备和信息显示方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8536995B2 (zh) |
EP (1) | EP2511893A4 (zh) |
JP (1) | JP5590684B2 (zh) |
CN (1) | CN102378998B (zh) |
WO (1) | WO2011070783A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104321682A (zh) * | 2013-03-28 | 2015-01-28 | 松下知识产权经营株式会社 | 图像显示装置 |
CN107878300A (zh) * | 2016-09-29 | 2018-04-06 | 法雷奥照明公司 | 通过机动车辆的投影系统投射图像的方法和相关联的投影系统 |
CN107878301A (zh) * | 2016-09-29 | 2018-04-06 | 法雷奥照明公司 | 用于通过机动车辆的投影系统投射图像的方法和相关联的投影系统 |
CN108604412A (zh) * | 2016-02-12 | 2018-09-28 | 三菱电机株式会社 | 信息显示装置及信息显示方法 |
CN110015247A (zh) * | 2017-12-28 | 2019-07-16 | 丰田自动车株式会社 | 显示控制装置和显示控制方法 |
CN111767844A (zh) * | 2020-06-29 | 2020-10-13 | 北京百度网讯科技有限公司 | 用于三维建模的方法和装置 |
CN112424788A (zh) * | 2019-06-17 | 2021-02-26 | 谷歌有限责任公司 | 使用三维眼睛注视矢量的车辆乘员参与 |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10018703B2 (en) * | 2012-09-13 | 2018-07-10 | Conduent Business Services, Llc | Method for stop sign law enforcement using motion vectors in video streams |
US9230501B1 (en) * | 2012-01-06 | 2016-01-05 | Google Inc. | Device control utilizing optical flow |
US10565438B2 (en) * | 2012-03-12 | 2020-02-18 | Honda Motor Co., Ltd. | Vehicle periphery monitor device |
JP5783155B2 (ja) | 2012-10-05 | 2015-09-24 | 株式会社デンソー | 表示装置 |
KR102118438B1 (ko) | 2013-01-28 | 2020-06-04 | 한국전자통신연구원 | 차량용 헤드업 디스플레이 장치 및 그 방법 |
US9975483B1 (en) * | 2013-02-08 | 2018-05-22 | Amazon Technologies, Inc. | Driver assist using smart mobile devices |
US9514650B2 (en) * | 2013-03-13 | 2016-12-06 | Honda Motor Co., Ltd. | System and method for warning a driver of pedestrians and other obstacles when turning |
US9064420B2 (en) * | 2013-03-14 | 2015-06-23 | Honda Motor Co., Ltd. | Augmented reality heads up display (HUD) for yield to pedestrian safety cues |
TW201500735A (zh) * | 2013-06-18 | 2015-01-01 | Nat Applied Res Laboratories | 行動式影像流速辨識之方法及其裝置 |
JP6032195B2 (ja) * | 2013-12-26 | 2016-11-24 | トヨタ自動車株式会社 | センサ異常検出装置 |
KR20150087985A (ko) | 2014-01-23 | 2015-07-31 | 한국전자통신연구원 | 안전운행정보 표출 장치 및 그 방법 |
JP6233599B2 (ja) | 2014-02-25 | 2017-11-22 | マツダ株式会社 | 車両用表示制御装置 |
JPWO2015128985A1 (ja) * | 2014-02-27 | 2017-03-30 | パイオニア株式会社 | 表示装置、制御方法、プログラム、及び記憶媒体 |
JP6273976B2 (ja) * | 2014-03-31 | 2018-02-07 | 株式会社デンソー | 車両用表示制御装置 |
US9495814B2 (en) * | 2014-06-19 | 2016-11-15 | Atieva, Inc. | Vehicle fault early warning system |
US9626811B2 (en) | 2014-06-19 | 2017-04-18 | Atieva, Inc. | Vehicle fault early warning system |
JP5935858B2 (ja) * | 2014-11-18 | 2016-06-15 | 株式会社デンソー | 表示装置 |
US10309797B2 (en) * | 2014-12-19 | 2019-06-04 | Here Global B.V. | User interface for displaying navigation information in a small display |
US9718405B1 (en) | 2015-03-23 | 2017-08-01 | Rosco, Inc. | Collision avoidance and/or pedestrian detection system |
JP2017003414A (ja) * | 2015-06-10 | 2017-01-05 | 株式会社Jvcケンウッド | レーザレーダ装置および検知方法 |
JP2019059245A (ja) * | 2016-02-05 | 2019-04-18 | マクセル株式会社 | ヘッドアップディスプレイ装置及びその表示制御方法 |
JP6784058B2 (ja) * | 2016-05-23 | 2020-11-11 | 株式会社リコー | 情報表示装置 |
KR102581779B1 (ko) * | 2016-10-11 | 2023-09-25 | 주식회사 에이치엘클레무브 | 교차로충돌방지시스템 및 교차로충돌방지방법 |
KR101899396B1 (ko) * | 2016-11-24 | 2018-09-18 | 현대자동차주식회사 | 차량 및 그 제어방법 |
JP2018151940A (ja) * | 2017-03-14 | 2018-09-27 | 株式会社デンソーテン | 障害物検出装置および障害物検出方法 |
JP2019109656A (ja) * | 2017-12-18 | 2019-07-04 | 東芝情報システム株式会社 | 軽車両・軽二輪車の情報管理システム |
JP2020013274A (ja) * | 2018-07-17 | 2020-01-23 | 富士通株式会社 | 表示プログラム、表示装置及び表示方法 |
US11580833B2 (en) * | 2020-03-24 | 2023-02-14 | Object Video Labs, LLC | Camera detection of human activity with co-occurrence |
KR102347423B1 (ko) * | 2020-03-25 | 2022-01-12 | 주식회사 만도모빌리티솔루션즈 | 차량 후측방 경보 장치 및 그 방법 |
US11292398B2 (en) * | 2020-04-20 | 2022-04-05 | Hyundai Mobis Co., Ltd. | Apparatus for displaying forward blind spot situation |
CN112925241A (zh) * | 2021-01-25 | 2021-06-08 | 常州机电职业技术学院 | 一种汽车开关门自动响应系统及控制方法 |
JP2022175877A (ja) * | 2021-05-14 | 2022-11-25 | トヨタ自動車株式会社 | 車両用表示装置、表示方法及びプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1457023A (zh) * | 2002-05-09 | 2003-11-19 | 松下电器产业株式会社 | 监视装置、监视方法和监视用程序 |
CN1673679A (zh) * | 2004-03-26 | 2005-09-28 | 三菱自动车工业株式会社 | 前视监视设备 |
JP2008257378A (ja) * | 2007-04-03 | 2008-10-23 | Honda Motor Co Ltd | 物体検出装置 |
JP2009017572A (ja) * | 2008-08-04 | 2009-01-22 | Mitsubishi Motors Corp | ノーズビューモニタ装置 |
JP2009277021A (ja) * | 2008-05-15 | 2009-11-26 | Hitachi Ltd | 接近物検出装置および接近物検出方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6727807B2 (en) * | 2001-12-14 | 2004-04-27 | Koninklijke Philips Electronics N.V. | Driver's aid using image processing |
JP4639921B2 (ja) * | 2004-06-11 | 2011-02-23 | 日産自動車株式会社 | 運転支援装置 |
JP4899340B2 (ja) * | 2004-08-02 | 2012-03-21 | 日産自動車株式会社 | 運転感覚調整装置及び運転感覚調整方法 |
JP4701773B2 (ja) | 2005-03-24 | 2011-06-15 | 日産自動車株式会社 | 車両用表示装置及び方法 |
JP2009009446A (ja) * | 2007-06-29 | 2009-01-15 | Denso Corp | 車両用情報表示装置 |
-
2010
- 2010-12-08 JP JP2011545089A patent/JP5590684B2/ja not_active Expired - Fee Related
- 2010-12-08 EP EP10835706.2A patent/EP2511893A4/en not_active Withdrawn
- 2010-12-08 CN CN201080014454.4A patent/CN102378998B/zh not_active Expired - Fee Related
- 2010-12-08 WO PCT/JP2010/007156 patent/WO2011070783A1/ja active Application Filing
- 2010-12-08 US US13/255,296 patent/US8536995B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1457023A (zh) * | 2002-05-09 | 2003-11-19 | 松下电器产业株式会社 | 监视装置、监视方法和监视用程序 |
CN1673679A (zh) * | 2004-03-26 | 2005-09-28 | 三菱自动车工业株式会社 | 前视监视设备 |
JP2008257378A (ja) * | 2007-04-03 | 2008-10-23 | Honda Motor Co Ltd | 物体検出装置 |
JP2009277021A (ja) * | 2008-05-15 | 2009-11-26 | Hitachi Ltd | 接近物検出装置および接近物検出方法 |
JP2009017572A (ja) * | 2008-08-04 | 2009-01-22 | Mitsubishi Motors Corp | ノーズビューモニタ装置 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104321682B (zh) * | 2013-03-28 | 2017-09-22 | 松下知识产权经营株式会社 | 图像显示装置 |
CN104321682A (zh) * | 2013-03-28 | 2015-01-28 | 松下知识产权经营株式会社 | 图像显示装置 |
CN108604412A (zh) * | 2016-02-12 | 2018-09-28 | 三菱电机株式会社 | 信息显示装置及信息显示方法 |
CN108604412B (zh) * | 2016-02-12 | 2021-02-12 | 三菱电机株式会社 | 信息显示装置及信息显示方法 |
CN107878301B (zh) * | 2016-09-29 | 2022-11-25 | 法雷奥照明公司 | 用于通过机动车辆的投影系统投射图像的方法和投影系统 |
CN107878301A (zh) * | 2016-09-29 | 2018-04-06 | 法雷奥照明公司 | 用于通过机动车辆的投影系统投射图像的方法和相关联的投影系统 |
CN107878300A (zh) * | 2016-09-29 | 2018-04-06 | 法雷奥照明公司 | 通过机动车辆的投影系统投射图像的方法和相关联的投影系统 |
CN107878300B (zh) * | 2016-09-29 | 2023-03-07 | 法雷奥照明公司 | 通过机动车辆的投影系统投射图像的方法和投影系统 |
CN110015247A (zh) * | 2017-12-28 | 2019-07-16 | 丰田自动车株式会社 | 显示控制装置和显示控制方法 |
CN112424788A (zh) * | 2019-06-17 | 2021-02-26 | 谷歌有限责任公司 | 使用三维眼睛注视矢量的车辆乘员参与 |
CN111767844A (zh) * | 2020-06-29 | 2020-10-13 | 北京百度网讯科技有限公司 | 用于三维建模的方法和装置 |
US11697428B2 (en) | 2020-06-29 | 2023-07-11 | Apollo Intelligent Driving Technology (Beijing) Co., Ltd. | Method and apparatus for 3D modeling |
CN111767844B (zh) * | 2020-06-29 | 2023-12-29 | 阿波罗智能技术(北京)有限公司 | 用于三维建模的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2011070783A1 (ja) | 2011-06-16 |
EP2511893A1 (en) | 2012-10-17 |
US8536995B2 (en) | 2013-09-17 |
US20120235805A1 (en) | 2012-09-20 |
JPWO2011070783A1 (ja) | 2013-04-22 |
JP5590684B2 (ja) | 2014-09-17 |
CN102378998B (zh) | 2014-12-10 |
EP2511893A4 (en) | 2018-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102378998B (zh) | 信息显示设备和信息显示方法 | |
US9459113B2 (en) | Visual guidance for vehicle navigation system | |
JP6700623B2 (ja) | 走行支援装置及びコンピュータプログラム | |
JP6861375B2 (ja) | 表示システム、情報提示システム、表示システムの制御方法、プログラム、及び移動体 | |
JP5654269B2 (ja) | 車両用ディスプレイ装置及び車両用ディスプレイの表示方法 | |
CN102447731B (zh) | 用于社会化网络的全挡风屏平视显示界面 | |
JP2019095213A (ja) | 重畳画像表示装置及びコンピュータプログラム | |
CN111656775B (zh) | 显示控制装置以及显示系统 | |
CN106687327A (zh) | 车辆显示装置 | |
CN103010099A (zh) | 在全风挡平视显示器上的动态信息显示 | |
CN102568231A (zh) | 全挡风玻璃平视显示器上的道路情况警报 | |
US20200249044A1 (en) | Superimposed-image display device and computer program | |
EP3505381B1 (en) | Display system and display control program | |
US20140043466A1 (en) | Environment image display apparatus for transport machine | |
US11100718B2 (en) | Method for operating a display device in a motor vehicle | |
JP5488303B2 (ja) | 車両用表示装置 | |
JP6796806B2 (ja) | 表示システム、情報提示システム、表示システムの制御方法、プログラム、及び移動体 | |
JP2016068693A (ja) | 車両用表示装置 | |
KR20110114485A (ko) | 대상물 마킹의 위치를 트래킹하기 위한 방법 및 장치 | |
JP2013174667A (ja) | 車両用表示装置 | |
CN102235869A (zh) | 用于标记汽车目的地的方法和信息系统 | |
JP6303418B2 (ja) | 車両用走行案内装置および車両用走行案内方法 | |
WO2023145855A1 (ja) | 表示装置 | |
JP2018101897A (ja) | 車両周辺監視装置及び監視方法 | |
JP2023147814A (ja) | 表示システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20141210 Termination date: 20191208 |
|
CF01 | Termination of patent right due to non-payment of annual fee |