CN105580358B - 信息提示系统 - Google Patents

信息提示系统 Download PDF

Info

Publication number
CN105580358B
CN105580358B CN201480052059.3A CN201480052059A CN105580358B CN 105580358 B CN105580358 B CN 105580358B CN 201480052059 A CN201480052059 A CN 201480052059A CN 105580358 B CN105580358 B CN 105580358B
Authority
CN
China
Prior art keywords
vehicle
terminal installation
chart picture
information
prognostic chart
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201480052059.3A
Other languages
English (en)
Other versions
CN105580358A (zh
Inventor
安原真史
高野照久
香西秋彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Publication of CN105580358A publication Critical patent/CN105580358A/zh
Application granted granted Critical
Publication of CN105580358B publication Critical patent/CN105580358B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking

Abstract

本发明提供具有控制装置(10)的信息提示系统(1000),该控制装置(10)执行:由车载摄像机(1)拍摄的车辆周边的摄像图像的图像获取功能;判断包含了前车载装置(200)与终端装置(100)的无线通信的延迟时间的延迟状态的延迟状态判断功能;根据车辆的状态信息,由摄像图像生成在延迟时间后的车辆的位置中通过摄像机(1)拍摄的预测图像的预测图像生成功能以及提示预测图像的提示功能。

Description

信息提示系统
技术领域
本发明涉及提示与车辆周围的影像有关的信息的信息提示系统。
本申请要求2013年9月27日提出申请的日本专利申请特愿2013―200958号的优先权,对于认可通过文献的参照而加入的指定国,通过参照将上述的申请中记载的内容加入本申请,成为本申请的记载的一部分。
背景技术
关于这种装置,已知在车辆的变速杆被操作至倒车档位置的情况下,显示车辆的后方的影像的驾驶辅助装置(专利文献1)。
现有技术文献
专利文献
专利文献1:特开2012-0162130号公报
发明内容
发明要解决的课题
但是,在未组装在车载装置中的可移动型的终端装置经由无线通信提示获取的车载摄像机的摄像图像的情况下,在无线通信中产生延迟时,存在提示摄像图像的定时延迟的问题。
本发明要解决的课题是,即使在车载装置与终端装置的无线通信中产生了延迟的情况下,也在终端装置提示表示实时的车辆周围的状态的图像信息。
用于解决课题的手段
本发明通过根据包含车载装置与终端装置的无线通信的延迟时间的延迟状态和车辆的状态信息,由车载摄像机的摄像图像生成在延迟时间后的车辆的位置拍摄的的预测图像,将其进行提示,从而解决上述课题。
发明的效果
按照本发明,由于在终端装置中提示要在无线通信的延迟时间后由车载摄像机拍摄的预测图像,所以即使在车载装置与终端装置的通信中产生了延 迟的情况下,也可以使司机识别实时的车辆周围的状态。其结果,可以防止在无线通信中产生了延迟的情况下,在终端装置中提示过去的摄像图像。
附图说明
图1是本发明的本实施方式的信息提示系统的结构图。
图2是表示在终端装置中提示的图像信息的一个例子的图。
图3是说明无线通信的延迟的图。
图4是用于说明与无线通信的延迟对应的预测图像的生成方法的图。
图5是表示信息提示处理的控制步骤的流程图。
具体实施方式
以下,根据附图说明本发明的实施方式。在本实施方式中,以适用于包括具有在车辆中设置的摄像机的车载装置200、和与该车载装置200进行无线通信的可携带的终端装置100的信息提示系统1000的情况为例进行说明。
图1是本实施方式的信息提示系统1000的块结构图。信息提示系统1000具有车载装置200和终端装置100。
首先,根据图1说明本发明的车载装置200。本实施方式的车载装置200包括:一或者多个摄像机1a~1d;通信装置2;车辆控制器3;以及各种的车载的装置4(也总称为各种装置4)。
摄像机1a~1d(总称而称为摄像机1。以下,相同。)使用CCD(Charge CoupledDevices,电荷耦合元件)等摄像元件构成。在本实施方式中,包括后嵌装饰(rearfinisher)部分或车顶扰流板部分等车辆的后(后方)部分的规定位置设置的摄像机1。该摄像机1拍摄车辆的后方的空间中存在的物体或者路面的图像(后视图像)。本实施方式的“车辆的后方”中,不仅包含正后方,还包含后方的左右侧方。而且,本实施方式的车载装置200具有在车辆V的外部的不同位置分别设置的多个摄像机1a~1d。本实施方式的车载装置200具有在前格栅部分等车辆的前方的规定位置、左侧反光镜部分等车辆的左侧方的规定位置、或者右侧反光镜部分等车辆的右侧方的规定位置设置的摄像机1a~1d。各摄像机1分别拍摄车辆周围不同方向的影像。在本实施方式中,使用可拍摄范围宽的广角的摄像机1。
通信装置2将摄像机1拍摄的图像发送到后述的终端装置100。也可以使摄像机1具有无线通信功能,将摄像图像送出至外部。终端装置100经由无线的通信网络获取摄像机1拍摄的摄像图像。在各摄像机1拍摄的图像中,预先附加与各摄像机1的配置(地址)相应的识别符,终端装置100可以根据各识别符识别各摄像图像的每一个。
车辆控制器3从车辆的各结构获取信息,集中管理车辆的动作。本实施方式的车辆控制器3获取表示车辆的状态的状态信息。车辆控制器3从车辆的转向控制装置41获取转向信息作为状态信息,从加速度传感器42获取加速度信息或者速度信息作为状态信息,获取车辆的变速装置44的档位(shift position)信息作为状态信息。车辆控制器3将获取的转向信息、加速度信息(速度信息)送出至终端装置100。终端装置100的控制装置10从转向信息获取车辆的行进方向(行进角度)。同样,控制装置10从档位信息获取车辆在后退中还是前进中的行进方向。同样,控制装置10从加速度信息(速度信息)和移动时间获取车辆的移动量。控制装置10可以从车辆的移动方向以及移动量,求出规定时间经过后的车辆的位置。
车载装置200具有的摄像机1、通信装置2、车辆控制器3、以及各装置4通过CAN(Controller Area Network,控制器区域网络)及其它的车载LAN连接,可以相互进行信息的发送接收。
接着,根据图1说明终端装置100。本实施方式的终端装置100是智能电话,平板终端等具有通信功能的可移动的便携终端装置。本实施方式的终端装置100具有:控制装置10;通信装置20;以及显示器30。
本实施方式的通信装置20与外部的车载装置200的通信装置2相互进行信息的发送接收。通信装置20从车载装置200获取摄像图像、车辆的状态及其它的信息。
本实施方式的显示器30提示车辆的摄像机1的摄像图像、如后所述的预测图像和与无线通信的延迟状态有关的信息。图2是表示在终端装置100的显示器30上提示了车辆的俯瞰图像、以及后方的摄像图像的例子的图。在图2所示终端装置200的显示器30的左侧的画面30L中,提示从上空的视点俯视车辆的俯瞰图像,在显示器30的右侧的画面30R中,提示车辆后方的摄像图像。画面30R所示的后方的摄像图像中,作为沿着预测车辆移动的轨道的引导线,重叠显示预想行进路线P、车宽引导线Q1、距离引导线Q2。而且, 终端装置100也可以设置在车辆的安装面板或方向盘附近安装的保持器上,以使车辆的司机容易视觉辨认。
本实施方式的终端装置100具有的控制装置10包括:存储了提示与无线通信的延迟时间相应的预测图像的程序的ROM(Read Only Memory,只读存储器)12;作为通过执行该ROM12中存储的程序,起到作为本实施方式的终端装置100的功能的动作电路的CPU(Central Processing Unit,中央控制器)11;以及起到作为可访问的存储装置的功能的RAM(Random Access Memory,随机接入存储器)13。
本实施方式的终端装置100的控制装置10是,通过用于实现图像获取功能、延迟状态判断功能、移动体检知信息获取功能、预测图像生成功能、引导线生成功能、提示功能的软件与上述的硬件的协同,执行各功能的计算机。
以下,说明本发明的本实施方式的终端装置100的控制装置10实现的各功能。
首先,说明控制装置10的图像获取功能。本实施方式的控制装置10经由通信装置20,从车载装置200获取由车载摄像机1拍摄的车辆周边的摄像图像。虽然没有特别限定,但是在本实施方式中,控制装置10获取车辆的后方侧的摄像图像。控制装置10也可以获取前方、侧方的摄像图像。控制装置10也可以获取车载装置200生成的、从车辆的上空的假想视点俯视车辆的周围的监视图像。监视图像是,将在车辆的不同的位置配置的多个摄像机1所拍摄的多个摄像图像,投影在从车辆上空的假想视点俯视的投影面上而生成的俯瞰图像。控制装置10使用获取的摄像图像和监视图像,作为车辆的泊车时、后退时等状况中在显示器30上提示的信息。
说明控制装置10的延迟状态判断功能。本实施方式的控制装置10判断包含车载装置200与终端装置100的无线通信的延迟时间的延迟状态。延迟时间由规定的良好的通信环境下的基准通信时间、与实际地进行发送接收的通信环境下的实测通信时间的差来求出。虽然没有特别限定,但是控制装置10参照车载装置200的时钟45与终端装置100的时钟112,使其同步后,计量经由车载装置200与终端装置100的无线通信的信息的发送接收所需要的实测通信时间,计算延迟时间。具体地说,将附带发送定时的信息从车载装置200发送到终端装置100。终端装置100在获取该信息后,将接收确认信息发送到车载装置200。车载装置200计算从将信息发送至终端装置100的发送定时开始,到接收到终端装置100送出的接收确认信息的接收定时为止的时间的一半,作为无线通信所需要的通信时间。在没有规定的负载的通信环境下,基准通信时间可以通过同样的方法计算无线通信的通信时间。由于接入到无线通信线路网的终端装置的多少、进行通信的信息量的多少等,实测的通信时间时刻变化。因此,控制装置10以规定周期计算通信时间,继续计算作为与基准通信时间的差的延迟时间。在本例中,由于事先使车载装置200和终端装置100同步后计算延迟时间,所以可以计算正确的延迟时间。
而且,延迟时间有预先根据通信设备的能力确定的固定的时间、和因通信量等产生的变动的时间。对于固定的时间,可以预先存储在车载装置200或者终端装置100中。从轻减处理负载的观点看,也可以读出存储的固定的延迟时间而判断延迟状态。
在终端装置100中,发生摄像机1的摄像图像的提示延迟的延迟状态的原因,不仅是前述的无线通信的延迟时间。如图3所示,包含从摄像处理开始至图像的提示处理完成为止所需要的以下第1~第3时间。这里所说的第1时间是,t0~t1的、至车载装置200拍摄车辆周围的处理以及压缩摄像图像的处理的时间。第2时间是,t1~t2的、无线通信所需要的时间。第3时间是,t2~t3的、对被压缩的摄像图像进行解压处理的时间和在显示器30上提示解压的摄像图像的处理所需要的时间。即,在从车载装置200侧中进行的摄像至摄像图像的送出为止的时间、车载装置200与终端装置100的通信时间、以及在终端装置100侧中进行的摄像图像的接收至提示为止时间发生了延迟时,产生无线通信的延迟状态。
在无线通信未产生延迟的情况中,按照提出申请时的通信技术,从摄像处理至图像的提示处理完成为止所需要的时间为100~500msec左右。即使是这样短的时间,也不希望将过去的图像信息当做是当前拍摄的信息那样进行提示。更何况,在由于产生通信延迟,从摄像时间至提示时间为止的时间变长的情况下更是如此。在通过车载装置200内部的通信网(CAN等)发送接收摄像图像的情况下,由于从摄像时间至提示时间为止的时间大致一定,所以能够对其进行管理。相对于此,在将车载装置200侧获得的摄像图像通过公共的无线通信送出到终端装置100,在终端装置100的显示器30中提示的情况下,需要照顾到通信延迟。而且,上述的第3时间较大地依赖于终端装置100的处理能力,难以对个人分别具有的性能、状态不同的终端装置100一律地定义延迟时间。
关于第1时间,本实施方式的控制装置10通过上述方法计量终端装置100与车载装置200的无线通信的延迟时间。
关于上述的第3时间,本实施方式的控制装置10获取从终端装置100获取摄像图像开始至提示预测图像为止所需要的终端装置侧处理时间,将终端装置侧处理时间与无线通信的延迟时间相加而计算与信息提示有关的延迟时间,判断延迟状态。虽然没有特别限定,但是终端装置侧处理时间优选预先通过实验方式计算,可读出地存储在终端装置100中。通过不仅是无线通信的延迟,还加上终端装置100侧的处理所需要的时间来计算延迟时间,可以正确地判断延迟状态。
关于上述的第1时间,本实施方式的控制装置10也可以将从车载装置200侧中进行的摄像图像的获取(摄像)至送出为止所需要的时间加到延迟时间中。通过不仅是无线通信的延迟,还加上车载装置200侧的处理所需要的时间来计算延迟时间,可以更正确地判断延迟状态。
而且,本实施方式的控制装置10判断通信装置2的无线通信是否已中断,在无线通信已中断的情况下,使显示器30提示无线通信已中断的意思。在通信装置2的无线通信中断的状况中,难以实时获取当前时刻的摄像图像。即,显示器30中提示的摄像图像为过去的影像的可能性高。在本实施方式中,通过提示通信装置2的无线通信中断的意思,可以对司机传达被提示的摄像图像不是实时的图像的事实。
本实施方式的控制装置10判断与延迟状态相应的无线通信的可靠性。在延迟时间长、无线通信的延迟状态差的情况下,判断为无线通信的可靠性低。另一方面,在延迟时间短、无线通信的延迟状态不差(通信状态良好)的情况下,判断无线通信的可靠性高。无线通信的可靠性可以根据通信状态的通信时间来定义。通信时间越长,可以将无线通信的可靠性设定得越低。控制装置10在显示器30上提示判断出的可靠性。在无线通信的延迟时间长、无线通信的可靠性低的状况中,难以实时地获取当前时刻的摄像图像。即,显示器30中提示的摄像图像为过去的影像的可能性高。在本实施方式中,通过提示通信装置2的无线通信的可靠性低的意思,可以对司机传达被提示的摄像图像不是实时的图像的事实。
接着,说明移动体检知信息获取功能。本实施方式的控制装置10获取在车辆的周围是否存在移动体的检知信息。控制装置10从车载装置200获取是否存在移动体的信息。车载装置200具有移动体检测装置43。移动体检测装置43根据从车载摄像机1的摄像图像提取的特征的随时间的变化,判断在车辆周围是否存在移动体。根据摄像图像检测移动体的方法不特别限定,可以适当利用本申请提出申请时已知的方法。在获取了移动体存在的意思的检知信息的情况下,控制装置10判断延迟状态。如果在无线通信发生延迟,则摄像图像的提示延迟,所以有时产生即使在车辆周围存在移动体,在摄像图像中也不表现的状况。在车辆周围存在移动体的情况下,特别需要考虑无线通信的延迟。本实施方式的控制装置10在车辆周围存在移动体的情况下,判断无线通信的延迟状态,所以可以提示与无线通信的延迟状态相应的预测图像。
接着,说明控制装置10的预测图像生成功能。控制装置10获取车辆的状态信息,根据车辆的状态信息预测延迟时间后的车辆的位置。本实施方式的控制装置10获取车辆的转向角和车速(或者加速度)作为车辆的状态信息。通过获取的状态信息(转向角、速度等状态值)计算车辆移动时的、规定时间后(延迟时间后)的车辆的位置。以规定的状态移动了规定的时间时的车辆的位置的计算方法不特别限定,可以适当适用申请时已知的方法。
控制装置10从获取的摄像图像生成预测的车辆的位置中拍摄的预测图像。即,考虑车辆的移动方向以及移动量,预测并生成经过了延迟时间时、移动后的车辆的摄像机1的摄像图像。图4是表示图2的画面30R所示的车辆后方的摄像图像的图。如图4所示,在定时txo中,设定规定的点P0。车辆按照状态信息中的转向角、速度(状态信息)移动时,摄像图像上的点P0在延迟时间ty后的定时tx1中,移动到点P1。在本例中,由车辆的状态信息和延迟时间ty预测车辆的后退量(移动量),计算在移动后的位置,车载摄像机1的摄像图像中与基准点P0对应的点P1的RGB图像信息。即,预计(预测)延迟时间ty后的定时tx1的摄像图像。
控制装置10由转向舵角求出车辆的移动方向,由速度信息求出车辆的移动速度,由车辆以当前的移动方向和移动速度移动的情况下,延迟时间经过后的车辆的位置,预测车载摄像机1拍摄的图像。即,求出在定时tx0中由车载摄像机1拍摄的摄像图像的点P0,位于经过延迟时间ty后的定时tx1中拍摄的摄像图像的何处。由车辆的移动方向以及移动量,设定经过延迟时间 ty后的定时tx1中的摄像机1的摄像图像的座标。将定时tx0中的摄像机1的摄像图像的座标(tx0的摄像机座标)的信息座标变换至新设定的座标上(tx1的摄像机座标)。对于各座标点执行同样的座标变换。通过该处理,控制装置10生成由获取的摄像图像预测的车辆的位置中拍摄的预测图像。即,控制装置10生成从车辆以状态信息的方向以及速度移动,并从定时tx0经过了延迟时间ty的定时tx1中车辆存在的位置,通过车载的摄像机1拍摄后应得到的预测图像。
而且,为了说明,在图4中,在定时tx0通过车载摄像机1拍摄的摄像图像的点P0,假定为经过延迟时间ty后的定时tx1中与点P1对应。预测图像成为图4所示的摄像图像的点P0移动到点P1的图像。在本例中,车辆向(相对车辆行进方向)左后方移动,所以照出车辆后方的预测图像与摄像图像相比向(附图的图像中右方向)偏移,摄像机1实际地摄像比图4所示的区域更宽的范围。特别是,如果采用广角的摄像机1,则获取包含宽范围的影像的摄像图像。在该摄像图像中,通过对预测图像所需要的区域进行座标变换,根据显示区域进行切出预测图像的处理,可以生成无缺损的预测图像。
说明控制装置10的提示功能。控制装置10在显示器30中提示生成的预测图像。如图2所示,控制装置10在显示器30的左侧区域30L中提示从上空俯视车辆的俯瞰图像,在显示器30的右侧区域30R提示摄像图像或者预测图像。
按照本实施方式的信息提示系统1000,生成无线通信的延迟时间后,通过车载摄像机要拍摄的预测图像,所以即使在车载装置200与终端装置100的通信中产生了延迟的情况下,也可以提示表示实时的车辆周围的状态的预测图像。在终端装置100中提示车载摄像机1的摄像图像的情况下发生通信延迟时,终端装置100提示过去的摄像图像。
设想沿着显示器30的显示框切取的过去的摄像图像中未显示的物体正在接近本车辆的状况。如果在该状况中在无线通信中发生延迟,则司机不能从过去的摄像图像识别存在接近的物体。相对于此,在本实施方式中,根据车辆的状态信息,以延迟时间后移动时的摄像机1位置为基准切取摄像图像,生成预测图像,所以对于即使作为在过去的定时尚未进入显示框的、在考虑了延迟时间的当前的定时进入显示框的移动体,司机也可以从预测图像进行识别。在本实施方式中,在无线通信中产生了延迟的情况下,不在终端装置 100中提示过去的摄像图像,而是提示预测后的实时的预测图像,所以还可以对司机通知在过去的摄像图像中不包含的、正在接近的移动体的存在。
本实施方式的控制装置10还具有引导线生成功能,根据车辆的状态信息,生成沿着预测该车辆移动的轨道的引导线。控制装置10生成包含表示预测车辆移动的轨迹的预测行进路线P、在车辆移动的情况下表示车辆的侧面的位置的车宽引导线Q1、以及在车辆移动的情况下表示沿着车辆的行进方向的位置的距离引导线Q2的引导线。然后,如图2、图4所示,控制装置10将生成的引导线重叠在预测图像上进行提示。
这时,在本实施方式中,根据通过前述的延迟状态判断功能判断出的延迟状态,使引导线的显示方式变化。例如,在延迟时间长、延迟状态差,即无线通信的可靠性低的情况下,以与无线通信的可靠性为标准值以上的情况中使用的默认的显示设定不同的方式进行显示。通过以与通常的显示方式不同的显示方式表示引导线,可以唤起司机的注意。在无线通信的可靠性低的情况下,虽然存在引导线的精度降低的可能性,但是通过使引导线的方式变化,可以进行引导,使得司机对周围的状况产生高度的注意。
具体地说,在延迟时间长、延迟状态差的情况下显示的引导线,与延迟时间短、延迟状态不差(无线通信的状态良好)的情况下显示的引导线,在颜色、透明度、粗细、方式(点划线,二点点划线)上设为不同。如举出一例,则在延迟时间短、延迟状态不差(无线通信的状态良好)的情况下,用蓝色、绿色、蓝紫色等相对不醒目的后退色的线、虚线、相对细的线显示引导线。另一方面,在延迟时间长、延迟状态差的情况下,用红色、实线、橘色、黄色等相对醒目的前进色的线、相对粗的线来显示引导线。
而且,在图2、图4所示的例子中,说明了提示后方的摄像图像的预测图像的例子,但是取而代之,控制装置10也可以生成将在预测的车辆的位置中由多个摄像机1拍摄的预测图像,投影在从预测的位置的上空的假想视点俯视车辆的投影面上的一个预测图像,对其进行提示。即,可以用图2的显示器30的左侧区域30L所示那样的俯瞰图像的方式表示经过延迟时间后的预测图像。也可以仅对车辆的行进方向的图像生成预测图像,对于其它部分使用过去的图像。在车辆在后退的情况下,仅对后退方向的图像生成预测图像,从后方的预测图像和前方以及侧方的摄像图像生成俯瞰图像。按照本例,通 过生成的预测图像,不仅可以确认行进方向,还可以确认车辆周围的全体的状况。
以下,说明本发明的第1实施方式的信息提示系统1000的处理步骤。图5是表示本实施方式的信息提示系统1000的控制步骤的流程图。
在步骤101中,本实施方式的终端装置100的控制装置10确认无线通信的建立。在无线通信未建立的情况,即,无线通信中断的情况下,使显示器30显示该情况。
在无线通信建立的情况下,进至步骤S102,控制装置10开始延迟对策处理。在延迟对策处理中,生成经过延迟时间后拍摄的预测图像,将其显示在显示器30上。在本实施方式中,在获取了存在移动体的意思的检知信息的情况下,开始延迟对策处理。延迟对策处理的触发不限于此,也可以在无线通信的延迟时间为规定值以上的情况下,开始延迟对策处理。当然,也可以以规定周期反复进行本处理。
在接着的步骤103中,控制装置10判断延迟状态。延迟状态可以通过延迟时间来判断。延迟时间既可以在车载装置200侧计量,也可以在终端装置100侧计量。本实施方式的终端装置100将从取得与车载装置200的同步,将规定的信息送出至车载装置200开始,直至获取车载装置的接受信号为止的时间设为通信的往复所需要的时间,计算其一半作为通信时间。控制装置10从在标准的状态计量的通信时间减去实测的通信时间,计算实测时的延迟时间。通过获取的延迟时间,根据延迟状态判断无线通信的可靠性。延迟时间越长,延迟状态越差,无线通信的可靠性越低。这时,考虑在终端装置100侧获取的图像信息的解压以及提示处理的时间,判断延迟时间以及延迟状态。控制装置10在显示器30上提示与延迟状态有关的判断结果。这是为了对司机提供与无线通信的可靠性,即,提示的信息的可靠性有关的信息。
在步骤104中,控制装置10从车载装置200获取摄像机1的摄像图像和车辆的状态信息。
在接着的步骤105中,控制装置10生成预测图像。控制装置10根据车辆的状态信息预测延迟时间后的车辆的位置,从获取的摄像图像生成在预测的车辆的位置中通过摄像机1拍摄的预测图像。
在步骤106中,控制装置10根据车辆的状态信息,生成沿着预测车辆移动的轨道的引导线。
在步骤107中,控制装置10将生成的引导线重叠在摄像图像或者预测图像上而在显示器30中提示。
如以上那样构成并动作的本发明的实施方式的终端装置100、信息提示系统1000产生以下的效果。
[1]按照本实施方式的信息提示系统1000,由于生成预计了在无线通信的延迟时间后要通过车载摄像机拍摄的图像的预测图像,所以即使在车载装置200与终端装置100的通信中产生了延迟的情况下,也可以提示表示实时的车辆周围的状态的预测图像。其结果,在无线通信中产生了延迟的情况下,可以防止在终端装置中提示过去的摄像图像。
[2]按照本实施方式的信息提示系统1000,由于在事前使车载装置200和终端装置100同步后计算延迟时间,所以可以计算正确的延迟时间。
[3]在本实施方式的信息提示系统1000中,通过不仅考虑无线通信的延迟,还加上终端装置100侧的处理所需要的时间来计算延迟时间,可以正确地判断延迟状态。
[4]在本实施方式的信息提示系统1000中,通过提示通信装置2的无线通信中断的意思,可以向司机传达被提示的摄像图像不是实时的图像的事实。
[5]在本实施方式的信息提示系统1000中,通过提示通信装置2的无线通信的可靠性低的意思,可以向司机传达被提示的摄像图像不是实时的图像的事实。
[6]在本实施方式的信息提示系统1000中,在延迟时间长、延迟状态差,即无线通信的可靠性低的情况下,通过以与默认的显示设定不同的方式进行显示,唤起司机的注意。在无线通信的可靠性低的情况下,虽然存在引导线的精度降低的可能性,但是通过使引导线的方式变化,可以使司机对周围的状况产生注意。
[7]在本实施方式的信息提示系统1000中,在车辆周围存在移动体的情况下,由于判断无线通信的延迟状态,所以在应特别注意的状况中,可以提示与无线通信的延迟状态相应的预测图像。
[8]在本实施方式的信息提示系统1000中,通过生成的预测图像,不仅在行进方向,还可以确认车辆的周围全体的状况。
在本说明书中,作为本发明的信息提示系统的一个方式,以终端装置100以及信息提示系统1000为例进行了说明,但是本发明不限于此。
而且,在本说明书中,作为本发明的信息提示系统的一个方式,以包括具有包含CPU11、ROM12、RAM13的控制装置10的终端装置100和具有车载装置200的信息提示系统1000为一例进行了说明,但是不限于此。
在本说明书中,作为具有图像获取单元、延迟状态判断单元、预测图像生成单元、提示单元、引导线生成单元以及移动体检知信息获取单元的终端装置的一个方式,说明了具有执行图像获取功能、延迟状态判断功能、预测图像生成功能、提示功能、引导线生成功能、移动体检知信息获取功能的控制装置10、通信装置20、以及显示器30的终端装置100,但是不限于此。
在本说明书中,作为具有摄像机和通信功能的车载装置的一个方式,说明了具有摄像机1、通信装置2、车辆控制器3、各种装置4的车载装置200,但是不限于此。
标号说明
1000…信息提示系统
100…终端装置
10…控制装置
11…CPU
12…ROM
13…RAM
20…通信装置
30…显示器
200…车载装置
1,1a~1d…摄像机
2…通信装置
3…车辆控制器
4…各种装置
41…转向控制装置
42…加速度传感器
43…移动体检测装置

Claims (9)

1.一种信息提示系统,包括:具有在车辆中设置的摄像机的车载装置;以及与所述车载装置进行无线通信的终端装置,其特征在于,
所述终端装置包括:
图像获取单元,获取由所述摄像机拍摄的车辆的周边的摄像图像;
延迟状态判断单元,判断包含所述车载装置与所述终端装置的无线通信的延迟时间的延迟状态;
预测图像生成单元,从所述车载装置获取所述车辆的状态信息,使用所述车辆的状态信息预测所述延迟时间后的定时中的所述车辆的位置,由在所述延迟时间后的定时之前的定时中获取的所述摄像图像生成在所述延迟时间后的定时中移动了的所述车辆的由所述摄像机拍摄的预测图像;以及
提示单元,提示所述预测图像。
2.如权利要求1所述的信息提示系统,其特征在于,
所述延迟状态判断单元在使所述车载装置与所述终端装置同步后,计量经由所述车载装置和所述终端装置的无线通信的信息的发送接收所需要的时间,计算所述延迟时间。
3.如权利要求1所述的信息提示系统,其特征在于,
所述延迟状态判断单元获取从所述终端装置获取所述摄像图像开始至提示所述预测图像为止所需要的终端装置侧处理时间,将所述终端装置侧处理时间和所述无线通信的延迟时间相加而计算与信息提示有关的延迟时间,判断所述延迟状态。
4.如权利要求1所述的信息提示系统,其特征在于,
所述延迟状态判断单元判断所述无线通信是否已中断,在所述无线通信中断了的情况下,使所述提示单元提示所述无线通信已中断的意思。
5.如权利要求1所述的信息提示系统,其特征在于,
所述延迟状态判断单元判断与所述延迟状态相应的所述无线通信的可靠性,
所述提示单元提示所述可靠性。
6.如权利要求1所述的信息提示系统,其特征在于,
所述终端装置还包括:引导线生成单元,根据所述车辆的状态信息,生成沿着预测该车辆移动的轨道的引导线,
所述提示单元在将所述生成的引导线重叠在所述预测图像来提示时,根据由所述延迟状态判断单元判断的延迟状态,使所述引导线的显示方式变化。
7.如权利要求1所述的信息提示系统,其特征在于,
所述终端装置还包括:移动体检知信息获取单元,获取在所述车辆的周围是否存在移动体的检知信息,
所述延迟状态判断单元在获取了存在所述移动体的意思的检知信息的情况下,判断所述延迟状态。
8.如权利要求1所述的信息提示系统,其特征在于,
在所述车辆的不同的位置配置多个所述摄像机,
所述预测图像生成单元生成将在所述预测的车辆的位置中由所述多个摄像机拍摄的预测图像,投影在从所述预测的位置的上空的假想视点俯视该车辆的投影面上的一个预测图像。
9.如权利要求1所述的信息提示系统,其特征在于,
在所述无线通信的延迟时间为规定值以上的情况下,所述预测图像生成单元从在所述延迟时间后的定时之前的定时中获取的所述摄像图像中切取所述预测图像,
所述提示单元在生成了所述预测图像的情况下提示该生成的预测图像,在未生成所述预测图像的情况下提示所述摄像图像。
CN201480052059.3A 2013-09-27 2014-07-16 信息提示系统 Active CN105580358B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013200958 2013-09-27
JP2013-200958 2013-09-27
PCT/JP2014/068919 WO2015045578A1 (ja) 2013-09-27 2014-07-16 情報提示システム

Publications (2)

Publication Number Publication Date
CN105580358A CN105580358A (zh) 2016-05-11
CN105580358B true CN105580358B (zh) 2017-07-07

Family

ID=52742735

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480052059.3A Active CN105580358B (zh) 2013-09-27 2014-07-16 信息提示系统

Country Status (7)

Country Link
US (1) US20160227098A1 (zh)
EP (1) EP3051808B1 (zh)
JP (1) JP6107960B2 (zh)
CN (1) CN105580358B (zh)
BR (1) BR112016006666B1 (zh)
RU (1) RU2647688C2 (zh)
WO (1) WO2015045578A1 (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201406405D0 (en) * 2014-04-09 2014-05-21 Jaguar Land Rover Ltd Apparatus and method for displaying information
BR112017025525A2 (pt) 2015-05-29 2018-08-07 Nissan Motor sistema de apresentação de informações
JP2017022660A (ja) * 2015-07-14 2017-01-26 シャープ株式会社 表示装置、表示システム及びプログラム
US10962780B2 (en) * 2015-10-26 2021-03-30 Microsoft Technology Licensing, Llc Remote rendering for virtual images
US10086871B2 (en) * 2015-12-02 2018-10-02 GM Global Technology Operations LLC Vehicle data recording
KR102441328B1 (ko) 2016-01-28 2022-09-08 삼성전자주식회사 이동 로봇이 전송한 화면을 표시하는 방법 및 그 전자장치
JP6478935B2 (ja) * 2016-03-16 2019-03-06 株式会社東芝 車両通信装置、路側通信装置及び通信システム
US11528413B2 (en) * 2016-08-22 2022-12-13 Sony Corporation Image processing apparatus and image processing method to generate and display an image based on a vehicle movement
CN112519678B (zh) * 2016-12-22 2023-11-17 康奈可关精株式会社 图像显示控制装置
JP6433537B2 (ja) 2016-12-22 2018-12-05 カルソニックカンセイ株式会社 画像表示制御装置
WO2019035177A1 (ja) * 2017-08-15 2019-02-21 三菱電機株式会社 車載表示装置、画像処理装置および表示制御方法
JP2019220009A (ja) * 2018-06-21 2019-12-26 ルネサスエレクトロニクス株式会社 半導体装置、メッセージ画像出力方法、およびプログラム
DE102019002789B4 (de) * 2019-04-16 2022-01-05 Daimler Ag Verfahren und Vorrichtung zur Steuerung eines automatisiert fahrenden Fahrzeuges
KR20210060690A (ko) * 2019-11-18 2021-05-27 현대자동차주식회사 차량 및 그 후방 영상 제공 방법
CN112991805A (zh) * 2021-04-30 2021-06-18 湖北亿咖通科技有限公司 一种辅助驾驶方法和装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101398976A (zh) * 2007-09-28 2009-04-01 日产自动车株式会社 当前位置信息报告系统、信息中心设备及其方法
CN101404122A (zh) * 2007-10-02 2009-04-08 爱信艾达株式会社 驾驶支援装置、驾驶支援方法以及计算机程序
CN103098111A (zh) * 2010-09-24 2013-05-08 丰田自动车株式会社 行驶道路推定装置及程序

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000078480A (ja) * 1998-08-31 2000-03-14 Sony Corp 撮像装置及び撮像方法
JP2001266163A (ja) * 2000-03-17 2001-09-28 Nissan Motor Co Ltd 車両用画像処理装置
JP2005303450A (ja) * 2004-04-07 2005-10-27 Auto Network Gijutsu Kenkyusho:Kk 車両周辺監視装置
JP4590962B2 (ja) * 2004-07-21 2010-12-01 日産自動車株式会社 車両用周辺監視装置
JP2009118169A (ja) * 2007-11-06 2009-05-28 Victor Co Of Japan Ltd 画像無線伝送システム及び画像表示装置
JP5543098B2 (ja) * 2008-11-14 2014-07-09 キヤノン株式会社 撮像装置
JP5071743B2 (ja) * 2010-01-19 2012-11-14 アイシン精機株式会社 車両周辺監視装置
JP5445218B2 (ja) * 2010-02-25 2014-03-19 マツダ株式会社 駐車支援システム
JP2012162130A (ja) 2011-02-04 2012-08-30 Aisin Aw Co Ltd 運転支援装置、運転支援方法及びコンピュータプログラム
JP2012176656A (ja) * 2011-02-25 2012-09-13 Fuji Heavy Ind Ltd 駐車支援装置
JP5861279B2 (ja) * 2011-06-23 2016-02-16 日産自動車株式会社 車両用監視装置及び車両の監視方法
US10099614B2 (en) * 2011-11-28 2018-10-16 Magna Electronics Inc. Vision system for vehicle
JP2014029380A (ja) * 2012-07-31 2014-02-13 Sony Corp 情報処理装置、情報処理方法、プログラム及び画像表示装置
US9519286B2 (en) * 2013-03-19 2016-12-13 Robotic Research, Llc Delayed telop aid
US9894311B2 (en) * 2013-07-30 2018-02-13 Robert Bosch Gmbh Adaptive methods for wireless camera communication

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101398976A (zh) * 2007-09-28 2009-04-01 日产自动车株式会社 当前位置信息报告系统、信息中心设备及其方法
CN101404122A (zh) * 2007-10-02 2009-04-08 爱信艾达株式会社 驾驶支援装置、驾驶支援方法以及计算机程序
CN103098111A (zh) * 2010-09-24 2013-05-08 丰田自动车株式会社 行驶道路推定装置及程序

Also Published As

Publication number Publication date
WO2015045578A1 (ja) 2015-04-02
EP3051808B1 (en) 2018-11-14
RU2016110774A (ru) 2017-11-01
CN105580358A (zh) 2016-05-11
RU2647688C2 (ru) 2018-03-16
BR112016006666B1 (pt) 2023-04-04
US20160227098A1 (en) 2016-08-04
JP6107960B2 (ja) 2017-04-05
BR112016006666A2 (pt) 2017-08-01
JPWO2015045578A1 (ja) 2017-03-09
EP3051808A1 (en) 2016-08-03
EP3051808A4 (en) 2016-10-12

Similar Documents

Publication Publication Date Title
CN105580358B (zh) 信息提示系统
JP6451840B2 (ja) 情報提示システム
KR102129340B1 (ko) 주차 제어 방법 및 주차 제어 장치
CN105580359B (zh) 预测前进道路提示装置以及预测前进道路提示方法
WO2018235274A1 (ja) 駐車制御方法及び駐車制御装置
CN106846904B (zh) 车辆的驾驶辅助装置
CN103198715B (zh) 辅助泊车系统及泊车、安全报警方法
CN112562389A (zh) 一种基于远程控制的泊车方法、装置、计算机设备和存储介质
CN108327719A (zh) 辅助车辆行驶的方法及装置
CN105730341A (zh) 一种前车视野查看装置、系统及方法
CN112419771B (zh) 一种基于消息广播的泊车方法、装置、计算机设备和存储介质
EP3342620A1 (en) Warning output device
CN113655788B (zh) 车辆遥控泊车方法、系统、终端设备及可读存储介质
CN111479746A (zh) 用于移动驻车辅助的方法
US20200117208A1 (en) Vehicle control apparatus and method thereof
JP6394219B2 (ja) 通信制御装置および通信制御方法
CN115571152B (zh) 非机动车辆的安全预警方法、装置、系统、设备及介质
CN112550277B (zh) 车辆和自动泊车系统
JP2019077420A (ja) 駐車制御方法及び駐車制御装置
CN115631480A (zh) 一种车辆控制方法、装置及存储介质
CN114802286A (zh) 车辆手势识别控制方法、装置、系统、存储介质及车辆
CN115909258A (zh) 车门打开角度确定方法及装置、电子设备及可读存储介质
CN117912298A (zh) 代客泊车的控制方法及装置、存储介质、电子装置
CN114379593A (zh) 自动驾驶车辆的控制方法、电子设备及自动驾驶车辆
CN113945220A (zh) 导航方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant