JP7209651B2 - 車両の画像提供システム、および車両の画像提供方法 - Google Patents

車両の画像提供システム、および車両の画像提供方法 Download PDF

Info

Publication number
JP7209651B2
JP7209651B2 JP2020007766A JP2020007766A JP7209651B2 JP 7209651 B2 JP7209651 B2 JP 7209651B2 JP 2020007766 A JP2020007766 A JP 2020007766A JP 2020007766 A JP2020007766 A JP 2020007766A JP 7209651 B2 JP7209651 B2 JP 7209651B2
Authority
JP
Japan
Prior art keywords
vehicle
image
unit
user
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020007766A
Other languages
English (en)
Other versions
JP2020080542A (ja
Inventor
裕司 安井
壽夫 浅海
詩園 徳永
雅史 結城
洋 伊藤
寛隆 内富
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Publication of JP2020080542A publication Critical patent/JP2020080542A/ja
Application granted granted Critical
Publication of JP7209651B2 publication Critical patent/JP7209651B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60NSEATS SPECIALLY ADAPTED FOR VEHICLES; VEHICLE PASSENGER ACCOMMODATION NOT OTHERWISE PROVIDED FOR
    • B60N2/00Seats specially adapted for vehicles; Arrangement or mounting of seats in vehicles
    • B60N2/002Seats provided with an occupancy detection means mounted therein or thereon
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/29Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area inside the vehicle, e.g. for viewing passengers or cargo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0181Adaptation to the pilot/driver

Description

本発明は、車両の画像提供システム、サーバーシステムおよび車両の画像提供方法に関する。
本願は、2017年6月16日に、日本に出願された特願2017-118918号に基づき優先権を主張し、その内容をここに援用する。
従来、速度制御と操舵制御とのうち少なくとも一方を自動的に行う自動運転について研究が進められている。これに関連して、観察者が奥行き感を知覚できるように奥行きのある画像を表示させる技術が開示されている(例えば、特許文献1参照)。
特開2017-30737号公報
従来の技術では、車両内の乗員および車両外の人物が一緒にいるように知覚させることについて考慮がされていなかった。
本発明は、このような事情を考慮してなされたものであり、車両内の乗員および車両外の人物が一緒にいるように知覚できる車両の画像提供システム、サーバーシステムおよび車両の画像提供方法を提供することを目的の一つとする。
(1):撮像部と、人物の仮想像を発生させる表示部と、車両外の機器と通信接続する通信部と、前記車両内の在席状態を検知する在席検知部とを備え、前記表示部は、前記通信部の作動状態において、前記在席検知部が検知した前記車両内の在席状態に基づき、前記仮想像の表示態様を制御する、車両の画像提供システムである。
(2):(1)において、前記車両外の機器と前記通信部との間の接続状況を検知する接続状況検知部と、前記接続状況検知部が検知した接続状況に基づき、前記撮像部により撮像された画像の送信を許可する送信許可部とを備え、前記通信部は、前記送信許可部が送信を許可するとき、前記撮像部によって撮像された画像を前記車両外の機器に送信する。
(3):(1)または(2)において、前記表示部は、前記車両のミラーまたはウインドウに前記仮想像を発生させる。
(4):(1)から(3)のうちいずれかにおいて、前記表示部は、前記在席検知部が検知した前記車両内の在席状態に基づき、前記車両内の空席に対応し前記仮想像を発生させる。
(5):(1)から(4)のうちいずれかにおいて、前記表示部が表示する前記仮想像は、前記車両以外の場所で撮像されたリアルタイム像である。
(6):(1)から(4)のうちいずれかにおいて、前記表示部が表示する前記仮想像は、モデル像である。
(7):(1)から(4)のうちいずれかにおいて、前記表示部が表示する前記仮想像は、予め撮像されて記録された像である。
(8):(1)から(7)のうちいずれかにおいて、前記撮像部によって撮像された画像のデータの少なくとも一部に基づいてストリーミング画像が生成される。
(9):(1)から(8)のうちいずれかにおいて、前記車両外の機器の利用者が装着するヘッドマウントディスプレイ装置の視線センサによって検出された前記利用者の視線の動きに基づいて、前記撮像部の遠隔操作を行う制御部をさらに備える。
(10):撮像部と、人物の仮想像を発生させる表示部と、車両外の機器と通信接続する通信部と、を備えた車両の前記通信部と通信接続するよう構成されるサーバーシステムであって、前記車両外の機器と通信接続する第1通信部と、前記車両の前記通信部と接続する第2通信部と、前記車両外の機器からの送信情報を保持する第1記憶部と、前記車両のID情報と前記撮像部が取得した画像とを保持する第2記憶部と、前記第1記憶部が保持する情報を前記第2通信部へ選択的に送信する第1変換部とを備え、前記第1変換部は、前記表示部に表示する前記仮想像を生成する仮想像生成部を備える、サーバーシステムである。
(11):(10)において、前記第2記憶部は、さらに前記第2通信部から取得した前記車両内の在席状態の情報を記憶するよう構成され、前記第1変換部は、前記在席状態の情報に基づき前記仮想像生成部を制御する。
(12):(11)において、前記第2記憶部が記憶する前記在席状態の情報を前記第1通信部に選択的に送信する第2変換部を備え、前記第2変換部は、前記第2記憶部が記憶する前記在席状態の情報から、前記車両の特定乗員に対応した画像情報を抽出する個人画像抽出部を備える。
(13):コンピュータが、車両の乗員を撮像する処理を実行し、人物の仮想像を前記車両内に発生させる処理を実行し、車両外の機器と通信接続する処理を実行し、前記車両内の在席状態を検知する処理を実行し、通信接続中に検知した前記車両内の在席状態に基づき、前記仮想像の表示態様を制御する処理を実行する、車両の画像提供方法である。
(1)、(10)または(13)によれば、車両内の乗員および車両外の人物が一緒にいるように知覚できる。
(2)によれば、通信接続状況が悪いにもかかわらず画像の送信が試みられる事態を回避することができる。
(3)によれば、車両に備えられているミラーまたはウインドウを用いることによって、車両内の乗員および車両外の人物が一緒にいるように知覚できる。
(4)によれば、車両に備えられている座席を用いることによって、車両内の乗員および車両外の人物が一緒にいるように知覚できる。
(5)によれば、車両以外の場所で撮像されたリアルタイム像を車両内で表示することによって、車両内の乗員および車両外の人物が一緒にいる感覚を増加させることができる。
(6)または(7)によれば、車両と車両外の機器との間の通信接続状況が悪い場合であっても、車両内の乗員および車両外の人物が一緒にいるように知覚できる。
(8)によれば、車両と車両外の機器との間の通信接続状況が悪い場合であっても、ストリーミング画像を生成することができる。
(9)によれば、車両外の機器の利用者が車両の撮像部を遠隔操作できるため、車両外の機器の利用者の満足度を向上させることができる。
(11)によれば、車両内の在席状態に適した仮想像を車両内に発生させることができる。
(12)によれば、撮像部が撮像した画像のうちの適切なものを抽出して車両外の機器に送信することができる。
画像提供システムの構成図である。 撮像部の一例を示す図である。 表示部の一例を示す図である。 ウインドウに第2利用者の虚像が表示された様子を示す図である。 ミラーに第2利用者の虚像が表示された様子を示す図である。 表示部の他の例を示す図である。 画像提供装置の撮像部および表示部の一例を示す図である。 ヘッドマウントディスプレイ装置を含む場合の構成例を示す図である。 第1利用者などの画像のストリーミング画像を表示する処理を説明するシーケンス図である。 第2利用者の画像を表示する処理を説明するシーケンス図である。 車両の自動運転のための構成を示す図である。 自動運転の処理過程について説明するための図である。
以下、図面を参照し、本発明の車両の画像提供システム、サーバーシステムおよび車両の画像提供方法の実施形態について説明する。車両の画像提供システムは、車両の乗員などの画像と、車両の乗員と特定の関係を有する車両の乗員以外の利用者の画像とを相互に提供するためのシステムである。乗員が搭乗する車両は、例えば、基本的には運転操作を必要としない自動運転車両である。以下、乗員が自動運転車両に搭乗するものとして説明するが、乗員が手動運転車両に搭乗しても構わない。
[全体構成]
図1は、画像提供システム1の構成図である。画像提供システム1は、例えば、車両に搭載される車載画像提供装置100と、車両以外の場所に配置される画像提供装置300と、管理サーバ400とを備える。これらの構成要素は、ネットワークNWを介して互いに通信可能である。ネットワークNWは、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、プロバイダ装置、専用回線、無線基地局などを含む。
[車載画像提供装置]
車載画像提供装置100は、例えば、通信部110と、撮像部120と、HMI(Human machine Interface)130と、在席検知部140と、接続状況検知部150と、送信許可部160と、記憶部170と、制御部180とを備える。
通信部110は、例えば、ネットワークNWに接続したり、他車両や歩行者の端末装置などと直接的に通信したりするための無線通信モジュールである。通信部110は、Wi-Fi、DSRC(Dedicated Short Range Communications)、Bluetooth(登録商標)、その他の通信規格に基づいて無線通信を行う。通信部110として、用途に応じた複数のものが用意されてもよい。また、通信部110は、ネットワークNWを介して車両外の機器(例えば画像提供装置300、管理サーバ400など)との間で通信を行う。
撮像部120は、例えば、CCDカメラやCMOSカメラなどである。撮像部120は、例えば、所定周期で繰り返し撮影を行い、通信部110およびネットワークNWを介して管理サーバ400に送信する。また、撮像部120は、画像処理部120-1を含む。画像処理部120-1は、撮像部120によって撮像された画像のデータ処理を行う。
図2は、撮像部120の一例を示す図である。撮像部120は、例えば、車内撮像用車載カメラ120Aと、車外撮像用車載カメラ120B、120C、および120Dの4個の車載カメラを備える。他の例では、撮像部120が、4個未満、あるいは5個以上の車載カメラを備えていてもよい。
図2に示すように、車内撮像用車載カメラ120Aは、車両内の乗員を撮像する。車外撮像用車載カメラ120Bは、車両の前方を撮像し、車外撮像用車載カメラ120Cおよび120Dは、それぞれ車両の側方を撮像する。これらの車外撮像用車載カメラ120B、120C、120Dの画像を合成することで、パノラマ画像、全天球画像などが生成されてもよい。車内撮像用車載カメラ120A、および、車外撮像用車載カメラ120B、120C、および120Dは、脱着式であってもよい。特に、それらが車室内に配置される場合においては、マスコット態様のカメラを非着座のシートにおけるヘッドレスト付近に配置するとよい。
また、撮像部120は、例えば、車両の乗員が保持する携帯端末装置500であってもよい。携帯端末装置500のカメラによって撮像された画像のデータが、アドホック接続によって車載画像提供装置100に送信され、各車載カメラの撮像画像と同様に、通信部110およびネットワークNWを介して管理サーバ400に送信されてもよいし、車載画像提供装置100を介さずにネットワークNWを介して管理サーバ400に送信されてもよい。
図1に戻り、HMI130は、例えば、タッチパネル式ディスプレイ装置やスピーカ、マイクなどを含む。HMI130は、第1利用者による画像提供サービス開始操作などを受け付ける。また、HMI130は、表示部130Aを含む。表示部130Aは、人物の仮想像を発生させる。具体的には、表示部130Aは、管理サーバ400から受信したデータに基づいて、車両以外の場所に位置する利用者の仮想像を、その利用者が車両内にいるように錯視させる形態で表示する。その利用者は、車両の乗員と特定の関係(例えば親子関係、祖父母-孫関係など)を有する画像提供サービスの利用者である。以下、車両の乗員を「第1利用者」と称し、車両の乗員以外の利用者を「第2利用者」と称する。表示部130Aは、例えばミラー、ウインドウ、座席などに第2利用者の仮想像を投影する投影装置である。また、表示部130Aは、画像処理部130Bを含む。画像処理部130Bは、表示部130Aによって仮想像を発生させるための画像のデータ処理を行う。
図3は、表示部130Aの一例を示す図である。表示部130Aは、例えば、ミラー132および/またはウインドウ134に、仮想像の一例としての虚像を投影する投影装置である。図3の例では、表示部130Aは、第2利用者の虚像をウインドウ134に投影する。また、第1利用者(車両の乗員)がウインドウ134を見ると、第1利用者自身が映って見える。そのため、第1利用者は、第1利用者自身の像と第2利用者の虚像とが映っているウインドウ134を見た時に、車両以外の場所に位置する第2利用者と一緒に車両に搭乗しているように感じる(錯視する)ことができる。すなわち、第2利用者の虚像を見た第1利用者は、車室と、図3に破線で示す第2利用者の自宅の部屋とがつながっている(つまり、拡張空間になっている)ように感じることができる。
表示部130Aは、ミラー132やウインドウ134の面に設けられた光透過性の表示装置であってもよい。この場合、表示部130Aは、例えば液晶ディスプレイ装置や有機EL(Electroluminescence)表示装置がミラー132やウインドウ134に貼り付けまたは埋め込まれることで形成される。表示部130Aは、投影装置と表示装置とを組み合わせたものであってもよい。この場合、表示装置は、投影装置の投影先(ミラー132またはウインドウ134)に設けられ、投影装置による投影像が見やすくなるような光学的動作を行う。
図4は、ウインドウ134に第2利用者U2の虚像80が表示された様子を示す図である。図示するように、第1利用者U1がウインドウ134を見ると、第1利用者U1自身の像と、破線で示す第2利用者U2の虚像80とが映っているように見える。このため、第1利用者U1は、車両以外の場所に位置する第2利用者U2と一緒に車両に搭乗しているように感じることができる。
図5は、ミラー132に第2利用者U2の虚像80が表示された様子を示す図である。図示するように、第1利用者U1がミラー132を見ると、第1利用者U1自身の像と、破線で示す第2利用者U2の虚像80とが映っているように見える。このため、第1利用者U1は、車両以外の場所に位置する第2利用者U2と一緒に車両に搭乗しているように感じることができる。
表示部130Aは、第2利用者U2の虚像80をミラー132およびウインドウ134のいずれにも表示できるように、構成されていてよい。一方、他の例では、表示部130Aが、ミラー132およびウインドウ134のいずれかのみに第2利用者U2の虚像80を表示できるように、構成されていてもよい。
図6は、表示部130Aの他の例を示す図である。表示部130Aは、例えば、車両内の座席136の空席に対応し、仮想像の一例としての虚像80を投影する例えばホログラフィ技術が適用された投影装置である。第1利用者(車両の乗員)が空席を見ると、その空席に第2利用者U2が座っているように、第2利用者U2の虚像80が見える。そのため、第1利用者は、空席を見た時に、車両以外の場所に位置する第2利用者U2と一緒に車両に搭乗しているように感じる(錯視する)ことができる。また、表示部130Aは、例えば、車内撮像用車載カメラ120Aの撮像結果に基づき、空席の有無に応じて第2利用者U2の虚像80を発生させる位置を変更する。上述したように、表示部130Aは、車両内の座席136の空席に対応し仮想像を発生させる。つまり、表示部130Aは、空席上に仮想像を発生させることができるのみならず、仮想像と車両内の人、構造物などとが重なるように仮想像を発生させることもできる。
図1に戻り、在席検知部140は車両内の在席状態を検知する。在席検知部140は、例えば着座センサの出力に基づいて、車両内の在席状態(乗員が座席に着座しているか否か)を検知する。在席検知部140は、撮像部120が撮像(取得)した画像に基づいて車両内の在席状態を検知してもよい。上述した表示部130Aは、在席検知部140が検知した車両内の在席状態に基づいて、人物の仮想像を発生させる。例えば車両の自動運転中、乗員が後部座席のみに着座している場合、表示部130Aは、在席検知部140が検知した車両内の在席状態(乗員が後部座席のみに着座している状態)に基づいて、後部座席側に人物の仮想像を発生させる。例えば乗員が右座席のみに着座している場合、表示部130Aは、在席検知部140が検知した車両内の在席状態(乗員が右座席のみに着座している状態)に基づいて、右座席側に人物の仮想像を発生させる。詳細には、表示部130Aは、通信部110の作動状態(つまり、通信部110が、仮想像を発生させるためのデータを管理サーバ400から受信可能な状態)において、在席検知部140が検知した車両内の在席状態に基づいて、仮想像の表示態様を制御する。在席検知部140によって検知された車両内の在席状態の情報は、通信部110によって、管理サーバ400などに送信される。
接続状況検知部150は、通信部110と車両外の機器(例えば画像提供装置300、管理サーバ400など)との間の接続状況を検知する。つまり、接続状況検知部150は、例えば仮想像を発生させるためのデータを管理サーバ400から受信しやすい状態であるか否かを検知する。また、接続状況検知部150は、例えば撮像部120によって撮影された画像のデータを車両外の機器に送信しやすい状態であるか否かを検知する。
送信許可部160は、接続状況検知部150が検知した接続状況に基づき、撮像部120により撮像された画像の送信を許可する。具体的には、通信部110と車両外の機器(例えば画像提供装置300、管理サーバ400など)との間の接続状況が悪いことを接続状況検知部150が検知した場合、送信許可部160は、撮像部120により撮像された画像の送信を許可しない。つまり、通信部110と車両外の機器との間の接続状況が悪い場合、通信部110は、撮像部120により撮像された画像の送信よりも、仮想像を発生させるために必要なデータの受信を優先的に行う。すなわち、送信許可部160は、通信帯域に制限がある場合(接続状況が悪い場合)に送信よりも受信を優先する。通信部110は、送信許可部160が送信を許可するとき、撮像部120によって撮像された画像を車両外の機器に送信する。
記憶部170は、HDD(Hard Disk Drive)、フラッシュメモリ、RAM(Random Access Memory)、ROM(Read Only Memory)などで実現される。記憶部170は、管理サーバ400から受信した情報、撮像部120が撮像した画像のデータ、表示部130Aが表示する第2利用者U2の虚像のデータなどを記憶する。
制御部180は、例えば、CPU(Central Processing Unit)などのプロセッサがプログラムを実行することにより実現される。第1利用者が画像提供サービス開始操作をHMI130に入力し、画像提供システム1を利用するためのアプリケーションプログラム(画像提供アプリ)が起動すると、制御部180は、管理サーバ400へのデータ送信を通信部110に行わせるための制御信号、撮像部120に撮像を行わせるための制御信号、表示部130Aに第2利用者U2の虚像を表示させるための制御信号などを出力する。
[画像提供装置]
画像提供装置300は、例えば、通信部310と、撮像部320と、表示部330と、記憶部340と、HMI350と、制御部360とを備える。
通信部310は、例えば、ネットワークNWに接続したり、第2利用者の携帯端末装置などと直接的に通信したりするための通信モジュールである。通信部310は、Wi-Fi、DSRC、Bluetooth、その他の通信規格に基づいて通信を行う。通信部310として、用途に応じた複数のものが用意されてもよい。また、通信部310は、ネットワークNWを介して管理サーバ400との間で通信を行う。
撮像部320は、例えば、CCDカメラやCMOSカメラなどである。撮像部320は、第2利用者U2を撮像し、撮像した第2利用者U2の画像のデータを、通信部310およびネットワークNWを介して管理サーバ400に送信する。また、撮像部320は、画像処理部320Aを含む。画像処理部320Aは、撮像部320によって撮像された画像のデータ処理を行う。
表示部330は、管理サーバ400から受信したデータに基づいて、撮像部120によって撮像された第1利用者U1などの画像のストリーミング画像を表示する。また、表示部330は、画像処理部330Aを含む。画像処理部330Aは、表示部330によってストリーミング画像を表示するための画像のデータ処理を行う。
図7は、画像提供装置300の撮像部320および表示部330の一例を示す図である。撮像部320は、例えば、第2利用者U2の自宅に置かれた大画面テレビ600に備えられたカメラ610である。撮像部320は、第2利用者U2を撮像する。また、撮像部320は、例えば、第2利用者U2が保持する携帯端末装置のカメラであてもよい。第2利用者U2の携帯端末装置のカメラによって撮像された画像のデータは、アドホック接続によって画像提供装置300に送信され、通信部310およびネットワークNWを介して管理サーバ400に送信されてもよいし、画像提供装置300を介さずにネットワークNWを介して管理サーバ400に送信されてもよい。表示部330は、例えば、テレビ600のディスプレイ630である。表示部330は、第1利用者U1などの画像のストリーミング画像を表示する。
また、画像提供装置300は、ヘッドマウントディスプレイ装置(バーチャルリアリティデバイス)700を含んでもよい。
図8は、ヘッドマウントディスプレイ装置700を含む場合の構成例を示す図である。この場合、表示部330は、ヘッドマウントディスプレイ装置700のディスプレイ710であり、第1利用者U1などの画像のストリーミング画像を表示する。
また、表示部330は、第2利用者U2の自宅に置かれた端末装置(パーソナルコンピュータ)のディスプレイであってもよい。
図1に戻り、記憶部340は、HDD、フラッシュメモリ、RAM、ROMなどで実現される。記憶部340は、管理サーバ400から受信した情報、撮像部320が撮像した画像のデータ、表示部330が表示する第1利用者U1などのストリーミング画像のデータなどを記憶する。
HMI350は、第2利用者による画像提供サービス開始操作などを受け付ける。HMI350は、図7の例では、テレビ600の入力装置(リモートコントローラ)620である。また、HMI350は、第2利用者U2の自宅に置かれた端末装置の入力装置(キーボード、マウスなど)であってもよい。また、HMI350は、図8に示すヘッドマウントディスプレイ装置700の視線センサであってもよい。視線センサは、ヘッドマウントディスプレイ装置700を装着している第2利用者U2の視線の動きを検出し、第2利用者U2の視線の動きによる視点操作を受け付ける。つまり、ヘッドマウントディスプレイ装置700を装着している第2利用者U2は、視線を動かすことによって、車両からパノラマ画像が送られてくる場合に中心視野を選択できる。また、視線を動かすことによって、車内撮像用車載カメラ120Aおよび車外撮像用車載カメラ120B、120Cおよび120Dの少なくとも一つを遠隔操作することができるようにしてもよい。また、テレビ600の入力装置620などが、第2利用者U2による撮像部120の遠隔操作を受け付けてもよい。
制御部360は、例えば、CPUなどのプロセッサがプログラムを実行することにより実現される。第2利用者U2が画像提供サービス開始操作をHMI350に入力し、画像提供アプリが起動すると、制御部360は、管理サーバ400へのデータ送信を通信部310に行わせるための制御信号、撮像部320に撮像を行わせるための制御信号、表示部330に第1利用者U1などのストリーミング画像を表示させるための制御信号などを出力する。また、制御部360は、ヘッドマウントディスプレイ装置700の視線センサによって検出された第2利用者U2の視線の動きに基づいて、撮像部120の遠隔操作を行う。また、制御部360は、視線センサによって検出された第2利用者U2の視線の動きに基づいて、撮像部320を操作し、例えば姿勢を変えた第2利用者U2の画像を撮像し直してもよい。
[管理サーバ]
管理サーバ400は、例えば、通信部410、415と、記憶部420、425と、制御部430と、データ保持部440とを備える。
通信部410、415は、例えば、ネットワークNWに接続するための通信モジュールである。通信部410、415は、通信規格に基づいて通信を行う。通信部410は、ネットワークNWを介して車両外の機器(例えば画像提供装置300など)との間で通信を行う。通信部415は、ネットワークNWを介して車載画像提供装置100の通信部110との間で通信を行う。つまり、管理サーバ400は、車両に搭載された車載画像提供装置100の通信部110と通信接続するように構成されている。通信部415は、例えば在席検知部140によって検知された車両内の在席状態の情報などを受信する。
記憶部420、425は、HDD、フラッシュメモリ、RAM、ROMなどで実現される。記憶部420は、車両外の機器(例えば画像提供装置300など)からの送信情報、撮像部320が撮像した画像のデータ、表示部130Aが表示する第2利用者U2の画像のデータなどを記憶(保持)する。記憶部425は、車載画像提供装置100などから受信した情報、撮像部120が撮像(取得)した画像のデータ、表示部330が表示する第1利用者U1などのストリーミング画像のデータなどを記憶(保持)する。車載画像提供装置100などから受信した情報には、車載画像提供装置100を搭載している車両のID(Identification)情報、車両内の在席状態の情報などが含まれる。つまり、記憶部425は、通信部415から取得した車両内の在席状態の情報を記憶するよう構成されている。
制御部430は、例えば、CPUなどのプロセッサがプログラムを実行することにより実現される。制御部430は、変換部430-1、430-2、430-3と、QoS判定部430-4とを備える。変換部430-1は、記憶部420が保持する情報を通信部415へ選択的に送信する。変換部430-1は仮想像生成部430Aを備える。仮想像生成部430Aは、表示部130Aが発生させる上述した仮想像(例えば表示部130Aに表示する仮想像)を生成する。つまり、管理サーバ400は、車両外の機器(画像提供装置300)で取得した情報(画像)から、個人の(車両内の乗員の着座状態に対応した)画像を切り出す機能を有する。
上述したように、記憶部425は、通信部415から取得した車両内の在席状態の情報を記憶するよう構成されている。また、変換部430-1は、記憶部425が記憶する車両内の在席状態の情報に基づき仮想像生成部430Aを制御する。つまり、仮想像生成部430Aは、車両内の在席状況に基づいて、表示部130Aが車両内に発生させるのに適した仮想像を生成する。仮想像生成部430Aは、適した仮想像を生成するために、必要に応じた補完を行って仮想像を生成する。管理サーバ400は、車両内に仮想像を発生させるサービスを開始する前に、予めユーザデータとして、3次元の顔データなどを保持する(車載画像提供装置100、画像提供装置300などから受信する)などしてもよい。例えば、撮像部120、320などが撮像した画像データを管理サーバ400がデータ処理してもよい。撮像部120、320などをAR(Augmented Reality)カメラとして機能させてもよい。管理サーバ400が、規定の車両形状データを基に、表示位置(表示部130Aが仮想像を発生させる位置)に対応して仮想像を調整してもよい。
変換部430-2は、記憶部425が記憶する車両内の在席状態の情報を通信部410に選択的に送信する。変換部430-2は個人画像抽出部430Bを備える。個人画像抽出部430Bは、記憶部425が記憶する車両内の在席状態の情報から、車両の特定乗員に対応した画像情報を抽出する。つまり、個人画像抽出部430Bは、車載画像提供装置100から受信した車両内の乗員の画像データを個人単位で切り出す機能を有する。個人画像抽出部430Bは、車載画像提供装置100から受信した車両内のカメラ配置の情報、車両内の各種センサの出力データ等に基づき、撮像部120が撮像した画像から適切な部位を切り出す。個人画像抽出部430Bによって切り出されたもの(抽出されたもの)は、画像提供装置300の表示部330によって表示される。
変換部430-3はストリーミング画像生成部430Cを備える。ストリーミング画像生成部430Cは、撮像部120によって撮像された第1利用者U1などの画像のデータに基づいて、第1利用者U1などの画像のストリーミング画像を生成する。
QoS(Quality of Service)判定部430-4は、管理サーバ400がネットワーク上で提供するサービス品質を確保するために必要な判定を行う。QoS判定部430-4は、例えば車載画像提供装置100からの受信、車載画像提供装置100への送信、画像提供装置300からの受信、および、画像提供装置300への送信のうちのどれを優先するか等の判定を行う。データ保持部440は、例えば車載画像提供装置100を搭載している車両の3次元データ、撮像部120の各カメラのカメラ座標系の情報などを保持する。カメラ座標系とは、画像を撮像するカメラを基準とする座標系(各カメラ固有の座標系)である。
図9は、第1利用者U1などの画像のストリーミング画像を表示する処理を説明するシーケンス図である。図10は、第2利用者U2の画像を表示する処理を説明するシーケンス図である。便宜上、異なる図面を用いて図9および図10に示す処理の説明を行うが、図9および図10に示す処理は、双方向通信によって同時並行で行われてよい。まず、図9に示す処理について説明する。
前提として、車載画像提供装置100は、例えば、車両の始動と同時に撮像部120による撮像を開始して、撮像部120による撮像を継続し(つまり、常時撮像を行い)、撮像部120によって撮像された画像のデータを管理サーバ400に送信する。管理サーバ400に送信される画像データには、位置や速度の情報と、音声データとが付加される。
(ステップS1)例えば、管理サーバ400は、管理サーバ400と車載画像提供装置100との間、および、管理サーバ400と画像提供装置300との間の通信帯域(速度)の確認を行う。
(ステップS2)管理サーバ400は、後述する補完処理を行うか否かの判定を行う。管理サーバ400と車載画像提供装置100との間の通信帯域が狭い場合、管理サーバ400は、例えば、画像提供装置300において表示されるストリーミング画像が荒くなることを防ぐための補完処理を行う。この補完処理では、管理サーバ400が、ストリーミング画像を生成するために、車載画像提供装置100の車外撮像用車載カメラ120B、120C、120Dによって撮像された風景画像データを用いるのではなく、管理サーバ400の記憶部420に記憶されている他車両などにおいて撮像された対応ロケーションの風景画像データ(高解像度の風景画像データ)を用いる。この場合、時間的な通信ラグも補完される。
(ステップS3)管理サーバ400は、後述するダウンサンプリングを行うか否かの判定を行う。管理サーバ400と画像提供装置300との間の通信帯域が狭い場合、管理サーバ400は、例えば、ストリーミング画像を生成する際に、ダウンサンプリングを行う。その結果、ダウンサンプリングが行われない場合よりも、生成されるストリーミング画像のデータ量を小さくすることができる。
(ステップS4)管理サーバ400のストリーミング画像生成部430Cは、第1利用者U1などの画像のストリーミング画像を生成する。上述した補完処理および/またはダウンサンプリングが実行された場合、ストリーミング画像生成部430Cは、補完処理および/またはダウンサンプリングの処理結果を反映させてストリーミング画像を生成する。
(ステップS5)管理サーバ400の制御部430は、ストリーミング画像生成部430Cによって生成された第1利用者U1などのストリーミング画像のデータを画像提供装置300に送信する。
(ステップS6)画像提供装置300の表示部330は、第1利用者U1などのストリーミング画像の表示を開始する。
車載画像提供装置100の通信部110と、画像提供装置300の通信部310とは、管理サーバ400を介することなく、直接通信してもよい。また、車載画像提供装置100の制御部180が撮像部120のスルー画像を解析し、第2利用者U2と特定の関係を有する第1利用者U1がスルー画像に写っている場合に、撮像部120が、第1利用者U1などの撮像を自動的に開始してもよい。
撮像部120が第1利用者U1などの撮像を自動的に開始する場合には、複数の第1利用者U1(例えば家族)がそろってスルー画像に写っているか否かを開始条件にしてもよい。また、撮像部120が第1利用者U1などの撮像を自動的に開始する場合には、スルー画像に写っている第1利用者U1の感情状態(例えば、第1利用者U1が泣いたり、笑ったりしているか否か)、健康状態(発熱しているか否か)などを開始条件にしてもよい。また、撮像部120が第1利用者U1などの撮像を自動的に開始する場合には、スルー画像に写っている車両の周辺の景色が例えば見晴、テクスチャ、輝度などの特定条件を満足しているか否かを開始条件にしてもよい。また、撮像部120が第1利用者U1などの撮像を自動的に開始した場合には、管理サーバ400の制御部430は、車載画像提供装置100が搭載された車両の位置と、第1利用者U1が保持する携帯端末装置500の位置との乖離、車両の周辺施設、撮像部120によって撮像される第1利用者U1の服装などの情報に基づいて、撮像部120による撮像頻度を増加させるなどの撮像部120の遠隔操作を行ってもよい。
車載画像提供装置100の制御部180が、第1利用者U1などのストリーミング画像を生成してもよい。第1利用者U1などのストリーミング画像を見た第2利用者U2が、第2利用者U2の視線の動きなどによって、第1利用者U1などを撮像する撮像部120を遠隔操作してもよい。第2利用者U2が撮像部120の遠隔操作を行う場合には、第2利用者U2が車内撮像用車載カメラ120A、および、車外撮像用車載カメラ120B、120C、120Dの撮影方向を変更してもよい。
管理サーバ400のストリーミング画像生成部430Cは、車載画像提供装置100の撮像部120によって撮像された第1利用者U1などの複数の画像のデータを編集し、ダイジェストの第1利用者U1などのストリーミング画像を生成してもよい。また、管理サーバ400のストリーミング画像生成部430Cは、車載画像提供装置100が搭載されている車両の加速度センサの出力信号などに基づいて、撮像部120によって撮像された第1利用者U1などの画像に含まれる揺れ、ブレなどを補正してもよい。
管理サーバ400が、車載画像提供装置100の撮像部120によって撮像された第1利用者U1などの画像に関するコンテンツを、WEBサーバのユーザスペース上に事前設定の公開範囲で公開してもよい。第1利用者U1が親子であり、第2利用者が祖父母である場合には、第1利用者U1などのストリーミング画像は、例えば、親による子育て記録である。
図10に示す処理について説明する。図10のステップS11~S13の処理は、図9のステップS1~S3の処理と同様である。
(ステップS14)画像提供装置300の撮像部320は、第2利用者U2の撮像を開始する。
(ステップS15)画像提供装置300の制御部360は、撮像部320によって撮像された第2利用者U2の画像(リアルタイム像)のデータを管理サーバ400に送信する。制御部360は、第2利用者U2のモデル像のデータを管理サーバ400に送信してもよい。制御部360は、撮像部320によって予め撮像されて記録された第2利用者U2の画像のデータを管理サーバ400に送信してもよい。送信される画像のデータは、静止画のデータであっても、動画のデータであってもよい。
(ステップS16)管理サーバ400の制御部430は、画像提供装置300から送信された第2利用者U2の画像のデータを車載画像提供装置100に転送する。
(ステップS17)車載画像提供装置100の表示部130Aは、例えば、車内撮像用車載カメラ120Aの撮像結果に基づき、第2利用者U2の虚像を表示する位置の判定を行う。具体的には、表示部130Aは、車両の座席に空席が存在しないために第2利用者U2の虚像をミラーまたはウインドウに表示する必要があるか、あるいは、車両の座席の空席に第2利用者U2の虚像を表示できるかを判定する。
(ステップS18)車載画像提供装置100の表示部130Aは、第2利用者U2のリアルタイム像の表示を開始する。表示部130Aは、リアルタイム像の代わりに、第2利用者U2のモデル像、予め撮像されて記録された像などを表示してもよい。
車載画像提供装置100がレンタカーに搭載されている場合には、第1利用者U1による車載画像提供装置100のHMI130への入力操作時および第2利用者U2による画像提供装置300のHMI350への入力操作時に、管理サーバ400の制御部430が、第1利用者U1および第2利用者U2のユーザ認証処理を行ってもよい。
第2利用者U2は、車載画像提供装置100の表示部130Aによって表示される第2利用者U2の画像を変更するために、撮像部320によって第2利用者U2の画像を撮像し直してもよい。
車載画像提供装置100の表示部130Aは、車両による第1利用者U1の旅行先において、第2利用者U2宅の第2利用者U2のリアルタイム像を表示してもよい。その時に、画像提供装置300の表示部330は、旅行先の第1利用者U1などのストリーミング画像を表示してもよい。あるいは、第1利用者U1の旅行が終了した後に、画像提供装置300の表示部330が、旅行先の第1利用者U1などのストリーミング画像をダイジェストで表示してもよい。ストリーミング画像を見た第2利用者U2は、第1利用者U1と一緒に旅行した気分を味わうことができる。
以下、車両の自動運転のための構成について説明する。乗員が周囲を見渡す自由度などを考慮すると、本実施形態の車両は自動運転車両であることが望ましい。
[車両]
図11は、車両200の自動運転のための構成を示す図である。車両200は、例えば、通信部110を含む車載画像提供装置100と、外界監視ユニット210と、ナビゲーション装置230と、推奨車線決定装置240と、自動運転制御ユニット250と、駆動力出力装置260と、ブレーキ装置262と、ステアリング装置264とを備える。
外界監視ユニット210は、例えば、カメラやレーダ、LIDAR(Light Detectionand Ranging)、これらの出力に基づいてセンサフュージョン処理を行う物体認識装置などを含む。外界監視ユニット210は、車両200の周辺に存在する物体の種類(特に、車両、歩行者、および自転車)を推定し、その位置や速度の情報と共に自動運転制御ユニット250に出力する。
外界監視ユニット210と車載画像提供装置100の撮像部120は一部または全部が共用されてもよい。
ナビゲーション装置230は、例えば、HMI232と、GNSS(Global Navigation Satellite System)受信機234と、ナビ制御装置236とを備える。HMI232は、例えば、タッチパネル式ディスプレイ装置やスピーカ、マイクなどを含む。GNSS受信機234は、GNSS衛星(例えばGPS衛星)から到来する電波に基づいて自機の位置(車両200の位置)を測位する。ナビ制御装置236は、例えば、CPUや各種記憶装置を備え、ナビゲーション装置230全体を制御する。記憶装置には、地図情報(ナビ地図)が格納されている。ナビ地図は、ノードとリンクで道路を表現した地図である。ナビ制御装置236は、GNSS受信機234によって測位された車両200の位置から、HMI232を用いて指定された目的地までの経路を、ナビ地図を参照して決定する。また、ナビ制御装置236は、車両200の位置と目的地とを、通信部110を用いてナビゲーションサーバ(不図示)に送信し、ナビゲーションサーバから返信された経路を取得してもよい。
ナビゲーション装置230のHMI232と車載画像提供装置100のHMI130は一部または全部が共用されてもよい。
推奨車線決定装置240は、例えば、MPU(Micro Processing Unit)と各種記憶装置を備える。記憶装置には、ナビ地図よりも詳細な高精度地図情報が格納されている。高精度地図情報には、例えば、車線ごとの道路幅や勾配、曲率、信号の位置などの情報が含まれている。推奨車線決定装置240は、ナビゲーション装置230から入力された経路に沿って走行するために好ましい推奨車線を決定し、自動運転制御ユニット250に出力する。
自動運転制御ユニット250は、CPUやMPUなどの一以上のプロセッサと各種記憶装置を備える。自動運転制御ユニット250は、推奨車線決定装置240により決定された推奨車線を走行することを原則として、外界監視ユニット210から位置や速度が入力された物体との接触を避けるように、車両200を自動的に走行させる。自動運転制御ユニット250は、例えば、各種イベントを順次実行する。イベントには、一定速度で同じ走行車線を走行する定速走行イベント、前走車両に追従する追従走行イベント、車線変更イベント、合流イベント、分岐イベント、緊急停止イベント、料金所を通過するための料金所イベント、自動運転を終了して手動運転に切り替えるためのハンドオーバイベントなどがある。また、これらのイベントの実行中に、車両200の周辺状況(周辺車両や歩行者の存在、道路工事による車線狭窄など)に基づいて、回避のための行動が計画される場合もある。
自動運転制御ユニット250は、車両200が将来走行する目標軌道を生成する。目標軌道は、例えば、速度要素を含んでいる。例えば、目標軌道は、車両200の到達すべき地点(軌道点)を順に並べたものとして表現される。軌道点は、所定の走行距離ごとの車両200の到達すべき地点であり、それとは別に、所定のサンプリング時間(例えば0コンマ数[sec]程度)ごとの目標速度および目標加速度が、目標軌道の一部として生成される。また、軌道点は、所定のサンプリング時間ごとの、そのサンプリング時刻における車両200の到達すべき位置であってもよい。この場合、目標速度や目標加速度の情報は軌道点の間隔で表現される。
図12は、自動運転の処理過程について説明するための図である。まず、上図に示すように、ナビゲーション装置230によって経路が決定される。この経路は、例えば車線の区別が付けられていない大まかな経路である。次に、中図に示すように、推奨車線決定装置240が、経路に沿って走行しやすい推奨車線を決定する。そして、下図に示すように、自動運転制御ユニット250が、障害物の回避などを行いながら、なるべく推奨車線に沿って走行するための軌道点を生成し、軌道点(および付随する速度プロファイル)に沿って走行するように、駆動力出力装置260、ブレーキ装置262、ステアリング装置264のうち一部または全部を制御する。なお、このような役割分担はあくまで一例であり、例えば自動運転制御ユニット250が一元的に処理を行ってもよい。
図11に戻り、駆動力出力装置260は、車両200が走行するための走行駆動力(トルク)を駆動輪に出力する。駆動力出力装置260は、例えば、内燃機関、電動機、および変速機などの組み合わせと、これらを制御するパワーECUとを備える。パワーECUは、自動運転制御ユニット250から入力される情報、或いは不図示の運転操作子から入力される情報に従って、上記の構成を制御する。
ブレーキ装置262は、例えば、ブレーキキャリパーと、ブレーキキャリパーに油圧を伝達するシリンダと、シリンダに油圧を発生させる電動モータと、ブレーキECUとを備える。ブレーキECUは、自動運転制御ユニット250から入力される情報、或いは運転操作子から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。ブレーキ装置262は、運転操作子に含まれるブレーキペダルの操作によって発生させた油圧を、マスターシリンダを介してシリンダに伝達する機構をバックアップとして備えてよい。なお、ブレーキ装置262は、上記説明した構成に限らず、自動運転制御ユニット250から入力される情報に従ってアクチュエータを制御して、マスターシリンダの油圧をシリンダに伝達する電子制御式油圧ブレーキ装置であってもよい。
ステアリング装置264は、例えば、ステアリングECUと、電動モータとを備える。電動モータは、例えば、ラックアンドピニオン機構に力を作用させて転舵輪の向きを変更する。ステアリングECUは、自動運転制御ユニット250から入力される情報、或いは運転操作子から入力される情報に従って、電動モータを駆動し、転舵輪の向きを変更させる。
自動運転が行われる場合に、車載画像提供装置100の撮像部120は、車両200の運転者の顔の向き(または視線の向き)に基づいて、一人称視点(車両200の運転者が見ている風景画像)を撮像し、画像提供装置300の表示部330が、その画像を表示してもよい。また、表示部330によって表示された画像を見た第2利用者U2が、入力装置620によって、車両200の進行方向を遠隔操作したり、車両200の進行方向についての指示を第1利用者U1に伝えたりしてもよい。車両200の運転者が見ている風景画像の表示が表示部330によって行われる場合、表示部330は、車両200の状態量(振動、速度、舵角)などに基づいて、表示される画像の補正を行ってもよい。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
1…画像提供システム、100…車載画像提供装置、110…通信部、120…撮像部、120-1…画像処理部、120A…車内撮像用車載カメラ、120B…車外撮像用車載カメラ、120C…車外撮像用車載カメラ、120D…車外撮像用車載カメラ、130…HMI、130A…表示部、130B…画像処理部、132…ミラー、134…ウインドウ、136…座席、140…在席検知部、150…接続状況検知部、160…送信許可部、170…記憶部、180…制御部、300…画像提供装置、310…通信部、320…撮像部、320A…画像処理部、330…表示部、330A…画像処理部、340…記憶部、350…HMI、360…制御部、400…管理サーバ、410…通信部、415…通信部、420…記憶部、425…記憶部、430…制御部、430-1…変換部、430-2…変換部、430-3…変換部、430-4…QoS判定部、430A…仮想像生成部、430B…個人画像抽出部、430C…ストリーミング画像生成部、440…データ保持部、500…携帯端末装置、600…テレビ、610…カメラ、620…入力装置、630…ディスプレイ、700…ヘッドマウントディスプレイ装置、710…ディスプレイ、NW…ネットワーク

Claims (9)

  1. 車両に搭載された撮像部と、
    人物の仮想像を発生させる表示部と、
    車両外の機器と通信接続する通信部と、
    前記車両内の在席状態を検知する在席検知部と、
    前記車両とは異なる位置に存在する前記車両外の機器の利用者が装着するヘッドマウントディスプレイ装置の視線センサによって検出された前記利用者の視線の動きに基づいて、前記撮像部の遠隔操作を行う制御部と、
    前記車両外の機器と前記通信部との間の接続状況を検知する接続状況検知部と、
    前記接続状況検知部が検知した接続状況に基づき、前記遠隔操作された前記撮像部により撮像された画像の送信を許可する送信許可部と、を備え、
    前記表示部は、前記通信部の作動状態において、前記在席検知部が検知した前記車両内の在席状態に基づき、前記仮想像の表示態様を制御し、
    前記通信部は、前記送信許可部が送信を許可するとき、前記撮像部によって撮像された画像を前記車両外の機器に送信する、
    車両の画像提供システム。
  2. 前記表示部は、前記車両のミラーまたはウインドウに前記仮想像を発生させる、
    請求項1に記載の車両の画像提供システム。
  3. 前記表示部は、前記在席検知部が検知した前記車両内の在席状態に基づき、前記車両内の空席に対応し前記仮想像を発生させる、
    請求項1または2に記載の車両の画像提供システム。
  4. 前記表示部が表示する前記仮想像は、前記車両以外の場所で撮像されたリアルタイム像である、
    請求項1から3のうちいずれか1項に記載の車両の画像提供システム。
  5. 前記表示部が表示する前記仮想像は、モデル像である、
    請求項1から3のうちいずれか1項に記載の車両の画像提供システム。
  6. 前記表示部が表示する前記仮想像は、予め撮像されて記録された像である、
    請求項1から3のうちいずれか1項に記載の車両の画像提供システム。
  7. 前記撮像部によって撮像された画像のデータの少なくとも一部に基づいてストリーミング画像が生成される、
    請求項1から3のうちいずれか1項に記載の車両の画像提供システム。
  8. 前記表示部は、前記通信部の作動状態において、前記在席検知部が検知した前記車両内の在席状態に基づき、前記車両の利用者が前記車両内の空席を視認したときに前記仮想像であるモデル像が前記空席に存在していると感じるように前記モデル像を表示させ、
    前記モデル像は、前記車両とは異なる場所の撮像部により撮像された前記車両の利用者とは異なる利用者の像である、
    請求項1に記載の車両の画像提供システム。
  9. コンピュータが、
    車両とは異なる位置に存在する前記車両外の機器の利用者が装着するヘッドマウントディスプレイ装置の視線センサによって検出された前記利用者の視線の動きに基づいて、車両に搭載された撮像部の遠隔操作を行い、
    前記車両外の機器と車両外の機器と通信接続する通信部との間の接続状況を検知した接続状況に基づき、前記遠隔操作された前記撮像部により撮像された画像の送信を許可し
    人物の仮想像を発生させる表示部が、前記通信部の作動状態において、前記車両内の在席状態を検知する在席検知部が検知した前記車両内の在席状態に基づき、前記仮想像の表示態様を制御し、
    前記通信部が、前記画像の送信が許可されたとき、前記撮像部によって撮像された画像を前記車両外の機器に送信する、
    車両の画像提供方法。
JP2020007766A 2017-06-16 2020-01-21 車両の画像提供システム、および車両の画像提供方法 Active JP7209651B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017118918 2017-06-16
JP2017118918 2017-06-16

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019525460A Division JPWO2018230563A1 (ja) 2017-06-16 2018-06-12 車両の画像提供システム、サーバーシステムおよび車両の画像提供方法

Publications (2)

Publication Number Publication Date
JP2020080542A JP2020080542A (ja) 2020-05-28
JP7209651B2 true JP7209651B2 (ja) 2023-01-20

Family

ID=64660921

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019525460A Withdrawn JPWO2018230563A1 (ja) 2017-06-16 2018-06-12 車両の画像提供システム、サーバーシステムおよび車両の画像提供方法
JP2020007766A Active JP7209651B2 (ja) 2017-06-16 2020-01-21 車両の画像提供システム、および車両の画像提供方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019525460A Withdrawn JPWO2018230563A1 (ja) 2017-06-16 2018-06-12 車両の画像提供システム、サーバーシステムおよび車両の画像提供方法

Country Status (5)

Country Link
US (1) US11397322B2 (ja)
JP (2) JPWO2018230563A1 (ja)
CN (1) CN110741631A (ja)
DE (1) DE112018003025T5 (ja)
WO (1) WO2018230563A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11107281B2 (en) 2018-05-18 2021-08-31 Valeo Comfort And Driving Assistance Shared environment for vehicle occupant and remote user
JP7271251B2 (ja) * 2019-03-22 2023-05-11 日産自動車株式会社 情報処理装置及び情報処理方法
US11924393B2 (en) 2021-01-22 2024-03-05 Valeo Comfort And Driving Assistance Shared viewing of video among multiple users

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244886A (ja) 1999-01-20 2000-09-08 Canon Inc コンピュータ会議システム、コンピュータ処理装置、コンピュータ会議を行う方法、コンピュータ処理装置における処理方法、ビデオ会議システム、ビデオ会議を行う方法、ヘッドホン
US20120293506A1 (en) 2009-11-10 2012-11-22 Selex Sistemi Integrati S.P.A. Avatar-Based Virtual Collaborative Assistance
JP2014225801A (ja) 2013-05-16 2014-12-04 株式会社ニコン 会議システム、会議方法およびプログラム
US20170013188A1 (en) 2014-09-19 2017-01-12 Be Topnotch, Llc Smart vehicle sun visor

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08336128A (ja) * 1995-04-05 1996-12-17 Matsushita Electric Ind Co Ltd 映像視聴装置
JP4076747B2 (ja) 2001-08-24 2008-04-16 アルパイン株式会社 Tv電話システム及びtv電話接続方法
JP2007074081A (ja) * 2005-09-05 2007-03-22 Denso Corp 車載用通信装置
JP2011075848A (ja) 2009-09-30 2011-04-14 Tokyo Metropolitan Government 情報表示システム
WO2012033095A1 (ja) * 2010-09-06 2012-03-15 国立大学法人東京大学 車両システム
US9426358B2 (en) 2014-03-11 2016-08-23 Nokia Technologies Oy Display of video information
CN106405836A (zh) 2015-07-28 2017-02-15 本田技研工业株式会社 车辆显示装置以及车辆显示方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244886A (ja) 1999-01-20 2000-09-08 Canon Inc コンピュータ会議システム、コンピュータ処理装置、コンピュータ会議を行う方法、コンピュータ処理装置における処理方法、ビデオ会議システム、ビデオ会議を行う方法、ヘッドホン
US20120293506A1 (en) 2009-11-10 2012-11-22 Selex Sistemi Integrati S.P.A. Avatar-Based Virtual Collaborative Assistance
JP2014225801A (ja) 2013-05-16 2014-12-04 株式会社ニコン 会議システム、会議方法およびプログラム
US20170013188A1 (en) 2014-09-19 2017-01-12 Be Topnotch, Llc Smart vehicle sun visor

Also Published As

Publication number Publication date
DE112018003025T5 (de) 2020-03-12
US20200159014A1 (en) 2020-05-21
CN110741631A (zh) 2020-01-31
WO2018230563A1 (ja) 2018-12-20
JP2020080542A (ja) 2020-05-28
US11397322B2 (en) 2022-07-26
JPWO2018230563A1 (ja) 2020-02-27

Similar Documents

Publication Publication Date Title
CN108973993B (zh) 车辆控制系统、车辆控制方法及存储介质
CN110709271B (zh) 车辆控制系统、车辆控制方法及存储介质
CN108973682B (zh) 车辆控制系统、车辆控制方法及存储介质
JP7209651B2 (ja) 車両の画像提供システム、および車両の画像提供方法
CN108973988B (zh) 车辆控制系统、车辆控制方法及存储介质
CN110709272B (zh) 车辆控制系统、车辆控制方法及存储介质
CN108973857A (zh) 车辆控制系统、车辆控制方法及存储介质
CN111837175B (zh) 图像显示系统、信息处理装置、信息处理方法、程序和移动体
WO2019116784A1 (ja) 情報処理装置、移動体、制御システム、情報処理方法及びプログラム
CN110603166A (zh) 车辆控制系统、车辆控制方法及车辆控制程序
JP7382327B2 (ja) 情報処理装置、移動体、情報処理方法及びプログラム
CN108973989B (zh) 车辆控制系统、车辆控制方法及存储介质
US20180182261A1 (en) Real Time Car Driving Simulator
WO2020129688A1 (ja) 車両制御装置、車両制御方法、車両、情報処理装置、情報処理方法、及び、プログラム
WO2020116194A1 (ja) 情報処理装置、情報処理方法、プログラム、移動体制御装置、及び、移動体
KR20220083675A (ko) 표시 시스템, 표시 장치, 표시 방법 및 이동 장치
JP7127636B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP2021018636A (ja) 車両遠隔指示システム
WO2021131789A1 (ja) 車両
JP2022104107A (ja) 車両遠隔操作システム及び車両遠隔操作方法
WO2024009829A1 (ja) 情報処理装置、情報処理方法および車両制御システム
WO2021256483A1 (ja) 制御装置、投影システム、制御方法及びプログラム
WO2020116204A1 (ja) 情報処理装置、情報処理方法、プログラム、移動体制御装置、及び、移動体
KR20230091870A (ko) 카메라 모듈, 정보 처리 시스템, 정보 처리 방법 및 정보 처리 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220815

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230110

R150 Certificate of patent or registration of utility model

Ref document number: 7209651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150