JP2019185613A - 部品情報提供方法 - Google Patents

部品情報提供方法 Download PDF

Info

Publication number
JP2019185613A
JP2019185613A JP2018078636A JP2018078636A JP2019185613A JP 2019185613 A JP2019185613 A JP 2019185613A JP 2018078636 A JP2018078636 A JP 2018078636A JP 2018078636 A JP2018078636 A JP 2018078636A JP 2019185613 A JP2019185613 A JP 2019185613A
Authority
JP
Japan
Prior art keywords
component
vehicle
captured image
terminal device
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018078636A
Other languages
English (en)
Inventor
道一郎 土屋
Doichiro Tsuchiya
道一郎 土屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Computer Engineering and Consulting Ltd
Original Assignee
Toyota Motor Corp
Computer Engineering and Consulting Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp, Computer Engineering and Consulting Ltd filed Critical Toyota Motor Corp
Priority to JP2018078636A priority Critical patent/JP2019185613A/ja
Publication of JP2019185613A publication Critical patent/JP2019185613A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】車載部品の情報を提供する技術において撮像画像から車載部品を精度良く特定する技術を提供する。【解決手段】車載部品を撮像する端末装置12から撮像画像を受け取って、車載部品に関する情報を端末装置12に送信する部品情報提供装置10において実行される部品情報提供方法であって、端末装置12に関連付けられた車種情報に対応する部品モデルデータを用いて、端末装置12から受け取った撮像画像に含まれる車載部品を特定するステップと、特定した車載部品に対応する応答データを取得するステップと、取得した応答データを端末装置12に送信するステップと、を含む。特定するステップにおいて、部品モデルデータとして異なる視点位置からの複数の部品モデル画像を用いて車載部品を特定する。【選択図】図2

Description

本発明は、車載部品について説明するための情報を提供する部品情報提供方法に関する。
特許文献1には、携帯端末のカメラで撮像された車室内のレバーやボタンなどの対象物を管理サーバで識別する対象物識別システムが開示されている。この携帯端末は、自端末が基準位置にあることを検出する基準位置検出手段と、自端末の基準位置からの変位量を検出する変位検出手段を有し、管理サーバは、撮影画像とのマッチングを行うためのテンプレート画像と、対象物の配置を表す配置情報と、携帯端末の変位量と、カメラが撮像した画像にもとづいて対象物を識別する対象物識別手段を有する。
特開2014−164407号公報
特許文献1に開示される技術において、撮像画像上の対象物は、カメラの撮像位置によって異なる形で示されるため、撮像画像上の対象物とテンプレート画像に示す対象物の形状が大きく異なる場合、対象物を識別する精度が低下し得る。
本発明の目的は、車載部品の情報を提供する技術において撮像画像から車載部品を精度良く特定する技術を提供することにある。
上記課題を解決するために、本発明のある態様は、車載部品を撮像する端末装置から撮像画像を受け取って、車載部品に関する情報を端末装置に送信する部品情報提供装置において実行される部品情報提供方法であって、端末装置に関連付けられた車種情報に対応する部品モデルデータを用いて、端末装置から受け取った撮像画像に含まれる車載部品を特定するステップと、特定した車載部品に対応する応答データを取得するステップと、取得した応答データを端末装置に送信するステップと、を含む。特定するステップにおいて、部品モデルデータとして異なる視点位置からの複数の部品モデル画像を用いて車載部品を特定する。
この態様によると、異なる視点位置からの複数の部品モデル画像を用いて車載部品を特定するため、撮像位置によって撮像画像に含まれる車載部品の形状が異なっても、車載部品を精度良く特定できる。
本発明によれば、車載部品の情報を提供する技術において撮像画像から車載部品を精度良く特定する技術を提供できる。
部品情報提供システムについて説明するための図である。 部品情報提供システムの機能構成を説明するための図である。 車載部品の部品情報を付加した撮像画像について説明するための図である。 車載部品群の部品情報を付加した撮像画像について説明するための図である。
図1は、部品情報提供システム1について説明するための図である。部品情報提供システム1は、部品情報提供装置10および端末装置12により構成される。部品情報提供システム1は、ユーザの端末装置12により撮像された撮像画像を受け取って、撮像画像に含まれる車載部品を説明するための情報をユーザに提供する。
端末装置12は、ユーザの操作によって車両に設けられた車載部品を撮像し、撮像画像を部品情報提供装置10に送る。部品情報提供装置10は、撮像画像を受信して、撮像画像に含まれる車載部品を特定して、車載部品に対応する応答データを端末装置12に送る。端末装置12は、応答データを受信して、応答データをもとに車載部品を説明するための部品情報を表示する。
車載部品は、例えば、車室内に設けられたスイッチおよび計器であり、エンジンルーム内の部品である。車載部品は、例えば自動車、船舶、航空機、列車などに搭載された部品である。部品情報は、車載部品の名称や機能説明を含む。
ユーザは、不明な車載部品がある場合に、その車載部品を端末装置12で撮像させ、撮像画像を部品情報提供装置10に送信させれば、車載部品の部品情報を見ることが可能になる。
図2は、部品情報提供システム1の機能構成を説明するための図である。図2において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、回路ブロック、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
部品情報提供装置10は、サーバ側通信部20、特定部22、部品モデルデータ保持部24および応答データ保持部26を有する。端末装置12は、端末側通信部30、撮像画像取得部32、部品情報保持部34および表示制御部36を有する。
端末装置12は、車載部品の部品情報を提供するためのアプリケーションプログラムを有しており、アプリケーションプログラムには、端末装置12を所有するユーザが運転する車両の車種が登録されている。部品情報提供装置10は、そのアプリケーションプログラムを有する端末装置12の端末IDを保持し、端末装置12から送信された情報を端末IDにより識別する。
撮像画像取得部32は、端末装置12に設けられるカメラにより撮像した撮像画像を取得する。この撮像画像は、車載部品に向かって撮像されたものである。端末側通信部30は、撮像画像取得部32により取得した撮像画像を車種情報とともにサーバ側通信部20に送る。また、端末側通信部30は、撮像画像の解析結果として、撮像画像に含まれる車載部品に関する情報を受け取る。
部品情報保持部34は、車載部品について説明する部品情報を保持する。部品情報は、車種毎に各車載部品の説明をテキストで保持される。部品情報は、各車載部品毎の説明に限らず、複数の車載部品をまとめて説明する上位階層の車載部品群の説明を含む。例えば、部品情報は、上位階層の説明として、オーディオのスイッチ群、空調機能のスイッチ群など、車載部品群の説明を含む。上位階層の車載部品群の説明と、下位階層の個別の車載部品の説明は関連付けられている。
表示制御部36は、撮像画像をもとに画像を生成して、生成画像を端末装置12のディスプレイに表示させる制御を行う。表示制御部36は、撮像画像取得部32から取得した撮像画像に、部品情報保持部34から取得した車載部品の情報を示す付加画像を重ねて、画像を生成する。撮像画像上に付加される付加画像には、車載部品に関する情報の説明ページに移動させるハイパーリンクが設定されてよい。その場合、表示制御部36は、部品情報の説明ページと付加画像とを対応付ける情報を保持する。
表示制御部36は、撮像画像に付加する車載部品の情報を、端末側通信部30により受信された撮像画像の解析結果にもとづいて部品情報保持部34から取得する。撮像画像の解析結果には、その撮像画像に含まれる車載部品に対応する応答データが含まれている。応答データは、車載部品と、部品情報保持部34に保持されるその車載部品の部品情報とを対応付ける。
部品情報提供装置10のサーバ側通信部20は、端末側通信部30から撮像画像および車種情報を受け取る。サーバ側通信部20は、撮像画像の解析結果として応答データを端末側通信部30に送る。
特定部22は、画像解析処理によって撮像画像に含まれる車載部品を特定する。特定部22は、部品モデルデータ保持部24に保持される部品モデルデータを用いて、撮像画像に含まれる車載部品を特定する。特定部22は、特定した車載部品に対応する応答データを応答データ保持部26から取得し、サーバ側通信部20を介して端末側通信部30に送る。
部品モデルデータ保持部24は、車種情報毎に車載部品の部品モデルデータを保持する。部品モデルデータは、車載部品を撮像した画像データであってよく、車載部品の特徴を示す特徴量であってよい。車載部品の特徴量は、他の車載部品や特徴点との位置関係を示す情報や、車載部品に記されている記号の形状データなどであってよい。
部品モデルデータは、1つの車載部品に対して、異なる視点位置から見た複数の部品モデル画像を含む。例えば、部品モデルデータは、センターコンソールに設けられる車載部品に対して、正面の部品モデル画像と、運転席側から見た部品モデル画像と、助手席側から見た部品モデル画像と、上方から見た部品モデル画像と、下方から見た部品モデル画像とを含む。これにより、取得された撮像画像の撮像位置が異なることで、撮像画像に含まれる車載部品の形状が、正面から見た車載部品と異なっていても、特定部22は車載部品を精度良く特定できる。
応答データ保持部26は、車載部品毎に車載部品に関する情報を応答データとして保持する。応答データは、特定部22により特定された車載部品と、部品情報保持部34に保持される部品情報とを対応づけるための識別情報である。
特定部22は、端末装置12に関連付けられた車種情報に対応する部品モデルデータを用いて、端末装置12から受け取った撮像画像に含まれる車載部品を特定する。これにより、車種によって車載部品が異なっても、精度良く特定できる。
さらに、特定部22は、部品モデルデータとして異なる視点位置からの複数の部品モデル画像を用いて車載部品を特定する。これにより、車載部品の撮像位置が異なっても、車載部品を精度良く特定できる。
特定部22は、特定した車載部品に対応する応答データを取得し、端末側通信部30は、取得された応答データを撮像画像の解析結果としてサーバ側通信部20に送る。また、特定部22は、特定した車載部品の撮像画像上の位置情報を算出し、端末側通信部30は、車載部品に対応する応答データとともに、車載部品の位置情報をサーバ側通信部20に送る。
図3は、車載部品の部品情報を付加した撮像画像について説明するための図である。図3(a)には生成前の撮像画像40aを示し、図3(b)には撮像画像40aに部品情報を付加した生成画像40bを示す。
図3(a)に示す撮像画像40aには、車載部品である第1スイッチ42の全形が示される。この撮像画像40aが部品情報提供装置10に送信され、特定部22が第1スイッチ42を特定して、第1スイッチ42に対応する応答データを取得する。第1スイッチ42に対応する応答データが端末装置12に送信されて、その応答データをもとに表示制御部36は部品情報を付加した生成画像40bを生成する。
図3(b)に示す生成画像40bには、第1スイッチ42の部品情報を示す付加画像44が撮像画像40aに重ねて表示されている。図3(b)には、部品情報として名称を示すが、第1スイッチ42の機能の説明を示してもよい。付加画像44の位置は、特定部22により算出された第1スイッチ42の位置情報にもとづいて設定される。
また、付加画像44には、第1スイッチ42の機能を説明するテキストページに移動するハイパーリンクが設定されてよい。ユーザが端末装置12に表示される付加画像44をタッチ操作すると、端末装置12が付加画像44へのタッチ操作を検出して、第1スイッチ42の機能を説明するテキストページを表示させる。このようにユーザは、端末装置12によって第1スイッチ42を撮像すれば、第1スイッチ42の情報を知ることができる。
図4は、車載部品群の部品情報を付加した撮像画像について説明するための図である。図4(a)には生成前の撮像画像46aを示し、図4(b)には撮像画像46aに部品情報を付加した生成画像46bを示す。
図4(a)に示す撮像画像46aには第1スイッチ42を含む第1スイッチ群50と、第2スイッチ群52の全形が示される。第1スイッチ群50および第2スイッチ群52は、複数のスイッチをそれぞれ含む。
特定部22は、第1スイッチ群50および第2スイッチ群52の全形が撮像画像46aに含まれることを特定して、第1スイッチ群50に対応する応答データと、第2スイッチ群52に対応する応答データを取得する。サーバ側通信部20は、第1スイッチ群50に対応する応答データおよび第1スイッチ群50の位置情報と、第2スイッチ群52に対応する応答データおよび第2スイッチ群52の位置情報とを端末側通信部30に送信する。特定部22は、第1スイッチ群50の部品モデルデータ、第2スイッチ群52の部品モデルデータを用いて車載部品を特定してよい。表示制御部36は、応答データおよび位置情報をもとに部品情報を付加した生成画像46bを生成する。
図4(b)に示す生成画像46bには、第1スイッチ群50部品情報を示す第1付加画像48と、第2スイッチ群52の部品情報を示す第2付加画像54とが撮像画像46aに重ねて表示されている。
第1付加画像48および第2付加画像54には、テキストページに移動するハイパーリンクが設定されてよい。例えば、ユーザが端末装置12に表示される第1付加画像48をタッチ操作すると、第1スイッチ群50に含まれる各車載部品の説明するテキストページが表示されてよい。
図4(b)に示す生成画像46bでは、図3(b)に示す生成画像40bと比べて、複数の車載部品をまとめて示す上位階層の第1付加画像48が表示される。これにより、ユーザが情報を所望する車載部品に焦点をあてて撮像しなくても、撮像画像に所望の車載部品が含まれていれば、所望の車載部品の情報にアクセス可能な情報を提供できる。
なお実施例はあくまでも例示であり、各構成要素の組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
実施例では、端末側通信部30が撮像画像とともに車種情報をサーバ側通信部20に送信する態様を示したが、この態様に限られない。例えば、端末側通信部30は、ユーザの登録時に車種情報をサーバ側通信部20に予め送信してよく、撮像画像の送信時に車種情報を送信しなくてもよい。この場合は、部品情報提供装置10に端末装置12の端末IDに関連付けられた車種情報が予め保持される。また、端末側通信部30は、撮像画像の送信毎にユーザに選択された車種情報を送信してもよい。いずれにしても、部品情報提供装置10は、端末装置12に関連付けられた車種情報を取得できる。
また、実施例では、端末装置12が部品情報保持部34を有する態様を示したが、この態様に限られず、部品情報提供装置10が有してもよい。サーバ側通信部20は、特定部22により特定された車載部品の部品情報を端末側通信部30に送信する。また、部品情報提供装置10が撮像画像に重ねる付加画像を生成して端末側通信部30に送信してもよい。この場合、サーバ側通信部20から送られる応答データが、特定された車載部品の部品情報を含む。
1 部品情報提供システム、 10 部品情報提供装置、 12 端末装置、 20 サーバ側通信部、 22 特定部、 24 部品モデルデータ保持部、 26 応答データ保持部、 30 端末側通信部、 32 撮像画像取得部、 34 部品情報保持部、 36 表示制御部、 40a 撮像画像、 40b 生成画像。

Claims (1)

  1. 車載部品を撮像する端末装置から撮像画像を受け取って、車載部品に関する情報を前記端末装置に送る部品情報提供装置において実行される部品情報提供方法であって、
    前記端末装置に関連付けられた車種情報に対応する部品モデルデータを用いて、前記端末装置から受け取った撮像画像に含まれる車載部品を特定するステップと、
    特定した車載部品に対応する応答データを取得するステップと、
    取得した応答データを前記端末装置に送るステップと、を含み、
    前記特定するステップにおいて、部品モデルデータとして異なる視点位置からの複数の部品モデル画像を用いて車載部品を特定することを特徴とする部品情報提供方法。
JP2018078636A 2018-04-16 2018-04-16 部品情報提供方法 Pending JP2019185613A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018078636A JP2019185613A (ja) 2018-04-16 2018-04-16 部品情報提供方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018078636A JP2019185613A (ja) 2018-04-16 2018-04-16 部品情報提供方法

Publications (1)

Publication Number Publication Date
JP2019185613A true JP2019185613A (ja) 2019-10-24

Family

ID=68341465

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018078636A Pending JP2019185613A (ja) 2018-04-16 2018-04-16 部品情報提供方法

Country Status (1)

Country Link
JP (1) JP2019185613A (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004326382A (ja) * 2003-04-24 2004-11-18 Suzuki Motor Corp 部品認識システム及び方法並びに部品認識用プログラム
JP2008170331A (ja) * 2007-01-12 2008-07-24 Toyota Motor Corp 組み付け検査方法
JP2014164407A (ja) * 2013-02-22 2014-09-08 Toyota Motor Corp 対象物識別システム、対象物識別方法
JP2014215845A (ja) * 2013-04-26 2014-11-17 株式会社デンソーアイティーラボラトリ 操作支援方法、操作支援システム、操作支援サーバ及び操作支援プログラム
US20150061841A1 (en) * 2013-09-02 2015-03-05 Lg Electronics Inc. Mobile terminal and method of controlling the same
JP2015043180A (ja) * 2013-08-26 2015-03-05 ブラザー工業株式会社 画像処理プログラム
JP2015118556A (ja) * 2013-12-18 2015-06-25 マイクロソフト コーポレーション コントロールデバイスのための拡張現実オーバーレイ
JP2017049815A (ja) * 2015-09-02 2017-03-09 トヨタ自動車株式会社 物体認識方法、物体認識装置及びプログラム
JP2018036811A (ja) * 2016-08-31 2018-03-08 三菱自動車工業株式会社 車両の情報提供システム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004326382A (ja) * 2003-04-24 2004-11-18 Suzuki Motor Corp 部品認識システム及び方法並びに部品認識用プログラム
JP2008170331A (ja) * 2007-01-12 2008-07-24 Toyota Motor Corp 組み付け検査方法
JP2014164407A (ja) * 2013-02-22 2014-09-08 Toyota Motor Corp 対象物識別システム、対象物識別方法
JP2014215845A (ja) * 2013-04-26 2014-11-17 株式会社デンソーアイティーラボラトリ 操作支援方法、操作支援システム、操作支援サーバ及び操作支援プログラム
JP2015043180A (ja) * 2013-08-26 2015-03-05 ブラザー工業株式会社 画像処理プログラム
US20150061841A1 (en) * 2013-09-02 2015-03-05 Lg Electronics Inc. Mobile terminal and method of controlling the same
JP2015118556A (ja) * 2013-12-18 2015-06-25 マイクロソフト コーポレーション コントロールデバイスのための拡張現実オーバーレイ
JP2017049815A (ja) * 2015-09-02 2017-03-09 トヨタ自動車株式会社 物体認識方法、物体認識装置及びプログラム
JP2018036811A (ja) * 2016-08-31 2018-03-08 三菱自動車工業株式会社 車両の情報提供システム

Similar Documents

Publication Publication Date Title
US10679420B2 (en) Augmented reality (AR) remote vehicle assistance
JP4207941B2 (ja) 画像表示装置及び画像生成装置
US9842259B2 (en) Captured image recognition device, captured image recognition system, and captured image recognition method
KR20170081920A (ko) 차량과 관련된 영상 정보를 공유하는 방법 및 장치
CN105530607A (zh) 用户推荐方法、装置和系统
CN104567903A (zh) 获取导航信息的方法及装置
JP2014164316A (ja) 車載カメラを用いた情報提供システム
CN111199180A (zh) 信息处理系统、程序和信息处理方法
WO2016035281A1 (ja) 車載システム、情報処理方法、およびコンピュータプログラム
TW201741630A (zh) 圖像的處理方法、裝置、設備及用戶介面系統
CN110059530A (zh) 面部位置检测装置
CN114815779B (zh) 基于ar与vr的汽车远程交互诊断方法、系统及其存储介质
KR20160005149A (ko) 차량용 블랙박스를 이용한 교통위반 신고 시스템 및 그 신고 방법
JP2020030532A (ja) 制御装置及びプログラム
JP2019185613A (ja) 部品情報提供方法
JP2014222410A (ja) 携帯表示装置及び表示プログラム並びに操作案内システム
CN111325088A (zh) 信息处理系统、程序以及信息处理方法
KR101964227B1 (ko) 군사 작전 통제 장치 및 방법
CN112740287A (zh) 行车记录仪以及图像存储系统
JP6720902B2 (ja) 車載機器の制御装置及び車載機器制御用のアプリケーションソフトウェア
JP2016038682A (ja) 情報処理装置及びその制御方法、サーバ装置及びその制御方法、コンピュータプログラム
JP2019169787A (ja) 撮像装置および撮像システム
KR20190048738A (ko) 증강현실용 컨텐츠 제공 장치 및 방법
JP2018180728A (ja) ハザードマップ作成システム、ハザードマップ作成装置及びハザードマップ作成方法
JP2016157241A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220511

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220628