JP2021179342A - 情報処理方法、プログラム及び車載装置 - Google Patents

情報処理方法、プログラム及び車載装置 Download PDF

Info

Publication number
JP2021179342A
JP2021179342A JP2020084090A JP2020084090A JP2021179342A JP 2021179342 A JP2021179342 A JP 2021179342A JP 2020084090 A JP2020084090 A JP 2020084090A JP 2020084090 A JP2020084090 A JP 2020084090A JP 2021179342 A JP2021179342 A JP 2021179342A
Authority
JP
Japan
Prior art keywords
information
unit
sign
recognition
attention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020084090A
Other languages
English (en)
Other versions
JP6976378B2 (ja
Inventor
智信 青山
Tomonobu Aoyama
竜生 佐々木
Tatsuo Sasaki
隆元 鈴木
Takamoto Suzuki
雅彦 村上
Masahiko Murakami
マカリスター スコット
Mccallister Scott
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HI KK
Original Assignee
HI KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HI KK filed Critical HI KK
Priority to JP2020084090A priority Critical patent/JP6976378B2/ja
Publication of JP2021179342A publication Critical patent/JP2021179342A/ja
Application granted granted Critical
Publication of JP6976378B2 publication Critical patent/JP6976378B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】交通標識及び看板などの種々の表示をユーザにより好適に提供する。【解決手段】本発明の一実施形態は、情報処理方法によって例示される。本情報処理方法では、コンピュータが、車両の外部の画像から認識された表示の認識情報を取得することと、前記車両のユーザが注目する注目情報を取得することと、取得した前記認識情報の中から前記注目情報に適合する認識情報を抽出して出力することとを実行する。【選択図】図7

Description

本発明は、道路等に設置されている交通標識及び看板などの情報を処理する情報処理方法、プログラム及び車載装置に関する。
特許文献1は、交通標識の識別装置の一例を開示する。この識別装置は、まず、車両の前方を撮影して取得した映像情報から交通標識を抽出し、更にこの交通標識の種別を識別する。そして、その識別装置は、抽出した交通標識を、その種別及び予め指定された国情報で特定される交通標識認識情報に変換して出力する。
特許第4482794号公報
一般に、車両が走行する道路には、様々な交通標識の他、例えば店舗等の看板がある。これら交通標識及び看板などの表示に対する注目度は、車両の運転者等に応じて大きく異なる。本発明は、交通標識及び看板などの種々の表示をユーザにより好適に提供することを目的とする。
本発明の実施の形態の一態様は、情報処理方法によって例示される。本情報処理方法では、コンピュータが、車両のユーザが注目する注目情報を取得することと、前記車両の外部の画像内の表示について取得した認識情報の中から前記注目情報に適合する認識情報を抽出して出力することとを実行する。
本発明の実施の形態の他の態様は、上記情報処理方法をコンピュータに実行させるプログラムによっても例示される。さらにまた、本発明の実施の形態の更なる他の態様は、車載装置によっても例示される。この車載装置は、車両のユーザが注目する注目情報を取得する取得部と、前記車両の外部の画像内の表示について取得した認識情報の中から前記注目情報に適合する認識情報を抽出して出力する処理部とを備える。
本情報処理方法によれば、交通標識及び看板などの種々の表示をユーザにより好適に提供することができる。
図1は、本実施の形態に係る車載装置を含むシステムの構成を示す図である。 図2は、図1の車載装置の制御構成を示すブロック図である。 図3は、図1の車載装置の制御部での処理のフローチャートである。 図4は、図1の車載装置に取得される画像の一例である。 図5A及び図5Bは、図4の画像のうちの表示であり、図5Cは別の表示例である。 図6は、図1の車載装置の制御部での処理のフローチャートである。 図7は、図1の車載装置の制御部での処理のフローチャートである。 図8は、図1の車載装置の制御部での処理のフローチャートである。 図9は、図1の車載装置の制御部での処理のフローチャートである。 図10は、図1の車載装置の制御部での処理のフローチャートである。 図11は、図1の車載装置の制御部での処理のフローチャートである。 図12は、図1の車載装置の制御部での処理のフローチャートである。
以下、本発明に係る実施形態を添付図に基づいて説明する。同一の部品(又は構成)には同一の符号を付してあり、それらの名称及び機能も同じである。したがって、それらについての詳細な説明は繰返さない。
図1は、本実施の形態に係る、情報処理装置としての車載装置10を含むシステムSの構成を示す図である。図2は、車載装置10の制御構成を示すブロック図である。なお、以下では、車載装置10の車両Cへの適用について説明するが、車載装置は、車両以外の移動体に適用されてもよい。
車載装置10は、情報処理装置であり、車両Cに搭載されていて、システムSの一部として機能する。車載装置10には、コントローラエリアネットワーク(CAN)を介して、種々の装置が接続されている。車載装置10には、車両Cの動力源であるエンジン及び/又はモータの駆動を制御する電子制御ユニット(ECU)も接続され得る。また、車載装置10には、ナビゲーション装置12も接続されていて連携する。ナビゲーション装置12は、GPS受信部12Gを含む。図1では、車載装置10に、外部機器として、車速センサ14、舵角センサ16、アクセルポジションセンサ18、ブレーキセンサ20等のセンサ類の他、車外を撮影する車外カメラ22、マイク24、スピーカ26、表示装置28、及び、通信モジュール30が更に接続されている。通信モジュール30を介して、車載装置10は、外部の装置と通信可能である。車載装置10は、車両Cに搭載されたバッテリから供給される電力で作動する。なお、上記センサ類の1つ又は複数は、車両Cに予め搭載されているセンサであってもよく、車載装置10の搭載時に新たに設けられるものであってもよい。表示装置28は、ナビゲーション装置12の表示装置を兼ねているが、ナビゲーション装置12と分離独立した表示装置であってもよく、例えば、車両Cのフロントウインドウ等に投影して表示するものであってもよい。
車載装置10は、制御部40を備える。制御部40は、上記センサ類12G、14、16、18、20、車外カメラ22、マイク24等から取得した情報に基づいて、車載装置10の制御を行うコンピュータである。制御部40は、車載装置10の作動などを制御する制御手段の一例である。
制御部40は、CPUと、主記憶部とを有し、プログラムにより情報処理を実行する。CPUはプロセッサともいう。ただし、CPUは、単一のプロセッサに限定される訳ではなく、マルチプロセッサ構成であってもよい。また、単一のソケットで接続される単一のCPUがマルチコア構成を有していてもよい。上記各部の少なくとも一部の処理は、CPU以外のプロセッサ、例えば、Digital Signal Processor(DSP)、Graphics Processing Unit(GPU)等の専用プロセッサで行われてもよい。また、上記各部の少なくとも一部の処理は、集積回路(IC)、その他のディジタル回路であってもよい。また、上記各部の少なくとも一部にアナログ回路が含まれてもよい。制御部40の主記憶部は主記憶装置の一例である。制御部40におけるCPUは、その主記憶部に実行可能に展開されたコンピュータプログラムを実行し、各種機能を提供する。制御部40における主記憶部は、CPUが実行するコンピュータプログラム及び/又はデータ等を記憶する。制御部40における主記憶部は、Dynamic Random Access Memory(DRAM)、Static Random Access Memory(SRAM)、Read Only Memory(ROM)等である。
制御部40は、記憶部42と接続されている。記憶部42は、所謂外部記憶部であり、制御部40の主記憶部を補助する記憶領域として使用され、制御部40のCPUが実行するコンピュータプログラム及び/又はデータ等を記憶する。記憶部42は、ハードディスクドライブ、Solid State drive(SSD)等である。
ナビゲーション装置12は、GPS受信部12Gから取得した位置情報に基づいて既知の予測技術でルートを検索して、検索したルートを運転者に案内する。この案内は、スピーカ26からの音声及び/又は表示装置28への表示により行われ得る。ナビゲーション装置12は、通信モジュール30を介して、外部の装置等と通信可能であり、地図情報、交通情報などを取得することができる。例えば、ナビゲーション装置12は、走行する又は走行予定の道路の制限速度、Uターン禁止、追い越し禁止、駐車禁止、一時停止などの情報を取得してもよい。
位置情報受信部としてのGlobal Positioning System(GPS)受信部12Gは、地球の周囲を周回する複数の人工衛星であるGPS衛星からの信号を受信する。制御部40は、GPS受信部12Gが受信した信号に基づいて車載装置10又は車両Cの位置情報を取得する。なお、衛星測位システムつまりNavigation Satellite System(NSS)はGPSに限られない。種々の衛星測位システムからの信号に基づいて、位置情報が検出されてもよい。NSSは、全地球航法衛星システムに限定されず、準天頂衛星システム(Quasi-Zenith Satellite System)を含み得、例えば、欧州の“ガリレオ”や、GPSと一体運用される日本国の“みちびき”を含み得る。
車速センサ14は車両の車速を検出するためのセンサである。舵角センサ16は、運転者が操作するハンドルの舵角を検出するためのセンサである。アクセルポジションセンサ18は、運転者によって操作されるアクセルペダルの踏み込み量に対応する位置を検出するためのセンサである。ブレーキセンサ20は、運転者によって操作されるブレーキペダルの踏み込みを検出するためのセンサであり、例えばブレーキスイッチであってもよい。
車外カメラ22は、ここでは車両Cの外部、特に車両Cの前方を撮影する撮影装置である。カメラ22は、Charged-Coupled Devices(CCD)、Metal-Oxide-Semiconductor(MOS)あるいはComplementary Metal-Oxide-Semiconductor(CMOS)等のイメージセンサを用いた撮影装置が用いられ得る。カメラ22は1つ又は複数設けられ得る。マイク24は、運転者等の音声を入力するための入力装置の一例である。スピーカ26は合成音声等の音を出力する出力装置の一例である。表示装置28は、例えば、液晶ディスプレイ、エレクトロルミネッセンスパネル等である。ここでは、表示装置28は、タッチパネルを含み、出力装置の機能に加えて、実質的に入力装置の機能をも備える。
制御部40は、機能モジュールとして、第1取得部50、第2取得部60、検索処理部70、運転処理部80の各機能モジュールを含む。第1取得部50は、それぞれ機能モジュールである、画像取得部51、画像認識部52、第1記憶部53を含む。第2取得部60は、それぞれ機能モジュールである、情報取得部61、意図理解部62、第2記憶部63、促進部64、問合せ受付部65を含む。検索処理部70は、それぞれ機能モジュールである、抽出処理部71、検索出力部72を含む。そして、運転処理部80は、それぞれ機能モジュールである、履歴取得部81、標識抽出部82、不適合判定部83、標識出力部84、警告出力部85、設定部86、回答部87を含む。各機能モジュールは、例えば、主記憶部及び/又は記憶部42に記憶されたプログラムを制御部40つまりそのうちのCPUによって実行することで実現される。ただし、機能モジュールの一部は、他のプロセッサ、ディジタル回路、又はアナログ回路等のハードウェアであってもよい。各機能モジュールは、部、機能部又は手段と言い換えることができる。
第1取得部50は、車両の外部の画像から認識された表示の情報(認識情報)を取得することを実行する。前述のように、第1取得部50は、それぞれ機能モジュールである、画像取得部51、画像認識部52、第1記憶部53を含む。
画像取得部51は、カメラ22で撮影した画像を取得することを実行する。画像は、撮影時刻情報及び位置情報を含む又は伴うとよい。そして、画像取得部51は、取得した画像を画像認識部52に送信する。画像取得部51が取得する画像は、静止画でも、動画でもよい。なお、位置情報は、GPS受信部12Gにより取得される。撮影時刻情報は、カメラ22に設けられるタイマ装置から取得されても、制御部40のタイマ装置から取得されてもよい。
画像認識部52は、取得した画像を解析処理して画像認識を行い、そこに写る表示を認識する。画像認識部52は人工知能(AI)を活用したものであるとよい。ここでいう表示は、商店等の看板、道路標識、地名表示(例えば国境表示)等を含む。そして、画像認識部52は、その表示を分類する分類処理も実行する。例えば、表示は、交通標識ジャンル、看板ジャンル、その他のジャンルに分類されるととともに、更に細かい内容(ジャンル等)に分類され得る。この分類処理では、後述する意図理解部62での解析処理技術が同様に用いられ得る。
第1記憶部53は、画像認識部52が認識した表示の認識情報を取得し、それを記憶部42の認識情報データベース421に記憶させる。認識情報は、その表示と、その意味する内容つまり上記分類とともに、それに関連する画像の撮影時刻情報及びその画像の位置情報を含む。これにより、認識情報データベース421を、ジャンル等の分類、撮影時刻及び/又は位置に応じて検索して、1つ又は複数の認識情報を抽出することが可能になる。
次に、第2取得部60について説明する。第2取得部60は、取得部に対応し、車両の運転者等であるユーザからの入力を処理して、その意図するものを理解し、車両のユーザが注目する情報(注目情報)を取得することを実行する。前述のように、第2取得部60は、それぞれ機能モジュールである、情報取得部61、意図理解部62、第2記憶部63、促進部64、問合せ受付部65を含む。
情報取得部61は、ユーザの入力を認識処理して、情報として取得することを実行する。例えば、ユーザの入力は、マイク24を介して音声で入力される。この音声を既知の音声認識技術でテキスト変換等して、情報を取得する。この音声認識のための種々のデータは記憶部42に記憶されているとよいが、通信モジュール30を介して外部から取得されてもよい。なお、ユーザの入力は、マイク24以外の入力装置、例えば表示装置28を介して行われてもよい。
意図理解部62は、情報取得部61が取得した情報を、例えば記憶部42に記憶する辞書データ及び/又は意図理解器を用いて解析し、その意図するものを理解する処理を実行する。例えば、「レストラン」という入力を取得したとき、意図理解部62は、記憶部42に記憶するデータ等を参照して、交通標識ジャンルではなく、看板ジャンルを注目情報として抽出する。また、解析により、「レストラン」を含むジャンルとして、飲食店ジャンルが抽出される。具体的には、ここでは、記憶部42に記憶されているデータ等では、用語「レストラン」に関連する分類ジャンルとして、大分類の「看板」と、小分類の「飲食店」とが規定されている。よって、意図理解部62は、記憶するデータ等を参照して、「レストラン」という入力に対して、看板ジャンル、飲食店ジャンルという注目情報を抽出することができる。更に、意図理解部62は、種々の辞書データ及び/又は意図理解器を用いるなどして、ユーザの入力から、「3つ前の看板」つまり看板ジャンルのうち3つ前の過去の時間のもののように過去の場所又は時間に関する情報も注目情報として抽出できる。過去の場所に関する情報としては、例えば、「1つ前の交差点の看板」つまり看板ジャンルのうち1つ前の交差点の位置から所定範囲内の位置情報のものを例示できる。このように情報を処理することで、意図理解部62はユーザが注目する注目情報を取得する。意図理解部62は、「3つ前の看板」のような過去の場所又は時間に関する注目情報を取得したとき、促進部64にその情報を送信し、それ以外の注目情報を取得したとき第2記憶部63にその情報を送信する。なお、将来の場所又は時間に関する注目情報を取得したとき、意図理解部62は、第2記憶部63にその注目情報を送信する。
第2記憶部63は、意図理解部62での処理の結果得られたジャンル等を含む注目情報を記憶部42の注目情報データベース422に記憶させる。第2記憶部63は、例えば、意図理解部62での処理の結果得られた看板ジャンル及び飲食店ジャンルを「レストラン」に付して、注目情報データベース422に記憶させる。つまり、ユーザが注目する情報(注目情報)として、「看板」、「飲食店」という情報が記憶される。なお、注目情報データベースの記憶量は、後述するように認識情報データベース421の記憶量と同様に制限されて、同様に更新されてもよい。例えば、ユーザ入力により注目情報データベース422に記憶される注目情報は1つのみとすることも可能であるが、複数であってもよい。ここではユーザ入力により記憶される注目情報は1つのグループのみとして以下、説明する。ただし、ここでいう1つのグループの注目情報とは、1つの注目情報のみ、又は、階層構造を有する複数の注目情報である。例えば看板ジャンルに飲食店ジャンルは含まれ、これらは1つのグループの注目情報を構成し得る。このとき、看板ジャンルは第1注目情報に相当し、飲食店ジャンルは第1注目情報よりも階層的に下位の注目情報である第2注目情報に相当する。第3注目情報、第4注目情報など、更に階層構造で下層の注目情報があってもよい。
更に、第2記憶部63は、後述する設定部86で設定された指摘用の注目情報も記憶部42の注目情報データベース422に記憶させる。この指摘用の注目情報は、ユーザの入力とは無関係であり、つまり上記注目情報とは無関係のものであり、ユーザの入力から取得された注目情報とは別に注目情報データベース422に記憶される。なお、注目情報データベース422への指摘用の注目情報の記憶は、第2記憶部63とは異なる他の機能部により、例えば設定部86により実行されてもよい。指摘用の注目情報は注目情報データベース422とは異なる記憶領域に記憶されてもよい。
促進部64は、意図理解部62が抽出した過去の場所又は時間に関する注目情報に適合する認識情報の抽出を促すように、その情報を検索処理部70に送信する。
問合せ受付部65は、後述する運転処理部80での運転履歴が標識情報に適合しなかったことに基づく処理に伴い、その標識情報の意味内容など、その標識情報に関連する情報(意味情報)の問い合わせ処理を受け付けることを実行する。ここでは、問合せ受付部65は、運転処理部80から取得した標識情報の意味内容についての意味情報の抽出を行うように、その標識情報を注目情報として処理するように検索処理部70に送信する。なお、意味情報は、今現在の運転への影響つまり制約に関する情報であり得る。
次に、検索処理部70について説明する。検索処理部70は、本開示における処理部に相当し、車両の外部の画像内の表示の認識情報つまりその表示について取得した認識情報の中から、取得した注目情報に適合する認識情報を検索し、抽出して、それを出力情報として出力することを実行する。検索処理部70は、それぞれ機能モジュールである、抽出処理部71、検索出力部72を含む。
抽出処理部71は、第1取得部50により取得された認識情報の中から、第2取得部60により取得された注目情報に適合する認識情報を抽出することを実行する。抽出処理部71は、認識情報データベース421から認識情報を読み出すことができる。また、抽出処理部71は、注目情報データベース422から注目情報を読み出すことができ、促進部64から取得した注目情報及び問合せ受付部65から取得した情報も抽出のための情報として処理することができる。例えば、取得した認識情報が2つあり、その一方が交通標識ジャンルのものであり、他方が看板ジャンルのものであるときを考える。このときに、取得した注目情報が看板ジャンルに関するとき、看板ジャンルの認識情報が抽出される。また、抽出処理部71は、問合せ受付部65から送信された標識情報の意味情報を記憶部42に記憶されている交通標識データベース423から抽出する処理を実行する。なお、交通標識データベース423には、交通標識の表示つまりその画像データと、その意味とが関連付けられて記憶されている。例えば、交通標識データベース423において、その画像データ欄には図5Bの表示の画像データが記憶され、この画像データの意味欄には「一時停止」が記憶されている。
検索出力部72は、抽出処理部71が抽出した認識情報の全部又は一部を出力情報として出力する。加えて、検索出力部72は、抽出処理部72が抽出した意味情報を、例えば図5Bの標識の場合には「一時停止」を出力情報として出力する。ここでは、これらの出力は、表示装置28に送信されてその表示部に表示される。これに代えて又はこれに加えて、これらの出力情報の出力は、車載装置10が例えば制御部40が音声変換部及び発話部を有する場合、スピーカ26から音声により行われてもよい。なお、この出力では、抽出した認識情報の中の表示のみが、例えば図5Bの表示の認識情報の場合にはその表示D2のみが出力されてもよい。
次に、運転処理部80について説明する。運転処理部80は、車両の運転履歴を取得してその履歴に応じた処理を実行する。運転処理部80は、それぞれ機能モジュールである、履歴取得部81、標識抽出部82、不適合判定部83、標識出力部84、警告出力部85、設定部86、回答部87を含む。
履歴取得部81は、GPS受信部12G、車速センサ14、舵角センサ16、アクセルポジションセンサ18、ブレーキセンサ20等の出力に基づいて車両の運転履歴を取得することを実行する。運転履歴は、車両の各位置における、車速、ハンドルの舵角、アクセル開度、ブレーキ状態、等を含む情報である。なお、車両の動力源がエンジンの場合、エンジン回転速度センサも設けられて、そのエンジン回転速度センサの出力に基づく情報も、運転履歴の情報に含まれるとよい。
標識抽出部82は、認識情報データベース421から交通標識ジャンルの認識情報を抽出し、それを画像認識部52の認識結果に基づいて更に解析して、交通標識の標識情報を抽出する。例えば、一時停止の交通標識であれば、標識抽出部82は、記憶部42に記憶されている交通標識データベース423の画像データなどに認識情報の表示を照合して、「一時停止」の意味を抽出する。このように、標識抽出部82は、認識情報データベース421から取得した認識情報の中から、例えば「一時停止」を含む交通標識の標識情報を抽出する。つまり、認識情報が図5Bの表示D2を含む場合、その表示D2の交通標識の標識情報は、その表示D2と、その意味「一時停止」とを含み得る。なお、ここまでの標識抽出部82による意味の抽出処理を前述の画像認識部52が行ってもよい。この場合、標識抽出部82は、認識情報データベース421から交通標識ジャンルの認識情報を抽出することだけで、交通標識の標識情報を抽出することができる。加えて、ここでは、標識抽出部82は、「一時停止」などの意味を認識情報データベース421に記憶させることも行う。例えば、図5Bの表示D2の場合、交通標識ジャンルに分類されて記憶されているが、更にそれに関連する認識情報データベース421の意味欄に「一時停止」が記憶される。
不適合判定部83は、履歴取得部81により取得された運転履歴が、標識抽出部82により抽出された標識情報に適合しなかったか否かを判定し、適合しなかったときその標識情報とその位置情報とを記憶部42の不適合情報データベース424に記憶させることを実行する。例えば、ある位置での運転履歴に関して、「一時停止」の交通標識の標識情報を抽出したにもかかわらず、その標識情報の位置での運転履歴の車速がゼロでないとき、運転履歴が標識情報に適合しなかったと判定される。なお、交通標識データベース423には、「車速がゼロになること」という判断指標が「一時停止」の表示の意味情報として記憶されている。このように、適合しなかったと判定されたとき、つまり不適合の判定のとき、その標識情報とその位置情報とが不適合情報データベース424に記憶される。このときの位置情報は、認識情報データベース421から読み出された認識情報のうちの位置情報であるが、運転履歴に含まれる位置情報であってもよい。なお、不適合判定部83が保持する標識抽出部82により抽出された標識情報は、そのときの運転に影響する交通標識の標識情報である。それゆえ、例えば、「一時停止」の標識の場合、その標識の設置場所から所定距離離れると、不適合判定部83はその標識情報を保持しなくてもよい。一方、例えば制限速度などについての標識情報は所定区間の情報であるので、次の同種の標識情報の取得及び/又はナビゲーション装置12からの異なる交通情報の取得まで継続して保持されることが望ましい。
標識出力部84は、不適合情報データベース424に記憶した標識情報の位置情報と所定関係の位置に車両が位置するようになったとき、記憶した標識情報の全部又は一部を出力することを実行する。ここで所定関係の位置に位置するとは、例えば、ナビゲーション装置12によるルート案内に基づいて不適合情報データベース424に記憶した標識情報の位置情報の位置に向かって車両が移動しているときに、その位置情報の位置まで所定距離の位置に位置すること、と定めることができる。所定距離は、例えば500mであり、運転者等に注意を促す距離であるとよい。また、ここでは、標識出力部84は、標識情報を出力することに加えて、その標識情報の今の運転への影響つまり制約についての問い合わせを受け付けることも可能にする。つまり、標識出力部84は、上記問合せ受付部65への問い合わせ処理の入力を可能にし、ここでは表示装置28の問い合わせ用の第1入力部28aをON状態にする。
警告出力部85は、運転履歴が標識情報に適合しなかったとき、ユーザに警告情報を出力することを実行する。ここでは、警告出力部85は、不適合判定部83により運転履歴が標識情報に適合しなかったと判定されたとき作動する。このとき、不適合判定部83は警告出力部85に作動信号を出力する。例えば、警告出力部85は記憶部42に記憶する警告情報を、例えば「交通違反しました。」をスピーカ26等から出力する。警告出力部85は、どのような交通違反か、例えば、標識情報に含まれる一時停止の違反であることも、出力してもよい。この場合、具体的には、上記警告情報の出力に加えて、例えば図5Bの表示D2及び/又はその意味「一時停止」をつまり交通標識の標識情報の全部又は一部を表示装置28に及び/又はスピーカ26から出力してもよい。
設定部86は、運転履歴が標識情報に適合しなかったとき、適合しなかった標識情報を指摘用の注目情報に設定することを実行する。ここでは、設定部86は、不適合判定部83により運転履歴が標識情報に適合しなかったと判定されたとき作動する。このとき、不適合判定部83は設定部86に作動信号を出力する。例えば、設定部86は、一時停止の標識情報を指摘用の注目情報に設定する。このとき、標識抽出部82で抽出のもとになった認識情報の交通標識ジャンルもその指摘用の注目情報に組み込まれる。第2取得部60の第2記憶部63はそれを指摘用の注目情報として取得し、それを注目情報データベース422にユーザ入力に基づき取得した注目情報とは別に記憶させる。これにより、検索処理部70の抽出処理部71はその指摘用の注目情報で処理を実行し、その標識情報に適合する認識情報の全部又は一部を検索出力部72は出力情報として出力することができる。当該処理により、運転者が見落としやすい交通標識を積極的に運転者に出力すること、つまり指摘することを可能にする。
回答部87は、今の運転に対して影響し得る交通標識の標識情報の問い合わせ(現況問合せ)があったとき、その標識情報を回答することを実行する。ここでは、表示装置28の第2入力部28bは、車両の走行中、常時ON状態にある。この第2入力部28bは、現況問合せを運転者等のユーザが入力するためのものであり、例えば、「現況問合せ」との表示を出力表示するとともに、ユーザの指示により動作し得る。一方で、上記不適合判定部83において、上記処理のため、標識抽出部82により抽出された標識情報は読み出されている。回答部87は、第2入力部28bが押されて現況問合せの入力があったとき、その不適合判定部83により保持されている標識情報を取得して、現況問合せの回答として出力する。
上記構成を備える車載装置10の制御部40での処理を更に説明する。まず、第1取得部50による処理を図3のフローチャートに基づいて説明する。なお、図3のフローチャートは所定時間間隔で繰り返されることが望ましい。
第1取得部50の画像取得部51は、カメラ22で撮影した画像を取得する(ステップS301)。この画像は、撮影時刻情報及び位置情報を含む。例えば、画像取得部51は、図4に示す画像Pを取得する。そして、画像取得部51は、取得した画像を画像認識部52に送信する。
画像認識部52は、取得した画像を解析処理して画像認識を行い、そこに含まれる表示を認識することを実行する(ステップS303)。例えば、図4に示す画像Pからは、道路の左側の「ABC RestauranT」という表示D1(図5A参照)と、右側の「止まれ STOP」という表示D2(図5B参照)とが認識され得るが、ここでは、まずそのうちの一方、例えば「ABC RestauranT」という表示D1が認識されたとする。このように表示の認識がある場合(ステップS305で肯定判定)、画像認識部52は、分類処理を実行する(ステップS307)。これにより、認識した表示をジャンルごとに分ける分類が実行される。例えば「ABC RestauranT」という表示D1は、文字認識技術を活用して用語「レストラン」に対応する文字を含むと認識され、また記憶部42に記憶する分類用の辞書データを活用して、看板ジャンルに分類され、更に飲食店ジャンルに分類される。こうして画像認識部52は、認識した表示に、撮影時刻情報及び位置情報とともに、ジャンル等の分類を付して、認識情報を生成する。
そして、第1記憶部53は、画像認識部52が認識した表示の認識情報を取得し、記憶部42の認識情報データベース421に記憶させる(ステップS309)。
ここでは、認識された表示ごとにステップS307及びステップS309の処理が実行される。したがって、1つ目の表示、例えば「ABC RestauranT」という表示D1に対してステップS307及びステップS309の処理が実行された後、画像認識部52は他の表示の認識がないか否かを判定する(ステップS311)。そして、「止まれ STOP」という表示D2を認識できるので(ステップS311で否定判定)、その表示に対して、画像認識部52によるステップS307の処理及び第1記憶部53によるステップS309の処理が実行される。これにより、「止まれ STOP」という表示D2は交通標識ジャンルに分類されるので、その分類と、撮影時刻情報及び位置情報が付されて、認識情報を形成するように、認識情報データベース421に記憶される。
第1記憶部53は、認識情報を記憶するとき(ステップS309)、認識情報の記憶量が所定量を超えないように、新たに記憶する認識情報で、記憶されている認識情報(過去の古い記憶済み認識情報)を更新することを行う。これにより、記憶部42を大容量化せずに、車載装置10の処理を継続して実行することができる。
なお、認識された表示が1つもないとき、ステップS305で否定判定されて、当該ルーチンは終了する。また、認識された表示が無くなったとき、ステップS311で肯定判定されて、当該ルーチンは終了する。
ただし、1つの画像から複数の表示が認識されたとき、複数の表示に関して同時並行してステップS307及びステップS309の処理が実行されてもよい。
次に、図6のフローチャートに基づいて、制御部40の第2取得部60による処理を説明する。
第2取得部60の情報取得部61は、ユーザの入力を音声認識等して、情報として取得すると(ステップS601で肯定判定)、この入力情報を意図理解部62に送信する。例えば、ユーザの入力として「レストランはないかな?」、「3つ前の看板は?」を例示できる。
意図理解部62は、情報取得部61が取得した情報の意図を理解するための処理を実行する(ステップS603)。例えば、「レストランはないかな?」という入力から「レストラン」という情報を取得する。そして、意図理解部62は、「レストラン」に関して、記憶する辞書データ等を参照して看板ジャンル、飲食店ジャンルを抽出して取得する。これにより、「レストラン」についての注目情報が取得される。あるいは、「3つ前の看板は?」から「3つ前の看板」という注目情報を取得する。
意図理解部62は、処理の結果、情報が得られたとき(ステップS605で肯定判定)、その情報が過去の時間又は場所に関しない情報であるか否かを判定する(ステップS607)。取得した情報が過去の時間又は場所に関しない情報であるとき(ステップS607で肯定判定)、意図理解部62は第2記憶部63にそれらの情報を送信する。これにより、第2記憶部63は、取得した用語について得られたジャンルを含む注目情報を記憶部42の注目情報データベース422に記憶させる(ステップS609)。一方、取得した情報が過去の時間又は場所に関する情報であるとき(ステップS607で否定判定)、その情報に基づいて認識情報の抽出が行われる(ステップS611)。ここでは具体的には、認識情報の抽出を行うように、意図理解部62はその情報を促進部64に送信する。なお、情報が得られなかったとき(ステップS605で否定判定)、当該ルーチンは終了する。
次に、検索処理部70による処理を図7のフローチャートに基づいて説明する。図7の処理は、所定時間間隔で繰り返されることが望ましい。
検索処理部70の抽出処理部71は、第2取得部60により取得された注目情報を取得することを、ここでは注目情報データベース422から読み込むことを実行する(ステップS701)。そして、抽出処理部71は、第1取得部50により取得された表示の認識情報を取得することを実行する(ステップS703)。ここでは、認識情報データベース421に記憶されている認識情報を1つずつ読み込むことが行われる。認識情報が取得できたとき(ステップS703で肯定判定)、抽出処理部71は、取得した認識情報が、取得した注目情報に適合するか否かを判定する(ステップS705)。この適合判定は分類つまりジャンルの一致などに基づいて実行され得る。そして、取得した認識情報が取得した注目情報に適合するとき(ステップS705で肯定判定)、抽出処理部71は、その認識情報を抽出する(ステップS707)。
適合判定(ステップS705)及び抽出(ステップS707)に際しては、例えば看板ジャンルという1つの注目情報のみならず、1つのグループの階層構造の注目情報が活用されてもよい。例えば看板ジャンルという注目情報のみでは、図5Aの表示D1のような飲食店の看板の認識情報のみならず、例えば病院の看板の認識情報も適合して抽出される。例えば、看板ジャンルという第1注目情報と、飲食店ジャンルという第2注目情報とを含む1つのグループの注目情報が記憶されているとき、取得した認識情報の中から、第1注目情報に適合する認識情報を抽出し、更に抽出した認識情報の中から第2注目情報に適合する認識情報を抽出することが実行されるとよい。これにより、上記例の場合、病院の看板の認識情報は適合されずに、図5Aの表示D1のような飲食店の看板の認識情報のみが適合されて、抽出され得る。
抽出された認識情報を、検索出力部72は出力する(ステップS709)。前述のように、ここでは、この出力は、表示装置28に送信されてその表示部に表示される。しかし、この出力は、車載装置10が、例えば制御部40が音声変換部及び発話部を有する場合、スピーカ26から音声が出力されてもよい。なお、出力される認識情報は、図5Aの表示D1のみ、図5Bの表示D2のみというように表示の画像のみであってもよいが、その意味などを更に付したものであってもよく、更にはその意味のみであってもよい。
一方、認識情報を取得できないとき(ステップS703で否定判定)、又は、取得した認識情報が取得した注目情報に適合しないとき(ステップS705で否定判定)、当該ルーチンは終了する。
次に、第2取得部60が過去の場所又は時間についての注目情報を取得したときの、検索処理部70での処理について、図8のフローチャートに基づいて説明する。
第2取得部60の意図理解部62が過去の場所又は時間に関する注目情報を取得したとき、図6の上記ステップS611で促進部64にその情報が送信される。これにより、促進部64は、時間又は場所についてのユーザ入力、つまり過去の場所又は時間に関する注目情報を取得する(ステップS801で肯定判定)、その注目情報は促進部64により検索処理部70に、ここではそのうちの抽出処理部71に送信される。これにより、抽出処理部71は認識情報データベース421からその注目情報に適合する認識情報の抽出処理を実行する(ステップS803)。例えば、取得した注目情報が「3つ前の看板」であるとき、抽出処理部71は認識情報データベース421から時刻情報に基づいて、看板ジャンルのうち3つ前の看板ジャンルの認識情報を抽出することを実行する。
注目情報に適合する認識情報の抽出ができたとき(ステップS805で肯定判定)、検索出力部72はその抽出した認識情報の全部又は一部を出力情報として出力する(ステップS807)。例えば出力情報は、認識情報のうちの表示のみであってもよく、その表示とその意味とを含んでもよく、更に位置情報などを含んでもよい。一方、注目情報に適合する認識情報の抽出ができなかったとき(ステップS805で否定判定)、検索出力部72は抽出不可の情報を出力する(ステップS809)。抽出不可の情報は、例えば、予め定められている「その情報はありませんでした。」という情報である。既に述べたように認識情報データベース421は更新されるので、過去の情報には既に消去されているものがあり得るからである。
この図8の処理により、ユーザは、過去の看板等の認識情報の出力を的確に受けることができる。そして、ユーザとの更なる対話等により、車載装置10は、ナビゲーション装置12と連携することで、例えばその認識情報の位置情報に基づいてその表示の場所に車両を誘導することを可能にする。これは認識情報に位置情報が含まれるからである。
次に、運転処理部80による処理を、図9及び図10のフローチャートに基づいて説明する。まず、図9のフローチャートに基づいて説明する。図9の処理は、所定時間間隔で繰り返されることが望ましい。
履歴取得部81は、各種センサの出力に基づいて車両の運転履歴を取得することを実行する(ステップS901)。そして、標識抽出部82は、認識情報データベース421の取得した認識情報の中から交通標識ジャンルのその時点での走行に関係する認識情報を抽出し、これにより又はこれに基づき交通標識の標識情報を抽出する(ステップS903)。不適合判定部83は、取得された運転履歴が、抽出された標識情報に適合しなかったか否かを判定する(ステップS905)。その結果、適合しなかったとき(ステップS905で否定判定)、ここでは、3つの処理が実行される(ステップS907)。ただし、3つの処理のうち、いずれか1つ又は2つの処理のみが実行されてもよい。3つの処理のうちの1つ目の処理として、不適合判定部83により、その標識情報とその位置情報とを記憶部42の不適合情報データベース424に記憶させることが実行される。2つ目の処理として、警告出力部85により、運転者等のユーザに警告情報を出力することが実行される。3つ目の処理として、設定部86により、適合しなかった標識情報を指摘用の注目情報に設定することが実行される。例えば、標識情報が図5Bの表示D2と「一時停止」という文字であるとき、そのもととなった認識情報の交通標識ジャンルが読み出されて、それらはまとめて指摘用の注目情報に設定され得る。なお、適合したとき(ステップS905で肯定判定)、当該ルーチンは終了する。
なお、設定部86により適合しなかった標識情報が指摘用の注目情報に設定されたとき(ステップS907)、図7に基づいて説明したように、抽出処理部71はその標識情報を交通標識ジャンルの注目情報として取得する(ステップS701)。そして、その指摘用の注目情報に適合する認識情報つまり、交通標識ジャンルであり表示が一致する又は意味が適合する認識情報を取得できたとき(ステップS705で肯定判定)、その認識情報を抽出して(ステップS707)、出力すること(ステップS709)が実行される。このようにして、制御部40により、運転履歴が標識情報に適合しなかったとき、適合しなかった標識情報に適合する認識情報を新規に取得した場合に、新規に取得した該認識情報を出力することが実行される。なお、このときの認識情報の適合処理では、画像認識部52及び/又は標識抽出部82によりその処理の少なくとも一部を担わせてもよい。
更に、不適合判定部83が、その標識情報とその位置情報とを記憶部42の不適合情報データベース424に記憶させることを実行したときについて、図10のフローチャートに基づいて説明する。図10の処理は、所定時間間隔で繰り返されることが望ましい。
運転処理部80の標識出力部84は、ステップS907で不適合情報データベース424に記憶した標識情報の位置情報と所定関係の位置に車両Cが位置するようになったか否かを判定する(ステップS1001)。なお、車両Cの位置情報は、GPS受信部12Gから取得される。所定関係の位置に車両が位置するようになったとき(ステップS1001で肯定判定)、標識出力部84は、記憶した標識情報を不適合情報データベース424から読み出す(ステップS1003)。そして、標識出力部84は、読み出した標識情報を出力する(ステップS1005)。例えば、読み出した標識情報が図5Bの表示D2を含むとき、その表示D2が出力されて、ここでは表示装置28の表示部に表示される。なお、例えば、標識情報が図5Bの表示D2を含むとき、その表示D2に加えて又はそれに代えて、その意味「一時停止」のみが出力されてもよい。
ここでは、上記車載装置10の交通標識データベース423は日本の交通標識について構築されている。しかし、交通標識データベース423は、日本以外の国の交通標識について構築されてもよく、あるいは、複数の国の交通標識を関連付けて構築されてもよい。例えば、交通標識データベース423が日本とアメリカの交通標識を関連付けて記憶していて、ユーザがアメリカ人であることを入力しているとき、標識出力部84は、日本の交通標識に相当するアメリカの交通標識がある場合には、それを出力してもよい。例えば、標識出力部84は、出力する交通標識が図5Bの表示D2であるとき、その表示D2に加えて又はそれに代えて、表示D2に相当する図5Cの表示D3を出力してもよい。なお、図5Bの表示D2は一時停止の日本の交通標識の一例であり、図5Cの表示D3は一時停止のアメリカの交通標識の一例である。
更に、運転処理部80の標識出力部84は、標識情報を出力することに加えて、その標識情報に関連する意味情報の問い合わせ処理を受け付け可能にするべく、表示装置28の第1入力部28aをON状態にする(ステップS1007)。第1入力部28aはここではタッチパネルの一部であるが、スイッチボタン等であってもよい。また、標識情報に関連する意味情報の問い合わせ処理の受け付けは、マイク24を介しての音声入力により行われてもよい。なお、この第1入力部28aのON状態は所定時間のみ継続され得る。具体的には、表示装置28の表示部に第1入力部28aを表示させることが実行され、ユーザが第1入力部28aを押すことに伴い、制御部40はユーザからのその交通標識の標識情報の意味等の問い合わせを受け付けつけることができる。
この意味等の問合せ処理について図11のフローチャートに基づいて説明する。
ユーザが第1入力部28aを押すことに伴い、第2取得部60の問合せ受付部65に、表示された交通標識の標識情報が送信される。これにより、問合せ受付部65はその標識情報を取得して受け付け、問合せ処理を開始する(ステップS1101で肯定判定)。この結果、問合せ受付部65は、取得した標識情報を、例えばそれが図5Bの表示D2の場合、その表示を検索処理部70の抽出処理部71に送信する。
抽出処理部71は、標識情報を取得して、その標識情報の表示の意味などの情報つまり意味情報を交通標識データベース423から抽出する(ステップS1103)。そして、検索処理部70の検索出力部72は、抽出した意味情報を出力する(ステップS1105)。標識情報が例えば図5Bの表示D2の場合、「一時停止」が出力され得るが、その詳しい意味「車速がゼロになること」が更に出力されてもよい。
なお、この標識情報の今の運転への影響つまり制約についての問い合わせの受け付け、及び、それに対応する処理(図11)は、警告出力部85での警告時、及び/又は、設定部86により設定された注目情報に関する認識情報の出力時にも同様に行われてもよい。これにより、ユーザにより安全な運転を促すことが可能になる。
また、運転者等のユーザは、不適合判定部83の処理に関係なく、今の運転に対して影響し得る交通標識の標識情報の問い合わせつまり現況問合せを行うことができる。この交通標識の現況問合せ処理について、図12のフローチャートに基づいて説明する。
前述の通り、表示装置28の第2入力部28bは、車両の走行中、常時ON状態にある。そして、この第2入力部28bは、現況問合せを運転者等のユーザが入力するためのものであり、例えば、「現況問合せ」との表示を出力表示するとともに、ユーザの指示により動作し得、ここでは具体的にはユーザにより押されることができる。ユーザが第2入力部28bを押すことで現況問合せの信号が回答部87に送信される。これにより、回答部87は、現況問合せを取得して受け付ける(ステップS1201で肯定判定)。
回答部87は、現況問合せを取得すると、不適合判定部83において読み出されている標識抽出部82により抽出された現在のつまり最新の交通標識の標識情報を取得して、現況問合せの回答として出力する(ステップS1203)。この回答は、標識情報のうちの表示そのもの、例えば図5Bの表示D2そのものであってもよいが、その意味「一時停止」であってもよい。また、ここで出力される標識情報は、一時停止に限らず、例えば制限速度、Uターン禁止、追い越し禁止などの情報であり得る。
以上説明した車載装置10及びその制御部40つまりコンピュータが実行する情報処理方法によれば、車両の外部の画像から認識された表示の認識情報を取得することと、車両のユーザが注目する注目情報を取得することと、取得した認識情報の中から注目情報に適合する認識情報を抽出して出力することとが実行される。したがって、交通標識及び看板などの種々の表示をユーザにより好適に提供することができる。そして、更に、例えば、過去の時間又は場所に関する注目情報が取得されたときには、その注目情報に適合する認識情報の出力が促されるので、運転者等の車両の運転をより快適なものにすることができる。更に、例えば、運転処理部80での上記処理によれば、交通標識を守ることが促される。
なお、前述の各処理により、上記車載装置10又は制御部40により出力される情報は、例えば抽出した認識情報又は標識情報の全部又は一部であってもよい。例えば、抽出した認識情報を出力するときに、認識された表示のみを出力するのか、又は、それ以外の情報を付加して出力するのか、或いは認識された表示以外の情報のみを出力するのかは、ユーザにより任意に設定されるとよい。また、上記機能モジュールの各々は、他の機能モジュールと統合されても、更に分割されてもよい。例えば上記検索処理部70は、複数に分けられてもよく、注目情報データベース422に記憶されている注目情報に基づく処理用の機能モジュールと、その他の情報に基づく処理用の機能モジュールに分けられてもよい。
以上の図1から図12に示す実施の形態に関し、さらに以下の付記を開示する。
(付記1)
コンピュータが、
車両のユーザが注目する注目情報を取得することと、
前記車両の外部の画像内の表示について取得した認識情報の中から前記注目情報に適合する認識情報を抽出して出力することと
を実行する、情報処理方法。
(付記2)
前記認識報を抽出して出力することは、取得した前記認識情報の中から、第1注目情報に適合する認識情報を抽出し、更に抽出した認識情報の中から前記第1注目情報よりも階層的に下位の注目情報である第2注目情報に適合する認識情報を抽出することを含む、
付記1に記載の情報処理方法。
(付記3)
前記認識情報は、関連する前記画像の撮影時刻情報及び前記画像の位置情報を含み、
前記認識情報を抽出することは、時間又は場所についてのユーザ入力に基づいて実行される、
付記1又は付記2に記載の情報処理方法。
(付記4)
前記コンピュータが、
前記車両の運転履歴を取得することと、
取得した前記認識情報の中から交通標識の標識情報を抽出することと、
前記運転履歴が前記標識情報に適合しなかったとき、該標識情報とその位置情報とを記憶することと、
記憶した前記標識情報の位置情報と所定関係の位置に前記車両が位置するようになったとき、記憶した前記標識情報を出力することと
を更に実行する
付記1から付記3のいずれか一項に記載の情報処理方法。
(付記5)
前記コンピュータが、
前記車両の運転履歴を取得することと、
取得した前記認識情報の中から交通標識の標識情報を抽出することと、
前記運転履歴が前記標識情報に適合しなかったとき、前記ユーザに警告情報を出力することと
を更に実行する
付記1から付記4のいずれか一項に記載の情報処理方法。
(付記6)
前記コンピュータが、
前記車両の運転履歴を取得することと、
取得した前記認識情報の中から交通標識の標識情報を抽出することと、
前記運転履歴が前記標識情報に適合しなかったとき、適合しなかった前記標識情報に適合する認識情報を新規に取得した場合に、新規に取得した該認識情報を出力することと
を更に実行する
付記1から付記5のいずれか一項に記載の情報処理方法。
(付記7)
前記コンピュータが、
前記運転履歴が前記標識情報に適合しなかったことに基づく処理に伴って問い合わせされた前記標識情報に関連する意味情報を抽出することと、
抽出した前記意味情報を出力することと
を更に実行する
付記4から付記6のいずれか一項に記載の情報処理方法。
(付記8)
前記コンピュータが、
ユーザからの交通標識の現況問合せを取得することと、
取得した前記認識情報の中の最新の交通標識の標識情報を出力することと
を更に実行する、付記1から付記7のいずれか一項に記載の情報処理方法。
(付記9)
付記1から付記8のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
(付記10)
車両のユーザが注目する注目情報を取得する取得部と、
前記車両の外部の画像内の表示について取得した認識情報の中から前記注目情報に適合する認識情報を抽出して出力する処理部と
を備える車載装置。
(付記11)
前記処理部は、取得した前記認識情報の中から、第1注目情報に適合する認識情報を抽出し、更に抽出した認識情報の中から前記第1注目情報よりも階層的に下位の注目情報である第2注目情報に適合する認識情報を抽出することを実行する、
付記10に記載の車載装置。
(付記12)
前記認識情報は、関連する前記画像の撮影時刻情報及び前記画像の位置情報を含み、
前記処理部は、時間又は場所についてのユーザ入力に基づいて前記認識情報の抽出を実行する、
付記10又は付記11に記載の車載装置。
(付記13)
前記車両の運転履歴を取得する履歴取得部と、
取得した前記認識情報の中から交通標識の標識情報を抽出する標識抽出部と、
前記運転履歴が前記標識情報に適合しなかったとき、該標識情報とその位置情報とを記憶する不適合判定部と、
記憶した前記標識情報の位置情報と所定関係の位置に前記車両が位置するようになったとき、記憶した前記標識情報を出力する標識出力部と
を更に備える、
付記10から付記12のいずれか一項に記載の車載装置。
(付記14)
前記車両の運転履歴を取得する履歴取得部と、
取得した前記認識情報の中から交通標識の標識情報を抽出する標識抽出部と、
前記運転履歴が前記標識情報に適合しなかったとき、前記ユーザに警告情報を出力する警告出力部と
を更に備える、
付記10から付記13のいずれか一項に記載の車載装置。
(付記15)
前記車両の運転履歴を取得する履歴取得部と、
取得した前記認識情報の中から交通標識の標識情報を抽出する標識抽出部と、
前記運転履歴が前記標識情報に適合しなかったとき、適合しなかった前記標識情報に適合する認識情報を新規に取得した場合に、新規に取得した該認識情報を出力するべく、適合しなかった前記標識情報を指摘用の注目情報に設定する設定部と
を更に備え、
前記処理部又は該処理部と異なる処理部は、取得した前記認識情報の中から前記指摘用の注目情報に適合する認識情報を抽出して出力する、
付記10から付記14のいずれか一項に記載の車載装置。
(付記16)
前記運転履歴が前記標識情報に適合しなかったことに基づく処理に伴って前記標識情報に関連する意味情報の問い合わせ処理を受け付ける問合せ受付部を更に備え、
前記処理部又は前記処理部と異なる処理部は、
問い合わせされた前記標識情報に関連する意味情報を抽出することと、
抽出した前記意味情報を出力することと
を実行する、
付記13から付記15のいずれか一項に記載の車載装置。
(付記17)
ユーザからの交通標識の現況問合せに対する回答として、取得した前記認識情報の中の最新の交通標識の標識情報を出力する回答部を更に備える、
付記10から付記16のいずれか一項に記載の車載装置。
以上、本発明の代表的な実施形態及び変形例について説明したが、本発明は種々の変更が可能である。本願の特許請求の範囲によって定義される本発明の精神及び範囲から逸脱しない限り、種々の置換、変更が可能である。
1つの装置が行うものとして説明した処理が、複数の装置によって分担して実行されてもよい。例えば、情報処理装置としての車載装置10つまり制御部40は1つのコンピュータである必要はなく、複数のコンピュータを備えるシステムとして構成されてもよい。あるいは、異なる装置が行うものとして説明した処理が、1つの装置によって実行されても構わない。コンピュータシステムにおいて、各機能をどのようなハードウェア構成によって実現するかは柔軟に変更可能である。
本開示は、上記の実施の形態で説明した機能を実装したコンピュータプログラムをコンピュータに供給し、当該コンピュータが有する1つ以上のプロセッサがプログラムを読み出して実行することによっても実現可能である。このようなコンピュータプログラムは、コンピュータのシステムバスに接続可能な非一時的なコンピュータ可読記憶媒体によってコンピュータに提供されてもよいし、ネットワークを介してコンピュータに提供されてもよい。非一時的なコンピュータ可読記憶媒体は、例えば、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスクドライブ(HDD)等)、光ディスク(CD−ROM、DVDディスク、ブルーレイディスク等)など任意のタイプのディスク、読み込み専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、磁気カード、フラッシュメモリ、光学式カード、電子的命令を格納するために適した任意のタイプの媒体を含む。
10 車載装置
12 ナビゲーション装置
12G GPS受信部
14 車速センサ
16 舵角センサ
18 アクセルポジションセンサ
20 ブレーキセンサ
22 車外カメラ
24 マイク
26 スピーカ
28 表示装置
30 通信モジュール
40 制御部
42 記憶部



Claims (10)

  1. コンピュータが、
    車両のユーザが注目する注目情報を取得することと、
    前記車両の外部の画像内の表示について取得した認識情報の中から前記注目情報に適合する認識情報を抽出して出力することと
    を実行する、情報処理方法。
  2. 前記認識情報を抽出して出力することは、取得した前記認識情報の中から、第1注目情報に適合する認識情報を抽出し、更に抽出した認識情報の中から前記第1注目情報よりも階層的に下位の注目情報である第2注目情報に適合する認識情報を抽出することを含む、
    請求項1に記載の情報処理方法。
  3. 前記認識情報は、関連する前記画像の撮影時刻情報及び前記画像の位置情報を含み、
    前記認識情報を抽出することは、時間又は場所についてのユーザ入力に基づいて実行される、
    請求項1又は2に記載の情報処理方法。
  4. 前記コンピュータが、
    前記車両の運転履歴を取得することと、
    取得した前記認識情報の中から交通標識の標識情報を抽出することと、
    前記運転履歴が前記標識情報に適合しなかったとき、該標識情報とその位置情報とを記憶することと、
    記憶した前記標識情報の位置情報と所定関係の位置に前記車両が位置するようになったとき、記憶した前記標識情報を出力することと
    を更に実行する
    請求項1から3のいずれか一項に記載の情報処理方法。
  5. 前記コンピュータが、
    前記車両の運転履歴を取得することと、
    取得した前記認識情報の中から交通標識の標識情報を抽出することと、
    前記運転履歴が前記標識情報に適合しなかったとき、前記ユーザに警告情報を出力することと
    を更に実行する
    請求項1から4のいずれか一項に記載の情報処理方法。
  6. 前記コンピュータが、
    前記車両の運転履歴を取得することと、
    取得した前記認識情報の中から交通標識の標識情報を抽出することと、
    前記運転履歴が前記標識情報に適合しなかったとき、適合しなかった前記標識情報に適合する認識情報を新規に取得した場合に、新規に取得した該認識情報を出力することと
    を更に実行する
    請求項1から5のいずれか一項に記載の情報処理方法。
  7. 前記コンピュータが、
    前記運転履歴が前記標識情報に適合しなかったことに基づく処理に伴って問い合わせされた前記標識情報に関連する意味情報を抽出することと、
    抽出した前記意味情報を出力することと
    を更に実行する、
    請求項4から6のいずれか一項に記載の情報処理方法。
  8. 前記コンピュータが、
    ユーザからの交通標識の現況問合せを取得することと、
    取得した前記認識情報の中の最新の交通標識の標識情報を出力することと
    を更に実行する、
    請求項1から7のいずれか一項に記載の情報処理方法。
  9. 請求項1から8のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
  10. 車両のユーザが注目する注目情報を取得する取得部と、
    前記車両の外部の画像内の表示について取得した認識情報の中から前記注目情報に適合する認識情報を抽出して出力する処理部と
    を備える車載装置。

JP2020084090A 2020-05-12 2020-05-12 情報処理方法、プログラム及び車載装置 Active JP6976378B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020084090A JP6976378B2 (ja) 2020-05-12 2020-05-12 情報処理方法、プログラム及び車載装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020084090A JP6976378B2 (ja) 2020-05-12 2020-05-12 情報処理方法、プログラム及び車載装置

Publications (2)

Publication Number Publication Date
JP2021179342A true JP2021179342A (ja) 2021-11-18
JP6976378B2 JP6976378B2 (ja) 2021-12-08

Family

ID=78511215

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020084090A Active JP6976378B2 (ja) 2020-05-12 2020-05-12 情報処理方法、プログラム及び車載装置

Country Status (1)

Country Link
JP (1) JP6976378B2 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009301267A (ja) * 2008-06-12 2009-12-24 Toyota Industries Corp 運転支援装置
JP2010067234A (ja) * 2008-09-12 2010-03-25 Fujitsu Ten Ltd 運転支援装置および運転支援プログラム
JP2012150557A (ja) * 2011-01-17 2012-08-09 Toyota Central R&D Labs Inc 運転マナー啓発装置、システム、及びプログラム
JP2013068620A (ja) * 2011-09-23 2013-04-18 Visteon Global Technologies Inc 運転者が注目している外部の物体に関する情報を提供するための車両システムおよび方法
JP2016053880A (ja) * 2014-09-04 2016-04-14 株式会社ランディード 車載システム、情報処理方法、およびコンピュータプログラム
JPWO2015071924A1 (ja) * 2013-11-12 2017-03-09 三菱電機株式会社 運転支援画像生成装置、運転支援画像表示装置、運転支援画像表示システム、及び運転支援画像生成プログラム
JP2017507425A (ja) * 2014-02-21 2017-03-16 ジャガー ランド ローバー リミテッドJaguar Land Rover Limited 車両に用いられるシステム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009301267A (ja) * 2008-06-12 2009-12-24 Toyota Industries Corp 運転支援装置
JP2010067234A (ja) * 2008-09-12 2010-03-25 Fujitsu Ten Ltd 運転支援装置および運転支援プログラム
JP2012150557A (ja) * 2011-01-17 2012-08-09 Toyota Central R&D Labs Inc 運転マナー啓発装置、システム、及びプログラム
JP2013068620A (ja) * 2011-09-23 2013-04-18 Visteon Global Technologies Inc 運転者が注目している外部の物体に関する情報を提供するための車両システムおよび方法
JPWO2015071924A1 (ja) * 2013-11-12 2017-03-09 三菱電機株式会社 運転支援画像生成装置、運転支援画像表示装置、運転支援画像表示システム、及び運転支援画像生成プログラム
JP2017507425A (ja) * 2014-02-21 2017-03-16 ジャガー ランド ローバー リミテッドJaguar Land Rover Limited 車両に用いられるシステム
JP2016053880A (ja) * 2014-09-04 2016-04-14 株式会社ランディード 車載システム、情報処理方法、およびコンピュータプログラム

Also Published As

Publication number Publication date
JP6976378B2 (ja) 2021-12-08

Similar Documents

Publication Publication Date Title
KR102043588B1 (ko) 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법
CN107298021B (zh) 信息提示控制装置、自动驾驶车及其驾驶辅助系统
US9747898B2 (en) Interpretation of ambiguous vehicle instructions
JP7248797B2 (ja) 未知の標識の検出
US20200356794A1 (en) Phrase recognition model for autonomous vehicles
JP2019501435A (ja) 自律走行車の走行を決定するための周辺環境を構築する方法及びシステム
US20210247201A1 (en) Method and System for Scene-Aware Interaction
KR20170127342A (ko) 자율 주행 차량 내에서 증강 가상 현실 콘텐츠를 제공하는 시스템 및 방법
JP2017211359A (ja) リアルタイム交通情報に基づいて自律走行車においてコンテンツを提供するシステムおよび方法
JP2006195637A (ja) 車両用音声対話システム
EP1507129A1 (en) Computer-based system and method for outputting information to a driver of a vehicle
US20100292917A1 (en) System and method for guiding a user through a surrounding environment
JP7079069B2 (ja) 情報提示制御装置、自動運転車、及び自動運転車運転支援システム
WO2015059764A1 (ja) ナビゲーション用サーバ、ナビゲーションシステムおよびナビゲーション方法
WO2019244239A1 (ja) 走行情報処理装置及び処理方法
JP2023145525A (ja) 自立型車両の視界から出た対象の追跡
US20190107402A1 (en) Navigation device, destination guiding system, and non-transitory recording medium
JP6976378B2 (ja) 情報処理方法、プログラム及び車載装置
WO2023193652A1 (zh) 一种车机虚拟形象交互方法、系统、车辆及存储介质
CN114690896A (zh) 信息处理装置、信息处理方法及存储介质
JP2017107276A (ja) 情報処理装置、情報処理方法、およびプログラム
JP7449852B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2020091647A (ja) 情報処理装置及び情報処理プログラム
JP2023079861A (ja) 制御装置、制御方法およびプログラム
US20230123323A1 (en) Familiarity Based Route Generation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211019

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211109

R150 Certificate of patent or registration of utility model

Ref document number: 6976378

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350