JP2017198799A - 情報収集システム - Google Patents

情報収集システム Download PDF

Info

Publication number
JP2017198799A
JP2017198799A JP2016088307A JP2016088307A JP2017198799A JP 2017198799 A JP2017198799 A JP 2017198799A JP 2016088307 A JP2016088307 A JP 2016088307A JP 2016088307 A JP2016088307 A JP 2016088307A JP 2017198799 A JP2017198799 A JP 2017198799A
Authority
JP
Japan
Prior art keywords
information
unit
poi
character information
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016088307A
Other languages
English (en)
Other versions
JP6607139B2 (ja
Inventor
正和 野村
Masakazu Nomura
正和 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Toyota Connected Corp
Original Assignee
Toyota Motor Corp
Toyota Media Service Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp, Toyota Media Service Corp filed Critical Toyota Motor Corp
Priority to JP2016088307A priority Critical patent/JP6607139B2/ja
Priority to US15/493,930 priority patent/US10515113B2/en
Publication of JP2017198799A publication Critical patent/JP2017198799A/ja
Priority to US16/574,919 priority patent/US10762128B2/en
Application granted granted Critical
Publication of JP6607139B2 publication Critical patent/JP6607139B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06037Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1408Methods for optical code recognition the method being specifically adapted for the type of code
    • G06K7/14172D bar codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/22Character recognition characterised by the type of writing
    • G06V30/224Character recognition characterised by the type of writing of printed characters having additional code marks or containing code marks
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00095Systems or arrangements for the transmission of the picture signal
    • H04N1/00103Systems or arrangements for the transmission of the picture signal specially adapted for radio transmission, e.g. via satellites
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • H04N1/00244Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server with a server, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3212Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a job, e.g. communication, capture or filing of an image
    • H04N2201/3215Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a job, e.g. communication, capture or filing of an image of a time or duration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3252Image capture parameters, e.g. resolution, illumination conditions, orientation of the image capture device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3253Position information, e.g. geographical position at time of capture, GPS data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3261Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of multimedia information, e.g. a sound signal
    • H04N2201/3264Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of multimedia information, e.g. a sound signal of sound signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3261Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of multimedia information, e.g. a sound signal
    • H04N2201/3266Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of multimedia information, e.g. a sound signal of text or character information, e.g. text accompanying an image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3269Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of machine readable codes or marks, e.g. bar codes or glyphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet

Abstract

【課題】車両に搭載されるカメラで撮影された画像に映っている情報をユーザがより有効活用可能な態様で蓄積することが可能な情報収集システムを提供すること。
【解決手段】複数の車両は、それぞれ、自車両の周辺を撮影するカメラと、自車両の位置情報を取得する位置情報取得部と、カメラの撮影画像、及び該撮影画像の撮影時における位置情報を情報センタに送信する送信部と、を備え、情報センタは、複数の車両のそれぞれから撮影画像及び位置情報を受信する受信部と、撮影画像に映っている第1の文字情報を認識する文字情報認識部と、情報収集の対象であるPOIに関する情報を格納する情報格納部と、受信部が受信した位置情報、及び情報格納部に格納された情報に基づき、第1の文字情報に関連するPOIを特定する特定部と、第1の文字情報に特定部が特定したPOIを紐付けた、紐付け情報を記憶部に保存する保存処理部と、を備える。
【選択図】図6

Description

本発明は、情報収集システムに関する。
従来、車両に搭載されるカメラで撮影された画像を蓄積する情報収集システムが知られている(例えば、特許文献1等参照)。
特許文献1では、車両に搭載されるカメラで撮影された画像を蓄積し、蓄積された画像の中から有用な画像を選択的に他の車両に提供する技術が開示されている。
特開2013−239087号公報
しかしながら、特許文献1では、不要な画像がユーザに提供される事態を防止できるものの、蓄積された画像がそのまま提供されるため、画像に映っている情報をユーザが有効活用できない可能性がある。例えば、画像にユーザが興味を持った店等のPOI(Point Of Interest)や特定のエリアの催し等に関する看板や幟等が映っていたとしても、どのような店なのか、どのエリアに関する催しなのか等を直ぐに理解するのが難しい可能性がある。特に、画像の提供先が車両の場合、移動中に画像を同乗者が確認する際、直ぐに画像内の看板等の情報を理解できないと、内容が理解できたときには、店や特定のエリアから大きく離れてしまっているような事態も想定され、画像に含まれる情報を有効活用できない。
そこで、上記課題に鑑み、車両に搭載されるカメラで撮影された画像に映っている情報をユーザがより有効活用可能な態様で蓄積することが可能な情報収集システムを提供することを目的とする。
上記目的を達成するため、本発明の第1態様では、
複数の車両と、前記複数の車両のそれぞれと無線通信可能な情報センタと、を含む情報収集システムであって、
前記複数の車両は、それぞれ、自車両の周辺を撮影するカメラと、自車両の位置情報を取得する位置情報取得部と、前記カメラの撮影画像、及び該撮影画像の撮影時における前記位置情報を前記情報センタに送信する送信部と、を備え、
前記情報センタは、前記複数の車両のそれぞれから前記撮影画像及び前記位置情報を受信する受信部と、前記撮影画像に映っている第1の文字情報を認識する文字情報認識部と、情報収集の対象となるPOI及びエリアの少なくとも一方に関する情報を格納する情報格納部と、前記受信部が受信した前記位置情報、及び前記情報格納部に格納された情報に基づき、前記第1の文字情報に関連するPOI及びエリアの少なくとも一方を特定する特定部と、前記第1の文字情報に前記特定部が特定したPOI及びエリアの少なくとも一方を紐付けた、紐付け情報を記憶部に保存する保存処理部と、を備える、
情報収集システムが提供される。
本発明の第1態様によれば、情報センタの受信部は、複数の車両のそれぞれからカメラの撮影画像及び該撮影画像の撮影時における位置情報を受信する。また、情報センタの文字情報認識部は、撮影画像に映っている第1の文字情報を認識し、特定部は、該撮影画像の撮影時における位置情報、及び情報格納部に格納された、情報収集の対象となるPOI及びエリアの少なくとも一方に関する情報に基づき、第1の文字情報に関連するPOI及びエリアの少なくとも一方を特定する。そして、情報センタの保存処理部は、第1の文字情報に特定部が特定したPOI及びエリアの少なくとも一方を紐付けた紐付け情報を記憶部に保存する。従って、撮影画像に映っている第1の文字情報と、当該第1の文字情報に関連するPOIやエリアが紐づけられた紐付け情報を記憶部に蓄積し、当該紐付け情報をユーザに提供することができる。そのため、ユーザは、提供された紐付け情報が車両のディスプレイ等に表示されると、第1の文字情報が特定のPOIやエリアに関連することを直ちに認識することができ、直ぐに、近辺に存在するPOIやエリアに向かうことができる等、提供された情報を有効活用できる。即ち、車両に搭載されるカメラで撮影された画像に映っている情報をユーザがより有効活用可能な態様で蓄積することができる。
また、本発明の第2態様では、
前記情報センタは、前記紐付け情報内の前記第1の文字情報に対して、誤り訂正を行う誤り訂正部を備える、
情報収集システムが提供される。
本発明の第2態様によれば、情報センタの誤り訂正部は、紐付け情報内の第1の文字情報の誤り訂正を行う。従って、文字情報認識部による文字認識に誤りが存在する場合であっても、誤り訂正が行われるため、より正確性の高い紐づけ情報を記憶部に保存することができる、即ち、より正確な情報をユーザに提供することができる。
また、本発明の第3態様では、
前記誤り訂正部は、前記紐付け情報内のPOI及びエリアの少なくとも一方に関連するウェブクロールデータに基づき、前記紐付け情報内の前記第1の文字情報に対する誤り訂正を行う、
情報収集システムが提供される。
本発明の第3態様によれば、情報センタの誤り訂正部は、紐付け情報内のPOI及びエリアの少なくとも一方に関連するウェブクロールデータに基づき、紐付け情報内の第1の文字情報に対する誤り訂正を行う。従って、紐づけ情報内のPOIやエリアに関連するウェブ情報を参照して、紐づけ情報内の文字情報に対する誤り訂正の行うことができる。そのため、汎用の誤り訂正技術では、対応が難しいケース(例えば、意図的な誤字を含む文字情報や造語を含む文字情報が対象のケース)でも、文字情報認識部による文字認識の誤りを正確に誤り訂正することができる。
また、本発明の第4態様では、
各前記複数の車両、又は前記情報センタは、前記撮影画像に映っているQRコード(登録商標)を認識するQRコード認識部と、前記QRコードを解析し、第2の文字情報を取得する文字情報取得部を備え、
前記記憶処理部は、前記第2の文字情報を前記記憶部に保存する、
情報収集システムが提供される。
本発明の第4態様によれば、複数の車両のそれぞれ、或いは、情報センタのQRコード認識部は、撮影画像に映っているQRコードを抽出し、文字情報取得部は、QRコードを解析し、第2の文字情報を取得し、保存処理部は、第2の文字情報を記憶部に保存する。従って、撮影画像に映っているQRコードの内容を解析した結果である第2の文字情報が記憶部に蓄積され、当該第2の文字情報をユーザに提供することができる。また、第2の文字情報には、POIやエリアに関する情報が含まれている場合が多いため、POIやエリアと関連する情報として提供することができる。また、例えば、撮影画像をそのままユーザに提供するような場合のように、ユーザがスマートフォンのアプリ等を用いて、QRコードの読み取りを行う必要がなく、ユーザの利便性を向上させることができる。
また、本発明の他の態様は、情報センタ等として実現が可能である。
本実施の形態によれば、車両に搭載されるカメラで撮影された画像に映っている情報をユーザがより有効活用可能な態様で蓄積することが可能な情報収集システムを提供することができる。
情報収集システムの構成の一例を概略的に示す構成図である。 車両(撮影制御部)による撮影制御処理の一例を概略的に示すフローチャートである。 撮影画像に映っているQRコードの一例、及びQRコード読取データ(第2の文字情報)の一例を示す図である。 撮影画像に映っているQRコードからQRコード読取データ(第2の文字情報)を取得する処理(QRコード読取処理)の一例を概略的に示すフローチャートである。 情報センタ(POI・エリア特定部)による文字情報に関連するPOI/エリアの特定手法の具体例を説明する図である。 情報センタ(文字情報認識部、POI・エリア特定部、及び紐付け情報生成部)による文字情報の認識から紐付け情報の生成に至る一連の処理の一例を概略的に示すフローチャートである。 情報センタ(文字情報訂正部)による誤り訂正処理の具体例を示す図である。 情報センタ(文字情報訂正部及び保存処理部)による文字情報の誤り訂正から紐づけ情報の配信情報DB339への保存に至る一連の処理の一例を概略的に示すフローチャートである。 情報センタ(情報配信部)から車両に配信される配信情報の通知態様の一例を示す図である。
以下、図面を参照して発明を実施するための形態について説明する。
図1は、本実施形態に係る情報収集システム1の構成の一例を概略的に示す構成図である。情報収集システム1は、複数の車両2と情報センタ3を含み、情報センタ3と複数の車両2のそれぞれとは、例えば、携帯電話網等の通信ネットワーク4を通じて、双方向で無線通信可能に構成される。以下、複数の車両2は、同様の構成を有する前提で説明を進める。
車両2は、カメラ21、センサ22、マイクロフォン(マイク)23、ECU(Electronic Control Unit)24、無線通信機器25を含む。
カメラ21は、ECU24(具体的には、後述する撮影制御部242)からの作動指令に応じて、車両2(自車両)の周辺の所定範囲を撮影する。カメラ21により撮影される画像(撮影画像データ)は、1対1の通信線やCAN(Controller Area Network)等の車載ネットワークを通じて、ECU24に送信され、後述する記憶部245に一時的に記憶される。
センサ22は、車両2の各種状態(車両状態)を検出する。センサ22は、車両2の位置を検出するGPSセンサ、車両2の3軸(前後軸、左右軸、上下軸)に対する角加速度を検出する角加速度センサ(ジャイロセンサ)等を含む。センサ22により検出される車両状態を示すデータ(車両状態データ)は、1対1の通信線やCAN等の車載ネットワークを通じて、ECU24に送信される。
マイク23は、車室内に配置され、ECU24(具体的には、後述する音声認識部244)からの作動指令に応じて、車両2の搭乗者の音声を取得する。マイク23により取得される音声は、1対1の通信線やCAN等の車載ネットワークを通じて、ECU24に送信される。
ECU24は、情報センタ3に送信する各種データの取得、及び取得した情報の情報センタ3への送信に関する制御処理を行う電子制御ユニットである。ECU24は、例えば、マイクロコンピュータを中心に構成され、ROMに格納される各種プログラムをCPUで実行することにより各種制御処理を実現することができる。ECU24は、ROMに格納される1以上のプログラムを実行することにより実現される機能部として、送受信処理部241、撮影制御部242、QRコード読取部243、音声認識部244を含む。また、ECU24は、不揮発性の内部メモリに予め規定される記憶領域として、記憶部245を含む。
送受信処理部241は、無線通信機器25を通じて、情報センタ3に信号を送信したり、情報センタ3から送信される信号を受信したりする処理を行う。
送受信処理部241は、センサ22に含まれるGPSセンサから入力されるデータに基づき、車両2(自車両)の位置情報(例えば、緯度及び経度の情報)を情報センタ3に逐次送信する。
また、送受信処理部241は、情報センタ3からカメラ21による車両2の周辺の撮影を要求する信号(撮影要求)を受信した場合、撮影制御部242にその旨を通知する。
また、送受信処理部241は、撮影制御部242からの送信要求に応じて、カメラ21の撮影画像データ及び当該撮影画像に対応する付加情報(画像付加情報)を情報センタ3に送信する。画像付加情報は、撮影画像が撮影された時刻、撮影画像の撮影時の車両2(自車両)の位置情報、角加速度情報、カメラ情報(カメラ21の車両2における搭載位置、搭載角度、画角等)を含む。
また、送受信処理部241は、QRコード読取部243からの送信要求に応じて、QRコード読取データ及び当該QRコード読取データに対応する付加情報(QRコード付加情報)を情報センタ3に送信する。QRコード付加情報は、QRコード読取データに対応する撮影画像が撮影された時刻、該撮影画像の撮影時の車両2(自車両)の位置情報、角加速度情報等を含む。
また、送受信処理部241は、音声認識部244からの送信要求に応じて、音声認識データ及び当該音声認識データに対応する付加情報(音声付加情報)を情報センタ3に送信する。音声付加情報は、音声認識データに対応する音声データが取得された時刻、該音声データ取得時の車両2(自車両)の位置情報等を含む。
撮影制御部242は、カメラ21の作動制御を行う。具体的には、撮影制御部242は、送受信処理部241が情報センタ3から撮影要求を受信した場合、当該撮影要求に応じて、カメラ21に作動指令を送信する。より具体的には、撮影制御部242は、撮影要求に含まれる指示内容(例えば、撮影開始及び終了のタイミングや位置等に関する条件)に対応する作動指令をカメラ21に送信する。以下、図2を参照して、撮影制御部242による撮影制御処理の処理フローについて説明する。
図2は、撮影制御部242による撮影制御処理の一例を概略的に示すフローチャートある。本フローチャートによる処理は、例えば、車両2のイグニッションオン(IG−ON)後の初期処理完了からイグニッションオフ(IG−OFF)までの間で、所定時間間隔で繰り返し実行される。
ステップS102にて、撮影制御部242は、送受信処理部241が情報センタ3から撮影要求を受信したか否かを判定する。撮影制御部242は、送受信処理部241が情報センタ3から撮影要求を受信した場合、ステップS104に進み、受信していない場合、今回の処理を終了する。
ステップS104にて、撮影制御部242は、撮影要求の指示内容に対応する作動指令をカメラ21に送信する。これにより、カメラ21は、作動指令に対応する期間や走行区間等における車両2(自車両)の周辺の状況を撮影する。
ステップS106にて、撮影制御部242は、カメラ21の撮影画像データの情報センタ3への送信要求を送受信処理部241に送信し、今回の処理を終了する。これにより、送受信処理部241は、撮影画像データ及び画像付加情報を情報センタ3に送信する。
図1に戻り、QRコード読取部243は、カメラ21の撮影画像に映っているQRコードを認識する。また、QRコード読取部243は、認識したQRコードを解析して、QRコード読取データ(第2の文字情報)を取得する。以下、図3、図4を参照して、QRコード読取部243におけるQRコード読取処理の具体例、及びQRコード読取部243における処理フローについて説明する。
まず、図3は、撮影画像に映っているQRコードの一例(図3(a))、及びQRコード読取データ(第2の文字情報)の一例(図3(b))を示す図である。
図3(a)の一例では、カメラ21の撮影画像に、交差点に面するB百貨店51の正面が映っている。そして、当該撮影画像の中央付近には、比較的大きなQRコード52を含むB百貨店51の広告掲示が映っている。QRコード読取部243は、図3(a)に示す撮像画像に映っているQRコードを認識すると共に、当該QRコードを解析し、図3(b)に示すような、QRコード読取データを取得する。
図3(b)の一例では、QRコード読取データは、B百貨店51の催事に関するテキストデータである。具体的には、"<B百貨店催事> 見つけた!九州のうまいもの、良いもの。夏の大九州物産展 8月○○日(水)→△△日(月)"という内容である。
続いて、図4は、撮影画像に映っているQRコードからQRコード読取データ(第2の文字情報)を取得する処理(QRコード読取処理)の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、カメラ21の撮影画像が記憶部245に記憶される度に、直近で記憶された撮影画像を対象として実行される。
ステップS202にて、QRコード読取部243は、記憶部245から取得した対象の撮影画像のQRコードを認識する処理を行う。
ステップS204にて、QRコード読取部243は、対象の撮影画像にQRコードがあるか否かを判定する。QRコード読取部243は、QRコードがある場合、ステップS206に進み、QRコードがない場合、今回の処理を終了する。
ステップS206にて、QRコード読取部243は、認識したQRコードの解析を行い、QRコード読取データを取得する。
ステップS208にて、QRコード読取部243は、QRコード読取データを情報センタ3に送信する旨の送信要求を送受信処理部241に送信し、今回の処理を終了する。これにより、送受信処理部241は、QRコード読取データ及びQRコード付加情報を情報センタ3に送信する。
図1に戻り、音声認識部244は、ユーザによる所定操作に応じて、マイク23を作動させると共に、マイク23により取得される音声データに対する音声認識処理を行い、音声認識データを生成する。そして、音声認識部244は、音声認識データを取得すると、情報センタ3に該音声認識データを送信する旨の送信要求を送受信処理部241に送信する。例えば、車両2のユーザは、車両2の周辺に有益な情報を見つけると、所定操作を行った上で、マイク23に向かってその内容を呟くことで、呟いた内容に対応する音声認識データ(テキストデータ)を情報センタ3にアップロードし、他のユーザと共有できる。
記憶部245は、撮影制御部242からの指令に応じて、カメラ21の撮影画像を一時的に記憶する。
無線通信機器25は、通信ネットワーク4を通じて、情報センタ3と無線通信を行うための任意のデバイスであり、例えば、DCM(Data Communication Module)である。
情報センタ3は、車両2の遠隔に設けられ、複数の車両2のそれぞれと双方向で無線通信が可能な態様で構成される。情報センタ3は、無線通信機器31、情報収集装置32を含む。
無線通信機器31は、通信ネットワーク4を通じて、各車両2と無線通信を行うための任意のデバイスである。
情報収集装置32は、対象として予め規定されるPOI(以下、「対象POI」と称する)及びエリア(以下、「対象エリア」と称する)に関する情報収集を行う。概要として、情報収集装置32は、複数の車両2のそれぞれ(送受信処理部241)から送信される撮影画像データやQRコード読取データ等から、対象POI及び対象エリアに関する情報(配信情報)を生成し、蓄積する機能を有する。また、情報収集装置32は、例えば、対象POIや対象エリアの周辺を走行する複数の車両2のうち、比較的少数の車両2からモニタリング用の撮影画像データやQRコードデータ等を取得すると共に、モニタリング用の配信情報を生成し、蓄積する。そして、情報収集装置32は、対象POI及び対象エリアに関する情報に所定以上の変化が生じると、例えば、対象POIや対象エリアの周辺を走行する複数の車両2のうち、比較的多数の車両2から撮影画像データやQRコードデータ等を取得すると共に、最新の配信情報を生成し、追加する態様、或いは、既存の配信情報を更新する態様で蓄積する。以下、特に断わらない限り、情報収集装置32により生成及び蓄積される対象POI及び対象エリアに関する配信情報は、モニタリング用であるか否かを問わない。情報収集装置32は、例えば、1又は複数のコンピュータを中心に構成される。情報収集装置32は、送受信処理部321、撮影指示部322、更新判定部323、画像取得部324、付加情報取得部325、文字情報認識部326、POI・エリア特定部327、紐付け情報生成部328、文字情報訂正部329、保存処理部330を含む。また、情報収集装置32は、情報配信部331、画像記憶部332、付加情報記憶部333、POI・エリア情報DB334、地図情報DB335、ウェブクロールDB336、音声認識DB337、未確定情報DB338、配信情報DB339を含む。
尚、対象POI及び対象エリアに関する情報は、POI・エリア情報DB334に予め格納されており、対象POIや対象エリアの更新(追加や削除等)に伴い、更新される。
送受信処理部321は、無線通信機器31を通じて、車両2に信号を送信したり、車両2から送信される信号を受信したりする処理を実行する。
送受信処理部321は、車両2から撮影画像データ及び画像付加情報を受信すると、その旨を画像取得部324に通知すると共に、それぞれを画像記憶部332及び付加情報記憶部333に記憶させる。
また、送受信処理部321は、車両2からQRコード読取データ及びQRコード付加情報を受信すると、その旨を保存処理部330に通知する。
また、送受信処理部321は、車両2から音声認識データ及び音声付加情報を受信すると、音声認識データを所定の形式で、音声認識DB337に格納すると共に、音声付加情報を付加情報記憶部333に記憶させる。
また、送受信処理部321は、撮影指示部322から送信要求を受信すると、複数の車両2のうち、送信要求で指示される対象の車両2に撮影要求を送信する。
また、送受信処理部321は、情報配信部331から配信要求を受信すると、複数の車両2のうちの送信要求で指示される対象の車両2や、対象の車両2のユーザの登録済のスマートフォン(不図示)等に配信情報を送信する。
撮影指示部322は、予め規定された条件に応じて、送信要求を送受信処理部321に送信し、送受信処理部321を通じて、送信要求で指定される対象の車両2に対し撮影要求を送信する。撮影指示部322は、例えば、対象エリア及び対象POI毎に、更新判定部323が対象エリア或いは対象POIに関連する配信情報を更新する必要があると判定していない場合、対象エリアや対象POI周辺を走行する車両2のうち、所定のルールによって選択される比較的少数の車両2に撮影要求を送信する。これにより、モニタリング用の撮影画像データやQRコード読取データ等を取得する。一方、撮影指示部322は、更新判定部323が対象エリア或いは対象POIに関連する配信情報を更新する必要があると判定した場合、対象エリアや対象POI周辺を走行する車両2のうち、所定のルールにより選択される比較的多数の車両2に撮影要求を送信する。これにより、配信情報を最新状態にするための撮影画像データやQRコード読取データ等を取得する。撮影要求には、撮影の開始及び終了のタイミング、場所等の指示内容が含まれる。
更新判定部323は、配信情報DB339に格納される対象POI或いは対象エリアに関する配信情報(後述する紐付け情報)を更新する必要があるか否かを判定する。更新判定部323は、例えば、定期的に、配信情報DB339に格納される対象POI或いは対象エリアに関連する配信情報を、時系列で比較することにより、時刻の異なる配信情報間の差分を認識する。そして、更新判定部323は、認識した差分に基づき、対象POI或いは対象エリアに関連する配信情報を更新する必要があるか否かを判定する。
画像取得部324は、画像記憶部332から撮影画像を取得し、文字情報認識部326に引き渡す。
付加情報取得部325は、画像取得部324が取得した撮影画像に対応する画像付加情報を付加情報記憶部333から取得し、文字情報認識部326に引き渡す。
文字情報認識部326は、画像取得部324が取得した撮影画像に映っている文字情報(第1の文字情報)を認識する処理を行う。
POI・エリア特定部327は、画像付加情報に含まれる撮影画像の撮影時の車両2の位置情報等に基づき、文字情報認識部326が認識した文字情報に関連する対象POI及び対象エリアを特定する処理を行う。
紐付け情報生成部328は、文字情報認識部326が認識した文字情報(第1の文字情報)と、POI・エリア特定部327が特定した対象POI及び対象エリアとを紐づけた紐付け情報を生成する。
以下、図5、図6を参照して、POI・エリア特定部327によるPOI・エリア特定処理の具体例、及び文字情報認識部326、POI・エリア特定部327、及び紐付け情報生成部328による文字情報の認識から紐付け情報の生成に至る一連の処理フローについて説明する。
まず、図5は、POI・エリア特定部327における文字情報(第1の文字情報)に関連する対象POI或いは対象エリアを特定する処理の具体例を説明する図である。図5(a)は、画像取得部324が取得した撮影画像の具体例を示す図である。また、図5(b)は、図5(a)の撮影画像が撮影された際の状況を示す図である。具体的には、地図情報DB335に格納されるGIS(Geographic Information System:地理情報システム)データである各建物や道路等の地物に対応するラインやポリゴンと、車両2及びカメラ21の画角情報(左右方向の撮影角度範囲)を重ねて示した図である。
図5(a)に示すように、撮影画像には、車両2が走行中の道路53、道路53の右側の沿線にあるAレストラン54等を含む車両2の前方を中心とする周囲の状況が映っている。また、撮像画像の右端部には、Aレストラン54が設置した幟55が映っており、幟55には、"ステーキフェア開催中"という内容の文字情報が含まれている。そのため、文字情報認識部326は、撮影画像に映っている当該文字情報を認識する。そして、POI・エリア特定部327は、文字情報認識部326が認識した当該文字情報に関連する対象POI及び対象エリアを特定する。
POI・エリア特定部327は、付加情報取得部325が取得した画像付加情報から撮影画像の撮影時における車両2の位置情報、及びカメラ情報(カメラ21の画角情報)を認識することができる。そのため、図5(b)に示すように、POI・エリア特定部327は、地図情報DB335のGISデータや画像付加情報等から、撮影画像が撮影された際の車両2の周辺の状況を認識できると共に、映っている建物等の地物を特定することができる。また、POI・エリア特定部327は、撮影画像に映っている店や建物等の地物の名称等と、POI・エリア情報DB334内の対象POI及び対象エリア等とを比較することで、撮影画像に映っている店や建物等が対象POIに該当するのか、或いは、対象エリアに含まれるのかを判断することができる。そのため、本例の場合、POI・エリア特定部327は、幟55の文字情報が当該幟55と隣接するAレストラン54に関連するものである旨を特定できる。また、本例の場合、当該文字情報の内容から関連する対象POIは、飲食店である旨を推定できるため、文字情報の内容を考慮することも可能である。
続いて、図6は、文字情報認識部326、POI・エリア特定部327、及び紐付け情報生成部328による文字情報の認識から紐付け情報の生成までの一連の処理の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、送受信処理部241が車両2からの撮影画像データ及び画像付加情報データを受信する度に、実行される。また、本フローチャートによる処理は、撮影画像毎に実行される。
ステップS302にて、文字情報認識部326は、撮影画像データに映っている文字情報(第1の文字情報)を認識する処理を行う。
ステップS304にて、POI・エリア特定部327は、撮影画像の撮影時の車両2の位置情報に基づき、文字情報認識部326が認識した文字情報に関連する対象POI及び対象エリアの特定を試みる。POI・エリア特定部327は、上述の如く、撮影画像に対応する画像付加情報(車両2の位置情報やカメラ21の画角情報)、POI・エリア情報DB334の対象POI、対象エリアに関する情報、及び地図情報DB335の地図情報(GISデータ)等に基づき、文字情報に関連する対象POI及び対象エリアの特定を試みてよい。また、POI・エリア特定部327は、簡易的に、文字情報に対応する撮影画像の撮影時における車両2の位置情報、及びPOI・エリア情報DB334の対象POI、対象エリアに関する情報に基づき、対象POI及び対象エリアの特定を試みてもよい。また、POI・エリア特定部327は、上述の如く、文字情報の内容を考慮して、対象POI及び対象エリアの特定を試みてもよい。
ステップS306にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と関連性の高い対象POIがあるか否かを判定する。紐付け情報生成部328は、文字情報と関連性の高い対象POIがある場合、ステップS308に進み、文字情報と関連性の高い対象POIがない場合、ステップS314に進む。
ステップS308にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と関連性の高い対象エリアがあるか否かを判定する。紐付け情報生成部328は、文字情報と関連性の高い対象エリアがある場合、ステップS310に進み、文字情報と関連性の高い対象エリアがない場合、ステップS312に進む。
ステップS310にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と、POI・エリア特定部327が特定した対象POI及び対象エリアを紐づけた情報(紐付け情報)を生成すると共に、未確定情報DB338に格納し、今回の処理を終了する。
一方、ステップS312にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と、POI・エリア特定部327が特定した対象POIを紐づけた情報(紐付け情報)を生成すると共に、未確定情報DB338に格納し、今回の処理を終了する。
また、ステップS306にて、文字情報に関連する対象POIがないと判定された場合、ステップS314にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と関連性の高い対象エリアがあるか否かを判定する。紐付け情報生成部328は、文字情報に関連する対象エリアがある場合、ステップS316に進み、文字情報に関連する対象エリアがない場合、ステップS318に進む。
ステップS316にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と、POI・エリア特定部327が特定した対象エリアを紐づけた情報(紐付け情報)を未確定情報DB338に格納し、今回の処理を終了する。
一方、ステップS318にて、紐付け情報生成部328は、文字情報認識部326が認識した文字情報を未確定情報DB338に格納し、今回の処理を終了する。
図1に戻り、文字情報訂正部329は、未確定情報DB338に格納された紐付け情報内の文字情報に対する誤り訂正を行う。撮影画像に基づく文字認識処理で認識される文字情報には、誤りが含まれる可能性があるからである。
文字情報訂正部329は、例えば、汎用手法による確率的誤り訂正を行う。例えば、既知の統計的自然言語処理の要素技術であるN−Gramモデル、編集距離(レーベンシュタイン距離)等を用いて、紐付け情報内の文字情報の誤りの検出及び訂正を行うことができる。また、例えば、OCR(Optical Character Recognition:光学文字認識)における誤りが生じやすい類似文字に関するデータベース(OCR類似文字DB)を活用することもできる。
また、文字情報訂正部329は、紐付け情報内の対象POI及び対象エリアの少なくとも一方に関するウェブクロールデータに基づき、紐付け情報内の文字情報の誤りの検出及び訂正を行う。具体的には、文字情報訂正部329は、紐付け情報内の対象POI及び対象エリアの少なくとも一方に関するウェブクロールデータをウェブクロールDB336から取得する。そして、文字情報訂正部329は、取得した対象POI及び対象エリアの少なくとも一方に関するウェブクロールデータ内から、文字情報と類似するテキストを抽出し、比較(突合)することで、紐付け情報内の文字情報の誤りを検出し、訂正することができる。
尚、ウェブクロールDB336内のウェブクロールデータは、定期的に、更新され、最新のウェブ情報に対応している。
また、文字情報訂正部329は、紐付け情報内の対象POI及び対象エリアの少なくとも一方に関する音声認識データに基づき、紐付け情報内の文字情報の誤りの検出及び訂正を行う。具体的には、文字情報訂正部329は、紐付け情報内の文字情報に対応する撮影画像が撮影された位置付近で、同時期に取得された音声認識データを音声認識DB337から探索する。そして、探索結果として取得した音声認識データ内から、文字情報に類似するテキストを抽出し、比較(突合)することで、紐付け情報内の文字情報の誤りを検出し、訂正することができる。
保存処理部330は、文字情報訂正部329による文字情報の誤り訂正が行われた紐づけ情報を配信情報DB339に保存する処理を行う。また、保存処理部330は、QRコード読取データ及びQRコード付加情報の受信の通知を送受信処理部321から受けると、QRコード読取データを所定の形式で配信情報DB339に保存すると共に、QRコード付加情報を付加情報記憶部333に記憶させる。
以下、図7、図8を参照して、文字情報訂正部329による文字情報訂正処理の具体例及び、文字情報訂正部329並びに保存処理部330による文字情報の誤り訂正から紐づけ情報の配信情報DB339への保存に至る一連の処理フローについて説明する。
図7は、文字情報訂正部329における誤り訂正処理の具体例を示す図である。
図7に示すように、本例では、図5(a)に示したAレストラン54が設置した幟55に含まれる"ステーキフェア開催中"という文字情報が異なる3つの車両2で撮影された撮影画像から抽出されている。そして、対象POIであるAレストラン54と紐付けた紐付け情報が未確定情報DB338に格納されている。具体的には、各紐付け情報内の文字情報は、"ステーテフェア開催中"、"ステーキファ 開催中"、及び"ステーキフェア開催中"であり、前者2つは、誤りを含んでいる。
文字情報訂正部329は、上述の如く、(1)汎用手法による確率的誤り訂正、(2)対象POI、対象エリアに関するウェブ情報による誤り訂正、及び(3)音声認識データによる誤り訂正を行うことができる。
特に、(2)に関して、図7に示すように、文字情報訂正部329は、対象POIであるAレストラン54に関するウェブクロールデータ(ウェブ情報)に基づき、文字情報に類似するテキストとして、"ステーキフェア開催中"を抽出できる。また、(3)に関して、図7に示すように、"Aレストラン、ステーキフェア開催中だって!肉食べたいな"という内容の音声認識データが音声認識DB337に存在する場合は、当該音声認識データから"ステーキフェア開催中"というテキストを抽出することができる。そのため、文字情報訂正部329は、未確定情報DB338に格納される紐付け情報内の誤りを含む文字情報を"ステーキフェア開催中"に誤り訂正することができる。そして、保存処理部330は、文字情報が訂正された紐付け情報を配信情報として配信情報DB339に保存する。
続いて、図8は、文字情報訂正部329及び保存処理部330による文字情報の誤り訂正から紐づけ情報の配信情報DB339への保存に至る一連の処理の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、紐付け情報生成部328が未確定情報DB338に紐付け情報を格納する度に実行される。
ステップS402にて、文字情報訂正部329は、未確定情報DB338から紐付け情報を取得する。
ステップS404にて、文字情報訂正部329は、汎用手法(確率的誤り訂正)による紐付け情報内の文字情報における誤りの検出を試み、誤りが検出された場合は、訂正を行う。
ステップS406にて、文字情報訂正部329は、ウェブクロールDB336から紐付け情報内の対象POI、対象エリアに関するウェブクロールデータを取得し、該ウェブクロールデータに基づき、紐付け情報内の文字情報における誤りの検出を試み、誤りが検出された場合は、訂正を行う。
ステップS408にて、文字情報訂正部329は、紐付け情報内の文字情報に対応する撮影画像の撮影場所付近における同時期の音声認識データが音声認識DB337にあるか否かを判定する。文字情報訂正部329は、条件に合致する音声認識データがある場合、ステップS410に進み、条件に合致する音声認識データがない場合、ステップS412に進む。
ステップS410にて、文字情報訂正部329は、取得した音声認識データに基づき、紐付け情報内の文字情報における誤りの検出を試み、誤りが検出された場合は、訂正を行う。
ステップS412にて、文字情報訂正部329は、紐付け情報内の訂正した文字情報の確度が高いか否かを判定する。確度の高低を判定するための基準は、様々な観点から定められてよい。例えば、ステップS410の処理を通過した場合、確度が高いと判定される可能性を高めてよい。文字情報訂正部329は、紐付け情報内の訂正した文字情報の確度が高い場合、ステップS414に進み、確度が低い場合、今回の処理を終了する。
ステップS414にて、保存処理部330は、文字情報訂正部329による誤り訂正処理が施された紐付け情報を配信情報DB339に保存し、今回の処理を終了する。
図1に戻り、情報配信部331は、対象POI或いは対象エリア付近にいる車両2や車両2のユーザの登録済のスマートフォン等に対して、配信情報DB339に格納される対象POI或いは対象エリアに関連する配信情報を、送受信処理部321を介して配信する。即ち、情報配信部331は、文字情報と対象POI、対象エリアを紐づけた紐付け情報や、対象POI、対象エリアに関するQRコード読取データを車両2等に配信する。以下、図9を参照して、情報配信部331から配信される配信情報のユーザへの通知態様の具体例について説明する。
図9は、情報配信部331から車両2に配信される配信情報の通知態様の一例を示す図である。具体的には、図4(a)の撮影画像で認識されたQRコードに基づくQRコード認識データ(第2の文字情報)と、図5(a)の撮影画像で認識された文字情報(第1の文字情報)に基づく紐付け情報が車両2に配信された際のナビゲーション装置の画面を表す。
図9に示すように、対象POIであるAレストラン54で"ステーキフェア開催中"であること、及びB百貨店51で"夏の大九州物産展"が開催中である旨が表示される。即ち、撮影画像に映っている文字情報やQRコードをそのままの画像データとしてユーザに提供せず、POIやエリアと関連づけた情報として提供することができる。そのため、ユーザは、直ぐにエリアやPOIとの関連性を理解でき、情報を有効活用することができる。
尚、QRコード読取データには、通常、対象POIや対象エリアに関する情報が含まれている。
このように、本実施形態では、情報センタ3の送受信処理部321は、複数の車両2のそれぞれからカメラ21の撮影画像及び該撮影画像の撮影時における位置情報等の画像付加情報を受信する。また、情報センタ3の文字情報認識部326は、撮影画像に映っている文字情報(第1の文字情報)を認識する。また、POI・エリア特定部327は、該撮影画像の撮影時における位置情報、及びPOI・エリア情報DB334に格納される対象POI、対象エリアに関する情報に基づき、文字情報認識部326が認識した文字情報に関連する対象POI及び対象エリアを特定する。そして、情報センタ3の紐付け情報生成部328は、文字情報認識部326が認識した文字情報に、POI・エリア特定部327が特定した対象POI及び対象エリアの少なくとも一方を紐付けた、紐付け情報を生成し、保存処理部330は、当該紐づけ情報を配信情報DB339に保存する。従って、撮影画像に映っている文字情報と、当該文字情報に関連する対象POIや対象エリアが紐づけられた紐付け情報を蓄積し、当該紐付け情報をユーザに提供することができる。そのため、ユーザは、提供された紐付け情報が車両のディスプレイ等に表示されると、文字情報が特定のPOIやエリアに関連することを直ちに認識することができ、直ぐに、近辺に存在するPOIやエリアに向かうことができる等、提供された情報を有効活用できる。
また、本実施形態では、情報センタ3の文字情報訂正部329は、紐付け情報内の文字情報の誤り訂正を行う。従って、文字情報認識部326による文字認識に誤りが存在する場合であっても、誤り訂正が行われるため、より正確性の高い紐づけ情報を配信情報DB339に保存することができる、即ち、より正確な情報をユーザに提供することができる。
また、本実施形態では、情報センタ3の文字情報訂正部329は、紐付け情報内の対象POI及び対象エリアに関連するウェブクロールデータに基づき、紐付け情報内の文字情報に対する誤り訂正を行う。また、情報センタの文字情報訂正部329は、対象POI及び対象エリアに関連する音声認識データに基づき、紐付け情報内の文字情報に対する誤り訂正を行う。従って、紐づけ情報内の対象POIや対象エリアに関連するウェブ情報や音声認識データ(例えば、車両2のユーザからの情報提供の呟きに対応するテキスト)を参照して、紐づけ情報内の文字情報に対する誤り訂正を行うことができる。そのため、汎用の誤り訂正技術では、対応が難しいケース(例えば、意図的な誤字を含む文字情報や造語を含む文字情報が対象のケース)でも、文字情報認識部による文字認識の誤りを正確に誤り訂正することができる。
また、本実施形態では、各車両2のQRコード読取部243は、撮影画像に映っているQRコードを認識すると共に、QRコードを解析してQRコード読取データ(第2の文字情報)を取得する。そして、情報センタ3の保存処理部330は、QRコード読取データを配信情報DB339に保存する。従って、撮影画像に映っているQRコードの内容を解析した結果であるQRコード読取データが配信情報DB339に蓄積され、当該QRコード読取データをユーザに提供することができる。また、QRコード読取データには、図3(b)等に示すように、POIやエリアに関する情報が含まれている場合が多いため、POIやエリアと関連する情報として提供することができる。また、例えば、撮影画像をそのままユーザに提供するような場合のように、ユーザがスマートフォンのアプリ等を用いて、QRコードの読み取りを行う必要がなく、ユーザの利便性を向上させることができる。
以上、本発明を実施するための形態について詳述したが、本発明はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
例えば、上述した実施形態において、POI・エリア特定部327は、文字情報と関連する対象POI及び対象エリアの双方を特定するが、いずれか一方を特定する態様であってもよい。かかる場合、POI・エリア情報DB334には、対象POI及び対象エリアの何れか一方に関する情報が格納されればよい。また、紐付け情報生成部328は、文字情報認識部326が認識した文字情報と、POI・エリア特定部327が特定した対象POI及び対象エリアのうちの一方との紐付けを行う。
また、上述した実施形態において、QRコード読取部243は、複数の車両2のそれぞれに含まれるが、情報センタ3に含まれる態様であってもよい。
また、上述した実施形態では、文字情報訂正部329が設けられるが、省略されてもよい。かかる場合、保存処理部330は、簡易的に、紐づけ情報生成部328が生成した紐づけ情報をそのまま配信情報として配信情報DB339に保存する。
1 情報収集システム
2 車両
3 情報センタ
4 通信ネットワーク
21 カメラ
22 センサ(位置情報取得部)
23 マイクロフォン
24 ECU
25 無線通信機器
31 無線通信機器
32 情報収集装置
241 送受信処理部(送信部)
242 撮影制御部
243 QRコード読取部(QRコード認識部、文字情報取得部)
244 音声認識部
245 記憶部
321 送受信処理部(受信部)
322 撮影指示部
323 更新判定部
324 画像取得部
325 付加情報取得部
326 文字情報認識部
327 POI・エリア特定部(特定部)
328 紐づけ情報生成部
329 文字情報訂正部(誤り訂正部)
330 保存処理部
331 情報配信部
332 画像記憶部
333 付加情報記憶部
334 POI・エリア情報DB(情報格納部)
335 地図情報DB
336 ウェブクロールDB
337 音声認識DB
338 未確定情報DB
339 配信情報DB

Claims (5)

  1. 複数の車両と、前記複数の車両のそれぞれと無線通信可能な情報センタと、を含む情報収集システムであって、
    前記複数の車両は、それぞれ、自車両の周辺を撮影するカメラと、自車両の位置情報を取得する位置情報取得部と、前記カメラの撮影画像、及び該撮影画像の撮影時における前記位置情報を前記情報センタに送信する送信部と、を備え、
    前記情報センタは、前記複数の車両のそれぞれから前記撮影画像及び前記位置情報を受信する受信部と、前記撮影画像に映っている第1の文字情報を認識する文字情報認識部と、情報収集の対象となるPOI及びエリアの少なくとも一方に関する情報を格納する情報格納部と、前記受信部が受信した前記位置情報、及び前記情報格納部に格納された情報に基づき、前記第1の文字情報に関連するPOI及びエリアの少なくとも一方を特定する特定部と、前記第1の文字情報に前記特定部が特定したPOI及びエリアの少なくとも一方を紐付けた、紐付け情報を記憶部に保存する保存処理部と、を備える、
    情報収集システム。
  2. 前記情報センタは、前記紐付け情報内の前記第1の文字情報に対して、誤り訂正を行う誤り訂正部を備える、
    請求項1に記載の情報収集システム。
  3. 前記誤り訂正部は、前記紐付け情報内のPOI及びエリアの少なくとも一方に関連するウェブクロールデータに基づき、前記紐付け情報内の前記第1の文字情報に対する誤り訂正を行う、
    請求項2に記載の情報収集システム。
  4. 各前記複数の車両、又は前記情報センタは、前記撮影画像に映っているQRコードを認識するQRコード認識部と、前記QRコードを解析し、第2の文字情報を取得する文字情報取得部を備え、
    前記保存処理部は、前記第2の文字情報を前記記憶部に保存する、
    請求項1乃至3の何れか一項に記載の情報収集システム。
  5. 複数の車両のそれぞれと無線通信可能な情報センタであって、
    前記複数の車両のそれぞれに搭載されたカメラで撮影された自車周辺の撮影画像、及び該撮影画像の撮影時における自車の位置情報を、前記複数の車両のそれぞれから受信する受信部と、前記撮影画像に映っている第1の文字情報を認識する文字情報認識部と、情報収集の対象となるPOI及びエリアの少なくとも一方に関する情報を格納する情報格納部と、前記受信部が受信した前記位置情報、及び前記情報格納部に格納された情報に基づき、前記第1の文字情報に関連するPOI及びエリアの少なくとも一方を特定する特定部と、前記第1の文字情報に前記特定部が特定したPOI及びエリアの少なくとも一方を紐付けた、紐付け情報を記憶部に保存する保存処理部と、を備える、
    情報センタ。
JP2016088307A 2016-04-26 2016-04-26 情報収集システム Active JP6607139B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016088307A JP6607139B2 (ja) 2016-04-26 2016-04-26 情報収集システム
US15/493,930 US10515113B2 (en) 2016-04-26 2017-04-21 Information collection system and information center
US16/574,919 US10762128B2 (en) 2016-04-26 2019-09-18 Information collection system and information center

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016088307A JP6607139B2 (ja) 2016-04-26 2016-04-26 情報収集システム

Publications (2)

Publication Number Publication Date
JP2017198799A true JP2017198799A (ja) 2017-11-02
JP6607139B2 JP6607139B2 (ja) 2019-11-20

Family

ID=60090205

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016088307A Active JP6607139B2 (ja) 2016-04-26 2016-04-26 情報収集システム

Country Status (2)

Country Link
US (2) US10515113B2 (ja)
JP (1) JP6607139B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020080496A (ja) * 2018-11-13 2020-05-28 本田技研工業株式会社 画像管理装置、プログラム、画像管理方法、及び、物品
JP2020106968A (ja) * 2018-12-26 2020-07-09 トヨタ自動車株式会社 車載用情報処理装置、プログラム、及び制御方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6759175B2 (ja) 2017-10-27 2020-09-23 株式会社東芝 情報処理装置および情報処理システム
KR102345625B1 (ko) * 2019-02-01 2021-12-31 삼성전자주식회사 자막 생성 방법 및 이를 수행하는 장치
US20200372791A1 (en) * 2019-05-24 2020-11-26 E-Motion Inc. Crowdsourced realtime traffic images and videos
CN110321396A (zh) * 2019-05-27 2019-10-11 深圳市迈测科技股份有限公司 位置校准方法及相关产品
DE102020106301A1 (de) * 2020-03-09 2021-09-09 Zf Cv Systems Global Gmbh Verfahren zum Ermitteln einer Objekt-Information zu einem Objekt in einer Fahrzeugumgebung, Steuereinheit und Fahrzeug
US11210824B2 (en) * 2020-05-21 2021-12-28 At&T Intellectual Property I, L.P. Integer-based graphical representations of words and texts
US11461988B2 (en) * 2020-07-23 2022-10-04 Suresh Babu Revoled Konti Method of transferring data between unconnected computing devices
CN112069281B (zh) * 2020-09-08 2021-06-18 智慧足迹数据科技有限公司 兴趣点位置的确定方法、装置、计算机设备及存储介质
US20220222473A1 (en) * 2021-01-11 2022-07-14 Toyota Motor Engineering & Manufacturing North America, Inc. Vehicle communication systems and methods for detecting and capturing relevant object data
CN113343128A (zh) * 2021-05-31 2021-09-03 阿波罗智联(北京)科技有限公司 用于推送信息的方法、装置、设备以及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004272658A (ja) * 2003-03-10 2004-09-30 Geomic Co Ltd 携帯情報端末のテキストデータ入力支援方法及び装置
JP2004295198A (ja) * 2003-03-25 2004-10-21 Zenrin Co Ltd 位置データ抽出装置
JP2004302262A (ja) * 2003-03-31 2004-10-28 National Institute Of Information & Communication Technology 主観的地図作成方法および主観的地図作成システム
JP2007240193A (ja) * 2006-03-06 2007-09-20 Denso Corp ランドマーク報知装置、車載用ナビゲーション装置および車載用ナビゲーションシステム
US20080118110A1 (en) * 2006-11-22 2008-05-22 Rutger Simonsson Apparatus and method for analyzing image identifications generated by an ocr device
JP2008165652A (ja) * 2006-12-29 2008-07-17 Xanavi Informatics Corp ガソリン価格情報収集システム、ガソリン価格情報収集方法およびナビゲーション装置
JP2009294757A (ja) * 2008-06-03 2009-12-17 Fujitsu Ltd 価格収集装置、価格収集提示装置及び価格収集プログラム
JP2010231560A (ja) * 2009-03-27 2010-10-14 Zenrin Co Ltd 地図データ誤り修正装置
JP2014063300A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 文字認識装置及び文字認識処理方法並びにプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6266442B1 (en) * 1998-10-23 2001-07-24 Facet Technology Corp. Method and apparatus for identifying objects depicted in a videostream
JP3651419B2 (ja) 2001-08-03 2005-05-25 日産自動車株式会社 環境認識装置
JP2005141348A (ja) 2003-11-05 2005-06-02 Sumitomo Electric Ind Ltd 位置検出システム及び盗難車両追跡システム
JP2006078357A (ja) 2004-09-10 2006-03-23 Alpine Electronics Inc ナビゲーション装置およびナビゲーション方法
US8150617B2 (en) 2004-10-25 2012-04-03 A9.Com, Inc. System and method for displaying location-specific images on a mobile device
US7451041B2 (en) * 2005-05-06 2008-11-11 Facet Technology Corporation Network-based navigation system having virtual drive-thru advertisements integrated with actual imagery from along a physical route
JP4831434B2 (ja) * 2007-12-27 2011-12-07 アイシン・エィ・ダブリュ株式会社 地物情報収集装置及び地物情報収集プログラム、並びに自車位置認識装置及びナビゲーション装置
JP5223645B2 (ja) 2008-12-15 2013-06-26 三菱自動車工業株式会社 駐車位置案内システムおよび駐車位置案内方法
JP5554045B2 (ja) * 2009-10-21 2014-07-23 アルパイン株式会社 地図表示装置及び地図表示方法
US8063797B1 (en) * 2010-07-31 2011-11-22 ParkMe LLC Parking information collection system and method
JP2013239087A (ja) 2012-05-16 2013-11-28 Toyota Motor Corp 情報処理システム及び移動体
JP5666538B2 (ja) * 2012-11-09 2015-02-12 富士重工業株式会社 車外環境認識装置
JP2014106585A (ja) * 2012-11-26 2014-06-09 Sony Corp 情報処理装置、端末装置、情報処理方法及びプログラム
KR101737791B1 (ko) * 2014-10-23 2017-05-19 현대모비스 주식회사 교통 표지판 인식 장치 및 그 동작 방법
PT3051461T (pt) * 2015-01-31 2020-07-14 Tata Consultancy Services Ltd Sistema e método implementado por computador para extrair e reconhecer caracteres alfanuméricos de sinais de trânsito
KR102622571B1 (ko) * 2015-02-10 2024-01-09 모빌아이 비젼 테크놀로지스 엘티디. 자율 주행을 위한 약도
JP6552979B2 (ja) * 2016-02-16 2019-07-31 株式会社日立製作所 画像処理装置、警告装置、画像処理システム、画像処理方法
US10558222B2 (en) * 2016-07-21 2020-02-11 Mobileye Vision Technologies Ltd. Navigating a vehicle using a crowdsourced sparse map

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004272658A (ja) * 2003-03-10 2004-09-30 Geomic Co Ltd 携帯情報端末のテキストデータ入力支援方法及び装置
JP2004295198A (ja) * 2003-03-25 2004-10-21 Zenrin Co Ltd 位置データ抽出装置
JP2004302262A (ja) * 2003-03-31 2004-10-28 National Institute Of Information & Communication Technology 主観的地図作成方法および主観的地図作成システム
JP2007240193A (ja) * 2006-03-06 2007-09-20 Denso Corp ランドマーク報知装置、車載用ナビゲーション装置および車載用ナビゲーションシステム
US20080118110A1 (en) * 2006-11-22 2008-05-22 Rutger Simonsson Apparatus and method for analyzing image identifications generated by an ocr device
JP2008165652A (ja) * 2006-12-29 2008-07-17 Xanavi Informatics Corp ガソリン価格情報収集システム、ガソリン価格情報収集方法およびナビゲーション装置
JP2009294757A (ja) * 2008-06-03 2009-12-17 Fujitsu Ltd 価格収集装置、価格収集提示装置及び価格収集プログラム
JP2010231560A (ja) * 2009-03-27 2010-10-14 Zenrin Co Ltd 地図データ誤り修正装置
JP2014063300A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 文字認識装置及び文字認識処理方法並びにプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020080496A (ja) * 2018-11-13 2020-05-28 本田技研工業株式会社 画像管理装置、プログラム、画像管理方法、及び、物品
JP2020106968A (ja) * 2018-12-26 2020-07-09 トヨタ自動車株式会社 車載用情報処理装置、プログラム、及び制御方法

Also Published As

Publication number Publication date
US10762128B2 (en) 2020-09-01
US10515113B2 (en) 2019-12-24
US20170308551A1 (en) 2017-10-26
JP6607139B2 (ja) 2019-11-20
US20200012680A1 (en) 2020-01-09

Similar Documents

Publication Publication Date Title
JP6607139B2 (ja) 情報収集システム
JP6675770B2 (ja) 地図更新方法および車載端末
US10504365B2 (en) Navigation method, device and system
EP2598842B1 (en) Guidance device, guidance method, and guidance program
US20180045516A1 (en) Information processing device and vehicle position detecting method
JP4591353B2 (ja) 文字認識装置、移動通信システム、移動端末装置、固定局装置、文字認識方法および文字認識プログラム
US11410429B2 (en) Image collection system, image collection method, image collection device, recording medium, and vehicle communication device
JP6950832B2 (ja) 位置座標推定装置、位置座標推定方法およびプログラム
WO2018000823A1 (zh) 一种导航方法、装置及系统
US11520033B2 (en) Techniques for determining a location of a mobile object
US11189162B2 (en) Information processing system, program, and information processing method
JP2012137320A (ja) 誘導案内装置、誘導案内方法、誘導案内プログラムおよび記録媒体
JP2009037062A (ja) 地図データ更新装置、及び地図データ更新システム
KR102106029B1 (ko) 간판 검출 성능 향상을 위한 방법 및 시스템
JP2007010598A (ja) 地図情報更新方法及びナビゲーション装置
KR102189926B1 (ko) 관심 영역 변화를 검출하는 방법 및 시스템
JP2023076483A (ja) 情報送信装置、制御方法、プログラム及び記憶媒体
US10580168B2 (en) Content output system and method
JP2022186705A (ja) サーバ装置、端末装置、情報通信方法、及び、サーバ装置用プログラム
US11256930B2 (en) Road surface management system and road surface management method thereof
CN113063421A (zh) 导航方法及相关装置、移动终端、计算机可读存储介质
JP2005141515A (ja) 他車位置表示装置及び他車情報提示方法
JP2023026463A (ja) サーバ装置、端末装置、情報処理方法並びに情報処理システム及び情報処理プログラム
JP2019168610A (ja) データ構造、情報処理装置及び地図作成装置
JP5573606B2 (ja) 基準パターン情報生成装置、方法、プログラムおよび一般車両位置特定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171103

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181203

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20181203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191007

R151 Written notification of patent or utility model registration

Ref document number: 6607139

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151