JP6518309B1 - Driving condition reproduction system - Google Patents

Driving condition reproduction system Download PDF

Info

Publication number
JP6518309B1
JP6518309B1 JP2017217002A JP2017217002A JP6518309B1 JP 6518309 B1 JP6518309 B1 JP 6518309B1 JP 2017217002 A JP2017217002 A JP 2017217002A JP 2017217002 A JP2017217002 A JP 2017217002A JP 6518309 B1 JP6518309 B1 JP 6518309B1
Authority
JP
Japan
Prior art keywords
data
recording
sound
vehicle
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017217002A
Other languages
Japanese (ja)
Other versions
JP2019085059A (en
Inventor
松田 章宏
章宏 松田
正一郎 大島
正一郎 大島
優里 箕田
優里 箕田
長谷川 誠
誠 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shintec Hozumi Co Ltd
Original Assignee
Shintec Hozumi Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shintec Hozumi Co Ltd filed Critical Shintec Hozumi Co Ltd
Priority to JP2017217002A priority Critical patent/JP6518309B1/en
Application granted granted Critical
Publication of JP6518309B1 publication Critical patent/JP6518309B1/en
Publication of JP2019085059A publication Critical patent/JP2019085059A/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Testing And Monitoring For Control Systems (AREA)
  • Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)

Abstract

【課題】異音の発生箇所や原因の特定に役立つシステムを提供すること。【解決手段】走行状態再現システム1は、車両5の走行状態を表す車両データを取得する車両データ取得部と、車両5の走行中に生じた音をマイクロフォンで集めて音データを生成する集音部と、集音部が生成した音データおよび車両データ取得部が取得した車両データを含む記録データを記録する記録部と、記録データに含まれる音データを再生する再生部と、を備え、再生部は、音データを再生する際、車両データを同期して再生可能である。【選択図】図1[Problem] To provide a system that is useful for identifying the location and cause of abnormal noise. A traveling state reproduction system 1 includes a vehicle data acquisition unit that acquires vehicle data representing a traveling state of a vehicle 5, and a sound collecting a sound generated during traveling of the vehicle 5 with a microphone to generate sound data. A recording unit for recording recording data including sound data generated by the sound collection unit and vehicle data acquired by the vehicle data acquisition unit; and a reproduction unit for reproducing sound data included in the recording data, When reproducing the sound data, the unit can reproduce the vehicle data in synchronization. [Selected figure] Figure 1

Description

本発明は、車両の走行状態を再現し、車両のメンテナンス作業に供するシステムに関する。   The present invention relates to a system for reproducing the traveling state of a vehicle and providing the maintenance work for the vehicle.

車両では、エンジン音や、タイヤの転動に応じて生じるロードノイズや、風切り音の発生が不可避である。乗員に聞こえる音は快適性を大きく左右する要素であることから、車両の開発現場では、これらの音を小さくするための研究や、乗員にとって心地の良い音質に調整するための研究が盛んに行われている。   In a vehicle, the generation of engine noise, road noise generated in response to rolling of a tire, and wind noise is inevitable. Since the sound heard by the occupants is a factor that greatly affects the comfort, at the development site of the vehicle, research for reducing these sounds and research for adjusting the sound quality to be comfortable for the occupants are actively conducted. It is

一方、多数の部品を適正に組み付けて生産される車両では、組み付け工程での不良や設計不良や経年変化など、各種の原因に起因して異音が発生することがある。異音は、何らかの原因に起因して発生する一方、走行上の問題が顕在化するよりも前に予兆として発生する場合が多い。異音の原因を早期に発見できれば、症状が重症化する前の対処が可能となる。   On the other hand, in a vehicle manufactured by properly assembling a large number of parts, noise may be generated due to various causes such as a defect in an assembling process, a design defect, and a secular change. Abnormal noise occurs due to some cause, but often occurs as a precursor before a driving problem becomes apparent. If the cause of the abnormal noise can be found early, it will be possible to cope with the symptoms before they become severe.

そこで、従来、遠隔故障診断用プログラムの実行により車両で発生する可能性がある異音の種類をユーザに提示し、実際に発生したものに近い異音をユーザに選択させることで故障診断を実現しようとするシステムが提案されている(例えば、下記の特許文献1参照。)。さらに、このシステムでは、「エンジンをかけた時」、「エンジンを切った時」、「走行中いつも」、など異音の発生状況をユーザに選択させることで、異音と走行状態とを関連付けて故障診断に役立てる工夫がなされている。   Therefore, conventionally, the type of abnormal noise that may be generated in the vehicle by executing the remote failure diagnosis program is presented to the user, and the user is allowed to select abnormal noise close to that actually generated, thereby realizing failure diagnosis. A system to be attempted has been proposed (see, for example, Patent Document 1 below). Furthermore, in this system, the user can select abnormal noise generation status such as "when the engine is turned on", "when the engine is turned off", and "always during traveling" to associate the abnormal noise with the running state. Devices are used to assist in fault diagnosis.

特開2002−331884号公報Japanese Patent Laid-Open No. 2002-331884

しかしながら、前記従来のシステムでは、次のような問題がある。すなわち、異音が発生したときの走行状態の把握が不十分となり、故障診断の精度を十分に確保できないおそれがある。   However, the conventional system has the following problems. That is, there is a possibility that the understanding of the traveling state when the abnormal noise occurs is insufficient, and the accuracy of the failure diagnosis can not be sufficiently secured.

本発明は、前記従来の問題点に鑑みてなされたものであり、異音の発生箇所や原因の特定に役立つシステムを提供しようとする発明である。   The present invention has been made in view of the above-mentioned conventional problems, and is an invention which is intended to provide a system which is useful for identifying the location and cause of abnormal noise.

本発明は、車両の走行状態を表す車両データを取得する車両データ取得部と、
車両の走行中に生じた音をマイクロフォンで集めて音データを生成する集音部と、
前記集音部が生成した音データおよび前記車両データ取得部が取得した車両データを含む記録データを記録する記録部と、
前記車両データに同期して、前記記録データに含まれる音データを再生可能な再生部と、
前記音データあるいは前記車両データに関して複数種類のトリガー条件を設定可能なトリガー条件設定部と、
前記複数種類のトリガー条件のうちの全種類のトリガー条件の成立に応じて、前記音データ及び前記車両データを記録する契機となるトリガー信号を生成するトリガー信号生成部と、を備え、
前記記録部は、前記トリガー信号の有無に関わらず過去の所定期間に亘って前記音データと前記車両データとを含む一時保存データを一時的に記録し、
前記トリガー信号が発生したとき、前記トリガー条件の成立数が前記全種類に満たない所定数よりも少ない状態から当該所定数のトリガー条件が成立する状態に移行した時点のうち、該トリガー信号の発生時点の直前の時点を記録期間の先頭として、記録データを切り出す処理を実行する走行状態再現システムにある。
The present invention relates to a vehicle data acquisition unit that acquires vehicle data representing a traveling state of a vehicle;
A sound collection unit that collects sound generated while the vehicle is traveling with a microphone to generate sound data;
A recording unit that records recording data including sound data generated by the sound collection unit and vehicle data acquired by the vehicle data acquisition unit;
A reproduction unit capable of reproducing sound data included in the recording data in synchronization with the vehicle data ;
A trigger condition setting unit capable of setting a plurality of trigger conditions with respect to the sound data or the vehicle data;
And a trigger signal generation unit that generates a trigger signal that triggers recording of the sound data and the vehicle data in response to the establishment of all types of trigger conditions among the plurality of types of trigger conditions.
The recording unit temporarily records temporarily stored data including the sound data and the vehicle data over a predetermined period in the past regardless of the presence or absence of the trigger signal.
When the trigger signal is generated, generation of the trigger signal occurs at a point when transitioning from a state where the number of satisfaction of the trigger condition is less than a predetermined number less than all types to a state where the predetermined number of trigger conditions is satisfied The driving state reproduction system executes a process of cutting out the recording data with the time immediately before the time being as the head of the recording period .

本発明の走行状態再現システムは、音データを再生する際、車両データを同期して再生可能である。このような同期再生によれば、音が発生したときの車両データの把握が容易になり、どのような走行状態で音が発生したのか等の確認が容易になる。例えば車両の整備に精通したメカニック等が異音発生時の走行状態を確認すれば、音の発生箇所や原因の特定が容易になる。   The traveling state reproduction system of the present invention can reproduce vehicle data in synchronization when reproducing sound data. According to such synchronous reproduction, it becomes easy to comprehend vehicle data when a sound is generated, and it becomes easy to confirm in which traveling state a sound is generated. For example, if a mechanic or the like who is familiar with the maintenance of the vehicle confirms the traveling state at the time of abnormal noise generation, it becomes easy to identify the location and cause of the sound generation.

以上のように本発明の走行状態再現システムは、走行中の音の発生箇所や原因の特定に役立つ優れた特性のシステムである。   As described above, the driving state reproduction system of the present invention is a system of excellent characteristics that is useful for identifying the location and cause of the sound during driving.

実施例1における、走行状態再現システムの構成図。FIG. 1 is a configuration diagram of a driving state reproduction system in a first embodiment. 実施例1における、スマートフォンのブロック図。FIG. 2 is a block diagram of a smartphone according to the first embodiment. 実施例1における、スマートフォンが表示する(a)スタート画面、(b)スタンバイ画面の正面図。The front view of the (a) start screen which a smart phone in Example 1 displays, (b) standby screen. 実施例1における、記録データのトリミング処理の説明図。FIG. 7 is an explanatory diagram of print data trimming processing in the first embodiment. 実施例1における、スマートフォンが表示するデータ一覧画面の正面図。The front view of the data list screen which a smart phone in Example 1 displays. 実施例1における、記録データの同期再生の説明図。FIG. 7 is an explanatory diagram of synchronous reproduction of recording data in the first embodiment. 実施例1における、記録データの同期再生中のスマートフォンの表示画面の正面図。FIG. 7 is a front view of the display screen of the smartphone during synchronized reproduction of recorded data in the first embodiment. 実施例1における、バイノーラルマイクのイラスト図。FIG. 7 is an illustration of a binaural microphone in the first embodiment. 実施例1における、バイノーラルマイクによる集音方法の説明図。FIG. 7 is an explanatory diagram of a sound collection method by the binaural microphone in the first embodiment. 実施例2における、トリガー条件の設定方法の説明図。FIG. 8 is an explanatory diagram of a setting method of trigger conditions in the second embodiment. 実施例2における、トリガー条件の説明図。Explanatory drawing of the trigger condition in Example 2. FIG. 実施例2における、自動記録の説明図。FIG. 14 is an explanatory diagram of automatic recording in Embodiment 2. 実施例3における、走行状態再現システムの構成図。FIG. 10 is a configuration diagram of a driving state reproduction system in a third embodiment. 実施例4における、異音発生箇所、原因の生成方法の説明図。Explanatory drawing of the noise generation location in Example 4, and the production | generation method of a cause. 実施例4における、記録データをデータベースに格納する手順の説明図。FIG. 14 is an explanatory diagram of a procedure of storing recording data in a database according to a fourth embodiment.

本発明における車両データとしては、エンジン回転数、アクセル開度、冷却水温度、吸気温度、吸気マニホールドの絶対圧、ステアリングの操舵角、速度(車速)、トランスミッションにおける選択ギア、車両位置、外気温、ヨーレイト、加速度、など車両の制御に利用される各種の情報がある。さらに、自動運転や警報などの運転支援制御に利用される車室内あるいは車外の撮像画像や、レーザレーダなどの測距センサによる距離画像等を車両データとして取得することも良い。   Vehicle data in the present invention includes engine rotational speed, accelerator opening, coolant temperature, intake temperature, absolute pressure of intake manifold, steering angle of steering, speed (vehicle speed), selection gear in transmission, vehicle position, outside temperature, There are various types of information used to control the vehicle, such as yaw rate and acceleration. Furthermore, it is also possible to acquire a captured image of the vehicle interior or outside used for driving support control such as automatic driving or warning, a distance image by a distance measuring sensor such as a laser radar, or the like as vehicle data.

車両データを取得する車両データ取得部として端末装置を利用することも良い。端末装置が備えるカメラによる撮像画像や、磁気センサや加速度センサ等のセンサによる計測データ等を、車両データとして取得しても良い。端末装置としては専用の装置のほか、多機能型携帯電話(スマートフォン)を利用することも良い。カメラやセンサのほかに各種の通信機能を備えている上、データ記憶領域を有しており、アプリケーションプログラムのインストールにより各種の機能を実現できる多機能型携帯電話であれば、車両データ取得部として便利に活用できる。   It is also possible to use a terminal device as a vehicle data acquisition unit that acquires vehicle data. A captured image by a camera included in the terminal device, measurement data by a sensor such as a magnetic sensor or an acceleration sensor, or the like may be acquired as vehicle data. As a terminal device, besides a dedicated device, a multifunctional mobile phone (smart phone) may be used. As a vehicle data acquisition unit, it is a multifunctional mobile phone that has various communication functions in addition to cameras and sensors, has a data storage area, and can realize various functions by installing application programs. It can be used conveniently.

本発明の実施の形態につき、以下の実施例を用いて具体的に説明する。
(実施例1)
本例は、スマートフォン10を利用した走行状態再現システム1の例である。この内容について、図1〜図9を用いて説明する。
本例の走行状態再現システム1は、図1のごとく、車両5の走行中の音を集めて音データを生成する集音部、車両5の走行状態を表す車両データを取得する車両データ取得部、集音部による音データおよび車両データ取得部が取得した車両データを記録する記録部、この記録部により記録された音データと車両データとを同期再生する再生部、等を備えるシステムである。特に本例では、スマートフォン10の機能を利用して、集音部、車両データ取得部、記録部、及び再生部を実現している。
Embodiments of the present invention will be specifically described using the following examples.
Example 1
This example is an example of the running state reproduction system 1 using the smartphone 10. This content is demonstrated using FIGS. 1-9.
As shown in FIG. 1, the traveling state reproduction system 1 according to the present embodiment is a sound collecting unit that collects sound while the vehicle 5 is traveling to generate sound data, and a vehicle data acquisition unit that acquires vehicle data representing the traveling state of the vehicle 5. A recording unit that records sound data from the sound collection unit and vehicle data acquired by the vehicle data acquisition unit, and a reproduction unit that synchronously reproduces the sound data and the vehicle data recorded by the recording unit. In particular, in the present example, the sound collection unit, the vehicle data acquisition unit, the recording unit, and the reproduction unit are realized using the function of the smartphone 10.

まず、図1のシステム構成図を参照して車両5側の構成、及び本例の走行状態再現システム1の構成、について説明する。
車両5には、エンジン制御、トランスミッション制御、ブレーキ制御などの制御対象毎にECU(Engine Control Unit)51が設けられている。各ECU51は、車両5の制御に利用される通信ネットワークの一例をなすCAN(Controller Area Network)に接続され、ECU51間でやり取りされるデータ(車両データ)は、セントラルGW(GateWay)52により集中管理されている。
First, the configuration of the vehicle 5 and the configuration of the traveling state reproduction system 1 of this example will be described with reference to the system configuration diagram of FIG. 1.
The vehicle 5 is provided with an ECU (Engine Control Unit) 51 for each control target such as engine control, transmission control, and brake control. Each ECU 51 is connected to a CAN (Controller Area Network), which is an example of a communication network used to control the vehicle 5, and data (vehicle data) exchanged between the ECUs 51 is centrally managed by a central GW (GateWay) 52. It is done.

セントラルGW52には、自己診断機能を実現するためのOBD(On-Board Diagnostics)コネクタ53が接続されている。OBDコネクタ53に通信ケーブル(図示略)あるいは通信アダプタ19を接続すれば、車両5のECU51が取り扱う各種の車両データを外部に出力可能である。本例では、例えばブルートゥース(登録商標)等の近距離無線通信が可能な通信アダプタ19をネットワーク装置の一例として利用し、無線通信による車両データの外部出力を可能としている。   Connected to the central GW 52 is an OBD (On-Board Diagnostics) connector 53 for realizing a self-diagnosis function. By connecting a communication cable (not shown) or the communication adapter 19 to the OBD connector 53, various vehicle data handled by the ECU 51 of the vehicle 5 can be output to the outside. In this example, a communication adapter 19 capable of short distance wireless communication such as Bluetooth (registered trademark) is used as an example of a network device, and external output of vehicle data by wireless communication is possible.

走行状態再現システム1をなすスマートフォン10は、図1及び図2のごとく、CPU(Central Processing Unit)のほか、ROM(Read Only Memory)、RAM(Random Access Memory)、I/O(Input/Output)をひとつのIC(Integrated Circuit)チップ上に搭載したワンチップのマイコン101を中心にして構成されている。ROMのメモリエリアには、BIOS(Basic Input Output System)等のプログラムが格納されている。RAMのメモリエリアは、各種データを一時保存するためのワークエリアとして活用される。   As shown in FIGS. 1 and 2, the smartphone 10 forming the running state reproduction system 1 includes a ROM (Read Only Memory), a RAM (Random Access Memory), and an I / O (Input / Output) besides a central processing unit (CPU). Are built around a one-chip microcomputer 101 mounted on one IC (Integrated Circuit) chip. Programs such as BIOS (Basic Input Output System) are stored in a memory area of the ROM. The memory area of the RAM is used as a work area for temporarily storing various data.

マイコン101には、タッチ操作可能な液晶ディスプレイ122、カメラ123、スピーカ124、集音部を構成するマイクロフォン125、3D磁気センサ126、加速度センサ127、位置を測位するGPS(全地球測位システム、Global Positioning System)ユニット128、無線通信回路129、書き換え可能なメモリ手段であるフラッシュROM102を含むメモリ回路等が接続されている。フラッシュROM102のメモリエリアは、各種データを保存するデータ記憶領域として利用される。   The microcomputer 101 includes a liquid crystal display 122 capable of touch operation, a camera 123, a speaker 124, a microphone 125 constituting a sound collecting unit, a 3D magnetic sensor 126, an acceleration sensor 127, GPS for positioning (GPS (Global Positioning System, Global Positioning) System unit 128, a wireless communication circuit 129, and a memory circuit including a flash ROM 102 which is a rewritable memory means are connected. The memory area of the flash ROM 102 is used as a data storage area for storing various data.

液晶ディスプレイ122の表示画面(図3参照。符号100)には、指先やタッチペン等による操作を可能とするための透明なタッチスクリーンシート121が積層されている。スマートフォン10は、表示画面100に対する指先でのタッチ操作やフリック操作等が可能である。
無線通信回路129としては、携帯電話網に接続するための通信回路、ブルートゥース(登録商標)やWi-Fi等の近距離無線通信に対応する通信回路等が設けられている。
On the display screen (see FIG. 3; reference numeral 100) of the liquid crystal display 122, a transparent touch screen sheet 121 for enabling an operation with a fingertip, a touch pen or the like is stacked. The smartphone 10 can perform a touch operation, a flick operation, and the like with a fingertip on the display screen 100.
As the wireless communication circuit 129, a communication circuit for connecting to a cellular phone network, a communication circuit corresponding to near field communication such as Bluetooth (registered trademark) or Wi-Fi, and the like are provided.

走行状態再現システム1をなすスマートフォン10は、インストールされた専用のアプリケーションプログラムをマイコン101が実行することで、以下の(1)〜(5)の機能を実現する。
(1)集音部
スマートフォン10が備えるマイクロフォン125は集音部として機能し、車両5の走行中に発生した音を電気信号に変換する。さらに、この電気信号は、A/D変換処理によりデジタルの音データに変換される。
The smartphone 10 forming the traveling state reproduction system 1 realizes the following functions (1) to (5) by the microcomputer 101 executing the installed dedicated application program.
(1) Sound Collection Unit The microphone 125 provided in the smartphone 10 functions as a sound collection unit, and converts the sound generated while the vehicle 5 is traveling into an electric signal. Furthermore, this electrical signal is converted into digital sound data by A / D conversion processing.

(2)車両データ取得部
車両データ取得部としてのスマートフォン10は、車両5側のOBDコネクタ53に接続された通信アダプタ19を介して、車両5のECU51間でやり取りされる各種の車両データを取得する。スマートフォン10が車両5側のセントラルGW52に対して要求信号を送信する毎に、車両データが返信される。
(2) Vehicle Data Acquisition Unit The smartphone 10 as a vehicle data acquisition unit acquires various vehicle data exchanged between the ECUs 51 of the vehicle 5 via the communication adapter 19 connected to the OBD connector 53 on the vehicle 5 side. Do. Every time the smartphone 10 transmits a request signal to the central GW 52 on the vehicle 5 side, vehicle data is returned.

車両5側から取得する車両データとしては、エンジン回転数、車速、アクセル開度、冷却水温度、吸気温度、吸気マニホールドの絶対圧、エンジン開始時間(エンジン始動後の連続稼動時間)、ヨーレイト等のECU情報がある。さらに、車両5側から取得される車両データのほか、スマートフォン10自身で取得できる車両データもある。スマートフォン10自身が取得する車両データとしては、例えば、GPSユニット128の測位による位置情報(車両位置)や、3D磁気センサ126による方位情報、(内蔵)カメラ123による撮像画像等がある。例えば、カメラ123が前方を向くようにスマートフォン10をダッシュボード等に取り付ければ、車両データとして前方画像(映像)の取得が可能になる。なお、ドライブレコーダの撮像画像を車両データとして取得することも良い。   The vehicle data acquired from the vehicle 5 side includes engine rotation speed, vehicle speed, accelerator opening degree, coolant temperature, intake air temperature, absolute pressure of intake manifold, engine start time (continuous operation time after engine start), yaw rate, etc. There is ECU information. Furthermore, in addition to the vehicle data acquired from the vehicle 5 side, there is also vehicle data that can be acquired by the smartphone 10 itself. The vehicle data acquired by the smartphone 10 itself includes, for example, position information (vehicle position) by positioning of the GPS unit 128, direction information by the 3D magnetic sensor 126, an image captured by the (built-in) camera 123, and the like. For example, if the smartphone 10 is attached to a dashboard or the like so that the camera 123 faces forward, acquisition of a forward image (video) as vehicle data becomes possible. In addition, it is also possible to acquire a captured image of the drive recorder as vehicle data.

(3)記録部
記録部としてのスマートフォン10は、音データ及び車両データを含む記録データ等をフラッシュROM102のメモリエリアに記録する。記録部は、音データと車両データとの同期再生が可能になるよう、共通の同期信号をひも付けて音データ及び車両データを記録する。同期信号としては、例えば、時刻や経過時間を表すタイムコード等を利用できる。
(3) Recording Unit The smartphone 10 as a recording unit records, in the memory area of the flash ROM 102, recording data including sound data and vehicle data. The recording unit links the common synchronization signal to record the sound data and the vehicle data so that the sound data and the vehicle data can be synchronously reproduced. As the synchronization signal, for example, a time code representing a time or an elapsed time can be used.

(4)再生部
再生部としてのスマートフォン10は、記録データに含まれる音データ及び車両データの再生を実行する。記録データのうちの音データは、D/A変換処理を経由し内蔵するスピーカ124あるいはイヤホン等を介して出力される。車両データは、液晶ディスプレイ122の表示画面100に選択的に表示可能である。なお、記録データの再生時には、記録データに含まれるタイムコードなどの同期信号を利用して音データの再生と車両データの表示等が同期して実行される。
(4) Reproduction Unit The smartphone 10 as a reproduction unit reproduces sound data and vehicle data included in the recording data. The sound data in the recorded data is output via the built-in speaker 124 or earphone via D / A conversion processing. Vehicle data can be selectively displayed on the display screen 100 of the liquid crystal display 122. At the time of reproduction of the recording data, reproduction of the sound data and display of the vehicle data are executed synchronously by using a synchronization signal such as a time code included in the recording data.

(5)トリガー信号生成部
トリガー信号生成部としてのスマートフォン10は、液晶ディスプレイ122の表示画面100に対する所定のタッチ操作に応じてトリガー信号を生成する。スマートフォン10では、トリガー信号に応じて、音データ及び車両データの記録が実行される。
(5) Trigger Signal Generation Unit The smartphone 10 as a trigger signal generation unit generates a trigger signal in response to a predetermined touch operation on the display screen 100 of the liquid crystal display 122. In the smartphone 10, recording of sound data and vehicle data is performed according to the trigger signal.

次に、以上のようにスマートフォン10を利用して構成された走行状態再現システム1に関する(1)システム動作、(2)システム運用について説明する。   Next, (1) system operation and (2) system operation regarding the traveling state reproduction system 1 configured using the smartphone 10 as described above will be described.

(1)システム動作
専用のアプリケーションプログラムを起動すると、マイコン101の制御によりスタートボタン111が中央に配置された図3(a)のスタート画面が表示される。このスタートボタン111がタッチ操作されると、同図(b)のスタンバイ画面に切り換わると共に、音データ及び車両データを記録データとして保存するための準備状態であるスタンバイモードに切り換わる。
(1) System Operation When the dedicated application program is started, the control of the microcomputer 101 displays the start screen of FIG. 3A in which the start button 111 is disposed at the center. When the start button 111 is touch-operated, the screen is switched to the standby screen shown in FIG. 6B, and is switched to the standby mode, which is a preparation state for storing sound data and vehicle data as recording data.

スタンバイモード下のスタンバイ画面には、図3(b)のごとく、マイクロフォン125による集音波形を表示するグラフエリア112、記録ボタン113等が配置されている。記録ボタン113は、音データ及び車両データを記録データとして記録させるための操作ボタンである。例えば、スタンバイモード下で異音が発生したときに記録ボタン113を操作すれば、異音の音データ及び走行状態を表す車両データを記録データとして保存できる。   On the standby screen under the standby mode, as shown in FIG. 3B, a graph area 112 for displaying an acoustic wave form by the microphone 125, a recording button 113 and the like are arranged. The recording button 113 is an operation button for recording sound data and vehicle data as recording data. For example, by operating the recording button 113 when abnormal noise occurs in the standby mode, it is possible to save sound data of abnormal noise and vehicle data representing a traveling state as recording data.

スタンバイモードでは、マイクロフォン125による音データ、エンジン回転数や位置情報等の車両データ、等をRAMのワークエリアに書き込む動作(一時保存動作)が実行される。ワークエリアに書き込まれるデータは、例えば過去10分に亘る音データ及び車両データの一時保存データである。過去10分を超える記録時点の古い音データ及び車両データについては、随時新たなデータで書き換えられて順次消去される。ワークエリアへの一時保存データの書き込み動作を説明する図4のタイムチャートにおいて、スタートボタン111(図3(a))へのタッチ操作の時点が開始点に対応している。この開始点で一時保存動作がスタートし、スタンバイモードに移行する。なお、図4のタイムチャートは、(1)音データ(異音)、(2)車速やエンジン回転数などの車両データ(車両状態)、(3)車両位置データ(走行経路)、(4)走行時の撮像画像(映像)、の同時記録動作を例示している。   In the standby mode, an operation (temporary storage operation) of writing sound data from the microphone 125, vehicle data such as engine rotational speed and position information, etc. into the work area of the RAM is performed. The data written to the work area is, for example, temporary storage data of sound data and vehicle data over the past 10 minutes. The old sound data and vehicle data at the point of recording exceeding the past 10 minutes are rewritten with new data as needed and sequentially erased. In the time chart of FIG. 4 for explaining the write operation of temporary storage data to the work area, the point of time of the touch operation on the start button 111 (FIG. 3A) corresponds to the start point. At this start point, the temporary save operation is started, and the mode is shifted to the standby mode. The time chart in FIG. 4 is (1) sound data (noise), (2) vehicle data such as vehicle speed and engine speed (vehicle condition), (3) vehicle position data (traveling route), (4) The simultaneous recording operation of the captured image (video) at the time of traveling is illustrated.

図3(b)のスタンバイ画面上で記録ボタン113へのタッチ操作が行われたとき、スマートフォン10では、その旨を表すトリガー信号が生成される。このトリガー信号に応じてマイコン101は、上記のようなワークエリアへの一時保存動作の終了点として、トリガー信号生成後、30秒経過の時点を設定する(図4)。その後、マイコン101は、時刻がこの終了点に達したとき、ワークエリアへの一時保存データの書き込み動作(一時保存動作)を停止する。   When a touch operation on the recording button 113 is performed on the standby screen of FIG. 3B, the smartphone 10 generates a trigger signal indicating that. In response to the trigger signal, the microcomputer 101 sets, as an end point of the temporary storage operation to the work area as described above, a point 30 seconds after the trigger signal is generated (FIG. 4). Thereafter, when the time reaches this end point, the microcomputer 101 stops the operation of writing temporary storage data to the work area (temporary storage operation).

マイコン101は、ワークエリアに書き込まれた音データ等の一時保存データについて、所定の記録期間(図4)に亘る記録データを切り出すトリミング処理を実行する。本例では、記録ボタン113の操作に応じた上記のトリガー信号の生成時点(図4中の操作時点)を基準として、過去に1分遡った時点を始点とし、未来に30秒経過した時点を終点とする記録期間を設定している。この記録期間の終点は、上記の一時保存動作の終了点と一致する時点である。   The microcomputer 101 executes trimming processing for cutting out recording data for a predetermined recording period (FIG. 4) for temporarily stored data such as sound data written in the work area. In this example, based on the generation time of the trigger signal corresponding to the operation of the recording button 113 (operation time in FIG. 4), the time when 30 seconds have passed in the future with the time 1 minute back to the past as the starting point The recording period to be the end point is set. The end point of this recording period is the point in time when it coincides with the end point of the above-mentioned temporary storage operation.

マイコン101は、トリミング処理により切り出した記録データをフラッシュROM102のメモリエリアに書き込むと共に、記録データを一覧表示するデータ一覧画面(図5)を切換表示する。このデータ一覧画面では、いずれかの表示欄へのタッチ操作により記録データを選択的に再生可能である。   The microcomputer 101 writes the recording data cut out by the trimming processing in the memory area of the flash ROM 102, and switches and displays a data list screen (FIG. 5) on which the recording data is displayed in a list. In the data list screen, the recorded data can be selectively reproduced by a touch operation on any of the display fields.

マイコン101は、データ一覧画面(図5)内のいずれかの表示欄がタッチ操作されたとき、対応する記録データをフラッシュROM102から読み出し、図6のごとく、記録データの再生処理を実行する。記録データの再生処理では、車両データと同期して音データの再生を開始した後、5秒毎の同期処理を繰り返しながら車両データと同期して音データを再生する。なお、図6のタイムチャートは、(1)音データ(異音)、(2)車速やエンジン回転数などの車両データ(車両状態)、(3)車両位置データ(走行経路)、(4)走行時の撮像画像(映像)、の同期再生を例示している。   When any display field in the data list screen (FIG. 5) is touch-operated, the microcomputer 101 reads out the corresponding recording data from the flash ROM 102, and executes the reproduction processing of the recording data as shown in FIG. In reproduction processing of recorded data, after reproduction of sound data is started in synchronization with vehicle data, sound data is reproduced in synchronization with vehicle data while repeating synchronization processing every 5 seconds. The time chart in FIG. 6 is (1) sound data (noise), (2) vehicle data such as vehicle speed and engine speed (vehicle condition), (3) vehicle position data (traveling route), (4) The synchronous reproduction of the captured image (video) at the time of traveling is illustrated.

記録データの再生中では、スピーカ124からの出力による音データの再生と同期して、液晶ディスプレイ122の表示画面100に図7に例示する再生画面が表示される。同図に例示する再生画面100は、縦の表示画面であり、上段のグラフィックエリア13と、下段のデータエリア14と、を中心にして構成されている。グラフィックエリア13の最上段には、4つのグラフィック選択ボタン131〜134が横一列に配置されている。データエリア14の最下段には、停止ボタンや再生ボタンや巻き戻しのための戻るボタンや早送りのための次ボタンのほか、経過時間表示が配置されたコントロールエリアが配置されている。   During reproduction of recorded data, a reproduction screen illustrated in FIG. 7 is displayed on the display screen 100 of the liquid crystal display 122 in synchronization with the reproduction of sound data by the output from the speaker 124. The reproduction screen 100 illustrated in the figure is a vertical display screen, and is configured centering on the graphic area 13 in the upper stage and the data area 14 in the lower stage. At the top of the graphic area 13, four graphic selection buttons 131 to 134 are arranged in a horizontal row. At the bottom of the data area 14, in addition to a stop button, a play button, a back button for rewinding, and a next button for fast forwarding, a control area in which an elapsed time display is arranged is disposed.

グラフィック選択ボタン131〜134は、グラフィックエリア13に表示させる内容を選択的に設定するための操作ボタンである。グラフィック選択ボタンとしては、経路地図を表示させる地図ボタン131、音の波形を表示させる波形ボタン132、ECU情報(車両データ)をグラフ表示させるグラフボタン133、撮像画像を表示させる動画ボタン134、の4つが配置されている。図7(a)は、地図ボタン131が選択されたときの再生画面であり、同図(b)(c)(d)は、それぞれ、波形ボタン132、グラフボタン133、動画ボタン134に対応している。   The graphic selection buttons 131 to 134 are operation buttons for selectively setting contents to be displayed in the graphic area 13. As graphic selection buttons, the map button 131 for displaying a route map, the waveform button 132 for displaying a sound waveform, the graph button 133 for displaying a graph of ECU information (vehicle data), and the moving image button 134 for displaying a captured image One is placed. FIG. 7A is a reproduction screen when the map button 131 is selected, and FIGS. 7B, 7C, and 7D correspond to the waveform button 132, the graph button 133, and the moving image button 134, respectively. ing.

例えば、経路地図を表示させる地図ボタン131が操作された場合の図7(a)の再生画面100であれば、異音等が発生したときの車両5の位置の特定が可能である。また例えば、同図(d)の再生画面100であれば、異音等が発生したときの走行環境の把握が可能である。   For example, in the case of the reproduction screen 100 of FIG. 7A when the map button 131 for displaying the route map is operated, it is possible to specify the position of the vehicle 5 when abnormal noise or the like occurs. Further, for example, in the case of the reproduction screen 100 of FIG. 7D, it is possible to grasp the traveling environment when abnormal noise or the like occurs.

(2)システム運用
本例の走行状態再現システム1は、例えば車両ディーラーのサービス部門等で利用される。例えば車両ユーザが異音の発生を相談して来た際、専用のアプリケーションプログラムがインストールされたスマートフォン10をユーザに貸与すると良い。その後、異音の記録データを保存済みのスマートフォン10を回収すれば、サービス部門のメカニック等が記録データの再生により異音及びその発生情報を確認でき、原因や対処を検討できる。また、音データと車両データとが同期記録された記録データであれば、車両メーカにおいて解析処理を実行することも可能である。
(2) System Operation The traveling state reproduction system 1 of this example is used, for example, in the service department of a vehicle dealer. For example, when the vehicle user consults on the occurrence of abnormal noise, it is preferable to lend the smartphone 10 with a dedicated application program installed to the user. Thereafter, if the smart phone 10 having the recorded data of the abnormal noise saved is collected, a mechanic or the like of the service department can confirm the abnormal noise and the occurrence information thereof by reproducing the recorded data, and can study the cause and the countermeasure. Moreover, if it is the recording data by which sound data and vehicle data were synchronized recorded, it is also possible to perform an analysis process in a vehicle maker.

なお、人間の頭を模した図8のバイノーラルマイク15などのステレオマイクを外部マイクとして利用することも良い。車室内にバイノーラルマイク15等の外部マイクを設置して集音すれば、図9のごとく全方向の録音が可能となる。つまり、マイクロフォン(バイノーラルマイク15)の設置位置を基準とする音源の位置(音の発生箇所)、及びマイクロフォンの指向性の方位を基準とする音源の方位、等を特定可能なように音データを記録できる。そして、音データを再生する際にステレオヘッドフォンやステレオスピーカー等を利用すれば、車室内の音場の再現が可能となり、音データの再生により音源の位置及び方位を把握可能な音場を再現できる。車室内の音場を再現できれば、音源の位置や方位の特定が容易となる。   It is also possible to use a stereo microphone such as the binaural microphone 15 of FIG. 8 that imitates the human head as an external microphone. If an external microphone such as the binaural microphone 15 is installed in the passenger compartment to collect sound, omnidirectional recording can be performed as shown in FIG. In other words, the sound data is so specified as to be able to specify the position of the sound source (location of sound generation) relative to the installation position of the microphone (binaural microphone 15) and the direction of the sound source relative to the direction of directivity of the microphone. It can record. Then, by using stereo headphones or stereo speakers when reproducing sound data, it becomes possible to reproduce the sound field in the vehicle compartment, and it is possible to reproduce the sound field which can grasp the position and direction of the sound source by reproducing the sound data. . If the sound field in the passenger compartment can be reproduced, it will be easy to specify the position and orientation of the sound source.

例えばメカニック等が車両5に乗車した状態で再生音を聴取すれば、車室内の音場を再現でき臨場感が増すため、音源の位置や方位の特定がさらに容易となる。なお、メカニック等の聴取者が、録音に用いたバイノーラルマイク15と同じ位置、同じ頭の向きで再生音を聴取することが好ましい。この場合には、実際の異音の発生箇所に対して音場内の音源を精度高く一致でき、異音の発生箇所等の把握が一層容易になる。   For example, if a mechanic or the like gets on the vehicle 5 and listens to the reproduced sound, the sound field in the passenger compartment can be reproduced, and the sense of reality is increased, so that it is easier to specify the position and orientation of the sound source. It is preferable that a listener such as a mechanic listens to the reproduced sound at the same position and in the same head direction as the binaural microphone 15 used for recording. In this case, the sound source in the sound field can be precisely matched to the actual abnormal noise generation location, and it becomes easier to grasp the abnormal noise generation location.

また、スマートフォン10で動作するアプリケーションの機能として、マイクロフォンの設置位置や指向性の方位を含む集音条件を設定する集音条件設定部としての機能、及び聴取者の位置や聴取者の頭の向きを含む聴取条件を設定するための聴取条件設定部、としての機能を設けることも良い。聴取者の位置及び頭の向きに関わらず音源の本来の位置及び方位を表す音場を再現できるよう、設定された集音条件及び聴取条件に応じて音データに信号処理等を施すことも良い。このように車室内の音場を再現すれば、再生音を確認する聴取者の位置や頭の向き等に依らず、実際の異音の発生箇所に対して音場内の音源の位置を精度高く一致できる。   Also, as a function of an application that operates on the smartphone 10, a function as a sound collection condition setting unit that sets a sound collection condition including an installation position of a microphone and an orientation of directivity, and a position of a listener and an orientation of a listener's head It is also possible to provide a function as a listening condition setting unit for setting a listening condition including. It is also possible to apply signal processing to sound data according to the set sound collection conditions and listening conditions so that the sound field representing the original position and orientation of the sound source can be reproduced regardless of the listener's position and head orientation. . If the sound field in the vehicle compartment is reproduced in this way, the position of the sound source in the sound field can be precisely adjusted with respect to the actual place where the abnormal noise occurs regardless of the position of the listener who checks the reproduced sound and the head direction. It can match.

本例では、スタンバイモード下の一時保存データの一時保存期間として10分間を設定している。また、記録データの記録期間として、トリガー信号生成時点の前1分間、後30秒に亘る期間を設定している。これらの期間の時間的長さについては、適宜変更可能である。   In this example, 10 minutes is set as a temporary storage period of temporary storage data under the standby mode. Further, as a recording period of the recording data, a period of one minute before and 30 seconds after the trigger signal generation time is set. The length of time of these periods can be changed as appropriate.

(実施例2)
本例の走行状態再現システム1は、実施例1に基づき、トリガー信号の自動生成機能を設けたシステムの例である。この内容について、図10〜図12を参照して説明する。
本例の構成では、スマートフォン10で動作するアプリケーションの機能として、トリガー条件の設定機能、トリガー条件が成立したときに音データ及び車両データの記録を自動で実行する自動記録機能が追加されている。
(Example 2)
The traveling state reproduction system 1 of this example is an example of a system provided with an automatic generation function of a trigger signal based on the first embodiment. The contents will be described with reference to FIGS. 10 to 12.
In the configuration of this example, as a function of an application operating on the smartphone 10, a setting function of trigger conditions and an automatic recording function of automatically executing recording of sound data and vehicle data when the trigger conditions are satisfied are added.

図10のトリガー条件設定画面では、音量、車速、エンジン回転数、外気温、車両位置(ロケーション)・・・などの各種のトリガー条件を設定可能である(トリガー条件設定部)。トリガー条件としては、いずれか1種類のみならず、複数種類のトリガー条件を組み合わせて設定可能である。音量や車速などのトリガー条件については、例えば、数値入力や、予め準備された値の範囲の選択等により設定可能である。車両位置については、表示する地図上で範囲を設定できるほか、入力された特定の住所や交差点等を中心とした所定の範囲を設定可能である。なお、同図は、左側の画面で車速を選択操作し、右側の画面で速度範囲を設定する手順を例示している。   In the trigger condition setting screen of FIG. 10, various trigger conditions such as volume, vehicle speed, engine rotation speed, outside air temperature, vehicle position (location)... Can be set (trigger condition setting unit). As a trigger condition, not only one type but a plurality of types of trigger conditions can be set in combination. The trigger conditions such as volume and vehicle speed can be set, for example, by numerical input, selection of a range of values prepared in advance, or the like. As for the vehicle position, in addition to setting a range on the displayed map, it is possible to set a predetermined range centered on the input specific address or intersection. In addition, the same figure illustrates the procedure of selecting the vehicle speed on the screen on the left side and setting the speed range on the screen on the right side.

例えば図11のように条件1〜5の5種類のトリガー条件が設定された場合の記録動作について、運転開始から運転終了までの運転期間の動作を示す図12のタイムチャートを参照して説明する。図12中の各トリガー条件に対して付された矢印はトリガー条件の成立期間を示している。そして、同図の通り、スマートフォン10では、条件1〜条件5の全てのトリガー条件が同時に成立したときにトリガー信号が自動生成され、音データ及び車両データを含む記録データを自動的に記録する自動記録が実行される。   For example, the recording operation when five types of trigger conditions of conditions 1 to 5 are set as shown in FIG. 11 will be described with reference to the time chart of FIG. 12 showing the operation of the operation period from the start of operation to the end of operation. . Arrows attached to each trigger condition in FIG. 12 indicate the establishment period of the trigger condition. Then, as shown in the figure, in the smart phone 10, the trigger signal is automatically generated when all the trigger conditions of the conditions 1 to 5 are satisfied simultaneously, and the automatic recording of recording data including sound data and vehicle data is automatically performed. Recording is performed.

この自動記録の動作について詳しく説明する。スマートフォン10でアプリケーションを起動した後、スタート画面のスタートボタンがタッチ操作されると、実施例1と同様のスタンバイモードに移行する。このスタンバイモードでは、マイクロフォン125による音データ、エンジン回転数や位置情報等の車両データ、等がRAMのワークエリアに一時保存される。   The operation of this automatic recording will be described in detail. After the application is activated by the smartphone 10, when the start button on the start screen is touch-operated, the standby mode similar to that of the first embodiment is entered. In this standby mode, sound data from the microphone 125, vehicle data such as engine rotational speed and position information, etc. are temporarily stored in the work area of the RAM.

スタンバイモード下で、条件1〜条件5(図11及び図12)が全て成立したときにトリガー信号が生成され、このトリガー信号に応じて、ワークエリアの一時保存データから記録データを切り出すトリミング処理が実行される。このトリミング処理による記録データの切り出し期間である記録期間は、実施例1の記録期間とは相違している。実施例1では、トリミング信号の生成時点を基準時点として前後の所定時間に亘る記録期間を設定している。一方、本例では、トリガー信号の生成時点を含め、5条件のうちの4条件以上のトリガー条件が同時に成立している状態が継続する期間が記録期間として設定される。   In the standby mode, a trigger signal is generated when all of the conditions 1 to 5 (FIGS. 11 and 12) are satisfied, and in response to the trigger signal, the trimming process is performed to cut out the recording data from the temporary storage data of the work area. To be executed. The recording period which is a cutting out period of the recording data by the trimming process is different from the recording period of the first embodiment. In the first embodiment, the recording period is set to a predetermined time before and after the generation time of the trimming signal as a reference time. On the other hand, in the present example, a period in which a state in which four or more trigger conditions of the five conditions are simultaneously satisfied, including the generation time of the trigger signal, is set as the recording period.

記録期間の始点は、同時成立しているトリガー条件が4条件未満から4条件以上に移行した時点のうち、トリガー信号の生成以前の直近の時点である。一方、記録期間の終点は、同時成立しているトリガー条件が4条件以上から4条件未満に移行した時点のうち、トリガー信号の生成以降の直近の時点である。   The start point of the recording period is the closest point before the generation of the trigger signal among the points in time when the simultaneously established trigger conditions shift from less than four conditions to four or more conditions. On the other hand, the end point of the recording period is the closest time point after the generation of the trigger signal among the time points when the simultaneously established trigger conditions shift from four or more conditions to less than four conditions.

図12に例示する運転期間においては、5つのトリガー条件のうち5条件全てが成立している期間A、及び4条件以上5条件未満が成立している期間αが記録期間として設定される。そして、上記の記録期間の終点に到達して記録期間が確定したとき、すなわち、トリガー信号の生成以降、初めて、同時成立中のトリガー条件が4条件以上から4条件未満に移行したとき、ワークエリアの一時保存データから記録データを切り出すトリミング処理が実行され、フラッシュROM102にその記録データが自動的に記録される。   In the operation period illustrated in FIG. 12, a period A in which all five conditions among the five trigger conditions are satisfied, and a period α in which four or more conditions and less than five conditions are satisfied are set as the recording periods. Then, when the end of the recording period is reached and the recording period is determined, that is, when the trigger condition being simultaneously established shifts from four conditions or more to less than four conditions for the first time after generation of the trigger signal, The trimming process of cutting out the recording data from the temporary storage data is executed, and the recording data is automatically recorded in the flash ROM 102.

以上のように構成された走行状態再現システムによれば、予め設定されたトリガー条件が成立したときに、取りこぼしなく異音等を記録できる。例えば、異音に関する車両ユーザの相談内容に応じて、メカニック等が異音の発生原因等を予測し、その予測に基づいてトリガー条件を設定することも良い。   According to the traveling state reproduction system configured as described above, abnormal noise and the like can be recorded without missing when a preset trigger condition is satisfied. For example, according to the contents of consultation of the vehicle user regarding abnormal noise, a mechanic or the like may predict the occurrence cause or the like of the abnormal noise, and the trigger condition may be set based on the prediction.

しかしながら、例えばメカニック等の予測や経験に基づいて設定されたトリガー条件が正解とは限らない。そこで、本例の走行状態再現システムでは、一部のトリガー条件が未成立の走行状態についても記録データの対象期間に含めることを目的として、上記の期間αを設定している。一部のトリガー条件が外れている走行状態に対応する期間αを設定すれば、異音の原因等の特定に有用な車両データの取りこぼしを少なくできる。本例では、期間αとして、(全条件数−1)に当たる4件が成立し1件のトリガー条件が外れている期間を例示している。(全条件数−2)を期間αの基準として設定し、1件あるいは2件のトリガー条件が外れている期間αを採用しても良い。このように期間αの基準は適宜変更可能である。   However, a trigger condition set based on, for example, prediction or experience of a mechanic or the like is not necessarily correct. Therefore, in the traveling state reproduction system of this embodiment, the above period α is set for the purpose of including the traveling period of the recording data even in the traveling state where some of the trigger conditions are not satisfied. By setting the period α corresponding to the traveling state in which some trigger conditions are out, it is possible to reduce the dropout of vehicle data useful for identifying the cause of abnormal noise and the like. In this example, four periods corresponding to (total number of conditions−1) are established as the period α, and a period in which one trigger condition is out is illustrated. (Total number of conditions-2) may be set as the reference of the period α, and the period α in which one or two trigger conditions are out may be adopted. Thus, the reference of the period α can be changed as appropriate.

車両データを対象とするトリガー条件だけでなく、走行中の車両から発生する音を対象としてトリガー条件を設定することも良い。例えば、音の周波数や波長や音量等について閾値を設定し、閾値を超過することをトリガー条件として設定しても良い。
なお、その他の構成及び作用効果については実施例1と同様である。
It is also possible to set the trigger condition not only for the trigger condition for vehicle data but also for the sound generated from the vehicle in motion. For example, a threshold may be set for the frequency, wavelength, volume, etc. of the sound, and exceeding the threshold may be set as the trigger condition.
The other configurations and operational effects are the same as in the first embodiment.

(実施例3)
本例は、実施例1あるいは実施例2の走行状態再現システム1に基づき、記録データを管理するサーバ装置21、及びサーバ装置21が管理する記録データを閲覧するための端末装置22を追加した例である。この内容について図13を参照して説明する。
(Example 3)
In this example, based on the traveling state reproduction system 1 according to the first embodiment or the second embodiment, an example in which a server device 21 managing recording data and a terminal device 22 for browsing recording data managed by the server device 21 are added. It is. The contents will be described with reference to FIG.

本例の走行状態再現システム1は、図13の通り、インターネット等の公衆通信回線を利用して構成されたシステムである。この走行状態再現システム1では、記録データを取得するスマートフォン10、記録データのアップロード(送信)先となるサーバ装置21、サーバ装置21から配信された記録データを再生する端末装置22、等を含めて構成されている。   The traveling state reproduction system 1 of this example is a system configured using a public communication line such as the Internet as shown in FIG. In the running state reproduction system 1, the smartphone 10 for acquiring the recording data, the server device 21 as an upload (transmission) destination of the recording data, the terminal device 22 for reproducing the recording data distributed from the server device 21, etc. It is configured.

まず、本例のスマートフォン10は、実施例1あるいは2のスマートフォン10に基づき、アプリケーション設定により特定の端末装置22を対応付ける機能、記録データをサーバ装置21に自動的にアップロードする機能、等が追加されている。アプリケーション設定では、特定の端末装置22の識別番号である端末IDを設定可能である。例えば車両ディーラーのサービス部門でスマートフォン10を貸し出す際、部門に設置等された端末装置22の端末IDを貸出用のスマートフォン10に設定すると良い。   First, based on the smartphone 10 of the first or second embodiment, the smartphone 10 of the present embodiment adds a function of associating a specific terminal device 22 by application setting, a function of automatically uploading recording data to the server device 21, etc. ing. In the application setting, a terminal ID which is an identification number of a specific terminal device 22 can be set. For example, when lending out the smartphone 10 in the service department of the vehicle dealer, it is preferable to set the terminal ID of the terminal device 22 installed in the department or the like to the smartphone 10 for lending.

この走行状態再現システム1におけるスマートフォン10は、記録データを取得したとき、その記録データをサーバ装置21に自動的にアップロードする。その際、スマートフォン10は、アプリケーション設定で予め設定された端末IDを記録データにひも付ける。したがって、サーバ装置21側では、スマートフォン10から記録データを受信したとき、ひも付けられた端末IDを参照することでスマートフォン10の貸出元の端末装置22を特定可能である。   When the smartphone 10 in the traveling state reproduction system 1 acquires the recording data, the smartphone 10 automatically uploads the recording data to the server device 21. At that time, the smartphone 10 associates the terminal ID set in advance in the application setting with the recording data. Therefore, on the server device 21 side, when the recording data is received from the smartphone 10, the lending source terminal device 22 of the smartphone 10 can be specified by referring to the linked terminal ID.

サーバ装置21は、スマートフォン10から受信した記録データをデータベース化して管理すると共に、上記のように特定した端末装置22に対して記録データを配信する。例えば車両ディーラーのサービス部門では、貸し出したスマートフォン10で記録された記録データをリアルタイムに近いタイミングで取得でき、端末装置22で閲覧できる。   The server device 21 converts the recording data received from the smartphone 10 into a database and manages the database, and distributes the recording data to the terminal device 22 specified as described above. For example, in the service department of the vehicle dealer, the recorded data recorded by the lent smartphone 10 can be acquired at near real time timing and can be browsed by the terminal device 22.

なお、例えばアプリケーション設定により上記の端末IDに加えてサービス担当者の識別IDを設定することも良い。この場合には、記録データの配信を受けた端末装置22、あるいは記録データのアップロードを受けたサーバ装置21が、通知メール等によりサービス担当者を呼び出しできる。   In addition to the above-described terminal ID, for example, it is also possible to set the identification ID of the service representative by application setting. In this case, the terminal device 22 that has received the distribution of the recording data or the server device 21 that has received the uploading of the recording data can call the service representative by a notification e-mail or the like.

以上のように構成された走行状態再現システムであれば、例えば車両ディーラのサービス部門等において記録データの確認が容易となり、異音対策を迅速に実施できるようになる。異音等の記録データを取得できたか否か、サービス部門側で早期に確認できるようになるため、スマートフォン10等の貸出期間を短縮でき効率を向上できる。
なお、その他の構成及び作用効果については、実施例1あるいは2と同様である。
With the driving state reproduction system configured as described above, for example, it becomes easy to check recorded data in the service department or the like of a vehicle dealer, and it becomes possible to implement measures against abnormal noise quickly. Since the service department side can quickly confirm whether or not recording data such as abnormal noise can be acquired, the lending period of the smartphone 10 or the like can be shortened, and efficiency can be improved.
The other configurations and operational effects are the same as in the first or second embodiment.

(実施例4)
本例は、実施例3の走行状態再現システム1に基づき、サーバ装置の構成を変更した例である。この内容について図14及び図15を参照して説明する。
本例のサーバ装置21(図13)が備えるデータベースでは、車速やエンジン回転数などの車両データが属する数値的な範囲等に応じて走行状態種別が区分され、走行状態種別毎に分類して記録データが蓄積(格納)されている。さらにデータベースに格納された各記録データには、異音の発生箇所(音源の位置)、原因等の所見情報がひも付けられている。
(Example 4)
The present example is an example in which the configuration of the server apparatus is changed based on the traveling state reproduction system 1 of the third embodiment. The contents will be described with reference to FIGS. 14 and 15.
In the database provided in the server apparatus 21 (FIG. 13) of this example, the traveling state types are classified according to the numerical range to which the vehicle data such as the vehicle speed and engine speed belong and are classified and recorded for each traveling state type. Data is stored (stored). Further, each record data stored in the database is associated with finding information such as the location of the abnormal noise (position of the sound source) and the cause.

スマートフォン10が記録データをアップロードしたとき、サーバ装置21は、図14のごとく、受信した新たな記録データ(未分類データという。)に含まれる車両データを参照し、未分類データの分類先の走行状態種別を特定する(分類処理)。また、未分類データに含まれる音データについて解析処理を実行し周波数や音圧レベル等の解析結果を生成する(解析処理)。そして、サーバ装置21は、未分類データを分類する先の走行状態種別に格納済みの過去の記録データ(格納済データという。)の中から、音データに関する解析結果(周波数、音圧レベル等)の近似度が最も高い格納済データを検索する(検索処理、データ検索部)。   When the smartphone 10 uploads the recorded data, the server device 21 refers to the vehicle data included in the received new recorded data (referred to as unclassified data) as shown in FIG. Identify the state type (classification process). Also, analysis processing is performed on sound data included in the unclassified data to generate analysis results such as frequency and sound pressure level (analysis processing). Then, the server device 21 analyzes the result (frequency, sound pressure level, etc.) of the sound data from among the past recorded data (called stored data) stored in the traveling state type to which the unclassified data is classified. Search for stored data with the highest degree of similarity (search processing, data search unit).

本例の走行状態再現システム1では、このように検索された格納済データにひも付けられた所見情報が、未分類データに係る異音の発生箇所や原因等を表す診断結果として取り扱われる(診断部)。そして、サーバ装置21は、図15のごとく、未分類データをデータベースに格納する際、診断結果に基づく所見情報を未分類データにひも付ける。このように異音自体や異音発生時の車両状態等のデータをデータベース化し、大量に蓄積すれば、車両ディーラーでの車両の修理や点検等の際の有用な情報源となり得る。さらには、このようなデータベースは、車両メーカーでのマイナーチェンジ等の設計変更時の極めて有用な情報源にもなり得る。   In the running state reproduction system 1 of the present example, the finding information linked to the stored data retrieved in this way is treated as a diagnosis result representing the location and cause of abnormal noise related to unclassified data (diagnosis (diagnosis) Department). Then, when storing the unclassified data in the database as shown in FIG. 15, the server device 21 links the finding information based on the diagnosis result to the unclassified data. If data such as abnormal noise itself and vehicle conditions at the time of abnormal noise are made into a database and accumulated in large quantities, it can be a useful information source at the time of vehicle repair or inspection at a vehicle dealer. Furthermore, such a database can be a very useful source of information at the time of design changes such as minor changes at vehicle manufacturers.

なお、スマートフォン10から記録データを受信したとき、サーバ装置21が診断結果を返信するように構成することも良い。この場合には、スマートフォン10側の処理により、記録データに対する診断結果のひも付けが可能になる。例えば記録データを閲覧するための端末装置22を導入していない車両ディーラー等であっても、返却されたスマートフォン10で記録データを再生する際、診断結果の閲覧が可能になる。   When the recording data is received from the smartphone 10, the server device 21 may be configured to return a diagnosis result. In this case, the processing on the smartphone 10 enables tying of the diagnosis result to the recorded data. For example, even if a vehicle dealer or the like who has not introduced the terminal device 22 for browsing the recorded data, browsing of the diagnosis result becomes possible when the recorded data is reproduced by the returned smartphone 10.

なお、記録データに関する走行状態種別の分類処理、近似する記録データの検索処理、音データの解析処理、等については、人工知能による機械学習等により精度を高めることも良い。さらに、データベースに格納された記録データ等について、機械学習などの人工知能的なアプローチを適用し、異音の発生箇所や原因を学習することも良い。この学習結果を利用すれば、異音の種類や異音発生時の車両データ等に基づく故障診断が可能となる。   In addition, about classification processing of a run state classification about record data, search processing of record data to approximate, analysis processing of sound data, etc., it is good to raise accuracy by machine learning etc. by artificial intelligence. Furthermore, it is also possible to apply artificial intelligence approaches such as machine learning to the recorded data etc. stored in the database to learn the location and cause of abnormal noise. If this learning result is used, failure diagnosis based on the type of abnormal noise, vehicle data at the time of abnormal noise occurrence, etc. becomes possible.

例えばサーバ装置21が提供するサイトにスマートフォン10がアクセスしたとき、このスマートフォン10に保存された記録データについてサーバ装置21が上記の人工知能的な演算処理を実行し、異音の発生箇所や原因を診断することも良い。この場合には、異音の発生箇所や原因等をスマートフォン10の表示画面100に表示できる。   For example, when the smartphone 10 accesses a site provided by the server device 21, the server device 21 executes the above-mentioned artificial intelligence arithmetic processing on the recorded data stored in the smartphone 10, and the generation location and cause of abnormal noise It is also good to diagnose. In this case, it is possible to display on the display screen 100 of the smartphone 10 the location, the cause and the like of the abnormal noise.

なお、上記の検索処理により音データに関する解析処理の結果の近似度が高い格納済みデータを複数検索し、これらにひも付けられた複数の所見情報に基づいて診断結果を生成することも良い。例えば、複数の所見情報について異音の発生箇所や原因を分類して分類毎の度数を計数することも良い。未分類データの診断結果として、度数が最も多かった発生箇所等を採用することも良い。
なお、その他の構成及び作用効果については、実施例3と同様である。
It is also possible to search a plurality of stored data having a high degree of approximation of the result of the analysis process relating to sound data by the above search process, and generate a diagnosis result based on a plurality of pieces of finding information linked to these. For example, it is also possible to classify occurrence locations and causes of abnormal noise in a plurality of pieces of finding information, and to count frequencies for each classification. As the diagnosis result of the unclassified data, it is also preferable to adopt the occurrence place where the frequency is the highest.
The other configurations and operational effects are the same as in the third embodiment.

以上、実施例のごとく本発明の具体例を詳細に説明したが、これらの具体例は、特許請求の範囲に包含される技術の一例を開示しているにすぎない。言うまでもなく、具体例の構成や数値等によって、特許請求の範囲が限定的に解釈されるべきではない。特許請求の範囲は、公知技術や当業者の知識等を利用して前記具体例を多様に変形、変更あるいは適宜組み合わせた技術を包含している。   Although the specific examples of the present invention have been described in detail as in the examples, the specific examples only disclose an example of the technology included in the claims. It goes without saying that the scope of the claims should not be interpreted limitedly by the configuration, numerical values and the like of the specific example. The claims encompass variously modified, changed or appropriately combined techniques using the known techniques and the knowledge of those skilled in the art.

1 走行状態再現システム
10 スマートフォン
100 表示画面
101 マイコン
122 液晶ディスプレイ
123 カメラ
124 スピーカ
125 マイクロフォン
19 通信アダプタ(ネットワーク装置)
21 サーバ装置
22 端末装置
5 車両
51 ECU
52 セントラルGW
53 OBDコネクタ
DESCRIPTION OF SYMBOLS 1 driving state reproduction system 10 smart phone 100 display screen 101 microcomputer 122 liquid crystal display 123 camera 124 speaker 125 microphone 19 communication adapter (network apparatus)
21 server device 22 terminal device 5 vehicle 51 ECU
52 Central GW
53 OBD connector

Claims (7)

車両の走行状態を表す車両データを取得する車両データ取得部と、
車両の走行中に生じた音をマイクロフォンで集めて音データを生成する集音部と、
前記集音部が生成した音データおよび前記車両データ取得部が取得した車両データを含む記録データを記録する記録部と、
前記車両データに同期して、前記記録データに含まれる音データを再生可能な再生部と、
前記音データあるいは前記車両データに関して複数種類のトリガー条件を設定可能なトリガー条件設定部と、
前記複数種類のトリガー条件のうちの全種類のトリガー条件の成立に応じて、前記音データ及び前記車両データを記録する契機となるトリガー信号を生成するトリガー信号生成部と、を備え、
前記記録部は、前記トリガー信号の有無に関わらず過去の所定期間に亘って前記音データと前記車両データとを含む一時保存データを一時的に記録し、
前記トリガー信号が発生したとき、前記トリガー条件の成立数が前記全種類に満たない所定数よりも少ない状態から当該所定数のトリガー条件が成立する状態に移行した時点のうち、該トリガー信号の発生時点の直前の時点を記録期間の先頭として、記録データを切り出す処理を実行する走行状態再現システム。
A vehicle data acquisition unit that acquires vehicle data representing a traveling state of the vehicle;
A sound collection unit that collects sound generated while the vehicle is traveling with a microphone to generate sound data;
A recording unit that records recording data including sound data generated by the sound collection unit and vehicle data acquired by the vehicle data acquisition unit;
A reproduction unit capable of reproducing sound data included in the recording data in synchronization with the vehicle data;
A trigger condition setting unit capable of setting a plurality of trigger conditions with respect to the sound data or the vehicle data;
And a trigger signal generation unit that generates a trigger signal that triggers recording of the sound data and the vehicle data in response to the establishment of all types of trigger conditions among the plurality of types of trigger conditions.
The recording unit, the over the past predetermined period regardless of the presence or absence of the trigger signal, temporarily records the temporary storage data and a said sound data the vehicle data,
When the trigger signal is generated, generation of the trigger signal occurs at a point when transitioning from a state where the number of satisfaction of the trigger condition is less than a predetermined number less than all types to a state where the predetermined number of trigger conditions is satisfied A driving state reproduction system that executes processing of cutting out recording data with the point immediately before the point as the beginning of the recording period.
請求項1において、前記記録部は、前記トリガー条件の全種類が成立している期間A、及び前記トリガー条件の成立数が前記所定数以上、前記全種類の数未満である期間αを、前記記録データの記録期間に設定する走行状態再現システム。   The recording unit according to claim 1, wherein the recording unit performs the period A in which all types of the trigger conditions are satisfied, and the period α in which the number of occurrences of the trigger conditions is equal to or more than the predetermined number and less than the number of all types A driving condition reproduction system set in the recording period of recording data. 請求項1または2において、通信回線に接続されたサーバ装置及び複数の端末装置を含むと共に、
前記記録部が記録した記録データにひも付けるデータとして、前記複数の端末装置のうちのいずれかを一意に識別するための端末IDを設定可能であり、
前記記録部が記録した記録データは、設定された端末IDがひも付けられた状態で、通信回線を介して前記サーバ装置に送信され、
該サーバ装置は、前記端末IDがひも付けられた記録データを取得したとき、前記複数の端末装置のうちの該端末IDに係る端末装置に対して、該記録データを配信する走行状態再現システム。
A server device and a plurality of terminal devices connected to a communication line according to claim 1 or 2,
A terminal ID for uniquely identifying any one of the plurality of terminal devices can be set as data to be associated with the recording data recorded by the recording unit,
The recording data recorded by the recording unit is transmitted to the server apparatus via a communication line in a state where the set terminal ID is linked.
The traveling state reproduction system according to claim 1, wherein the server device distributes the recording data to a terminal device related to the terminal ID among the plurality of terminal devices when acquiring the recording data to which the terminal ID is linked.
請求項3において、前記記録部が記録した記録データに対してひも付けるデータとして、前記端末IDに加えて、当該端末IDに係る端末装置を使用する複数人の者のうちのいずれかを一意に特定するための識別IDを設定可能であって、
前記サーバ装置あるいは前記端末装置は、前記識別IDがひも付けられた記録データを取得したとき、当該識別IDに係る者宛ての通知メールを送信する走行状態再現システム。
In Claim 3, in addition to the terminal ID, any one of a plurality of persons using a terminal device related to the terminal ID is uniquely identified as data to be linked to the recording data recorded by the recording unit. It is possible to set the identification ID to identify,
The driving | running | working state reproduction system which transmits the notification mail addressed to the person who concerns on the said identification ID, when the said server apparatus or the said terminal device acquires the recording data with which the said identification ID was associated.
請求項1〜4のいずれか1項において、前記車両データ取得部は、車両を制御するための通信ネットワークに接続され、該通信ネットワークを介して車両の制御に利用される車両データを取得するネットワーク装置を含んでいる走行状態再現システム。   The vehicle data acquisition unit according to any one of claims 1 to 4, wherein the vehicle data acquisition unit is connected to a communication network for controlling the vehicle, and acquires vehicle data used for controlling the vehicle via the communication network. Driving condition reproduction system including the device. 請求項1〜5のいずれか1項において、前記マイクロフォンの設置位置及び指向性の方位を含む集音条件を設定する集音条件設定部と、前記再生部による再生音を聴取する聴取者の位置及び頭の向きを含む聴取条件を設定するための聴取条件設定部と、を備え、
前記記録部は、前記マイクロフォンの設置位置及び指向性の方位を基準として、音源の位置及び方位を特定可能なように音データを記録し、
前記再生部は、聴取者の位置及び頭の向きに関わらず音源の本来の位置及び方位を再現できるよう、前記集音条件及び前記聴取条件に応じて前記音データを再生する走行状態再現システム。
In any one of claims 1 to 5, a sound collection condition setting unit for setting a sound collection condition including an installation position of the microphone and an orientation of directivity, and a position of a listener who listens to a reproduction sound by the reproduction unit. And a listening condition setting unit for setting a listening condition including the direction of the head;
The recording unit records sound data so that the position and the direction of the sound source can be identified based on the installation position of the microphone and the direction of the directivity.
The traveling state reproduction system according to claim 1, wherein the reproduction unit reproduces the sound data according to the sound collection condition and the listening condition so that the original position and orientation of the sound source can be reproduced regardless of the position and head direction of the listener.
請求項1〜6のいずれか1項において、音の発生箇所及び原因のうちの少なくともいずれかを含む所見情報をひも付けて記録データを格納するデータベースと、新たな記録データが生じたとき、該データベースを参照して近似する過去の記録データを検索するデータ検索部と、該データ検索部により検索された過去の記録データにひも付けられた所見情報に基づき、前記新たな記録データに係る音の発生箇所及び原因のうちの少なくともいずれかを含む診断結果を生成する診断部と、を備える走行状態再現システム。   The database according to any one of claims 1 to 6, wherein finding information including at least one of a sound generation point and a cause is linked to store a recording data, and new recording data is generated. A data search unit that searches past record data that approximates with reference to a database, and sound information related to the new record data based on finding information linked to the past record data searched by the data search unit And a diagnostic unit that generates a diagnostic result including at least one of an occurrence place and a cause.
JP2017217002A 2017-11-10 2017-11-10 Driving condition reproduction system Expired - Fee Related JP6518309B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017217002A JP6518309B1 (en) 2017-11-10 2017-11-10 Driving condition reproduction system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017217002A JP6518309B1 (en) 2017-11-10 2017-11-10 Driving condition reproduction system

Publications (2)

Publication Number Publication Date
JP6518309B1 true JP6518309B1 (en) 2019-05-22
JP2019085059A JP2019085059A (en) 2019-06-06

Family

ID=66625561

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017217002A Expired - Fee Related JP6518309B1 (en) 2017-11-10 2017-11-10 Driving condition reproduction system

Country Status (1)

Country Link
JP (1) JP6518309B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113450826A (en) * 2020-03-26 2021-09-28 丰田自动车株式会社 Abnormal sound generation location specifying method, non-temporary storage medium, and in-vehicle device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7470663B2 (en) 2021-06-28 2024-04-18 株式会社奥村組 Target sound processing system

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06303693A (en) * 1993-04-14 1994-10-28 Sony Corp Microphone equipment
JP2001180538A (en) * 1999-12-21 2001-07-03 Omega:Kk Traveling state recoder
JP4470145B2 (en) * 2003-03-31 2010-06-02 マツダ株式会社 Remote fault diagnosis system
JP3849675B2 (en) * 2003-07-25 2006-11-22 トヨタ自動車株式会社 Vehicle diagnosis method, vehicle diagnosis system, vehicle and center
JP2007141211A (en) * 2006-08-21 2007-06-07 Fujitsu Ten Ltd Driving assisting method and driving assisting device
JP2010016525A (en) * 2008-07-02 2010-01-21 Sony Corp Sound processing apparatus and sound processing method
JP2011117738A (en) * 2009-11-30 2011-06-16 Fujitsu Ten Ltd Device and program for diagnosing fault, and fault data collection device
JP2013003871A (en) * 2011-06-17 2013-01-07 Toyota Gifu Parts Distributor Co Ltd Management system for tires kept in trust
WO2015076280A1 (en) * 2013-11-25 2015-05-28 本田技研工業株式会社 Vehicle state monitoring system, and portable terminal device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113450826A (en) * 2020-03-26 2021-09-28 丰田自动车株式会社 Abnormal sound generation location specifying method, non-temporary storage medium, and in-vehicle device
CN113450826B (en) * 2020-03-26 2024-04-12 丰田自动车株式会社 Method for determining abnormal sound generation site, non-transitory storage medium, and in-vehicle device

Also Published As

Publication number Publication date
JP2019085059A (en) 2019-06-06

Similar Documents

Publication Publication Date Title
CN107458383A (en) Use the vehicle trouble automatic detection of audio signal
CN106648512B (en) Vehicle-mounted virtual image display method and device and vehicle-mounted host
CN104766300B (en) Event recorder playback with integrated GPS mapping
CN108627349B (en) Method and mobile device for detecting a particular operating state of a motor vehicle
WO2017186007A1 (en) Media processing method, device, apparatus and system
CN107004374B (en) Flight training support system and portable terminal device
JP6518309B1 (en) Driving condition reproduction system
JP7294381B2 (en) Information processing device, information processing method, program
WO2019178806A1 (en) Vehicle repairing method and device and apparatus
JP2011117738A (en) Device and program for diagnosing fault, and fault data collection device
JP2015520689A (en) In-vehicle device, vehicle, and method for in-vehicle device
CN113034724B (en) Information recording and reproducing apparatus, non-transitory storage medium, and information recording and reproducing system
JP2011135418A (en) Drive recorder, recording method and program
EP3691297B1 (en) Test arrangement and test method
JP6587438B2 (en) Inter-vehicle information display device
JP5478462B2 (en) Image / audio recording and playback device
JP7386008B2 (en) Display control device, data collection system, display control method, and display control program
JP2019121314A (en) Determination device, information recording device, determination method, and program for determination
CN208969498U (en) A kind of vehicle diagnostic device
JP2020086852A (en) Recording device for vehicle, signal processing device, and signal recording method
CN110356346B (en) Vehicle-mounted function pushing system and method for vehicle
JP2021149578A (en) Program, information recording device and information recording method
CN207676388U (en) A kind of vehicle data acquisition system
JP2006039934A (en) Guarding vehicle
JP7291037B2 (en) vehicle information system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180919

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181122

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190228

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20190228

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190306

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20190312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190419

R150 Certificate of patent or registration of utility model

Ref document number: 6518309

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees