JP3817612B2 - Virtual driving system - Google Patents

Virtual driving system Download PDF

Info

Publication number
JP3817612B2
JP3817612B2 JP2003167064A JP2003167064A JP3817612B2 JP 3817612 B2 JP3817612 B2 JP 3817612B2 JP 2003167064 A JP2003167064 A JP 2003167064A JP 2003167064 A JP2003167064 A JP 2003167064A JP 3817612 B2 JP3817612 B2 JP 3817612B2
Authority
JP
Japan
Prior art keywords
screen
image
subject
driving
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003167064A
Other languages
Japanese (ja)
Other versions
JP2005003923A (en
Inventor
呂 影 勇 野
田 践 理 池
Original Assignee
エルゴシーティング株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エルゴシーティング株式会社 filed Critical エルゴシーティング株式会社
Priority to JP2003167064A priority Critical patent/JP3817612B2/en
Publication of JP2005003923A publication Critical patent/JP2005003923A/en
Application granted granted Critical
Publication of JP3817612B2 publication Critical patent/JP3817612B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、疑似的に車両の走行運転を行い、運転席まわりのデバイス及び運転者の認知実験と人間工学実験等の評価研究を行うバーチャルドライビングシステムに関するものである。
【0002】
【従来の技術】
従来のドライビングシミュレータとしては、例えば、特許文献1に開示の「ドライビングシミュレータ」が挙げられる。これは模擬車体を載置したターンテーブルに取り付けられた油圧シリンダと模擬車体の車輪に取り付けられた油圧シリンダによって、車体に疑似的なヨーイング、ローリング、ピッチングを起こさせ実際の車両走行状態に近い状態を体感させるようにしたもので、被験者がアクセル、ブレーキ、変速用シフトレバー等を操作すると、センサがこれを感知してコントロールユニットへ出力し、コントロールユニットからの制御信号により油圧制御弁の作動を制御して、実際の走行操作に近い運動を実現している。同時に、被験者の前方のモニタには車両の走行に伴って変化するCG(コンピュータ・グラフィックス)合成による景色などが映し出されて臨場感を高めるようにしている。
【0003】
【特許文献1】
特開平9−269721号公報(段落番号[0016]〜[0030])
【0004】
【発明が解決しようとする課題】
しかしながら、従来技術の場合は、模擬車体上に実際の走行運転に近い状態を作り出して、モニタに映し出される景色を眺めながら模擬走行状態を体感させるもので、こうしたドライビングシミュレータが利用されるメリットとしては、現実に事故等の危険な状況を生じさせることなく、複数のドライバーに対して統制された走行条件を用意できるので、同一条件での走行体験が可能になりドライバー適性テスト等が容易になる、といった点が挙げられるが、最近、実際の車両に搭載されつつある「ドライブ・バイ・ワイヤー(drive−by−wire)」方式:操舵、制動、及び他の車両機能を機械式ではなく電子的な手段により連携制御する方式:のような近未来の車両操縦システムの評価に、従来例に挙げたドライビングシミュレータを有効な実験ツールとして対応することは難しい。仮に、このような評価検討を対象とした本格的なシミュレータを製作するにしても、システムの規模、開発費用等が膨大なものになり、さらに、そのための開発にもかなりの時間を要するため、開発サイクルの早いシステムの評価や試作段階におけるプロトタイプの評価には不適切であるという問題があった。また、殆どのシミュレータに用いられる従来のCG合成による画像では、現実感の欠如から、ドライバーの認知実験や人間工学実験を伴った車載情報端末におけるHMI(Human Machine Interface)の実験を行うツールという面では不適切であった。
【0005】
そこで、本発明は、現実に事故等の危険な状況を生じさせることなく運転席まわりのデバイスやドライバーの評価研究に必要なデータの収集を行い、複数のドライバーに対して統制された走行条件を用意できるという従来のドライビングシミュレータの利点に加え、市販の汎用コンピュータを使用することでシステムの規模・開発費用も抑制でき、実写映像を使用することで近未来の車両操縦システムの評価として必要なドライバーの認知実験や人間工学実験を可能にしたバーチャルドライビングシステムを提供することを目的としている。
【0006】
【課題を解決するための手段】
上記目的を達成するため、本発明は、スクリーンに投影される車両の走行映像を用いた被験者の疑似運転走行によって運転席まわりのデバイス及び運転者の評価研究を行うドライビングシステムであって、前方、左右および後方に設けた各スクリーンに予め撮影し編集した実写走行映像を同期して投影し前方スクリーン上の該実写走行映像上に被験者を経路誘導するための矢印を付加して呈示する実写映像呈示手段と、前記後方スクリーンを反射させて確認するためのバックミラー及び左右のサイドミラーと、実際の車体前方左右を想定した位置に配置された左右のウインカと、被験者の着席位置手前のハンドルと被験者の足下に位置するアクセルペダル及びブレーキペダルと前記ウインカを点滅させるスイッチとからなる入力手段と、前記入力手段を介し前記矢印により呈示された経路誘導に従って被験者が操作した入力を処理し前記実写映像呈示手段の前方、左右、及び後方の前記各スクリーンに投影される呈示映像を変化させて疑似運転走行を実施する制御手段と、前記入力手段の被験者による操作入力情報及び前記制御手段の操作入力に対する処理情報を記録・保存すると共に、保存された被験者の操作入力情報及び該処理情報を基に前記各スクリーンに投影される呈示映像を再生して被験者が行った疑似運転走行を再現する操作記録再生手段とを備え、前記制御手段は、前記アクセルペダル又はブレーキペダルの被験者による操作入力に応じて疑似運転走行における車両の速度及び加速度を示す文字又はメータにより表示する表示手段を有し、前記実写映像呈示手段又は前記操作記録再生手段は、前記前方スクリーン上の呈示映像に疑似運転走行における車両の速度及び加速度に応じて変化する水平方向のバー及び点によるインジケータを重ねて表示する手段を有することを特徴としている。
【0007】
また、本発明の前方、左右、及び後方の前記各スクリーンに投影される映像は、カメラ位置を運転者の視線で撮影したものであることを特徴としている。
また、本発明の前記実写映像呈示手段は、前方、左右、及び後方に設けたスクリーン毎に割り当てて制御するそれぞれの制御コンピュータを有し、LANにより接続された前記それぞれの制御コンピュータをメインの制御コンピュータを介することにより前記各スクリーンへの呈示映像を同期して投影するように構成していることを特徴としている。
また、本発明の前記実写映像呈示手段は、前記スクリーン上の実写走行映像とは別に撮影した映像を、前記スクリーン上にクロマキーにより合成して呈示する手段を有することを特徴としている。
【0008】
【発明の実施の形態】
以下、本発明の実施の形態について図を参照して説明する。
図1は、本発明の実施の形態に係るバーチャルドライビングシステムの概略構成図である。
図2は、図1に示すシステムの実写映像呈示手段の一構成図である。
図3は、図1に示すスクリーンに投影される走行映像の収録車を示す図である。
図4は、図2に示すスクリーンに投影される走行映像の一例を示す図である。
図5は、図4に示す呈示映像を投影する配置を示す図である。
【0009】
図1において、バーチャルドライビングシステム1は、予め編集した実写走行映像を前方スクリーン2、左スクリーン3a、右スクリーン3b、及び後方スクリーン5の4方向の各スクリーンへ呈示映像として同期をとって投影する。
運転者(ドライバー:又は被験者)10が、着席位置手前のハンドル(ステアリング)と、足下のアクセルペダル及びブレーキペダル(図示せず)等を操作することで、呈示ソフトウェアによってこれらの入力手段による操作入力情報を処理し、運転者10の操作に応じて、前方、左右、及び後方の各スクリーン2、3a、3b、5の映像を変化させ、疑似運転走行(バーチャルドライビングシミュレーション)を行う。4a、4bはスピーカで、実写撮影の際に同時に収録した音を映像の変化に連動して付加する。
【0010】
また、前方スクリーン2手前には、実車との整合性を保つために、実際の車両や車両デバイスの位置関係、寸法等を予め測定しておき、この評価車両に基づく想定位置にバックミラー(ルームミラー)7を設置し、左右にもサイドミラー8a、8bを配置して、後方スクリーン5の映像を反射させて確認するようにしている。同様に、実際に評価する車体サイズに合わせて前方左右の両側には左右のウインカ6a、6bを配置して、ハンドル上部に設置されたスイッチ(図示せず)によりこのウインカ6a、6bを点滅できるようにしている。9はアクセルペダルやブレーキペダルの操作入力に応じて変化し疑似運転走行の加速・減速に連動するスピードメータ等の計器類で、運転席まわりの評価デバイスの一つでもある。尚、前方スクリーン2中の矢印は運転者10に経路誘導を行うもので、運転者10は矢印によって右左折等の支持を受け運転操作をする。
運転者(被験者)によるこれらの操作入力や、操作入力に応じた処理、呈示映像を変化させる、等の疑似運転走行に伴う制御情報等は、PC内のメモリやハードディス等の記憶装置(図示せず)に記録・保存され、被験者を介在することなく呈示映像を変化させて疑似運転走行を再現することが可能となっており、これらの再現データを解析することで運転者や運転席まわりのデバイスの評価研究を行うことができる。
【0011】
図2は、図1に示すシステムの実写映像呈示手段の一構成図であり、予め編集した実写映像を前方、左右、及び後方の各スクリーン2、3a、3b、5に同期をとって投影する場合の一例を示している。各スクリーン2、3a、3b、5にはそれぞれPC(パーソナルコンピュータ)が割り当てられ、各PCは前方、左右、又は後方の対応するスクリーンに実写映像を投影する。各PCは、ルータにLAN(Local Area Network)で接続されており、さらにルータにはサーバPCが接続され、対応する各スクリーン2、3a、3b、5の映像はサーバPCから配信される。各PCは適宜必要な区間の映像をPC内のバッファメモリ又はハードディスク等の記憶装置(図示せず)に蓄えてスクリーン2、3a、3b、5に投影する。サーバPCは実写映像呈示手段専用として使用しても良いし、サーバPCに運転者10の操作入力を処理し運転者の操作に応じて投影映像を変化させる呈示ソフトウェアを組み込む構成にすることも可能である。また、コンピュータの処理速度が十分速ければ、スクリーン2、3a、3b、5に投影するために最小限必要な映像エンジン部分だけをそれぞれのスクリーン2、3a、3b、5に割り当てる構成も考えられる。なお、図2では前方映像スクリーン2に割り当てられたPCには、スピードメータ9を駆動するドライバソフトウェアが組み込まれている。
【0012】
次に動作について説明する。
本実施の形態におけるバーチャルドライビングシステムでは、被験者に対するシミュレーションを実施する準備段階として、映像コンテンツ及び音響コンテンツの収録、呈示ソフトウェア(シミュレーションプログラム)の制作等の作業を行う。
【0013】
映像コンテンツの収録は、図3に示すような前方、左右、後方の各スクリーン2、3a、3b、5用として4方向の走行映像が取得可能な様に、それぞれの方向にビデオカメラを搭載した収録車両を用い、実際に一般道路を走行して撮影し、デジタルビデオレコーダ等に記録する。実写映像はCG画像に比べて空間の実写性及び現実感という点において優れており、走行感覚の臨場感を重視することで、被験者によるテスト結果をより正確に評価に反映することが可能になる。撮影した実写映像は、シミュレーションプログラム制作の際に、運転者の視線になるように、各スクリーン2、3a、3b、5に投影される映像を編集する。
【0014】
音響コンテンツの収録については、図3に示す走行映像の撮影時にステレオマイク(図示せず)を用い、走行映像の撮影と同時にDAT(Digital Audio Tape)等に録音する。また、ブレーキ音や衝突音、或いはカーナビゲーション等を評価する際の必要な情報は、別に録音しておき、シミュレーションプログラム制作の際に、必要に応じて走行映像の撮影時に収録した走行音等と合成する。
【0015】
疑似運転走行のシミュレーションプログラムは、このように収録した映像コンテンツ、音響コンテンツをPCに取り込み、テスト目的にあわせたシナリオ(シミュレータ実験チャート)に沿って制作する。その際に、映像コンテンツはMPEGレイヤー1形式等の画像圧縮処理を行う。
シミュレーションプログラムは被験者に、ハンドル、アクセルペダル、ブレーキペダルの操作や、ハンドル上部に設置したスイッチによる右左折時のウインカ6a、6b点灯作業など、実際の運転に沿った作業を課している。
【0016】
これらの呈示ソフトウェアには、例えば、Macromedia社のDirector(商品名:3Dオーサリングソフトウェア)を用い、バックドロップ等の機能による合成(レイヤー、マスク処理)や、クロマキーによって市街地道路の背景映像に横断歩行する人物を重ねて合成映像を生成し、運転者の反応テストに利用することや、ハンドル、アクセルペタル、ブレーキペダル等の操作入力を検出して、加速・減速・停止等のベクトル計算を行い、タイム調整機能によって各スクリーン2、3a、3b、5の走行映像を現実的に連動して変化させる、ということを行う。
【0017】
図6は、撮影した実写映像をスクリーンに投影する際に、被験者のハンドル(ステアリング)操作によって、どのように映像が変化して投影されるかを示しており、ハンドル操作に伴い枠内の映像範囲がスクリーン上に投影されるという様子を示したものである。
【0018】
映像内の各モデル(走行車、対向車、壁など)を、質量を持つ剛体として設定する、DirectorのHavok Xtra機能(商品名)により、摩擦係数や弾力性等の設定によって、走行中や車庫入れのバック操作時等における衝突の検知を行い、衝突時の実際のショック、クラッシュ感を現出することも可能である。
【0019】
このようにして制作されたシミュレーションプログラムをPCにインストールしてバーチャルドライビングシステムを構成し、同時に編集処理されデジタルビデオレコーダ等に記録された実写走行映像及び走行音を制御して、プロジェクタより前方、左右、及び後方の大型スクリーン2、3a、3b、5に投影する。
【0020】
図4に示す前方スクリーン2に投影されるシミュレータ映像(呈示ソフトウェア映像)は、図5に示すように、前方中央に前方正面の実写走行映像(図示せず)、左右、後方のスクリーン3a、3b、5には前方スクリーン2の正面映像に同期した左右、後方の実写映像が投影され、加速・減速による変化もこれらの映像に同期して反映される。前方スクリーン2手前には被験者の着席位置が真正面になる位置にハンドル(図示せず)が、被験者の足下にはアクセルペダル及びブレーキが設置され、前方スクリーン2手前の中央にはルームミラー7が、左右にはサイドミラー8a、8bが配置され、後方スクリーン5に投影された映像をミラー7、8a、8bに映し出して被験者によって確認しながら運転操作を行うように構成している。また、ハンドルの上部に設置されたスイッチ操作によって、車体前方左右位置に配置されたウインカ6a、6bの点滅操作を行う。
なお、車幅等の車両感覚を実際の評価車両に合わせるために予め車体のボデイサイズに合わせて枠組みを製作し、製作した枠を布で覆うことで、運転席からの視界を再現している。
【0021】
実写走行映像は、プロジェクタを用いて前方の大型スクリーン2(例えば、100インチ大)に投影する、プロジェクタとしては、例えば、DMD(Digital Micromirror Device)素子によるDLP(Degital Light Processing)等で構成されている。プロジェクタの投影方法は、図5に示す右スクリーン3bのように、リアプロジェクション方式を用いても良い。
【0022】
被験者が着席して各スクリーン2、3a、3b、5に実写走行映像が投影されたら、呈示ソフトウェアによるシミュレータ実験を開始する。
実験及び評価方法は、その目的によって異なるが、例えば、車載情報システム(ナビゲーション)を利用した自動車運転時に、呈示優先度の高い情報(以下、高優先度情報という)が、呈示優先度の低い情報(以下、低優先度情報という)に割り込んで視聴覚呈示する場面を想定したシミュレータ実験を行う。
実験において呈示される高優先度情報は、障害物情報等の危険警告情報とし、低優先度情報はルートガイダンスなどのナビゲーション情報を設定する。例えば、各スクリーン2、3a、3b、5上の前後、左右の車々間や路車間のスクリーン映像上でのWarning情報や、音声による警告情報等を想定した高優先度情報と、ナビゲーションモニタ23の表示や音声情報などを想定した低優先度情報が呈示されるものである。
【0023】
カーナビゲーションには、例えば、DVD(Digital Versatile Disc)カーコンピュータなどが用いられる。ちなみにDVDカーコンピュータは音声認識型のカーナビゲーションシステムで、目的地までのナビゲーションに関わる操作を音声により行い、それに対してシステム側から音声による応答があって、インタラクティブな操作が可能になっている、マルチメディア・コミュニケーション型のツールである。
【0024】
低優先度情報としての実験は、運転シミュレーション作業として、前方を走行する車両、前後左右の車間距離、壁との間隔等のターゲットをハンドル、アクセル、ブレーキ操作によって、車載情報端末によるナビゲーション情報に従った経路選択作業を評価用操作として実施する。経路選択の際は、ナビゲーション情報を基に、走行映像の進行に合わせて、例えば、右左折の必要な交差点の約30m手前において、図1に示すように前方スクリーン2上の映像に矢印を合成して表示する。
【0025】
高優先度情報の認識テストとしては、運転シミュレーション作業下において、例えば、情報受容過程における緊急性、重大性の判断が必要な実験課題を設定し実施する。これについては、呈示された情報が緊急性・重大性を含んだ危険警告情報と想定した場面での、ハンドル、アクセル、ブレーキ操作の反応をチェックする。このテストには、クロマキーを用いた合成映像によって横断歩行人物を挿入して、視覚による緊急反射テスト等を含めてもよい。これらの高優先度情報の呈示は、例えば、実験中3回行う。また、高優先度情報の呈示内容について、記憶させる。これは安全意識診断のデータにもなる。
【0026】
図7は、疑似運転走行テスト終了後、疑似運転走行を再現しアクセルペダル及びブレーキペダルの操作状況を疑似運転走行における車両の速度や加速度として前方スクリーン2上で確認できるようにしたもので、車両の速度に応じて中央から上方向に移動する水平方向のバーと、加速度に応じて中央から上方向(正の加速度:アクセル操作)及び中央から下方向(負の加速度:ブレーキ操作)に移動する点によるインジケータを設けたものである。これらのインジケータは、疑似運転走行テスト終了後の映像再生において表示することも、疑似運転走行テスト中に被験者に見せて反応を見る様にすることも可能で、評価対象デバイスや評価項目に応じて選択できる。
【0027】
以上のテストについての被験者は、例えば、年齢20歳から63歳までの運転免許証保有者を対象とし、このような呈示方法を、20〜63歳の被験者に個人毎、あるいはグループ毎に別々に適用して課した多数の評価データより、反復評価などを実施することで、衝突防止システム等の安全運転支援システムの評価などが可能になる。
【0028】
具体的な評価方法としては、ハンドル、アクセル、ブレーキ操作やウインカ6a、6bの点灯操作の反応やこれらの操作に伴う投影映像の移動範囲などを統計処理する等のシミュレータから得られる情報の評価以外にも、被験者の身体反応を評価する方法が考えられ、例えば、角膜反射法による視線運動計測器と反射像をCCDカメラで捉えビデオレコーダに記録し、この記録データから身体の反応を評価する等が挙げられる。
【0029】
【発明の効果】
以上説明したように、本発明によれば、編集した実写走行映像を前方、左右および後方に設けた各スクリーンに投影された同期した車両の走行映像を用い、被験者の操作入力により呈示映像を変化させて疑似運転走行を実施することで、現実に事故等の危険な状況を生じさせることなく臨場感のある機能的な走行操作が可能になるという従来のドライビングシミュレータの利点に加え、実写映像の持つ現実感によって、運転席まわりのデバイスや運転者の評価研究を行うためのより正確なデータ収集ができるという、車両操縦システムの評価に有効なバーチャルドライビングシステムを安価に構成できる効果がある。
【図面の簡単な説明】
【図1】本発明の実施の形態に係るバーチャルドライビングシステムの概略構成図である。
【図2】図1に示すシステムの実写映像呈示手段の一構成図である。
【図3】図1に示すスクリーンに投影される走行映像の収録車を示す図である。
【図4】図1に示すスクリーンに投影される呈示映像を示す図である。
【図5】図4に示す呈示映像を投影する配置を示す図である。
【図6】図1に示すシステムのステアリング操作を示す説明図である。
【図7】図1に示すシステムのペダル操作に応じた投影映像の説明図である。
【符号の説明】
1 バーチャルドライビングシステム
2 前方スクリーン
3a 左スクリーン
3b 右スクリーン
4a 左スピーカ
4b 右スピーカ
5 後方スクリーン
6a 左ウインカ
6b 右ウインカ
7 バックミラー
8a 左サイドミラー
8b 右サイドミラー
9 スピードメータ
10 運転者(ドライバー:又は被験者)
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a virtual driving system that performs a driving operation of a vehicle in a pseudo manner and performs evaluation research such as a device around a driver's seat and a driver's cognitive experiment and an ergonomic experiment.
[0002]
[Prior art]
As a conventional driving simulator, for example, “driving simulator” disclosed in Patent Document 1 can be cited. This is a state that is close to the actual vehicle running state by causing the body to simulate yawing, rolling, and pitching by the hydraulic cylinder attached to the turntable on which the simulated body is placed and the hydraulic cylinder attached to the wheel of the simulated body When the subject operates the accelerator, brake, shift lever for shifting, etc., the sensor detects this and outputs it to the control unit. The control signal from the control unit activates the hydraulic control valve. By controlling, it realizes the movement close to the actual driving operation. At the same time, on the monitor in front of the subject, scenes and the like by CG (computer graphics) composition that changes as the vehicle travels are projected to enhance the sense of reality.
[0003]
[Patent Document 1]
JP-A-9-269721 (paragraph numbers [0016] to [0030])
[0004]
[Problems to be solved by the invention]
However, in the case of the conventional technology, a state close to the actual driving operation is created on the simulated vehicle body, and the simulated traveling state is experienced while viewing the scenery displayed on the monitor. As a merit of using such a driving simulator, Because it is possible to prepare controlled driving conditions for multiple drivers without actually causing dangerous situations such as accidents, it is possible to experience driving under the same conditions and facilitate driver aptitude tests, Recently, the “drive-by-wire” method that is being installed in actual vehicles: electronically, rather than mechanically, steering, braking, and other vehicle functions The method of cooperative control by means of: The driving simulation given in the previous example for the evaluation of the near future vehicle steering system It is difficult to correspond to the data as a valid experimental tool. Even if a full-scale simulator for such an evaluation study is produced, the scale of the system, development costs, etc. will be enormous, and further development will take a considerable amount of time. There is a problem that it is inappropriate for evaluating a system with an early development cycle or for evaluating a prototype at the prototype stage. Moreover, in the image by the conventional CG synthesis | combination used for most simulators, the surface of the tool which performs the experiment of HMI (Human Machine Interface) in the in-vehicle information terminal accompanied by the driver's recognition experiment and the ergonomic experiment from the lack of reality It was inappropriate.
[0005]
Therefore, the present invention collects data necessary for evaluation research on devices and drivers around the driver's seat without actually causing dangerous situations such as accidents, and provides controlled driving conditions for a plurality of drivers. In addition to the advantages of the conventional driving simulator that can be prepared, the use of a commercially available general-purpose computer can also reduce the scale and development cost of the system, and the use of live-action video as a driver necessary for evaluating the near future vehicle control system The purpose is to provide a virtual driving system that enables cognitive experiments and ergonomic experiments.
[0006]
[Means for Solving the Problems]
In order to achieve the above object, the present invention is a driving system for performing research on evaluation of a device and a driver around a driver's seat by a pseudo driving driving of a subject using a driving image of a vehicle projected on a screen, A live-action video presentation that projects a live-action running image that has been captured and edited in advance on each of the left and right and rear screens and that is added with an arrow to guide the subject on the live-action running video on the front screen Means, rear mirrors and left and right side mirrors for reflecting and confirming the rear screen, left and right turn signals arranged at positions assuming the actual front left and right of the vehicle body, the handle and the subject in front of the seating position of the subject Input means comprising an accelerator pedal and a brake pedal located under the foot of the vehicle, and a switch for blinking the blinker; Pseudo driving running by processing the input operated by the subject according to the route guidance presented by the arrow through the force means and changing the presented images projected on the front, left, right and rear screens of the real image presenting means Recording and storing operation input information by the subject of the input means and processing information for the operation input of the control means, and each of the above based on the stored operation input information of the subject and the processing information An operation recording / reproducing unit that reproduces a simulated driving run performed by a subject by reproducing a presentation image projected on a screen, and the control unit performs pseudo driving according to an operation input by the subject of the accelerator pedal or the brake pedal. Display means for displaying by characters or meters indicating the speed and acceleration of the vehicle in running, Serial operation recording and reproducing means is characterized Rukoto to have a means for displaying overlapping the indicator by bars and point in the horizontal direction which changes according to the vehicle speed and the acceleration in the pseudo driver running on presentation image on the front screen It is said.
[0007]
In addition, the images projected on the front, left, and right screens of the present invention are obtained by photographing the camera position with the driver's line of sight.
Further, the live-action image presenting means of the present invention has respective control computers that are assigned and controlled for each screen provided in the front, left and right, and rear, and each control computer connected by a LAN is controlled as a main control. The present invention is characterized in that the presentation video on each screen is projected in synchronization through a computer.
Further, the live-action video presenting means of the present invention is characterized by comprising means for synthesizing and presenting an image taken separately from the live-action running video on the screen on the screen using a chroma key.
[0008]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a schematic configuration diagram of a virtual driving system according to an embodiment of the present invention.
FIG. 2 is a block diagram of the live-action video presenting means of the system shown in FIG.
FIG. 3 is a diagram showing a vehicle that records a running image projected on the screen shown in FIG.
FIG. 4 is a diagram showing an example of a running image projected on the screen shown in FIG.
FIG. 5 is a diagram showing an arrangement for projecting the presented video shown in FIG.
[0009]
In FIG. 1, a virtual driving system 1 synchronizes and projects a pre-edited live-action traveling image as a presentation image on each of four screens including a front screen 2, a left screen 3a, a right screen 3b, and a rear screen 5.
When the driver (driver: or subject) 10 operates the steering wheel (steering) in front of the seating position, the accelerator pedal and the brake pedal (not shown), etc., the operation input by these input means by the presenting software. The information is processed, and the images on the front, left, right, and rear screens 2, 3a, 3b, and 5 are changed in accordance with the operation of the driver 10 to perform pseudo driving (virtual driving simulation). Reference numerals 4a and 4b denote speakers, which add sounds recorded at the same time during live-action shooting in conjunction with video changes.
[0010]
In addition, in order to maintain consistency with the actual vehicle, the positional relationship and dimensions of the actual vehicle and vehicle device are measured in advance in front of the front screen 2 and the rearview mirror (room) is placed at the assumed position based on this evaluation vehicle. Mirror) 7 is installed, and side mirrors 8a and 8b are also arranged on the left and right sides, and the image on the rear screen 5 is reflected and confirmed. Similarly, the left and right turn signals 6a and 6b are arranged on both the left and right sides according to the vehicle body size to be actually evaluated, and the turn signals 6a and 6b can be blinked by a switch (not shown) installed on the upper part of the handle. I am doing so. Reference numeral 9 is an instrument such as a speedometer that changes in accordance with the operation input of the accelerator pedal or the brake pedal and is linked to acceleration / deceleration of the pseudo driving traveling, and is also one of evaluation devices around the driver's seat. An arrow in the front screen 2 guides the route to the driver 10, and the driver 10 performs a driving operation with support such as turning right or left by the arrow.
Control information and the like associated with pseudo-driving such as the operation input by the driver (subject), processing according to the operation input, and changing the presented video are stored in a storage device such as a memory or a hard disk in the PC (see FIG. It is possible to reproduce the simulated driving run by changing the presented video without involving the subject, and by analyzing these reproduced data, Can conduct device evaluation research.
[0011]
FIG. 2 is a configuration diagram of the live-action video presenting means of the system shown in FIG. 1, and projects the pre-edited real-time video on the front, left, right, and rear screens 2, 3a, 3b, 5 in synchronization. An example of the case is shown. A PC (personal computer) is assigned to each of the screens 2, 3a, 3b, and 5, and each PC projects a live-action image on the corresponding screen on the front, left and right, or rear. Each PC is connected to the router via a LAN (Local Area Network). Further, a server PC is connected to the router, and the images of the corresponding screens 2, 3a, 3b, and 5 are distributed from the server PC. Each PC stores an image of a necessary section as appropriate in a storage device (not shown) such as a buffer memory or a hard disk in the PC, and projects it on the screens 2, 3a, 3b, and 5. The server PC may be used exclusively for the live-action image presentation means, or may be configured to incorporate presentation software that processes the operation input of the driver 10 and changes the projection image according to the operation of the driver. It is. In addition, if the processing speed of the computer is sufficiently high, a configuration in which only the minimum video engine portion necessary for projection onto the screens 2, 3a, 3b, 5 is assigned to the respective screens 2, 3a, 3b, 5 is also conceivable. In FIG. 2, driver software for driving the speedometer 9 is incorporated in the PC assigned to the front video screen 2.
[0012]
Next, the operation will be described.
In the virtual driving system according to the present embodiment, as preparation steps for performing simulation for a subject, work such as recording of video content and audio content, production of presentation software (simulation program), and the like is performed.
[0013]
Video content is recorded with a video camera in each direction so that four directions of travel images can be acquired for the front, left, right, and rear screens 2, 3a, 3b, and 5 as shown in FIG. Using a recording vehicle, actually take a picture on a general road and record it on a digital video recorder or the like. Real shot images are superior to CG images in terms of spatial realism and sense of reality, and by placing emphasis on the sense of realism of driving feeling, it becomes possible to reflect test results from subjects more accurately in evaluation. . The captured live-action video is edited on the screens 2, 3 a, 3 b, and 5 so as to become the driver's line of sight when creating the simulation program.
[0014]
Regarding the recording of the sound content, a stereo microphone (not shown) is used when shooting the driving image shown in FIG. 3 and is recorded on a DAT (Digital Audio Tape) or the like simultaneously with the shooting of the driving image. In addition, information necessary for evaluating brake sound, collision sound, car navigation, etc., should be recorded separately, and recorded as travel sound etc. Synthesize.
[0015]
The simulation program for simulated driving travel takes the video content and audio content recorded in this way into a PC, and produces them according to a scenario (simulator experiment chart) tailored to the test purpose. At that time, the video content is subjected to image compression processing in the MPEG layer 1 format or the like.
The simulation program imposes work on the subject in accordance with actual driving such as operation of the steering wheel, accelerator pedal, and brake pedal, and lighting operation of the blinkers 6a and 6b at the time of turning left and right by a switch installed on the upper part of the steering wheel.
[0016]
These presentation software uses, for example, Director (product name: 3D authoring software) of Macromedia, and uses a backdrop and other functions (layer, mask processing), and crosswalks on the background image of urban roads by chroma key. Create a composite image by overlaying people and use it for a driver's reaction test, detect operation inputs such as steering wheel, accelerator petal, brake pedal, etc., perform vector calculations such as acceleration, deceleration, stop, etc. The traveling image of each of the screens 2, 3a, 3b, and 5 is changed in an actual interlocking manner by the adjustment function.
[0017]
FIG. 6 shows how the image is changed and projected by the subject's steering (steering) operation when projecting the captured real image onto the screen. It shows how the range is projected on the screen.
[0018]
Each model (traveling vehicle, oncoming vehicle, wall, etc.) in the image is set as a rigid body with mass, and the Director's Havok Xtra function (product name) is used to set the friction coefficient, elasticity, etc. It is also possible to detect a collision at the time of putting back operation, etc., and to show an actual shock and a crash feeling at the time of the collision.
[0019]
The simulation program created in this way is installed on a PC to configure a virtual driving system, and the live-action running video and running sound that are simultaneously edited and recorded on a digital video recorder, etc. are controlled, and the front, left and right sides of the projector are controlled. , And the rear large screens 2, 3a, 3b, 5 are projected.
[0020]
As shown in FIG. 5, a simulator image (presentation software image) projected on the front screen 2 shown in FIG. 4 is a front-facing live-action image (not shown), left, right, and rear screens 3a and 3b. The left and right and rear real shot images synchronized with the front image of the front screen 2 are projected on 5, and changes due to acceleration / deceleration are also reflected in synchronization with these images. A handle (not shown) is installed at a position where the subject's seating position is directly in front of the front screen 2, an accelerator pedal and a brake are installed under the subject's feet, and a room mirror 7 is provided at the center in front of the front screen 2, Side mirrors 8a and 8b are arranged on the left and right sides, and the image projected on the rear screen 5 is projected on the mirrors 7, 8a and 8b, and the driving operation is performed while being confirmed by the subject. In addition, blinking operation of the blinkers 6a and 6b arranged at the front left and right positions of the vehicle body is performed by operating a switch installed on the upper part of the handle.
In addition, in order to match the vehicle sensation such as the vehicle width to the actual evaluation vehicle, the frame is manufactured in advance according to the body size of the vehicle body, and the view from the driver's seat is reproduced by covering the manufactured frame with cloth. .
[0021]
A live-action running image is projected onto a large front screen 2 (for example, 100 inches large) using a projector. The projector is composed of, for example, a DLP (Digital Light Processing) using a DMD (Digital Micromirror Device) element. Yes. As a projection method of the projector, a rear projection method may be used as in the right screen 3b shown in FIG.
[0022]
When the subject is seated and a live-action running image is projected on each of the screens 2, 3a, 3b, and 5, a simulator experiment using the presentation software is started.
Although the experiment and the evaluation method vary depending on the purpose, for example, when driving an automobile using an in-vehicle information system (navigation), information with high presentation priority (hereinafter referred to as high priority information) is information with low presentation priority. (Hereinafter referred to as “low priority information”) A simulator experiment is performed assuming a scene where audiovisual presentation is performed.
The high priority information presented in the experiment is danger warning information such as obstacle information, and the low priority information sets navigation information such as route guidance. For example, high priority information assuming warning information on the screen images between the front and rear, left and right vehicles and roads between the screens 2, 3a, 3b, 5 and roads, voice warning information, etc., and the display of the navigation monitor 23 And low-priority information assuming voice information and the like.
[0023]
For example, a DVD (Digital Versatile Disc) car computer is used for the car navigation. By the way, the DVD car computer is a voice recognition type car navigation system that performs operations related to navigation to the destination by voice and responds with voice from the system side, enabling interactive operation. It is a multimedia communication type tool.
[0024]
The experiment as low priority information is based on the navigation information from the in-vehicle information terminal by operating the steering wheel, accelerator, and brake as the driving simulation work. The selected route is selected as an evaluation operation. When selecting a route, based on the navigation information, an arrow is combined with the image on the front screen 2 as shown in FIG. And display.
[0025]
As a high-priority information recognition test, for example, an experimental task that requires judgment of urgency and seriousness in the information acceptance process is set and performed under driving simulation work. For this, the response of the steering wheel, accelerator, and brake operation in the scene where the presented information is assumed to be danger warning information including urgency and seriousness is checked. This test may include a visual emergency reflex test by inserting a crosswalk person with a composite image using chroma key. The presentation of the high priority information is performed three times during the experiment, for example. Further, the contents of presentation of the high priority information are stored. This also serves as data for safety awareness diagnosis.
[0026]
FIG. 7 shows a state in which, after the simulated driving test is completed, the simulated driving is reproduced, and the operation state of the accelerator pedal and the brake pedal can be confirmed on the front screen 2 as the speed and acceleration of the vehicle in the simulated driving. A horizontal bar that moves upward from the center according to the speed of the vehicle, and a vertical bar that moves according to the acceleration (positive acceleration: accelerator operation) and a downward movement from the center (negative acceleration: brake operation). A point indicator is provided. These indicators can be displayed in video playback after the simulated driving test, or can be shown to the subject during the simulated driving test to see the reaction, depending on the target device and evaluation item. You can choose.
[0027]
The subjects for the above test are, for example, those who have a driver's license from the age of 20 to 63, and such a presentation method is individually applied to individuals of 20 to 63 years or for each group. By implementing repeated evaluations from a large number of evaluation data applied and applied, it is possible to evaluate a safe driving support system such as a collision prevention system.
[0028]
As a specific evaluation method, other than evaluation of information obtained from a simulator such as statistical processing of the response of the steering wheel, accelerator, brake operation, turn-on operation of the blinkers 6a and 6b, and the movement range of the projected image accompanying these operations In addition, a method for evaluating the body reaction of the subject is conceivable. For example, the eye movement measuring instrument and the reflection image by the cornea reflection method are captured by a CCD camera and recorded on a video recorder, and the body reaction is evaluated from the recorded data. Is mentioned.
[0029]
【The invention's effect】
As described above, according to the present invention, using the synchronized vehicle traveling images projected on the screens provided on the front, left, right, and rear sides of the edited live-action traveling image, the presented image is changed by the operation input of the subject. In addition to the advantages of the conventional driving simulator, it is possible to perform realistic driving operations without causing dangerous situations such as accidents by actually performing simulated driving. It is possible to construct a virtual driving system effective for evaluation of a vehicle control system at a low cost, in which it is possible to collect more accurate data for conducting research and evaluation of devices around the driver's seat and the driver depending on the sense of reality.
[Brief description of the drawings]
FIG. 1 is a schematic configuration diagram of a virtual driving system according to an embodiment of the present invention.
2 is a block diagram of a live-action video presenting means of the system shown in FIG.
FIG. 3 is a diagram showing a vehicle that records a running image projected on the screen shown in FIG. 1;
4 is a diagram showing a presentation image projected on the screen shown in FIG. 1; FIG.
FIG. 5 is a diagram showing an arrangement for projecting the presented video shown in FIG. 4;
6 is an explanatory diagram showing a steering operation of the system shown in FIG. 1. FIG.
7 is an explanatory diagram of a projected image corresponding to a pedal operation of the system shown in FIG.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1 Virtual driving system 2 Front screen 3a Left screen 3b Right screen 4a Left speaker 4b Right speaker 5 Rear screen 6a Left turn signal 6b Right turn signal 7 Rearview mirror 8a Left side mirror 8b Right side mirror 9 Speedometer 10 Driver (driver: or subject) )

Claims (4)

スクリーンに投影される車両の走行映像を用いた被験者の疑似運転走行によって運転席まわりのデバイス及び運転者の評価研究を行うドライビングシステムであって、
前方、左右および後方に設けた各スクリーンに予め撮影し編集した実写走行映像を同期して投影し前方スクリーン上の該実写走行映像上に被験者を経路誘導するための矢印を付加して呈示する実写映像呈示手段と、
前記後方スクリーンを反射させて確認するためのバックミラー及び左右のサイドミラーと、
実際の車体前方左右を想定した位置に配置された左右のウインカと、
被験者の着席位置手前のハンドルと被験者の足下に位置するアクセルペダル及びブレーキペダルと前記ウインカを点滅させるスイッチとからなる入力手段と、
前記入力手段を介し前記矢印により呈示された経路誘導に従って被験者が操作した入力を処理し前記実写映像呈示手段の前方、左右、及び後方の前記各スクリーンに投影される呈示映像を変化させて疑似運転走行を実施する制御手段と、
前記入力手段の被験者による操作入力情報及び前記制御手段の操作入力に対する処理情報を記録・保存すると共に、保存された被験者の操作入力情報及び該処理情報を基に前記各スクリーンに投影される呈示映像を再生して被験者が行った疑似運転走行を再現する操作記録再生手段とを備え
前記制御手段は、前記アクセルペダル又はブレーキペダルの被験者による操作入力に応じて疑似運転走行における車両の速度及び加速度を示す文字又はメータにより表示する表示手段を有し、
前記実写映像呈示手段又は前記操作記録再生手段は、前記前方スクリーン上の呈示映像に疑似運転走行における車両の速度及び加速度に応じて変化する水平方向のバー及び点によるインジケータを重ねて表示する手段を有することを特徴とするバーチャルドライビングシステム。
A driving system that conducts evaluation research of devices and drivers around a driver's seat by subject's simulated driving using a driving image of a vehicle projected on a screen,
A live-action image that is projected in synchronization with a live-action traveling image that has been captured and edited in advance on each screen provided in front, left, right, and rear, and that is presented with an arrow for guiding the subject on the actual-image traveling image on the front screen Video presentation means;
A rearview mirror and left and right side mirrors for reflecting and confirming the rear screen;
The left and right turn signals placed at the position assuming the actual left and right front of the vehicle body,
Input means comprising a handle in front of the subject's seating position, an accelerator pedal and a brake pedal located under the subject's feet, and a switch for blinking the blinker,
Simulate driving by processing the input operated by the subject according to the route guidance presented by the arrow through the input means, and changing the presented images projected on the front, left and right, and rear screens of the real image presenting means Control means for carrying out traveling;
The operation input information by the subject of the input means and the processing information for the operation input of the control means are recorded and stored, and the presented video projected on each screen based on the stored operation input information of the subject and the processing information the playing an operation recording and reproducing means for reproducing a pseudo operation traveling subjects went,
The control means has a display means for displaying by characters or meters indicating the speed and acceleration of the vehicle in the pseudo driving according to the operation input by the subject of the accelerator pedal or the brake pedal,
The live-action video presenting means or the operation recording / reproducing means includes means for displaying an indicator by a horizontal bar and a point that change in accordance with the speed and acceleration of the vehicle in pseudo driving on the presented video on the front screen. Virtual driving system according to claim Rukoto that Yusuke.
前方、左右、及び後方の前記各スクリーンに投影される映像は、カメラ位置を運転者の視線で撮影したものであることを特徴とする請求項1に記載のバーチャルドライビングシステム。  The virtual driving system according to claim 1, wherein the images projected on the front, left, and right screens are images of the camera position taken by the driver's line of sight. 前記実写映像呈示手段は、前方、左右、及び後方に設けたスクリーン毎に割り当てて制御するそれぞれの制御コンピュータを有し、LANにより接続された前記それぞれの制御コンピュータをメインの制御コンピュータを介することにより前記各スクリーンへの呈示映像を同期して投影するように構成していることを特徴とする請求項1に記載のバーチャルドライビングシステム。  The live-action video presenting means has respective control computers that are assigned and controlled for each screen provided forward, left, right, and rear, and the respective control computers connected by a LAN are connected via the main control computer. The virtual driving system according to claim 1, wherein the presentation video on each screen is projected in synchronization. 前記実写映像呈示手段は、前記スクリーン上の実写走行映像とは別に撮影した映像を、前記スクリーン上にクロマキーにより合成して呈示する手段を有することを特徴とする請求項1に記載のバーチャルドライビングシステム。  2. The virtual driving system according to claim 1, wherein the live-action video presenting means includes means for synthesizing and presenting an image taken separately from the live-action running video on the screen by using a chroma key on the screen. .
JP2003167064A 2003-06-11 2003-06-11 Virtual driving system Expired - Fee Related JP3817612B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003167064A JP3817612B2 (en) 2003-06-11 2003-06-11 Virtual driving system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003167064A JP3817612B2 (en) 2003-06-11 2003-06-11 Virtual driving system

Publications (2)

Publication Number Publication Date
JP2005003923A JP2005003923A (en) 2005-01-06
JP3817612B2 true JP3817612B2 (en) 2006-09-06

Family

ID=34093015

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003167064A Expired - Fee Related JP3817612B2 (en) 2003-06-11 2003-06-11 Virtual driving system

Country Status (1)

Country Link
JP (1) JP3817612B2 (en)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8033830B2 (en) * 2005-05-30 2011-10-11 Honda Motor Co., Ltd. Vehicle simulation system
JP4461057B2 (en) * 2005-05-30 2010-05-12 本田技研工業株式会社 Vehicle simulation device
JP4940465B2 (en) * 2006-03-03 2012-05-30 オプテックス株式会社 Driving guidance device
JP2007264490A (en) * 2006-03-29 2007-10-11 National Univ Corp Shizuoka Univ Information presentation evaluation system
JP2007293145A (en) * 2006-04-27 2007-11-08 Honda Motor Co Ltd Travel motion history data generating system and travel motion history recording system
CN102555933A (en) * 2012-02-15 2012-07-11 四川大学 Learner-driven vehicle hill-start auxiliary observation method
JP2013167732A (en) * 2012-02-15 2013-08-29 Japan Radio Co Ltd Display, screen and image conversion apparatus
CN102555934A (en) * 2012-02-15 2012-07-11 四川大学 Learner-driven vehicle quarter turn auxiliary observation method
CN102555932A (en) * 2012-02-15 2012-07-11 四川大学 Auxiliary observation method for side-direction parking of coach car
JP2014174447A (en) * 2013-03-12 2014-09-22 Japan Automobile Research Institute Vehicle dangerous scene reproducer, and method of use thereof
CN103646576A (en) * 2013-12-23 2014-03-19 北京农业职业学院 GS-MS (gas chromatography-mass spectrometry) simulation system
JP2016085326A (en) * 2014-10-24 2016-05-19 三菱プレシジョン株式会社 Vehicle driving simulation device
JP6622957B2 (en) * 2014-11-05 2019-12-18 ▲福衛▼ 澤田 Driving feeling simulation device
JP6499866B2 (en) * 2015-01-16 2019-04-10 三菱プレシジョン株式会社 Educational vehicle simulator system
CN105644440A (en) * 2015-12-28 2016-06-08 深圳市灵动飞扬科技有限公司 Method and system for displaying driving state
CN108116312A (en) * 2016-11-28 2018-06-05 宁波舜宇车载光学技术有限公司 Image system and its imaging method
CN108124143A (en) * 2016-11-28 2018-06-05 宁波舜宇车载光学技术有限公司 Image system
JP2019066636A (en) * 2017-09-29 2019-04-25 本田技研工業株式会社 Driving training device, and driving training method
JP7075741B2 (en) * 2017-11-10 2022-05-26 株式会社アイロック Autobrake simulation experience device for four-wheeled vehicles
JP6723533B2 (en) * 2018-07-05 2020-07-15 株式会社東陽テクニカ Driving simulator
JP7045093B2 (en) * 2020-06-03 2022-03-31 株式会社音楽館 Image generation system, image generation method and program
CN114596755A (en) * 2022-03-11 2022-06-07 昆明理工大学 Simulated flight simulated driving equipment controlled by driving simulator

Also Published As

Publication number Publication date
JP2005003923A (en) 2005-01-06

Similar Documents

Publication Publication Date Title
JP3817612B2 (en) Virtual driving system
US5184956A (en) Method and device for training in the driving of vehicles
JP4235465B2 (en) Riding simulation equipment
US20180182261A1 (en) Real Time Car Driving Simulator
JP3629201B2 (en) Electronic manual for vehicle and manufacturing method thereof
Bringoux et al. Influence of speed-related auditory feedback on braking in a 3D-driving simulator
JP7064424B2 (en) Driving training system
JP2003114607A (en) Virtual driving system
JP4493575B2 (en) MOBILE BODY SIMULATOR, ITS CONTROL METHOD, AND CONTROL PROGRAM
WO2005066918A1 (en) Simulation device and data transmission/reception method for simulation device
JP2009244660A (en) Driving training apparatus
JP4728941B2 (en) Driving training device
JP2007323001A (en) Image display device
JP2019086961A (en) Apparatus and program for image processing
JP4739174B2 (en) Driving training device
JP2020144332A (en) Virtual reality system and virtual reality method
JPH10215407A (en) Image fetching device, and drive support image fetching device
JP2005208478A (en) Simulation driving apparatus
JP2003263098A (en) Driving training system using driving simulator
JP3758733B2 (en) Instructional driving simulator
JP3094921U (en) Driving simulator
JP2020056946A (en) Simulated driving device, video control device, and simulated driving method
JP7281742B2 (en) Program and train driving simulator
JP7097323B2 (en) Driving training equipment and driving training method
JP7389782B2 (en) Display device and display device control method

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060518

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees