JP5404246B2 - 3次元映像処理装置及びその制御方法 - Google Patents

3次元映像処理装置及びその制御方法 Download PDF

Info

Publication number
JP5404246B2
JP5404246B2 JP2009194029A JP2009194029A JP5404246B2 JP 5404246 B2 JP5404246 B2 JP 5404246B2 JP 2009194029 A JP2009194029 A JP 2009194029A JP 2009194029 A JP2009194029 A JP 2009194029A JP 5404246 B2 JP5404246 B2 JP 5404246B2
Authority
JP
Japan
Prior art keywords
viewer
viewing range
image
shutter
outside
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009194029A
Other languages
English (en)
Other versions
JP2011049630A (ja
JP2011049630A5 (ja
Inventor
昌史 森下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009194029A priority Critical patent/JP5404246B2/ja
Publication of JP2011049630A publication Critical patent/JP2011049630A/ja
Publication of JP2011049630A5 publication Critical patent/JP2011049630A5/ja
Application granted granted Critical
Publication of JP5404246B2 publication Critical patent/JP5404246B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、3次元(3D)映像視聴において3D視聴効果を享受可能な視聴範囲を視聴者に提示する、3D映像処理装置とその制御方法に関するものである。
視差を利用して視聴者の左右の眼に異なる映像を見せることで、擬似的に3D映像視聴を可能にする技術がある。眼鏡無しで視聴する裸眼方式には、例えば、シリンドリカルレンズを多数並列に配置して見え方を制限するレンチキュラスクリーン方式や、1枚の板に多数のスリットを形成して映像の見え方を制限するパララックスバリア方式が知られている。
特殊な眼鏡を用いた方式ではアナグリフ方式が知られている。赤及び青の補色関係にある2色で描かれたステレオペア画像を、共通の透過波長域をもたない2色の有色フィルタで見ることによって、この2色の画像が選択・分離されて立体視が可能となる。また、偏光を利用した偏光方式や、左右の映像を時分割表示してシャッタ式眼鏡を用いて左右の眼に異なる映像を見せる時分割方式が実用化されている。なお、時分割方式と偏光方式を組み合わせた時分割・偏光方式や、時分割方式と分光方式を組み合わせた時分割・分光方式も実用化されている。
これらの3D映像視聴方式には、3D視聴効果を奏する視聴範囲があり、視聴者はこの視聴範囲内で立体視像を視聴することが望ましい。そのため、視聴者が適切な視聴範囲内で画面を見るように案内表示を行う技術が、例えば特許文献1に開示されている。また、適正な視聴範囲を画面に表示せずに視聴者に適正な視聴位置を知らせる技術が、特許文献2に開示されている。
特開平9−93458号公報 特開2008−28743号公報
しかしながら、従来の技術では視聴位置と適正な視聴範囲との関係を視聴者が認知することが難しいという課題がある。例えば、特許文献1の技術では、リモートコントローラ(以下、リモコンと略称する)と表示装置との間の視聴距離を計算し、この距離が適切か否かを示す案内を表示部に表示する。しかし視聴距離だけでは、適正な視聴範囲を視聴者に示すことができないという問題があった。また特許文献2では、例えば適正な視聴範囲内に視聴者が位置する場合にのみ、点灯しているLEDが確認可能である。しかし適正な視聴範囲外では、LEDが見えないので、視聴位置が適正な視聴範囲から外れてしまった事に視聴者が気付かず、その位置のままで映像を見続けてしまう可能性がある。
そこで本発明は、視聴者がその視聴位置と3D映像の視聴可能な視聴範囲との関係を確実に認識できる3D映像処理装置及びその制御方法の提供を目的とする。
上記課題を解決するために、本発明に係る装置は、視聴者の位置を検出する位置検出手段と、3次元映像を視聴するための適正視聴範囲を示す情報を記憶する記憶手段と、前記位置検出手段が検出した視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成する画像生成手段と、前記3次元映像と、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像とを時分割で出力する出力手段と、を備える。

本発明によれば、現在の視聴位置と適正視聴範囲との関係を視聴者に提示できるので、適正視聴範囲の外にいる視聴者は適正視聴範囲を認識して視聴位置を変更することで3D映像効果を享受できる。
本発明の一実施形態に係る3D映像処理装置の構成例を示すブロック図である。 図3と併せて本発明の第1実施形態を説明するために、処理の流れを例示したフローチャートである。 視聴位置と視聴範囲との関係及び位置表示画像について説明する図である。 図5乃至8と併せて本発明の第2実施形態を説明するために、3D映像処理装置の構成例を示すブロック図である。 シャッタ式眼鏡の外観図である。 シャッタ式眼鏡の位置検出及び3D映像表示や位置表示画像の表示処理の流れを説明するフローチャートである。 シャッタ式眼鏡の位置と視聴範囲との関係及び位置表示画像について説明する図である。 シャッタ式眼鏡のシャッタ制御例を示すタイミングチャートである。 本発明の第3実施形態に係るジャンル別の視聴範囲制御について処理の流れを説明するフローチャートである。
以下、本発明の各実施形態について説明する。
[第1実施形態]
図1は、一実施形態に係る3D映像処理装置100の構成例を示すブロック図である。3D映像処理装置100は、視聴者の視聴位置と3D映像の視聴が可能な視聴範囲との間の位置関係について提示機能を有する。システム全般の制御手段を構成する制御部(以下、制御部Aという)110は、図示しない操作ボタンやリモコンからのユーザ操作による要求に応じて、所望の映像表示を実現する。チューナ部103は、アンテナ部102からデジタル放送波の受信信号を受け取り、所望のチャンネルの映像及び音声情報を含む時分割多重化されたTS(トランスポートストリーム)データに復調し、これをデコード部105に出力する。
デコード部105は前記TSデータを、映像及び音声の各データに分離し、デコード処理後の映像データを後段の映像出力制御部106に送出し、音声データを音声出力制御部108に送出する。またデコード部105は、外部入力部104から入力される情報やチューナ部103から入力されるTSデータに含まれる番組表の情報を処理する。外部入力部104からの入力信号に対してもデコード部105によるデコード処理が行われ、映像出力制御部106及び音声出力制御部108への伝送に適した信号が得られる。外部入力部104は、図示しない情報記録装置(DVDプレイヤー等)からの映像及び音声出力信号を受け、デコード部105は処理した映像信号を映像出力制御部106へ出力し、音声信号を音声出力制御部108へ出力する。なお、3D映像処理装置100は、ユーザ操作に従って2D(2次元)映像の視聴モードと3D映像の視聴モードの切替が可能である。3D映像処理装置100に入力された2D映像ソースの情報に基づいてユーザが3D映像を視聴する場合、所定のフォーマット変換が必要であり、デコード部105がその処理を担当する。ここで、3D映像視聴の方式について説明すると、特殊な眼鏡を使用して視聴者が立体映像を視聴する方式と、眼鏡無しで視聴者が立体映像を視聴する裸眼方式(直視型立体映像表示)がある。例えば、代表的な裸眼方式であるパララックスバリア方式では、表示素子にて右眼用の画素Rと左眼用の画素Lが縦列に交互に配置されている。表示素子の前方には、1枚の板にスリットを多数形成したバリアが配置されている。視聴者がこのバリアを通して表示素子を見た場合、右眼で表示素子の画素Rを見ることができ、左眼で表示素子の画素Lを見ることができる。視聴者は表示素子の画像を、両眼視差作用により立体映像として視聴できる。このような視聴方式に応じたフォーマット変換をデコード部105が行い、処理された3D映像信号が映像出力制御部106に出力され、音声信号が音声出力制御部108に出力される。
映像出力制御部106は、デコード部105が出力した映像信号を、映像表示部107の駆動信号に変換し、映像表示部107を制御する。これにより、映像表示部107は3D映像の視聴が可能な映像を表示する。但し3D映像の視聴時には、例えば、パララックスバリア方式の場合、映像表示部107の前面にスリットを多数形成したバリアが必要であるため、表示画面にフィルタが設けられている。音声出力制御部108は、デコード部105が出力した音声信号を、スピーカ部109の駆動信号に変換し、スピーカ部109から音声を出力させるように制御する。
次に本発明の特徴である視聴者の視聴位置表示について説明する。視聴者の位置検出は位置判定部300で行う。カメラ部114は視聴者を撮像し、撮像データを検出部115に送出する。検出部115は、視聴者の顔の輪郭を形状認識し、左右対称な点、例えば視聴者の目や、眼鏡を着用した視聴者の場合において眼鏡フレームからレンズ部の位置を認識してそれらの位置を特定し、その左右対象物の中点を原点とし座標を取り込む。これにより、検出部115は視聴者の上下及び左右方向における位置を検出する。視聴者の前後方向における位置検出については、目又は眼鏡のレンズの間隔を検出部115にて予め設定しておく。例えば、設定値を6.5cmとした後、カメラ部114で視聴者を撮影し、設定値及び撮影した目や眼鏡レンズの間隔に基づいて、視聴者の前後方向の位置を計算することで、検出部115は該位置を検出できる。
範囲情報記憶部116には、3D映像を支障なく視聴可能な視聴範囲(以下、適正視聴範囲という)の情報が記憶されている。制御部A110は検出部115が検出した視聴者の位置情報と、範囲情報記憶部116に記憶された適正視聴範囲の情報との間で比較演算を行う。つまり、視聴者の検出位置(上下左右及び前後の位置)が、適正視聴範囲内に収まっているか又は当該範囲を逸脱しているかが判定される。この適正視聴範囲は、例えば左右方向の範囲が装置から30度以内であって、前後方向の範囲が装置から5メートル以内とされ、表示画面のインチサイズに比例する。
位置表示画像作成部117は、前記比較演算による判定結果に基づいて視聴者の検出位置が適正視聴範囲内でない場合、記憶されている適正視聴範囲を表す画像情報に対し、視聴者の検出位置を表す画像情報を合成した画像データを生成する。この画像データは映像出力制御部106に伝送され、映像表示部107が位置表示画像を表示する。つまり位置表示画像は、視聴位置が適正視聴範囲に対して如何なる位置関係を有するかを視覚的に視聴者に提示するための画像である。なお、図中のジャンル判別部801については第3実施形態にて説明する。
図2のフローチャートを用いて、位置判定部300にて視聴位置を検出し、制御部A110が比較演算を行った結果である位置表示画像の表示制御例について処理の流れを説明する。
S200にて制御部A110は、装置が3D映像視聴に係る3Dモードに入っているか否かを判定する。その結果、3Dモードの場合、S201へ進み、3Dモード以外の場合はそのまま処理を終了する。
S201では、カメラ部114を用いて視聴者の撮像が行われ、撮像データが検出部115へ伝送される。次のS202にて検出部115は、視聴者の顔の輪郭情報に基づいて、視聴位置の座標情報を取得する。そしてS203では、範囲情報記憶部116に記憶されている適正視聴範囲を示すデータの読み出し処理が行われ、S204では、視聴者の検出位置が適正視聴範囲内であるか否かが判定される。つまりS202で検出した視聴者の位置情報と、S203で読み出した適正視聴範囲の情報との間の比較演算を制御部A110が行う。その結果に基づいて、視聴者の検出位置と適正視聴範囲との位置関係を制御部A110が識別する。視聴者の検出位置が適正視聴範囲から外れている場合、S205に進み、また該検出位置が適正視聴範囲内である場合には、S208へ進む。
S205にて制御部A110は、S204で適正視聴範囲外と判定した視聴者の検出位置が、適正視聴範囲外にある時間を計測する。そして制御部A110はその計測時間が基準時間(例えば、3秒)以上であるか否かを判定する。その結果、視聴者の検出位置が基準時間以上に亘って適正視聴範囲外であった場合、S206に進むが、そうでない場合にはS208に進む。なお、基準時間の設定については固定値としてもよいが、その値を変更できるように構成してもよい。
S206にて位置表示画像作成部117は、記憶済みの適正視聴範囲を表す画像情報に対して、視聴者の検出位置を表す画像情報を合成して画像データを生成し、これを映像出力制御部106へ伝送する。次のS207では、3D映像表示(コンテンツ映像等の画面表示)の状態から、視聴者の位置表示画像を映像表示部107に表示する状態への切替えを映像出力制御部106が行い、映像表示部107が位置表示画像を表示する。そしてS200に戻る。
S208への到達は、S204にて視聴者の検出位置が適正視聴範囲内であると判定された場合、又はS205にて該検出位置が前記の基準時間以内に適正視聴範囲内に移動した場合である。本ステップでは、映像出力制御部106が映像表示部107で3D映像を表示させるように制御し、再びS200へ戻る。視聴者の位置を検出して、位置表示画像を表示させる制御動作は、所定の時間間隔、例えば200ミリ秒毎に行われる。
図3は、視聴者の検出位置が適正視聴範囲から外れた状況を概略的に示す。3D映像処理装置100の前方における角錐台形状の範囲が適正視聴範囲250を示しており、本例では映像表示部107の表示画面上に、適正視聴範囲250に対応する適正視聴範囲の表示画像252が表示される。そして視聴者の検出位置が適正視聴範囲250から外れていると判定された場合、前記S207にて視聴者の位置情報251が適正視聴範囲の表示画像252の外側に画像表示される。つまり位置表示画像が映像表示部107によって視覚的に表示される。画面上の適正視聴範囲の表示画像252と視聴者の位置情報251を視聴者が見ることにより、現在の視聴位置を確認できる。よって、視聴者の検出位置が適正視聴範囲から外れている場合には、現在の視聴位置と適正視聴範囲との位置関係を表示画面から把握できる。視聴者は適正視聴範囲内に移動して、3D映像効果をもつ映像を確実に視聴できる。
[第2実施形態]
次に本発明に係る第2実施形態について説明する。第2実施形態では、シャッタ式眼鏡を使用する時分割方式の3D視聴システムへの適用例を示す。視聴者を個別に認識する認識手段を設けることにより、個々の視聴者の検出位置を識別することができる。視聴位置が適正視聴範囲外である場合、記憶されている適正視聴範囲の画像情報に対して、視聴者全員の検出位置を表す画像情報を合成した位置表示画像が作成されて表示される。
本実施形態の前提である、シャッタ式眼鏡を使用した時分割方式の3D映像視聴について説明する。この方式では、人間の左右両眼の各々に対応して作成した画像を交互に表示し,それと同期して右眼又は左眼を、眼鏡に取り付けた液晶シャッタによって遮蔽する。視聴者は、液晶シャッタの付いた眼鏡をかけて3D映像を視聴する。つまり左眼用映像の表示時には、左眼側の液晶シャッタを透過状態にし、かつ右眼側の液晶シャッタを非透過状態にする。逆に右眼用映像の表示時には、右眼側の液晶シャッタを透過状態にし、かつ左眼側の液晶シャッタを非透過状態にする。この切り替え動作を繰り返せば、眼の残像効果によって、視聴者は両眼で視差像を同時に見ているように感じる。こうして両眼視差による立体視が実現され、これを時分割立体画像表示システムと呼ぶ。
図4は、第2実施形態に係る3D映像処理装置の構成例を示すブロック図である。本システムは3D映像処理装置400と、シャッタ式眼鏡150を用いて構成される。以下では便宜上、2人の視聴者を例にして説明することとし、一方の視聴者が第1の眼鏡150_1を使用し、他方の視聴者が第2の眼鏡150_2を使用する場合を想定する。
第2実施形態と第1実施形態との相違点は、位置判定部500における視聴者の位置検出方法と、眼鏡のシャッタ開閉制御と、映像出力制御部601による位置表示画像の切り替え制御である。よって以下では、これらの相違点を中心に説明し、第1実施形態で説明した構成要素と同様の構成要素については第1実施形態の場合に用いた符号と同じ符号を用いることで、それらの説明を省略する。なお、このことは後述の第3実施形態でも同様とする(図中のジャンル判別部801については第3実施形態にて説明する)。
各眼鏡には制御部が設けられており、装置本体内の制御部A110と区別するために、以下では、これらを制御部B(符号151_1及び152_2参照)とする。また装置本体と各眼鏡との間で情報を送受信する通信手段については、装置本体側の手段を通信部C113とし、眼鏡側の手段を通信部D(符号153_1及び153_2参照)とする。
先ず、装置本体側の構成を説明する。映像出力制御部601は、デコード部105が出力する3D映像信号と、位置表示画像作成部600が作成した位置表示画像の映像信号を受けて、時分割処理を行う。つまり映像出力制御部601は、眼鏡150の制御に同期して、左眼用映像、右眼用映像、位置表示画像を切り替えて映像表示部107に表示させる。左眼用映像の表示時には、左眼用映像が映像表示部107に表示され、かつ通信部C113を介して眼鏡の左シャッタを開放する指示が行われる。また、右眼用映像の表示時には、右眼用映像が映像表示部107に表示され、かつ通信部C113に対して眼鏡の右シャッタを開放する指示が行われる。これにより、映像表示部107は、眼鏡150_1,2を用いて3D映像と位置表示画像の視認が可能な映像を表示する。映像表示部107に表示される映像に合わせて、映像出力制御部601は、眼鏡150_1,2のシャッタ開閉制御に必要な制御信号を生成し、通信部C113を介して眼鏡150_1,2に伝送する。
通信部C113は、眼鏡150_1,2に対して、識別情報を先頭に付加した信号を送り、各眼鏡より返信があるか否かを確認することで電源状態を検知する。装置本体と各眼鏡との通信では、主に眼鏡へのシャッタ制御信号が伝達される。
次に、眼鏡の構成を説明する。なお眼鏡150_1と150_2は同じ構成を有するので、一方の眼鏡150_1だけを説明する。他方の眼鏡150_2については、符号中の「_1」を「_2」に置き換えて以下の説明を読み替えればよい。
制御部B151_1は、シャッタ部152_1のシャッタ制御と、通信部D153_1の通信制御を行う。シャッタ部152_1は、制御部B151_1から制御信号を受けて、右眼、左眼の各シャッタを独立に開閉する。
通信部D153_1は、3D映像処理装置400との通信に用いられ、主に3D映像処理装置400から伝送されるシャッタ制御信号の受信に使用される。
眼鏡150_1のシャッタ制御により、眼鏡をかけた各視聴者は、映像表示部107による映像を3D映像として視聴できる。
図5の外観例に示すように、シャッタ式眼鏡は赤外線LED(発光ダイオード)154_1及び電源スイッチ155_1を備える。LED154_1は、後述する方法で眼鏡150_1を識別する際に点滅される赤外光源であり、3D映像処理装置400のカメラ部114によって認識可能である。電源スイッチ155_1は、眼鏡150_1の電源を投入し又は切断するためのON/OFFスイッチである。
視聴者の位置検出時には、カメラ部114で視聴者の眼鏡150_1のLED154_1を認識することにより、その位置情報及び識別情報(個別ID)を取得する。この処理については後で詳しく説明する。
範囲情報記憶部116には、適正視聴範囲の情報が記憶されている。制御部A110は、検出部115が検出した眼鏡の位置情報と、範囲情報記憶部116に記憶された適正視聴範囲の情報との間で比較演算を行う。位置表示画像作成部600は、この比較演算の結果に基づいて眼鏡の検出位置が適正視聴範囲内にないと判定された場合、記憶されている適正視聴範囲を表す画像情報に対し、前記検出位置を表す画像情報を合成して画像データを生成する。この画像データは映像出力制御部601に伝送され、映像表示部107に位置表示画像として表示される。
次に図6のフローチャートを用いて、眼鏡の位置検出及び眼鏡毎の検出位置を位置表示画像として表示する場合の制御の流れを説明する。
まずS501では、各視聴者が眼鏡150_1,2をそれぞれかけて、電源スイッチ155_1,2をON状態にすると、制御部B151_1,2が動作を開始する。通信部D153_1,2が通信処理を開始し、3D映像処理装置400に対し認証要求を行う。
S502では、各眼鏡150_1,2からの認証要求を通信部C113が受信する。これを制御部A110に通知することで、3D映像処理装置400は各眼鏡150_1,2の電源スイッチがON状態になったと分かる。制御部A110は、各眼鏡から同時に通信要求が来た場合、一方の通信のみを受け付け、他方を待機させる。
S503では、機器認証のため、3D映像処理装置400が眼鏡150_1,2に対し、シャッタ式眼鏡を識別するための識別情報の通知要求を行う。この要求を受けた各眼鏡150_1,2は、固有の識別情報を、通信部D153_1,2から3D映像処理装置400の通信部C113に通知する。通信部C113は識別情報を受けた後で、制御部A110と検出部115が各眼鏡150_1,2の識別情報を管理する。識別情報としては、例えば、シャッタ式眼鏡のモデル名及びシリアルナンバなどが使用されるが、複数のシャッタ式眼鏡をそれぞれ識別できる情報であれば如何なる情報でも構わない。
S504にて3D映像処理装置400の通信部C113は、各眼鏡150_1,2に対して、各々LEDの点滅パターンが異なる識別用信号を送信する。この識別用信号を通信部D153_1,2がそれぞれ受け取り、制御部B151_1,2が識別用の各点滅パターンを管理する(S505)。各眼鏡150_1,2は、通信部D153_1,2を介して、LEDの点滅パターンの信号を3D映像処理装置400の通信部C113に送信する。通信部C113からの通知を受けて制御部A110は、前記識別情報と識別用の点滅パターンの判別及び管理を行う。これにより、3D映像処理装置400は、各眼鏡を特定する識別情報毎にその位置を知ることが可能となる。
S506では、視聴者が装着した各眼鏡150_1,2の位置検出が開始する。カメラ部114を用いて各視聴者を撮影する処理が行われ、撮像データが検出部115に送出される。位置情報の取得は、シャッタ式眼鏡の左右に設けられた赤外線LEDの中点を原点として行われる。前後方向の位置検出では、3D映像処理装置400の通信部C113と各眼鏡150_1,2の通信部D153_1,2との間で行う赤外線通信を利用する。赤外線LEDの分布をモニタリングして位置測定を行うことにより、S503で付与された識別情報及び視聴者の位置情報が検出される。
第2実施形態では、シャッタ式眼鏡の左右に赤外線LEDを設けた例で説明するが、通信用LEDを使用して位置検出を行うことも可能である。また、シャッタ式眼鏡のシャッタ制御信号の伝送には、赤外線通信を利用できるが、超広帯域無線(UWB)通信で実現しても良い。例えば、超広帯域無線(UWB)通信を用いた測距技術を用いて、3D映像処理装置400と眼鏡との間の距離を測定する方法が挙げられる。
S507では、S506で検出した視聴者の眼鏡150の位置情報と、範囲情報記憶部116に予め記憶されている適正視聴範囲の情報との間の比較演算を制御部A110が行う。そしてS508では、S507での比較演算の結果に基づき、視聴者の検出位置が適正視聴範囲から外れているか否かが判定される。その結果、視聴者の検出位置が適正視聴範囲外である場合、S509に進み、該検出位置が適正視聴範囲内である場合にはS511へ進む。
S509では、S508にて適正視聴範囲外と判定した視聴者の検出位置が、適正視聴範囲から外れている時間を制御部A110が計測する。そして計測時間が基準時間、例えば3秒以上であると判定された場合、S510に進むが、そうでない場合にはS511に進む。なお、基準時間の設定については固定値とするか、又は可変値として値を予め変更できるようにしてもよい。
S510では、映像出力制御部601が時分割表示のフレームレートでの切替制御を行い、適正視聴範囲外にある眼鏡150のシャッタ制御に関して、3D映像表示から位置表示画像へと切り替えるように制御する。位置表示画像作成部600は、記憶されている適正視聴範囲を表す画像情報に対し、視聴者の眼鏡の検出位置を表す画像情報を合成した画像データを生成し、位置表示画像のデータを映像出力制御部601に送出する。これにより映像表示部107に位置表示画像が表示される。そしてS512に進む。
S511では映像表示部107が3D映像信号に従って映像を表示し、S512に進む。ここで制御部A110は、眼鏡の電源がOFF状態となったか否かについて検出する。その結果、各眼鏡の電源がOFF状態でない場合、S506へ戻って処理が続行されるが、眼鏡の電源OFF状態が検出された場合、S513に進む。なおS506へ戻る制御動作については、例えば、5Hz程度にて電源状態が連続的に取得される。
S513では、眼鏡との通信が途絶えたことを通信部C113が検出し、その旨を制御部A110に通知する。これにより、3D映像処理装置400は眼鏡の電源がOFF状態になったと判断できる。次のS514では、電源状態の検出結果(OFF検出)に基づいて、電源の切断を検出したシャッタ式眼鏡に対応する識別情報を制御部A110が破棄する。これにより制御部A110及び検出部115により管理される識別情報の数が1つ減ることになる。位置表示画像作成部117は、電源のOFF検出結果に基づいて、電源の切断を検出したシャッタ式眼鏡に対応する、画像生成を行う。
図7は、眼鏡150_1をかけた第1の視聴者が適正視聴範囲250内に位置し、眼鏡150_2をかけた第2の視聴者が適正視聴範囲250から外れた位置にいる状況を一例として示す。前記S510にて説明したように、位置表示画像作成部600は、適正視聴範囲250の画像情報と各視聴者の位置情報を含む位置表示画像のデータを作成し、位置表示画像を映像表示部107が表示する。位置表示画像には、適正視聴範囲の表示画像252と、眼鏡150_1の識別情報ID#1によって特定される第1の視聴者の位置情報と、眼鏡150_2の識別情報ID#2で特定される第2の視聴者の位置情報が表示される。つまりこの表示例では、視聴者すべてのシャッタ式眼鏡のIDが表示される。第2の視聴者は位置表示画像を見ることで自分の現在位置が適正視聴範囲外にあることを把握できる。
図7の例では、すべての視聴者の位置を画面に表示させたが、適正視聴範囲外の視聴者の位置情報だけを画面に表示してもよい。例えば、第2の視聴者が適正視聴範囲外に位置する場合、その眼鏡150_2の識別情報ID#2のみが適正視聴範囲の表示画像252の外に表示され、適正視聴範囲内に位置する第1の視聴者の眼鏡150_1の識別情報ID#1は画面に表示されない。この場合、位置表示画像作成部600が作成する位置表示画像では、適正視聴範囲250の画像情報に対し、適正視聴範囲外にある眼鏡150_2の検出位置情報が識別情報ID#2とともに合成される。生成された画像データは映像出力制御部601に伝送され、映像表示部107によって位置表示画像が表示される。
図8は、通信部C113から通信部D153_1,2への通信によって行われるシャッタ制御に係るタイミングチャートの一例を示す。以下では眼鏡150_1(識別情報ID#1)を装着した第1の視聴者が適正視聴範囲内で3D映像を視聴し、眼鏡150_2(識別情報ID#2)を装着した第2の視聴者が適正視聴範囲外で位置表示画像を見る場合について説明する。図中の表示画像は、1フレーム目と2フレーム目の画像を示す。「左1」は1フレーム目の左眼用画像を示し、「右1」は1フレーム目の右眼用画像を示し、「位置表示1」は1フレーム目の位置表示画像を示す。同様に「左2」は2フレーム目の左眼用画像を示し、「右2」は2フレーム目の右眼用画像を示し、「位置表示2」は2フレーム目の位置表示画像を示す。シャッタ制御信号は、表示画像の先頭にて眼鏡の識別情報ID#1、ID#2を指定して、左右のシャッタのうち、どちらのシャッタを開けるかを制御する信号である。例えば、「ID#1左」はID#1で特定される眼鏡の左眼用シャッタの開放を意味する。また「ID#2左右」はID#2で特定される眼鏡の左眼用シャッタ及び右眼用シャッタをともに開放することを意味する。
眼鏡150_1,2は、先頭位置に付加された識別情報ID#1又はID#2に従ってシャッタ動作を行う。表示画像のフレームレートは、例えば180Hzとされる。眼鏡150_1を用いて第1の視聴者が見る画像について説明すると、「左1」表示の時には、「ID#1左」であり、これは左眼用シャッタを開ける制御指示である。よって左眼用シャッタが開放され、右眼用シャッタは閉じられるので、第1の視聴者は左眼用映像「左1」を見ることができる。そして「右1」表示の時には、「ID#1右」であり、これは右眼用シャッタを開ける制御指示である。よって右眼用シャッタが開放され、左眼用シャッタは閉じられるので、第1の視聴者は右眼用映像「右1」を見ることができる。2フレーム目以降も同様の制御が行われ、第1の視聴者は3D映像の視聴を享受できる。
一方、眼鏡150_2を装着した第2の視聴者が見る映像は位置表示画像だけである。つまり、「位置表示1」の時には、シャッタ制御信号の指示が「ID#2左右」であり、これは左右両方のシャッタを開ける制御指示である。両眼ともにシャッタが開放され、第2の視聴者は「位置表示1」、つまり位置表示画像を見ることができる。2フレーム目以降も同様に第2の視聴者には位置表示画像だけが提示される。このように眼鏡の識別情報を指定し、個々の視聴者に対して位置表示画像を見るように個別のシャッタ制御が可能となり、視聴者に適正視聴範囲から外れた位置にいることを知らせて注意を促すことができる。
以上のように、第2実施形態によれば、適正視聴範囲から外れた場所にいる視聴者のシャッタ式眼鏡に対し、時分割制御によって位置表示画像を表示することができる。その際、3D映像処理装置400の3D映像表示は維持されるため、適正視聴範囲内にいる他の視聴者は、位置表示画像の表示によって視聴中断を余儀なくされることがなく、3D映像を継続して視聴できる。
[第3実施形態]
次に、本発明の第3実施形態について説明する。第3実施形態では、放送コンテンツに含まれるメタデータより構成される電子番組表を用いて所定の操作を行う技術を利用する。前記実施形態との相違点は、視聴対象とするコンテツに応じて、3D視聴に係る適正視聴範囲を変更して、視聴領域を動的に制御する手段を講じたことである。よって、以下では相違点を中心に説明し、前記実施形態と同様の事項については説明を省略する。
図1や図4にて、チューナ部103はアンテナ部102を介して放送波を受信して、受信信号をデコード部105に供給する。デコード部105は、供給された信号のうち、EPG(電子番組表)情報を取得する。位置判定部300,500内に設けられたジャンル判別部801はEPG情報に基づいて、コンテンツのジャンルを判別する。
図9のフローチャートを用いて、ジャンル判別部801の判定結果に基づき視聴ジャンルに対応した適正視聴範囲に切り替える、ジャンル別視聴範囲制御の流れを説明する。
まずS850にてジャンル判別部801は、EPG情報を取得し、コンテンツのジャンルを示す情報を特定する。次のS851ではジャンル判別部801が、例えばスポーツ、ニュースや映画のアクション、アニメーションなどを判別する。ジャンル判別部801はジャンルを判別し、この判別したジャンルに対応する範囲情報記憶部116内の適正視聴範囲の情報を指定して位置表示画像作成部117に設定する。
S852では、S851で判別されたジャンル毎に適正視聴範囲の設定が行われる。つまり範囲情報記憶部116には、各ジャンル用の適正視聴範囲を示す情報が記憶されており、ジャンル判別部801が判別したジャンルの情報に基づいて適正視聴範囲の領域変更が行われる。例えば、あるジャンルでは適正視聴範囲を狭めることで、視聴者が3D映像をさらに見やすい場所へと誘導することができる。検出部115による視聴者の検出位置又はシャッタ式眼鏡の検出位置と、範囲情報記憶部116に記憶された領域変更後の適正視聴範囲との間の比較演算を制御部A110が行う。こうしてジャンル別視聴範囲の変更制御が可能となる。すなわち視聴対象となるコンテンツ毎に適正視聴範囲が変更され、視聴者は最適な視聴範囲で3D映像を視聴できる。
100 3D映像処理装置
106 映像出力制御部
107 映像表示部
110 制御部A
113 通信部C
114 カメラ部
115 検出部
116 範囲情報記憶部
117 位置表示画像作成部
150_1,2 眼鏡
151_1,2 制御部B
152_1,2 シャッタ部
153_1,2 通信部D
154_1,2 LED
155_1,2 電源スイッチ
250 適正視聴範囲(視聴エリア)
251 視聴者の位置情報
252 適正視聴範囲の表示画像
300 位置判定部
400 3D映像処理装置
500 位置判定部
600 位置表示画像作成部
601 映像出力制御部
801 ジャンル判別部

Claims (18)

  1. 視聴者の位置を検出する位置検出手段と、
    3次元映像を視聴するための適正視聴範囲を示す情報を記憶する記憶手段と、
    前記位置検出手段が検出した視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成する画像生成手段と、
    前記3次元映像と、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像とを時分割で出力する出力手段と、を備えることを特徴とする3次元映像処理装置。
  2. さらに、前記位置検出手段が検出した視聴者の位置が前記適正視聴範囲外にあるか否かを判定する判定手段を備え、
    前記画像生成手段は、前記判定手段により前記視聴者の位置が前記適正視聴範囲外にあると判定された場合に、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成することを特徴とする、請求項1に記載の3次元映像処理装置。
  3. 前記画像生成手段は、前記判定手段により複数の視聴者のうちの少なくとも1人の視聴者の位置が前記適正視聴範囲外にあると判定された場合に、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成することを特徴とする、請求項2に記載の3次元映像処理装置。
  4. 前記画像生成手段は、前記判定手段により前記視聴者の位置が前記適正視聴範囲外にある時間が所定時間以上継続する場合に、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成することを特徴とする、請求項1から3までのいずれか1項に記載の3次元映像処理装置。
  5. さらに、前記視聴者が用いるシャッタ式眼鏡に対して、シャッタ制御信号を送信するための通信手段を備え、
    前記通信手段は、前記判定手段により前記視聴者の位置が前記適正視聴範囲外にあると判定された場合は、前記適正視聴範囲外の視聴者が用いるシャッタ式眼鏡に対して、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を視聴可能にするシャッタ制御信号を送信し、前記判定手段により前記視聴者の位置が前記適正視聴範囲内にあると判定された場合は、前記適正視聴範囲内の視聴者が用いるシャッタ式眼鏡に対して、3次元映像を視聴可能にするシャッタ制御信号を送信することを特徴とする、請求項1から4までのいずれか1項に記載の3次元映像処理装置。
  6. 前記通信手段は、前記判定手段により複数の視聴者のうち第1視聴者の位置が前記適正視聴範囲外にあると判定された場合は、前記第1視聴者が用いるシャッタ式眼鏡に対して、前記第1視聴者の位置と前記適正視聴範囲との位置関係を示す画像を視聴可能にするシャッタ制御信号を送信し、前記判定手段により複数の視聴者のうち第2視聴者の位置が前記適正視聴範囲内にあると判定された場合は、前記第2視聴者が用いるシャッタ式眼鏡に対して、前記第1視聴者の位置と前記適正視聴範囲との位置関係を示す画像を視聴可能にするシャッタ制御信号を送信しないことを特徴とする請求項5に記載の3次元映像処理装置。
  7. 前記通信手段は、前記シャッタ式眼鏡の識別情報を受信して、前記適正視聴範囲外の視聴者と、前記適正視聴範囲内の視聴者とを識別することを特徴とする請求項5または6に記載の3次元映像処理装置。
  8. 前記位置検出手段は、前記視聴者が用いるシャッタ式眼鏡の位置を、前記視聴者の位置として検出することを特徴とする、請求項1から請求項までのいずれか1項に記載の3次元映像処理装置。
  9. 視聴対象であるコンテンツについて、そのジャンルを判別する判別手段をさらに備え、
    前記画像生成手段は、前記判別手段が判別したジャンルに応じて前記適正視聴範囲を変更することを特徴とする、請求項1から8までのいずれか1項に記載の3次元映像処理装置。
  10. 視聴者の位置を検出する位置検出工程と、
    前記位置検出工程で検出した視聴者の位置と、記憶手段に記憶された3次元映像を視聴するための適正視聴範囲との位置関係を示す画像を生成する画像生成工程と、
    前記3次元映像と、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像とを時分割で出力する出力工程と、を有することを特徴とする3次元映像処理装置の制御方法。
  11. さらに、前記位置検出工程で検出した視聴者の位置が前記適正視聴範囲外にあるか否かを判定する判定工程を有し、
    前記画像生成工程では、前記判定工程により前記視聴者の位置が前記適正視聴範囲外にあると判定された場合に、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成することを特徴とする、請求項10に記載の3次元映像処理装置の制御方法。
  12. 前記画像生成工程では、前記判定工程により複数の視聴者のうちの少なくとも1人の視聴者の位置が前記適正視聴範囲外にあると判定された場合に、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成することを特徴とする、請求項11に記載の3次元映像処理装置の制御方法。
  13. 前記画像生成工程では、前記判定工程により前記視聴者の位置が前記適正視聴範囲外にある時間が所定時間以上継続する場合に、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を生成することを特徴とする、請求項10から12までのいずれか1項に記載の3次元映像処理装置の制御方法。
  14. さらに、前記視聴者が用いるシャッタ式眼鏡に対して、シャッタ制御信号を送信する通信工程を有し、
    前記通信工程では、前記判定工程により前記視聴者の位置が前記適正視聴範囲外にあると判定された場合は、前記適正視聴範囲外の視聴者が用いるシャッタ式眼鏡に対して、前記適正視聴範囲外の視聴者の位置と前記適正視聴範囲との位置関係を示す画像を視聴可能にするシャッタ制御信号を送信し、前記判定工程により前記視聴者の位置が前記適正視聴範囲内にあると判定された場合は、前記適正視聴範囲内の視聴者が用いるシャッタ式眼鏡に対して、3次元映像を視聴可能にするシャッタ制御信号を送信することを特徴とする、請求項10から13までのいずれか1項に記載の3次元映像処理装置の制御方法。
  15. 前記通信工程では、前記判定工程により複数の視聴者のうち第1視聴者の位置が前記適正視聴範囲外にあると判定された場合は、前記第1視聴者が用いるシャッタ式眼鏡に対して、前記第1視聴者の位置と前記適正視聴範囲との位置関係を示す画像を視聴可能にするシャッタ制御信号を送信し、前記判定工程により複数の視聴者のうち第2視聴者の位置が前記適正視聴範囲内にあると判定された場合は、前記第2視聴者が用いるシャッタ式眼鏡に対して、前記第1視聴者の位置と前記適正視聴範囲との位置関係を示す画像を視聴可能にするシャッタ制御信号を送信しないことを特徴とする請求項14に記載の3次元映像処理装置の制御方法。
  16. 前記通信工程では、前記シャッタ式眼鏡の識別情報を受信して、前記適正視聴範囲外の視聴者と、前記適正視聴範囲内の視聴者とを識別することを特徴とする請求項14または15に記載の3次元映像処理装置の制御方法。
  17. 前記位置検出工程では、前記視聴者が用いるシャッタ式眼鏡の位置を、前記視聴者の位置として検出することを特徴とする、請求項10から16までのいずれか1項に記載の3次元映像処理装置の制御方法。
  18. 視聴対象であるコンテンツについて、そのジャンルを判別する判別工程をさらに有し、前記画像生成工程では、前記判別工程で判別したジャンルに応じて前記適正視聴範囲を変更することを特徴とする、請求項10から17までのいずれか1項に記載の3次元映像処理装置の制御方法。
JP2009194029A 2009-08-25 2009-08-25 3次元映像処理装置及びその制御方法 Expired - Fee Related JP5404246B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009194029A JP5404246B2 (ja) 2009-08-25 2009-08-25 3次元映像処理装置及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009194029A JP5404246B2 (ja) 2009-08-25 2009-08-25 3次元映像処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2011049630A JP2011049630A (ja) 2011-03-10
JP2011049630A5 JP2011049630A5 (ja) 2012-10-04
JP5404246B2 true JP5404246B2 (ja) 2014-01-29

Family

ID=43835573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009194029A Expired - Fee Related JP5404246B2 (ja) 2009-08-25 2009-08-25 3次元映像処理装置及びその制御方法

Country Status (1)

Country Link
JP (1) JP5404246B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016145765A1 (zh) * 2015-03-17 2016-09-22 京东方科技集团股份有限公司 图像处理系统、方法、确定位置的方法及显示系统

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4802276B2 (ja) * 2009-12-25 2011-10-26 株式会社東芝 映像表示装置、方法、及び位置判定装置
JP2012195728A (ja) * 2011-03-16 2012-10-11 Seiko Epson Corp 表示装置、表示システム、及び、表示装置の制御方法
JP2012195894A (ja) * 2011-03-17 2012-10-11 Sony Corp 表示装置及び表示方法
KR20120107258A (ko) * 2011-03-21 2012-10-02 삼성전자주식회사 디스플레이장치 및 그 제어방법과, 셔터 안경 및 그 제어방법
JP5594208B2 (ja) * 2011-03-28 2014-09-24 カシオ計算機株式会社 表示装置、表示補助装置、および、表示システム
JP5810585B2 (ja) * 2011-03-30 2015-11-11 カシオ計算機株式会社 映像提示システムおよび映像提示方法
JP2012213086A (ja) * 2011-03-31 2012-11-01 Sharp Corp 立体画像表示装置及び立体視用眼鏡
JP5810590B2 (ja) * 2011-04-01 2015-11-11 セイコーエプソン株式会社 プロジェクターおよび投写方法
JP2012222427A (ja) * 2011-04-05 2012-11-12 Sumitomo Electric Ind Ltd 映像再生装置
JP5821259B2 (ja) * 2011-04-22 2015-11-24 セイコーエプソン株式会社 画像表示システム、画像表示装置、3dメガネ、及び、画像表示方法
JP5172991B2 (ja) 2011-05-30 2013-03-27 株式会社東芝 三次元映像処理装置および鑑賞位置チェック方法
WO2013001697A1 (ja) * 2011-06-27 2013-01-03 パナソニック株式会社 映像処理装置及び映像処理方法
JP2012008584A (ja) * 2011-08-05 2012-01-12 Toshiba Corp 映像表示装置、通知方法、及び位置判定装置
KR101922086B1 (ko) * 2011-08-05 2018-11-27 엘지디스플레이 주식회사 입체영상 디스플레이장치 및 그 구동 방법
JP5143262B1 (ja) * 2011-08-30 2013-02-13 株式会社東芝 立体映像処理装置、立体映像処理方法
JP5095851B1 (ja) * 2011-08-31 2012-12-12 株式会社東芝 映像処理装置および映像処理方法
JP5197816B2 (ja) * 2011-08-31 2013-05-15 株式会社東芝 電子機器、電子機器の制御方法
JP5149435B1 (ja) * 2011-11-04 2013-02-20 株式会社東芝 映像処理装置および映像処理方法
KR101288120B1 (ko) 2011-11-23 2013-07-19 한국과학기술연구원 관찰자에게 최적시청영역을 표시해주는 3차원 디스플레이 시스템
JP5117613B1 (ja) * 2011-12-09 2013-01-16 株式会社東芝 映像処理装置および映像処理方法ならびに記憶媒体
CN104145234A (zh) * 2012-03-07 2014-11-12 索尼公司 信息处理装置、信息处理方法以及程序
JP5433763B2 (ja) * 2012-10-30 2014-03-05 株式会社東芝 映像処理装置および映像処理方法
JP2013059094A (ja) * 2012-11-09 2013-03-28 Toshiba Corp 立体映像処理装置、立体映像処理方法
US9986140B2 (en) 2013-11-21 2018-05-29 International Business Machines Corporation Utilizing metadata for automated photographic setup
US9176991B2 (en) 2013-11-21 2015-11-03 International Business Machines Corporation Storing photographic metadata for scene reproduction
KR102606116B1 (ko) * 2016-03-16 2023-11-24 엘지전자 주식회사 헤드 마운티드 디스플레이 및 그 제어 방법
CN115243027A (zh) * 2022-07-21 2022-10-25 杭州吉沁文化创意有限公司 一种曲面二维屏幕的三维显示方法、存储介质和装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3443271B2 (ja) * 1997-03-24 2003-09-02 三洋電機株式会社 立体映像表示装置
JP3579585B2 (ja) * 1998-05-26 2004-10-20 日本電信電話株式会社 多視点同時観察型水平配置立体画像表示システム
JP5322264B2 (ja) * 2008-04-01 2013-10-23 Necカシオモバイルコミュニケーションズ株式会社 画像表示装置およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016145765A1 (zh) * 2015-03-17 2016-09-22 京东方科技集团股份有限公司 图像处理系统、方法、确定位置的方法及显示系统
US10212415B2 (en) 2015-03-17 2019-02-19 Boe Technology Group Co., Ltd. Image processing system, image processing method, position determining method and display system

Also Published As

Publication number Publication date
JP2011049630A (ja) 2011-03-10

Similar Documents

Publication Publication Date Title
JP5404246B2 (ja) 3次元映像処理装置及びその制御方法
US20110221746A1 (en) 3d eyeglasses, method for driving 3d eyeglasses and system for providing 3d image
US20110080470A1 (en) Video reproduction apparatus and video reproduction method
JP5448594B2 (ja) 立体映像表示制御装置及び立体映像表示制御装置の制御方法
JP2011193460A (ja) 3d映像画質調整方法、3dディスプレイ装置、3dメガネ及び3d映像提供システム
KR20110044573A (ko) 디스플레이장치 및 그 영상표시방법
JP2013516882A (ja) 立体視眼鏡を認識する装置および方法、ならびに、立体視ビデオストリームの表示を制御する方法
US20120127572A1 (en) Stereoscopic display apparatus and method
KR101309705B1 (ko) 안경 및 이를 채용한 3d 영상표시 시스템
JP2011139456A (ja) 3dグラスの駆動方法及びこれを用いた3dグラスと3dディスプレイ装置
JP2011091790A (ja) ディスプレイ装置及びその映像表示方法と3dメガネ及びその駆動方法
CA2788996C (en) Stereoscopic display system based on glasses using photochromatic lenses
JP5132804B1 (ja) 映像処理装置および映像処理方法
KR20120125274A (ko) 입체 비디오 스트림의 디스플레이 제어 시스템 및 방법
JP2011250368A (ja) 立体表示装置、表示制御回路、および表示方法
JP2013050645A (ja) 映像処理装置および映像処理方法
JP5474530B2 (ja) 立体画像表示装置
KR20110136326A (ko) 삼차원 입체안경의 수평각 정보를 반영한 삼차원 스테레오스코픽 렌더링 시스템
JP5433763B2 (ja) 映像処理装置および映像処理方法
KR20120059947A (ko) 3차원 안경 및 이에 적용되는 3차원 안경 제어방법
JP2013050647A (ja) 映像処理装置および映像処理方法
US20120081523A1 (en) 2d/3d compatible display system which automatically switches operational modes
KR20120009897A (ko) 3차원 컨텐츠를 출력하는 디스플레이 기기의 사용자 인터페이스 출력 방법 및 그 방법을 채용한 디스플레이 기기
GB2481094A (en) 3D display with automatic switching between 2D and 3D display modes
GB2480999A (en) 3D display with automatic switching between 2D and 3D display modes

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120820

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120820

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131029

R151 Written notification of patent or utility model registration

Ref document number: 5404246

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees