JP2010087569A - 姿見装置 - Google Patents

姿見装置 Download PDF

Info

Publication number
JP2010087569A
JP2010087569A JP2008251154A JP2008251154A JP2010087569A JP 2010087569 A JP2010087569 A JP 2010087569A JP 2008251154 A JP2008251154 A JP 2008251154A JP 2008251154 A JP2008251154 A JP 2008251154A JP 2010087569 A JP2010087569 A JP 2010087569A
Authority
JP
Japan
Prior art keywords
user
image
display
mirror
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008251154A
Other languages
English (en)
Inventor
Yuriko Kamigaki
百合子 上垣
Itsuhito Matsuda
逸人 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Panasonic Electric Works Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Electric Works Co Ltd filed Critical Panasonic Electric Works Co Ltd
Priority to JP2008251154A priority Critical patent/JP2010087569A/ja
Publication of JP2010087569A publication Critical patent/JP2010087569A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】利用者の全身について鏡像と画像とを重ならないように映すことにより、利用者の複数の向きの姿を同時に視認することを可能にした姿見装置を提供する。
【解決手段】利用者Hの全身を映すハーフミラー1が表示装置2の画面に重ねて設けられる。表示装置2の表示内容は、ハーフミラー1を通して視認可能になっている。利用者Hの左右には、利用者Hの全身を撮像する撮像装置3a,3bが配置される。撮像装置3a,3bにより撮像された画像は、表示制御装置4に入力され、表示領域抽出部41において撮像装置3a,3bにより撮像した画像から利用者の側面の全身を含む領域が抽出され、左右判定部42において左右が反転され、拡縮率決定部43でサイズが調節され、表示装置2の画面において表示位置決定部44で決定された位置に表示される。
【選択図】図1

Description

本発明は、利用者の全身を映す鏡に他の方向から見た利用者の姿を同時に映すことにより、利用者の姿を多角的に表示することを可能にした姿見装置に関するものである。
従来から、利用者の姿を映すために化粧台のような什器に設けた鏡や姿見のような鏡が用いられているが、利用者自身が鏡に映して視認できる範囲は限られており、利用者自身の側方や後方の姿を鏡に映して見るには首を回した無理な姿勢をとらなければならないという問題がある。
この種の問題を解決するために、利用者自身が鏡に正対している向きとは異なる向きから利用者を撮像する撮像装置を設け、撮像装置により撮像した利用者の画像を提示することが考えられている(たとえば、特許文献1参照)。
特許文献1に記載された装置では、利用者の顔面を映す鏡としてハーフミラーを用い、ハーフミラーの後方にプロジェクタから画像を投影するスクリーンを設けることによって、利用者の顔面の鏡像とプロジェクタからの投影像とをハーフミラーの前面側において視認可能としている。さらに、撮像装置で撮像した画像をプロジェクタからスクリーンに投影することにより、ハーフミラーに映る利用者の顔面の鏡像と撮像装置で撮像した利用者の他の部位の画像とをハーフミラーの前面側から視認できるようにしている。
ところで、特許文献1に記載された構成では、ハーフミラーの後方に配置したスクリーンとして再帰性反射スクリーンを用い、ハーフミラーとスクリーンとの間に左右2台のプロジェクタを配置している。再帰性反射スクリーンは、入射光と同じ方向に反射光を出射させるスクリーンであり高い反射指向性を有している。各プロジェクタは、投影光をハーフミラーの背面で反射させた後にスクリーンの前面に入射させるように配置してあり、この構成により、スクリーンに投影された画像が利用者の視点位置に応じて選択的に視認可能になるようにしてある。
すなわち、特許文献1に記載のものは、利用者が視点位置を変えることによって、利用者の顔面の鏡像を提示する鏡としての機能と、利用者の他方向の画像を提示する機能とを選択することが可能になっている。
特開2007−166548号公報
上述のように特許文献1に記載の構成では、利用者は視点位置を変えることによって、顔面の鏡像と他方向の画像とを選択的に見ることが可能であるが、姿見のように全身を確認する場合には、異なる部位を選択的に見るよりは、むしろ様々な向きを同時に視認できることが望ましい。たとえば、着衣の具合を確認したり、運動のポーズを確認したりするには、複数方向について同時に確認できることが望ましい。
本発明は上記事由に鑑みて為されたものであり、その目的は、利用者の全身について鏡像と画像とを重ならないように映すことにより、利用者の複数の向きの姿を同時に視認することを可能にした姿見装置を提供することにある。
請求項1の発明は、定位置に配設され利用者の全身を映すハーフミラーと、ハーフミラーに対して利用者側の空間に配置され利用者の全身をハーフミラーとは異なる向きから撮像する少なくとも1台の撮像装置と、ハーフミラーに対して利用者とは反対側の空間に配置され表示する画像をハーフミラーを通して利用者側の空間から視認可能とする表示装置と、撮像装置により撮像した画像のうち少なくとも利用者の全身を表示装置に表示し表示装置の画面上での利用者の表示位置をハーフミラーでの反射により表示される利用者の鏡像に重ならない位置に制御する表示制御装置とを備えることを特徴とする。
請求項2の発明では、請求項1の発明において、前記表示制御装置は、前記表示装置の画面内での利用者の画像の表示様式と利用者の身長とにより前記撮像装置で撮像した画像の拡縮率を決定することを特徴とする。
請求項3の発明では、請求項2の発明において、前記表示様式として、前記表示制御装置は、前記表示装置の画面内での利用者の画像を前記ハーフミラーに映る利用者の鏡像と同じ高さ寸法とする表示を行うことを特徴とする。
請求項4の発明では、請求項1〜3のいずれかの発明において、前記撮像装置は、前記ハーフミラーに正対する利用者の左右の両側方に配置されることを特徴とする。
請求項5の発明では、請求項4の発明において、前記表示制御装置は、前記表示装置の画面内に前記撮像装置により撮像した画像を表示するにあたり、利用者の左側方に配置した撮像装置により撮像した画像を左右反転させて前記ハーフミラーに映る利用者の鏡像の左側方に表示するとともに、利用者の右側方に配置した撮像装置により撮像した画像を左右反転させて前記ハーフミラーに映る利用者の鏡像の右側方に表示することを特徴とする。
請求項6の発明では、請求項1〜3のいずれかの発明において、前記撮像装置は、前記ハーフミラーに正対する利用者の左右の少なくとも一側方と利用者の後方とに配置されることを特徴とする。
請求項7の発明では、請求項6の発明において、前記表示制御装置は、前記表示装置の画面内に前記撮像装置により撮像した画像を表示するにあたり、利用者の側方に配置した撮像装置により撮像した画像を左右反転させて前記ハーフミラーに映る利用者の鏡像に対して撮像装置と同側方に表示することを特徴とする。
請求項8の発明では、請求項1〜7のいずれかの発明において、前記表示制御装置は、姿勢や動きを表現している映像であって利用者の鏡像と利用者の画像との少なくとも一方と同じ向きのコンテンツ映像を、利用者の画像とともに前記表示装置の画面に表示することを特徴とする。
請求項9の発明では、請求項8の発明において、前記表示制御装置は、コンテンツ映像を、当該コンテンツ映像と同じ向きである利用者の鏡像と利用者の画像との少なくとも一方と重ねて前記表示装置の画面に表示することを特徴とする。
請求項10の発明では、請求項8の発明において、前記表示制御装置は、利用者の画像と当該画像と同じ向きのコンテンツ映像とを前記表示装置の画面に並べて表示することを特徴とする。
請求項11の発明では、請求項10の発明において、前記表示制御装置は、利用者の画像と当該画像と同じ向きのコンテンツ画像とを前記表示装置の画面において上下に並べて表示することを特徴とする。
請求項12の発明では、請求項9〜11のいずれかの発明において、前記表示制御装置は、利用者の画像とコンテンツ映像とを利用者の鏡像よりも小さいサイズで前記表示装置の画面に表示することを特徴とする。
請求項13の発明では、請求項9〜11のいずれかの発明において、前記表示制御装置は、利用者の画像とコンテンツ映像とを利用者の鏡像と同じサイズで前記表示装置の画面に表示することを特徴とする。
請求項14の発明では、請求項1〜13のいずれかの発明において、前記表示制御装置は、前記表示装置の画面において望ましい姿勢の基準を示す基準線を利用者の画像に重ねて表示することを特徴とする。
請求項15の発明では、請求項14の発明において、前記撮像装置により撮像した利用者の側方の画像から利用者の耳、肩、腰骨、踝の4点の位置を抽出する画像認識部を有し、前記表示制御装置は、画像認識部により抽出した4点を通る姿勢線を前記基準線とともに前記表示装置の画面に表示することを特徴とする。
請求項1の発明の構成によれば、利用者の全身を映すハーフミラーの背面に表示装置を設け、ハーフミラーとは異なる向きから撮像した利用者の全身の画像を表示装置に表示し、かつ表示装置の画像が利用者の鏡像と重ならないように表示するから、利用者の複数の向きの姿を同時に視認することが可能になる。その結果、たとえば、着衣の不具合の有無を容易に確認することが可能になり、またヨガのような運動に際してポーズを多角的に確認することが可能になる。
請求項2の発明の構成によれば、表示装置の画面への利用者の表示の仕方に応じて利用者の身長から決定される拡縮率で、表示装置の画面に表示する利用者の画像のサイズを決めるから、表示装置の画面において利用者の画像を適正なサイズで表示することが可能になる。
請求項3の発明の構成によれば、表示装置の画面に映る利用者の画像の高さ寸法をハーフミラーに映る利用者の鏡像と同じ高さ寸法とするから、利用者の姿をあたかも正面図と側面図との関係や正面図と背面図との関係のようにしてハーフミラーの前面に表示することができ、利用者の姿を見やすい形で提示することができる。
請求項4の発明の構成によれば、利用者の左右の両側の画像と利用者の正面の鏡像とを同時に視認することができるから、利用者は普通の鏡を用いた場合には首を回さなければ確認することができない側面の姿を正面の姿と同時に確認することができ、姿勢を崩すことなく姿勢の確認を多角的に行うことが可能になる。
請求項5の発明の構成によれば、利用者の左右の側面の画像を利用者の鏡像の左右にそれぞれ配置し、しかも各画像の左右を反転させているから、左右の画像は鏡像側から見た左右に一致することになる。つまり、利用者の鏡像は利用者から見て左右が反転しているから、画像についても左右を反転させることによって、画像の左右を鏡像の左右に一致させることになり、結果的に左右の画像を違和感なく表示することが可能になる。
請求項6の発明の構成によれば、利用者の左右の少なくとも一方と利用者の後方との画像を利用者の正面の鏡像と同時に視認することができるから、利用者は普通の鏡を用いた場合に首を回さなければ確認することができない側面の姿と後姿とを正面の姿と同時に確認することができ、姿勢を崩すことなく姿勢の確認を多角的に行うことが可能になる。
請求項7の発明の構成によれば、利用者の左右の少なくとも一方の側面の画像を利用者の鏡像の側方に配置し、しかも当該画像の左右を反転させているから、鏡像の側方に表示される画像は鏡像側から見た左右に一致することになる。つまり、利用者の鏡像は利用者から見て左右が反転しているから、側方に表示する画像についても左右を反転させることによって、画像の左右を鏡像の左右に一致させることになり、結果的に左右の画像を違和感なく表示することが可能になる。
請求項8の発明の構成によれば、特定の姿勢や特定の動きを表現したコンテンツ映像、たとえば、着物の着付けやヨガのポーズやダンスのステップなどの映像を表示装置に表示すれば、実際のインストラクタに指導を受けている場合と同様に、姿勢を多角的に認識して姿勢や動きの修得が容易になる。しかも、利用者自身の姿勢とコンテンツ映像により示された姿勢とを同時に確認することができるから、姿勢や動きの比較が容易になり、この種の姿勢や動きの修得のための訓練装置として高い効果が期待できる。とくに、利用者の鏡像と利用者の画像との少なくとも一方と同じ向きで、姿勢や動きを表現しているコンテンツ映像を表示するから、利用者の姿勢や動きとコンテンツ映像の姿勢や動きとの比較を直感的に行うことができる。
請求項9の発明の構成によれば、コンテンツ映像を利用者の鏡像と画像との少なくとも一方と重ねて表示しているから、両者の比較が容易になり、姿勢や動きの修得が容易になる。
請求項10の発明の構成によれば、コンテンツ映像の向きが利用者の画像の向きと一致し、しかも両者が並べて表示されるから、姿勢や動きの比較が非常に容易になり、姿勢や動きの修得が容易になる。
請求項11の発明の構成によれば、利用者の画像とコンテンツ映像とを上下に配置しているから、表示装置の限られた幅の画面内において、利用者の画像とコンテンツ画像とを並べて表示することが可能になる。
請求項12の発明の構成によれば、コンテンツ映像と利用者の画像とを利用者の鏡像よりも小さいサイズで表示するから、表示装置の画面の限られた面積内で多くの情報を表示して多角的な比較が可能になる。
請求項13の発明の構成によれば、コンテンツ映像と利用者の画像とを利用者の鏡像と同じサイズで表示するから、コンテンツ映像および利用者の画像が見やすくなる上に、利用者自身の画像が小さく表示されることによる違和感を抑制することができる。
請求項14の発明の構成によれば、利用者の画像に望ましい姿勢の基準を示す基準線を重ねて表示するから、姿勢の歪みの有無を簡単に確認することができる。
請求項15の発明の構成によれば、利用者の側方の画像において耳、肩、腰骨、踝の4点の位置を通る姿勢線と、望ましい姿勢の基準を示す基準線とを表示装置の画面に表示するから、基準線と姿勢線との比較により利用者の姿勢の歪みを簡単に確認することができる。
(実施形態1)
本実施形態は、図1に示すように、室内の壁面などの定位置に固定されるハーフミラー1と、ハーフミラー1に対して利用者H側とは反対側の空間に配置される表示装置2とを備え、さらにハーフミラー1に対して利用者H側の空間には左右2台のTVカメラからなる撮像装置3a,3bが配置される。表示装置2および撮像装置3a,3bはカラー画像を扱うものが望ましい。以下では、ハーフミラー1について表示装置2の画面との対向面を後面とする。
本実施形態で用いる表示装置2は、プラズマディスプレイ、バックライト付き液晶ディスプレイ、有機ELディスプレイのような自発光型のフラットパネルディスプレイであり、表示装置2の画面に隙間なく重ねてハーフミラー1が配置される。ただし、表示装置2として、フラットパネルディスプレイに代えてハーフミラー1の後面にスクリーンを積層し、当該スクリーンの後方からプロジェクタによる投影を行う構成を採用してもよい。このスクリーンには拡散透過性を有するものを用いる。
ハーフミラー1は入射光線束の一部を反射し一部を透過させる反射鏡であり、表示装置2の画面上の表示はハーフミラー1を通して前面側から視認することが可能になる。ただし、表示装置2の画面上に表示がなされていない領域は、ハーフミラー1の後面側が前面側よりも暗くなるから、ハーフミラー1の前面側が鏡として機能する。すなわち、ハーフミラー1は、利用者Hを映して利用者Hに鏡像を見せる鏡として用いることができるだけでなく、表示装置2の表示内容を利用者Hに見せることも可能になっている。
ハーフミラー1と表示装置2との積層物は、利用者H側の空間を室内空間とする場合に、表示装置2の後面を壁面に当接させるか、表示装置2の後部を壁内に埋め込む形で取り付けられる。なお、壁面からハーフミラー1の前面までの距離は小さくすることが好ましい。
各撮像装置3a,3bは、たとえば、CCDイメージセンサあるいはMOSイメージセンサを用いて構成されており、利用者Hがハーフミラー1に正対したときに、左右の両側方から利用者Hを撮像することができるように配置される。以下に説明する実施形態では、利用者Hが本装置を利用する際の空間領域はあらかじめ定められているものとする。すなわち、ハーフミラー1の前方における距離範囲と、左右の撮像装置3a,3bからの距離範囲とにより利用者Hが存在可能な空間領域が定められる。これらの距離範囲は、両撮像装置3a,3bの視野内において利用者Hの全身が撮像される範囲として定められる。利用者Hの存在可能な空間領域を示す場合には、床面に適宜のマークを表記しておく。
ただし、撮像装置3a,3bが画角を変更したり焦点を調節したりすることができる構成であれば、撮像装置3a,3bから利用者Hまでの距離等に応じて利用者Hの存在する位置を検出することにより、撮像装置3a,3bの画角や焦点を自動的に調節する構成を採用してもよい。また、左右の各撮像装置3a,3bについても、ハーフミラー1の前面からの距離を調節可能(つまり、撮像装置3a,3bが移動可能)としてもよい。この構成を採用すれば、利用者Hが本装置を利用できる空間領域の範囲を広げることが可能である。
撮像装置3a,3bにより撮像された画像は、表示制御装置4に入力される。表示制御装置4は、撮像装置3a,3bが撮像した画像から少なくとも利用者Hの全身を含む画像を抽出する表示領域抽出部41が設けられる。表示領域抽出部41により抽出された利用者Hの画像は、以下に説明する画像処理が施されることにより向き、サイズ、表示位置が決定された後に表示装置2に表示される。表示装置2の中での画像の表示位置は、利用者Hが利用する空間領域からハーフミラー1を見たときに、利用者Hの鏡像に重ならない位置が選択される。
したがって、表示装置2の画面内において利用者Hの正面の鏡像とともに、利用者Hの左右の画像が表示されるから、ハーフミラー1に正対する利用者Hは首を回すことなく自身の正面と側面とを同時に視認することが可能になり、服装の確認などを行う姿見として利便性が高くなる。
表示制御装置4には、撮像装置3a,3bにより撮像した画像内から表示装置2に表示する画像を抽出する表示領域抽出部41のほか、抽出した領域内で画像の左右を反転させることにより画像の向きを違和感のない自然な向きに調節する左右反転部42と、画像が表示装置2の画面内で適正な大きさで表示されるように画像のサイズを調節する拡縮率決定部43と、画像が表示装置2の画面内で適正な位置に表示されるように画像の位置を調節する表示位置決定部44とが設けられる。
なお、表示制御装置4は、実際にはパーソナルコンピュータのようなコンピュータに、撮像装置3a,3bからの画像信号を取り込むハードウェアを設けるとともに、以下に説明する処理を行うプログラムをコンピュータで実行することにより実現される。ただし、汎用のコンピュータではなく専用装置として構成してもよい。また、表示制御装置4には、実際にはアナログ−デジタル変換を行うA/D変換回路や、デジタルデータとしての画像に各種処理を施す際の作業用のメモリなどの構成が必要であるが、これらの構成は画像処理技術において周知であるので、以下の説明ではプログラムにより実現される各部の機能について説明する。
撮像装置3a,3bにより撮像された画像には、利用者H以外の領域が含まれているから、そのまま表示装置2に表示したのでは表示装置2の画面内に不要な情報が表示される上に、利用者Hの画像が占める面積が小さくなり、直感的にわかりにくい画像になる。したがって、撮像装置3a,3bにより撮像された画像から画像認識技術を用いて画像内における利用者Hの存在範囲にほぼ一致する存在領域Deを抽出する。
ここで用いる画像認識技術としては、たとえば、あらかじめ背景画像を撮像しておき、利用者Hを撮像したときの画像との差分画像(画素ごとに画素値の差分を求めた画像)を用いることが考えられる。すなわち、差分画像において画素値の差分が規定値以上、かつ規定値以上の画素の連結領域(8近傍の画素のいずれかの画素が同じ条件を満たしている画素の集合)に含まれる画素数が規定個以上である領域を求め、当該領域を利用者Hが占める領域の候補とし、その領域に外接する矩形領域(画像の水平方向と垂直方向との辺を持つ矩形)を利用者Hの存在領域Deとして抽出するのである。もちろん、この方法は一例であって、人体の側面形状を認識する技術を用いて存在領域Deを決定するなどの他の技術を用いてもよい。
表示領域抽出部41において抽出した画像は、利用者Hの左右の各側面の画像であり、利用者Hの左側の撮像装置3aから利用者Hを見たときには左側が利用者Hの前側が左側になり、利用者Hの右側の撮像装置3bから利用者Hを見たときには右側が利用者Hの前側になる。したがって、表示装置2の画面内において、図2(a)に示すように、左側の撮像装置3aで撮像した画像Ig′を利用者Hの鏡像の左側に表示し、右側の撮像装置3bで撮像した画像Id′を利用者Hの鏡像の右側に表示するとすれば、左右の画像Ig′,Id′は背中合わせの画像になる。また、利用者Hの鏡像から見たときに、鏡像の右側(利用者Hから向かって左側)の画像Ig′が左側面の画像を示すことになり、鏡像の左側の画像Id′が右側面の画像を示すことになって不自然感ないしは違和感が生じる。
そこで、本実施形態では、図1に示すように、左右反転部42を設けることにより、図2(b)のように、各画像Ig′,Id′の左右をそれぞれ反転させている。つまり、図3に示すように、左側の撮像装置3aで撮像した画像Ig′から抽出した存在領域Deの左右を反転させた画像Igを利用者Hから向かって利用者Hの鏡像Imの左側に表示し、右側の撮像装置3bで撮像した画像Id′から抽出した存在領域Deの左右を反転させた画像Idを利用者Hから向かって利用者Hの鏡像Imの右側に表示する。
上述したように、利用者Hの左右の撮像装置3a,3bにより撮像した画像から存在領域Deを抽出し、抽出した存在領域Deの中で画像の左右を反転させているから、表示装置2の画面において利用者Hの鏡像Imを挟んで表示される左右の画像Ig,Idは互いに向かうことになる。その結果、左右の画像Ig,Idは鏡像Imと左右が一致することになり、左右の画像Ig,Idについて違和感のない表示が可能になる。
ところで、利用者Hの鏡像Imに対して左右に画像Ig,Idを配置する際に、利用者Hから見たときの画像Ig,Idの大きさが鏡像Imのサイズ(高さ寸法)と同サイズであるほうが、サイズが異なっている場合に比較して違和感が少ない。しかも、表示装置2の表示面積には制限があるから、画像Ig,Idが鏡像Imよりも大きい面積を占めることは好ましくない。
ここで、上述したように利用者Hの存在可能な空間領域は制限されているから、撮像装置3a,3bにより撮像される画像内での利用者の倍率の範囲はほぼ一定とみなすことができる。このことを利用すれば、撮像装置3a,3bにより撮像した画像のサイズに基づいて、利用者Hから見たときの鏡像Imのサイズを推算することが可能である。そこで、利用者Hから見た鏡像Imのサイズにほぼ一致するサイズで表示装置2の画面に画像Ig,Idが表示されるように、推算した画像のサイズに基づいて撮像装置3a,3bにより撮像した画像の拡縮率を決定する。
もっとも、撮像装置3a,3bの画角は広角になるから、実際には利用者Hの位置がわずかに変化するだけで倍率が大きく変化する可能性がある。そこで、利用者Hの身長をパラメータに用いることが望ましい。利用者Hの身長がわかっていれば、撮像装置3a,3bにより撮像した画像のサイズに基づいて倍率を推算することができ、推算した倍率から利用者Hの位置を推定し、結果的に利用者Hから見た鏡像Imの大きさを求めて画像Ig,Idの拡縮率を幾何学的に決定することができる。
利用者Hの身長については、図1に示すように、身長入力部48を設け、利用者Hに身長を申告させればよい。具体的には、コンピュータに付設したキーボードやマウスを用いて身長を対話的に入力すればよい。また、身長入力部48として、画素値が距離値となる距離画像を生成する距離画像センサ(ステレオ画像法やタイムオブフライト法を用いる周知の距離画像センサ)を用い、計測した距離値と距離画像内での画素位置と距離画像センサにおける光学系の寸法との関係に基づいて幾何学的演算により身長を算出する装置を用いてもよい。
上述のようにして画像Ig,Idの拡縮率を決定し、利用者Hの鏡像Imのサイズにほぼ一致させることにより、鏡像Imとともに画像Ig,Idについても鏡に映して見ているかのように見せることになり、利用者Hにとって違和感のない表示が可能になる。
表示装置2の画面において画像Ig,Idを表示する位置は、利用者Hから見た鏡像Imの位置に重ならない位置とする。画像Ig,Idを表示する位置の調節は、表示制御装置4に設けた表示位置決定部44により行われる。表示位置決定部44は、利用者Hの存在可能な空間領域に基づいて、利用者Hの鏡像Imが利用者から見える範囲を推定し、鏡像Imの左右に画像Ig,Idが配置されるように画像Ig,Idの表示位置を決定する。また、画像Ig,Idは、利用者Hの鏡像Imと足の位置が一致し、かつ鏡像Imを挟んで左右対称に配置することが望ましい(図3参照)。
ただし、簡易的には利用者Hの存在する空間領域を固定的に規定しておき、この空間領域から見える鏡像Imに対して画像Ig,Idの表示位置を決定するようにしてもよい。この方法は簡易的ではあるが、処理負荷を軽減することができ、しかも違和感の少ない実用レベルの表示が可能である。
上述の構成によって、利用者Hは、正面の鏡像Imと左右の画像Ig,Idとを同時に視認することができるから、あたかも正面図と左右の側面図との関係のように認識することができ、利用者Hは自身の姿を見やすい形で確認することができる。したがって、着衣の不具合の有無を確認したり、ヨガのポーズを多角的に確認したり、野球のバットやテニスのラケットやゴルフのクラブなどの素振りのフォームを多角的に確認したりすることが可能になる。
他の用途としては、利用者Hの側面の姿を確認することができることを利用して姿勢を確認することが可能である。図4に示す例は、望ましい姿勢の基準を示す基準線Lbを利用者Hの画像に重ねて表示した例を示すものである。この画像における利用者Hは左を向いているから鏡像Imの右側に表示される。基準線Lbは利用者Hの耳と踝とを結ぶ直線であり、耳の位置と踝の位置とは画像認識技術(人体の形状から位置を推定する)を用いて抽出される。
上述のように、利用者Hの画像Idに基準線Lbを重ねて表示するだけでも利用者Hは自身の姿勢を知ることが可能であるが、さらに姿勢を評価しやすくなるように、耳と踝とのほかに肩と腰骨の位置を抽出し、これらの4点を順に滑らかに結ぶように近似した曲線を姿勢線Lsとして用い、基準線Lbと姿勢線Lsとを同時に表示してもよい。この場合、基準線Lbと姿勢線Lsとは色または形状を異ならせて表示する。
すなわち、表示制御装置4は、撮像装置3a,3b(本実施形態では撮像装置3b)により撮像した画像から上述した利用者Hの4箇所の部位(耳、肩、腰骨、踝)を抽出する部位認識部46を備え、部位認識部46で抽出した耳と踝との位置に基づいて基準線生成部45において基準線Lbを生成する。また、部位認識部46で抽出した耳と肩と腰骨と踝との位置に基づいて姿勢線生成部47において姿勢線Lsを生成する。基準線Lbおよび姿勢線Lsの座標位置は、表示位置決定部44に入力され、表示装置2に表示する画像内での表示位置が決定される。
基準線Lbは理想的な姿勢を示し、姿勢線Lsは実際の姿勢を示すから、利用者Hは基準線Lbと姿勢線Lsとにより自身の姿勢を簡単に評価することができる。したがって、利用者Hは本装置を日常的に利用することにより、よい姿勢が意識付けられることになる。一般に、このような姿勢の評価を客観的かつ手軽に評価する装置は提供されていないから、本装置を用いることによって、よい姿勢の獲得に貢献することが期待できる。
(実施形態2)
実施形態1では、表示装置2には撮像装置3a,3bにより撮像した画像Ig,Idのみを表示しているが、表示装置2に表示可能な情報にとくに制限はないから、テレビジョン受信機やDVDプレイヤのようなビデオ機器から出力される画像あるいはインターネットを通して取得した画像などの表示も可能である。撮像装置3a,3bを除いて表示装置2に表示する画像を表示制御装置4に与える信号をまとめて以下では外部信号と呼ぶことにする。
この種の外部信号による映像としては、天気予報やニュースのような映像を用いることができるが、姿見装置としては、特定の姿勢や特定の動きを表現した映像を表示するのが望ましい。以下では、この種の映像をコンテンツ映像と呼ぶ。
たとえば、着物の着付けやヨガのポーズやダンスのステップなどについて手本の姿勢や動きを示す人物が写ったコンテンツ映像を表示装置2に表示することにより、インストラクタに指導を受けているかのように、姿勢を多角的に見ることによって、姿勢や動きの修得に寄与することができる。この場合、利用者Hの鏡像Imや画像Ig,Idに並べて手本となるコンテンツ映像を表示すれば、利用者Hと手本とを同時に視認して姿勢や動きの比較が容易になり、結果的にこの種の姿勢や動きの修得のための訓練装置として高い効果が期待できる。
外部信号により与えられるコンテンツ映像は、拡縮率決定部43において利用者Hの画像Ig,Idと同じサイズになるように拡縮率が決定される。また、コンテンツ映像は、表示位置決定部44において利用者Hの鏡像Imや画像Ig,Idとの位置関係が決定される。図5に示すコンテンツ映像Cg,Cdは利用者Hの側面の画像Ig,Idに対応しており、側面の画像Ig,Idと同じサイズに調節されている。したがって、コンテンツ映像Cg,Cdと利用者Hの画像Ig,Idの比較が容易になる。
図5(a)では利用者Hの各画像Ig,Idと、各画像Ig,Idに対応するコンテンツ映像Cg,Cdとをそれぞれ上下に配列した例を示し、図5(b)では利用者Hの各画像Ig,Idと、各画像Ig,Idに対応するコンテンツ映像Cg,Cdとをそれぞれ左右に配列した例を示している。コンテンツ映像Cg,Cdにおける人物の向きは、対応する利用者Hの画像Ig,Idの向きに合わせてある。このように、利用者Hの画像Ig,Idと対応するコンテンツ映像Cg,Cdを並べて表示することにより、両者の比較が容易になり、しかも複数方向について多角的に表示しているから、利用者Hの姿勢や動きとコンテンツ映像Cg,Cdとして表示される人物の姿勢や動きとの比較を直感的に行うことができる。
図5においては、利用者Hの画像Ig,Idをコンテンツ映像Cg,Cdよりも利用者Hの鏡像Imよりも小さいサイズで表示装置2の画面に表示している。したがって、表示装置2の画面の限られた面積内で多くの情報を表示して多角的な比較が可能になる。
また、図示例では、利用者Hの鏡像Imに対応するコンテンツ映像を示していないが、コンテンツ映像を利用者の鏡像Imに対応付ける場合には、鏡像Imに重なる位置にコンテンツ映像を表示すれば、コンテンツ映像と姿勢や動きを合わせるのが容易になる。この場合は、利用者Hの鏡像Imと同じサイズに見えるようにコンテンツ映像の拡縮率を調節するのが望ましい。
ところで、コンテンツ映像を鏡像Imに重ねるにあたって、上述のように、床面に表記したマークなどによって利用者Hが存在可能な空間領域が定められ、かつ利用者Hが立った姿勢であるときには、コンテンツ映像の拡縮率は、利用者Hの身長により決めることができ、またコンテンツ映像の表示位置は、利用者Hの身長から推定される利用者Hの目の高さ位置から決めることができる。つまり、身長入力部48を用いて表示制御装置4に利用者Hの身長を与えることで、表示装置2に表示されるコンテンツ映像を利用者Hの鏡像Imに重複させることが可能になる。
一方、利用者Hの姿勢が変われば、ハーフミラー1の表面に沿う面内において利用者の目の位置も変わるから、目の位置に合わせてコンテンツ映像を表示する位置も変えることが必要になる。この場合は、利用者Hの3次元位置を検出する画像センサ(三角測量法、ステレオ画像法、タイムオブフライト法の原理を用いた画像センサ)を用いて利用者の頭部の位置を検出するとともに、画像認識の技術を用いて目の位置を推定することにより、コンテンツ映像の拡縮率および表示位置を決める。ただし、目の高さ位置の時間変化率が大きい場合には、コンテンツ映像の位置合わせの処理負荷が大きくなるから、この種のコンテンツ映像は、鏡像Imと重ねずに表示装置2に表示するのが望ましい。
上述した例では、利用者Hが存在可能な空間領域を定めているが、利用者Hがハーフミラー1を配置している場所において比較的自由な移動を可能とする場合には、上述した画像センサなどにより利用者Hの位置を検出するとともに、画像認識の技術により利用者の姿勢を判断することで、コンテンツ映像の拡縮率と表示位置とを調節するのが望ましい。他の構成および動作は実施形態1と同様である。
(実施形態3)
上述した実施形態では、撮像装置3a,3bを利用者Hの左右に1台ずつ配置しているが、たとえば部屋が狭い場合のように撮像装置3a,3bの画角が極端に大きくなるときには、利用者Hの画像Ig,Idに歪みが生じる。画像Ig,Idの歪みは画像処理によって補正することが可能ではあるが、処理負荷が大きくなるから、図6に示すように、撮像装置3aに代えて複数台の撮像装置3aa,3abを上下に離間して配置するとともに、撮像装置3bに代えて複数台の撮像装置3ba,3bbを上下に離間して配置してもよい。
このような配置を採用すれば、2台の撮像装置3a,3bのみで利用者Hを撮像する場合に比較すると、各撮像装置3aa,3ab,3ba,3bbの画角を小さくすることができる。この配置の場合は、利用者Hの左側の撮像装置3aa,3abの画像を上下に連結することにより左側の画像Igを生成し、利用者Hの右側の撮像装置3ba,3bbの画像を上下に連結することにより右側の画像Idを生成する処理が必要である。ただし、広角の撮像装置3a,3bにより撮像した画像について歪みを補正する演算よりは処理負荷は少ない。
画像Ig,Idの生成後の処理は実施形態1、2と同様に行うことができる。すなわち、他の構成および動作は実施形態1、2と同様である。
(実施形態4)
上述の実施形態では、ハーフミラー1に正対する利用者Hの両側方に撮像装置3a,3bを配置した例を示したが、撮像装置3a,3bの配置については、とくに制限はなく、利用者Hの全身をハーフミラー1とは異なる向きから撮像することができるように少なくとも1台の撮像装置を配置すればよい。本実施形態は、図7にしめすように、利用者Hの左方に配置される撮像装置3aと利用者の後方に配置される撮像装置3cとを設けたものである。
通常の鏡によって後ろ姿を見るには首を大きく回さなければならず、後ろ姿の確認を十分に行うことは難しいが、本実施形態のように、後ろ姿を撮像する撮像装置3cを設けることにより、後ろ姿の確認が容易になる。本実施形態の構成においても、側方の画像は実施形態1と同様に左右反転させて表示することが望ましい。他の構成および動作は実施形態1〜3と同様である。
本発明の実施形態を示し、(a)は概略構成図、(b)は背面図である。 実施形態1の動作説明図である。 同上の表示例を示す動作説明図である。 同上における表示例を示す動作説明図である。 実施形態2における表示例を示す動作説明図である。 実施形態3を示す要部構成図である。 実施形態4を示し、(a)は平面図、(b)は背面図である。
符号の説明
1 ハーフミラー
2 表示装置
3a 撮像装置
3b 撮像装置
3c 撮像装置
4 表示制御装置
41 表示領域抽出部
42 左右反転部
43 拡縮率決定部
44 表示位置決定部
45 基準線生成部
46 部位認識部
47 姿勢線生成部
Cd コンテンツ映像
Cg コンテンツ映像
H 利用者
Id 画像
Ig 画像
Im 鏡像
Lb 基準線
Ls 姿勢線

Claims (15)

  1. 定位置に配設され利用者の全身を映すハーフミラーと、ハーフミラーに対して利用者側の空間に配置され利用者の全身をハーフミラーとは異なる向きから撮像する少なくとも1台の撮像装置と、ハーフミラーに対して利用者とは反対側の空間に配置され表示する画像をハーフミラーを通して利用者側の空間から視認可能とする表示装置と、撮像装置により撮像した画像のうち少なくとも利用者の全身を表示装置に表示し表示装置の画面上での利用者の表示位置をハーフミラーでの反射により表示される利用者の鏡像に重ならない位置に制御する表示制御装置とを備えることを特徴とする姿見装置。
  2. 前記表示制御装置は、前記表示装置の画面内での利用者の画像の表示様式と利用者の身長とにより前記撮像装置で撮像した画像の拡縮率を決定することを特徴とする請求項1記載の姿見装置。
  3. 前記表示制御装置は、前記表示様式として、前記表示装置の画面内での利用者の画像を前記ハーフミラーに映る利用者の鏡像と同じ高さ寸法とする表示を行うことを特徴とする請求項2記載の姿見装置。
  4. 前記撮像装置は、前記ハーフミラーに正対する利用者の左右の両側方に配置されることを特徴とする請求項1〜3のいずれか1項に記載の姿見装置。
  5. 前記表示制御装置は、前記表示装置の画面内に前記撮像装置により撮像した画像を表示するにあたり、利用者の左側方に配置した撮像装置により撮像した画像を左右反転させて前記ハーフミラーに映る利用者の鏡像の左側方に表示するとともに、利用者の右側方に配置した撮像装置により撮像した画像を左右反転させて前記ハーフミラーに映る利用者の鏡像の右側方に表示することを特徴とする請求項4記載の姿見装置。
  6. 前記撮像装置は、前記ハーフミラーに正対する利用者の左右の少なくとも一側方と利用者の後方とに配置されることを特徴とする請求項1〜3のいずれか1項に記載の姿見装置。
  7. 前記表示制御装置は、前記表示装置の画面内に前記撮像装置により撮像した画像を表示するにあたり、利用者の側方に配置した撮像装置により撮像した画像を左右反転させて前記ハーフミラーに映る利用者の鏡像に対して撮像装置と同側方に表示することを特徴とする請求項6記載の姿見装置。
  8. 前記表示制御装置は、姿勢や動きを表現している映像であって利用者の鏡像と利用者の画像との少なくとも一方と同じ向きのコンテンツ映像を、利用者の画像とともに前記表示装置の画面に表示することを特徴とする請求項1〜7のいずれか1項に記載の姿見装置。
  9. 前記表示制御装置は、コンテンツ映像を、当該コンテンツ映像と同じ向きである利用者の鏡像と利用者の画像との少なくとも一方と重ねて前記表示装置の画面に表示することを特徴とする請求項8記載の姿見装置。
  10. 前記表示制御装置は、利用者の画像と当該画像と同じ向きのコンテンツ映像とを前記表示装置の画面に並べて表示することを特徴とする請求項8記載の姿見装置。
  11. 前記表示制御装置は、利用者の画像と当該画像と同じ向きのコンテンツ画像とを前記表示装置の画面において上下に並べて表示することを特徴とする請求項10記載の姿見装置。
  12. 前記表示制御装置は、利用者の画像とコンテンツ映像とを利用者の鏡像よりも小さいサイズで前記表示装置の画面に表示することを特徴とする請求項9〜11のいずれか1項に記載の姿見装置。
  13. 前記表示制御装置は、利用者の画像とコンテンツ映像とを利用者の鏡像と同じサイズで前記表示装置の画面に表示することを特徴とする請求項9〜11のいずれか1項に記載の姿見装置。
  14. 前記表示制御装置は、前記表示装置の画面において望ましい姿勢の基準を示す基準線を利用者の画像に重ねて表示することを特徴とする請求項1〜13のいずれか1項に記載の姿見装置。
  15. 前記撮像装置により撮像した利用者の側方の画像から利用者の耳、肩、腰骨、踝の4点の位置を抽出する画像認識部を有し、前記表示制御装置は、画像認識部により抽出した4点を通る姿勢線を前記基準線とともに前記表示装置の画面に表示することを特徴とする請求項14記載の姿見装置。
JP2008251154A 2008-09-29 2008-09-29 姿見装置 Pending JP2010087569A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008251154A JP2010087569A (ja) 2008-09-29 2008-09-29 姿見装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008251154A JP2010087569A (ja) 2008-09-29 2008-09-29 姿見装置

Publications (1)

Publication Number Publication Date
JP2010087569A true JP2010087569A (ja) 2010-04-15

Family

ID=42251127

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008251154A Pending JP2010087569A (ja) 2008-09-29 2008-09-29 姿見装置

Country Status (1)

Country Link
JP (1) JP2010087569A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012005653A (ja) * 2010-06-24 2012-01-12 Panasonic Electric Works Co Ltd 加重訓練システム
JP2012080985A (ja) * 2010-10-08 2012-04-26 Hae Yong Choi スクリーンダンス練習場システム
CN102780873A (zh) * 2011-05-13 2012-11-14 索尼公司 图像处理装置和方法
KR20150102054A (ko) * 2012-12-18 2015-09-04 아이즈매치 리미티드 외형들을 캡처하고 디스플레이하는 디바이스들, 시스템들 및 방법들
KR20150108571A (ko) 2014-03-18 2015-09-30 광운대학교 산학협력단 광고 및 쇼핑 등 정보를 표시하기 위하여 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 장치 및 방법
KR20150108570A (ko) 2014-03-18 2015-09-30 광운대학교 산학협력단 투영 객체 인식을 통한 미러 디스플레이 기반 증강 현실 영상 서비스 장치 및 방법
JP2016174631A (ja) * 2015-03-18 2016-10-06 株式会社タイトー ダンス装置
JP2017108462A (ja) * 2017-03-15 2017-06-15 カシオ計算機株式会社 画像処理装置及び画像処理方法並びにプログラム
JP2020136971A (ja) * 2019-02-21 2020-08-31 パナソニックIpマネジメント株式会社 後姿見システムおよび後姿見方法
US10936855B2 (en) 2013-03-27 2021-03-02 Nec Corporation Display device for displaying in one screen a figure of a user seen from multiple different directions, and display method and recording medium for the same

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5161968U (ja) * 1974-11-08 1976-05-15
JPH06509005A (ja) * 1991-07-12 1994-10-13 オリアリ ジョージ ピー スポーツ技倆のビデオ訓練装置
JPH10210416A (ja) * 1996-11-21 1998-08-07 Taimu World:Kk スポーツ動作撮影・再生装置
JPH11112970A (ja) * 1997-10-08 1999-04-23 Sony Corp メイク機能付きテレビジョン受像機
JP2001299975A (ja) * 2000-04-27 2001-10-30 Hiromi Hamabe 体感装置及び体感システム
JP2004358023A (ja) * 2003-06-06 2004-12-24 Toshihisa Tsukada ゴルフ練習システム
JP2007166548A (ja) * 2005-12-16 2007-06-28 Matsushita Electric Works Ltd 映像提示システム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5161968U (ja) * 1974-11-08 1976-05-15
JPH06509005A (ja) * 1991-07-12 1994-10-13 オリアリ ジョージ ピー スポーツ技倆のビデオ訓練装置
JPH10210416A (ja) * 1996-11-21 1998-08-07 Taimu World:Kk スポーツ動作撮影・再生装置
JPH11112970A (ja) * 1997-10-08 1999-04-23 Sony Corp メイク機能付きテレビジョン受像機
JP2001299975A (ja) * 2000-04-27 2001-10-30 Hiromi Hamabe 体感装置及び体感システム
JP2004358023A (ja) * 2003-06-06 2004-12-24 Toshihisa Tsukada ゴルフ練習システム
JP2007166548A (ja) * 2005-12-16 2007-06-28 Matsushita Electric Works Ltd 映像提示システム

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012005653A (ja) * 2010-06-24 2012-01-12 Panasonic Electric Works Co Ltd 加重訓練システム
JP2012080985A (ja) * 2010-10-08 2012-04-26 Hae Yong Choi スクリーンダンス練習場システム
CN102780873A (zh) * 2011-05-13 2012-11-14 索尼公司 图像处理装置和方法
KR20150102054A (ko) * 2012-12-18 2015-09-04 아이즈매치 리미티드 외형들을 캡처하고 디스플레이하는 디바이스들, 시스템들 및 방법들
EP4184443A1 (en) * 2012-12-18 2023-05-24 Eyesmatch Ltd. Devices, systems and methods of capturing and displaying appearances
JP2016509683A (ja) * 2012-12-18 2016-03-31 ヴィルコフスキー,ニッシ 外観を撮像及び表示する装置、システム及び方法
CN109288333B (zh) * 2012-12-18 2021-11-30 艾斯适配有限公司 捕获和显示外观的装置、系统和方法
AU2019246856B2 (en) * 2012-12-18 2021-11-11 Eyesmatch Ltd Devices, systems and methods of capturing and displaying appearances
EP3404619A1 (en) * 2012-12-18 2018-11-21 Eyesmatch Ltd. Devices, systems and methods of capturing and displaying appearances
CN109288333A (zh) * 2012-12-18 2019-02-01 艾斯适配有限公司 捕获和显示外观的装置、系统和方法
KR102265996B1 (ko) 2012-12-18 2021-06-16 아이즈매치 리미티드 외형들을 캡처하고 디스플레이하는 디바이스들, 시스템들 및 방법들
US10936855B2 (en) 2013-03-27 2021-03-02 Nec Corporation Display device for displaying in one screen a figure of a user seen from multiple different directions, and display method and recording medium for the same
KR20150108571A (ko) 2014-03-18 2015-09-30 광운대학교 산학협력단 광고 및 쇼핑 등 정보를 표시하기 위하여 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 장치 및 방법
KR20150108570A (ko) 2014-03-18 2015-09-30 광운대학교 산학협력단 투영 객체 인식을 통한 미러 디스플레이 기반 증강 현실 영상 서비스 장치 및 방법
JP2016174631A (ja) * 2015-03-18 2016-10-06 株式会社タイトー ダンス装置
JP2017108462A (ja) * 2017-03-15 2017-06-15 カシオ計算機株式会社 画像処理装置及び画像処理方法並びにプログラム
JP2020136971A (ja) * 2019-02-21 2020-08-31 パナソニックIpマネジメント株式会社 後姿見システムおよび後姿見方法

Similar Documents

Publication Publication Date Title
JP2010087569A (ja) 姿見装置
US11030975B2 (en) Information processing apparatus and information processing method
EP2590396B1 (en) Information processing system and information processing method
JP5728009B2 (ja) 指示入力装置、指示入力方法、プログラム、記録媒体および集積回路
WO2012147363A1 (ja) 画像生成装置
CN106843821A (zh) 自动调整屏幕的方法和装置
JP5110182B2 (ja) 映像表示装置
US9076245B2 (en) Image display apparatus and imaging apparatus
TWI701941B (zh) 圖像處理方法及裝置、電子設備及儲存介質
KR20150117553A (ko) 시선 추적 방법, 장치 및 컴퓨터 판독가능한 기록 매체
JP2011090400A (ja) 画像表示装置および方法、並びにプログラム
JPH113429A (ja) 観察者トラッキング自動立体表示装置、画像トラッキングシステム、および画像トラッキング方法
US20150253845A1 (en) System and method for altering a perspective of a figure presented on an electronic display
TWI520574B (zh) 三維影像裝置和用於顯示影像的方法
JP2015106252A (ja) 顔向き検出装置及び3次元計測装置
KR20110132260A (ko) 모니터 기반 증강현실 시스템
JP4214291B1 (ja) 接地点推定装置、接地点推定方法、動線表示システムおよびサーバ
JP6768933B2 (ja) 情報処理装置、情報処理システム、および画像処理方法
WO2022257922A1 (zh) 基于电视的照镜视野生成方法、系统、设备及介质
KR101188286B1 (ko) 골프 시뮬레이션 시스템 및 그 제어방법
JP2009119252A (ja) 揺動型運動装置
US11589001B2 (en) Information processing apparatus, information processing method, and program
CN110060349B (zh) 一种扩展增强现实头戴式显示设备视场角的方法
JP2013034492A (ja) 表示装置及び表示方法
JP5509986B2 (ja) 画像処理装置、画像処理システム、及び画像処理プログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100716

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110915

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20120112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120911

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130122