JP5139339B2 - テレビ会議装置および表示撮像方法 - Google Patents

テレビ会議装置および表示撮像方法 Download PDF

Info

Publication number
JP5139339B2
JP5139339B2 JP2009011830A JP2009011830A JP5139339B2 JP 5139339 B2 JP5139339 B2 JP 5139339B2 JP 2009011830 A JP2009011830 A JP 2009011830A JP 2009011830 A JP2009011830 A JP 2009011830A JP 5139339 B2 JP5139339 B2 JP 5139339B2
Authority
JP
Japan
Prior art keywords
subject
unit
size
imaging
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009011830A
Other languages
English (en)
Other versions
JP2010171695A (ja
Inventor
英明 高田
亮 石井
宗和 伊達
肇 能登
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2009011830A priority Critical patent/JP5139339B2/ja
Publication of JP2010171695A publication Critical patent/JP2010171695A/ja
Application granted granted Critical
Publication of JP5139339B2 publication Critical patent/JP5139339B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、テレビ会議装置および表示撮像方法に係り、特に、通信相手の映像を等身大表示(実サイズ)や所望の大きさで表示する際に有効な技術に関する。
従来、テレビ会議やテレビ電話などの映像コミュニケーションシステムは、例えば、下記特許文献1に開示されているように良く知られている。
従来のテレビ会議やテレビ電話などの映像コミュニケーションシステムでは、撮影された被写体の大きさと、実際に相手側に表示される被写体の大きさは一致しているとは限らない。特に、撮影するカメラの画角や解像度、表示するディスプレイの大きさや解像度もシステム毎に異なっているため、お互いの人物のイメージの把握や存在感、表示されている物体の質感は伝わりにくく、利用者は、映像に映っている既知の大きさの物体と比較しながら想像で把握するしかなかった。
特開平11−112954号公報
前述の特許文献1に記載のテレビ電話機では、通信相手のテレビ電話機のカメラを制御可能とすることが記載されているが、従来のテレビ会議やテレビ電話などの遠隔コミュニケーションシステムでは、撮影された被写体の大きさと実際に相手側に表示される被写体の大きさは一致しているとは限らず、大きさを正確に把握するのは困難であった。
本発明は、前記従来技術の問題点を解決するためになされたものであり、本発明の目的は、撮像した映像の被写体の大きさの情報を通信相手のテレビ会議装置に伝送し、その大きさの情報を用いて等身大表示や所望の大きさで表示することが可能となる技術を提供することにある。
本発明の前記ならびにその他の目的と新規な特徴は、本明細書の記述及び添付図面によって明らかにする。
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、下記の通りである。
(1)撮像部と、表示部と、伝送部とを有し、前記撮像部で撮像した被写体の映像を前記伝送部を介して他のテレビ会議装置に伝送し、他のテレビ会議装置から伝送されてきた前記被写体の映像をリアルタイムで前記表示部に表示するテレビ会議装置であって、前記撮像部で撮像した前記被写体の大きさの情報を取得するスケール取得部と、前記他のテレビ会議装置から伝送されてきた前記被写体の大きさの情報に基づき、前記伝送されてきた前記被写体の映像を所定サイズの大きさに変換して前記表示部に表示するスケール変換部とを有し、前記スケール取得部は、前記撮像部から前記被写体までの距離情報を、前記撮像部の自動焦点調節機能の前記被写体の合焦位置の情報から取得し、前記取得した前記撮像部と前記被写体までの距離情報と、前記撮像部の撮像画角の情報とを用いて前記写体の大きさの情報を取得し、前記スケール変換部は、前記他のテレビ会議装置の前記撮像部へ撮像画角の変更要求を送り、当該変更要求に従い前記他のテレビ会議装置の前記撮像部において撮像倍率を変化させて前記被写体を撮像することにより、前記伝送されてきた前記被写体の映像を前記所定サイズの大きさに変換し、前記伝送部は、前記スケール取得部で取得した前記被写体の大きさの情報を前記他のテレビ会議装置に伝送する。
(2)(1)において、前記スケール取得部は、前記被写体とともに前記撮像部にて撮像された予め既知のパターンの大きさから前記被写体の大きさの情報を取得する。
(3)(2)において、前記既知のパターンは、多方向から観察しても同じ絵柄が常に観察できる立体画像を用いる。
(4)撮像部で撮像した被写体の映像を他のテレビ会議装置に伝送し、他のテレビ会議装置から伝送されてきた前記被写体の映像をリアルタイムで表示部に表示するテレビ会議装置の表示撮像方法であって、前記撮像部から前記被写体までの距離情報を、前記撮像部の自動焦点調節機能の前記被写体の合焦位置の情報から取得し、前記取得した前記撮像部と前記被写体までの距離情報と、前記撮像部の撮像画角の情報とを用いて前記被写体の大きさの情報を取得し、前記取得した前記被写体の大きさの情報を前記他のテレビ会議装置に伝送し、前記他のテレビ会議装置の前記撮像部へ撮像画角の変更要求を送り、当該変更要求に従い前記他のテレビ会議装置の前記撮像部において撮像倍率を変化させて前記被写体を撮像することにより、前記伝送されてきた前記被写体の映像を、前記他のテレビ会議装置から伝送されてきた前記被写体の大きさの情報に基づき、所定サイズの大きさに変換して前記表示部に表示する。
本願において開示される発明のうち代表的なものによって得られる効果を簡単に説明すれば、下記の通りである。
本発明によれば、撮像した映像の被写体の大きさの情報を撮像した映像に加えて伝送し、その大きさの情報を用いて等身大表示や所望の大きさで表示することが可能となる。
本発明の基本となるテレビ会議装置を使用するテレビ会議システムの概略構成を示すブロック図である。 本発明の実施例1のテレビ会議装置を使用するテレビ会議システムの概略構成を示すブロック図である。 本発明の実施例2のテレビ会議装置を使用するテレビ会議システムの概略構成を示すブロック図である。
以下、図面を参照して本発明の実施例を詳細に説明する。
なお、実施例を説明するための全図において、同一機能を有するものは同一符号を付け、その繰り返しの説明は省略する。
[本発明の基本となるテレビ会議装置]
図1は、本発明の基本となるテレビ会議装置を使用するテレビ会議システムの概略構成を示すブロック図である。図1に示すように、一方のテレビ会議装置10Aは、撮像部101と、表示部102と、伝送部103とを有し、一方のテレビ会議装置10Aに対して遠隔地に配置される他方のテレビ会議装置10Bは、撮像部104と、表示部105と、伝送部106とを有する。
図1に示すテレビ会議システムでは、一方のテレビ会議装置10Aの撮像部101で撮像した被写体の映像を伝送部103を介して、遠隔地の他方のテレビ会議装置10Bにリアルタイムで伝送し、他方のテレビ会議装置10Bでは、伝送されてきた被写体の映像を表示部105にてリアルタイムに表示する。双方向で同様の装置構成となっており、リアルタイムに双方向通信が可能となっている。
撮像部(101,104)には、テレビカメラが設置されており、テレビ会議の参加者を含めた周辺を撮像し、表示部(102,105)では、その映像をLCD(液晶ディスプレイ)やCRT、PDP(プラズマディスプレイ)などの表示装置に表示して、相手方の様子を観察できるようになっている。
[実施例1]
図2は、本発明の実施例1のテレビ会議装置を使用するテレビ会議システムの概略構成を示すブロック図である。図2に示すように、本実施例では、一方のテレビ会議装置10Aは、撮像部201と、表示部202と、伝送部203と、スケール取得・変換部204とを有し、一方のテレビ会議装置10Aに対して遠隔地に配置される他方のテレビ会議装置10Bは、撮像部205と、表示部206と、伝送部207と、スケール取得・変換部208とを有する。
本実施例のテレビ会議装置は、図1に示す基本となる構成に対して、スケール取得・変換部(204,208)が追加された構成となっている。
本実施例では、一方のテレビ会議装置10Aのスケール取得・変換部204は、撮像部201で撮像した映像から被写体の大きさの情報を取得し、伝送部203は、当該被写体の大きさの情報を撮像部201で撮像した映像に加えて、遠隔地の他方のテレビ会議装置10Bにリアルタイムで伝送する。他方のテレビ会議装置10Bでは、伝送されてきた被写体の大きさの情報を用いて、スケール取得・変換部208において、被写体の大きさを等身大(実サイズ)、あるいは、所望サイズの大きさになるように変換して、表示部206に表示する。双方向で同様の装置構成となっており、リアルタイムに双方向通信が可能となっている。
例えば、表示部206が、会議参加者の等身大表示が可能な程度の大型の表示装置である場合には、伝送されてきた被写体の大きさの情報から、その表示装置上で実サイズになるように拡大・縮小して表示する。あるいは、表示部206が小型の表示装置である場合には、常に1/10の大きさになるように縮小するなど、相手の参加者の大きさが把握しやすいような映像表現が可能となる。
本実施例において、被写体の大きさを、等身大(実サイズ)、あるいは所望サイズヘ変換する処理は、表示部206の表示サイズの情報(画素ピッチや表示面の縦横のサイズ)を用いて、スケール取得・変換部208において映像の解像度を画像処理として変換し、あるいは、スケール取得・変換部208から、通信相手のテレビ会議装置の撮像部201へ撮像画角の変更要求を送り、通信相手のテレビ会議装置の撮像部201ではその変更要求に従い撮像倍率を変化させることで光学的にサイズの変換を行う。この光学的に変換する場合、撮像部201で取得した映像の画質を劣化させることなく表示部206に表示できるので、臨場感の高い映像提示を実現できる。
市販のプロ用ビデオカメラでは外部からカメラのズーム(倍率)を変化させることができるインターフェースを備えており、また、民生用ビデオカメラの一部でも同様なコントロールができるものがあり、この機能を利用することで、市販のカメラでも同様な構成ができる。
被写体の大きさの情報は、あらかじめ大きさが分かっているパターンを印刷したプレートなどを被写体と共に撮像部201にて撮像し、その撮像された映像中のパターンの大きさから被写体の大きさを推定することで、相手側の大きさをある程度正確に伝送し遠隔地に伝えることができるようになる。
また、このパターンとしては、単なる1次元のテープ状のものや2次元の板状のものでも良いが、これらの場合にはカメラの光輪に対して垂直ではなく、奥行き方向に斜めになった場合には大きさの判別が困難となる。そのため、このパターンとして、ホログラムなどの多方向から観察しても同じ絵柄が常に観察できる立体画像を用いることで、パターンの配置の条件を解消することもできる。もちろん、球状の立体物にパターン画像を配置して、同様の効果を得ることも可能である。
[実施例2]
図3は、本発明の実施例2のテレビ会議装置を使用するテレビ会議システムの概略構成を示すブロック図である。図3に示すように、本実施例では、一方のテレビ会議装置10Aは、撮像部301と、表示部302と、伝送部303と、距離計測部304と、スケール変換部309とを有し、一方のテレビ会議装置10Aに対して遠隔地に配置される他方のテレビ会議装置10Bは、撮像部305と、表示部306と、伝送部307と、距離計測部308と、スケール変換部310とを有する。
本実施例のテレビ会議装置は、図1に示す基本となる構成に対して、距離計測部(304,308)と、スケール変換部(309,310)が追加された構成となっている。
本実施例では、一方のテレビ会議装置10Aの距離計測部304が、撮像部301から被写体までの距離を計測して、撮像部301から被写体までの距離情報を取得し、伝送部303は、当該被写体までの距離情報と、撮像部301の撮像画角の情報とを用いて大きさの情報を生成・取得し、遠隔地の他方のテレビ会議装置10Bにリアルタイムで伝送する。他方のテレビ会議装置10Bでは、伝送されてきた被写体の大きさの情報を用いて、スケール変換部310において、被写体の大きさを等身大(実サイズ)、あるいは、所望サイズの大きさになるように変換して、表示部306に表示する。双方向で同様の装置構成となっており、リアルタイムに双方向通信が可能となっている。
撮像部301から被写体までの距離の情報は、撮像部301に使用するビデオカメラの自動焦点調節(オートフォーカス)機能を利用し、被写体の合焦位置(ピント位置、被写体までの合焦距離)の情報をカメラから出力させて取得する。
これにより、新たに距離を計測するセンサなどを外部に設置せずに距離計測部を構成することができる。市販のプロ用ビデオカメラでは外部からカメラの焦点調節を変化および焦点位置の情報を出力させることができるインターフェースを備えており、この機能を利用することで、市販のカメラでも同様な構成ができる。もちろん、距離計測部304における被写体までの距離の計測は、超音波センサやレーザ計測などの距離計測手段を外部に具備することでも同様に実現できる。
本実施例において、被写体の大きさを、等身大(実サイズ)、あるいは所望サイズヘ変換する処理は、表示部306の表示サイズの情報(画素ピッチや表示面の縦横のサイズ)を用いて、スケール変換部310において映像の解像度を画像処理として変換し、あるいは、スケール変換部310から、通信相手のテレビ会議装置の撮像部301へ撮像画角の変更要求を送り、通信相手のテレビ会議装置の撮像部301ではその変更要求に従い撮像倍率を変化させることで光学的にサイズの変換を行う。この光学的に変換する場合、撮像部301で取得した映像の画質を劣化させることなく表示部306に表示できるので、臨場感の高い映像提示を実現できる。
市販のプロ用ビデオカメラでは外部からカメラのズーム(倍率)を変化させることができるインターフェースを備えており、また、民生用ビデオカメラの一部でも同様なコントロールができるものがあり、この機能を利用することで、市販のカメラでも同様な構成ができる。
なお、前述の各実施例において、各テレビ会議装置の表示部は、通信相手のテレビ会議装置の撮像部あるいはスケール変換部に対して、表示装置の表示エリアの大きさの情報を送信するようにしてもよい。例えば、テレビ会議装置10Bの表示部(206、または、306)は、通信相手のテレビ会議装置10Aの撮像部(201、または、301)、あるいは、スケール取得・変換部204、若しくは、スケール変換部309に対して表示エリアの大きさの情報を送信する。
ここで、表示装置の表示エリアの大きさの情報は、例えば、表示部のディスプレイサイズが対角40インチであるとか、解像度がいくつで画素ピッチがいくつである等の情報である。
これにより、テレビ会議装置10Aの撮像部(201、または、301)では、通信相手の表示エリアの大きさの情報に基づき最適な撮像倍率にしたがい被写体を撮像することが可能となる。また、通常利用する表示装置の解像度が同じでもサイズが異なった場合には等身大表示はできないが、前述した表示装置の表示エリアの大きさの情報を送信する場合には、利用する表示装置の解像度が同じで、サイズが異なった場合でも等身大表示が可能となる。
また、前述の各実施例は、被写体の大きさの情報を伝達する構成であるため、実サイズや所望のサイズでの表示以外にも、CG映像と実写映像、あるいは実写映像同士の映像合成時のスケール合わせや、立体表示などへの利用にも適しているのは明らかである。
さらに、本実施例は、一例を示したものであり、その他の市中の類似の製品・装置などとの組み合わせについては、この限りではない。
以上説明したように、本実施例によれば、一方のテレビ会議装置では、撮像した映像の被写体の大きさの情報を、被写体を撮像する時に同時に取得して、撮像した映像に加えて通信相手の他方のテレビ会議装置に伝送し、通信相手のテレビ会議装置では、その大きさの情報を用いて、被写体の大きさを、等身大表示や所望の大きさで表示することが可能となる。このように、被写体の大きさの情報を伝達することにより、実サイズでの映像表示や、他の映像との合成時のスケール合わせ、立体表示も容易となる。
以上、本発明者によってなされた発明を、前記実施例に基づき具体的に説明したが、本発明は、前記実施例に限定されるものではなく、その要旨を逸脱しない範囲において種々変更可能であることは勿論である。
10A,10B テレビ会議装置
101,104,201,205,301,305 撮像部
102,105,202,206,302,306 表示部
103,106,203,207,303,307 伝送部
204,208 スケール取得・変換部
304,308 距離計測部
309,310 スケール変換部

Claims (4)

  1. 撮像部と、表示部と、伝送部とを有し、
    前記撮像部で撮像した被写体の映像を前記伝送部を介して他のテレビ会議装置に伝送し、他のテレビ会議装置から伝送されてきた前記被写体の映像をリアルタイムで前記表示部に表示するテレビ会議装置であって、
    前記撮像部で撮像した前記被写体の大きさの情報を取得するスケール取得部と、
    前記他のテレビ会議装置から伝送されてきた前記被写体の大きさの情報に基づき、前記伝送されてきた前記被写体の映像を所定サイズの大きさに変換して前記表示部に表示するスケール変換部とを有し
    前記スケール取得部は、前記撮像部から前記被写体までの距離情報を、前記撮像部の自動焦点調節機能の前記被写体の合焦位置の情報から取得し、前記取得した前記撮像部と前記被写体までの距離情報と、前記撮像部の撮像画角の情報とを用いて前記被写体の大きさの情報を取得し、
    前記スケール変換部は、前記他のテレビ会議装置の前記撮像部へ撮像画角の変更要求を送り、当該変更要求に従い前記他のテレビ会議装置の前記撮像部において撮像倍率を変化させて前記被写体を撮像することにより、前記伝送されてきた前記被写体の映像を前記所定サイズの大きさに変換し、
    前記伝送部は、前記スケール取得部で取得した前記被写体の大きさの情報を前記他のテレビ会議装置に伝送することを特徴とするテレビ会議装置。
  2. 前記スケール取得部は、前記被写体とともに前記撮像部にて撮像された予め既知のパターンの大きさから前記被写体の大きさの情報を取得することを特徴とする請求項1に記載のテレビ会議装置。
  3. 前記既知のパターンは、多方向から観察しても同じ絵柄が常に観察できる立体画像を用いることを特徴とする請求項2に記載のテレビ会議装置。
  4. 撮像部で撮像した被写体の映像を他のテレビ会議装置に伝送し、他のテレビ会議装置から伝送されてきた前記被写体の映像をリアルタイムで表示部に表示するテレビ会議装置の表示撮像方法であって、
    前記撮像部から前記被写体までの距離情報を、前記撮像部の自動焦点調節機能の前記被写体の合焦位置の情報から取得し、前記取得した前記撮像部と前記被写体までの距離情報と、前記撮像部の撮像画角の情報とを用いて前記写体の大きさの情報を取得し、
    前記取得した前記被写体の大きさの情報を前記他のテレビ会議装置に伝送し、
    前記他のテレビ会議装置の前記撮像部へ撮像画角の変更要求を送り、当該変更要求に従い前記他のテレビ会議装置の前記撮像部において撮像倍率を変化させて前記被写体を撮像することにより、前記伝送されてきた前記被写体の映像を、前記他のテレビ会議装置から伝送されてきた前記被写体の大きさの情報に基づき、所定サイズの大きさに変換して前記表示部に表示することを特徴とする表示撮像方法。
JP2009011830A 2009-01-22 2009-01-22 テレビ会議装置および表示撮像方法 Expired - Fee Related JP5139339B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009011830A JP5139339B2 (ja) 2009-01-22 2009-01-22 テレビ会議装置および表示撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009011830A JP5139339B2 (ja) 2009-01-22 2009-01-22 テレビ会議装置および表示撮像方法

Publications (2)

Publication Number Publication Date
JP2010171695A JP2010171695A (ja) 2010-08-05
JP5139339B2 true JP5139339B2 (ja) 2013-02-06

Family

ID=42703393

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009011830A Expired - Fee Related JP5139339B2 (ja) 2009-01-22 2009-01-22 テレビ会議装置および表示撮像方法

Country Status (1)

Country Link
JP (1) JP5139339B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9876988B2 (en) 2012-07-13 2018-01-23 Microsoft Technology Licensing, Llc Video display modification for video conferencing environments
JP2015082727A (ja) * 2013-10-22 2015-04-27 大和ハウス工業株式会社 対話システム及び対話方法
US10986401B2 (en) 2016-05-13 2021-04-20 Sony Corporation Image processing apparatus, image processing system, and image processing method
JP2020043507A (ja) * 2018-09-12 2020-03-19 シャープ株式会社 映像表示装置、映像処理装置
WO2022259480A1 (ja) * 2021-06-10 2022-12-15 日本電信電話株式会社 映像処理装置、映像処理方法及び映像処理プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0575997A (ja) * 1991-09-17 1993-03-26 Canon Inc テレビ会議システム
JPH05292491A (ja) * 1992-04-14 1993-11-05 Hitachi Ltd Tv電話装置およびその画角制御方法
JP3064928B2 (ja) * 1996-09-20 2000-07-12 日本電気株式会社 被写体抽出方式
JP3586126B2 (ja) * 1999-01-28 2004-11-10 日本電信電話株式会社 実物大画像入出力装置、画像記録方法及びその方法の記録媒体
JP2001057671A (ja) * 1999-08-19 2001-02-27 Toshiba Corp 映像送信端末及び映像受信端末
JP4285290B2 (ja) * 2004-03-22 2009-06-24 富士ゼロックス株式会社 画像処理装置、画像処理方法、およびプログラム
JP2005303683A (ja) * 2004-04-12 2005-10-27 Sony Corp 画像送受信装置

Also Published As

Publication number Publication date
JP2010171695A (ja) 2010-08-05

Similar Documents

Publication Publication Date Title
CN100524017C (zh) 凹形全景照相机系统
JP5014979B2 (ja) 個人用電子機器の3次元情報取得及び表示システム
CN100546366C (zh) 成像设备、方法以及成像系统
WO2015081870A1 (zh) 一种图像处理方法、装置及终端
EP3306908B1 (en) Image acquisition system and image acquisition method
JP4775474B2 (ja) 撮像装置、撮像制御方法、及びプログラム
US20080239061A1 (en) First portable communication device
JP5139339B2 (ja) テレビ会議装置および表示撮像方法
JP2011151798A (ja) 多眼撮像装置および多眼撮像方法
CN101636747A (zh) 二维/三维数字信息获取和显示设备
CA2530187A1 (en) Panoramic video system with real-time distortion-free imaging
KR101514910B1 (ko) 영상 처리 장치, 영상 처리 시스템, 및 영상 처리 방법
JPH11211988A (ja) 顕微鏡画像遠隔制御システム
JP2009071478A (ja) 情報通信端末および情報通信システム
JP2010171690A (ja) テレビ会議システムおよび映像通信方法
JP2004228824A (ja) スタックプロジェクション装置及びその調整方法
JP5840022B2 (ja) 立体画像処理装置、立体画像撮像装置、立体画像表示装置
KR20100121086A (ko) 음원인식을 이용한 촬영영상 추적 ptz 카메라 운용시스템 및 그 방법
JP5223096B2 (ja) 3d映像撮影制御システム、3d映像撮影制御方法、およびプログラム
JP2005142765A (ja) 撮像装置及び方法
JP2005303683A (ja) 画像送受信装置
JP5509986B2 (ja) 画像処理装置、画像処理システム、及び画像処理プログラム
JP2014192557A (ja) 被写体画像抽出装置および被写体画像抽出・合成装置
JPH10170227A (ja) 表示装置
JP2011182003A (ja) パノラマカメラ及び360度パノラマ立体映像システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120828

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121115

R150 Certificate of patent or registration of utility model

Ref document number: 5139339

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees