JP4293736B2 - 自動人物特定装置 - Google Patents
自動人物特定装置 Download PDFInfo
- Publication number
- JP4293736B2 JP4293736B2 JP2001030979A JP2001030979A JP4293736B2 JP 4293736 B2 JP4293736 B2 JP 4293736B2 JP 2001030979 A JP2001030979 A JP 2001030979A JP 2001030979 A JP2001030979 A JP 2001030979A JP 4293736 B2 JP4293736 B2 JP 4293736B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- person
- television camera
- video
- television
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、スポーツ番組等において、出場する複数の人物を自動的に特定する自動人物特定装置に関する。
【0002】
【従来の技術】
従来、スポーツ番組等において、出場する複数の選手を特定する場合、あらかじめ人手により映像中の選手と実際の選手名との対応をとる方法で特定している。しかし、この方法では、選手どうしが交わったり、一緒に行動したりすると見分けがつかなくなるため、その場合には、VTRのスロー再生で人手により選手の追跡を行い、あるいは、部分的に映像を拡大して見分けるなどして選手を特定していた。
【0003】
【発明が解決しようとする課題】
スポーツ番組等においては、特定の選手を追跡し、当該選手の位置に関し生成したデータを用いて新しい映像表現を行い、また、ゲームのためのデータやデータ放送用のコンテンツを制作するなど様々な応用が試みられている。また、サッカーなど多人数で行う試合の放送においては、選手を追跡するために広画角の全体映像を用い、最初に映像中の人物が誰であるかということの人手による対応づけが行われることもあるが、追跡中の選手どうしが交わったり、一緒に行動したりすると、見分けがつかなくなることが多い。
【0004】
このように、追跡中の選手どうしが交わったり、一緒に行動したりすると、選手の見分けがつかなくなり、この場合、選手を特定するには、VTRのスロー再生で人手により選手の追跡を行ったり、あるいは、部分的に映像を拡大して見分けるなどして選手を特定せざるを得なかった。
【0005】
本発明の目的は、テレビ映像に出場する複数の人物を、たとえ、出場人物どうしが交わったり、一緒に行動したりしても、出場人物が誰であるかを見分けるのに人手によらないで自動化するようにした自動人物特定装置を提供することにある。
【0006】
【課題を解決するための手段】
上記目的を達成するために、本発明自動人物特定装置は、テレビ番組に出場する人物を自動的に特定する自動人物特定装置であって、広範囲の映像を撮影する第1のテレビカメラと、該第1のテレビカメラによる撮影と同時に撮影が行われ、かつ撮影範囲が前記第1のテレビカメラの撮影範囲内に含まれる映像を撮影する第2のテレビカメラと、前記第1のテレビカメラにより撮影された広範囲の映像から、出場人物の時間の経過にともなう位置を表すデータを出場人物ごとに解析して求める全体映像解析部と、前記第2のテレビカメラのカメラパラメータを用いて該第2のテレビカメラの撮影範囲データを生成するカメラデータ生成部と、前記第2のテレビカメラにより撮影された映像を解析して、前記第2のテレビカメラにより撮影された映像に含まれる追跡中の出場人物が誰であるかの情報と、前記映像に含まれる追跡中の出場人物と該人物の画面上の位置の関係の情報とを求めるカメラ映像解析部と、一方においては、前記全体映像解析部で解析して求められた出場人物の時間の経過にともなう位置を記憶し、他方においては、前記カメラ映像解析部で解析して求められた前記第2のテレビカメラにより撮影された映像に含まれる出場人物と該人物の画面上の位置の関係の情報について、前記画面上の位置を前記カメラデータ生成部で生成した第2のテレビカメラの撮影範囲データ上の位置に変換し、該変換した位置と前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置とを比較し、該比較の結果、前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置のうちの前記第2のテレビカメラの撮影範囲データ上の出場人物の位置に最も近い位置にいる出場人物が、前記カメラ映像解析部で解析して求められた前記第2のテレビカメラにより撮影された映像に含まれる追跡中の出場人物であると特定する人物特定部とを具え、前記人物特定部は、前記第1のテレビカメラにより撮影された広範囲の映像における出場人物を、それぞれ、前記カメラ映像解析部で前記追跡中の出場人物が誰であるかの情報が取得できた時点で特定することを特徴とするものである。
【0007】
また、本発明自動人物特定装置は、該装置が、前記第2のテレビカメラ、該第2のテレビカメラの撮影範囲データを生成する前記カメラデータ生成部、および前記第2のテレビカメラにより撮影された画像に含まれる追跡中の出場人物が誰であるかの情報と、追跡中の出場人物と該人物の画面上の位置の関係の情報とを解析して求めるカメラ映像解析部を複数具えるとともに、前記人物特定部を、一方においては、前記全体映像解析部で解析して求められた、前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の時間の経過にともなう位置を記憶し、他方においては、前記複数のカメラ映像解析部で前記複数の第2のテレビカメラにより撮影された映像をそれぞれ解析して求められた追跡中の出場人物と該人物の画面上の位置の関係の情報について、画面上の位置を前記複数のカメラデータ生成部でそれぞれ生成した第2のテレビカメラの撮影範囲データ上の位置に変換し、該変換した位置と前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置とを比較し、該比較の結果、前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置のうちの前記第2のテレビカメラの撮影範囲データ上の追跡中の出場人物の位置に最も近い位置にいる出場人物が、前記複数のカメラ映像解析部でそれぞれ解析して求められた追跡中の出場人物であると特定するように構成したことを特徴とするものである。
【0008】
【発明の実施の形態】
以下に添付図面を参照し、発明の実施の形態に基づいて本発明を詳細に説明する。
図1は、本発明自動人物特定装置の一実施形態をブロック図にて示している。図1において、1は広範囲映像撮影用テレビカメラ、2は全体映像解析部、3は放送用テレビカメラ、4はカメラデータ生成部、5はカメラ映像解析部、および6は人物特定部である。
【0009】
図2は、本発明装置の動作を、サッカーの試合の中継放送(または、収録)を例にとって示している。
以下に、図1および図2に基づいて本発明装置の動作を説明する。
図1中の広範囲映像撮影用テレビカメラ1は、図2に示すように、サッカースタジアムのスタンド上部(図示しない)からサッカーグラウンドの全面の広範囲の映像を撮影する。従って、出場している全部ないし一部の選手はこの広範囲映像撮影用テレビカメラ1によって撮影された映像中のどこかにいることになる。この撮影された映像信号は全体映像解析部2に供給され、時間の経過とともに、全部ないし一部の選手の位置を表すデータが選手ごとに解析して求められる。ここで、選手の位置の検出(解析)は、例えば、周知のパターンマッチングなどの手法を用いて行うこと可能であり、また、グラウンドを2次元平面にとり、選手の位置を座標表示するようにしてもよい。
【0010】
一方、放送用テレビカメラ3にはカメラパラメータ検出用のセンサが取り付けられていて、パン、チルト、ズームおよびフォーカス等のカメラパラメータが得られる。得られたカメラパラメータは、カメラデータ生成部4に供給され、その供給されたカメラパラメータをもとに、放送用テレビカメラ3がグラウンド上のどの範囲を撮影しているかを示すデータ(以下、撮影範囲データと言う)が、例えば、グラウンドを2次元平面にとり、2次元平面上の領域データとして計算により生成される。この計算は、文献(山内ほか、「電子スタジオシステム」テレビジョン学会技術報告、Vol.16,No. 23, pp.1−6,1992)等により周知であるのでここでは説明しない。
【0011】
図3は、各選手の位置と、上記のようにして生成した放送用テレビカメラ3の撮影範囲を示している。
図3において、●はP1からP7までの各選手の位置を示し、とくに斜線で示す部分が、放送用テレビカメラ3によって撮影されたグラウンド上の領域であることを示している。また、この図3から、選手P4,P5が放送用テレビカメラ3によって撮影された選手であることが分かる。以下では、選手P4,P5を追跡中の選手と言う。
【0012】
再び図1に戻って説明を続ける。
放送用テレビカメラ3で撮影された映像出力(画面として図4に示す)はカメラ映像解析部5に供給され、追跡中の選手が誰であるかの情報と、追跡中の選手と同選手の画面上の位置の関係の情報とが取り出される。これらの情報を取り出すにあたっては、従来の画像認識が使用される。例えば、選手が誰であるかの情報を取得するためには、顔、ユニフォームの色、背番号、番組用のスーパー(テロップ)などについての情報認識が使われる。また、選手の切り出しができれば身長など具体的な特徴が計算でき、さらに、走り方などの行動的な特徴も利用することができる。図4に示す場合について言えば、左側の選手はユニフォームの色と背番号からAチームの8番であり、右側の選手も同じくユニフォームの色と背番号からBチームの16番であるという情報が得られ、この情報が人物特定部6に供給される。
【0013】
図5は、人物特定部6の動作を示している。
人物特定部6においては、まず、全体映像解析部2で検出されたある時刻における全部ないし一部の選手の位置を記憶(S−1の処理)する。一方、カメラ映像解析部5において既に誰であるかが特定された追跡中の選手と同選手の画面上の位置の関係の情報について、追跡中の選手の画面上の位置をカメラデータ生成部4で生成した放送用テレビカメラ3の撮影範囲データ上の位置に変換し(S−2の処理)、特定された追跡中の選手と同選手の放送用テレビカメラ3の撮影範囲データ上の位置の関係の情報を得る。
【0014】
次に、この撮影範囲データ上の同選手の位置と上記S−1の処理により記憶した全部ないし一部の選手の位置とを比較(S−3の処理)し、比較の結果、記憶した全部ないし一部の選手の位置のうちの放送用テレビカメラ3の撮影範囲データ上の追跡中の選手の位置に最も近い位置にいる選手が、カメラ映像解析部5で解析され求められた追跡中の選手であると特定する。
以上の結果、図5に示すように、広範囲映像撮影用テレビカメラ1により撮影された画面に示される選手P1からP7までのうち、選手P4がAチームの8番で、選手P5がBチームの16番であるというように追跡中の選手を特定することができる。
【0015】
図6は、人物特定部6から出力される人物特定の一例を示している。
なお、図2、図3に示されたサッカーの試合の撮影は、図6の時間軸tの時点Tにおいて行われたものとする。放送用テレビカメラ3(図1参照)の撮影範囲も常に変化し、また、選手も常に動いているが、撮影時点Tにおいては、放送用テレビカメラ3による撮影には追跡中の選手P4,P5のみが映っている(図3参照)。ここまでの図6の説明は、本発明者らによる発明に係る出願(特願2000 - 047729 「自動人物インデックス発生装置」)の図4の説明と同じである。
【0016】
しかし、本発明の場合、上記出願のものと異なり、図3に示されるP1からP7までの選手はそれら選手の位置情報(図6に、帯状の枠で示される)のみが既知で、未だ誰であるかは特定されておらず、従って、放送用テレビカメラ3により撮影された追跡中の選手も誰であるか特定されていないという前提がある。そこで、本発明では、放送用テレビカメラ3により撮影された追跡中の選手が誰であるかをカメラ映像解析部5(図1参照)により特定し、その特定された選手のグラウンド上での位置を介して広範囲映像撮影用テレビカメラ1により撮影された選手が誰であるかを特定するようにしている。図6中、矢印で示される選手名(選手P3,P4,P5)はこのようにして特定したものである。
【0017】
また、放送用テレビカメラ3は、必要に応じて追跡中の選手を画面上に大きく(アップで)撮影することがあり、この場合は、画像認識の技術を利用するのに特に適している。また、カメラ映像解析部5で解析して求められた選手の特徴を示す情報は、それら情報が取れたときにその情報を使用すればよいので、常時必要とするものではない。このようにして、全体映像から追跡中の各選手を自動的に特定することができる。
【0018】
以上は、説明を簡単にするために、サッカーの試合を1台の放送用テレビカメラ3によって撮影するものとしたが、実際の放送では、複数台の放送用テレビカメラを使用し、それら複数台の放送用テレビカメラの映像を番組制作担当者の意図に従って切替え使用して、オンエア用(放送用)の番組を作っている。
【0019】
図7は、このような場合に本発明自動人物特定装置を適合させた、本発明装置の他の実施形態をブロック図にて示している。
図7においては、放送用テレビカメラ3−1,3−2,3−3の各カメラパラメータがカメラデータ生成部4−1,4−2,4−3に供給され、また、放送用テレビカメラ3−1,3−2,3−3の各映像信号がカメラ映像解析部5−1,5−2,5−3に供給されるように構成されている。また、カメラデータ生成部4−1,4−2,4−3のすべての出力、ならびにカメラ映像解析部5−1,5−2,5−3のすべての出力は人物特定部6に供給されるように構成されている。
【0020】
これにより、カメラ映像解析部5−1,5−2,5−3において既に誰であるかが特定された追跡中の選手と同選手の画面上の位置の関係の情報について、放送用テレビカメラ3−1,3−2,3−3で追跡中の選手の画面上の位置をカメラデータ生成部4−1,4−2,4−3で生成した放送用テレビカメラの撮影範囲データ上の位置にそれぞれ変換し(図5に示すS−2の処理)、特定された追跡中の選手と同選手の放送用テレビカメラの撮影範囲データ上の位置の関係の情報を得る処理、およびこの撮影範囲データ上の同選手の位置と記憶した選手の位置とを比較(図5に示すS−3の処理)し、比較の結果、記憶した選手の位置のうち放送用テレビカメラの撮影範囲データ上の追跡中の選手の位置に最も近い位置にいる選手が、カメラ映像解析部5−1,5−2,5−3で解析して求められた追跡中の選手であると特定する処理が行われるため、この実施形態によれば、一層正確な人物特定を行うことが可能となる。
【0021】
また、上述した本発明の実施の形態においては、サッカーの試合の中継放送時に、追跡中の選手を特定するものとしたが、これは、サッカー以外に、例えば、相撲、アメリカンフットボール、バスケットボールなどの他のスポーツや、他のイベントの中継放送に適用可能であることは勿論である。
さらに、本発明装置は放送用に限定されるものではなく、例えば、一般的なコンテンツ制作用であってよいことも勿論である。
【0022】
【発明の効果】
本発明によれば、追跡中の人物を人手によらず、自動で特定することができるため、放送素材に関する多くのデータが生成可能となり、新しいコンテンツへの応用が期待できる。
【図面の簡単な説明】
【図1】 本発明自動人物特定装置の一実施形態をブロック図にて示している。
【図2】 本発明装置の動作を、サッカーの試合の中継放送(または、収録)を例にとって示している。
【図3】 各選手の位置と、放送用テレビカメラの撮影範囲を示している。
【図4】 放送用テレビカメラで撮影された映像を画面として示している。
【図5】 人物特定部の動作を示している。
【図6】 人物特定部から出力される人物特定の一例を示している。
【図7】 本発明装置の他の実施形態をブロツク図にて示している。
【符号の説明】
1 広範囲映像撮影用テレビカメラ
2 全体映像解析部
3 放送用テレビカメラ
4 カメラデータ生成部
5 カメラ映像解析部
6 人物特定部
Claims (2)
- テレビ番組に出場する人物を自動的に特定する自動人物特定装置であって、
広範囲の映像を撮影する第1のテレビカメラと、
該第1のテレビカメラによる撮影と同時に撮影が行われ、かつ撮影範囲が前記第1のテレビカメラの撮影範囲内に含まれる映像を撮影する第2のテレビカメラと、
前記第1のテレビカメラにより撮影された広範囲の映像から、出場人物の時間の経過にともなう位置を表すデータを出場人物ごとに解析して求める全体映像解析部と、
前記第2のテレビカメラのカメラパラメータを用いて該第2のテレビカメラの撮影範囲データを生成するカメラデータ生成部と、
前記第2のテレビカメラにより撮影された映像を解析して、前記第2のテレビカメラにより撮影された映像に含まれる追跡中の出場人物が誰であるかの情報と、前記映像に含まれる追跡中の出場人物と該人物の画面上の位置の関係の情報とを求めるカメラ映像解析部と、
一方においては、前記全体映像解析部で解析して求められた出場人物の時間の経過にともなう位置を記憶し、他方においては、前記カメラ映像解析部で解析して求められた前記第2のテレビカメラにより撮影された映像に含まれる出場人物と該人物の画面上の位置の関係の情報について、前記画面上の位置を前記カメラデータ生成部で生成した第2のテレビカメラの撮影範囲データ上の位置に変換し、該変換した位置と前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置とを比較し、該比較の結果、前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置のうちの前記第2のテレビカメラの撮影範囲データ上の出場人物の位置に最も近い位置にいる出場人物が、前記カメラ映像解析部で解析して求められた前記第2のテレビカメラにより撮影された映像に含まれる追跡中の出場人物であると特定する人物特定部と
を具え、
前記人物特定部は、
前記第1のテレビカメラにより撮影された広範囲の映像における出場人物を、それぞれ、前記カメラ映像解析部で前記追跡中の出場人物が誰であるかの情報が取得できた時点で特定する、
ことを特徴とする自動人物特定装置。 - 請求項1記載の自動人物特定装置において、
該装置は、
前記第2のテレビカメラ、該第2のテレビカメラの撮影範囲データを生成する前記カメラデータ生成部、および前記第2のテレビカメラにより撮影された画像に含まれる追跡中の出場人物が誰であるかの情報と、追跡中の出場人物と該人物の画面上の位置の関係の情報とを解析して求めるカメラ映像解析部を複数具えるとともに、前記人物特定部を、一方においては、前記全体映像解析部で解析して求められた、前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の時間の経過にともなう位置を記憶し、他方においては、前記複数のカメラ映像解析部で前記複数の第2のテレビカメラにより撮影された映像をそれぞれ解析して求められた追跡中の出場人物と該人物の画面上の位置の関係の情報について、画面上の位置を前記複数のカメラデータ生成部でそれぞれ生成した第2のテレビカメラの撮影範囲データ上の位置に変換し、該変換した位置と前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置とを比較し、該比較の結果、前記記憶した前記第1のテレビカメラにより撮影された広範囲の映像における出場人物の位置のうちの前記第2のテレビカメラの撮影範囲データ上の追跡中の出場人物の位置に最も近い位置にいる出場人物が、前記複数のカメラ映像解析部でそれぞれ解析して求められた追跡中の出場人物であると特定するように構成したことを特徴とする自動人物特定装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001030979A JP4293736B2 (ja) | 2001-02-07 | 2001-02-07 | 自動人物特定装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001030979A JP4293736B2 (ja) | 2001-02-07 | 2001-02-07 | 自動人物特定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002236913A JP2002236913A (ja) | 2002-08-23 |
JP4293736B2 true JP4293736B2 (ja) | 2009-07-08 |
Family
ID=18895125
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001030979A Expired - Fee Related JP4293736B2 (ja) | 2001-02-07 | 2001-02-07 | 自動人物特定装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4293736B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018074768A1 (ko) * | 2016-10-20 | 2018-04-26 | 삼성전자 주식회사 | 영상 표시 방법 및 그 전자장치 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100448267C (zh) | 2004-02-06 | 2008-12-31 | 株式会社尼康 | 数码相机 |
JP4659569B2 (ja) * | 2005-09-13 | 2011-03-30 | キヤノン株式会社 | 撮像装置 |
JP4984728B2 (ja) | 2006-08-07 | 2012-07-25 | パナソニック株式会社 | 被写体照合装置および被写体照合方法 |
JP4934094B2 (ja) * | 2008-05-09 | 2012-05-16 | 日本放送協会 | スポーツ映像送出装置 |
JP7122243B2 (ja) * | 2018-03-05 | 2022-08-19 | 日本テレビ放送網株式会社 | 画像識別装置、分類システム、制作支援システム、それらの方法及びプログラム |
JP7384008B2 (ja) * | 2019-11-29 | 2023-11-21 | 富士通株式会社 | 映像生成プログラム、映像生成方法及び映像生成システム |
CN112601044A (zh) * | 2020-12-08 | 2021-04-02 | 深圳市焦点数字科技有限公司 | 一种会议场景画面自适应方法 |
-
2001
- 2001-02-07 JP JP2001030979A patent/JP4293736B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018074768A1 (ko) * | 2016-10-20 | 2018-04-26 | 삼성전자 주식회사 | 영상 표시 방법 및 그 전자장치 |
US11223853B2 (en) | 2016-10-20 | 2022-01-11 | Samsung Electronics Co., Ltd. | Image display method and electronic device therefor |
Also Published As
Publication number | Publication date |
---|---|
JP2002236913A (ja) | 2002-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yow et al. | Analysis and presentation of soccer highlights from digital video | |
US10515471B2 (en) | Apparatus and method for generating best-view image centered on object of interest in multiple camera images | |
US7532215B2 (en) | Image generating apparatus, image generating method and image generating program | |
US20070296815A1 (en) | Image-Based Movement Tracking | |
KR20040054773A (ko) | 방송 이벤트에서 로고들에 대한 시청자 노출의 식별 및 평가 | |
CN105262942B (zh) | 分布式自动影像和视频处理 | |
JP2010093713A (ja) | 表示制御装置、表示制御方法及びプログラム | |
US20070064975A1 (en) | Moving object measuring apparatus, moving object measuring system, and moving object measurement | |
JP2006109119A (ja) | 動画記録装置および動画再生装置 | |
CN110049345A (zh) | 一种多视频流导播方法及导播处理系统 | |
IL170320A (en) | System and method for managing the visual effects insertion in a video stream | |
JP4293736B2 (ja) | 自動人物特定装置 | |
CN104115487A (zh) | 图像处理装置、图像处理方法和程序 | |
JP5868991B2 (ja) | 動画記録中の音声のオーディオ信号再生を向上させる方法およびアセンブリ | |
KR20090118634A (ko) | 운동경기의 자동분석 시스템 및 그 방법 | |
JPH10222668A (ja) | モーションキャプチャ方法およびシステム | |
CN112287771A (zh) | 用于检测视频事件的方法、装置、服务器和介质 | |
JP4270703B2 (ja) | 自動人物インデックス発生装置 | |
EP1969585A1 (en) | Method and system for creating event data and making same available to be served | |
JP2003143546A (ja) | フットボールビデオ処理方法 | |
WO2002104009A1 (en) | Method and system for combining video with spatio-temporal alignment | |
JP2021141434A (ja) | シーン抽出方法、装置およびプログラム | |
JP2000115695A (ja) | 撮像装置,画像再生装置,連続撮像方法および連続撮像画像の対照表示方法 | |
JPH0779382A (ja) | 動画像処理装置 | |
JPH089314A (ja) | 動画像記録媒体、静止画像抽出装置、動画像記録装置および静止画像自動抽出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090106 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090220 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090220 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090317 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090407 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120417 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4293736 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120417 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130417 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140417 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |