JP6192264B2 - 携帯端末装置、端末プログラム、拡張現実感システム、および衣類 - Google Patents

携帯端末装置、端末プログラム、拡張現実感システム、および衣類 Download PDF

Info

Publication number
JP6192264B2
JP6192264B2 JP2012160019A JP2012160019A JP6192264B2 JP 6192264 B2 JP6192264 B2 JP 6192264B2 JP 2012160019 A JP2012160019 A JP 2012160019A JP 2012160019 A JP2012160019 A JP 2012160019A JP 6192264 B2 JP6192264 B2 JP 6192264B2
Authority
JP
Japan
Prior art keywords
image
character
augmented reality
design
display unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012160019A
Other languages
English (en)
Other versions
JP2014021735A (ja
Inventor
光隆 井上
光隆 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bandai Co Ltd
Original Assignee
Bandai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bandai Co Ltd filed Critical Bandai Co Ltd
Priority to JP2012160019A priority Critical patent/JP6192264B2/ja
Priority to TW102118477A priority patent/TW201405367A/zh
Priority to KR1020130075201A priority patent/KR20140011259A/ko
Priority to CN201310264432.9A priority patent/CN103576851A/zh
Priority to US13/938,461 priority patent/US9176704B2/en
Publication of JP2014021735A publication Critical patent/JP2014021735A/ja
Application granted granted Critical
Publication of JP6192264B2 publication Critical patent/JP6192264B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • AHUMAN NECESSITIES
    • A41WEARING APPAREL
    • A41DOUTERWEAR; PROTECTIVE GARMENTS; ACCESSORIES
    • A41D1/00Garments
    • A41D1/02Jackets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/432Query formulation
    • G06F16/434Query formulation using image data, e.g. images, photos, pictures taken by a user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Textile Engineering (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、携帯端末装置、端末プログラム、拡張現実感システム、および衣類等のキャラクタ商品に関する。
プリントTシャツは、シルクスクリーン等の加工技法を用いて図柄やモチーフ、のイメージを静止画としてTシャツにプリントしたものである。最近では子供向けに人気キャラクタや人気アニメをプリントしたTシャツ、バッグ、あるいは玩具等のキャラクタ商品(キャラクタグッズともいう)が市場を賑わしており子供から好評を得ている。
一方、携帯端末装置の多機能化が進み、最近では、携帯電話に代わって、インターネット接続を行うネットワーク通信環境を強化したスマートフォンが普及してきた。スマートフォンによれば、市場に流通しているアプリケーションプログラムをダウンロードにより取得することで、データ管理やメール作成のユーティリティ系、天気予報や乗換え案内、グルメ案内、衛星を使用したナビゲーション等の実用系、メモツールや名詞管理等のビジネス系、「Skype」(登録商標)や「Twitter」(登録商標)等のコミュニケーション系、あるいはオンラインゲーム等のエンターテイメント系のツールとして幅広いジャンルに渡って便利にカスタマイズすることができる。
ところで、従来、人間が知覚する現実環境をコンピュータによって拡張するAR(Augment Reality)技術が知られている。例えば、特許文献1には、拡張現実画像において、現実世界の様子を表す画像に合成されるオブジェクト画像を適切に変化させる技術が紹介されている。
特開2011−204047号公報
上記した特許文献1に開示されているように、AR技術は、3次元位置認識のために用いられるマーカと呼ばれる所定形状の図形を現実世界の中に配置し、撮影機器がそのマーカを含む現実世界を撮影する。したがって、マーカは、撮影された画像内において透視変換された形態で配置される。そして、このマーカに対応付けられたオブジェクトに透視変換技術が適用され、撮影された画像を背景にして得られたオブジェクト画像が合成され、拡張現実画像が生成される。このAR技術により動画や静止画によるCG(Computer Graphics)再生が可能になる。
ところで、上記したスマートフォンとプリントTシャツ等のキャラクタ商品とを連携させることにより、消費者と消費者が購入したキャラクタ商品のデザインと関連した演出用画像とを合成することにより生成される拡張現実画像を再生できれば、そのキャラクタ商品に付加価値を与えることができ、趣向を高めるとともに販売促進効果も得られるはずである。また、これを実現するにあたって高度な透視変換技術を使用することなく、簡易に拡張現実画像を再生したいという要望もある。
本発明は、上記した課題を解決するためになされたものであり、消費者が購入したキャラクタ商品のデザインと関連した拡張現実画像を簡易に再生する仕組みを構築することにより、趣向を高め、キャラクタ商品の販売促進効果を得ることができる、携帯端末装置、端末プログラム、拡張現実感システム、およびキャラクタ商品を提供することを目的とする。
本発明の携帯端末装置は、(以下、補正内容がFIXしてから記入。)
本発明の携帯端末装置は、少なくとも、撮像部と、表示部と、を有し、前記撮像部が、衣類にプリントされ、または貼付されたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する制御部、を備えている。また、本発明の携帯端末装置は、少なくとも撮像部と、表示部と、を有し、前記撮像部が、衣類にプリントされ、または貼付されたキャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する制御部、を備える。また、本発明の携帯端末装置は、少なくとも撮像部と、表示部と、を有し、前記撮像部が、衣類にプリントされ、または貼付されたキャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する制御部、を備え、前記キャラクタの画像を含む演出用画像は、前記キャラクタがポージングした画像であって、前記制御部は、前記拡張現実画像として、前記キャラクタがポージングした画像を、前記衣類を身につけた人物の被写体像の隣に表示した記念撮影画像を前記表示部に表示する。
本発明において、前記制御部は、前記被写体像の画像サイズに応じて前記演出用画像の画像サイズを変化させることが好ましい。
本発明において、音声出力部を更に有し、前記制御部は、前記演出用画像が前記表示部に表示されると効果音を生成し、前記生成した効果音を前記音声出力部に出力することが好ましい。
本発明の端末プログラムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とを有する拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、前記コンピュータに、前記撮像部が前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して前記表示部に表示する処理と、を実行させる。また、本発明の端末プログラムは、特定のキャラクタのデザインがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とからなる拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、前記コンピュータに、前記撮像部が前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する処理と、を実行させる。また、本発明の端末プログラムは、特定のキャラクタのデザインがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とからなる拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、前記コンピュータに、前記撮像部が前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する処理と、を実行させ、前記キャラクタの画像を含む演出用画像は、前記キャラクタがポージングした画像であって、前記コンピュータに、前記拡張現実画像として、前記キャラクタがポージングした画像を、前記衣類を身につけた人物の被写体像の隣に表示した記念撮影画像を前記表示部に表示する処理と、を実行させる。
本発明の拡張現実感システムは、特定のキャラクタがプリントされ、または貼付された衣類と、少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識した前記デザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成し、前記表示部に表示する制御部、を備えた携帯端末装置と、を有する。また、本発明の拡張現実感システムは、特定のキャラクタのデザインがプリントされ、または貼付された衣類と、少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する制御部、を備えた携帯端末装置と、を有する。また、本発明の拡張現実感システムは、特定のキャラクタのデザインがプリントされ、または貼付された衣類と、少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する制御部、を備え、前記キャラクタの画像を含む演出用画像は、前記キャラクタがポージングした画像であって、前記拡張現実画像として、前記キャラクタがポージングした画像を、前記衣類を身につけた人物の被写体像の隣に表示した記念撮影画像を前記表示部に表示する制御部、を備えた携帯端末装置と、を有する。
本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記認識したデザインのそれぞれに対応付けて用意された演出用画像と、前記衣類を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する携帯端末装置からなる拡張現実感システムに使用される。また、本発明の衣類は、特定のキャラクタのデザインがプリントされ、または貼付された衣類であって、前記キャラクタのデザインは、前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して表示する携帯端末装置からなる拡張現実感システムにおいて画像認識されるデザインを含む。
本発明の衣類は、特定のキャラクタがプリントされ、または貼付された衣類であって、前記プリント、または、貼付されたキャラクタは、前記衣類を身に付けた人物を撮影した携帯端末装置において、撮影された前記衣類を身に付けた人物の被写体像に含まれる前記キヤラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、前記デザインは、前記携帯端末装置において対応する演出用画像が用意されており、かつ、当該演出用画像は、前記携帯端末装置において前記衣類を身につけた人物の被写体像と合成されることにより拡張現実画像の生成に利用される。また、本発明の衣類は、特定のキャラクタのデザインがプリントされ、または貼付された衣類であって、前記プリント、または、貼付されたキャラクタのデザインは、前記衣類を身に付けた人物を撮影した携帯端末装置において、撮影された前記衣類を身に付けた人物の被写体像に含まれる前記キャラクタのデザインから画像認識されるデザインを少なくとも一部に含んでおり、前記画像認識されるデザインは、前記携帯端末装置において前記キャラクタの画像を含む演出用画像が対応付けて用意されており、かつ、当該演出用画像は、前記携帯端末装置において前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像の生成に利用されるデザインである。
本発明によれば、消費者が購入した衣類等のキャラクタ商品のデザインと関連した拡張現実画像を簡易に再生する仕組みを構築することにより、趣向を高め、キャラクタ商品の販売促進効果を得ることができる、携帯端末装置、端末プログラム、拡張現実感システム、およびキャラクタ商品を提供することができる。
本発明の実施の形態に係る拡張現実感システムのイメージ図である。 本発明の実施の形態に係る携帯端末装置の内部構成を示すブロック図である。 本発明の実施の形態に係る携帯端末装置の動作を示すフローチャートである。 本発明の実施の形態に係る携帯端末装置の動作を画面上で表現した図である。
(実施形態の構成)
以下、添付図面を参照して本発明を実施するための実施の形態(以下、単に本実施形態という)について詳細に説明する。
図1に、本実施形態に係る拡張現実感システム100が示されている。図1に示されるように、本実施形態に係る拡張現実感システム100は、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10と、このキャラクタ商品にプリントされたキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、当該画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して画面に表示するスマートフォン等の携帯端末装置20と、からなる。
ここでは、キャラクタ商品10として、戦隊ものヒーロー等のキャラクタがプリントされた子供向けのTシャツが例示されている。このTシャツを購入した消費者(ほとんどの場合Tシャツを着用する子供の親)は、携帯端末装置20を用い、商品タグに付属のQRコード(登録商標)を読み取ることにより、Tシャツ販売事業者、あるいはTシャツにプリントされたキャラクタの版権を所有する事業者等のサイトから拡張現実画像を再生するアプリケーションプログラム(後述する端末プログラム260)を無償でダウンロードにより取得する。
そして、消費者は、ダウンロードすることにより取得した端末プログラム260を起動することより、そのTシャツを着用した子供の前身デザインにピントを合わせ、撮影によりキャラクタのデザインを読み込む。この撮影操作のみで、現実には子供だけであるが、例えば、戦闘ポーズをとったヒーローが演出用画像として隣に出現する、子供とヒーローとによる簡単なAR技術を使用した2ショット撮影が可能になる。このとき、携帯端末装置20は、撮影により得たキャラクタ商品の映像の少なくとも一部のデザインを画像認識し、画像認識したデザインのそれぞれに対応付けて予め用意された演出用画像と、Tシャツを着用した子供による被写体像とを合成することによって拡張現実画像を生成して画面上に表示する。
図2に本実施形態に係る携帯端末装置20の内部構成が示されている。図2に示されるように、携帯端末装置20は、撮像部21と、表示部22と、操作部23と、音声出力部24と、通信部25と、記憶部26と、制御部27と、を含み構成される。
撮像部21は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の光電変換素子と、その制御回路等により構成されるカメラである。表示部22は、多数の画素(複数色の発光素子の組み合わせ)を縦横に配して構成される、例えばLCD(Liquid Crystal Display Device)や有機EL(Electro-Luminescence)を用いて構成されており、制御部27により生成され、記憶部26の所定の領域(VRAM領域)に書き込まれた拡張現実画像を含む表示情報を表示する。
操作部23は、例えば、電源キー、通話キー、数字キー、文字キー、方向キー(左右上下)、決定キー、発信キー、撮像キー等、各種の機能が割り当てられたキースイッチを有しており、これらのキーが操作者によって操作された場合に、その操作内容に対応する信号を発生し、これを操作者の指示として制御部27に出力する。なお、この操作部23は、位置情報を入力するタッチパネルで実現してもよい。この場合、タッチバネル上に上記したキースイッチ類や拡張現実画像が表示される。
音声出力部24は、制御部27により生成される効果音を含む音声を出力するスピーカである。通信部25は、無線通信システムを捕捉し、通信ネットワークに接続される不図示の基地局との間で無線通信を行い、各種データの送受信を行う。ここで、各種データとは、音声通話時の音声データ、メール送受信時のメールデータ、Web(World Wide Web)閲覧時のWebページデータ等である。本発明と関係するところでは、この通信部25により、キャラクタ商品10に対応した拡張現実画像生成のために必要なデータを事業者のサイト(サーバ)からダウンロードにより取得する。このとき、通信部25は、例えば、TCP/IP(Transmission Control Protocol/Internet Protocol)に準拠したプロトコルにしたがい不図示のサーバとの接続を行う。
記憶部26は、本実施形態に係る端末プログラム260が格納されるプログラム領域の他に、作業領域とVRAM(Video RAM)領域が割当てられている。作業領域には、制御部27により生成される拡張現実画像、あるいはインターネット経由で取得される拡張現実画像が都度格納され、VRAM領域には、この拡張現実画像を含む表示情報が描画される。なお、記憶部26として、例えば、半導体記憶素子、磁気、あるいは光記憶素子が実装される。
制御部27は、撮像部21が撮影して得た映像の少なくとも一部のデザインを画像認識し、当該画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する機能を有する。このとき、制御部27は、被写体像の画像サイズに応じて演出用画像の画像サイズを変化させてもよい。また、演出用画像が表示部22に表示されると効果音を生成し、当該生成した効果音を音声出力部24に出力してもよい。
このため、制御部27が実行する端末プログラム260の構造を機能的に分解して図示すれば、図2に示すように、主制御部270と、画像取得部271と、画像認識部272と、演出制御部273と、表示制御部274と、からなる。
画像取得部271は、撮像部21が、Tシャツ等のキャラクタ商品10にプリントされ、または貼付されるキャラクタのデザインを撮影して得た画像を取り込んで画像認識部272に出力する。画像認識部272は、画像取得部271が取り込んだデザインを画像認識して演出制御部273に出力する。演出制御部273は、画像認識部272で画像認識されたデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する。
このとき演出制御部273は、実写により得られる被写体像の画像サイズに応じて演出用画像の画像サイズを変化させることができる。また、演出用画像が表示部22に表示されると効果音を生成し、当該生成した効果音を音声出力部24に出力してもよい。
表示制御部274は、演出制御部273により生成される拡張現実画像を記憶部26のVRAM領域に描画し、描画した表示情報を表示タイミングに同期して読み出して表示部22に表示する。
なお、主制御部270は、制御部27が、撮像部21により撮影して得た映像の少なくとも一部のデザインを画像認識し、当該画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示するために、上記した画像取得部271と、画像認識部272と、演出制御部273と、表示制御部274の各部のシーケンス制御を司る。
(実施形態の動作)
以下、本実施形態の携帯端末装置20の動作について、図3のフローチャートに基づき、更には図1および図4(a)(b)の画面構成を参照しながら詳細に説明する。
まず、携帯端末装置20の制御部27(主制御部270)は、電源が投入されると、携帯端末装置20に端末プログラム260がインストール済みか否かを判定する(ステップS101)。主制御部270は、記憶部26の所定のエリアに割当てられて記憶されるインストールアプリ一覧(不図示)を参照することによりインストール有無の判定が可能である。ここで、未だインストールされていないと判定されると(ステップS101“NO”)、主制御部270は、その旨を示すメッセージを生成して表示部22に表示し、消費者に対して端末プログラム260の取得を促す。消費者はこのメッセージにしたがい、例えば、図4(a)に示すように、商品タグ30に付属のQRコード(登録商標)を読み取る(ステップS102)。このことにより、端末プログラム260が携帯端末装置20に自動的にダウンロードされ、更に、インストールすることによって記憶部26のプログラム領域に格納される(ステップS103)。
一方、ステップS101で、携帯端末装置20に端末プログラム260が既にインストールされていれと判定されると(ステップS101“YES”)、消費者は、その端末プログラム260を立ち上げるための操作を実行する。端末プログラム260が起動すると(ステップS104)、後述するように、キャラクタ商品10にプリントされたキャラクタのデザインの画像認識、画像認識結果に基づく拡張現実画像の生成が可能になる。
端末プログラム260が起動すると、消費者は、例えば、図4(b)に示すように、子供が着用したTシャツの前身にプリントされたキャラクタにフォーカスしてピント合わせを行なう(ステップS105)。そして、消費者が、操作部23の撮像キー、または表示部22の一部領域に割り当てられている撮像ボタンをONすると(ステップS106“YES”)、主制御部270はこれを検知して画像取得部271に制御を移す。画像取得部271は、撮影部21が撮像したキャラクタデザインを画像認識部272に引渡し、画像認識部272は、そのキャラクタのデザインの画像認識を行なう(ステップS107)。
画像認識部272によるデザインの画像認識結果は演出制御部273に出力される。演出制御部273は、画像認識したキャラクタデザインのそれぞれに対応付けて用意された演出用画像を読み込む(ステップS108)。演出制御部273は、読み込んだ演出用画像を、表示制御部274経由で表示部22に表示するにあたり、例えば、図1の両方向矢印で示すように、被写体像の画像サイズに応じて演出用画像の画像サイズを変化させる処理を実行する(ステップS109)。すなわち、演出制御部273は、被写体像の画像サイズが大きい場合は、被写体と携帯端末装置20との間の撮影距離dが近いと判断して演出用画像を相対的に大きな画像サイズで表示する。逆に、被写体像の画像サイズが小さくなっていく場合には演出用画像の画像サイズも相対的に小さくすることにより、Tシャツを着用している子供の被写体像に演出用画像の画像サイズを合わせることができる。
すなわち、被写体像である子供と携帯端末装置20との間の距離が近すぎると演出用画像も大きく表示され、表示部22の有効表示画面領域に演出用画像の全てが写らない。そのため、消費者は、撮影時に撮影距離dを調整(バックして撮像)することにより演出用画像を表示部22の有効表示領域に収める。この場合、子供の画像サイズも合わせて小さくなるため、演出用画像の画像サイズも小さくして被写体像と演出用画像の画像サイズが最適なところで撮影位置の調整を行う。このように、撮影距離dにより、被写体像と演出用画像との画像サイズ感を調整している。
なお、撮影距離に応じて変化する被写体像の大小判定は、例えば、図1に示すように、撮影距離dが2[m]の場合における画像サイズを基準として比較することにより行う。すなわち、被写体である子供の体格と、携帯端末装置20の撮像部21として通常使用されるレンズの被写界深度との関係から、撮影距離dとして2[m]程度の距離が最適である。
続いて消費者により撮像キーがONされ、主制御部270がこれを検知すると(ステップS110“YES”)、演出制御部273は、先に撮影位置が調整された演出用画像とTシャツを着用した子供の被写体像とを合成することにより拡張現実画像を生成して表示制御部274に出力する。表示制御部274は、演出制御部273により生成される拡張現実画像を記憶部26のVRAM領域に描画し、描画した拡張現実画像を表示部22の表示タイミングに同期して読み出して表示部22に表示する(ステップS111)。すなわち、現実に被写体は子供だけであるが、表示部22の画面上には簡易なAR技術によりヒーローが隣に出現した拡張現実画像による2ショット画像が表示され、あたかもTシャツを着ている子供がヒーローと記念撮影しているかのような画像が表示される。
なお、このとき演出制御部273は、演出用画像が表示部22に表示されると効果音を生成し、生成した効果音を音声出力部24に出力してもよい。このとき、音声出力部24がその効果音を外界へ出力することによりヒーロー出現感を演出でき、その結果、演出効果が高まる(ステップS112)。
以上説明のように本実施形態に係る携帯端末装置20によれば、制御部27は、撮像部21でキャラクタ商品10にプリントまたは貼付されたキャラクタを撮影して得た映像のデザインを画像認識し、デザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する。このため、透視変換技術を必要とすることなく、演出用画像と被写体像とからなる拡張現実画像を簡易に生成することができる。また、消費者が購入したキャラクタ商品のキャラクタと関連した拡張現実画像を表示することによって趣向を高め、キャラクタ商品の販売促進効果を得ることができる。
なお、本実施形態に係る端末プログラム260は、例えば、図2のブロック図に示すように、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10と、少なくとも、撮像部21と表示部22とを有し、撮像部21により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して表示部22に表示する携帯端末装置20とからなる拡張現実感システム100において、携帯端末装置20に使用されるコンピュータ(制御部27)によって制御される端末プログラム260である。そして、例えば、図3のフローチャートに示すように、コンピュータ(制御部27)に、撮像部21がキャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識する処理(S105〜S107)と、画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示部22に表示する処理(S108〜S111)と、を実行させる。
本実施形態に係る端末プログラム260によれば、コンピュータ(制御部27)がこの端末プログラム260を逐次読み出し実行することにより、キャラクタ商品10にプリントまたは貼付されたキャラクタを撮影して得た映像のデザインを画像認識させ、デザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示可能な端末プログラム260を提供することができる。このため、透視変換技術を必要とすることなく、演出用画像と被写体像とからなる簡易な拡張現実画像を生成することができる。また、消費者が購入したキャラクタ商品と関連した拡張現実画像を表示することによって趣向を高め、キャラクタ商品の販売促進効果を得ることができる。
また、本実施形態に係る拡張現実感システム100は、例えば、図1に示すように、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10と、少なくとも、撮像部21と、表示部22とを有し、撮像部21が、キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、画像認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成し、表示部22に表示する制御部27、を備えた携帯端末装置20と、から構成される。
本実施形態に係る拡張現実感システム100によれば、携帯端末装置20が、キャラクタ商品10にプリントまたは貼付されたキャラクタを撮影して得た映像のデザインを画像認識し、デザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することにより拡張現実画像を生成して表示する拡張現実感システム100を提供することができる。このため、透視変換技術を必要とすることなく、演出用画像と被写体像とからなる拡張現実画像を簡易に生成することができる。その結果、消費者が購入したキャラクタ商品と関連した拡張現実画像を表示することによって趣向を高め、キャラクタ商品の販売促進効果を得ることができる。
また、本実施形態に係るキャラクタ商品10は、例えば、図1、あるいは図4(a)(b)に示すように、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10である。このキャラクタ商品10は、キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識し、認識したデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成して表示する携帯端末装置20を用いることによって実現される拡張現実感システム100に使用される。
本実施形態に係るキャラクタ商品10によれば、特定のキャラクタがプリントされ、または貼付されたキャラクタ商品10により、携帯端末装置20に、キャラクタを撮影して得た映像の少なくとも一部のデザインを画像認識させ、認識させたデザインのそれぞれに対応付けて用意された演出用画像と、キャラクタ商品10を身につけた人物の被写体像とを合成することによって拡張現実画像を生成させ、表示させることができる。また、本実施形態に係るキャラクタ商品10によれば、キャラクタ商品10にプリント、または、貼付されたキャラクタは、キャラクタ商品10を身に付けた人物を撮影した携帯端末装置20において、撮影されたキャラクタ商品10を身に付けた人物の被写体像に含まれるキャラクタの画像から画像認識されるデザインを少なくとも一部に含んでおり、該デザインは、携帯端末装置20において対応する演出用画像が用意されており、かつ、該演出用画像は、携帯端末装置20においてキャラクタ商品10を身につけた人物の被写体像と合成され、拡張現実画像を生成することができる。本実施形態に係るキャラクタ商品10によれば、商品の販売促進効果が得られるのは勿論のこと、キャラクタ商品10のファッション価値はそのまま維持して楽しさだけが倍増し、キャラクタ商品10を愛用する子供と、携帯端末装置20を操作する親との間の会話を自然に促すといった派生的効果も得ることができる。
なお、上記した本実施形態に係るキャラクタ商品10として、プリントTシャツについてのみ例示して説明したが、バッグ、ピンバッチ他、キャラクタが印刷され、あるいは貼付された全ての衣類(衣服)や装身具(装飾品)等、着用、あるいは身につけて使用するもの、玩具や日用品等にも適用が可能である。また、携帯端末装置20が生成する演出用画像として、静止画のみ例示したが、イラスト、あるいは2次元や3次元アニメーションCG等の動画であってもよい。また、演出用画像としては、キャラクタに対応付けられた画像であれば特に限定されるものではないが、キャラクタがポージングした画像であることが好ましい。それにより、演出用画像と、キャラクタ商品を身につけた人物の被写体像とを合成することによって得られる画像が記念写真のような形になり、興趣性を向上させることができる。また、キャラクタとは、漫画やアニメなどに登場する仮想のキャラクタに限らず、アイドルや俳優などの実在の人物であってもよい。更に、携帯端末装置20としてスマートフォンを例示したが、撮影機能とインターネット接続環境を有する携帯電話やPDA(Personal Digital Assistance)、あるいはPC(Personal
Computer)であってもよい。
以上、本発明の好ましい実施形態について詳述したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されないことは言うまでもない。上記実施形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。またその様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
10…キャラクタ商品、20…携帯端末装置、30…商品タグ、21…撮像部、22…表示部、23…操作部、24…音声出力部、25…通信部、26…記憶部、27…制御部、100…拡張現実感システム、260…端末プログラム、270…主制御部、271…画像取得部、272…画像認識部、273…演出制御部、274…表示制御部。

Claims (5)

  1. 少なくとも撮像部と、表示部と、を有し、
    前記撮像部が、衣類にプリントされ、または貼付されたキャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する制御部、
    を備え
    前記キャラクタの画像を含む演出用画像は、前記キャラクタがポージングした画像であって、
    前記制御部は、
    前記拡張現実画像として、前記キャラクタがポージングした画像を、前記衣類を身につけた人物の被写体像の隣に表示した記念撮影画像を前記表示部に表示することを特徴とする携帯端末装置。
  2. 請求項1において、
    前記制御部は、
    前記被写体像の画像サイズに応じて前記演出用画像の画像サイズを変化させる携帯端末装置。
  3. 請求項1または請求項2において、
    音声出力部を更に有し、
    前記制御部は、
    前記演出用画像が前記表示部に表示されると効果音を生成し、前記生成した効果音を前記音声出力部に出力する携帯端末装置。
  4. 特定のキャラクタのデザインがプリントされ、または貼付された衣類と、少なくとも、撮像部と表示部とを有し、前記撮像部により撮影された映像の少なくとも一部のデザインから拡張現実画像を生成して前記表示部に表示する携帯端末装置とからなる拡張現実感システムにおいて、前記携帯端末装置に使用されるコンピュータによって制御される端末プログラムであって、
    前記コンピュータに、
    前記撮像部が前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識する処理と、
    前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する処理と、
    を実行させ
    前記キャラクタの画像を含む演出用画像は、前記キャラクタがポージングした画像であって、
    前記コンピュータに、
    前記拡張現実画像として、前記キャラクタがポージングした画像を、前記衣類を身につけた人物の被写体像の隣に表示した記念撮影画像を前記表示部に表示する処理と、
    を実行させる端末プログラム。
  5. 特定のキャラクタのデザインがプリントされ、または貼付された衣類と、
    少なくとも、撮像部と、表示部とを有し、前記撮像部が、前記キャラクタのデザインを撮影して得た映像の少なくとも一部のデザインを画像認識し、前記画像認識したデザインのそれぞれに対応付けて用意された前記キャラクタの画像を含む演出用画像を、前記衣類を身につけた人物の被写体像の隣に表示した拡張現実画像を生成して前記表示部に表示する制御部、を備え
    前記キャラクタの画像を含む演出用画像は、前記キャラクタがポージングした画像であって、
    前記拡張現実画像として、前記キャラクタがポージングした画像を、前記衣類を身につけた人物の被写体像の隣に表示した記念撮影画像を前記表示部に表示する制御部、を備えた携帯端末装置と、
    を有する拡張現実感システム。
JP2012160019A 2012-07-18 2012-07-18 携帯端末装置、端末プログラム、拡張現実感システム、および衣類 Active JP6192264B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012160019A JP6192264B2 (ja) 2012-07-18 2012-07-18 携帯端末装置、端末プログラム、拡張現実感システム、および衣類
TW102118477A TW201405367A (zh) 2012-07-18 2013-05-24 可攜式終端裝置、終端程式、擴增實境感系統及衣類
KR1020130075201A KR20140011259A (ko) 2012-07-18 2013-06-28 휴대 단말 장치, 단말기 프로그램을 저장하는 기억 매체, 확장 현실감 시스템 및 의류
CN201310264432.9A CN103576851A (zh) 2012-07-18 2013-06-28 便携式终端装置、控制方法、扩增实境感系统、及衣类
US13/938,461 US9176704B2 (en) 2012-07-18 2013-07-10 Generating augmented reality image using mobile terminal device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012160019A JP6192264B2 (ja) 2012-07-18 2012-07-18 携帯端末装置、端末プログラム、拡張現実感システム、および衣類

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016167433A Division JP2017010578A (ja) 2016-08-30 2016-08-30 携帯端末装置、端末プログラム、拡張現実感システム、および衣類

Publications (2)

Publication Number Publication Date
JP2014021735A JP2014021735A (ja) 2014-02-03
JP6192264B2 true JP6192264B2 (ja) 2017-09-06

Family

ID=49946172

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012160019A Active JP6192264B2 (ja) 2012-07-18 2012-07-18 携帯端末装置、端末プログラム、拡張現実感システム、および衣類

Country Status (5)

Country Link
US (1) US9176704B2 (ja)
JP (1) JP6192264B2 (ja)
KR (1) KR20140011259A (ja)
CN (1) CN103576851A (ja)
TW (1) TW201405367A (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140270477A1 (en) * 2013-03-14 2014-09-18 Jonathan Coon Systems and methods for displaying a three-dimensional model from a photogrammetric scan
US9524589B1 (en) * 2015-08-31 2016-12-20 Welspun India Limited Interactive textile article and augmented reality system
US9934594B2 (en) 2015-09-09 2018-04-03 Spell Disain Ltd. Textile-based augmented reality systems and methods
JP6362634B2 (ja) * 2016-02-05 2018-07-25 株式会社バンダイナムコエンターテインメント 画像生成システム、ゲーム装置及びプログラム
WO2017169502A1 (ja) * 2016-03-31 2017-10-05 ソニー株式会社 情報処理装置、情報処理方法及びコンピュータプログラム
US10558858B2 (en) * 2017-10-06 2020-02-11 Steve Rad Augmented reality system and kit
US10540797B1 (en) 2018-08-02 2020-01-21 Disney Enterprises, Inc. Image customization using a persona
CN113112614B (zh) * 2018-08-27 2024-03-19 创新先进技术有限公司 基于增强现实的互动方法及装置
WO2020100438A1 (ja) * 2018-11-13 2020-05-22 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
KR102108048B1 (ko) 2018-12-07 2020-05-11 (주)익스트리플 역감 제어 장치 및 그 방법
JP7160707B2 (ja) * 2019-01-31 2022-10-25 株式会社スクウェア・エニックス 仮想キャラクタを含む画像を提供するための方法
JP7442168B2 (ja) 2019-10-07 2024-03-04 株式会社リトプラ 映像処理システム
FR3106007B1 (fr) * 2020-01-02 2022-06-24 Youconsult Procede et systeme informatises de valorisation d’objets, et programme d’ordinateur associe
CN111429543B (zh) * 2020-02-28 2020-10-30 苏州叠纸网络科技股份有限公司 一种素材生成方法、装置、电子设备及介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040080530A1 (en) * 2000-11-03 2004-04-29 Lee Joseph H. Portable wardrobe previewing device
JP2003125361A (ja) * 2001-10-12 2003-04-25 Sony Corp 情報処理装置、情報処理方法、情報処理プログラム、及び情報処理システム
JP4203808B2 (ja) * 2003-10-08 2009-01-07 富士フイルム株式会社 画像処理装置
US7391445B2 (en) * 2004-03-31 2008-06-24 Magix Ag System and method of creating multilayered digital images in real time
JP3648535B1 (ja) * 2004-03-31 2005-05-18 コナミ株式会社 ゲーム装置、コンピュータの制御方法及びプログラム
EP1814101A1 (en) * 2004-11-19 2007-08-01 Daem Interactive, Sl Personal device with image-acquisition functions for the application of augmented reality resources and corresponding method
US7783135B2 (en) * 2005-05-09 2010-08-24 Like.Com System and method for providing objectified image renderings using recognition information from images
US7876334B2 (en) * 2005-09-09 2011-01-25 Sandisk Il Ltd. Photography with embedded graphical objects
JP2007107107A (ja) * 2005-10-11 2007-04-26 Kumpoo Co Ltd シャツおよびそれを用いた方法
US20110096174A1 (en) * 2006-02-28 2011-04-28 King Martin T Accessing resources based on capturing information from a rendered document
FR2911707B1 (fr) * 2007-01-22 2009-07-10 Total Immersion Sa Procede et dispositifs de realite augmentee utilisant un suivi automatique, en temps reel, d'objets geometriques planaires textures, sans marqueur, dans un flux video.
US8644842B2 (en) * 2007-09-04 2014-02-04 Nokia Corporation Personal augmented reality advertising
JP2009280946A (ja) * 2008-05-26 2009-12-03 Osaka Hifuku Danchi Shishu Center:Kk プリントtシャツ
JP2011055250A (ja) * 2009-09-02 2011-03-17 Sony Corp 情報提供方法及び装置、情報表示方法及び携帯端末、プログラム、並びに情報提供システム
JP5433397B2 (ja) * 2009-12-21 2014-03-05 富士フイルム株式会社 画像表示装置、画像表示方法、携帯端末
JP4995934B2 (ja) 2010-03-26 2012-08-08 株式会社コナミデジタルエンタテインメント 拡張現実システム、マーカ端末、撮影端末、拡張現実方法、ならびに、情報記録媒体

Also Published As

Publication number Publication date
US20140022282A1 (en) 2014-01-23
JP2014021735A (ja) 2014-02-03
KR20140011259A (ko) 2014-01-28
US9176704B2 (en) 2015-11-03
CN103576851A (zh) 2014-02-12
TW201405367A (zh) 2014-02-01

Similar Documents

Publication Publication Date Title
JP6192264B2 (ja) 携帯端末装置、端末プログラム、拡張現実感システム、および衣類
JP7098120B2 (ja) 画像処理方法、装置及記憶媒体
JP5551205B2 (ja) 携帯端末装置、端末プログラム、拡張現実感システム、および玩具
US11798201B2 (en) Mirroring device with whole-body outfits
JP2017010578A (ja) 携帯端末装置、端末プログラム、拡張現実感システム、および衣類
CN106488002B (zh) 移动终端及控制移动终端的方法
JP2013008297A (ja) 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2004178163A (ja) 画像処理方法及びその装置
CN111242682B (zh) 物品显示方法
US20120327091A1 (en) Gestural Messages in Social Phonebook
KR102667064B1 (ko) 전자 장치 및 이를 이용한 카메라 기능과 연동하여 이모지 편집을 위한 사용자 인터페이스를 제공하는 방법
JP5583741B2 (ja) 携帯端末装置、端末プログラムおよび玩具
US20230087879A1 (en) Electronic device and method for generating user avatar-based emoji sticker
JP2006227838A (ja) 画像処理装置及び画像処理プログラム
JP5519751B2 (ja) 画像鑑賞システム、画像鑑賞方法、画像鑑賞用サーバー、および端末機器
JP2014211879A (ja) 携帯端末装置、端末プログラム、拡張現実感システム、および玩具
JP2020054823A (ja) 遊戯システム及び遊戯方法並びにプログラム
CN117409119A (zh) 基于虚拟形象的画面显示方法、装置以及电子设备
JP5468152B1 (ja) 携帯端末装置、プログラム、印判、および印判を包含したカプセル商品
WO2018008096A1 (ja) 情報表示装置およびプログラム
JP2014220000A (ja) 携帯端末装置、端末プログラムおよび玩具
JP3165543U (ja) 誌面をコミュニティ化できる電子ブック
JP7312975B1 (ja) 端末装置の制御プログラム、端末装置、端末装置の制御方法、サーバ装置の制御プログラム、サーバ装置、及びサーバ装置の制御方法
JP2005107988A (ja) 画像出力装置、画像出力方法、画像出力処理プログラム、および画像配信サーバ、画像配信処理プログラム
JP5519750B2 (ja) 画像鑑賞システム、画像鑑賞方法、画像鑑賞用サーバー、および端末機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150413

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160425

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160830

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20160908

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20161007

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170808

R150 Certificate of patent or registration of utility model

Ref document number: 6192264

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250