JP2013009278A - 撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部機器からなるカメラシステム - Google Patents

撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部機器からなるカメラシステム Download PDF

Info

Publication number
JP2013009278A
JP2013009278A JP2011142294A JP2011142294A JP2013009278A JP 2013009278 A JP2013009278 A JP 2013009278A JP 2011142294 A JP2011142294 A JP 2011142294A JP 2011142294 A JP2011142294 A JP 2011142294A JP 2013009278 A JP2013009278 A JP 2013009278A
Authority
JP
Japan
Prior art keywords
image
image data
image processing
control means
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011142294A
Other languages
English (en)
Other versions
JP2013009278A5 (ja
JP5820635B2 (ja
Inventor
Takahito Aoki
崇人 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2011142294A priority Critical patent/JP5820635B2/ja
Publication of JP2013009278A publication Critical patent/JP2013009278A/ja
Publication of JP2013009278A5 publication Critical patent/JP2013009278A5/ja
Application granted granted Critical
Publication of JP5820635B2 publication Critical patent/JP5820635B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

【課題】無線通信状況に応じて送信画像のリサイズ処理を行なって通信状況に関らず画像データ転送を行なって良好な使用感を得ることができる撮影機器を提供する。
【解決手段】撮像素子15と撮影レンズ14を備えた撮像手段11と、撮像手段からの出力画像データを受けて異なる画像処理を同時に並行して実行する二つの画像処理手段20,21と、二つの画像処理手段からそれぞれ出力される画像データに基く二画像を一画面上に同時に表示する表示手段12と、外部機器との間で無線通信を行なう通信制御手段24と、機器全体を制御する制御手段17とを具備し、二つの画像処理手段は通信制御手段を介して受信された外部機器からの指示信号に応じて撮像手段が取した画像データに対し異なる画像処理を行なって画像サイズの異なる二種類の画像データを生成し、通信制御手段は、二つの画像処理手段により生成された二種類の画像データを送信する。
【選択図】図1

Description

この発明は、撮影機器及びこの撮影機器と通信する外部機器と、撮影機器及び外部機器からなるカメラシステム、詳しくは外部機器との間で無線通信を行なって画像データを送信し得る撮影機器であって、外部機器からの指示に応じて遠隔操作され得る撮影機器と、その撮影機器及び外部機器からなるカメラシステムに関するものである。
近年、デジタルカメラやビデオカメラ等の撮影機器(以下、これらを総称してカメラという)と外部機器との間で無線通信等を行なうことによって、離れた位置にあるカメラに対する各種の動作指示を外部機器からの操作入力によって実行し得るように構成されたカメラシステムについての提案が種々なされている。
例えば、特開2007−81537号公報によって開示されているカメラシステムは、主副二台のカメラ間で無線通信を行なうカメラシステムにおいて、使用者から離れた位置にある主カメラによって取得された画像データが、無線通信を用いて使用者の保持する副カメラへと送信され、これにより副カメラの表示部に、主カメラによって取得された映像と、副カメラ自身が取得した映像との二つの映像を同時に表示し得るように構成されている。そして、使用者は、手元に保持する副カメラのタッチパネルを用いることによって、主カメラに対する各種の操作指示を行なうことができるというものである。
無線通信を利用するこの種のカメラシステムにおいては、送信側の装置(主カメラ)から無線通信を介して画像データを支障無く送信し得るのと同時に、送信された画像データを受信側の装置(副カメラ)が支障無く受信し得ると共に、さらに受信側装置(副カメラ)は、受信データに基く映像を自身の表示装置を用いて順次表示させるために、より高速な無線通信技術が要求される。
近年、普及しつつあるカメラにおいては、撮像素子の高画素化が進んでおり、静止画像,動画像共に、一画像(一フレーム)単位の解像度が高くなり画像サイズが大型化する傾向にある。したがって、カメラが取得する画像データは大容量となる傾向にある。一方で、カメラと外部機器との間で行われる無線通信の高速化技術(データ転送レートの向上技術)には限界があるのと同時に、使用環境によって常に最速の高速通信を行ない得るとは限らない。したがって、使用環境によっては低い転送レートでの無線通信を強いられるようなこともあり得る。
特開2007−81537号公報
ところが、上記特開2007−81537号公報に記載のカメラシステムにおいては、無線通信を行なう際の画像データの容量やデータ転送レート等についての考慮はされておらず、無線通信の使用環境によっては、通信不能になる等によってシステムが成り立たないこともあり得る。
本発明は、上述した点に鑑みてなされたものであって、その目的とするところは、外部機器との間で無線通信を行なって画像データを送信し得る撮影機器であって、送信すべき画像データの画像サイズに関する画像処理を、無線通信の使用環境状況や外部機器からの操作指示等に応じて行ない、常に適切な形態の画像データを外部機器へ向けて送信し得るので、無線通信環境が良好な時には高速な画像データ転送を行ない得る一方、たとえ無線通信環境が悪化したとしても画像データの転送を継続して行なうことができ、よって使用感を損ねることのない撮影機器を提供することである。
上記目的を達成するために、本発明の一態様の撮影機器は、撮像素子及び撮影レンズを備えた撮像手段と、上記撮像手段からの出力される画像データを受けてそれぞれが異なる画像処理を同時に並行して実行する二つの画像処理手段と、上記二つの画像処理手段からそれぞれ出力される画像データに基く二画像を一画面上に同時に表示する表示手段と、外部機器との間で無線通信を行なう通信制御手段と、機器全体を制御する制御手段とを具備し、上記二つの画像処理手段は上記通信制御手段を介して受信された上記外部機器からの指示信号に応じて上記撮像手段により取得された画像データに対して異なる画像処理を行なって画像サイズの異なる二種類の画像データを生成し、上記通信制御手段は上記二つの画像処理手段により生成された上記二種類の画像データを送信することを特徴とする。
本発明によれば、外部機器との間で無線通信を行なって画像データを送信し得る撮影機器であって、送信すべき画像データの画像サイズに関する画像処理を、無線通信の使用環境状況や外部機器からの操作指示等に応じて行ない、常に適切な形態の画像データを外部機器へ向けて送信し得るので、無線通信環境が良好な時には高速な画像データ転送を行ない得る一方、たとえ無線通信環境が悪化したとしても画像データの転送を継続して行なうことができ、よって使用感を損ねることのない撮影機器を提供することができる。
本発明の一実施形態の撮影機器(カメラ)及び外部機器(端末機器)の概略構成を示す要部ブロック構成図、 図1の外部機器(端末機器)における表示部の表示形態の一例を示す図、 図1の外部機器(端末機器)における表示部の表示形態の具体例を示す図、 図1の外部機器(端末機器)の作用を説明する図であって、撮影機器(カメラ)への操作指示を行なう際の一例を示す図、 図4の操作の結果が反映された外部機器(端末機器)の表示部の表示例を示す図、 図1の外部機器(端末機器)の作用を説明する図であって、撮影機器(カメラ)への操作指示を行なう際の別の例を示す図、 図6の操作の結果が反映された外部機器(端末機器)の表示部の表示例を示す図、 図1の撮影機器(カメラ)の作用を示すカメラ制御のフローチャート、 図1の外部機器(端末機器)の作用を示す端末機器制御のフローチャート、 図1の撮影機器(カメラ)が通信状況(転送レート)に応じて転送データの画像処理を行なう際の条件テーブルを示す図、
以下、図示の実施の形態によって本発明を説明する。
本発明の一実施形態の撮影機器であるカメラは、例えば光学レンズにより形成される光学像を固体撮像素子を用いて光電変換し、これによって得られる画像信号を静止画像又は動画像を表わすデジタル画像データに変換し、こうして生成されたデジタルデータを記録媒体に記録し、また記録媒体に記録されたデジタル画像データに基いて静止画像又は動画像を表示装置に再生表示し得るように構成され、さらに外部機器との間で無線通信を行ない得る通信機能を備えた撮影機器(カメラ)を例示するものである。
また、本発明の一実施形態の外部機器は、上記撮影機器(カメラ)との間で無線通信を行なって上記撮影機器の操作制御信号を送信し上記撮影機器の遠隔操作を行ない得るリモートコントロール機能を備えると共に、上記撮影機器から送信された画像データを受信して、その受信した画像データを表示装置に表示する映像再生機能を有する外部機器を例示するものである。
そして、本発明の一実施形態のカメラシステムは、上記撮影機器と上記外部機器とを組み合わせて構成されるカメラシステムを例示するものである。
まず、本発明の一実施形態の撮影機器及び外部装置の概略構成を、図1のブロック構成図を用いて以下に説明する。なお、図1においては、本発明に関連する主な構成のみを図示するものとする。したがって、通常の撮影機器であるカメラが具備すべき一般的な構成部材については、図示を省略すると共に、その詳細説明も省略する。
また、以下の説明に用いる各図面においては、各構成要素を図面上で認識可能な程度の大きさとするため、各構成要素毎に縮尺を異ならせて示している場合がある。したがって、本発明は、これらの図面に記載された構成要素の数量,構成要素の形状,構成要素の大きさの比率及び各構成要素の相対的な位置関係は、図示の形態のみに限定されるものではない。
図1に示すように、撮影機器であるカメラ1は、カメラ側制御手段10と、撮像ユニット11と、表示装置12と、記録装置13等によって主に構成されている。
カメラ側制御手段10は、カメラ1側の電気的な制御全般を行なう制御手段である。このカメラ側制御手段10は、制御部17と、信号処理部18と、DRAM19と、第1の画像処理部20と、第2の画像処理部21と、表示処理部22と、記録処理部23と、通信制御部24等を含んで主に構成されている。
制御部17は、CPU等を含み本カメラ1の全体的な制御を行なう制御回路である。信号処理部18は、撮像ユニット11からの出力信号を受けて画像信号の前処理を施す処理回路部である。DRAM19は、画像データを一時的に記憶させておく一時メモリ手段である。第1の画像処理部20,第2の画像処理部21は、撮像ユニット11により取得された画像データについての画像処理を行なう画像処理回路部であり、画像処理手段である。
表示処理部22は、表示装置12との間に介在し、DRAM19に一時記憶されている画像データを受けて表示装置12によって取り扱い得る表示用画像データに変換するデータ処理等を行なう処理回路部である。
記録処理部23は、記録装置13との間に介在し、DRAM19に一時記憶されている画像データを受けて記録装置13によって取り扱い得る記録用画像データに変換するデータ処理や、記録装置13に含まれる記録媒体に記録済みの画像データを読み込んで本制御手段10において扱い得る所定の形態の画像データに変換しDRAM19へと出力するデータ処理等を行なう処理回路部である。
通信制御部24は、外部機器(後述する端末機器2)との間で、所定の通信規格等に準拠したデータ通信を行なうための制御回路部であり通信制御手段である。本実施形態において、通信制御部24は、無線通信を行なう機能を有するものとする。
なお、本実施形態のカメラ1においては、上述したように二つの画像処理部、即ち第1の画像処理部20と第2の画像処理部21とを具備している点に特徴がある。これら二つの画像処理部(20,21)のそれぞれに対して撮像ユニット11からの出力信号を入力させると、それぞれが異なる画像処理を同時に行なうことができ、よって、異なる二つの画像データを同時に生成することができる。
撮像ユニット11は、撮影レンズ14と、撮像素子15と、アナログデジタル変換器(A/D)16等を含んで主に構成される撮像手段である。
撮影レンズ14は、複数の光学レンズと、これら複数の光学レンズを光軸方向に駆動する駆動機構等によって構成される。、撮影レンズ14は、光学的な被写体像を形成し、撮像素子15の受光面上に結像させるものである。撮影レンズ14(の駆動機構等)は、制御手段10の制御部17によって、その駆動制御が行なわれる。
撮像素子15は、CCD,CMOS等の光電変換素子からなり、撮影レンズ14により結像された光学像を電気的な画像データに変換するための電気部品である。撮像素子15は、制御手段10の制御部17によって、その駆動制御が行なわれる。
アナログデジタル変換器(A/D)16は、撮像素子15からのアナログ出力を受けて、デジタル信号に変換するアナログデジタル変換器である。
表示装置12は、上記表示処理部22により変換生成された表示用画像データを受けて画像を表示する表示手段であって、例えばLCD等が適用される。なお、表示装置12としては、本カメラ1と一体に構成される形態の他、本カメラ1とは別体に構成され、接続ケーブル等で接続される独立した形態の装置を適用することもできる。
記録装置13は、上記記録処理部23により変換生成された記録用画像データを記録するための装置であって、記録媒体と、そのドライブ回路や駆動機構等を含んで構成される。なお、記録装置13についても、上記表示装置12と同様に、本カメラ1と一体構成とする形態の他、本カメラ1とは別体構成とした形態の装置としてもよい。
一方、外部機器である端末機器2は、端末側制御手段30と、操作部材31と、端末側表示装置32等によって主に構成されている。
端末側制御手段30は、端末機器2側の電気的な制御全般を行なう制御手段である。この端末側制御手段30は、端末側制御部37と、端末側画像処理部38と、端末側DRAM33と、端末側通信制御部34と、操作制御部35と、端末側表示処理部36等を含んで主に構成されている。
端末側制御部37は、CPU等を含み本端末機器2の全体的な制御を行なう制御回路である。端末側DRAM33は、カメラ1側から送信され通信制御部34を介して受信した画像データを一時的に記憶させておく一時メモリ手段である。端末側画像処理部38は、端末側DRAM33に一時記憶された画像データについての画像処理を行なう画像処理回路部である。端末側表示処理部36は、表示装置32との間に介在し上記端末側DRAM33に一時記憶されている画像データを受けて表示装置32によって取り扱い得る表示用画像データに変換するデータ処理等を行なう処理回路部である。端末側通信制御部34は、上記カメラ1の通信制御部24との間で、所定の通信規格等に準拠したデータ通信を行なうための制御回路部である。なお、本実施形態において、端末側通信制御部34は、無線通信を行なう機能を有するものとする。
操作制御部35は、該端末機器2側のタッチパネルを含む操作部材31からの指示信号を受けて対応する操作制御を行なう制御回路部である。
操作部材31は、該端末機器2に対する各種の指示を入力するための入力部材等であり、通常のボタン式,スライド式,回転式,シーソー式等のスイッチ部材等に加え、表示装置32の表示画面上に配設されるタッチパネル等が適用される。操作部材31としてタッチパネルが適用される場合、操作制御部35は、端末側表示処理部36との連繋による制御を行なう。
端末側表示装置32は、上記端末側表示処理部36により変換生成された表示用画像データを受けて画像を表示する表示手段であって、例えばLCD等が適用される。
このように構成された上記カメラ1と上記端末機器2とからなるカメラシステムの作用の概略を、以下に説明する。
まず、カメラ1がオン状態にあり、かつ撮影モードに設定されているものとする。このとき、カメラ1の制御手段10の制御部17は、撮像ユニット11,表示装置12等を制御して表示画面にライブビュー画像を表示させる。これらの作用は、従来の通常のカメラによって一般に行なわれている処理である。
しかしながら、本実施形態のカメラ1においては、上述したように二つの画像処理部(第1の画像処理部20と第2の画像処理部21)を具備している。そこで、本カメラ1においては、通常のライブビュー画像表示形態、即ち表示装置12の全表示領域に単一の画像を表示させる形態とは異なる形態のライブビュー画像表示、例えば複数画像を同時に表示させるマルチライブビュー表示等を実行し得る。
マルチライブビュー画像表示形態の具体例としては、例えば、表示装置12の全表示領域を使って単一の画像を表示させるのと同時に、これに重畳させて小サイズの画像表示枠を設け、この小サイズ画像表示枠に、全表示領域に表示中の画像とは異なる画像を表示させる形態等が考えられる。
具体的には図2に示すように、第1の画像処理部20によって生成処理した画像データに基く画像を、表示装置12の全表示領域(以下、メイン画面Mというものとする。図2の符号Mで示す領域)に表示させる一方、第2の画像処理部21によって生成処理した画像データに基く画像を、小サイズ画像表示枠(以下、サブ画面Sというものとする。図2の符号Sで示す領域)に表示させる。
この場合において、メイン画面Mのサイズに対するサブ画面Sのサイズとして、面積比で4:1若しくはそれ以下とするのが望ましい。換言すれば、例えばメイン画面Mの画面解像度をVGA(640ピクセル×480ピクセル)とし、これに対してサブ画面Sの画面解像度をQVGA(320ピクセル×240ピクセル;この場合面積比4:1)等とすればよい。また、両画像データの合成処理若しくは重畳表示処理は、表示処理部22等で行なえばよい。
このように本カメラ1においては、ライブビュー画像表示形態として、通常表示モードの他に、マルチライブビュー表示モード等、複数の表示形態でライブビュー表示を行ない得る。
そして、このようなライブビュー表示形態は、該カメラ1と無線通信によって接続される端末機器2においても再現可能となっている。そのために、カメラ1から端末機器2に対して無線通信を介してライブビュー表示用の画像データが送信される。端末機器2は、これを受けて表示装置32を用いてライブビュー表示を行なう。
この場合において、ライブビュー表示を円滑に実行し続けるためには、大量のデータ通信を連続的に行なう必要があるが、使用状況によっては、例えば通信劣化によって通信速度が低下する等、常に良好な無線通信を継続し得るとは限らない。
そこで、本実施形態のカメラシステムにおいては、無線通信状況の変化に応じて、カメラ1から端末機器2へと転送すべき画像データ量の調整を行なうようにしている。これにより、端末機器2側では常に円滑なライブビュー表示を見ることができるようになる。
一方、端末機器2においては、操作部材31を用いて所望の操作指示を行うと、その指示信号が無線通信を介してカメラ1側へと伝達される。これにより、端末機器2側からカメラ1の遠隔操作を行なうことができるようになっている。
このような本実施形態のカメラシステムによる作用を、図8,図9のフローチャートによって以下に説明する。なお、図9はカメラ1側の処理シーケンスを示し、図9は端末機器2側の処理シーケンスを示している。そして、図8,図9は同時進行で実行される。
まず、カメラ1の電源状態がオフ状態にあるとき、使用者が電源操作スイッチ(不図示)を操作して、カメラ1の電源状態をオン状態に切り換える。これによりカメラ1は起動する。
通常のカメラにおいて、起動直後の動作モードとしては、撮影動作を実行し得る撮影モードで起動するのが普通である。したがって、本実施形態のカメラ1においても、電源オン操作後に撮影モードで起動するものとする。
このようにしてカメラ1が起動すると、図8のステップS101において、制御部17は、ライブビュー表示モードの確認を行なう。
続いて、ステップS102において、制御部17は、設定されているライブビュー表示モードがマルチライブビュー表示モードであるか否かの判断を行なう。ここで、マルチライブビュー表示モードに設定されている場合には、次のステップS103の処理に進む。また、マルチライブビュー表示モードではない場合には、ステップS104の処理に進む。
ステップS103において、制御手段10の制御部17は、撮像ユニット11,表示装置12等を制御してマルチライブビュー表示を実行する。このマルチライブビュー表示は、次のように行われる。即ち、撮影レンズ14により結像される光学像が撮像素子15によって光電変換される。これにより生成されたアナログ画像信号は、A/D16によってデジタル画像信号に変換される。これにより生成された画像信号は、信号処理部18に入力されて所定の信号処理が施された後、DRAM19に一時的に記憶される。
DRAM19に一時記憶された画像データは、第1の画像処理部20及び第2の画像処理部21のそれぞれに入力されて、制御部17の制御下において各別の画像処理が施される。
ここで、本カメラ1の撮像素子15によって取得され得る画像データのサイズとして、例えば最大画像サイズが1600万画素(16メガ画素;4608×3456ピクセル)の画像データを取り扱い得るものとする。
ライブビュー表示用画像の画像サイズとしては、通常の場合、VGAサイズ(640×480ピクセル)の画像であればよい。また、その場合の表示用フレームレートは30fps程度あるのが望ましい。したがって、第1の画像処理部20においては、16メガ画素の画像データをVGAサイズの画像データとする縮小処理(リサイズ処理)等をフレームごとに行なう。
一方、第2の画像処理部21においては、例えば撮像素子15によって取得された全画像領域のうちから一部の領域を切り取るトリミング処理を行なって、例えばQVGAサイズ(320×240ピクセル)程度の小サイズ画像を生成する。
この場合において、第2の画像処理部21が対象とする小サイズ画像の対象としては、例えば顔認識技術等を利用して全画像範囲ないから識別された特定人物の顔を含む所定の領域等を対象とすればよい。
こうして、第1の画像処理部20,第2の画像処理部21によってそれぞれ生成された二つの異なる画像データは、DRAM19に一時的に記憶された後、表示処理部22を介して表示装置12へと出力される。これにより、表示装置12の表示画面上には、上述の図2に示すような形態のマルチライブビュー表示がなされる。
このときのマルチライブビュー表示の具体例を、図3に示す。図3は、カメラ1の表示装置12(若しくは端末機器2の表示装置32)の表示画面の表示例である。図3に示すように、メイン画面Mの領域には複数の人物等を含む被写体像が表示されている状態にある。このとき、サブ画面Sの領域には、顔認識技術に基く顔認識マーク32aによって識別された被写体人物100の顔部分を含む所定範囲の小サイズ画像が表示されていることを表している。
なお、ライブビュー表示とは所定のフレームレートにて連続的に画像表示が切り換わるものであるが、図3においては、カメラ1のライブビュー表示の一場面のみが紙面上に図示されているものに過ぎない。
図8に戻って、ステップS104において、制御部17は、設定されているライブビュー表示モードが通常ライブビュー表示モードであるか否かの判断を行なう。ここで、通常ライブビュー表示モードに設定されている場合には、通常ライブビュー表示モードの処理に進む。また、通常ライブビュー表示モードではない場合には、その他の処理に進む。なお、ここで、「通常ライブビュー表示モード処理」や「その他の処理」については、本発明とは直接関連しない部分であるので、その図示及び詳細説明は省略する。
続いて、ステップS105において、制御部17は、通信制御部24を制御して端末機器2との間における接続状況の確認処理を実行する。接続状況確認処理とは、例えば所定の信号を発信し、それに対する所定の信号が受信する等、無線通信を行なう機器システムにて一般的に行われる処理である。
ここで、カメラ1と端末機器2との間での無線通信接続が確認されて、通信が確立されるためには、端末機器2側も電源オン状態で待機状態になっている必要がある。
そして、上述のステップS105の処理にて、カメラ1から所定の通信確認信号等が発信されたとき、端末機器2は、その信号を受信した後、対応する確認信号を返信する必要がある。
即ち、図9のステップS201において、端末機器2の端末側制御部37は、カメラ1との間の接続状況の確認処理を行なう。
ステップS202において、端末側制御部37は、カメラ1からの通信確認信号を受信したか否か、即ちカメラ1との接続が確認されたか否かの判断を行なう。ここで、接続確認がなされた場合には、制御部17による端末側通信制御部34の制御によって、例えば返信の確認信号を送信した後、ステップS204の処理に進む。また、接続確認がなされなかった場合には、ステップS203の処理に進む。
ステップS203において、端末側制御部37は、端末側表示処理部36を介して端末側表示装置32を制御して、所定の警告表示を実行する。この警告表示とは、例えば、「カメラとの接続が確立できませんでした」等といった文字等によるメッセージ表示等である。その後、ステップS201の処理に戻り、以降の処理を繰り返す。
上述したように、図9のステップS202の処理にて、返信の確認信号が送信されると、カメラ1側の通信制御部24は、これを受信する。これを受けて、カメラ1では、図8のステップS106において、端末機器2との間の無線通信接続が確認されたものと判断されて、次のステップS107の処理に進む。一方、端末機器2側からの確認信号を受信できずに、端末機器2との接続が確認されなかった場合には、上述のステップS101の処理に戻り、以降の処理を繰り返す。
ステップS107において、制御部17は、通信制御部24を監視して端末機器2からの操作指示信号を確認する処理を行なう。ここで、カメラ1は指示待機状態になる。
一方、端末機器2側では、図9のステップS204において、端末側制御部37が操作制御部35を介して操作部材31からの指示信号を確認する。
ステップS205において、端末側制御部37は、使用者が操作部材31を操作して、ライブビュー表示の切り換え指示のための操作を行なったか否かの確認を行なう。
ここで、ライブビュー表示切換指示操作についての操作例を、図4を用いて以下に簡単に説明する。図4は、端末機器2の表示装置32の表示画面において、ライブビュー表示切り換え指示の操作例を説明する図である。図4においては、サブ画面S領域に表示されるサブ画像を変更する指示操作の操作例を説明している。
図4に示すように、表示装置32の表示画面上においては、上述の図3で示す状態と同様のマルチライブビュー画像が表示されているものとする。この状態において、サブ画面Sの領域には、メイン画面Mの領域中の特定の人物100の顔部分(顔認識マーク32aで示される部分)が表示されているものとする。
ここで、使用者は、手指を用いて表示装置32の表示画面(操作部材31としてのタッチパネルが設けられているものとする)上の図4の符号110aの位置から同図4の符号110bの位置であって、メイン画面Mの領域中の別の人物110の顔部分辺りに顔認識マーク32aをスライド移動させる操作を行なう。
このスライド操作指示は、端末機器2から無線通信を介してカメラ1側へと伝達され、これを受けたカメラ1の制御手段10は、表示中のライブビュー画像に代えて上記操作指示に応じた画像処理を実行する。具体的には、サブ画面Sの領域に表示する画像を、図4の表示状態(被写体人物100の顔画像)から図5の表示状態(被写体人物101の顔画像)へと変更する処理等である。これにより、表示装置32の表示画面は、図5に示すようになる。
また、ライブビュー表示切換指示操作についての他の操作例を、図6を用いて以下に簡単に説明する。図6は、端末機器2の表示装置32の表示画面において、ライブビュー表示切り換え指示の他の操作例を説明する図である。図6においては、メイン画面M領域とサブ画面S領域にそれぞれ表示される画像を切り換える指示操作の操作例を説明している。
図6に示すように、表示装置32の表示画面上においては、上述の図5に示す状態と同様のマルチライブビュー画像が表示されているものとする。この状態においては、メイン画面Mの領域には撮像素子15によって取得された画像データに基く画像の全領域(全体画像という)が表示されており、サブ画面Sの領域にはメイン画面Mの領域中の特定の人物101の顔部分(顔認識マーク32aで示される部分)のトリミング画像が表示されているものとする。
ここで、使用者は、手指を用いて表示装置32の表示画面(操作部材31としてのタッチパネルが設けられているものとする)上のサブ画面Sの領域を、図6に示すようにタッチ操作する。
このタッチ操作指示は、端末機器2から無線通信を介してカメラ1側へと伝達され、これを受けたカメラ1の制御手段10は、表示中のライブビュー画像に代えて上記操作指示に応じた画像処理を実行する。具体的には、メイン画面Mとサブ画面Sのそれぞれに表示している画像を入れ換えて、メイン画面Mの領域に上記トリミング画像を、サブ画面Sの領域に上記全体画像をそれぞれ表示させる処理等である。これにより、表示装置32の表示画面は、図7に示すようになる。
図9に戻って、上述のステップS205の処理にてライブビュー表示切換指示信号が確認された場合には、ステップS206の処理に進む。また、ライブビュー表示切換指示信号が確認されない場合には、次のステップS207の処理に進む。
なお、本実施形態においては、ライブビュー表示切換指示信号が確認されない場合にステップS207の処理に進むようにしているが、その他の操作指示が確認された場合には、その操作指示に応じた別の処理シーケンスが実行されることになる。この「その他の操作指示」の場合の処理シーケンスについては、本発明と直接関連しないので、その図示及び説明は省略する。また、ステップS204の確認処理にて、操作指示が何もなかった場合には、図示を省略しているが、端末側制御部37等の有する内部時計を参照して所定時間経過後に次のステップS207の処理に移行するようにすればよい。
ステップS206において、端末側制御部37は、上述のステップS205の処理にて確認された指示信号を、端末側通信制御部34を制御して送信処理する。その後、本端末機器2は待機状態になる。
こうして、端末機器2側の端末側通信制御部34から送信されたライブビュー表示切換指示信号は、上述の図8のステップS107において待機中のカメラ1において、通信制御部24を介して制御部17により受信される。
そして、カメラ1側においては、図8のステップS108において、制御部17は、受信した指示信号がライブビュー表示切り換え指示信号であるか否かの確認を行なう。ここで、受信した指示信号がライブビュー表示切り換え指示信号であることが確認された場合には、次のステップS109の処理に進む。また、受信指示信号がライブビュー表示切り換え指示信号ではないことが確認された場合(その他の指示若しくは操作指示のない場合)には、次のステップS110の処理に進む。
ステップS110において、制御部17は、現在設定されている設定情報に基いて第1の画像処理部20,第2の画像処理部21,表示処理部22等を制御してライブビュー表示処理を実行する。
ステップS109において、制御部17は、上述のステップS108の処理にて受信した指示内容に応じた設定情報に基いて第1の画像処理部20,第2の画像処理部21,表示処理部22等を制御してライブビュー表示処理を実行する。
次に、カメラ1側では、図8のステップS111において、制御部17は、通信制御部24を制御してライブビュー表示情報を送信する。
続いて、ステップS112において、制御部17は、通信制御部24を制御してライブビュー表示用の画像データを送信する。
これを受けて、端末機器2側では、図9のステップS207において、端末側制御部37は、端末側通信制御部34を制御してライブビュー表示情報を受信する。
続いて、ステップS208において、端末側制御部37は、端末側通信制御部34を制御してライブビュー表示用の画像データを受信する。
次に、端末機器2側では、ステップS209において、無線通信の状況の確認、例えば転送レート等の確認を行なう。この確認処理は、例えば上述のステップS208の処理による画像データの受信結果に基いて転送レートを類推するといった処理である。
例えば、画像サイズをVGA(640x480ピクセル),フレームレートを30fpsとする二画面分のライブビュー表示用画像データの場合、必要とする転送レートは、約147Mbpsとなる。
一方、既存の無線通信規格としては、例えば広く普及している無線LAN関連規格の一つであるIEEE 802.11等がある。この規格には、伝送規格によって複数種類の規格グループが策定されている。各規格グループにおけるデータ転送についての公称速度は、
IEEE802.11b : 11Mbps/22Mbps
IEEE802.11a : 54Mbps
IEEE802.11g : 54Mbps
IEEE802.11n : 600Mbps(実効速度は100Mbps程度)
等とされている。以上のことから、現在における既存の無線通信規格に基く通信を行なう場合、画像サイズの条件が上記の条件である二画面分のライブビュー表示用画像を無線転送しようとすると、非常に厳しいことがわかる。
さらに、端末機器2側では、受信したライブビュー表示用画像データに対する表示用の処理を行なうことになるので、ライブビュー表示用画像データの転送速度低下に影響を及ぼす可能性もある。
したがって、本実施形態のカメラ1においては、無線通信状況に応じて送信すべきライブビュー表示用画像データを最適化処理(画像サイズ縮小化やフレームレート低減化等の各種の処理;リサイズ処理)等の画像処理を行なって、無線通信による画像データの転送を支障無く行なって、かつ端末機器2側での再生動作をスムーズに違和感なく行ない得るようにしている。
なお、ライブビュー表示用画像データの最適化処理を行なうのに際しては、無線通信状況に応じてフレームレートの低減若しくは画像サイズの縮小化等のリサイズ処理等を行なうが、その場合には、画質を優先しながら、各種の画像劣化処理を行なうようにしている。
具体的には、例えば図10の示す表を参照して、メイン画面M用の画像データとサブ画面S用の画像データのそれぞれの画像サイズ,フレームレートを、無線通信状況(通信レート等)に応じて決定する。
なお、メイン画面Mに表示させる画像とサブ画面Sに表示させる画像とで、異なる表示レートとすることができないので、図10の表中において、例えば符号Aで示す条件による送信がなされた場合、メイン画面Mにおいて6フレーム分の表示を行なう間、サブ画面Sにおいては1フレーム分の表示を継続する、という表示形態とすればよい。
ところで、無線通信を利用する場合、データ転送中に通信が途切れてしまうことがあるので、通常の無線通信によるデータ転送は、パケット通信方式により、パケット単位でチェックコードを付加するようにして、データ転送が正しく行なわれたかどうかを確認することができるようにしている。このチェック処理を利用すれば、単位時間あたりのデータ転送時間を類推でき、これによって無線通信状況を確認することができる。
図9に戻って、上述のステップS209の処理にて、上述したような手段によって転送レートを確認すると、次のステップS210において、端末側制御部37は、端末側通信制御部34を介して転送レート情報を送信する。
これを受けて、カメラ1側の制御部17は、図8のステップS113において、通信制御部24を介して当該転送レート情報を受信する。
続いて、ステップS114において、制御部17は、受信した転送レート情報についての確認を行ない、通信状況が良好であるか否かの確認を、上述の図10の表を参照して行なう。なお、図10で示す参照表データは、図示しない内部メモリ(ROM)領域等、若しくは記録装置13に含まれる記録媒体等に予め記憶されているものとする。ここで、通信状況が良好であると判断された場合には、ステップS116の処理に進む。また、通信状況が良好ではないと判断された場合には、ステップS115の書ルに進む。
ステップS115において、制御部17は、第1の画像処理部20,第2の画像処理部21を制御して、上記受信した転送レート情報に基く画像処理、即ちライブビュー表示用の画像サイズやフレームレートの変更処理を実行する。その後、ステップS116の処理に進む。
ステップS116において、制御部17は、通信制御部24を監視して、端末機器2からの操作指示の有無を確認する。
ステップS117において、制御部17は、端末機器2からの操作指示を確認した場合には、ステップS118の処理に進む。また、確認しなかった場合には、上述のステップS101の処理に戻り、以降の処理を繰り返す。
ステップS118において、制御部17は、上記確認された操作指示内容に応じた処理を実行する。その後、上述のステップS101の処理に戻り、以降の処理を繰り返す。
一方、端末機器2側においては、図9のステップS211において、端末側制御部37は、表示処理部36を介して表示装置32を制御して、受信済みのライブビュー表示用画像データに基くライブビュー画像を表示する。
続いて、ステップS212において、端末側制御部37は、操作制御部35を介して操作部材31からの操作指示信号の有無を確認する。
ステップS213において、端末側制御部37は、操作指示信号が確認された場合には、次のステップS214の処理に進み、このステップS214において、端末側制御部37は、端末側通信制御部34を介して上記確認された操作指示信号を送信する。なお、この指示信号は、上述の図8のステップS116,S117の処理にて確認受信される信号に相当する。
上記ステップS213の処理にて、操作指示信号が確認されない場合には、上述のステップS201の処理に戻り、以降の処理を繰り返す。
以上説明したように上記一実施形態によれば、二つの画像処理手段(20,21)を設け、表示装置12の表示画面に、二種の画像データに基く二つの画像を同時に表示し得るようにしたカメラ1と、このカメラ1の通信制御部24から送信された上記二種の画像データを受信して、カメラ1側の表示と同様の表示を行ない得るようにした端末機器2とによってカメラシステムを構成している。
カメラ1は、二つの画像処理手段(20,21)を設けたので、撮像素子15によって取得した一つの画像データに基いて、同時に異なる画像処理を行なって、二種の画像データを生成することが容易にできる。こうして生成した二種の画像データに基いて、二つの画像を表示装置12の表示画面に同時に表示し得るようにしたので、表示形態の多様化に寄与することができる。
端末機器2は、上記カメラ1から無線通信を利用して送信された画像データを受信して、上記カメラ1の表示装置12に表示されるのと同様の形態の画像を、端末側表示装置32の表示画面に表示させることができる。
そして、上記カメラ1と上記端末機器2とによって構成されるカメラシステムにおいては、端末機器2において操作指示を行なうと、その指示信号が無線通信によってカメラ1側に伝達され、カメラ1側では、その指示信号に応じた画像処理が行なわれる。そして、その画像処理によって生成された画像データは、カメラ1側から端末機器2側へと送信され、これを受信した端末機器2は、操作指示に基いて生成された画像データに基く画像を表示させることができる。
この場合において、無線通信の状況を確認し、通信状況が良好ではない場合には、自動的に画像データのリサイズ処理等が行われるので、通信状況が悪化した場合にも通信が途切れることなく状況に応じた画像データを受信することができる。したがって、端末機器2は、常に画像データを受信して、これに基く画像を表示させることができる。
上述の各実施形態で説明した各処理シーケンスは、その性質に反しない限り、手順の変更を許容し得る。したがって、上述の処理シーケンスに対して、例えば各処理ステップの実行順序を変更したり、複数の処理ステップを同時に実行させたり、一連の処理シーケンスを実行する毎に、各処理ステップの順序が異なるようにしてもよい。
なお、本発明は上述した実施形態に限定されるものではなく、発明の主旨を逸脱しない範囲内において種々の変形や応用を実施し得ることが可能であることは勿論である。さらに、上記実施形態には、種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせによって、種々の発明が抽出され得る。例えば、上記一実施形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題が解決でき、発明の効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
本発明は、デジタルカメラ等の撮影機能に特化した電子機器である撮影機器に限られることはなく、撮影機能を備えた他の形態の電子機器、例えば携帯電話,録音機器,電子手帳,パーソナルコンピュータ,ゲーム機器,テレビ,時計,GPS(Global Positioning System)を利用したナビゲーション機器等、各種の撮影機能付き電子機器にも適用することができる。
1…カメラ,2…端末機器,10…カメラ側制御手段,11…撮像ユニット,12…表示装置,13…記録装置,14…撮影レンズ,15…撮像素子,16…アナログデジタル変換器,17…制御部,18…信号処理部,19…DRAM,20…第1の画像処理部,21…第2の画像処理部,22…表示処理部,23…記録処理部,24…通信制御部,30…端末側制御手段,31…操作部材,32…端末側表示装置,33…端末側DRAM,34…端末側通信制御部,35…操作制御部,36…端末側表示処理部,37…端末側制御部,38…端末側画像処理部

Claims (5)

  1. 撮像素子及び撮影レンズを備えた撮像手段と、
    上記撮像手段からの出力される画像データを受けて、それぞれが異なる画像処理を同時に並行して実行する二つの画像処理手段と、
    上記二つの画像処理手段からそれぞれ出力される画像データに基く二画像を一画面上に同時に表示する表示手段と、
    外部機器との間で無線通信を行なう通信制御手段と、
    機器全体を制御する制御手段と、
    を具備し、
    上記二つの画像処理手段は、上記通信制御手段を介して受信された上記外部機器からの指示信号に応じて、上記撮像手段により取得された画像データに対して異なる画像処理を行なって画像サイズの異なる二種類の画像データを生成し、
    上記通信制御手段は、上記二つの画像処理手段により生成された上記二種類の画像データを送信することを特徴とする撮影機器。
  2. 上記二つの画像処理手段のうちの第1の画像処理手段は、上記撮像手段により取得された画像データのリサイズ処理を行ない、第2の画像処理手段は、上記撮像手段により取得された画像データに基く画像中の一部の領域を切り取るトリミング処理を行なうことを特徴とする請求項1に記載の撮影機器。
  3. 撮影機器との間で無線通信を行なう通信制御手段と、
    上記通信制御手段を介して受信した画像データに基く画像を表示する表示手段と、
    操作入力指示を行なう操作部材と、
    機器全体を制御する制御手段と、
    を具備し、
    上記通信制御手段は、上記操作部材による操作指示信号を上記撮影機器へと送信し、該撮影機器を遠隔操作し得ることを特徴とする外部機器。
  4. 上記操作部材はタッチパネルからなり、
    上記操作部材による入力指示信号は、上記通信制御手段を介して上記撮影機器へと送信されることを特徴とする請求項3に記載の外部機器。
  5. 撮像素子及び撮影レンズを備えた撮像手段と、上記撮像手段からの出力される画像データを受けて異なる画像処理を行なう二つの画像処理手段と、上記二つの画像処理手段から出力される画像データに基く画像を表示する表示手段と、外部機器との間で無線通信を行なう通信制御手段と、機器全体を制御する制御手段とを具備する撮影機器と、
    上記撮影機器との間で無線通信を行なう端末側通信制御手段と、上記端末側通信制御手段を介して受信される画像データに基く画像を表示する端末側表示手段と、操作入力指示を行なう操作部材と、機器全体を制御する端末側制御手段とを具備する外部機器と、
    を具備し、
    上記二つの画像処理手段は、上記操作部材から生じ上記端末側通信制御手段から送信され上記通信制御手段を介して受信された操作入力指示信号に応じて、上記撮像手段によって取得された画像データに対して異なる画像処理を行なって画像サイズの異なる二種類の画像データを生成し、
    上記通信制御手段は、上記二つの画像処理手段により生成された上記二種類の画像データを送信し、
    上記端末側通信制御手段は、上記二種類の画像データを受信して、上記端末側表示手段によって画像表示することを特徴とするカメラシステム。
JP2011142294A 2011-06-27 2011-06-27 撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部器機からなるカメラシステム,撮影機器の撮影制御方法及び撮影制御プログラム,外部機器の撮影制御方法及び撮影制御プログラム Expired - Fee Related JP5820635B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011142294A JP5820635B2 (ja) 2011-06-27 2011-06-27 撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部器機からなるカメラシステム,撮影機器の撮影制御方法及び撮影制御プログラム,外部機器の撮影制御方法及び撮影制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011142294A JP5820635B2 (ja) 2011-06-27 2011-06-27 撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部器機からなるカメラシステム,撮影機器の撮影制御方法及び撮影制御プログラム,外部機器の撮影制御方法及び撮影制御プログラム

Publications (3)

Publication Number Publication Date
JP2013009278A true JP2013009278A (ja) 2013-01-10
JP2013009278A5 JP2013009278A5 (ja) 2014-05-08
JP5820635B2 JP5820635B2 (ja) 2015-11-24

Family

ID=47676240

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011142294A Expired - Fee Related JP5820635B2 (ja) 2011-06-27 2011-06-27 撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部器機からなるカメラシステム,撮影機器の撮影制御方法及び撮影制御プログラム,外部機器の撮影制御方法及び撮影制御プログラム

Country Status (1)

Country Link
JP (1) JP5820635B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019523726A (ja) * 2016-05-24 2019-08-29 ジェンテックス コーポレイション 選択画像データ表示を有する車両表示
US10528792B2 (en) 2016-06-17 2020-01-07 Canon Kabushiki Kaisha Display apparatus and display control method for simultaneously displaying a plurality of images
WO2021153507A1 (ja) * 2020-01-31 2021-08-05 ソニーグループ株式会社 撮像装置、撮像装置の制御方法、制御プログラム、情報処理装置、情報処理装置の制御方法および制御プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09298737A (ja) * 1996-04-30 1997-11-18 Toshiba Corp ネットワークを利用した動画再生システム
JP2004120341A (ja) * 2002-09-26 2004-04-15 Riosu Corp:Kk 映像監視システム
JP2007081537A (ja) * 2005-09-12 2007-03-29 Sony Corp 撮像装置
JP2011109271A (ja) * 2009-11-13 2011-06-02 Olympus Imaging Corp 画像処理装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09298737A (ja) * 1996-04-30 1997-11-18 Toshiba Corp ネットワークを利用した動画再生システム
JP2004120341A (ja) * 2002-09-26 2004-04-15 Riosu Corp:Kk 映像監視システム
JP2007081537A (ja) * 2005-09-12 2007-03-29 Sony Corp 撮像装置
JP2011109271A (ja) * 2009-11-13 2011-06-02 Olympus Imaging Corp 画像処理装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019523726A (ja) * 2016-05-24 2019-08-29 ジェンテックス コーポレイション 選択画像データ表示を有する車両表示
US10528792B2 (en) 2016-06-17 2020-01-07 Canon Kabushiki Kaisha Display apparatus and display control method for simultaneously displaying a plurality of images
WO2021153507A1 (ja) * 2020-01-31 2021-08-05 ソニーグループ株式会社 撮像装置、撮像装置の制御方法、制御プログラム、情報処理装置、情報処理装置の制御方法および制御プログラム

Also Published As

Publication number Publication date
JP5820635B2 (ja) 2015-11-24

Similar Documents

Publication Publication Date Title
CN106716989B (zh) 摄像装置、摄像方法及程序
US9357126B2 (en) Imaging operation terminal, imaging system, imaging operation method, and program device in which an operation mode of the operation terminal is selected based on its contact state with an imaging device
US20140244858A1 (en) Communication system and relaying device
US9438784B2 (en) Camera operation terminal, camera, imaging system, imaging method, and computer-readable device
JP5880210B2 (ja) 通信装置、撮像装置、撮像システム及びプログラム
US20130076918A1 (en) Method for controlling camera using terminal and terminal thereof
JP2009021880A (ja) 遠隔撮影システム
JP2014007653A (ja) 撮像装置、撮像方法、撮像システム及びプログラム
JP5838852B2 (ja) 撮像システム、撮像装置、撮像方法及びプログラム
KR100738803B1 (ko) 하나의 이미지 센서로 듀얼 카메라 기능을 구현하는 카메라모듈 및 휴대용 단말기
JP2013115551A (ja) 電子機器およびプログラム
JP5820635B2 (ja) 撮影機器及びこの撮影機器と通信する外部機器,撮影機器及び外部器機からなるカメラシステム,撮影機器の撮影制御方法及び撮影制御プログラム,外部機器の撮影制御方法及び撮影制御プログラム
US10986247B2 (en) Communication apparatus, data transfer apparatus, and methods of controlling them
US10158801B2 (en) Image capturing apparatus communicating with an external apparatus and method for controlling the same and storage medium
KR20070113578A (ko) 화상통화 기능을 갖는 이동통신 단말기 및 이를 이용한화상처리 방법
CN108989543B (zh) 通信设备及其控制方法和存储介质
JP2007221686A (ja) 無線通信可能な撮像装置、その制御方法、及びプログラム
CN108810363B (zh) 摄像设备及其控制方法和存储介质
JP2010056768A (ja) 撮影システム並びに当該撮影システムを構成する撮影装置及び操作装置
US20230328375A1 (en) Imaging apparatus, focus control method, and focus control program
JP6546446B2 (ja) ウェアラブルデバイス及びその制御方法ならびにプログラム
US20230232114A1 (en) Imaging device, imaging method, and imaging program
US20230188835A1 (en) Imaging device, imaging instruction method, and imaging instruction program
JP2006013881A (ja) 画像表示を備えたリモコンのシステムとその使用方法
JP2007329577A (ja) 撮像装置、その制御方法、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140324

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150403

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20150423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150818

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150915

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151005

R151 Written notification of patent or utility model registration

Ref document number: 5820635

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees