JP5082973B2 - 映像記録システム、及び撮像装置 - Google Patents

映像記録システム、及び撮像装置 Download PDF

Info

Publication number
JP5082973B2
JP5082973B2 JP2008079501A JP2008079501A JP5082973B2 JP 5082973 B2 JP5082973 B2 JP 5082973B2 JP 2008079501 A JP2008079501 A JP 2008079501A JP 2008079501 A JP2008079501 A JP 2008079501A JP 5082973 B2 JP5082973 B2 JP 5082973B2
Authority
JP
Japan
Prior art keywords
compressed video
video information
image data
output
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008079501A
Other languages
English (en)
Other versions
JP2009239381A (ja
Inventor
大輔 吉田
将 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2008079501A priority Critical patent/JP5082973B2/ja
Priority to US12/361,599 priority patent/US20090244305A1/en
Publication of JP2009239381A publication Critical patent/JP2009239381A/ja
Application granted granted Critical
Publication of JP5082973B2 publication Critical patent/JP5082973B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/39Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability involving multiple description coding [MDC], i.e. with separate layers being structured as independently decodable descriptions of input picture data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置と情報処理装置とからなる映像記録システム、及び撮像装置に関する。
H.264や、JPEG等の画像圧縮技術を採用するビデオカメラや電子スチルカメラ等の撮像装置が普及している。また、カメラ等によって撮影された動画像や静止画像を大画面テレビやPCで閲覧することが普及している。一方、通信回線の高速化等、ネットワーク環境も充実してきている。このような背景の中で、撮像装置で、撮影した映像を遠隔地に存在する装置へ送信する発明が検討されている。
特許文献1には、「映像記録媒体を用いることなく映像データを保存、再生あるいは加工することができる映像データ管理方法及び映像データ管理システムを提供する」という目的が記載されている。また、「前記映像記録装置にて撮影した映像データを、前記ネットワークを介して当該映像記録装置と接続される映像管理装置に送信し、前記映像管理装置に送信されてきた映像データを当該映像管理装置に保存する」映像データ管理システムが記載されている。
特許文献2には、「ビデオカメラで撮影した画像の編集を容易にする」という目的が記載されており、「映像情報撮像装置10が本画像データと簡易画像データを同時に作成し、本画像データをテープ等の記録媒体20に記録し、簡易画像データをネットワーク経由でサーバ装置30へ出力する」映像情報撮像システムが記載されている。
特開2002−10184号公報 特開2004−328105号公報
テレビ放送のハイビジョン化、テレビ受像機の大画面化に伴い、これらに表示する画像データのサイズは肥大しており、画像データを保存するストレージに必要な容量も大きくなっている。
そして、データの大容量化するほど、撮像装置のユーザが、ストレージの空き容量を気にしながら装置を利用する必要が高まる。一方、撮像装置を使い勝手良く利用するためには、プレビュー機能、サムネイル表示機能、あるいはレックビュー機能といった、画像を確認するために再生する機能も求められる。
これに対して、特許文献1においては、映像記録装置から画像を外部装置に送ることにより、ユーザ端末の記録媒体を用いないこと、あるいは記録媒体の空き容量を増やすことが可能となる。
しかしながら、特許文献1の映像管理システムにおいて、映像データを映像管理装置に送信した後に再び映像データを再生するには、映像管理装置から映像データをダウンロード等する必要がある。従って、ユーザにとっての手間となる。
一方、特許文献2においては、簡易画像をサーバ等に送信することによって、サーバ装置での画像の管理を容易にすることが可能となっている。また、主画像を映像情報撮像装置で再生することも可能である。
しかし、サーバにて一括管理されるのは編集のための簡易画像データである。従って、ストレージ容量の限られた本画像データを映像情報撮像装置側に残しておくことにより、ユーザは記録時間や記録枚数にも従来どおり配慮が必要となる。
また、特許文献2においては、撮像装置が備えるディスプレイは、一般的に、同世代のテレビ受像機等が表示できる情報量に比べて小さい場合が多い。そして、従来の機器で再生を行うにはいったん大サイズの撮影データを再生し、表示する際にディスプレイの大きさに縮小するということが行われている。したがって、大きなサイズの撮影データを小型ディスプレイのためだけに再生するには、その分電力消費を伴う。
さらに、特許文献2においては、サーバ装置において、本画像を出力する場合は、サーバ装置で簡易画像を検索等おこなってから、本画像を映像情報撮像装置から受信する必要がある。このため、再度サーバ装置と映像情報撮像装置との間で送受信を行うための手間が発生する。
本願発明では、撮像装置で取得した画像を情報処理装置に送信する場合において、撮像装置での撮像した画像を再生する機能の利便性を確保しつつ、その記録容量の空き容量の減少を抑制することを課題とする。
該課題を解決するため、本願発明では、例えば、撮像装置において、符号化によって互いサイズの異なる2種の映像情報を得る。そして、撮像装置は、一方の映像情報を外部の装置に出力した後、出力した映像情報を削除するが、他方の圧縮映像情報は記録媒体に保持する。
本願発明によると、本願発明では、撮像装置で取得した画像を情報処理装置に送信する場合において、撮像装置での撮像した画像を再生する機能の利便性を確保しつつ、その記録容量の空き容量の減少を抑制することを課題とする。撮像装置での撮像した画像を再生する機能の利便性を確保しつつ、その記録容量の空き容量の減少を抑制することが可能となる。
また、撮像装置に付属する液晶ディスプレイは一般に解像度の小さなものが用いられるが、その小さなディスプレイのみに映像を表示する場合にはデータサイズの小さい映像情報を再生して表示することにより、消費電力の削減に繋がる。
また、前記の2種の映像信号について、データサイズの小さい映像信号のみを再生すると解像度の小さな再生画像が得られ、データサイズの大きい映像信号とデータサイズの小さい映像信号を組み合わせて再生すると解像度の大きな再生画像が得られるようにデータを作成しておくと、撮像装置に付属のディスプレイのみに表示する場合にはデータサイズの小さい映像信号、外部に接続した大型ディスプレイに表示する場合には大小2つの映像信号を組み合わせて復号することにより、ディスプレイサイズに応じた表示が可能となる。
また、外部ディスプレイの解像度に応じてデータサイズの小さい映像信号とデータサイズの大きい映像信号の一部あるいは全部を組み合わせて復号して表示することにより、外部ディスプレイの解像度に表示するに当たっての最低限の電力での表示が可能となる。
また、監視システムなど、特に低遅延での映像再生が要求される場合、撮像装置内に格納されているデータサイズの小さい映像信号を優先的に外部ディスプレイ及び付属のディスプレイへ表示することにより、外部に格納したデータサイズの大きい映像信号からデータを取得する際の遅延を考慮せずに映像の再生が可能となる。
以下に、本発明の実施の形態を説明する。
本発明のシステムにおいて、撮像装置の例としては、デジタルビデオカメラやデジタルスチルカメラ、カメラ機能を備えた携帯電話、カメラ機能を備えたモバイルPC、PDA、その他、撮像できる装置のことを示す。また、撮像装置は、携帯性を有し、ユーザが持ち運びできることが望ましい。また、情報処理装置とは、HDDレコーダ、ディスクレコーダ、ホームサーバ、サーバ等、情報を処理する機器のことを示す。
本実施例では、撮像装置の例として、動画像撮像装置について説明する。また、情報処理装置の例として、サーバ装置について説明する。
図1は、動画像撮影装置とサーバ装置、および撮影した映像を視聴するテレビジョン装置に適用した場合の構成を示す。
動画像撮影装置10は、光学系101、撮像素子102、画像信号処理部103、画像圧縮伸長部104、ストレージ装置105、出力バッファ106、出力処理部107、入力処理部108、入力バッファ109、表示処理部110、表示部111、ユーザインタフェース部112、セレクタ113、コネクタ114を有する。また、画像圧縮伸長部104は、セレクタ1041、第1の画像圧縮部1042、第2の画像圧縮部1043、セレクタ1044、セレクタ1045、画像伸長部1046を有して構成される。
以下、動画像撮影装置10の動作について説明する。図示していない被写体より発せられた光はまず光学系101によって集光される。光学系101に関して詳細は図示されていないが、複数のレンズ、合焦および倍率調整のためにレンズを移動させるモータ、これを制御する制御系等から構成される。
光学系101によって集光された光は撮像素子102によって電気信号に変換される。撮像素子102は実際に感光するCCDやCMOS等の撮像部のほか、アナログ電気信号をサンプリングしてデジタル電気信号に変換するAD変換回路、周囲の光量によってゲイン調整を行うAGC回路、撮像素子に駆動のためのタイミング信号を供給するタイミングジェネレータ、およびこれらを制御する制御回路等によって構成される。
撮像素子102によってデジタル電気信号に変換された映像信号は、画像信号処理部103においてノイズ除去やエンハンス処理、撮像素子102からの生データ(RGBフォーマット)を輝度信号と2種類の色差信号に変換する変換処理等が施され、画像圧縮伸長部104へ供給される。画像信号処理部103は、例えば、専用のLSI等で構成する。
画像圧縮伸長部104は映像信号を所定の画像サイズへ拡大もしくは縮小し、MPEG-2、MPEG―4、H.264等の所定の動画像圧縮規格に従って圧縮もしくは符号化し、圧縮映像信号としてストレージ装置105、もしくは出力バッファ106へ出力する機能を有する回路である。また、ストレージ装置105、もしくは入力バッファ109から入力された圧縮映像信号を所定の動画像圧縮規格に従って伸長し、映像信号として表示処理部110へ出力する機能を有する。画像圧縮伸長部104の動作に関しては後述する。なお、画像圧縮伸張部104はASIC等の専用回路により構成する。ストレージ装置105は、動画像記録装置10に備え付けられた取り外し不可のストレージ(HDD、フラッシュメモリ等)でも良いし、リムーバブルなストレージ(DVD、BD、SDカード、磁気テープ等)であっても良いものとする。
また、出力バッファ106、及び入力バッファ107は例えば図示されていない揮発性メモリや、取り外しできないように構成されたストレージ装置バッファ装置で構成する。また、表示部111は、例えば液晶ディスプレイや有機ELディスプレイ、その他のディスプレイ装置で構成される。
出力処理部107は、出力バッファ106より圧縮映像信号を読み出し、ネットワーク上に出力する。入力処理部108はネットワークより圧縮映像信号を入力し、入力バッファ109へ書き込む。
また、表示処理部110は、入力された映像信号を表示すべきサイズへ拡大もしくは縮小し、液晶ディスプレイ等により構成される表示部111へ出力する。また同時に、図1には示されていない外部機器接続端子(例えばS端子、D端子、HDMI端子など)へ、それぞれに適切な画像サイズおよびフォーマットに変換して出力する。
出力処理部107、入力処理部108、表示処理部110は、例えばFPGA、ASIC等の処理回路により構成する。
ユーザインタフェース112には、ユーザが動画像撮影装置10の動作を制御できるようなボタン類、例えば電源ON/OFFスイッチ、再生・停止ボタン、録画開始ボタン、各種モード切り替えボタン等が備わっている。
本実施例に記載の動画像撮影装置10の特徴は、ユーザインタフェース112を通してユーザから録画開始の指示を受けると、録画を開始し、第1の画像圧縮部1042にて圧縮処理を行って主画像データを生成し、これを出力バッファ106および処理部107を通してネットワーク上に出力しつつ、同時に第2の画像圧縮部1043にて画像サイズ・フレームレート・ビットレート等を削減しつつ圧縮処理を行って副画像データを生成し、これをストレージ装置105に記録する点にある。また、本実施例に記載の動画像撮影装置10の他の特徴は、主画像データと副画像データを対にして管理する点にある。
以下、本動画像記録装置10の動作に関して、詳細説明を行う。
まず、記録動作について説明する。図1における太実線は、記録動作のパスを示している。また、図5は、本動画像記録装置10及びサーバ装置30の動作のフローチャートを示す。
まず、動画像記録装置10の電源が投入されると、本動画像記録装置はネットワークへ接続しようと試みる。ネットワークとの接続はいかなる形態でもよく、電話網でも良いし、インターネットでも良いものとする。また、ネットワークは、有線でも良いし、無線接続でもよいものとする。しかし、動画像記録装置を、携帯性良く利用するためには、ネットワークは、無線であることが望ましい。ここではインターネットとの無線接続の場合について説明する。本動画像記録装置は周辺のアクセスポイントを探索し、通信によってネットワークリンクを確立する。
その際、例えば複数のアクセスポイントが検出された場合には、その旨を表示部111に表示し、ユーザインタフェース部112を通してアクセスポイントを選択するようにユーザに促す。いずれかのアクセスポイントへ接続するようにユーザがユーザインタフェース部112を操作すると、指定されたアクセスポイントへの接続を試み、成功した場合には表示部111、あるいは図1には図示していないLED等によってネットワークリンクが確立された旨をユーザに伝える。
あるいは、無条件で接続するアクセスポイントが存在する場合(例えば自宅にいる場合等)には、そのアクセスポイントへ接続し、成功した場合には表示部111、あるいは図1には図示していないLED等によってネットワークリンクが確立された旨をユーザに伝える。
またあるいは、ネットワークリンクを確立する際に、例えばWEP(Wired Equivalent Privacy)やWPA(Wi-Fi Protected Access)等の認証が必要な場合には、動画像記録装置10その旨を表示部111に表示し、ユーザインタフェース部112を通して認証を行うようにユーザに促す。ユーザはユーザインタフェース部112を通して認証キーを直接入力しても良いし、例えばユーザの指紋情報と認証キーを動画像記録装置10であらかじめ関連させて記憶しておき、図示していない指紋センサで指紋を読み取った結果ユーザの指紋情報と一致すれば認証キーを入力したことと等価とみなす方法でも良い。また、別途認証用のカード等を用意しておき、これを動画像記録装置10に具備されたカードスロットへ差し込んで認証するような方法でも良い。認証の結果、アクセスポイントへの接続が認められた場合には、ネットワークリンクを確立し、成功した場合には表示部111、あるいは図1には図示していないLED等によってネットワークリンクが確立された旨をユーザに伝える。認証が失敗した場合には、その旨を表示部111へ出力して、再度認証を行うようユーザに促す。
上記の手順によって、動画像記録装置10がネットワーク接続に成功すると、次にサーバ30への接続を確立しようと試みる。接続に認証が必要な場合には、アクセスポイントへの接続の認証と同様の動作により、認証を行う。また、接続可能なサーバが複数ある場合には、規定のサーバを1つ選んで接続しても良いし、表示部111へその旨を表示して、ユーザの選択によって接続先を選択しても良い。上述の手順によって、動画像記録装置10と、サーバ30との接続が確立される(s1001、s2001)。
これまでの手順によって、動画像記録装置10とサーバ30がネットワーク20を介して接続されると、動画像記録装置10はサーバ30に具備されたストレージ(図1には非表示)のうち記録可能なストレージ容量を問い合わせる。サーバ30から応答があると、動画像記録装置10は記録可能なストレージの容量と記録モード等から記録可能時間を計算し、表示部111へ表示して、ユーザからの記録開始の指示を待つ(s1002)。
一方、動画像記録装置10とサーバ30が結果的に接続を確立できなかった場合においても、動画像記録装置10は出力バッファ106の空き容量と記録モード等から記録可能時間を計算し、表示部111へ表示して、ユーザからの記録開始の指示を待つ(s1002)。
なお、接続の確立は、動画像記録装置10の電源をONにした場合に行うほかにも、画像の記録を開始した後、所定容量の画像データが記録される度に行われる構成としてもよい。この構成とすると、ネットワークの通信速度が、単位時間に記録される画像データの容量よりも大きい場合に、ネットワークに接続されている時間を短縮する事ができる。また、定期的に接続の確立状況をサーチする構成としてもよい。ユーザによる指示によって接続の開始を確立する構成としてもよい。
s1002において、ユーザがユーザインタフェース部112を通して記録開始の指示を出すと、記録動作が開始される(s1003)。すなわち、被写体から発せられた光線は光学系101、撮像素子102、画像信号処理部103を通って画像圧縮伸長部104へ入力される。なお、s1002において、記録開始の指示がなされない場合は、引き続き記録開始の指示を待つ。
画像圧縮伸長部104は、前述の通り第1の画像圧縮部と第2の画像圧縮部を備えており、画像信号処理部103から入力された映像信号はセレクタ1041を通して第1の画像圧縮部1042と第2の画像圧縮部1043の両方へ同時に入力される。
第1の画像圧縮部1042では、入力された映像信号を主画像データに符号化する(s1004)。具体的には、第1の画像圧縮部1042は、入力された映像信号を主画像として所定のサイズとフレームレート(例えば1920画素×1080画素のサイズ、秒間30フレーム等)に整形し、所定の動画像圧縮規格(例えば前出の画像サイズであればH.264 High Profileが採用されることが多い)に準拠して圧縮を行い、主画像データを生成する。生成された主画像データは、セレクタ1044を通して、出力バッファ106へ出力される。出力された主画像データは、出力バッファ106に記録される(s1005)。なお、本実施例における記録は、一時的な記録も含むものとする。
一方、第1の画像圧縮部1042で主画像データの生成が行われるのと同時に、第2の画像圧縮部1043において、入力された映像信号を副画像データに符号化する(s1004)。具体的には、第2の画像圧縮部1043は、入力された画像を副画像として所定のサイズとフレームレート(例えば320画素x180画素、秒間15フレーム)に整形し、所定の動画像圧縮規格(例えば前出の画像サイズであればH.264 Baseline Profile等)に準拠して圧縮を行い、副画像データを生成する。生成された副画像データは、セレクタ1044を通して、ストレージ装置105へ出力される。なお、副画像データのサイズは、主画像データのサイズよりも小さいものとする。出力されたデータは、ストレージ装置105に記録される(s1005)。
ここで、第1の画像圧縮部1042と第2の画像圧縮部1043、さらに出力処理部107は、画像データ管理ファイルを生成、あるいは編集する機能を備える。この管理ファイルの形式としては、例えば画像データに固有の識別子を割り当てておき、その識別子と、その識別子を有する画像データがストレージ装置105(領域先頭からのバイト数、ストレージのセクタアドレス、等)に格納されているかを対にして管理するものとする。
一方、データ管理ファイルは、サーバ30側においても保持される。サーバ30側では、画像データに固有の識別子と、あるいはサーバ30が持つストレージのどの位置(領域先頭からのバイト数、ストレージのセクタアドレス、等)に格納されているかを対にして管理するものとする。しかし、本実施例では、管理ファイルの具体的な形式は問わないものとする。
画像圧縮伸長部104から主画像データが出力バッファ106へ書き込まれる際、最初に主画像データを管理する主画像データ管理ファイルを編集し、現在作成中の主画像データの先頭位置が出力バッファ106のどの位置にあるかを示す情報を主画像データ管理ファイルへ書き込む。また、後述する副画像の書き込み先がDVDやBDなどのリムーバブルメディアである場合には、メディアを識別するための識別子(例えばディスクIDなど)の情報も主画像データ管理ファイルへ書き込むものとする。
出力バッファ106に主画像データが書き込まれると、出力処理部107が、主画像データの送信条件を満たしているかを判定する(s1006)。例えば、出力処理部107は、画像記録装置10とサーバ30のネットワーク20を介した接続が確立されているかを判定する。また、出力処理部107は出力バッファ106に格納された主画像データのデータ量を監視しておき、出力バッファ106にある程度の主画像データが蓄積され、かつこのデータをネットワーク20へ出力可能であるかを判定する。
この送信条件を満たす場合に、出力処理部107は、出力バッファ106に格納された主画像データを読み出し、必要に応じてパケタイズ等の加工を施した後、ネットワーク20を介してサーバ30へ送信する(s1008)。s1006において、送信条件を満たさないと判定された場合には、出力バッファ106は、主画像データを継続して蓄積する(s1007)。例えば、動画像記録装置10とサーバ30の接続が確立されていない場合、主画像データは出力バッファ106へ格納され、ユーザからの記録停止指示を受けるまで、あるいは出力バッファ106として確保されている容量が全て主画像データでいっぱいになるまで蓄積される。
出力処理部107から主画像データがサーバ30へ送信される際、サーバ30では、サーバ側に保持する主画像データ管理ファイルを編集し、現在転送中の主画像データの先頭位置がサーバ30の持つストレージのどの位置にあるかをサーバ側の主画像データ管理ファイルへ書き込む。また、後述する副画像の書き込み先がDVDやBDなどのリムーバブルメディアである場合には、メディアを識別するための識別子(例えばディスクIDなど)の情報もともにサーバ側の主画像データ管理ファイルへ書き込むものとする。
s1008において、出力処理部107が出力バッファ106に格納されている画像データを全てサーバ30へ転送し終えた場合、出力バッファ106は、転送された主画像データを削除する(s1009)。また、出力処理部107は出力バッファ106側の主画像データ管理ファイルを編集し、転送を終えた主画像データの識別子とその位置に関する情報を消去する。
出力処理部107から主画像データがサーバ30へ転送されている最中に、通信環境の悪化等により動画像記録装置10とサーバ30の接続が切断された場合には、出力処理部107は出力バッファ側の主画像データ管理ファイルを編集し、主画像データの先頭位置を、転送が未完了の主画像データの位置に書き換える。
画像圧縮伸長部104が主画像データを出力バッファ106に出力する際、出力バッファ106は、最初に主画像データ管理ファイルを編集し、現在作成中の主画像データの先頭位置が出力バッファ106のどの位置にあるかを主画像データ管理ファイルへ書き込む。
画像圧縮伸長部104から主画像データがストレージ装置105へ書き込まれる際に、副画像データを管理するファイルである副画像データ管理ファイルを編集し、現在作成中の副画像データの先頭位置がストレージ装置105のどの位置にあるかを副画像データ管理ファイルへ書き込む。
なお、副画像データ管理ファイルと、主画像データ管理ファイルとでは、同一の映像信号から生成された主画像データと副画像データとが対応するように識別子を付加する。
上述のように、ストレージ装置105、出力バッファ106、および出力処理部107が、主画像データは削除し、主画像データの転送後も、ストレージ装置105から副画像データは、削除されないで保持するように処理を行う。言い換えると、動画像記録装置10は、副画像データと主画像データのうち、主画像データのみを転送し、削除する処理を行う。
なお、主画像データは、ストレージ装置105に一度記録された後、そこから出力バッファ106に読み出され、その後転送されてもよい。
また、画像信号処理部103から出力されたデジタル映像信号は、セレクタ113を通して、表示処理部110へも供給される。表示処理部110は画像サイズ調整等の必要な画像処理やフォーマット変換を施した後、これを表示部111に出力してユーザに提示する。これにより、ユーザは現在撮影中の画像がいかなるものかを見ることが可能となる。
次に、動画像記録装置10の再生動作について説明する。再生動作のパスは、図2および図3において太実線で示されている。また、図6は、再生動作のフローチャートを示す。
まず、再生動作が始まると、動画像記録装置10は、表示部111のみで再生を行うか、外部の表示機器に再生するかを判定する(s1101)。この判定は、具体的には、コネクタ114に外部の表示機器が接続されてない場合には表示111のみに表示し、外部の表示機器が接続されている場合には外部の表示機器に再生する構成としてもよい。この場合、コネクタ114に外部表示機器が接続されている場合に、その旨を示す信号を画像処理装置104内のセレクタに送信することにより、画像処理装置104が処理する映像信号を切換える構成としてもよい。また、この、s1101における判定は、ユーザインタフェース部112の操作により、ユーザが表示部111のみで再生を行うモードと、外部の表示機器で再生を行うかモードとのどちらのモードに切換えたかを判定する構成としてもよい。
ここで、撮影した画像を動画像記録装置10に具備された表示部111に表示する場合を考える。これは、例えば屋外において撮影した画像をその場で表示する場合等を想定している。動画像記録装置10は一般に携帯可能な大きさであり、したがって表示部111に関しても2〜4型の小型液晶ディスプレイが用いられることが多い。このような小型の表示部に対しては、画像サイズの大きな主画像を縮小して表示する場合と、もともと画像サイズの小さい副画像を表示した場合で、視覚的にはさほど大きな差異はみられない。
s1101でyesの場合、つまり、動画像記録装置10で再生を行い、かつ再生画の表示先が表示部111のみ映像信号の表示を表示111のみで再生する場合の動作を、図2のデータパスを用いて説明する。この場合、記録された副画像データがストレージ装置105より読み出される(s1102)。次に、副画像データは、セレクタ1045を通して画像伸長部1046へ入力され、画像圧縮規格に準拠した形で伸長され、映像信号に復号される(s1103)。その後、復号された映像信号は表示処理部110から表示部111に出力される。
s1101でNoの場合、つまり、一方、再生画の表示先が表示部111だけでなく、コネクタ114によって外部に接続されたテレビジョン装置等が存在する場合には、ストレージ装置105に格納されている副画像データでは画質が荒い可能性がある。このため、サーバ30に存在する主画像をネットワーク経由で転送して再生する必要がある。
この場合の動作を、図3のデータパスおよび図6のフローチャートを用いて説明する。この場合、まず動画像記録装置10とサーバ30をネットワーク20経由での接続を確立する(s1102、s2101)。その手順に関しては、記録の場合と同様であるので、ここでは省略する。
動画像記録装置10とサーバ30がネットワーク20経由で接続されると、入力処理部107はサーバ側の主画像管理ファイルを参照してサーバ30に蓄積されているデータの中から再生したい主画像データを検索する。
サーバ30は、該当する主画像データがある場合は、主画像データをネットワーク経由20で動画像記録装置10に送信する(s2102)。また、サーバ30は、主画像データが無い場合には、主画像データが無い事を示すデータを動画像記録装置に送信する(s2102)。
動画像記録装置10は、入力処理部108により、送信されるデータを受信する(s1112)。
入力処理部108は、受信したデータが主画像データか否かを判定する(s1113)。ここで、入力されるデータが主画像データである場合には、入力バッファ109は、主画像データを蓄積する。入力されるデータが主画像データで無い場合には、その旨を示すデータを入力バッファを介して画像圧縮伸張部104に出力する。
受信したデータが主画像データであり、かつ、入力バッファに所定量以上蓄積され、画像伸長部1045にて滞りなく再生できると判断された場合、主画像データは入力バッファ109より読み出される。そして、セレクタ1045を通して画像伸長部1046へ供給され、伸長されることにより映像信号に復号される(s1114)。
画像圧縮伸張部104が、入力されるデータが主画像データで無い旨を示すデータを受信した場合には、セレクタ1045を切換え、出力バッファ106の主画像管理ファイルを参照して、出力バッファ106に蓄積されているデータの中から再生したい主画像データを読み出す(s1115)。そして、主画像データは、画像伸長部1046へ供給され、伸長されることにより映像信号に復号される(s1116)。
s1114またはs1116において復号された映像信号は表示処理部110より表示部111、およびコネクタ114を介して接続された、図示されていない接続されたテレビジョン装置などの外部の表示機器へ送信される(s1117)。また、外部の表示機器は、動画像記録装置10より送信された映像信号を受信する(s3101)。
なお、図6のフローチャートでは、動画像記録装置10は、サーバ30から主画像データが無い事を示すデータを受信した後、s1115で、出力バッファ106から主画像データを読み出す構成とした。しかし、例えば、動画像記録装置10は、先に出力バッファ106内の主画像データを検索し、ストレージ装置内に主画像データが無い場合に、接続を確立し、サーバ30内の主画像データを検索する構成としてもよい。これにより、出力バッファ106に主画像データが存在する場合には、サーバ30と接続しないでも、主画像データを外部の表示機器に送信することが可能になるため、通信量を低減することが可能となる。
また、主画像データが、サーバ30内にも出力バッファ106内にも存在しない場合がある。これは、例えば、動画像記録装置10からサーバ30に主画像データを送信し、出力バッファ106から主画像データが削除された後、サーバ30においても主画像データが削除される場合である。このような場合には、動画像記録装置10は、ストレージ装置105内の副画像データを復号化した上で、外部の表示機器に送信する構成としてもよい。このような構成とすることによって、例え主画像データが見つからない場合にも、副画像データの画質によって外部の表示機器に、映像を出力することが可能となる。
また、s1111においてサーバとの接続が確立されず、かつs1102において出力バッファにも主画像がない場合がある。この場合においては、主画像データがサーバ30上にあるか否かは不明である。このような場合には、動画像記録装置10は、ストレージ装置105内の副画像データを復号化した上で、外部の表示機器に送信する構成としてもよい。このような構成とすることによって、例え接続が確立できず出力バッファ106内の主画像データが見つからない場合にも、副画像データの画質によって外部の表示機器に、映像を出力することが可能となる。
また、上述の説明では、動画像記録装置10は、主画像データを映像信号に復号した後に、外部の標示機器に送信する例について説明した。しかし、外部の表示機器が画像伸長装置あるいは、画像復号装置を備えている場合もある。このため、動画像記録装置10は、主画像データを映像信号に復号しないまま、外部の表示機器に送信する構成としてもよい。
次に、動画像記録装置10での編集動作について説明する。
ユーザが動画像記録装置10を用いて編集作業を行う際には、まずストレージ装置105に格納されている副画像に対して編集操作を行い、同時にこのとき施された編集操作の内容を記録して出力バッファ106へ書き込んで、主画像データに対しても同様の編集操作を行うようにする。
例えば、すでに記録されている画像データを消去する場合、まずストレージ装置105に格納されている副画像データの中から、該当する副画像データを抽出し、消去処理を行う。これと同時に、該当する副画像データの識別子と編集内容を示す編集情報を(この場合は消去)を記録する。
引き続き、対応する主画像データに対しても同様の編集操作を施す。まず、出力バッファ106の中に対応する主画像データが存在するかどうかを検索する。存在すれば、その主画像データに対して同様の編集操作を施す。次に、編集対象となる主画像データの識別子と編集操作の内容を対にして出力バッファ106へ書き込む。データの形式に関しては特に限定するものではなく、例えばMPEG-2 TS形式のパケットにデータを埋め込んでおく形式でも良いし、別の形式でも良いものとする。
サーバ30との接続が確立されていれば、出力処理部107は編集対象となる主画像データの識別子と編集操作の内容が書かれたデータをネットワーク20経由でサーバ30へ転送する。サーバ30はデータ内容を解析し、サーバ30が持つストレージの中に対応する主画像データが存在するかどうかを検索する。存在すれば、その主画像データに対して同様の編集操作を施す。
以上、削除操作について説明したが、別の編集操作(例えば2つの画像データの結合、画像データの分割、特殊効果付加など)に関しても同様である。
なお、主画像データを動画像記録装置10から送信する際、動画像記録装置10が、例えば出力処理部107等によって付加データを主画像データに付加する構成としてもよい。この場合、付加データは、例えば、その画像データが、削除を禁止する旨を示す情報や、動画像記録装置10により撮像された旨を示す情報とする。あるいは、サーバ30が、動画像記録装置10により入力した画像データに該付加データを付加する構成としてもよい。そして、該付加データが付加されている主画像データについては、サーバ30の制御手段が、削除等の編集操作を制限するように制御する。ここで、制限とは、例えば編集操作を禁止することをいう。また、サーバ30で、該付加データの内容を、主画像データとともに外部の表示機器やディスプレイに出力する構成としてもよい。これにより、ユーザが、動画像記録装置10に副画像データが残っているにも関わらず、対応する主画像データを編集する可能性を抑制することが可能となる。あるいは、ユーザが、サーバより主画像データが編集できない理由を認知することが可能となる。
さらに、サーバ30において、主画像データに編集操作がされた場合でも、編集前の主画像データと、編集後の主画像データの両方を残しておき、動画像記録装置10との同期がとれるまで、編集前の主画像データを保持して制御により、編集操作の制限としてもよい。ここで、同期とは、例えば、動画像記録装置10においてもサーバ30での編集操作と同様の編集を行うこととする。この際に、動画像記録装置10側においては、操作部によりサーバ30での編集操作を反映させることをユーザが許可する操作を受け付ける構成としてもよい。そして、動画像記録装置10とサーバ30が同期した後に、サーバ30から編集前の主画像データを消す構成としてもよい。この構成により、画像データの管理の利便性を向上することが可能となる。
また、サーバ30において、主画像データを編集する場合も利用シーンとして想定される。この場合において、サーバ30において主画像データを編集を行う場合に、サーバ30での編集履歴を記録し、動画像記録装置10に転送する構成としてもよい。
あるいは、動画像記録装置10がサーバ30から主画像データをダウンロードする際、サーバ30では、主画像データが既に削除されている場合がある。このような場合には、携帯撮像装置10は、既に主画像データが削除されている旨を示す情報を、表示部111に表示するとともに、副画像データをストレージ装置105から削除するか否かを問い合わせる旨を示す情報を表示する構成としてもよい。
ここまで説明したとおり、本実施例の動画像記録装置10は、従来は装置本体に備えられたストレージに記録されていた主画像をネットワーク20経由でサーバへ転送し、本体には表示用および編集用の副画像のみを残しておくことにより、本体ストレージ容量を気にせずに撮影可能とする。さらに、主画像データは、サーバ30が備えるストレージに集中されるため、撮影した映像の一元管理が可能であるという利点がある。
このような利点を生かすため、本実施例の動画像記録装置10は、例えばアイドル状態にあるときに、出力バッファ106に未転送の主画像データが残っており、かつサーバ30とネットワーク20経由で接続可能である場合、バックグラウンドで未転送の主画像データを転送する機能を有していても良い。また、前記バックグラウンドでの転送動作を行う際、動画像記録装置10が電源コンセントに接続されている場合には転送を行い、動画像記録装置10がバッテリ駆動されている場合には転送を行わないような条件判断を行う機能を有していても良い。
また、これまで説明した動画像記録装置10の動作においては、主画像データを第1の画像圧縮部で、副画像データを第2の画像圧縮部で、それぞれ同時に生成することになっていた。しかし、主画像データをまず作成して出力バッファ106へ転送し、これを読み出して画像伸長部1046で復号してから第2の画像圧縮部1043へ入力して副画像データを生成するような動作でも良い。
また、第2の画像圧縮部1043へ入力する代わりに、第1の画像圧縮部1042へ入力して圧縮しても良い。この場合の動作を図4を用いて説明する。データパスは太実線で示されている。つまり、第1の画像圧縮部1042を時分割で利用し、ある時間帯は主画像データを生成し、また別の時間帯では副画像データを作成するように制御し、これと連動してセレクタ1041が画像信号処理部103から入力される映像信号と画像伸長部1046から入力される映像信号を切り替えて第1の画像圧縮部1042へ供給するように制御することにより、主画像データと副画像データを生成することが可能である。この場合、回路規模削減や消費電力削減のために、動作に関与しない第2の画像圧縮部1043を取り払ってもよい。
以上、副画像データは動画像であるという前提で説明を行ったが、副画像データは静止画でも良いものとする。すなわち、これまで副画像データとして説明してきた内容は、例えばシーン先頭のサムネイル画像データのような静止画データでも良い。以下、副画像データがサムネイル画像データである場合の例について説明する。
例えば、ユーザが本動画像撮影装置を用いて再生動作を行おうとする際、まずストレージ装置105よりいくつかのサムネイル画像データが読み出され、画像伸長部1046で伸長されてサムネイル画像となり、表示処理部110で適切なOSD表示とともに整形され、表示部111へ表示される。
そして、ユーザはユーザインタフェース112を利用して、複数のサムネイルの中から再生したい主画像データに対応するサムネイル画像を選択する。すると、入力処理部108は選択されたサムネイル画像に関連付けられた主画像データを出力バッファ106、もしくはネットワーク20経由でサーバ30より探し出し、入力バッファ109へ転送する。以降は上記で説明した再生動作の要領で、画像伸長部1046、表示処理部110を通して表示部111、もしくは外部に接続された外部表示機器に再生画像が表示される。
あるいは、これまで副画像データとして説明してきた内容は、管理情報ファイル(例えばDVD-VR規格におけるIFOファイル)でも良いものとする。
例えば、ストレージ装置105に格納された管理情報ファイルは、ユーザインタフェースを通してのユーザからの指示によって、図示していないホストCPUなどによって適切に書き換えられることにより、主画像データをサーバ30から読み出して来ずともプレイリストを作成することが可能である。
その後、上記のようにして作成されたプレイリストに従って主画像データを再生する際には、入力処理部108はプレイリストによって指定されたストリームを出力バッファ106、あるいはサーバ30より探し出し、これまでに説明した再生の手順に準拠して連続再生することにより、プレイリスト再生を実現することが可能となる。
このように、副画像データは必ずしも動画像のデータである必要はなく、静止画、管理ファイル、あるいは主画像データに関連する他の情報であってもかまわないものとする。
また、本実施例では、主画像データ、副画像データといった、動画像データの例について説明してきたが、動画像データに限らず、音声、画像、テキスト、その他のセンサによって取得できるデータから、サイズの大きいデータ、サイズの小さいデータをそれぞれ生成する携帯センシング装置にも適用可能である。サイズの大きいデータとサイズの小さいデータを対応づけ、サイズの大きいデータをサーバに送信することにより、携帯センシング装置における記録媒体の空き容量を保ちつつ、表示等の機能を利用する際の消費電力を低下させ、さらにサーバにおけるデータの管理を容易にすることが可能である。
また、本実施例では、入力された映像信号を圧縮符号化して主画像データおよび副画像データを生成する例として説明してきたが、主画像データおよび副画像データを生成する手段は圧縮符号化には限らないものとする。例えば、入力された映像信号に対してある種の変換符号化(例えばウェーブレット変換)を施し、その低次成分を副画像データ、高次成分を主画像データとする構成であっても良いものとする。これにより、副画像データを生成するときに必要となる画像の縮小処理が不要となり、処理量や回路規模の低減につなげることが可能となる。
また、本発明の構成は、上記実施例に限定されるものではなく、発明の範囲で自由に変更することも可能である。
第1の実施例に係る動画像記録装置の構成および記録のデータパスを示すブロック図である。 第1の実施例に係る動画像記録装置の構成および再生して表示部111のみに表示する場合のデータパスを示すブロック図である。 第1の実施例に係る動画像記録装置の構成および再生して外部に接続された表示装置と表示部111に表示する場合のデータパスを示すブロック図である。 第1の実施例に係る動画像記録装置の構成および副画像データを生成するための別の方法を示したブロック図である。 記録動作を示すフローチャートである。 再生動作を示すフローチャートである。
符号の説明
10 …動画像撮影装置
101 …光学系
102 …撮像素子
103 …画像信号処理部
104 …画像圧縮伸長部
1041…セレクタ
1042…第1画像圧縮部
1043…第2画像圧縮部
1044…セレクタ
1045…セレクタ
1046…画像伸長部
105 …ストレージ装置
106 …出力バッファ
107 …出力処理部
108 …入力処理部
109 …入力バッファ
110 …表示処理部
111 …表示部
112 …ユーザインタフェース部
113 …セレクタ
114 …コネクタ
20 …ネットワーク
30 …サーバ

Claims (4)

  1. 撮像装置と情報処理装置とを有する映像記録システムであって、
    前記撮像装置は、
    映像を撮像して、映像信号を得る撮像手段と、
    映像信号を符号化して、第1の圧縮映像情報を生成する第1の符号化手段と、
    映像信号を符号化して、前記第1の圧縮映像情報よりも容量の小さい第2の圧縮映像情報を生成する第2の符号化手段と、
    前記第1の圧縮映像情報及び第2の圧縮映像情報を記録媒体へ記録する記録手段と、
    前記第1の圧縮映像情報をネットワーク経由にて前記情報処理装置に出力する出力手段と、
    前記第1の圧縮映像情報及び第2の圧縮映像情報のいずれかを復号化して映像信号を出力する復号化手段と、
    前記復号化手段が出力した映像信号を表示する表示手段と、
    前記第1の圧縮映像情報が前記出力手段により出力された場合に、前記第2の圧縮映像情報を前記記録媒体に保持し、かつ前記第1の圧縮映像情報を前記記録媒体から削除するよう処理を行う処理手段と、を備え、
    前記情報処理装置は、前記出力手段により出力された前記第1の圧縮映像情報を受信した場合には、前記撮像装置から入力される前記第1の圧縮映像情報を記録し、
    前記撮像装置の復号化手段は、前記情報処理装置から受信した前記第1の圧縮映像情報、前記出力手段が備える出力バッファに記録された前記第1の圧縮映像情報、並びに、第2の圧縮映像情報のうちから選択される一の圧縮映像情報を復号化するものであり、前記映像信号を外部の表示手段に出力する場合には、前記情報処理装置から受信した前記第1の圧縮映像情報又は前記出力手段が備える出力バッファに記録された前記第1の圧縮映像情報を復号化することを特徴とする映像記録システム。
  2. 請求項記載の映像記録システムであって、
    前記撮像装置の復号化手段は、前記情報処理装置からの前記第1の圧縮映像情報の受信が確認出来ない場合に、前記出力手段が備える出力バッファに記録された前記第1の圧縮映像情報を読み出して復号化することを特徴とする映像記録システム。
  3. 映像を撮像して、映像信号を得る撮像手段と、
    前記映像信号を符号化して、第1の圧縮映像情報を生成する第1の符号化手段と、
    前記第1の圧縮映像情報よりも容量の小さい第2の圧縮映像情報を符号化により生成する第2の符号化手段と、
    前記第1の圧縮映像情報及び第2の圧縮映像情報を記録媒体へ記録する記録手段と、 前記第1の圧縮映像情報を外部の情報処理装置に出力する出力手段と、
    前記第1の圧縮映像情報及び前記第2の圧縮映像情報のいずれかを復号化して映像信号を出力する復号化手段と、
    前記復号化手段が出力した映像信号を表示する表示手段と、
    前記第1の圧縮映像情報が前記出力手段によりネットワーク経由にて外部の装置に出力された場合に、前記第2の圧縮映像情報を前記記録媒体に保持し、かつ前記第1の圧縮映像情報を前記記録媒体から削除するよう処理を行う処理手段と、
    を備え、
    前記撮像装置の復号化手段は、前記外部の装置から受信した前記第1の圧縮映像情報、前記出力手段が備える出力バッファに記録された前記第1の圧縮映像情報、並びに、第2の圧縮映像情報のうちから選択される一の圧縮映像情報を復号化するものであり、前記映像信号を外部の表示手段に出力する場合には、前記外部の装置から受信した前記第1の圧縮映像情報又は前記出力手段が備える出力バッファに記録された前記第1の圧縮映像情報を復号化することを特徴とする撮像装置。
  4. 請求項記載の撮像装置であって、
    前記撮像装置の復号化手段は、前記情報処理装置からの前記第1の圧縮映像情報の受信が確認出来ない場合に、前記出力手段が備える出力バッファに記録された前記第1の圧縮映像情報を読み出して復号化することを特徴とする撮像装置。
JP2008079501A 2008-03-26 2008-03-26 映像記録システム、及び撮像装置 Active JP5082973B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008079501A JP5082973B2 (ja) 2008-03-26 2008-03-26 映像記録システム、及び撮像装置
US12/361,599 US20090244305A1 (en) 2008-03-26 2009-01-29 Video Recording System and Imaging Apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008079501A JP5082973B2 (ja) 2008-03-26 2008-03-26 映像記録システム、及び撮像装置

Publications (2)

Publication Number Publication Date
JP2009239381A JP2009239381A (ja) 2009-10-15
JP5082973B2 true JP5082973B2 (ja) 2012-11-28

Family

ID=41116549

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008079501A Active JP5082973B2 (ja) 2008-03-26 2008-03-26 映像記録システム、及び撮像装置

Country Status (2)

Country Link
US (1) US20090244305A1 (ja)
JP (1) JP5082973B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8506402B2 (en) * 2009-06-01 2013-08-13 Sony Computer Entertainment America Llc Game execution environments
TW201143381A (en) * 2010-05-21 2011-12-01 Chicony Electronics Co Ltd Digital camera with upload function
CN102377916A (zh) * 2010-08-05 2012-03-14 群光电子股份有限公司 具上传功能的数字相机
US20120110626A1 (en) * 2010-10-27 2012-05-03 Heino Wendelrup Methods, systems and computer program products for managing memory usage on a computing device
JP2014036402A (ja) * 2012-08-10 2014-02-24 Canon Inc 記録装置及び記録方法
US10795024B2 (en) * 2016-09-16 2020-10-06 Sony Semiconductor Solutions Corporation Imaging device and electronic device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7133893B2 (en) * 2001-08-03 2006-11-07 Hewlett-Packard Development Company, L.P. Opportunistic transmission of portably stored digital data
US7165224B2 (en) * 2002-10-03 2007-01-16 Nokia Corporation Image browsing and downloading in mobile networks
JP2004242290A (ja) * 2003-01-14 2004-08-26 Ricoh Co Ltd 画像処理装置および画像処理方法、画像編集処理システム、画像処理プログラム及び記憶媒体
US7362462B2 (en) * 2003-06-30 2008-04-22 Microsoft Corporation System and method for rules-based image acquisition
JP2005223795A (ja) * 2004-02-09 2005-08-18 Matsushita Electric Ind Co Ltd 画像撮像装置、画像編集システム及び画像編集方法

Also Published As

Publication number Publication date
JP2009239381A (ja) 2009-10-15
US20090244305A1 (en) 2009-10-01

Similar Documents

Publication Publication Date Title
JP2004072793A (ja) 映像記録方法及び装置、映像再生方法及び装置、及び記録媒体
JP5082973B2 (ja) 映像記録システム、及び撮像装置
JP2012161012A (ja) 動画記録装置
US9565360B2 (en) Image data recording apparatus capable of recording still and moving images simultaneously
WO2009136469A1 (ja) 動画像の記録並びに再生を行う装置
JP5818599B2 (ja) 動画記録装置
JP2012156587A (ja) 動画記録装置
KR101377263B1 (ko) 데이터처리장치 및 데이터처리방법과 컴퓨터·프로그램
JP5713701B2 (ja) 動画記録装置
JP2005303336A (ja) 映像信号記録装置および映像信号再生装置
JP5769434B2 (ja) 動画記録装置、情報処理装置
JP2014036402A (ja) 記録装置及び記録方法
JP2005318180A (ja) ハードディスクレコーダ、映像記録装置
US8134607B2 (en) Recording apparatus
JP2007318368A (ja) 画像処理装置及び画像処理方法。
JP6463967B2 (ja) 撮像装置及びその制御方法
JP2009088739A (ja) データ転送装置
JP2004040518A (ja) 撮像記録装置と再生装置
JP6218489B2 (ja) 画像処理装置
JP5889459B2 (ja) 記録装置
JP5509159B2 (ja) 画像処理装置
JP2012217198A (ja) 撮像装置
JP2014060499A (ja) 画像処理装置、画像処理方法、プログラム
JP2005184635A (ja) 記録再生装置及び記録再生処理プログラムを記録した記録媒体
JP2004186905A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120319

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120706

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120807

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120820

R151 Written notification of patent or utility model registration

Ref document number: 5082973

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250