以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る撮影機器の回路構成を示すブロック図である。本実施の形態においては、画像の記録時において、撮像画像をRAWデータとして記録することができるようになっている。また、画像の記録時には、例えばExif(Exchangeable image file format)形式等のバイナリ形式、タグ形式のメタデータ記録を行う。ここでは、1枚の撮像画像に基づく画像ファイルは、撮像画像の画像データ及びメタデータにより構成されるものである。
図2は本実施の形態において採用される画像ファイルのフォーマットを説明するための説明図である。図2(a)は、記録時の画像フォーマットを示しており、画像ファイルは、画像データPr、縮小画像データJrと補助データ(メタデータ)Mrとにより構成される。縮小画像データは、サムネールやスクリーンネール等のJPEG形式の縮小画像データである。メタデータは、コンテンツ(ここでは画像)以外のデータであって、ユーザやアプリケーションがより効率的にコンテンツを扱うことを可能にするためのものであり、例えば、画像の大きさの情報や、作成者や作成日等のプロパティ情報を含んでもよい。
本実施の形態においては、画像データPrとして、JPEGフォーマットされたJPEGデータだけでなく、RAWデータを採用することができる。例えば、記録時に生成されるRAWデータ(以下、記録RAWデータともいう)としては、撮像素子からの撮像画像に対して、歪補正、画素欠陥の補正及び可逆圧縮処理した画像を採用することができる。
また、図2(a)に示すように、メタデータMrは1つのAPPセグメントSG1を有し、APPセグメントSG1には、データ列の識別情報とデータ列とが含まれる。データ列としてはバイナリ形式のデータが採用され、識別情報にはデータ列がバイナリ形式のデータであることを示す情報が記述される。
バイナリ形式のデータ列は、規格データ列とメーカノートとを含んでいる。規格データ列としては、撮影情報等の規格化された情報、例えば、露出時間、絞り値、露出プログラム、ISO感度、撮影日時の情報等を含む。メーカノートは、規格データ列には含まれない種々の情報を含むことができる。例えば、メーカノートには、撮影された人物の顔の特徴量の情報、顔の認識結果、顔認識結果によって得られた名前等の任意の情報を記述することができる。
本実施の形態においては、画像ファイルの送信時には、RAWデータである画像データPrを、単純な規則で配列されたデータ、例えば、記録されたRAWデータを伸張して、無圧縮のRAWデータに変換した後、特定の画素位置の画素データのみを再配置して送信するようになっている。また、送信するRAWデータ(以下、送信RAWデータともいう)として、無圧縮のRAWデータを、例えば、画素の切り出しや間引き処理によってリサイズして画素数を低減したRAWデータを採用してもよい。更に、リサイズに際して、記録RAWデータの生成時に歪補正を行っていない領域の画素のみを用いた送信RAWデータを採用してもよい。
なお、本実施の形態においては、バイナリ形式のメタデータについては、多くの機器やユーザーが利用しやすい言語に変換して送信するようになっている。例えば、バイナリ形式のデータ列を、インターネット上で様々なデータを扱う場合に特に利点を発揮する言語であるデータ記述言語(テキスト記述言語)に変更するようになっている。例えば、データ記述言語として、テキストで記述されるXMP形式のデータ、例えば、XML(Extensible Markup Language)形式のデータを採用する。
図2(b)はこのような画像通信時の画像フォーマットを示しており、画像ファイルは、JPEGデータ又は送信RAWデータによって構成される画像データPs、縮小画像データJs及びメタデータMsにより構成される。メタデータMsは2つのAPPセグメントSG1,SG2を有し、APPセグメントSG1の内容は、記録時のAPPセグメントSG1と同様である。一方、APPセグメントSG2は、APPセグメントSG1のデータ列の情報をデータ記述言語に変更したデータ記述言語データ列を含む。データ列の識別情報には、データ記述言語データ列がデータ記述言語により記述されていることを示す情報が含まれる。更に、送信時には、メタデータとして、撮影時の光源の種類等の情報、顔の位置情報、トリミング情報を含んでいてもよい。
また、処理速度の制約から、撮影時に、全てのメーカノートを確実に構築することができるとは限らない。例えばメーカノートとして記録すべき顔認識結果等を撮影時に取得することができないことも考えられる。この場合には、このようなデータについては、画像ファイルの送信時に、データ記述言語により追加記述してもよい。なお、画像ファイルの送信時に追加した情報を、バイナリ形式のデータ列に挿入してもよく、また、データ記述言語の作成後に、バイナリ形式のデータ列については削除してもよい。
図1において、撮影機器10は、CCDやCMOSセンサ等の撮像素子によって構成された撮像部12を有している。撮像部12は、撮影機器10の前面に設けられた被写体像を取り込むレンズ12aと、レンズ12aからの被写体像を光電変換して撮像画像信号を得る撮像素子12bを有する。また、撮像部12は通信部12cを有しており、通信部12cはレンズに関するレンズ情報を信号処理及び制御部11に供給することができるようになっている。ここで、画面周辺で直線の被写体が曲線に歪んだりしない領域を、たとえば、像高を基準に指定できる(レンズのメモリからカメラに情報を与えたりする)ようにして、後で、トリミング時の参考にしてもよい。
撮像部12は、信号処理及び制御部11によって駆動制御されて、レンズ12aを介して被写体を撮影し、撮像画像を出力する。信号処理及び制御部11は、撮像素子12bの駆動信号を撮像部12に出力すると共に、撮像部12からの撮像画像を読み出す。信号処理及び制御部11は、読み出した撮像画像に対して、所定の信号処理、例えば、色調整処理、マトリックス変換処理、ノイズ除去処理、その他各種の信号処理を行う。
撮影機器10には、時計部13及び操作判定部14も配設されている。時計部13は信号処理及び制御部11が用いる時間情報を発生する。操作判定部14は、撮影機器10に設けられた図示しないレリーズボタン、ファンクションボタン、撮影モード設定等の各種スイッチ等を含む操作部に対するユーザ操作に基づく操作信号を発生して、信号処理及び制御部11に出力するようになっている。信号処理及び制御部11は、操作信号に基づいて、各部を制御する。
また、信号処理及び制御部11の表示制御部11aは表示に関する各種処理を実行する。表示制御部11aは、信号処理後の撮像画像を表示部16及び接眼表示部18に与えることができる。表示部16及び接眼表示部18は、夫々LCD等の表示画面を有しており、表示制御部11aから与えられた画像を表示する。また、表示制御部11aは、各種メニュー表示等をこれらの表示画面に表示させることもできるようになっている。
また、撮影機器10にはタッチパネル17が設けられている。例えば、タッチパネル17を表示部16の表示画面上に設けることで、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。これにより、ユーザは、表示部16の表示画面上に表示された画像に対する選択操作等を簡単に行うことができる。
なお、表示部16は、撮影機器10の例えば背面の略全域を占めるように配設されており(図3参照)、撮影者は、撮影時に表示部16の表示画面上に表示されたスルー画を確認することができ、スルー画を確認しながら撮影操作を行うことができる。
また、撮影機器10には接眼センサ21も設けられている。接眼センサ21は、例えば網膜センサ等によって構成され、撮影者の網膜認識が可能である。なお、接眼センサ21は、撮影者の画像認識によって撮影者を認識するセンサであってもよい。
信号処理及び制御部11は、信号処理後の撮像画像を圧縮処理し、圧縮後の画像を記録再生部15に与えて記録させることができる。記録再生部15としては、例えばカードインターフェースを採用することができ、記録再生部15はメモリカード等の記録媒体に画像情報及び音声情報等を記録すると共に、記録媒体に記録されている画像及び音声情報を読み出して再生することもできるようになっている。
信号処理及び制御部11は、各部を制御することで、ユーザ操作に基づく撮影モードを設定して、各撮影モードに応じた撮影機能を実現する。例えば、信号処理及び制御部11は、操作判定部14等から画像ファイルの送信モード(ネットワーク共有モード)を指示するための操作信号が入力されると、送信モードを設定することができるようになっている。
信号処理及び制御部11のメタデータ作成部11eは、撮像部12からの撮像画像の撮影に際して、メタデータを作成する。撮像画像の撮影時には、メタデータ作成部11eは、図2(a)に示すように、バイナリ形式のメタデータMrを作成するようになっている。
信号処理及び制御部11のRAWデータ化部11hは、撮像部12からの撮像画像の撮影に際して、RAWデータを作成する。例えば、RAWデータ化部11hは、通信部12cを介してレンズ情報を受信し、このレンズ情報によって歪を補正すべき領域について歪補正を行い、画素欠陥が生じている領域については画素欠陥を補正した後、所定の可逆圧縮フォーマットで圧縮し、所定の画素順に配列して記録RAWデータである画像データPrを得る。また、撮像素子からの信号からノイズを除去したものをRAWデータと称することもあるが、RAWデータ化部11hは、上述した処理の全て又は一部の処理を省略したRAWデータを得るようにしてもよい。
信号処理及び制御部11は、撮像画像の記録に際して、画像データPr、縮小画像データJr及びメタデータMrによって構成される画像ファイルを作成して、記録再生部15に与えて記録させるようになっている。
撮影機器10には、通信部19が設けられている。通信部19は、送信制御部11gに制御されて、図示しない外部機器との間で通信を行って、情報を送受することができるようになっている。なお、通信部19としては、種々の伝送路を採用することができ、例えば、LAN等の有線ケーブルを採用した有線伝送路、無線LAN、ブルートゥース(登録商標)、WiMAXや電話回線網等を採用した無線伝送路等を用いることができる。赤外線通信や近接無線通信でもよい。
本実施の形態においては、通信部19を利用して外部機器との間で通信を行う送信モードが指定されると、信号処理及び制御部11の送信制御部11gは、RAWデータ変更部11i及びメタデータ更新部11fを制御して、送信用の画像ファイルを生成する。即ち、RAWデータ変更部11iは、記録再生部15から指定された画像ファイルを読み出し、記録RAWデータから送信RAWデータを生成する。例えば、RAWデータ変更部11iは、記録RAWデータを伸張処理し、RAW配列部11kを制御して、特定の画素位置の画素データの配列に変換して出力する。更に、RAWデータ変更部11iは、データ量を削減するために、RAWデータリサイズ部11jを制御して、切り出しや間引きや画素加算と平均化処理によってリサイズ、またはデータ縮減した送信RAWデータを生成してもよい。また、RAWデータ変更部11iは、RAWデータリサイズ部11jを制御して、記録RAWデータの作成時に歪補正を行った領域、あるいは歪み補正を必要とする以外の領域の画素データのみをトリミングして送信RAWデータとして出力してもよい。さらに、データとして扱いやすくするために、各画素データのビット数を削減するなどしてデータ長も少なくして、たとえば、16ビットを8ビットにして送信するようにしてもよい。こうした工夫によって、通信時や画像処理時の時間やエネルギーを少なくすることができる。モバイル機器などでは、電池の容量などを気にする必要があり、こうした工夫は好ましい。また、ブログやSNSに表示する際の見栄えをそろえるためには、アスペクト比や画像サイズを特定しておくような工夫が便利であり、RAWデータならではの、画像処理の自由度や、合成処理の容易さを満足させながら、取り扱いのしやすいRAWデータを作ることができる。
また、メタデータ更新部11fは、記録再生部15から指定された画像ファイルに含まれるメタデータMrを読み出して、バイナリ形式データからデータ記述言語に変換した新たなメタデータMsを生成する。このとき、送信用RAWデータの先頭画素やデータ長など、外部機器が、この画像を扱いやすくする補助データなどを記載する。
送信制御部11gは、変更した画像ファイルを、通信部19に与えて所定の送信先に送信させる。なお、この場合には、通信部19は、メタデータとしては、データ記述言語で記述されたAPPセグメントSG2のみを送信してもよく、バイナリ形式のAPPセグメントSG1及びデータ記述言語のAPPセグメントSG2の両方を送信してもよい。
更に、本実施の形態においては、送信制御部11gは、RAWデータの切出し範囲に対応した縮小画像を先に送信した後、画像ファイル全体を送信するようにしてもよい。
また、送信制御部11gは、メタデータ更新部11fを制御して、バイナリ形式のメタデータMrに記述されていない情報を生成して、データ記述言語によるメタデータMsに追加記録してもよく、新たに作成されたメタデータMsを含めた画像ファイルを送信させることもできるようになっている。
送信時に新たにメタデータを作成するために、信号処理及び制御部11には、顔判定部11b、文字判定部11c、シーン・動き判定部11dが設けられている。顔判定部11bは、公知の顔検出の手法によって、撮像画像中の人物の顔を検出する。例えば、顔判定部11bは、顔の明るさの特徴をモデル化した複数の濃淡画像と撮像画像とを順次比較することで、人物の顔を検出する手法を採用してもよい。また、顔判定部11bは、例えば笑顔の場合における口角の角度や目尻の角度、顔パーツの陰影の特徴を記憶した図示しないデータベースを利用することで、顔の表情を判定することもできる。また、顔判定部11bは、多数の人物の顔の特徴量を記憶した図示しないデータベースを利用することで、撮影された人物の年齢、性別等を判定することも可能である。更に、顔判定部11bは、顔の特徴量とユーザによって入力された名前とを関連付けて記憶することにより、撮影された人物の名前を判定することもできるようになっている。
文字判定部11cは、撮像画像中の文字に対する文字認識処理によって、撮像画像中から文字を抽出する。また、シーン・動き判定部11dは、撮像画像からシーンや撮像画像中の物体の動き等を検出する。更に、信号処理及び制御部11は、撮像画像中の色や、形を判定するようにしてもよい。なお、物体の動きは、スルー画から取得する必要があり、撮影時に物体の動きに基づく情報を例えばメーカノート等に記録する。
メタデータ更新部11fは、こられの判定結果に応じたメタデータをデータ記述言語によって生成して、画像ファイルを更新する。例えば、顔判定部11bが、顔の特徴量から撮像画像中の人物の名前を判定した場合には、メタデータ更新部11fは、撮像画像中の存在する人物の名前をメタデータとして記述する。また、例えば、文字判定部11cによって、撮像されたコンパクトディスク(CD)のタイトルを検出した場合には、メタデータ更新部11fは、「シューベルトのCD」等のテキストのメタデータを生成してもよい。また、撮像画像の色や形の判定結果から、メタデータ更新部11fは、例えば、「緑の中の風景」、「赤い夕日」等のテキストをメタデータとして生成することもできる。また、メタデータ更新部11fは、接眼センサ21の検出結果に基づいて、撮影者のテキスト情報をメタデータとして生成してもよい。
なお、処理能力上問題が無ければ、撮像時又は画像ファイルの送信までの間に、メタデータ作成部11eが、これらの判定部11b〜11dの判定結果に基づくメタデータをバイナリ形式にて生成してもよい。この場合には、メタデータ更新部11fは、作成されたメタデータをファイル送信時にデータ記述言語に変更してメタデータを更新する。
更に、メタデータ更新部11fは、単にバイナリ形式のメタデータをデータ記述言語に変更するだけでなく、バイナリ形式のメタデータや各判定部11b〜11dによって画像から判定された判定結果を用いて、新たなメタデータをデータ記述言語によって生成してもよい。例えば、メタデータ更新部11fは、バイナリ形式のメタデータ中の、撮影日時及び緯度経度情報を用いて、「夏の信州」や「New Year’s day in Japan」等のテキストを生成してもよい。このように、上述した画像の色や形からのテキストへの変換、日時等のメタデータからのテキストへの変換等を簡単に行うために、撮影機器10にはデータベース20が設けられている。データベース20は数値や画像の形状や色の情報等を用いて、テキストに変換する辞書機能を有する。このようなデータベース20を用いることで、画像データやメタデータに含まれる色、形、位置や日付等の情報から、よりリッチで扱い易い情報をユーザに提供することができる。
RAWデータ変更部11iによる上述したRAWデータの更新処理は、撮像素子に依存しないデータ並びを実現する場合や、外部機器が扱えるデータ量に制限がある場合などには、例えば、必要とされる規格に応じた情報を記述したデータベース20を参照することでも、簡単に実現することが可能である。なお、本実施の形態におけるデータベース20は、画素データの配列順に関する情報などをユーザが設定することができるようになっている。例えば、ユーザは、画素データが2次元画素位置に対応した配列で出力されるように、画素データの配列順に関する情報をデータベース20に記述しておくことができる。また、ブログなどを飾るのにふさわしいデータ長やアスペクト比などを参照して送信画像に反映させられるようにしてもよい。その他、汎用的な画像処理ソフトで使いやすい決まりなどを、あらかじめ指定できるようにしてもよい。もちろん、カメラメーカが、特定の機器やホームページやSNSサービスなどの仕様を想定し、ここに送信RAWデータを作るときのお勧めの決まりを製品出荷時に記載しておいてもよい。
本実施の形態においては、RAWデータ変更部11iは、特定の画素位置の画素データにより構成される送信RAWデータを作成するために、例えばデータベース20に格納された設定情報を用いてもよい。設定情報は、ユーザによって記述することも可能であり、また、初期状態で所定の設定情報がデータベース20に格納されていてもよい。設定情報によって、特定の画素位置を規定することも可能である。例えば、特定の画素位置としては、画像の破綻が生じていない部分を指定するようにしてもよい。例えば、設定情報によって、レンズ情報から得られる歪が閾値以下の比較的小さい部分の画素位置を指定してもよい。また、撮像画像中に含まれる例えばビルや地平線等の直線状の絵柄、即ち、本来直線であるべき絵柄が曲がった絵柄になっている場合には、この歪が許容量以内の部分を特定の画素位置の部分に設定することができ、設定情報によって、このような歪の許容値を設定しておくことで、特定の画素位置の画素データを抽出可能である。また、撮像画像中に含まれる顔の縦横比や顔パーツの位置の歪が許容量以内の部分を特定の画素位置の部分に設定することができ、設定情報によって、このような歪の許容値を設定しておくことで、特定の画素位置の画素データを抽出可能である。
また、データベース20には、バイナリ形式のデータとテキストとの関係や、各種判定結果とテキストとの関係等についても記述されているものとする。この場合には、メタデータ更新部11fによる上述した各種メタデータの更新処理は、データベース20を参照することでも、簡単に実現することが可能であり、本実施の形態においては、メタデータ更新部11fは、このようなテキスト化するメタデータの元となるデータとテキストとの関係を記述したデータベース20を採用することで、メタデータの更新を行うものとして説明する。
また、画像ファイル毎にメタデータが設定される例について説明したが、画像ファイルとは別に画像ファイルを管理するための補助データが記録されることがある。例えば、各画像ファイルの画像中に含まれる人物の名前や、画像ファイルがいずれのグループに属するかを記述した補助データ等がある。本実施の形態においては、このような補助データについてもデータ記述言語化して送信することができるようになっており、以後説明の簡略化のために、メタデータはこのような補助データも含むものとする。
ところで、撮影して得た撮像画像を、インターネット等のネットワーク上にアップロードして、第3者との間で画像を共有して楽しむことが考えられる。しかしながら、撮像画像中には、プライバシーの観点から、公開が好ましくない画像データ及びメタデータもある。
そこで、本実施の形態においては、送信制御部11gは、送信先の種別に応じて、画像ファイルの送信に異なるセキュリティ設定を行うようになっている。例えば、送信制御部11gは、送信先の機器を、特定の機器、限定されたネットワーク内の機器、公開されたネットワーク内の機器の3の種別に分類し、各種別毎に送信内容を決定するようになっている。例えば、送信制御部11gは、特定の機器にのみ送信RAWデータを送信し、他の機器については記録RAWデータを送信する。また、例えば送信制御部11gは、特定の機器に対しては全てのメタデータ送信し、限定されたネットワーク内の機器については、メタデータから一部のデータを除いて送信し、公開されたネットワーク内の機器については、メタデータのうちの一部のデータのみを送信する。また、送信制御部11gは、送信先の種別に応じて、メタデータを加工した後送信するようにしてもよい。
次に、このように構成された実施の形態の動作について図3乃至図11を参照して説明する。図3及び図4は実施の形態の動作を説明するための説明図であり、図5は画像ファイルの送信を説明するための説明図である。図6はメタデータの変換を説明するための説明図である。図7乃至図11は実施の形態の動作を説明するためのフローチャートである。
図7はカメラ制御を示している。図7のステップS1において、信号処理及び制御部11は撮影モードであるか否かを判定する。いま、撮影モードが指示されているものとする。この場合には、信号処理及び制御部11は、ステップS18において、スルー画の表示及び顔判定を行う。信号処理及び制御部11は撮像部12からの撮像画像を取り込んで、所定の信号処理を施す。信号処理及び制御部11は、信号処理後の撮像画像を顔判定部11bに出力すると共に、信号処理後の撮像画像を表示部16に与えてスルー画を表示させる。
また、信号処理及び制御部11は、ステップS19において、各種撮影条件を判定すると共に、通信部12cからレンズ情報を取得する。例えば、信号処理及び制御部11は、レンズ情報に基づいて、記録RAWデータの作成時に、歪補正すべき領域や画素欠陥を補正すべき領域に関する情報を取得することができる。また、信号処理及び制御部11は、レンズ情報に基づいて、送信RAWデータの作成時においても、歪補正や画素欠陥の補正を行った領域に関する情報を用いることができる。また、信号処理及び制御部11は、メタデータ作成の元となる、露出時間、絞り値、露出プログラム、ISO感度、撮影日時の情報等の判定を行う。また、信号処理及び制御部11は、撮像画像から撮影時の光源に関する情報を取得することもできる。
信号処理及び制御部11は、ステップS20において撮影操作の有無を判定する。ここで、撮影者がレリーズボタン等の操作によって撮影を行うものとする。そうすると、信号処理及び制御部11は、次のステップS21に移行して、撮影を行う。
図3(a)は撮影操作が行われる様子を示している。撮影者31は、被写体35に向かって撮影機器10を構える。例えば、図3(a)に示すように、撮影者31は右手32R及び左手32Lによって撮影機器10を把持し、表示部16の表示画面16a上に表示されたスルー画を見ながら撮影を行う。
信号処理及び制御部11は、ステップS22において、JPEG記録が指示されているかRAW記録が指示されているかを判定する。いま、JPEG記録が指示されているものとする。この場合には、信号処理及び制御部11は、撮像部12からの撮像画像を取り込んで、所定の信号処理を施し、JPEGフォーマットで圧縮した画像データを生成する(ステップS23)。また、信号処理及び制御部11は、撮像画像の縮小画像を作成して、この縮小画像についてもJPEGフォーマットで圧縮する。
また、メタデータ作成部11eは、顔判定結果、撮影条件の判定結果及びレンズ情報等に基づいて、メタデータMrを作成する。(ステップS25)。上述したように、撮影時には、バイナリ形式のメタデータが作成される。なお、メタデータ作成部11eは、バイナリ形式の規格データ列だけでなく、処理が可能な限り被写体等の距離や色の情報量を増やすためにメーカノートについても作成する。信号処理及び制御部11は、画像データとメタデータとによって構成される画像ファイルを記録再生部15により記録する。
一方、RAW記録が指示されている場合には、信号処理及び制御部11は、撮像部12からの撮像画像を取り込み、歪補正及び画素欠陥の補正を行い、可逆圧縮処理によって記録RAWデータを作成する(ステップS24)。また、信号処理及び制御部11は、撮像画像の縮小画像を作成して、この縮小画像についてはJPEGフォーマットで圧縮する。そして、信号処理及び制御部11は、記録RAWデータ、JPEGフォーマットの縮小画像及びメタデータによる画像ファイルを記録再生部15によって記録する。
信号処理及び制御部11は、ステップS26において、記録した撮像画像を表示部16にも与えてレックビュー表示(確認表示)させる。撮影者31は、図3(a)の下向きの矢印に示すように、レックビュー表示を確認すると共に、手で表示画面16a上に配設されたタッチパネル17を操作しやすいように、撮影機器10を水平に構える。
信号処理及び制御部11は、ステップS27においてレックビュー表示から所定時間経過したか否かを判定し、ステップS28において、ネットワーク共有モードに移行するためのシェアボタン操作が行われたか否かを判定する。
図3(b)は表示画面16a上に表示されたレックビュー画像41を示しており、図3(b)の例では、表示制御部11aによって、シェアボタンとして操作アイコン42が表示されていることを示している。図3(b)に示すように、レックビュー画像41には、人物の画像41と樹木及び山の背景の画像41bとが含まれている。そして、表示画面16a上の端部には、操作アイコン42が表示されている。
なお、信号処理及び制御部11は、撮影の度に自動的にシェアボタンである操作アイコン42を表示させるようにしてもよく、また、撮影機器10に設けた図示しない加速度センサ等によって、ユーザが撮影後に撮影機器10を水平に傾けたことを検知して、操作アイコン42を表示させるようにしてもよい。
ここで、ユーザが指33等によって、操作アイコン42をタッチ操作するものとする。そうすると、信号処理及び制御部11は、ネットワーク共有モードを設定する(ステップS29)。ネットワーク共有モードにおいては、表示制御部11aは、送信先の種別を決定するための選択アイコン43〜45を表示させる。選択アイコン43は、送信先の種別として、特定の機器を指定するためのものであり、選択アイコン44は、送信先の種別として限定されたネットワーク内の機器を指定するためのものであり、選択アイコン45は、送信先の種別として、公開されたネットワーク内の機器を指定するためのものである。
図8は図7のステップS29,S8のネットワーク共有処理の具体的なフローを示している。
ネットワーク共有処理では、撮影機器10は、例えば図8のフローに従って、自動的に画像ファイルを通信部19を介して外部に送信する。送信制御部g11は、図8のステップS30において、機器間通信が選択されたか否かを判定する。機器間通信が選択された場合には、送信制御部11gは、次のステップ31において通信候補を判定し、ステップS32において認証操作を行う。通信部19と通信候補の機器との間で認証が行われると、送信制御部11gは、ステップS33においてRAWデータ通信を行うか否かを判定する。送信される画像ファイルがJPEGデータである場合には、処理をステップS39に移行して、メタデータをデータ記述言語化した後、相手先の機器に送信する(ステップS40)。
送信される画像ファイルがRAWデータである場合には、送信制御部11gは、RAWデータ通信のための処理を行う。先ず、送信制御部11gは、ユーザのトリミング指定を受け付ける。送信制御部11gは、表示制御部11aを制御して、トリミング指定を受け付けるための操作画面を表示させる。
図4はこの操作画面を示しており、ユーザが、図4(a)に示すように、指33によって機器指定の選択アイコン43をタッチすると、図4(b)に示すトリミングのための操作画面が表示される。表示画面16aのレックビュー画41上には、トリミングを指定するための選択アイコン46、送信データがRAWデータであることを示すメッセージ表示47a及びトリミング範囲を指定するための範囲表示47bが表示されている。
範囲表示47bは、RAWデータリサイズ部11jによって指定されるものであり、RAWデータリサイズ部11jは、初期状態では、例えば、記録RAWデータの作成時に歪補正や欠陥補正した領域以外の領域を指定する。歪補正は行わなくともよい。特に、歪補正を行わず撮像素子の出力をRAWデータとして出力すると、特に画像の周辺部で、画像の縦横が本来の被写体の縦横関係から乱れ、直線が曲線に見えたりして外部表示時に不自然に歪んだ画像となってしまうので、本発明のような工夫は重要である。つまり、本発明は、上記RAWデータ化部が作成した上記記録RAWデータを、四隅の直線性を維持して簡略化した2次元画素配置に対応した配列順の画素データにより構成される送信RAWデータに変換するRAWデータ変更部を有することによって、外部機器での取り扱いを容易にした。RAWデータリサイズ部11jは、記録RAWデータのうち範囲表示47bに示す領域を切出すようになっており、ユーザはこの切出し領域を範囲表示47bの範囲を変更することで指定することができる。例えば、ユーザは範囲表示47bのライン上を指33でタッチしてスライドさせる操作によって、範囲表示47bの範囲を変更することができる。ユーザは範囲表示47bによる切出し領域の指定を確定させるために、選択アイコン46をタッチする。これにより、トリミングの範囲が確定する。この時、画素加算と平均化、データ長の削減などを行ってもよい。また、特定の機器や画処理ソフトで扱いやすいように、撮像素子によって異なるベイヤー配列などを並べ替えてもよい。このとき、RGBの三色の画素データを特定の順番に並べ替えるような処理が含まれることとなる。
図5(a)はユーザが範囲表示47bによって撮像範囲の全範囲を指定した場合、即ち、トリミングを行わない場合の画像ファイルを示している。画像ファイルは、送信RAWデータである画像データPs、縮小画像データJs及びメタデータMsによって構成される。なお、図8のフローではトリミングを行う例を示しているが、トリミングを省略することも可能である。
図5(b)はトリミングによってデータ量が削減された画像ファイルを示している。画像ファイルは、後述のように、トリミングされ、配列順の変更処理が行われた送信RAWデータPs1を含む。信号処理及び制御部11は、トリミング範囲の縮小画像をJPEGフォーマットに変換する。これはサムネイル表示などに利用する。図5(b)の縮小画像データJs1は、この縮小画像を示している。
本実施の形態においては、ステップS35において、先ずこの縮小画像を、送信制御部11gにより通信部19を介して相手先の機器に送信させる。図5(c)はこの場合の送信データを示しており、送信される画像ファイルは、縮小画像データJs1と、トリミング範囲の情報を有するメタデータMs2とにより構成される。図4(c)は機器間通信の相手先の機器48を示している。機器48は、例えばパーソナルコンピュータやスマートフォン等であり、表示画面49には受信した縮小画像に基づく画像49bが表示される。よく普及して、標準化されているJPEG形式でサムネイルを送るような措置によって、相手機器は画像をすぐに確認することができる。
信号処理及び制御部11のRAWデータ変更部11iは、記録RAWデータを伸張した後(ステップS36)、RAWデータリサイズ部11jを制御して、トリミング等のリサイズ処理を実行させる(ステップS37)。
RAWデータ変更部11iは、データベース20から、出力する画素データの配列順やデータ長、その他の取り決め項目に関する情報を読み出し、RAW配列部11kを制御して、リサイズしたRAWデータの配列順を変更して送信RAWデータPs1を作成する。また、メタデータ更新部11fは、レンズ情報に基づいて光源に関する情報、顔位置の情報及びトリミング情報をメタデータとして追記する(ステップS38)。次に、メタデータ更新部11fによって、メタデータをデータ記述言語化した後(ステップS39)、画像ファイルを相手先の機器に送信する(ステップS40)。
図4(c)では、機器48の表示画面49上に、機器48が受信したRAWデータに基づく画像49aが表示されていることを示している。機器48が受信するRAWデータは、データベース20によって例えばユーザが指定した配列順や画像サイズ、アスペクト比等で画素データが配列されて出力されたものであり、特定の機器である機器48において、RAWデータに基づく画像表示が可能である。
なお、データベース20には、記録RAWデータを画素の2次元配列順に配列するための情報その他も記述されていて、ユーザの指定がない場合でも、それを参照して送信RAWデータを作成するようにしてもよい。
また、ステップS32において、相手機器との間で認証が行われない場合には、所定時間経過後に、警告を発して処理を終了する(ステップS41)。
図9は図8のステップS39の処理の具体例を示すフローチャートである。
図6(a)は送信前におけるメタデータの記録内容を示している。図6(a)のAdressは記録再生部15によって記録された画像ファイル中のメタデータの記録媒体上の記録位置を示しており、DataはAdressによって規定された記録位置における記録内容を示している。
本実施の形態においては、バイナリ形式においては、メタデータの記録媒体上の記録位置は、記述する項目に応じて規定されている。データベース20は、メタデータの記録媒体上の記録位置と記述する項目との関係が記述されており、メタデータ更新部11fは、データ記述言語化可能な項目(対象データ)が存在する場合には、ステップS61からステップS62に処理を移行して、データベース20を参照する。
メタデータ更新部11fは、データベース20を参照して、メタデータ中のAdressをテキスト形式の項目名(データ名)に変換する(ステップS63)。また、メタデータ更新部11fは、データベース20を参照して、メタデータ中のDataをテキスト形式のデータ内容に変換する(ステップS64)。メタデータ更新部11fは、テキスト化した項目名及びデータ内容によって、メタデータを生成する。こうして、図2(b)のAPPセグメントSG2が生成される(ステップS65)。
図6(b)はテキスト化されたメタデータを示しており、メタデータは、項目名と各項目名に対応するDataとがテキストによって記述されている。図6(b)の例では、図6(a)の各アドレスが項目名Name1,Name2,…に変換され、図6(a)の各バイナリDataがテキストのDATA1,DATA2,…に変換されている。なお、メタデータは階層構造を有していてもよく、例えば、項目名Name5は、下位階層に項目名Name6を有している。
メタデータ更新部11fは、メタデータの変換が終了していなければ(ステップS66)、次の項目(別のデータ)を参照してステップS61〜S66の処理を繰り返す。全てのメタデータの変換が終了すると、処理は図8のステップS40に戻って、送信制御部11gは、通信部19を制御して、画像ファイルを送信する。
こうして、画像ファイルが転送された特定の機器において、受信した画像ファイルの表示、編集、検索等を行うことができる。この場合において、受信したメタデータはデータ記述言語化されており、多種多様のソフトウェアによってこのメタデータを利用することができる。特定の機器としては、例えば、撮影機器10の所有者が所有しているパーソナルコンピュータやスマートフォン等の他の機器が考えられ、この所有者が撮影機器10からの画像ファイルを他の機器において利用する場合に、テキスト言語化されたメタデータを用いることで、検索、編集等の利用が容易となる。
このように、メタデータを例えばXML形式等のデータ記述言語によって記述するので、データに名前やパラメータを付けて簡単に管理することができ、並べ変えなどの自由度が高く、階層表現も出来る。これにより、誰でも簡単に利用でき、コンピュータ、インターネット、情報家電機器との相性が良く、ブラウザによって利用可能であり、また、プログラムからデータが扱いやすく、サービス向上の観点で開発効率が高いという利点がある。
次に、例えば、ユーザが図3(c)の選択アイコン44のタッチ操作、即ち相手先が限定されたネットワーク内の機器を指定する操作を行うものとする。送信制御部11gは、図8のステップS43において、この操作を検出すると、ステップS44において、送信先を設定する。例えば、送信制御部11gは、予め登録されているSNS(ソーシャル・ネットワーキング・サービス)を送信先に設定して、認証操作を行う(ステップS45)。
SNSは、限定されてはいても、比較的多数の利用者が画像を共有することができることから、画像データ及びメタデータからなる画像ファイルをそのまま画像共有のためにアップロードすると、個人情報保護の観点等から好ましくない場合が考えられる。そこで、ネットワーク共有モードにおいては、相手先の種別毎に、送信可能な内容を切り換える。
送信制御部g11は、認証が行われると、図8のステップS46において、場所、時刻をテキスト化する。即ち、この場合には、メタデータ更新部11fは、送信制御部11gに制御されて、メタデータ中の種々の項目のうち、場所に関する項目及び時刻に関する項目のみをデータ記述言語化する。送信制御部11gは、このメタデータと記録されている画像データとによる画像ファイルを送信する(ステップS47)。即ち、この場合には、記録されている画像データが記録RAWデータであっても、この記録RAWデータをそのまま送信する。
図10は図8のステップS46の処理の具体例を示すフローチャートである。データベース20には、GPS情報に対応するテキスト、日付情報に対応するテキストが記述されている。メタデータ更新部11fは、送信制御部11gに制御されて、GPS情報が存在する場合には(ステップS71)、ステップS72においてデータベース20を参照する。メタデータ更新部11fは、GPS情報をデータベース20の記述を元に、例えば国、県、市町村名、或いは地方名等のテキストに変換する(ステップS73)。なお、メタデータ更新部11fは、GPS情報に基づく緯度経度を単にテキスト化してもよい。
また、メタデータ更新部11fは、送信制御部11gに制御されて、日付情報が存在する場合には(ステップS74)、ステップS75においてデータベース20を参照する。メタデータ更新部11fは、日付情報をデータベースの記述を元に、例えば春夏秋冬等の季節、クリスマスやお正月、祝日等のテキストに変換する。更に、メタデータ更新部11fは、日付情報から撮像画像中の誕生日の情報をテキスト化してもよい。また、メタデータ更新部11fは、日付情報に基づく日時を単にテキスト化してもよい。
なお、メタデータ更新部11fが参照するデータベース20には、複数の国の言語のテキストを記述しておいてもよい。これにより、メタデータ更新部11fは、各国の言語のテキストに変換することもでき、また、ユーザが指定した言語のテキストに変換することもできる。
メタデータの変換が終了すると、図8のステップS47に戻って、送信制御部11gは、通信部19を制御して、画像ファイルを送信する。なお、この場合には、送信制御部11gは、メタデータとしてメタデータ更新部11fによって更新されたデータのみを送信する。これにより、ユーザがSNSを選択した場合には、例えば地域や日時に関する情報のみがメタデータとして送信されることになる。SNSを選択した場合には、友人等の機器によって画像共有されるものと考えることができ、友人との旅行で撮影した写真のように、撮影場所、撮影日時等のメタデータをデータ記述言語化することで、これらのデータの利用を簡単にすることができる。一方、その他のデータについては送信しないことにより、個人情報等の保護が可能である。
なお、ステップS45において、相手先との間で認証が行わない場合には、所定時間経過後に、警告を発して処理を終了する(ステップS48)。
次に、例えば、ユーザが図3(c)の選択アイコン45のタッチ操作、即ち相手先が公開されたネットワーク内の機器を指定する操作を行うものとする。送信制御部11gは、図8のステップS51において、この操作を検出すると、ステップS52において、送信先を設定する。例えば、送信制御部11gは、予め登録されているブログや画像投稿サイトを送信先に設定して、認証操作を行う(ステップS53)。なお、ステップS51において、画像公開の選択操作が検出されない場合には、所定時間経過後に、警告を発して処理を終了する(ステップS58)。
画像投稿サイト等においては、不特定多数の利用者が画像を共有することができることから、本実施の形態においては、画像データ及び検索のためのメタデータからなる画像ファイルをアップロードする。例えば、撮影者と面識のないユーザは、撮影対象物や撮影場所、季節等によって画像を検索したくなることが多いからである。
送信制御部g11は、認証が行われると、図8のステップS54において、メタデータとして検索用のデータをテキスト化する。即ち、この場合には、メタデータ更新部11fは、送信制御部11gに制御されて、メタデータ中の種々の項目のうち、検索に適した項目のみをデータ記述言語化して、送信データ量を削減しながら、公開された画像を利用するユーザの利便性を向上させると共に個人情報の保護を可能にする。なお、検索に適した項目としては所謂5W1Hの情報に関する項目が考えられるが、公開される点を考慮すると、「誰」に関する情報ついては送信しないようにした方がよい。
送信制御部11gは、こうてし生成されたメタデータと記録されている画像データとによる画像ファイルを送信する(ステップS55)。即ち、この場合には、記録されている画像データが記録RAWデータであっても、この記録RAWデータをそのまま送信する。
図11は図8のステップS54の処理の具体例を示すフローチャートである。データベース20には、文字読み取り情報に対応するテキスト、顔情報に対応するテキスト、シーン情報に対応したテキスト及び被写体分析情報に対応したテキストが記述されている。メタデータ更新部11fは、送信制御部11gに制御されて、例えば図10と同様の手法により、場所、時刻をテキスト化する(ステップS81)。
なお、ステップS81におけるテキスト化では、個人情報のセキュリティを考慮したテキスト化を行う。例えば、個人を特定できないように、GPS情報に基づいて、国名又は県名等のテキスト化を行う。また、日付情報として個人の誕生日の情報が含まれる場合には、この日付情報をテキスト化しない。
メタデータ更新部11fは、文字読み取り情報が存在する場合には(ステップS82)、データベース20を参照して(ステップS83)、読み取り文字をテキスト化する(ステップS84)。例えば、画像中に含まれる駅名等をテキスト化することで、地図検索等において簡単に利用可能となる。
また、メタデータ更新部11fは、顔情報が存在する場合には(ステップS85)、データベース20を参照して(ステップS86)、顔情報に基づいたテキスト化を行う(ステップS87)。例えば、画像中に含まれる人物の性別、年齢、人数等をテキスト化する。例えば、顔の特徴量から撮像画像中に赤ちゃんが存在することを検出した場合には、赤ちゃんというテキストをメタデータに記述する。
また、メタデータ更新部11fは、シーン情報が存在する場合には(ステップS88)、データベース20を参照して(ステップS89)、シーン情報に基づいたテキスト化を行う(ステップS90)。例えば、画像中が夕日のシーンであるとか、山脈を写したシーンであるとかの情報をテキスト化する。更に、メタデータ更新部11fは、形、位置、色、GPSの情報等を用いて各シーンを検出してもよく、これらのシーンをテキスト化することにより、画像投稿サイト等において、各シーンに対応した画像の検索を容易にすることが可能となる。
また、メタデータ更新部11fは、被写体分析情報が存在する場合には(ステップS91)、データベース20を参照して(ステップS92)、被写体分析情報に基づいたテキスト化を行う(ステップS93)。例えば、被写体がペット、動物、鳥等であることが検出された場合には、その情報をテキスト化することで、画像投稿サイト等において、動物名等をキーワードとして画像の検索を容易にすることが可能となる。
また、送信相手が特定の機器の場合にのみ記録RAWデータを送信RAWデータに変換して送信し、特定の機器以外の機器の場合には、記録RAWデータをそのまま送信する。これにより、特定の機器においてのみ編集を容易にすると共に、第3者による編集は困難なままにすることもできる。なお、ユーザがデータベース20に指定する情報として、画素データの配列順を汎用性の低い配列順にするための情報を指定することも可能であり、この場合には、特定の機器以外の機器に送信RAWデータを送信するようにすることで、第3者による編集を極めて困難にすることも可能である。
なお、ネットワーク共有モードは、撮影時だけでなく、再生時にも設定される。信号処理及び制御部11は、図7のステップS1において、撮影モードが指定されていない場合には、ステップS2において再生モードが指示されているか否かを判定する。再生モードが指示されている場合には、信号処理及び制御部11は、記録再生部15に記録されている画像を読み出し、伸張処理等の所定の信号処理を施した後、表示部16に与えて再生表示させる(ステップS3)。
信号処理及び制御部11は、ステップS4においてメタデータの再生が指示されているか否かを判定し、メタデータの再生が指示されている場合にはメタデータの内容を表示部16に表示させる(ステップS5)。信号処理及び制御部11は、ステップS6において再生モードを元に戻す操作が行われたか否かを判定し、操作が行われた場合には処理をステップS2に戻す。再生モードを元に戻す操作が行われていない場合には、表示制御部11aは、シェアボタンとして操作アイコン42を表示画面16a上に表示させ、ステップS7においてシェアボタン操作が発生したか否かを判定する。
信号処理及び制御部11は、シェアボタン操作が行われない場合には、他の画像を指定する変更操作があったか否かを判定し(ステップS9)、変更操作があった場合には、指定された他の画像を読み出し、伸張処理等の所定の信号処理を施した後、表示部16に与えて再生表示させる(ステップS10)。
信号処理及び制御部11は、シェアボタン操作が行われたものと判定した場合には、ステップS8において、ネットワーク共有モードに移行する。ネットワーク共有モードにおける動作はステップS29と同様である。また、信号処理及び制御部11は、ステップS2において再生モードが指示されていないと判定した場合には、ステップS11において、画像受信及び書き戻しの処理を行う。
このように本実施の形態においては、撮影時に記録されたRAWデータを、送信時において、例えば画素の2次元配列順に対応した配列順等の単純な規則のデータに変換することにより、汎用の画像ソフトでの処理を可能にすることができる。また、記録RAWデータをリサイズして送信RAWデータを作成することもでき、データ量を削減することができるという利点がある。更に、リサイズ時に、歪補正や画素欠陥の補正を行っていない領域のみによって送信RAWデータを作成することもでき、より高画質の画像を得ることも可能である。
また、記録されたバイナリのメタデータを送信時にデータ記述言語化して送信している。記録時にはバイナリデータを採用しており、撮影機器においてメタデータの処理が容易である。一方、送信時には汎用性に優れたデータ記述言語に変換して送信しており、送信された画像ファイルの利用が容易となる。また、送信先に応じて送信するメタデータを変更しており、セキュリティに優れている。一般的なカメラにおいてはテキスト検索は普及していないが、コンピュータにおいてはテキスト検索が主流であり、インターネット等では、XML形式の記述が多用されている。従って、記録時にバイナリ形式のメタデータを記録することで処理速度の低下を抑制すると共に、送信時に、メタデータをXML等のデータ記述言語で記述して送信することにより、インターネット及びコンピュータ等において画像ファイルを利用しやすくすることができる。例えば、検索が極めて容易となり、また、画像編集の処理内容を容易に確認することも可能である。
なお、送信時に、記録RAWデータから送信RAWデータへの変換やバイナリ形式のメタデータからデータ記述言語への変換を行う例について説明したが、撮影後であって送信前の任意のタイミングで、送信RAWデータへの変換やデータ記述言語への変換を行うようにしてもよい。
また、上記実施の形態においては、記録RAWデータを送信時に送信RAWデータに変換して送信する場合の例について説明したが、記録されたJPEGデータを伸張して、2次元画素配置に対応する配列順で画素データを送信するようにしてもよい。
(第2の実施の形態)
図12は本発明の第2の実施の形態を説明するための説明図である。本実施の形態のハードウェア構成は第1の実施の形態と同様であり、RAWデータ化部11h、RAWデータリサイズ部11jの処理が異なるのみである。
第1の実施の形態においては、記録RAWデータの作成時において、画像周辺領域における歪を補正する例について説明した。図4(a)に示したように、RAWデータリサイズ部11jは、表示制御部11aを制御して、初期状態において、歪補正を行っていない領域を範囲表示47bによって表示させた。
これに対し、本実施の形態は、記録RAWデータの作成時に、RAWデータ化部11hは、画像周辺領域における歪を補正していない記録RAWデータを作成する。そして、RAWデータリサイズ部11jは、送信RAWデータの作成時に、画像周辺領域における歪を補正したリサイズ処理を行う。
図12は画像周辺領域における歪及びRAWデータリサイズ部11jによる補正を説明するためのものである。図12(a)は歪が生じていない状態を示しており、枠によって各画素Piを示している。また、図12(a)の線L1,L2,…,La,Lb,…は、歪を説明するために任意の領域を区画するものである。なお、図面の見やすさを考慮して、線L1,L2,…,La,Lb,…上の画素は図示していない。図12(a)に示すように、歪が生じていなければ、各画素Piは、連続的に、且つ水平及び垂直に均等に配置される。
撮像素子の画素配置に対して、レンズの収差等の歪により、撮像素子から得られる画像は、図12(b)に示すように、画像周辺領域において、線L1,L2,…,La,Lb,…が曲線状に歪んだ状態と等価となる。
図12(b)に示すように、線L1,L2,La,Lbによって囲まれた領域において、画像周辺領域近傍の画素には、線L1,L2,La,Lbの変形と同様の歪が生じている。しかし、線L1,L2,La,Lbによって囲まれた領域においても、例えば、斜線に示す3×3の画素については比較的歪が少ない。そこで、これらの斜線に示す画素から1つの画素P1を生成する。同様に、他の領域についても、比較的歪が少ない斜線の画素を用いてこれらの画素データを代表させ、画素P2〜P4を生成する。
RAWデータリサイズ部11jは、レンズ情報に基づいて画素P1〜P4の生成を行って、図12(c)に示すように、2×2の画素を生成する。即ち、図12の例では、水平及び垂直方向の画素数が1/2にリサイズされる。このように、RAWデータリサイズ部11jは、光学的に劣化が少ない領域の画素を用いてリサイズ処理を行う。
なお、RAWデータリサイズ部11jは、領域毎に用いる画素数が異なり、領域毎の光量が異なるので、この光量差を補正して送信RAWデータとしてもよく、正規化処理を入れてもよく、補正が必要な旨をメタデータに記載してもよい。このような処理は、JPEGのような圧縮された画像では必要ではない事が多いが、RAWデータの通信時には重要な措置となる。JPEG画像は、上述した歪み補正や色補正などまで行って圧縮されているため、そのまま取り扱うのは容易であるが、色のバランスや画像合成や、簡単なデータ削減などは不得手である。本発明は、このようなJPEG画像と、RAW画像の特性をともに生かして、外部で取り扱いやすい画像にしている。
他の構成及び作用は、第1の実施の形態と同様である。
なお、上記実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話やスマートフォンなど携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。もちろん、画像処理によって、様々な検査ができる検査装置や医療用の機器にも、この考え方は流用可能であり、迅速に画像を送り、優秀な外部処理を期待する用途の撮像機器にはあまねく有用なものである。つまり、本発明は、上記RAWデータ化部が作成した上記記録RAWデータを、四隅の直線性を維持し、アスペクト比なども切り替え、先頭の画素を規定して外部で使いやすいように簡略化した2次元画素配置に対応した配列順の画素データにより構成される送信RAWデータに変換するRAWデータ変更部を有することによって、外部機器での取り扱いを容易にした。この四隅の直線性の維持は、画像の間引きやトリミングなどを想定している。これによってデータ量の削減ができるが、さらに各画素のデータ長を削減化してもよい。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
なお、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。