以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の一側面の撮像装置(例えば、図6の携帯電話機71)は、被写体を撮像する撮像装置において、情報を符号化した光学信号を発信する発信光源(例えば、図6の発信光源3−1)を備えた被写体(例えば、図6の被写体2−1)に対応する画像信号を入力するイメージセンサ(例えば、図7のイメージセンサ122)と、前記イメージセンサに近接する位置に略画角を合わせて配置され、前記発信光源が発信する前記光学信号を受信する光通信センサ(例えば、図7の光通信センサ121)と、前記イメージセンサを構成する画素と前記光通信センサを構成する画素とを対応付けして、前記イメージセンサにより入力された前記画像信号、および前記光通信センサにより受信された前記光学信号を復号した情報を用いた処理を行う信号処理手段(例えば、図11のアプリケーションプロセッサ213)とを備える。
前記画像信号に対応する画像を表示する表示手段(例えば、図6のモニタ82)をさらに備え、前記信号処理手段は、前記光学信号を復号した情報に対応する画像を生成する画像生成手段(例えば、図11の画像生成部232)と、前記イメージセンサを構成する画素と前記光通信センサを構成する画素とを対応付けして、前記イメージセンサにより入力された前記画像信号に、前記画像生成手段により生成された前記画像の画像信号を重畳する処理を行う画像重畳手段(例えば、図11の画像重畳部231)とを備え、前記表示手段は、前記信号処理手段により重畳された画像信号に対応する画像を表示することができる。
前記信号処理手段は、前記イメージセンサにより入力された前記画像信号に対応する画像から、被写体を認識する画像認識手段(例えば、図22の画像認識部341)と、前記イメージセンサを構成する画素と前記光通信センサを構成する画素とを対応付けして、前記画像認識手段により認識された被写体を、前記光学信号を復号した情報の発信元として設定する処理を行う発信元設定手段(例えば、図22の情報処理部342)とを備えることができる。
前記イメージセンサの光学系(例えば、図14のレンズ112−2)を駆動する第1の光学系駆動手段(例えば、図14のズーム駆動部251−2)と、前記光通信センサの光学系(例えば、図14のレンズ112−1)を駆動する第2の光学系駆動手段(例えば、図14のズーム駆動部251−1)と、ユーザの操作に対応するズーム値に基づいて、前記イメージセンサの光学系と、前記光通信センサの光学系を連動させるように、前記第1および第2の光学系駆動手段を制御するズーム制御手段(例えば、図14のズーム制御信号出力部261)とをさらに備えることができる。
前記イメージセンサの光学系(例えば、図16のレンズ112−2)を駆動する光学系駆動手段(例えば、図16のズーム駆動部251−2)と、ユーザの操作に対応するズーム値に基づいて、前記光学系駆動手段による光学系の駆動を制御するズーム制御手段(例えば、図16のズーム制御信号出力部261)とをさらに備え、前記信号処理手段は、ユーザの操作に対応するズーム値に基づく前記イメージセンサの画素に対応する前記光通信センサの対応画素を算出する対応画素算出手段(例えば、図16の対応画素換算部301)を備え、前記対応画素算出手段により算出される前記光通信センサの対応画素に基づいて、前記イメージセンサを構成する画素と前記光通信センサを構成する画素とを対応付けして、前記イメージセンサにより入力された前記画像信号、および前記光通信センサにより受信された前記光学信号を復号した情報を用いた処理を行うことができる。
前記信号処理手段は、前記イメージセンサにより入力された前記画像信号に対応する画像から、前記発信光源に対応する画素を検出する画素検出手段(例えば、図20の画像認識部331)と、前記画素検出手段により検出された前記発信光源に対応する画素と、前記光学信号を受信した前記光通信センサの画素に基づいて、画素ずれの補正量を算出する補正量算出手段(例えば、図20のずれ補正量算出部332)とを備え、前記補正量算出手段により算出される前記画素ずれの補正量に基づいて、前記イメージセンサを構成する画素と前記光通信センサを構成する画素とを対応付けして、前記イメージセンサにより入力された前記画像信号、および前記光通信センサにより受信された前記光学信号を復号した情報を用いた処理を行うことができる。
本発明の一側面の画像処理方法またはプログラムは、被写体を撮像する撮像装置の画像処理方法またはプログラムにおいて、情報を符号化した光学信号を発信する発信光源を備えた被写体に対応する画像信号を入力するイメージセンサを構成する画素と、前記イメージセンサに近接する位置に略画角を合わせて配置され、前記発信光源が発信する前記光学信号を受信する光通信センサを構成する画素とを対応付けして、前記イメージセンサにより入力された前記画像信号、および前記光通信センサにより受信された前記光学信号を復号した情報を用いた処理を行う(例えば、図13のステップS14)ステップを含む。
以下、図を参照して、本発明の実施の形態について説明する。
図6は、本発明を適用した撮像装置としての携帯電話機の外観の構成を示す図である。なお、図6の例において、発信光源3−1および3−2をそれぞれ備えた被写体2−1および2−2に関しては、図1の例と同様であり、対応する部分には、対応する符号が付してあり、その詳細な説明は繰り返しになるので適宜省略する。
図6に示される携帯電話機71は、カメラ部81、モニタ82、および操作入力部83を有しており、LED(light-emitting diode)などの発信光源3−1および3−2をそれぞれ備えた被写体2−1および被写体2−2を、カメラ部81で撮像することで、撮像により得られる画像信号と発信光源3−1または3−2からの通信情報を取得し、取得した画像信号に対応する画像91上に、通信情報に基づく画像92−1および92−2を重畳して、モニタ82に表示する。
なお、発信光源3−1により発信される点滅パターン22−1は、被写体2−1に関連する情報である、Webサイトのアドレス(例えば、URL(uniform resource locator))や被写体2−1を説明する文などが通信情報としてコード化されたものであり、発信光源3−2により発信される点滅パターン22−2は、被写体2−2に関連する情報である、Webサイトのアドレス(例えば、URL(uniform resource locator))や被写体2−2を説明する文などが通信情報としてコード化されたものである。
カメラ部81は、図7に示されるように、光通信センサ121およびイメージセンサ122が配置されるカメラボード(基板)111と、それぞれの焦点合わせのために、光通信センサ121およびイメージセンサ122の前面に組み込まれるそれぞれの光学系(例えば、レンズ112−1および112−2)で構成されている。
光通信センサ121は、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子で構成される2次元アレイ状のセンサである。すなわち、CMOS撮像素子は、一般にCCD(Charge Coupled Device)撮像素子に比し、駆動速度が速いので、情報の送信側で発信光源を比較的高い周波数で駆動させても、その点滅パターンを読み取ることができることから、光通信センサ121は、CMOS撮像素子で構成されることが好ましい。
イメージセンサ122は、例えば、CCDやCMOSなどの撮像素子で構成される2次元アレイ状のセンサである。すなわち、光通信センサ121およびイメージセンサ122は、同じ撮像素子で構成される必要はない。
図7の例の光通信センサ121およびイメージセンサ122に示される縦および横の点線は、それぞれのセンサにおける縦(V(Vertical)方向)の中央位置および横(H(Horizontal)方向)の中央位置を示しており、光通信センサ121およびイメージセンサ122は、それらの交点(各センサの中心点、すなわち、図8の光軸C1またはC2が通過する点)間の距離(以下、センサ間距離と称する)dが数mm乃至数cmとなるように、同じカメラボード111上に配置されている。
光通信センサ121は、例えば、受光画素121−1および受光画素121−2に示されるように、複数の受光画素(以下、単に画素とも称する)で構成されている。光通信センサ121の受光画素121−1および画素121−2は、レンズ112−1を介して、光通信センサ121の画角境界131(一点鎖線)内に存在する被写体2−1および2−2が備える発信光源3−1および3−2の点滅パターン22−1および22−2によりコード化された通信情報を検出する。すなわち、光通信センサ121は、光通信モードの場合の図1のセンサ11と基本的に同様の構成をしている。
具体的には、図2を参照して上述したように、情報の送信側は、発信光源3−1や3−2を4KHzで点滅させ、その点滅パターンに8bit程度のデータコードを乗せて、ある間隔をおいて連続的に発光させている。したがって、光通信センサ121は、発信光源3−1や3−2の点滅の約3倍の12KHz程度でフレーム操作を行い、光通信センサ121の各画素が点滅信号のサンプリング動作を行うことにより、画面上のどの位置で、どのような通信情報が発せられているのかを検出する。
イメージセンサ122も、図示せぬ複数の画素で構成されており、イメージセンサ122の画素は、レンズ112−2を介して、イメージセンサ122の画角境界132(実線)内に存在し、発信光源3−1および3−2をそれぞれ備えた被写体2−1および2−2の画像に対応する画像信号を取得する。すなわち、イメージセンサ122は、画像取得モードの場合の図1のセンサ11と基本的に同様の構成をしている。
図6に戻って、携帯電話機71は、上部筐体と下部筐体が図示せぬヒンジにより折りたたみ可能に構成されている。
モニタ82は、LCD(Liquid Crystal Display)などで構成され、携帯電話機71の上部筐体の、携帯電話機71が折りたたまれた場合に下部筐体と対面する側に設けられている。モニタ82は、イメージセンサ122により取得された画像信号に対応する画像91上に、光通信センサ121により受信された通信情報に基づく画像92−1および92−2が重畳された画面を表示する。
なお、図6の例の場合、モニタ82には、画像92−1として、被写体2−1の名前や説明文が記載される吹き出し型のアイコンが、発信光源3−1から吹き出しているように画像91上に配置されて表示されており、画像92−2として、被写体2−2の名前や説明文が記載される吹き出し型のアイコンが、発信光源3−2から吹き出しているように画像91上に配置されて表示されている。
すなわち、ユーザが、携帯電話機71を用いて、発信光源3−1および3−2をそれぞれ備えた被写体2−1および2−2を撮像するだけで、モニタ82には、被写体2−1および2−2の名前や説明文が記載される吹き出し型のアイコンが表示されるので、ユーザは、被写体2−1および2−2のことを詳しく知ることができる。
そして、ユーザにより操作入力部83を構成するボタンなどが操作され、モニタ82に表示される画像92−1または92−2が選択されることに対応して、携帯電話機71は、選択された画像92−1(すなわち、被写体2−1)に関連するさらなる詳しい説明情報に対応する画像を、モニタ82に表示したり、あるいは、選択された画像92−1(すなわち、被写体2−1)に関連したWebサイトなどに接続することもできる。
操作入力部83は、ボタンなどで構成され、例えば、携帯電話機71の下部筐体の、携帯電話機71が折りたたまれた場合に上部筐体に備えられたモニタ82と対面する側に設けられている。
なお、以下、被写体2−1および2−2、発信光源3−1および3−2、並びに、点滅パターン22−1および22−2を個々に区別する必要がない場合、単に、被写体2、発信光源3、並びに、点滅パターン22と適宜称する。
また、図6の例において、画像92−1または92−2を吹き出し型のアイコンとしたが、吹き出し型のアイコンに限定されず、他のアイコンでもよく、さらに、文字やURLそのものを表示させるようにしてもよい。
図8は、カメラ部81における光通信センサ121およびイメージセンサ122の画角と光軸の関係を示す図である。
光通信センサ121およびイメージセンサ122は、センサ間距離dだけ離して、各センサの中心点を通過する光軸C1およびC2が平行になるようにカメラボード111に配置されている。また、カメラ部81においては、光通信センサ121の画角α1と、イメージセンサ122の画角α2の大きさが縦と横(すなわち、センサ面のV方向とH方向)で同じになるように、カメラボード111から、それぞれのレンズ112−1および112−2のレンズ面L1およびL2までの距離(すなわち、焦点距離f1およびf2)が調整されている。
すなわち、図8の例の場合、光通信センサ121の画角境界131による投影エリアと、イメージセンサ122の画角境界132による投影エリアの大きさが縦と横で同じになっている。
なお、図8の例においては、光通信センサ121およびイメージセンサ122をH方向に並べて配置した場合の例が示されており、画角α1およびα2は、光通信センサ121およびイメージセンサ122のH方向の画角を表している。
また、光通信センサ121およびイメージセンサ122は、同じサイズである必要はなく、図8の例においては、光通信センサ121よりもイメージセンサ122のサイズが大きい場合が示されている。すなわち、図8のカメラ部81における焦点距離f1およびf2は、光通信センサ121の画角α1と、イメージセンサ122の画角α2の大きさが縦と横で同じになるよう、f1<f2に調整されている。
以上のようにカメラボード111に配置され、光学系が調整されている光通信センサ121およびイメージセンサ122において、被写体(発信光源)からの光を受光する画素について、図9を参照して説明する。なお、図9は、概念図であり、図9の例においては、説明の便宜上、センササイズなどの幾何学的な関係について、あまり正確に示されていない。
図9の例においては、センサ間距離dだけ離して配置された光通信センサ121およびイメージセンサ122のそれぞれの画角境界131および132内において、レンズ面L(いまの場合、L=L1=L2)からの距離が、近傍から遠方を仮定した距離D1乃至D3における各センサの投影エリアが示されている。
なお、各距離D1乃至D3の位置を示す点線の上は、各距離D1乃至D3における光通信センサ121の投影エリアを表し、点線の上に示す白丸囲み数字は、光通信センサ121の画角境界131内における画素の左端からの番号を表し、点線の上に示す垂直線は、光通信センサ121の画素投影境界を表している。すなわち、各距離D1乃至D3の位置を示す点線の上における2つの画素投影境界間は、光通信センサ121の、各距離D1乃至D3における白丸囲み数字が示す番号の画素の画素投影サイズを表している。
同様に、各距離D1乃至D3の位置を示す点線の下は、各距離D1乃至D3におけるイメージセンサ122の投影エリアを表し、点線の下に示す黒丸囲み数字は、イメージセンサ122の画角境界132内における画素の左端からの番号を表し、点線の下に示す垂直線は、イメージセンサ122の画素投影境界を表している。すなわち、各距離D1乃至D3の位置を示す点線の下における2つの画素投影境界間は、イメージセンサ122の、各距離D1乃至D3における黒丸囲み数字が示す番号の画素の投影サイズを表している。
すなわち、各距離D1乃至D3における投影エリアに存在する被写体の像は、各センサ上のその画素に結像されることを表している。
1画素の投影サイズは、センサの画素数(解像度)のみにより決定し、センサ上の画素そのもののサイズやセンサそのもののサイズには拠らない。なお、図9の例においては、光通信センサ121およびイメージセンサ122の画素数(解像度)が同じであり、それぞれの1画素の投影サイズも同じである場合が示されている。
この場合、イメージセンサ122を起点とする視線161上の被写体(発信光源)の受光画素を考察すると、近傍の距離D1においては、光通信センサ121およびイメージセンサ122の画角の位置のずれ(すなわち、センサ間距離d)により、発信光源P1は、イメージセンサ122の画角境界132の左端から1番目の画素(黒丸囲み数字の1)で受光され、光通信センサ121の画角境界131の左端から2番目の画素(白丸囲み数字の2)で受光される。
また、距離D1より遠方の距離D2においては、発信光源P2は、イメージセンサ122の画角境界132の左端から1番目の画素(黒丸囲み数字の1)で受光され、光通信センサ121の画角境界131の左端から1および2番目の両画素(白丸囲み数字の1および2)で受光される。
さらに、距離D2より遠方の距離D3においては、イメージセンサ122の画角境界132の左端から1番目の画素(黒丸囲み数字の1)で受光され、光通信センサ121の画角境界131の左端から1番目の画素(白丸囲み数字の1)で受光される。すなわち、十分遠方においては、光通信センサ121およびイメージセンサ122の両センサともにそれぞれの画角境界から左から1番目の画素で発信光源を受光できるようになる。
以上より、イメージセンサ122で取得した画像信号と光通信センサ121で取得した通信情報を対応付けようとした場合、画素の投影サイズがセンサ間距離dとほぼ同等な距離(例えば、距離D1)においては画素位置のずれが生じることになるが、被写体がセンサ間距離dに比べ十分遠方に設置されている場合には、画素位置のずれは生じないことになる。
したがって、画素投影サイズ(すなわち、センサ間距離d)が無視できる程度に遠方に位置する被写体に関しては、あたかも、1つのセンサで画像取得と光通信を実行しているかの如くみなすことが可能になる。
さらに、図10を参照して具体的に説明する。
図10の例においては、QVGA(Quarter Video Graphics Array)(すなわち、320×240画素)の解像度の光通信センサ121およびイメージセンサ122が、センサ間距離d=10mmでカメラボード111に配置され、光通信センサ121およびイメージセンサ122のそれぞれの画角α1およびα2=60度として光学系が調整された場合の例が示されている。
この場合、イメージセンサ122を起点とする視線161上の被写体(発信光源)の受光画素を考察すると、レンズ面L(図9)からの距離D=0.35mにおいて、発信光源Q1は、イメージセンサ122の画角境界132の左端からN=K番目の画素で受光され、光通信センサ121の画角境界131の左端からN=K+8番目の画素で受光される。したがって、距離D=0.35mにおいて、光通信センサ121およびイメージセンサ122の受光画素には、QVGA8画素(pixel)分のずれが生じる。
レンズ面Lからの距離D=0.7mにおいては、発信光源Q2は、イメージセンサ122の画角境界132の左端からN=K番目の画素で受光され、光通信センサ121の画角境界131の左端からN=K+4番目の画素で受光される。したがって、距離D=0.35mにおいて、光通信センサ121およびイメージセンサ122の受光画素には、QVGA4画素(pixel)分のずれが生じる。
レンズ面Lからの距離D=1.4mにおいては、発信光源Q3は、イメージセンサ122の画角境界132の左端からN=K番目の画素で受光され、光通信センサ121の画角境界131の左端からN=K+2番目の画素で受光される。したがって、距離D=1.4mにおいては、光通信センサ121およびイメージセンサ122の受光画素には、QVGA2画素(pixel)分のずれが生じる。
レンズ面Lからの距離D=2.8mにおいては、発信光源Q4は、イメージセンサ122の画角境界132の左端からN=K番目の画素で受光され、光通信センサ121の画角境界131の左端からN=K+1番目の画素で受光される。したがって、距離D=2.8mにおいては、光通信センサ121およびイメージセンサ122の受光画素には、QVGA1画素(pixel)分のずれが生じる。
レンズ面Lからの距離D=2.8mよりも無限遠方においては、発信光源Q5は、イメージセンサ122の画角境界132の左端からN=K番目の画素で受光され、光通信センサ121の画角境界131の左端からN=K番目の画素で受光される。したがって、距離D=2.8mよりも無限遠方においては、光通信センサ121およびイメージセンサ122の受光画素には、QVGA1画素(pixel)分のずれも生じない。
以上のように、距離D=2.8m以上においては、生じる画素のずれは、QVGA1画素以下のずれとなり、光通信センサ121およびイメージセンサ122の画素は、略1対1に対応しているとみなすことができる。
これにより、光通信センサ121およびイメージセンサ122が別々に備えられる携帯電話機71の場合、QVGAであれば、距離D=2.8m以上においては、あたかも、1つのセンサで画像取得と光通信を実行しているかの如くみなすことが可能になる。
また、その上、画像解像度も劣化することがないので、例えば、図6を参照して上述したように、イメージセンサ122で取得した画像信号に対応する画像91上に、光通信センサ121で取得した通信情報に基づく画像92−1および92−2を重畳してモニタ82に表示したとしても、画像信号に対応する画像91の位置と通信情報に基づく画像92−1および92−2の位置は、被写体の距離にもよるが、略正確に対応つけられる。
これにより、発信光源を備えた複数の被写体を撮像し、発信光源を備えた被写体の画像と通信情報に基づく画像を重畳して、携帯電話機71のように、小さいモニタ82に表示させたとしても、画像における発信光源の位置と、例えば、通信情報に基づく画像(被写体の名前や説明文が記載される吹き出し型のアイコンの吹き出し口)の位置が略一致するので、ユーザはモニタ82を見ただけで、どのアイコンがどの発信光源(被写体)のものであるのかを間違いなく認識することができるようになる。
図11は、図6の携帯電話機の内部構成例を示すブロック図である。
図11の例においては、携帯電話機71は、図6のカメラ部81、モニタ82、および操作入力部83の他に、画像信号処理部211、デコード処理部212、およびアプリケーションプロセッサ213により構成されている。
なお、図11のカメラ部81においては、イメージセンサ122とレンズ112−2の間に、画質維持のための赤外線カットフィルタ221が配置されている。
画像信号処理部211およびデコード処理部212は、DSP(Digital Signal Processor)などで構成される。画像信号処理部211は、イメージセンサ122からの生の画像信号(画像RAW信号)に対して、通常のイメージセンサの信号処理と同様に、カラー信号処理、ガンマ補正、AWB(オートホワイトバランス)、自動露出補正などの処理を行う。なお、イメージセンサ122からの出力は、デジタルでもアナログでもよく、アナログ出力の場合には、画像信号処理部211内にA/D(Analog to Digital)変換部が内蔵される。
デコード処理部212は、光通信センサ121からの光点滅の検出有無を表すバイナリ信号(すなわち、光点滅検出信号)をデコードする処理を行う。図12を参照して、具体的に説明する。
図12は、発信光源3から発せられる光信号、すなわち、点滅パターンとして送出されるデータフレームの構造を模式的に示している。
1つのデータフレームは、8ビット(bit)のスタートビット、8乃至128ビット(bit)のアドレス、任意長の通信情報(データ)、16ビット(bit)の誤り検出ビット、および8ビット(bit)のストップビットにより構成されている。
デコード処理部212は、信号の先頭を示すスタートビットを検出し、スタートビットが検出された画素について、以後、その後ろの信号を読み取っていくことで、バイナリ信号をデコードする。
アプリケーションプロセッサ213は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、およびRAM(Random Access Memory)等を含んで構成され、操作入力部83を介して入力されるユーザの操作に対応する信号や、内蔵するメモリに記憶される各種のプログラムなどを実行することにより、携帯電話機71の各部を制御する。
すなわち、アプリケーションプロセッサ213は、画像信号処理部211およびデコード処理部212に対して、同期信号(またはクロック信号)を供給している。
画像信号処理部211は、この同期信号から、イメージセンサ122を駆動させる駆動信号(タイミングパルス)を生成し、同期信号および駆動信号を、イメージセンサ122に供給しており、デコード処理部212は、同期信号から、光通信センサ121を駆動させる駆動信号(タイミングパルス)を生成し、同期信号および駆動信号を、光通信センサ121に供給している。
また、アプリケーションプロセッサ213には、画像信号処理部211からのリアルタイムの画像信号と、デコード処理部212からの、光信号を受信した画素の情報(以下、受信画素の情報と称する)と、デコードの結果得られた通信情報が入力される。アプリケーションプロセッサ213は、イメージセンサ122からの画像信号と光通信センサ121からの通信情報を対応付け、融合させることにより、さまざまな機能を実現する。
具体的には、図11の例の場合、アプリケーションプロセッサ213は、所定のプログラムを実行することにより、内部に、画像重畳部231と画像生成部232を構成し、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、イメージセンサ122からの画像信号と光通信センサ121からの通信情報を用いて、イメージセンサ122からの画像信号に対応する画像に、光通信センサ121からの通信情報に基づく画像を重ね合わせ、重ね合わせた画像をモニタ82に表示させる処理を行う。
画像生成部232は、デコードの結果得られた通信情報に基づいて、例えば、図6の被写体2−1の名前や説明文が記載される吹き出し型のアイコンである画像92−1や、被写体2−2の名前や説明文が記載される吹き出し型のアイコンである画像92−2を生成し、画像信号として画像重畳部231に出力する。なお、デコード処理部212からの受信画素の情報も、画像生成部232を介して画像重畳部231に供給される。
画像重畳部231は、デコード処理部212からの受信画素の情報に基づいて、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成された画像信号を重畳し、重畳した画像信号をモニタ82に出力し、重畳した画像信号に対応する画像をモニタ82に表示させる。
すなわち、画像重畳部231は、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、イメージセンサ122からの画像信号に対応する画像上における、光通信センサ121からの受信画素の情報が示す位置に、画像生成部232により生成された画像を重ね合わせて、モニタ82に表示させる。
これにより、モニタ82には、図6を参照して上述したように、画像92−1として、被写体2−1の名前や説明文が記載される吹き出し型のアイコンが、発信光源3−1から吹き出しているように画像91上に配置されて表示され、画像92−2として、被写体2−2の名前や説明文が記載される吹き出し型のアイコンが、発信光源3−2から吹き出しているように画像91上に配置されて表示される。
なお、以上においては、光通信センサ121およびイメージセンサ122は同一基板(カメラモード111)に配置された例を説明したが、同一基板上である必要はなく、2つの独立したカメラモジュールを近接して配置する構成も可能である。
また、両センサ(光通信センサ121およびイメージセンサ122)の画素数(解像度)が同じである場合を説明したが、必ずしも同じである必要はない。すなわち、イメージセンサ122を100万画素以上のセンサで構成し、光通信センサ121をQVGA(7.7万画素)のように低解像度のセンサで構成するとして、組み合わせることもできる。
ただし、この場合、アプリケーションプロセッサ213におけるイメージセンサ122を構成する画素と光通信センサ121を構成する画素との対応付けは、2対1や3対1など両者の画素数に応じた比率で行われる。すなわち、アプリケーションプロセッサ213において、イメージセンサ122を構成する画素と光通信センサ121を構成する画素の対応付けは、1対1に限らず、イメージセンサ122を構成する画素群と光通信センサ121を構成する画素群とが1対1に対応つけられている。
次に、図13のフローチャートを参照して、図11のアプリケーションプロセッサ213による画像信号処理について説明する。なお、この画像信号処理は、ユーザにより、操作入力部83を構成する、カメラ起動ボタンなどが操作されることに対応して開始される処理である。
アプリケーションプロセッサ213は、画像信号処理部211およびデコード処理部212に対して、同期信号(またはクロック信号)の供給を開始すると、画像信号処理部211は、その同期信号から、イメージセンサ122を駆動させる駆動信号(タイミングパルス)を生成し、同期信号および駆動信号をイメージセンサ122に供給し始める。
イメージセンサ122は、画像信号処理部211からの同期信号および駆動信号に基づいて、レンズ112−2を介して、イメージセンサ122の画角境界132内に存在する被写体2−1および2−2の画像に対応する画像信号を取得し、取得した画像信号を画像信号処理部211に出力し始める。
そこで、画像信号処理部211は、イメージセンサ122からの生の画像信号(画像RAW信号)に対して、通常のイメージセンサの信号処理と同様に、カラー信号処理、ガンマ補正、AWB(オートホワイトバランス)、自動露出補正などの処理を行う。
これに対応して、アプリケーションプロセッサ213の画像重畳部231は、ステップS11において、画像信号処理部211より、信号処理された画像信号を取り込む。
一方、デコード処理部212は、アプリケーションプロセッサ213からの同期信号から、光通信センサ121を駆動させる駆動信号(タイミングパルス)を生成し、同期信号および駆動信号を、光通信センサ121に供給し始める。
光通信センサ121は、デコード処理部212からの同期信号および駆動信号に基づいて、レンズ112−1を介して、光通信センサ121の画角境界131内に存在する被写体2−1および2−2が備える発信光源3−1および3−2の点滅パターン22−1および22−2によりコード化された通信情報を検出し、その検出された情報(すなわち、光点滅の検出有無を表すバイナリ信号である、光点滅検出信号)を、デコード処理部212に出力し始める。
デコード処理部212は、光通信センサ121からの光点滅検出信号をデコードする処理を行う。すなわち、デコード処理部212は、光点滅検出信号の先頭を示すスタートビットを検出し、スタートビットが検出された画素について、以後、その後ろの信号を読み取っていくことで、バイナリ信号をデコードする。
これに対応して、アプリケーションプロセッサ213の画像生成部232は、ステップS12において、デコード処理部212から、デコードの結果得られた通信情報を取得する。なお、このとき、画像生成部232は、光信号を受信した受信画素の情報も取得する。
画像生成部232は、ステップS13において、デコード処理部212からの、デコードの結果得られた通信情報に基づいて、例えば、図6の被写体2−1の名前や説明文が記載される吹き出し型のアイコンである画像92−1や、被写体2−2の名前や説明文が記載される吹き出し型のアイコンである画像92−2を生成し、画像信号として画像重畳部231に出力する。なお、デコード処理部212からの信号を受信した画素の情報も、画像生成部232を介して画像重畳部231に出力される。
画像重畳部231は、ステップS14において、デコード処理部212からの受信画素の情報に基づいて、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成されたアイコンの画像信号を重畳し、重畳した画像信号をモニタ82に出力する。
モニタ82は、ステップS15において、画像重畳部231からの画像信号に対応する画像を表示する。
すなわち、画像重畳部231は、ステップS14およびS15において、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、イメージセンサ122からの画像信号に対応する画像上における、光通信センサ121からの受信画素の情報が示す位置に、画像生成部232により生成された画像を重ね合わせて、モニタ82に表示させる。
これにより、モニタ82には、図6を参照して上述したように、画像92−1として、被写体2−1の名前や説明文が記載される吹き出し型のアイコンが、発信光源3−1から吹き出しているように画像91上に配置されて表示され、画像92−2として、被写体2−2の名前や説明文が記載される吹き出し型のアイコンが、発信光源3−2から吹き出しているように画像91上に配置されて表示される。
以上のように、光通信用のセンサと、画像取得用のセンサを別々に構成し、各センサの画角を合わせ、所定の距離だけ離して並べて配置し、画像取得用のセンサであるイメージセンサ122を構成する画素と、光通信用のセンサである光通信センサ121を構成する画素を(図13の場合、1対1に)対応付けて、信号処理(例えば、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成されたアイコンの画像信号との重畳処理)を行うようにした。
これにより、画像品質を低下させることなく、画像取得と光通信を同時に行うことができるとともに、イメージセンサ122からの画像信号に対応する画像上の被写体の(発信光源)位置と、光通信センサ121からの受信画素の情報が示す位置を、略一致させることもできる。
したがって、例えば、発信光源を備えた複数の被写体に対して画像取得と光通信を行った場合に、光通信により受信された情報と、画像上の発信光源との対応付けを略正確なものとすることができるので、その後の処理(例えば、上述した重畳表示処理)の精度を向上させることができる。
なお、一般にイメージセンサは、昨今の多画素化、小サイズ化のトレンド(流行)のために、画素サイズをより小さくしようとする傾向があるが、微小な画素では、従来の画像取得モードと光通信モードを有するカメラの場合、高速なスキャン(掃引)動作が必要な光通信モードにおいて、十分な検出感度が得ることが困難であった。さらに、通常のイメージセンサでは、画質維持のために赤外線カットフィルタが光学系に挿入されるが、それを、例えば、従来の画像取得モードと光通信モードを有するカメラに適用した場合、光通信の媒体として、赤外線を用いることができなくなっていた。
また、図5を参照して上述したように、従来の画像取得モードと光通信モードを有するカメラの構成によるアプリケーション展開を考えた場合、画像取得フォーマット(画素数、センサのサイズ)などの選択の余地が狭くなったり、CCDイメージセンサを用いることが困難であったり、通常のイメージセンサで用いられた画像処理ソフトウエアなどをそのまま流用することができなかった。
しかしながら、上述したように携帯電話機71を構成することにより、画像取得用のセンサを、CCDやCMOSなどの光通信用のセンサに拠らず、一般のイメージセンサで用いられているものや小サイズのものなどを自由に選択構成することができるとともに、それにより、光通信センサが設計上、機能上、制約を受けることもない。
さらに、図11を参照して上述したように、画質維持のための赤外線カットフィルタ221を、イメージセンサ122の光学系のみに挿入すればよいので、光通信センサ121では、赤外線の受信が可能になる。すなわち、画像維持とともに、光通信の通信媒体として、可視光のみでなく、赤外線も使用することが可能になる。
また、イメージセンサ122とその後段の画像信号処理部211は、汎用のイメージセンサ用のチップセットを流用可能であり、さらに、画像に特化した部分であれば、アプリケーションプロセッサ中のプログラム資産も、汎用のイメージセンサなどのものが流用可能である。
以上により、アプリケーション開発の効率化も可能となり、開発にかかるコストを低減することができる。
図14は、図11の携帯電話機の内部構成の他の例を示すブロック図である。なお、図14の例において、カメラ部81、モニタ82、操作入力部83、画像信号処理部211、デコード処理部212、およびアプリケーションプロセッサ213を備える点は、図11の携帯電話機71と共通しているが、ズーム駆動部251−1および251−2が追加された点が異なる。
また、図14のアプリケーションプロセッサ213は、画像重畳部231および画像生成部232を備える点は、図11のアプリケーションプロセッサ213と共通しているが、ズーム制御信号出力部261が追加された点が異なる。
すなわち、図14の例の操作入力部83は、ユーザの操作に対応して、例えば、カメラ部81の光学ズームのズーム値をズーム制御信号出力部261に入力する。
ズーム制御信号出力部261は、操作入力部83を介して入力されるズーム値を、イメージセンサ122の光学ズーム値として設定し、設定した光学ズーム値(の制御信号)を、ズーム駆動部251−2に供給する。
このとき、ズーム制御信号出力部261は、イメージセンサ122のレンズ112−2の駆動に連動させて、光通信センサ121のレンズ112−1も駆動するように、操作入力部83を介して入力されるズーム値に基づいて、光通信センサ121の光学ズーム値を設定し、設定した光学ズーム値を、ズーム駆動部251−1に供給する。
ズーム駆動部251−1は、ズーム制御信号出力部261から供給される光通信センサ121の光学ズーム値に基づいて、光通信センサ121の光学系であるレンズ112−1の位置を駆動する。ズーム駆動部251−2は、ズーム制御信号出力部261から供給されるイメージセンサ122の光学ズーム値に基づいて、イメージセンサ122の光学系であるレンズ112−2の位置を駆動する。
これにより、イメージセンサ122からは、光学ズーム値に基づいて拡大された画像信号が入力されるとともに、光通信センサ121からは、光学ズーム値に基づいて受光領域が縮小された画素で受光された通信情報が入力される。
なお、図14のアプリケーションプロセッサ213による画像処理は、図13を参照して上述した図11のアプリケーションプロセッサ213による画像処理と基本的に同様の処理であり、繰り返しになるのでその説明は省略する。
また、図14の例において、光通信センサ121の光学系とイメージセンサ122の光学系を駆動させるズーム駆動部を、ズーム駆動部251−1および251−2として分けて構成するようにしたが、1つで2つの光学系を駆動させるように構成することもできる。
次に、図15を参照して、2倍の光学ズームが設定された場合の画素のずれについて説明する。
図15の例においては、図10を参照して上述したように、QVGAの解像度の光通信センサ121およびイメージセンサ122が、センサ間距離d=10mmでカメラボード111に配置され、光通信センサ121およびイメージセンサ122のそれぞれの画角α1およびα2=60度として光学系が調整された状態において、さらに、2倍の光学ズームが設定された場合の例が示されている。
すなわち、2倍の光学ズームの設定により、光通信センサ121およびイメージセンサ122のそれぞれの画角α1およびα2=30度となり、光通信センサ121の画角境界131(一点鎖線)は、光通信センサ121の光軸C1までの距離aが、その1/2の距離a/2となる画角境界281(太い一点鎖線)となり、イメージセンサ122の画角境界132(実線)は、イメージセンサ122の光軸C2までの距離bが、その1/2の距離b/2となる画角境界282(太線)となっている。
この場合、レンズ面Lからの距離D=0.35mにおいて、光通信センサ121およびイメージセンサ122の受光画素には、QVGA16画素(pixel)分(すなわち、図10の2倍分)のずれが生じる。レンズ面Lからの距離D=0.7mにおいて、光通信センサ121およびイメージセンサ122の受光画素には、QVGA8画素(pixel)分(すなわち、図10の2倍分)のずれが生じる。なお、図15の例において、説明の便宜上、距離D=0.35mおよび距離D=0.7mの場合の詳細な図示は省略されている。
レンズ面Lからの距離D=1.4mにおいては、イメージセンサ122の画角境界282の左端から1番目の画素が、光通信センサ121の画角境界281の左端から5番目の画素に対応している。すなわち、光通信センサ121およびイメージセンサ122の受光画素には、QVGA4画素(pixel)分(すなわち、図10の2倍分)のずれが生じる。
レンズ面Lからの距離D=2.8mにおいては、イメージセンサ122の画角境界282の左端から1番目の画素が、光通信センサ121の画角境界281の左端から3番目の画素に対応している。すなわち、光通信センサ121およびイメージセンサ122の受光画素には、QVGA2画素(pixel)分(すなわち、図10の2倍分)のずれが生じる。
レンズ面Lからの距離D=2.8mよりも無限遠方においては、イメージセンサ122の画角境界282の左端から1番目の画素が、光通信センサ121の画角境界281の左端から1番目の画素に対応している。したがって、距離D=2.8mよりも無限遠方においては、光通信センサ121およびイメージセンサ122の受光画素には、QVGA1画素(pixel)分のずれも生じない。
以上のように、光通信センサ121とイメージセンサ122における同じ光源を受光する画素について、2倍の光学ズームを用いた場合、用いない場合よりも2倍の画素のずれが生じる。
このようなずれの許容量は、光通信センサ121により受信された通信情報とイメージセンサ122が撮像した画像信号を用いる信号処理用のアプリケーションにより異なるが、例えば、携帯電話機71向けのアプリケーションにおいては、画素解像度があまり大きくなく、モニタ82の画面などが小さいなどのことから、数画素分のずれは、許容範囲とされる。
以上のように、カメラ部81に光学ズーム機能を備えた場合であっても、その光学ズームをイメージセンサ122と光通信センサ121で連動させることで、画角関係を維持することができるので、図11の携帯電話機71の場合と同様に、画像品質を低下させることなく、画像取得と光通信を同時に行うことができるとともに、イメージセンサ122からの画像信号に対応する画像上の被写体の(発信光源)位置と、光通信センサ121からの受信画素の情報が示す位置を、略一致させることもできる。
これにより、カメラ部81に光学ズーム機能を備えた場合であっても、例えば、発信光源を備えた複数の被写体に対して画像取得と光通信を行った場合に、光通信により受信された情報と、画像上の発信光源との対応付けを略正確なものとすることができるので、その後の処理(例えば、上述した重畳表示処理)の精度を向上させることができる。
図16は、図14の携帯電話機の内部構成の他の例を示すブロック図である。なお、図16の例において、カメラ部81、モニタ82、操作入力部83、画像信号処理部211、デコード処理部212、アプリケーションプロセッサ213、およびズーム制御部251−2を備える点は、図14の携帯電話機71と共通しているが、ズーム制御部251−1が除かれた点が異なる。
また、図16のアプリケーションプロセッサ213は、画像重畳部231、画像生成部232、およびズーム制御信号出力部261を備える点は、図14のアプリケーションプロセッサ213と共通しているが、対応画素換算部301が追加された点が異なる。
すなわち、図16の例の操作入力部83は、ユーザの操作に対応して、例えば、カメラ部81の光学ズームのズーム値をズーム制御信号出力部261および対応画素換算部301に入力する。
ズーム制御信号出力部261は、操作入力部83を介して入力されるズーム値を、イメージセンサ122の光学ズーム値として設定し、設定した光学ズーム値を、ズーム駆動部251−2に供給する。
対応画素換算部301は、操作入力部83を介して入力されるズーム値に基づいて、イメージセンサ122の画素(番号)に対応する光通信センサ121の画素(番号)を算出し、算出した対応画素の情報を、画像重畳部231に供給する。
画像重畳部231は、対応画素換算部301からの対応画素の情報と、デコード処理部212からの受信画素の情報に基づいて、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成された画像信号を重畳し、重畳した画像信号をモニタ82に出力し、重畳した画像信号に対応する画像をモニタ82に表示させる。
図17は、上述した図8においてイメージセンサ122のみが2倍の光学ズームが設定された場合の例が示されている。
光通信センサ121およびイメージセンサ122は、図8の場合と同様に、センサ間距離dだけ離して、各センサの中心点を通過する光軸C1およびC2が平行になるようにカメラボード111に配置されている。また、カメラ部81においては、イメージセンサ122に2倍光学ズームが設定されたことで、イメージセンサ122の画角α2は、光通信センサ121の画角α1の1/2となるように、カメラボード111から、それぞれのレンズ112−1および112−2のレンズ面L1およびL2までの距離(すなわち、焦点距離f1およびf2)が調整されている。
すなわち、図17の例の場合、イメージセンサ122の画角境界132による投影エリアが、光通信センサ121の画角境界131による投影エリアの1/2になっている。
そこで、対応画素換算部301は、光通信センサ121の受光エリアの中心から半分のエリアを、情報抽出エリアEとし、この情報抽出エリアE内の画素を、イメージセンサ122の受光エリアの画素に対応させて、イメージセンサ122の画素に対応する光通信センサ121の画素番号を算出する。
すなわち、対応画素換算部301は、光通信センサ121の画角境界131を、擬似的に、光通信センサ121の光軸C1までの距離aが、その1/2の距離a/2となる画角境界(以下、擬似画角境界とも称する)311(太い一点鎖線)として、画角境界132による投影エリアの画素を、擬似画角境界311による投影エリアの画素に対応させる。
図18を参照して具体的に説明する。
図18の例においては、図10を参照して上述したように、QVGAの解像度の光通信センサ121およびイメージセンサ122が、センサ間距離d=10mmでカメラボード111に配置され、光通信センサ121およびイメージセンサ122のそれぞれの画角α1およびα2=60度として光学系が調整された状態において、さらに、イメージセンサ122にだけ、2倍の光学ズームが設定された場合の例が示されている。
すなわち、イメージセンサ122の2倍の光学ズームの設定により、イメージセンサ122の画角α2=30度となり、イメージセンサ122の画角境界132は、イメージセンサ122の光軸C2までの距離が、α2=60度の場合(すなわち、光通信センサ121)の1/2となっており、イメージセンサ122の画素投影サイズは、光通信センサ121の画素投影サイズの1/2となっている。
したがって、対応画素換算部301は、光通信センサ121の画角境界131を、擬似的に、光通信センサ121の光軸C1までの距離aが、その1/2の距離a/2となる擬似画角境界311として、イメージセンサ122の画角境界132による投影エリアの2画素(画角境界132の左端から1乃至320番目の2画素ずつ)を、擬似画角境界311による投影エリアの1画素(画角境界131の左端から81乃至240番目の1画素ずつ)に対応させる。
この場合、レンズ面Lからの距離D=1.4mにおいては、イメージセンサ122の画角境界132の左端から1および2番目の画素(黒丸囲み数字の1および2)が、光通信センサ121の画角境界131の左端から83番目の画素(白丸囲み数字の83)に対応している。この画素は、光通信センサ121の擬似画角境界311の左端から3番目の画素である。したがって、光通信センサ121およびイメージセンサ122の受光画素には、図15の例の場合同様に、イメージセンサ122の2倍ズーム時におけるQVGA4画素(pixel)分のずれが生じている。
レンズ面Lからの距離D=2.8mにおいては、イメージセンサ122の画角境界132の左端から1乃至4番目の画素(黒丸囲み数字の1乃至4)が、光通信センサ121の画角境界131の左端から82および83番目の画素(白丸囲み数字の82および83)に対応している。これらの画素は、光通信センサ121の擬似画角境界311の左端から2および3番目の画素である。したがって、光通信センサ121およびイメージセンサ122の受光画素には、図15の例の場合同様に、イメージセンサ122の2倍ズーム時におけるQVGA2画素(pixel)分のずれが生じている。
レンズ面Lからの距離D=2.8mよりも無限遠方においては、イメージセンサ122の画角境界132の左端から1乃至4番目の画素(黒丸囲み数字の1乃至4)が、光通信センサ121の画角境界131の左端から81乃至82番目の画素(白丸囲み数字の81および82)に対応している。これらの画素は、光通信センサ121の擬似画角境界311の左端から1および2番目の画素である。したがって、距離D=2.8mよりも無限遠方においては、光通信センサ121およびイメージセンサ122の受光画素には、イメージセンサ122の2倍ズーム時におけるQVGA1画素(pixel)分のずれも生じない。
なお、図16のアプリケーションプロセッサ213においては、イメージセンサ122の画素と光通信センサ121の画素が2対1に対応つけられている。すなわち、ズームを行う場合には、イメージセンサ122を構成する画素と光通信センサ121を構成する画素との対応付けは、ズームの倍率に応じた比率で行われる。
以上のように、対応画素換算部301により、ズーム値(図18の例の場合、2倍)に基づいて、擬似画角境界311による投影エリアの画素(画角境界131の左端から81乃至240番目の画素)を、画角境界282による投影エリアの画素(画角境界282の左端から1乃至320番目の画素)に対応させるようにしたので、カメラ部81の光学ズーム機能を用いる際に、光通信センサ121とイメージセンサ122の光学ズームを連動させなくても、光通信センサ121とイメージセンサ122の光学ズームを連動させる場合と同様の効果を得ることができる。
すなわち、カメラ部81に光学ズーム機能を備えた場合であっても、その光学ズームをイメージセンサ122と光通信センサ121で連動させることなく、イメージセンサ122の光学ズームの値さえわかれば、その光学ズームの値に基づいて、画素のずれを算出することで、画角関係を維持することができるので、図11の携帯電話機71の場合と同様に、画像品質を低下させることなく、画像取得と光通信を同時に行うことができるとともに、イメージセンサ122からの画像信号に対応する画像上の被写体の(発信光源)位置と、光通信センサ121からの受信画素の情報が示す位置を、略一致させることもできる。
次に、図19のフローチャートを参照して、図16のアプリケーションプロセッサ213による画像信号処理について説明する。なお、図19のステップS33乃至S35およびステップS37は、図13のステップS11乃至S13およびステップS15と基本的に同じ処理であり、繰り返しになるので、その詳細な説明は適宜省略する。
例えば、ユーザは、図13のステップS15においてモニタ82に表示される画像を拡大して表示させるため、操作入力部83を構成するズームボタンなどを操作する。操作入力部83は、ユーザの操作に対応して、ユーザ所望のズーム値をズーム制御信号出力部261および対応画素換算部301に入力する。
ズーム制御信号出力部261は、ステップS31において、操作入力部83から入力されるズーム値を、イメージセンサ122の光学ズーム値として設定し、設定した光学ズーム値を、ズーム駆動部251−2に供給する。
これに対応して、ズーム駆動部251−2は、ズーム制御信号出力部261から供給されるイメージセンサ122の光学ズーム値に基づいて、イメージセンサ122の光学系であるレンズ112−2の位置を駆動する。
対応画素換算部301は、ステップS32において、操作入力部83から入力されるズーム値に基づいて、イメージセンサ122の画素に対応する光通信センサ121の画素を算出し、算出した対応画素の情報を、画像重畳部231に供給する。
一方、イメージセンサ122は、画像信号処理部211からの同期信号および駆動信号に基づいて、ズーム駆動部251により光学ズーム値に基づき位置が駆動されたレンズ112−2を介して、イメージセンサ122の画角境界132内に存在する被写体2−1および2−2の画像に対応する画像信号を取得し、取得した画像信号を画像信号処理部211に出力している。
画像信号処理部211は、イメージセンサ122からの生の画像信号に対して、通常のイメージセンサの信号処理と同様に、カラー信号処理、ガンマ補正、AWB、自動露出補正などの処理を行っている。
これに対応して、アプリケーションプロセッサ213の画像重畳部231は、ステップS33において、画像信号処理部211より、信号処理された画像信号を取り込む。
また、光通信センサ121は、デコード処理部212からの同期信号および駆動信号に基づいて、レンズ112−1を介して、光通信センサ121の画角境界131内に存在する被写体2−1および2−2が備える発信光源3−1および3−2の点滅パターン22−1および22−2によりコード化された通信情報を検出し、その光点滅検出信号を、デコード処理部212に出力している。
デコード処理部212は、光通信センサ121からの光点滅の検出有無を表すバイナリ信号(すなわち、光点滅検出信号)をデコードしている。
これに対応して、アプリケーションプロセッサ213の画像生成部232は、ステップS34において、デコード処理部212から、デコードの結果得られた通信情報を取得する。なお、このとき、画像生成部232は、光信号を受信した受信画素の情報も取得する。
画像生成部232は、ステップS35において、デコード処理部212からの、デコードの結果得られた通信情報に基づいて、例えば、アイコンなどの画像を生成し、画像信号として画像重畳部231に出力する。なお、デコード処理部212からの受信画素の情報も、画像生成部232を介して画像重畳部231に出力される。
画像重畳部231は、ステップS36において、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を2対1に対応付けして、対応画素換算部301により算出された対応画素の情報と、デコード処理部212からの画素の情報に基づいて、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成されたアイコンの画像信号を重畳し、重畳した画像信号をモニタ82に出力する。
モニタ82は、ステップS37において、画像重畳部231からの画像信号に対応する画像を表示する。
以上のように、カメラ部81に光学ズーム機能を備えた場合であっても、その光学ズームをイメージセンサ122と光通信センサ121で連動させたり、あるいは、イメージセンサ122の光学ズームに基づく、光通信センサ121の画素を、イメージセンサ122の画素に対応させることで、画角関係が維持されるので、図11の携帯電話機71の場合と同様に、画像品質を低下させることなく、画像取得と光通信を同時に行うことができる。
なお、上記説明においては、発信光源を2つのセンサ(イメージセンサ122と光通信センサ121)からある程度遠方に配置させることで、2つのセンサの画素ずれを無視できる場合に効果的な例を説明したが、これは、携帯電話機71のイメージセンサ122とモニタ82の解像度があまり高くない場合が多いことや、ユーザから離れた位置の発信光源を撮像する場合が多いことを想定したためである。
したがって、発信光源が2つのセンサの近傍に配置された場合、あるいは、イメージセンサ122とモニタ82の解像度が高く、2つのセンサの画素ずれが目立つような場合には、2つのセンサの画素ずれを補正する必要がある。
図20は、2つのセンサの画素ずれを補正する場合の図11の携帯電話機の内部構成例を示している。なお、図20の例において、カメラ部81、モニタ82、操作入力部83、画像信号処理部211、デコード処理部212、およびアプリケーションプロセッサ213を備える点は、図11の携帯電話機71と共通している。
また、図20のアプリケーションプロセッサ213は、画像重畳部231および画像生成部232を備える点は、図11のアプリケーションプロセッサ213と共通しているが、画像認識部331およびずれ補正量算出部332が追加された点が異なる。
画像認識部331は、画像信号処理部211から信号処理後の画像信号を取り込み、画像認識を行うことで、発信光源の位置(結像する画素)を算出し、算出した発信光源の位置をずれ補正算出部332に供給する。具体的には、発信光源の像は、その周辺の像に対してピーク上に光の輝度値が高くなるので、画像認識部331は、隣接する画素の輝度信号に対して特異的に信号強度が高くなる画素を、差分演算処理により抽出して、発信光源の位置を算出する。
ずれ補正算出部332は、デコード処理部212から、光信号を受信した受信画素の情報(すなわち、発信光源を結像した画素)を取得し、画像認識部331からの発信光源の位置と比較し、比較することで求められたそれらの画素ずれの補正量を算出し、算出した画素ずれの補正量を画像重畳部231に供給する。
なお、発信光源が画角中に複数存在する場合、ずれ補正算出部332は、光通信センサ121による複数の発信光源の位置とイメージセンサ122による複数の発信光源の位置のうち、最も近いもの同士を対応する発信光源とみなして、画素ずれの補正量を算出する。
画像重畳部231は、デコード処理部212からの受信画素の情報と、ずれ補正算出部332からの画素ずれ補正量に基づいて、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成された画像信号を重畳し、重畳した画像信号をモニタ82に出力し、重畳した画像信号に対応する画像をモニタ82に表示させる。
次に、図21のフローチャートを参照して、図20のアプリケーションプロセッサ213による画像信号処理について説明する。なお、図21のステップS51,S52,S55,およびS57は、図13のステップS11乃至S13,およびS15と基本的に同じ処理であり、繰り返しになるので、その詳細な説明は適宜省略する。
イメージセンサ122は、画像信号処理部211からの同期信号および駆動信号に基づいて、レンズ112−2を介して、イメージセンサ122の画角境界132内に存在する被写体2−1および2−2の画像に対応する画像信号を取得し、取得した画像信号を画像信号処理部211に出力しており、画像信号処理部211は、イメージセンサ122からの生の画像信号に対して、通常のイメージセンサの信号処理と同様に、カラー信号処理、ガンマ補正、AWB、自動露出補正などの処理を行っている。
これに対応して、アプリケーションプロセッサ213の画像重畳部231および画像認識部331は、ステップS51において、画像信号処理部211より、信号処理された画像信号を取り込む。
一方、光通信センサ121は、デコード処理部212からの同期信号および駆動信号に基づいて、レンズ112−1を介して、光通信センサ121の画角境界131内に存在する被写体2−1および2−2が備える発信光源3−1および3−2の点滅パターン22−1および22−2によりコード化された通信情報を検出し、その光点滅検出信号を、デコード処理部212に出力しており、デコード処理部212は、光通信センサ121からの光点滅の検出有無を表す光点滅検出信号をデコードしている。
これに対応して、アプリケーションプロセッサ213の画像生成部232は、ステップS52において、デコード処理部212から、デコードの結果得られた通信情報を取得する。なお、このとき、画像生成部232およびずれ補正算出部332は、光信号を受信した受信画素の情報を取得する。
画像認識部331は、ステップS53において、画像信号処理部211からの画像信号を用いて、画像認識を行うことで、発信光源の位置(結像する画素)を算出し、算出した発信光源の位置をずれ補正算出部332に供給する。
ずれ補正算出部332は、ステップS54において、デコード処理部212からの、光信号を受信した受信画素(すなわち、発信光源を結像した画素)と、画像認識部331からの発信光源の位置と比較し、比較することで求められたそれらの画素ずれの補正量を算出し、算出した画素ずれの補正量を画像重畳部231に供給する。
画像生成部232は、ステップS55において、デコード処理部212からの、デコードの結果得られた通信情報に基づいて、例えば、アイコンの画像を生成し、画像信号として画像重畳部231に出力する。なお、デコード処理部212からの信号を受信した受信画素の情報も、画像生成部232を介して画像重畳部231に供給される。
画像重畳部231は、ステップS56において、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、デコード処理部212からの画素の情報と、ずれ補正算出部332からの画素ずれ補正量に基づいて、画像信号処理部211からのリアルタイムの画像信号と、画像生成部232により生成されたアイコンの画像信号を重畳し、重畳した画像信号をモニタ82に出力する。
モニタ82は、ステップS57において、画像重畳部231からの画像信号に対応する画像を表示する。
以上のように、発信光源(被写体)が2つのセンサの近傍に配置されている場合、あるいは、イメージセンサ122とモニタ82の解像度が高く、2つのセンサの画素ずれが目立つような場合であっても、2つのセンサの画素ずれを補正するようにしたので、イメージセンサ122で取得した画像信号と、光通信センサ121で取得した通信情報の対応付けがより正確なものとなる。
したがって、画像品質を低下させることなく、画像取得と光通信を同時に行うことができるとともに、イメージセンサ122からの画像信号に対応する画像上の被写体の(発信光源)位置と、光通信センサ121からの受信画素の情報が示す位置を、被写体の距離に拠らず、略一致させることもできる。
これにより、例えば、発信光源を備えた複数の被写体に対して画像取得と光通信を行った場合に、光通信により受信された情報と、画像上の発信光源との対応付けを、被写体の距離に拠らず略正確なものとすることができるので、その後の処理(例えば、上述した重畳表示処理)の精度を向上させることができる。
なお、図20および図21の説明においては、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けする場合を説明したが、上述したように、このずれ補正は、画素数や倍率に応じた比率で対応付けする場合にも適用できる。
ここで、上記説明においては、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を対応付けして、光通信により受信された情報と、撮像された画像信号を用いた処理を行う例として、撮像された画像上に、光通信により受信された情報に基づくアイコン画像を表示させる例を説明したが、光通信により受信された情報と、撮像された画像信号を用いた処理であれば、上述した例に限らない。
例えば、発信光源を携帯した人物を撮像する場合に、光通信により受信された情報と、撮像された画像上の発信光源との対応付けを行うことで、光通信により受信された情報が、どの人物が発信したものであるかを通知させることも可能である。
図22は、図11のアプリケーションプロセッサの構成の他の例を示している。なお、図20の例において、カメラ部81、モニタ82、操作入力部83、画像信号処理部211、デコード処理部212、およびアプリケーションプロセッサ213を備える点は、図11の携帯電話機71と共通しているが、図22のアプリケーションプロセッサ213の構成のみ異なる。
すなわち、図22のアプリケーションプロセッサ213は、画像認識部341および情報処理部342により構成され、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を、例えば、1対1に対応付けして、イメージセンサ122からの画像信号と光通信センサ121からの通信情報を用いて、イメージセンサ122からの画像信号から、発信光源を携帯した人物を特定し、特定した人物の情報と、光通信センサ121からの通信情報を対応付ける処理を行う。
例えば、イメージセンサ122と光通信センサ121の画角境界内には、発信光源を携帯した複数の人物がおり、ユーザは、画角境界内に存在する発信光源を携帯した複数の人物をカメラ部81で撮像している。
画像認識部341は、図20の画像認識部331と同様に、画像信号処理部211から信号処理後の画像信号を取り込み、画像認識を行うことで、発信光源の位置(結像する画素)を算出する。さらに、画像認識部341は、画像認識により、発信光源を携帯した人物を特定し、特定した人物の情報(例えば、名前など)と、算出した発信光源の位置を情報処理部342に供給する。
情報処理部342は、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、デコード処理部212からの受信画素と、画像認識部341からの算出した発信光源の位置に基づいて、特定した人物の情報と、光通信センサ121からの通信情報を対応させ、例えば、通信情報とその通信情報を発信した発信元というような対応関係を、モニタ82を介して通知する。
これにより、ユーザは、どの通信情報をだれが送信したのかを把握することができる。
以上のように、アプリケーションプロセッサ213を構成することにより、発信光源を携帯している複数の人物(例えば、3人)を撮像した場合に、イメージセンサ122により得られた画像信号を用いて、画像認識を行い、3人の人物を特定し、特定した3人の人物に、光通信センサ121により得られた通信情報を対応させ、どの人物がどの通信情報を発信したかを、ユーザに正確に通知することもできる。
また、本発明は、カメラ部81の組み立て後に、光通信センサ121とイメージセンサ122の位置関係を検査する場合に適用することも可能である。
図23は、カメラ部81の組み立て後に、光通信センサ121とイメージセンサ122の位置関係を検査する検査装置251の構成例を示す図である。なお、この場合、位置合せ用の光源として特定の情報でコード化された点滅パターンが発信される発信光源が用いられる。
検査装置251は、検査対象の組み立て後のカメラ部81が着脱可能に構成されており、図23の例においては、検査装置251には、図11のカメラ部81が装着されている。
検査装置251は、画像信号処理部361、デコード処理部362、アプリケーションプロセッサ363、操作入力部364、およびモニタ365により構成されている。
画像信号処理部361は、図11の画像信号処理部211と同様に構成されており、装着されたカメラ部81のイメージセンサ122からの生の画像信号に対して、カラー信号処理、ガンマ補正、AWB、自動露出補正などの処理を行う。
デコード処理部362は、図11のデコード処理部212と同様に構成されており、装着されたカメラ部81の光通信センサ121からの光点滅の検出有無を表すバイナリ信号(すなわち、光点滅検出信号)をデコードする処理を行う。
アプリケーションプロセッサ363は、図11のアプリケーションプロセッサ213と同様に構成されており、例えば、CPU、ROM、およびRAM等を含んで構成され、操作部364を介して入力されるユーザの操作に対応する信号や、内蔵するメモリに記憶される各種のプログラムなどを実行することにより、検査装置351の各部を制御する。
すなわち、アプリケーションプロセッサ213は、画像信号処理部361およびデコード処理部362に対して、同期信号を供給するとともに、所定のプログラムを実行することにより、内部に、受光画素検出部371、画素情報取得部372、および不良品判定部373を構成し、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を、光通信センサ121およびイメージセンサ122画素数や倍率に応じた比率で(いまの場合、1対1)に対応付けして、イメージセンサ122からの画像信号と光通信センサ121からの通信情報を用いて、装着されるカメラ部81の検査を行い、その結果をモニタ365に表示させる処理を行う。
受光画素検出部371は、図20の画像認識部331と同様に、画像信号処理部361から信号処理後の画像信号を取り込み、画像認識を行うことで、発信光源の位置(結像する受光画素)を算出し、算出した受光画素の情報を、不良品判定部373に供給する。
通信情報取得部372は、デコード処理部362から通信情報と光信号を受信した画素の情報を取得し、取得した通信情報および画素(受信画素)の情報を、不良品判定部373に供給する。
不良品判定部373には、操作入力部364を介して、カメラ部81の設定情報(各センサの解像度や画角、センサ間距離dなど)、発信光源が設置された位置(距離)とその発信光源が発信する通信情報などが記憶されており、また、これらの情報から、発信光源が設置された距離における2つのセンサ(良品)の画素のずれ量も算出されて記憶されている。
不良品判定部373は、画素情報取得部372からの通信情報に対応する発信光源が設置された距離における2つのセンサ(良品)の画素のずれ量を読み出す。また、不良品判定部373は、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、受光画素検出部371からの受光画素と画素情報取得部372からの受信画素を用いて、それらの画素の位置関係(ずれ量)を算出する。
そして、不良品判定部373は、算出した画素のずれ量が、良品の画素のずれ量と一致するか否かを判定し、一致しない場合には、このカメラ部81が不良品であるとし、その判定結果を、モニタ365に表示させ、製造者に通知する。
操作入力部364は、キーボードやマウスなどにより構成され、製造者の操作に対応する操作信号を、アプリケーションプロセッサ213に入力する。モニタ365は、LCDなどにより構成され、アプリケーションプロセッサ213からの画像信号に対応する画像などを表示する。
図24は、光通信センサ121とイメージセンサ122における受光画素を示している。なお、図24の例において、図9の例の場合と対応する部分には対応する符号が付してあり、その説明は繰り返しになるので適宜省略する。
図24の例においては、センサ間距離dだけ離して配置された光通信センサ121およびイメージセンサ122のそれぞれの画角境界131および132内において、レンズ面Lからの距離が、近傍から遠方を仮定した距離D1およびD3における各センサの投影エリアが示されている。
なお、図24の例の場合も、各距離D1およびD3の位置を示す点線の上は、各距離D1およびD3における光通信センサ121の投影エリアを表し、点線の上に示す白丸囲み数字は、光通信センサ121の画角境界131内における画素の左端からの番号を表し、点線の上に示す垂直線は、光通信センサ121の画素投影境界を表している。
同様に、各距離D1およびD3の位置を示す点線の下は、各距離D1およびD3におけるイメージセンサ122の投影エリアを表し、点線の下に示す黒丸囲み数字は、イメージセンサ122の画角境界132内における画素の左端からの番号を表し、点線の下に示す垂直線は、イメージセンサ122の画素投影境界を表している。
図9を参照して上述したように、イメージセンサ122を起点とする視線161上の被写体(発信光源)の受光画素を考察すると、近傍の距離D1においては、光通信センサ121およびイメージセンサ122の画角のずれ(すなわち、センサ間距離d)により、発信光源P1は、イメージセンサ122における、画角境界132の左端から1番目の画素(黒丸囲み数字の1)で受光され、光通信センサ121における、画角境界131の左端から2番目の画素(白丸囲み数字の2)で受光される。
また、距離D3においては、イメージセンサ122における、画角境界132の左端から1番目の画素(黒丸囲み数字の1)で受光され、光通信センサ121における、画角境界131の左端から1番目の画素(白丸囲み数字の1)で受光される。
したがって、検査装置351においては、レンズ面Lから距離D1に設置された発信光源P1がイメージセンサ122では、画角境界132の左端から1番目の画素(黒丸囲み数字の1)で受光され、光通信センサ121では、画角境界131の左端から2番目の画素(白丸囲み数字の2)で受光されることが確認されれば、光通信センサ121とイメージセンサ122の位置関係が設計どおりであることがわかる。
これにより、簡便化された検査工程を構築することが可能である。
なお、より簡便化を求めるとすれば、光通信センサ121とイメージセンサ122において、レンズ面Lから距離D1に設置された発信光源P1を受光する画素のずれが、1画素あることが確認されることでも、光通信センサ121とイメージセンサ122の位置関係が設計どおりであることがわかる。
また、距離D1と距離D3における受光画素に示されるように、画素のずれ量は、発信光源のレンズ面Lからの距離により異なるため、発信光源を設置する距離に応じて、検査の精度を変更することも可能である。
さらに、検査精度を向上させるために、1つの発信光源のみではなく、複数の発信光源を、画角境界内の異なる位置に設置することも可能である。この場合、それぞれの発信光源が、異なるパターンで点滅していれば、発信光源を間違いなく、区別することが可能である。
図24の例においては、H方向しか示されていないが、H方向だけでなく、V方向に対しても同様に確認される。
次に、図25のフローチャートを参照して、図23の検査装置351の検査処理を説明する。なお、この検査処理は、例えば、検査装置351に、検査対象となるカメラ部81が装着されることで開始される。
アプリケーションプロセッサ363は、画像信号処理部361およびデコード処理部362に対して、同期信号(またはクロック信号)の供給を開始すると、画像信号処理部361は、その同期信号から、イメージセンサ122を駆動させる駆動信号(タイミングパルス)を生成し、同期信号および駆動信号をイメージセンサ122に供給し始める。
イメージセンサ122は、画像信号処理部361からの同期信号および駆動信号に基づいて、レンズ112−2を介して、イメージセンサ122の画角境界132内に存在する被写体の画像に対応する画像信号を取得し、取得した画像信号を画像信号処理部361に出力し始める。
そこで、画像信号処理部361は、イメージセンサ122からの生の画像信号に対して、通常のイメージセンサの信号処理と同様に、カラー信号処理、ガンマ補正、AWB、自動露出補正などの処理を行う。
これに対応して、アプリケーションプロセッサ363の受光画素検出部371は、ステップS71において、画像信号処理部361より、信号処理された画像信号を取り込む。
受光画素検出部371は、ステップS72において、画像信号処理部361から信号処理後の画像信号を取り込み、画像認識を行うことで、発信光源の位置(結像する受光画素)を検出し、検出した受光画素の情報を、不良品判定部373に供給する。
一方、デコード処理部362は、アプリケーションプロセッサ363からの同期信号から、光通信センサ121を駆動させる駆動信号(タイミングパルス)を生成し、同期信号および駆動信号を、光通信センサ121に供給し始める。
光通信センサ121は、デコード処理部362からの同期信号および駆動信号に基づいて、レンズ112−1を介して、光通信センサ121の画角境界131内に存在する被写体2−1および2−2が備える発信光源3−1および3−2の点滅パターン22−1および22−2によりコード化された通信情報を検出し、その検出された情報(すなわち、光点滅の検出有無を表すバイナリ信号である、光点滅検出信号)を、デコード処理部362に出力し始める。
デコード処理部362は、光通信センサ121からの光点滅の検出有無を表すバイナリ信号である光点滅検出信号をデコードする処理を行う。
これに対応して、アプリケーションプロセッサ213の通信情報取得部372は、ステップS73において、デコード処理部362から、デコードの結果得られた通信情報と、光信号を受信した画素の情報を取得し、取得した通信情報と、画素(受信画素)の情報を、不良品判定部373に供給する。
不良品判定部373は、ステップS74において、画素情報取得部372からの通信情報に対応する発信光源が設置された距離における2つのセンサ(良品)の画素のずれ量を読み出し、ステップS75において、イメージセンサ122を構成する画素と光通信センサ121を構成する画素を1対1に対応付けして、受光画素検出部371からの受光画素と画素情報取得部372からの受信画素を用いて、それらの画素の位置関係(ずれ量)を算出する。
なお、ステップS74において、画素のずれ量ではなく、画素情報取得部372からの通信情報に対応する発信光源が設置された距離における良品のイメージセンサ122の画素と、この画素に対応する良品の光通信センサ121の画素を読み出し、ステップS75において、受光画素検出部371からの受光画素が良品のイメージセンサ122の画素と一致するか、かつ、画素情報取得部372からの受信画素が、良品の光通信センサ121の画素と一致するかを判定するようにすることもできる。
この場合、ずれ量のみで判定するよりも、さらに精度の高い検査を行うことができる。
不良品判定部373は、ステップS76において、算出した画素のずれ量が、良品の画素のずれ量と一致するか否かを判定し、一致すると判定した場合、処理は、ステップS77に進み、このカメラ部81が良品であるとし、例えば、モニタ365に良品の通知を表示させたり、図示せぬ部品装着部などを制御し、カメラ部81を生産ラインにおける良品のラインに仕分ける。
ステップS76において、算出した画素のずれ量が、良品の画素のずれ量と一致しないと判定された場合、処理は、ステップS77において、このカメラ部81が不良品であるとし、例えば、モニタ365に不良品の通知を表示させたり、図示せぬ部品装着部などを制御し、カメラ部81を生産ラインにおける不良品のラインに仕分ける。
以上のように、イメージセンサ122からの画像信号と光通信センサ121からの通信情報を対応付けて、イメージセンサ122からの画像信号と光通信センサ121からの通信情報を用いて、装着されるカメラ部81の検査を行うようにしたので、光通信センサとイメージセンサの位置関係を検査する検査においても、簡便化された検査工程を構築することができる。
例えば、近接配置するセンサが両方ともイメージセンサであれば、光源などの点状の被写体を撮像して、光源を受光した画素が設計どおりであるか確認することは簡単であるが、センサの一方が光通信センサの場合、画像の取得ができないことから、困難であった光通信センサとイメージセンサの位置関係の検査を簡便に行うことができる。
これにより、光通信センサとイメージセンサが精度よく配置されることで、画像品質を低下させることなく、画像取得と光通信を同時に行うことができるカメラ部81で構成される携帯電話機71を、ユーザに提供することができる。
なお、上記説明においては、カメラ部81を検査対象とする例を説明したが、例えば、図11のカメラ部81、画像信号処理部211、およびデコード処理部212が組み合わされたブロックを検査対象とすることもできる。この場合には、図23の検査装置351から、画像信号処理部361およびデコード処理部362が除かれる。
また、上記説明においては、カメラ部81の検査工程を前提に説明したが、同様なプロセスを、例えば、カメラ部81の製造時のセンサの位置合せに適用することもできる。この場合、例えば、遠方の距離に発信光源をおいての粗い位置合せを行ったうえで、光源の設置距離を近づけて、精度の高い位置合せを行うことも可能である。
また、上記説明においては、光通信センサおよびイメージセンサが配置されて構成されるカメラ部を備えた携帯電話機を用いて説明したが、本発明は、携帯電話機に限定されず、光通信センサおよびイメージセンサが配置されて構成されるカメラ部を備えたものであれば、PDA(Personal Digital Assistance)やパーソナルコンピュータなどにも適用される。
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図26は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータ401の構成の例を示すブロック図である。CPU(Central Processing Unit)411は、ROM(Read Only Memory)412、または記憶部418に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)413には、CPU411が実行するプログラムやデータなどが適宜記憶される。これらのCPU411、ROM412、およびRAM413は、バス414により相互に接続されている。
CPU411にはまた、バス414を介して入出力インタフェース415が接続されている。入出力インタフェース415には、キーボード、マウス、マイクロホンなどよりなる入力部416、ディスプレイ、スピーカなどよりなる出力部417が接続されている。CPU411は、入力部416から入力される指令に対応して各種の処理を実行する。そして、CPU411は、処理の結果を出力部417に出力する。
入出力インタフェース415に接続されている記憶部418は、例えばハードディスクからなり、CPU411が実行するプログラムや各種のデータを記憶する。通信部319は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
また、通信部419を介してプログラムを取得し、記憶部418に記憶してもよい。
入出力インタフェース415に接続されているドライブ420は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア421が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部418に転送され、記憶される。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、図26に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア421、または、プログラムが一時的もしくは永続的に格納されるROM412や、記憶部418を構成するハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインタフェースである通信部419を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
71 携帯電話機, 81 カメラ部, 82 モニタ, 83 操作入力部, 111カメラボード, 121 光通信センサ, 122 イメージセンサ, 211 画像信号処理部, 212 デコード処理部, 213 アプリケーションプロセッサ, 231 画像重畳部, 232 画像生成部, 251−1,251−2 ズーム駆動部, 261 ズーム制御信号出力部, 301 対応画素換算部, 331 画像認識部, 332 ずれ補正量算出部, 341 画像認識部, 342 情報処理部, 351 検査装置, 361 画像信号処理部, 362 デコード処理部, 363 アプリケーションプロセッサ, 364 操作入力部, 365 モニタ