JP2015122679A - 撮影装置及び画像補間装置 - Google Patents

撮影装置及び画像補間装置 Download PDF

Info

Publication number
JP2015122679A
JP2015122679A JP2013266313A JP2013266313A JP2015122679A JP 2015122679 A JP2015122679 A JP 2015122679A JP 2013266313 A JP2013266313 A JP 2013266313A JP 2013266313 A JP2013266313 A JP 2013266313A JP 2015122679 A JP2015122679 A JP 2015122679A
Authority
JP
Japan
Prior art keywords
pixel
primary color
image
correlation
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013266313A
Other languages
English (en)
Other versions
JP6247927B2 (ja
Inventor
拓司 添野
Takuji Soeno
拓司 添野
山下 誉行
Takayuki Yamashita
誉行 山下
林田 哲哉
Tetsuya Hayashida
哲哉 林田
良平 船津
Ryohei Funatsu
良平 船津
友洋 中村
Tomohiro Nakamura
友洋 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2013266313A priority Critical patent/JP6247927B2/ja
Publication of JP2015122679A publication Critical patent/JP2015122679A/ja
Application granted granted Critical
Publication of JP6247927B2 publication Critical patent/JP6247927B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】本願発明は、データ量の低減と、解像度劣化の抑制とを両立できる撮影装置を提供する。
【解決手段】カメラヘッド10は、被写体からの光を3原色に分光する分光手段13と、分光手段13で分光された3原色の光を撮影する撮像素子14と、撮像素子14が生成した3原色の撮影画像を圧縮し、G1信号、G2信号、赤信号及び青信号を生成する信号生成部15と、信号生成部15が生成したG1信号、G2信号、赤信号及び青信号をカメラコントロールユニット20に送信する信号送信部16とを備える。
【選択図】図2

Description

本願発明は、撮影した画像のデータ量を圧縮する3板式の撮影装置、及び、この撮影装置で圧縮された画像を補間する画像補間装置に関する。
近年、ハイビジョンを上回る解像度を持つ高精細映像システムの研究開発が進められている(例えば、特許文献1,2及び非特許文献1)。高精細映像システムは、高解像度の信号をカメラヘッドで撮影し、信号伝送部で信号を伝送する。また、高精細映像システムは、高解像度の信号をカメラコントロールユニットの信号受信部で受信する。
この高解像度の信号は、情報量が非常に多いため、カメラヘッドでデータ量を圧縮して送信することが有効である。例えば、このデータ圧縮手法として、カメラヘッドで単純に画素を間引く手法、又は、4画素を1画素にまとめる手法が知られている。このようにデータ量が低減することで、高精細映像システムは、信号伝送部及び信号受信部の低消費電力化を図ることができる。
特許第5271243号公報 米国特許第3971065号明細書
B.K.Gunturk,et al."Demosaicking: Color Filter Array Interpolation",IEEE signal processing magazine,pp.44-54,January 2005.
しかし、前記した高精細映像システムは、データ量の圧縮に伴って、解像度が劣化してしまう。そこで、高精細映像システムにおいて、データ量の低減と、解像度劣化の抑制との両立に強い要望がある。
本願発明は、前記した課題に鑑みて、データ量の低減と、解像度劣化の抑制とを両立できる撮影装置及び画像補間装置を提供することを課題とする。
前記した課題に鑑みて、本願発明に係る撮影装置は、被写体からの光を、3原色のうち予め定めた基準原色と、基準原色以外の第2原色と、基準原色及び第2原色以外の第3原色とに分光し、被写体を撮影する3板式の撮影装置であって、基準原色第1圧縮画像生成部と、基準原色第2圧縮画像生成部と、第2原色圧縮画像生成部と、第3原色圧縮画像生成部と、画像送信部と、を備えることを特徴とする。
かかる構成によれば、撮影装置は、基準原色第1圧縮画像生成部によって、基準原色の撮影画像に第1注目画素を1画素間隔で設定し、第1注目画素と第1注目画素の隣接画素とに基づいて、第1注目画素に対応する第1対応画素の画素値を算出し、第1対応画素で構成される基準原色第1圧縮画像を生成し、第1注目画素を基準とした隣接画素の相関を表す付加情報を、第1対応画素毎に付加する。
つまり、基準原色第1圧縮画像は、4画素のうちの1画素を第1注目画素として抽出して付加情報を加えているので、基準原色の撮影画像に比べてデータ量が約1/4に低減している。
また、撮影装置は、基準原色第2圧縮画像生成部によって、基準原色の撮影画像に第1注目画素が水平及び垂直に1画素シフトした位置で第2注目画素を設定し、第2注目画素と第2注目画素の隣接画素とに基づいて、第2注目画素に対応する第2対応画素の画素値を算出し、第2対応画素で構成される基準原色第2圧縮画像を生成し、第2注目画素を基準とした隣接画素の相関を表す付加情報を、第2対応画素毎に付加する。
つまり、基準原色第2圧縮画像は、基準原色第1圧縮画像と同様、基準原色の撮影画像に比べてデータ量が約1/4に低減している。
また、撮影装置は、第2原色圧縮画像生成部によって、第2原色の撮影画像に第1注目画素が水平に1画素シフトした位置で第3注目画素を設定し、第3注目画素と第3注目画素の隣接画素とに基づいて、第3注目画素に対応する第3対応画素の画素値を算出し、第3対応画素で構成される第2原色圧縮画像を生成し、第3注目画素を基準とした隣接画素の相関を表す付加情報を、第3対応画素毎に付加する。
つまり、第2原色圧縮画像は、基準原色第1圧縮画像と同様、第2原色の撮影画像に比べてデータ量が約1/4に低減している。
また、撮影装置は、第3原色圧縮画像生成部によって、第3原色の撮影画像に第1注目画素が垂直に1画素シフトした位置で第4注目画素を設定し、第4注目画素と第4注目画素の隣接画素とに基づいて、第4注目画素に対応する第4対応画素の画素値を算出し、第4対応画素で構成される第3原色圧縮画像を生成し、第4注目画素を基準とした隣接画素の相関を表す付加情報を、第4対応画素毎に付加する。
つまり、第3原色圧縮画像は、基準原色第1圧縮画像と同様、第3原色の撮影画像に比べてデータ量が約1/4に低減している。
そして、撮影装置は、画像送信部によって、基準原色第1圧縮画像、基準原色第2圧縮画像、第2原色圧縮画像及び第3原色圧縮画像からなる圧縮画像を、カメラコントロールユニット(画像補間装置)に送信する。
このように、撮影装置は、3原色の撮影画像のデータ量が大幅に低減された圧縮画像を生成し、圧縮画像の補間に必要な付加情報を付加して、カメラコントロールユニットに送信する。
また、前記した課題に鑑みて、本願発明に係るカメラコントロールユニットは、前記した撮影装置より受信した画像を補間するカメラコントロールユニットであって、画像受信部と、基準原色撮影画像補間部と、第2原色撮影画像補間部と、第3原色撮影画像補間部と、画像合成部と、を備えることを特徴とする。
かかる構成によれば、カメラコントロールユニットは、画像受信部によって、3原色の撮影画像のデータ量が大幅に低減され、補間に必要な付加情報が付加された圧縮画像を撮影装置から受信する。
また、カメラコントロールユニットは、基準原色撮影画像補間部によって、第1対応画素及び第2対応画素を1画素間隔で展開し、第1対応画素及び第2対応画素の付加情報を参照し、第1対応画素と第2対応画素とに囲まれた補間対象画素を補間することで、基準原色の撮影画像を生成する。
なお、展開とは、圧縮信号の対応画素を、この対応画素に対応する注目画素と同じ画素位置に配置することである。言い換えるなら、展開とは、圧縮信号の対応画素を撮影画像で元の画素位置に配置することである。
また、カメラコントロールユニットは、第2原色撮影画像補間部によって、第3対応画素を1画素間隔で展開し、第3対応画素の付加情報を参照し、第3対応画素の間に位置する補間対象画素を補間することで、第2原色の撮影画像を生成する。そして、カメラコントロールユニットは、第3原色撮影画像補間部によって、第4対応画素を1画素間隔で展開し、第4対応画素の付加情報を参照し、第4対応画素の間に位置する補間対象画素を補間することで、第3原色の撮影画像を生成する。このように、カメラコントロールユニットは、圧縮画像に付加された付加情報を用いて、隣接画素の相関を考慮した補間により、3原色の撮影画像を生成する。
その後、カメラコントロールユニットは、画像合成部によって、基準原色の撮影画像と、第2原色の撮影画像と、第3原色の撮影画像とを合成することで、被写体画像を生成する。
本願発明によれば、以下のような優れた効果を奏する。
本願発明に係る撮影装置は、3原色の撮影画像のデータ量が大幅に低減された圧縮画像を生成し、圧縮画像の補間に必要な付加情報を付加して、カメラコントロールユニットに送信する。そして、本願発明に係るカメラコントロールユニットは、圧縮画像に付加された付加情報を用いて、隣接画素の相関を考慮した補間により、被写体画像を生成する。これによって、本願発明に係る撮影装置及びカメラコントロールユニットは、データ量の低減と、解像度劣化の抑制とを両立できるので、低消費電力化を図りつつ、高品質な撮影画像を提供することができる。
本願発明の実施形態に係る撮影カメラシステムの概略図である。 図1のカメラヘッド及びカメラコントロールユニットの構成を示すブロック図である。 (a)はG1信号の生成を説明する説明図であり、(b)はG2信号の生成を説明する説明図である。 (a)はG1信号の隣接画素を説明する説明図であり、(b)はG1信号の付加情報を説明する説明図である。 (a)は赤信号の生成を説明する説明図であり、(b)は青信号の生成を説明する説明図である。 赤信号の隣接画素を説明する説明図である。 (a)及び(b)は赤信号の付加情報を説明する説明図である。 (a)はG1信号、G2信号、赤信号及び青信号の位置関係を説明する説明図であり、(b)は3原色の撮影画像を示した説明図である。 (a)は緑撮影画像を説明する説明図であり、(b)は緑撮影画像の補間を説明する説明図である。 緑信号補間部の補間で利用するテーブルを説明する説明図である。 赤撮影画像を説明する説明図である。 赤撮影画像における第1の補間手法を説明する説明図である。 第1の補間手法で利用するテーブルを説明する説明図である。 赤撮影画像における第2の補間手法を説明する説明図である。 第2の補間手法で利用するテーブルを説明する説明図である。 (a)はカメラヘッドの動作を示すフローチャートであり、(b)はカメラコントロールユニットの動作を示すフローチャートである。
[撮影カメラシステムの概略]
以下、本願発明の実施形態について、適宜図面を参照しながら詳細に説明する。
図1を参照し、本願発明の実施形態に係る撮影カメラシステム1の概略について、説明する。
図1に示すように、撮影カメラシステム1は、被写体(不図示)を撮影するものであり、カメラヘッド(撮影装置)10と、カメラコントロールユニット(画像補間装置)20と、ケーブル30とを備える。
カメラヘッド10は、被写体を撮影する3板式のカメラヘッドである。このカメラヘッド10は、3原色それぞれの撮影画像を圧縮した圧縮画像を生成し、後記する付加情報を付加する。そして、カメラヘッド10は、ケーブル30を介して、付加情報が付加された圧縮画像を、カメラコントロールユニット20に送信する。
例えば、カメラヘッド10は、一般的なカメラヘッドと同様に撮影レンズ11を備え、三脚12に搭載されている。以下、カメラヘッド10の一般的機能は、その説明を省略する。
カメラコントロールユニット20は、カメラヘッド10から受信した圧縮画像を補間して、被写体が撮影された被写体影画像を生成する。このとき、カメラコントロールユニット20は、付加情報を用いて、圧縮画像を補間することになる。
ここで、カメラコントロールユニット20は、一般的なカメラコントロールユニットと同様、カメラヘッド10の各種制御機能及び各種画像処理機能を備えるが、その説明を省略する。
ケーブル30は、カメラヘッド10及びカメラコントロールユニット20を接続する信号ケーブルである。ここで、ケーブル30は、その長さが特に制限されない。
[カメラヘッドの構成]
図2を参照し、カメラヘッド10の構成について、説明する(適宜図1参照)。
図2に示すように、カメラヘッド10は、分光手段13と、撮像素子14と、信号生成部15と、信号送信部(画像送信部)16とを備える。
分光手段13は、被写体から出射して撮影レンズ11を通過した光を、緑色、赤色及び青色の3原色に分光する光学ブロック(例えば、色分解プリズム)である。そして、分光手段13は、分光した3原色の光を、撮像素子14に出射する。
本実施形態では、3原色のうち緑色が基準原色として設定され、赤色が第2原色として設定され、青色が第3原色として設定されていることとする。
撮像素子14は、分光手段13で分光された3原色の光により、3原色それぞれの撮影画像を生成するものであり、緑撮像素子14Gと、赤撮像素子14Rと、青撮像素子14Bとを備える。例えば、撮像素子14としては、CMOS又はCCD等の固体撮像素子をあげることができる。
緑撮像素子14Gは、分光手段13から入射した緑色の光により、緑色の撮影画像(緑撮影画像)を生成するものである。そして、緑撮像素子14Gは、生成した緑撮影画像を緑信号生成部15Gに出力する。
赤撮像素子14Rは、分光手段13から入射した赤色の光により、赤色の撮影画像(赤撮影画像)を生成するものである。そして、赤撮像素子14Rは、生成した赤撮影画像を赤信号生成部15Rに出力する。
青撮像素子14Bは、分光手段13から入射した青色の光を撮影により、青色の撮影画像(青撮影画像)を生成するものである。そして、青撮像素子14Bは、生成した青撮影画像を青信号生成部15Bに出力する。
なお、緑撮影画像、赤撮影画像及び青撮影画像は、同一画素数であることとする。
信号生成部15は、撮像素子14が生成した3原色の撮影画像を圧縮するものであり、緑信号生成部15Gと、赤信号生成部(第2原色圧縮画像生成部)15Rと、青信号生成部(第3原色圧縮画像生成部)15Bとを備える。
ここで、人間の目は、赤色及び青色よりも緑色の方が高感度なことが知られている。そこで、信号生成部15は、人間の目の感度に合わせて、1つの緑撮影画像からG1信号,G2信号という2つの信号を生成するため、G1信号生成部(基準原色第1圧縮画像生成部)15Gaと、G2信号生成部(基準原色第2圧縮画像生成部)15Gbとを備える。
なお、赤信号生成部15Rは、1つの赤撮影画像から1つの赤信号を生成する(青色も同様)。
G1信号生成部15Gaは、緑撮影画像に第1注目画素を1画素間隔で設定し、第1注目画素と第1注目画素の隣接画素とに基づいて、第1注目画素に対応する第1対応画素の画素値を算出し、第1対応画素で構成されるG1信号(基準原色第1圧縮画像)を生成するものである。そして、G1信号生成部15Gaは、第1注目画素を基準とした隣接画素の相関を表す付加情報を第1対応画素に付加して、信号送信部16に出力する。
G2信号生成部15Gbは、緑撮影画像に第1注目画素が水平及び垂直に1画素シフトした位置で第2注目画素を設定し、第2注目画素と第2注目画素の隣接画素とに基づいて、第2注目画素に対応する第2対応画素の画素値を算出し、第2対応画素で構成されるG2信号(基準原色第2圧縮画像)を生成するものである。そして、G2信号生成部15Gbは、第2注目画素を基準とした隣接画素の相関を表す付加情報を、第2対応画素毎に付加して、信号送信部16に出力する。
<G1信号及びG2信号の生成>
図3,図4を参照し、G1信号及びG2信号の生成について、詳細に説明する(適宜図2参照)。
図3では、説明を簡易にするため、緑撮影画像が縦横5画素であることとする。
図3(a)に示すように、G1信号生成部15Gaは、例えば、緑撮影画像の左上を基準として、第1注目画素G1を1画素間隔で設定する。ここで、第1注目画素G1の上下左右に位置する隣接画素に着目する(図3(a)のハッチング)。
図4(a)に示すように、G1信号生成部15Gaは、第1注目画素G1の画素値を1/2にした値と、上下左右の隣接画素a〜dの画素値を1/8にした値とを加算し、第1注目画素G1に対応する第1対応画素の画素値を求める。そして、G1信号生成部15Gaは、第1対応画素で構成されるG1信号を生成する。言い換えるなら、G1信号生成部15Gaは、緑撮影画像の4画素のうち1画素を抽出し、抽出した画素を隣接配置したG1信号を生成する。
なお、第1注目画素G1が緑撮影画像の周辺部に位置し、上下左右の何れか1以上の隣接画素が存在しない場合も考えられる。この場合、G1信号生成部15Gaは、存在する隣接画素のみを用いて、G1信号の各画素の画素値を求める。例えば、左上の第1注目画素G1であれば、G1信号生成部15Gaは、左上の第1注目画素G1の画素値を1/2にした値と、右側の隣接画素cの画素値を1/4にした値と、下側の隣接画素dの画素値を1/4にした値とを加算する。このように、第1注目画素G1の画素値に乗じる分数と、存在する隣接画素の画素値に乗じる分数との和が、‘1’になることが好ましい。
次に、G1信号生成部15Gaは、付加情報を生成して第1対応画素に付加する。具体的には、G1信号生成部15Gaは、第1注目画素G1の画素値に、隣接画素a〜dの画素値が近似する順位を求める。そして、G1信号生成部15Gaは、求めた順位に応じて付加情報を生成する。
図4(b)に示すように、G1信号生成部15Gaは、第1注目画素G1から見て、順位が1番目及び2番目となる隣接画素の方向を示す付加情報を生成する。
例えば、G1信号生成部15Gaは、隣接画素a,cが1番目及び2番目の場合、隣接画素a,cが第1注目画素G1の左右に位置するので、左右方向相関を示す付加情報を生成する(例えば、‘01’)。
また、例えば、G1信号生成部15Gaは、隣接画素b,dが1番目及び2番目の場合、隣接画素b,dが第1注目画素G1の上下に位置するので、上下方向相関を示す付加情報を生成する(例えば、‘10’)。
また、G1信号生成部15Gaは、1番目及び2番目の隣接画素が前記以外の組み合わせの場合、相関方向無を示す付加情報を生成する(例えば、‘00’)。
このように、G1信号生成部15Gaは、付加情報を2ビットで表すため、付加情報の付加によるデータ量の増加を最小限に抑えることができる。
図3(b)に示すように、G2信号生成部15Gbは、第1注目画素G1が水平及び垂直に1画素シフトした位置に第2注目画素G2を設定する。その後、G2信号生成部15Gbは、G1信号生成部15Gaと同様、第2注目画素G2を基準としてG2信号を生成し、付加情報をG2信号に付加する。
この結果、G1信号及びG2信号は、緑撮影画像の1/4の画素数を有し、緑撮影画像で隣接画素の相関を表す付加情報が各画素に付加されている。従って、緑撮影画像は、データ量が約半分のG1信号及びG2信号に変換されたと言える。
図2に戻り、カメラヘッド10の構成について、説明を続ける。
赤信号生成部15Rは、赤撮影画像に第1注目画素が水平に1画素シフトした位置で第3注目画素を設定し、第3注目画素と第3注目画素の隣接画素とに基づいて、第3注目画素に対応する第3対応画素の画素値を算出し、第3対応画素で構成される赤信号(第2原色圧縮画像)を生成するものである。そして、赤信号生成部15Rは、第3注目画素を基準とした隣接画素の相関を表す付加情報を第3対応画素毎に付加して、信号送信部16に出力する。
青信号生成部15Bは、青撮影画像に第1注目画素が垂直に1画素シフトした位置で第4注目画素を設定し、第4注目画素と第4注目画素の隣接画素とに基づいて、第4注目画素に対応する第4対応画素の画素値を算出し、第4対応画素で構成される青信号(第3原色圧縮画像)を生成するものである。そして、青信号生成部15Bは、第4注目画素を基準とした隣接画素の相関を表す付加情報を、第4対応画素毎に付加して、信号送信部16に出力する。
<赤信号及び青信号の生成>
図5〜図7を参照し、赤信号及び青信号の生成について、詳細に説明する(適宜図2参照)。
図5では、説明を簡易にするため、赤色及び青撮影画像が縦横5画素であることとする。
図5(a)に示すように、赤信号生成部15Rは、第1注目画素G1(図3)が水平に1画素シフトした位置に第3注目画素Rを設定する。ここで、第3注目画素Rの上下左右斜めに位置する隣接画素に着目する(図5(a)のハッチング)。
図6に示すように、赤信号生成部15Rは、第3注目画素Rの画素値を1/2にした値と、上下左右斜めの隣接画素a〜hの画素値を1/16にした値とを加算し、第3注目画素Rに対応する第3対応画素の画素値を求める。そして、赤信号生成部15Rは、第3対応画素で構成される赤信号を生成する。
なお、第3注目画素Rが赤撮影画像の周辺部に位置し、上下左右斜めの何れか1以上の隣接画素が存在しない場合も考えられる。この場合、赤信号生成部15Rは、存在する隣接画素のみを用いて、赤信号の各画素の画素値を求める。例えば、上端の第3注目画素Rであれば、赤信号生成部15Rは、上端の第3注目画素Rの画素値を1/2にした値と、隣接画素d〜hの画素値を1/10にした値とを加算する。このように、第3注目画素Rの画素値に乗じる分数と、存在する隣接画素の画素値に乗じる分数との和が、‘1’になることが好ましい。
次に、赤信号生成部15Rは、付加情報を生成して赤信号の各画素に付加する。具体的には、赤信号生成部15Rは、第3注目画素Rの画素値に、隣接画素a〜hの画素値が近似する順位を求める。そして、赤信号生成部15Rは、求めた順位に応じて付加情報を生成する。
まず、赤信号生成部15Rは、8つの隣接画素a〜hの画素値が近似する順位を1番目から5番目まで求める。図7(b)に示すように、赤信号生成部15Rは、1番目から5番目までの隣接画素に、順位に応じた係数を与える。この係数は、順位が高い程に値が大きく、順位が低い程に値が小さくなるように予め設定される。
また、赤信号生成部15Rは、第3注目画素Rを挟んだ2つの隣接画素の係数合計値を算出する。つまり、赤信号生成部15Rは、第3注目画素Rの左右に位置する隣接画素d,eの係数合計値と、第3注目画素Rの上下に位置する隣接画素b,gの係数合計値とを算出する。また、赤信号生成部15Rは、第3注目画素Rの左斜めに位置する隣接画素a,hの係数合計値と、第3注目画素Rの右斜めに位置する隣接画素c,fの係数合計値とを算出する。
そして、赤信号生成部15Rは、2つの隣接画素の係数合計値が最大になる方向を示す付加情報を生成する。
例えば、赤信号生成部15Rは、隣接画素d,eの係数合計値が最大の場合、隣接画素d,eが第3注目画素Rの左右に位置するので、左右方向相関を示す付加情報を生成する(例えば、‘01’)。
また、例えば、赤信号生成部15Rは、隣接画素b,gの係数合計値が最大の場合、隣接画素b,gが第3注目画素Rの上下に位置するので、上下方向相関を示す付加情報を生成する(例えば、‘00’)。
また、例えば、赤信号生成部15Rは、隣接画素a,hの係数合計値が最大の場合、隣接画素a,hが第3注目画素Rの左斜めに位置するので、左斜め方向相関を示す付加情報を生成する(例えば、‘10’)。
また、赤信号生成部15Rは、隣接画素c,fの係数合計値が最大の場合、隣接画素c,fが第3注目画素Rの右斜めに位置するので、右斜め方向相関を示す付加情報を生成する(例えば、‘11’)。
このように、赤信号生成部15Rは、付加情報を2ビットで表すため、付加情報の付加によるデータ量の増加を最小限に抑えることができる。
図5(b)に示すように、青信号生成部15Bは、第1注目画素G1(図3)が垂直に1画素シフトした位置に第4注目画素Bを設定する。その後、青信号生成部15Bは、赤信号生成部15Rと同様、第4注目画素Bを基準として青信号を生成し、付加情報を青信号に付加する。
図2に戻り、カメラヘッド10の構成について、説明を続ける。
信号送信部16は、G1信号生成部15Gaから入力されたG1信号と、G2信号生成部15Gbから入力されたG2信号と、赤信号生成部15Rから入力された赤信号と、青信号生成部15Bから入力された青信号とを、カメラコントロールユニット20に送信するものである。
以下、G1信号、G2信号、赤信号及び青信号を圧縮信号と呼ぶことがある。
図8(a)に示すように、圧縮信号は、3原色の撮影画像からベイヤー配列で注目画素G1,G2,R,Bを抽出して画素値を計算し、注目画素G1,G2,R,Bに付加情報を付加したものである。従って、信号送信部16は、図8(b)に示すように、3原色の撮影画像90G,90R,90Bを送信する場合に比べ、大幅に少ないデータ量で圧縮信号を送信することができる。
[カメラコントロールユニットの構成]
図2に戻り、カメラコントロールユニット20の構成について、説明する(適宜図1参照)。
図2に示すように、カメラコントロールユニット20は、信号受信部(画像受信部)21と、信号補間部22と、画像合成部23とを備える。
信号受信部21は、カメラヘッド10から圧縮信号を受信するものである。また、信号受信部21は、受信したG1信号及びG2信号を緑信号補間部22Gに出力する。また、信号受信部21は、受信した赤信号を赤信号補間部22Rに出力し、受信した青信号を青信号補間部22Bに出力する。
信号補間部22は、信号受信部21から入力された圧縮信号を補間し、3原色の撮影画像を生成するものである。このため、信号補間部22は、緑信号補間部(基準原色撮影画像補間部)22Gと、赤信号補間部(第2原色撮影画像補間部)22Rと、青信号補間部(第3原色撮影画像補間部)22Bとを備える。
緑信号補間部22Gは、信号受信部21からG1信号及びG2信号が入力される。そして、緑信号補間部22Gは、G1信号の第1対応画素及びG2信号の第2対応画素を1画素間隔で展開するものである。そして、緑信号補間部22Gは、第1対応画素及び第2対応画素の付加情報を参照し、第1対応画素と第2対応画素とに囲まれた補間対象画素を補間することで、緑撮影画像を生成する。さらに、緑信号補間部22Gは、生成した、緑撮影画像を画像合成部23に出力する。
<緑撮影画像の生成>
図9,図10を参照し、緑撮影画像の生成について、説明する(適宜図2参照)。
図9(a)では、説明を簡易にするため、緑撮影画像が縦横4画素であることとする。また、図9(b)は、図9(a)の太枠部分に対応する。
図9(a)に示すように、緑信号補間部22Gは、第2対応画素G2の位置を第1対応画素G1の位置から水平及び垂直に1画素シフトさせて、第1対応画素G1及び第2対応画素G2を1画素間隔で展開する。つまり、第1対応画素G1及び第2対応画素G2は、互いに斜めに位置する。この状態では、第1対応画素G1と第2対応画素G2とに囲まれた補間対象画素は、画素値が定まっていない。なお、図9(a)では、補間対象画素が空白となっている。
このため、緑信号補間部22Gは、図9(b)に示すように、補間対象画素G’の上下左右に位置する第1対応画素G1及び第2対応画素G2の付加情報を抽出し、抽出した付加情報を用いて補間対象画素G’の画素値を補間する。
なお、補間対象画素G’は、上下左右を第1対応画素G1及び第2対応画素G2に挟まれることになる。図9(b)では、画素Ga,Gcが第2対応画素G2に相当し、画素Gb,Gdが第1対応画素G1に相当する。
具体的には、緑信号補間部22Gは、補間対象画素G’の上下左右に隣接する画素Ga〜Gdについて、画素Ga〜Gdの付加情報が上下方向相関、左右方向相関又は相関方向無を示す分類毎に集計する。
例えば、緑信号補間部22Gは、画素Gaの付加信号が相関方向無(例えば、‘00’)の場合、画素Gaを相関なし(無相関)として集計する。
また、例えば、緑信号補間部22Gは、画素Gaの付加信号が左右方向相関(例えば、‘01’)の場合、画素Gaを相関あり(正相関)として集計する。
また、例えば、緑信号補間部22Gは、画素Gaの付加信号が上下方向相関(例えば、‘10’)の場合、画素Gaを逆相関として集計する。
さらに、緑信号補間部22Gは、画素Gaと同様、画素Gb〜Gdも相関なし、相関あり又は逆相関の何れかとして集計する。つまり、緑信号補間部22Gは、相関なし、相関あり又は逆相関という付加情報の分類毎に、画素Ga〜Gdの画素数を集計する。
ここで、緑信号補間部22Gは、図10に示すように、重み付け加算の規則を示したテーブルが予め設定される。図10のテーブルでは、相関なし、相関あり及び逆相関の3列は、付加情報の分類毎に集計された画素Ga〜Gdの画素の個数を表している。
また、図10のテーブルでは、最右列(画素G’の求め方)は、分類毎の画素数に応じた重み付け加算の規則を表している。すなわち、この最右列において、‘1/2’、‘1/3’、‘1/6’といった分数が、画素Ga〜Gdの画素値に乗算する重みを表している。画素Ga〜Gdの重みは、任意の値で設定可能であり、合計が‘1’となるように設定することが好ましい。また、‘4画素の平均’は、画素Ga〜Gdの重みが全て等しいことを表す。
そして、緑信号補間部22Gは、分類毎の画素Ga〜Gdの画素数が図10のテーブルに一致する行を検索し、検索した行の最右列が示す重み付け加算の規則を読み出す。さらに、緑信号補間部22Gは、読み出した規則に従って、画素Ga〜Gdの画素値を重み付け加算し、補間対象画素G’の画素値を算出する。つまり、緑信号補間部22Gは、分類毎の画素数に応じた重みを用いて、画素Ga〜Gdの画素値を重み付け加算している。その後、緑信号補間部22Gは、補間対象画素G’の画素値が定まった緑撮影画像を、画像合成部23に出力する。
例えば、画素Ga〜Gdが全て相関なしに集計された場合を考える。この場合、画素Ga〜Gdの分類毎の画素数は、相関なしで4画素、相関ありで0画素、逆相関で0画素となる。従って、画素Ga〜Gdの画素数が図10のテーブルの上1行目に一致する。このため、緑信号補間部22Gは、画素Ga〜Gdの画素値を平均して、補間対象画素G’の画素値を算出する。
また、例えば、画素Ga〜Gcが相関なし、画素Gdが相関ありに集計された場合を考える。この場合、画素Ga〜Gdの分類毎の画素数は、相関なしで3画素、相関ありで1画素、逆相関で0画素となる。従って、画素Ga〜Gdの画素数が図10のテーブルの上2行目に一致する。このため、緑信号補間部22Gは、画素Ga〜Gcの画素値をそれぞれ1/6にした値と、画素Gdの画素値を1/2にした値とを加算して、補間対象画素G’の画素値を算出する。
また、例えば、画素Ga〜Gcが相関なし、画素Gdが逆相関に集計された場合を考える。この場合、画素Ga〜Gdの分類毎の画素数は、相関なしで3画素、相関ありで0画素、逆相関で1画素となる。従って、画素Ga〜Gdの画素数が図10のテーブルの上3行目に一致する。このため、緑信号補間部22Gは、画素Ga〜Gcの画素値をそれぞれ1/3にした値を加算して、補間対象画素G’の画素値を算出する。
なお、画素Gdは、逆相関に集計されているが、補間対象画素G’の画素値の算出に利用されていない。つまり、緑信号補間部22Gは、補間対象画素G’の画素値の算出に、全ての画素Ga〜Gdの画素値を利用せずともよい。
図2に戻り、カメラコントロールユニット20の構成について、説明を続ける。
赤信号補間部22Rは、信号受信部21から入力された赤信号の付加情報を参照して、第3対応画素Rの間に位置する補間対象画素R1’,R2’を補間することで、赤撮影画像を生成するものである。そして、赤信号補間部22Rは、生成した赤撮影画像を画像合成部23に出力する。
図11に示すように、赤信号補間部22Rは、赤信号の第3対応画素Rを1画素間隔で展開する。この状態では、第3対応画素Rが上下左右1つおきに存在しているため、補間手法を2種類検討する必要がある。
第1の補間手法は、補間対象画素R1’の斜めに位置する第3対応画素Rの画素値を用いて、補間対象画素R1’を補間するものである。言い換えるなら、第1の補間手法は、第3対応画素Rの斜めに位置する補間対象画素R1’に適用される。
第2の補間手法は、補間対象画素R2’を上下又は左右に挟んだ第3対応画素Rの画素値を用いて、補間対象画素R2’を補間するものである。言い換えるなら、第2の補間手法は、第3対応画素Rの上下左右に位置する補間対象画素R2’に適用される。
なお、図11では、一部の補間対象画素のみ符号R1’,R2’を図示した。当然、赤信号補間部22Rは、全ての補間対象画素R1’に第1の補間手法を適用し、全ての補間対象画素R2’に第2の補間手法を適用する。
<第1の補間手法>
図12,図13を参照し、第1の補間手法について、説明する(適宜図2参照)。
図12では、補間対象画素R’の斜めに位置する第3対応画素Rを符号Ra〜Rdで図示した。この補間対象画素R’は、図11の補間対象画素R1’に相当する。
図12に示すように、赤信号補間部22Rは、第3対応画素Raの付加情報が上下方向相関(例えば、‘00’)の場合、又は、左右方向相関(例えば、‘01’)の場合、相関なし(無相関)の分類に集計する。
また、赤信号補間部22Rは、第3対応画素Raの付加情報が左斜め方向相関(例えば、‘10’)の場合、又は、右斜め方向相関(例えば、‘11’)の場合、第3対応画素Raと補間対象画素R’との位置関係に応じて、相関あり(正相関)又は逆相関の分類に集計する。
つまり、赤信号補間部22Rは、補間対象画素R’から見た第3対応画素Raの方向が、第3対応画素Raの付加情報が示す方向に一致する場合、正相関の分類に集計する。
例えば、赤信号補間部22Rは、第3対応画素Raの付加情報が左斜め方向相関(例えば、‘10’)の場合、第3対応画素Raが補間対象画素R’の左斜め上方向なので、正相関の分類に集計する。
一方、赤信号補間部22Rは、補間対象画素R’から見た第3対応画素Raの方向が、第3対応画素Raの付加情報が示す方向に一致しない場合、逆相関の分類に集計する。例えば、赤信号補間部22Rは、第3対応画素Raの付加情報が右斜め方向相関(例えば、‘11’)の場合、第3対応画素Raが補間対象画素R’の左斜め上方向なので、逆相関の分類に集計する。
さらに、赤信号補間部22Rは、第3対応画素Raと同様、第3対応画素Rb〜Rdも相関なし、相関あり又は逆相関の何れかの分類に集計する。
次に、赤信号補間部22Rは、分類毎の画素数に対応した重みを用いて、第3対応画素Ra〜Rdの画素値を重み付け加算することで、補間対象画素R’の画素値を算出する。
ここで、赤信号補間部22Rは、図13に示すように、重み付け加算の規則を示したテーブルが予め設定される。
なお、テーブルは、図10と同様のものであるため、説明を省略する。また、赤信号補間部22Rは、緑信号補間部22Gと同様に重み付け加算を行うため、説明を省略する。
<第2の補間手法>
図14,図15を参照し、第2の補間手法について、説明する(適宜図2参照)。
図14では、補間対象画素R’の左右に隣接する第3対応画素Rを符号Ra,Rbで図示した。この補間対象画素R’は、図11の補間対象画素R2’に相当する。
図14に示すように、第3対応画素Ra,Rbに付加情報が付加されているので、この付加情報から、補間対象画素R’が第3対応画素Ra,Rbにどの程度相関するか分かる。
赤信号補間部22Rは、図15に示すように、重み付け加算の規則を示したテーブルが予め設定される。図15のテーブルでは、左列が第3対応画素Raの付加情報を表し、中央列が第3対応画素Rbの付加情報を表している。
また、図15のテーブルでは、右列(画素R’の求め方)は、第3対応画素Ra,Rbの付加情報に対応した重み付け加算の規則を表している。すなわち、この右列において、‘1/2’、‘1/3’、‘1/5’といった分数が、第3対応画素Ra,Rbの画素値に乗算する重みを表している。第3対応画素Ra,Rbの重みは、任意の値で設定可能であり、合計が‘1’となるように設定することが好ましい。
まず、赤信号補間部22Rは、第3対応画素Ra,Rbの付加情報の組み合わせが、図15のテーブルに一致する行を検索し、検索した行の右列が示す重み付け加算の規則を読み出す。そして、赤信号補間部22Rは、読み出した規則に従って重み付け加算を行い、補間対象画素R’の画素値を算出する。
例えば、第3対応画素Ra,Rbの付加情報が相関方向無(例えば、‘00’)の場合を考える。この場合、第3対応画素Ra,Rbの付加情報の組み合わせが、図15のテーブルの上1行目に一致する。このため、赤信号補間部22Rは、第3対応画素Raの画素値の1/2と、第3対応画素Rbの画素値の1/2とを加算して、補間対象画素R’の画素値を算出する。
つまり、図15のテーブルの上1行目において、重み付け加算の規則は、第3対応画素Ra,Rbの両方とも補間対象画素R’に相関が無いため、第3対応画素Rb,Rbの重みが等しいことを示す。
また、例えば、第3対応画素Raの付加情報が相関方向無(例えば、‘00’)、第3対応画素Rbの付加情報が左右方向相関(例えば、‘01’)、の場合を考える。この場合、第3対応画素Ra,Rbの付加情報の組み合わせが、図15のテーブルの上2行目に一致する。このため、赤信号補間部22Rは、第3対応画素Raの画素値の1/5と、第3対応画素Rbの画素値の4/5とを加算して、補間対象画素R’の画素値を算出する。
つまり、図15のテーブルの上2行目において、重み付け加算の規則は、以下のことを表す。第3対応画素Raの付加情報が相関方向無のため、補間対象画素R’と第3対応画素Raとの相関が低くなる。一方、第3対応画素Rbと補間対象画素R’との位置関係が水平であり、第3対応画素Rbの付加情報も左右方向相関である。このように、両画素の位置関係と付加情報が示す方向とが一致すると、補間対象画素R’と第3対応画素Rbとの相関が高くなる。従って、第3対応画素Rbの重みが、第3対応画素Raの重みに比べて大きくなっている。
また、例えば、第3対応画素Raの付加情報が左右方向相関(例えば、‘01’)、第3対応画素Rbの付加情報が左斜め方向相関(例えば、‘11’)、の場合を考える。この場合、第3対応画素Ra,Rbの付加情報の組み合わせが、図15のテーブルの上8行目に一致する。このため、赤信号補間部22Rは、第3対応画素Raの画素値の3/4と、第3対応画素Rbの画素値の1/4とを加算して、補間対象画素R’の画素値を算出する。
つまり、図15のテーブルの上8行目において、重み付け加算の規則は、以下のことを表す。第3対応画素Raと補間対象画素R’との位置関係が水平であり、第3対応画素Rbの付加情報も左右方向相関である。このように、両画素の位置関係と付加情報が示す方向とが一致するので、第3対応画素Raと補間対象画素R’との相関が高くなる。
一方、第3対応画素Rbと補間対象画素R’との位置関係が水平に対し、第3対応画素Rbの付加情報が左斜め方向相関である。このように、両画素の位置関係と付加情報が示す方向とが離れているので、第3対応画素Raに比べて、第3対応画素Rbと補間対象画素R’との相関が低くなる。従って、第3対応画素Raの重みが、第3対応画素Rbの重みに比べて大きくなっている。
図2に戻り、カメラコントロールユニット20の構成について、説明を続ける。
青信号補間部22Bは、信号受信部21から入力された青信号の付加情報を参照して、第4注目画素Bの間に位置する補間対象画素を補間することで、青撮影画像を生成するものである。
ここで、青信号補間部22Bは、青信号の第4注目画素を1画素間隔で展開することで、補正前の青撮影画像を生成する。その後、青信号補間部22Bは、赤信号補間部22Rと同様、第1,第2の補間手法を用いて補間対象画素を補間し、青撮影画像を生成する。その後、青信号補間部22Bは、生成した青撮影画像を画像合成部23に出力する。
画像合成部23は、緑信号補間部22Gから入力された緑撮影画像と、赤信号補間部22Rから入力された赤撮影画像と、青信号補間部22Bから入力された青撮影画像とを合成することで、被写体画像を生成するものである。例えば、画像合成部23は、緑撮影画像と、赤撮影画像と、青撮影画像とを重ね合わせて、被写体画像を生成する。そして、画像合成部23は、合成した被写体画像を外部に出力する。
[カメラヘッドの動作]
図16(a)を参照し、カメラヘッド10の動作について、説明する(適宜図2参照)。
図16(a)に示すように、カメラヘッド10は、分光手段13によって、被写体からの光を3原色に分光し、撮像素子14によって、3原色それぞれの撮影画像を生成する(ステップS1)。
カメラヘッド10は、信号生成部15によって、3原色それぞれの撮影画像から、圧縮信号を生成する(ステップS2)。
カメラヘッド10は、信号生成部15によって、付加情報を生成し、付加情報を圧縮信号に付加する(ステップS3)。
カメラヘッド10は、信号送信部16によって、圧縮信号をカメラコントロールユニット20に送信する(ステップS4)。
[カメラコントロールユニットの動作]
図16(b)を参照し、カメラコントロールユニット20の動作について、説明する(適宜図2参照)。
図16(b)に示すように、カメラコントロールユニット20は、信号受信部21によって、カメラヘッド10から圧縮信号を受信する(ステップS11)。
カメラコントロールユニット20は、信号補間部22によって、圧縮信号から、付加情報を抽出する(ステップS12)。
カメラコントロールユニット20は、信号補間部22によって、付加情報を用いて、圧縮信号を補間し、3原色の撮影画像を生成する(ステップS13)。
カメラコントロールユニット20は、画像合成部23によって、3原色の撮影画像を合成し、被写体画像を生成する(ステップS14)。
[作用・効果]
以上のように、本願発明の実施形態に係るカメラヘッド10は、3原色の撮影画像のデータ量が大幅に低減されたG1信号、G2信号、赤信号及び青信号を生成し、付加情報をG1信号、G2信号、赤信号及び青信号に付加し、カメラコントロールユニット20に送信する。そして、本願発明の実施形態に係るカメラコントロールユニット20は、G1信号、G2信号、赤信号及び青信号に付加された付加情報を用いて、隣接画素の相関を考慮した補間を行って3原色の撮影画像を生成及び合成して、被写体画像を生成する。これによって、カメラヘッド10及びカメラコントロールユニット20は、データ量の低減と、解像度劣化の抑制とを両立することができる。
なお、前記した実施形態では、緑色が基準原色であり、赤色が第2原色であり、青色が第3原色であることとして説明したが、本願発明は、これに限定されない。
例えば、本願発明は、赤色が基準原色であり、青色が第2原色であり、緑色が第3原色であってもよい。
また、例えば、本願発明は、青色が基準原色であり、赤色が第2原色であり、緑色が第3原色であってもよい。
1 撮影カメラシステム
10 カメラヘッド(撮影装置)
11 撮影レンズ
12 三脚
13 分光手段
14 撮像素子
14G 緑撮像素子
14R 赤撮像素子
14B 青撮像素子
15 信号生成部
15G 緑信号生成部
15Ga G1信号生成部(基準原色第1圧縮画像生成部)
15Gb G2信号生成部(基準原色第2圧縮画像生成部)
15R 赤信号生成部(第2原色圧縮画像生成部)
15B 青信号生成部(第3原色圧縮画像生成部)
16 信号送信部(画像送信部)
20 カメラコントロールユニット(画像補間装置)
21 信号受信部(画像受信部)
22 信号補間部
22G 緑信号補間部(基準原色撮影画像補間部)
22R 赤信号補間部(第2原色撮影画像補間部)
22B 青信号補間部(第3原色撮影画像補間部)
23 画像合成部
30 ケーブル

Claims (7)

  1. 被写体からの光を、3原色のうち予め定めた基準原色と、前記基準原色以外の第2原色と、前記基準原色及び前記第2原色以外の第3原色とに分光し、前記被写体を撮影する3板式の撮影装置であって、
    前記基準原色の撮影画像に第1注目画素を1画素間隔で設定し、前記第1注目画素と前記第1注目画素の隣接画素とに基づいて、前記第1注目画素に対応する第1対応画素の画素値を算出し、前記第1対応画素で構成される基準原色第1圧縮画像を生成し、前記第1注目画素を基準とした隣接画素の相関を表す付加情報を、前記第1対応画素毎に付加する基準原色第1圧縮画像生成部と、
    前記基準原色の撮影画像に前記第1注目画素が水平及び垂直に1画素シフトした位置で第2注目画素を設定し、前記第2注目画素と前記第2注目画素の隣接画素とに基づいて、前記第2注目画素に対応する第2対応画素の画素値を算出し、前記第2対応画素で構成される基準原色第2圧縮画像を生成し、前記第2注目画素を基準とした隣接画素の相関を表す付加情報を、前記第2対応画素毎に付加する基準原色第2圧縮画像生成部と、
    前記第2原色の撮影画像に前記第1注目画素が水平に1画素シフトした位置で第3注目画素を設定し、前記第3注目画素と前記第3注目画素の隣接画素とに基づいて、前記第3注目画素に対応する第3対応画素の画素値を算出し、前記第3対応画素で構成される第2原色圧縮画像を生成し、前記第3注目画素を基準とした隣接画素の相関を表す付加情報を、前記第3対応画素毎に付加する第2原色圧縮画像生成部と、
    前記第3原色の撮影画像に前記第1注目画素が垂直に1画素シフトした位置で第4注目画素を設定し、前記第4注目画素と前記第4注目画素の隣接画素とに基づいて、前記第4注目画素に対応する第4対応画素の画素値を算出し、前記第4対応画素で構成される第3原色圧縮画像を生成し、前記第4注目画素を基準とした隣接画素の相関を表す付加情報を、前記第4対応画素毎に付加する第3原色圧縮画像生成部と、
    前記基準原色第1圧縮画像と、前記基準原色第2圧縮画像と、前記第2原色圧縮画像と、前記第3原色圧縮画像とを画像補間装置に送信する画像送信部と、
    を備えることを特徴とする撮影装置。
  2. 前記基準原色第1圧縮画像生成部は、
    前記第1注目画素の画素値の1/2と、前記第1注目画素の上下左右に隣接する隣接画素の画素値の1/8とを加算して、前記第1対応画素の画素値を算出し、
    前記第1注目画素と、前記第1注目画素の上下左右に隣接する隣接画素との画素値が近似する順位により、上下方向相関、左右方向相関又は相関方向無を示す付加情報を生成し、
    前記基準原色第2圧縮画像生成部は、
    前記第2注目画素の画素値の1/2と、前記第2注目画素の上下左右に隣接する隣接画素の画素値の1/8とを加算して、前記第2対応画素の画素値を算出し、
    前記第2注目画素と、前記第2注目画素の上下左右に隣接する隣接画素との画素値が近似する順位により、上下方向相関、左右方向相関又は相関方向無を示す付加情報を生成することを特徴とする請求項1に記載の撮影装置。
  3. 前記第2原色圧縮画像生成部は、
    前記第3注目画素の画素値の1/2と、前記第3注目画素に上下左右斜めに隣接する隣接画素の画素値の1/16とを加算して、前記第3対応画素の画素値を算出し、
    前記第3注目画素と、前記第3注目画素に上下左右斜めに隣接する隣接画素との画素値が近似する順位により、上下方向相関、左右方向相関、右斜め方向相関又は左斜め方向相関を示す付加情報を生成し、
    前記第3原色圧縮画像生成部は、
    前記第4注目画素の画素値の1/2と、前記第4注目画素に上下左右斜めに隣接する隣接画素の画素値の1/16とを加算して、前記第4対応画素の画素値を算出し、
    前記第4注目画素と、前記第4注目画素に上下左右斜めに隣接する隣接画素との画素値が近似する順位により、上下方向相関、左右方向相関、右斜め方向相関又は左斜め方向相関を示す付加情報を生成することを特徴とする請求項1又は請求項2に記載の撮影装置。
  4. 請求項1に記載の撮影装置から受信した画像を補間する画像補間装置であって、
    3原色のうち予め定めた基準原色の撮影画像から抽出した第1対応画素で構成される基準原色第1圧縮画像と、前記基準原色の撮影画像から抽出した第2対応画素で構成される基準原色第2圧縮画像と、前記基準原色以外の第2原色の撮影画像から抽出した第3対応画素で構成される第2原色圧縮画像と、前記基準原色及び前記第2原色以外の第3原色の撮影画像から抽出した第4対応画素で構成される第3原色圧縮画像とを、前記撮影装置から受信する画像受信部と、
    前記第1対応画素及び前記第2対応画素を1画素間隔で展開し、前記第1対応画素及び前記第2対応画素の付加情報を参照し、前記第1対応画素と前記第2対応画素とに囲まれた補間対象画素を補間することで、前記基準原色の撮影画像を生成する基準原色撮影画像補間部と、
    前記第3対応画素を1画素間隔で展開し、前記第3対応画素の付加情報を参照し、前記第3対応画素の間に位置する補間対象画素を補間することで、前記第2原色の撮影画像を生成する第2原色撮影画像補間部と、
    前記第4対応画素を1画素間隔で展開し、前記第4対応画素の付加情報を参照し、前記第4対応画素の間に位置する補間対象画素を補間することで、前記第3原色の撮影画像を生成する第3原色撮影画像補間部と、
    前記基準原色の撮影画像と、前記第2原色の撮影画像と、前記第3原色の撮影画像とを合成することで、被写体が撮影された被写体画像を生成する画像合成部と、
    を備えることを特徴とする画像補間装置。
  5. 前記基準原色撮影画像補間部は、
    前記補間対象画素の上下左右に隣接する第1対応画素及び第2対応画素を、上下方向相関、左右方向相関又は相関方向無を示す前記付加情報の分類毎に集計し、
    前記分類毎の画素数に応じた重みを用いて、前記第1対応画素及び前記第2対応画素の画素値を重み付け加算することで、前記基準原色の撮影画像における補間対象画素の画素値を算出することを特徴とする請求項4に記載の画像補間装置。
  6. 前記第2原色撮影画像補間部は、
    前記補間対象画素の斜めに位置する第3対応画素を、前記付加情報が上下方向相関又は左右方向相関のときに無相関の分類に集計し、前記付加情報が右斜め方向相関又は左斜め方向相関のとき、前記第3対応画素から見た補間対象画素の方向と前記付加情報の方向とが一致すれば正相関の分類に集計し、一致しなければ逆相関の分類に集計し、
    前記分類毎の画素数に応じた重みを用いて、前記第3対応画素の画素値を重み付け加算することで、前記第2原色の撮影画像における補間対象画素を補間し、
    前記第3原色撮影画像補間部は、
    前記補間対象画素の斜めに位置する第4対応画素を、前記付加情報が上下方向相関又は左右方向相関のときに無相関の分類に集計し、前記付加情報が右斜め方向相関又は左斜め方向相関のとき、前記第4対応画素から見た補間対象画素の方向と前記付加情報の方向とが一致すれば正相関の分類に集計し、一致しなければ逆相関の分類に集計し、
    前記分類毎の画素数に応じた重みを用いて、前記第4対応画素の画素値を重み付け加算することで、前記第3原色の撮影画像における補間対象画素を補間することを特徴とする請求項4又は請求項5に記載の画像補間装置。
  7. 前記第2原色撮影画像補間部は、
    前記補間対象画素の上下又は左右に隣接する第3対応画素の対について、前記付加情報の組み合わせに応じた重みを用いて、前記第3対応画素の画素値を重み付け加算することで、前記第2原色の撮影画像における補間対象画素を補間し、
    前記第3原色撮影画像補間部は、
    前記補間対象画素の上下又は左右に隣接する第4対応画素の対について、前記付加情報の組み合わせに応じた重みを用いて、前記第4対応画素の画素値を重み付け加算することで、前記第3原色の撮影画像における補間対象画素を補間することを特徴とする請求項4から請求項6の何れか一項に記載の画像補間装置。
JP2013266313A 2013-12-25 2013-12-25 撮影装置及び画像補間装置 Active JP6247927B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013266313A JP6247927B2 (ja) 2013-12-25 2013-12-25 撮影装置及び画像補間装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013266313A JP6247927B2 (ja) 2013-12-25 2013-12-25 撮影装置及び画像補間装置

Publications (2)

Publication Number Publication Date
JP2015122679A true JP2015122679A (ja) 2015-07-02
JP6247927B2 JP6247927B2 (ja) 2017-12-13

Family

ID=53533937

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013266313A Active JP6247927B2 (ja) 2013-12-25 2013-12-25 撮影装置及び画像補間装置

Country Status (1)

Country Link
JP (1) JP6247927B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0851622A (ja) * 1994-08-04 1996-02-20 Sony Corp ディジタル画像信号の処理装置
JP2004023445A (ja) * 2002-06-17 2004-01-22 Fujitsu Ltd 画像データ圧縮復元方法および装置
JP2012129927A (ja) * 2010-12-17 2012-07-05 Nikon Corp 撮像装置
JP2013219621A (ja) * 2012-04-10 2013-10-24 Canon Inc 撮像装置及び画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0851622A (ja) * 1994-08-04 1996-02-20 Sony Corp ディジタル画像信号の処理装置
JP2004023445A (ja) * 2002-06-17 2004-01-22 Fujitsu Ltd 画像データ圧縮復元方法および装置
JP2012129927A (ja) * 2010-12-17 2012-07-05 Nikon Corp 撮像装置
JP2013219621A (ja) * 2012-04-10 2013-10-24 Canon Inc 撮像装置及び画像処理方法

Also Published As

Publication number Publication date
JP6247927B2 (ja) 2017-12-13

Similar Documents

Publication Publication Date Title
US7973827B2 (en) Image data generating apparatus, method and program for generating an image having high spatial and high temporal resolution
US9001227B2 (en) Combining data from multiple image sensors
JP4469018B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラムおよび当該コンピュータプログラムを記録した記録媒体、フレーム間動き算出方法および画像処理方法
US9204020B2 (en) Color imaging apparatus having color imaging element
US9092883B2 (en) Image processing device, image processing method and storage medium storing image processing program
JP6129119B2 (ja) 画像処理装置、画像処理システム、撮像装置、および画像処理方法
US9886733B2 (en) Watermarking digital images to increase bit depth
JP5493054B2 (ja) 立体動画像及び平面動画像を撮像する撮像素子及びこの撮像素子を搭載する撮像装置
KR20110109905A (ko) 카메라 시스템, 영상 처리 장치 및 카메라 장치
US20180330529A1 (en) Image processing apparatus, image processing method, and computer readable recording medium
US9886961B2 (en) Audio watermark in a digital video
US20160212441A1 (en) Inter frame watermark in a digital video
US8111298B2 (en) Imaging circuit and image pickup device
JP2016208093A (ja) 撮像装置、撮像システム、撮像装置の信号処理方法、信号処理方法
JP4810807B2 (ja) 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム
JP2011171842A (ja) 画像処理装置及び画像処理プログラム
JP6247927B2 (ja) 撮影装置及び画像補間装置
US10825136B2 (en) Image processing apparatus and method, and image capturing apparatus
US9554108B2 (en) Image processing device and storage medium storing image processing program
EP4210335A1 (en) Image processing device, image processing method, and storage medium
JP2007089219A (ja) 撮像装置
JP2014175731A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171024

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171120

R150 Certificate of patent or registration of utility model

Ref document number: 6247927

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250