JP2012114544A - Video encoder - Google Patents
Video encoder Download PDFInfo
- Publication number
- JP2012114544A JP2012114544A JP2010259823A JP2010259823A JP2012114544A JP 2012114544 A JP2012114544 A JP 2012114544A JP 2010259823 A JP2010259823 A JP 2010259823A JP 2010259823 A JP2010259823 A JP 2010259823A JP 2012114544 A JP2012114544 A JP 2012114544A
- Authority
- JP
- Japan
- Prior art keywords
- eye
- encoding
- image quality
- dominant
- rate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は映像符号化装置に係り、特に立体映像信号を構成する右目用映像信号及び左目用映像信号を符号化する映像符号化装置に関する。 The present invention relates to a video encoding device, and more particularly to a video encoding device that encodes a right-eye video signal and a left-eye video signal that constitute a stereoscopic video signal.
立体映像技術に関しては、様々な手法が提案されている。まず、表示に関しては、右目と左目が、それぞれ右目用映像と左目用映像を見るように、偏光目鏡を用いたり、液晶シャッタ目鏡を用いたり、表示画面前面にレンチキュラ板を配する等の手法が考えられている。 Various techniques have been proposed for stereoscopic video technology. First, with regard to display, there are methods such as using a polarizing eye mirror, using a liquid crystal shutter eye mirror, and arranging a lenticular plate in front of the display screen so that the right eye and left eye see the right eye image and left eye image, respectively. It is considered.
また、立体表示のためには、通常、右目用映像信号と左目用映像信号の2つの映像信号が必要である。この少なくとも2つの映像信号を放送したり、伝送したり、記録媒体に記録する場合は、この信号データ量が問題となる。そこで、このような、放送又は記録のために、右目用映像信号と左目用映像信号の2つの映像信号を圧縮符号化し、また復号する技術が提案されている(例えば、特許文献1参照)。 For stereoscopic display, normally, two video signals, a right-eye video signal and a left-eye video signal, are required. When the at least two video signals are broadcast, transmitted, or recorded on a recording medium, this signal data amount becomes a problem. Therefore, a technique for compressing and decoding two video signals of a right-eye video signal and a left-eye video signal for broadcasting or recording has been proposed (for example, see Patent Document 1).
しかしながら、特許文献1記載の立体画像表示装置などの従来の映像符号化装置では、人間の目の利き目や視力などの視覚能力によって、左右の目から入ってきたそれぞれの絵の処理能力が異なるため、場合によって、それほど詳細情報が必要でない場合であっても、右目用映像信号と左目用映像信号の2つの映像信号を、常に同じように符号化しているため、電力消費が比較的大きく、また信号の圧縮量が十分ではないため、大なる容量のメモリや通信回線の負荷が大きいという問題がある。
However, in the conventional video encoding device such as the stereoscopic image display device described in
本発明は以上の点に鑑みなされたもので、再生品質や画質を実質的に低下させることなく、電力消費を低減でき、またメモリ容量の低減や通信回線の負荷を低減できる映像符号化装置を提供することを目的とする。 The present invention has been made in view of the above points, and provides a video encoding apparatus capable of reducing power consumption without substantially reducing reproduction quality and image quality, and reducing memory capacity and communication line load. The purpose is to provide.
上記の目的を達成するため、本発明は、左目用映像信号を画質制御信号に基づいて符号化する左目用符号化手段と、右目用映像信号を画質制御信号に基づいて符号化する右目用符号化手段と、ユーザーの視力情報又は利き目情報から右目と左目の視力の優劣又は利き目を判別する視覚情報判別手段と、視覚情報判別手段により判別された視力が悪い方の目、又は利き目でない方の目に対応した左目用符号化手段又は右目用符号化手段の符号化レートもしくは符号化画素数を、もう一方の目に対応した右目用符号化手段又は左目用符号化手段の符号化レートもしくは符号化画素数よりも下げるように左目用符号化部または右目用符号化部を制御する画質制御手段とを有することを特徴とする。 To achieve the above object, the present invention provides a left-eye encoding means for encoding a left-eye video signal based on an image quality control signal, and a right-eye code for encoding a right-eye video signal based on an image quality control signal. Visual information discriminating means for discriminating superiority or inferiority of the right eye and the left eye from the user's visual acuity information or dominant eye information, and the eye having the poor visual acuity determined by the visual information discriminating means, or the dominant eye The coding rate or the number of coded pixels of the left-eye coding means or right-eye coding means corresponding to the non-eye is encoded by the right-eye coding means or left-eye coding means corresponding to the other eye. And image quality control means for controlling the left-eye encoding unit or the right-eye encoding unit so as to be lower than the rate or the number of encoded pixels.
本発明によれば、再生品質や画質を実質的に低下させることなく、電力消費を低減でき、またメモリ容量の低減や通信回線の負荷を低減できる。 According to the present invention, power consumption can be reduced without substantially reducing reproduction quality and image quality, and memory capacity and communication line load can be reduced.
以下、本発明の実施の形態について図面を参照して説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
図1は、本発明になる映像符号化装置の一実施形態のブロック図を示す。同図において、本実施の形態の映像符号化装置10は、左目用レンズ11L、左目用撮像素子12L、左目用画像バッファ13L、右目用レンズ11R、右目用撮像素子12R、右目用画像バッファ13R、符号化部14、多重化部21を有する。
FIG. 1 shows a block diagram of an embodiment of a video encoding apparatus according to the present invention. In the figure, a video encoding device 10 of the present embodiment includes a left-eye lens 11L, a left-eye image sensor 12L, a left-eye image buffer 13L, a right-
左目用レンズ11L及び左目用撮像素子12Lからなる左目側光学系と、右目用レンズ11R及び右目用撮像素子12Rからなる右目側光学系とが、対をなし左右に人間の両目の間隔程度離れて配置されて、3次元映像の撮影を行う。周知のように、3次元映像は、水平方向に視差(パララックス)を有する右目用の画像と左目用の画像の2枚の画像から形成できるので、左目用撮像素子12Lと右目用撮像素子12Rにより3次元映像が得られるのである。
The left-eye side optical system including the left-eye lens 11L and the left-eye image pickup device 12L and the right-eye side optical system including the right-
左目用撮像素子12Lは、左目用レンズ11Lにより被写体(図示せず)からの光が撮像面に結像され、その光を光電変換して左目用映像信号を生成して左目用画像バッファ13Lに供給する。一方、これと同時に、右目用撮像素子12Rは、右目用レンズ11Rにより被写体(図示せず)からの光が撮像面に結像され、その光を光電変換して右目用映像信号を生成して右目用画像バッファ13Rに供給する。
In the left-eye imaging element 12L, light from a subject (not shown) is imaged on the imaging surface by the left-eye lens 11L, and the light is photoelectrically converted to generate a left-eye video signal in the left-eye image buffer 13L. Supply. On the other hand, at the same time, the right-eye imaging element 12R forms light on the imaging surface with light from a subject (not shown) by the right-
左目用画像バッファ13Lは、入力される左目用映像信号を一時保存した後、符号化部14内の左目用符号化部15Lに供給する。一方、右目用画像バッファ13Rは、入力される右目用映像信号を一時保存した後、符号化部14内の右目用符号化部15Rに供給する。左目用画像バッファ13Lから出力される左目用映像信号と、右目用画像バッファ13Rから出力される右目用映像信号とは互いに同期している。
The left-eye image buffer 13L temporarily stores the input left-eye video signal and then supplies the left-eye video signal to the left-eye encoding unit 15L in the encoding unit 14. On the other hand, the right-eye image buffer 13R temporarily stores the input right-eye video signal, and then supplies it to the right-
また、映像符号化装置10は、視覚情報取得部16、視覚情報入力部17及び画質制御部18を有する。視覚情報取得部16は、ユーザーの視力情報と利き目情報とからなる視覚情報を取得する。視覚情報入力部17は、視覚情報からユーザーの右目の視力と左目の視力のどちらが良いか、あるいは同じであるかを判定してその視力判定情報を画質制御部18に供給すると共に、利き目情報からユーザーの利き目がどちらであるかを判定してその利き目判定情報を画質制御部18に供給する。視覚情報取得部16と視覚情報入力部17とは、ユーザーの視力情報と利き目情報とから右目と左目の視力の優劣及び利き目を判別する本発明の視覚情報判別手段を構成する。
The video encoding device 10 includes a visual information acquisition unit 16, a visual
画質制御部18は、符号化レート制御部19と符号化画素数制御部20とを有し、どちらか一方の選択された制御部により、入力される視力判定情報及び利き目判定情報に基づいて、符号化レート又は画素数を制御して決定した画質を示す画質制御信号を出力する。
The image
符号化部14内の左目用符号化部15L及び右目用符号化部15Rは、所定の符号化方式に基づいて左目用映像信号及び右目用映像信号の符号化を行う際、画質制御部18からの画質制御信号によって設定された画質で符号化する。多重化部21は、左目用符号化部15L及び右目用符号化部15Rによりそれぞれ符号化して得られた左目用映像ストリームと右目用映像ストリームとを多重化して1本のビットストリームを生成して出力する。
When encoding the left-eye video signal and the right-eye video signal based on a predetermined encoding method, the left-eye encoding unit 15L and the right-
次に、図1の本実施形態の映像符号化装置10における画質決定方法について図2のフローチャートを併せ参照して詳細に説明する。 Next, the image quality determination method in the video encoding apparatus 10 of the present embodiment in FIG. 1 will be described in detail with reference to the flowchart in FIG.
まず、記録したい符号化レートを設定する(ステップS1)。この符号化レートは多重化部21から出力されるビットストリームの符号化レートである。続いて、視覚情報取得部16が、ユーザーの視力情報と利き目情報とからなる視覚情報を取得する(ステップS2)。視力情報の取得方法は公知であり(例えば、特開2004−337546号公報参照)、また、利き目情報の取得方法も公知であり(例えば、特開2009−47912号公報参照)、更に、これらの情報の取得方法自体は本発明では重要ではないので、その詳細な説明は省略する。
First, an encoding rate to be recorded is set (step S1). This encoding rate is the encoding rate of the bit stream output from the
続いて、視覚情報入力部17は、入力される視力情報から右目と左目のどちらの視力が良いか、あるいは同じであるかを判定する(ステップS3)。更に、視覚情報入力部17は、右目の視力と左目の視力が同じであるときは、入力される利き目情報から利き目が右目と左目のどちらであるかを判定する(ステップS4)。視覚情報入力部17は、ステップS3及びS4で判定した判定結果を画質制御部18に供給する。このように、視力の方を利き目より優先しているのは、人間の目の特徴によるものである。従って、利き目がどちらかであるという情報と、視力の優劣がどちらかであるという情報が、左右異なる場合は、視力の優劣を優先して、画質を制御する。
Subsequently, the visual
画質制御部18は、符号化レート制御部19による符号化レートの変更と、符号化画素数制御部20による符号化画素数の変更とのどちらか一方の変更が選択され、選択された変更方法で決定した画質制御信号を生成する。
The image
そこで、まず、符号化レート制御部19による符号化レートの変更が選択されているものとすると、符号化レート制御部19は、入力される視力判定情報が右目の方が左目よりも視力が良いことを示している場合、あるいは右目の視力と左目の視力が同じであり、かつ、入力される利き目判定情報が右目が利き目であることを示している場合は、左目の符号化レート下げ率を算出し(ステップS5、S7)、その符号化レート下げ率に基づいて左目の符号化レートのみを下げる(ステップS8)。
Therefore, first, assuming that the encoding rate change by the encoding
また、符号化レート制御部19は、入力される視力判定情報が左目の方が右目よりも視力が良いことを示している場合、あるいは右目の視力と左目の視力が同じであり、かつ、入力される利き目判定情報が左目が利き目であることを示している場合は、右目の符号化レート下げ率を算出し(ステップS6、S11)、その符号化レート下げ率に基づいて右目の符号化レートのみを下げる(ステップS12)。符号化レートの下げ率は、視力の差が大きいことに比例し、差が大きいほど符号化レートの下げ率は増加する。また、利き目も同様に、利き目の違いが極端なほど、符号化レートの下げ率は増加させることができる。
The coding
一方、符号化画素数制御部20による符号化画素数の変更が選択されているものとすると、符号化画素数制御部20は、入力される視力判定情報が右目の方が左目よりも視力が良いことを示している場合、あるいは右目の視力と左目の視力が同じであり、かつ、入力される利き目判定情報が右目が利き目であることを示している場合は、左目の符号化画素数下げ率を算出し(ステップS5、S9)、その符号化画素数下げ率に基づいて左目の符号化画素数のみを下げる(ステップS10)。
On the other hand, assuming that the change of the number of encoded pixels by the encoded pixel
また、符号化画素数制御部20は、入力される視力判定情報が左目の方が右目よりも視力が良いことを示している場合、あるいは右目の視力と左目の視力が同じであり、かつ、入力される利き目判定情報が左目が利き目であることを示している場合は、右目の符号化画素数下げ率を算出し(ステップS6、S13)、その符号化画素数下げ率に基づいて右目の画素数のみを下げる(ステップS14)。符号化画素数は視力の差が大きいことに比例し、差が大きいほど符号化画素数の下げ率は増加する。また、利き目も同様に、利き目の違いが極端なほど、符号化画素数の下げ率は増加させることができる。例えば、片方はハイビジョン方式(HD)の符号化画素数にし、片方は標準(SD)方式の符号化画素数にしてもよい。
In addition, the encoded pixel
このようにして、画質制御部18は、ステップS8、S10、S12、S14のいずれかにより決定された、視力が悪い方の目、あるいは利き目でない方の目の符号化レート又は符号化画素数をもう一方の目の符号化レート又は符号化画素数に比較して相対的に下げる画質制御信号を生成して符号化部14に供給する。
In this way, the image
符号化部14内の左目用符号化部15L及び右目用符号化部15Rは、画質制御信号に基づいて、視力が悪い方の目、あるいは利き目でない方の目に対応した符号化部では、もう一方の目に対応した符号化部に比較して、相対的に低符号化レート又は小符号化画素数の符号化を行う。
Based on the image quality control signal, the left-eye encoding unit 15L and the right-
このように、本実施の形態の映像符号化装置10によれば、人間の目が、利き目や視力などの視覚能力によって、左右の目から入ってきたそれぞれの絵の処理能力が異なることを利用し、視力が悪い方の目、あるいは利き目でない方の目に対応した符号化ストリームのデータ量を、もう一方の目に対応した符号化ストリームのデータ量に比べて大幅に低減することができ、その結果多重化部21から出力される一つのビットストリーム全体のデータ量を大幅に低減することができるため、従来に比べて電力消費を低減でき、またメモリ容量の低減や通信回線の負荷の低減ができる。本実施の形態の映像符号化装置10は、特に携帯電話等の携帯機器で映像情報を記録し、再生する場合に視聴するユーザーが特定されている場合や、パーソナルユースの場合に効果がある。
As described above, according to the video encoding device 10 of the present embodiment, the human eyes have different processing abilities of the pictures coming from the left and right eyes depending on visual abilities such as dominant eyes and visual acuity. It is possible to significantly reduce the amount of encoded stream data corresponding to the eye with poor vision or the non-dominant eye compared to the amount of encoded stream data corresponding to the other eye. As a result, the data amount of one entire bit stream output from the multiplexing
なお、本実施の形態によれば、視力が悪い方の目、あるいは利き目でない方の目に対応した画像の画質は、もう一方の画像の画質よりも大幅に下がるが、ユーザーは画質が低下した方の画像は視力が悪い方の目、あるいは利き目でない方の目で見るために、ユーザーにとって再生画質の劣化は殆ど気にならない。従って、本実施の形態の映像符号化装置10によれば、再生品質や画質を実質的に低下させることなく、符号信号量を低減できる。 According to the present embodiment, the image quality corresponding to the eye with poor vision or the non-dominant eye is significantly lower than the image quality of the other image, but the image quality is lowered by the user. Since the image of the one that has been viewed is viewed with the eye with the poor eyesight or with the eye that is not dominant, the reproduction image quality is hardly noticed by the user. Therefore, according to the video encoding device 10 of the present embodiment, the amount of code signal can be reduced without substantially reducing the reproduction quality and image quality.
なお、本発明者による実験によれば、符号化レートを30Mbpsに設定し、右目の視力1.0、左目の視力が0.2の人の場合、左目の符号化レートを10Mbpsに下げることが可能であった。また、上記の場合、左目側の符号化レートを約70%落としても、右目側の映像が支配的であるために、符号化レートの差を認識することができなかった。この場合、左右の平均符号化レートを落とした場合よりも、高画質の映像を見ることができることが分かった。 According to an experiment by the present inventor, when the encoding rate is set to 30 Mbps and the human eye has a right eyesight of 1.0 and a left eyesight of 0.2, the left eye encoding rate can be reduced to 10 Mbps. It was possible. In the above case, even if the coding rate on the left eye side is reduced by about 70%, the video on the right eye side is dominant, so that the difference in coding rate cannot be recognized. In this case, it was found that higher quality video can be seen than when the left and right average encoding rates are lowered.
なお、本発明は上記の実施の形態に限定されるものではなく、例えば、右目用画像信号及び左目用映像信号は、記録媒体などから入力するようにしてもよい。また、視覚情報取得部16を用いず、視覚情報入力部17で入力された視覚情報を用いてもよい。
The present invention is not limited to the above-described embodiment. For example, the right-eye image signal and the left-eye video signal may be input from a recording medium or the like. Alternatively, the visual information input by the visual
11L 左目用レンズ
11R 右目用レンズ
12L 左目用撮像素子
12R 右目用撮像素子
13L 左目用画像バッファ
13R 右目用画像バッファ
14 符号化部
15L 左目用符号化部
15R 右目用符号化部
16 視覚情報取得部
17 視覚情報入力部
18 画質制御部
19 符号化レート制御部
20 符号化画素数制御部
21 多重化部
11L Left-
Claims (1)
右目用映像信号を前記画質制御信号に基づいて符号化する右目用符号化手段と、
ユーザーの視力情報又は利き目情報から右目と左目の視力の優劣又は利き目を判別する視覚情報判別手段と、
前記視覚情報判別手段により判別された視力が悪い方の目、又は利き目でない方の目に対応した前記左目用符号化手段又は前記右目用符号化手段の符号化レートもしくは符号化画素数を、もう一方の目に対応した前記右目用符号化手段又は前記左目用符号化手段の符号化レートもしくは符号化画素数よりも下げるように前記左目用符号化部または前記右目用符号化部を制御する画質制御手段と
を有することを特徴とする映像符号化装置。 A left-eye encoding means for encoding the left-eye video signal based on the image quality control signal;
A right-eye encoding means for encoding a right-eye video signal based on the image quality control signal;
Visual information discrimination means for discriminating between superiority or dominant eyesight of the right eye and the left eye from the user's eyesight information or dominant eye information;
The encoding rate or the number of encoded pixels of the left-eye encoding means or the right-eye encoding means corresponding to the eye with the poor visual acuity determined by the visual information determination means or the non-dominant eye, Control the left-eye encoding unit or the right-eye encoding unit so as to lower the encoding rate or the number of encoded pixels of the right-eye encoding unit or the left-eye encoding unit corresponding to the other eye. An image quality control means.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010259823A JP2012114544A (en) | 2010-11-22 | 2010-11-22 | Video encoder |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010259823A JP2012114544A (en) | 2010-11-22 | 2010-11-22 | Video encoder |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012114544A true JP2012114544A (en) | 2012-06-14 |
Family
ID=46498309
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010259823A Pending JP2012114544A (en) | 2010-11-22 | 2010-11-22 | Video encoder |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012114544A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104367320A (en) * | 2014-11-07 | 2015-02-25 | 北京智谷睿拓技术服务有限公司 | Method and device for determining dominant eye |
CN106921890A (en) * | 2015-12-24 | 2017-07-04 | 上海贝尔股份有限公司 | A kind of method and apparatus of the Video Rendering in the equipment for promotion |
-
2010
- 2010-11-22 JP JP2010259823A patent/JP2012114544A/en active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104367320A (en) * | 2014-11-07 | 2015-02-25 | 北京智谷睿拓技术服务有限公司 | Method and device for determining dominant eye |
CN106921890A (en) * | 2015-12-24 | 2017-07-04 | 上海贝尔股份有限公司 | A kind of method and apparatus of the Video Rendering in the equipment for promotion |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101545008B1 (en) | Method and system for encoding a 3d video signal, enclosed 3d video signal, method and system for decoder for a 3d video signal | |
US20080170806A1 (en) | 3D image processing apparatus and method | |
US20120263372A1 (en) | Method And Apparatus For Processing 3D Image | |
US20110134227A1 (en) | Methods and apparatuses for encoding, decoding, and displaying a stereoscopic 3d image | |
JP5420075B2 (en) | Stereoscopic image reproduction apparatus, parallax adjustment method thereof, parallax adjustment program, and imaging apparatus | |
US9473788B2 (en) | Frame-compatible full resolution stereoscopic 3D compression and decompression | |
US9654762B2 (en) | Apparatus and method for stereoscopic video with motion sensors | |
JP2011109671A (en) | Adaptive compression of background image (acbi) based on segmentation of three dimensional objects | |
US8750382B2 (en) | System and method for calculating 3Deeps action specs motion estimation from the motion vectors in an MPEG file | |
Shao et al. | Stereoscopic video coding with asymmetric luminance and chrominance qualities | |
KR20140041489A (en) | Automatic conversion of a stereoscopic image in order to allow a simultaneous stereoscopic and monoscopic display of said image | |
TW201301860A (en) | 3D image display method and image timing control unit | |
WO2011118216A1 (en) | Video processing device | |
US6678323B2 (en) | Bandwidth reduction for stereoscopic imagery and video signals | |
JP2012114544A (en) | Video encoder | |
WO2022142757A1 (en) | Video processing method and apparatus, electronic device, and computer readable storage medium | |
US20140072271A1 (en) | Recording apparatus, recording method, reproduction apparatus, reproduction method, program, and recording reproduction apparatus | |
KR100703713B1 (en) | 3D mobile devices capable offer 3D image acquisition and display | |
JP2012134885A (en) | Image processing system and image processing method | |
JP2013048358A (en) | Viewing system and control method of the same | |
JP2014027351A (en) | Image processing device, image processing method, and program | |
CN107659804B (en) | A kind of screen content video coding algorithm for virtual reality head-mounted display apparatus | |
US20140049608A1 (en) | Video processing device and video processing method | |
JP2004242000A (en) | Encoding device and method, and decoding device and method | |
US20140078255A1 (en) | Reproduction device, reproduction method, and program |