JP2009141617A - Imaging system - Google Patents

Imaging system Download PDF

Info

Publication number
JP2009141617A
JP2009141617A JP2007315076A JP2007315076A JP2009141617A JP 2009141617 A JP2009141617 A JP 2009141617A JP 2007315076 A JP2007315076 A JP 2007315076A JP 2007315076 A JP2007315076 A JP 2007315076A JP 2009141617 A JP2009141617 A JP 2009141617A
Authority
JP
Japan
Prior art keywords
frame
key
imaging
unit
intra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007315076A
Other languages
Japanese (ja)
Other versions
JP4878025B2 (en
Inventor
Kenichi Takizawa
賢一 滝沢
Kiyoshi Hamaguchi
清 浜口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Information and Communications Technology
Original Assignee
National Institute of Information and Communications Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Information and Communications Technology filed Critical National Institute of Information and Communications Technology
Priority to JP2007315076A priority Critical patent/JP4878025B2/en
Publication of JP2009141617A publication Critical patent/JP2009141617A/en
Application granted granted Critical
Publication of JP4878025B2 publication Critical patent/JP4878025B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an imaging system for obtaining high quality dynamic images during detection of conditions within a body and during diagnosis of body by imaging the inside of the human body after embedding an imaging device into the human body. <P>SOLUTION: The imaging system includes an imaging device 2 for transmitting encoded wireless data stream by sharing dynamic image data generated by imaging an object to key frames and non-key frames, a motion compensating unit 34 for motion compensation for the non-key frames based on information about the intra-frame encoded key frames by respectively decoding the key frames and the non-key frames from the wireless data stream received from the imaging device 2, and a control device 3 including a control unit 37 for controlling the imaging device 2 via wireless communication based on the motion vector information used for motion compensation with the motion compensating means. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、体内撮影動画像を体外へ無線伝送することにより、高度な治療・診断行為を実現する際に好適な撮像システムに関するものである。   The present invention relates to an imaging system suitable for realizing advanced treatment / diagnosis by wirelessly transmitting an in-vivo captured moving image to the outside of the body.

従来、動画像に対する圧縮符号化方式として、MPEG−1/2/4が提案されている。これら従来の圧縮符号化方式における送信装置では、フレーム内での相関及びフレーム間での相関を最大限有効利用し圧縮符号化を実現している。フレーム内については、不要な高周波成分の抑制や、直流や低周波成分の予測を行い、またフレーム間については、過去の画像からの動きの予測を行っている。符号化時には、これらの予測処理により、現在の画像を近似した画像すなわち予測画像を作成し、現在の画像と予測画像との差分情報、並びに予測画像を作成するために必要な制御情報とを符号化し伝送する。   Conventionally, MPEG-1 / 2/4 has been proposed as a compression encoding method for moving images. In the transmission apparatus in these conventional compression coding systems, the compression coding is realized by making the most effective use of the correlation within the frame and the correlation between the frames. In the frame, unnecessary high-frequency components are suppressed, DC and low-frequency components are predicted, and between frames, motion is predicted from past images. At the time of encoding, an image that approximates the current image, that is, a predicted image is created by these prediction processes, and difference information between the current image and the predicted image and control information necessary to create the predicted image are encoded. And transmit.

また、この従来の圧縮符号化方式における受信装置では、制御情報に基づき予測画像を作成し、受信された差分情報と足し合わせることで、復号画像を得ることができる。ここで伝送路エラーにより信号の品質が変化する場合には、予測のための制御情報並びに差分情報の双方が正常である場合に限り、正常な復号処理が可能となる。さらに復号された画像は、次の画像を予測するために再度使用されるため、復号画像に誤りがある場合には、以後の画像の復号時にも誤りが伝播することになる。このようにMPEG−1/2/4を始めとした従来の圧縮符号化方式では、高い圧縮率を実現している一方で伝送路エラーに弱いという欠点を有している。   In addition, in the receiving device in this conventional compression coding method, a decoded image can be obtained by creating a predicted image based on control information and adding the received difference information. Here, when the signal quality changes due to a transmission path error, normal decoding processing can be performed only when both the control information for prediction and the difference information are normal. Furthermore, since the decoded image is used again to predict the next image, if there is an error in the decoded image, the error will be propagated when decoding the subsequent image. As described above, conventional compression coding systems such as MPEG-1 / 4/4 have a drawback that they are vulnerable to transmission line errors while achieving a high compression rate.

このため、近年において、新しい符号化方式としてDistributed Video Coding(DVC)が提案されている(例えば、非特許文献1参照。)。このDVCによる符号化の特徴として、誤り訂正符号化を用いているところにある。図5に示すように、キーフレームと非キーフレームは互いに異なる符号化方式に基づいて符号化する。キーフレームは、エンコーダ71において例えば従来から利用されているフレーム内符号化を行うのに対して、非キーフレームに対しては誤り訂正符号化を行い、その結果計算されたいわゆる検査ビットのみをデコーダ72へ送信する。デコーダ72においては、次フレームの画像を予め予測し、その推測画像と、次フレームの画像との差分(推測誤り)を、エンコーダ71から送られてきた検査ビットに基づいて検査し、その推測誤りを訂正することにより、次フレームの画像を得ることが可能となる。このようにDVCは、エンコーダ71において動きベクトル探索を行うことなく符号化するため、上述した従来の圧縮符号化方式と比較して少ない計算量で符号化することができる。   For this reason, in recent years, Distributed Video Coding (DVC) has been proposed as a new encoding method (see, for example, Non-Patent Document 1). As a feature of this DVC coding, error correction coding is used. As shown in FIG. 5, key frames and non-key frames are encoded based on different encoding methods. The key frame is subjected to, for example, intra-frame coding conventionally used in the encoder 71, whereas error correction coding is performed on a non-key frame, and only a so-called check bit calculated as a result is decoded. 72. In the decoder 72, the next frame image is predicted in advance, the difference (estimation error) between the estimated image and the next frame image is checked based on the check bit sent from the encoder 71, and the estimated error is detected. It is possible to obtain an image of the next frame by correcting. Thus, since the DVC is encoded without performing a motion vector search in the encoder 71, the DVC can be encoded with a smaller amount of calculation compared to the conventional compression encoding method described above.

このため、DVCによる符号化方式は、従来の圧縮符号化方式よりも機器の消費電力を低減させることができ、機器の軽量小型化を実現することが可能となる。
B.Girod, et al., “Distributed Video Coding” Proceedings of The IEEE,Vol93,No.1 January 2005
For this reason, the encoding method by DVC can reduce the power consumption of the device as compared with the conventional compression encoding method, and it is possible to realize a lighter and smaller device.
B.Girod, et al., “Distributed Video Coding” Proceedings of The IEEE, Vol93, No.1 January 2005

ところで、特に近年における医療では、人体内に撮像デバイスを埋設(インプラント)して、人体内を撮像し、体内の状況把握や診断を行うケースが増加している。このため、体内に埋設された撮像デバイスと基地局としての制御装置の間で無線通信リンクを確立して無線通信を行うシステムに関する研究も注目を浴びている。中でもリアルタイムに患者の検査データを取得するため、通信の高速化、利用しやすさ、信頼性に焦点を当てたシステムの構築も進展しつつある。   By the way, especially in recent medical treatment, there are an increasing number of cases in which an imaging device is embedded (implanted) in the human body, the human body is imaged, and the situation inside the body is grasped and diagnosed. For this reason, research on a system that establishes a wireless communication link between an imaging device embedded in the body and a control device as a base station is also attracting attention. In particular, in order to acquire patient test data in real time, the construction of a system focusing on high-speed communication, ease of use, and reliability is also progressing.

実際に、この人体埋設型の撮像デバイスによる無線通信システムでは、先ず超小型で構成される必要があり、低電圧で動作する必要がある。上述したDVCによる符号化方式を利用した撮像システムは、機器の軽量小型化を実現することが可能となることから、人体埋設型の撮像デバイスに対して適用する上で好ましいものと考えられてきた。   Actually, in the wireless communication system using the human-embedded imaging device, first, it is necessary to be configured in a very small size, and it is necessary to operate at a low voltage. The imaging system using the DVC encoding method described above has been considered preferable for application to a human-embedded imaging device because it can achieve a lighter and smaller device. .

しかしながら、この人体埋設型の撮像デバイスは、食道等のように動きの速い部位を撮影対象とする場合もあれば、胃のように動きが遅い臓器を撮影対象とする場合もある。また、撮影対象の動きが速くなったり遅くなったりする臓器を撮影対象とする場合もあることから、動きの速さが千差万別でしかも時々刻々と変化する可能性もある撮影対象を適宜好適な条件の下で撮像しなければならない。   However, this human-embedded imaging device may target a fast-moving part such as the esophagus, or may target a slow-moving organ such as the stomach. In addition, there are cases in which organs where the movement of the object to be photographed becomes faster or slower are taken as objects to be photographed. Therefore, the object to be photographed whose movement speed varies widely and may change from moment to moment is appropriately selected. Images must be taken under suitable conditions.

従来のDVCによる符号化方式を利用した撮像システムでは、撮像デバイスを人体に埋設し、人体内の臓器等の動きの時々刻々と変化するものを撮影対象とする点について何ら想定するものではない。このため、人体内に埋設した撮像デバイスにより、時系列的に変化する撮影対象の動きを常時最適な条件で撮像することができず、得られた画像の品質を向上させることができないという問題点があった。   In an imaging system using a conventional DVC encoding method, an imaging device is embedded in a human body, and it is not assumed that an object to be imaged is an object in which movement of an organ or the like in the human body changes every moment. For this reason, the imaging device embedded in the human body cannot always capture the movement of the imaging target that changes in time series under optimal conditions, and the quality of the obtained image cannot be improved. was there.

そこで、本発明は、上述した課題に鑑みて案出されたものであり、その目的とするところは、人体内に撮像デバイスを埋設し、人体内を撮像して体内の状況把握や診断を行う際により高品質な動画像を得ることが可能な撮像システムを提供することにある。   Accordingly, the present invention has been devised in view of the above-described problems, and the object of the present invention is to embed an imaging device in the human body and to capture the state of the body and diagnose the human body. An object of the present invention is to provide an imaging system capable of obtaining a higher quality moving image.

本発明を適用した撮像システムは、上述した課題を解決するために、被写体を撮像することにより生成した動画像データをキーフレームと非キーフレームに振り分ける撮像手段と、上記キーフレームをフレーム内符号化するフレーム内符号化手段と、上記非キーフレームと上記フレーム内符号化されたキーフレームとをそれぞれ符号化する符号化手段と、上記符号化されたキーフレーム並びに非キーフレームをそれぞれ無線データストリーム化して送信する送信手段とを有する撮像デバイスと、上記撮像デバイスから受信した無線データストリームから上記キーフレーム並びに非キーフレームをそれぞれ復号化する復号化手段と、上記復号化されたキーフレームを更にフレーム内復号化するフレーム内復号化手段と、上記フレーム内復号化されたキーフレームに関する情報に基づいて上記復号化された非キーフレームに対してフレーム内オブジェクトの動き補償する動き補償手段と、上記動き補償された非キーフレームと上記キーフレームとを合成して動画像を生成する動画像生成手段と、上記動き補償手段による動き補償に利用された動きベクトル情報に基づいて上記撮像デバイスにおける上記撮像手段を無線通信を介して制御する制御手段とを有する制御装置とを備えることを特徴とする。   In order to solve the above-described problems, an imaging system to which the present invention is applied has imaging means for distributing moving image data generated by imaging a subject into key frames and non-key frames, and intra-frame coding of the key frames. Intra-frame encoding means, encoding means for encoding the non-key frame and the intra-frame encoded key frame, respectively, and converting the encoded key frame and non-key frame to wireless data streams, respectively. An imaging device having a transmission means for transmitting the data, a decoding means for decoding each of the key frame and the non-key frame from the wireless data stream received from the imaging device, and the decoded key frame in the frame. Intra-frame decoding means for decoding, and intra-frame decoding A motion compensator for compensating motion of an intra-frame object with respect to the decoded non-key frame based on the information on the key frame, and a motion image by combining the motion-compensated non-key frame and the key frame. A control apparatus having a moving image generation means for generating the image data and a control means for controlling the image pickup means in the image pickup device via wireless communication based on motion vector information used for motion compensation by the motion compensation means. It is characterized by providing.

本発明を適用した撮像システムは、上述した課題を解決するために、被写体を撮像することにより生成した動画像データをキーフレームと非キーフレームに振り分ける撮像手段と、上記キーフレームをフレーム内符号化するフレーム内符号化手段と、上記非キーフレームと上記フレーム内符号化されたキーフレームとをそれぞれ符号化する符号化手段と、上記符号化されたキーフレーム並びに非キーフレームをそれぞれ無線データストリーム化して送信する送信手段とを有する撮像デバイスと、上記撮像デバイスから受信した無線データストリームから上記キーフレーム並びに非キーフレームをそれぞれ復号化する復号化手段と、上記復号化されたキーフレームを更にフレーム内復号化するフレーム内復号化手段と、上記フレーム内復号化されたキーフレームに関する情報に基づいて上記復号化された非キーフレームに対してフレーム内オブジェクトの動き補償する動き補償手段と、上記動き補償された非キーフレームと上記キーフレームとを合成して動画像を生成する動画像生成手段と、上記復号化手段による上記非キーフレームの復号の収束値に基づいて上記撮像デバイスにおけるフレーム内符号化手段又は上記符号化手段を無線通信により制御する制御手段とを有する制御装置とを備えることを特徴とする。   In order to solve the above-described problems, an imaging system to which the present invention is applied has imaging means for distributing moving image data generated by imaging a subject into key frames and non-key frames, and intra-frame coding of the key frames. Intra-frame encoding means, encoding means for encoding the non-key frame and the intra-frame encoded key frame, respectively, and converting the encoded key frame and non-key frame to wireless data streams, respectively. An imaging device having a transmission means for transmitting the data, a decoding means for decoding each of the key frame and the non-key frame from the wireless data stream received from the imaging device, and the decoded key frame in the frame. Intra-frame decoding means for decoding, and intra-frame decoding A motion compensator for compensating motion of an intra-frame object with respect to the decoded non-key frame based on the information on the key frame, and a motion image by combining the motion-compensated non-key frame and the key frame. And a control unit for controlling the intra-frame encoding unit or the encoding unit in the imaging device by wireless communication based on the convergence value of the decoding of the non-key frame by the decoding unit. And a control device.

上述した構成からなる本発明では、撮像デバイスにおける撮像のビットレートやキーフレームの割合、さらには符号量制御までを全て制御装置側において行うことができる。また非キーフレームのフレーム内オブジェクトの動き補償を撮像デバイス内で実行するのではなく、あくまで制御装置側において実行し、その動き補償に利用した動きベクトルの情報を常時取得して制御部による制御に利用することができる。   In the present invention having the above-described configuration, it is possible to perform all of the imaging bit rate, the ratio of key frames, and the code amount control in the imaging device. In addition, motion compensation for non-keyframe intra-frame objects is not executed in the imaging device, but is executed only on the control device side, and motion vector information used for motion compensation is always acquired for control by the control unit. Can be used.

このため、撮像デバイス側において動き補償やこれに基づく制御を行うための回路を実装する必要がなくなることから、撮像デバイスの形状をより小型化することが可能となり、また軽量化を図ることも可能となる。   For this reason, it is not necessary to mount a circuit for performing motion compensation and control based on this on the imaging device side, so the shape of the imaging device can be further reduced, and the weight can be reduced. It becomes.

即ち、本発明は、撮像デバイスを人体内に埋設する際に小型軽量化を図ることができ、しかも動きの速さが千差万別でしかも時々刻々と変化する可能性もある撮影対象を、動きベクトル情報等に基づいて適宜好適な条件の下で動画像を取得できるように撮像デバイスを制御することが可能となる。   That is, the present invention can reduce the size and weight when embedding the imaging device in the human body, and the shooting target whose movement speed is various and may change every moment, Based on the motion vector information and the like, it is possible to control the imaging device so that a moving image can be acquired under appropriate conditions.

以下、本発明を実施するための最良の形態として、体内撮影動画像を体外へ無線伝送する撮像システムについて、図面を参照しながら詳細に説明する。   Hereinafter, an imaging system for wirelessly transmitting an in-vivo captured moving image to the outside of the body will be described in detail with reference to the drawings as the best mode for carrying out the present invention.

本発明を適用した撮像システム1は、図1に示すように人体内に埋設(インプラント)される撮像デバイス2と、人体外に配設された制御装置3とを備えている。この撮像デバイス2は、人体内を撮像し、体内の状況把握や診断を行うためのデバイスである。撮像デバイス2は、胃カメラのように口から飲み込むことにより体内に入れるようにしても良いし、インプラントしたものであってもよい。制御装置3は、撮像デバイス2により撮像された動画像が無線通信を介して伝送されてくる。この制御装置3は、少なくとも撮像デバイス2を無線通信により制御する。ちなみに、この制御装置3は、例えばパーソナルコンピュータ(PC)等の電子機器により構成されていてもよく、撮像デバイス2から伝送される画像データを記録し、また記録した画像データにつき図示しないディスプレイを介して検査者に表示する。またこの制御装置3は、図示しないネットワークシステムを介して画像データを他の端末装置へと送信するようにしてもよい。   An imaging system 1 to which the present invention is applied includes an imaging device 2 embedded (implanted) in a human body and a control device 3 disposed outside the human body as shown in FIG. The imaging device 2 is a device for imaging a human body and grasping or diagnosing the situation inside the human body. The imaging device 2 may be inserted into the body by swallowing it from the mouth like a stomach camera, or may be an implanted device. The control device 3 transmits a moving image captured by the imaging device 2 via wireless communication. The control device 3 controls at least the imaging device 2 by wireless communication. Incidentally, the control device 3 may be configured by an electronic device such as a personal computer (PC), for example, which records image data transmitted from the imaging device 2 and records the recorded image data via a display (not shown). Display to the inspector. The control device 3 may transmit image data to another terminal device via a network system (not shown).

なお、この撮像システム1では、撮像デバイス2から制御装置3に対して動画像を伝送する際には、Distributed Video Coding(DVC)方式に基づいて符号化することを前提としている。   In this imaging system 1, when moving images are transmitted from the imaging device 2 to the control device 3, it is assumed that encoding is performed based on the Distributed Video Coding (DVC) method.

以下、この撮像デバイス2と制御装置3の構成について図面を参照しながら詳細に説明をする。   Hereinafter, the configuration of the imaging device 2 and the control device 3 will be described in detail with reference to the drawings.

撮像デバイス2は、図2に示すように、被写体を撮像するためのカメラ21と、このカメラ21に接続されている振分器22と、この振分器22にそれぞれ接続されている画像符号器23、第2の符号器25と、画像符号器23に接続された第1の符号器24と、第2の符号器25とに接続され、無線データストリームを無線伝送系5を介して制御装置3へと送信する送信部26とを備えている。   As shown in FIG. 2, the imaging device 2 includes a camera 21 for imaging a subject, a distributor 22 connected to the camera 21, and an image encoder connected to the distributor 22. 23, a second encoder 25, a first encoder 24 connected to the image encoder 23, and a second encoder 25, and a wireless data stream via the wireless transmission system 5. 3 is provided.

制御装置3は、撮像デバイス2から無線伝送系5を介して送信されてきた無線データストリームを受信する受信部31と、受信部31にそれぞれ接続されている復号器32、動き補償部34a、非キーフレーム再構成部34b、SNR(Signal-to-Noise Ratio)検出部38と、復号器32に接続されている画像復号器33と、画像復号器33、動き補償部34に接続されている合成部35と、合成部に接続されている映像表示部36と、非キーフレーム再構成部34b、映像表示部36にそれぞれ接続されている制御部37とを備えている。   The control device 3 includes a receiving unit 31 that receives a wireless data stream transmitted from the imaging device 2 via the wireless transmission system 5, a decoder 32 that is connected to the receiving unit 31, and a motion compensation unit 34a. A key frame reconstruction unit 34b, an SNR (Signal-to-Noise Ratio) detection unit 38, an image decoder 33 connected to the decoder 32, an image decoder 33, and a synthesis connected to the motion compensation unit 34 A unit 35, a video display unit 36 connected to the synthesis unit, a non-keyframe reconstruction unit 34b, and a control unit 37 connected to the video display unit 36, respectively.

カメラ21は、被写体からの像光を結像させるためのレンズと、レンズを介して入射される像光を遮光するシャッタ羽根等により絞り量を調整する絞り駆動部と、入力される被写体像に基づき電気的な撮像信号を生成するCCD(Charge Coupled Device)イメージセンサとを有している。   The camera 21 includes a lens for forming image light from a subject, a diaphragm driving unit that adjusts a diaphragm amount by a shutter blade or the like that shields image light incident through the lens, and an input subject image. And a CCD (Charge Coupled Device) image sensor that generates an electrical imaging signal based on the image sensor.

また、このカメラ21は、CCDイメージセンサにより生成された撮像信号C1のばらつきを補償するためのCDS(Correlated Double Sampling)回路や、CDS回路から供給される撮像信号をアナログ/デジタル変換処理するA/D変換部、A/D変換部から供給されるデジタル化された撮像信号としての画像データに所定の処理を施すディジタルシグナルプロセッサ(DSP)と、接続されたDSPからの画像データを一時的に記憶する画像用RAM等を備えていてもよい。   The camera 21 also has a CDS (Correlated Double Sampling) circuit for compensating for variations in the imaging signal C1 generated by the CCD image sensor, and an A / A that performs analog / digital conversion processing on the imaging signal supplied from the CDS circuit. A digital signal processor (DSP) that performs predetermined processing on image data as digitized imaging signals supplied from the D conversion unit and A / D conversion unit, and temporarily stores the image data from the connected DSP An image RAM or the like may be provided.

なお、このカメラ21は、後述するように、制御装置3における制御部37から、その撮像条件等について制御されることになる。   As will be described later, the camera 21 is controlled with respect to the imaging conditions and the like from the control unit 37 in the control device 3.

振分器22は、カメラ21から送られてくる画像データをフレーム毎に振り分けを行う。後述するようにDVC方式に基づいて符号化する観点から、振分器22は、動画フレーム列をキーフレームと非キーフレームの2種類に振り分ける。振分器22は、例えば数フレームに一枚の頻度でキーフレームが発生し、残りが非キーフレームとなるように振り分けを行うようにしてもよい。振分器22において振り分けられたキーフレームは、画像符号器23へ、また非キーフレームは、第2の符号器25へと送られることになる。なお、この振分器22は、後述するように、制御装置3における制御部37から、キーフレームと非キーフレームの割合等が調整される場合もある。   The distributor 22 distributes the image data sent from the camera 21 for each frame. As will be described later, from the viewpoint of encoding based on the DVC method, the distributor 22 distributes the moving image frame sequence into two types of key frames and non-key frames. For example, the distributor 22 may perform distribution so that a key frame is generated at a frequency of one frame every few frames, and the rest are non-key frames. The key frames distributed by the distributor 22 are sent to the image encoder 23, and the non-key frames are sent to the second encoder 25. As will be described later, the distributor 22 may adjust the ratio of key frames and non-key frames from the control unit 37 in the control device 3 in some cases.

画像符号器23は、振分器22から送られてきたキーフレームについて、従来のMPEG−1/2/4等におけるIフレームと同様に、通常のフレーム内符号化を行う。このとき、画像符号器23は、送られてきたキーフレームについて、DCT(Discrete Cosine Transform)変換した上で量子化することにより、非可逆的な画像圧縮を実現するようにしてもよい。また、この画像符号器23においては、ハフマン符号化を適用するようにしてもよい。   The image encoder 23 performs normal intra-frame encoding on the key frame sent from the distributor 22 in the same manner as an I frame in the conventional MPEG-1 / 2/4 or the like. At this time, the image encoder 23 may realize irreversible image compression by quantizing the transmitted key frame after DCT (Discrete Cosine Transform) conversion. In the image encoder 23, Huffman coding may be applied.

第1の符号器24は、画像符号器23によりフレーム内符号化されたキーフレームについて、更に通信路を介して伝送する上で必要な、ターボ符号化、或いはLDPC(Low Density Parity Check)符号化等、いわゆる誤り訂正符号化を行い、これを送信部26へと出力する。   The first encoder 24 performs turbo encoding or LDPC (Low Density Parity Check) encoding necessary for further transmitting the key frame encoded by the image encoder 23 via the communication path. Etc., so-called error correction coding is performed, and this is output to the transmitter 26.

第2の符号器25は、振分器22から非キーフレームのみが送られてくる。この第2の符号器25は、畳み込み符号化やターボ符号化、或いはLDPC符号化等を用いて、非キーフレームに対して誤り訂正符号の生成を行う。この第2の符号器25は、この誤り訂正符号化を行った結果、得られたその冗長成分又はそのシンドローム成分のみを上記無線データストリームするためのデータとして、これを送信部26へと送る。   The second encoder 25 receives only non-key frames from the distributor 22. The second encoder 25 generates an error correction code for the non-key frame using convolutional coding, turbo coding, LDPC coding, or the like. The second encoder 25 sends only the redundant component or the syndrome component obtained as a result of the error correction coding to the transmitter 26 as data for streaming the wireless data.

送信部26は、第1の符号器24から送られてくるキーフレームと、第2の符号器25から送られてくる冗長成分又はシンドローム成分を無線データストリーム化して無線伝送系5を介して制御装置3へと送信する。この送信部26は、例えば小型アンテナ等で構成され、人体内の組織を介して外部へと電磁波を放射可能に構成されている。   The transmission unit 26 converts the key frame sent from the first encoder 24 and the redundant component or syndrome component sent from the second encoder 25 into a wireless data stream and controls it via the wireless transmission system 5. Transmit to device 3. The transmission unit 26 is configured with, for example, a small antenna and the like, and configured to be able to radiate electromagnetic waves to the outside through a tissue in the human body.

無線伝送系5は、特定小電力無線局や、微弱無線局に基づく無線通信方式による無線データストリームを伝送するようにしてもよい。このとき、401〜406MHz帯域の、望ましくは402〜405MHz帯域の無線データストリームを伝送可能な系として構成するようにしてもよい。402〜405MHzの周波数帯域を利用することにより、人体への影響の軽減を優先して通信を低電圧で実現することができる。   The wireless transmission system 5 may transmit a wireless data stream by a wireless communication scheme based on a specific low power wireless station or a weak wireless station. At this time, it may be configured as a system capable of transmitting a wireless data stream in the 401 to 406 MHz band, preferably in the 402 to 405 MHz band. By using the frequency band of 402 to 405 MHz, communication can be realized at a low voltage with priority given to reducing the influence on the human body.

受信部31は、撮像デバイス2から無線伝送系5を介して送信されてくる無線データストリームを受信するためのアンテナ等で構成される。この受信部31は、受信した無線データストリームについて、キーフレームに関しては復号器32へ、また非キーフレームを符号化する際に生成される冗長成分又はシンドローム成分については、非キーフレーム再構成部34bへと送信する。   The receiving unit 31 includes an antenna for receiving a wireless data stream transmitted from the imaging device 2 via the wireless transmission system 5. The receiving unit 31 receives the received wireless data stream from the decoder 32 for key frames, and the non-key frame reconstructing unit 34b for redundant components or syndrome components generated when encoding non-key frames. Send to.

復号器32は、受信部31から送られてくるキーフレーム成分について復号処理を施す。また画像復号器33は、復号器32において復号化されたキーフレーム成分について、更にフレーム内復号を行う。このフレーム内復号は、従来のMPEG−1/2/4等におけるIフレームへの復号処理と同様の処理手順に基づいて実行するようにしてもよい。また、この画像復号器33は、フレーム内復号されたキーフレームの動きベクトルに基づいて生成したデータを動き補償部34aに対して送信する。また、画像復号器32は、フレーム内復号したキーフレームを合成部35へと送信する。   The decoder 32 performs a decoding process on the key frame component sent from the receiving unit 31. The image decoder 33 further performs intra-frame decoding on the key frame component decoded by the decoder 32. This intra-frame decoding may be executed on the basis of the same processing procedure as the decoding processing to the I frame in the conventional MPEG-1 / 2/4 or the like. Further, the image decoder 33 transmits data generated based on the motion vector of the key frame decoded in the frame to the motion compensation unit 34a. In addition, the image decoder 32 transmits the key frame decoded in the frame to the synthesis unit 35.

動き補償部34aは、受信部31から非キーフレーム成分についての冗長成分又はシンドローム成分等の誤り訂正符号を受信し、これを復号化する。また、動き補償部34aは、画像復号器33から送られてくるデータに基づいて、動きベクトルを求める等の処理を行う。非キーフレーム再構成部34bは、この動き補償部34aにおいて求められた動きベクトルに基づいて、受信部31からの非キーフレームについて動き補償する。非キーフレーム再構成部34bは、この動き補償をした非キーフレームを合成部35へと送信する。なお、この動き補償部34a並びに非キーフレーム再構成部34bを組み合わせて一つの非キーフレーム再構成部ユニット34として構成するようにしてもよい。   The motion compensation unit 34a receives an error correction code such as a redundant component or a syndrome component for the non-key frame component from the receiving unit 31, and decodes it. In addition, the motion compensation unit 34 a performs processing such as obtaining a motion vector based on data transmitted from the image decoder 33. The non-key frame reconstruction unit 34b performs motion compensation on the non-key frame from the reception unit 31 based on the motion vector obtained by the motion compensation unit 34a. The non-key frame reconstruction unit 34 b transmits the non-key frame subjected to the motion compensation to the synthesis unit 35. The motion compensation unit 34a and the non-key frame reconstruction unit 34b may be combined to form a single non-key frame reconstruction unit unit 34.

合成部35は、送られてきたキーフレームと非キーフレームとを合成する。この合成部35におけるフレームの合成は、振分器22における振り分けのレート等を参照して行う。   The combining unit 35 combines the sent key frame and non-key frame. The frame synthesis in the synthesis unit 35 is performed with reference to the allocation rate in the distributor 22.

映像表示部36は、合成部35から送られてきたキーフレームと非キーフレームとからなる動画像を生成して、これを検査者に対して表示するためのディスプレイ等で構成される。また、この映像表示部36は、制御部37による制御の下、検査者に対して、この撮像システム1全体の制御を促すための情報を表示するために使用される場合もある。   The video display unit 36 includes a display or the like for generating a moving image composed of key frames and non-key frames sent from the combining unit 35 and displaying the moving images to the examiner. Further, the video display unit 36 may be used to display information for prompting the examiner to control the entire imaging system 1 under the control of the control unit 37.

制御部37は、撮像デバイス2、制御装置3を含む撮像システム1全体を制御するための中央制御ユニットとしての役割を担う。この制御部37は、非キーフレーム再構成部34bにおける動き補償に利用された動きベクトル情報を検出し、当該動きベクトル情報に基づいて撮像デバイス2を制御する。具体的には、この制御部37は、動きベクトル情報に基づいて、撮像デバイス2におけるカメラ21、振分器22等を制御する。   The control unit 37 serves as a central control unit for controlling the entire imaging system 1 including the imaging device 2 and the control device 3. The control unit 37 detects motion vector information used for motion compensation in the non-key frame reconstruction unit 34b, and controls the imaging device 2 based on the motion vector information. Specifically, the control unit 37 controls the camera 21, the distributor 22, and the like in the imaging device 2 based on the motion vector information.

また制御部37は、非キーフレーム再構成部34bにおける非キーフレームの復号の収束値に基づいて撮像デバイス2を制御してもよい。かかる場合において制御部37は、かかる復号の収束値に基づいて第2の符号器25を制御対象としていくことになる。   The control unit 37 may control the imaging device 2 based on the convergence value of the decoding of the non-key frame in the non-key frame reconstruction unit 34b. In such a case, the control unit 37 controls the second encoder 25 based on the convergence value of the decoding.

SNR検出部38は、受信部31における無線データストリームの受信状況をSN比等を介して検出、識別し、これに基づいて撮像デバイス2、具体的には、送信部6における出力等を制御する。   The SNR detection unit 38 detects and identifies the reception status of the wireless data stream in the reception unit 31 via the S / N ratio and the like, and controls the imaging device 2, specifically, the output and the like in the transmission unit 6 based on this. .

次に、上述した構成からなる撮像システム1の動作について説明をする。   Next, the operation of the imaging system 1 having the above-described configuration will be described.

先ず、人体内に埋設された撮像デバイス2におけるカメラ21により体内の組織や臓器等を撮影対象とした動画像の撮像を行う。図3に示すように、カメラ21により撮像された画像データとしての動画フレーム列44は、キーフレーム41と非キーフレーム42とに振り分けられる。キーフレーム41と非キーフレーム42の割合は、後述するように制御装置3により制御されるが、この図3では、キーフレーム41間に4枚の非キーフレーム42が挿入された状態を示している。   First, a moving image is picked up using a camera 21 in the imaging device 2 embedded in the human body as a subject to be imaged, such as a tissue or organ in the body. As shown in FIG. 3, the moving image frame sequence 44 as image data captured by the camera 21 is divided into a key frame 41 and a non-key frame 42. The ratio of the key frame 41 and the non-key frame 42 is controlled by the control device 3 as will be described later. FIG. 3 shows a state in which four non-key frames 42 are inserted between the key frames 41. Yes.

キーフレーム41は、画像符号器23においてフレーム内符号化され、さらに第1の符号器24において、いわゆる誤り訂正符号化が行われ、符号化ビット列(K)として無線伝送系5を介して制御装置3へと伝送される。非キーフレーム42は、第2の符号器25に供給され、誤り訂正符号の生成が行われると共に、得られたその冗長成分又はそのシンドローム成分のみを符号化ビット列(WZ)として無線伝送系5を介して制御装置3へと伝送される。   The key frame 41 is subjected to intra-frame coding in the image encoder 23, and further, so-called error correction coding is performed in the first encoder 24, and the control device via the wireless transmission system 5 as a coded bit string (K). 3 is transmitted. The non-key frame 42 is supplied to the second encoder 25 to generate an error correction code, and the wireless transmission system 5 is used with only the obtained redundant component or the syndrome component as a coded bit string (WZ). And transmitted to the control device 3.

制御装置3へと伝送された符号化ビット列(K)を構成するキーフレーム成分は、復号器32において、推定アルゴリズム(例えば、ベイズアルゴリズム、事後確率最大化アルゴリズム等)を用いて復号化され、さらに画像復号器33においてフレーム内復号化される。このとき画像復号器33は、復号化したキーフレームに関する情報を動き補償部34aへと送信することになるが、例えばキーフレームの画素値尤度比を当該情報として送信するようにしてもよい。   The key frame component constituting the encoded bit string (K) transmitted to the control device 3 is decoded by the decoder 32 using an estimation algorithm (eg, Bayes algorithm, posterior probability maximization algorithm, etc.), and In-frame decoding is performed in the image decoder 33. At this time, the image decoder 33 transmits information on the decoded key frame to the motion compensation unit 34a. For example, the pixel value likelihood ratio of the key frame may be transmitted as the information.

このとき図4に示すように、キーフレームKについて画素値尤度比logPc,p K0(i,j)を、またその後に続くキーフレームKについて画素値尤度比logPc,p K1(i,j)をそれぞれ算出する。ここでcは、色の濃淡を示す階調であり、0〜256の数値で表される。また、cは、R,G,B(Red, Green, Blue)の光の三原色を表すものである。ちなみに、この例は、8ビットRGBの場合であるが、これに限定されるものではない。上付き文字は、キーフレームの種類(・・K、K・・・)を特定するものである。また(i,j)は、フレーム内の画素の座標を表すものであり、図4に示すようにi行j列の画素を特定するためのものである。 At this time, as shown in FIG. 4, the pixel value likelihood ratio logP c, p K0 (i, j) for the key frame K 0 and the pixel value likelihood ratio logP c, p K1 for the subsequent key frame K 1. (i, j) is calculated respectively. Here, c is a gradation indicating the density of the color, and is represented by a numerical value of 0 to 256. C represents the three primary colors of light of R, G, and B (Red, Green, Blue). Incidentally, although this example is a case of 8-bit RGB, it is not limited to this. The superscript character specifies the type of key frame (·· K 0 , K 1 ...). Further, (i, j) represents the coordinates of the pixels in the frame, and is for specifying the pixels in i rows and j columns as shown in FIG.

このような画素値尤度比logPc,p K(i,j)が各キーフレームを構成する各画素について求められ、これが動き補償部34へ送られる。 Such a pixel value likelihood ratio logP c, p K (i, j) is obtained for each pixel constituting each key frame, and this is sent to the motion compensation unit 34.

動き補償部34aは、画像復号器33から送られてくる情報から、各キーフレームを構成する各画素について求められた画素値尤度比logPc,p K(i,j)を取得し、これに基づいて、キーフレームKとキーフレームKとの間にある非キーフレームWZnについて、図4に示すように動き補償を行う。この動き補償は対数尤度領域で行うこととする。式(1)は、かかる対数尤度領域において、動き補償すべき非キーフレームとその前後に位置するキーフレームとの間での画素値尤度比の関係式を示している。 The motion compensation unit 34a acquires the pixel value likelihood ratio logP c, p K (i, j) obtained for each pixel constituting each key frame from the information sent from the image decoder 33, and this As shown in FIG. 4, motion compensation is performed on the non-key frame WZn between the key frame K 0 and the key frame K 1 . This motion compensation is performed in the log likelihood region. Expression (1) shows a relational expression of the pixel value likelihood ratio between the non-key frame to be motion compensated and the key frames positioned before and after the non-key frame in the log likelihood region.

logPc,p WZn(i,j)=f(logPc,p K0(i,j), logPc,p K1(i,j), rc,p WZn(i,j),m(i,j))・・・・・・(1) logP c, p WZn (i, j) = f (logP c, p K0 (i, j), logP c, p K1 (i, j), r c, p WZn (i, j), m (i, j)) ... (1)

(1)式において、rc,p WZn(i,j)は、非キーフレームWZnにおけるフレーム受信データの対数尤度値である。このrc,p WZn(i,j)は、動き再補償部34bにおいて非キーフレームに基づいて実際に算出したものである。また、動きベクトルm(i,j)は、非キーフレームWZnにおいて動き補償に利用される動きベクトルであるが、これは動き補償部34aにおいてキーフレームKとキーフレームKに基づいて予測されたものである。この動きベクトルm(i,j)は、ベクトルの方向が原点から水平方向にi画素、垂直方向にj画素シフトしたベクトル方向として定義されるものである。 In equation (1), r c, p WZn (i, j) is a log likelihood value of the frame reception data in the non-key frame WZn. This rc , p WZn (i, j) is actually calculated based on the non-key frame in the motion recompensation unit 34b. The motion vector m (i, j) is the non-key frame WZn a motion vector to be used for motion compensation, which is predicted based on the key frame K 0 and keyframes K 1 in the motion compensation unit 34a It is a thing. The motion vector m (i, j) is defined as a vector direction in which the vector direction is shifted from the origin by i pixels in the horizontal direction and j pixels in the vertical direction.

非キーフレームWZnについての画素値尤度比logPc,p WZn(i,j)は、(1)式において、logPc,p K0(i,j), logPc,p K1(i,j), rc,p WZn(i,j),m(i,j)の4つの変数により与えられる。 The pixel value likelihood ratio logP c, p WZn (i, j) for the non-key frame WZn is expressed by logP c, p K0 (i, j), logP c, p K1 (i, j) in equation (1). , r c, p WZn (i, j), m (i, j).

このようにして得られた動きベクトルに基づいて非キーフレームWZnに対して動き補償を施すことにより、非キーフレームの画像を完成させることができる。このとき、図4に示した非キーフレームWZnには、キーフレームKにおけるオブジェクトの位置、キーフレームKにおけるオブジェクトの位置に基づいて動き補償されたオブジェクトが描かれることになる。 By applying motion compensation to the non-key frame WZn based on the motion vector obtained in this way, a non-key frame image can be completed. At this time, in the non-key frame WZn shown in FIG. 4, an object whose motion is compensated based on the position of the object in the key frame K 0 and the position of the object in the key frame K 1 is drawn.

キーフレームと非キーフレームは、合成部35において合成されて映像表示部36において表示すべき動画像が生成される。   The key frame and the non-key frame are combined by the combining unit 35 and a moving image to be displayed on the video display unit 36 is generated.

また、制御部37は、動き補償部34における動き補償に利用された動きベクトルに関する動きベクトル情報を検出する。この動きベクトル情報とは、動きベクトル量を意味するものであるが、これに限定されることなく、動きベクトルに関するいかなる情報を含むものとする。   Further, the control unit 37 detects motion vector information related to the motion vector used for motion compensation in the motion compensation unit 34. This motion vector information means a motion vector amount, but is not limited to this, and includes any information related to a motion vector.

制御部37は、取得した動きベクトル情報に基づいて撮像デバイス2におけるカメラ21を無線通信を介して制御する。   The control unit 37 controls the camera 21 in the imaging device 2 via wireless communication based on the acquired motion vector information.

このとき制御部37は、動き補償部34による動き補償に利用された動きベクトル量に基づいて、単位時間あたりのキーフレームと非キーフレームの割合を調整するようにカメラ21及び振分器22を制御する。   At this time, the control unit 37 controls the camera 21 and the distributor 22 so as to adjust the ratio of key frames and non-key frames per unit time based on the amount of motion vectors used for motion compensation by the motion compensation unit 34. Control.

特に人体内に埋設される撮像デバイス2は、食道等のように動きの速い部位を撮影対象とする場合もあれば、胃のように動きが遅い臓器を撮影対象とする場合もある。また、撮影対象の動きが速くなったり遅くなったりする臓器を撮影対象とする場合もあることから、動きの速さが千差万別でしかも時々刻々と変化する可能性もある。かかる場合において、先ず動き補償部34における動き補償に利用した動きベクトル量を識別することにより、撮影対象そのものの動き量を識別することができる。即ち、撮影対象が動きの速いものであるのか、動きの遅いものであるのかを、この動きベクトル量を介して識別することが可能となる。   In particular, the imaging device 2 embedded in the human body may target a fast-moving part such as the esophagus, or may target a slow-moving organ such as the stomach. In addition, since an organ in which the movement of the photographing target becomes fast or slow may be taken as the photographing target, the speed of the motion is various and may change every moment. In such a case, by first identifying the motion vector amount used for motion compensation in the motion compensation unit 34, the motion amount of the subject itself can be identified. That is, it is possible to identify whether the subject to be photographed is a fast moving object or a slow moving object through this motion vector amount.

撮影対象の動き速度に応じて、単位時間あたりのキーフレームと非キーフレームの割合を調整する。具体的には、動き補償部34による動き補償に利用された動きベクトル量が大きい場合には、単位時間あたりのキーフレームの割合を増加させるように、また係る動きベクトル量が小さい場合には、単位時間あたりのキーフレームの割合を減少させるように、カメラ21及び振分器22を制御する。   The ratio of key frames and non-key frames per unit time is adjusted according to the movement speed of the subject. Specifically, when the motion vector amount used for motion compensation by the motion compensation unit 34 is large, the ratio of key frames per unit time is increased, and when the motion vector amount is small, The camera 21 and the distributor 22 are controlled so as to reduce the ratio of key frames per unit time.

動き量が大きい撮影対象の場合には、キーフレームの割合を増加させ、その間に介挿される非キーフレームの割合を少なくすることにより、動き補償の精度が低下してしまうのを防止することが可能となる。これに対して、動き量が小さい撮影対象の場合には、キーフレームの割合を減少させ、その間に介挿される非キーフレームの割合を多くしても、動き補償の精度が低下してしまう虞もなく、圧縮率を高くすることが可能となり、省電力化にも寄与することになる。   In the case of a shooting target with a large amount of motion, it is possible to prevent the accuracy of motion compensation from being lowered by increasing the ratio of key frames and decreasing the ratio of non-key frames inserted therebetween. It becomes possible. On the other hand, in the case of a shooting target with a small amount of motion, even if the proportion of key frames is reduced and the proportion of non-key frames inserted between them is increased, the accuracy of motion compensation may be reduced. Therefore, it is possible to increase the compression rate and contribute to power saving.

実際に、動き補償に利用された動きベクトル量が所定値以上の場合において、単位時間あたりのキーフレームの割合を増加させるようにカメラ21並びに振分器22を制御し、動き補償に利用された動きベクトル量が所定値未満の場合において、単位時間あたりのキーフレームの割合を減少させるようにカメラ21並びに振分器22を制御するようにしてもよい。   Actually, when the motion vector amount used for motion compensation is greater than or equal to a predetermined value, the camera 21 and the distributor 22 are controlled so as to increase the ratio of key frames per unit time, and used for motion compensation. When the motion vector amount is less than a predetermined value, the camera 21 and the distributor 22 may be controlled so as to reduce the ratio of key frames per unit time.

また、制御部37は、動き補償部34による動き補償に利用された動きベクトル量に基づいて、キーフレームと非キーフレームを合わせたフレームレートを調整するようにカメラ21を制御するようにしてもよい。具体的には動き量が大きい撮影対象の場合には、フレームレートを向上させ、動き量が小さい撮影対象の場合には、キーフレームの割合を減少させるようにしてもよい。   Further, the control unit 37 may control the camera 21 so as to adjust the frame rate of the key frame and the non-key frame based on the motion vector amount used for motion compensation by the motion compensation unit 34. Good. Specifically, the frame rate may be improved for a shooting target with a large amount of motion, and the ratio of key frames may be decreased for a shooting target with a small amount of motion.

動きの速い撮影対象については、フレームレートを向上させることにより、単位時間当たりのフレームの量を増加させることにより、動きの速い撮影対象のより細かな動きについても高精度に捉えることが可能となる。動きの遅い撮影対象については、フレームレートを減少させることにより、単位時間当たりのフレームの量を減少させることにより、処理速度の高速化を図るようにしてもよい。   For fast-moving subjects, by increasing the frame rate and increasing the amount of frames per unit time, it is possible to capture even finer movements of fast-moving subjects with high accuracy. . For a subject that moves slowly, the processing speed may be increased by reducing the frame rate, thereby reducing the amount of frames per unit time.

このとき、制御部37は、動き補償部34による動き補償に利用された動きベクトル量が所定値以上の場合において、フレームレートを増加させるようにカメラ21を制御し、動き補償部34による動き補償に利用された動きベクトル量が所定値未満の場合において、フレームレートを減少させるようにカメラ21を制御するようにしてもよい。   At this time, the control unit 37 controls the camera 21 to increase the frame rate when the motion vector amount used for motion compensation by the motion compensation unit 34 is equal to or greater than a predetermined value, and the motion compensation by the motion compensation unit 34 In the case where the motion vector amount used in the above is less than a predetermined value, the camera 21 may be controlled so as to reduce the frame rate.

さらに本発明においては、上述したように動きベクトル量を始めとした動きベクトル情報に基づいて撮像デバイス3を制御する場合に限定されるものではなく、動き補償部34における非キーフレームの復号の収束値に基づいて撮像デバイス3を制御するようにしてもよい。このとき制御部37は、動き補償部34における非キーフレームの復号の収束値に基づいて、撮像デバイス3における画像符号器23、第1の符号器24、第2の符号器25を制御するようにしてもよい。ここでいう復号の収束値とは、非キーフレームWZnにおける各ピクセルに対する対数尤度値を意味する。この対数尤度値logPc,p WZn(i,j)の収束が十分でない場合、第2の符号器25における誤り訂正能力が低い可能性があることから、より高い訂正モードに切り替える。高い訂正モードとは、間引きパターンを切り替えたり、より多くの情報を送ったり、符号化のパラメータを切り替える等の処理を意味する。 Furthermore, the present invention is not limited to the case where the imaging device 3 is controlled based on the motion vector information including the motion vector amount as described above, and the convergence of the decoding of the non-key frame in the motion compensation unit 34 is not limited. The imaging device 3 may be controlled based on the value. At this time, the control unit 37 controls the image encoder 23, the first encoder 24, and the second encoder 25 in the imaging device 3 based on the convergence value of the decoding of the non-key frame in the motion compensation unit 34. It may be. The convergence value of decoding here means a log likelihood value for each pixel in the non-key frame WZn. If the log likelihood value logP c, p WZn (i, j) is not sufficiently converged, the error correction capability of the second encoder 25 may be low, so the mode is switched to a higher correction mode. The high correction mode means processing such as switching a thinning pattern, sending more information, and switching encoding parameters.

また、対数尤度値の収束が十分であるか否かの判別は、対数尤度値の分散等の統計量を計算し、所定の閾値との間で比較することにより判定することにより実行する。   Further, whether or not the log likelihood value is sufficiently converged is determined by calculating a statistic such as the variance of the log likelihood value and comparing it with a predetermined threshold value. .

また、動き補償部34による非キーフレームの復号の収束値が所定値未満の場合には、画像符号器23においてフレーム内符号化されるキーフレームについて符号量制御を行う。このとき、制御部37は、キーフレームを無線データストリーム化した際のビットレートがより高くなるように、画像符号器23に対して符号量制御を行う。   When the convergence value of decoding of the non-key frame by the motion compensation unit 34 is less than a predetermined value, the image encoder 23 performs code amount control for the key frame that is intra-coded. At this time, the control unit 37 performs code amount control on the image encoder 23 so that the bit rate when the key frame is converted into the wireless data stream becomes higher.

これにより動き補償部34における復号時において、対数尤度値の収束をより十分なものとすることができ、非キーフレームの画素補間を高精度に行うことが可能となる。   Thereby, at the time of decoding in the motion compensation unit 34, the log likelihood value can be converged more sufficiently, and the pixel interpolation of the non-key frame can be performed with high accuracy.

このように、本発明では、撮像デバイス2における撮像のビットレートやキーフレームの割合、さらには符号量制御までを全て制御装置3側において行うことができる。また非キーフレームの動き補償を撮像デバイス2内で実行するのではなく、あくまで制御装置3側において実行し、その動き補償に利用した動きベクトルの情報を常時取得して制御部37による制御に利用することができる。   As described above, in the present invention, the imaging device 2 can perform all of the imaging bit rate, the ratio of key frames, and even the code amount control on the control device 3 side. Also, motion compensation for non-key frames is not executed in the imaging device 2, but is executed only on the control device 3 side, and motion vector information used for the motion compensation is always acquired and used for control by the control unit 37. can do.

このため、撮像デバイス2側において動き補償やこれに基づく制御を行うための回路を実装する必要がなくなることから、撮像デバイス2の形状をより小型化することが可能となり、また軽量化を図ることも可能となる。   Therefore, it is not necessary to mount a circuit for performing motion compensation and control based on this on the imaging device 2 side, so that the shape of the imaging device 2 can be further reduced and the weight can be reduced. Is also possible.

即ち、本発明は、撮像デバイス2を人体内に埋設する際に小型軽量化を図ることができ、しかも動きの速さが千差万別でしかも時々刻々と変化する可能性もある撮影対象を、動きベクトル情報等に基づいて適宜好適な条件の下で動画像を取得できるように撮像デバイス2を制御することが可能となる。   That is, according to the present invention, it is possible to reduce the size and weight when the imaging device 2 is embedded in a human body, and to capture an imaging target whose movement speed is various and may change from moment to moment. The imaging device 2 can be controlled so that a moving image can be acquired under appropriate conditions based on motion vector information and the like.

本発明を適用した撮像システムの全体構成図である。1 is an overall configuration diagram of an imaging system to which the present invention is applied. 本発明を適用した撮像システムのブロック構成図である。1 is a block configuration diagram of an imaging system to which the present invention is applied. 本発明を適用した撮像システムの動作について説明するための図である。It is a figure for demonstrating operation | movement of the imaging system to which this invention is applied. 本発明を適用した撮像システムにおける動き補償の例について説明するための図である。It is a figure for demonstrating the example of the motion compensation in the imaging system to which this invention is applied. 従来技術について説明するための図である。It is a figure for demonstrating a prior art.

符号の説明Explanation of symbols

1 撮像システム
2 撮像デバイス
3 制御装置
5 無線伝送系
21 カメラ
22 振分器
23 画像符号器
24 第1の符号器
25 第2の符号器
26 送信部
31 受信部
32 復号器
33 画像復号器
34a 動き補償部
34b 非キーフレーム再構成部
35 合成部
36 映像表示部
37 制御部
38 SNR検出部
DESCRIPTION OF SYMBOLS 1 Imaging system 2 Imaging device 3 Control apparatus 5 Wireless transmission system 21 Camera 22 Distributor 23 Image encoder 24 1st encoder 25 2nd encoder 26 Transmitter 31 Receiver 32 Decoder 33 Image decoder 34a Motion Compensation unit 34b Non-key frame reconstruction unit 35 Composition unit 36 Video display unit 37 Control unit 38 SNR detection unit

Claims (11)

被写体を撮像することにより生成した動画像データをキーフレームと非キーフレームに振り分ける撮像手段と、上記キーフレームをフレーム内符号化するフレーム内符号化手段と、上記非キーフレームと上記フレーム内符号化されたキーフレームとをそれぞれ符号化する符号化手段と、上記符号化されたキーフレーム並びに非キーフレームをそれぞれ無線データストリーム化して送信する送信手段とを有する撮像デバイスと、
上記撮像デバイスから受信した無線データストリームから上記キーフレーム並びに非キーフレームをそれぞれ復号化する復号化手段と、上記復号化されたキーフレームを更にフレーム内復号化するフレーム内復号化手段と、上記フレーム内復号化されたキーフレームに関する情報に基づいて上記復号化された非キーフレームに対してフレーム内オブジェクトの動き補償する動き補償手段と、上記動き補償された非キーフレームと上記キーフレームとを合成して動画像を生成する動画像生成手段と、上記動き補償手段による動き補償に利用された動きベクトル情報に基づいて上記撮像デバイスにおける上記撮像手段を無線通信を介して制御する制御手段とを有する制御装置とを備えること
を特徴とする撮像システム。
Imaging means for distributing moving image data generated by imaging a subject into key frames and non-key frames, intra-frame encoding means for intra-coding the key frames, and non-key frames and intra-frame encoding An imaging device having encoding means for encoding each of the encoded key frames, and transmission means for transmitting the encoded key frames and non-key frames as wireless data streams, respectively;
Decoding means for decoding the key frame and the non-key frame from the wireless data stream received from the imaging device, intra-frame decoding means for further decoding the decoded key frame in the frame, and the frame Motion compensation means for compensating motion of an intra-frame object with respect to the decoded non-key frame based on information on the inner decoded key frame, and the motion-compensated non-key frame and the key frame are synthesized A moving image generating unit that generates a moving image, and a control unit that controls the imaging unit in the imaging device via wireless communication based on motion vector information used for motion compensation by the motion compensation unit. An imaging system comprising: a control device.
上記制御手段は、上記フレーム内オブジェクトの動き補償手段による動き補償に利用された動きベクトル量に基づいて、単位時間あたりのキーフレームと非キーフレームの割合を調整するように上記撮像手段を制御すること
を特徴とする請求項1記載の撮像システム。
The control means controls the imaging means so as to adjust a ratio of key frames and non-key frames per unit time based on a motion vector amount used for motion compensation by the motion compensation means for the intra-frame object. The imaging system according to claim 1, wherein:
上記制御手段は、上記フレーム内オブジェクトの動き補償手段による動き補償に利用された動きベクトル量に基づいて、上記キーフレームと上記非キーフレームを合わせたフレームレートを調整するように上記撮像手段を制御すること
を特徴とする請求項1記載の撮像システム。
The control unit controls the imaging unit to adjust a frame rate of the key frame and the non-key frame based on a motion vector amount used for motion compensation by the motion compensation unit of the intra-frame object. The imaging system according to claim 1, wherein:
上記制御手段は、上記フレーム内オブジェクトの動き補償手段による動き補償に利用された動きベクトル量が所定値以上の場合において、上記フレームレートを増加させるように上記撮像手段を制御すること
を特徴とする請求項3記載の撮像システム。
The control means controls the imaging means so as to increase the frame rate when a motion vector amount used for motion compensation by the motion compensation means for the intra-frame object is a predetermined value or more. The imaging system according to claim 3.
被写体を撮像することにより生成した動画像データをキーフレームと非キーフレームに振り分ける撮像手段と、上記キーフレームをフレーム内符号化するフレーム内符号化手段と、上記非キーフレームと上記フレーム内符号化されたキーフレームとをそれぞれ符号化する符号化手段と、上記符号化されたキーフレーム並びに非キーフレームをそれぞれ無線データストリーム化して送信する送信手段とを有する撮像デバイスと、
上記撮像デバイスから受信した無線データストリームから上記キーフレーム並びに非キーフレームをそれぞれ復号化する復号化手段と、上記復号化されたキーフレームを更にフレーム内復号化するフレーム内復号化手段と、上記フレーム内復号化されたキーフレームに関する情報に基づいて上記復号化された非キーフレームに対してフレーム内オブジェクトの動き補償する動き補償手段と、上記動き補償された非キーフレームと上記キーフレームとを合成して動画像を生成する動画像生成手段と、上記復号化手段による上記非キーフレームの復号の収束値に基づいて上記撮像デバイスにおけるフレーム内符号化手段又は上記符号化手段を無線通信により制御する制御手段とを有する制御装置とを備えること
を特徴とする撮像システム。
Imaging means for distributing moving image data generated by imaging a subject into key frames and non-key frames, intra-frame encoding means for intra-coding the key frames, and non-key frames and intra-frame encoding An imaging device having encoding means for encoding each of the encoded key frames, and transmission means for transmitting the encoded key frames and non-key frames as wireless data streams, respectively;
Decoding means for decoding the key frame and the non-key frame from the wireless data stream received from the imaging device, intra-frame decoding means for further decoding the decoded key frame in the frame, and the frame Motion compensation means for compensating motion of an intra-frame object with respect to the decoded non-key frame based on information on the inner decoded key frame, and the motion-compensated non-key frame and the key frame are synthesized Then, based on the convergence value of the decoding of the non-key frame by the decoding unit, the intra-frame encoding unit or the encoding unit in the imaging device is controlled by wireless communication based on the moving image generation unit that generates a moving image. An imaging system comprising: a control device having control means.
上記符号化手段は、上記非キーフレームについて誤り訂正符号化を行い、その冗長成分又はそのシンドローム成分のみを上記無線データストリームするためのデータとし、
上記制御手段は、上記復号化手段による上記非キーフレームの復号の収束値に基づいて、上記符号化手段における誤り訂正符号化方法を切り替えること
を特徴とする請求項5記載の撮像システム。
The encoding means performs error correction encoding on the non-key frame, and uses only the redundant component or the syndrome component as data for the wireless data stream,
The control means, based on the convergence value of the decoding of the non-key frames by said decoding means, the imaging system according to claim 5, wherein the switching the error correction encoding method in the encoding means.
上記制御手段は、上記復号化手段による上記非キーフレームの復号の収束値が所定値未満の場合には、上記フレーム内符号化されるキーフレームの無線データストリームのビットレートがより高くなるように、上記フレーム内符号化手段に対して符号量制御を行うこと
を特徴とする請求項5記載の撮像システム。
When the convergence value of the decoding of the non-key frame by the decoding unit is less than a predetermined value, the control unit is configured to increase the bit rate of the wireless data stream of the key frame that is intra-coded. The imaging system according to claim 5, wherein code amount control is performed on the intra-frame encoding means.
上記符号化手段は、Distributed Video Coding(DVC)方式に基づいて符号化し、
また上記復号化手段は、DVC方式に基づいて復号化すること
を特徴とする請求項1〜7のうち何れか1項記載の撮像システム。
The encoding means performs encoding based on the Distributed Video Coding (DVC) system,
The imaging system according to any one of claims 1 to 7, wherein the decoding unit performs decoding based on a DVC method.
上記撮像デバイスは、人体内に埋設され、
上記送信手段は、特定小電力無線局又は微弱無線局に基づく無線通信方式による無線データストリームを伝送すること
を特徴とする請求項1〜8のうち何れか1項記載の撮像システム。
The imaging device is embedded in the human body,
The imaging system according to claim 1, wherein the transmission unit transmits a wireless data stream based on a wireless communication scheme based on a specific low power wireless station or a weak wireless station.
請求項1〜9のうち何れか1項に記載の撮像システムにおいて適用されることを特徴とする撮像デバイス。   An imaging device applied in the imaging system according to claim 1. 請求項1〜10のうち何れか1項に記載の撮像システムにおいて適用されることを特徴とする制御装置。   The control apparatus applied in the imaging system of any one of Claims 1-10.
JP2007315076A 2007-12-05 2007-12-05 Imaging system Expired - Fee Related JP4878025B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007315076A JP4878025B2 (en) 2007-12-05 2007-12-05 Imaging system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007315076A JP4878025B2 (en) 2007-12-05 2007-12-05 Imaging system

Publications (2)

Publication Number Publication Date
JP2009141617A true JP2009141617A (en) 2009-06-25
JP4878025B2 JP4878025B2 (en) 2012-02-15

Family

ID=40871802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007315076A Expired - Fee Related JP4878025B2 (en) 2007-12-05 2007-12-05 Imaging system

Country Status (1)

Country Link
JP (1) JP4878025B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009141688A (en) * 2007-12-06 2009-06-25 Nippon Telegr & Teleph Corp <Ntt> Image encoding-decoding method, system, image encoding program, and image decoding program
JP2010193304A (en) * 2009-02-19 2010-09-02 Oki Electric Ind Co Ltd Moving picture decoding apparatus, method and program, moving picture encoding apparatus, method and program, and moving picture encoding system
JP2010212863A (en) * 2009-03-09 2010-09-24 Oki Electric Ind Co Ltd Moving image encoder apparatus, moving image decoder apparatus, and moving image transmission system
JP5876201B1 (en) * 2014-09-03 2016-03-02 オリンパス株式会社 Decoding device, imaging system, decoding method, encoding / decoding method, and decoding program
WO2016035367A1 (en) * 2014-09-03 2016-03-10 オリンパス株式会社 Decoding apparatus, image pickup system, decoding method, encoding/decoding method, and decoding program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004064300A (en) * 2002-07-26 2004-02-26 Sony Corp Image transmission system, image transmission apparatus, and image reception apparatus
JP2007074306A (en) * 2005-09-06 2007-03-22 Nippon Telegr & Teleph Corp <Ntt> Apparatus for generating supplementary pixel, decoding system, decoding method, image coding communication system, decoding program and computer-readable recording medium
JP2007274035A (en) * 2006-03-30 2007-10-18 Kddi Corp Image compression encoder, image decoder, program and method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004064300A (en) * 2002-07-26 2004-02-26 Sony Corp Image transmission system, image transmission apparatus, and image reception apparatus
JP2007074306A (en) * 2005-09-06 2007-03-22 Nippon Telegr & Teleph Corp <Ntt> Apparatus for generating supplementary pixel, decoding system, decoding method, image coding communication system, decoding program and computer-readable recording medium
JP2007274035A (en) * 2006-03-30 2007-10-18 Kddi Corp Image compression encoder, image decoder, program and method

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009141688A (en) * 2007-12-06 2009-06-25 Nippon Telegr & Teleph Corp <Ntt> Image encoding-decoding method, system, image encoding program, and image decoding program
JP2010193304A (en) * 2009-02-19 2010-09-02 Oki Electric Ind Co Ltd Moving picture decoding apparatus, method and program, moving picture encoding apparatus, method and program, and moving picture encoding system
JP2010212863A (en) * 2009-03-09 2010-09-24 Oki Electric Ind Co Ltd Moving image encoder apparatus, moving image decoder apparatus, and moving image transmission system
JP5876201B1 (en) * 2014-09-03 2016-03-02 オリンパス株式会社 Decoding device, imaging system, decoding method, encoding / decoding method, and decoding program
WO2016035367A1 (en) * 2014-09-03 2016-03-10 オリンパス株式会社 Decoding apparatus, image pickup system, decoding method, encoding/decoding method, and decoding program

Also Published As

Publication number Publication date
JP4878025B2 (en) 2012-02-15

Similar Documents

Publication Publication Date Title
JP4373702B2 (en) Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program
ES2743436T3 (en) Block matching by adaptive overlap for precise motion compensation
EP3557868B1 (en) Image processing device, image processing method, and program
JP4878025B2 (en) Imaging system
US11190744B2 (en) Image processing device, image processing method, and program for determining a cost function for mode selection
PT1486065E (en) Method for coding motion in a video sequence
Mohammed et al. Lossless compression in Bayer color filter array for capsule endoscopy
JPH09502595A (en) Apparatus and method for motion estimation with improved camera interface
Lin et al. Novel chroma subsampling strategy based on mathematical optimization for compressing mosaic videos with arbitrary RGB color filter arrays in H. 264/AVC and HEVC
WO2016035368A1 (en) Decoding device, imaging system, decoding method, encoding/ decoding method, and decoding program
US8165374B1 (en) System and method for capsule camera with capture control and motion-compensated video compression
Liu et al. A complexity-efficient and one-pass image compression algorithm for wireless capsule endoscopy
JP5235746B2 (en) Image transmission device and imaging device equipped with the same
JP2017126896A (en) Monitoring system, monitoring device, and reproducer
JP2018148578A (en) Transmitter
Boudechiche et al. Distributed video coding based on vector quantization: Application to capsule endoscopy
Vijayanagar et al. Low complexity distributed video coding
JP2009513080A (en) Predicted image region detection method and restoration method, and detection apparatus and restoration apparatus
US20060133497A1 (en) Method and apparatus for encoding/decoding video signal using motion vectors of pictures at different temporal decomposition level
JP2012010264A (en) Encoder, electronic device, imaging device, and imaging system
Panayides et al. HEVC encoding for reproducible medical ultrasound video diagnosis
JP2008141326A (en) Imaging system and camera unit
Sushma Endoscopic Wireless Capsule Compressor: A Review of the Existing Image and Video Compression Algorithms
Sushma et al. Wyner-Ziv coding of chroma in wireless capsule endoscopy image compression using deep side information generation
US20170264913A1 (en) Image decoding device, image processing system, and image decoding method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110801

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111025

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111124

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141209

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees