JP6565567B2 - Image processing apparatus, imaging apparatus, image processing method, and program - Google Patents
Image processing apparatus, imaging apparatus, image processing method, and program Download PDFInfo
- Publication number
- JP6565567B2 JP6565567B2 JP2015198212A JP2015198212A JP6565567B2 JP 6565567 B2 JP6565567 B2 JP 6565567B2 JP 2015198212 A JP2015198212 A JP 2015198212A JP 2015198212 A JP2015198212 A JP 2015198212A JP 6565567 B2 JP6565567 B2 JP 6565567B2
- Authority
- JP
- Japan
- Prior art keywords
- effective length
- image processing
- information
- length information
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Studio Devices (AREA)
Description
本発明は、画像処理装置、撮像装置、画像処理方法及びプログラムに関し、詳細には、画像データを、その画像データの有効長を示す有効長特定情報を付加してシリアル転送する画像処理装置、撮像装置、画像処理方法及びプログラムに関する。 The present invention relates to an image processing apparatus, an imaging apparatus, an image processing method, and a program, and more specifically, an image processing apparatus that serially transfers image data with effective length specifying information indicating the effective length of the image data, and imaging The present invention relates to an apparatus, an image processing method, and a program.
デジタルカメラ等の画像処理装置は、内部に、画像処理関係の回路モジュール、外部との通信を行う回路モジュール等の複数の回路モジュールを有する。外部と通信するための回路モジュールは、内部のCPU(Central Processing Unit)と通信を行うSPI(Serial Peripheral Interface)や高速シリアルのインターフェイス等がある。 An image processing apparatus such as a digital camera has a plurality of circuit modules such as a circuit module related to image processing and a circuit module that performs communication with the outside. Circuit modules for communicating with the outside include an SPI (Serial Peripheral Interface) that communicates with an internal CPU (Central Processing Unit), a high-speed serial interface, and the like.
画像処理装置は、画像データを高速シリアルインターフェイスを用いて回路モジュール間で転送するが、有効な画像データの範囲を示すための同期コードを画像データとともに転送することが、従来から行われている。 An image processing apparatus transfers image data between circuit modules using a high-speed serial interface, and conventionally, a synchronization code for indicating a range of valid image data is transferred together with the image data.
そして、各回路モジュールは、同期コード等の動作制御の制御情報が設定されるレジスタを有しており、外部のCPUからこのレジスタへのアクセスは、SPIが多く用いられている。 Each circuit module has a register in which operation control control information such as a synchronization code is set, and SPI is often used to access this register from an external CPU.
また、SPIを用いてシングル転送で制御情報をライトすると時間がかかりパフォーマンスに影響するため、頻繁にライトが必要なレジスタについては、バーストでライトできるように、制御情報のアドレスが連続配置される。 Also, writing control information by single transfer using SPI takes time and affects performance. Therefore, for registers that require frequent writing, control information addresses are continuously arranged so that they can be written in bursts.
ここで、シングル転送とは、データ転送を1サイクル実行するたびにバス制御権を解放する転送方式をいう。また、バースト転送とは、データ転送を開始すると、指定転送回数だけ転送が完了するまで連続でデータ転送を実行して、バス制御権を解放しない転送方式をいう。 Here, the single transfer refers to a transfer method in which the bus control right is released every time one cycle of data transfer is executed. Burst transfer refers to a transfer method in which when data transfer is started, data transfer is continuously executed until the transfer is completed a specified number of times, and the bus control right is not released.
ところが、高速シリアルインターフェイスの回路モジュールでは、画像サイズの変更のたびに有効画像データの範囲を設定するレジスタに有効長情報を設定する必要がある。したがって、頻繁にライト処理が必要なレジスタとは異なるアドレスに、有効長情報が配置されているため、有効長情報をシングル転送することが必要になる。その結果、画像データの有効長が頻繁に変化すると、有効長情報を、SPIのシングル転送により行うこととなり、画像データの転送速度が低下するという問題があった。 However, in the circuit module of the high-speed serial interface, it is necessary to set effective length information in a register that sets a range of effective image data every time the image size is changed. Therefore, since the effective length information is arranged at an address different from that of a register that frequently requires write processing, it is necessary to transfer the effective length information as a single transfer. As a result, if the effective length of the image data changes frequently, the effective length information is performed by single transfer of the SPI, and there is a problem that the transfer speed of the image data decreases.
そして、従来、複数のデバイスと接続されて前記デバイスとの間での情報伝送を制御する伝送制御回路であって、前記複数のデバイスのうち情報伝送を行うデバイスを選択する信号及び情報伝送の種類を識別する信号を出力する信号出力部と、前記情報伝送の種類に応じた伝送周波数を示すレジスタ値を、前記情報伝送を行うデバイスから取得するレジスタ値取得部と、前記取得されたレジスタ値に応じた伝送周波数を決定する周波数決定部と、前記決定された伝送周波数のクロック信号を出力するクロック生成部とを含む伝送制御回路が提案されている(特許文献1参照)。 Conventionally, a transmission control circuit that is connected to a plurality of devices and controls information transmission between the devices, and a signal for selecting a device that performs information transmission among the plurality of devices and a type of information transmission A signal output unit that outputs a signal for identifying, a register value indicating a transmission frequency according to the type of information transmission, a register value acquisition unit that acquires from a device that performs the information transmission, and the acquired register value There has been proposed a transmission control circuit including a frequency determining unit that determines a corresponding transmission frequency and a clock generating unit that outputs a clock signal of the determined transmission frequency (see Patent Document 1).
しかしながら、上記公報記載の従来技術にあっては、画像サイズの変更のたびに有効画像データの範囲を設定するレジスタに、SPIで有効長情報をシングル転送することについては考慮されておらず、改良の必要があった。 However, the prior art described in the above publication does not consider the single transfer of effective length information using SPI to a register that sets the range of effective image data every time the image size is changed. There was a need for.
そこで、本発明は、低速シリアルインターフェイスで転送されてくる制御情報に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることを目的としている。 Therefore, an object of the present invention is to improve the transfer efficiency of image data by a high-speed serial interface based on control information transferred by a low-speed serial interface.
上記目的を達成するために、請求項1記載の画像処理装置は、入力される画像データを外部からの制御情報に基づいて画像処理手段で画像処理して、処理済みの画像データを、該画像データの有効長を示す有効長特定情報とともに、シリアル転送手段によって外部へ転送する画像処理装置であって、前記有効長特定情報を生成可能な有効長情報を記憶する第1の記憶手段と、前記有効長情報を含む制御情報を記憶する第2の記憶手段と、前記外部から送信されてくる前記有効長情報を含む前記制御情報を受け取って前記第2の記憶手段へ記憶させる記憶制御手段と、前記第2の記憶手段の前記制御情報から前記有効長情報を取得して、前記第1の記憶手段の前記有効長情報を更新する有効長情報更新手段と、を備えていることを特徴としている。
In order to achieve the above object, the image processing apparatus according to
本発明によれば、低速シリアルインターフェイスで転送されてくる制御情報に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。 According to the present invention, it is possible to improve the transfer efficiency of image data by a high-speed serial interface based on control information transferred by a low-speed serial interface.
以下、本発明の好適な実施例を添付図面に基づいて詳細に説明する。なお、以下に述べる実施例は、本発明の好適な実施例であるので、技術的に好ましい種々の限定が付されているが、本発明の範囲は、以下の説明によって不当に限定されるものではなく、また、本実施の形態で説明される構成の全てが本発明の必須の構成要件ではない。 Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In addition, since the Example described below is a suitable Example of this invention, various technically preferable restrictions are attached | subjected, However, The range of this invention is unduly limited by the following description. However, not all the configurations described in the present embodiment are essential constituent elements of the present invention.
図1〜図12は、本発明の画像処理装置、撮像装置、画像処理方法及びプログラムの一実施例を示す図であり、図1は、本発明の画像処理装置、撮像装置、画像処理方法及びプログラムの一実施例を適用した撮像装置1の要部ブロック図である。
1 to 12 are diagrams illustrating an embodiment of an image processing apparatus, an imaging apparatus, an image processing method, and a program according to the present invention. FIG. 1 illustrates an image processing apparatus, an imaging apparatus, an image processing method, and an image processing apparatus according to the present invention. It is a principal part block diagram of the
図1において、撮像装置1は、撮像センサ2、画像処理ASIC(Application Specific Integrated Circuit)3及びDSP(Digital Signal Processor)4等を備えている。撮像装置1は、撮像センサ2と画像処理ASIC3が信号ライン5で接続されており、画像処理ASIC3とDSP4が、高速シリアルバス6と低速シリアルバス7で接続されている。本実施例の撮像装置1は、高速シリアルバス6としては、subLVDSインターフェイスのバスが用いられており、低速シリアルバス7としては、SPIバスが用いられている。なお、撮像装置1は、図示しないが、SD(Secure Digital)カード、メモリカード、LCD(Liquid Crystal Display)モニタ、各種操作ボタン等を備えている。
In FIG. 1, an
撮像センサ(撮像手段)2は、例えば、CCD(Charge Coupled Device )等が用いられており、被写体の映像を撮影して、該被写体の画像データを、信号ライン5を通して画像処理ASIC3へ出力する。
For example, a CCD (Charge Coupled Device) or the like is used as the imaging sensor (imaging means) 2, and an image of a subject is captured and image data of the subject is output to the
画像処理ASIC3は、撮像センサ2から送られてきた画像データに対して、DSP4から低速シリアルバス7を通して転送されてくる制御情報に基づいて画像処理を施して、高速シリアルバス6を通してDSP4へ転送する。
The image processing ASIC 3 performs image processing on the image data sent from the
DSP4は、基本的に内部に信号処理部(ALU(算術論理演算器)等からなるプロセッサ部)と信号処理部を動作させるプログラム格納部(メモリ)から構成され、ハード及びソフトウェアの両面を有している。DSP4は、このALUを複数個持ち、一連の画像データに対してこれら複数のALUが並列に同時に実行するSIMD(Single Instruction-stream Multiple Data-stream)構造及び並列処理に不向きな誤差拡散等の処理に対しては専用のハードウェアを持つことにより、高速かつ柔軟性よく処理を行なう。 The DSP 4 is basically composed of a signal processing unit (processor unit comprising an ALU (Arithmetic Logic Unit)) and a program storage unit (memory) for operating the signal processing unit, and has both hardware and software. ing. The DSP 4 has a plurality of ALUs, a SIMD (Single Instruction-stream Multiple Data-stream) structure in which the plurality of ALUs execute simultaneously in parallel on a series of image data, and processing such as error diffusion unsuitable for parallel processing. By using dedicated hardware, high-speed and flexible processing is performed.
DSP4は、CPU8を搭載しており、また、DSP4内のメモリには、撮像装置1としての基本プログラム及び本発明の画像処理方法を実行するプログラムが格納される。
The DSP 4 is equipped with a CPU 8, and a memory in the DSP 4 stores a basic program as the
CPU8は、プログラムに基づいて、撮像装置1の各部を制御して、撮像装置1としての基本処理動作を制御し、また、上記SDカード、メモリカード、LCDモニタ、各種操作ボタンの処理を実行する。
The CPU 8 controls each part of the
そして、CPU8は、低速シリアルバス7により画像処理ASIC3と接続されている。CPU8は、本発明のプログラムに基づいて、SPI等の低速シリアルバス7を用いた制御情報の設定に基づく高速シリアルインターフェイスの高速シリアルバス6による画像データの転送効率を向上させる画像処理方法を実行する。すなわち、画像処理ASIC3の動作における制御情報を、SPIの低速シリアルバス7を通して画像処理ASIC3へ転送し、画像処理ASIC3は、低速シリアルバス7のインターフェイス、例えば、SPIを備えている。
The CPU 8 is connected to the image processing ASIC 3 via the low-speed
画像処理装置である画像処理ASIC3は、撮像センサ2から送られてくる画像データに、CPU8から設定される制御情報に基づいて、必要な画像処理を施して、処理済みの画像データを有効長情報を付加して、高速シリアルバス6でDSP4へ転送する。画像処理ASIC3は、撮像装置1としての必要な画像処理を画像データに施すために、複数の回路モジュールを搭載している。画像処理ASIC3は、本発明の画像処理方法に必要な回路モジュールとして、図2に示すように、レジスタアクセス部11、システム部12、画像処理部13及び高速シリアルインターフェイス14等を搭載している。なお、画像処理ASIC3は、図2には図示しない各回路モジュールも搭載している。
The
システム部12、画像処理部13、高速シリアルインターフェイス14は、それぞれ、その動作制御用のレジスタ12a、13a、14aを搭載しており、レジスタアクセス部11とAPB(Advanced Peripheral Bus)15、16、17で接続されている。
The
レジスタアクセス部11は、DSP4の搭載するCPU8と、SPI等の低速シリアルインターフェイスの低速シリアルバス7で接続されている。レジスタアクセス部11は、CPU8からシリアル転送されてくる制御情報を、予めアドレス割り当てされている各部12、13、14のレジスタ12a、13a、14aに、APB15、16、17を通して、転送して書き込む。
The
システム部12は、レジスタ12aに設定される制御情報に基づいて、画像処理ASIC3の各回路モジュールの動作を制御する。
The
画像処理部13は、システム部12の制御下で、レジスタ13aに設定される制御情報に基づいて、撮像センサ2から送られてくる画像データに対して必要な画像処理を施し、高速シリアルインターフェイス14へ渡す。
Under the control of the
高速シリアルインターフェイス14は、レジスタ14aに設定される画像処理部13で処理済みの画像データの有効長を示す有効長情報に基づいて、該画像データに該有効長情報を示す有効長特定情報である同期コードを、該画像データの前後に付加して転送する。
The high-
そして、一般的に、画像処理ASIC3のシステム部12、画像処理部13、その他のモジュール及び高速シリアルインターフェイス14の各レジスタ12a、13a、14aは、図3に示すように空間割り当てが行われている。なお、図3において、18は、その他の回路モジュールを示しており、18aは、該他の回路モジュールのレジスタを示している。
In general, the
すなわち、システム部12及び画像処理部13のレジスタ12a、13aは、そのアドレス値が、連続したアドレス空間に配置されているが、高速シリアルインターフェイス14のレジスタ14aのアドレス値は、連続したアドレス空間には配置されていない。これは、システム部12及び画像処理部13のレジスタ12a、13aは、1枚の画像毎に、制御情報が設定される必要のあるレジスタである。したがって、これらのレジスタ12a、13aのアドレス値は、低速シリアルバス7で制御情報をバースト転送によって高速転送して設定が可能なように、連続したアドレス空間に配置されている。ところが、高速シリアルインターフェイス14のレジスタ14aは、転送する画像データの有効長情報が設定されるため、一般的には、初期化時に設定されて、頻繁に書き換えられることが少ない。したがって、高速シリアルインターフェイス14のレジスタ14aの制御情報は、低速シリアルバス7によるシングル転送でCPU8から転送されて、レジスタアクセス部11によりレジスタ14aに設定される。
That is, the
ところが、撮像装置1は、ズーム処理等を伴う画像撮影が行われ、画像処理部13で処理された画像データの有効長範囲が変化することがよくある。このような場合に、シングル転送によって有効長情報が低速シリアルバス7を通してCPU8から転送されて、高速シリアルインターフェイス14のレジスタ14aに設定されると、高速シリアルインターフェイス14の画像データの転送効率が低下する。なお、以下の説明では、低速シリアルバス7は、SPIが用いられているものとして説明するが、SPIに限るものではなく、転送するデータのアドレス空間によって、バースト転送とシングル転送を切り替えて行うシリアルインターフェイスであればよい。ここで、低速シリアルバス7は、SPIの場合、信号線は、SCK(Serial Clock)、MISO(Master In Slave Out)、MOSI(Master Out Slave In)及びSS(Slave Select)の4本が用いられる。以下、SCKを流れるクロックを、SCS信号、MISOを流れる信号を、SDI信号、MOSIを流れる信号を、SDO信号という。
However, the
すなわち、SPIを用いた低速シリアルバス7によるデータ転送は、図4(a)及び図4(b)に示すようなレジスタライトシーケンスとレジスタリードシーケンスにより行われ、そのbyte単位の転送順番は、図5のように示される。そして、レジスタライトシーケンスを示す図4(a)において、破線で囲んで示すSDI信号は、図5のSDIに対応していて、レジスタライト信号であり、SCS信号がロー(Low)のときに、CPU8からレジスタアクセス部11へ転送される。レジスタリードシーケンスを示す図4(b)において、破線で囲んで示すSDO信号は、図5のSDOに対応していて、レジスタリード信号であり、SCS信号がロー(Low)のときに、レジスタアクセス部11からCPU8へ転送される。
That is, data transfer by the low-speed
そして、SPIによるバースト転送においては、ライト転送の場合、図4(a)及び図5に示すように、CPU8は、最初にライトを示すバイト(MD、MD)を転送し、次にアクセスするレジスタのアドレスを先頭ADR3から最後ADR0まで転送する。次に、CPU8は、画像処理ASIC3側の応答準備時間を考慮して、データ準備期間を2byte分(00、00)転送した後、ライトのアクセスを、転送アドレスの先頭から順番に行う。CPU8は、SCS信号がハイ(High)になった時点で、バースト転送によるライト転送を終了する。
In burst transfer by SPI, in the case of write transfer, as shown in FIGS. 4A and 5, the CPU 8 first transfers a byte (MD, MD) indicating write, and then accesses a register. Are transferred from the first ADR3 to the last ADR0. Next, the CPU 8 considers the response preparation time on the
同様に、リード転送の場合、図4(b)及び図5に示すように、最初にリードを示すバイト(0、0)を転送し、次にアクセスするDSP4のIDをIDの下位、上位の順で転送する。次に、CPU8は、画像処理ASIC3側の応答準備時間を考慮して、データ準備期間を2byte分(00、00)転送した後、リードのアクセスを、行う。CPU8は、SCS信号がハイ(High)になった時点で、バースト転送によるリード転送を終了する。
Similarly, in the case of read transfer, as shown in FIG. 4B and FIG. 5, the byte (0, 0) indicating the read is transferred first, and the ID of the DSP 4 to be accessed next is the lower and upper IDs. Transfer in order. Next, considering the response preparation time on the
そして、SPIは、図6に示すように、一回の転送終了でSCS信号を「1」してから次のコマンドのためにSCS信号を「0」にするまで、ソフト都合で約1msのオーバーヘッドを必要とする。 Then, as shown in FIG. 6, the SPI has an overhead of about 1 ms for software reasons, from “1” at the end of one transfer until the SCS signal is set to “0” for the next command. Need.
SPIによるシングル転送においては、データ転送を1サイクル実行するたびにバス制御権を解放する必要がある。したがって、シングル転送で制御情報の転送される高速シリアルインターフェイス14のレジスタ14aは、画像データの有効長情報が変更になる度に、シングル転送で有効長情報を転送する必要があり、転送効率が悪い。
In single transfer by SPI, it is necessary to release the bus control right every time data transfer is executed for one cycle. Therefore, the register 14a of the high-speed
そこで、本発明の画像処理ASIC3は、図3に示したモジュール毎のレジスタ空間において、図7に示すように、システム部12のレジスタ12aに、LLEN設定レジスタ領域12aaが設けられている。このLLEN設定レジスタ領域12aaは、図8に示すように、有効長情報が格納され、システム部12用の制御情報のレジスタに連続したアドレス領域に形成されている。すなわち、システム部12のレジスタ12aは、LLEN設定レジスタ領域12aaを含めてそのアドレス値が、連続したアドレス空間に形成されている。
Therefore, the
LLEN設定レジスタ領域12aaは、図8に示すように、bit13〜0に、有効長情報([13:0])が設定され、bit15には、取得可否情報であるLLEN_EN(以下、取得可否情報LLEN_ENという。)として、「1」、「0」が設定される。
In the LLEN setting register area 12aa, as shown in FIG. 8, effective length information ([13: 0]) is set in
したがって、CPU8は、有効長情報を含めた制御情報を、SPIである低速シリアルバス7を通して、バースト転送することができ、高速かつ効率的に転送することができる。
Therefore, the CPU 8 can perform burst transfer of control information including effective length information through the low-speed
そして、画像処理ASIC3は、図9(a)に示すように、システム部12が、有効長情報であるLLEN[13:0]と取得可否情報であるLLEN_ENを、高速シリアルインターフェイス14へ出力する。また、画像処理ASIC3は、画像処理部13が、垂直同期信号VD、水平同期信号HD及び画像データDATAを、高速シリアルインターフェイス14へ出力し、高速シリアルインターフェイス14には、さらに、クロックCLKが入力される。
Then, in the
高速シリアルインターフェイス14は、図9(b)に示すように、システム部12からの取得可否情報LLEN_ENが「1」であり、画像処理部13からの水平同期信号HDが立ち上がった後の立ち下がりのタイミングに、有効長情報LLEN[13:0]の値を取得する。なお、高速シリアルインターフェイス14は、図9(b)に示すように、取得可否情報LLEN_ENが「0」であると、水平同期信号HDが立ち上がった後に立ち下がっても、有効長情報LLEN[13:0]の値の取り込みを行わない。
In the high-speed
そして、画像処理ASIC3は、図示しない内部メモリに、または、撮像装置1のメモリに、ROM、EEPROM(Electrically Erasable and Programmable Read Only Memory )、EPROM、フラッシュメモリ、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory )、CD−RW(Compact Disc Rewritable )、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)メモリ、SDカード、MO(Magneto-Optical Disc)等のコンピュータが読み取り可能な記録媒体に記録されている本発明の画像処理方法を実行するプログラムを読み込んで導入することで、後述する低速シリアルインターフェイスで転送されてくる制御情報の設定に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させる画像処理方法を実行する画像処理装置として構築されている。そして、撮像装置1は、この画像処理装置である画像処理ASIC3を搭載した撮像装置として構築されている。このプログラムは、アセンブラ、C、C++、C#、Java(登録商標)等のレガシープログラミング言語やオブジェクト指向プログラミング言語等で記述されたコンピュータ実行可能なプログラムであり、上記記録媒体に格納して頒布することができる。
The
画像処理装置である画像処理ASIC3は、上記プログラムが導入されることで、図10に示す機能ブロックが構築される。すなわち、画像処理ASIC3は、上記プログラムが導入されることで、図10に示すように、第1の記憶部21と有効長情報更新部22を有する高速シリアル転送部23、第2の記憶部24を有する制御部25、画像処理部26及び記憶制御部27が構築される。
The
第1の記憶部21は、レジスタ14aで構築され、有効長特定情報である同期コードを生成可能な有効長情報を記憶する。したがって、第1の記憶部21は、第1の記憶手段として機能している。
The
第2の記憶部24は、システム部12のレジスタ12aで構築され、前記有効長情報を含む制御情報を記憶する。したがって、第2の記憶部24は、第2の記憶手段として機能している。
The
記憶制御部27は、レジスタアクセス部11により構築されており、外部であるDSP4のCPU4から送信されてくる処理済み画像データの有効長情報を含む制御情報を受け取って第2の記憶部24へ記憶させる。したがって、記憶制御部27は、記憶制御手段として機能している。
The
有効長情報更新部22は、高速シリアルインターフェイス14により構築されており、第2の記憶部24の制御情報から有効長情報を取得して、第1の記憶部21の有効長情報を更新する。したがって、有効長情報更新部22は、有効長情報更新手段として機能している。
The effective length information update unit 22 is constructed by the high-speed
制御部25は、システム部12で構築されており、第2の記憶部24の有効長情報LLEN[13:0]と該有効長情報LLEN[13:0]の取得可否を示す取得可否情報LLEN_ENを高速シリアル転送部23へ出力する。したがって、制御部25は、制御手段として機能している。
The control unit 25 is constructed by the
画像処理部26は、画像処理部13で構築されており、レジスタ13aに設定される制御情報に基づいて撮像センサ2からの画像データに対して必要な画像処理を施す。画像処理部26は、処理済みの画像データと該画像データに関する水平同期信号HD及び垂直同期信号VDをシリアル転送部23へ出力する。したがって、画像処理部26は、画像処理手段として機能している。
The
高速シリアル転送部23は、高速シリアルインターフェイス14で構築されており、第1の記憶部21と有効長情報更新部22とを有している。高速シリアル転送部23は、該有効長情報更新部22が、取得可否情報LLEN_ENが取得許可を示し、かつ、水平同期信号HDが出力されているときに、有効長情報LLEN[13:0]を取得する。有効長情報更新部22は、取得した該有効長情報LLEN[13:0]で、該第1の記憶部21の有効長情報LLEN[13:0]を更新する。したがって、高速シリアル転送部23は、シリアル転送手段として機能している。
The high-speed
次に、本実施例の作用を説明する。本実施例の撮像装置1は、その画像処理ASIC3が、低速シリアルインターフェイスで転送されてくる制御情報の設定に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させる。
Next, the operation of this embodiment will be described. In the
すなわち、撮像装置1は、撮像センサ2の撮像した画像データを画像処理する画像処理ASIC3を備え、画像処理ASIC3は、DSP4のCPU8から低速シリアルバス7を通して設定される制御情報に基づいて画像処理を施す。画像処理ASIC3は、高速シリアルバス6の高速シリアルインターフェイス14を備えている。高速シリアルインターフェイス14は、そのレジスタ14aに格納されている有効長情報に基づいて転送対象の画像データの有効長特定情報である同期コードを生成して、該画像データに付加する。高速シリアルインターフェイス14は、同期コードを付加した画像データを、高速シリアルバス6を通してDSP4へ転送する。
That is, the
すなわち、画像処理ASIC3は、図11(a)に示すように、画像処理部13から高速シリアルインターフェイス14へ、水平同期信号HD、垂直同期信号VD及び画像データDATA[15:0]の信号で画像データDATAを転送する。画像処理部13から高速シリアルインターフェイス14への画像データの転送では、垂直同期信号VDで、ページ単位の有効画像データの転送の開始が示され、水平同期信号HDでライン単位の有効画像データの転送の開始が示される。
That is, as shown in FIG. 11A, the
高速シリアルインターフェイス14は、図11(b)に示すように、DATA_PとDATA_Nのシリアルの差動信号で画像データDATAを転送する。高速シリアルインターフェイス14は、垂直同期信号VDが入力される前は、水平同期信号HDに同期して同期コードHBS、有効長情報LLEN[13:0]の示す転送期間の後、同期コードHBEを転送する。高速シリアルインターフェイス14は、垂直同期信号VDが入力された後は、水平同期信号HDに同期して、同期コードHVS、有効長情報LLEN[13:0]の転送期間中はvalidで示す有効画像データ、有効長情報LLEN[13:0]の転送期間の後に、同期コードHVEを転送する。
As shown in FIG. 11B, the high-speed
DSP4は、DATA_PとDATA_Nのシリアル差動信号の有効画像データvalid及び同期コードHVS、HVEに基づいて、有効な画像データが転送されている期間を判別し、有効な画像データを取り込む。 The DSP 4 determines a period during which valid image data is transferred based on the valid image data valid of the serial differential signals DATA_P and DATA_N and the synchronization codes HVS and HVE, and takes in valid image data.
すなわち、画像処理ASIC3は、図12に示すデータ転送処理を行って、画像データの効率的な転送を行う。すなわち、画像処理ASIC3は、図12に示すように、記憶制御部27が、外部であるCPU8から低速シリアルバス7を通して、有効長情報を含む制御情報を受信したかチェックする(ステップS101)。ステップS101で、制御信号を受信すると(ステップS101で、YESのとき)、記憶制御部27は、制御情報を記憶部、特に、第2の記憶部24に、有効長情報を含む制御情報を記憶する(ステップS102)。
That is, the
このとき、記憶制御部27は、第2の記憶部24を構築しているレジスタ12aが、図7に示したように、制御情報と連続するアドレス空間となる有効長情報を記憶するLLEN設定レジスタ領域12aaを備えている。したがって、記憶制御部27は、制御部25からの有効長情報LLEN[13:0]を連続するアドレス空間に記憶させることができ、CPU8から低速シリアルバス7で、高速なバースト転送によって転送されてくる。
At this time, the
次に、高速シリアル転送部23の有効長情報更新部22は、制御部25から入力される取得可否情報LLEN_ENが取得許可を示す「1」であるかチェックする(ステップS103)。
Next, the valid length information update unit 22 of the high-speed
ステップS103で、有効長情報更新部22は、取得可否情報LLEN_ENが「1」であると(ステップS103で、YESのとき)、水平同期信号HDが入力するのを待つ(ステップS104)。 In step S103, the effective length information update unit 22 waits for the horizontal synchronization signal HD to be input if the acquisition permission / inhibition information LLEN_EN is “1” (YES in step S103) (step S104).
ステップS104で、水平同期信号HDが入力されると(ステップS104で、YESのとき)、有効長情報更新部22は、有効長情報LLEN[13:0]を取得する(ステップS105)。すなわち、有効長情報更新部22は、取得可否情報LLEN_ENが「1」のときに、水平同期信号HDが入力されると、制御部25から入力されている有効長情報LLEN[13:0]を取得する。 When the horizontal synchronization signal HD is input in step S104 (YES in step S104), the effective length information update unit 22 acquires effective length information LLEN [13: 0] (step S105). That is, when the horizontal synchronization signal HD is input when the availability information LLEN_EN is “1”, the effective length information update unit 22 receives the effective length information LLEN [13: 0] input from the control unit 25. get.
有効長情報更新部22は、取得した有効長情報LLEN[13:0]で、高速シリアル転送部23の第1の記憶部21に記憶されている有効長情報LLEN[13:0]を更新する(ステップS106)。
The effective length information update unit 22 updates the effective length information LLEN [13: 0] stored in the
高速シリアル転送部23は、更新されている第1の記憶部21の有効長情報LLEN[13:0]に基づいて、同期コードHVS、HVEを生成する(ステップS107)。高速シリアル転送部21は、この同期コードHVS、HVEを付加したDATA_PとDATA_Nのシリアル差動信号の有効画像データをDSP4へ高速シリアルバス6を通して転送する(ステップS108)。
The high-speed
そして、ステップS103で、取得可否情報LLEN_ENが「0」であると(ステップS103で、NOのとき)、有効長情報更新部22は、水平同期信号HDが入力しても、有効長情報LLEN[13:0]を取得することなく、ステップS107へ移行する。高速シリアル転送部21は、更新されていない第1の記憶部21の有効長情報LLEN[13:0]に基づいて、同期コードHVS、HVEを生成する(ステップS107)。高速シリアル転送部21は、この同期コードHVS、HVEを付加したDATA_PとDATA_Nのシリアル差動信号の有効画像データをDSP4へ高速シリアルバス6を通して転送する(ステップS108)。
In step S103, if the availability information LLEN_EN is “0” (NO in step S103), the effective length information update unit 22 does not receive the effective length information LLEN [ 13: 0] is acquired, and the process proceeds to step S107. The high-speed
したがって、画像処理ASIC3は、外部であるCPU8から低速シリアルバス7を通してバースト転送されてくる有効長情報を含む制御情報を効率的に受け取って、第1の記憶部21へ記憶させることができる。その結果、低速シリアルインターフェイスで転送されてくる制御情報に基づいて高速シリアルインターフェイス14による画像データの転送効率を向上させることができる。
Accordingly, the
このように、本実施例の撮像装置1は、その画像処理ASIC3が、入力される画像データを外部からの制御情報に基づいて画像処理手段である画像処理部26で画像処理して、処理済みの画像データを、該画像データの有効長を示す同期コード(有効長特定情報)とともに、高速シリアル転送部(シリアル転送手段)23によって外部であるDSP4へ転送する画像処理装置であって、前記同期コードを生成可能な有効長情報LLEN[13:0]を記憶する第1の記憶部(第1の記憶手段)21と、前記有効長情報LLEN[13:0]を含む制御情報を記憶する第2の記憶部(第2の記憶手段)24と、前記外部であるCPU8から送信されてくる前記有効長情報LLEN[13:0]を含む前記制御情報を受け取って前記第2の記憶部24へ記憶させる記憶制御部(記憶制御手段)27と、前記第2の記憶部24の前記制御情報から前記有効長情報LLEN[13:0]を取得して、前記第1の記憶部21の前記有効長情報LLEN[13:0]を更新する有効長情報更新部(有効長情報更新手段)22と、を備えている。
As described above, in the
したがって、画像処理ASIC3は、外部であるCPU8からSPIのような低速シリアルインターフェイスによって転送されてくる制御情報、特に、有効長情報LLEN[13:0]を効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。
Therefore, the
また、本実施例の撮像装置1は、入力される画像データを外部であるCPU8からの制御情報に基づいて画像処理手段である画像処理部26で画像処理して、処理済みの画像データを、該画像データの有効長を示す同期コード(有効長特定情報)とともに、シリアル転送手段である高速シリアル転送部23によって外部であるDSP4へ転送する画像処理ASIC3が、前記同期コードを生成可能な有効長情報LLEN[13:0]を第1の記憶部(第1の記憶手段)21へ記憶する第1の記憶処理ステップと、前記有効長情報LLEN[13:0]を含む制御情報を第2の記憶部(第2の記憶手段)24へ記憶する第2の記憶処理ステップと、前記外部であるCPU8から送信されてくる前記有効長情報LLEN[13:0]を含む前記制御情報を受け取って前記第2の記憶部24へ記憶させる記憶制御処理ステップと、前記第2の記憶部24の前記制御情報から前記有効長情報LLEN[13:0]を取得して、前記第1の記憶部21の前記有効長情報LLEN[13:0]を更新する有効長情報更新処理ステップと、を有する画像処理方法を実行する。
In addition, the
したがって、画像処理ASIC3は、外部であるCPU8からSPIのような低速シリアルインターフェイスによって転送されてくる制御情報、特に、有効長情報LLEN[13:0]を効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。
Therefore, the
さらに、本実施例の撮像装置1は、入力される画像データを外部であるCPU8からの制御情報に基づいて画像処理部26で画像処理して、処理済みの画像データを、該画像データの有効長を示す同期コード(有効長特定情報)とともに、高速シリアル転送部23によって外部であるDSP4へ転送する画像処理装置である画像処理ASIC3が、制御プロセッサに、前記同期コードを生成可能な有効長情報LLEN[13:0]を第1の記憶部(第1の記憶手段)21へ記憶する第1の記憶処理と、前記有効長情報LLEN[13:0]を含む制御情報を第2の記憶部(第2の記憶手段)24へ記憶する第2の記憶処理と、前記外部であるCPU8から送信されてくる前記有効長情報LLEN[13:0]を含む前記制御情報を受け取って前記第2の記憶部24へ記憶させる記憶制御処理と、前記第2の記憶部24の前記制御情報から前記有効長情報LLEN[13:0]を取得して、前記第1の記憶部21の前記有効長情報LLEN[13:0]を更新する有効長情報更新処理と、を実行させるプログラムを搭載している。
Further, the
したがって、画像処理ASIC3は、外部であるCPU8からSPIのような低速シリアルインターフェイスによって転送されてくる制御情報、特に、有効長情報LLEN[13:0]を効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。
Therefore, the
また、本実施例の撮像装置1の画像処理ASIC3は、前記記憶制御部27が、前記有効長情報LLEN[13:0]とその他の前記制御情報を、それぞれ前記第2の記憶部24の連続するアドレスに記憶させる。
Further, in the
したがって、画像処理ASIC3は、外部であるCPU8からSPIのような低速シリアルインターフェイスによって転送されてくる制御情報、特に、有効長情報LLEN[13:0]をバースト転送でより一層効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率をより一層向上させることができる。
Therefore, the
さらに、本実施例の撮像装置1は、前記画像処理ASIC3が、前記第2の記憶部24を有し、該第2の記憶部24の前記有効長情報LLEN[13:0]と該有効長情報LLEN[13:0]の取得可否を示す取得可否情報LLEN_ENを前記シリアル転送手段である高速シリアル転送部23へ出力する制御部(制御手段)25を、さらに備え、前記画像処理手段である画像処理部26は、処理済みの前記画像データと該画像データに関する水平同期信号HDを高速シリアル転送部23へ出力し、前記高速シリアル転送部23は、前記第1の記憶部21と前記有効長情報更新部22を有し、該有効長情報更新部22が、前記取得可否情報LLEN_ENが取得許可(「1」)を示し、かつ、前記水平同期信号HDが出力されているときに、前記有効長情報LLEN[13:0]を取得して、取得した該有効長情報LLEN[13:0]で該第1の記憶部21の前記有効長情報LLEN[13:0]を更新する。
Furthermore, in the
したがって、画像処理ASIC3は、外部であるCPU8からSPIのような低速シリアルインターフェイスによって転送されてくる制御情報、特に、有効長情報LLEN[13:0]を効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。
Therefore, the
また、本実施例の撮像装置1は、前記記憶制御部27が、SPIにより前記外部であるCPU8から前記有効長情報LLEN[13:0]を含む前記制御情報を受信する。
In the
したがって、画像処理ASIC3は、外部であるCPU8からSPIを用いた制御情報、特に、有効長情報LLEN[13:0]を効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。
Therefore, the
さらに、本実施例の撮像装置1は、撮像手段としての撮像センサ2の撮像した画像データを、画像処理部26で画像処理してシリアル転送する撮像装置であって、前記画像処理部として、上記画像処理ASIC3を備えている。
Furthermore, the
したがって、撮像装置1は、画像処理ASIC3が、外部であるCPU8からSPIのような低速シリアルインターフェイスによって転送されてくる制御情報、特に、有効長情報LLEN[13:0]を効率的に受信することができる。その結果、有効長情報LLEN[13:0]に基づく高速シリアルインターフェイスによる画像データの転送効率を向上させることができる。
Therefore, in the
以上、本発明者によってなされた発明を好適な実施例に基づき具体的に説明したが、本発明は上記実施例で説明したものに限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。 The invention made by the present inventor has been specifically described based on the preferred embodiments. However, the present invention is not limited to that described in the above embodiments, and various modifications can be made without departing from the scope of the invention. It goes without saying that it is possible.
1 撮像装置
2 撮像センサ
3 画像処理ASIC
4 DSP
5 信号ライン
6 高速シリアルバス
7 低速シリアルバス
8 CPU
11 レジスタアクセス部
12 システム部
13 画像処理部
14 高速シリアルインターフェイス
12a、13a、14a レジスタ
12aa LLEN設定レジスタ領域
15、16、17 APB
18 他の回路モジュール
18a レジスタ
21 第1の記憶部
22 有効長情報更新部
23 高速シリアル転送部
24 第2の記憶部
25 制御部
26 画像処理部
27 記憶制御部
DESCRIPTION OF
4 DSP
5
11
18
Claims (7)
前記有効長特定情報を生成可能な有効長情報を記憶する第1の記憶手段と、
前記有効長情報を含む制御情報を記憶する第2の記憶手段と、
前記外部から送信されてくる前記有効長情報を含む前記制御情報を受け取って前記第2の記憶手段へ記憶させる記憶制御手段と、
前記第2の記憶手段の前記制御情報から前記有効長情報を取得して、前記第1の記憶手段の前記有効長情報を更新する有効長情報更新手段と、
を備えていることを特徴とする画像処理装置。 The input image data is subjected to image processing by the image processing unit based on control information from the outside, and the processed image data is sent to the outside by the serial transfer unit together with effective length specifying information indicating the effective length of the image data. An image processing apparatus for transferring,
First storage means for storing effective length information capable of generating the effective length specifying information;
Second storage means for storing control information including the effective length information;
Storage control means for receiving the control information including the effective length information transmitted from the outside and storing it in the second storage means;
Effective length information updating means for obtaining the effective length information from the control information of the second storage means and updating the effective length information of the first storage means;
An image processing apparatus comprising:
前記有効長情報とその他の前記制御情報を、それぞれ前記第2の記憶手段の連続するアドレスに記憶させることを特徴とする請求項1記載の画像処理装置。 The storage control means
2. The image processing apparatus according to claim 1, wherein the effective length information and the other control information are stored in successive addresses of the second storage unit.
前記第2の記憶手段を有し、該第2の記憶手段の前記有効長情報と該有効長情報の取得可否を示す取得可否情報を前記シリアル転送手段へ出力する制御手段を、
さらに備え、
前記画像処理手段は、
処理済みの前記画像データと該画像データに関する水平同期信号を前記シリアル転送手段へ出力し、
前記シリアル転送手段は、
前記第1の記憶手段と前記有効長情報更新手段を有し、該有効長情報更新手段が、前記取得可否情報が取得許可を示し、かつ、前記水平同期信号が出力されているときに、前記有効長情報を取得して、取得した該有効長情報で該第1の記憶手段の前記有効長情報を更新することを特徴とする請求項1または請求項2記載の画像処理装置。 The image processing apparatus includes:
A control unit that has the second storage unit and outputs the effective length information of the second storage unit and acquisition availability information indicating whether or not the effective length information can be acquired to the serial transfer unit;
In addition,
The image processing means includes
Output the processed image data and a horizontal synchronization signal related to the image data to the serial transfer means,
The serial transfer means includes
The effective length information update means, the effective length information update means, when the acquisition permission information indicates acquisition permission, and the horizontal synchronization signal is output, The image processing apparatus according to claim 1, wherein the effective length information is acquired, and the effective length information of the first storage unit is updated with the acquired effective length information.
SPIにより前記外部から前記有効長情報を含む前記制御情報を受信することを特徴とする請求項1から請求項3のいずれかに記載の画像処理装置。 The storage control means
The image processing apparatus according to claim 1, wherein the control information including the effective length information is received from the outside by an SPI.
前記画像処理部として、請求項1から請求項4のいずれかに記載の画像処理装置を備えていることを特徴とする撮像装置。 An image pickup apparatus that serially transfers image data captured by an image pickup unit by performing image processing on an image processing unit,
An imaging apparatus comprising the image processing apparatus according to claim 1 as the image processing unit.
前記有効長特定情報を生成可能な有効長情報を第1の記憶手段へ記憶する第1の記憶処理ステップと、
前記有効長情報を含む制御情報を第2の記憶手段へ記憶する第2の記憶処理ステップと、
前記外部から送信されてくる前記有効長情報を含む前記制御情報を受け取って前記第2の記憶手段へ記憶させる記憶制御処理ステップと、
前記第2の記憶手段の前記制御情報から前記有効長情報を取得して、前記第1の記憶手段の前記有効長情報を更新する有効長情報更新処理ステップと、
を有することを特徴とする画像処理方法。 The input image data is subjected to image processing by the image processing unit based on control information from the outside, and the processed image data is sent to the outside by the serial transfer unit together with effective length specifying information indicating the effective length of the image data. An image processing method by an image processing apparatus to transfer,
A first storage processing step of storing effective length information capable of generating the effective length specifying information in a first storage means;
A second storage processing step of storing control information including the effective length information in a second storage means;
A storage control processing step of receiving the control information including the effective length information transmitted from the outside and storing it in the second storage means;
An effective length information update processing step of acquiring the effective length information from the control information of the second storage means and updating the effective length information of the first storage means;
An image processing method comprising:
制御プロセッサに、
前記有効長特定情報を生成可能な有効長情報を第1の記憶手段へ記憶する第1の記憶処理と、
前記有効長情報を含む制御情報を第2の記憶手段へ記憶する第2の記憶処理と、
前記外部から送信されてくる前記有効長情報を含む前記制御情報を受け取って前記第2の記憶手段へ記憶させる記憶制御処理と、
前記第2の記憶手段の前記制御情報から前記有効長情報を取得して、前記第1の記憶手段の前記有効長情報を更新する有効長情報更新処理と、
を実行させることを特徴とするプログラム。 The input image data is subjected to image processing by the image processing unit based on control information from the outside, and the processed image data is sent to the outside by the serial transfer unit together with effective length specifying information indicating the effective length of the image data. A program installed in the image processing apparatus to be transferred,
To the control processor,
A first storage process for storing effective length information capable of generating the effective length specifying information in a first storage means;
A second storage process for storing control information including the effective length information in a second storage means;
A storage control process for receiving the control information including the effective length information transmitted from the outside and storing it in the second storage means;
An effective length information update process for obtaining the effective length information from the control information of the second storage means and updating the effective length information of the first storage means;
A program characterized by having executed.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015198212A JP6565567B2 (en) | 2015-10-06 | 2015-10-06 | Image processing apparatus, imaging apparatus, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015198212A JP6565567B2 (en) | 2015-10-06 | 2015-10-06 | Image processing apparatus, imaging apparatus, image processing method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017073621A JP2017073621A (en) | 2017-04-13 |
JP6565567B2 true JP6565567B2 (en) | 2019-08-28 |
Family
ID=58537464
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015198212A Active JP6565567B2 (en) | 2015-10-06 | 2015-10-06 | Image processing apparatus, imaging apparatus, image processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6565567B2 (en) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002236659A (en) * | 2001-02-08 | 2002-08-23 | Denso Corp | Electronic control device for vehicle |
JP5100489B2 (en) * | 2008-04-28 | 2012-12-19 | キヤノン株式会社 | Imaging apparatus and signal processing method in the apparatus |
JP2011049901A (en) * | 2009-08-27 | 2011-03-10 | Panasonic Corp | Solid-state imaging unit, and imaging apparatus |
-
2015
- 2015-10-06 JP JP2015198212A patent/JP6565567B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017073621A (en) | 2017-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI679539B (en) | Master-slave system, command execution method and data access method | |
JP6387711B2 (en) | Data transfer apparatus and data transfer method | |
CN108304334B (en) | Application processor and integrated circuit including interrupt controller | |
JP2009271724A (en) | Hardware engine controller | |
JP5097973B2 (en) | Data processing device | |
JP4855864B2 (en) | Direct memory access controller | |
JP6565567B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and program | |
EP3176701A1 (en) | Systems and methods for transmitting an access request via a flexible register access bus | |
JP5327482B2 (en) | Image processing apparatus and image processing method | |
JP2003281074A (en) | Direct access memory device | |
US8176290B2 (en) | Memory controller | |
JP6385761B2 (en) | Bus bridge and bus bridge group | |
US6483753B1 (en) | Endianess independent memory interface | |
JP4723334B2 (en) | DMA transfer system | |
JP5196946B2 (en) | Parallel processing unit | |
JP2003216950A (en) | Simd type microprocessor for performing pattern matching or the like | |
SU1176339A1 (en) | Interface for linking digital computer with image input device | |
JP4292218B2 (en) | Image processing apparatus and image processing system | |
JP4835872B2 (en) | Image processing device | |
TW200805069A (en) | Memory controller | |
JP2007334600A (en) | Semiconductor integrated circuit device | |
JP2015034891A (en) | Register setting control device | |
JP2005209224A (en) | Direct memory access device | |
JPH09305530A (en) | Dma controller | |
JP2001195350A (en) | Data transfer device and data transfer method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180910 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20180911 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190702 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190715 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6565567 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |