JP5921646B2 - Image processing apparatus and image processing method - Google Patents
Image processing apparatus and image processing method Download PDFInfo
- Publication number
- JP5921646B2 JP5921646B2 JP2014234964A JP2014234964A JP5921646B2 JP 5921646 B2 JP5921646 B2 JP 5921646B2 JP 2014234964 A JP2014234964 A JP 2014234964A JP 2014234964 A JP2014234964 A JP 2014234964A JP 5921646 B2 JP5921646 B2 JP 5921646B2
- Authority
- JP
- Japan
- Prior art keywords
- region
- image processing
- image
- setting
- width
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 17
- 238000003384 imaging method Methods 0.000 claims description 75
- 238000001514 detection method Methods 0.000 claims description 15
- 238000000034 method Methods 0.000 claims description 15
- 230000000694 effects Effects 0.000 description 26
- 230000003287 optical effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000011946 reduction process Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
Description
本発明は、固体撮像素子を用いた撮像装置により得られた画像に対するボカし処理を行う画像処理装置及び画像処理方法に関する。 The present invention relates to an image processing apparatus and an image processing method for performing a blurring process on an image obtained by an imaging apparatus using a solid-state imaging device.
従来、画像の上下をぼかしたジオラマ風の撮影は、光学的に実現されていた。光学的に実現するには、例えば、特殊レンズであるチルトシフトレンズを用いて俯瞰撮影を行う。また、ジオラマ風に限らず、画像のぼかし効果は通常の撮影画像に対する画像処理で実現することもできる。特許文献1では、通常の撮影画像をぼかした画像と元画像をある比率で混合して合成することによりソフトフォーカスのような効果が得られる技術が開示されている。また、特許文献2では、車載カメラによる車両周辺の撮像画像をモニタ画面に表示するとき、撮像画像の一部エリアと前記一部エリアを除いた他エリアとで画像表示の鮮鋭度を異ならせる技術が開示されている。 Conventionally, diorama-like shooting in which the top and bottom of an image is blurred has been optically realized. In order to realize optically, for example, overhead view photographing is performed using a tilt shift lens which is a special lens. Further, the blurring effect of the image is not limited to the diorama style, and can be realized by image processing on a normal captured image. Japanese Patent Application Laid-Open No. 2004-151561 discloses a technique that can obtain an effect like soft focus by mixing an image obtained by blurring a normal captured image and an original image at a certain ratio. Moreover, in patent document 2, when displaying the picked-up image of the vehicle periphery by a vehicle-mounted camera on a monitor screen, the technique which makes the sharpness of an image display different in the other area except the said partial area and the some area of a picked-up image. Is disclosed.
画像処理でジオラマ風の静止画像を実現するためには、ぼけの度合いを所定方向に変化させた複数の段階のぼかし処理が必要となる。そして、このぼかし処理の領域及び方向と撮影画像の構図との関係が適正であれば、ジオラマ風の効果が視認できる良好な画像が得られる。しかし、ぼかし処理の領域及び方向を固定したままカメラの姿勢を変化させると、撮影画像のぼかし効果の方向や構図も変化するので、期待したジオラマ風の効果が表れない画像となるおそれがある。 In order to realize a diorama-like still image by image processing, a plurality of stages of blurring processing in which the degree of blur is changed in a predetermined direction is necessary. If the relationship between the blur processing region and direction and the composition of the photographed image is appropriate, a good image in which the effect of the diorama effect can be visually recognized can be obtained. However, if the posture of the camera is changed while the blur processing area and direction are fixed, the direction and composition of the blur effect of the photographed image also change, which may result in an image that does not exhibit the expected diorama effect.
本発明は上述した問題点を解決するためのものであり、撮像装置の姿勢を変化させても、期待したジオラマ風の効果が表れた画像を得ることができるようにする。 The present invention is intended to solve the above-described problems, and enables an image having an expected diorama effect to be obtained even when the attitude of the imaging apparatus is changed.
上述した課題を解決するために、本発明の画像処理装置は、撮像手段から入力された撮影画像に対して画像処理を行う画像処理装置であって、前記撮影画像に対して特殊効果を施す画像処理手段と、
前記画像処理手段による特殊効果の方向を設定する設定手段と、を有し、前記設定手段は、前記特殊効果を施さない領域を設定し、前記特殊効果の方向の設定を変更するとき、変更前の前記特殊効果を施さない領域の設定に応じて変更後の前記特殊効果を施さない領域を設定することを特徴とする。
In order to solve the above-described problems, an image processing apparatus according to the present invention is an image processing apparatus that performs image processing on a captured image input from an imaging unit, and that performs special effects on the captured image. Processing means;
Setting means for setting a direction of a special effect by the image processing means, and the setting means sets a region where the special effect is not applied, and changes the setting of the direction of the special effect before the change. According to the setting of the area where the special effect is not applied, the changed area where the special effect is not applied is set.
また、本発明の画像処理装置は、撮像手段により撮像された撮影画像に対して画像処理を行う画像処理装置であって、前記撮影画像から、第1の領域と前記第1の領域よりもぼけた第2の領域とが所定の方向に並んだ画像を生成する画像処理手段と、前記所定の方向及び当該方向における前記第1の領域を設定する設定手段と、を有し、前記設定手段は、前記所定の方向の設定を変更するとき、変更前の前記所定の方向における前記第1の領域の設定に応じて、変更後の前記所定の方向における前記第1の領域の設定を変更することを特徴とする。 The image processing apparatus according to the present invention is an image processing apparatus that performs image processing on a captured image captured by an imaging unit, and is more blurred than the first region and the first region from the captured image. Image processing means for generating an image in which the second area is arranged in a predetermined direction, and setting means for setting the predetermined direction and the first area in the direction, wherein the setting means when changing the setting of the predetermined direction, depending on the setting of the first area in the predetermined direction before the change, changing the setting of the first area in the predetermined direction after the change It is characterized by.
また、本発明の撮像装置は、撮像手段と、前記撮影画像から、第1の領域と前記第1の領域よりもぼけた第2の領域とが前記撮影画像の長辺方向あるいは短辺方向に並んだ画像を生成する画像処理手段と、前記撮像手段の姿勢を検知する検知手段と、前記検知手段により検知される姿勢に応じて、前記第1及び第2の領域の並ぶ方向及び当該方向における前記第1の領域の位置及び幅を設定する設定手段と、を有し、前記設定手段は、設定された前記並ぶ方向を変更するとき、変更前の前記並ぶ方向における前記第1の領域の位置及び幅の設定に応じて、変更後の前記並ぶ方向における前記第1の領域の位置及び幅の設定を変更することを特徴とする。 In the imaging apparatus of the present invention, the first area and the second area that is more blurred than the first area are in the long side direction or the short side direction of the captured image. An image processing unit that generates a lined image, a detection unit that detects a posture of the imaging unit, and a direction in which the first and second regions are arranged and in the direction according to the posture detected by the detection unit Setting means for setting the position and width of the first region, and when the setting unit changes the set alignment direction, the position of the first region in the alignment direction before the change The setting of the position and width of the first region in the aligned direction after the change is changed according to the setting of the width and the width.
また、本発明の画像処理方法は、撮像装置により撮像された撮影画像に対して画像処理を行う画像処理方法であって、前記撮影画像から、所定の方向に第1の領域と前記第1の領域よりもぼけた第2の領域とが所定の方向に並んだ画像を生成する画像処理ステップと、
前記所定の方向及び前記第1の領域を設定する設定ステップと、を有し、前記設定ステップでは、前記所定の方向の設定を変更するとき、変更前の前記所定の方向における前記第1の領域の設定に応じて、変更後の前記所定の方向における前記第1の領域の設定を変更することを特徴とする。
また、本発明の撮像装置の制御方法は、撮像手段と、前記撮影画像から、第1の領域と前記第1の領域よりもぼけた第2の領域とが前記撮影画像の長辺方向あるいは短辺方向に並んだ画像を生成する画像処理手段と、を有する撮像装置の制御方法であって、前記撮像手段の姿勢を検知する検知ステップと、前記検知ステップにて検知される姿勢に応じて、前記第1及び第2の領域の並ぶ方向及び前記第1の領域の位置及び幅を設定する設定ステップと、を有し、前記設定ステップでは、前記第1及び第2の領域の並ぶ方向の設定を変更するとき、変更前の前記並ぶ方向における前記第1の領域の位置及び幅の設定に応じて、変更後の前記並ぶ方向における前記第1の領域の位置及び幅の設定を変更することを特徴とする。
The image processing method of the present invention is an image processing method for performing image processing on a captured image captured by an imaging device, wherein the first region and the first region are defined in a predetermined direction from the captured image. An image processing step for generating an image in which a second area blurred than the area is arranged in a predetermined direction;
A setting step for setting the predetermined direction and the first area. In the setting step, when changing the setting of the predetermined direction, the first area in the predetermined direction before the change The setting of the first area in the predetermined direction after the change is changed according to the setting.
Further, according to the control method of the imaging apparatus of the present invention, the imaging unit and the first area and the second area that is blurred from the first area from the captured image are in the long side direction or the short side of the captured image. An image processing unit that generates images arranged in a side direction, and a detection step of detecting an attitude of the imaging unit, and depending on an attitude detected in the detection step, A setting step for setting a direction in which the first and second regions are arranged and a position and a width of the first region, and in the setting step, setting the direction in which the first and second regions are arranged Changing the setting of the position and width of the first region in the alignment direction after the change according to the setting of the position and width of the first region in the alignment direction before the change. Features.
本発明によれば、撮像装置の姿勢を変化させても、期待したジオラマ風の効果が表れた画像を得ることができる。 According to the present invention, it is possible to obtain an image in which an expected diorama-like effect appears even when the posture of the imaging apparatus is changed.
以下、本発明に係る実施の形態を図面を用いて詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
(第1の実施形態)
図1は第1の実施形態の撮像装置の構成を示す図である。
(First embodiment)
FIG. 1 is a diagram illustrating a configuration of an imaging apparatus according to the first embodiment.
光学系101は、入射した光を撮像素子102上に結像させることで被写体を撮像する。光学制御部111は、光学系101の露出やズーム、フォーカス、光学式ブレ補正等を制御する。撮像素子102は、結像させた光学像を電気信号に変換する。撮像制御部112は、撮像素子を駆動するための制御系である。アナログ信号処理部103は、固体撮像素子の出力にクランプ、ゲインをかける等の処理を行なう。アナログ/デジタル(A/D)変換部104は、アナログ信号にデジタル変換を行ない画像データとして出力する。本実施形態では、光学系101からA/D変換部104までを含めて撮像手段とする。また、撮像装置は、撮像手段から出力された撮影画像の画像データを記録媒体108に単独フレームで記録することで静止画撮影を可能としている。また、連続して複数フレーム記録することで動画撮影を可能としている。信号処理部105は、A/D変換したデジタル信号の撮影画像に対して後述の画像処理を行い出力画像を生成する。内部記憶部106は、出力画像を生成する際に画像データを一時的に記憶する。信号処理部105は、システム制御部113の指示により内部記憶部106に記憶された画像データを読み出し可能な構成となっており、ぼけ画像の生成、トリミング処理、画像合成処理などのジオラマ風画像処理を行う。ジオラマ風画像処理の詳細については、後述する。
The optical system 101 images a subject by forming incident light on the image sensor 102. The
記録再生部107は、生成した画像データを記録媒体108に記録する。記録媒体108は、光デイスク記録媒体、半導体記録媒体等、各種の取り外し可能な記録媒体が使用できる。画像表示装置110は、表示制御部109を介し、生成された画像データをライブ画像として表示する。電子ファインダとしての機能を有する表示装置110は、システム制御部113でのプログラムの実行にしたがって、合焦枠表示、合焦表示、非合焦の警告の表示なども行う。システム制御部113は、基本的に、撮像装置の全体の動作を制御するものであって、通常内部にCPUを備える。たとえば、上記撮像手段により得られる画像データを用いて予め定めた演算処理を信号処理部105で実行し、その演算結果に基づいて、光学制御部111及び撮像制御部112を制御する。光学制御部111が制御を行ない自動焦点制御(AF)を実行する。光学制御部111が絞り及びシャッタ、さらには撮像制御部112が撮像素子102の電子シャッタに対して制御を行い、自動露出制御(AE)を実行する。
The recording / reproducing
姿勢検知部115は、加速度センサ及びまたは、前記光学式ブレ補正に用いるジャイロセンサを用いて撮像装置の姿勢を検知する。システム制御部113は、姿勢検知部115から出力された姿勢検知結果により撮像装置の姿勢を判別し、姿勢に応じた設定情報などの表示や、姿勢に応じてカーソルキーの入力方向の変更を行う。114は操作部である。操作部114には、撮影前の予備動作を撮像装置に指示を行うシャッターSW1および、撮影動作を撮像装置に指示を行うシャッターSW2、画像処理を行う位置などを指示するカーソルキーなどを備える。システム制御部113は、前記シャッターSW1の検出により、AF、AEを行い、前記シャッターSW2の検出により撮影動作を行う。なお、図1に示して説明した撮像装置の構成は1例であり、以下に説明する動作を実行できるのであれば、本発明に係る撮像装置の構成は、図1に示した構成に限定されるものではない。 The posture detection unit 115 detects the posture of the imaging apparatus using an acceleration sensor and / or a gyro sensor used for the optical blur correction. The system control unit 113 determines the posture of the imaging apparatus based on the posture detection result output from the posture detection unit 115, displays setting information according to the posture, and changes the input direction of the cursor key according to the posture. . Reference numeral 114 denotes an operation unit. The operation unit 114 includes a shutter SW1 for instructing the imaging apparatus to perform a preliminary operation before photographing, a shutter SW2 for instructing the imaging apparatus to perform a photographing operation, a cursor key for instructing a position for performing image processing, and the like. The system control unit 113 performs AF and AE by detecting the shutter SW1, and performs a photographing operation by detecting the shutter SW2. The configuration of the imaging apparatus illustrated in FIG. 1 is an example, and the configuration of the imaging apparatus according to the present invention is limited to the configuration illustrated in FIG. 1 as long as the operations described below can be performed. It is not something.
図2を用いて、本実施形態のジオラマ風画像処理について説明する。本実施形態では静止画撮影、動画撮影、ライブ表示のいずれの撮影動作においてもジオラマ風画像処理を行うことにより、ジオラマ風の効果が視認できる画像を生成することができる。本実施形態では上記撮影動作において共通のジオラマ風画像処理を行うものとする。ただし、それぞれの撮影動作において必要とされる画質やフレームレートは異なるので、撮影動作に応じて、ジオラマ風画像処理の内容を変化させるように構成してもよい。 The diorama style image processing of this embodiment will be described with reference to FIG. In the present embodiment, an image in which the effect of the diorama effect can be visually recognized can be generated by performing the diorama image processing in any of the shooting operations of still image shooting, moving image shooting, and live display. In the present embodiment, common diorama-like image processing is performed in the shooting operation. However, since the image quality and frame rate required for each shooting operation are different, the contents of the diorama-like image processing may be changed according to the shooting operation.
図2において、画像200は、信号処理部105に入力される撮影画像の全体を示す。本実施形態では、建物、人物、樹木等が含まれるシーンにおいて、主に人物に対してジオラマ風の効果が表れた画像を得ることを目的とする。枠201は、撮影画像の画角中に指定されたピントを合わせる範囲及び位置を表示している。枠201に人物が含まれ、その上下の領域をぼかす処理を行うことによりジオラマ風の効果が表れた画像が得られる。領域をぼかす強さは、信号処理部105により任意に設定可能であり、なだらかにぼかすことも可能である。
In FIG. 2, an
本実施形態において、枠201は表示装置110に表示されるライブ画像上にも表示され、その上下位置は中心ライン202よりも少し下の位置で固定されており、幅の広さ203も一定になっている。信号処理部105はこの枠201の位置と幅に応じて各フレームに対して連続的にジオラマ風画像処理を実行し、ライブ画像を更新するようにする。
In the present embodiment, the
次に、図2(b)を用いてジオラマ風画像処理の動作フローを説明する。本動作フローはシステム制御部113が各処理ブロックを制御することにより実現される。 Next, an operation flow of diorama-like image processing will be described with reference to FIG. This operation flow is realized by the system control unit 113 controlling each processing block.
まず、システム制御部113は、撮像手段により入力された画像データであってホワイトバランス等の現像処理を行うことにより1フレームの処理対象の撮影画像が得られたことに応答して、本動作フローを開始する(S201)。ここで動作フローの開始時には既に枠201の位置と広さの固定値が設定されている。
First, the system control unit 113 responds to the fact that one frame of a photographic image to be processed is obtained by performing development processing such as white balance, which is image data input by the imaging unit. Is started (S201). Here, at the start of the operation flow, fixed values for the position and width of the
システム制御部113は、ユーザにより設定されたぼけの度合いに基き、枠201以外の領域のぼけ量を決定する(S202)。本実施形態では、撮影動作中においてもぼけの度合いは「強」と「弱」から選択できる。
The system control unit 113 determines the amount of blur in an area other than the
次に、システム制御部113は、撮像手段により入力された画像データであってホワイトバランス等の現像処理を行うことにより得られた撮影画像の画像データを内部記憶部106に記憶させる(S203)。これは通常モードで撮影した場合の撮影画像と同じものである。 Next, the system control unit 113 stores the image data of the captured image obtained by performing development processing such as white balance, which is image data input by the imaging unit, in the internal storage unit 106 (S203). This is the same as the photographed image when photographing in the normal mode.
そして、信号処理部105は、撮影画像の画像データから画像全体をぼかした画像を作る(S204)。本実施形態では、ぼけ画像は、撮影画像をまびき処理により縮小処理し、再度、もとのサイズに拡大処理することで生成される。例えば、選択したぼけ度合いが「強」であれば縮小処理の縮小率を1/8とし、「弱」であれば縮小処理の縮小率を1/4とする。本発明はこの方法に限定せず、予め光学的に非合焦位置で撮影した画像を用いてぼけ画像を生成してもよい。
Then, the
信号処理部105は、内部記憶部106に記憶された撮影画像の画像データから枠201の部分をトリミングする(S205)。そして、信号処理部105は、ステップS204で作られたぼけ画像にトリミングした画像を位置合わせして貼り付けることにより、上下がボケて中心部に解像感が残った画像を生成する(S206)。尚、撮影画像の画像データを貼り付ける際に、ぼけ画像とトリミングした撮影画像をなだらかに混合することにより貼付境界部を目立たなくさせる。すなわち、枠201の境界部分で丁度、撮影画像とぼけ画像との合成比率を0:1とし、枠201の中心ラインに向かうに従って撮影画像の合成比率を上げていく処理を行う。
The
図3(a)は、撮像装置の姿勢変化に応じてジオラマ風画像処理の内容を変更する動作フローである。本動作フローはシステム制御部113が各処理ブロックを制御することにより実現される。内容変更の動作フローは、動画撮影、静止画撮影においても適用可能であるが、ここでは、ライブ画像の表示動作を行っている状態から静止画撮影を行うまでの動作で説明する。 FIG. 3A is an operation flow for changing the contents of the diorama-like image processing in accordance with the posture change of the imaging device. This operation flow is realized by the system control unit 113 controlling each processing block. The content change operation flow can also be applied to moving image shooting and still image shooting. Here, the operation from the state of performing a live image display operation to the still image shooting will be described.
ライブ画像を表示している状態において、ユーザのモード指定によりジオラマ風の撮影モードが設定されたことに応答して本動作フローが開始される。動作フローの開始後、システム制御部113は、姿勢検知部115の出力信号に基づき撮像装置の姿勢を判断する(S301)。システム制御部113は、次にステップS301で検出した現在の姿勢と記憶しておいたそれ以前の姿勢を比較する。ここで現在の姿勢は次回の姿勢比較のときに以前の姿勢として用いるために記憶する(S302)。次に、システム制御部113は、この比較結果に応じて姿勢が変更されたかを判断する(S303)。ステップS303で姿勢が変更されていないと判断された場合は、ステップS305へ進む。一方、姿勢が変更されたと判断した場合は、ステップS304へ進む。 In the state where the live image is displayed, this operation flow is started in response to the setting of the diorama-like shooting mode by the user's mode designation. After the start of the operation flow, the system control unit 113 determines the attitude of the imaging device based on the output signal of the attitude detection unit 115 (S301). Next, the system control unit 113 compares the current posture detected in step S301 with the stored previous posture. Here, the current posture is stored for use as the previous posture in the next posture comparison (S302). Next, the system control unit 113 determines whether the posture has been changed according to the comparison result (S303). If it is determined in step S303 that the posture has not been changed, the process proceeds to step S305. On the other hand, if it is determined that the posture has been changed, the process proceeds to step S304.
ステップS304では、図3(a)、図3(b)、図3(c)に示す様に、ステップS301で判断した撮像装置の姿勢に応じて、枠201の表示方向及び、ジオラマ風画像処理の方向を切り替える。
In step S304, as shown in FIG. 3A, FIG. 3B, and FIG. 3C, the display direction of the
そして、姿勢が変換していない場合は(ステップS303:No)そのままの方向で、姿勢が変換している場合は(ステップS303:Yes)、ステップS304で切り替えた方向で、図2(b)で説明したジオラマ風画像処理を行う(S305)。 If the posture has not been changed (step S303: No), the direction is as it is, and if the posture has been changed (step S303: Yes), the direction is changed in step S304 in FIG. 2B. The described diorama-style image processing is performed (S305).
そして、シャッタボタンが押されたか否かを判断し(S306)、押されていないと判断した場合はステップS301に戻りライブ画像の表示とそれに基づく姿勢検出を続け、押されていると判断した場合は、静止画の撮影処理を行う(S307)。そして、得られた静止画の撮影画像に対して、図2(b)で説明したジオラマ風画像処理を行う(S305)。ここで、静止画はフレームレートよりは画質を優先すべきであるので、1つのぼけ画像を用いて行ったステップS204〜S206の処理を2つ以上のぼけ画像を用いて行うことにより、よりジオラマ風の効果が得られた静止画像を得るようにしてもよい。 Then, it is determined whether or not the shutter button has been pressed (S306). If it is determined that the shutter button has not been pressed, the process returns to step S301, and the display of the live image and the posture detection based thereon are continued, and it is determined that the shutter button has been pressed. Performs still image shooting processing (S307). Then, the diorama-like image processing described with reference to FIG. 2B is performed on the obtained still image (S305). Here, the image quality should be prioritized over the frame rate for the still image, so that the process of steps S204 to S206, which is performed using one blurred image, is performed using two or more blurred images, so that a diorama can be obtained. A still image with a wind effect may be obtained.
図3(a)のステップS304の処理方向の変更処理について詳細に説明する。図3(b)は、ユーザが撮像装置を正位置に構えた時に表示装置110に表示されるジオラマ風の画像である。図2(a)で説明したのと同様なものであり、ピントが合う範囲及び表示枠の位置は枠201になる。ここで正位置とは、ユーザが図4(a)の様に撮像装置を構えている位置である。
The processing direction change processing in step S304 in FIG. 3A will be described in detail. FIG. 3B is a diorama-like image displayed on the
図3(c)は、ユーザが図4(b)の様に撮像装置のグリップ位置を下に構え、正位置に対し右90°回転している位置である。図4(b)は、この時の処理方向と枠201が正位置に対して左90°回転していることを示している。
FIG. 3C shows a position where the user holds the grip position of the imaging apparatus downward as shown in FIG. 4B and rotates 90 ° to the right with respect to the normal position. FIG. 4B shows the processing direction at this time and that the
図3(d)は、正位置に対し左に90°回転している位置である。この時の枠201の位置は図3(c)と左右対称の関係になる。
FIG. 3D is a position rotated 90 ° to the left with respect to the normal position. The position of the
撮像装置を左右90度方向に回転させても枠を固定していたならば、図2(a)の200のシーンに対して構図が変化するとともに枠が縦方向に表示されてジオラマ風処理がされてしまうため、期待したジオラマ風の効果が得られない。これに対して、本実施形態のように、姿勢変化に対応させて図3(c)及び(d)のように枠の方向も回転させることにより、構図は変化したとしてもジオラマ風の効果の方向は回転前の状態に保つことができるので、良好な画像を得ることができる。
If the frame is fixed even if the imaging device is rotated 90 degrees in the left and right directions, the composition changes with respect to the
(第2の実施形態)
本実施形態では、ライブ画像の表示動作中において、ユーザは操作部114を用いて、枠201の上下位置及び幅の広さを設定できるようになっている。信号処理部105は設定された枠201の位置と広さに応じてジオラマ風画像処理を実行し、ライブ画像を更新するようにする。
(Second Embodiment)
In the present embodiment, during the live image display operation, the user can set the vertical position and width of the
このとき、姿勢変化によりジオラマ風の画像処理の方向が変化した場合、引き続きユーザが設定した枠201の位置と幅の広さでジオラマ風の画像を表示させることが好ましい。
At this time, when the direction of the diorama-like image processing is changed due to the posture change, it is preferable that the diorama-like image is continuously displayed with the position and width of the
図4を用いて、図4(a)正位置から図4(b)右90°回転した時の枠201(ピントが合う範囲及び位置)の設定方法について説明する。左90°回転した場合についての説明は省略するが、同じ構成にて実現可能であるため、以下の説明においては、右90°回転または、左90°回転して構えていることを縦位置と表現する。 A method for setting the frame 201 (the range and position where the image is in focus) when rotated 90 ° to the right from FIG. 4A from the normal position in FIG. 4A will be described with reference to FIG. Although description about the case of 90 ° rotation to the left is omitted, since it can be realized with the same configuration, in the following description, it is assumed that the rotation is 90 ° to the right or 90 ° to the left. Express.
第1の実施形態と同様な図4(c)に示すシーンを撮影してジオラマ風の効果を得る場合に、ユーザーは、正位置または、縦位置のいずれかの構図で撮影する。ピントが合う範囲及び位置(枠201)は主被写体である人物に合わせて設定するため、正位置(402)、縦位置(401)に関わらず、ユーザの指定を反映させてほぼ同じ幅の広さを設定する必要がある。さらに、構図のバランスが崩れないように、上下のバランスも正位置(402)、縦位置(401)に関わらず一定領域内になる様に枠の位置も設定する。 When the scene shown in FIG. 4C similar to that of the first embodiment is photographed to obtain a diorama effect, the user photographs with a composition of either the normal position or the vertical position. Since the in-focus range and position (frame 201) are set according to the person who is the main subject, regardless of the normal position (402) and vertical position (401), the user's specification is reflected and the width is almost the same. It is necessary to set it. Further, the position of the frame is also set so that the vertical balance is within a certain region regardless of the normal position (402) and the vertical position (401) so that the balance of the composition is not lost.
図5は、姿勢の変化に応じて、以上の設定を行った例を示す図である。 FIG. 5 is a diagram illustrating an example in which the above setting is performed according to a change in posture.
図5(a)は、正位置での枠201の幅の広さをMに設定した例であり、図4(c)の402の構図の場合を示したものである。正位置 図5(a)から図5(b)に示す縦位置に姿勢が変更された場合は、正位置における図5(a)の幅Mに応じて縦位置における図5(b)の幅Pを設定する。ここで、幅M:撮影画像の縦方向の幅X=幅P:撮影画像の横方向の幅Yの関係を有する。同様の比率関係を用いて、正位置における図5(a)の幅L、幅Nに応じて縦位置における図5(b)の幅O、幅Qを設定する。縦位置 図5(b)から正位置図5(a)に姿勢を変更した場合も、幅O、幅P、幅Qに応じて、幅L、幅M、幅Nを設定する。
FIG. 5A shows an example in which the width of the
図5(c)は、正位置での枠201の位置を中心位置Sに設定した例であり、図4(c)の402の構図の場合を示したものである。正位置における図5(c)で枠201の中心位置Sを、画面全体の高さXに対する比率で設定している。図5(c)から縦位置における図5(d)に姿勢を変更した場合、枠201の中心位置Uは、画面全体の幅Yから式:U=Y×S÷Xで容易に求めることが可能である。また、縦位置における図5(d)から、正位置における図5(c)に姿勢を変更した場合は式S=X×U÷Yより算出する。ここでは、中心位置U及び中心位置S等を比率で引き継ぐ例を示したが、画面上端または、画面中心からの画素数により、位置を算出するようにしてもよい。
FIG. 5C is an example in which the position of the
以上、枠201の設定を幅と位置とで別々に説明したが、図5(c)の枠201の中心位置Sから図5(a)の幅Mを設定するのであれば、図5(d)の中心位置Uから図5(b)の幅Pを設定できる。この場合、図4(d)に示す様に、ユーザーが縦位置404で画面下端付近に枠201を設定し、正位置405に構え直すと、設定した幅Pが広いと、枠の中心位置UとSとを対応させることはできても、枠の範囲Pが構図からはみ出てしまうことがある。したがって、下端に接する位置に枠が設定されていた場合は、姿勢変更を行っても中心位置の関係はそのまま引き継がず、枠の幅を保ったまま下端位置になるよう中心位置を設定する様にする。図示しないが、上端付近に枠201を設定した場合も同様な処理を行う。
The setting of the
以上説明したように、本実施形態では、ジオラマ風処理を行うための枠の位置と幅をユーザが設定できるような仕様において、撮像装置の姿勢変化が生じた場合においても、期待したジオラマ風の効果が表れた画像を得ることができる。 As described above, in the present embodiment, in the specification in which the user can set the position and width of the frame for performing the diorama processing, even when the orientation of the imaging apparatus changes, the expected diorama processing An image showing the effect can be obtained.
(他の実施形態)
上記実施形態では、ライブ画像の表示と、静止画記録についてのジオラマ風画像処理について説明したが、本発明は、これに限らず、動画記録を行う場合におけるライブ表示や記録される動画に対しても適用可能である。
(Other embodiments)
In the above-described embodiment, the display of live images and the diorama-like image processing for still image recording have been described. However, the present invention is not limited to this, and live display in the case of performing moving image recording or for moving images to be recorded Is also applicable.
上記実施形態では、特殊効果としてジオラマ風の画像処理という文言を使用したが、これは便宜的なものであり、撮影画像と1枚以上のボケ画像とを方向性を持たせそれぞれ領域を変えて合成する処理を含むものあれば、他の特殊効果の処理においても、本発明は適用できる。 In the above embodiment, the term “diorama-like image processing” is used as a special effect. However, this is for convenience, and the captured image and one or more blurred images are given directions and each region is changed. The present invention can be applied to other special effect processing as long as it includes processing to synthesize.
また、上記実施形態では、本発明を撮像装置に適用した場合について説明したが、本発明はこれに限るものではなく、外部接続した撮像装置から撮影画像を入力可能なパーソナルコンピュータやデジタルテレビ等の画像処理装置において、実現されても良い。この場合、撮影画像の画像ファイルにおけるヘッダ情報に含まれている姿勢検知情報から姿勢を判断して、その姿勢に応じたジオラマ風画像処理を行う。なお、パーソナルコンピュータの場合は、上記図3に示した各ステップを実行するアプリケーションソフトウェアをCD−ROM等の記憶媒体やネットワーク上のサーバから取得してインストールすることにより実現される。 In the above embodiment, the case where the present invention is applied to an imaging apparatus has been described. However, the present invention is not limited to this, and a personal computer, a digital television, or the like that can input a captured image from an externally connected imaging apparatus. It may be realized in the image processing apparatus. In this case, the posture is determined from the posture detection information included in the header information in the image file of the photographed image, and diorama-like image processing corresponding to the posture is performed. In the case of a personal computer, it is realized by obtaining and installing application software for executing the steps shown in FIG. 3 from a storage medium such as a CD-ROM or a server on a network.
105 信号処理部
106 内部記憶部
113 システム制御部
115 姿勢検知部
105
Claims (34)
前記所定の方向及び前記所定の方向における前記第1の領域の幅を設定する設定手段と、を有し、
前記設定手段は、設定された前記所定の方向を変更するとき、変更前の前記所定の方向における前記第1の領域の幅の設定に応じて、変更後の前記所定の方向における前記第1の領域の幅を変更することを特徴とする画像処理装置。 An image processing apparatus that performs image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image Image processing means for generating images arranged in a row,
Setting means for setting the predetermined direction and a width of the first region in the predetermined direction;
The setting means changes the first direction in the predetermined direction after the change according to the setting of the width of the first region in the predetermined direction before the change when the predetermined direction is changed. An image processing apparatus characterized by changing a width of an area.
前記設定手段は、前記検知手段により検知される姿勢に応じて、前記所定の方向を設定することを特徴とする請求項1に記載の画像処理装置。 Having detection means for detecting the posture of the imaging means;
The image processing apparatus according to claim 1, wherein the setting unit sets the predetermined direction according to an attitude detected by the detection unit.
前記設定手段は、表示手段が前記撮像手段から入力される画像を逐次表示媒体に表示しているときに前記操作手段によって前記第1の領域を設定し、
前記画像処理手段は、前記指示手段による撮像の指示に応じて撮像される画像に対して当該設定に従って画像処理を行い、
当該画像処理後の画像は静止画として記録されることを特徴とする請求項8に記載の画像処理装置。 Instructing means for instructing imaging to the imaging means,
The setting means sets the first region by the operation means when the display means is sequentially displaying images input from the imaging means on the display medium,
The image processing unit performs image processing according to the setting for an image captured in accordance with an imaging instruction by the instruction unit,
The image processing apparatus according to claim 8, wherein the image after the image processing is recorded as a still image.
前記画像処理手段は、表示手段が表示する画像の生成に用いるぼけ画像の数が、前記撮像手段による撮像の指示に応じて撮影され、静止画として記録される画像の生成に用いるぼけ画像の数に比べて少ないことを特徴とする請求項11乃至13のいずれか1つに記載の画像処理装置。 Instructing means for instructing imaging to the imaging means,
The number of blurred images used for generating an image displayed by the display unit is photographed according to an imaging instruction from the imaging unit, and the number of blurred images used for generating an image recorded as a still image. The image processing apparatus according to claim 11, wherein the image processing apparatus is less than the image processing apparatus.
前記所定の方向及び前記所定の方向における前記第1の領域の位置を設定する設定手段と、を有し、
前記設定手段は、設定された前記所定の方向を変更するとき、変更前の前記所定の方向における前記第1の領域の位置の設定に応じて、変更後の前記所定の方向における前記第1の領域の位置を変更することを特徴とする画像処理装置。 An image processing apparatus that performs image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image Image processing means for generating images arranged in a row,
Setting means for setting the position of the first region in the predetermined direction and the predetermined direction,
The setting means changes the first direction in the predetermined direction after the change according to the setting of the position of the first region in the predetermined direction before the change when the predetermined direction is changed. An image processing apparatus characterized by changing a position of a region.
前記所定の方向及び前記所定の方向における前記第1の領域の幅を設定する設定手段と、を有し、
前記設定手段は、設定された前記所定の方向を変更するとき、前記第1の領域の前記所定の方向における幅と画像全体の前記所定の方向における幅との比率が、変更前後で変わらないように前記第1の領域の幅を設定することを特徴とする画像処理装置。 An image processing apparatus that performs image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image Image processing means for generating images arranged in a row,
Setting means for setting the predetermined direction and a width of the first region in the predetermined direction;
When the setting unit changes the set predetermined direction, the ratio between the width of the first region in the predetermined direction and the width of the entire image in the predetermined direction does not change before and after the change. An image processing apparatus, wherein the width of the first area is set in
前記所定の方向及び前記所定の方向における前記第1の領域の幅を設定する設定手段と、を有し、
前記設定手段は、設定された前記所定の方向を変更するとき、前記第1の領域の位置の画像端からの距離と画像全体の前記所定の方向における幅との比率が、変更前後で変わらないように前記第1の領域の位置を設定することを特徴とする画像処理装置。 An image processing apparatus that performs image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image Image processing means for generating images arranged in a row,
Setting means for setting the predetermined direction and a width of the first region in the predetermined direction;
When the setting unit changes the set predetermined direction, the ratio between the distance from the image edge of the position of the first region and the width of the entire image in the predetermined direction does not change before and after the change. In this way, the position of the first area is set as described above.
前記第1及び第2の領域が並ぶ方向及び当該方向における前記第1の領域の幅を設定する設定手段と、を有し、
前記設定手段は、前記第2の方向が設定されたときの、当該方向における前記第1の領域の幅に応じて、前記第1の方向が設定されたときの、当該方向における前記第1の領域の幅を設定することを特徴とする画像処理装置。 An image processing apparatus that performs image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region are first from the captured image. Image processing means for generating images arranged in a direction or a second direction;
A setting means for setting a direction in which the first and second regions are arranged and a width of the first region in the direction;
The setting means has the first direction in the direction when the first direction is set according to the width of the first region in the direction when the second direction is set. An image processing apparatus that sets the width of an area.
前記第1及び第2の領域が並ぶ方向及び当該方向における前記第1の領域の幅を設定する設定手段と、を有し、
前記設定手段は、設定された前記並ぶ方向を変更するとき、変更前の前記並ぶ方向における前記第1の領域の幅の設定に応じて、変更後の前記並ぶ方向における前記第1の領域の幅を変更することを特徴とする画像処理装置。 An image processing apparatus that performs image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region are first from the captured image. Image processing means for generating images arranged in a direction or a second direction;
A setting means for setting a direction in which the first and second regions are arranged and a width of the first region in the direction;
When the setting unit changes the set alignment direction, the width of the first region in the alignment direction after the change is set according to the setting of the width of the first region in the alignment direction before the change. An image processing apparatus characterized by changing the above.
前記撮像手段と、
前記撮像手段から得られる撮影画像を表示媒体に表示する表示手段と、
を有することを特徴とする撮像装置。 An image processing apparatus according to any one of claims 1 to 22,
The imaging means;
Display means for displaying a captured image obtained from the imaging means on a display medium;
An imaging device comprising:
前記撮像手段から得られる撮影画像から、第1の領域と前記第1の領域よりもぼけた第2の領域とが前記撮影画像の長辺方向あるいは短辺方向に並んだ画像を生成する画像処理手段と、
前記撮像手段の姿勢を検知する検知手段と、
前記検知手段により検知される姿勢に応じて、前記画像処理手段によって生成される画像において前記第1及び第2の領域の並ぶ方向及び当該方向における前記第1の領域の位置及び幅を設定する設定手段と、を有し、
前記設定手段は、設定された前記並ぶ方向を変更するとき、変更前の前記並ぶ方向における前記第1の領域の位置及び幅の設定に応じて、変更後の前記並ぶ方向における前記第1の領域の位置及び幅の設定を変更することを特徴とする撮像装置。 Imaging means;
From the obtained that shooting image from the imaging means, and a second region blur than the first region the first region to produce an image arranged in the long side direction or the short side direction of the captured image Image processing means;
Detecting means for detecting the posture of the imaging means;
Setting for setting the direction in which the first and second regions are arranged and the position and width of the first region in the direction in the image generated by the image processing unit in accordance with the posture detected by the detection unit Means,
When the setting means changes the set alignment direction, the first region in the alignment direction after the change is set according to the setting of the position and width of the first region in the alignment direction before the change. An image pickup apparatus, wherein the setting of the position and the width of the camera is changed.
前記所定の方向及び前記第1の領域を設定する設定ステップと、を有し、
前記設定ステップでは、前記所定の方向の設定を変更するとき、変更前の前記所定の方向における前記第1の領域の設定に応じて、変更後の前記所定の方向における前記第1の領域の設定を変更することを特徴とする画像処理方法。 An image processing method for performing image processing on a captured image captured by an imaging apparatus, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image An image processing step for generating images arranged in a row,
Setting the predetermined direction and the first region, and
In the setting step, when the setting of the predetermined direction is changed, the setting of the first area in the predetermined direction after the change is performed according to the setting of the first area in the predetermined direction before the change. An image processing method characterized by changing the above.
前記所定の方向及び前記所定の方向における前記第1の領域の幅を設定する設定ステップと、を有し、
前記設定ステップでは、設定された前記所定の方向を変更するとき、前記第1の領域の前記所定の方向における幅と画像全体の前記所定の方向における幅との比率が、変更前後で変わらないように前記第1の領域の幅を設定することを特徴とする画像処理方法。 An image processing method for performing image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image An image processing step for generating images arranged in a row,
Setting the predetermined direction and a width of the first region in the predetermined direction, and
In the setting step, when the predetermined direction set is changed, the ratio of the width in the predetermined direction of the first region to the width in the predetermined direction of the entire image is not changed before and after the change. And setting the width of the first area.
前記所定の方向及び前記所定の方向における前記第1の領域の幅を設定する設定ステップと、を有し、
前記設定ステップでは、設定された前記所定の方向を変更するとき、前記第1の領域の位置の画像端からの距離と画像全体の前記所定の方向における幅との比率が、変更前後で変わらないように前記第1の領域の位置を設定することを特徴とする画像処理方法。 An image processing method for performing image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region in a predetermined direction from the captured image An image processing step for generating images arranged in a row,
Setting the predetermined direction and a width of the first region in the predetermined direction, and
In the setting step, when the set predetermined direction is changed, the ratio of the distance from the image end of the position of the first region to the width of the entire image in the predetermined direction does not change before and after the change. An image processing method characterized by setting the position of the first region as described above.
前記第1及び第2の領域が並ぶ方向及び当該方向における前記第1の領域の幅を設定する設定ステップと、を有し、
前記設定ステップでは、前記第2の方向が設定されたときの、当該方向における前記第1の領域の幅に応じて、前記第1の方向が設定されたときの、当該方向における前記第1の領域の幅を設定することを特徴とする画像処理方法。 An image processing method for performing image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region are first from the captured image. An image processing step for generating images arranged in a direction or a second direction;
A setting step for setting a direction in which the first and second regions are arranged and a width of the first region in the direction;
In the setting step, when the second direction is set, the first direction in the direction when the first direction is set according to the width of the first region in the direction. An image processing method characterized by setting a width of an area.
前記第1及び第2の領域が並ぶ方向及び当該方向における前記第1の領域の幅を設定する設定ステップと、を有し、
前記設定ステップでは、設定された前記並ぶ方向を変更するとき、変更前の前記並ぶ方向における前記第1の領域の幅の設定に応じて、変更後の前記並ぶ方向における前記第1の領域の幅を変更することを特徴とする画像処理方法。 An image processing method for performing image processing on a captured image captured by an imaging unit, wherein a first region and a second region that is blurred from the first region are first from the captured image. An image processing step for generating images arranged in a direction or a second direction;
A setting step for setting a direction in which the first and second regions are arranged and a width of the first region in the direction;
In the setting step, when the set alignment direction is changed, the width of the first region in the alignment direction after the change is set according to the setting of the width of the first region in the alignment direction before the change. An image processing method characterized by changing the above.
前記撮像手段の姿勢を検知する検知ステップと、
前記検知ステップにて検知される姿勢に応じて、前記第1及び第2の領域の並ぶ方向及び前記第1の領域の位置及び幅を設定する設定ステップと、を有し、
前記設定ステップでは、前記第1及び第2の領域の並ぶ方向の設定を変更するとき、変更前の前記並ぶ方向における前記第1の領域の位置及び幅の設定に応じて、変更後の前記並ぶ方向における前記第1の領域の位置及び幅の設定を変更することを特徴とする撮像装置の制御方法。 An imaging unit, from the shadow image shooting obtained from the imaging means, arranged a second region blurred than said first region the first region in the long side direction or the short side direction of the photographing picture An image processing means for generating
A detecting step for detecting the posture of the imaging means;
A setting step for setting a direction in which the first and second regions are arranged and a position and a width of the first region according to the posture detected in the detection step;
In the setting step, when the setting of the alignment direction of the first and second regions is changed, the alignment after the change is set according to the setting of the position and width of the first region in the alignment direction before the change. A method for controlling an imaging apparatus, wherein the setting of the position and width of the first region in the direction is changed.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014234964A JP5921646B2 (en) | 2014-11-19 | 2014-11-19 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014234964A JP5921646B2 (en) | 2014-11-19 | 2014-11-19 | Image processing apparatus and image processing method |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013251244A Division JP5653509B2 (en) | 2013-12-04 | 2013-12-04 | Image processing apparatus and image processing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015073299A JP2015073299A (en) | 2015-04-16 |
JP5921646B2 true JP5921646B2 (en) | 2016-05-24 |
Family
ID=53015341
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014234964A Active JP5921646B2 (en) | 2014-11-19 | 2014-11-19 | Image processing apparatus and image processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5921646B2 (en) |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5109803B2 (en) * | 2007-06-06 | 2012-12-26 | ソニー株式会社 | Image processing apparatus, image processing method, and image processing program |
-
2014
- 2014-11-19 JP JP2014234964A patent/JP5921646B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015073299A (en) | 2015-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9830947B2 (en) | Image-capturing device | |
JP4947060B2 (en) | Image composition apparatus, image composition method, and program | |
JP6071545B2 (en) | IMAGING DEVICE, IMAGE PROCESSING DEVICE AND ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM | |
JP6863284B2 (en) | Detection device, detection method, detection program and imaging device | |
JP6518409B2 (en) | Imaging apparatus and imaging method | |
JP2009212899A (en) | Imaging device | |
JP2017058660A (en) | Image tremor correction device, tilt correction device, image tremor correction device control method, tilt correction device control method | |
JP7405131B2 (en) | Image processing device, image processing method, program | |
JP6529533B2 (en) | Imaging device, control method of imaging device, and program | |
JP2010246033A (en) | Camera, image processing device, and image processing program | |
JP6721084B2 (en) | Zoom control device, zoom control method, and program | |
JP2015204470A (en) | Imaging apparatus, control method thereof, and program | |
WO2018196854A1 (en) | Photographing method, photographing apparatus and mobile terminal | |
JP4807582B2 (en) | Image processing apparatus, imaging apparatus, and program thereof | |
WO2020170604A1 (en) | Information processing device, information processing method, and program | |
JP5653509B2 (en) | Image processing apparatus and image processing method | |
JP2007214620A (en) | Image processing apparatus, image processing method, and program | |
JP5441747B2 (en) | Imaging apparatus and image processing method | |
WO2022041013A1 (en) | Control method, handheld gimbal, system, and computer readable storage medium | |
JP5921646B2 (en) | Image processing apparatus and image processing method | |
JP2015233211A (en) | Imaging apparatus, control method thereof, and program | |
JP2012073512A (en) | Photographing device and program | |
JP2012124614A (en) | Imaging apparatus and imaging apparatus control method | |
JP2015118274A (en) | Imaging device, imaging device control method, and program | |
US10951829B2 (en) | Image capturing apparatus and method for controlling display |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150917 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151006 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160315 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160412 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5921646 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S802 | Written request for registration of partial abandonment of right |
Free format text: JAPANESE INTERMEDIATE CODE: R311802 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S802 | Written request for registration of partial abandonment of right |
Free format text: JAPANESE INTERMEDIATE CODE: R311802 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |