JP2019057066A - 線画自動着色プログラム、線画自動着色装置及び線画自動着色方法 - Google Patents
線画自動着色プログラム、線画自動着色装置及び線画自動着色方法 Download PDFInfo
- Publication number
- JP2019057066A JP2019057066A JP2017180427A JP2017180427A JP2019057066A JP 2019057066 A JP2019057066 A JP 2019057066A JP 2017180427 A JP2017180427 A JP 2017180427A JP 2017180427 A JP2017180427 A JP 2017180427A JP 2019057066 A JP2019057066 A JP 2019057066A
- Authority
- JP
- Japan
- Prior art keywords
- line drawing
- local style
- coloring
- drawing data
- local
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004040 coloring Methods 0.000 title claims abstract description 162
- 238000000034 method Methods 0.000 title claims description 123
- 238000000605 extraction Methods 0.000 claims description 60
- 230000006870 function Effects 0.000 claims description 54
- 239000000284 extract Substances 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 4
- 239000003086 colorant Substances 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 241000282326 Felis catus Species 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/20—Drawing from basic elements, e.g. lines or circles
- G06T11/203—Drawing of straight lines or curves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
- Image Generation (AREA)
Abstract
Description
以下、図面を参照しながら、第1の実施の形態に係る線画自動着色装置の例について説明する。図1は、本発明に係る線画自動着色装置10の構成を表したブロック図である。なお、線画自動着色装置10は、専用マシンとして設計した装置であってもよいが、一般的なコンピュータによって実現可能なものであるものとする。この場合に、線画自動着色装置10は、一般的なコンピュータが通常備えているであろうCPU(Central Processing Unit:中央演算処理装置)、GPU(Graphics Processing Unit:画像処理装置)、メモリ、ハードディスクドライブ等のストレージを具備しているものとする(図示省略)。また、これらの一般的なコンピュータを本例の線画自動着色装置10として機能させるためにプログラムよって各種処理が実行されることは言うまでもない。
第1の実施の形態においては、局所スタイルを抽出したい参照画像データをユーザが選択して、参照画像データから局所スタイルを抽出するものとして説明を行ったが、本発明はこれに限定されるものではない。第2の実施の形態では、複数種類の局所スタイルを予め抽出処理によって抽出して記憶手段に記憶させておき、それらの複数の局所スタイルの中からユーザが使用したい局所スタイルを選択して使用する実施例について説明を行う。
11 線画データ取得部
12 参照画像取得部
13 局所スタイル抽出箇所指定部
14 局所スタイル抽出部
15 局所スタイル適用指定部
16 着色処理部
17 記憶部
20 線画自動着色装置
21 局所スタイル指定受付部
22 記憶部
Claims (10)
- 線画データに対して自動で着色を行うための処理をコンピュータに実現させるための線画自動着色プログラムであって、
前記コンピュータに、
着色対象の線画データを取得する線画データ取得機能と、
取得した線画データの任意の箇所に対して選択された局所スタイルを適用するための局所スタイル指定を少なくとも1以上受付ける局所スタイル指定受付機能と、
線画データと局所スタイル指定とを入力として線画データに局所スタイルを反映しつつ着色処理を行うことを予め学習した着色用学習済モデルに基づいて、前記線画データ取得機能で取得した線画データに対して前記局所スタイル指定受付機能で受け付けた局所スタイル指定を反映させた着色処理を行う着色処理機能と
を実現させる線画自動着色プログラム。 - 前記局所スタイル指定受付機能は、
局所スタイルを抽出したい少なくとも1以上の参照画像を取得する参照画像取得機能と、
取得した参照画像のうち局所スタイルを抽出したい箇所についての指定を少なくとも1以上受け付ける局所スタイル抽出箇所指定機能と、
前記局所スタイル抽出箇所指定機能で指定された少なくとも1以上の指定箇所について参照画像から局所スタイルの抽出処理を行う局所スタイル抽出機能と、
前記局所スタイル抽出機能で抽出した局所スタイルを適用する箇所を前記線画データ取得機能で取得した線画データに対して指定する局所スタイル適用指定機能と
を実現させる請求項1記載の線画自動着色プログラム。 - 前記局所スタイル指定受付機能における局所スタイルは、
予め抽出処理によって抽出して記憶手段により記憶させた複数の局所スタイルの中から、ユーザによって選択された少なくとも1以上の局所スタイル指定を受付けるようにした
請求項1記載の線画自動着色プログラム。 - 局所スタイルについての前記抽出処理は、
参照画像の任意の箇所から局所スタイルを抽出することを予め学習した局所スタイル用学習済モデルに基づいて局所スタイルを抽出するようにした
請求項2又は3に記載の線画自動着色プログラム。 - 前記局所スタイル用学習済モデルは、
線画データとその線画データに対する正解の着色状態を表した着色正解画像データとを1組のセットとして、複数セットの線画データ及び着色正解画像データを用意し、
局所スタイルを抽出するエンコーダに対して着色正解画像データを参照画像として入力して入力された着色正解画像データの全ピクセルのそれぞれに対応した局所スタイルマップを生成する手順と、
エンコーダで抽出した局所スタイルマップのうち、少なくとも1以上の局所スタイルをピックアップして、ピックアップした局所スタイルを線画データと共にデコーダに入力する手順と、
前記デコーダにおいて、ピックアップした局所スタイルを線画データに反映させた着色処理を実行して着色済画像データを得る手順と、
デコーダで得られた着色済画像データと着色正解画像データとを用いて、損失関数により、着色正解画像データに対する着色済画像データの損失を演算によって求める手順と、
損失関数によって求めた損失が小さくなるように、エンコーダ及びデコーダのパラメータを更新する手順と
を複数セットの線画データ及び着色正解画像データについて実行することにより得たエンコーダを局所スタイル用学習済モデルとした
請求項4記載の線画自動着色プログラム。 - 前記着色用学習済モデルは、
線画データとその線画データに対する正解の着色状態を表した着色正解画像データとを1組のセットとして、複数セットの線画データ及び着色正解画像データを用意し、
局所スタイルを抽出するエンコーダに対して着色正解画像データを参照画像として入力して入力された着色正解画像データの全ピクセルのそれぞれに対応した局所スタイルマップを生成する手順と、
エンコーダで抽出した局所スタイルマップのうち、少なくとも1以上の局所スタイルをピックアップして、ピックアップした局所スタイルを線画データと共にデコーダに入力する手順と、
前記デコーダにおいて、ピックアップした局所スタイルを線画データに反映させた着色処理を実行して着色済画像データを得る手順と、
デコーダで得られた着色済画像データと着色正解画像データとを用いて、損失関数により、着色正解画像データに対する着色済画像データの損失を演算によって求める手順と、
損失関数によって求めた損失が小さくなるように、エンコーダ及びデコーダのパラメータを更新する手順と
を複数セットの線画データ及び着色正解画像データについて実行することにより得たデコーダを着色用学習済モデルとした
請求項1から請求項5の何れかに記載の線画自動着色プログラム。 - 着色対象の線画データを取得する線画データ取得部と、
取得した線画データの任意の箇所に対して選択された局所スタイルを適用するための局所スタイル指定を少なくとも1以上受付ける局所スタイル指定受付部と、
線画データと局所スタイル指定とを入力として線画データに局所スタイルを反映しつつ着色処理を行うことを予め学習した着色用学習済モデルに基づいて、前記線画データ取得部で取得した線画データに対して前記局所スタイル指定受付部で受け付けた局所スタイル指定を反映させた着色処理を行う着色処理部と
を備えた線画自動着色装置。 - 前記局所スタイル指定受付部は、
局所スタイルを抽出したい少なくとも1以上の参照画像を取得する参照画像取得部と、
取得した参照画像のうち局所スタイルを抽出したい箇所についての指定を少なくとも1以上受け付ける局所スタイル抽出箇所指定部と、
前記局所スタイル抽出箇所指定部で指定された少なくとも1以上の指定箇所について参照画像から局所スタイルの抽出処理を行う局所スタイル抽出部と、
前記局所スタイル抽出部で抽出した局所スタイルを適用する箇所を前記線画データ取得部で取得した線画データに対して指定する局所スタイル適用指定部と
を備えた請求項7記載の線画自動着色装置。 - 線画データに対して自動で着色を行うための線画自動着色方法であって、
着色対象の線画データを取得する線画データ取得手順と、
取得した線画データの任意の箇所に対して選択された局所スタイルを適用するための局所スタイル指定を少なくとも1以上受付ける局所スタイル指定受付手順と、
線画データと局所スタイル指定とを入力として線画データに局所スタイルを反映しつつ着色処理を行うことを予め学習した着色用学習済モデルに基づいて、前記線画データ取得手順で取得した線画データに対して前記局所スタイル指定受付手順で受け付けた局所スタイル指定を反映させた着色処理を行う着色処理手順と
を含む線画自動着色方法。 - 前記局所スタイル指定受付手順は、
局所スタイルを抽出したい少なくとも1以上の参照画像を取得する参照画像取得手順と、
取得した参照画像のうち局所スタイルを抽出したい箇所についての指定を少なくとも1以上受け付ける局所スタイル抽出箇所指定手順と、
前記局所スタイル抽出箇所指定手順で指定された少なくとも1以上の指定箇所について参照画像から局所スタイルの抽出処理を行う局所スタイル抽出手順と、
前記局所スタイル抽出手順で抽出した局所スタイルを適用する箇所を前記線画データ取得手順で取得した線画データに対して指定する局所スタイル適用指定手順と
を含む請求項9記載の線画自動着色方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017180427A JP7242165B2 (ja) | 2017-09-20 | 2017-09-20 | プログラム、情報処理装置、および方法 |
US16/135,627 US11386587B2 (en) | 2017-09-20 | 2018-09-19 | Automatic coloring of line drawing |
US17/834,856 US20220301239A1 (en) | 2017-09-20 | 2022-06-07 | Automatic coloring of line drawing |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017180427A JP7242165B2 (ja) | 2017-09-20 | 2017-09-20 | プログラム、情報処理装置、および方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019057066A true JP2019057066A (ja) | 2019-04-11 |
JP7242165B2 JP7242165B2 (ja) | 2023-03-20 |
Family
ID=65720448
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017180427A Active JP7242165B2 (ja) | 2017-09-20 | 2017-09-20 | プログラム、情報処理装置、および方法 |
Country Status (2)
Country | Link |
---|---|
US (2) | US11386587B2 (ja) |
JP (1) | JP7242165B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112837332A (zh) * | 2021-01-13 | 2021-05-25 | 杭州水母智能科技有限公司 | 创意设计的生成方法、装置、终端、存储介质及处理器 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7477260B2 (ja) | 2018-01-30 | 2024-05-01 | 株式会社Preferred Networks | 情報処理装置、情報処理プログラム及び情報処理方法 |
JP6676744B1 (ja) * | 2018-12-28 | 2020-04-08 | 株式会社Cygames | 画像処理方法、画像処理システム及びプログラム |
CN111651969B (zh) * | 2019-03-04 | 2023-10-27 | 微软技术许可有限责任公司 | 样式迁移 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09134422A (ja) * | 1995-11-07 | 1997-05-20 | B U G:Kk | アニメーションの連続彩色方法および装置 |
JP2014044595A (ja) * | 2012-08-27 | 2014-03-13 | Utsunomiya Univ | 線画着色システム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004334814A (ja) | 2003-05-07 | 2004-11-25 | Susumu Shiroyama | モノクロ画像のカラー化手法、装置、プログラム |
JP2012033012A (ja) | 2010-07-30 | 2012-02-16 | Casio Comput Co Ltd | 画調変換装置、画調変換システム、画調変換方法及びプログラム |
US10198839B2 (en) * | 2016-09-22 | 2019-02-05 | Apple Inc. | Style transfer-based image content correction |
US10916001B2 (en) * | 2016-11-28 | 2021-02-09 | Adobe Inc. | Facilitating sketch to painting transformations |
CN108205813B (zh) * | 2016-12-16 | 2022-06-03 | 微软技术许可有限责任公司 | 基于学习网络的图像风格化 |
US10311326B2 (en) | 2017-03-31 | 2019-06-04 | Qualcomm Incorporated | Systems and methods for improved image textures |
JP2019036899A (ja) | 2017-08-21 | 2019-03-07 | 株式会社東芝 | 情報処理装置、情報処理方法およびプログラム |
JP7477260B2 (ja) | 2018-01-30 | 2024-05-01 | 株式会社Preferred Networks | 情報処理装置、情報処理プログラム及び情報処理方法 |
-
2017
- 2017-09-20 JP JP2017180427A patent/JP7242165B2/ja active Active
-
2018
- 2018-09-19 US US16/135,627 patent/US11386587B2/en active Active
-
2022
- 2022-06-07 US US17/834,856 patent/US20220301239A1/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09134422A (ja) * | 1995-11-07 | 1997-05-20 | B U G:Kk | アニメーションの連続彩色方法および装置 |
JP2014044595A (ja) * | 2012-08-27 | 2014-03-13 | Utsunomiya Univ | 線画着色システム |
Non-Patent Citations (7)
Title |
---|
LVMIN ZHANG, YI JI AND XIN LIN: "Style Transfer for Anime Sketches with Enhanced Residual U-net and Auxiliary Classifier GAN", ARXIV.ORG, JPN7021002274, 13 June 2017 (2017-06-13), ISSN: 0004994601 * |
PAULINA HENSMAN AND KIYOHARU AIZAWA: "cGAN-based Manga Colorization Using a Single Training Image", ARXIV.ORG, JPN7021002273, 21 June 2017 (2017-06-21), ISSN: 0004994600 * |
SATOSHI IIZUKA, EDGAR SIMO-SERRA AND HIROSHI ISHIKAWA: "Let there be Color!: Joint End-to-end Learning of Global and Local Image Priors for Automatic Image", ACM TRANSACTIONS ON GRAPHICS, vol. Vol.35, No.4, Article No.110, JPN7021002275, 11 July 2016 (2016-07-11), ISSN: 0004994602 * |
佐藤和博, 外2名: ""参照画像を利用したマンガキャラクタの彩色"", 電子情報通信学会2012年総合大会講演論文集 情報・システム2, JPN6016018792, 6 March 2012 (2012-03-06), pages 47, ISSN: 0004822590 * |
及川太陽, 外3名: ""カラーイラストから線画への塗り情報の転写"", 映像情報メディア学会技術報告, vol. 第36巻, 第16号, JPN6016018795, 9 March 2012 (2012-03-09), JP, pages 149 - 152, ISSN: 0004822589 * |
古澤 知英, 廣芝 和之, 大垣 慶介, 小田桐 優理: "色彩特徴を入力に用いた畳み込みニューラルネットワークによる漫画の自動彩色", DEIM FORUM 2017 予稿集, vol. DEIM Forum 2017 B3-4, JPN7021002271, 7 March 2017 (2017-03-07), ISSN: 0004822587 * |
片岡 裕介, 松原 崇, 上原 邦昭: "深層学習における敵対的ネットワークを用いた漫画画像の自動カラー化", 情報処理学会研究報告 コンピュータビジョンとイメージメディア(CVIM), vol. 2017-CVIM-206, JPN7021002272, 2 March 2017 (2017-03-02), pages 1 - 6, ISSN: 0004822588 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112837332A (zh) * | 2021-01-13 | 2021-05-25 | 杭州水母智能科技有限公司 | 创意设计的生成方法、装置、终端、存储介质及处理器 |
CN112837332B (zh) * | 2021-01-13 | 2024-01-19 | 杭州水母智能科技有限公司 | 创意设计的生成方法、装置、终端、存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20220301239A1 (en) | 2022-09-22 |
US20190087982A1 (en) | 2019-03-21 |
US11386587B2 (en) | 2022-07-12 |
JP7242165B2 (ja) | 2023-03-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220301239A1 (en) | Automatic coloring of line drawing | |
AU2017235889B2 (en) | Digitizing physical sculptures with a desired control mesh in 3d | |
JP7213616B2 (ja) | 情報処理装置、情報処理プログラム及び情報処理方法。 | |
US11455773B2 (en) | Image processing method and device | |
JP7474793B2 (ja) | 線画自動着色プログラム、線画自動着色装置及びグラフィカルユーザインターフェース用プログラム | |
CN104580883B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
CN108307189A (zh) | 三维内容提供系统、方法及计算机可读记录介质 | |
JP2019046094A (ja) | 情報処理装置、情報処理装置の制御方法及びプログラム | |
CN115812221A (zh) | 图像生成及着色方法及装置 | |
CN107730568B (zh) | 基于权重学习的着色方法和装置 | |
US20020175923A1 (en) | Method and apparatus for displaying overlapped graphical objects using depth parameters | |
JP6004260B2 (ja) | 線画着色システム | |
JP2009199308A (ja) | 線画処理装置、プログラム及び線画処理方法 | |
JP4530173B2 (ja) | 顔パーツの位置の検出方法及び検出システム | |
JP2020140659A (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN110428360B (zh) | 汽车图像美化方法、设备、存储介质及装置 | |
US11475613B1 (en) | Assisted creation of artistic digital images | |
JP6711031B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
CN110874830A (zh) | 图像处理的方法、装置和设备 | |
JP3192116U (ja) | 画像処理装置 | |
US20220129973A1 (en) | Image Modification to Generate Ghost Mannequin Effect in Image Content | |
TWI439962B (zh) | 直覺式深度影像產生系統及深度影像生成方法 | |
JP2019501472A (ja) | 画像のグラフィック処理方法 | |
CN114693843A (zh) | 印染织物烧毛机的动画生成方法、装置及可读存储介质 | |
CN114120394A (zh) | 人脸关键点检测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20200212 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200828 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210616 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210622 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210818 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220712 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20220909 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221006 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230308 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7242165 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |