CN108780565B - 图像处理装置、图像处理方法及存储介质 - Google Patents

图像处理装置、图像处理方法及存储介质 Download PDF

Info

Publication number
CN108780565B
CN108780565B CN201780019497.3A CN201780019497A CN108780565B CN 108780565 B CN108780565 B CN 108780565B CN 201780019497 A CN201780019497 A CN 201780019497A CN 108780565 B CN108780565 B CN 108780565B
Authority
CN
China
Prior art keywords
partial
image processing
processing
image
priority
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780019497.3A
Other languages
English (en)
Other versions
CN108780565A (zh
Inventor
板垣和幸
竹本昂生
长尾隆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Fujifilm Business Innovation Corp
Original Assignee
Fujifilm Corp
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp, Fujifilm Business Innovation Corp filed Critical Fujifilm Corp
Publication of CN108780565A publication Critical patent/CN108780565A/zh
Application granted granted Critical
Publication of CN108780565B publication Critical patent/CN108780565B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种图像处理装置、图像处理方法及存储介质,作为图像处理装置而发挥功能的计算机对被连结的图像处理模块之间的部分处理赋予处理的依赖关系,并且对各部分处理赋予优先度,按照所赋予的优先度,将能够基于依赖关系执行的部分处理进行排列并登录到可执行部分处理列表中,并按照所登录的可执行部分处理列表中的优先度从高到低的顺序执行部分处理,所述图像处理装置通过以定向非循环图形式连结多个执行图像处理的图像处理模块而成的图像处理模块组的各图像处理模块,对按每一个部分区域分割由输入图像数据来表示的输入图像而成的各分割图像数据进行部分处理。

Description

图像处理装置、图像处理方法及存储介质
技术领域
本公开技术涉及一种图像处理装置、图像处理方法及存储介质。
背景技术
以往,已知有按照对象组进行图像处理的技术,该对象组以DAG(DirectedAcyclic Graph:定向非循环(非周期性)图)形式连结有多个用于执行图像处理的对象(参考日本专利4694264号公报)。
并且,已知有如下技术:在根据以DAG形式连结有多个节点(任务)的图执行处理的情况下,当执行各节点时,按照图而搜索接下来执行的节点(参考日本专利第4491026号公报)。
并且,已知有如下技术:在根据以DAG形式连结有多个执行图像处理的对象的对象组来执行图像处理的情况下,当执行图像处理时,伴随图像处理的进行而提高位于后级侧的对象的优先度(参考日本特开2007-323393号公报)。
发明内容
发明要解决的技术课题
然而,在日本专利第4694264号公报中记载的技术中,例如依次执行根据由应用程序的指示所构建的上述对象组能够执行的处理,有时无法以处理效率从高到低的顺序执行处理。
并且,在日本专利第4491026号公报中记载的技术中,当执行各节点时,按照图而搜索接下来执行的节点,因此有时导致执行处理时的探索处理负荷较高且处理效率降低。
并且,在日本特开2007-323393号公报中记载的技术中,在执行通过上述对象组进行的图像处理时,变更位于后级侧的对象的优先度,因此有时导致在执行图像处理时的优先度的变更处理的负荷较高且处理效率降低。
本公开技术提供一种在存在多个能够执行的处理的情况下,能够选择抑制处理效率的降低且能够执行的处理的图像处理装置、图像处理方法及图像处理程序。
用于解决技术课题的手段
本发明的第1方式的图像处理装置通过以定向非循环图形式连结多个执行图像处理的对象而成的对象组的各对象,对按每一个部分区域分割由输入图像数据来表示的输入图像而成的各分割图像数据进行部分处理,所述图像处理装置具备:赋予部,对被连结的对象之间的部分处理赋予处理的依赖关系,并且对各部分处理赋予优先度;登录部,按照被赋予的优先度,将能够基于依赖关系执行的部分处理进行排列,并登录到可执行部分处理列表中;及执行部,按照通过登录部登录的可执行部分处理列表中的优先度从高到低的顺序执行部分处理。
另外,本发明的第2方式的图像处理装置在第1方式的图像处理装置中,依赖关系可以是如下关系,即,在被连结的对象之间,在连结到前级的对象的部分处理结束的情况下,能够执行连结到后级的对象的部分处理。
并且,本发明的第3方式的图像处理装置在第1方式或第2方式的图像处理装置中,赋予部可以对通过连结到后级的对象而执行的部分处理赋予比通过连结到前级的对象而执行的部分处理高的优先度。
并且,本发明的第4方式的图像处理装置在第1方式至第3方式中任一方方式的图像处理装置中,关于存在依赖关系的各部分处理,赋予部可以将根据连结到前级的对象的部分处理的优先度的优先度赋予到连结到后级的对象的部分处理。
并且,本发明的第5方式的图像处理装置在第1方式至第4方式中任一方式的图像处理装置中,在对象组中存在并行执行的对象的情况下,赋予部可以对并行执行的对象之间的部分处理赋予处理顺序交替的优先度。
并且,本发明的第6方式的图像处理装置在第1方式至第5方式中任一方式的图像处理装置中,分割图像数据为表示输入图像在主视图中被上下方分割的分割图像的图像数据,赋予部可以对处理表示输出图像的位于主视图上方的分割图像的分割图像数据的部分处理,赋予比处理表示输出图像的位于主视图下方的分割图像的分割图像数据的部分处理高的优先度。
本发明的第7方式的图像处理方法为通过图像处理装置进行的图像处理方法,所述图像处理装置通过以定向非循环图形式连结多个执行图像处理的对象而成的对象组的各对象,对按每一个部分区域分割由输入图像数据来表示的输入图像而成的各分割图像数据进行部分处理,所述图像处理方法对被连结的对象之间的部分处理赋予处理的依赖关系,并且对各部分处理赋予优先度,按照所赋予的优先度,将能够基于依赖关系执行的部分处理进行排列,并登录到可执行部分处理列表中,按照所登录的可执行部分处理列表中的优先度从高到低的顺序而执行部分处理。
本发明的第8方式的图像处理程序用于使计算机作为本发明的第1方式至第6方式中任一方式的图像处理装置的赋予部、登录部及执行部发挥功能。
发明效果
根据本发明的一实施方式,在存在多个能够执行的处理的情况下,能够选择抑制处理效率的降低且能够执行的处理。
附图说明
图1是表示作为实施方式所涉及的图像处理装置发挥功能的计算机的结构的一例的框图。
图2A是表示图像处理DAG的一例的概略图。
图2B是表示将输入输出用存储器添加到图像处理DAG的情况的一例的概略图。
图3是表示实施方式所涉及的处理控制部的功能性结构的一例的框图。
图4A是用于说明输入图像的分割处理的一例的概略图。
图4B是用于说明输入图像的分割处理的一例的概略图。
图5是表示图像处理模块被分割为部分处理的图像处理DAG的一例的概略图。
图6是表示对部分处理赋予优先度的图像处理DAG的一例的概略图。
图7是表示在进行图像的色彩转换处理的情况下对部分处理赋予的优先度的一例的概略图。
图8是表示在进行将图像的上下翻转的处理的情况下对部分处理赋予的优先度的一例的概略图。
图9是表示对部分处理赋予优先度的图像处理DAG的一例的概略图。
图10是表示实施方式所涉及的可执行部分处理列表的一例的概略图。
图11是表示实施方式所涉及的图像处理程序的处理流程的流程图。
图12是表示通过实施方式所涉及的图像处理DAG进行的图像处理的时序转移的一例的示意图。
图13是表示通过实施方式所涉及的图像处理DAG进行的图像处理的时序转移的一例的示意图。
具体实施方式
以下,参考附图对用于实施本公开技术的方式例详细地进行说明。
首先,参考图1对作为图像处理装置发挥功能的计算机10的结构进行说明。另外,计算机10可以是组装到图像处理设备中的计算机,所述图像处理设备在复印机、打印机、传真装置、兼具这些装置的功能的复合机及扫描仪等的内部进行图像处理。并且,计算机10可以是PC(Personal Computer:个人电脑)等独立的计算机,也可以是组装到PDA(PersonalDigital Assistant:个人数字助理)及移动电话等移动设备中的计算机。
如图1所示,本实施方式所涉及的计算机10具备第1运算部12A、第2运算部12B、存储器14、显示部16、操作部18、存储部20、图像数据供给部22及图像输出部24。并且,第1运算部12A、第2运算部12B、存储器14、显示部16、操作部18、存储部20、图像数据供给部22及图像输出部24的各部经由总线26而彼此连接。
本实施方式所涉及的第1运算部12A是计算机10的主处理器,作为一例为具有多个处理器核心的CPU(Central Processing Unit:中央处理器)。并且,本实施方式所涉及的第2运算部12B作为一例为内部具有本地存储器13的GPU(Graphics Processing Unit:图形处理器)。另外,第2运算部12B可以是与第1运算部12A相同种类的CPU,也可以是不同种类的CPU。并且,第2运算部12B可以是内置于第1运算部12A中的GPU。并且,第2运算部12B可以是内部不具有本地存储器13的GPU。并且,第1运算部12A及第2运算部12B可以是FPGA(FieldProgrammable Gate Array:现场可编程门阵列)等运算器。
存储器14是第1运算部12A及第2运算部12B临时存储数据的非易失性存储构件。在由本实施方式所涉及的第2运算部12B进行图像处理的情况下,第1运算部12A将存储在存储器14或存储部20的存储区域中的图像数据经由总线26而传送到第2运算部12B。然后,第2运算部12B将从第1运算部12A传送过来的图像数据存储到本地存储器13中,并对所存储的图像数据进行图像处理。另外,第2运算部12B可以直接读取存储在存储器14或存储部20中的图像数据并进行图像处理。
在计算机10组装到前述图像处理设备中的情况下,显示部16及操作部18例如适用设置在图像处理设备中的LCD(Liquid Crystal Display:液晶显示器)等显示面板及数字键等。并且,在计算机10为独立的计算机的情况下,显示部16及操作部18例如适用连接在计算机10上的显示器及键盘、鼠标等。并且,显示部16及操作部18可以是触控面板及显示器成一体化而构成的触控面板显示器等。并且,存储部20适用HDD(Hard Disk Drive:硬盘驱动器)、SSD(Solid State Drive:固态硬盘)及闪存等非易失性存储介质。
图像数据供给部22只要供给处理对象的图像数据即可,例如适用图像读取部,该图像读取部读取记录在纸张或胶卷等记录材料上的图像并输出图像数据。并且,图像数据供给部22例如适用经由通信线路而从外部装置接收图像数据的接收部、及存储图像数据的图像存储部(存储器14或存储部20)等。
图像输出部24只要输出经过图像处理的图像数据或经过图像处理的图像数据所表示的图像即可,例如适用将图像数据所表示的图像记录在纸张或感光材料等记录材料上的图像记录部。并且,图像输出部24适用将图像数据所表示的图像显示于显示器等上的显示部(显示部16)、将图像数据写入CD-ROM(Compact Disc Read Only Memory:光盘只读存储器)等记录介质上的写入装置。并且,图像输出部24适用经由通信线路而将经过图像处理的图像数据发送到外部装置的发送部。并且,图像输出部24可以是存储经过图像处理的图像数据的图像存储部(存储器14或存储部20)。
如图1所示,存储部20中存储有通过第1运算部12A及第2运算部12B而执行的各种程序。在存储部20中,作为各种程序而存储有资源管理、程序执行的管理及将计算机10与外部装置的通信等进行管理的操作系统30的程序。并且,在存储部20中,作为各种程序而存储有用于使计算机10作为图像处理装置发挥功能的图像处理程序组34。并且,在存储部20中,作为各种程序而存储有对上述图像处理装置进行所希望的图像处理的各种应用程序组32(以下,称作“应用程序32”。)。
图像处理程序组34是以减轻在开发由前述图像处理设备、移动设备及PC等执行的图像处理程序时的负担为目的所开发出来的程序。并且,图像处理程序组34是以在前述图像处理设备、移动设备及PC等各种设备(平台)中能够共同执行的方式开发出来的程序。
通过图像处理程序组34而实现的图像处理装置按照来自应用程序32的构建指示,构建进行由应用程序32指示的图像处理的图像处理DAG50A(详细内容将进行后述)。而且,上述图像处理装置按照来自应用程序32的执行指示而执行图像处理DAG50A的处理。因此,图像处理程序组34将界面提供于应用程序32,所述界面用于指示进行所希望的图像处理的图像处理DAG50A的构建,或者用于指示通过所构建的图像处理DAG50A而执行图像处理。
根据以上结构,在新开发出需要在内部进行图像处理的任意的设备等情况下,关于进行上述图像处理的程序的开发,也只要如下所示进行开发即可。该情况下,只要开发出利用上述界面使图像处理程序组34进行在上述任意的设备中所需要的图像处理的应用程序32即可。从而,开发人员不需要重新开发出实际进行图像处理的程序,可以减轻开发人员的负担。
接着,关于本实施方式所涉及的图像处理程序组34详细地进行说明。如图1所示,图像处理程序组34包括模块库36、处理构建部42的程序及处理控制部46的程序。
模块库36中分别登录有进行预先设定的彼此不同的图像处理的多种图像处理模块38的程序。作为该图像处理,例如可以举出输入处理、过滤处理、色彩转换处理、放大/缩小处理(图1中标记为“缩放处理”)、倾斜角检测处理、图像旋转处理、图像合成处理及输出处理等。
并且,模块库36中也登录有图像处理的种类相同且所执行的图像处理的内容不同的图像处理模块38。在图1中,将这种图像处理模块在末尾标注数字而区别为“模块1”、“模块2”。例如关于进行放大/缩小处理的图像处理模块38,准备有进行缩小处理的图像处理模块38,所述缩小处理为在水平方向及垂直方向的各方向上均对所输入的图像数据每隔1个像素进行间隔剔除,由此将图像的纵横大小缩小为50%。而且,例如关于进行放大/缩小处理的图像处理模块38,准备有以所指定的放大/缩小率对所输入的图像数据进行放大/缩小处理的图像处理模块38等。
并且,例如关于进行色彩转换处理的图像处理模块38,准备有将RGB(Red(红)Green(绿)Blue(蓝))色彩空间的图像转换为CMYK(Cyan(青)Magenta(洋红)Yellow(黄)Key-Plate(黑))色彩空间的图像的图像处理模块38及将CMYK色彩空间的图像转换为RGB色彩空间的图像的图像处理模块38。进而,例如关于进行色彩转换处理的图像处理模块38,准备有将RGB色彩空间的图像转换为YCbCr色彩空间的图像的图像处理模块38及将YCbCr色彩空间的图像转换为RGB色彩空间的图像的图像处理模块38等。
并且,本实施方式所涉及的图像处理模块38中包括运算部信息,该运算部信息表示由第1运算部12A及第2运算部12B中的哪一个运算部来执行各图像处理模块38。另外,运算部信息可以根据图像处理模块38的种类及图像处理内容中的至少一方被预先设定,也可以在根据来自应用程序32的指示通过后述处理构建部42而构建图像处理DAG50A时被设定。
并且,模块库36中也登录有具备用于存储图像数据的存储区域(缓冲)的缓冲模块40。
本实施方式所涉及的处理构建部42根据来自应用程序32的指示而构建DAG形式的图像处理DAG50A。在图像处理DAG50A中,作为一例,如图2A所示,1个以上的图像处理模块38经由配置在各图像处理模块38的前级及后级中的至少一方的缓冲模块40而被连结。
另外,各个图像处理模块38为对输入图像数据执行图像处理并输出图像数据的对象的一例。并且,图像处理DAG50A为连结有多个图像处理模块38的对象组的一例。并且,在图2A所示例中,在由前级的图像处理模块38进行的图像处理结束的情况下,经由缓冲模块40而在前级连结有图像处理模块38的图像处理模块38示出能够执行本身的图像处理。并且,在前级的多个图像处理模块38的所有图像处理结束的情况下,经由缓冲模块40而在前级连结有多个图像处理模块38的图像处理模块38示出能够执行本身的图像处理。
并且,图2A中示出只有各模块按处理顺序连接的DAG,在执行该DAG时,如图2B所示被输入存储在存储器14中的图像数据,并按照DAG进行图像处理。然后,最终在存储器14中存储完成处理的图像数据等处理结果。另外,由第2运算部12B执行通过各图像处理模块38而执行的图像处理的情况下,图2B中示出的存储器14成为本地存储器13。
接着,参考图3对本实施方式所涉及的处理控制部46的功能性结构进行说明。如图3所示,处理控制部46具备分割部60、赋予部62、列表存储部64、登录部68、执行部70及输出部72。
本实施方式所涉及的分割部60将由作为输入图像数据的处理对象的部分来表示的图像分割为多个部分区域(以下,称作“分割图像”。)。作为一例,如图4A所示,分割部60将由作为输入图像数据的处理对象的部分来表示的图像G分割为多个(图4A所示例中为3个)分割图像B1~B3。另外,以下,将表示分割图像的图像数据称作“分割图像数据”。并且,作为输入图像数据的处理对象的部分是指,如色彩转换处理一样,在将整个输入图像作为处理对象的图像处理中,整个输入图像数据作为处理对象的部分。并且,作为输入图像数据的处理对象的部分是指,如剪切(修剪)处理一样,在将输入图像的一部分作为处理对象的图像处理中输入图像的一部分。以下,为了避免复杂化,将作为输入图像数据的处理对象的部分简称为“输入图像数据”。
并且,在图4A所示例中,分割部60将图像G在主视图中进行上下分割,但并不限定于此。例如分割部60可以将图像G在主视图中进行左右分割,如图4B所示,也可以在主视图中进行上下左右分割。
另外,通过分割部60进行的输入图像数据的分割数并无特别的限定。例如分割部60可以以预先规定的数或大小来分割输入图像数据。并且,例如分割部60可以将输入图像数据分割为通过图像处理模块38而执行图像处理的运算部所具有的处理器核心数以下且2以上的数。
并且,例如分割部60可以以通过图像处理模块38而执行图像处理的运算部所具有的缓存存储器的容量以下的大小来分割输入图像数据。该情况下,例如例示出如下形式:分割部60以离通过图像处理模块38而执行图像处理的运算部的处理器最远级别的缓存存储器所谓LLC(Last Level Cache:末级缓存)的容量以下且与LLC的容量尽量一致的大小来分割输入图像数据。
并且,作为一例,如图5所示,分割部60相对于图像处理DAG50A,将由各图像处理模块38执行的图像处理分割为与分割图像数据的各分割图像数据对应的部分处理39(任务),从而构建图像处理DAG50B。另外,图5在图2A所示的图像处理DAG50A中示出将输入图像数据分割为4个分割图像数据的情况的图像处理DAG50B。在图5中,为了避免复杂化,省略了缓冲模块40的图示。并且,后述图6及图9中也同样省略了缓冲模块40的图示。
本实施方式所涉及的赋予部62根据由图像处理模块38执行的图像处理的种类,在连结在前级的图像处理模块38的部分处理39与连结在后级的图像处理模块38的部分处理39之间赋予依赖关系。另外,在图5中,用虚线的箭头来表示该依赖关系。
例如,如色彩转换处理一样,在仅对作为处理对象的像素进行图像处理的处理中,各部分处理39也成为1对1的依赖关系。另一方面,例如,如过滤处理一样,在也需要作为处理对象的像素的周边像素的图像处理中,对周边像素进行图像处理的前级的部分处理39中也赋予依赖关系。即,该依赖关系为如下关系:在被连结的图像处理模块38之间,当连结到前级的图像处理模块38的部分处理39结束的情况下,能够执行连结到后级的图像处理模块38的部分处理39。从而,在不存在对前级赋予依赖关系的部分处理39的情况下,或者在被赋予依赖关系的前级的所有部分处理39结束的情况下,能够执行部分处理39。
具体而言,例如在通过图像处理DAG50B开始执行图像处理时,能够执行图5所示的部分处理39A及部分处理39B。并且,例如在被赋予依赖关系的前级的部分处理39A及部分处理39B两者的处理结束的情况下,能够执行图5所示的部分处理39C。
并且,赋予部62对图像处理DAG50B的各部分处理39赋予优先度。另外,该优先度是指执行部分处理39时的优先度,是指在能够同时执行多个部分处理39的情况下,从优先度高的部分处理开始依次执行。作为一例,如图6所示,本实施方式所涉及的赋予部62对由连结到后级的图像处理模块38执行的部分处理39赋予比由连结到前级的图像处理DAG50B执行的部分处理39高的优先度。
另外,图6中的各部分处理39的内部字符串(“T11”等)是用于区别各部分处理39的字符串,以下,在区别说明各部分处理39的情况下,如部分处理T11一样,在末尾赋予内部字符串并进行说明。并且,图6中的部分处理39的左上端部的数字(“10”等)表示赋予各部分处理39的优先度。在本实施方式中,设为该数字的值越大则优先度越高的部分处理进行说明。另外,关于以图6为例进行说明的部分处理39的内部字符串及优先度,在后述图7~图10、图12及图13中也相同。
并且,关于存在依赖关系的各部分处理39,本实施方式所涉及的赋予部62将根据连结到前级的图像处理模块38的部分处理39的优先度的优先度赋予到连结到后级的图像处理模块38的部分处理39。例如如图6所示,关于赋予部62对最前级的图像处理模块38的部分处理T11、T12、T13赋予以部分处理T11、T12、T13的顺序降低的优先度的情况进行说明。该情况下,赋予部62对中级的图像处理模块38的部分处理T21、T22、T23赋予与有依赖关系的前级的部分处理T11、T12、T13的优先度相同顺序的优先度。
并且,本实施方式所涉及的赋予部62处理表示输出图像的位于主视图上方的分割图像的分割图像数据的部分处理39赋予比处理表示输出图像的位于主视图下方的分割图像的分割图像数据的部分处理39高的优先度。关于该优先度的赋予,参考图7及图8详细地进行说明。另外,以下,在只是记载为图像的“上方”、“下方”及“上下方”的情况下,是指图像的“主视图上方”、“主视图下方”及“主视图上下方”。
例如如图7所示,如色彩转换处理等一样,在输入图像的各像素和所对应的输出图像的各像素为相同位置的图像处理的情况下,赋予部62对部分处理T12、T11赋予比部分处理T13高的优先度。并且,该情况下,赋予部62对部分处理T11赋予比部分处理T12高的优先度。
另一方面,例如如图8所示,如上下翻转图像的处理等一样,在输入图像的各像素和所对应的输出图像的各像素的位置在上下方向上被替换的图像处理的情况下,赋予部62对部分处理T12、T13赋予比部分处理T11高的优先度。并且,该情况下,赋予部62对部分处理T13赋予比部分处理T12高的优先度。
并且,在图像处理DAG50B中存在并行执行的图像处理模块38的情况下,本实施方式所涉及的赋予部62对并行执行的图像处理模块38的部分处理39赋予处理顺序交替的优先度。
作为一例,如图9所示,赋予部62对未赋予彼此依赖关系的部分处理T11、T12、T13及部分处理T41、T42、T43赋予按部分处理T11、T41、T12、T42、T13、T43的顺序降低的优先度。
本实施方式所涉及的列表存储部64包括后述可执行部分处理列表66的存储区域。
本实施方式所涉及的登录部68将根据图像处理DAG50B基于在各部分处理39之间被赋予的依赖关系能够执行的部分处理39按照被赋予的优先度进行排列,并登录到可执行部分处理列表66中。作为一例,将通过图6所示的图像处理DAG50B进行的图像处理刚开始执行之后的可执行部分处理列表66示于图10中。
如图6所示,在通过图像处理DAG50B进行的图像处理刚开始执行之后,能够执行最前级的图像处理模块38的部分处理T11、T12、T13。即,如图10所示,登录部68将能够执行的部分处理T11、T12、T13按优先度从高到低的顺序即部分处理T11、T12、T13的顺序进行排列,并登录到可执行部分处理列表66中。
本实施方式所涉及的执行部70按由登录部68登录的可执行部分处理列表66中的优先度从高到低的顺序执行部分处理39。在执行该部分处理39时,在本实施方式中,作为一例,执行部70使由图像处理模块38的运算部信息表示的运算部(第1运算部12A或第2运算部12B)执行部分处理39。
本实施方式所涉及的输出部72输出由图像处理DAG50B的最终阶段的图像处理模块38执行的图像处理的结果而得到的输出图像数据。在本实施方式中,输出部72将所得到的输出图像数据显示于显示部16。另外,输出部72可以将输出图像数据输出(发送)到外部装置。并且,在计算机10组装到打印机中的情况下,输出部72可以将由输出图像数据来表示的输出图像输出(形成)于纸张等记录材料。
接着,参考图11对本实施方式所涉及的计算机10的作用进行说明。另外,图11是表示在由应用程序32输入了图像处理的开始执行指示的情况下,通过第1运算部12A而执行的图像处理程序的处理流程的流程图。并且,该图像处理程序预先安装在存储部20中。并且,通过第1运算部12A执行图像处理程序,第1运算部12A作为前述处理构建部42、分割部60、赋予部62、登录部68、执行部70及输出部72发挥功能。
在图11的步骤100中,处理构建部42按照来自应用程序32的构建指示而构建进行应用程序32所指示的图像处理的图像处理DAG50A。在下一步骤102中,如前所述,分割部60将输入图像数据分割为多个分割图像数据。然后,分割部60相对于在步骤100中构建的图像处理DAG50A,将通过各图像处理模块38而执行的图像处理分割为与分割图像数据的各分割图像数据对应的部分处理39,从而构建图像处理DAG50B。
在下一个步骤104中,赋予部62根据通过图像处理模块38而执行的图像处理的种类,在连结到前级的图像处理模块38的部分处理39与连结到后级的图像处理模块38的部分处理39之间赋予依赖关系。并且,如前所述,赋予部62对图像处理DAG50B的各部分处理39赋予优先度。在下一个步骤106中,如前所述,登录部68将基于在步骤104中被赋予的依赖关系能够执行的部分处理39按照被赋予的优先度进行排列,并登录到可执行部分处理列表66中。
在下一个步骤108中,执行部70从可执行部分处理列表66的顶部获取预先设定的、表示并行执行的部分处理39的数量的并行度的部分处理39,并从可执行部分处理列表66删除所获取的部分处理39。在下一个步骤110中,执行部70使运算部执行在步骤108中获取的部分处理39,所述运算部由包括所获取的部分处理39的图像处理模块38的运算部信息来表示。
在下一个步骤112中,执行部70判定在步骤110中执行并结束的部分处理39中是否包括图像处理DAG50B的最终阶段的图像处理模块38的部分处理39。执行部70在该判定为否定判定的情况下转移到步骤116,另一方面,在成为肯定判定的情况下转移到步骤114。
在步骤114中,输出部72将由图像处理DAG50B的最终阶段的图像处理模块38的部分处理39所输出的输出图像数据输出到显示部16之后转移到步骤116。在步骤116中,执行部70判定图像处理DAG50B的所有部分处理39的执行是否结束。执行部70在该判定成为否定判定的情况下转移到步骤118。
在步骤118中,登录部68基于图像处理DAG50B的依赖关系将能够重新执行的部分处理39登录到可执行部分处理列表66中之后返回到步骤108。当进行该登录时,登录部68例如利用二分插入排序等排列方法登录能够重新执行的部分处理39之后,可执行部分处理列表66的部分处理39将部分处理39登录到按照优先度排列状态的位置。另一方面,执行部70在步骤116的判定成为肯定判定的情况下结束该图像处理。
接着,参考图12及图13,根据以上已进行说明的图像处理程序,对所执行的部分处理39、可执行部分处理列表66及能够重新执行的部分处理39的时序的转移进行说明。另外,图12示出按照图6所示的图像处理DAG50B以并行度“1”进行图像处理的情况的时序的转移。并且,图13示出按照图9所示的图像处理DAG50B以并行度“2”进行图像处理的情况的时序的转移。并且,为了简化说明,图13的并行执行的部分处理39(例如在时刻B执行的部分处理T11、T41)设为同时结束执行的部分处理进行说明。
如图12所示,在通过图6所示的图像处理DAG50B进行的图像处理刚开始执行之后的时刻A,如下所示,能够执行的部分处理39登录到可执行部分处理列表66中。即,在时刻A,根据上述步骤106的处理,部分处理T11、T12、T13按优先度从高到低的顺序以部分处理T11、T12、T13的顺序进行排列,并登录到可执行部分处理列表66中。
在下一个时刻B,根据上述步骤108的处理,从可执行部分处理列表66的顶部获取并删除并行度数量(在此为1个)的部分处理T11。然后,根据上述步骤110的处理而执行所获取的部分处理T11。在部分处理T11的执行结束的时刻C,能够重新执行部分处理T21。在下一个时刻D,根据步骤118的处理,部分处理T21按照被赋予的优先度而登录到可执行部分处理列表66的顶部。
在下一个时刻E,根据上述步骤108的处理,从可执行部分处理列表66的顶部获取并删除并行度数量的部分处理T21。然后,根据上述步骤110的处理,执行所获取的部分处理T21。在部分处理T21的执行结束的时刻F,能够重新执行部分处理T31。在下一个时刻G,根据上述步骤118的处理,部分处理T31按照被赋予的优先度而登录到可执行部分处理列表66的顶部。以下,也反复进行相同的处理,因此在此省略说明。
另一方面,如图13所示,在通过图9中示出的图像处理DAG50B进行的图像处理刚开始执行之后的时刻A,如下所示能够执行的部分处理39登录到可执行部分处理列表66中。即,在时刻A,根据上述步骤106的处理,部分处理T11~T13、T41~T43按优先度从高到低的顺序,以部分处理T11、T41、T12、T42、T13、T43的顺序进行排列,并登录到可执行部分处理列表66中。
在下一个时刻B,根据上述步骤108的处理,从可执行部分处理列表66的顶部获取并删除并行度数量(在此为2个)的部分处理T11、T41。然后,根据上述步骤110的处理,执行所获取的部分处理T11、T41。在部分处理T11、T41的执行结束的时刻C,能够重新执行部分处理T21。在下一个时刻D,根据上述步骤118的处理,部分处理T21按照被赋予的优先度而登录到可执行部分处理列表66的顶部。
在下一个时刻E,根据上述步骤108的处理,从可执行部分处理列表66的顶部获取并删除並行度的数量的部分处理T21、T12。然后,根据上述步骤110的处理,执行被获取的部分处理T21、T12。在部分处理T21、T12的执行结束的时刻F,能够重新执行部分处理T22、T31、T51。在下一个时刻G,根据上述步骤118的处理,部分处理T22、T31、T51按照被赋予的优先度,按部分处理T31、T51、T22的顺序登录到可执行部分处理列表66的顶部。以下,也反复进行相同的处理,因此在此省略说明。
如以上说明,根据本实施方式,对被连结的图像处理模块38之间的部分处理39赋予处理的依赖关系,并且对各部分处理39赋予优先度。并且,将基于依赖关系能够执行的部分处理39按照被赋予的优先度进行排列,并登录到可执行部分处理列表66中。然后,按可执行部分处理列表66中的优先度从高到低的顺序执行部分处理39。
当执行图像处理时,在选择通过以DAG形式连结有多个对象的对象组而能够执行的处理的情况下,若跟踪对象为n个,则用于选择能够执行的处理的计算量成为0(n)。相对于此,在本实施方式中,将能够执行的部分处理39按照被赋予的优先度进行排列,并登录到可执行部分处理列表66中,在执行图像处理时,将登录到可执行部分处理列表66中的部分处理39从顶部获取并执行即可,因此计算量为0(1)即可。从而,根据本实施方式,在存在多个能够执行的处理的情况下,能够选择抑制处理效率的降低且能够执行的处理。另外,上述O(n)及O(1)是根据O记法的计算量,表示计算量(量级)。
并且,根据本实施方式,对由连结到后级的图像处理模块38执行的部分处理39赋予比由连结到前级的图像处理模块38执行的部分处理39高的优先度。其结果,例如如部分处理T11、T21、T31一样,对相同的区域的分割图像数据进行处理的部分处理39连续执行的可能性提高。该情况下,在部分处理39之间访问的存储区域的时间局部性提高,因此图像处理高速执行的可能性提高。从而,根据本实施方式,在存在多个执行的处理的情况下,能够选择进一步抑制处理效率的降低且能够执行的处理。
并且,根据本实施方式,关于存在依赖关系的各部分处理39,将根据连结到前级的图像处理模块38的部分处理39的优先度的优先度赋予到连结到后级的图像处理模块38的部分处理39。其结果,例如如部分处理T11、T21、T31一样,对相同区域的分割图像数据进行处理的部分处理39连续执行的可能性提高。该情况下,在部分处理39之间访问的存储区域的时间局部性提高,因此图像处理高速执行的可能性提高。从而,根据本实施方式,在存在多个能够执行的处理的情况下,能够选择进一步抑制处理效率的降低且能够执行的处理。
并且,根据本实施方式,在图像处理DAG50B中存在并行执行的图像处理模块38的情况下,对并行执行的图像处理模块38之间的部分处理39赋予处理顺序交替的优先度。其结果,例如如部分处理T11、T21、T31一样,未等到包括部分处理T11、T12、T13的图像处理模块38的所有部分处理39结束,图像处理以分割图像数据单位结束的可能性提高。该情况下,未等到各图像处理模块38的所有部分处理39结束,对结束图像处理的每一个部分处理39,能够从存储区域删除分割图像数据。从而,根据本实施方式,能够减少存储区域的使用量。
并且,根据本实施方式,对处理表示输出图像的位于主视图上方的分割图像的分割图像数据的部分处理39赋予比处理表示输出图像的位于主视图下方的分割图像的分割图像数据的部分处理39高的优先度。由此,与处理表示位于主视图下方的分割图像的分割图像数据的部分处理39相比,处理表示位于主视图上方的分割图像的分割图像数据的部分处理39更早结束。
通常,对显示部的图像的显示及对纸张等记录材料的图像的形成,多数情况下通过光栅扫描而进行。在本实施方式中,从对表示位于主视图上方的分割图像的分割图像数据进行处理的部分处理39开始尽早结束,因此能够从主视图上方依次输出分割图像。从而,根据本实施方式,未等到图像处理DAG50B的最终阶段的图像处理模块38的所有部分处理39结束,从已结束处理的部分处理39开始依次输出图像数据,由此能够缩短也包括图像输出的图像处理所需时间。
另外,在上述实施方式中,关于对各部分处理39赋予不同的优先度的情况进行了说明,但并不限定于此。也可以设为对一部分部分处理39赋予相同的优先度的形式。该形式例的情况下,例示出被赋予相同优先度的部分处理39例如按登录到可执行部分处理列表66的顺序执行的形式。
并且,对部分处理39赋予优先度的方法并不限定于由上述实施方式表示的例子。例如也可以设为根据运算部信息对部分处理39赋予优先度的形式。该形式例的情况下,例如在第2运算部12B的图像处理的速度性能比第1运算部12A高的情况下,例示出以下所示的形式。即,该情况下,例示出将由第2运算部12B执行的图像处理模块38的部分处理39的优先度设为比由第1运算部12A执行的图像处理模块38的部分处理39的优先度高的形式。
并且,在上述实施方式中,关于使由运算部信息来表示的运算部执行通过图像处理模块38进行的图像处理的情况进行了说明,但并不限定于此。例如如图9的连结到上级的3个图像处理模块38一样,也可以设为使相同的运算部执行通过对相同的图像进行图像处理的图像处理模块38而进行的图像处理的形式。
并且,在上述实施方式中,对各种程序预先存储(安装)在存储部20中的方式进行了说明,但并不限定于此。各种程序可以以记录在CD-ROM、DVD-R0M(Digital VersatileDisk Read Only Memory:数字多功能磁盘只读存储器)、USB(Universal Serial Bus:通用串行总线)存储器等记录介质中的形式而被提供。并且,各种程序也可以设为经由网络从外部装置下载的形式。
本申请主张基于2016年3月24日于日本申请的日本专利申请2016-060524号的公开通过参考而援用于本说明书中。
在本说明书中记载的所有文献、专利申请及技术标准中,通过参考而援用各文献、日本专利申请及技术标准的情况与通过具体且与分别记载的情况相同的程度,通过参考而援用于本说明书中。
符号说明
10-计算机,12A-第1运算部,12B-第2运算部,13-本地存储器,14-存储器,16-显示部,18-操作部,20-存储部,22-图像数据供给部,24-图像输出部,26-总线,30-操作系统,32-应用程序组,34-图像处理程序组,36-模块库,38-图像处理模块,39、39A~39C-部分处理,40-缓冲模块,42-处理构建部,46-处理控制部,50A、50B-图像处理DAG,60-分割部,62-赋予部,64-列表存储部,66-可执行部分处理列表,68-登录部,70-执行部,72-输出部,B1~B3-分割图像,G-图像。

Claims (7)

1.一种图像处理装置,其通过以定向非循环图形式连结多个执行图像处理的对象而成的对象组的各对象,对按每一个部分区域分割由输入图像数据来表示的输入图像而成的各分割图像数据进行部分处理,
所述图像处理装置具备:
赋予部,对被连结的所述对象之间的所述部分处理赋予处理的依赖关系,并且对各部分处理赋予优先度;
登录部,按照被赋予的所述优先度,将基于所述依赖关系而能够执行的部分处理进行排列,并登录到可执行部分处理列表中;及
执行部,按照通过所述登录部登录的可执行部分处理列表中的优先度从高到低的顺序执行所述部分处理,
所述赋予部对通过连结到后级的所述对象而执行的部分处理赋予比通过连结到前级的所述对象而执行的部分处理高的优先度。
2.根据权利要求1所述的图像处理装置,其中,
所述依赖关系是如下关系,即,在被连结的所述对象之间,在连结到前级的所述对象的部分处理结束的情况下,能够执行连结到后级的所述对象的部分处理。
3.根据权利要求1或2所述的图像处理装置,其中,
关于存在所述依赖关系的各部分处理,所述赋予部将根据连结到前级的所述对象的部分处理的优先度的优先度赋予到连结到后级的所述对象的部分处理。
4.根据权利要求1所述的图像处理装置,其中,
在所述对象组中存在并行执行的对象的情况下,所述赋予部对并行执行的对象之间的部分处理赋予处理顺序交替的优先度。
5.根据权利要求1所述的图像处理装置,其中,
所述分割图像数据为表示所述输入图像在主视图中被上下分割的分割图像的图像数据,
所述赋予部对处理表示输出图像的位于主视图上方的分割图像的分割图像数据的部分处理,赋予比处理表示输出图像的位于主视图下方的分割图像的分割图像数据的部分处理高的优先度。
6.一种图像处理方法,包括:
对以定向非循环图形式连结多个执行图像处理的对象而成的对象组的所述对象之间的部分处理赋予处理的依赖关系,并且对各部分处理赋予优先度;
按照所赋予的所述优先度,将基于所述依赖关系而能够执行的部分处理进行排列,并登录到可执行部分处理列表中;及
按照所登录的所述可执行部分处理列表中的优先度从高到低的顺序,通过所述对象组的各对象,对按每一个部分区域分割由输入图像数据来表示的输入图像而成的各分割图像数据执行所述部分处理,
在所述赋予中,对通过连结到后级的所述对象而执行的部分处理赋予比通过连结到前级的所述对象而执行的部分处理高的优先度。
7.一种存储介质,是存储有使计算机执行图像处理的程序的非易失性存储介质,
所述图像处理包括:
对以定向非循环图形式连结多个执行图像处理的对象而成的对象组的所述对象之间的部分处理赋予处理的依赖关系,并且对各部分处理赋予优先度;
按照所赋予的所述优先度,将基于所述依赖关系而能够执行的部分处理进行排列,并登录到可执行部分处理列表中;及
按照所登录的所述可执行部分处理列表中的优先度从高到低的顺序,通过所述对象组的各对象,对按每一个部分区域分割由输入图像数据来表示的输入图像而成的各分割图像数据执行所述部分处理,
在所述赋予中,对通过连结到后级的所述对象而执行的部分处理赋予比通过连结到前级的所述对象而执行的部分处理高的优先度。
CN201780019497.3A 2016-03-24 2017-01-25 图像处理装置、图像处理方法及存储介质 Active CN108780565B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016-060524 2016-03-24
JP2016060524 2016-03-24
PCT/JP2017/002574 WO2017163592A1 (ja) 2016-03-24 2017-01-25 画像処理装置、画像処理方法、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
CN108780565A CN108780565A (zh) 2018-11-09
CN108780565B true CN108780565B (zh) 2022-08-02

Family

ID=59901061

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780019497.3A Active CN108780565B (zh) 2016-03-24 2017-01-25 图像处理装置、图像处理方法及存储介质

Country Status (4)

Country Link
US (1) US10878526B2 (zh)
JP (1) JP6592184B2 (zh)
CN (1) CN108780565B (zh)
WO (1) WO2017163592A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6891153B2 (ja) * 2018-09-18 2021-06-18 富士フイルムビジネスイノベーション株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
US11661459B2 (en) 2020-12-03 2023-05-30 Century Therapeutics, Inc. Artificial cell death polypeptide for chimeric antigen receptor and uses thereof
EP4263600A1 (en) 2020-12-18 2023-10-25 Century Therapeutics, Inc. Chimeric antigen receptor systems with adaptable receptor specificity

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009054003A (ja) * 2007-08-28 2009-03-12 Fujifilm Corp 画像処理装置及びプログラム
JP2012027901A (ja) * 2010-06-25 2012-02-09 Canon Inc 画像処理装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4694264B2 (ja) 2005-06-03 2011-06-08 富士ゼロックス株式会社 画像処理装置、方法及びプログラム
JP3938387B2 (ja) * 2005-08-10 2007-06-27 インターナショナル・ビジネス・マシーンズ・コーポレーション コンパイラ、制御方法、およびコンパイラ・プログラム
JP2007323393A (ja) * 2006-06-01 2007-12-13 Fuji Xerox Co Ltd 画像処理装置及びプログラム
JP2009054001A (ja) * 2007-08-28 2009-03-12 Fujifilm Corp 画像処理装置及びプログラム
JP4491026B2 (ja) 2008-06-30 2010-06-30 株式会社東芝 情報処理装置、プログラム処理方法及びコンピュータプログラム
US8881158B2 (en) * 2008-11-14 2014-11-04 Nec Corporation Schedule decision device, parallel execution device, schedule decision method, and program
US8677367B2 (en) * 2009-03-31 2014-03-18 Mitsubishi Electric Corporation Execution order decision device
JP5479519B2 (ja) * 2012-03-30 2014-04-23 富士フイルム株式会社 画像処理装置、方法及びプログラム
JP2014203309A (ja) * 2013-04-05 2014-10-27 オムロン株式会社 画像処理装置、制御方法およびプログラム
US9934043B2 (en) * 2013-08-08 2018-04-03 Linear Algebra Technologies Limited Apparatus, systems, and methods for providing computational imaging pipeline
US9652817B2 (en) * 2015-03-12 2017-05-16 Samsung Electronics Co., Ltd. Automated compute kernel fusion, resizing, and interleave
JP6705443B2 (ja) * 2015-03-30 2020-06-03 日本電気株式会社 データ配置先決定装置、方法およびプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009054003A (ja) * 2007-08-28 2009-03-12 Fujifilm Corp 画像処理装置及びプログラム
JP2012027901A (ja) * 2010-06-25 2012-02-09 Canon Inc 画像処理装置

Also Published As

Publication number Publication date
US20190019269A1 (en) 2019-01-17
JP6592184B2 (ja) 2019-10-16
JPWO2017163592A1 (ja) 2019-01-24
WO2017163592A1 (ja) 2017-09-28
CN108780565A (zh) 2018-11-09
US10878526B2 (en) 2020-12-29

Similar Documents

Publication Publication Date Title
CN108463836B (zh) 图像处理装置、图像处理方法和图像处理程序
CN108475213B (zh) 图像处理装置、图像处理方法和图像处理程序
US10949942B2 (en) Image processing apparatus, image processing method, and image processing program
CN108780565B (zh) 图像处理装置、图像处理方法及存储介质
US11257178B2 (en) Image processing device, image processing method, and storage medium
US11341599B2 (en) Image processing apparatus, image processing method, and computer readable medium storing image processing program
US11315212B2 (en) Image processing apparatus, image processing method, and computer readable medium for executing partial processes on image-section data items
JP7039424B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
US10783604B2 (en) Image processing apparatus, image processing method, and image processing program

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Tokyo Capital of Japan

Applicant after: FUJIFILM Corp.

Applicant after: Fuji film business innovation Co.,Ltd.

Address before: Tokyo Capital of Japan

Applicant before: FUJIFILM Corp.

Applicant before: Fuji Xerox Co.,Ltd.

GR01 Patent grant
GR01 Patent grant