CN103870801A - 用于识别手势的方法和系统 - Google Patents
用于识别手势的方法和系统 Download PDFInfo
- Publication number
- CN103870801A CN103870801A CN201310322347.3A CN201310322347A CN103870801A CN 103870801 A CN103870801 A CN 103870801A CN 201310322347 A CN201310322347 A CN 201310322347A CN 103870801 A CN103870801 A CN 103870801A
- Authority
- CN
- China
- Prior art keywords
- gesture
- hand images
- template image
- controller
- programmed instruction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
- G06F3/005—Input arrangements through a video camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明提供了一种用于识别手势的方法和系统。所述系统包括:成像装置,其被配置成捕捉手部图像;以及控制器,其被配置成通过产生与最初捕捉的手部图像对称的模板图像、并将每帧捕捉的手部图像与模板图像进行匹配和比较,来识别手势的运动。
Description
技术领域
本发明涉及一种识别手势的方法和系统。更特别地,本发明涉及一种根据手部运动识别手势的方法和系统。
背景技术
通常,基于图像的手势识别需要进行预处理来从成像装置获得图像并去除背景图像和噪声。手势识别是通过检测待识别的对象、提取对象的特征、并利用已学习的算法或模式比较对象的特征而获得关于对象的信息的处理。特别地,用于处理成像装置的像素数据的图像处理需要处理大量信息的能力。在信息处理过程中,可能会需要较高的系统成本、复杂的系统以及较长的时间来处理信息。
同时,在普通的手势识别中,识别性能可能会由于身体和手势的偏差而恶化。此外,普通的手势识别可能会需要存储与图像和手势有关的大量信息的数据库,并且可能会需要用于模式匹配的处理能力。
本背景技术部分中公开的上述信息只是为了增强对本发明的背景的理解,并且因此可能包含不构成在该国对本领域普通技术人员而言已知的现有技术的信息。
发明内容
本发明提供了一种识别手势的方法和系统,其具有通过将当前手部图像与模板图像进行比较而识别手势的优点。
在经由用于识别手势的系统识别用户的手势的根据本发明示例性实施例的识别手势的方法中,该方法可以包括:捕捉用户的手部图像;产生与捕捉的手部图像中的最初手部图像对称的模板图像;在捕捉手部图像的过程中将每帧捕捉的手部图像与模板图像进行匹配和比较;以及使用匹配信息识别手势的运动。
运动的识别可以包括识别向左手势或向右手势。此外,运动的识别可以包括识别向下手势或向上手势。将手部图像与模板图像进行匹配可以包括:利用基于运动的图像差异,仅获得并产生感兴趣区域(ROI)。
根据本发明示例性实施例的识别手势的系统可以包括:捕捉单元,其配置成捕捉多个手部图像;以及识别单元,其配置成通过产生与捕捉的手部图像中的最初手部图像对称的模板图像、并将每帧捕捉的手部图像与模板图像进行匹配和比较,来识别手势的运动。
识别单元可以包括:提取单元,其配置成产生与最初捕捉的手部图像对称的模板图像;匹配单元,其配置成将每帧捕捉的手部图像与模板图像进行匹配和比较;以及推断单元,其配置成识别手势的运动。
推断单元可以配置成识别向左手势或向右手势。此外,推断单元可以配置成识别向下手势或向上手势。匹配单元可以配置成利用根据运动产生的图像差异,仅获得并产生感兴趣区域(ROI)。
附图说明
图1是根据本发明示例性实施例的识别手势的系统的示意图;
图2示出根据本发明示例性实施例的用于识别向左/向右手势和向上/向下手势的示例性手部图像;
图3示出根据本发明示例性实施例的向左手势的示例性识别;
图4示出根据本发明示例性实施例的向下手势的示例性识别;
图5示出根据本发明示例性实施例的通过手部图像的模式匹配而识别出的示例性向左手势;并且
图6是示出根据本发明示例性实施例的用于识别手势的方法的过程的示例性流程图。
附图标记的说明
110:捕捉单元 120:识别单元
122:提取单元 124:匹配单元
126:推断单元
具体实施方式
尽管示例性实施例被描述为使用多个单元来执行示例性处理,但应理解的是,所述示例性处理也可以由一个或多个模块来执行。另外,应理解的是,术语“控制器”是指包括存储器和处理器的硬件装置。所述存储器被配置成存储各模块,并且所述处理器被具体地配置成执行所述模块以执行下面进一步描述的一个或多个处理。
此外,本发明的控制逻辑可以实施为包含由处理器、控制器等执行的可执行程序指令的非暂时性计算机可读介质。计算机可读介质的实例包括但不限于ROM、RAM、压缩盘(CD)-ROM、磁带、软盘、闪存驱动器、智能卡和光学数据存储装置。计算机可读记录介质也可以分布在网络连接的计算机系统中,使得计算机可读介质以分布式方式(例如通过远程信息处理服务器或控制器局域网(CAN))被存储和执行。
本文中所用的术语仅用于描述特定实施例的目的,并且并非旨在对本发明进行限制。如本文中所使用的那样,单数形式的“一”旨在也包括复数形式,除非文中清楚地指出。还应理解的是,术语“包括”在本说明书中被使用时,指的是所陈述的特征、整数、步骤、操作、元件和/或组件的存在,而并不排除一个或多个其他特征、整数、步骤、操作、元件、组件和/或其组合的存在或附加。如本文中使用的那样,术语“和/或”包括一个或多个相关列出条目的任何和全部组合。
在下面的详细说明中,仅通过例证的方式来示出和描述本发明的示例性实施例。如本领域技术人员将认识到的那样,所描述的实施例可以以各种不同的方式进行修正,同时所有修正都不脱离本发明的精神或范围。因此,附图和说明应被视为在本质上是说明性的而不是限制性的。同样的附图标记在整个说明书中始终表示同样的元件。
在整个说明书中,除非有明确的相反描述,否则词语“包括”应被理解为意指包括所陈述的元件,但并不排除任何其它元件。
在下文中,将参考附图1至附图6详细描述本发明的示例性实施例。
图1是根据本发明示例性实施例的识别手势的系统的示意图。如图1所示,识别手势的系统可以包括由控制器执行的多个单元。这多个单元可以包括捕捉单元110和识别单元120。
捕捉单元110(例如成像装置、照相机、视频摄像机等)可以配置成捕捉用户的手部图像。此外,捕捉单元110可以配置成将每帧捕捉的手部图像传送给识别单元120。特别地,根据本发明的示例性实施例,由捕捉单元110捕捉的手部图像可以经由获得图像、去除背景和预处理步骤而被传送给识别单元120,并且执行上述步骤的元件在本领域中是众所周知的,因此将省略其详细说明。
识别单元120可以配置成基于传送的手部图像来产生用于识别手势的模板图像,并通过将捕捉的图像与模板图像进行比较来识别手势。此外,识别单元120可以配置成比较当前手部图像和最初手部图像是否彼此对称,并且在所述图像彼此对称时将转变相关性(transitioncorrelation)识别为手势运动。此外,识别单元120可以包括提取单元122、匹配单元124和推断单元126。
提取单元122可以配置成使用由捕捉单元110捕捉的最初手部图像来产生模板图像。此外,提取单元122可以配置成产生在左右方向(例如水平方向)和上下方向(例如垂直方向)上与最初捕捉的手部图像对称的模板图像。
匹配单元124可以配置成把由捕捉单元110捕捉的每帧手部图像与模板图像进行比较和匹配。此外,匹配单元124可以配置成基于手部图像和模板图像是否匹配,来将变化的手部图像与向左/向右手势或向上/向下手势的模板图像进行比较。
推断单元126可以配置成根据匹配单元124中比较的匹配结果,来识别手势、用户命令。识别单元120的匹配单元124可以配置成利用基于手势运动的图像差异,仅获得并产生感兴趣区域(ROI)。根据本发明的示例性实施例,外部照明条件的噪声可靠性可以通过使用识别单元120而具有改进的结果。
此外,根据本发明的示例性实施例,额外的大容量存储器或数据库(DB)可以得到省略,因为仅使用当前捕捉的手部图像。此外,存在以下优点:当相对于手腕对称地执行手势时,可以预见手部的位置、角度和图像形状以便容易地匹配模板图像。
图2示出用于识别向左/向右手势和向上/向下手势的示例性对称手部图像。
参考图2(a),当捕捉到手部图像X1来识别向左/向右手势时,可以产生与手部图像X1对称的手部图像X2作为模板图像,并且当捕捉到手部图像X2时,可以产生与手部图像X2对称的手部图像X1作为模板图像。
参考图2(b),当捕捉到手部图像Y1来识别向上/向下手势时,可以产生与手部图像Y1对称的手部图像Y2作为模板图像,并且当捕捉到手部图像Y2时,可以产生与手部图像Y2对称的手部图像Y1作为模板图像。
图3示出向左手势的示例性识别。参考图3,当用户执行向左手势时,示出用户的最初手部图像A和最终手部图像B。根据本发明的示例性实施例,可以产生与最初手部图像A对称的最终手部图像B作为模板图像。此外,捕捉单元110可以配置成将每帧当前捕捉的图像与模板图像进行比较以识别向左手势。
图4示出向下手势的示例性识别。参考图4,当用户执行向下手势时,示出用户的最初手部图像C和最终手部图像D。根据本发明的示例性实施例,可以产生与最初手部图像C对称的最终手部图像D作为模板图像。此外,捕捉单元110可以配置成将每帧当前捕捉的图像与模板图像进行比较以识别向下手势。
图5示出通过手部图像的模式匹配而识别出的示例性向左手势。参考图5,与最初手部图像A对称的最终手部图像B可以用作模板图像。根据本发明的示例性实施例,可以作出尝试在帧1至帧5中分别把由捕捉单元110捕捉的最初手部图像A与模板图像B进行匹配。如图5所示,用户可以通过将帧5的最终手部图像与模板图像B匹配,来执行向左手势。
图6是示出根据本发明示例性实施例的用于识别手势的方法的过程的示例性流程图。参考图6,根据本发明示例性实施例的用于识别手势的方法可以包括捕捉、产生、匹配和识别。
在步骤S110,用户的手部图像的捕捉可以由控制器执行的捕捉单元110(例如成像装置、照相机等)执行,其中捕捉单元110被配置成捕捉每帧的手部图像、并提取每帧捕捉的手部图像。此外,捕捉的手部图像可以经由获得图像、去除背景和预处理步骤而被传送给识别单元120,并且执行上述步骤的元件在本领域中是众所周知的,因此将省略其详细说明。
模板图像的产生可以使用由捕捉单元110捕捉的最初手部图像来执行,并且可以在步骤S120产生与最初手部图像对称的模板图像。此外,模板图像可以在左/右方向和上/下方向上与最初手部图像对称。
在步骤S130,匹配可以通过把由捕捉单元110捕捉的每帧手部图像与模板图像进行比较和匹配来执行。在匹配过程中,可以将变化的手部图像与向左/向右手势或者向上/向下手势进行比较以确定它们是否匹配。
手势的识别可以通过根据匹配处理中比较的匹配结果,识别向左/向右和向上/向下手势、用户命令来执行。
根据本发明的示例性实施例,额外的大容量存储器或数据库(DB)可以得到省略,因为仅使用当前捕捉的手部图像来比较当前手部图像与最初手部图像是否彼此对称。此外,存在以下优点:可以基于相对于手腕对称地执行的手势,来预测手部的位置、角度和图像形状以便容易地匹配模板图像。
尽管本发明已经结合当前被认为是示例性实施例的实施例进行了描述,但应理解的是,本发明并不限于所公开的实施例,而是相反,本发明旨在覆盖所附权利要求的精神和范围内所包括的各种改型和等效配置。
Claims (14)
1.一种使用识别手势的系统来识别手势的方法,所述方法包括:
由成像装置捕捉手部图像;
由控制器产生与最初捕捉的手部图像对称的模板图像;
由所述控制器将每帧捕捉的手部图像与所述模板图像进行匹配和比较;以及
由所述控制器使用匹配信息来识别手势的运动。
2.如权利要求1所述的方法,其中所述识别运动的步骤包括:
由所述控制器识别向左手势或向右手势。
3.如权利要求1所述的方法,其中所述识别运动的步骤包括:
由所述控制器识别向下手势或向上手势。
4.如权利要求1所述的方法,其中所述将手部图像与模板图像进行匹配的步骤包括:
由所述控制器利用根据所述运动而产生的图像差异,仅获得并产生感兴趣区域(ROI)。
5.一种用于识别手势的系统,包括:
成像装置,其被配置成捕捉手部图像;以及
控制器,其被配置成通过产生与最初捕捉的手部图像对称的模板图像、并将每帧捕捉的手部图像与所述模板图像进行匹配和比较,来识别手势的运动。
6.如权利要求5所述的系统,其中所述控制器还被配置成:
产生与所述最初捕捉的手部图像对称的所述模板图像;
将每帧捕捉的手部图像与所述模板图像进行匹配和比较;以及
识别手势的运动。
7.如权利要求6所述的系统,其中所述控制器还被配置成识别向左手势或向右手势。
8.如权利要求6所述的系统,其中所述控制器还被配置成识别向下手势或向上手势。
9.如权利要求6所述的系统,其中所述控制器还被配置成利用根据所述运动而产生的图像差异,仅获得并产生感兴趣区域(ROI)。
10.一种包含由处理器或控制器执行的程序指令的非暂时性计算机可读介质,所述计算机可读介质包括:
捕捉手部图像的程序指令;
产生与最初捕捉的手部图像对称的模板图像的程序指令;
将每帧捕捉的手部图像与所述模板图像进行匹配和比较的程序指令;以及
使用匹配信息来识别手势的运动的程序指令。
11.如权利要求10所述的非暂时性计算机可读介质,还包括:
产生与所述最初捕捉的手部图像对称的所述模板图像的程序指令;
将每帧捕捉的手部图像与所述模板图像进行匹配和比较的程序指令;以及
识别手势的运动的程序指令。
12.如权利要求11所述的非暂时性计算机可读介质,还包括:
识别向左手势或向右手势的程序指令。
13.如权利要求11所述的非暂时性计算机可读介质,还包括:
识别向下手势或向上手势的程序指令。
14.如权利要求11所述的非暂时性计算机可读介质,还包括:
利用根据所述运动而产生的图像差异,仅获得并产生感兴趣区域(ROI)的程序指令。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2012-0148598 | 2012-12-18 | ||
KR1020120148598A KR101360063B1 (ko) | 2012-12-18 | 2012-12-18 | 제스처 인식 방법 및 시스템 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103870801A true CN103870801A (zh) | 2014-06-18 |
Family
ID=50270237
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310322347.3A Pending CN103870801A (zh) | 2012-12-18 | 2013-07-29 | 用于识别手势的方法和系统 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20140168059A1 (zh) |
KR (1) | KR101360063B1 (zh) |
CN (1) | CN103870801A (zh) |
DE (1) | DE102013213532A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114451641A (zh) * | 2022-01-05 | 2022-05-10 | 云码智能(海南)科技有限公司 | 智能手环、辅助焊接装置和方法 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105700671A (zh) * | 2014-11-26 | 2016-06-22 | 熊兆王 | 手势控制方法及其系统 |
US10867161B2 (en) * | 2017-09-06 | 2020-12-15 | Pixart Imaging Inc. | Auxiliary filtering device for face recognition and starting method for electronic device |
CN110008918B (zh) * | 2019-04-11 | 2023-06-06 | 成都合纵连横数字科技有限公司 | 一种摩托车模拟器驾驶员姿态识别方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5594469A (en) * | 1995-02-21 | 1997-01-14 | Mitsubishi Electric Information Technology Center America Inc. | Hand gesture machine control system |
US20100269072A1 (en) * | 2008-09-29 | 2010-10-21 | Kotaro Sakata | User interface device, user interface method, and recording medium |
CN102122350A (zh) * | 2011-02-24 | 2011-07-13 | 浙江工业大学 | 基于骨架化和模板匹配的交警手势识别方法 |
CN102194097A (zh) * | 2010-03-11 | 2011-09-21 | 范为 | 一种多用途手势识别方法 |
US20120027263A1 (en) * | 2010-08-02 | 2012-02-02 | Sony Corporation | Hand gesture detection |
CN102467657A (zh) * | 2010-11-16 | 2012-05-23 | 三星电子株式会社 | 手势识别系统和方法 |
US20120268374A1 (en) * | 2011-04-25 | 2012-10-25 | Heald Arthur D | Method and apparatus for processing touchless control commands |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20060070280A (ko) * | 2004-12-20 | 2006-06-23 | 한국전자통신연구원 | 손 제스처 인식을 이용한 사용자 인터페이스 장치 및 그방법 |
KR20090018378A (ko) * | 2007-08-17 | 2009-02-20 | 주식회사 대우아이에스 | 동작 인식을 적용한 네비게이션 단말기 및 그 제어방법 |
US20110102570A1 (en) * | 2008-04-14 | 2011-05-05 | Saar Wilf | Vision based pointing device emulation |
KR101858531B1 (ko) * | 2011-01-06 | 2018-05-17 | 삼성전자주식회사 | 모션에 의해 제어되는 디스플레이 장치 및 그 모션 제어 방법 |
-
2012
- 2012-12-18 KR KR1020120148598A patent/KR101360063B1/ko active IP Right Grant
-
2013
- 2013-07-10 DE DE102013213532.7A patent/DE102013213532A1/de not_active Withdrawn
- 2013-07-15 US US13/941,779 patent/US20140168059A1/en not_active Abandoned
- 2013-07-29 CN CN201310322347.3A patent/CN103870801A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5594469A (en) * | 1995-02-21 | 1997-01-14 | Mitsubishi Electric Information Technology Center America Inc. | Hand gesture machine control system |
US20100269072A1 (en) * | 2008-09-29 | 2010-10-21 | Kotaro Sakata | User interface device, user interface method, and recording medium |
CN102194097A (zh) * | 2010-03-11 | 2011-09-21 | 范为 | 一种多用途手势识别方法 |
US20120027263A1 (en) * | 2010-08-02 | 2012-02-02 | Sony Corporation | Hand gesture detection |
CN102467657A (zh) * | 2010-11-16 | 2012-05-23 | 三星电子株式会社 | 手势识别系统和方法 |
CN102122350A (zh) * | 2011-02-24 | 2011-07-13 | 浙江工业大学 | 基于骨架化和模板匹配的交警手势识别方法 |
US20120268374A1 (en) * | 2011-04-25 | 2012-10-25 | Heald Arthur D | Method and apparatus for processing touchless control commands |
Non-Patent Citations (1)
Title |
---|
陈超等: "基于手势识别的人机交互技术", 《计算机与数字工程》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114451641A (zh) * | 2022-01-05 | 2022-05-10 | 云码智能(海南)科技有限公司 | 智能手环、辅助焊接装置和方法 |
CN114451641B (zh) * | 2022-01-05 | 2022-10-14 | 云码智能(海南)科技有限公司 | 智能手环、辅助焊接装置和方法 |
Also Published As
Publication number | Publication date |
---|---|
DE102013213532A1 (de) | 2014-06-18 |
US20140168059A1 (en) | 2014-06-19 |
KR101360063B1 (ko) | 2014-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9576121B2 (en) | Electronic device and authentication system therein and method | |
CN106599772B (zh) | 活体验证方法和装置及身份认证方法和装置 | |
JP7073522B2 (ja) | 空中手書きを識別するための方法、装置、デバイス及びコンピュータ読み取り可能な記憶媒体 | |
Laraba et al. | 3D skeleton‐based action recognition by representing motion capture sequences as 2D‐RGB images | |
KR102465532B1 (ko) | 객체 인식 방법 및 장치 | |
US11527105B2 (en) | System and method for scalable cloud-robotics based face recognition and face analysis | |
US20160373437A1 (en) | Method and system for authenticating liveness face, and computer program product thereof | |
CN102110228B (zh) | 确定在光学对象初始化追踪过程中使用的参考特征的方法以及对象初始化追踪方法 | |
US9298976B2 (en) | Method, apparatus and computer readable recording medium for managing a reference face database to improve face recognition performance under a restricted memory environment | |
US10275641B2 (en) | Methods and systems for extracting feature descriptors for an image | |
US20160217198A1 (en) | User management method and apparatus | |
KR101385599B1 (ko) | 몽타주 추론 방법 및 장치 | |
US20180211096A1 (en) | Living-body detection method and device and computer program product | |
US20160217326A1 (en) | Fall detection device, fall detection method, fall detection camera and computer program | |
JP2018524654A (ja) | 活動検出方法及びデバイス、並びに本人認証方法及びデバイス | |
Yang et al. | PipeNet: Selective modal pipeline of fusion network for multi-modal face anti-spoofing | |
Heo et al. | Appearance and motion based deep learning architecture for moving object detection in moving camera | |
US20220147735A1 (en) | Face-aware person re-identification system | |
KR20190054702A (ko) | 영상에서 객체의 행동을 인식하는 방법 및 그 장치 | |
JP2014006885A5 (zh) | ||
US20140093142A1 (en) | Information processing apparatus, information processing method, and information processing program | |
KR20220076398A (ko) | Ar장치를 위한 객체 인식 처리 장치 및 방법 | |
Xing et al. | DE‐SLAM: SLAM for highly dynamic environment | |
CN103870801A (zh) | 用于识别手势的方法和系统 | |
JP2019061505A (ja) | 情報処理システム、制御システム、及び学習方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20140618 |
|
WD01 | Invention patent application deemed withdrawn after publication |