KR20240069210A

KR20240069210A - 물체에 대한 접촉 정보를 획득하기 위한 전자 장치 및 그 제어 방법

Info

Publication number: KR20240069210A
Application number: KR1020220150485A
Authority: KR
Inventors: 정대환; 박상규; 홍현석
Original assignee: 삼성전자주식회사
Priority date: 2022-11-11
Filing date: 2022-11-11
Publication date: 2024-05-20
Also published as: WO2024101603A1

Abstract

전자 장치가 개시된다. 본 전자 장치는 복수의 마커를 포함하는 접촉부, 카메라 및 접촉부 및 카메라와 연결되어 전자 장치를 제어하는 적어도 하나의 프로세서를 포함하며, 프로세서는 접촉부의 일면이 물체에 접촉되면, 카메라를 통해 접촉부의 타면을 촬영한 제1 이미지에 기초하여 복수의 마커 중 적어도 하나의 변위를 식별하고, 식별된 변위에 기초하여 접촉부에 작용하는 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별하며, 복수의 마커 중 제1 마커는 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이할 수 있다.

Description

물체에 대한 접촉 정보를 획득하기 위한 전자 장치 및 그 제어 방법 { ELECTRONIC APPARATUS FOR OBTAINING CONTACT INFORMATION FOR AN OBJECT AND CONTROL METHOD THEREOF }

본 개시는 전자 장치 및 그 제어 방법에 대한 것으로, 더욱 상세하게는 물체에 대한 접촉 정보를 획득하기 위한 전자 장치 및 그 제어 방법에 대한 것이다.

전자 기술의 발달에 힘입어 다양한 종류의 전자 장치가 개발되고 있다. 특히, 최근에는 사람과 유사한 형태의 로봇이 개발되고 있으며, 형태 뿐만 아니라 기능적으로도 사람과 유사하기 위한 다양한 시도가 있다.

예를 들어, 사람이 물체를 잡았을 때 손가락에서 느끼는 접촉 정보를 로봇 핸드에서도 감지할 수 있도록 다양한 기술이 개발되고 있다.

이상과 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따르면, 전자 장치는 복수의 마커를 포함하는 접촉부, 카메라 및 상기 접촉부 및 상기 카메라와 연결되어 상기 전자 장치를 제어하는 적어도 하나의 프로세서를 포함하며, 상기 프로세서는 상기 접촉부의 일면이 물체에 접촉되면, 상기 카메라를 통해 상기 접촉부의 타면을 촬영한 제1 이미지에 기초하여 상기 복수의 마커 중 적어도 하나의 변위를 식별하고, 상기 식별된 변위에 기초하여 상기 접촉부에 작용하는 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하며, 상기 복수의 마커 중 제1 마커는 상기 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이할 수 있다.

또한, 상기 복수의 마커 각각은 제1 형태의 패턴 및 상기 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함하며, 상기 프로세서는 상기 제1 형태의 패턴 및 상기 제2 형태의 패턴에 기초하여 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별할 수 있다.

그리고, 상기 제1 형태의 패턴은 원형의 패턴이고, 상기 제2 형태의 패턴은 선형의 패턴일 수 있다.

또한, 상기 프로세서는 상기 원형의 패턴을 중심으로, 상기 원형의 패턴의 일측에 형성된 상기 선형의 패턴의 변위에 기초하여 상기 접촉부에 평형한 회전력을 식별할 수 있다.

그리고, 상기 복수의 마커에 포함된 복수의 제2 형태의 패턴 중 인접한 제2 형태의 패턴은 색상이 상이할 수 있다.

또한, 상기 제1 마커는 원형의 제1 패턴 및 상기 원형의 제1 패턴에서 제1 방향으로 형성된 선형의 제1 패턴을 포함하고, 상기 제2 마커는 상기 제1 마커로부터 상기 제1 방향의 반대 방향으로 인접하며, 원형의 제2 패턴 및 상기 원형의 제2 패턴에서 상기 제1 방향에 수직한 제2 방향으로 형성된 선형의 제2 패턴을 포함하고, 상기 복수의 마커 중 제3 마커는 상기 제2 마커로부터 상기 제2 방향의 반대 방향으로 인접하며, 원형의 제3 패턴 및 상기 원형의 제3 패턴에서 상기 제2 방향에 수직한 제3 방향으로 형성된 선형의 제3 패턴을 포함하고, 상기 복수의 마커 중 제4 마커는 상기 제3 마커로부터 상기 제3 방향의 반대 방향으로 인접하며, 원형의 제4 패턴 및 상기 원형의 제4 패턴에서 상기 제3 방향에 수직한 제4 방향으로 형성된 선형의 제4 패턴을 포함할 수 있다.

그리고, 상기 접촉부의 타면에 형성되며, 상기 복수의 마커에 각각 대응되는 복수의 렌즈를 포함하는 렌즈 어레이를 더 포함하며, 상기 프로세서는 상기 복수의 렌즈 각각을 통해 상기 복수의 마커 각각의 크기 변경을 식별하고, 상기 식별된 크기 변경에 기초하여 상기 접촉부에 수직한 방향의 힘을 식별할 수 있다.

또한, 상기 복수의 마커 각각은 제1 형태의 패턴을 포함하거나, 상기 제1 형태의 패턴 및 상기 제1 형태의 패턴에 인접하게 형성된 적어도 하나의 제2 형태의 패턴을 포함할 수 있다.

그리고, 상기 접촉부의 일면이 상기 물체에 접촉되기 전에 상기 카메라를 통해 상기 접촉부의 타면이 촬영된 제2 이미지가 저장된 메모리를 더 포함하며, 상기 프로세서는 상기 제1 이미지 및 상기 제2 이미지에 기초하여 상기 복수의 마커 중 상기 적어도 하나의 변위를 식별할 수 있다.

또한, 상기 접촉부는 투명한 젤, 상기 젤의 일면에 프린팅된 상기 복수의 마커 및 상기 복수의 마커의 상단에 형성된 코팅층을 포함할 수 있다.

한편, 본 개시의 일 실시 예에 따르면, 전자 장치의 제어 방법은 상기 전자 장치에 포함된 접촉부의 일면이 물체에 접촉하는 단계, 상기 전자 장치에 포함된 카메라를 통해 상기 접촉부의 타면을 촬영한 제1 이미지에 기초하여 상기 접촉부에 포함된 복수의 마커 중 적어도 하나의 변위를 식별하는 단계 및 상기 식별된 변위에 기초하여 상기 접촉부에 작용하는 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계를 포함하며, 상기 복수의 마커 중 제1 마커는 상기 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이할 수 있다.

또한, 상기 복수의 마커 각각은 제1 형태의 패턴 및 상기 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함하며, 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계는 상기 제1 형태의 패턴 및 상기 제2 형태의 패턴에 기초하여 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별할 수 있다.

또한, 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계는 상기 원형의 패턴을 중심으로, 상기 원형의 패턴의 일측에 형성된 상기 선형의 패턴의 변위에 기초하여 상기 접촉부에 평형한 회전력을 식별할 수 있다.

그리고, 상기 전자 장치는 상기 접촉부의 타면에 형성되며, 상기 복수의 마커에 각각 대응되는 복수의 렌즈를 포함하는 렌즈 어레이를 더 포함하며, 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계는 상기 복수의 렌즈 각각을 통해 상기 복수의 마커 각각의 크기 변경을 식별하고, 상기 식별된 크기 변경에 기초하여 상기 접촉부에 수직한 방향의 힘을 식별할 수 있다.

그리고, 상기 변위를 식별하는 단계는 상기 제1 이미지 및 상기 접촉부의 일면이 상기 물체에 접촉되기 전에 상기 카메라를 통해 상기 접촉부의 타면이 촬영된 제2 이미지에 기초하여 상기 복수의 마커 중 상기 적어도 하나의 변위를 식별할 수 있다.

도 1은 본 개시의 이해를 돕기 위한 접촉 정보의 감지 방법을 설명하기 위한 도면이다.
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 나타내는 블럭도이다.
도 3은 본 개시의 일 실시 예에 따른 전자 장치의 세부 구성을 나타내는 블럭도이다.
도 4는 본 개시의 일 실시 예에 따른 복수의 마커를 설명하기 위한 도면이다.
도 5는 본 개시의 일 실시 예에 따른 회전력의 측정을 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따른 색상을 추가한 복수의 마커를 설명하기 위한 도면이다.
도 7 및 도 8은 본 개시의 일 실시 예에 따른 기본 단위의 마커를 설명하기 위한 도면들이다.
도 9 내지 도 11은 본 개시의 일 실시 예에 따른 색상이 상이한 원형의 패턴으로 접촉부를 구현한 경우를 설명하기 위한 도면들이다.
도 12 내지 도 14는 본 개시의 일 실시 예에 따른 렌즈 어레이를 설명하기 위한 도면들이다.
도 15는 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 설명하기 위한 흐름도이다.

본 개시의 목적은 로봇 핸드의 접촉 정보의 감지 성능을 개선하기 위한 전자 장치 및 그 제어 방법을 제공함에 있다.

이하에서는 첨부 도면을 참조하여 본 개시를 상세히 설명한다.

본 개시의 실시 예에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 개시의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.

본 명세서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.

A 또는/및 B 중 적어도 하나라는 표현은 "A" 또는 "B" 또는 "A 및 B" 중 어느 하나를 나타내는 것으로 이해되어야 한다.

본 명세서에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

본 명세서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공 지능 전자 장치)를 지칭할 수 있다.

이하 첨부된 도면들을 참조하여 본 개시의 다양한 실시 예를 보다 상세하게 설명한다.

도 1은 본 개시의 이해를 돕기 위한 접촉 정보의 감지 방법을 설명하기 위한 도면이다.

도 1의 상단은 로봇 핸드의 접촉부의 일 예를 나타낸다. 접촉부는 도 1의 상단에 도시된 바와 같이, 복수의 마커를 포함할 수 있다. 복수의 마커 각각은 원형의 패턴일 수 있다.

접촉부는 젤(gel)로 구현될 수 있으며, 로봇은 접촉부에 포함된 복수의 마커에 기초하여 접촉 정보를 획득할 수 있다. 접촉 정보는 접촉부에 작용하는 힘의 세기, 방향 등을 포함할 수 있다.

예를 들어, 도 1의 가운데에 도시된 바와 같이, 접촉부에서 좌측 방향으로 shear force가 발생하면, 젤로 구현된 접촉부는 shear force로 인해 형태가 변경될 수 있으며, 1번 마커는 1'의 위치로 이동하고, 2번 마커는 2'의 위치로 이동하고, 3번 마커는 3'의 위치로 이동할 수 있다. 로봇은 1번 마커, 2번 마커, 3번 마커의 변위에 기초하여 접촉부에 작용하는 힘의 세기, 방향 등을 식별할 수 있다.

다만, 접촉부에 작용하는 힘의 세기가 증가하면 도 1의 하단에 도시된 바와 같은 문제가 발생할 수도 있다. 구체적으로, 1번 마커는 1'의 위치로 이동하고, 2번 마커는 2'의 위치로 이동하고, 3번 마커는 3'의 위치로 이동하며, 이때 도 1의 하단이 도 1의 가운데보다 힘의 세기가 크므로, 2'의 위치가 2의 위치보다 1의 위치에 더 가까워지고, 3'의 위치가 3의 위치보다 2의 위치에 더 가까워질 수 있다. 이 경우, 로봇은 1번 마커가 2'의 위치로 이동하고, 2번 마커가 3'의 위치로 이동한 것으로 식별할 수도 있다. 즉, 우측 방향의 힘이 좌측 방향인 것으로 식별될 수 있으며, 오류가 발생할 수 있다. 그에 따라, 이상과 같은 오류를 줄여줄 필요가 있다.

도 2는 본 개시의 일 실시 예에 따른 전자 장치(100)의 구성을 나타내는 블럭도이다.

전자 장치(100)는 접촉 정보를 획득하는 장치일 수 있다. 예를 들어, 전자 장치(100)는 로봇일 수 있다. 또는, 전자 장치(100)는 로봇 핸드 또는 로봇 핸드의 손가락 부분일 수도 있다. 또는, 전자 장치(100)는 광 촉각 센서(optical tactile sensor)의 일종일 수 있다.

다만, 이에 한정되는 것은 아니며, 전자 장치(100)는 접촉 정보를 획득하는 장치라면 어떠한 장치라도 무방하다.

도 2에 따르면, 전자 장치(100)는 접촉부(110), 카메라(120) 및 프로세서(130)를 포함한다.

접촉부(110)는 복수의 마커를 포함할 수 있다. 여기서, 복수의 마커 중 제1 마커는 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이할 수 있다.

예를 들어, 복수의 마커 각각은 제1 형태의 패턴 및 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함할 수 있다. 여기서, 제1 형태의 패턴과 제2 형태의 패턴은 상이할 수 있다. 가령, 제1 형태의 패턴은 원형의 패턴이고, 제2 형태의 패턴은 선형의 패턴일 수 있다. 다만, 이에 한정되는 것은 아니며, 제1 형태의 패턴은 사각형의 패턴이고, 제2 형태의 패턴은 선형의 패턴일 수 있으며, 제1 형태의 패턴 및 제2 형태의 패턴은 얼마든지 다양한 형태로 구현될 수도 있다. 또한, 복수의 마커 각각은 제1 형태의 패턴 및 제2 형태의 패턴 뿐만 아니라 3가지 이상의 형태의 패턴으로 구현될 수도 있다.

또는, 복수의 마커에 포함된 복수의 제2 형태의 패턴 중 인접한 제2 형태의 패턴은 색상이 상이할 수도 있다.

또는, 복수의 마커 중 제1 마커는 원형의 제1 패턴 및 원형의 제1 패턴에서 제1 방향으로 형성된 선형의 제1 패턴을 포함하고, 복수의 마커 중 제2 마커는 제1 마커로부터 제1 방향의 반대 방향으로 인접하며, 원형의 제2 패턴 및 원형의 제2 패턴에서 제1 방향에 수직한 제2 방향으로 형성된 선형의 제2 패턴을 포함하고, 복수의 마커 중 제3 마커는 제2 마커로부터 제2 방향의 반대 방향으로 인접하며, 원형의 제3 패턴 및 원형의 제3 패턴에서 제2 방향에 수직한 제3 방향으로 형성된 선형의 제3 패턴을 포함하고, 복수의 마커 중 제4 마커는 제3 마커로부터 제3 방향의 반대 방향으로 인접하며, 원형의 제4 패턴 및 원형의 제4 패턴에서 제3 방향에 수직한 제4 방향으로 형성된 선형의 제4 패턴을 포함할 수 있다.

또는, 복수의 마커 각각은 제1 형태의 패턴을 포함하거나, 제1 형태의 패턴 및 제1 형태의 패턴에 인접하게 형성된 적어도 하나의 제2 형태의 패턴을 포함할 수도 있다.

복수의 마커는 얼마든지 다양한 형태로 구현될 수 있으며, 이에 대하여는 도면을 통해 좀더 구체적으로 설명한다.

접촉부(110)는 투명한 젤, 젤의 일면에 프린팅된 복수의 마커 및 복수의 마커의 상단에 형성된 코팅층을 포함할 수 있다. 코팅층은 복수의 마커가 마모되는 것을 방지할 수 있다. 다만, 이에 한정되는 것은 아니며, 젤은 반투명할 수도 있으며, 카메라(120)를 통해 복수의 마커를 식별할 수 있을 정도의 투명도의 물질이면 무방하다. 또한, 젤이 아닌 다른 물질로 구현되는 것도 가능하다.

카메라(120)는 정지 영상 또는 동영상을 촬상하기 위한 구성이다. 카메라(120)는 특정 시점에서의 정지 영상을 촬영할 수 있으나, 연속적으로 정지 영상을 촬영할 수도 있다.

카메라(120)는 렌즈, 셔터, 조리개, 고체 촬상 소자, AFE(Analog Front End), TG(Timing Generator)를 포함한다. 셔터는 피사체에 반사된 빛이 카메라(120)로 들어오는 시간을 조절하고, 조리개는 빛이 들어오는 개구부의 크기를 기계적으로 증가 또는 감소시켜 렌즈에 입사되는 광량을 조절한다. 고체 촬상 소자는 피사체에 반사된 빛이 광전하로 축적되면, 광전하에 의한 상을 전기 신호로 출력한다. TG는 고체 촬상 소자의 픽셀 데이터를 리드아웃 하기 위한 타이밍 신호를 출력하며, AFE는 고체 촬상 소자로부터 출력되는 전기 신호를 샘플링하여 디지털화한다.

카메라(120)는 프로세서(130)의 제어에 따라, 접촉부(110)를 촬영할 수 있다. 프로세서(130)는 촬영 이미지로부터 복수의 마커의 위치를 식별할 수 있다.

프로세서(130)는 전자 장치(100)의 동작을 전반적으로 제어한다. 구체적으로, 프로세서(130)는 전자 장치(100)의 각 구성과 연결되어 전자 장치(100)의 동작을 전반적으로 제어할 수 있다. 예를 들어, 프로세서(130)는 접촉부(110), 카메라(120), 메모리(미도시) 등과 같은 구성과 연결되어 전자 장치(100)의 동작을 제어할 수 있다.

적어도 하나의 프로세서(130)는 CPU, GPU(Graphics Processing Unit), APU(Accelerated Processing Unit), MIC(Many Integrated Core), NPU(Neural Processing Unit), 하드웨어 가속기 또는 머신 러닝 가속기 중 하나 이상을 포함할 수 있다. 적어도 하나의 프로세서(130)는 전자 장치(100)의 다른 구성 요소 중 하나 또는 임의의 조합을 제어할 수 있으며, 통신에 관한 동작 또는 데이터 처리를 수행할 수 있다. 적어도 하나의 프로세서(130)는 메모리에 저장된 하나 이상의 프로그램 또는 명령어(instruction)을 실행할 수 있다. 예를 들어, 적어도 하나의 프로세서(130)는 메모리에 저장된 하나 이상의 명령어를 실행함으로써, 본 개시의 일 실시 예에 따른 방법을 수행할 수 있다.

본 개시의 일 실시 예에 따른 방법이 복수의 동작을 포함하는 경우, 복수의 동작은 하나의 프로세서에 의해 수행될 수도 있고, 복수의 프로세서에 의해 수행될 수도 있다. 예를 들어, 일 실시 예에 따른 방법에 의해 제1 동작, 제2 동작, 제3 동작이 수행될 때, 제1 동작, 제2 동작 및 제3 동작 모두 제1 프로세서에 의해 수행될 수도 있고, 제1 동작 및 제2 동작은 제1 프로세서(예를 들어, 범용 프로세서)에 의해 수행되고 제3 동작은 제2 프로세서(예를 들어, 인공지능 전용 프로세서)에 의해 수행될 수도 있다.

적어도 하나의 프로세서(130)는 하나의 코어를 포함하는 단일 코어 프로세서(single core processor)로 구현될 수도 있고, 복수의 코어(예를 들어, 동종 멀티 코어 또는 이종 멀티 코어)를 포함하는 하나 이상의 멀티 코어 프로세서(multicore processor)로 구현될 수도 있다. 적어도 하나의 프로세서(130)가 멀티 코어 프로세서로 구현되는 경우, 멀티 코어 프로세서에 포함된 복수의 코어 각각은 캐시 메모리, 온 칩(On-chip) 메모리와 같은 프로세서 내부 메모리를 포함할 수 있으며, 복수의 코어에 의해 공유되는 공통 캐시가 멀티 코어 프로세서에 포함될 수 있다. 또한, 멀티 코어 프로세서에 포함된 복수의 코어 각각(또는 복수의 코어 중 일부)은 독립적으로 본 개시의 일 실시 예에 따른 방법을 구현하기 위한 프로그램 명령을 판독하여 수행할 수도 있고, 복수의 코어 전체(또는 일부)가 연계되어 본 개시의 일 실시 예에 따른 방법을 구현하기 위한 프로그램 명령을 판독하여 수행할 수도 있다.

본 개시의 일 실시 예에 따른 방법이 복수의 동작을 포함하는 경우, 복수의 동작은 멀티 코어 프로세서에 포함된 복수의 코어 중 하나의 코어에 의해 수행될 수도 있고, 복수의 코어에 의해 수행될 수도 있다. 예를 들어, 일 실시 예에 따른 방법에 의해 제1 동작, 제2 동작 및 제3 동작이 수행될 때, 제1 동작, 제2 동작 및 제3 동작 모두 멀티 코어 프로세서에 포함된 제1 코어에 의해 수행될 수도 있고, 제1 동작 및 제2 동작은 멀티 코어 프로세서에 포함된 제1 코어에 의해 수행되고 제3 동작은 멀티 코어 프로세서에 포함된 제2 코어에 의해 수행될 수도 있다.

본 개시의 실시 예들에서, 적어도 하나의 프로세서(130)는 하나 이상의 프로세서 및 기타 전자 부품들이 집적된 시스템 온 칩(SoC), 단일 코어 프로세서, 멀티 코어 프로세서, 또는 단일 코어 프로세서 또는 멀티 코어 프로세서에 포함된 코어를 의미할 수 있으며, 여기서 코어는 CPU, GPU, APU, MIC, NPU, 하드웨어 가속기 또는 기계 학습 가속기 등으로 구현될 수 있으나, 본 개시의 실시 예들이 이에 한정되는 것은 아니다. 다만, 이하에서는 설명의 편의를 위해, 프로세서(130)라는 표현으로 전자 장치(100)의 동작을 설명한다.

프로세서(130)는 접촉부(110)의 일면이 물체에 접촉되면, 카메라(120)를 통해 접촉부(110)의 타면을 촬영한 제1 이미지에 기초하여 복수의 마커 중 적어도 하나의 변위를 식별하고, 식별된 변위에 기초하여 접촉부(110)에 작용하는 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별할 수 있다.

예를 들어, 복수의 마커 각각이 제1 형태의 패턴 및 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함하는 경우, 프로세서(130)는 제1 형태의 패턴 및 제2 형태의 패턴에 기초하여 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별할 수 있다. 가령, 제1 형태의 패턴은 원형의 패턴이고, 제2 형태의 패턴은 선형의 패턴인 경우, 프로세서(130)는 원형의 패턴을 중심으로, 원형의 패턴의 일측에 형성된 선형의 패턴의 변위에 기초하여 접촉부에 평형한 회전력을 식별할 수 있다.

전자 장치(100)는 접촉부(110)의 일면이 물체에 접촉되기 전에 카메라(120)를 통해 접촉부(110)의 타면이 촬영된 제2 이미지가 저장된 메모리를 더 포함하며, 프로세서(130)는 제1 이미지 및 제2 이미지에 기초하여 복수의 마커 중 적어도 하나의 변위를 식별할 수 있다. 즉, 프로세서(130)는 제2 이미지와 현재 촬영된 제1 이미지를 비교하여 복수의 마커 중 적어도 하나의 변위를 식별할 수 있다.

또한, 프로세서(130)는 기설정된 시간 간격으로 복수의 이미지를 촬영하고, 제2 이미지와 복수의 이미지 각각을 비교하여 힘의 세기 또는 방향 중 적어도 하나의 변화량을 식별할 수도 있다. 예를 들어, 프로세서(130)는 T1 시점에서 촬영된 이미지와 제2 이미지를 비교하여 힘의 방향이 좌측이라고 식별하고, T1 시점 이후인 T2 시점에서 촬영된 이미지와 제2 이미지를 비교하여 힘의 방향이 우측이라고 식별할 수 있다. 이 경우, 프로세서(130)는 힘의 방향이 점점 변경된 것으로 식별할 수 있다.

또는, 프로세서(130)는 기설정된 시간 간격으로 복수의 이미지를 촬영하고, 제2 이미지와 복수의 이미지 각각을 비교하여 힘의 세기의 변화량을 식별하고, 변화량에 기초하여 미래 시점의 힘의 세기를 예측하고, 예측된 힘의 세기에 기초하여 접촉부(110)의 접촉 여부를 변경할 수도 있다. 예를 들어, 프로세서(130)는 기설정된 시간 간격으로 복수의 이미지를 촬영하고, 제2 이미지와 복수의 이미지 각각을 비교하여 힘의 세기가 점점 증가하고 있으며, 증가 추세에 따라 3초 후에는 접촉부(110)가 손상된다고 식별되면, 접촉부(110)의 접촉을 중단할 수도 있다. 다만, 이에 한정되는 것은 아니며, 프로세서(130)는 접촉부(110)가 손상된다고 예측되는 시점으로부터 기설정된 시간 이전에 접촉부(110)의 접촉을 중단할 수도 있다. 가령, 상술한 예에서 프로세서(130)는 3초 후에는 접촉부(110)가 손상된다고 식별되면, 접촉부(110)가 손상된다고 예측되는 시점으로부터 1초 이전인 2초 후에 접촉부(110)의 접촉을 중단할 수도 있다.

프로세서(130)는 접촉부(110)가 손상된 경우, 사용자에게 손상 메시지를 제공할 수 있다. 예를 들어, 프로세서(130)는 접촉부(110)가 물체를 접촉하지 않은 상태에서 카메라(120)를 통해 접촉부(110)를 촬영하고, 촬영된 이미지가 제2 이미지와 기설정된 기준 이상으로 변형된 경우, 접촉부(110)가 손상된 것으로 식별할 수 있다. 프로세서(130)는 접촉부(110)가 손상된 것으로 식별되면, 손상 메시지를 디스플레이하거나 사운드로 제공할 수 있다.

한편, 프로세서(130)는 기설정된 사용 시간이 경과하면 제2 이미지를 업데이트할 수도 있다. 예를 들어, 접촉부(110)는 물리적인 힘이 가해지기 때문에 젤의 변형 등이 있을 수 있으며, 그에 따라 물체를 접촉하지 않은 상태에서도 제2 이미지와는 복수의 마커의 위치가 상이할 수도 있다. 그에 따라, 프로세서(130)는 기설정된 사용 시간이 경과하면 접촉부(110)가 물체를 접촉하지 않은 상태에서 카메라(120)를 통해 접촉부(110)를 촬영하고, 제2 이미지를 촬영된 이미지로 업데이트할 수도 있다.

한편, 전자 장치(100)는 접촉부(110)의 타면에 형성되며, 복수의 마커에 각각 대응되는 복수의 렌즈를 포함하는 렌즈 어레이를 더 포함하며, 프로세서(130)는 렌즈 어레이를 통해 복수의 마커의 크기 변경을 식별하고, 식별된 크기 변경에 기초하여 접촉부(110)에 수직한 방향의 힘을 식별할 수 있다.

예를 들어, 프로세서(130)는 복수의 마커 중 적어도 하나의 크기가 증가한 경우, 접촉부(110)에 수직한 방향의 힘이 작용하는 것으로 식별할 수 있다.

다만, 이에 한정되는 것은 아니며, 하나의 렌즈가 복수의 마커의 일부를 확대하도록 렌즈 어레이가 구현될 수도 있다. 가령, 하나의 렌즈가 4개의 마커에 대응되도록 렌즈 어레이가 구현될 수도 있다. 또는, 복수의 마커 중 일부에 대응되는 렌즈를 포함하는 형태로 렌즈 어레이가 구현될 수도 있다. 예를 들어, 3×3의 마커 중 가운데 하나의 마커에는 렌즈가 구비되고, 3×3의 마커 중 나머지 마커에는 렌즈가 구비되지 않을 수도 있다. 프로세서(130)는 렌즈가 구비된 마커의 크기 변경에 기초하여 접촉부(110)에 수직한 방향의 힘을 식별할 수도 있다.

또는, 프로세서(130)는 렌즈 어레이가 없더라도 접촉부(110)에 수직한 방향의 힘을 식별할 수도 있다. 예를 들어, 접촉부(110)에 수직한 방향의 힘이 작용하는 경우, 수직한 방향의 힘의 중심점에 가깝게 배치된 마커일수록 변위가 커지며, 중심점 주위의 마커들의 변위는 중심점을 향할 수 있다. 프로세서(130)는 이러한 변위를 감지하여 마커의 크기 변경이 아닌 마커의 변위로서 접촉부(110)에 수직한 방향의 힘을 식별할 수도 있다.

한편, 메모리에는 신경망 모델이 더 저장될 수도 있다. 프로세서(130)는 제1 이미지와 제2 이미지를 신경망 모델에 입력하여 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별할 수도 있다.

한편, 본 개시에 따른 인공 지능과 관련된 기능은 프로세서(130)와 메모리를 통해 동작될 수 있다.

프로세서(130)는 하나 또는 복수의 프로세서로 구성될 수 있다. 이때, 하나 또는 복수의 프로세서는 CPU, AP, DSP 등과 같은 범용 프로세서, GPU, VPU(Vision Processing Unit)와 같은 그래픽 전용 프로세서 또는 NPU와 같은 인공 지능 전용 프로세서일 수 있다.

하나 또는 복수의 프로세서는, 메모리에 저장된 기 정의된 동작 규칙 또는 인공 지능 모델에 따라, 입력 데이터를 처리하도록 제어한다. 또는, 하나 또는 복수의 프로세서가 인공 지능 전용 프로세서인 경우, 인공 지능 전용 프로세서는 특정 인공 지능 모델의 처리에 특화된 하드웨어 구조로 설계될 수 있다. 기 정의된 동작 규칙 또는 인공 지능 모델은 학습을 통해 만들어진 것을 특징으로 한다.

여기서, 학습을 통해 만들어진다는 것은, 기본 인공 지능 모델이 학습 알고리즘에 의하여 다수의 학습 데이터들을 이용하여 학습됨으로써, 원하는 특성(또는, 목적)을 수행하도록 설정된 기 정의된 동작 규칙 또는 인공 지능 모델이 만들어짐을 의미한다. 이러한 학습은 본 개시에 따른 인공 지능이 수행되는 기기 자체에서 이루어질 수도 있고, 별도의 서버 및/또는 시스템을 통해 이루어 질 수도 있다. 학습 알고리즘의 예로는, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)이 있으나, 전술한 예에 한정되지 않는다.

인공 지능 모델은 복수의 신경망 레이어들로 구성될 수 있다. 복수의 신경망 레이어들 각각은 복수의 가중치들(weight values)을 갖고 있으며, 이전(previous) 레이어의 연산 결과와 복수의 가중치들 간의 연산을 통해 신경망 연산을 수행한다. 복수의 신경망 레이어들이 갖고 있는 복수의 가중치들은 인공 지능 모델의 학습 결과에 의해 최적화될 수 있다. 예를 들어, 학습 과정 동안 인공 지능 모델에서 획득한 로스(loss) 값 또는 코스트(cost) 값이 감소 또는 최소화되도록 복수의 가중치들이 갱신될 수 있다.

인공 신경망은 심층 신경망(DNN:Deep Neural Network)를 포함할 수 있으며, 예를 들어, CNN(Convolutional Neural Network), DNN (Deep Neural Network), RNN(Recurrent Neural Network), RBM(Restricted Boltzmann Machine), DBN(Deep Belief Network), BRDNN(Bidirectional Recurrent Deep Neural Network), GAN(Generative Adversarial Network) 또는 심층 Q-네트워크(Deep Q-Networks) 등이 있으나, 이에 한정되는 것은 아니다.

도 3은 본 개시의 일 실시 예에 따른 전자 장치(100)의 세부 구성을 나타내는 블럭도이다. 전자 장치(100)는 접촉부(110), 카메라(120) 및 프로세서(130)를 포함할 수 있다. 또한, 도 3에 따르면, 전자 장치(100)는 메모리(140), 통신 인터페이스(150), 디스플레이(160), 사용자 인터페이스(170), 스피커(180), 마이크(190)를 더 포함할 수도 있다. 도 3에 도시된 구성 요소들 중 도 2에 도시된 구성 요소와 중복되는 부분에 대해서는 자세한 설명을 생략하도록 한다.

메모리(140)는 프로세서(130) 등이 접근할 수 있도록 데이터 등의 정보를 전기 또는 자기 형태로 저장하는 하드웨어를 지칭할 수 있다. 이를 위해, 메모리(140)는 비휘발성 메모리, 휘발성 메모리, 플래시 메모리(Flash Memory), 하드디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD), RAM, ROM 등 중에서 적어도 하나의 하드웨어로 구현될 수 있다.

메모리(140)에는 전자 장치(100) 또는 프로세서(130)의 동작에 필요한 적어도 하나의 인스트럭션(instruction)이 저장될 수 있다. 여기서, 인스트럭션은 전자 장치(100) 또는 프로세서(130)의 동작을 지시하는 부호 단위로서, 컴퓨터가 이해할 수 있는 언어인 기계어로 작성된 것일 수 있다. 또는, 메모리(140)에는 전자 장치(100) 또는 프로세서(130)의 특정 작업을 수행하는 복수의 인스트럭션이 인스트럭션 집합체(instruction set)로서 저장될 수도 있다.

메모리(140)에는 문자, 수, 영상 등을 나타낼 수 있는 비트 또는 바이트 단위의 정보인 데이터가 저장될 수 있다. 예를 들어, 메모리(140)에는 제2 이미지, 신경망 모델 등이 저장될 수 있다.

메모리(140)는 프로세서(130)에 의해 액세스되며, 프로세서(130)에 의해 인스트럭션, 인스트럭션 집합체 또는 데이터에 대한 독취/기록/수정/삭제/갱신 등이 수행될 수 있다.

통신 인터페이스(150)는 다양한 유형의 통신 방식에 따라 다양한 유형의 외부 장치와 통신을 수행하는 구성이다. 예를 들어, 전자 장치(100)는 통신 인터페이스(150)를 통해 서버, 타 전자 장치, 타 전자 장치의 센서 등과 통신을 수행할 수 있다.

통신 인터페이스(150)는 와이파이 모듈, 블루투스 모듈, 적외선 통신 모듈 및 무선 통신 모듈 등을 포함할 수 있다. 여기서, 각 통신 모듈은 적어도 하나의 하드웨어 칩 형태로 구현될 수 있다.

와이파이 모듈, 블루투스 모듈은 각각 WiFi 방식, 블루투스 방식으로 통신을 수행한다. 와이파이 모듈이나 블루투스 모듈을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 적외선 통신 모듈은 시 광선과 밀리미터파 사이에 있는 적외선을 이용하여 근거리에 무선으로 데이터를 전송하는 적외선 통신(IrDA, infrared Data Association)기술에 따라 통신을 수행한다.

무선 통신 모듈은 상술한 통신 방식 이외에 지그비(zigbee), 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution), LTE-A(LTE Advanced), 4G(4th Generation), 5G(5th Generation)등과 같은 다양한 무선 통신 규격에 따라 통신을 수행하는 적어도 하나의 통신 칩을 포함할 수 있다.

또는, 통신 인터페이스(150)는 HDMI, DP, 썬더볼트, USB, RGB, D-SUB, DVI 등과 같은 유선 통신 인터페이스를 포함할 수 있다.

그 밖에 통신 인터페이스(150)는 LAN(Local Area Network) 모듈, 이더넷 모듈, 또는 페어 케이블, 동축 케이블 또는 광섬유 케이블 등을 이용하여 통신을 수행하는 유선 통신 모듈 중 적어도 하나를 포함할 수도 있다.

디스플레이(160)는 이미지를 디스플레이하는 구성으로, LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 디스플레이, PDP(Plasma Display Panel) 등과 같은 다양한 형태의 디스플레이로 구현될 수 있다. 디스플레이(160) 내에는 a-si TFT, LTPS(low temperature poly silicon) TFT, OTFT(organic TFT) 등과 같은 형태로 구현될 수 있는 구동 회로, 백라이트 유닛 등도 함께 포함될 수 있다. 한편, 디스플레이(160)는 터치 센서와 결합된 터치 스크린, 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등으로 구현될 수 있다.

프로세서(130)는 힘의 세기 또는 힘의 방향 중 적어도 하나를 디스플레이하도록 디스플레이(160)를 제어할 수 있다. 또는, 프로세서(130)는 접촉부(110)의 손상 경고, 손상에 대한 알림 등을 디스플레이하도록 디스플레이(160)를 제어할 수 있다.

사용자 인터페이스(170)는 버튼, 터치 패드, 마우스 및 키보드 등으로 구현되거나, 디스플레이 기능 및 조작 입력 기능도 함께 수행 가능한 터치 스크린으로도 구현될 수 있다. 여기서, 버튼은 전자 장치(100)의 본체 외관의 전면부나 측면부, 배면부 등의 임의의 영역에 형성된 기계적 버튼, 터치 패드, 휠 등과 같은 다양한 유형의 버튼이 될 수 있다.

스피커(180)는 프로세서(130)에서 처리된 각종 오디오 데이터 뿐만 아니라 각종 알림 음이나 음성 메시지 등을 출력하는 구성요소이다.

프로세서(130)는 접촉부(110)의 상태를 안내하는 사운드를 출력하도록 스피커(180)를 제어할 수 있다.

마이크(190)는 사운드를 입력받아 오디오 신호로 변환하기 위한 구성이다. 마이크(190)는 프로세서(130)와 전기적으로 연결되며, 프로세서(130)의 제어에 의해 사운드를 수신할 수 있다.

예를 들어, 마이크(190)는 전자 장치(100)의 상측이나 전면 방향, 측면 방향 등에 일체화된 일체형으로 형성될 수 있다. 또는, 마이크(190)는 전자 장치(100)와는 별도의 리모컨 등에 구비될 수도 있다. 이 경우, 리모컨은 마이크(190)를 통해 사운드를 수신하고, 수신된 사운드를 전자 장치(100)로 제공할 수도 있다.

마이크(190)는 아날로그 형태의 사운드를 수집하는 마이크, 수집된 사운드를 증폭하는 앰프 회로, 증폭된 사운드를 샘플링하여 디지털 신호로 변환하는 A/D 변환회로, 변환된 디지털 신호로부터 노이즈 성분을 제거하는 필터 회로 등과 같은 다양한 구성을 포함할 수 있다.

한편, 마이크(190)는 사운드 센서의 형태로 구현될 수도 있으며, 사운드를 수집할 수 있는 구성이라면 어떠한 방식이라도 무방하다.

프로세서(130)는 마이크(190)를 통해 사용자 명령을 수신할 수 있다.

이상과 같이 전자 장치(100)는 다양한 형태 또는 색상으로 구현된 복수의 마커를 포함하는 접촉부(110)를 이용하여 다양한 힘의 방향을 식별하고, 좀더 변위가 크더라도 센싱 오류를 줄일 수 있다. 또한, 전자 장치(100)는 렌즈 어레이를 포함하여 접촉부(110)에 수직한 힘을 좀더 정확하게 식별할 수 있다.

한편, 도 2 및 도 3에서는 접촉부(110), 카메라(120) 및 프로세서(130)가 각각 하나인 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 하나의 프로세서가 5개의 접촉부 및 5개의 카메라를 제어할 수도 있다. 또는, 하나의 카메라가 2개의 접촉부를 촬영하고, 하나의 프로세서로 2개의 접촉부에 작용하는 힘을 센싱할 수도 있다.

또한, 이하에서는 도 4 내지 도 14를 통해 전자 장치(100)의 동작을 좀더 구체적으로 설명한다. 도 4 내지 도 14에서는 설명의 편의를 위해 개별적인 실시 예에 대하여 설명한다. 다만, 도 4 내지 도 14의 개별적인 실시 예는 얼마든지 조합된 상태로 실시될 수도 있다.

도 4는 본 개시의 일 실시 예에 따른 복수의 마커를 설명하기 위한 도면이다.

도 4에 도시된 바와 같이, 복수의 마커 중 제1 마커는 원형의 제1 패턴(410-1) 및 원형의 제1 패턴(410-1)에서 제1 방향으로 형성된 선형의 제1 패턴(410-2)을 포함하고, 복수의 마커 중 제2 마커는 제1 마커로부터 제1 방향의 반대 방향으로 인접하며, 원형의 제2 패턴(420-1) 및 원형의 제2 패턴(420-1)에서 제1 방향에 수직한 제2 방향으로 형성된 선형의 제2 패턴(420-2)을 포함하고, 복수의 마커 중 제3 마커는 제2 마커로부터 제2 방향의 반대 방향으로 인접하며, 원형의 제3 패턴 및 원형의 제3 패턴에서 제2 방향에 수직한 제3 방향으로 형성된 선형의 제3 패턴을 포함하고, 복수의 마커 중 제4 마커는 제3 마커로부터 제3 방향의 반대 방향으로 인접하며, 원형의 제4 패턴 및 원형의 제4 패턴에서 제3 방향에 수직한 제4 방향으로 형성된 선형의 제4 패턴을 포함할 수 있다.

이 경우, 프로세서(130)는 제1 마커가 제2 마커의 위치로 이동되더라도 선형의 제1 패턴(410-2) 및 선형의 제2 패턴(420-2)으로 인해 제1 마커와 제2 마커를 혼동하지 않으며, 그에 따라 간섭으로 인한 문제를 해결할 수 있다.

도 4에서는 설명의 편의를 위해, 4개의 마커(430)가 기본 단위이고, 4개의 마커(430)와 같은 형태의 마커들이 반복되어 접촉부(110)가 형성되는 것으로 도시하였으나, 이에 한정되는 것은 아니다. 예를 들어, 서로 상이한 형태의 9개의 마커가 기본 단위이고, 9개의 마커와 같은 형태의 마커들이 반복되어 접촉부(110)가 형성될 수도 있으며, 얼마든지 다양한 형태로 구현 가능하다.

도 5는 본 개시의 일 실시 예에 따른 회전력의 측정을 설명하기 위한 도면이다. 도 5에서는 설명의 편의를 위해 도 4와 같은 형태로 복수의 마커가 구현된 것으로 가정하였다.

프로세서(130)는 원형의 패턴을 중심으로, 원형의 패턴의 일측에 형성된 선형의 패턴의 변위에 기초하여 접촉부(110)에 평형한 회전력을 식별할 수 있다.

예를 들어, 프로세서(130)는 도 5에 도시된 바와 같이, 원형의 패턴의 일측에 형성된 선형의 패턴이 510의 위치에서 520의 위치로 이동하면, 원형의 패턴을 중심으로 선형의 패턴의 회전 각도를 식별하고, 회전 각도에 기초하여 접촉부(110)에 평형한 회전력을 식별할 수 있다.

도 6은 본 개시의 일 실시 예에 따른 색상을 추가한 복수의 마커를 설명하기 위한 도면이다.

도 5와 같은 마커에서 선형의 패턴이 90도 회전하는 경우, 도 6의 좌측 하단과 같이 선형의 패턴이 610의 위치에서 620의 위치로 이동하여 우측으로 인접한 마커와의 구별이 어려울 수 있다.

도 6의 상단은 본 개시의 일 실시 예에 따른 선형의 패턴에 색상이 추가된 접촉부(110)를 나타낸다. 이 경우, 도 6의 우측 하단과 같이 제1 선형의 패턴(630), 제2 선형의 패턴(640), 제3 선형의 패턴(650), 제4 선형의 패턴(660)은 모두 상이한 색상일 수 있으며, 제1 선형의 패턴(630)이 90도 회전하여 우측에 인접한 마커와 형태가 동일하게 되더라도 제2 선형의 패턴(640)과 색상이 상이하여 인접한 마커 간 구별이 가능할 수 있다. 그에 따라, 프로세서(130)의 센싱 오류를 줄일 수 있다.

도 6에서는 설명의 편의를 위해, 4가지 색상을 이용하는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 제1 선형의 패턴(630) 및 제3 선형의 패턴(650)의 색상이 동일하고, 제2 선형의 패턴(640) 및 제4 선형의 패턴(660)의 색상이 동일한 형태로 구현될 수도 있다. 또한, 원형의 패턴의 색상이 상이할 수도 있으며, 얼마든지 다양한 방식으로 구현될 수 있다.

도 7 및 도 8은 본 개시의 일 실시 예에 따른 기본 단위의 마커를 설명하기 위한 도면들이다.

도 7에 도시된 바와 같이, 6개의 마커가 기본 단위이고, 6개의 마커와 같은 형태의 마커들이 반복되어 접촉부(110)가 형성될 수 있다. 여기서, 기본 단위의 6개의 마커는 모두 상이한 형태일 수 있다.

다만, 이에 한정되는 것은 아니며, 기본 단위의 6개의 마커는 형태 또는 색상 중 적어도 하나가 상이한 형태로 구현될 수도 있다.

또는, 도 8에 도시된 바와 같이, 16개의 마커가 기본 단위이고, 16개의 마커와 같은 형태의 마커들이 반복되어 접촉부(110)가 형성될 수도 있다. 여기서, 기본 단위의 16개의 마커는 모두 상이한 형태일 수 있다.

다만, 이에 한정되는 것은 아니며, 기본 단위의 16개의 마커는 형태 또는 색상 중 적어도 하나가 상이한 형태로 구현될 수도 있다.

기본 단위에 포함된 마커의 개수가 증가할수록 프로세서(130)가 측정할 수 있는 변위가 증가할 수 있으나, 제조 비용이 증가할 수 있다.

도 9 내지 도 11은 본 개시의 일 실시 예에 따른 색상이 상이한 원형의 패턴으로 접촉부(110)를 구현한 경우를 설명하기 위한 도면들이다.

접촉부(110)는 도 9에 도시된 바와 같이, 단일 형태의 패턴을 갖는 복수의 마커를 포함할 수도 있으며, 여기서 복수의 마커는 2가지 색상으로 구현될 수 있다. 예를 들어, 제1 마커(910)는 빨간색이고, 제2 마커(920)는 검은색일 수 있다. 이 경우, 복수의 마커의 형태가 모두 동일하기 때문에 제조 비용의 절감이 가능하다.

또한, 수평 또는 수직으로 인접한 마커 간 색상이 상이하기 때문에 프로세서(130)의 센싱 오류를 줄일 수 있다. 예를 들어, 도 10의 상단에 도시된 바와 같이, 수평 또는 수직으로 인접한 마커 간 색상이 동일하고 힘의 크기가 상대적으로 작은 경우에는 1010 및 1020과 같이 마커의 변위가 크지 않아 인접한 마커 간 간섭이 발생하지 않는다. 다만, 도 10의 가운데에 도시된 바와 같이, 수평 또는 수직으로 인접한 마커 간 색상이 동일하고 힘의 크기가 상대적으로 큰 경우에는 마커의 변위가 커져서 1030과 같이 인접한 마커 간 간섭이 발생할 수 있다. 즉, 도 10의 가운데에 도시된 바와 같이, 힘이 좌측 방향으로 작용한 경우에도, 프로세서(130)는 마커가 오른쪽으로 이동한 것으로 식별하고, 힘이 우측 방향으로 작용한 것으로 식별할 수도 있다. 이에 대해, 도 10의 하단에 도시된 바와 같이, 수평 또는 수직으로 인접한 마커 간 색상이 상이하고 힘의 크기가 상대적으로 큰 경우에는 마커의 변위가 커지더라도 프로세서(130)는 1040이 상이한 마커이고, 1050 및 1060에 기초하여 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별할 수 있다.

즉, 프로세서(130)는 수평 또는 수직으로 인접한 마커 간 색상이 동일한 경우에는 도 11의 좌측에 도시된 바와 같이, 변위가 d 미만이어야 오류 없이 힘을 센싱할 수 있으나, 수평 또는 수직으로 인접한 마커 간 색상이 상이한 경우에는 도 11의 우측에 도시된 바와 같이, 변위가 약 1.4d 미만이어야 오류 없이 힘을 센싱할 수 있다. 즉, 수평 또는 수직으로 인접한 마커 간 색상이 상이한 경우는 수평 또는 수직으로 인접한 마커 간 색상이 동일한 경우보다 오류 발생 가능성이 낮아질 수 있다.

도 12 내지 도 14는 본 개시의 일 실시 예에 따른 렌즈 어레이를 설명하기 위한 도면들이다.

전자 장치(100)는 도 12에 도시된 바와 같이, 접촉부(110), 카메라(120), 접촉부(110) 및 카메라(120)를 수납하기 위한 인클로저(encloser), 렌즈 어레이(1220)를 포함할 수 있다. 도 12에서는 설명의 편의를 위해, 프로세서(130)의 도시는 생략하였다.

접촉부(110)는 젤(110-1), 젤(110-1)의 일면에 프린팅된 복수의 마커(110-2) 및 복수의 마커(110-2)의 상단에 형성된 코팅층(110-3)을 포함할 수 있다.

렌즈 어레이는(1220)는 젤(110-1)의 타면에 형성되며, 복수의 마커(110-2)에 각각 대응되는 복수의 렌즈를 포함할 수 있다. 예를 들어, 렌즈 어레이(1220)는 도 13에 도시된 바와 같이, 복수의 마커(110-2)에 각각 대응되는 복수의 렌즈(1310-1, 1310-2, ... 1310-N)를 포함할 수 있다. 여기서, 복수의 렌즈(1310-1, 1310-2, ... 1310-N)는 각각 복수의 마커(110-2)를 확대시켜 줄 수 있다.

프로세서(130)는 복수의 렌즈 각각을 통해 복수의 마커(110-2) 각각의 크기 변경을 식별하고, 식별된 크기 변경에 기초하여 접촉부(110)에 수직한 방향의 힘을 식별할 수 있다. 예를 들어, 프로세서(130)는 도 14에 도시된 바와 같이, 복수의 렌즈 각각을 통해 복수의 마커(110-2) 각각의 크기를 좀더 확대된 상태로 식별하고, 그에 따라 복수의 마커(110-2) 각각의 크기 변경을 좀더 정확하게 식별할 수 있다.

또는, 이상과 같은 구조를 통해, 복수의 마커(110-2)를 좀더 작게 구현할 수도 있다. 이 경우, 접촉부(110)의 내구성이 높아지는 효과가 있다. 또는, 이상과 같은 구조를 통해, 카메라(120)의 해상도를 낮추어 제조 비용을 절감할 수도 있다.

도 15는 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 설명하기 위한 흐름도이다.

먼저, 전자 장치에 포함된 접촉부의 일면이 물체에 접촉한다(S1510). 그리고, 전자 장치에 포함된 카메라를 통해 접촉부의 타면을 촬영한 제1 이미지에 기초하여 접촉부에 포함된 복수의 마커 중 적어도 하나의 변위를 식별한다(S1520). 그리고, 식별된 변위에 기초하여 접촉부에 작용하는 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별한다(S1530). 여기서, 복수의 마커 중 제1 마커는 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이할 수 있다.

여기서, 복수의 마커 각각은 제1 형태의 패턴 및 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함하며, 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별하는 단계(S1530)는 제1 형태의 패턴 및 제2 형태의 패턴에 기초하여 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별할 수 있다.

그리고, 제1 형태의 패턴은 원형의 패턴이고, 제2 형태의 패턴은 선형의 패턴일 수 있다.

여기서, 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별하는 단계(S1530)는 원형의 패턴을 중심으로, 원형의 패턴의 일측에 형성된 선형의 패턴의 변위에 기초하여 접촉부에 평형한 회전력을 식별할 수 있다.

또한, 복수의 마커에 포함된 복수의 제2 형태의 패턴 중 인접한 제2 형태의 패턴은 색상이 상이할 수 있다.

한편, 제1 마커는 원형의 제1 패턴 및 원형의 제1 패턴에서 제1 방향으로 형성된 선형의 제1 패턴을 포함하고, 제2 마커는 제1 마커로부터 제1 방향의 반대 방향으로 인접하며, 원형의 제2 패턴 및 원형의 제2 패턴에서 제1 방향에 수직한 제2 방향으로 형성된 선형의 제2 패턴을 포함하고, 복수의 마커 중 제3 마커는 제2 마커로부터 제2 방향의 반대 방향으로 인접하며, 원형의 제3 패턴 및 원형의 제3 패턴에서 제2 방향에 수직한 제3 방향으로 형성된 선형의 제3 패턴을 포함하고, 복수의 마커 중 제4 마커는 제3 마커로부터 제3 방향의 반대 방향으로 인접하며, 원형의 제4 패턴 및 원형의 제4 패턴에서 제3 방향에 수직한 제4 방향으로 형성된 선형의 제4 패턴을 포함할 수 있다.

또한, 전자 장치는 접촉부의 타면에 형성되며, 복수의 마커에 각각 대응되는 복수의 렌즈를 포함하는 렌즈 어레이를 더 포함하며, 힘의 세기 또는 힘의 방향 중 적어도 하나를 식별하는 단계(S1530)는 복수의 렌즈 각각을 통해 복수의 마커 각각의 크기 변경을 식별하고, 식별된 크기 변경에 기초하여 접촉부에 수직한 방향의 힘을 식별할 수 있다.

한편, 복수의 마커 각각은 제1 형태의 패턴을 포함하거나, 제1 형태의 패턴 및 제1 형태의 패턴에 인접하게 형성된 적어도 하나의 제2 형태의 패턴을 포함할 수 있다.

또한, 변위를 식별하는 단계(S1520)는 제1 이미지 및 접촉부의 일면이 물체에 접촉되기 전에 카메라를 통해 접촉부의 타면이 촬영된 제2 이미지에 기초하여 복수의 마커 중 적어도 하나의 변위를 식별할 수 있다.

한편, 접촉부는 투명한 젤, 젤의 일면에 프린팅된 복수의 마커 및 복수의 마커의 상단에 형성된 코팅층을 포함할 수 있다.

이상과 같은 본 개시의 다양한 실시 예에 따르면, 전자 장치는 다양한 형태 또는 색상으로 구현된 복수의 마커를 포함하는 접촉부를 이용하여 다양한 힘의 방향을 식별하고, 좀더 변위가 크더라도 센싱 오류를 줄일 수 있다.

또한, 전자 장치는 렌즈 어레이를 포함하여 접촉부에 수직한 힘을 좀더 정확하게 식별할 수 있다.

한편, 본 개시의 일시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 전자 장치(예: 전자 장치(A))를 포함할 수 있다. 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접, 또는 프로세서의 제어 하에 다른 구성요소들을 이용하여 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.

또한, 본 개시의 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.

또한, 본 개시의 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다. 일부 경우에 있어 본 명세서에서 설명되는 실시 예들이 프로세서 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어로서 구현될 수도 있다. 소프트웨어 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.

한편, 상술한 다양한 실시 예들에 따른 기기의 프로세싱 동작을 수행하기 위한 컴퓨터 명령어(computer instructions)는 비일시적 컴퓨터 판독 가능 매체(non-transitory computer-readable medium)에 저장될 수 있다. 이러한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 명령어는 특정 기기의 프로세서에 의해 실행되었을 때 상술한 다양한 실시 예에 따른 기기에서의 처리 동작을 특정 기기가 수행하도록 한다. 비일시적 컴퓨터 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.

또한, 상술한 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.

100 : 전자 장치 110 : 접촉부
120 : 카메라 130 : 프로세서
140 : 메모리 150 : 통신 인터페이스
160 : 디스플레이 170 : 사용자 인터페이스
180 : 스피커 190 : 마이크

Claims

전자 장치에 있어서,
복수의 마커를 포함하는 접촉부;
카메라; 및
상기 접촉부 및 상기 카메라와 연결되어 상기 전자 장치를 제어하는 적어도 하나의 프로세서;를 포함하며,
상기 프로세서는,
상기 접촉부의 일면이 물체에 접촉되면, 상기 카메라를 통해 상기 접촉부의 타면을 촬영한 제1 이미지에 기초하여 상기 복수의 마커 중 적어도 하나의 변위를 식별하고,
상기 식별된 변위에 기초하여 상기 접촉부에 작용하는 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하며,
상기 복수의 마커 중 제1 마커는,
상기 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이한, 전자 장치.
제1항에 있어서,
상기 복수의 마커 각각은,
제1 형태의 패턴 및 상기 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함하며,
상기 프로세서는,
상기 제1 형태의 패턴 및 상기 제2 형태의 패턴에 기초하여 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는, 전자 장치.
제2항에 있어서,
상기 제1 형태의 패턴은,
원형의 패턴이고,
상기 제2 형태의 패턴은,
선형의 패턴인, 전자 장치.
제3항에 있어서,
상기 프로세서는,
상기 원형의 패턴을 중심으로, 상기 원형의 패턴의 일측에 형성된 상기 선형의 패턴의 변위에 기초하여 상기 접촉부에 평형한 회전력을 식별하는, 전자 장치.
제2항에 있어서,
상기 복수의 마커에 포함된 복수의 제2 형태의 패턴 중 인접한 제2 형태의 패턴은 색상이 상이한, 전자 장치.
제1항에 있어서,
상기 제1 마커는,
원형의 제1 패턴 및 상기 원형의 제1 패턴에서 제1 방향으로 형성된 선형의 제1 패턴을 포함하고,
상기 제2 마커는,
상기 제1 마커로부터 상기 제1 방향의 반대 방향으로 인접하며,
원형의 제2 패턴 및 상기 원형의 제2 패턴에서 상기 제1 방향에 수직한 제2 방향으로 형성된 선형의 제2 패턴을 포함하고,
상기 복수의 마커 중 제3 마커는,
상기 제2 마커로부터 상기 제2 방향의 반대 방향으로 인접하며,
원형의 제3 패턴 및 상기 원형의 제3 패턴에서 상기 제2 방향에 수직한 제3 방향으로 형성된 선형의 제3 패턴을 포함하고,
상기 복수의 마커 중 제4 마커는,
상기 제3 마커로부터 상기 제3 방향의 반대 방향으로 인접하며,
원형의 제4 패턴 및 상기 원형의 제4 패턴에서 상기 제3 방향에 수직한 제4 방향으로 형성된 선형의 제4 패턴을 포함하는, 전자 장치.
제1항에 있어서,
상기 접촉부의 타면에 형성되며, 상기 복수의 마커에 각각 대응되는 복수의 렌즈를 포함하는 렌즈 어레이;를 더 포함하며,
상기 프로세서는,
상기 복수의 렌즈 각각을 통해 상기 복수의 마커 각각의 크기 변경을 식별하고,
상기 식별된 크기 변경에 기초하여 상기 접촉부에 수직한 방향의 힘을 식별하는, 전자 장치.
제1항에 있어서,
상기 복수의 마커 각각은,
제1 형태의 패턴을 포함하거나, 상기 제1 형태의 패턴 및 상기 제1 형태의 패턴에 인접하게 형성된 적어도 하나의 제2 형태의 패턴을 포함하는, 전자 장치.
제1항에 있어서,
상기 접촉부의 일면이 상기 물체에 접촉되기 전에 상기 카메라를 통해 상기 접촉부의 타면이 촬영된 제2 이미지가 저장된 메모리;를 더 포함하며,
상기 프로세서는,
상기 제1 이미지 및 상기 제2 이미지에 기초하여 상기 복수의 마커 중 상기 적어도 하나의 변위를 식별하는, 전자 장치.
제1항에 있어서,
상기 접촉부는,
투명한 젤;
상기 젤의 일면에 프린팅된 상기 복수의 마커; 및
상기 복수의 마커의 상단에 형성된 코팅층;을 포함하는, 전자 장치.
전자 장치의 제어 방법에 있어서,
상기 전자 장치에 포함된 접촉부의 일면이 물체에 접촉하는 단계;
상기 전자 장치에 포함된 카메라를 통해 상기 접촉부의 타면을 촬영한 제1 이미지에 기초하여 상기 접촉부에 포함된 복수의 마커 중 적어도 하나의 변위를 식별하는 단계; 및
상기 식별된 변위에 기초하여 상기 접촉부에 작용하는 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계;를 포함하며,
상기 복수의 마커 중 제1 마커는,
상기 제1 마커에 인접한 제2 마커와 형태 또는 색상 중 적어도 하나가 상이한, 제어 방법.
제11항에 있어서,
상기 복수의 마커 각각은,
제1 형태의 패턴 및 상기 제1 형태의 패턴의 일측에 형성된 제2 형태의 패턴을 포함하며,
상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계는,
상기 제1 형태의 패턴 및 상기 제2 형태의 패턴에 기초하여 상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는, 제어 방법.
제12항에 있어서,
상기 제1 형태의 패턴은,
원형의 패턴이고,
상기 제2 형태의 패턴은,
선형의 패턴인, 제어 방법.
제13항에 있어서,
상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계는,
상기 원형의 패턴을 중심으로, 상기 원형의 패턴의 일측에 형성된 상기 선형의 패턴의 변위에 기초하여 상기 접촉부에 평형한 회전력을 식별하는, 제어 방법.
제12항에 있어서,
상기 복수의 마커에 포함된 복수의 제2 형태의 패턴 중 인접한 제2 형태의 패턴은 색상이 상이한, 제어 방법.
제11항에 있어서,
상기 제1 마커는,
원형의 제1 패턴 및 상기 원형의 제1 패턴에서 제1 방향으로 형성된 선형의 제1 패턴을 포함하고,
상기 제2 마커는,
상기 제1 마커로부터 상기 제1 방향의 반대 방향으로 인접하며,
원형의 제2 패턴 및 상기 원형의 제2 패턴에서 상기 제1 방향에 수직한 제2 방향으로 형성된 선형의 제2 패턴을 포함하고,
상기 복수의 마커 중 제3 마커는,
상기 제2 마커로부터 상기 제2 방향의 반대 방향으로 인접하며,
원형의 제3 패턴 및 상기 원형의 제3 패턴에서 상기 제2 방향에 수직한 제3 방향으로 형성된 선형의 제3 패턴을 포함하고,
상기 복수의 마커 중 제4 마커는,
상기 제3 마커로부터 상기 제3 방향의 반대 방향으로 인접하며,
원형의 제4 패턴 및 상기 원형의 제4 패턴에서 상기 제3 방향에 수직한 제4 방향으로 형성된 선형의 제4 패턴을 포함하는, 제어 방법.
제11항에 있어서,
상기 전자 장치는,
상기 접촉부의 타면에 형성되며, 상기 복수의 마커에 각각 대응되는 복수의 렌즈를 포함하는 렌즈 어레이;를 더 포함하며,
상기 힘의 세기 또는 상기 힘의 방향 중 적어도 하나를 식별하는 단계는,
상기 복수의 렌즈 각각을 통해 상기 복수의 마커 각각의 크기 변경을 식별하고,
상기 식별된 크기 변경에 기초하여 상기 접촉부에 수직한 방향의 힘을 식별하는, 제어 방법.
제11항에 있어서,
상기 복수의 마커 각각은,
제1 형태의 패턴을 포함하거나, 상기 제1 형태의 패턴 및 상기 제1 형태의 패턴에 인접하게 형성된 적어도 하나의 제2 형태의 패턴을 포함하는, 제어 방법.
제11항에 있어서,
상기 변위를 식별하는 단계는,
상기 제1 이미지 및 상기 접촉부의 일면이 상기 물체에 접촉되기 전에 상기 카메라를 통해 상기 접촉부의 타면이 촬영된 제2 이미지에 기초하여 상기 복수의 마커 중 상기 적어도 하나의 변위를 식별하는, 제어 방법.
제11항에 있어서,
상기 접촉부는,
투명한 젤;
상기 젤의 일면에 프린팅된 상기 복수의 마커; 및
상기 복수의 마커의 상단에 형성된 코팅층;을 포함하는, 제어 방법.