KR102478814B1 - 이미지 분할 기반 해상도 개선 방법 및 장치 - Google Patents

Abstract

본 발명의 실시 예에 따른 이미지 분할 기반 해상도 개선 방법은 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하는 단계, 상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계 및 다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계를 포함할 수 있다.

Description

이미지 분할 기반 해상도 개선 방법 및 장치{Method and apparatus for improving resolution based on image segmentation}

본 발명은 이미지 분할 방식에 기반하여 이미지의 해상도를 개선하는 방법 및 장치에 관한 것이다.

딥러닝 및 CNN(Convolution neural network)을 이용한 초해상도(super resolution) 이미지 복원 방법은 지도학습을 통해 네트워크를 학습한다. 이 때 보통 일반 선명한 이미지들은 지도학습의 타겟 이미지 혹은 레이블 개념으로 사용하고, 다운 샘플링을 통해 해상도를 낮춘 이미지를 입력 저해상도 이미지로 사용한다.

학습의 과정은 다음과 같다. 매 반복마다 입력 저해상도 이미지 또는 영상이 컨볼루션 레이어와 업샘플링 레이어로 이루어진 네트워크를 통과하여 초해상도 이미지 또는 영상으로 변환되고, 초해상도 이미지를 타겟 이미지와 비교하여 차이를 측정하고, 차이가 줄어들도록 차이를 역전파(back-propagate)하여 컨볼루션 레이어의 웨이트(weight)를 변화시킨다. 학습이 진행될수록 학습 데이터에 대해서 초해상도 이미지가 타겟 이미지 사이의 차이 값이 점점 줄어들고 데이터가 다양할수록 학습 효과가 일반화되어 학습에 사용되지 않은 다른 이미지에 대해서도 초해상도 이미지 복원 성능이 향상되게 된다.

이러한 딥러닝 및 CNN을 이용한 초해상도 이미지 복원 방법에 있어서, 해상도 복원의 성능을 향상시키기 위해서는 컨볼루션 레이어의 수를 증가시켜 보다 깊은(deep) 차원의 신경망 구조를 갖도록 하는 방법이 있다. 그러나 이와 같은 방식의 경우, 학습 단계 및 테스트 단계에서 소요되는 데이터의 연산 부하가 크고 연산에 소요되는 시간이 길다는 문제가 있었다.

이에 따라 연산에 요구되는 데이터 부하를 경감시키고, 해상도 개선에 소요되는 시간을 단축하면서 목표한 해상도로의 복원을 수행하기 위한 새로운 방안이 요구되어 왔다.

본 발명은 이미지의 해상도 개선을 수행하기 위해 GPU를 다수 개 이용하는 등의 과도한 데이터 연산의 동작을 수행하지 않고도 간단한 방법으로 고화질의 해상도 복원을 수행할 수 있도록 하는 방법 및 장치를 제안하는 데 목적이 있다.

또한 본 발명은 이미지의 해상도 개선에 소요되는 시간을 단축하면서도 목표한 화질로 해상도를 개선할 수 있게 하는 방법 및 장치를 제안하는 데 목적이 있다.

상기와 같은 목적을 달성하기 위하여, 본 발명의 실시 예에 따른 이미지 분할 기반 해상도 개선 방법은 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하는 단계, 상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계 및 다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계를 포함할 수 있다.

그리고 본 발명의 상기 이미지 분할 기반 해상도 개선 방법은 상기 AI이미지 처리 모델의 학습이 완료되면, 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 이미지 처리 단계를 더 포함할 수 있다.

그리고 상기 이미지 처리 단계는 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하기 위해 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계, 분할된 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 단계 및 AI 연산 이후 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 생성하는 단계를 포함하여 구성될 수 있다.

그리고 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계에서 상기 AI이미지 처리 모델의 학습 단계에서 투입된 학습용 이미지 데이터의 패치 사이즈에 대응하는 사이즈로 대상 이미지를 분할할 수 있다. 그리고 대상 이미지 분할 시, 대상 이미지가 포함하는 오브젝트의 유무 및 오브젝트의 사이즈에 대응하여 조절된 패치 사이즈로 분할하도록 설정될 수 있다.

상기 AI 이미지 처리모델의 학습을 수행하는 단계는 해상도 개선의 대상이 되는 이미지의 속성에 대응하여 학습용 이미지 데이터로 선택되는 std값의 범위를 상이하게 설정할 수 있다.

본 발명은 이미지 해상도 개선을 수행하는 데 있어, 종래 GPU를 다수 개 이용하는 등의 과도한 데이터 연산이 요구되었으나, 이미지를 기준에 따라 분할하고, 분할된 이미지 각각의 해상도를 복원한 이후 접합하는 방식으로 해상도 복원을 수행하므로, 과도한 데이터 연산의 부담이 경감될 수 있다.

또한 본 발명은 동일 품질로 이미지 해상도 개선을 수행하고자 하는 데 있어, 이미지를 소정의 기준에 따라 분할한 후 해상도 개선을 수행하고, 추후 해상도 개선된 분할 이미지를 접합하므로, AI 모델의 컨볼루션 레이어의 개수를 과도하게 증가하지 않아도 되는 장점이 있으며, 그로 인해 AI 모델의 학습 및 해상도 개선 연산에 소요되는 시간이 단축될 수 있다.

도 1은 본 발명의 실시 예에 따른 해상도 개선 장치의 구성을 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 학습 지원부의 구성을 도시한 도면이다.
도 3은 본 발명의 실시 예에 따른 AI 이미지 처리부의 구성을 도시한 도면이다.
도 4는 본 발명의 실시 예에 따른 이미지 그룹에 대한 이해를 돕기 위한 도면이다.
도 5는 본 발명의 실시 예에 따른 이미지 분할을 통해 해상도 개선을 수행하는 동작에 대하여 도시한 도면이다.
도 6은 본 발명의 실시 예에 따른 AI 모델의 학습 과정에 대한 순서를 도시한 순서도이다.
도 7은 본 발명의 실시 예에 따른 AI 모델을 통한 이미지 해상도 개선 과정을 도시한 순서도이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

명세서에서 사용되는 "부" 또는 “모듈”이라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부" 또는 “모듈”은 어떤 역할들을 수행한다. 그렇지만 "부" 또는 “모듈”은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부" 또는 “모듈”은 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부" 또는 “모듈”은 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부" 또는 “모듈”들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부" 또는 “모듈”들로 결합되거나 추가적인 구성요소들과 "부" 또는 “모듈”들로 더 분리될 수 있다.

공간적으로 상대적인 용어인 "아래(below)", "아래(beneath)", "하부(lower)", "위(above)", "상부(upper)" 등은 도면에 도시되어 있는 바와 같이 하나의 구성요소와 다른 구성요소들과의 상관관계를 용이하게 기술하기 위해 사용될 수 있다. 공간적으로 상대적인 용어는 도면에 도시되어 있는 방향에 더하여 사용시 또는 동작시 구성요소들의 서로 다른 방향을 포함하는 용어로 이해되어야 한다. 예를 들어, 도면에 도시되어 있는 구성요소를 뒤집을 경우, 다른 구성요소의 "아래(below)"또는 "아래(beneath)"로 기술된 구성요소는 다른 구성요소의 "위(above)"에 놓여질 수 있다. 따라서, 예시적인 용어인 "아래"는 아래와 위의 방향을 모두 포함할 수 있다. 구성요소는 다른 방향으로도 배향될 수 있으며, 이에 따라 공간적으로 상대적인 용어들은 배향에 따라 해석될 수 있다.

본 명세서에서, 컴퓨터는 적어도 하나의 프로세서를 포함하는 모든 종류의 하드웨어 장치를 의미하는 것이고, 실시 예에 따라 해당 하드웨어 장치에서 동작하는 소프트웨어적 구성도 포괄하는 의미로서 이해될 수 있다. 예를 들어, 컴퓨터는 스마트폰, 태블릿 PC, 데스크톱, 노트북 및 각 장치에서 구동되는 사용자 클라이언트 및 애플리케이션을 모두 포함하는 의미로서 이해될 수 있으며, 또한 이에 제한되는 것은 아니다.

이하, 첨부된 도면을 참조하여 본 발명의 실시 예를 상세하게 설명한다.

도 1은 본 발명의 실시 예에 따른 해상도 개선 장치의 구성을 도시한 도면이다.

도 1에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 학습 지원부 110 및 AI 이미지 처리부 120를 포함하여 구성될 수 있다.

상기 학습 지원부 110는 일 대상 이미지의 해상도를 개선하기 위한 AI 연산 모델의 학습을 지원할 수 있다. 상기 AI 연산 모델은 적어도 3개 이상의 컨볼루션 레이어를 포함하는 딥러닝 방식의 모델일 수 있으며, GT(ground Truth)로 정의되는 고해상도 타겟 이미지와 이에 대응하는 저해상도 버전의 이미지(LR; Low Resolution image)를 쌍으로 투입하여, 저해상도 이미지(LR)를 GT로 복원하도록 학습되는 방식인 SR(Super Resolution)모델을 포함할 수 있다.

그리고 상기 학습 지원부 110는 학습용 이미지를 선택하고, 이를 이용하여 AI 연산 모델을 학습하도록 하기 위해 일련의 과정을 추가로 수행할 수 있는데, 이에 대하여 설명하기 위해 도 2를 참조하기로 한다.

도 2는 본 발명의 실시 예에 따른 학습 지원부의 구성을 도시한 도면이다.

도 2에서 도시되는 바와 같이 상기 학습 지원부 110는 학습 이미지 분류부 111, 학습 이미지 선택부 112를 포함하여 구성될 수 있다.

먼저, 상기 학습 이미지 분류부 111는 AI 연산 모델을 학습시킬 학습용 이미지를 그룹별로 분류할 수 있다. 이 때 이미지가 분류되는 기준은 std값에 근거할 수 있는데, 이에 대한 설명을 위해 도 4를 참조하기로 한다.

도 4는 본 발명의 실시 예에 따른 이미지 그룹에 대한 이해를 돕기 위한 도면이다.

도 4에서 도시되는 바와 같이, 임의 이미지들은 데이터의 분포 정도를 표시하는 값인 std값(표준편차를 의미)을 가지고 있으며, 본 발명의 실시 예에 따른 상기 학습 이미지 분류부 111는 임의의 이미지들에 대하여 std값을 확인하고, 이를 기반으로 이미지 그룹을 분류하는 동작을 수행할 수 있다.

상기 std값은 데이터의 대략적인 구조를 담고 있으며, 그 값의 크기가 증가할수록 이미지의 복잡도가 증가되는 것으로 이해될 수 있다. 이 때 상기 학습 이미지 분류부 111는 임의의 패치 사이즈가 정해지면, 특정 이미지를 정해진 패치 사이즈로 분할할 수 있으며, 패치 사이즈로 이미지가 분할되면, 이를 기준으로 분할된 이미지의 std값을 산출할 수 있다.

상기 학습 이미지 분류부 111는 std값이 산출된 이미지들을 그 값의 크기에 대응하여 이미지 그룹을 분류할 수 있다. 도 4에서는 일 예를 도시하고 있는데, std값은 도 4에 도시되는 것보다 더욱 다양한 범위로 산출될 수 있다. 그러나 본 명세서에서는 이해를 돕기 위해, std값이 0부터 50까지의 범위에 해당하는 이미지들만을 참조하여 설명하기로 한다.

도 4에서 도시되는 바와 같이, 상기 학습 이미지 분류부 111는 std값의 범위에 따라 이미지 그룹을 분류할 수 있는데, 예를 들어, 0~50까지의 std값을 갖는 이미지들을 0~10, 10~20, 20~30, 30~40, 40~50과 같이 총 5개의 이미지 그룹에 분류할 수 있다.

이미지가 std값에 따라 그룹별로 분류되면, 상기 학습 이미지 선택부 112는 AI 연산 모델에 투입할 학습용 이미지 데이터를 선택할 수 있다. 이 때 상기 학습 이미지 선택부 112는 AI 연산 모델에 투입할 학습용 이미지들을 선택하고, AI 연산 모델에 투입하여 학습 동작을 진행할 수 있다.

다양한 실시 예에 따라 상기 학습 이미지 선택부 112는 AI 연산 모델에 학습용이미지 데이터를 투입하여 학습 동작을 수행할 시, 기 분류된 이미지 그룹별로 여러 AI 연산 모델을 학습시킬 수 있다. 예를 들어, 학습 이미지 선택부 112는 제 1그룹(예, std 값이 0 내지 10 인 이미지 그룹)을 AI 연산 모델에 투입하여 학습시키고, 학습 결과 제 1 모델을 생성할 수 있다. 이와 유사하게, 상기 학습 이미지 선택부 112는 각 이미지 그룹을 AI 연산 모델에 투입하여 학습시킨 결과로, 제 2모델, 제 3모델과 같은 여러 유형의 결과 모델을 생성할 수 있다.

그리고 상기 학습 이미지 선택부 112는 학습용 이미지 데이터를 선택할 시, 해당 AI 모델의 대상 이미지 속성에 따라 학습 이미지 선택 기준을 상이하게 결정할 수 있다. 구체적으로 예를 들면, 상기 학습 이미지 선택부 112는 대상 이미지의 속성에 따라 분류할 시, 검사용 이미지와 일상 이미지로 분류하고, 각각에 대하여 서로 다른 학습 기준을 적용할 수 있다.

상기 검사용 이미지는 X-ray, CT 와 같은 검사를 위해 촬영되는 이미지들을 의미할 수 있으며, 이와 같은 검사를 목적으로 하는 이미지들은 std값의 분포 범위가 상대적으로 좁게 산출되고, 그에 비해 일반 카메라를 통해 촬영되는 일상 이미지는 std값의 분포 범위가 상대적으로 넓게 산출될 수 있다.

그리고 상기 학습 이미지 선택부 112는 검사용 이미지를 대상으로 하는 AI 모델의 학습 시 학습용 이미지 데이터로 선택되는 std값의 범위를 예컨대, 10~50으로 설정하고, 일상 이미지를 대상으로 하는 AI 모델의 학습 시, 학습용 이미지 데이터로 선택되는 std값 범위를 예컨대, 0~100로 설정할 수 있다. 이 때 상기 학습용 이미지 데이터로 선택되는 std값의 범위는 예시를 든 것일 뿐이며, 실제 std값의 범위는 이보다 더 제한적이거나 더 넓은 범위를 가질 수 있다.

또는 상기 학습 이미지 선택부 112는 화질 개선의 대상이 되는 이미지의 속성(예, 바이오 X-ray, 바이오 초음파 이미지, CT이미지, 산업용 X-ray, 산업용 일반 카메라 이미지 등)에 따라 학습용으로 선정될 이미지의 데이터 구조값(std값)의 범위를 변경하되, 화질 개선의 대상 이미지의 평균 복잡도가 증가할수록 학습용으로 선정할 이미지의 데이터 구조값(std)을 기준으로 이미지 그룹의 선택을 증가 설정할 수 있다. 예를 들어, 만들고자 하는 AI 모델이 바이오용 X-ray 이미지의 해상도 개선을 위한 모델인 경우에 학습용으로 선정할 이미지 데이터가 3개의 이미지 그룹(예, std 20~30, 30~40, 40~50)으로 선정되었다고 가정하면, 만들고자 하는 AI 모델이 산업용 일반 카메라 이미지의 해상도 개선을 위한 모델인 경우 6개의 이미지 그룹(예, std 20~30, 30~40, 40~50, 50~60, 60~70, 70~80)이 학습용 이미지 데이터로 선정될 수 있다. 이처럼 화질 개선의 대상 이미지의 속성에 따라서 학습용 이미지로 선정되는 데이터 구조값(std)의 범위가 증가 또는 감소될 수 있다.

다양한 실시 예에 따라 학습 단계에서 투입되는 학습용 이미지의 밸런스가 무너지는 경우 해당 AI 모델의 이미지 개선 성능이 저하될 수 있다. 이러한 문제를 방지하기 위해, 본 발명의 실시 예에 따른 학습 이미지 선택부 112는 std값이 기준 범위에 속하는 이미지들만을 학습용 이미지 데이터로 선택할 수 있다. 이를 위해 초해상도 모델 학습부 121a는 극단값의 std값을 갖는 데이터들을 학습 단계에서 배제할 수 있는데, 예를 들면, 제공되는 이미지들의 std값이 0~100까지의 범위로 확인되고, 각 이미지들은 std값의 크기에 따라 10개의 그룹(예, 1그룹: std 0~10, 2그룹: 10~20…10그룹: 90~100)으로 지정되었다고 할 때, 상기 초해상도 모델 학습부 121a는 극단값으로 여겨지는 소정의 std값을 갖는 이미지 그룹(예, 1그룹, 10그룹)에 해당하는 이미지들을 학습 단계에서 제거할 수 있다.

이와 같이 상기 학습 이미지 선택부 112는 해상도 개선의 대상이 되는 이미지의 속성(검사용 이미지 여부)에 따라, 학습용 이미지 데이터로 선정될 이미지의 std 기준 값을 설정할 수 있다.

또한 본 발명의 실시 예에 따른 해상도 개선 장치 100에서 제공하는 AI 모델은 각 std 값에 대응하는 하위 AI 모델을 다수개 포함하는 형태로 구성될 수 있다. 설명의 편의상 상위 AI 모델을 통합 모델, 하위 AI모델을 분할 모델로 지칭하여 설명하면, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 다수개의 분할 모델을 포함하는 하나의 통합 모델을 구성할 수 있다.

그리고 상기 해상도 개선 장치 100는 분할 모델 각각은 특정 std값을 갖는 이미지 모델로 학습시킬 수 있는데, 이 때 대상 이미지의 속성에 따라 학습용 데이터로 투입되는 이미지 그룹의 개수를 상이하게 설정하고, 그에 따라 일 통합 모델에 포함되는 분할 모델의 개수를 조절할 수 있다.

예를 들면, 상기 해상도 개선 장치 100는 X-ray와 같은 검사용 이미지를 대상으로 하는 AI 모델을 생성하기 위해, 학습용으로 투입되는 이미지 그룹의 개수를 기준치 이하(예, 4개)로 설정하고, 이미지 그룹 개수에 대응하여 분할 모델의 개수 또한 4개로 설정할 수 있다. 반면, 상기 해상도 개선 장치 100는 일상 이미지를 대상으로 하는 AI 모델을 생성하기 위해서는, 학습용으로 투입되는 이미지 그룹의 개수를 증가 설정하여 예컨대 10개로 설정할 수 있고, 이미지 그룹 개수에 대응하여 분할 모델의 개수 또한 10개로 설정할 수 있다.

다시 말해, 상기 해상도 개선 장치 100는 해상도 개선의 대상이 되는 이미지의 속성상 복잡도가 증가할수록 학습용으로 설정되는 이미지의 std 분포 범위, 이미지 그룹의 개수 및 그에 대응하여 생성할 분할 모델의 개수를 증가 설정할 수 있다.

이하에서는 도 3을 참조하여, AI 모델을 활용한 연산을 통해 이미지의 해상도를 개선하는 동작에 대하여 구체적으로 설명하고자 한다.

도 3은 본 발명의 실시 예에 따른 AI 이미지 처리부의 구성을 도시한 도면이다.

도 3에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 AI 이미지 처리부 120는 패치 사이즈 결정부 121, 이미지 분할부 122, AI 연산 처리부 123, 이미지 접합부 124를 포함하여 구성될 수 있다.

상기 AI 이미지 처리부 120의 각 구성 요소에 대한 설명에 앞서, 이해를 돕기 위해 상기 AI 이미지 처리부 120가 일 대상 이미지의 해상도를 업그레이드하는 동작에 대한 전체적인 내용을 도 5를 참조하여 먼저 설명하기로 한다.

도 5는 본 발명의 실시 예에 따른 이미지 분할을 통해 해상도 개선을 수행하는 동작에 대하여 도시한 도면이다.

도 5에서 도시되는 바와 같이, 상기 AI 이미지 처리부 120는 해상도 개선의 대상이 되는 이미지 원본을 분할하고, 분할된 이미지들을 각각의 std값에 따라 분류하여, 해당 AI 모델(분할 모델)로 분산하여 투입할 수 있다. 도 5에서와 같이, 일 실시 예에 따른 AI 모델은 11개의 분할 모델을 포함하여 구성된다고 가정하면, 상기 분할된 이미지들은 std값을 기준으로 11종류로 분류되고, 각 이미지들의 std값에 대응하는 분할 모델에 투입되어 해상도 향상을 위한 AI 연산이 각각 처리될 수 있다. 각 분할 모델에서 산출된 결과 데이터는 여전히 분할된 형태일 것이므로, 상기 AI 이미지 처리부 120는 각 분할 모델을 통해 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 산출할 수 있게 된다.

다시 도 3에 대하여 이어서 설명하면, 상기 패치 사이즈 결정부 121는 AI 모델에 대상 이미지를 투입하기 전, 이미지를 분할하게 되는데, 이 때 대상 이미지는 기 설정된 패치 사이즈로 분할되게 되는데, 이 때 이미지가 분할되는 사이즈를 결정하게 된다.

다양한 실시 예에 따라 상기 패치 사이즈 결정부 121는 예컨대 24*24, 48*48 등으로 패치 사이즈를 결정할 수 있다.

또한 다양한 실시 예에 따라 상기 패치 사이즈 결정부 121는 대상 이미지의 속성, 대상 이미지 내 주요 오브젝트의 유무, 대상 이미지 내 주요 오브젝트의 속성에 따라 패치 사이즈를 상이하게 설정할 수 있다.

본 발명의 특성상, 이미지를 분할한 후 접합하는 방식으로 해상도를 복원하기 때문에, 접합영역에서는 불가피하게 해상도의 저하가 발생될 수 있다. 따라서 이러한 문제를 최소화하기 위해서는 주요 오브젝트가 표시되는 영역에서는 주요 오브젝트가 분할되지 않도록 이미지를 분할하는 것이 중요하다. 따라서, 이러한 문제를 고려하여 상기 패치 사이즈 결정부 121는 주요 오브젝트의 유무, 주요 오브젝트의 위치 내지는 주요 오브젝트의 사이즈를 고려하여 패치 사이즈를 조절할 수 있다.

보다 구체적으로, 상기 패치 사이즈 결정부 121는 주요 오브젝트의 유무를 1차적으로 판단하고, 주요 오브젝트의 위치 및 사이즈를 고려하여 가상 분할선을 그려보고, 주요 오브젝트를 분할하게 되는지 여부를 판단할 수 있다. 그리고 이후 상기 패치 사이즈 결정부 121는 설정 가능한 패치 사이즈들 중에서 주요 오브젝트를 분할하지 않도록 하거나 최소로 분할하도록 하는 사이즈로 결정할 수 있다.

또한 상기 이미지 분할부 122는 상기 패치 사이즈 결정부 121에서 결정한 패치 사이즈로 대상 이미지를 분할할 수 있다. 그리고 상기 이미지 분할부 122는 나아가 분할된 이미지의 std값을 구하고, 확인된 std값에 대응하여 이미지 그룹을 분류할 수 있다.

그리고 상기 AI 연산 처리부 123는 분류된 이미지 그룹을 각각의 std값에 대응하는 분할 모델에 투입하여 AI 연산을 수행하여, 결과 데이터를 산출할 수 있다. 이 때 상기 분할 모델에서 산출되는 결과 데이터는 해상도가 개선된 상태일 것이나, 분할된 상태의 이미지일 것이므로, 분할된 이미지를 원래 이미지와 같이 재접합하는 과정이 요구된다.

마지막으로 상기 이미지 접합부 124는 상기 AI 연산 처리부 123에 의해 산출된 1차 결과값(해상도가 개선되었으나 여전히 분할된 상태인 이미지)를 기반으로 최종 결과 데이터를 산출하기 위한 접합 동작을 수행할 수 있다.

본 발명은 실시 예에 따라 이미지 분할 당시에 분할된 이미지들을 추후 다시 접합할 수 있도록, 원본 이미지 내에서 분할 이미지가 자리한 위치 파악에 요구되는 위치값을 부여할 수 있다. 이에 따라 각 분할된 이미지는 위치값이 부여된 상태일 수 있고, 상기 이미지 접합부 124는 이러한 위치값을 기반으로 다시 분할된 이미지를 재조합하여 원본의 이미지와 같이 복원할 수 있다.

도 6은 본 발명의 실시 예에 따른 AI 모델의 학습 과정에 대한 순서를 도시한 순서도이다.

도 6에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 일 이미지의 std값을 확인하는 605동작을 수행할 수 있다. 이 때 상기 std값은 표준편차를 의미하며, 데이터의 분포 정도를 표시하는 값으로 데이터의 대략적인 구조를 담고 있다.

그리고 상기 해상도 개선 장치 100는 상기 605동작에 의해 std값이 산출되면, 산출된 std값에 따라 이미지를 그룹별로 분류하는 610동작을 수행할 수 있다. 예를 들어 상기 해상도 개선 장치 100는 이미지가 갖는 std값을 기 설정된 단위(예, 10)로 분류할 수 있다. 이에 따라 std값이 0 이상 10 미만인 이미지들은 제 1그룹으로, std값이 10이상 20미만인 이미지들은 제 2그룹으로 분류될 수 있다.

이후 상기 해상도 개선 장치 100는 기준에 부합하는 이미지 그룹을 학습용 이미지로 선택하는 615동작을 수행할 수 있다. 상기 해상도 개선 장치 100는 이미지 그룹이 예를 들어 5개 생성되었다고 하면, 5개의 이미지 그룹을 각각의 분할 모델에 학습시킬 수 있다.

이후 상기 해상도 개선 장치 100는 선택된 학습용 이미지로 AI 모델을 학습시키는 620동작을 수행할 수 있다. 예컨대 상기 해상도 개선 장치 100는 5개의 이미지 그룹을 각각의 분할모델에 투입하여 학습할 경우, 5개의 학습 완료된 분할 모델을 얻을 수 있다.

도 7은 본 발명의 실시 예에 따른 AI 모델을 통한 이미지 해상도 개선 과정을 도시한 순서도이다.

도 7에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 대상 이미지를 AI 모델에 투입하여 해상도를 개선시키고자 할 시, 대상 이미지를 임의의 패치 사이즈로 분할하는 705동작을 먼저 수행할 수 있다.

그리고 상기 해상도 개선 장치 100는 분할된 이미지의 std값을 확인하는 710동작을 수행할 수 있다.

이후 상기 해상도 개선 장치 100는 분할 이미지의 std 값에 대응하는 유형의 AI 모델에 분할된 이미지를 투입하여 연산하는 715동작을 수행할 수 있다. 상기 715 동작이 수행되면, 분할된 다수개의 이미지들은 std값에 따라 다수 유형의 AI 모델로 분산되어 투입될 수 있다. 그리고 이에 따라 AI 모델을 통과하여 산출된 1차 결과값은 분할 이미지 형태이므로, 분할 당시 정보를 토대로 상기 분할 이미지는 다시 접합되어야 할 필요가 있다.

이에 따라, 상기 해상도 개선 장치 100는 산출된 분할분 결과 이미지들을 접합하여 최종 결과 이미지를 생성하는 720동작을 수행할 수 있다.

요약하면, 해상도 개선 장치 100는 해상도를 개선하고자 하는 대상 이미지를 기 설정된 사이즈로 분할하고, 분할된 이미지를 std값에 따라 분류하고, 분할된 이미지의 std값에 대응하는 AI모델에 상기 분할된 이미지를 투입하여 해상도를 높이며, 해상도가 개선된 분할 이미지를 조합하여 해상도가 개선된 미분할 상태의 결과 이미지를 산출할 수 있다.

요컨대, 본 발명의 실시 예에 따른 이미지 분할 기반 해상도 개선 방법은 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하는 단계, 상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계 및 다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계를 포함할 수 있다.

그리고 본 발명의 상기 이미지 분할 기반 해상도 개선 방법은 상기 AI이미지 처리 모델의 학습이 완료되면, 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 이미지 처리 단계를 더 포함할 수 있다.

그리고 상기 이미지 처리 단계는 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하기 위해 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계, 분할된 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 단계 및 AI 연산 이후 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 생성하는 단계를 포함하여 구성될 수 있다.

그리고 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계에서 상기 AI이미지 처리 모델의 학습 단계에서 투입된 학습용 이미지 데이터의 패치 사이즈에 대응하는 사이즈로 대상 이미지를 분할할 수 있다. 그리고 대상 이미지 분할 시, 대상 이미지가 포함하는 오브젝트의 유무 및 오브젝트의 사이즈에 대응하여 조절된 패치 사이즈로 분할하도록 설정될 수 있다.

상기 AI 이미지 처리모델의 학습을 수행하는 단계는 해상도 개선의 대상이 되는 이미지의 속성에 대응하여 학습용 이미지 데이터로 선택되는 std값의 범위를 상이하게 설정할 수 있다. 예를 들면, 대상 이미지의 속성은 X-ray, CT 와 같은 비교적 std 값의 분포 정도가 좁은 검사용 이미지와, std값의 분포 정도가 상대적으로 넓은 일상 이미지 등으로 분류될 수 있다. 검사용 이미지의 경우, 일상 이미지에 비해 std값의 분포 범위가 제한적이므로, 학습 단계에서도 마찬가지로 그에 대응하여 검사용 이미지 전용 AI 모델의 학습용 이미지 데이터로 선택되는 std값의 범위는 일상 이미지용 AI 모델의 학습용 이미지 데이터의 std 기준 범위에 비해 제한적일 수 있다. 예를 들어 std값의 범위가 0~100이라고 가정하면, 검사용 이미지 전용 AI 모델의 학습용 이미지 데이터 셋의 std값 범위는 10~40이라고 할 때, 일상 이미지용 AI 모델의 학습용 이미지 데이터 셋의 std값 범위는 0~100으로 설정될 수 있다.

또한 본 발명의 실시 예에 따른 해상도 개선 장치 100는 학습 지원부 및 AI 이미지 처리부를 포함하여 구성될 수 있으며, 상기 학습 지원부는 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하고, 상기 이미지를 상기 std값의 수치에 따라 분류한 이미지 그룹을 생성하는 학습 이미지 분류부 및 기준에 부합하는 이미지 그룹 내 이미지들을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 학습 이미지 선택부를 포함하고, 상기 AI 이미지 처리부는 상기 학습 지원부에 의해 상기 AI이미지 처리 모델의 학습이 완료됨에 따라, 해상도 개선이 요구되는 대상 이미지를 상기 AI 이미지 처리 모델에 투입하여 AI 연산을 수행하도록 구성될 수 있다.

또한 본 발명의 다양한 실시 예에 따르면, 도면에 도시되지 않았으나, 상기 해상도 개선 장치 100는 외부로부터 이미지 데이터를 전송받기 위한 통신부와 외부로부터 수신된 이미지 데이터 및 해상도가 개선된 결과값을 저장하는 저장부를 더 포함할 수 있다.

상기 통신부는 사용자 기기와 서버 간의 데이터 송수신을 위해 네트워크를 이용할 수 있으며 상기 네트워크의 종류는 특별히 제한되지 않는다. 상기 네트워크는 예를 들어, 인터넷 프로토콜(IP)을 통하여 대용량 데이터의 송수신 서비스를 제공하는 아이피(IP: Internet Protocol)망 또는 서로 다른 IP 망을 통합한 올 아이피(All IP) 망 일 수 있다. 또한, 상기 네트워크는 유선망, Wibro(Wireless Broadband)망, WCDMA를 포함하는 이동통신망, HSDPA(High Speed Downlink Packet Access)망 및 LTE(Long Term Evolution) 망을 포함하는 이동통신망, LTE advanced(LTE-A), 5G(Five Generation)를 포함하는 이동통신망, 위성 통신망 및 와이파이(Wi-Fi)망 중 하나 이거나 또는 이들 중 적어도 하나 이상을 결합하여 이루어질 수 있다.

상기 저장부는 예를 들면, 내장 메모리 또는 외장 메모리를 포함할 수 있다. 내장메모리는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.

외장 메모리는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), XD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리는 다양한 인터페이스를 통하여 전자 장치와 기능적으로 및/또는 물리적으로 연결될 수 있다.

상술한 예를 참조하여 본 발명을 상세하게 설명하였지만, 당업자라면 본 발명의 범위를 벗어나지 않으면서도 본 예들에 대한 개조, 변경 및 변형을 가할 수 있다. 요컨대 본 발명이 의도하는 효과를 달성하기 위해 도면에 도시된 모든 기능 블록을 별도로 포함하거나 도면에 도시된 모든 순서를 도시된 순서 그대로 따라야만 하는 것은 아니며, 그렇지 않더라도 얼마든지 청구항에 기재된 본 발명의 기술적 범위에 속할 수 있음에 주의한다.

100 : 해상도 개선 장치
110 : 학습 지원부
111 : 학습 이미지 분류부
112 : 학습 이미지 선택부
120 : AI 이미지 처리부
121 : 패치 사이즈 결정부
122 : 이미지 분할부
123 : AI 연산 처리부
124 : 이미지 접합부

Claims (7)

1. 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하는 단계;
   상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계; 및
   다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계; 를 포함하고,
   상기 AI 이미지 처리모델의 학습을 수행하는 단계는
   상기 std값이 기 설정된 기준 범위에 포함하는 이미지 그룹을 학습용 이미지 데이터로 선정하고,
   해상도 개선의 대상이 되는 이미지의 속성에 대응하여, 검사 장치를 통해 촬영된 검사용 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시 학습용 이미지 데이터로 선택되는 std값의 범위를, 카메라를 통해 촬영된 일상 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시, 학습용 이미지 데이터로 선택되는 std값의 범위보다 좁게 설정하고,
   상기 검사용 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시 학습용 이미지 데이터로 투입되는 이미지 그룹의 개수를 기 설정된 기준치 이하가 되도록 설정하되, 상기 일상 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시 학습용 이미지 데이터로 투입되는 이미지 그룹의 개수를 기 설정된 기준치를 초과하도록 설정하고,
   해상도 개선의 대상이 되는 이미지의 평균 복잡도에 비례하도록, 선택되는 이미지 그룹의 개수를 설정하고,
   이미지의 복잡도는,
   이미지의 std값에 비례하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.
2. 제 1항에 있어서
   상기 AI이미지 처리 모델의 학습이 완료되면, 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 이미지 처리 단계;를 더 포함하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.
3. 제 2항에 있어서,
   상기 이미지 처리 단계는
   해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하기 위해 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계;
   분할된 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 단계; 및
   AI 연산 이후 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 생성하는 단계;를 포함하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.
4. 제 3항에 있어서,
   상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계는
   상기 AI이미지 처리 모델의 학습 단계에서 투입된 학습용 이미지 데이터의 패치 사이즈에 대응하는 사이즈로 대상 이미지를 분할하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.
5. 제 3항에 있어서
   상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계는
   대상 이미지가 포함하는 오브젝트의 유무 및 오브젝트의 사이즈에 대응하여 조절된 패치 사이즈로 분할하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.
6. 삭제
7. 학습 지원부 및 AI 이미지 처리부를 포함하여 구성되는 해상도 개선 장치에 있어서,
   상기 학습 지원부는
   임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하고, 상기 이미지를 상기 std값의 수치에 따라 분류한 이미지 그룹을 생성하는 학습 이미지 분류부; 및
   기준에 부합하는 이미지 그룹 내 이미지들을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 학습 이미지 선택부;를 포함하고,
   상기 AI 이미지 처리부는
   상기 학습 지원부에 의해 상기 AI이미지 처리 모델의 학습이 완료됨에 따라, 해상도 개선이 요구되는 대상 이미지를 상기 AI 이미지 처리 모델에 투입하여 AI 연산을 수행하고,
   상기 학습 이미지 선택부는
   상기 std값이 기 설정된 기준 범위에 포함하는 이미지 그룹을 학습용 이미지 데이터로 선정하고,
   해상도 개선의 대상이 되는 이미지의 속성에 대응하여, 검사 장치를 통해 촬영된 검사용 이미지를 대상으로 하는 AI 이미지 처리모델의 학습 시 학습용 이미지 데이터로 선택되는 std값의 범위를, 카메라를 통해 촬영된 일상 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시, 학습용 이미지 데이터로 선택되는 std값의 범위보다 좁게 설정하고,
   상기 검사용 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시 학습용 이미지 데이터로 투입되는 이미지 그룹의 개수를 기 설정된 기준치 이하가 되도록 설정하되, 상기 일상 이미지를 대상으로 하는 AI 이미지 처리모델의 학습시 학습용 이미지 데이터로 투입되는 이미지 그룹의 개수를 기 설정된 기준치를 초과하도록 설정하고,
   해상도 개선의 대상이 되는 이미지의 평균 복잡도에 비례하도록, 선택되는 이미지 그룹의 개수를 설정하고,
   이미지의 복잡도는,
   이미지의 std값에 비례하는 것을 특징으로 이미지 분할 기반 해상도 개선 장치.

Images