[go: up one dir, main page]

KR20190011199A - System for defect inspection and method for defect inspection - Google Patents

System for defect inspection and method for defect inspection Download PDF

Info

Publication number
KR20190011199A
KR20190011199A KR1020180082656A KR20180082656A KR20190011199A KR 20190011199 A KR20190011199 A KR 20190011199A KR 1020180082656 A KR1020180082656 A KR 1020180082656A KR 20180082656 A KR20180082656 A KR 20180082656A KR 20190011199 A KR20190011199 A KR 20190011199A
Authority
KR
South Korea
Prior art keywords
defect
image
type
light source
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
KR1020180082656A
Other languages
Korean (ko)
Inventor
마야 오자키
Original Assignee
스미또모 가가꾸 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 스미또모 가가꾸 가부시키가이샤 filed Critical 스미또모 가가꾸 가부시키가이샤
Publication of KR20190011199A publication Critical patent/KR20190011199A/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/01Arrangements or apparatus for facilitating the optical investigation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/958Inspecting transparent materials or objects, e.g. windscreens
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • G01N2021/8809Adjustment for highlighting flaws
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Investigating Or Analyzing Materials By The Use Of Ultrasonic Waves (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)

Abstract

According to a defect inspection system (1), 2D images (F) (t1) to (F) (tm) in which luminance is changed in a return direction (X) is imaged by an imaging unit (3). 2D images (F) (t1) to (F) (tm) and the like are divided into lines (L1) (t1) to (Lk) (tm) and the like by a line division processing unit (9). Thus, lines (L1) (t1) to (Lk) in the same position of 2D images (F) (t1) to (F) (tm) are processed into image data of line division images (DL1) (t1) to (DLk) (t(1-(k−1))) arranged in parallel in time series. Even in an imaged image of the same test object (T), line division images (DL1) (t1) and the like have different brilliances. On the basis of data obtained by accumulating results of machine learning regarding the identification of the species of defects included in line division images (DL1) (t1) to (DLk) (t(1-(k-1))) having different brilliances and viewing types, identification of the species of defects of a test object (T) is performed by a defect species identification unit (10). Thus, it is possible to improve identification accuracy.

Description

결함 검사 시스템 및 결함 검사 방법{SYSTEM FOR DEFECT INSPECTION AND METHOD FOR DEFECT INSPECTION}FIELD OF THE INVENTION [0001] The present invention relates to a defect inspection system and a defect inspection method,

본 발명은 결함 검사 시스템 및 결함 검사 방법에 관한 것이다.The present invention relates to a defect inspection system and a defect inspection method.

검사 대상의 촬상 화상에 기초하여 검사 대상의 결함을 검사하는 결함 검사 시스템으로서, 예를 들어 편광 필름 및 위상차 필름 등의 광학 필름, 전지의 세퍼레이터에 사용되는 적층 필름 등의 결함을 검출하는 결함 검사 시스템이 알려져 있다. 이러한 종류의 결함 검사 시스템은, 반송 방향으로 필름을 반송하고, 필름의 2차원 화상을 이산 시간마다 촬상하고, 촬상한 2차원 화상에 기초하여 결함 검사를 행한다. 예를 들어, 일본 특허 제4726983호의 시스템은, 2차원 화상을 반송 방향으로 병렬하는 복수의 라인으로 분할하여, 이산 시간마다 촬상된 2차원 화상 각각에서의 동일 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상을 생성한다. 라인 분할 화상은, 휘도 변화를 강조한 결함 강조 처리 화상으로 처리된다. 결함 강조 처리 화상에 의해, 필름의 결함 유무나 위치가 용이하게 특정된다.A defect inspection system for inspecting defects to be inspected based on a sensed image to be inspected, includes a defect inspection system for detecting defects such as, for example, optical films such as polarizing films and retardation films, Is known. This type of defect inspection system carries a film in a carrying direction, captures a two-dimensional image of the film at each discrete time, and conducts defect inspection based on the two-dimensional image picked up. For example, Japanese Patent No. 4726983 discloses a system in which a two-dimensional image is divided into a plurality of lines arranged in parallel in the transport direction, and the lines at the same position in each two-dimensional image picked up at each discrete time are juxtaposed in time series And generates a line segment image. The line segment image is processed into a defect emphasized image emphasizing a luminance change. The presence or position of the defect or position of the film is easily specified by the defect emphasized image.

그런데, 상기 기술과 같이 검사 대상의 2차원 화상이 결함 강조 처리 화상으로 처리되었다고 해도, 최종적으로는 결함의 식별은 인간에 의한 판정에 의해 행해지고 있어, 결함의 식별 정밀도에는 개선의 여지가 있다.However, even if a two-dimensional image to be inspected is processed as a defect-emphasized image as in the above-described technique, finally, defect identification is performed by human judgment, and there is room for improvement in defect identification accuracy.

여기에서 본 발명은, 결함의 식별 정밀도를 향상시킬 수 있는 결함 검사 시스템 및 결함 검사 방법을 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION It is an object of the present invention to provide a defect inspection system and a defect inspection method capable of improving defect identification accuracy.

본 발명은, 검사 대상에 광을 조사하는 광원과, 광원으로부터 검사 대상에 조사되어 검사 대상을 투과 또는 반사한 광에 의한 2차원 화상을 이산 시간마다 촬상하는 촬상부와, 광원 및 촬상부에 대하여 검사 대상을 반송 방향으로 상대적으로 반송하는 반송부와, 촬상부에 의해 촬상된 2차원 화상의 화상 데이터를 처리하는 화상 처리부를 구비하며, 촬상부는, 2차원 화상에서의 반송 방향과 합치하는 방향으로 휘도가 변화하는 2차원 화상을 촬상하고, 화상 처리부는, 2차원 화상을 반송 방향으로 병렬하는 복수의 라인으로 분할하여, 촬상부에 의해 이산 시간마다 촬상된 2차원 화상 각각에서의 동일 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상의 화상 데이터로 처리하는 라인 분할 처리부와, 라인 분할 처리부에 의해 처리된 2 이상의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하는 결함 종별 식별부를 갖는 결함 검사 시스템이다.According to the present invention, there is provided an imaging apparatus comprising: a light source for irradiating light to an object to be inspected; an imaging unit for imaging a two-dimensional image irradiated from the light source to the object to be inspected, A transport section for transporting the object to be inspected relatively in the transport direction; and an image processing section for processing the image data of the two-dimensional image picked up by the image pickup section, wherein the image pickup section is moved in the direction coinciding with the transport direction in the two- Dimensional image in which the luminance changes, and the image processing section divides the two-dimensional image into a plurality of lines arranged in parallel in the transport direction so that the line at the same position in each of the two- A line segmentation processing section for processing the image data of the line segment image in parallel in time series; And a defect type identifying section that identifies the type of defect to be inspected based on the data accumulated as a result of the machine learning relating to the identification of the type of defect included in the image.

이 구성에 의하면, 검사 대상에 광을 조사하는 광원과, 광원으로부터 검사 대상에 조사되어 검사 대상을 투과 또는 반사한 광에 의한 2차원 화상을 이산 시간마다 촬상하는 촬상부와, 광원 및 촬상부에 대하여 검사 대상을 반송 방향으로 상대적으로 반송하는 반송부와, 촬상부에 의해 촬상된 2차원 화상의 화상 데이터를 처리하는 화상 처리부를 구비한 결함 검사 시스템에 있어서, 촬상부에 의해, 2차원 화상에서의 반송 방향과 합치하는 방향으로 휘도가 변화하는 2차원 화상이 촬상되고, 화상 처리부의 라인 분할 처리부에 의해, 2차원 화상이 반송 방향으로 병렬하는 복수의 라인으로 분할되어, 촬상부에 의해 이산 시간마다 촬상된 2차원 화상 각각에서의 동일 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상의 화상 데이터로 처리되기 때문에, 동일한 검사 대상이 촬상된 화상이어도 라인 분할 화상 각각은 상이한 휘도를 갖는 화상이 된다. 또한, 화상 처리부의 결함 종별 식별부에 의해, 라인 분할 처리부에 의해 처리된 2 이상이 각각 상이한 휘도를 갖는 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별이 식별되기 때문에, 동일한 검사 대상이 촬상된 화상이어도 그 휘도가 상이하고, 보이는 방식이 상이한 2개 이상의 라인 분할 화상에 대한 기계 학습의 결과에 기초하여 결함의 종별이 식별되는 것이기 때문에, 결함의 식별 정밀도를 향상시킬 수 있다.According to this configuration, there are provided a light source for irradiating light to the object to be inspected, an imaging section for imaging the two-dimensional image irradiated from the light source to the object to be inspected and transmitted or reflected from the object for inspection at each discrete time, A defect inspection system comprising: a transport section for transporting an object to be inspected relatively in a transport direction; and an image processing section for processing image data of a two-dimensional image picked up by the image pickup section, Dimensional image in which the luminance changes in a direction coinciding with the carrying direction of the two-dimensional image, and the two-dimensional image is divided into a plurality of lines arranged in parallel in the carrying direction by the line division processing unit of the image processing unit, The image data of the line-segmented image in which the lines at the same position in each of the two-dimensional images picked up in parallel are processed in a time series order, Each work inspection target may be a captured image line-divided image is the image having different luminance. Further, the defect type identifying unit of the image processing unit may be configured to classify, based on the data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the line segment image having two or more different luminance levels respectively processed by the line segmentation processing unit The type of defect to be inspected is identified. Therefore, even if an image of the same inspection object is detected, the type of defect is identified based on the result of the machine learning on two or more line segment images different in luminance Therefore, the accuracy of defect identification can be improved.

이 경우, 결함 종별 식별부는, 휘도가 10% 이상 상이한 2 이상의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하는 것이 적합하다.In this case, the defect type identifying section identifies the type of the defect to be inspected based on the data that accumulates the result of the machine learning relating to the identification of the type of the defect included in the two or more line segment images whose luminance is different by 10% or more Suitable.

이 구성에 의하면, 결함 종별 식별부는, 휘도가 10% 이상 상이한 2개의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하기 때문에, 동일한 검사 대상이 촬상된 화상이어도 그 휘도가 10% 이상으로 크게 상이하고, 보이는 방식이 크게 상이한 2개의 라인 분할 화상에 대한 기계 학습의 결과에 기초하여 결함의 종별이 식별되는 것이기 때문에, 결함의 식별 정밀도를 보다 향상시킬 수 있다.According to this configuration, the defect type identifying section identifies the type of defect to be inspected based on the data that accumulates the result of the machine learning relating to the identification of the type of defect included in the two line-split images whose luminance is 10% or more different The type of the defect is identified based on the result of the machine learning on the two line-split images whose luminance greatly differs by 10% or more even in the case of the image of the same inspection object, The defect identification accuracy can be further improved.

또한, 광원과 검사 대상 사이에 위치하여, 광원으로부터 검사 대상에 조사되는 광의 일부를 차광함으로써, 촬상부에서 이산 시간마다 촬상되는 2차원 화상에 명부와 암부를 형성하는 차광체를 더 구비하고, 반송부는, 광원, 차광체 및 촬상부에 대하여 검사 대상을 명부와 암부의 경계선에 교차하는 반송 방향으로 상대적으로 반송하고, 결함 종별 식별부는, 2차원 화상에서의 명부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상과, 2차원 화상에서의 암부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하는 것이 적합하다.The light shielding body further includes a light shielding member which is located between the light source and the inspection target and shields a part of the light irradiated from the light source to the inspection target to thereby form the name portion and the arm portion in the two- Wherein the defect type identification unit is configured to carry the inspection target relative to the light source, the light shielding body, and the imaging unit relatively in the conveying direction crossing the boundary line of the list portion and the dark portion, Based on the data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the line segment image obtained by parallelizing the lines of the positions of the arm portions in the two- It is appropriate to identify the type of the object.

이 구성에 의하면, 광원과 검사 대상 사이에 위치하는 차광체에 의해, 광원으로부터 검사 대상에 조사되는 광의 일부가 차광됨으로써 촬상부에서 이산 시간마다 촬상되는 2차원 화상에 명부와 암부가 형성되고, 반송부에 의해, 광원, 차광체 및 촬상부에 대하여 검사 대상이 명부와 암부의 경계선에 교차하는 반송 방향으로 상대적으로 반송되기 때문에, 이산 시간마다 촬상된 일련의 2차원 화상에서의 검사 대상의 각 부위가 명부 및 암부의 양쪽에 들어간다. 또한, 결함 종별 식별부는, 2차원 화상에서의 명부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상과, 2차원 화상에서의 암부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하기 때문에, 명부 및 암부 각각에 속하고, 보이는 방식이 크게 상이한 2개의 라인 분할 화상 상에 대한 기계 학습의 결과에 기초하여 결함의 종별이 식별됨으로써, 결함의 식별 정밀도를 보다 향상시킬 수 있다.According to this configuration, the light shielding body located between the light source and the inspection object shadows a part of the light irradiated from the light source to the inspection object, so that the list portion and the dark portion are formed in the two- The light source, the light shielding body, and the imaging unit are relatively transported in the transport direction in which the inspection target crosses the boundary line between the bright portion and the dark portion. Therefore, in each of the two-dimensional images picked up at each discrete time, Enters both the list and the dark areas. Further, the defect type identifying section may be a defect type identifying section that includes a line segment image in which lines of the position of the list in the two-dimensional image are arranged in a time series order and a line segment image in which the positions of the arm sections in the two- Since the type of defect to be inspected is identified on the basis of data obtained by accumulating the result of the machine learning relating to the identification of the type of defect, it is possible to identify the types of defects to be inspected on two line segment images belonging to each of the list part and the dark part, By identifying the type of defect based on the result of the machine learning, it is possible to further improve the defect identification accuracy.

한편, 본 발명은, 결함 검사 시스템의 광원으로부터 검사 대상에 광을 조사하는 조사 공정과, 결함 검사 시스템의 촬상부에 의해, 조사 공정에 의해 광원으로부터 검사 대상에 조사되어 검사 대상을 투과 또는 반사한 광에 의한 2차원 화상을 이산 시간마다 촬상하는 촬상 공정과, 결함 검사 시스템의 반송부에 의해, 광원 및 촬상부에 대하여 검사 대상을 반송 방향으로 상대적으로 반송하는 반송 공정과, 결함 검사 시스템의 화상 처리부에 의해, 촬상 공정에서 촬상된 2차원 화상의 화상 데이터를 처리하는 화상 처리 공정을 구비하며, 촬상 공정에서는, 2차원 화상에서의 반송 방향과 합치하는 방향으로 휘도가 변화하는 2차원 화상을 촬상하고, 화상 처리 공정에서는, 2차원 화상을 반송 방향으로 병렬하는 복수의 라인으로 분할하여, 촬상 공정에서 이산 시간마다 촬상된 2차원 화상 각각에서의 동일 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상의 화상 데이터로 처리하는 라인 분할 처리 공정과, 라인 분할 처리 공정에서 처리된 2 이상의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하는 결함 종별 식별 공정을 갖는 결함 검사 방법이다.According to another aspect of the present invention, there is provided a defect inspection system comprising: an irradiation step of irradiating light to an object to be inspected from a light source of a defect inspection system; and an irradiation step of irradiating the object to be inspected from the light source, An image pickup step of picking up a two-dimensional image by light at each discrete time; a transporting step of relatively transporting the inspection object to the light source and the image pickup unit in the transport direction by the transporting unit of the defect inspection system; And an image processing step of processing the image data of the two-dimensional image picked up in the image pickup step by the processing unit, wherein in the image pickup step, the two-dimensional image in which the luminance changes in the direction coinciding with the transport direction in the two- In the image processing step, the two-dimensional image is divided into a plurality of lines arranged in parallel in the carrying direction, A line dividing processing step of processing lines of the same position in each of the two-dimensional images picked up each time as image data of line-divided images obtained by paralleling in a time series order; And a defect type identifying step of identifying the type of defect to be inspected based on the data accumulated as a result of the machine learning relating to the identification of the type of defect.

이 경우, 결함 종별 식별 공정에서는, 휘도가 10% 이상 상이한 2개의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하는 것이 적합하다.In this case, in the defect type identifying step, the type of the defect to be inspected is identified based on the data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the two line segment images whose luminance is 10% or more different Is suitable.

또한, 조사 공정에서는, 광원과 검사 대상 사이에 위치하여, 광원으로부터 검사 대상에 조사되는 광의 일부를 차광하는 차광체에 의해, 촬상 공정에서 이산 시간마다 촬상되는 2차원 화상에 명부와 암부를 형성하고, 반송 공정에서는, 광원, 차광체 및 촬상부에 대하여 검사 대상을 명부와 암부의 경계선에 교차하는 반송 방향으로 상대적으로 반송하고, 결함 종별 식별 공정에서는, 2차원 화상에서의 명부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상과, 2차원 화상에서의 암부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상의 결함의 종별을 식별하는 것이 적합하다.In the irradiation step, a light shielding member which is located between the light source and the inspection target and shields a part of the light irradiated from the light source to the inspection target forms a list portion and a dark portion in the two-dimensional image picked up at every discrete time in the image pickup process , In the conveying step, the inspection target is relatively conveyed to the light source, the light shielding body, and the imaging section in the conveying direction crossing the boundary between the list portion and the dark portion, and in the defect type discriminating step, the line of the position of the list portion in the two- Based on data obtained by accumulating the results of the machine learning relating to the identification of the types of defects included in the line segment images obtained by paralleling the lines of the positions of the arm portions in the two- It is appropriate to identify the type of defect to be inspected.

도 1은 실시 형태에 따른 결함 검사 시스템을 나타내는 사시도이다.
도 2는 도 1의 결함 검사 시스템의 광원, 촬상부, 차광체 및 검사 대상의 배치를 나타내는 도면이다.
도 3은 도 1의 결함 검사 시스템의 화상 처리부의 상세를 나타내는 블록도이다.
도 4는 실시 형태에 따른 결함 검사 방법의 공정을 나타내는 흐름도이다.
도 5는 도 4의 화상 처리 공정의 상세를 나타내는 흐름도이다.
도 6의 (A), (B), (C), (D), (E), (F) 및 (G)는, 도 1의 결함 검사 시스템의 화상 처리부의 라인 분할 처리부에서 처리되는 화상을 나타내는 도면이다.
도 7의 (A)는 시계열의 2차원 화상을 나타내는 도면이며, (B)는 각 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상 각각을 나타내는 도면이며, (C)는 (B)의 라인 분할 화상 각각이 검사 대상의 동일 위치를 나타내도록 시각을 어긋나게 한 위치 정렬 화상을 나타내는 도면이다.
도 8은 합성곱 신경망(convolutional neural network)을 나타내는 도면이다.
1 is a perspective view showing a defect inspection system according to an embodiment.
Fig. 2 is a view showing the arrangement of a light source, an image pickup section, a light shielding body and an object to be inspected in the defect inspection system of Fig. 1;
3 is a block diagram showing details of an image processing unit of the defect inspection system of FIG.
4 is a flowchart showing a process of a defect inspection method according to the embodiment.
5 is a flowchart showing the details of the image processing process of FIG.
6 (A), 6 (B), 6 C, 6 D, 6 E, 6 F, and 6 G show the images processed by the line division processing unit of the image processing unit of the defect inspection system of FIG. Fig.
FIG. 7A is a view showing a two-dimensional image in a time series, FIG. 7B is a view showing each line-divided image obtained by line-by-line sequencing the lines at respective positions, Fig. 7 is a view showing a position-aligned image in which the images are displaced so that each of the images indicates the same position of the object to be inspected.
8 is a diagram showing a convolutional neural network.

이하, 도면을 참조하여 본 발명의 결함 검사 시스템 및 결함 검사 방법의 적합한 실시 형태에 대하여 상세하게 설명한다. 도 1 및 도 2에 도시한 바와 같이, 본 발명의 실시 형태에 따른 결함 검사 시스템(1)은, 광원(2), 촬상부(3), 반송부(4), 화상 처리부(5), 차광체(6), 평행광 렌즈(7) 및 표시 장치(8)를 구비하고 있다. 본 실시 형태의 결함 검사 시스템은, 편광 필름 및 위상차 필름 등의 광학 필름, 전지의 세퍼레이터에 사용되는 적층 필름 등의 필름을 검사 대상(T)으로 하고, 검사 대상(T)의 결함을 검출한다. 검사 대상(T)는, 반송부(4)의 반송 방향(X)으로 연장되고, 반송 방향(X)에 직교하는 폭 방향(Y)으로 미리 설정된 폭을 갖는다. 검사 대상(T)에 발생하는 결함이란, 원하는 상태와는 상이한 상태를 가리키는 것이며, 예를 들어 이물, 타격 흠집, 기포(성형 시에 발생하는 것 등), 이물 기포(이물의 혼입에 의해 발생하는 것 등), 흠집, 닉(knick)(접음선 자국 등에 의해 발생하는 것 등) 및 줄무늬(두께의 차이에 의해 발생하는 것 등)을 들 수 있다. 결함 검사 시스템(1)은 이들 결함의 종별을 식별한다. 결함 검사 시스템(1)은, 결함의 종별의 식별에 더하여, 결함이 검사 대상(T)의 어느 면에 발생하고 있는지를 특정할 수 있다.Hereinafter, a preferred embodiment of a defect inspection system and a defect inspection method of the present invention will be described in detail with reference to the drawings. 1 and 2, a defect inspection system 1 according to an embodiment of the present invention includes a light source 2, an image pickup unit 3, a carry unit 4, an image processing unit 5, A lens 6, a collimated optical lens 7, and a display device 8 are provided. The defect inspection system of the present embodiment detects defects in the inspection target T by using an optical film such as a polarizing film and a retardation film, a film such as a laminated film used in a separator of a battery as an inspection target T, The inspection target T extends in the carrying direction X of the carry section 4 and has a preset width in the width direction Y orthogonal to the carrying direction X. [ Defects generated in the inspection object T indicate different states from the desired state, and examples thereof include foreign objects, impact scratches, bubbles (such as those generated during molding), foreign matter bubbles Etc.), scratches, nicks (such as those caused by folding line marks), and stripes (such as those caused by differences in thickness). The defect inspection system 1 identifies the type of these defects. The defect inspection system 1 can specify on which side of the inspection target T the defect is occurring, in addition to the identification of the defect type.

도 1 및 도 2에 도시한 바와 같이, 광원(2)은 검사 대상(T)에 광을 조사한다. 광원(2)은 폭 방향(Y)에 평행한 선상의 광을 조사하도록 배치되어 있다. 광원(2)으로서는, 메탈 할라이드 램프, 할로겐 전송 라이트, 형광등 등, 검사 대상(T)인 필름의 조성 및 성질에 영향을 주지 않는 광을 조사하는 것이면, 특별히 한정되지 않는다.As shown in Figs. 1 and 2, the light source 2 irradiates the inspection target T with light. The light source 2 is arranged to emit linear light parallel to the width direction (Y). The light source 2 is not particularly limited as long as it emits light that does not affect the composition and properties of the film to be inspected (T), such as a metal halide lamp, a halogen transmission light, or a fluorescent lamp.

촬상부(3)는, 광원(2)으로부터 검사 대상(T)에 조사되어 검사 대상(T)을 투과 또는 반사한 광에 의한 2차원 화상을 이산 시간마다 촬상한다. 촬상부(3)는 복수의 광학 부재와 광전 변환 소자를 갖고 있다. 광학 부재는 광학 렌즈, 셔터 등으로 구성되고, 검사 대상(T)인 필름을 투과한 광을 광전 변환 소자의 표면에 결상시킨다. 광전 변환 소자는, 2차원 화상을 촬상하는 CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal-Oxide Semiconductor) 등의 촬상 소자로 구성되는 에어리어 센서이다. 촬상부(3)는, 색채를 갖지 않는 2차원 화상 및 색채를 갖는 2차원 화상 중 어느 것을 촬상하는 것이어도 된다.The imaging unit 3 captures a two-dimensional image by the light irradiated to the inspection target T from the light source 2 and transmitted or reflected by the inspection target T at each discrete time. The imaging section 3 has a plurality of optical members and a photoelectric conversion element. The optical member is composed of an optical lens, a shutter, or the like, and images the light transmitted through the film to be inspected T on the surface of the photoelectric conversion element. The photoelectric conversion element is an area sensor composed of an image pickup element such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal-Oxide Semiconductor) for picking up a two-dimensional image. The image pickup section 3 may pick up any of a two-dimensional image having no color and a two-dimensional image having a color.

반송부(4)는, 광원(2) 및 촬상부(3)에 대하여 검사 대상(T)을 반송 방향(X)으로 상대적으로 반송한다. 반송부(4)는, 예를 들어 검사 대상(T)인 필름을 반송 방향(X)으로 반송하는 송출 롤러와 수취 롤러를 구비하며, 로터리 인코더 등에 의해 반송 거리를 계측한다. 본 실시 형태에서는, 반송부(4)에 의한 검사 대상(T)의 반송 속도는, 반송 방향(X)으로 2 내지 100m/분 정도로 설정된다. 반송부(4)에서의 반송 속도는, 화상 처리부(5) 등에 의해 설정 및 제어된다.The carrying section 4 relatively conveys the inspection target T in the carrying direction X to the light source 2 and the imaging section 3. [ The carry section 4 includes, for example, a delivery roller and a delivery roller for transporting a film to be inspected T in the transport direction X, and measures the transport distance by a rotary encoder or the like. In the present embodiment, the conveying speed of the inspection target T by the conveying unit 4 is set to about 2 to 100 m / min in the conveying direction X. The conveying speed in the carry section 4 is set and controlled by the image processing section 5 or the like.

화상 처리부(5)는, 촬상부(3)에 의해 촬상된 2차원 화상의 화상 데이터를 처리한다. 화상 처리부(5)는, 2차원 화상 데이터의 화상 처리를 행하는 것이면, 특별히 한정되는 것은 아니며, 예를 들어 화상 처리 소프트웨어가 인스톨된 PC(퍼스널 컴퓨터), 화상 처리 회로가 기술된 FPGA(Field Programmable Gate Array)를 탑재하는 화상 캡처 보드 등을 적용할 수 있다. The image processing section 5 processes the image data of the two-dimensional image picked up by the image pickup section 3. [ The image processing unit 5 is not particularly limited as long as it performs image processing of two-dimensional image data. For example, a PC (personal computer) in which image processing software is installed, an FPGA (Field Programmable Gate An image capturing board on which an image sensor is mounted) can be applied.

차광체(6)는, 광원(2)과 검사 대상(T) 사이에 위치하여, 광원(2)으로부터 검사 대상(T)에 조사되는 광의 일부를 차광함으로써, 촬상부(3)에서 이산 시간마다 촬상되는 2차원 화상에 명부와 암부를 형성한다. 차광체(6)에 의해, 촬상부(3)는, 2차원 화상에서의 반송 방향(X)과 합치하는 방향으로 휘도가 변화하는 2차원 화상을 촬상한다. 보다 구체적으로는 반송부(4)는, 광원(2), 평행광 렌즈(7), 차광체(6) 및 촬상부(3)에 대하여 검사 대상(T)을 명부와 암부의 경계선에 교차하는 반송 방향(X)으로 상대적으로 반송한다. 본 실시 형태에서는, 경계선은 반송 방향(X)에 수직인 폭 방향(Y)에 평행하다. 또한, 촬상부(3)가 2차원 화상에서의 반송 방향(X)과 합치하는 방향으로 휘도가 변화하는 2차원 화상을 촬상하는 것이 가능하면, 차광체(6)를 구비하지 않아도 된다. 평행광 렌즈(7)는, 광원(2)으로부터 검사 대상(T) 및 차광체(6)에 조사되는 광의 진행 방향을 평행하게 한다. 평행광 렌즈(7)는, 예를 들어 텔레센트릭 광학계에 의해 구성할 수 있다.The light shield 6 is disposed between the light source 2 and the inspection target T and shields a part of the light irradiated from the light source 2 to the inspection target T so that the light shield 6 is shielded by the imaging unit 3 at every discrete time A list portion and a dark portion are formed in the two-dimensional image to be captured. The light shielding body 6 picks up a two-dimensional image whose luminance changes in a direction coinciding with the carrying direction X in the two-dimensional image. More specifically, the carry section 4 is configured to cross the inspection target T with the boundary line between the list section and the dark section with respect to the light source 2, the parallel optical lens 7, the light shielding body 6 and the imaging section 3 And is transported relatively in the transport direction (X). In this embodiment, the boundary line is parallel to the width direction Y perpendicular to the carrying direction X. If the image pickup section 3 can capture a two-dimensional image whose luminance changes in the direction in which the two-dimensional image coincides with the carrying direction X, the light shielding body 6 may not be provided. The parallel optical lens 7 makes the traveling direction of light irradiated from the light source 2 to the inspection target T and the light shielding body 6 parallel. The parallel optical lens 7 can be constituted by, for example, a telecentric optical system.

화상 처리부(5)에 접속된 표시 장치(8)는, 예를 들어 PC(퍼스널 컴퓨터) 등을 포함하고, 화상 처리부(5)에 의해 식별된 결함의 종별을 LC(Liquid Crystal) 표시 패널, 플라스마 표시 패널, EL(Electro Luminescence) 표시 패널 등에 표시한다. 또한, 화상 처리부(5)가 처리된 화상을 표시하는 표시 장치를 갖고 있어도 된다.The display device 8 connected to the image processing section 5 includes a PC (personal computer) or the like and displays the types of defects identified by the image processing section 5 on an LC (Liquid Crystal) display panel, a plasma A display panel, an EL (Electro Luminescence) display panel, and the like. Further, the image processing section 5 may have a display device for displaying the processed image.

이하, 화상 처리부(5)의 상세에 대하여 설명한다. 도 3에 도시한 바와 같이, 화상 처리부(5)는 라인 분할 처리부(9)와 결함 종별 식별부(10)를 갖는다. 라인 분할 처리부(9)는, 2차원 화상을 반송 방향(X)으로 병렬하는 복수의 라인으로 분할하여, 촬상부(3)에 의해 이산 시간마다 촬상된 2차원 화상 각각에서의 동일 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상의 화상 데이터에 처리한다. 결함 종별 식별부(10)는, 라인 분할 처리부(9)에 의해 처리된 2 이상의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함의 종별을 식별한다. 기계 학습의 결과를 축적한 데이터는, 결함 종별 식별부(10)를 포함하는 PC의 하드 디스크 등의 기억 장치에 기억되고, 기계 학습의 결과에 수반하여 갱신된다.Hereinafter, the details of the image processing section 5 will be described. As shown in Fig. 3, the image processing section 5 has a line division processing section 9 and a defect type identification section 10. As shown in Fig. The line dividing processing section 9 divides the two-dimensional image into a plurality of lines arranged in parallel in the carrying direction X and outputs a line at the same position in each of the two-dimensional images picked up by the image pickup section 3 at each discrete time Processed image data in a line-segmented image in parallel in time series. The defect type identification unit 10 identifies the type of defects included in two or more line segment images processed by the line segmentation processing unit 9 based on the data obtained by accumulating the results of the machine learning, Lt; RTI ID = 0.0 > defects < / RTI > The data that accumulates the results of the machine learning is stored in a storage device such as a hard disk of a PC including the defect type identifying section 10, and is updated with the result of the machine learning.

또한, 본 실시 형태에서는, 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터란, 결함 검사 시스템(1)의 내부 촬상부(3)에서 이산 시간마다 촬상된 일련의 2차원 화상이 처리된 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터 외에도, 결함 검사 시스템(1)의 외부에서 별도 제작된 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터도 포함된다. 즉, 본 실시 형태에서는, 결함 검사 시스템(1)의 내부에서 기계 학습이 이루어진 상태에서 결함의 종별이 식별되는 양태 외에도, 결함 검사 시스템(1)의 내부에서는 아직 기계 학습이 이루어지지 않은 상태에서 결함 검사 시스템(1)의 외부에서 별도 제작된 기계 학습의 결과를 축적한 데이터에 기초하여 결함의 종별이 식별되는 양태도 포함된다.In the present embodiment, data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the line segment image refers to a series of images captured at the discrete time in the internal image pickup section 3 of the defect inspection system 1 In addition to the data that accumulates the result of the machine learning relating to the identification of the type of defect included in the line segment image on which the two-dimensional image of the defect has been processed, And also includes data that accumulates the results of machine learning related to identification of the type. That is, in the present embodiment, in addition to the mode in which the type of defect is identified in the state where the machine learning is performed in the defect inspection system 1, in the defect inspection system 1, A mode in which the type of defect is identified based on data accumulated as a result of the machine learning separately manufactured outside the inspection system 1 is also included.

결함 종별 식별부(10)는, 휘도가 10% 이상 상이한 2개의 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함의 종별을 식별한다. 또한, 결함 종별 식별부(10)는, 차광체(6)에 의해, 2차원 화상에서의 명부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상과, 2차원 화상에서의 암부의 위치의 라인을 시계열순으로 병렬시킨 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함의 종별을 식별한다.The defect type identification unit 10 identifies the types of defects in the inspection target T based on the data obtained by accumulating the results of the machine learning relating to the identification of the types of defects included in the two line segment images whose luminance is 10% Lt; / RTI > The defect type identifying section 10 is a device for discriminating the defect type identifying section 10 from the line dividing image in which the lines of the positions of the names in the two-dimensional image are juxtaposed in time series by the light shield 6, The type of defects in the inspection target T is identified based on the data obtained by accumulating the results of the machine learning relating to the identification of the types of defects included in the line segment images in parallel in time series.

이하, 본 실시 형태의 결함 검사 방법에 대하여 설명한다. 도 4에 도시한 바와 같이, 결함 검사 시스템(1)의 광원(2)으로부터 검사 대상(T)에 광을 조사하는 조사 공정이 행해진다(S1). 도 6의 (A)에 도시한 바와 같이, 조사 공정에서는, 광원(2)과 검사 대상(T) 사이에 위치하여, 광원(2)으로부터 검사 대상(T)에 조사되는 광의 일부를 차광하는 결함 검사 시스템(1)의 차광체(6)에 의해, 촬상 공정에서 이산 시간마다 촬상되는 2차원 화상(F))(t1)에 경계선(b)을 경계로 한 명부(l)와 암부(d)가 형성된다. 도 6의 (A)에 나타내는 바와 같이, 시각 t=t1에서의 2차원 화상(F)(t1)은, 광원(2)으로부터의 광이 차광체(6)에 의해 차광되기 때문에, 반송 방향(X)의 하류측에 도달함에 따라서 2차원 화상(F)(t1) 내의 명도가 높아진다. 또한, 2차원 화상(F)(t1)에는, 검사 대상(T)의 필름 상의 결함(D)이 찍혀 있다. 시각 t=t2, t3, …, tm에서의 2차원 화상(F)(t2), (F)(t3), …, (F)(tm)에 대해서도 마찬가지이다(m은 임의의 자연수).Hereinafter, a defect inspection method according to the present embodiment will be described. An irradiation step of irradiating light to the inspection target T from the light source 2 of the defect inspection system 1 is performed (S1) as shown in Fig. 6A, in the irradiating step, a part of light irradiated from the light source 2 to the inspection target T is placed between the light source 2 and the inspection target T, Dimensional image F picked up at every discrete time in the imaging process by the light shield 6 of the inspection system 1 and the arm portion d with the boundary line b as a boundary, . 6 (A), the two-dimensional image F (t1) at time t = t1 is a region in which the light from the light source 2 is shielded by the light shielding body 6, X), the brightness in the two-dimensional image F (t1) becomes high. Further, the defect D on the film of the inspection target T is displayed on the two-dimensional image F (t1). Time t = t2, t3, ... , two-dimensional images (F) (t2), (F) (t3), and , And (F) (tm) (m is an arbitrary natural number).

도 4에 도시한 바와 같이, 결함 검사 시스템(1)의 촬상부(3)에 의해, 조사 공정에 의해 광원(2)으로부터 검사 대상(T)에 조사되어 검사 대상(T)을 투과 또는 반사한 광에 의한 2차원 화상(F)(t1)을 이산 시간마다 촬상하는 촬상 공정이 행해진다(S2). 도 6의 (A)에 도시한 바와 같이, 촬상 공정에서는, 차광체(6)에 의해 광원(2)으로부터 검사 대상(T)에 조사되는 광의 일부가 차광되기 때문에, 2차원 화상(F)(t1)에서의 반송 방향(X)과 합치하는 방향으로 휘도가 변화하는 2차원 화상(F)(t1)이 촬상된다. 시각 t=t2, t3…tm에서의 2차원 화상(F)(t2), (F)(t3), …, (F)(tm)에 대해서도 동일하다.As shown in Fig. 4, the imaging unit 3 of the defect inspection system 1 irradiates the inspection target T from the light source 2 by the irradiation step and transmits or reflects the inspection target T An image pickup step of picking up a two-dimensional image (F) t1 by light is performed every discrete time (S2). 6 (A), in the imaging step, a part of the light irradiated from the light source 2 to the inspection target T is shielded by the light shield 6, so that the two-dimensional image F a two-dimensional image F (t1) whose luminance changes in a direction coinciding with the carrying direction X at the time t1 is picked up. Time t = t2, t3 ... The two-dimensional images (F) (t2), (F) (t3), and , And (F) (tm).

또한, 도 4에 도시한 바와 같이, 결함 검사 시스템(1)의 반송부(4)에 의해, 광원(2) 및 촬상부(3)에 대하여 검사 대상(T)을 반송 방향(X)으로 상대적으로 반송하는 반송 공정이 행해진다(S3). 도 6의 (A)에 도시한 바와 같이, 반송 공정에서는, 광원(2), 평행광 렌즈(7), 차광체(6) 및 촬상부(3)에 대하여 검사 대상(T)을 명부(l)와 암부(d)의 경계선(b)에 교차하는 반송 방향(X)으로 상대적으로 반송한다. 본 실시 형태에서는, 경계선(b)은 반송 방향(X)에 직교하는 폭 방향(Y)에 평행하지만, 경계선(b)과 반송 방향(X)이 이루는 각도는 90°이외여도 된다. 또한, 경계선(b)은 반드시 엄밀한 것은 아니고, 경계선(b)이란, 명부(l)가 포함하는 2차원 화상(F)(t1)의 가장 휘도가 큰 부위와 암부(d)가 포함하는 2차원 화상(F)의 가장 휘도가 작은 부위의 중간의 선을 의미한다.4, the conveyance unit 4 of the defect inspection system 1 allows the light source 2 and the imaging unit 3 to be inspected relative to each other in the conveying direction X Is carried out (S3). 6A, in the carrying step, the inspection target T is irradiated to the light source 2, the parallel optical lens 7, the light shielding body 6, In the carrying direction X crossing the boundary line b of the arm portion d and the arm portion d. In this embodiment, the boundary line b is parallel to the width direction Y orthogonal to the carrying direction X, but the angle formed by the boundary line b and the carrying direction X may be other than 90 degrees. The boundary line b is not always strict and the boundary line b is a boundary between the brightest portion of the two-dimensional image F (t1) included in the list portion 1 and the two- Means a line in the middle of the portion having the smallest brightness of the image F. [

도 4에 도시한 바와 같이, 결함 검사 시스템(1)의 화상 처리부(5)에 의해, 촬상 공정에서 촬상된 2차원 화상(F)(t1) 내지 (F)(tm)의 화상 데이터를 처리하는 화상 처리 공정이 행해진다(S4). 이하, 화상 처리 공정의 상세에 대하여 설명한다. 도 5에 도시한 바와 같이, 화상 처리 공정에서는, 결함 검사 시스템(1)의 화상 처리부(5)의 라인 분할 처리부(9)에 의해, 라인 분할 처리 공정이 행해진다(S41). 도 6의 (B)에 나타내는 바와 같이, 라인 분할 처리 공정에서는, 라인 분할 처리부(9)는, 2차원 화상(F)(t1)을 반송 방향(X)으로 병렬하는 복수의 1번째의 라인(L1)(t1) 내지 j번째의 라인 Lj(t1) 내지 k번째의 라인(Lk)(t1)으로 분할한다(j 및 k는 임의의 자연수, j≤k). 라인(L1)(t1) 내지 라인(Lk)(t1)의 반송 방향(X)의 폭은, 시각 t1, 시각 t2, …, 시각 tj, …, 시각 tm 각각의 1 프레임 간격에서, 검사 대상(T)이 반송 방향(X)으로 반송되는 거리와 동일하다. 시각 t=t2, t3…tm에서의 2차원 화상(F)(t2), (F)(t3), …, (F)(tm)에 대해서도 동일한 처리가 행해진다.The image processing unit 5 of the defect inspection system 1 processes the image data of the two-dimensional images F (t1) to (F) (tm) picked up in the imaging process An image processing step is performed (S4). Hereinafter, the details of the image processing step will be described. 5, in the image processing step, the line division processing unit 9 of the image processing unit 5 of the defect inspection system 1 performs a line division processing step (S41). 6B, in the line dividing processing step, the line dividing processing section 9 divides the two-dimensional image F (t1) into a plurality of first lines ( (J and k are arbitrary natural numbers, j < RTI ID = 0.0 > k) < / RTI > The widths of the conveying direction X of the lines L1 (t1) to Lk (t1) are the widths of the time t1, the time t2, ... , Visual tj, ... , The distance to be inspected T is the same as the distance at which the inspection target T is transported in the transport direction X at one frame interval of each time tm. Time t = t2, t3 ... The two-dimensional images (F) (t2), (F) (t3), and , And (F) (tm) are also performed.

라인 분할 처리부(9)는, 2차원 화상(F)(t1) 내지 (F)(tm)을 촬상 공정에서 이산 시간마다 촬상된 2차원 화상(F)(t1) 내지 (F)(tm) 각각에서의 동일 위치의 라인(L1)(t1), (L1)(t2) 등을 시계열순으로 병렬시킨 라인 분할 화상의 화상 데이터로 처리한다. 1번째의 라인 분할 화상을 예로 들어 설명한다. 도 6의 (C)에 나타내는 바와 같이, 라인 분할 처리부(9)는, 이산 시간마다 촬상된 2차원 화상(F)(t1), (F)(t2), (F)(t3), … 각각에서의 반송 방향(X)의 가장 하류측의 1번째의 라인(L1)(t1), (L1)(t2), (L1)(t3), …을 시계열순(반송 방향(X))으로 병렬시킨다. 도 6의 (D)에 나타내는 바와 같이, 라인 분할 처리부(9)는, 2차원 화상(F)(t1) 내지 (F)(tm) 각각에서의 1번째의 라인(L1)(t1) 내지 (L1)(tm)을 시계열순으로 병렬시켜, 1번째의 라인 분할 화상(DL1)(t1)을 생성한다.The line dividing processing section 9 divides the two-dimensional images F (t1) to (F) (tm) picked up at the discrete time in the imaging process into two-dimensional images F (L1) (t1), (L1), (t2) and the like at the same position in the time series image data are processed in the form of image data of a line segment image obtained by paralleling in a time series order. The first line segment image will be described as an example. As shown in Fig. 6 (C), the line dividing processing section 9 divides the two-dimensional images F (t1), (f) (t2), (F) The first line L1 (t1), (L1), (t2), (L1), (t3), ... on the most downstream side in the conveying direction X (In the transport direction X). As shown in FIG. 6D, the line dividing processing section 9 divides the first line L1 (t1) to (t2) in each of the two-dimensional images F (t1) to (F) L1) (tm) are arranged in a time series order to generate a first line segment image DL1 (t1).

도 6의 (E), 도 6의 (F) 및 도 6의 (G)에 나타내는 바와 같이, 라인 분할 처리부(9)는, 2차원 화상(F)(t1) 내지 (F)(tm) 각각에서의 1번째의 라인(L1)(t1) 내지 (L1)(tm), …, j번째의 라인(Lj)(t1) 내지 (Lj)(tm), …, k번째의 라인(Lk)(t1) 내지 (Lk)(tm)에도 동일한 처리를 행하고, 1번째의 라인 분할 화상(DL1)(t1), …, j번째의 라인 분할 화상(DLJ)(t1), …, k번째의 라인 분할 화상(DLk)(t1)을 생성한다. 도 6의 (E)에 나타내는 바와 같이, 라인 분할 화상(DL1)(t1)은, 2차원 화상(F)(t1) 내지 (F)(tm)에서의 명부(l)의 위치의 라인(L1)(t1) 내지 (L1)(tm)을 시계열순으로 병렬시킨 것이다. 또한, 도 6의 (F)에 나타내는 바와 같이, 라인 분할 화상(DLj)(t1)은, 2차원 화상(F)(t1) 내지 (F)(tm)에서의 경계선(b) 부근의 위치의 라인(Lj)(t1) 내지 (L1)(tm)을 시계열순으로 병렬시킨 것이다. 또한, 도 6의 (G)에 나타내는 바와 같이, 또한 라인 분할 화상(DLk)(t1)은, 2차원 화상(F)(t1) 내지 (F)(tm)에서의 암부(d)의 위치의 라인(Lk)(t1) 내지 (Lk)(tm)을 시계열순으로 병렬시킨 것이다.As shown in FIG. 6 (E), FIG. 6 (F) and FIG. 6 (G), the line segmentation processing section 9 divides the two-dimensional images F (t1) The first line L1 (t1) to (L1) (tm), ..., , the j-th line (Lj) (t1) to (Lj) (tm), ... , and the k-th lines Lk (t1) to Lk (tm), the first line segment image DL1 (t1), ..., , the j-th line segment image DLJ (t1), ... , and a k-th line-divided image DLk (t1). As shown in FIG. 6E, the line segment image DL1 (t1) is the line (L1 (t1)) at the position of the list portion 1 in the two-dimensional images F ) (t1) to (L1) (tm) in parallel in time series. 6 (F), the line-divided image DLj (t1) is the image of the position in the vicinity of the boundary line b in the two-dimensional images F (t1) to F (tm) And the lines Lj (t1) to (L1) (tm) are arranged in parallel in time series. 6 (G), the line segment image DLk (t1) further includes a position of the arm portion d in the two-dimensional images F (t1) to F (tm) And the lines Lk (t1) to (Lk) (tm) are arranged in parallel in time series.

도 6의 (E) 내지 도 6의 (G)에 나타내는 바와 같이, 라인 분할 화상(DL1)(t1) 내지 (DLk)(t1)은, 이산 시간마다 촬상된 2차원 화상(F)(t1) 내지 (F)(tm) 각각에서의 동일 위치의 라인(L1)(t1) 내지 (Lk)(t1) 각각을 시계열순으로 병렬시킨 것이기 때문에, 동일한 시각의 범위의 라인 분할 화상(DL1)(t1) 내지 (DLk)(t1)은, 검사 대상(T)의 상이한 위치를 나타내고 있어, 라인 분할 화상(DL1)(t1) 내지 (DLk)(t1) 중의 결함(D)의 위치도 각각 어긋나 있다. 그래서, 본 실시 형태에서는, 각각 상이한 시각의 범위에서 촬상된 2차원 화상 각각에서의 동일 위치의 라인을 시계열순으로 병렬된 라인 분할 화상을 제작함으로써, 라인 분할 화상 각각이 검사 대상(T)의 동일 위치를 나타내도록 위치 정렬을 행한다.As shown in (E) to (G) of FIG. 6, the line segment images DL1 (t1) to DLk (t1) are divided into two-dimensional images F (T1) to (Lk) (t1) in the same position in each of the time-series images DL1 (t1) to ) To DLk (t1) indicate different positions of the inspection target T and the positions of the defects D in the line segment images DL1 (t1) to DLk (t1) are also deviated from each other. Thus, in the present embodiment, line-segmented images in which the lines at the same position in each of two-dimensional images picked up in different time ranges are arranged in a time-series manner are produced so that each of the line-split images is the same Position alignment is performed to indicate the position.

도 7의 (A)에 나타내는 바와 같이, 촬상 공정에서 2차원 화상(F)(t1) 내지 (F)(tm)이 이산 시간마다 촬상된다. 검사 대상(T)는 반송 방향(X)으로 반송되어 가기 때문에, 2차원 화상(F)(t1) 내지 (F)(tm) 중의 결함(D)의 위치는 각각 어긋나 있다. 도 7의 (B)에 나타내는 바와 같이, 상술한 바와 같이, 라인 분할 화상(DL1)(t1) 내지 (DLj)(t1) 내지 (DLk)(t1)이 생성된다. 동일한 시각의 범위의 라인 분할 화상(DL1)(t1) 내지 (DLk)(t1)은 검사 대상(T)의 상이한 위치를 나타내고 있기 때문에, 라인 분할 화상(DL1)(t1) 내지 (DLk)(t1) 중의 결함(D)의 위치도 각각 어긋나 있다.As shown in Fig. 7 (A), two-dimensional images F (t1) to (F) (tm) are picked up at discrete time in the imaging process. The positions of the defects D in the two-dimensional images F (t1) to (F) (tm) are shifted from each other because the inspection target T is transported in the transport direction X. The line segment images DL1 (t1) to DLj (t1) to DLk (t1) are generated as shown in Fig. 7 (B). Since the line segment images DL1 (t1) to DLk (t1) in the same time range represent different positions of the inspection target T, the line segment images DL1 (t1) to DLk The positions of the defects D in the defects are also deviated from each other.

반송 방향(X)의 하류측으로부터 1번째의 라인(L1)(t1) 내지 (L1)(tm)에 대하여, 예를 들어 동일한 시각의 범위의 반송 방향(X)의 하류측으로부터 j번째의 라인(Lj)(t1) 내지 (Lj)(tm)은, (j-1)분의 프레임 간격에 검사 대상(T)이 반송되는 거리만큼 검사 대상(T)의 반송 방향(X)의 상류측의 위치를 나타내고 있다. 따라서, 도 7의 (C)에 나타내는 바와 같이, 1번째의 라인(L1)(tm) 내지 (L1)(t(m+(m-1)))의 라인 분할 화상(DL1)(tm)에 대하여, 예를 들어 j번째 라인의 라인 분할 화상에 대해서는, 시각 t1 내지 시각 tm의 범위에 대하여 (j-1)분의 프레임 간격의 시간만큼 거슬러 올라간 시각 t(m-(j-1)) 내지 시각 t(m+(m-j))의 범위의 라인 분할 화상(DLj)(t(m-(j-1)))이 검사 대상(T)의 동일 위치를 나타내게 된다.The first line L1 (t1) to the first line (tm) from the downstream side in the carrying direction X is shifted from the downstream side in the carrying direction X of the same time range, for example, (Lj) (t1) to (Lj) (tm) on the upstream side in the carrying direction X of the inspection target T by the distance that the inspection target T is transported at the frame interval of (j- Respectively. Therefore, as shown in Fig. 7C, the line segment image DL1 (tm) of the first line L1 (tm) to L1 (t (m + (m-1) (J- 1)) or the time (m-1), which has been traced by the time of the frame interval of (j-1) with respect to the range of the time t1 to the time tm, the line segment image DLj (t (m- (j-1)) in the range of t (m + (mj)) represents the same position of the inspection target T.

동일하게, 1번째의 라인(L1)(tm) 내지 (L1)(t(m+(m-1)))의 라인 분할 화상(DL1)(tm)에 대하여, 예를 들어 k번째 라인의 라인 분할 화상에 대해서는, 시각 t1 내지 시각 tm의 범위에 대하여 (k-1)분의 프레임 간격의 시간만큼 거슬러 올라간 시각 t(m-(k-1)) 내지 시각 t(m+(m-k))의 범위의 라인 분할 화상(DLk)(t(m-(k-1)))이 검사 대상(T)의 동일 위치를 나타내게 된다.Similarly, for the line segment image DL1 (tm) of the first line L1 (tm) to L1 (t (m + (m-1) (M- (k-1)) to time t (m + (mk)) of the range of the time t (m-1) from the time t1 to the time tm The line segment image DLk (t (m- (k-1))) indicates the same position of the inspection target T. [

또는, 1번째의 라인(L1)(t1) 내지 (L1)(t(1+(m-1)))의 라인 분할 화상(DL1)(t1)에 대하여, 예를 들어 j번째 라인의 라인 분할 화상에 대해서는, 시각 t(1-(j-1)) 내지 시각 t(1+(m-j))의 범위의 라인 분할 화상(DLj)(t(1-(j-1)))이 검사 대상(T)의 동일 위치를 나타낸다. 또한, 1번째의 라인(L1)(t1) 내지 (L1)(t(1+(m-1)))의 라인 분할 화상(DL1)(t1)에 대하여, 예를 들어 k번째 라인의 라인 분할 화상에 대해서는, 시각 t(1-(k-1)) 내지 시각 t(1+(m-k))의 범위의 라인 분할 화상(DLk)(t(1-(k-1)))이 검사 대상(T)의 동일 위치를 나타낸다. 이렇게 시각의 범위를 어긋나게 함으로써, 라인 분할 화상 각각이 검사 대상(T)의 동일 위치를 나타내도록 위치 정렬을 행할 수 있다.Or the line segment image DL1 (t1) of the first line L1 (t1) to L1 (t (1 + (m-1) (J) of the line-divided image DLj (t (1- (j-1)) in the range of time t (1- (j-1) T). The line segment image DL1 (t1) of the first line L1 (t1) to L1 (t (1 + (m-1) The line segment image DLk (t (1- (k-1)) in the range of time t (1- (k-1)) to time t T). By shifting the range of the time in this manner, the alignment can be performed so that each of the line segment images represents the same position of the inspection target T.

또한, 위치 어긋남의 양이 기지인 경우나, 라인 분할 화상의 사이즈가 결함에 대하여 충분히 큰 경우에는 반드시 라인 분할 화상 내에 결함이 수렴되기 때문에, 위치 정렬을 하지 않아도 결함이 포함되는 라인 분할 화상을 기계 학습을 위해 사용하는 것이 가능하다. 따라서, 이러한 경우에는, 위치 정렬은 행해지지 않아도 된다.When the amount of the positional deviation is known or when the size of the line-divided image is sufficiently large for the defect, the defect is always converged in the line-divided image. Therefore, It is possible to use it for learning. Therefore, in such a case, the alignment does not need to be performed.

도 5에 도시한 바와 같이, 결함 검사 시스템(1)의 화상 처리부(5)의 결함 종별 식별부(10)에 의해, 결함 종별 식별 공정이 행해진다(S42). 결함 종별 식별 공정에서는, 결함 종별 식별부(10)는, 라인 분할 처리 공정에서 처리된 2 이상의 라인 분할 화상(DL1)(t1), …, (DLj)(t(1-(j-1))), …, (DLk)(t(1-(k-1)))에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함(D)의 종별을 식별한다.As shown in Fig. 5, the defect type identification step is performed by the defect type identification unit 10 of the image processing unit 5 of the defect inspection system 1 (S42). In the defect type identifying step, the defect type identifying section 10 judges whether or not two or more line segment images DL1 (t1), ..., DL2 , (DLj) (t (1- (j-1))), ... (D) of the inspection target (T) on the basis of data obtained by accumulating the results of the machine learning relating to the identification of the types of defects included in the defect types (DLk) and (DL (k .

결함 종별 식별 공정에서는, 결함 종별 식별부(10)는, 휘도가 10% 이상 상이한 2개의 라인 분할 화상(DL1)(t1), (DLk)(t1)에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함(D)의 종별을 식별한다. 보다 구체적으로는, 결함 종별 식별 공정에서는, 결함 종별 식별부(10)는, 2차원 화상(F)(t1) 내지 (F)(tm)에서의 명부(l)의 위치의 라인(L1)(t1) 내지 (L1)(tk)을 시계열순으로 병렬시킨 라인 분할 화상(DL1)(t1)과, 2차원 화상(F)(t(1-(k-1))) 내지 (F)(t(1+(m-k)))에서의 암부(d)의 위치의 라인(Lk)(t(1-(k-1))) 내지 (Lk)(t(1+(m-k)))을 시계열순으로 병렬시킨 라인 분할 화상(DLk)(t(1-(k-1)))에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함(D)의 종별을 식별한다. 기계 학습은, 예를 들어 합성곱 신경망이 행해진다. 또한, 기계 학습에 의해 결함의 종별을 식별 가능하면, 합성곱 신경망 이외의 신경망이나 그 외의 방법을 사용하는 것도 가능하다.In the defect type identification step, the defect type identification unit 10 identifies the types of defects included in the two line segment images DL1 (t1) and DLk (t1) whose luminance is 10% or more different And identifies the type of the defect (D) of the inspection target (T) based on the data accumulated as a result of the learning. More specifically, in the defect type identification step, the defect type identification unit 10 identifies the line L1 ((L1)) of the position of the list portion 1 in the two-dimensional images F (t1) to (t1) to (L1) (t1) in which a line segment image DL1 (t1) and a line segment image L1 (tk) (1 (k-1))) to Lk (t (1+ (mk)) at the position of the arm portion (d) Defects of the inspection target T based on the data obtained by accumulating the results of the machine learning relating to the identification of the types of defects included in the line-divided image DLk (t (1- (k-1) D). In the machine learning, for example, a composite product neural network is performed. It is also possible to use a neural network other than the composite neural network or other methods as long as the type of the defect can be identified by the machine learning.

도 8에 도시한 바와 같이, 합성곱 신경망(100)은, 입력층(110), 은닉층(120) 및 출력층(130)을 구비하고 있다. 입력층(110)에는, 결함 검사 시스템(1)의 화상 처리부(5)에 의해, 라인 분할 처리 공정에서 처리된 라인 분할 화상(DL1)(t1) 내지 (DLk)(t(1-(k-1))) 중 2 이상의 라인 분할 화상이 입력된다. 은닉층(120)은, 가중 필터에 의한 화상 처리가 행해지는 합성곱층(121, 123)과, 합성곱층(121, 123)으로부터 출력된 2차원 배열을 종횡으로 작게 하여 유효한 값을 남기는 처리를 행하는 풀링층(122)과, 각 층의 가중 계수 n이 갱신되는 전체 결합층(124)을 갖는다. 출력층(130)에서는, 기계 학습에 의한 결함(D)의 종별의 식별 결과가 출력된다. 합성곱 신경망(100)에서는, 출력된 식별 결과와 정답값의 오차를 역방향(R)으로 역전파함으로써 각 층의 가중치(weight)가 학습된다.As shown in Fig. 8, the composite-articulated network 100 includes an input layer 110, a hidden layer 120, and an output layer 130. As shown in Fig. The input layer 110 is provided with the line segment images DL1 (t1) to DLk (t (1- (k-1)) processed in the line segmentation process by the image processing unit 5 of the defect inspection system 1, 1))) are input. The hidden layer 120 is composed of a composite layer 121 and 123 for performing image processing by a weighted filter and a pulling function for reducing the two-dimensional array output from the composite multiplication layers 121 and 123, Layer 122 and an overall bonding layer 124 in which the weighting factor n of each layer is updated. In the output layer 130, the identification result of the type of the defect (D) by the machine learning is output. In the composite neural network 100, the weight of each layer is learned by back propagating the error between the output identification result and the correct answer value in the reverse direction (R).

예를 들어, 화상 처리부(5)에 미리 복수의 라인 분할 화상을 결함(D)의 종별의 식별의 정답과 함께 입력하여 학습시켜 둠으로써, 새롭게 입력된 라인 분할 화상(DL1)(t1) 등에 포함되는 것이 특정한 결함(D)의 종별인지 여부가 순차 식별되고, 식별 결과가 순차 출력된다. 순차 출력된 식별 결과와 정답의 오차는 역방향(R)으로 역전파되고, 각 층의 가중 계수 n이 순차 갱신되어, 데이터로서 축적된다. 각 상의 가중치가 순차 갱신된 상태에서, 또한 새롭게 입력된 라인 분할 화상(DL1)(t1) 등에 포함되는 것이 특정한 결함의 종별인지 여부가 순차 식별되어, 식별 결과가 순차 출력되고, 순차 출력된 식별 결과와 정답의 오차에 기초하여 각 층의 가중 계수 n이 순차 갱신되어, 데이터로서 축적되는 것이 반복됨으로써, 식별 결과와 정답의 오차가 작아져, 결함(D)의 종별의 식별 정밀도가 향상된다.For example, a plurality of line-divided images are previously input to the image processing section 5 together with correct answers for discrimination of the type of the defect (D), so that they are included in the newly input line-divided image DL1 Whether or not the defect is a specific defect D is sequentially identified, and the identification result is output sequentially. The sequentially output identification result and the error of the correct answer are reversely propagated in the reverse direction (R), and the weighting coefficient n of each layer is sequentially updated and accumulated as data. Whether or not the types of defects included in the newly input line segment image DL1 (t1) are sequentially identified and the identification results are sequentially output in the state in which the weight of each phase is updated in sequence, and the identification result And the weighting coefficient n of each layer are sequentially updated and accumulated as data on the basis of the error of the correct answer is repeated so that the difference between the identification result and the correct answer is reduced and the identification accuracy of the type of the defect D is improved.

본 실시 형태에 따르면, 검사 대상(T)에 광을 조사하는 광원(2)과, 광원(2)으로부터 검사 대상(T)에 조사되어 검사 대상(T)을 투과 또는 반사한 광에 의한 2차원 화상(F)(t1) 내지 (F)(tm) 등을 이산 시간마다 촬상하는 촬상부(3)와, 광원(2) 및 촬상부(3)에 대하여 검사 대상(T)을 반송 방향(X)으로 상대적으로 반송하는 반송부(4)와, 촬상부(3)에 의해 촬상된 2차원 화상(F)(t1) 내지 (F)(tm) 등의 화상 데이터를 처리하는 화상 처리부(5)를 구비한 결함 검사 시스템(1)에 있어서, 촬상부(3)에 의해, 2차원 화상(F)(t1) 내지 (F)(tm) 등에서의 반송 방향(X)과 합치하는 방향으로 휘도가 변화하는 2차원 화상(F)(t1) 내지 (F)(tm) 등이 촬상되고, 화상 처리부(5)의 라인 분할 처리부(9)에 의해, 2차원 화상(F)(t1) 내지 (F)(tm) 등이 반송 방향(X)으로 병렬하는 복수의 라인(L1)(t1) 내지 (Lk)(tm) 등으로 분할되어, 촬상부(3)에 의해 이산 시간마다 촬상된 2차원 화상(F)(t1) 내지 (F)(tm) 등 각각에서의 동일 위치의 라인(L1)(t1) 내지 (L1)(tm) 등을 시계열순으로 병렬시킨 라인 분할 화상(DL1)(t1) 내지 (DLk)(t(1-(k-1)))의 화상 데이터로 처리되기 때문에, 동일한 검사 대상이 촬상된 화상이어도 라인 분할 화상(DL1)(t1) 내지 (DLk)(t(1-(k-1))) 각각은 상이한 휘도를 갖는 화상이 된다. 또한, 화상 처리부(5)의 결함 종별 식별부(10)에 의해, 라인 분할 처리부(9)에 의해 처리된 2 이상의 각각 상이한 휘도를 갖는 라인 분할 화상(DL1)(t1) 내지 (DLk)(t(1-(k-1)))에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함(D)의 종별이 식별되기 때문에, 동일한 검사 대상(T)이 촬상된 화상이어도 그 휘도가 상이하고, 보이는 방식이 상이한 2개 이상의 라인 분할 화상(DL1)(t1) 내지 (DLk)(t(1-(k-1))) 등에 대한 기계 학습의 결과에 기초하여 결함(D)의 종별이 식별되는 것이기 때문에, 결함(D)의 식별 정밀도를 향상시킬 수 있다.According to the present embodiment, there are provided a light source 2 for irradiating light to an inspection target T, a light source 2 for emitting light to the inspection target T from the light source 2, An image pickup section 3 for picking up images F at time t1 to t at every discrete time and an image pickup section 3 for subjecting the light source 2 and the image pickup section 3 to an inspection target T in the conveying direction X And an image processing section 5 for processing image data such as two-dimensional images F (t1) to (F) (tm) picked up by the image pickup section 3, Dimensional image (F) (t1) to (F) (tm) by the imaging unit 3 in the direction matching the carrying direction X The two-dimensional images F (t1) to F (tm) are picked up by the line division processing unit 9 of the image processing unit 5, ) tm and the like are arranged in parallel in the conveying direction X by a plurality of lines L1 (t1) to Lk (tm) (L1) through (L1) (L1 (t1) to L1 (L1)) at the same position in each of the two-dimensional images F captured during the discrete time by the image pickup unit 3 (t1) to (DLk) (t (1- (k-1))) in which the same inspection object is picked up in the time-series order Each of the line-divided images DL1 (t1) to DLk (t (1- (k-1)) becomes an image having different luminance. The defect type identifying section 10 of the image processing section 5 also extracts the line segment images DL1 (t1) to DLk (t (t)) having different intensities of two or more processed by the line segmentation processing section 9, Since the type of the defect D of the inspection target T is identified based on the data obtained by accumulating the result of the machine learning related to the identification of the type of defect included in the inspection target (1- (k-1)), (T1) to (DLk) (t (1- (k-1))), etc., whose luminance is different even in the case where the image of the object T is photographed, Since the type of the defect D is identified based on the result of the learning, the accuracy of identifying the defect D can be improved.

또한, 본 실시 형태에 따르면, 결함 종별 식별부(10)는, 휘도가 10% 이상 상이한 2개의 라인 분할 화상(DL1)(t1), (DLk)(t(1-(k-1)))에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함(D)의 종별을 식별하기 때문에, 동일한 검사 대상(T)이 촬상된 화상이어도 그 휘도가 10% 이상으로 크게 상이하고, 보이는 방식이 크게 상이한 2개의 라인 분할 화상(DL1)(t1), (DLk)(t(1-(k-1)))에 대한 기계 학습의 결과에 기초하여 결함(D)의 종별이 식별되는 것이기 때문에, 결함(D)의 식별 정밀도를 보다 향상시킬 수 있다.According to the present embodiment, the defect type identifying section 10 has two line segment images DL1 (t1) and DLk (t (1- (k-1)) with luminance different from each other by 10% The type of the defect D of the inspection target T is identified on the basis of the data obtained by accumulating the result of the machine learning relating to the identification of the type of the defect included in the inspection target T. Therefore, Based on the results of the machine learning on the two line segment images DL1 (t1) and DLk (t (1- (k-1)) in which the luminance is significantly different from 10% And the type of the defect D is identified, the identification accuracy of the defect D can be further improved.

또한, 본 실시 형태에 따르면, 광원(2)과 검사 대상(T) 사이에 위치하는 차광체(6)에 의해, 광원(2)으로부터 검사 대상(T)에 조사되는 광의 일부가 차광됨으로써 촬상부(3)에서 이산 시간마다 촬상되는 2차원 화상(F)(t1) 내지 (F)(tm) 등에 명부(l)와 암부(d)가 형성되고, 반송부(4)에 의해, 광원(2), 차광체(6) 및 촬상부(3)에 대하여 검사 대상(T)이 명부(l)와 암부(d)의 경계선(b)에 교차하는 반송 방향(X)으로 상대적으로 반송되기 때문에, 이산 시간마다 촬상된 일련의 2차원 화상(F)(t1) 내지 (F)(tm) 등에서의 검사 대상(T)의 각 부위가 명부(l) 및 암부(d)의 양쪽에 들어간다. 또한, 결함 종별 식별부(10)는, 2차원 화상(F)(t1) 내지 (F)(tm) 등에서의 명부(l)의 위치의 라인(L1)(t1) 내지 (L1)(tm)을 시계열순으로 병렬시킨 라인 분할 화상(DL1)(t1)과, 2차원 화상(F)(t(1-(k-1))) 내지 (F)(t(1+(m-k)))에서의 암부(d)의 위치의 라인(Lk)(t(1-(k-1))) 내지 (Lk)(t(1+(m-k)))을 시계열순으로 병렬시킨 라인 분할 화상(DLk)(t(1-(k-1)))에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 검사 대상(T)의 결함(D)의 종별을 식별하기 때문에, 명부(l) 및 암부(d) 각각에 속하고, 보이는 방식이 크게 상이한 2개의 라인 분할 화상(DL1)(t1), (DLk)(t(1-(k-1)))에 대한 기계 학습의 결과에 기초하여 결함(D)의 종별이 식별됨으로써, 결함(D)의 식별 정밀도를 보다 향상시킬 수 있다.According to the present embodiment, a part of the light irradiated from the light source 2 to the inspection target T is shielded by the light shield 6 positioned between the light source 2 and the inspection target T, The image portion 1 and the arm portion d are formed on the two-dimensional images F (t1) to (F) (tm) picked up at each discrete time in the light source 3, Since the inspection target T is conveyed relative to the light shielding body 6 and the imaging section 3 in the conveying direction X crossing the boundary line b between the shade portion 1 and the arm portion d, The respective portions of the inspection target T in a series of two-dimensional images F (t1) to (F) (tm) picked up at each discrete time enter both the list portion 1 and the arm portion (d). The defect type identifying section 10 also identifies the line L1 (t1) to (L1) (tm) of the position of the list portion 1 in the two-dimensional images F (t1) to (F) (T1) (t1) and t2 (t) are obtained by dividing a line segment image DL1 (t1) and a two-dimensional image F (t Divided line image DLk in which the lines Lk (t (1- (k-1)) through Lk (t (1+ since the type of the defect D of the inspection target T is identified on the basis of the data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the inspection target T (t (1- (k-1))) (K) of the line segment images DL1 (t1) and DLk (t (1- (k-1)) belonging to the list portion 1 and the arm portion The type of the defect D is identified based on the result of the determination of the defect D, thereby further improving the identification accuracy of the defect D. [

이상, 본 발명의 실시 형태에 대하여 설명했지만, 본 발명은 상기 실시 형태에 한정되지 않고 다양한 형태로 실시된다. 예를 들어, 상기 실시 형태에서는, 검사 대상(T)이 필름인 경우에 대해 중심으로 설명했지만, 본 발명의 결함 검사 시스템 및 결함 검사 방법은, 예를 들어 생산 라인에서, 용기에 충전된 액체의 충전량 검사에 적용할 수 있다. 본 실시 형태의 결함 검사 시스템(1) 및 결함 검사 방법에 의해, 용기 내의 원하는 위치까지 액체가 도달해있지 않은지, 또는 액체가 용기 내의 원하는 위치를 초과해있지 않은지 등의 결함을 검출할 수 있다.Although the embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments, but is implemented in various forms. For example, in the above-described embodiment, the case where the inspection target T is a film has been mainly described. However, the defect inspection system and the defect inspection method of the present invention are applicable to, for example, It can be applied to charge quantity inspection. The defect inspection system 1 and the defect inspection method of the present embodiment can detect defects such as whether the liquid does not reach a desired position in the container or whether the liquid does not exceed a desired position in the container.

또한, 본 실시 형태의 결함 검사 시스템(1) 및 결함 검사 방법은, 생산 라인에서, 유리 제품 등의 균열이나 흠집 등의 외관 검사에 적용할 수 있다. 유리 제품에 균열이나 흠집 등의 결함이 있는 경우에는 휘도가 다른 부위보다도 높아지는 것을 이용하여 결함을 추출할 수 있다.In addition, the defect inspection system 1 and the defect inspection method of the present embodiment can be applied to appearance inspection such as cracks and scratches of glass products in a production line. When a glass product has defects such as cracks or scratches, it is possible to extract defects by using those whose luminance is higher than other parts.

Claims (6)

검사 대상에 광을 조사하는 광원과,
상기 광원으로부터 상기 검사 대상에 조사되어 상기 검사 대상을 투과 또는 반사한 상기 광에 의한 2차원 화상을 이산 시간마다 촬상하는 촬상부와,
상기 광원 및 상기 촬상부에 대하여 상기 검사 대상을 반송 방향으로 상대적으로 반송하는 반송부와,
상기 촬상부에 의해 촬상된 상기 2차원 화상의 화상 데이터를 처리하는 화상 처리부
를 구비하며,
상기 촬상부는,
상기 2차원 화상에서의 상기 반송 방향과 합치하는 방향으로 휘도가 변화하는 상기 2차원 화상을 촬상하고,
상기 화상 처리부는,
상기 2차원 화상을 상기 반송 방향으로 병렬하는 복수의 라인으로 분할하여, 상기 촬상부에 의해 상기 이산 시간마다 촬상된 상기 2차원 화상 각각에서의 동일 위치의 상기 라인을 시계열순으로 병렬시킨 라인 분할 화상의 상기 화상 데이터로 처리하는 라인 분할 처리부와,
상기 라인 분할 처리부에 의해 처리된 2 이상의 상기 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 상기 검사 대상의 결함의 종별을 식별하는 결함 종별 식별부
를 갖는, 결함 검사 시스템.
A light source for irradiating an object to be inspected,
An image pickup section for picking up a two-dimensional image by the light irradiated to the inspection target from the light source and transmitted or reflected by the inspection target at every discrete time,
A conveying unit for relatively conveying the inspection object to the light source and the imaging unit in a conveying direction,
An image processing section for processing the image data of the two-dimensional image picked up by the image pickup section
And,
Wherein,
Dimensional image in which the luminance changes in a direction coinciding with the carrying direction in the two-dimensional image,
Wherein the image processing unit comprises:
Dimensional image is divided into a plurality of lines that are arranged in parallel in the transport direction and a line segment image in which the lines at the same position in each of the two- A line division processing unit for processing the image data of the image data,
A defect classification identifying unit for identifying the type of the defect to be inspected based on the data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the two or more line segment images processed by the line segmentation processing unit,
And a defect inspection system.
제1항에 있어서, 상기 결함 종별 식별부는, 휘도가 10% 이상 상이한 2개의 상기 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 상기 검사 대상의 결함의 종별을 식별하는, 결함 검사 시스템.The defect inspection apparatus according to claim 1, wherein the defect type identifying section identifies a type of defect included in the two line segment images whose luminance is 10% or more different from the defect classification identification data, The type of the defect. 제1항 또는 제2항에 있어서, 상기 광원과 상기 검사 대상 사이에 위치하여, 상기 광원으로부터 상기 검사 대상에 조사되는 상기 광의 일부를 차광함으로써, 상기 촬상부에서 이산 시간마다 촬상되는 상기 2차원 화상에 명부와 암부를 형성하는 차광체를 더 구비하고,
상기 반송부는,
상기 광원, 상기 차광체 및 상기 촬상부에 대하여 상기 검사 대상을 상기 명부와 상기 암부의 경계선에 교차하는 상기 반송 방향으로 상대적으로 반송하고,
상기 결함 종별 식별부는, 상기 2차원 화상에서의 상기 명부의 위치의 상기 라인을 시계열순으로 병렬시킨 라인 분할 화상과, 상기 2차원 화상에서의 상기 암부의 위치의 상기 라인을 시계열순으로 병렬시킨 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 상기 검사 대상의 결함의 종별을 식별하는, 결함 검사 시스템.
The imaging apparatus according to any one of claims 1 to 3, further comprising: a light source which is located between the light source and the inspection object and shields a part of the light emitted from the light source to the inspection target, Further comprising a light shielding member for forming a light shielding portion and a light shielding portion,
Wherein,
The light source, the light shielding body, and the imaging unit, the inspection target is relatively conveyed in the conveying direction crossing the boundary line between the name portion and the arm portion,
Wherein the defect type identifying section includes a line segment image in which the lines at the position of the list portion in the two-dimensional image are arranged in a time series order and a line segment image in which the lines at the positions of the arm portions in the two- And identifies the type of the defect to be inspected based on data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the divided image.
결함 검사 시스템의 광원으로부터 검사 대상에 광을 조사하는 조사 공정과,
상기 결함 검사 시스템의 촬상부에 의해, 상기 조사 공정에 의해 상기 광원으로부터 상기 검사 대상에 조사되어 상기 검사 대상을 투과 또는 반사한 상기 광에 의한 2차원 화상을 이산 시간마다 촬상하는 촬상 공정과,
상기 결함 검사 시스템의 반송부에 의해, 상기 광원 및 상기 촬상부에 대하여 상기 검사 대상을 반송 방향으로 상대적으로 반송하는 반송 공정과,
상기 결함 검사 시스템의 화상 처리부에 의해, 상기 촬상 공정에서 촬상된 상기 2차원 화상의 화상 데이터를 처리하는 화상 처리 공정
을 구비하며,
상기 촬상 공정에서는,
상기 2차원 화상에서의 상기 반송 방향과 합치하는 방향으로 휘도가 변화하는 상기 2차원 화상을 촬상하고,
상기 화상 처리 공정에서는,
상기 2차원 화상을 상기 반송 방향으로 병렬하는 복수의 라인으로 분할하여, 상기 촬상 공정에서 상기 이산 시간마다 촬상된 상기 2차원 화상 각각에서의 동일 위치의 상기 라인을 시계열순으로 병렬시킨 라인 분할 화상의 상기 화상 데이터로 처리하는 라인 분할 처리 공정과,
상기 라인 분할 처리 공정에서 처리된 2 이상의 상기 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 상기 검사 대상의 결함의 종별을 식별하는 결함 종별 식별 공정
을 갖는, 결함 검사 방법.
An irradiating step of irradiating light to an object to be inspected from a light source of the defect inspection system,
An image capturing step of capturing a two-dimensional image by the light emitted by the light source onto the inspection target and transmitted or reflected by the inspection target by the imaging unit of the defect inspection system at each discrete time,
A transporting step of transporting the inspection object relative to the light source and the imaging unit in a transport direction by the transport unit of the defect inspection system;
An image processing step of processing the image data of the two-dimensional image picked up in the imaging step by the image processing unit of the defect inspection system
And,
In the imaging step,
Dimensional image in which the luminance changes in a direction coinciding with the carrying direction in the two-dimensional image,
In the image processing step,
Dimensional image obtained by dividing the two-dimensional image into a plurality of lines arranged in parallel in the conveying direction and arranging the lines at the same position in each of the two- A line segmentation process step of processing the image data,
A defect kind identification step of identifying a defect type of the object to be inspected based on data obtained by accumulating the result of the machine learning relating to the identification of the type of defect included in the two or more line segment images processed in the line segmentation processing step
And a defect inspection method.
제4항에 있어서, 상기 결함 종별 식별 공정에서는, 휘도가 10% 이상 상이한 2개의 상기 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 상기 검사 대상의 결함의 종별을 식별하는, 결함 검사 방법.The method according to claim 4, wherein, in the defect kind identification step, the defect type identification step identifies the types of defects included in the two line segment images whose luminance is 10% or more different, A defect inspection method for identifying a defect type. 제4항 또는 제5항에 있어서, 상기 조사 공정에서는,
광원과 검사 대상 사이에 위치하여, 상기 광원으로부터 상기 검사 대상에 조사되는 광의 일부를 차광하는 차광체에 의해, 상기 촬상 공정에서 이산 시간마다 촬상되는 상기 2차원 화상에 명부와 암부를 형성하고,
상기 반송 공정에서는,
상기 광원, 상기 차광체 및 상기 촬상부에 대하여 상기 검사 대상을 상기 명부와 상기 암부의 경계선에 교차하는 상기 반송 방향으로 상대적으로 반송하고,
상기 결함 종별 식별 공정에서는,
상기 2차원 화상에서의 상기 명부의 위치의 상기 라인을 시계열순으로 병렬시킨 라인 분할 화상과, 상기 2차원 화상에서의 상기 암부의 위치의 상기 라인을 시계열순으로 병렬시킨 라인 분할 화상에 포함되는 결함의 종별의 식별에 관한 기계 학습의 결과를 축적한 데이터에 기초하여 상기 검사 대상의 결함의 종별을 식별하는, 결함 검사 방법.
The method according to claim 4 or 5, wherein in the irradiation step,
A light shielding member which is located between a light source and an inspection target and shields a part of light irradiated from the light source to the inspection target forms a list portion and an arm portion in the two-
In the carrying step,
The light source, the light shielding body, and the imaging unit, the inspection target is relatively conveyed in the conveying direction crossing the boundary line between the name portion and the arm portion,
In the defect type identifying step,
Dimensional image, a line segment image in which the line at the position of the list portion in the two-dimensional image is arranged in a time series order, and a defect included in a line segment image in which the line at the position of the arm portion in the two- And classifying the type of defect to be inspected on the basis of data accumulated as a result of the machine learning relating to the identification of the type of defect.
KR1020180082656A 2017-07-24 2018-07-17 System for defect inspection and method for defect inspection Ceased KR20190011199A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017142923A JP6970549B2 (en) 2017-07-24 2017-07-24 Defect inspection system and defect inspection method
JPJP-P-2017-142923 2017-07-24

Publications (1)

Publication Number Publication Date
KR20190011199A true KR20190011199A (en) 2019-02-01

Family

ID=65172600

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180082656A Ceased KR20190011199A (en) 2017-07-24 2018-07-17 System for defect inspection and method for defect inspection

Country Status (4)

Country Link
JP (1) JP6970549B2 (en)
KR (1) KR20190011199A (en)
CN (1) CN109297973B (en)
TW (1) TWI788387B (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210098106A (en) * 2020-01-31 2021-08-10 한국생산기술연구원 Automatic defect inspection system based on deep learning
KR20220153499A (en) * 2021-05-11 2022-11-18 도쿄엘렉트론가부시키가이샤 Substrate inspection method and substrate inspection device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7069436B2 (en) * 2019-12-16 2022-05-17 三菱電機株式会社 Image quality learning device, image quality judgment device, and image reading device

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3476913B2 (en) * 1994-07-08 2003-12-10 オリンパス株式会社 Defect type determination device and process management system
JP3178644B2 (en) * 1995-02-10 2001-06-25 セントラル硝子株式会社 Defect detection method for transparent plate
JPH08247954A (en) * 1995-03-15 1996-09-27 Asahi Glass Co Ltd Optical distortion measurement method
JP4220595B2 (en) * 1998-08-10 2009-02-04 株式会社日立製作所 Defect classification method and teaching data creation method
JP2001134763A (en) * 1999-11-09 2001-05-18 Hitachi Ltd Defect classification method based on captured image and display method of the result
CN1293381C (en) * 2001-07-05 2007-01-03 日本板硝子株式会社 Method and device for inspecting defect of sheet-shaped transparent body
US7105848B2 (en) * 2002-04-15 2006-09-12 Wintriss Engineering Corporation Dual level out-of-focus light source for amplification of defects on a surface
JP2004163416A (en) * 2002-10-23 2004-06-10 Nippon Steel Corp Defect inspection equipment
JP2004191283A (en) * 2002-12-13 2004-07-08 Ricoh Co Ltd Defect detection method and defect detection device
JP2007501942A (en) * 2003-05-19 2007-02-01 マイクロ−エプシロン・メステヒニク・ゲーエムベーハー・ウント・コンパニー・カー・ゲー Optical test method and optical test apparatus for optically controlling the quality of an object preferably having a circular edge
JP2004354250A (en) * 2003-05-29 2004-12-16 Nidek Co Ltd Defect inspection device
JP4694914B2 (en) * 2005-08-03 2011-06-08 昭和電工株式会社 Surface inspection method and apparatus
JP4739044B2 (en) * 2006-02-09 2011-08-03 三菱原子燃料株式会社 Appearance inspection device
EP2177898A1 (en) * 2008-10-14 2010-04-21 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Method for selecting an optimized evaluation feature subset for an inspection of free-form surfaces and method for inspecting a free-form surface
JP4726983B2 (en) * 2009-10-30 2011-07-20 住友化学株式会社 Defect inspection system, and defect inspection imaging apparatus, defect inspection image processing apparatus, defect inspection image processing program, recording medium, and defect inspection image processing method used therefor
JP6191627B2 (en) * 2013-01-30 2017-09-06 住友化学株式会社 Image generating apparatus, defect inspection apparatus, and defect inspection method
WO2016121878A1 (en) * 2015-01-29 2016-08-04 株式会社デクシス Optical appearance inspection device and optical appearance inspection system using same
US10359371B2 (en) * 2015-08-24 2019-07-23 Kla-Tencor Corp. Determining one or more characteristics of a pattern of interest on a specimen

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210098106A (en) * 2020-01-31 2021-08-10 한국생산기술연구원 Automatic defect inspection system based on deep learning
KR20220153499A (en) * 2021-05-11 2022-11-18 도쿄엘렉트론가부시키가이샤 Substrate inspection method and substrate inspection device
US12476125B2 (en) 2021-05-11 2025-11-18 Tokyo Electron Limited Substrate inspection method and substrate inspection device

Also Published As

Publication number Publication date
TW201908718A (en) 2019-03-01
CN109297973A (en) 2019-02-01
TWI788387B (en) 2023-01-01
JP6970549B2 (en) 2021-11-24
CN109297973B (en) 2022-12-23
JP2019023588A (en) 2019-02-14

Similar Documents

Publication Publication Date Title
JP4726983B2 (en) Defect inspection system, and defect inspection imaging apparatus, defect inspection image processing apparatus, defect inspection image processing program, recording medium, and defect inspection image processing method used therefor
KR20190011198A (en) System for defect inspection and method for defect inspection
KR20170136992A (en) Defect inspection system, film manufacturing device, and defect inspection method
TWI797145B (en) Defect inspection system and defect inspection method
AU2006333500B2 (en) Apparatus and methods for inspecting a composite structure for defects
CN115063308B (en) Image correction method, device, electronic device and storage medium
KR20190011199A (en) System for defect inspection and method for defect inspection
JP2021092439A (en) Illumination optimization method, control device, and program
KR20200087331A (en) Apparatus and method for inspecting steel products
JP2017219343A (en) Defect inspection device, defect inspection method, film manufacturing device, and film manufacturing method
CN110402386A (en) Cylinder surface examining device and cylinder surface inspecting method
TWI753424B (en) Appearance inspection management system, appearance inspection management device, appearance inspection management method, and program
JP2015200544A (en) Surface irregularity inspection device and surface irregularity inspection method
TW202100991A (en) Appearance inspection management system, appearance inspection management device, appearance inspection management method and program which can support a user to select a feature amount used as a defect determination index in an appearance inspection device and set a threshold value for each feature amount
JP2011145305A (en) Defect inspection system, and photographing device for defect inspection, image processing apparatus for defect inspection, image processing program for defect inspection, recording medium, and image processing method for defect inspection used for the same
EP4488926A1 (en) Processing apparatus, optical inspection system, subject surface image composition method, subject surface image composition program
JP2020144727A (en) Single plate judgment system and single plate judgment method

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20180717

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20210517

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20180717

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20230925

Patent event code: PE09021S01D

E601 Decision to refuse application
PE0601 Decision on rejection of patent

Patent event date: 20231130

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

Patent event date: 20230925

Comment text: Notification of reason for refusal

Patent event code: PE06011S01I