JP2018189564A - Image inspection device and image inspection method - Google Patents
Image inspection device and image inspection method Download PDFInfo
- Publication number
- JP2018189564A JP2018189564A JP2017093362A JP2017093362A JP2018189564A JP 2018189564 A JP2018189564 A JP 2018189564A JP 2017093362 A JP2017093362 A JP 2017093362A JP 2017093362 A JP2017093362 A JP 2017093362A JP 2018189564 A JP2018189564 A JP 2018189564A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- color
- inspection
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
【課題】点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響を低減することで画像検査の精度が向上させること。【解決手段】画像検査装置は互いに異なる複数の点灯色の照明光を対象物に照射しながら各点灯色に対応する対象物についての複数の分光画像を取得する。画像検査装置は複数の点灯色の照明光の照射を停止し、外乱光のみが照射されている対象物の外乱光画像を取得する。画像検査装置は複数の分光画像のそれぞれから外乱光画像を減算する。【選択図】 図9PROBLEM TO BE SOLVED: To improve the accuracy of image inspection by reducing the influence of ambient light in an image inspection apparatus provided with a plurality of light sources having different lighting colors. An image inspection device acquires a plurality of spectroscopic images of an object corresponding to each lighting color while irradiating the object with illumination light having a plurality of lighting colors different from each other. The image inspection device stops the irradiation of the illumination light of a plurality of lighting colors, and acquires the disturbance light image of the object to which only the disturbance light is irradiated. The image inspection device subtracts the ambient light image from each of the plurality of spectroscopic images. [Selection diagram] Fig. 9
Description
本発明は、マルチスペクトルイメージングを用いた画像検査装置および画像検査方法に関する。 The present invention relates to an image inspection apparatus and an image inspection method using multispectral imaging.
商品(ワーク)が設計通りに生産されたかどうかを判定するためにワークを撮像して得られた画像を検査する画像検査装置は非常に有用である。このような画像検査ではワークの形状や寸法、色などが検査される。特許文献1によれば印刷物などの検査対象物を撮像して色情報を取得し、高精度に色検査を実行する色検査装置が提案されている。 An image inspection apparatus that inspects an image obtained by imaging a workpiece in order to determine whether or not a product (work) is produced as designed is very useful. In such image inspection, the shape, dimensions, color, etc. of the workpiece are inspected. According to Patent Document 1, a color inspection apparatus that captures color information by imaging an inspection object such as a printed matter and performs color inspection with high accuracy has been proposed.
画像検査装置は適切に調整された照明装置によりワークを照明してワークの画像を取得し、ワークが合格基準を満たしているかどうかを判定する。画像検査装置はワークが照明装置により照明されることを前提としているため、外乱光がワークに照射されてしまうと検査精度が低下する。とくにマルチスペクトルイメージングでは、それぞれ点灯色の異なる照明光が個別にワークに照射されて複数の分光画像が生成されるため、点灯色とは異なる色の外乱光は検査精度を低下させる大きな要因となりうる。画像検査装置はワークを製造する工場に設置されるため、工場内に設置された蛍光灯の光や工場の窓から入射する太陽光などは外乱光となりうる。これらの外乱光は時間の経過とともに変化することがある。たとえば、午前には太陽光が入射するが、午後には太陽光が入射しないような設置環境も存在するだろう。そこで、本発明は、点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響を低減することで画像検査の精度が向上させることを目的とする。 The image inspection apparatus illuminates the workpiece with an appropriately adjusted illumination device to acquire an image of the workpiece, and determines whether the workpiece satisfies the acceptance criteria. Since the image inspection apparatus is based on the premise that the workpiece is illuminated by the illumination device, the inspection accuracy is reduced when ambient light is irradiated onto the workpiece. In particular, in multispectral imaging, illumination light with a different lighting color is individually irradiated onto the workpiece to generate multiple spectral images, so ambient light with a color different from the lighting color can be a major factor in reducing inspection accuracy. . Since the image inspection apparatus is installed in a factory that manufactures workpieces, light from a fluorescent lamp installed in the factory or sunlight incident from a window of the factory can be disturbance light. These disturbance lights may change over time. For example, there may be an installation environment where sunlight is incident in the morning but not in the afternoon. Accordingly, an object of the present invention is to improve the accuracy of image inspection by reducing the influence of disturbance light in an image inspection apparatus including a plurality of light sources having different lighting colors.
本発明は、たとえば、
互いに異なる複数の点灯色の照明光を発生する複数の発光素子を有し、各点灯色の照明光を対象物に照射する照明部と、
前記対象物からの反射光を受光して前記対象物の分光画像を生成する撮像部と、
前記照明部と前記撮像部を制御する制御部と、
前記撮像部により取得された複数の分光画像を合成して検査画像を生成する生成部と、
前記検査画像を用いて前記対象物を検査する検査部と
を有し、
前記制御部は、前記複数の発光素子を消灯させ、前記撮像部に外乱光による前記対象物からの反射光を受光させて前記対象物の外乱光画像を取得させ、
前記生成部は、
前記複数の分光画像のそれぞれから前記外乱光画像を減算する減算部と、
前記外乱光画像を減算された複数の分光画像を合成して前記検査画像を生成する合成部と
を有することを特徴とする画像検査装置を提供する。
The present invention is, for example,
A plurality of light emitting elements that generate illumination light of a plurality of lighting colors different from each other, and an illumination unit that irradiates an object with illumination light of each lighting color;
An imaging unit that receives reflected light from the object and generates a spectral image of the object;
A control unit that controls the illumination unit and the imaging unit;
A generating unit that generates a test image by combining a plurality of spectral images acquired by the imaging unit;
An inspection unit that inspects the object using the inspection image;
The control unit turns off the plurality of light emitting elements, causes the imaging unit to receive reflected light from the object due to disturbance light, and obtains a disturbance light image of the object,
The generator is
A subtractor that subtracts the disturbance light image from each of the plurality of spectral images;
There is provided an image inspection apparatus comprising: a combining unit that combines the plurality of spectral images obtained by subtracting the disturbance light image to generate the inspection image.
本発明によれば、点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響が低減されるため、画像検査の精度が向上する。 According to the present invention, since the influence of disturbance light is reduced in an image inspection apparatus provided with a plurality of light sources having different lighting colors, the accuracy of image inspection is improved.
以下に本発明の一実施形態を示す。以下で説明される個別の実施形態は、本発明の上位概念、中位概念および下位概念など種々の概念を理解するために役立つであろう。また、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。 An embodiment of the present invention is shown below. The individual embodiments described below will help to understand various concepts, such as the superordinate concept, intermediate concept and subordinate concept of the present invention. Further, the technical scope of the present invention is determined by the scope of the claims, and is not limited by the following individual embodiments.
図1は外観検査システム(画像検査装置)の一例を示す図である。ライン1は検査対象物であるワーク2を搬送する搬送ベルトなどである。照明装置3は互いに異なる波長の検査光(照明光)を発生する複数の発光素子を有し、各波長の照明光を個別に対象物に照射する照明部の一例である。なお、複数の方向から照明光をワーク2に対して照射するために、複数の同一波長の発光素子が設けられてもよい。カメラ4は照明光により照明された検査対象物からの反射光を受光して輝度画像(分光画像)を生成する撮像手段の一例である。画像処理装置5は、各波長について設定された照明強度で発光素子を順番に点灯させることで画像検査の対象となる検査対象物を照明し、撮像部により取得された複数の検査用画像を用いて画像検査を実行する検査部を有する検査装置である。表示部7は検査に関連する制御パラメータを設定するためのユーザインタフェースや検査用画像などを表示する表示装置である。入力部6は、コンソール、ポインティングデバイス、キーボードなどであり、制御パラメータを設定するために使用される。 FIG. 1 is a diagram illustrating an example of an appearance inspection system (image inspection apparatus). A line 1 is a conveyance belt that conveys a workpiece 2 that is an inspection object. The illuminating device 3 is an example of an illuminating unit that has a plurality of light emitting elements that generate inspection light (illumination light) having different wavelengths and irradiates an object with illumination light of each wavelength individually. In order to irradiate the work 2 with illumination light from a plurality of directions, a plurality of light emitting elements having the same wavelength may be provided. The camera 4 is an example of an imaging unit that receives reflected light from an inspection object illuminated by illumination light and generates a luminance image (spectral image). The image processing device 5 illuminates the inspection object to be subjected to the image inspection by sequentially turning on the light emitting elements with the illumination intensity set for each wavelength, and uses the plurality of inspection images acquired by the imaging unit. An inspection apparatus having an inspection unit that performs image inspection. The display unit 7 is a display device that displays a user interface for setting control parameters related to inspection, an image for inspection, and the like. The input unit 6 is a console, a pointing device, a keyboard, or the like, and is used for setting control parameters.
<照明装置の構成>
図2(A)は照明装置3の斜視図である。図2(B)は照明装置3の上面図である。図2(C)は照明装置3の底面図である。図2(D)は照明装置3の側面図である。照明装置3の筐体は上ケース21と下ケース22を有している。下ケース22の下部には複数の光源(LEDなどの発光素子)のそれぞれが出力する光を拡散させる光拡散部材23が配置されている。図2(A)や図2(C)が示すように上ケース21や下ケース22と同様に光拡散部材23も円環状を成している。図2(B)や図2(D)が示すように上ケース21の上面にはコネクタ24が設けられている。コネクタ24には照明装置3に格納されている照明制御基板と画像処理装置5とが通信するためのケーブルが接続される。照明制御基板に実装される一部の機能は照明装置3の外部に照明コントローラとして設けられていてもよい。つまり、照明装置3と画像処理装置5との間には照明コントローラが介在してもよい。
<Configuration of lighting device>
FIG. 2A is a perspective view of the lighting device 3. FIG. 2B is a top view of the lighting device 3. FIG. 2C is a bottom view of the lighting device 3. FIG. 2D is a side view of the lighting device 3. The housing of the lighting device 3 has an upper case 21 and a lower case 22. A light diffusion member 23 for diffusing light output from each of a plurality of light sources (light emitting elements such as LEDs) is disposed below the lower case 22. As shown in FIGS. 2A and 2C, the light diffusion member 23 has an annular shape as in the upper case 21 and the lower case 22. As shown in FIGS. 2B and 2D, a connector 24 is provided on the upper surface of the upper case 21. Connected to the connector 24 is a cable for communication between the illumination control board stored in the illumination device 3 and the image processing device 5. Some functions mounted on the lighting control board may be provided outside the lighting device 3 as a lighting controller. That is, an illumination controller may be interposed between the illumination device 3 and the image processing device 5.
図3(A)は照明装置3に格納されている制御基板31とLED基板32とを示す側面図である。制御基板31は点灯制御部が実装された第二基板の一例である。LED基板32は複数の光源が実装された第一基板の一例である。図3(B)はLED基板32の上面図である。図3(C)は照明装置3のうちLED33の付近を拡大した断面図である。図3(D)はLED基板32の底面図である。図3(E)はLED基板32のうちLED33の付近を拡大した側面図である。 FIG. 3A is a side view showing the control board 31 and the LED board 32 stored in the lighting device 3. The control board 31 is an example of a second board on which a lighting control unit is mounted. The LED substrate 32 is an example of a first substrate on which a plurality of light sources are mounted. FIG. 3B is a top view of the LED substrate 32. FIG. 3C is an enlarged cross-sectional view of the vicinity of the LED 33 in the illumination device 3. FIG. 3D is a bottom view of the LED substrate 32. FIG. 3E is an enlarged side view of the vicinity of the LED 33 in the LED substrate 32.
制御基板31には照明制御基板やコネクタ24が配置されている。光源群を構成するLEDなどの発光素子はLED基板32に搭載されている。図3(B)が示すように、本実施例では四方向から照明光を照射するために4つのLED基板32が設けられている。四方向から照明光を照射可能とすることでフォトメトリックステレオ用の画像を取得できるようになる。つまり、照明装置3はマルチスペクトルイメージングだけでなく、フォトメトリックステレオのために利用されてもよい。1つのLED基板32には4つのLED33が配置されているものとする。これにより光源群は16個の発光素子により構成されている。ただし、より多数の発光素子が設けられてもよい。たとえば、一つLED基板32には8つのLED33が配置されており、8つのLED33が発光する光の波長はいずれも異なっていてもよい。図3(C)、図3(D)および図3(E)が示すように、複数のLED33のうち隣り合った2つのLED33の間には遮光部材35が配置されている。多数のLED33を密接に配置すると、隣り合った2つのLED33からそれぞれ照射される照明光が光拡散部材23の同一の領域を通過することがある。この場合、点灯パターンに応じて一方のLED33を非点灯とし、かつ、他方のLED33を点灯した場合と、他方のLED33を非点灯とし、かつ、一方のLED33を点灯した場合とで、ワーク2の表面には同一の照明方向から同一の光量で照明光が照射されてしまう。これでは高い精度で検査画像を生成することが難しくなる。そこで、隣り合った2つのLED33の間に遮光部材35を配置することで、隣り合った2つのLED33について光量の均一性と光源の独立性とのバランスを取っている。図3(C)が示すようにLED33の光の射出方向A1と、主な照明方向A2とは一致していない。そこで、反射鏡34を配置することでLED33から射出される光を光拡散部材23の方向へ偏向している。これによりLED33が発光した光を効率よくワーク2へ照射できるようになろう。この例では射出方向A1と反射鏡34の反射方向とが概ね直交しているが、これは光拡散部材23の断面形状が円弧を成しており(図3(C))、円弧に関する角度(中心角)が約90度になっているからである。このように中心角を大きくすることで、照明装置3をワーク2に対して遠ざけたり、近づけたりしてもワーク2の表面に対してほぼ均一な平行光を照射しやすくなる。 An illumination control board and a connector 24 are disposed on the control board 31. Light emitting elements such as LEDs constituting the light source group are mounted on the LED substrate 32. As shown in FIG. 3B, in this embodiment, four LED substrates 32 are provided to irradiate illumination light from four directions. By enabling illumination light from four directions, an image for photometric stereo can be acquired. That is, the illumination device 3 may be used not only for multispectral imaging but also for photometric stereo. It is assumed that four LEDs 33 are arranged on one LED substrate 32. Thereby, the light source group is composed of 16 light emitting elements. However, a larger number of light emitting elements may be provided. For example, eight LEDs 33 are arranged on one LED substrate 32, and the wavelengths of light emitted by the eight LEDs 33 may be different from each other. As shown in FIGS. 3C, 3 </ b> D, and 3 </ b> E, a light shielding member 35 is disposed between two adjacent LEDs 33 among the plurality of LEDs 33. When a large number of LEDs 33 are arranged closely, illumination light emitted from two adjacent LEDs 33 may pass through the same region of the light diffusion member 23 in some cases. In this case, depending on the lighting pattern, one LED 33 is not lit and the other LED 33 is lit, and the other LED 33 is not lit and one LED 33 is lit. The surface is irradiated with illumination light with the same amount of light from the same illumination direction. This makes it difficult to generate an inspection image with high accuracy. Therefore, the light shielding member 35 is disposed between the two adjacent LEDs 33 to balance the uniformity of the light amount and the independence of the light source for the two adjacent LEDs 33. As shown in FIG. 3C, the light emission direction A1 of the LED 33 does not coincide with the main illumination direction A2. Therefore, by arranging the reflecting mirror 34, the light emitted from the LED 33 is deflected in the direction of the light diffusion member 23. Thereby, the light emitted from the LED 33 can be efficiently irradiated onto the workpiece 2. In this example, the emission direction A1 and the reflection direction of the reflecting mirror 34 are substantially perpendicular to each other, but this is because the cross-sectional shape of the light diffusing member 23 forms an arc (FIG. 3C), and the angle ( This is because the central angle is about 90 degrees. By increasing the central angle in this way, it becomes easy to irradiate the surface of the work 2 with substantially uniform parallel light even if the illumination device 3 is moved away from or closer to the work 2.
<照明装置の回路構成>
図4は照明装置3の回路構成の一例を示している。この例では光源群を構成する4つのLEDグループのうち1つのグループを示している。4つのLED33a〜LED33dは直列に接続されている。電圧が可変の可変電源41は照明制御基板40によって指定される電圧値(例:2V〜20V)の電圧を生成して出力する。可変定電流源42は、照明制御基板40によって指定される電流値(例:0A〜1A)となるようにLEDグループに流れる電流を調整する。このような電流制御方式を採用することでリニアリティの高い調光を実現しやすくなる。また、可変定電流源42は、可変定電流源42に印加されている電圧の値を検出して照明制御基板40にフィードバックし、過電圧から可変定電流源42を保護している。LED33a〜LED33dのそれぞれには並列にスイッチ43a〜スイッチ43dが接続されている。照明制御基板40の点灯制御部45はこれらのスイッチ43a〜スイッチ43dを個別に開閉させることで、LED33a〜LED33dのそれぞれを個別に点灯と非点灯とを切り替えることができる。このように、LED33a〜LED33dのそれぞれに並列にスイッチ43a〜スイッチ43dを接続することで、LED33a〜LED33dのいずれか1つを点灯させたり、すべてを点灯させたりするといった個別点灯が可能となる。これは様々な点灯パターンを実現するのに役立っている。なお、点灯制御部45は可変定電流源42とグランドとの間に挿入されたメインスイッチ43eのオン/オフを切り替えることで1つのLEDグループ単位での点灯制御を実行する。通信部44は点灯パターンを指示する制御信号や点灯の開始を指示するトリガー信号を画像処理装置5の照明制御部から受信し、点灯制御部45に渡す。点灯制御部45は、制御信号に対応する点灯パターンデータ47を記憶部46から読み出し、点灯パターンデータ47に従ってスイッチ43a〜スイッチ43dを制御する。
<Circuit configuration of lighting device>
FIG. 4 shows an example of the circuit configuration of the illumination device 3. In this example, one group of four LED groups constituting the light source group is shown. The four LEDs 33a to 33d are connected in series. The variable power supply 41 having a variable voltage generates and outputs a voltage having a voltage value (for example, 2V to 20V) designated by the illumination control board 40. The variable constant current source 42 adjusts the current flowing through the LED group so that the current value (for example, 0A to 1A) specified by the illumination control board 40 is obtained. By adopting such a current control method, it becomes easy to realize dimming with high linearity. The variable constant current source 42 detects the value of the voltage applied to the variable constant current source 42 and feeds it back to the illumination control board 40 to protect the variable constant current source 42 from overvoltage. A switch 43a to a switch 43d are connected in parallel to each of the LEDs 33a to 33d. The lighting control unit 45 of the illumination control board 40 can individually switch between lighting and non-lighting of the LEDs 33a to 33d by individually opening and closing these switches 43a to 43d. In this way, by connecting the switches 43a to 43d in parallel to the LEDs 33a to 33d, individual lighting such as lighting any one of the LEDs 33a to 33d or lighting all of them can be performed. This is useful for realizing various lighting patterns. The lighting control unit 45 executes lighting control in units of one LED group by switching on / off of a main switch 43e inserted between the variable constant current source 42 and the ground. The communication unit 44 receives a control signal for instructing a lighting pattern and a trigger signal for instructing start of lighting from the illumination control unit of the image processing device 5, and passes them to the lighting control unit 45. The lighting control unit 45 reads the lighting pattern data 47 corresponding to the control signal from the storage unit 46, and controls the switches 43 a to 43 d according to the lighting pattern data 47.
<機能ブロック>
図5は検査装置のブロック図である。この例では照明装置3、カメラ4および画像処理装置5がそれぞれ個別の筐体に収容されているが、これは一例に過ぎず、適宜に一体化されてもよい。照明装置3は、マルチスペクトルイメージングを実現する照明装置であるが、フォトメトリックステレオ法に従って検査対象物を照明する照明手段として利用されてもよい。照明装置3は光源群501とこれを制御する照明制御基板40を備えている。すでに図3に示したように、複数の発光素子で1つのセグメントが構成され、さらに複数のセグメントによって光源群501が構成されていてもよい。セグメントの数は一般的には4つであるが、3つ以上であればよい。これは3方向以上の照明方向からワーク2に照明光を照射できれば、フォトメトリックステレオ法により検査画像を生成できるからである。各セグメントにはそれぞれ波長が異なる照明光を出力する複数の発光素子(LED33)が設けられている。複数の発光素子には白色LEDが含まれていてもよい。白色LEDはマルチスペクトルイメージングには使用されず、他の検査画像を作成したり、ワーク2の移動補正用の画像を作成するために使用されたりする。図1や図3に示したように照明装置3の外形はリング状をしていてもよい。また、照明装置3は、それぞれ分離した複数の照明ユニットにより構成されていてもよい。照明制御基板40は、画像処理装置5から受信した制御コマンドに応じて光源群501の点灯タイミングや照明パターン(点灯パターン)を制御する。マルチスペクトルイメージングで分光画像を取得するには択一的に選択された波長の照明光をワーク2に照射するが、マルチスペクトルイメージング以外の手法が採用される場合は、複数の波長の照明光が同時に照射されてもよい。照明制御基板40は照明装置3に内蔵されているものとして説明するが、カメラ4に内蔵されていてもよいし、画像処理装置5に内蔵されていてもよいし、これらからは独立した筐体に収容されていてもよい。
<Functional block>
FIG. 5 is a block diagram of the inspection apparatus. In this example, the illumination device 3, the camera 4, and the image processing device 5 are each housed in separate housings, but this is only an example and may be appropriately integrated. The illuminating device 3 is an illuminating device that realizes multispectral imaging. However, the illuminating device 3 may be used as an illuminating unit that illuminates an inspection object according to a photometric stereo method. The illumination apparatus 3 includes a light source group 501 and an illumination control board 40 that controls the light source group 501. As already shown in FIG. 3, one segment may be constituted by a plurality of light emitting elements, and the light source group 501 may be constituted by a plurality of segments. The number of segments is generally four, but may be three or more. This is because if the work 2 can be irradiated with illumination light from three or more illumination directions, an inspection image can be generated by the photometric stereo method. Each segment is provided with a plurality of light emitting elements (LEDs 33) that output illumination light having different wavelengths. The plurality of light emitting elements may include white LEDs. The white LED is not used for multispectral imaging, and is used to create another inspection image or an image for correcting the movement of the work 2. As shown in FIGS. 1 and 3, the outer shape of the illumination device 3 may be ring-shaped. Moreover, the illuminating device 3 may be comprised by the some illumination unit each isolate | separated. The illumination control board 40 controls the lighting timing and illumination pattern (lighting pattern) of the light source group 501 according to the control command received from the image processing device 5. In order to obtain a spectral image by multispectral imaging, the illumination light with an alternatively selected wavelength is irradiated onto the work 2, but when a technique other than multispectral imaging is adopted, illumination light with a plurality of wavelengths is emitted. It may be irradiated at the same time. Although the illumination control board 40 will be described as being built in the lighting device 3, it may be built in the camera 4, or may be built in the image processing device 5, or a housing independent from these. It may be accommodated in.
カメラ4は照明装置3により照明された検査対象物からの反射光を受光して輝度画像を生成する撮像手段の一例であり、画像処理装置5からの制御コマンドに応じて撮像処理を実行する。カメラ4はワーク2の輝度画像を作成して画像処理装置5に転送してもよいし、撮像素子から得られる輝度信号を画像処理装置5に転送し、画像処理装置5が輝度画像を生成してもよい。輝度信号は輝度画像の元になる信号であるため、広義には輝度信号も輝度画像である。また、カメラ4は、照明装置3が出力する各波長の照明光ごとに対象物からの反射光を受光して対象物の画像を生成する撮像部として機能する。 The camera 4 is an example of an imaging unit that receives reflected light from an inspection object illuminated by the illumination device 3 and generates a luminance image, and executes an imaging process in accordance with a control command from the image processing device 5. The camera 4 may create a luminance image of the work 2 and transfer it to the image processing device 5, or transfer a luminance signal obtained from the image sensor to the image processing device 5, and the image processing device 5 generates a luminance image. May be. Since the luminance signal is a signal from which the luminance image is based, the luminance signal is also a luminance image in a broad sense. The camera 4 functions as an imaging unit that receives the reflected light from the object for each illumination light of each wavelength output from the illumination device 3 and generates an image of the object.
画像処理装置5は、コンピュータの一種であり、CPUやASICなどのプロセッサ510と、RAM、ROM、可搬記憶媒体などの記憶装置520と、ASICなどの画像処理部530と、ネットワークインタフェースなどの通信部550とを有している。プロセッサ510は検査ツールの設定や、制御パラメータの調整、検査画像の生成などを担当する。とりわけ、MSI処理部511は、マルチスペクトルイメージング(MSI)に従って、カメラ4により取得された複数の輝度画像(分光画像)からワーク2のグレー画像を作成したり、グレー画像から検査画像を作成したりする。減算部561は、複数の分光画像のそれぞれから外乱光画像を減算する。外乱光画像は、照明装置3が有する複数の発光素子のすべてを消灯し、外乱光だけが照射されているワーク2を撮像することで取得された画像である。合成部562は外乱光画像を減算された複数の分光画像を合成して検査画像を生成する。色抽出部563は複数の分光画像のそれぞれから抽出領域に含まれる画素の色の分布に基づく登録色を抽出する。合成部562は登録色を使用して複数の分光画像をグレー画像(カラー濃淡画像)に変換する変換部564を有していてもよい。照明制御部512は、照明制御基板40に対して制御コマンドを送信することで点灯パターンや照明切り替えタイミングなどを制御する。撮像制御部513は、カメラ4を制御する。 The image processing device 5 is a kind of computer, and a processor 510 such as a CPU or ASIC, a storage device 520 such as a RAM, a ROM, or a portable storage medium, an image processing unit 530 such as an ASIC, and a communication such as a network interface. Part 550. The processor 510 is in charge of setting an inspection tool, adjusting control parameters, generating an inspection image, and the like. In particular, the MSI processing unit 511 creates a gray image of the work 2 from a plurality of luminance images (spectral images) acquired by the camera 4 according to multispectral imaging (MSI), or creates an inspection image from the gray image. To do. The subtracting unit 561 subtracts the disturbance light image from each of the plurality of spectral images. The disturbance light image is an image obtained by turning off all of the plurality of light emitting elements included in the illumination device 3 and imaging the workpiece 2 irradiated with only disturbance light. The synthesizing unit 562 generates a test image by synthesizing a plurality of spectral images obtained by subtracting the disturbance light image. The color extraction unit 563 extracts a registered color based on the color distribution of the pixels included in the extraction region from each of the plurality of spectral images. The synthesizing unit 562 may include a conversion unit 564 that converts a plurality of spectral images into gray images (color gray images) using registered colors. The illumination control unit 512 controls a lighting pattern, illumination switching timing, and the like by transmitting a control command to the illumination control board 40. The imaging control unit 513 controls the camera 4.
UI管理部514は、検査ツールを設定するためのユーザインタフェース(UI)や検査画像を生成するために必要となるパラメータを設定するためのUIなどを表示部7に表示し、入力部6から入力された情報従って検査ツールやパラメータを設定する。検査ツールには、ワーク2が備える特定の特徴(例:ピン)の長さを計測するツールや特徴の面積を計測するツールや、ある特徴から別の特徴までの距離(例:ピン間隔)を計測するツールや、特定の特徴の数を計測するツールや、特定の特徴に傷が有るか無いかを検査するツールなどが含まれてもよい。とりわけ、UI管理部514はマルチスペクトルイメージングや移動補正に関する制御パラメータを設定するためのUIを表示部7に表示する。画像選択部515はUIを通じてユーザにより選択された画像の画像データを記憶装置520から読み出してUI内の画像表示領域に表示する。領域指定部516は表示された画像に対して検査ツールの検査領域(測定領域)、パターン領域PW、サーチ領域SW、追跡領域TWなどの指定をユーザから受け付ける。なお、パターン領域PWや追跡領域TWは移動補正のための特徴パターンを登録するための領域である。サーチ領域SWは特徴パターンがサーチされる領域である。また、領域指定部516は、これらの指定領域の形状(例:矩形、円、楕円、任意形状)の選択を受け付けて指定領域を示す枠線の形状をUIに反映させたりする。点灯色設定部517は、ユーザの指示に従って移動補正用の照明光の波長(点灯色)を設定する。UI管理部514はユーザにより設定されたこれらの制御パラメータを設定情報523に保存する。 The UI management unit 514 displays a user interface (UI) for setting an inspection tool, a UI for setting parameters necessary for generating an inspection image, and the like on the display unit 7 and inputs from the input unit 6. The inspection tool and parameters are set according to the information provided. The inspection tool includes a tool for measuring the length of a specific feature (eg pin) of the workpiece 2, a tool for measuring the area of the feature, and a distance from one feature to another feature (eg pin spacing). A tool for measuring, a tool for measuring the number of specific features, a tool for inspecting whether a specific feature is flawed, or the like may be included. In particular, the UI management unit 514 displays a UI for setting control parameters related to multispectral imaging and movement correction on the display unit 7. The image selection unit 515 reads the image data of the image selected by the user through the UI from the storage device 520 and displays it in the image display area in the UI. The area designation unit 516 accepts designation of the inspection tool inspection area (measurement area), pattern area PW, search area SW, tracking area TW, and the like from the user for the displayed image. The pattern area PW and the tracking area TW are areas for registering feature patterns for movement correction. The search area SW is an area where feature patterns are searched. Further, the area designating unit 516 receives selection of the shape of these designated areas (eg, rectangle, circle, ellipse, arbitrary shape) and reflects the shape of the frame line indicating the designated area on the UI. The lighting color setting unit 517 sets the wavelength (lighting color) of illumination light for movement correction in accordance with a user instruction. The UI management unit 514 stores these control parameters set by the user in the setting information 523.
画像処理部530はマルチスペクトルイメージングにより取得された検査画像に対して検査ツールを適用して各種の計測を実行する検査部531などを有している。サーチ部532は画像検査の前に設定された特徴または画像検査中に動的に設定された特徴を、検査画像に配置されたサーチ領域SW内でサーチし、見つかった特徴の位置を求める。移動補正部533は、移動補正用の画像から見つかった特徴の位置の変化量に基づきマルチスペクトルイメージング用の複数の分光画像の座標系またはワーク2の座標(位置)を補正する。この補正作業は、補正のための変換式(補正式)を作成する工程と、変換式を用いて座標を変換する工程とに分かれていてもよい。これらの二つの工程はいずれも移動補正部533により実行されてもよいし、前者が移動補正部533により実行され、後者がMSI処理部511により実行されてもよいし、両者ともがMSI処理部511により実行されてもよい。なお、画像処理部530の機能はプロセッサ510に実装されてもよい。あるいは、プロセッサ510の機能が画像処理部530に実装されてもよい。また、プロセッサ510とプロセッサ510とが協働して単一または複数の機能を実現してもよい。たとえば、移動補正に関する一部の演算を画像処理部530が担当し、残りの演算をプロセッサ510が担当してもよい。 The image processing unit 530 includes an inspection unit 531 that performs various measurements by applying an inspection tool to an inspection image acquired by multispectral imaging. The search unit 532 searches a feature set before the image inspection or a feature dynamically set during the image inspection in the search area SW arranged in the inspection image, and obtains the position of the found feature. The movement correction unit 533 corrects the coordinate system of the plurality of spectral images for multispectral imaging or the coordinates (position) of the workpiece 2 based on the amount of change in the position of the feature found from the movement correction image. This correction work may be divided into a step of creating a conversion formula (correction formula) for correction and a step of converting coordinates using the conversion formula. Either of these two steps may be executed by the movement correction unit 533, the former may be executed by the movement correction unit 533, the latter may be executed by the MSI processing unit 511, or both may be executed by the MSI processing unit. 511 may be executed. Note that the function of the image processing unit 530 may be implemented in the processor 510. Alternatively, the function of the processor 510 may be implemented in the image processing unit 530. Further, the processor 510 and the processor 510 may cooperate to realize a single function or a plurality of functions. For example, the image processing unit 530 may be in charge of some calculations related to movement correction, and the processor 510 may be in charge of the remaining calculations.
判定部540は検査画像を用いてワーク2の良否を判定する判定手段として機能する。たとえば、判定部540は画像処理部530において検査画像を用いて実行された検査の結果を受け取って検査結果が良品条件(公差など)を満たしているかどうかを判定する。 The determination unit 540 functions as a determination unit that determines the quality of the workpiece 2 using the inspection image. For example, the determination unit 540 receives the result of the inspection performed using the inspection image in the image processing unit 530 and determines whether the inspection result satisfies a non-defective product condition (tolerance or the like).
記憶装置520は、カメラ4によって取得された分光画像のデータである分光画像データ521、MSI処理部511により生成されたグレー画像のデータであるグレー画像データ522や各種の制御パラメータを保持する設定情報523を記憶する。また、記憶装置520は各種の設定データやユーザインタフェースを生成するためのプログラムコードなども記憶している。記憶装置520はグレー画像から生成された検査画像なども記憶して保持していてもよい。 The storage device 520 stores spectral image data 521 that is spectral image data acquired by the camera 4, gray image data 522 that is gray image data generated by the MSI processing unit 511, and setting information that holds various control parameters. 523 is stored. The storage device 520 also stores various setting data, a program code for generating a user interface, and the like. The storage device 520 may also store and hold an inspection image generated from a gray image.
<マルチスペクトルイメージング>
マルチスペクトルイメージングでは点灯色(波長)の異なる照明光が一つずつ順番にワーク2に照射され、各波長ごとの画像が取得される。たとえば、8種類の波長の照明光が照射される場合、8個の画像(分光画像)が取得される。8種類の波長は、紫外波長から近赤外波長までの8種類の狭帯域波長である。狭帯域波長とは、白色LEDが発光する光の波長(広帯域波長)の幅と比較して狭い波長をいう。たとえば、青色LEDが発光する光の波長の幅は、白色LEDが発光する光の波長幅よりもずっと狭いため、青色LEDが発光する光の波長は狭帯域波長である。なお、画像検査の中には8個の分光画像のすべてを必要としない画像検査もありうる。この場合、必要な波長の照明光だけがワーク2に照射される。一般に、8個の画像がそのまま画像検査に利用されることは少なく、8個の画像から一個のグレー画像が作成され(カラー濃淡変換)、このグレー画像(カラー濃淡画像)が画像検査に利用される。カラー濃淡変換はカラーグレー変換と呼ばれることもある。たとえば、カラー濃淡画像に対して二値化処理が実行されたり、エッジ検出処理が実行されたり、ブロブ処理が実行されたりして、ワーク2における特徴(例:ピン)の位置や寸法(長さや面積)、色がそれぞれ公差の範囲内に収まっているかが検査される。
<Multispectral imaging>
In multispectral imaging, illumination light having different lighting colors (wavelengths) is irradiated onto the workpiece 2 one by one in order, and an image for each wavelength is acquired. For example, when illumination light with eight types of wavelengths is irradiated, eight images (spectral images) are acquired. The eight types of wavelengths are eight types of narrow band wavelengths from the ultraviolet wavelength to the near infrared wavelength. The narrow band wavelength means a wavelength narrower than the width of the wavelength of light emitted from the white LED (broadband wavelength). For example, the wavelength of the light emitted by the blue LED is much narrower than the wavelength of the light emitted by the white LED, so the wavelength of the light emitted by the blue LED is a narrow band wavelength. It should be noted that some image inspections do not require all eight spectral images. In this case, only the illumination light having a necessary wavelength is irradiated onto the workpiece 2. In general, eight images are rarely used for image inspection as they are, and one gray image is created from the eight images (color shading conversion), and this gray image (color shading image) is used for image inspection. The The color shading conversion is sometimes called color gray conversion. For example, a binarization process, an edge detection process, or a blob process is performed on a color grayscale image, and the position and dimensions (length, Area) and color are checked to see if they are within tolerance.
図6を用いてカラー濃淡変換の一例を説明する。検査対象物であるワーク2のグレー画像を作成するには、良品(モデル)の登録色が必要となる。グレー画像は、登録色の色情報を基準に8個の分光画像を変換することで作成されるからである。 An example of color shading conversion will be described with reference to FIG. In order to create a gray image of the work 2 that is the inspection object, a registered color of a good product (model) is required. This is because a gray image is created by converting eight spectral images based on color information of registered colors.
まず、設定モードにおいて、良品から取得された8個の分光画像においてユーザが指定した画像領域(指定領域)から登録色の色情報が抽出される。たとえば、良品がインスタント食品(例:ラーメン)であり、ある具材(例:海老)の数を画像検査により計数する場合、ユーザは、良品の画像を表示し、良品の画像おいて当該具材が含まれる矩形の指定領域を指定し、指定領域に含まれる画素から登録色の色情報が抽出される。登録色の色情報は、平均画素行列、分散共分散行列および指定領域に含まれる画素の数を含む。 First, in the setting mode, color information of registered colors is extracted from image regions (designated regions) designated by the user in eight spectral images acquired from non-defective products. For example, when the non-defective product is an instant food (eg, ramen) and the number of certain ingredients (eg, shrimp) is counted by image inspection, the user displays an image of the non-defective product, and the relevant material is displayed in the non-defective image. Is specified, and color information of the registered color is extracted from the pixels included in the specified area. The color information of the registered color includes an average pixel matrix, a variance covariance matrix, and the number of pixels included in the designated area.
次に、検査モードにおいて、検査対象物であるワーク2について8個の分光画像が取得される。各分光画像に含まれるすべての画素について登録色に対する距離d(x)が求められる(xは8枚の分光画像の各画素値を要素とした8次元ベクトルである)。さらに、距離d(x)に予め定められたゲインgを乗算して積を求め、各画素がとりうる最大階調Gmaxから積を減算することで得られる差Gが注目画素xのグレー階調となる。 Next, in the inspection mode, eight spectral images are acquired for the workpiece 2 that is the inspection object. The distance d (x) with respect to the registered color is obtained for all the pixels included in each spectral image (x is an 8-dimensional vector whose elements are the pixel values of the eight spectral images). Further, the product obtained by multiplying the distance d (x) by a predetermined gain g is obtained, and the difference G obtained by subtracting the product from the maximum gradation Gmax that each pixel can take is the gray gradation of the target pixel x. It becomes.
なお、複数の登録色が存在する場合は、各登録色を基準として複数のグレー画像が作成される。 If there are a plurality of registered colors, a plurality of gray images are created with each registered color as a reference.
<前景背景画像>
カラー濃淡変換は、背景色と前景色とが分離された前景背景画像を作成するためにも使用される。たとえば、前景色がエビや貝であり、背景色が乾麺や乾燥ネギであったと仮定する。この場合に複数の前景色と複数の背景色とが登録されることになろう。また、エビや貝の数を画像検査によりカウントするには、エビや貝が背景から適切に分離されることが必要となる。
<Foreground background image>
Color shading conversion is also used to create a foreground / background image in which the background color and the foreground color are separated. For example, suppose that the foreground color is shrimp and shellfish, and the background color is dry noodles or dry leek. In this case, a plurality of foreground colors and a plurality of background colors will be registered. Further, in order to count the number of shrimps and shellfish by image inspection, it is necessary that the shrimps and shellfish are appropriately separated from the background.
図7は検査画像の一種である前景背景画像FBimgの作成工程を示している。検査画像生成部として機能するMSI処理部511は前景グループFGに属する前景色FC1〜FC9それぞれとワーク2のカラー画像の各画素の色との距離(マハラノビス距離)を演算し、前景色FC1〜FC9に対応する九個の距離画像を作成する。上述した変換部564は距離画像生成部を有していてもよい。距離画像生成部は前景色FC1とワーク2のカラー画像の各画素の色との距離を演算し、前景色FC1に対応する1個の距離画像を作成する。同様に、距離画像生成部は前景色FC2とワーク2のカラー画像の各画素の色との距離を演算し、前景色FC2に対応する1個の距離画像を作成する。距離画像生成部は残りの前景色FC3〜FC9についてもそれぞれ距離画像を作成する。さらに、距離画像生成部は、背景グループBGに属する背景色BC1〜BC3それぞれとワーク2のカラー画像の各画素の色との距離(マハラノビス距離)を演算し、背景色BC1〜BC3に対応する三個の距離画像を作成する。上述したように距離画像を構成する各画素の値は距離である。また、前景色や背景色などの登録色に対する距離は、登録色の分布における代表色(分布の中心座標)を基準とした距離である。 FIG. 7 shows a process of creating a foreground / background image FBimg which is a kind of inspection image. The MSI processing unit 511 functioning as an inspection image generation unit calculates the distance (Mahalanobis distance) between each of the foreground colors FC1 to FC9 belonging to the foreground group FG and the color of each pixel of the color image of the work 2, and foreground colors FC1 to FC9. Nine distance images corresponding to are created. The conversion unit 564 described above may include a distance image generation unit. The distance image generation unit calculates the distance between the foreground color FC1 and the color of each pixel of the color image of the work 2, and creates one distance image corresponding to the foreground color FC1. Similarly, the distance image generation unit calculates the distance between the foreground color FC2 and the color of each pixel of the color image of the work 2, and creates one distance image corresponding to the foreground color FC2. The distance image generation unit also creates distance images for the remaining foreground colors FC3 to FC9. Further, the distance image generation unit calculates the distance (Mahalanobis distance) between each of the background colors BC1 to BC3 belonging to the background group BG and the color of each pixel of the color image of the work 2, and the three corresponding to the background colors BC1 to BC3. Create a range image. As described above, the value of each pixel constituting the distance image is a distance. The distance to the registered colors such as the foreground color and the background color is a distance with reference to the representative color (distribution center coordinates) in the registered color distribution.
変換部564は前景画像生成部や背景画像生成部、前景背景画像生成部を有していてもよい。前景画像生成部は、前景色FC1〜FC9に対応する九個の距離画像を比較し、各座標についての九個の距離のうちで最小距離を求め、各座標の代表距離として最小距離を採用し、最小距離からなる前景距離画像Fimgを作成する。たとえば、九個の距離画像から注目座標(xi,yi)の距離を読み出し、読み出された九個の距離のうちで最小の距離が、前景距離画像Fimgにおける注目座標(xi,yi)の画素の値に採用される。同様に、背景画像生成部は、背景色BC1〜BC3に対応する三個の距離画像を比較し、各座標についての三個の距離のうちで最小距離を求め、各座標の代表距離として最小距離を採用し、最小距離からなる背景距離画像Bimgを作成する。 The conversion unit 564 may include a foreground image generation unit, a background image generation unit, and a foreground / background image generation unit. The foreground image generation unit compares the nine distance images corresponding to the foreground colors FC1 to FC9, finds the minimum distance among the nine distances for each coordinate, and adopts the minimum distance as the representative distance of each coordinate. A foreground distance image Fimg consisting of the minimum distance is created. For example, the distance of the target coordinate (xi, yi) is read from nine distance images, and the pixel of the target coordinate (xi, yi) in the foreground distance image Fimg is the smallest distance among the nine distances read out. The value of is adopted. Similarly, the background image generation unit compares the three distance images corresponding to the background colors BC1 to BC3, finds the minimum distance among the three distances for each coordinate, and determines the minimum distance as the representative distance of each coordinate. Is used to create a background distance image Bimg consisting of the minimum distance.
前景背景画像生成部は、背景距離画像Fimgと背景距離画像Bimgとの差分演算を実行して前景背景画像FBimgを作成する。たとえば、前景背景画像FBimgにおける注目座標(xi,yi)における画素の値をG(xi,yi)は次式から演算される。
G(xi,yi)=g(db(xi,yi)−df(xi,yi))+Gmid ・・・(1)
ここでgは調整タブ720においてユーザにより調整されるゲインである。db(xi,yi)は背景距離画像Bimgにおける注目座標(xi,yi)における画素の値である。df(xi,yi)は前景距離画像Fimgにおける注目座標(xi,yi)における画素の値である。Gmidは中間階調である。たとえば、最大階調が255であれば、Gmidは128である。
The foreground / background image generator generates a foreground / background image FBimg by performing a difference calculation between the background distance image Fimg and the background distance image Bimg. For example, the pixel value G (xi, yi) at the target coordinate (xi, yi) in the foreground / background image FBimg is calculated from the following equation.
G (xi, yi) = g (db (xi, yi) −df (xi, yi)) + Gmid (1)
Here, g is a gain adjusted by the user in the adjustment tab 720. db (xi, yi) is the value of the pixel at the target coordinate (xi, yi) in the background distance image Bimg. df (xi, yi) is the value of the pixel at the target coordinate (xi, yi) in the foreground distance image Fimg. Gmid is an intermediate gradation. For example, if the maximum gradation is 255, Gmid is 128.
<色抽出>
色抽出とは、ワーク2の画像から前景色や背景色として選択可能な色を抽出して登録することをいう。この作業により抽出された色が登録色である。
<Color extraction>
Color extraction refers to extracting and registering a selectable color from the image of the work 2 as the foreground color or the background color. The color extracted by this operation is the registered color.
図8はユーザによる色抽出を補助するためにUI管理部514が表示部7に表示する色抽出UI800を示している。画像表示領域801は、プルダウンメニュー811により選択された画像を表示する領域である。プルダウンメニュー811は、記憶装置520に記憶されているカラー画像やカメラ4により取得されたカラー画像などを指定するためのUIである。プルダウンメニュー811に登録されていない画像はプルダウンメニュー811内の"参照"を選択することにより、指定可能となっている。画像選択部515はプルダウンメニュー811により選択された画像を画像表示領域801に表示する。プルダウンメニュー812は登録色が抽出される抽出領域802の形状を選択するためのUIである。形状の選択肢としては、たとえば、矩形や円形、楕円形などがある。抽出ボタン813は、色抽出の実行を指示するボタンである。UI管理部514は、抽出ボタン813が押されると、ポインタのアイコン(矢印形状)をスポイト803に変更する。領域指定部516は、スポイト803によって指定された領域を抽出領域802として受け付ける。色抽出部563は、抽出領域802内の画素の色に基づき登録色の色情報を作成し、記憶装置520に格納する。なお、前景色を抽出するための抽出ボタン813と背景色を抽出するための抽出ボタン813とが個別に設けられていてもよい。確定ボタン815は、色抽出結果の確定を指示するボタンである。キャンセルボタン814は、色抽出結果を破棄するボタンである。 FIG. 8 shows a color extraction UI 800 displayed on the display unit 7 by the UI management unit 514 in order to assist color extraction by the user. The image display area 801 is an area for displaying the image selected by the pull-down menu 811. The pull-down menu 811 is a UI for designating a color image stored in the storage device 520 or a color image acquired by the camera 4. An image that is not registered in the pull-down menu 811 can be specified by selecting “Reference” in the pull-down menu 811. The image selection unit 515 displays the image selected by the pull-down menu 811 in the image display area 801. A pull-down menu 812 is a UI for selecting the shape of the extraction area 802 from which registered colors are extracted. Examples of the shape options include a rectangle, a circle, and an ellipse. The extraction button 813 is a button for instructing execution of color extraction. When the extraction button 813 is pressed, the UI management unit 514 changes the pointer icon (arrow shape) to the dropper 803. The area designation unit 516 accepts the area designated by the dropper 803 as the extraction area 802. The color extraction unit 563 creates color information of registered colors based on the colors of the pixels in the extraction area 802 and stores them in the storage device 520. Note that an extraction button 813 for extracting the foreground color and an extraction button 813 for extracting the background color may be individually provided. The confirmation button 815 is a button for instructing confirmation of the color extraction result. A cancel button 814 is a button for discarding the color extraction result.
<外乱光の低減>
上述したように複数の分光画像は予め定められた点灯色の照明光をワーク2に照射することでモノクロのカメラ4によって取得される。また、点灯色と分光画像とは一対一で対応している。したがって、ある分光画像を取得するために使用されることが定められている点灯色の照明光に、照明装置3とは異なる光源からの光(外乱光)が混合してしまうと、分光画像と点灯色との関係が崩れてしまう。そこで、本実施形態では、分光画像が取得される際には、外乱光画像も合わせて取得し、分光画像から外乱光画像を減算することで、分光画像における外乱光の影響が低減される。
<Reduction of disturbance light>
As described above, the plurality of spectral images are acquired by the monochrome camera 4 by irradiating the work 2 with illumination light of a predetermined lighting color. Further, the lighting color and the spectral image have a one-to-one correspondence. Therefore, if light (disturbance light) from a light source different from the illumination device 3 is mixed with illumination light of a lighting color that is determined to be used to acquire a certain spectral image, the spectral image and The relationship with the lighting color will collapse. Therefore, in this embodiment, when the spectral image is acquired, the disturbance light image is also acquired, and the disturbance light image is subtracted from the spectral image, thereby reducing the influence of the disturbance light on the spectral image.
図9は外乱光の低減処理を含む色抽出方法を示すフローチャートである。ここではワーク2の良品から取得された分光画像に基づき登録色が抽出される。MSI処理部511はPLC(プログラマブルコントローラ)などの外部機器から入力されたトリガー信号に基づき外乱光画像や分光画像の取得を開始する。 FIG. 9 is a flowchart showing a color extraction method including disturbance light reduction processing. Here, the registered color is extracted based on the spectral image acquired from the non-defective product of the work 2. The MSI processing unit 511 starts acquiring a disturbance light image and a spectral image based on a trigger signal input from an external device such as a PLC (programmable controller).
S901でMSI処理部511は外乱光画像を取得する。照明制御部512に照明装置3を消灯させる。照明装置3がすでに消灯しているときは、消灯処理は省略される。これによりワーク2には照明装置3とは異なる光源から外乱光のみが照射される。MSI処理部511は撮像制御部513に外乱光画像の撮像を指示する。撮像制御部513はカメラ4に撮像を指示する。これによりカメラ4により取得された画像は外乱光画像として記憶装置520に格納される。 In step S901, the MSI processing unit 511 acquires a disturbance light image. The lighting control unit 512 turns off the lighting device 3. When the lighting device 3 is already turned off, the turn-off process is omitted. Thereby, only the disturbance light is irradiated to the workpiece | work 2 from the light source different from the illuminating device 3. FIG. The MSI processing unit 511 instructs the imaging control unit 513 to capture a disturbance light image. The imaging control unit 513 instructs the camera 4 to perform imaging. Thereby, the image acquired by the camera 4 is stored in the storage device 520 as a disturbance light image.
S902でMSI処理部511は照明制御部512と撮像制御部513とを通じて分光画像を取得する。照明制御部512は照明装置3を制御することで一定のインターバルで点灯色を切り替えながらワーク2に照明光を照射させる。撮像制御部513も点灯色の切り替えタイミングと同期した一定のインターバルでカメラ4に分光画像を取得させる。撮像制御部513は取得した複数の分光画像を分光画像データ521として記憶装置520に格納する。これによりUVからIR2までの点灯色に対応した分光画像が取得される。 In step S <b> 902, the MSI processing unit 511 acquires a spectral image through the illumination control unit 512 and the imaging control unit 513. The illumination control unit 512 controls the illumination device 3 to irradiate the work 2 with illumination light while switching the lighting color at regular intervals. The imaging control unit 513 also causes the camera 4 to acquire a spectral image at a constant interval synchronized with the lighting color switching timing. The imaging control unit 513 stores the acquired plurality of spectral images as spectral image data 521 in the storage device 520. Thereby, a spectral image corresponding to the lighting colors from UV to IR2 is acquired.
S903でMSI処理部511の減算部561は、複数の分光画像のそれぞれに対して外乱光の低減処理を実行する。たとえば、減算部561は、複数の分光画像のそれぞれから外乱光画像を減算する。UVの点灯色に対応する分光画像(UV画像)において各画素はUVの点灯色の照明光がワーク2で反射することで生じる反射光の輝度値を有している。ただし、この輝度値は外乱光が加算された輝度値である。外乱光画像において各画素は外乱光がワーク2で反射することで生じる反射光の輝度値を有している。したがって、外乱光が加算されているUVの輝度値から外乱光の輝度値を減算することで正味のUVの輝度値が得られる。他の点灯色についても同様に低減処理が実行される。 In step S903, the subtraction unit 561 of the MSI processing unit 511 performs disturbance light reduction processing on each of the plurality of spectral images. For example, the subtraction unit 561 subtracts the disturbance light image from each of the plurality of spectral images. In the spectral image (UV image) corresponding to the UV lighting color, each pixel has a luminance value of reflected light generated when the illumination light of the UV lighting color is reflected by the work 2. However, this luminance value is a luminance value to which ambient light is added. In the disturbance light image, each pixel has a luminance value of reflected light generated by the disturbance light being reflected by the work 2. Therefore, the net UV luminance value can be obtained by subtracting the disturbance light luminance value from the UV luminance value to which the disturbance light is added. The reduction process is similarly executed for other lighting colors.
S904でMSI処理部511の色抽出部563は表示部7に外乱光の低減された分光画像に基づく良品のカラー画像を表示し、ユーザにより指定された抽出領域802から登録色を抽出する。 In step S904, the color extraction unit 563 of the MSI processing unit 511 displays a good color image based on the spectral image with reduced disturbance light on the display unit 7, and extracts a registered color from the extraction region 802 designated by the user.
このように登録色が抽出される前に複数の分光画像から外乱光の影響が低減されるため、登録色の精度が向上する。 Since the influence of disturbance light is reduced from the plurality of spectral images before the registered color is extracted in this way, the accuracy of the registered color is improved.
図10は外乱光の低減処理を含む画像検査方法を示すフローチャートである。なお、図10においてS901からS903までは図9のS901からS903と同じ処理である。ただし、被写体は検査対象物となるワーク2である。検査対象となるワーク2についてS901からS903までの処理が完了すると、MSI処理部511はS1001に進む。 FIG. 10 is a flowchart showing an image inspection method including disturbance light reduction processing. In FIG. 10, S901 to S903 are the same processes as S901 to S903 in FIG. However, the subject is a work 2 that is an inspection object. When the processing from S901 to S903 is completed for the workpiece 2 to be inspected, the MSI processing unit 511 proceeds to S1001.
S1001でMSI処理部511の変換部564は登録色と検査対象物のカラー画像とに基づき検査画像を作成する。検査対象物のカラー画像とは、外乱光が低減された複数の分光画像のことである。検査画像は検査ツールごとに異なってもよい。たとえば、変換部564は色空間における前景領域の登録色(前景色)とカラー画像の各画素の色とのマハラノビス距離に応じてカラー画像をグレー画像(前景画像)に変換してもよい。また、変換部564は色空間における背景領域の登録色(背景色)とカラー画像の各画素の色とのマハラノビス距離に応じてカラー画像をグレー画像(背景画像)に変換してもよい。これらの画像はさらに二値化などのさらなる画像処理が施されてもよい。 In step S1001, the conversion unit 564 of the MSI processing unit 511 creates an inspection image based on the registered color and the color image of the inspection object. The color image of the inspection object is a plurality of spectral images with reduced disturbance light. The inspection image may be different for each inspection tool. For example, the conversion unit 564 may convert the color image into a gray image (foreground image) according to the Mahalanobis distance between the registered color (foreground color) of the foreground region in the color space and the color of each pixel of the color image. The conversion unit 564 may convert the color image into a gray image (background image) according to the Mahalanobis distance between the registered color (background color) of the background region in the color space and the color of each pixel of the color image. These images may be further subjected to further image processing such as binarization.
S1002で検査部531は検査画像に対して検査ツールを適用して画像検査を実行する。一例として、検査対象物が樹脂板に設けられた金属端子であり、検査部531が備えるエリア検査ツールにより金属端子の面積と、その周囲の面積を求めることを考える。前景色は金属端子の代表色であり、背景色は樹脂板の代表色である。検査部531は、前景画像を二値化することで樹脂板の色を白に変換し、金属端子の色を黒に変換し、黒の画素の数をカウントすることで金属端子の面積を算出する。同様に、検査部531は、背景画像を二値化することで樹脂板の色を黒に変換し、金属端子の色を白に変換し、黒の画素の数をカウントすることで金属端子の周囲の樹脂板の面積を算出する。判定部540は金属端子の面積を公差などの閾値と比較して合否を判定する。また、判定部540は金属端子の周囲の面積を公差などの閾値と比較して合否を判定する。 In step S1002, the inspection unit 531 performs an image inspection by applying an inspection tool to the inspection image. As an example, it is assumed that the inspection object is a metal terminal provided on a resin plate, and the area of the metal terminal and the surrounding area are obtained by an area inspection tool provided in the inspection unit 531. The foreground color is the representative color of the metal terminal, and the background color is the representative color of the resin plate. The inspection unit 531 converts the color of the resin plate to white by binarizing the foreground image, converts the color of the metal terminal to black, and calculates the area of the metal terminal by counting the number of black pixels. To do. Similarly, the inspection unit 531 converts the color of the resin plate to black by binarizing the background image, converts the color of the metal terminal to white, and counts the number of black pixels to count the metal terminals. Calculate the area of the surrounding resin plate. The determination unit 540 determines pass / fail by comparing the area of the metal terminal with a threshold value such as tolerance. The determination unit 540 determines pass / fail by comparing the area around the metal terminal with a threshold such as tolerance.
このように検査対象物から取得された複数の分光画像から外乱光の影響が低減されるため、検査画像の精度が向上する。これは画像検査の精度を向上させる。 Thus, since the influence of disturbance light is reduced from the plurality of spectral images acquired from the inspection object, the accuracy of the inspection image is improved. This improves the accuracy of the image inspection.
<移動補正>
マルチスペクトルイメージングでは多数の点灯色の照明光が一色ずつ順番にワーク2に照射されて、多数の分光画像が生成される。たとえば、図11が示すようにUVからIR2までの8種類の点灯色の照明光が順次にワーク2に照射されて8枚の分光画像が得られ、8枚の分光画像を合成することで一枚のグレー画像が作成される。ワーク2がライン1を搬送される場合、一枚目のUV画像におけるワーク2の位置と8枚目のIR2画像におけるワーク2の位置はずれている。点灯色の数が増加するほど、また、ライン1の搬送速度が増加するほど、ワーク2の位置のずれ量は大きくなる。このずれを無視してグレー画像G1を作成すると、正しいグレー画像が得られないため、画像検査の精度が低下してしまう。従って、ワーク2について移動補正を行ってからグレー画像が作成されれば、正しいグレー画像が作成される。
<Movement correction>
In multispectral imaging, a large number of lighting colors are irradiated onto the workpiece 2 one by one in order, and a large number of spectral images are generated. For example, as shown in FIG. 11, illumination light of eight kinds of lighting colors from UV to IR2 is sequentially irradiated onto the work 2 to obtain eight spectral images, and the eight spectral images are synthesized. A single gray image is created. When the workpiece 2 is conveyed along the line 1, the position of the workpiece 2 in the first UV image is shifted from the position of the workpiece 2 in the eighth IR2 image. As the number of lighting colors increases and the conveyance speed of the line 1 increases, the amount of displacement of the position of the workpiece 2 increases. If the gray image G1 is generated while ignoring this shift, the correct gray image cannot be obtained, and the accuracy of the image inspection is lowered. Therefore, if a gray image is created after performing movement correction on the workpiece 2, a correct gray image is created.
なお、外乱光画像も一連の分光画像を取得する過程において取得されなければならない。つまり、ワーク2が移動するため外乱光画像についてもワーク2の位置を補正する必要がある。 A disturbance light image must also be acquired in the process of acquiring a series of spectral images. That is, since the workpiece 2 moves, it is necessary to correct the position of the workpiece 2 even in the disturbance light image.
ワーク2が静止している場合や、ライン1におけるワーク2の搬送速度が極めて遅い場合は移動補正が省略されてもよい。 The movement correction may be omitted when the workpiece 2 is stationary or when the conveyance speed of the workpiece 2 in the line 1 is extremely low.
図12は外乱光画像ABの取得を伴う移動補正の概念を示している。この例では、マルチスペクトルイメージング用の8種類の分光画像を取得する前と取得した後に移動補正用画像(補正画像MC1、MC2)が取得される。また、補正画像MC1を取得するタイミングと、補正画像MC2を取得するタイミングとの間で外乱光画像ABが取得される。図12では補正画像MC1とUV画像との間で外乱光画像ABが取得される。 FIG. 12 shows the concept of movement correction involving acquisition of the disturbance light image AB. In this example, movement correction images (corrected images MC1 and MC2) are acquired before and after acquiring eight types of spectral images for multispectral imaging. Moreover, the disturbance light image AB is acquired between the timing which acquires correction | amendment image MC1, and the timing which acquires correction | amendment image MC2. In FIG. 12, the disturbance light image AB is acquired between the corrected image MC1 and the UV image.
ライン1におけるワーク2の搬送速度は一定である。また、カメラ4が画像を取得するインターバルも一定である。そのため、各画像におけるワーク2の位置は異なり、これらの位置は線形の軌跡を描く。従って、各分光画像におけるワーク2を構成する画素の座標の対応関係(x方向のずれ量とy方向のずれ量)を求めておけば、各分光画像におけるワーク2の位置を重ねて、グレー画像G2を作成することができる。ここで各分光画像は移動補正された外乱光画像ABにより外乱光が低減されているものとする。 The conveyance speed of the workpiece 2 in the line 1 is constant. The interval at which the camera 4 acquires an image is also constant. Therefore, the position of the workpiece 2 in each image is different, and these positions draw a linear locus. Accordingly, if the correspondence relationship between the coordinates of the pixels constituting the work 2 in each spectral image (shift amount in the x direction and shift amount in the y direction) is obtained, the position of the work 2 in each spectral image is overlapped to obtain a gray image. G2 can be created. Here, it is assumed that disturbance light is reduced by the disturbance light image AB subjected to movement correction in each spectral image.
移動補正では、補正画像MC1、MC2においてワーク2の特徴fがサーチ部532によるパターンサーチにより検知され、それぞれ特徴fの位置p1、p2が求められる。特徴fはパターンサーチにより検知可能な形状やエッジ(二つの特徴的なエッジ間の間隔)などであればよい。位置p1、p2の変化を示す直線の方程式を求めれば、各分光画像におけるワーク2の位置を補正することができる。つまり、各分光画像における座標系の対応関係を示す座標の変換式が決定される。 In the movement correction, the feature f of the workpiece 2 is detected by the pattern search by the search unit 532 in the corrected images MC1 and MC2, and the positions p1 and p2 of the feature f are obtained, respectively. The feature f may be a shape or edge (interval between two characteristic edges) that can be detected by pattern search. If a linear equation indicating changes in the positions p1 and p2 is obtained, the position of the workpiece 2 in each spectral image can be corrected. That is, a coordinate conversion formula indicating the correspondence of the coordinate system in each spectral image is determined.
なお、ワーク2が線形に移動する場合は二つの補正画像により移動補正が可能である。ワーク2が非線形に移動する場合は三つ以上の補正画像が必要となる。ここでは、説明の簡明化のために、二つの補正画像が使用されるケースが主に説明される。 When the workpiece 2 moves linearly, movement correction can be performed using two correction images. When the workpiece 2 moves nonlinearly, three or more corrected images are required. Here, in order to simplify the description, a case where two corrected images are used will be mainly described.
●ユーザインタフェース
図13、図14および図15は移動補正に関するパラメータを設定するためのユーザインタフェースを示している。図13は設定モードにおいて登録パターンが登録されるパターンサーチモード(事前登録モード)の設定UIを示している。図13において設定UI900は、画像検査を実行する前に、UI管理部514によって表示部7に表示される。図14は運転モードにおいて登録パターンを動的に登録する追跡モードの設定UIを示している。図14が示すように、追跡モードでは、移動補正の基準となる特徴パターンが、画像検査を実行する運転モードにおいて登録される。UI管理部514は、設定UI900のうち特徴パターンの登録UIを運転モードにおいて表示部7に表示する。ユーザは運転モードにおいて登録パターンを抽出するための追跡領域TWを配置(設定)する。これにより追跡領域TW内の特徴が抽出される。図13と図14において共通する事項には同一の参照符号が付与されている。
User Interface FIGS. 13, 14 and 15 show user interfaces for setting parameters relating to movement correction. FIG. 13 shows a setting UI for a pattern search mode (pre-registration mode) in which a registered pattern is registered in the setting mode. In FIG. 13, the setting UI 900 is displayed on the display unit 7 by the UI management unit 514 before executing the image inspection. FIG. 14 shows a tracking mode setting UI for dynamically registering a registration pattern in the operation mode. As shown in FIG. 14, in the tracking mode, a feature pattern serving as a reference for movement correction is registered in an operation mode in which image inspection is executed. The UI management unit 514 displays the feature pattern registration UI in the setting UI 900 on the display unit 7 in the operation mode. The user arranges (sets) a tracking area TW for extracting a registered pattern in the operation mode. Thereby, the features in the tracking area TW are extracted. Items common to FIGS. 13 and 14 are given the same reference numerals.
画像選択ボタン902は、画像表示領域901に表示される画像を選択するためのUIであり、画像選択部515に選択結果を渡す。図13、図14においてCは複数の分光画像から合成して作成されたカラー画像を示している。ALは8種類あるすべての分光画像を示している。ALがポインタ906によって操作されると、図15が示すように、画像選択部515はすべての分光画像を並べて画像表示領域901に表示する。このように並べて表示された複数の分光画像の中から複数の補正画像がポインタ906によりクリックされることで選択されてもよい。UI管理部514や設定UI900は第一の補正画像と第二の補正画像との選択を受け付ける受付部として機能してもよい。 The image selection button 902 is a UI for selecting an image displayed in the image display area 901, and passes a selection result to the image selection unit 515. 13 and 14, C indicates a color image created by combining a plurality of spectral images. AL indicates all eight types of spectral images. When the AL is operated by the pointer 906, as shown in FIG. 15, the image selection unit 515 displays all the spectral images side by side in the image display area 901. A plurality of corrected images may be selected by clicking with the pointer 906 from the plurality of spectral images displayed side by side in this way. The UI management unit 514 and the setting UI 900 may function as a reception unit that receives selection of the first correction image and the second correction image.
図13、図14および図15においてUVは紫外線波長の照明光により取得された分光画像を示している。Bは青波長の照明光により取得された分光画像を示している。Gは緑波長の照明光により取得された分光画像を示している。AMはアンバー波長の照明光により取得された分光画像を示している。ORはオレンジ波長の照明光により取得された分光画像を示している。Rは赤波長の照明光により取得された分光画像を示している。IR1、IR2はそれぞれ赤外波長の照明光により取得された分光画像を示している。ただし、IR1の波長はIR2の波長よりも短い。MC1は第一の補正画像である。MC2は第二の補正画像である。ABは外乱光画像を示している。図13、図14においては画像表示領域901にはワーク2の画像が表示されている。 13, 14, and 15, UV indicates a spectral image obtained by illumination light having an ultraviolet wavelength. B shows a spectral image acquired by the blue wavelength illumination light. G indicates a spectral image acquired by illumination light having a green wavelength. AM indicates a spectral image acquired by illumination light having an amber wavelength. OR indicates a spectral image obtained by illumination light having an orange wavelength. R indicates a spectral image acquired by the illumination light having a red wavelength. IR1 and IR2 represent spectral images acquired by illumination light having infrared wavelengths. However, the wavelength of IR1 is shorter than the wavelength of IR2. MC1 is a first corrected image. MC2 is a second corrected image. AB indicates a disturbance light image. 13 and 14, the image of the work 2 is displayed in the image display area 901.
画像名の表示欄911は画像表示領域901に表示される画像の名称を表示するテキストボックスである。画像選択部515が画像の名称をテキストボックスに入力する。図13において編集ボタン912はパターンサーチの対象となる特徴を含む領域であるパターン領域PWのサイズと位置を編集するためのボタンである。編集ボタン913は第一の補正画像MC1において移動補正用の特徴fをサーチする範囲(サーチ領域SW)のサイズと位置を編集するためのボタンである。図14において編集ボタン914は第二の補正画像MC2において移動補正用の特徴fを動的に登録するための範囲(追跡領域TW)のサイズと位置を編集するためのボタンである。なお、パターン領域PWと追跡領域TWとはそれぞれ移動補正ための特徴fを抽出する領域であり、機能としては共通している。このようにワーク2の位置を検出するために利用される特徴fは設定モードにおいて事前登録されてもよいし、運転モードにおいて動的に登録されてもよい。サーチ領域SWやパターン領域PWの登録は、原則として、設定モードにおいて実行される。これの編集ボタンがポインタ906によって押し下げられたことを検知すると、領域指定部516はポインタ906の動きに応じて各領域を設定する。また、画像処理部530は、パターン領域PWまたは追跡領域TW内の特徴を抽出して設定情報523に書き込む。抽出される特徴は画像そのものであってもよいし、輪郭であってもよいし、複数のエッジであってもよい。 An image name display field 911 is a text box for displaying the name of the image displayed in the image display area 901. The image selection unit 515 inputs the name of the image in the text box. In FIG. 13, an edit button 912 is a button for editing the size and position of the pattern area PW, which is an area including a feature to be subjected to pattern search. The edit button 913 is a button for editing the size and position of the range (search area SW) for searching the feature f for movement correction in the first correction image MC1. In FIG. 14, an edit button 914 is a button for editing the size and position of the range (tracking area TW) for dynamically registering the movement correction feature f in the second correction image MC2. Note that the pattern area PW and the tracking area TW are areas for extracting a feature f for movement correction, and have a common function. As described above, the feature f used for detecting the position of the workpiece 2 may be pre-registered in the setting mode, or may be dynamically registered in the operation mode. Registration of the search area SW and the pattern area PW is performed in the setting mode in principle. When it is detected that the edit button has been pressed by the pointer 906, the area designating unit 516 sets each area according to the movement of the pointer 906. In addition, the image processing unit 530 extracts features in the pattern area PW or the tracking area TW and writes them in the setting information 523. The extracted feature may be an image itself, a contour, or a plurality of edges.
点灯色選択部915は補正画像を取得するために使用される照明光の波長(点灯色)を選択するためのプルダウンメニューである。点灯色設定部517は点灯色選択部915のプルダウンメニューから選択された点灯色の識別情報を照明光用の点灯色を指定する識別情報として設定情報523に書き込む。照明装置3が白色LEDを搭載している場合、点灯色選択部915において、照明光の点灯色として、白色LEDを示すWが選択されうる。また、すべての点灯色の発光素子を点灯させることを意味するALが点灯色選択部915において選択されてもよい。WまたはALが選択されることで移動補正用の特徴のサーチが安定することが多い。なお、UVからIR2までのいずれかの狭帯域波長が選択される場合、補正画像と検査用画像を作成するための分光画像とが兼用されてもよい。たとえば、UVが選択されると、UV画像は補正画像として使用されるだけでなく、検査用画像を作成するための要素画像としても使用される。これにより、取得される画像の数が削減され、移動補正に関する作業時間が短縮される。 The lighting color selection unit 915 is a pull-down menu for selecting the wavelength (lighting color) of the illumination light used for acquiring the corrected image. The lighting color setting unit 517 writes the identification information of the lighting color selected from the pull-down menu of the lighting color selection unit 915 in the setting information 523 as identification information for designating the lighting color for illumination light. When the lighting device 3 is equipped with a white LED, the lighting color selection unit 915 can select W indicating the white LED as the lighting color of the illumination light. In addition, AL, which means that all the light emitting elements of the lighting color are turned on, may be selected by the lighting color selection unit 915. When W or AL is selected, the feature search for movement correction is often stabilized. When any narrow band wavelength from UV to IR2 is selected, the correction image and the spectral image for creating the inspection image may be used together. For example, when UV is selected, the UV image is used not only as a correction image but also as an element image for creating an inspection image. As a result, the number of images to be acquired is reduced, and the work time for movement correction is shortened.
編集ボタン916は詳細設定を編集するためのボタンである。詳細設定としては、複数ある移動補正手法のうちから一つの移動補正手法を選択すること、パターンサーチにおけるサーチ角度を設定することなどが含まれてもよい。確定ボタン917は、移動補正に関する設定を確定するためのボタンである。キャンセルボタン918は今回の設定を取り消し、直前の設定やデフォルト設定に戻すためのボタンである。 An edit button 916 is a button for editing detailed settings. The detailed setting may include selecting one movement correction method from among a plurality of movement correction methods, setting a search angle in a pattern search, and the like. The confirm button 917 is a button for confirming settings relating to movement correction. A cancel button 918 is a button for canceling the current setting and returning to the previous setting or default setting.
●フローチャート
図16はプロセッサ510が実行する画像検査(運転モード)を示すフローチャートである。なお、ここでは移動補正のためのサーチモードはパターンサーチモードが適用されるものとする。そのため、移動補正に関する制御パラメータは設定モードにおいて既に決定されているものとする。なお、S1601ないしS1604の順番は、移動補正を実現できる限り、自由に入れ替え可能である。ただし、S1604はS1601の後に実行されるものとする。MSI処理部511はPLC(プログラマブルコントローラ)などの外部機器から入力されたトリガー信号に基づき以下の処理を開始する。
Flowchart FIG. 16 is a flowchart showing an image inspection (operation mode) executed by the processor 510. Here, the pattern search mode is applied as the search mode for movement correction. Therefore, it is assumed that the control parameter relating to movement correction has already been determined in the setting mode. Note that the order of S1601 to S1604 can be freely changed as long as movement correction can be realized. However, S1604 is executed after S1601. The MSI processing unit 511 starts the following processing based on a trigger signal input from an external device such as a PLC (programmable controller).
S1601でプロセッサ510は第一の補正画像を取得する。プロセッサ510は、設定情報523に従って第一の補正画像の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第一の補正画像を取得し、記憶装置520に書き込む。 In step S1601, the processor 510 acquires a first corrected image. The processor 510 determines the lighting color of the illumination light of the first corrected image according to the setting information 523 and sets it in the illumination control unit 512. The illumination control unit 512 instructs the illumination control board 40 to turn on the light emitting element of the designated lighting color. The illumination control board 40 lights the light emitting element of the designated lighting color. The processor 510 sets an imaging condition (such as an exposure condition) according to the setting information 523 in the imaging control unit 513, and acquires an image of the work 2. The imaging control unit 513 controls the camera 4 according to the designated imaging condition, acquires a first corrected image that is an image of the work 2, and writes it in the storage device 520.
S1602でMSI処理部511は外乱光画像を取得する。MSI処理部511は照明制御部512を通じて照明装置3を消灯させる。これによりワーク2には外乱光のみが照射される。MSI処理部511は撮像制御部513に外乱光画像の撮像を指示する。撮像制御部513はカメラ4に撮像を指示する。これによりカメラ4により取得された画像は外乱光画像として記憶装置520に格納される。 In S1602, the MSI processing unit 511 acquires a disturbance light image. The MSI processing unit 511 turns off the lighting device 3 through the lighting control unit 512. Thereby, only the disturbance light is irradiated to the workpiece 2. The MSI processing unit 511 instructs the imaging control unit 513 to capture a disturbance light image. The imaging control unit 513 instructs the camera 4 to perform imaging. Thereby, the image acquired by the camera 4 is stored in the storage device 520 as a disturbance light image.
S1603でMSI処理部511はマルチスペクトルイメージング用の分光画像を取得する。MSI処理部511は設定情報523に従って照明光の点灯色を照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である分光画像を取得し、記憶装置520に書き込む。なお、分光画像は、原則として8種類の点灯色のすべてについて取得されてもよいし、一部の点灯色について取得されてもよい。分光画像を取得するために使用される点灯色は設定情報523に依存する。設定情報523により指定されたすべての分光画像が取得されると、プロセッサ510はS1103に進む。 In S1603, the MSI processing unit 511 acquires a spectral image for multispectral imaging. The MSI processing unit 511 sets the lighting color of the illumination light in the illumination control unit 512 according to the setting information 523. The illumination control unit 512 instructs the illumination control board 40 to turn on the light emitting element of the designated lighting color. The illumination control board 40 lights the light emitting element of the designated lighting color. The processor 510 sets an imaging condition (such as an exposure condition) according to the setting information 523 in the imaging control unit 513, and acquires an image of the work 2. The imaging control unit 513 controls the camera 4 according to the designated imaging condition, acquires a spectral image that is an image of the work 2, and writes the spectral image in the storage device 520. In principle, the spectral image may be acquired for all the eight types of lighting colors, or may be acquired for some of the lighting colors. The lighting color used for acquiring the spectral image depends on the setting information 523. When all the spectral images designated by the setting information 523 are acquired, the processor 510 moves to S1103.
S1604でプロセッサ510は第二の補正画像を取得する。プロセッサ510は、設定情報523に従って第二の補正画像の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第二の補正画像を取得し、記憶装置520に書き込む。 In step S1604, the processor 510 acquires a second corrected image. The processor 510 determines the lighting color of the illumination light of the second corrected image according to the setting information 523 and sets it in the illumination control unit 512. The illumination control unit 512 instructs the illumination control board 40 to turn on the light emitting element of the designated lighting color. The illumination control board 40 lights the light emitting element of the designated lighting color. The processor 510 sets an imaging condition (such as an exposure condition) according to the setting information 523 in the imaging control unit 513, and acquires an image of the work 2. The imaging control unit 513 controls the camera 4 according to the designated imaging condition to acquire a second corrected image that is an image of the work 2 and writes the second corrected image in the storage device 520.
S1605でプロセッサ510は画像処理部530に移動補正のためのパラメータを算出させ、当該パラメータを用いて外乱光画像と各分光画像に移動補正を適用する。たとえば、パターンサーチモードにおいて、移動補正部533は、サーチ部532に第一の補正画像における特徴をサーチさせるとともに、第二の補正画像における特徴をサーチさせる。なお、追跡モードで、移動補正部533は、第一の補正画像から登録した特徴を第二の補正画像においてサーチ部532にサーチさせる。移動補正部533は、第一の補正画像における特徴の位置と第二の補正画像における特徴の位置との変化量を算出する。移動補正部533は、この変化量に基づき複数の分光画像と外乱光画像とにおける各画素の座標の対応関係を補正する。たとえば、UV画像におけるワーク2の座標と、IR1画像におけるワーク2の座標との対応関係とが求められる。求められた対応関係(座標変換式)を用いて各分光画像と外乱光画像における座標を補正することで、図12に示したように各分光画像におけるワーク2の位置が重なり、正確に外乱光が低減されるとともに、正確なグレー画像が作成される。 In step S1605, the processor 510 causes the image processing unit 530 to calculate a parameter for movement correction, and applies the movement correction to the disturbance light image and each spectral image using the parameter. For example, in the pattern search mode, the movement correction unit 533 causes the search unit 532 to search for a feature in the first correction image and to search for a feature in the second correction image. In the tracking mode, the movement correction unit 533 causes the search unit 532 to search for the feature registered from the first correction image in the second correction image. The movement correction unit 533 calculates the amount of change between the feature position in the first correction image and the feature position in the second correction image. The movement correction unit 533 corrects the correspondence between the coordinates of each pixel in the plurality of spectral images and the disturbance light image based on the amount of change. For example, the correspondence between the coordinates of the work 2 in the UV image and the coordinates of the work 2 in the IR1 image is obtained. By correcting the coordinates in each spectral image and the disturbance light image using the obtained correspondence (coordinate conversion formula), the position of the work 2 in each spectral image overlaps as shown in FIG. And an accurate gray image is created.
S1606でMSI処理部511の減算部561は、複数の分光画像のそれぞれに対して外乱光の低減処理を実行する。ここで使用される複数の分光画像と外乱光画像はそれぞれ移動補正されたものである。減算部561は、複数の分光画像のそれぞれから外乱光画像を減算する。 In step S <b> 1606, the subtraction unit 561 of the MSI processing unit 511 performs disturbance light reduction processing on each of the plurality of spectral images. The plurality of spectral images and disturbance light images used here are each subjected to movement correction. The subtracting unit 561 subtracts the disturbance light image from each of the plurality of spectral images.
S1607でMSI処理部511は移動補正と外乱光の低減処理が適用された複数の分光画像を変換してグレー画像(検査用画像)を作成する。なお、グレー画像に対していくつかの画像処理が適用されて検査用画像が作成されてもよい。 In step S1607, the MSI processing unit 511 converts the plurality of spectral images to which the movement correction and the disturbance light reduction process are applied to create a gray image (inspection image). Note that an inspection image may be created by applying some image processing to the gray image.
S1608でプロセッサ510は検査部531に画像検査を実行させる。検査部531は、MSI処理部511により作成された検査用画像に対して設定情報523により指定された検査ツールを用いて画像検査を実行する。判定部540は、検査部531から画像検査の結果を受け取り、ワーク2が良品条件を満たしているかどうかを判定する。 In step S1608, the processor 510 causes the inspection unit 531 to perform image inspection. The inspection unit 531 performs image inspection on the inspection image created by the MSI processing unit 511 using the inspection tool specified by the setting information 523. The determination unit 540 receives the result of the image inspection from the inspection unit 531 and determines whether or not the work 2 satisfies the non-defective product condition.
●点灯パターン
図12を用いて、移動補正を行いながら分光画像を取得するための発光素子の点灯パターンの一例について説明したが、これは一例にすぎない。図12に示した例によれば、第一の補正画像に対して指定された点灯色の発光素子が点灯する。その後、外乱光画像を取得するために照明装置3が備えるすべての発光素子が消灯する。さらにその後で、UV、B、G、AM、OR、R、IR1、IR2の各発光素子が点灯する。最後に、第二の補正画像に対して指定された点灯色の発光素子が点灯する。
Lighting Pattern An example of a lighting pattern of a light emitting element for acquiring a spectral image while performing movement correction has been described with reference to FIG. 12, but this is only an example. According to the example shown in FIG. 12, the light emitting element of the lighting color designated with respect to the 1st correction image lights up. Thereafter, all the light emitting elements included in the illumination device 3 to turn off the disturbance light image are turned off. Thereafter, the light emitting elements of UV, B, G, AM, OR, R, IR1, and IR2 are turned on. Finally, the light emitting element of the lighting color designated for the second corrected image is turned on.
図17は6つの点灯パターンを示している。ここではマルチスペクトルイメージングには4つの点灯色R、G、B、Yが使用されるものとする。YはRGB以外のいずれかの点灯色である。MCは移動補正用の共通の点灯色である。なお、図12は複数の分光画像が等間隔(一定の時間間隔)で取得されることを暗示している。 FIG. 17 shows six lighting patterns. Here, it is assumed that four lighting colors R, G, B, and Y are used for multispectral imaging. Y is any lighting color other than RGB. MC is a common lighting color for movement correction. FIG. 12 implies that a plurality of spectral images are acquired at regular intervals (constant time intervals).
ケース(1)、(2)は線形補正のため点灯パターンである。ケース(1)はマルチスペクトルイメージングの前後において移動補正用の点灯色の発光素子が点灯し、2つの補正画像が取得されることを示している。なお、OFFは外乱光画像を取得するために照明装置3が備えるすべての発光素子が消灯されることを意味する。ケース(1)は図12に示された事例である。ケース(2)は外乱光画像とマルチスペクトルイメージング用の分光画像とを取得する前に移動補正用の点灯色の発光素子が点灯し、2つの補正画像が取得されることを示している。 Cases (1) and (2) are lighting patterns for linear correction. Case (1) indicates that the light-emitting element for movement correction is turned on before and after the multispectral imaging, and two corrected images are acquired. Note that OFF means that all the light emitting elements included in the illumination device 3 are turned off in order to acquire a disturbance light image. Case (1) is the case shown in FIG. Case (2) indicates that the light-emitting element for light correction for movement correction is lit and two correction images are acquired before acquiring the disturbance light image and the spectral image for multispectral imaging.
ケース(3)ないし(5)は非線形補正のための点灯パターンを示している。上述したように非線形補正を実行するためには少なくとも三つの補正画像が必要となる。補正画像の枚数が増加すればするほど、移動補正の精度が高まるが、撮像時間が長くなる。なお、ケース(3)、(5)のように補正画像が分散して取得されると、移動補正の精度が高まるであろう。 Cases (3) to (5) show lighting patterns for nonlinear correction. As described above, at least three corrected images are required to perform nonlinear correction. As the number of corrected images increases, the accuracy of movement correction increases, but the imaging time increases. If the corrected images are acquired in a distributed manner as in cases (3) and (5), the accuracy of movement correction will increase.
ケース(6)は、マルチスペクトルイメージング用の分光画像を補正画像として兼用するケースである。これによりトータルでの画像枚数が削減され、撮像時間が短縮される。つまり、短時間でより多くの画像検査を実行可能となる。 Case (6) is a case where a spectral image for multispectral imaging is also used as a correction image. This reduces the total number of images and shortens the imaging time. That is, more image inspections can be executed in a short time.
<まとめ>
図1などが示すように、照明装置3は、互いに異なる点灯色の照明光を発生する複数の発光素子(LED33)を有し、各点灯色の照明光を個別に対象物(例:ワーク2の良品)に照射する照明部の一例である。カメラ4は、一つ以上の点灯色の照明光ごとに対象物からの反射光を受光して対象物の画像を生成する撮像部の一例である。なお、カメラ4はモノクロカメラであるため、カラーフィルタを有するカメラと比較して感度が良い。プロセッサ510(MSI処理部511、照明制御部512、撮像制御部513など)は照明装置3を制御することでそれぞれ点灯色が異なる複数の照明光を対象物に照射させるとともに、カメラ4を制御することでそれぞれ照明光の点灯色が同一または異なる複数の画像を生成させる制御部の一例である。なお、プロセッサ510は、撮像制御部513を介してカメラ4を制御し、カメラ4に複数の分光画像を一定の時間間隔で生成させる。なお、MSI処理部511は撮像部により取得された複数の分光画像を合成して検査画像を生成する生成部の一例である。MSI処理部511は、複数の発光素子を消灯させ、撮像部に外乱光による対象物からの反射光を受光させて対象物の外乱光画像を取得させる。MSI処理部511は複数の分光画像のそれぞれから外乱光画像を減算する減算部561と、外乱光画像を減算された複数の分光画像を合成して検査画像を生成する合成部562とを有してる。したがって、本実施形態によれば、点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響が低減されるため、画像検査の精度が向上する。
<Summary>
As FIG. 1 etc. show, the illuminating device 3 has several light emitting element (LED33) which generate | occur | produces the illumination light of a mutually different lighting color, and illuminates each lighting color individually with a target object (example: Work 2) It is an example of the illumination part irradiated to a non-defective product. The camera 4 is an example of an imaging unit that receives reflected light from an object for each illumination light of one or more lighting colors and generates an image of the object. Since the camera 4 is a monochrome camera, the sensitivity is better than that of a camera having a color filter. The processor 510 (the MSI processing unit 511, the illumination control unit 512, the imaging control unit 513, etc.) controls the illumination device 3 to irradiate the object with a plurality of illumination lights each having a different lighting color, and also controls the camera 4. This is an example of a control unit that generates a plurality of images with the same or different lighting colors of illumination light. The processor 510 controls the camera 4 via the imaging control unit 513 and causes the camera 4 to generate a plurality of spectral images at regular time intervals. The MSI processing unit 511 is an example of a generating unit that generates a test image by combining a plurality of spectral images acquired by the imaging unit. The MSI processing unit 511 turns off the plurality of light emitting elements and causes the imaging unit to receive reflected light from the object due to disturbance light and acquire a disturbance light image of the object. The MSI processing unit 511 includes a subtracting unit 561 that subtracts the disturbance light image from each of the plurality of spectral images, and a combining unit 562 that combines the plurality of spectral images obtained by subtracting the disturbance light image to generate an inspection image. I'm. Therefore, according to the present embodiment, the influence of disturbance light is reduced in the image inspection apparatus including a plurality of light sources having different lighting colors, so that the accuracy of the image inspection is improved.
表示部7は外乱光画像を減算された複数の分光画像を表示してもよい。また、表示部7は外乱光画像を減算された複数の分光画像から生成されたトゥルーカラー画像またはフォルスカラー画像を表示してもよい。フォルスカラー画像はトゥルーカラー画像に対して色クラスタリングを施すことで生成されるカラー画像である。領域指定部516は表示部7に表示された画像に対して登録色を抽出するための抽出領域802の指定を受け付ける受付部として機能する。色抽出部563は複数の分光画像のそれぞれから抽出領域802に含まれる画素の色の分布に基づく登録色を抽出する。合成部562は、抽出領域802から抽出された登録色にしたがって複数の分光画像をカラーグレー変換することで検査画像を生成する変換部564を有しもよい。複数の分光画像は外乱光画像を減算されている。このように、登録色は、外乱光の低減処理を施された複数の分光画像から抽出される色情報であるため、登録色の精度が向上する。 The display unit 7 may display a plurality of spectral images obtained by subtracting the disturbance light image. The display unit 7 may display a true color image or a false color image generated from a plurality of spectral images obtained by subtracting the disturbance light image. A false color image is a color image generated by performing color clustering on a true color image. The area designation unit 516 functions as a reception unit that receives designation of an extraction area 802 for extracting a registered color for an image displayed on the display unit 7. The color extraction unit 563 extracts a registered color based on the color distribution of pixels included in the extraction region 802 from each of the plurality of spectral images. The combining unit 562 may include a conversion unit 564 that generates an inspection image by performing color gray conversion on a plurality of spectral images according to registered colors extracted from the extraction region 802. The plurality of spectral images are subtracted from the disturbance light image. Thus, since the registered color is color information extracted from a plurality of spectral images that have been subjected to disturbance light reduction processing, the accuracy of the registered color is improved.
領域指定部516は前景色が抽出される前景領域の指定と、背景色が抽出される背景領域の指定とを受け付けてもよい。色抽出部563は、登録色として、前景領域から前景色を抽出し、背景領域から背景色を抽出する。変換部564は、前景色に対する複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした前景距離画像を生成する。変換部564は、背景色に対する複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした背景距離画像を生成する。変換部564は、前景距離画像と背景距離画像との差分画像を検査画像として生成してもよい。 The area designation unit 516 may accept designation of a foreground area from which a foreground color is extracted and designation of a background area from which a background color is extracted. The color extraction unit 563 extracts the foreground color from the foreground area and the background color from the background area as registered colors. The conversion unit 564 obtains the color distance of each pixel in the plurality of spectral images with respect to the foreground color, and generates a foreground distance image using the obtained distance for each pixel as the value of each pixel. The conversion unit 564 obtains the color distance of each pixel in the plurality of spectral images with respect to the background color, and generates a background distance image with the distance obtained for each pixel as the value of each pixel. The conversion unit 564 may generate a difference image between the foreground distance image and the background distance image as the inspection image.
MSI処理部511は、PLCなどから単一のトリガー信号を入力されると、照明部と撮像部とを制御し、外乱光画像と複数の分光画像とを連続的に取得してもよい。これにより外乱光画像の取得時刻と分光画像の取得時刻とが近接するため、外乱光画像における外乱光成分と分光画像における外乱光成分とはほぼ同じものとなろう。つまり、外乱光の低減精度が向上する。 When a single trigger signal is input from the PLC or the like, the MSI processing unit 511 may control the illumination unit and the imaging unit and continuously acquire the disturbance light image and the plurality of spectral images. As a result, the disturbance light image acquisition time and the spectral image acquisition time are close to each other, so the disturbance light component in the disturbance light image and the disturbance light component in the spectral image will be substantially the same. That is, the disturbance light reduction accuracy is improved.
上述したように外乱光の低減処理は移動補正と組み合わされてもよい。MSI処理部511および移動補正部533は、複数の分光画像と外乱光画像における各画素の座標を補正するために、一定の搬送速度で移動している対象物についての第一補正画像と第二補正画像とを撮像部に取得させる。MSI処理部511および移動補正部533は、第一補正画像における補正目標物の位置と第二補正画像における当該補正目標物との位置とから、複数の分光画像と外乱光画像における各画素の座標を補正する座標補正部を有してもよい。とりわけ、移動補正部533は座標補正部の一例である。減算部561は、移動補正部533により各座標を補正された複数の分光画像それぞれから、移動補正部533により各座標を補正された外乱光画像を減算する。これによりワーク2が高速に搬送されているケースにおいても適切に外乱光の影響が低減される。 As described above, disturbance light reduction processing may be combined with movement correction. The MSI processing unit 511 and the movement correction unit 533 correct the coordinates of each pixel in the plurality of spectral images and the disturbance light image, and the first correction image and the second correction image for the object moving at a constant conveyance speed. The corrected image is acquired by the imaging unit. The MSI processing unit 511 and the movement correction unit 533 calculate the coordinates of each pixel in the plurality of spectral images and the disturbance light image from the position of the correction target in the first correction image and the position of the correction target in the second correction image. You may have a coordinate correction | amendment part which correct | amends. In particular, the movement correction unit 533 is an example of a coordinate correction unit. The subtracting unit 561 subtracts the disturbance light image whose coordinates are corrected by the movement correcting unit 533 from each of the plurality of spectral images whose coordinates are corrected by the movement correcting unit 533. Thereby, even in the case where the workpiece 2 is conveyed at high speed, the influence of disturbance light is appropriately reduced.
カメラ4は、一定のタイムインターバルで第一補正画像、第二補正画像、複数の分光画像および外乱光画像を連続的に取得してもよい。これにより移動補正の計算が非常に容易となる。また、移動補正の精度も向上するため、外乱光の低減処理の精度も向上しよう。 The camera 4 may continuously acquire the first corrected image, the second corrected image, the plurality of spectral images, and the disturbance light image at a constant time interval. This greatly facilitates calculation of movement correction. In addition, since the accuracy of the movement correction is improved, the accuracy of the disturbance light reduction process will also be improved.
カメラ4は、第一補正画像を最初に取得し、第二補正画像を最後に取得してもよい。つまり、第一補正画像が取得された後であって、第二補正画像が取得される前に、外乱光画像と分光画像が取得される。これは、外乱光画像と分光画像におけるワーク2の座標が内挿により補正されることを意味する。一般に外挿と内挿とでは内挿が有利である。したがって、内挿を採用することで、外乱光画像と分光画像の移動補正の精度が向上する。 The camera 4 may acquire the first corrected image first and the second corrected image last. That is, the disturbance light image and the spectral image are acquired after the first corrected image is acquired and before the second corrected image is acquired. This means that the coordinates of the workpiece 2 in the disturbance light image and the spectral image are corrected by interpolation. In general, extrapolation and interpolation are advantageous. Therefore, by adopting the interpolation, the accuracy of the movement correction between the disturbance light image and the spectral image is improved.
照明装置3は、第一補正画像と第二補正画像とを取得する際に同一の点灯色の照明光を対象物に照射してもよい。また、このときの点灯色は白色であっても。これらはいずれも移動補正の精度を向上させることに寄与する。 The illumination device 3 may irradiate the object with illumination light of the same lighting color when acquiring the first correction image and the second correction image. Moreover, even if the lighting color at this time is white. All of these contribute to improving the accuracy of movement correction.
第一補正画像と第二補正画像とのうちいずれか一つが複数の分光画像のうちの一つの分光画像と兼用されてもよい。これによりカメラ4によって取得され画像の枚数が削減されるため、処理の効率化が達成される。また、第一補正画像を取得した時刻と第二補正画像が取得した時刻との間の時間差が小さくなるため、移動補正の精度が向上する。 Any one of the first corrected image and the second corrected image may be used as one of the plurality of spectral images. As a result, the number of images acquired by the camera 4 is reduced, so that the processing efficiency is improved. In addition, since the time difference between the time when the first correction image is acquired and the time when the second correction image is acquired is small, the accuracy of movement correction is improved.
ところで、サーチ部532は、複数の画像のうち同一の点灯色の照明光の下で取得された第一の補正画像と、当該第一の補正画像よりも後に生成された第二の補正画像とのそれぞれについて特徴パターンの位置をサーチする。MSI処理部511や移動補正部533などは、第一の補正画像における特徴パターンの位置と第二の補正画像における特徴パターンの位置との変化量に基づき複数の画像における各画素の座標の対応関係を補正する。検査部531は補正部により各画素の座標の対応関係が補正された複数の画像に基づき対象物の画像検査を実行する。たとえば、検査部531はMSI処理部511が複数の分光画像を合成することでグレー画像を生成し、グレー画像を用いて、またはグレー画像をさらに画像処理して得られる検査画像を用いて画像検査を実行する。これにより、点灯色が異なる複数の光源を備えた画像検査装置において移動するワークについての画像検査の精度が向上する。 By the way, the search unit 532 includes a first correction image acquired under illumination light of the same lighting color among a plurality of images, and a second correction image generated after the first correction image. The position of the feature pattern is searched for each of. The MSI processing unit 511, the movement correction unit 533, and the like correspond to the coordinates of the coordinates of each pixel in a plurality of images based on the amount of change between the position of the feature pattern in the first correction image and the position of the feature pattern in the second correction image. Correct. The inspection unit 531 performs image inspection of the target object based on a plurality of images in which the correspondence between the coordinates of each pixel is corrected by the correction unit. For example, the inspection unit 531 generates a gray image by the MSI processing unit 511 combining a plurality of spectral images, and performs image inspection using the gray image or an inspection image obtained by further image processing of the gray image. Execute. Thereby, the accuracy of the image inspection for the moving workpiece in the image inspection apparatus provided with a plurality of light sources having different lighting colors is improved.
上述したように、第一の補正画像を生成するために対象物に照射された照明光の点灯色と、第二の補正画像を生成するために対象物に照射された照明光の点灯色とは同一の点灯色である。これにより、移動補正の精度が向上する。つまり、移動補正用の少なくとも2つの画像については同一の点灯色を使用することで照明条件が整合するため、特徴パターンが精度よく検出され、移動補正の精度が向上する。なお、複数の画像のうち、第一の補正画像と第二の補正画像とを除いた残りの複数の画像を生成するために対象物に照射された照明光の点灯色はそれぞれ異なっている。このように、残りの複数の画像はマルチスペクトルイメージング用の分光画像であってもよい。 As described above, the lighting color of the illumination light irradiated on the object to generate the first correction image, and the lighting color of the illumination light irradiated on the object to generate the second correction image Are the same lighting color. This improves the accuracy of movement correction. In other words, the illumination conditions are matched by using the same lighting color for at least two images for movement correction, so that the feature pattern is detected with high accuracy and the accuracy of movement correction is improved. In addition, the lighting color of the illumination light irradiated to the target object in order to generate the remaining plurality of images excluding the first correction image and the second correction image among the plurality of images is different. Thus, the remaining plurality of images may be spectral images for multispectral imaging.
プロセッサ510は、第一の補正画像と第二の補正画像を生成する際に複数の発光素子を同時に点灯してもよい。これにより疑似的に白色光に近い照明光が実現される。つまり、白色光源を省略することができる。 The processor 510 may turn on a plurality of light emitting elements simultaneously when generating the first correction image and the second correction image. As a result, illumination light that approximates white light is realized. That is, the white light source can be omitted.
もちろん、照明装置3は、さらに白色の照明光を発生する白色発光素子(白色LEDなど)を有していてもよい。プロセッサ510は、第一の補正画像と第二の補正画像を生成する際に白色発光素子を点灯する。白色光により明確化される特徴パターンもある。このような特徴については白色光が適している。 Of course, the illumination device 3 may further include a white light emitting element (white LED or the like) that generates white illumination light. The processor 510 turns on the white light emitting element when generating the first correction image and the second correction image. Some feature patterns are clarified by white light. White light is suitable for such a feature.
第一の補正画像を生成するために対象物に照射された照明光の点灯色と、第二の補正画像を生成するために対象物に照射された照明光の点灯色とは、それぞれ同一の狭帯域波長(狭波長帯域)に属する点灯色であってもよい。たとえば、第一の補正画像と第二の補正画像との双方がUVの照明光により取得されてもよい。ただし、移動補正の精度が十分に確保できるのであれば、第一の補正画像の点灯色と第二の補正画像の点灯色とが異なっていてもよい。たとえば、第一の補正画像と第二の補正画像がそれぞれIR1やIR2などの照明光により取得されてもよい。
第一の補正画像においても第二の補正画像においてもサーチされるのは同一の特徴パターンである。そのため、同一または類似した点灯色が使用されると、特徴パターンのサーチ精度が向上しよう。
The lighting color of the illumination light applied to the object for generating the first correction image and the lighting color of the illumination light applied to the object for generating the second correction image are the same. The lighting color may belong to a narrow band wavelength (narrow wavelength band). For example, both the first correction image and the second correction image may be acquired by UV illumination light. However, the lighting color of the first correction image may be different from the lighting color of the second correction image as long as the accuracy of movement correction can be sufficiently ensured. For example, the first correction image and the second correction image may be acquired by illumination light such as IR1 and IR2, respectively.
The same feature pattern is searched for in both the first corrected image and the second corrected image. Therefore, if the same or similar lighting color is used, the feature pattern search accuracy will be improved.
表示部7は複数の画像を並べて表示してもよい。UI管理部514は、表示部7に表示された複数の画像から第一の補正画像と第二の補正画像との選択を受け付ける受付部して機能してもよい。このように複数の画像が並べて表示されることで、ユーザは、補正画像に適した画像を容易に選択できるようになろう。 The display unit 7 may display a plurality of images side by side. The UI management unit 514 may function as a reception unit that receives selection of the first correction image and the second correction image from the plurality of images displayed on the display unit 7. By displaying a plurality of images side by side in this way, the user can easily select an image suitable for the corrected image.
UI管理部514や領域指定部516は、画像検査に関する設定を実行する設定モードにおいて、表示された対象物の画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録する登録部として機能してもよい。画像検査を実行する運転モードにおいて、サーチ部532は、登録部により予め登録された特徴パターンをサーチする。このように特徴パターンは検査モード(運転モード)の前に実行される設定モードにおいて登録されてもよい。UI管理部514は、設定モードにおいて生成された第一の補正画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録する。また、UI管理部514や領域指定部516は、設定モードにおいて生成された第一の補正画像または第二の補正画像に対してユーザにより指定されたサーチ領域を受け付けてもよい。サーチ領域の座標は、一般に、ワーク2の位置に依存しない座標であり、たとえば、画像の左上を基準とした座標である。この場合に、サーチ部532は、運転モードにおいて、サーチ領域内で特徴パターンをサーチする。サーチ部532は、運転モードにおいて、第一の補正画像のサーチ領域において特徴パターンをサーチするとともに、第二の補正画像についても当該サーチ領域において特徴パターンをサーチする。 The UI management unit 514 and the region designation unit 516 function as a registration unit that registers the feature of the region designated by the user with respect to the displayed image of the target object as a feature pattern in the setting mode for performing settings relating to image inspection. May be. In the operation mode in which the image inspection is executed, the search unit 532 searches for a feature pattern registered in advance by the registration unit. Thus, the feature pattern may be registered in a setting mode that is executed before the inspection mode (operation mode). The UI management unit 514 registers the feature of the region designated by the user as a feature pattern for the first corrected image generated in the setting mode. Further, the UI management unit 514 and the region specifying unit 516 may accept a search region specified by the user for the first correction image or the second correction image generated in the setting mode. The coordinates of the search area are generally coordinates that do not depend on the position of the work 2, and are coordinates based on the upper left of the image, for example. In this case, the search unit 532 searches for a feature pattern in the search area in the operation mode. In the operation mode, the search unit 532 searches for a feature pattern in the search area of the first correction image and also searches for a feature pattern in the search area of the second correction image.
なお、特徴パターンは画像検査を実行する運転モードにおいて動的に登録されてもよい。ただし、特徴パターンをサーチするためのサーチ領域については設定モードにおいて設定される。UI管理部514や領域指定部516は、画像検査が実行される運転モードにおいて動的に検査対象物の特徴が取得される追跡領域の指定を受け付ける領域受付部として機能する。UI管理部514や領域指定部516は、運転モードにおいて取得された第一の補正画像の追跡領域内に存在する特徴を特徴パターンとして登録する登録部としても機能する。この時点で第一の補正画像における特徴の座標が確定する。さらに、サーチ部532は、運転モードにおいて取得された第二の補正画像において、登録部により登録された特徴パターンをサーチする。これにより、第二の補正画像における特徴の座標が確定する。つまり、線形補正に必要となるパラメータが確定する。なお、領域受付部は、第一の補正画像または第二の補正画像とのうち当該第二の補正画像に対してユーザにより指定された追跡領域を受け付けてもよい。この時点で第二の補正画像における特徴の座標が確定する。サーチ部532は、運転モードにおいて生成された第一の補正画像において、登録部により登録された特徴パターンをサーチする。これにより、第一の補正画像における特徴の座標が確定する。つまり、線形補正に必要となるパラメータが確定する。 Note that the feature pattern may be dynamically registered in an operation mode in which image inspection is executed. However, the search area for searching for the feature pattern is set in the setting mode. The UI management unit 514 and the region specification unit 516 function as a region reception unit that receives specification of a tracking region in which the characteristics of the inspection target are dynamically acquired in the operation mode in which image inspection is performed. The UI management unit 514 and the region specifying unit 516 also function as a registration unit that registers features existing in the tracking region of the first correction image acquired in the operation mode as a feature pattern. At this point, the feature coordinates in the first corrected image are fixed. Further, the search unit 532 searches the feature pattern registered by the registration unit in the second corrected image acquired in the operation mode. Thereby, the coordinates of the feature in the second corrected image are determined. That is, parameters necessary for linear correction are determined. Note that the area receiving unit may receive a tracking area designated by the user for the second corrected image among the first corrected image and the second corrected image. At this time, the feature coordinates in the second corrected image are fixed. The search unit 532 searches the feature pattern registered by the registration unit in the first correction image generated in the operation mode. Thereby, the coordinates of the feature in the first corrected image are determined. That is, parameters necessary for linear correction are determined.
第一の補正画像は、複数の画像のうち最初に生成された画像であってもよい。また、第二の補正画像は、複数の画像のうち最後に生成された画像であってもよい。このように、複数の分光画像を取得する前と後において補正画像が取得されることで、移動補正の精度が向上しよう。これは、内挿による特徴の位置の推定精度は、外挿による特徴の位置の推定精度よりも高いからである。 The first corrected image may be an image generated first among a plurality of images. The second corrected image may be an image generated last among a plurality of images. As described above, the correction image is acquired before and after acquiring the plurality of spectral images, so that the accuracy of the movement correction is improved. This is because the estimation accuracy of the feature position by interpolation is higher than the estimation accuracy of the feature position by extrapolation.
サーチ部532は、さらに、第二の補正画像よりも後に生成された第三の補正画像について特徴パターンの位置をサーチしてもよい。移動補正部533は、第一の補正画像における特徴パターンの位置と第二の補正画像における特徴パターンの位置との変化量に基づき、第一の補正画像から記第二の補正画像までの複数の画像における各画素の座標の対応関係を補正する。また、移動補正部533は、第二の補正画像における特徴パターンの位置と第三の補正画像における特徴パターンの位置との変化量に基づき、第二の補正画像から記第三の補正画像までの複数の画像における各画素の座標の対応関係を補正する。このように3つ以上の補正画像を使用することで、ワーク2の位置が非線形に変化するケースにおいても精度よく移動補正が実現されよう。 The search unit 532 may further search for the position of the feature pattern for the third corrected image generated after the second corrected image. The movement correction unit 533 is configured to perform a plurality of operations from the first correction image to the second correction image based on the amount of change between the position of the feature pattern in the first correction image and the position of the feature pattern in the second correction image. The correspondence between the coordinates of each pixel in the image is corrected. In addition, the movement correction unit 533 is based on the amount of change between the position of the feature pattern in the second correction image and the position of the feature pattern in the third correction image, from the second correction image to the third correction image. The correspondence between the coordinates of each pixel in a plurality of images is corrected. By using three or more corrected images in this way, movement correction can be realized with high accuracy even in the case where the position of the workpiece 2 changes nonlinearly.
2…ワーク、3…照明装置、4…カメラ、5…画像処理装置、511…MSI処理部、512…照明制御部、513…撮像制御部、531…検査部 2 ... Work, 3 ... Illumination device, 4 ... Camera, 5 ... Image processing device, 511 ... MSI processing unit, 512 ... Illumination control unit, 513 ... Imaging control unit, 531 ... Inspection unit
Claims (12)
前記対象物からの反射光を受光して前記対象物の分光画像を生成する撮像部と、
前記照明部と前記撮像部を制御する制御部と、
前記撮像部により取得された複数の分光画像を合成して検査画像を生成する生成部と、
前記検査画像を用いて前記対象物を検査する検査部と
を有し、
前記制御部は、前記複数の発光素子を消灯させ、前記撮像部に外乱光による前記対象物からの反射光を受光させて前記対象物の外乱光画像を取得させ、
前記生成部は、
前記複数の分光画像のそれぞれから前記外乱光画像を減算する減算部と、
前記外乱光画像を減算された複数の分光画像を合成して前記検査画像を生成する合成部と
を有することを特徴とする画像検査装置。 A plurality of light emitting elements that generate illumination light of a plurality of lighting colors different from each other, and an illumination unit that irradiates an object with illumination light of each lighting color;
An imaging unit that receives reflected light from the object and generates a spectral image of the object;
A control unit that controls the illumination unit and the imaging unit;
A generating unit that generates a test image by combining a plurality of spectral images acquired by the imaging unit;
An inspection unit that inspects the object using the inspection image;
The control unit turns off the plurality of light emitting elements, causes the imaging unit to receive reflected light from the object due to disturbance light, and obtains a disturbance light image of the object,
The generator is
A subtractor that subtracts the disturbance light image from each of the plurality of spectral images;
An image inspection apparatus comprising: a combining unit that combines the plurality of spectral images obtained by subtracting the disturbance light image to generate the inspection image.
前記表示部に表示された画像に対して登録色を抽出するための抽出領域の指定を受け付ける受付部と、
前記複数の分光画像のそれぞれから前記抽出領域に含まれる画素の色の分布に基づく登録色を抽出する抽出部と
をさらに有し、
前記合成部は、
前記抽出領域から抽出された登録色にしたがって前記外乱光画像を減算された前記複数の分光画像をカラーグレー変換することで前記検査画像を生成する変換部
を有していることを特徴とする請求項1に記載の画像検査装置。 A display unit for displaying the plurality of spectral images obtained by subtracting the disturbance light image or a true color image or a false color image generated from the plurality of spectral images;
A reception unit that receives designation of an extraction region for extracting a registered color for an image displayed on the display unit;
An extraction unit that extracts a registered color based on a color distribution of pixels included in the extraction region from each of the plurality of spectral images;
The synthesis unit is
A conversion unit that generates the inspection image by performing color gray conversion on the plurality of spectral images obtained by subtracting the disturbance light image in accordance with a registered color extracted from the extraction region. Item 2. The image inspection apparatus according to Item 1.
前記抽出部は、前記登録色として、前記前景領域から前景色を抽出し、前記背景領域から背景色を抽出し、
前記変換部は、前記前景色に対する前記複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした前景距離画像を生成し、前記背景色に対する前記複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした背景距離画像を生成し、前記前景距離画像と前記背景距離画像との差分画像を前記検査画像として生成することを特徴とする請求項2に記載の画像検査装置。 The accepting unit accepts designation of a foreground area from which a foreground color is extracted and designation of a background area from which a background color is extracted;
The extraction unit extracts a foreground color from the foreground area as the registered color, extracts a background color from the background area,
The conversion unit obtains a color distance of each pixel in the plurality of spectral images with respect to the foreground color, generates a foreground distance image having a value obtained for each pixel as a value of each pixel, and Obtaining the color distance of each pixel in the plurality of spectral images, generating a background distance image using the distance obtained for each pixel as the value of each pixel, and a difference image between the foreground distance image and the background distance image The image inspection apparatus according to claim 2, wherein the inspection image is generated as the inspection image.
前記減算部は、前記座標補正部により各座標を補正された前記複数の分光画像それぞれから、前記座標補正部により各座標を補正された前記外乱光画像を減算することを特徴とする請求項5に記載の画像検査装置。 The control unit is configured to correct a coordinate of each pixel in the plurality of spectral images and the disturbance light image, and a first correction image and a second correction image for the object moving at a constant transport speed. From the position of the correction target in the first correction image and the position of the correction target in the second correction image, each pixel of the plurality of spectral images and the disturbance light image is obtained. A coordinate correction unit for correcting coordinates;
The subtracting unit subtracts the disturbance light image whose coordinates are corrected by the coordinate correcting unit from each of the plurality of spectral images whose coordinates are corrected by the coordinate correcting unit. The image inspection apparatus according to 1.
前記複数の点灯色の照明光が照射されないことで外乱光のみが照射されている前記対象物の外乱光画像を取得する工程と、
前記複数の分光画像のそれぞれから前記外乱光画像を減算する工程と、
前記外乱光画像を減算された複数の分光画像を合成して検査画像を生成する工程と
前記検査画像を用いて前記対象物を検査する工程と
を有することを特徴とする画像検査方法。 Obtaining a plurality of spectral images of the object corresponding to each lighting color while irradiating the object with illumination lights of a plurality of lighting colors different from each other;
Obtaining a disturbance light image of the object that is irradiated only with disturbance light by not being irradiated with the illumination light of the plurality of lighting colors;
Subtracting the disturbance light image from each of the plurality of spectral images;
An image inspection method comprising: a step of synthesizing a plurality of spectral images subtracted from the disturbance light image to generate an inspection image; and a step of inspecting the object using the inspection image.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017093362A JP6981775B2 (en) | 2017-05-09 | 2017-05-09 | Image inspection equipment and image inspection method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017093362A JP6981775B2 (en) | 2017-05-09 | 2017-05-09 | Image inspection equipment and image inspection method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018189564A true JP2018189564A (en) | 2018-11-29 |
| JP6981775B2 JP6981775B2 (en) | 2021-12-17 |
Family
ID=64478575
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017093362A Active JP6981775B2 (en) | 2017-05-09 | 2017-05-09 | Image inspection equipment and image inspection method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6981775B2 (en) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018189563A (en) * | 2017-05-09 | 2018-11-29 | 株式会社キーエンス | Image inspection device |
| JP2020106376A (en) * | 2018-12-27 | 2020-07-09 | 株式会社小糸製作所 | Active sensor, object identification system, vehicle, and vehicle lamp |
| JP2020134424A (en) * | 2019-02-25 | 2020-08-31 | セイコーエプソン株式会社 | Spectroscopic inspection method, image processing device, and robot system |
| JP2020169961A (en) * | 2019-04-05 | 2020-10-15 | 株式会社キーエンス | Image inspection system and image inspection method |
| JP2022078835A (en) * | 2020-11-13 | 2022-05-25 | Jx金属株式会社 | Classification method of electronic parts waste and disposal method of electronic parts waste |
| JP7295983B1 (en) | 2022-02-15 | 2023-06-21 | 株式会社トヨタプロダクションエンジニアリング | Object inspection system and display control method |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002259967A (en) * | 2001-02-28 | 2002-09-13 | Dainippon Screen Mfg Co Ltd | Area division for color image |
| CN1532541A (en) * | 2003-03-21 | 2004-09-29 | 中国印钞造币总公司 | Detecting method for color printing quality |
| JP2012237680A (en) * | 2011-05-12 | 2012-12-06 | Ihi Corp | Device and method for inspecting coated state, and program |
| JP2015232484A (en) * | 2014-06-09 | 2015-12-24 | 株式会社キーエンス | Image inspection device, image inspection method, image inspection program and computer readable recording medium, and apparatus having image inspection program recorded therein |
-
2017
- 2017-05-09 JP JP2017093362A patent/JP6981775B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002259967A (en) * | 2001-02-28 | 2002-09-13 | Dainippon Screen Mfg Co Ltd | Area division for color image |
| CN1532541A (en) * | 2003-03-21 | 2004-09-29 | 中国印钞造币总公司 | Detecting method for color printing quality |
| JP2012237680A (en) * | 2011-05-12 | 2012-12-06 | Ihi Corp | Device and method for inspecting coated state, and program |
| JP2015232484A (en) * | 2014-06-09 | 2015-12-24 | 株式会社キーエンス | Image inspection device, image inspection method, image inspection program and computer readable recording medium, and apparatus having image inspection program recorded therein |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018189563A (en) * | 2017-05-09 | 2018-11-29 | 株式会社キーエンス | Image inspection device |
| JP2020106376A (en) * | 2018-12-27 | 2020-07-09 | 株式会社小糸製作所 | Active sensor, object identification system, vehicle, and vehicle lamp |
| JP7252755B2 (en) | 2018-12-27 | 2023-04-05 | 株式会社小糸製作所 | Active sensors, object identification systems, vehicles, vehicle lighting |
| JP7215218B2 (en) | 2019-02-25 | 2023-01-31 | セイコーエプソン株式会社 | SPECTROSCOPY INSPECTION METHOD, IMAGE PROCESSING DEVICE, AND ROBOT SYSTEM |
| CN111609933A (en) * | 2019-02-25 | 2020-09-01 | 精工爱普生株式会社 | Spectroscopic inspection method, image processing device, and robot system |
| JP2020134424A (en) * | 2019-02-25 | 2020-08-31 | セイコーエプソン株式会社 | Spectroscopic inspection method, image processing device, and robot system |
| JP2020169961A (en) * | 2019-04-05 | 2020-10-15 | 株式会社キーエンス | Image inspection system and image inspection method |
| JP7231462B2 (en) | 2019-04-05 | 2023-03-01 | 株式会社キーエンス | Image inspection system and image inspection method |
| JP2022078835A (en) * | 2020-11-13 | 2022-05-25 | Jx金属株式会社 | Classification method of electronic parts waste and disposal method of electronic parts waste |
| JP7634969B2 (en) | 2020-11-13 | 2025-02-25 | Jx金属株式会社 | Method for classifying and disposing of electronic component scraps |
| JP7295983B1 (en) | 2022-02-15 | 2023-06-21 | 株式会社トヨタプロダクションエンジニアリング | Object inspection system and display control method |
| JP2023118240A (en) * | 2022-02-15 | 2023-08-25 | 株式会社トヨタプロダクションエンジニアリング | Object inspection system and display control method |
| US12335630B2 (en) | 2022-02-15 | 2025-06-17 | Toyota Production Engineering | Physical body inspection system and display control method |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6981775B2 (en) | 2021-12-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6917762B2 (en) | Image inspection equipment | |
| US10416086B2 (en) | Image inspection device | |
| JP6981775B2 (en) | Image inspection equipment and image inspection method | |
| US10304176B2 (en) | Image inspection device | |
| US10168216B2 (en) | Image inspection device | |
| US10241056B2 (en) | Inspection apparatus, inspection method, and program | |
| JP6917761B2 (en) | Image inspection equipment | |
| US20200043157A1 (en) | Inspection Apparatus, Inspection Method, And Program | |
| JP7117420B2 (en) | Image inspection device | |
| KR20150091216A (en) | Inspection apparatus and inspection method | |
| JP6931552B2 (en) | Image inspection equipment | |
| JP2020042053A (en) | Image inspection device and image inspection method | |
| US20250047986A1 (en) | Method and arrangements for obtaining and associating multispectral 2d image data with 3d image data from light triangulation | |
| US10896499B2 (en) | Image processing system, image processing device and image processing program | |
| JP2020038215A (en) | Inspection device and control method thereof | |
| US10708561B2 (en) | POS terminal, information processing device, white balance adjustment method, and recording medium | |
| JP2019060903A (en) | Inspection device | |
| CN104601853A (en) | Image scanning device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200326 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20210113 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210331 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210416 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210610 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211025 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211118 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6981775 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |