WO2018127509A1 - Verfahren zur erzeugung eines dreidimensionalen modells einer probe in einem digitalen mikroskop und digitales mikroskop - Google Patents
Verfahren zur erzeugung eines dreidimensionalen modells einer probe in einem digitalen mikroskop und digitales mikroskop Download PDFInfo
- Publication number
- WO2018127509A1 WO2018127509A1 PCT/EP2018/050122 EP2018050122W WO2018127509A1 WO 2018127509 A1 WO2018127509 A1 WO 2018127509A1 EP 2018050122 W EP2018050122 W EP 2018050122W WO 2018127509 A1 WO2018127509 A1 WO 2018127509A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- sample
- calculated
- different
- dimensional model
- perspective
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/24—Base structure
- G02B21/241—Devices for focusing
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/24—Base structure
- G02B21/26—Stages; Adjusting means therefor
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/586—Depth or shape recovery from multiple images from multiple light sources, e.g. photometric stereo
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
Definitions
- the present invention relates to a method for generating a three-dimensional model of a sample in a digital
- the invention relates to a digital microscope, with which the inventive method
- focus variations have a large number of hidden areas in which information about the microscopic object due to the limitations of the
- AI is a method for generating a three-dimensional information of an object in one
- EDOF image For single images, an image with extended depth of field (EDOF image) is calculated. In the process of calculating the EDOF image, a number of pixel defects are detected. Finally, the calculation of a height map or a 3D model takes place.
- EP 2 793 069 A1 shows a digital microscope with a
- Optical unit and a digital image processing unit which are arranged on a microscope stand.
- Another component of the digital microscope is an image sensor for
- the digital microscope further comprises at least a first monitoring sensor for observing the
- Monitoring unit data from the monitoring sensor are automatically evaluated and used for automatic control of the digital microscope.
- the digital microscope may have a second monitoring sensor, which is arranged at a different location than the first monitoring sensor.
- the data of both monitoring sensors are in the
- the data collected by the monitoring sensors can be used for a
- EP 1 333 306 B1 describes a stereo microscopy method and a stereo microscope system for producing stereoscopic representations of an object, so that a spatial impression of the object is created when viewing the representations by a user.
- the stereo microscope system includes among others a detector arrangement with two cameras, which are arranged at a distance from each other so that they can each take a picture of an area of a surface of the object. Due to the distance between the two cameras, the area is taken from different angles.
- a three-dimensional data model of the observed object can be generated by means of a suitable software. There are various methods of generating
- Epipolar geometry is a model of geometry that describes the geometric relationships between different ones
- RANdomSAmpleConsensus (RANSAC) algorithm used to determine homologous points between two camera images. Homologous are the two pixels that make up an individual
- the result of an automatic analysis usually contains a larger number
- WO 2015 185538 AI describes a method and a
- Microscope taken pictures The method requires at least three two-dimensional images taken at three different viewing angles between the sample plane and the optical axis.
- the preferred ones are:
- Viewing angles are between 0.5 ° and 15 °.
- Images require contrasting changes (coloring, tilting). According to the method, a determination of
- the recorded image data are used for generation three-dimensional images of the sample.
- the system uses a spatial light modulator to vary the illumination angles or detection angles. The selectivity of the angle is limited by the opening angle of the detection and
- Light modulator is arranged in the rear focal plane or in the equivalent to this conjugate plane.
- US 8,212,915 Bl discloses a method and apparatus for focussing images viewed through microscopes, binoculars and telescopes using the
- the device utilizes a relay lens assembly for a wide field imaging system.
- the arrangement should have an adjustable focal length lens, ⁇ example, a fluid lens.
- Stereoscopic EDoF images can be generated by placing a camera and relay lens assembly around the two eyepieces.
- the product includes u. a. a LED ring light, a coaxial light, a
- the focusing can be changed with a frequency of 1 to 10 kHz and more.
- a mirror array lens system called a MALS module is used. MALS stands for Mirror Array Lens
- the object of the present invention is to provide a method for producing a three-dimensional model of a sample with higher accuracy, fewer hidden areas and greater depth of field
- Microscope includes steps described below. First, several frames of the sample at different
- Focal plane was also referred to as a focus stack.
- the frames comprise at least a portion of the sample.
- a perspective is given by the angle and position of the optical axis of the lens relative to the sample and by the angular distribution of the illumination radiation relative to the sample.
- the former steps are subsequently repeated at least once with a different perspective for the given area of the sample.
- Position of the optical axis of the lens to be changed relative to the sample It is also possible to change only the angle and / or the position of the illumination radiation relative to the sample.
- the parameters of lens and lighting can also both are changed.
- individual images of a region of the sample are taken with at least two different perspectives. From the recorded individual images of the region of the sample, a three-dimensional model of the sample or of the region of the sample is subsequently calculated.
- Depth of field or a height map can be calculated.
- the calculated image with extended depth of field or the calculated height map is stored with information about the perspective used in a memory. The following is calculated from the calculated images with extended depth of field or
- Elevation map calculates the three-dimensional model of the area of the sample.
- the procedure can be carried out for the complete sample or for several areas of the sample. From the
- Three-dimensional models of the individual areas can then be used to determine a three-dimensional model of the sample.
- optical actuator which is designed as a microsystem with mechanically movable micromirrors for receiving an extended depth of field, the Use come.
- the optical actuator can as
- Micro mirror array be formed. This forms an optical element whose optical properties can be changed very quickly.
- the micromirror array forms a fesnel lens whose focal length can be varied.
- Two-dimensional images are used, which are based for example on stereogrammetry or Epipolargeometrie. These algorithms are well-known to the person skilled in the art, so that at this point only brief consideration is given to the algorithms and detailed explanations can be dispensed with.
- 3D reconstruction using epipolar geometry fitting points between the images taken for the calculation of the fundamental matrix between the
- the customization points can be either user-assisted or user-defined
- Microscope device can be precalculated. SD reconstruction using stereogrammetry is similar to human stereoscopic vision. Here are
- perspective distortions in the images which are taken from two pixels or more used.
- a significant advantage of the method according to the invention is that the accuracy of the three-dimensional model present as a result of the method according to the invention can be improved and the number of hidden areas can be reduced. There is a dependency on the number of perspectives. With increasing number of
- the method should preferably use more than two perspectives in order to be as accurate as possible
- Microscopy the depth of field of the captured images is limited by nature and is usually in the micro or
- Elevation maps are available. Using the like
- Image data obtained can then be proven techniques and
- Algorithms from computer vision applications of the macrowout can be used to produce high quality three-dimensional models, now also in the field of microscopy.
- Model of the sample eliminated by applying an estimation algorithm As an estimation algorithm, for example, the
- RANSAC algorithm or similar algorithm are used. By eliminating the defective pixels, the quality of the three-dimensional model can be further improved.
- Execution uses a sample table, which in X- and / or Y- Direction is movable and / or rotatable or tiltable.
- the sample table can be manually moved to the desired position.
- the use of a motorized sample table has been particularly in terms of
- the different perspectives can alternatively also be realized by pivoting a microscope stand, an image sensor or an optical axis.
- the pivoting is done either manually or by means of a suitable
- the different lighting perspectives are preferably realized by a sequential illumination of the sample. For this example, as a
- the ring light illumination preferably comprises a plurality of light sources, preferably in the form of LEDs, which are arranged at the same or at different distances from the sample. At each illumination perspective, the relative position of the illumination source to the sample remains unchanged during the acquisition of the individual images of the sample.
- the bulbs can be controlled independently of each other.
- the horizontal angle for illuminating the sample can be varied by selecting the lamps preferably from 0 to 360 ° C.
- the shading detected in the recorded images is preferably used.
- a particularly accurate three - dimensional model of the sample with little hidden areas can be obtained by combining the achieve different methods for realizing the different perspectives and the different algorithms for calculating the three-dimensional models from the calculated images with extended depth of field or the calculated height maps.
- Algorithms are preferably applied to an estimation algorithm, such as RANSAC, to eliminate erroneously computed pixels.
- the calculated three-dimensional models are finally combined to form a final model.
- RANSAC estimation algorithm
- the different weighting of the determined pixels can, for example, in
- the digital microscope according to the invention is characterized in that it is configured to carry out the described method. So the digital microscope can be equipped with a swiveling microscope stand to adjust the field of view. An optical unit of the microscope is preferably height-adjustable for the realization of different focus positions.
- the digital microscope may alternatively or additionally be equipped with a traversable in the X and / or Y-direction and / or rotatable and / or tiltable sample table.
- digital microscopes are suitable with Lighting modules whose lighting direction and lighting angle can be controlled to a
- FIG. 1 shows a schematic representation of a first
- Embodiment of a digital microscope which for carrying out a method according to the invention
- Fig. 2 a schematic representation of a second
- Fig. 3 a schematic representation of a third
- Embodiment of the digital microscope which can be used to carry out the method according to the invention.
- FIG. 1 shows a schematic representation of a first
- FIG. 1 shows an optical unit 02 and a sample table 03 serving to receive a sample 09.
- Optic unit 02 is preferably designed as a lens.
- the sample 09 can, as shown in Fig. 1 centrally on the
- Sample table 03 may be arranged.
- the sample 09 may also be positioned differently on the sample table 03.
- an angle ⁇ is spanned.
- the angle ⁇ can be adjusted to change the perspective of the optical unit 02 in this way.
- the optical unit 02 preferably via an optical unit carrying,
- the angle ⁇ can alternatively also by tilting the
- Sample table 03 can be varied.
- a sample plane generally runs perpendicular to the optical axis 04 or parallel to the sample table 03.
- the optical unit 02 may comprise optical components and an image sensor in the so-called Scheimpflug arrangement. In this case, the sample plane runs parallel to the sample table 03 for all angles ⁇ .
- the angle ⁇ is changed several times in order to record images of the sample 09 with different perspectives.
- the angle ⁇ is changed several times in order to record images of the sample 09 with different perspectives.
- the extended depth of field (EDoF) achievable by the focus variation is possible compared to that without focus variation Depth of field (DoF) drawn.
- the described method for producing a three-dimensional model of a sample was successfully tested by taking the sample at the following angles ⁇ : -45 °, -30 °, -15 °, 0 °, 15 °, 30 ° and 45 °. From the recorded individual images, an image with extended depth of field or a height map can subsequently be calculated for each perspective. The calculated image with extended depth of field or the height map is stored with information about the perspective used in a memory. From the calculated images with extended
- Depth of field or the height maps can then be calculated a three-dimensional model of the sample.
- the three-dimensional model of the sample can be taken directly from those taken for the different perspectives
- optical unit 02 uses an optical actuator, which is designed as a microsystem with mechanically movable micromirrors for receiving an extended depth of field.
- optical actuator which is designed as a microsystem with mechanically movable micromirrors for receiving an extended depth of field.
- MALS module for example, the above-described "MALS module” from SD Optics Inc. can be used as an optical actuator
- a MALS module can be designed, for example, as a Fresnel lens, as described, for example, in WO 2005/119331
- A1 Fresnel lens is formed by a plurality of micromirrors, and by changing the position of the micromirrors, the focal length of the Fresnel lens can be changed very quickly fast change of the focal length allows a very fast adjustment of the focal plane to be imaged. It will be like this
- Fig. 2 shows a schematic representation of a second
- the sample table 03 can be moved at least in the X direction to change the position of the sample 09 relative to the optical axis 04 and recordings of different areas of the sample 09 in the field of view of
- Center of the sample 09 perpendicular to the sample table extending plane 05 is in the position shown on the left
- FIG. 3 shows a schematic representation of a third
- Embodiment of the microscope Ol. This embodiment uses a ring light illumination 07, the light cone 08 for
- the ring light illumination 07 is shown in detail in FIG. 4
- the lighting means 10 are preferably designed as LEDs.
- Fig. 4 shows three figures with three different switching states of
- altitude maps can be calculated.
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Microscoopes, Condenser (AREA)
Abstract
Die vorliegende Erfindung betrifft ein Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe (09) unter Verwendung eines Mikroskops (01) folgende Schritte umfassend: Vorgeben einer Perspektive zur Aufnahme von Bildern zumindest eines Bereichs der Probe (09), wobei die Perspektive durch den Winkel und die Position der optischen Achse des Objektivs relativ zur Probe und durch die Winkelverteilung der Beleuchtungsstrahlung relativ zur Probe vorgegeben wird; Aufnehmen von mehreren Einzelbildern des Bereichs der Probe (09) an verschiedenen Fokuspositionen aus der vorgegebenen Perspektive; Wiederholen der vorhergehenden Schritte für den zumindest einen Bereich der Probe (09) mit zumindest einer weiteren unterschiedlichen Perspektive; Berechnen eines dreidimensionalen Modells des Bereichs der Probe (09) aus den aufgenommenen Einzelbildern des Bereichs der Probe (09). Die Erfindung betrifft weiterhin ein digitales Mikroskop, welches zur Ausführung des erfindungsgemäßen Verfahrens konfiguriert ist.
Description
Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe in einem digitalen Mikroskop und digitales Mikroskop
Die vorliegende Erfindung betrifft ein Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe in einem digitalen
Mikroskop. Weiterhin betrifft die Erfindung ein digitales Mikroskop, mit welchem das erfindungsgemäße Verfahren
durchführbar ist. Bei digitalen Mikroskopen erfolgt bekanntlich eine
elektronische Bildwandlung, wobei das aufgenommene Bild in Form von digitalen Daten weiterverarbeitet und zur Anzeige auf einer elektronischen Bildwiedergabeeinrichtung gebracht wird. Ein wichtiges Aufgabengebiet in der Mikroskopie ist die
Erzeugung dreidimensionaler Modelle einer beobachteten Probe. Die zur 3D-Rekonstruktion bislang eingesetzten
Erfassungsmethoden und Rekonstruktionsalgorithmen, wie
beispielsweise Fokusvariationen, weisen eine große Anzahl von verdeckten Bereichen auf, in denen Informationen über das mikroskopierte Objekt aufgrund der Beschränkungen der
Bildaufnahmeverfahren nicht zur Verfügung stehen.
In der DE 10 2014 006 717 AI ist ein Verfahren zur Erzeugung einer dreidimensionalen Information eines Objektes in einem
Digitalmikroskop beschrieben. Bei diesem Verfahren wird zunächst ein Bild für jeweils eine Fokusposition aufgenommen. Das Bild wird mit der zugehörigen Fokusposition in einem
Bildstapel abgelegt. Die vorhergehenden Schritte werden an verschiedenen Fokuspositionen wiederholt. Aus den
Einzelbildern wird ein Bild mit erweiterter Schärfentiefe (EDOF-Bild) berechnet. Im Prozess der Berechnung des EDOF- Bildes wird eine Anzahl an Pixeldefekten detektiert.
Abschließend erfolgt die Berechnung einer Höhenkarte oder eines 3D-Modells.
Die EP 2 793 069 AI zeigt ein Digitalmikroskop mit einer
Optikeinheit und einer digitalen Bildverarbeitungseinheit, welche an einem Mikroskopstativ angeordnet sind. Ein weiterer Bestandteil des Digitalmikroskops ist ein Bildsensor zur
Erfassung eines Bildes einer auf einem Probentisch
anzuordnenden Probe. Das Digitalmikroskop umfasst weiterhin mindestens einen ersten Überwachungssensor zur Beobachtung der
Probe, des Probentisches, der Optikeinheit oder eines
Benutzers sowie eine Überwachungseinheit. In der
Überwachungseinheit werden Daten des Überwachungssensors automatisiert ausgewertet und zur automatischen Steuerung des Digitalmikroskops herangezogen. Das Digitalmikroskop kann einen zweiten Überwachungssensor aufweisen, welcher an einem anderen Ort als der erste Überwachungssensor angeordnet ist. Die Daten beider Überwachungssensoren werden in der
Überwachungseinheit zu einer dreidimensionalen
Überblicksinformation verarbeitet. Des Weiteren können die von den Überwachungssensoren erfassten Daten für eine
Grobpositionierung des Probentisches bzw. für eine
automatische Einstellung eines Fokus des Objektivs Verwendung finden .
Die EP 1 333 306 Bl beschreibt ein Stereo-Mikroskopieverfahren und ein Stereo-Mikroskopsystem zur Erzeugung stereoskopischer Darstellungen eines Objektes, so dass beim Betrachten der Darstellungen durch einen Benutzer ein räumlicher Eindruck von dem Objekt entsteht. Hierzu werden dem linken Auge und dem rechte Auge des Benutzers verschiedene Darstellungen des Objektes aus unterschiedlichen Blickrichtungen auf das Objekt zugeführt. Das Stereo-Mikroskopsystem umfasst unter anderem
eine Detektoranordnung mit zwei Kameras, welche mit Abstand voneinander derart angeordnet sind, dass sie jeweils ein Bild von einem Bereich einer Oberfläche des Objektes aufnehmen können. Aufgrund des Abstandes der beiden Kameras voneinander wird der Bereich aus verschiedenen Blickwinkeln aufgenommen.
Aus den von den Kameras gelieferten Daten kann mittels einer geeigneten Software ein dreidimensionales Datenmodell des beobachteten Objektes generiert werden. Es sind verschiedene Verfahren zur Erzeugung von
dreidimensionalen Modellen aus mehreren Bildern bekannt.
Kimura, Makoto und Hideo Saito beschreiben im Fachartikel "3D reconstruction based on epipolar geometry." in IEICE
RANSAC IONS on Information and Systems 84.12 (2001): 1690- 1697, die 3D-Rekonstruktion mittels Epipolargeometrie. Die
Epipolargeometrie ist ein Modell aus der Geometrie, welches die geometrischen Beziehungen zwischen verschiedenen
Kamerabildern desselben Objekts darstellt. In der Bildverarbeitung wird der bekannte
RANdomSAmpleConsensus (RANSAC) -Algorithmus zur Bestimmung von homologen Punkten zwischen zwei Kamerabildern eingesetzt. Homolog sind die zwei Bildpunkte, die ein einzelner
Objektpunkt in den beiden Kamerabildern erzeugt. Das Resultat einer automatischen Analyse enthält meist eine größere Anzahl
Fehlzuordnungen. Mittels RANSAC sollen Fehlzuordnungen ausgeschlossen werden. Bei der Epipolargeometrie dient RANSAC zur Bestimmung der Fundamentalmatrix, die die geometrische Beziehung zwischen den Bildern beschreibt. Vom Department of Engineering Science, The University of Oxford wurde in der
Veröffentlichung „Automatic Estimation of Epipolar Geometry" die Verwendung von RANSAC bei der Epipolargeometrie
beschrieben
(http : //www .robots.ox.ac.uk/~az/tutorials/tutorialb. pdf) .
Scharstein, D. und Szeliski, R. befassen sich im Fachartikel „A taxonomy and evaluation of dense two-frame Stereo
correspondence algorithms." in International Journal of
Computer Vision, 47(l):7-42, Mai 2002, mit einer Taxonomy und Bewertung von Stereo-Korrespondenz-Algorithmen. Frankot, R. T. und Chellappa, R. beschreiben im Fachartikel "A method for enforcing integrability in shape from shading
Algorithms. Pattern Analysis and Machine Intelligence" in IEEE Transactions on, 10 (4) : 439-451, 1988, die Integrierbarkeit von Shading-Algorithmen .
Die WO 2015 185538 AI beschreibt ein Verfahren und eine
Software zur Berechnung dreidimensionaler
Oberflächentopologiedaten aus zweidimensionalen, mittels
Mikroskop aufgenommenen Bildern. Das Verfahren benötigt mindestens drei zweidimensionale Bilder, welche mit drei verschiedenen Betrachtungswinkeln zwischen der Probenebene und der optischen Achse aufgenommen werden. Die bevorzugten
Betrachtungswinkel liegen zwischen 0,5° und 15°. In den
Bildern sind kontrastierende Veränderungen (Einfärben, Neigen) erforderlich. Verfahrensgemäß erfolgt eine Bestimmung der
Probenneigung und der Probenposition im Zusammenhang mit der Schärfentiefenbestimmung. Die beschriebenen Beispiele nutzen mit Rasterelektronenmikroskopen aufgenommene Bilddaten. Die US 2016/091707 A zeigt ein Mikroskopsystem für die
Chirurgie. Mit dem System können Bilder von Proben mit
verschiedenen Betrachtungswinkeln / Perspektiven aufgenommen werden. Die aufgenommenen Bilddaten dienen zur Erzeugung
dreidimensionaler Bilder der Probe. Das System nutzt einen räumlichen Lichtmodulator zur Variation der Beleuchtungswinkel bzw. Erfassungswinkel. Die Selektivität der Winkel wird begrenzt durch die Öffnungswinkel der zur Erfassung und
Beleuchtung verwendeten Optiken. Auf Möglichkeiten zur
Realisierung größerer Winkel wird nicht eingegangen. Der
Lichtmodulator ist in der hinteren Brennebene oder in der äquivalent zu dieser konjugierten Ebene angeordnet. Die US 8,212,915 Bl zeigt ein Verfahren und eine Vorrichtung zum Fokussieren von Bildern, die durch Mikroskope, Ferngläser und Teleskope betrachtet werden, unter Nutzung der
Fokusvariation. Die Vorrichtung nutzt eine Relaislinsenanordnung für ein Weitfeldbildgebungssystem. Die Anordnung soll eine einstellbare Brennweitenlinse aufweisen, beispiels¬ weise eine Fluidlinse. Es können stereoskopische EDoF-Bilder erzeugt werden, indem eine Kamera- und Relaislinsenanordnung im Umfeld der beiden Okulare angeordnet wird. Das am Markt erhältliche Produkt „3D WiseScope microscope" des
Herstellers SD Optics Inc. ermöglicht eine schnelle Erzeugung von makroskopischen und mikroskopischen Bildern, welche eine erweiterte Schärfentiefe aufweisen. Das Produkt umfasst u. a. eine LED-Ringbeleuchtung, eine Koaxialbeleuchtung, eine
Durchlichtbeleuchtung, einen Kreuztisch, Objektive mit 5, 10,
20 und 50-facher Vergrößerung sowie eine manuelle
Fokussierung . Die Fokussierung kann mit einer Frequenz von 1 bis 10 kHz und mehr verändert werden. Zur Realisierung der EDoF-Funktionalität dient ein als MALS-Modul bezeichnetes Spiegel-Array-Linsensystem. MALS steht für Mirror Array Lens
System. Details dieser Systeme sind beispielsweise in den Offenlegungsschriften WO 2005/119331 AI und WO 2007/134264 AI offenbart .
Die Aufgabe der vorliegenden Erfindung besteht ausgehend vom Stand der Technik darin, ein Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe mit höherer Genauigkeit, weniger verdeckten Bereichen und größerer Schärfentiefe zur
Verfügung zu stellen. Insbesondere sollen dabei größere, robustere 3D-Modelle realisierbar sein. Weiterhin soll ein Mikroskop, mit welchem das Verfahren durchführbar ist,
bereitgestellt werden.
Zur Lösung der erfindungsgemäßen Aufgabe dient ein Verfahren gemäß Anspruch 1 sowie ein digitales Mikroskop gemäß dem beigefügten nebengeordneten Anspruch 14. Das erfindungsgemäße Verfahren zur Erzeugung eines
dreidimensionalen Modells einer Probe in einem digitalen
Mikroskop umfasst nachfolgend beschriebene Schritte. Zunächst werden mehrere Einzelbilder der Probe an verschiedenen
Fokuspositionen mit einer Perspektive aufgenommen. Eine derartige Folge von Bildern, welche in unterschiedlichen
Fokusebenen aufgenommen wurde, wird auch als Fokus-Stapel bezeichnet. Die Einzelbilder umfassen zumindest einen Bereich der Probe. Eine Perspektive wird durch den Winkel und die Position der optischen Achse des Objektivs relativ zur Probe und durch die Winkelverteilung der Beleuchtungsstrahlung relativ zur Probe vorgegeben. Die erstgenannten Schritte werden nachfolgend für den vorgegebenen Bereich der Probe zumindest einmal mit einer anderen Perspektive wiederholt. Zur Veränderung der Perspektive kann der Winkel und/oder die
Position der optischen Achse des Objektivs relativ zur Probe geändert werden. Es kann auch nur der Winkel und/oder die Position der Beleuchtungsstrahlung relativ zur Probe geändert werden. Die Parameter von Objektiv und Beleuchtung können auch
beide geändert werden. Auf diese Weise werden Einzelbilder eines Bereichs der Probe mit mindestens zwei verschiedenen Perspektiven aufgenommen. Aus den aufgenommenen Einzelbildern des Bereichs der Probe wird anschließend ein dreidimensionales Modell der Probe bzw. des Bereichs der Probe berechnet.
Gemäß einer vorteilhaften Ausführungsform kann bei der
Berechnung des dreidimensionalen Modells zunächst aus den für jede vorgegebene Perspektive aufgenommenen Einzelbildern des Bereichs der Probe jeweils ein Bild mit erweiterter
Schärfentiefe oder eine Höhenkarte berechnet werden. Das jeweils berechnete Bild mit erweiterter Schärfentiefe oder die berechnete Höhenkarte wird mit Angaben über die verwendete Perspektive in einem Speicher abgelegt. Nachfolgend wird aus den berechneten Bildern mit erweiterter Schärfentiefe oder der
Höhenkarte das dreidimensionale Modell des Bereichs der Probe berechnet .
Das Verfahren kann für die vollständige Probe oder für mehrere Bereiche der Probe durchgeführt werden. Aus den
dreidimensionalen Modellen der einzelnen Bereiche kann dann ein dreidimensionales Modell der Probe ermittelt werden.
Bevorzugt werden hierzu dreidimensionale Modelle von
benachbarten Bereichen ermittelt, die sich im Randbereich überlappen.
Die Reihenfolge der Schritte des Verfahrens kann variiert werden . In einer Ausgestaltung der Erfindung kann zur schnellen
Aufnahme von Fokusstapeln ein optischer Aktuator, welcher als ein Mikrosystem mit mechanisch beweglichen Mikrospiegeln zur Aufnahme einer erweiterten Schärfentiefe ausgebildet ist, zum
Einsatz kommen. Der optische Aktuator kann als
Mikrospiegelarray ausgebildet sein. Diese bildet ein optisches Element, dessen optische Eigenschaften sehr schnell verändert werden können. In einer Variante dieser Ausführungsform bildet das Mikrospiegelarray eine Fesnel-Linse, dessen Brennweite variiert werden kann.
Zur Berechnung des dreidimensionalen Modells der Probe kommen bekannte Algorithmen zur 3D-Rekonstruktion aus
zweidimensionalen Bildern zum Einsatz, welche beispielsweise auf der Stereogrammetrie oder der Epipolargeometrie basieren. Diese Algorithmen sind dem Fachmann hinlänglich bekannt, so dass an dieser Stelle nur kurz auf die Algorithmen eingegangen wird und auf ausführliche Erläuterungen verzichtet werden kann. Bei der 3D-Rekonstruktion mittels Epipolargeometrie werden Anpassungspunkte zwischen den aufgenommenen Bildern für die Berechnung der Fundamentalmatrix zwischen den
Kamerapositionen sowie für die metrische Rekonstruktion der Probe verwendet. Die Anpassungspunkte können entweder durch den Benutzer (benutzerassistiert) oder automatisch durch
Algorithmen, wie RANSAC eingegeben werden. Die
Fundamentalmatrix kann auch während der Kalibrierung der
Mikroskopvorrichtung vorberechnet werden. Die SD- Rekonstruktion mit Hilfe der Stereogrammetrie ähnelt dem menschlichen steroskopischen Sehen. Hierbei werden
perspektivische Verzerrungen in den Bildern, welche aus zwei Bildpunkten oder mehr entnommen werden, genutzt.
Ein wesentlicher Vorteil des erfindungsgemäßen Verfahrens besteht darin, dass sich die Genauigkeit des im Ergebnis des erfindungsgemäßen Verfahrens vorliegenden dreidimensionalen Modells verbessert und die Anzahl der verdeckten Bereiche reduziert werden kann. Hierbei besteht eine Abhängigkeit von
der Anzahl der Perspektiven. Mit steigender Anzahl der
Perspektiven erhöht sich die Genauigkeit des dreidimensionalen Modells, während die Anzahl der verdeckten Bereiche abnimmt. Aus diesem Grund sollte das Verfahren vorzugsweise mehr als zwei Perspektiven nutzen, um ein möglichst genaues
dreidimensionales Modell realisieren zu können. In der
Mikroskopie ist die Schärfentiefe der aufgenommenen Bilder von Natur aus limitiert und liegt zumeist im Mikro- oder
Nanometerbereich . Dies hat zur Folge, dass bekannte
dreidimensionale Rekonstruktionsverfahren aus makroskopischen
Anwendungen oft nur schlechte Ergebnisse liefern. Aus diesem Grund werden beim erfindungsgemäßen Verfahren Einzelbilder der Probe an verschiedenen Fokuspositionen aufgenommen. Hieraus ergibt sich, dass für die Berechnung des dreidimensionalen Modells der Probe Bilder mit erweiterter Schärfentiefe bzw.
Höhenkarten zur Verfügung stehen. Unter Nutzung der so
gewonnenen Bilddaten können dann bewährte Techniken und
Algorithmen aus Computer Visions-Anwendungen der Makroweit zur Erzeugung qualitativ hochwertiger dreidimensionaler Modelle verwendet werden, nun auch im Bereich der Mikroskopie.
Gemäß einer besonders bevorzugten Ausführungsform werden die fehlerhaft berechneten Bildpunkte des dreidimensionalen
Modells der Probe durch Anwendung eines Schätzalgorithmus eliminiert. Als Schätzalgorithmus kann beispielsweise der
RANSAC-Algorithmus oder ein ähnlicher Algorithmus zum Einsatz kommen. Durch die Beseitigung der fehlerhaften Bildpunkte kann die Qualität des dreidimensionalen Modells weiter verbessert werden .
Für die Realisierung der verschiedenen Perspektiven stehen mehrere Möglichkeiten zur Verfügung. Eine vorteilhafte
Ausführung nutzt einen Probentisch, welcher in X- und/oder Y-
Richtung verfahrbar ist und/oder drehbar oder neigbar ist. Der Probentisch kann im einfachsten Fall manuell in die gewünschte Position gebracht werden. Die Verwendung eines motorisierten Probentisches hat sich insbesondere hinsichtlich der
Optimierung von Verfahrensabläufen als zweckmäßig erwiesen.
Die verschiedenen Perspektiven können alternativ auch durch Verschwenken eines Mikroskopstatives , eines Bildsensors oder einer optischen Achse realisiert werden. Das Verschwenken erfolgt entweder manuell oder mittels einer geeigneten
AntriebsVorrichtung .
Gemäß einer besonders bevorzugten Ausführung sind die
verschiedenen Perspektiven als Beleuchtungsperspektiven ausgebildet. Die verschiedenen Beleuchtungsperspektiven werden bevorzugt durch eine sequentielle Beleuchtung der Probe realisiert. Hierzu kann beispielsweise eine als
Ringlichtbeleuchtung ausgebildete Beleuchtungsquelle zum
Einsatz kommen. Die Ringlichtbeleuchtung umfasst vorzugsweise mehrere Leuchtmittel, bevorzugt in Form von LEDs, welche im gleichen oder mit unterschiedlichem Abstand zu der Probe angeordnet werden. Bei jeder Beleuchtungsperspektive bleibt während der Aufnahme der Einzelbilder der Probe die relative Position der Beleuchtungsquelle zu der Probe unverändert. Die Leuchtmittel können unabhängig voneinander angesteuert werden.
Der Horizontalwinkel zur Beleuchtung der Probe kann durch Auswahl der Leuchtmittel bevorzugt von 0 bis 360°C variiert werden. Zur Berechnung des dreidimensionalen Modells der Probe wird vorzugsweise die in den aufgenommen Bildern erfasste Schattierung genutzt.
Ein besonders genaues dreidimensionales Modell der Probe mit wenig verdeckten Bereichen lässt sich durch Kombination der
verschiedenen Methoden zur Realisierung der unterschiedlichen Perspektiven und der verschiedenen Algorithmen zur Berechnung der dreidimensionalen Modelle aus den berechneten Bildern mit erweiterter Schärfentiefe oder den berechneten Höhenkarten erreichen. Hierzu werden mindestens zwei dreidimensionale
Modelle der Probe berechnet, wobei die verschiedenen
Perspektiven für jedes der dreidimensionalen Modelle auf verschiedene Art realisiert werden und/oder zur Berechnung jedes der dreidimensionalen Modelle ein unterschiedlicher Algorithmus zum Einsatz kommt. Die Ergebnisse jedes
Algorithmus werden vorzugsweise einem Schätzalgorithmus, wie beispielsweise RANSAC, zugeführt, um fehlerhaft berechnete Bildpunkte zu beseitigen. Die berechneten dreidimensionalen Modelle werden abschließend zu einem Endmodell kombiniert. In diesem Zusammenhang hat es sich als vorteilhaft erwiesen, eine gewichtete Bewertung der berechneten dreidimensionalen
Bildpunkte des Endmodells vorzunehmen. Die unterschiedliche Wichtung der ermittelten Bildpunkte kann zum Beispiel in
Abhängigkeit von dem zur Berechnung des jeweiligen Bildpunktes jeweils verwendeten Algorithmus, der vorliegenden Beleuchtung, der gewählten Vergrößerungsstufe und anderer objektiver
Merkmale erfolgen.
Das erfindungsgemäße digitale Mikroskop zeichnet sich dadurch aus, dass es zur Ausführung des beschriebenen Verfahrens konfiguriert ist. So kann das digitale Mikroskop mit einem verschwenkbaren Mikroskopstativ ausgestattet sein, um das Sichtfeld zu verstellen. Eine Optikeinheit des Mikroskops ist vorzugsweise höhenverstellbar zur Realisierung verschiedener Fokuspositionen. Das digitale Mikroskop kann alternativ oder ergänzend mit einem in X- und/oder Y-Richtung verfahrbaren und/oder drehbaren und/oder neigbaren Probentisch ausgestattet sein. Des Weiteren eignen sich digitale Mikroskope mit
Beleuchtungsmodulen, deren Beleuchtungsrichtung und Beleuchtungswinkel gesteuert werden können, um eine
sequentielle Beleuchtung der Probe realisieren zu können. Weitere Einzelheiten und Weiterbildungen der Erfindung ergeben sich aus der nachfolgenden Beschreibung bevorzugter
Ausführungsformen, unter Bezugnahme auf die Zeichnung. Es zeigen : Fig. 1: eine schematische Darstellung einer ersten
Ausführungsform eines digitalen Mikroskops, welches zur Ausführung eines erfindungsgemäßen Verfahrens
einsetzbar ist;
Fig. 2: eine schematische Darstellung einer zweiten
Ausführungsform des digitalen Mikroskops, welches zur
Ausführung des erfindungsgemäßen Verfahrens einsetzbar ist ;
Fig. 3: eine schematische Darstellung einer dritten
Ausführungsform des digitalen Mikroskops, welches zur Ausführung des erfindungsgemäßen Verfahrens einsetzbar ist ;
Fig. drei Schaltzustände einer Ringlichtbeleuchtung des
digitalen Mikroskops, welches zur Ausführung eines erfindungsgemäßen Verfahrens einsetzbar ist.
Die in den Figuren dargestellten Einzelheiten sind als solche zwar aus dem Stand der Technik bekannt, jedoch können die entsprechenden Vorrichtungen durch Anwendung der Erfindung neuartig und mit größerem Funktionsumfang betrieben werden.
Fig. 1 zeigt eine schematische Darstellung einer ersten
Ausführungsform eines digitalen Mikroskops Ol, welches zur Ausführung eines erfindungsgemäßen Verfahrens einsetzbar ist. In Fig. 1 ist eine Optikeinheit 02 und ein zur Aufnahme einer Probe 09 dienender Probentisch 03 dargestellt. Die
Optikeinheit 02 ist vorzugsweise als Objektiv ausgebildet. Die Probe 09 kann, wie in Fig. 1 dargestellt zentral auf dem
Probentisch 03 angeordnet sein. Alternativ kann die Probe 09 auf dem Probentisch 03 auch andersartig positioniert sein. Zwischen einer optischen Achse 04 der Optikeinheit 02 und einer senkrecht zu dem Probentisch 03 verlaufenden Ebene 05 ist ein Winkel Θ aufgespannt. Der Winkel Θ kann verstellt werden, um auf diese Weise die Perspektive der Optikeinheit 02 zu ändern. Zum Verstellen des Winkels Θ kann die Optikeinheit 02, vorzugsweise über ein die Optikeinheit tragendes,
neigbares Mikroskopstativ (nicht gezeigt), verstellt werden. Der Winkel Θ kann alternativ auch durch Neigen des
Probentisches 03 variiert werden. Eine Probenebene verläuft in der Regel senkrecht zu der optischen Achse 04 oder parallel zu dem Probentisch 03. Die Optikeinheit 02 kann optische Bauelemente und einen Bildsensor in der sogenannten Scheimpflug-Anordnung umfassen. In diesem Fall verläuft die Probenebene für alle Winkel Θ parallel zu dem Probentisch 03.
Während der Durchführung des erfindungsgemäßen Verfahrens wird der Winkel Θ mehrmals geändert, um Bilder der Probe 09 mit verschiedenen Perspektiven aufzunehmen. Hierbei werden für jede Perspektive mehrere Einzelbilder der Probe an
verschiedenen Fokuspositionen aufgenommen. In Fig. 1 ist die durch die Fokusvariation erreichbare erweiterte Schärfentiefe (EDoF) im Vergleich zu der ohne Fokusvariation möglichen
Schärfentiefe (DoF) eingezeichnet. Das erläuterte Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe wurde erfolgreich getestet, indem die Probe mit folgenden Winkeln Θ aufgenommen wurde: -45°, -30°, -15°, 0°, 15°, 30° und 45°. Aus den aufgenommenen Einzelbildern kann nachfolgend für jede Perspektive ein Bild mit erweiterter Schärfentiefe oder eine Höhenkarte berechnet werden. Das jeweils berechnete Bild mit erweiterter Schärfentiefe oder die Höhenkarte wird mit Angaben über die verwendete Perspektive in einem Speicher abgelegt. Aus den berechneten Bildern mit erweiterter
Schärfentiefe oder den Höhenkarten kann anschließend ein dreidimensionales Modell der Probe berechnet werden.
Alternativ kann das dreidimensionale Modell der Probe direkt aus den für die verschiedenen Perspektiven aufgenommenen
Einzelbildern berechnet werden. In diesem Fall entfällt der
Schritt, dass zunächst aus den für jede Perspektive
aufgenommenen Einzelbildern jeweils ein Bild mit erweiterter Schärfentiefe oder eine Höhenkarte berechnet wird. Die
angegebenen Winkel Θ tragen lediglich beispielhaften
Charakter. Andere Winkel sind durchaus möglich.
Eine vorteilhafte Ausführungsform der Optikeinheit 02 nutzt einen optischen Aktuator, welcher als ein Mikrosystem mit mechanisch beweglichen Mikrospiegeln zur Aufnahme einer erweiterten Schärfentiefe ausgebildet ist. In dieser
Ausführungsform kann beispielsweise das oben beschriebene „MALS-Modul" der Firma SD Optics Inc. als optischer Aktuator Verwendung finden. Ein MALS-Modul kann beispielsweise als Fresnel-Linse ausgebildet sein, wie dies beispielsweise in der WO 2005/119331 AI beschrieben wird. Diese Fresnel-Linse wird aus einer Vielzahl von Mikrospiegeln gebildet. Durch eine Veränderung der Lage der Mikrospiegel kann auf sehr schnelle Weise die Brennweite der Fresnel-Linse verändert werden. Diese
schnelle Veränderung der Brennweite erlaubt eine sehr schnelle Einstellung der abzubildenden Fokusebene. So wird es
ermöglicht in kurzer Zeit eine Vielzahl von Aufnahmen in benachbarten Fokusebenen aufzunehmen.
Fig. 2 zeigt eine schematische Darstellung einer zweiten
Ausführungsform des digitalen Mikroskops Ol in zwei
unterschiedlichen Bildaufnahmepositionen. Bei dieser
Ausführungsform kann der Probentisch 03 zumindest in X- Richtung verschoben werden, um die Position der Probe 09 relativ zur optischen Achse 04 ändern zu können und Aufnahmen unterschiedlicher Bereiche der Probe 09 im Sichtfeld der
Optikeinheit 02 zu ermöglichen. In Fig. 2 sind zwei
verschieden positionierte Probentische 03 dargestellt. Der Abstand Xv zwischen der optischen Achse 04 und der durch das
Zentrum der Probe 09 senkrecht zum Probentisch verlaufenden Ebene 05 ist in der links dargestellten Position des
Probentisches 03 größer als in der rechts dargestellten
Position des Probentisches 03. Die Abstände Xv sind derart gewählt, dass sich die Aufnahmen der Probe in benachbarten
Bereichen überlappen. Für diese Überlappungsbereiche liegen dann Aufnahmen aus unterschiedlichen Perspektiven vor und die Berechnung von dreidimensionalen Modellen wird ermöglicht. Das erläuterte Verfahren zur Erzeugung eines dreidimensionalen
Modells einer Probe wurde mit folgenden Abständen zwischen der Ebene 05 und der optischen Achse 04 durchgeführt:
-20 mm, -10 mm, 0 mm, 10 mm, 20 mm. Auch hier erfolgt keine Einschränkung auf die genannten Abstände. In jeder Position des Probentisches 03 werden wiederum mehrere Einzelbilder der
Probe 09 an verschiedenen Fokuspositionen aufgenommen, um Bilder mit erweiterter Schärfentiefe (EDoF) oder Höhenkarten berechnen zu können.
Fig. 3 zeigt eine schematische Darstellung einer dritten
Ausführungsform des Mikroskops Ol. Diese Ausführung nutzt eine Ringlichtbeleuchtung 07, die einen Lichtkegel 08 zur
Beleuchtung der Probe 09 abgibt.
Die Ringlichtbeleuchtung 07 ist im Detail in Fig. 4
dargestellt. Sie umfasst mehrere Leuchtmittel 10, die
wahlweise eingeschaltet werden können, um eine sequentielle Beleuchtung der Probe 09 mit unterschiedlichen
Winkelverteilungen realisieren zu können. Die Leuchtmittel 10 sind vorzugsweise als LEDs ausgebildet. Fig. 4 zeigt drei Abbildungen mit drei verschiedenen Schaltzuständen der
Ringlichtbeleuchtung 07. Das im jeweiligen Schaltzustand eingeschaltete Leuchtmittel 10 ist schraffiert dargestellt. In jeder Beleuchtungssituation werden mehrere Einzelbilder der Probe 09 mit unterschiedlichen Fokuspositionen aufgenommen, wodurch auch hier eine erweiterte Schärfentiefe (EDoF)
erreicht werden kann bzw. Höhenkarten berechnet werden können.
Die anhand der Fig. 1 bis 3 erläuterten Verfahren können auch miteinander kombiniert werden.
Bezugszeichenliste - Mikroskop
- Optikeinheit
- Probentisch
- optische Achse
- senkrecht zum Probentisch verlaufende Ebene - - Ringlichtbeleuchtung
- Lichtkegel
- Probe
- Leuchtmittel
Claims
1. Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe (09) unter Verwendung eines Mikroskops (01), folgende Schritte umfassend:
a. Vorgeben einer Perspektive zur Aufnahme von Bildern
zumindest eines Bereichs der Probe (09), wobei die
Perspektive durch den Winkel und die Position der optischen Achse des Objektivs relativ zur Probe und durch die Winkelverteilung der Beleuchtungsstrahlung relativ zur Probe vorgegeben wird;
b. Aufnehmen von mehreren Einzelbildern des Bereichs der Probe (09) an verschiedenen Fokuspositionen aus der vorgegebenen Perspektive;
- Wiederholen der Schritte a. und b. für den zumindest einen Bereich der Probe (09) mit zumindest einer weiteren unterschiedlichen Perspektive, ;
- Berechnen eines dreidimensionalen Modells des Bereichs der Probe (09) aus den aufgenommenen Einzelbildern des Bereichs der Probe (09) .
2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass bei der Berechnung des dreidimensionalen Modells zunächst aus den für jede vorgegebene Perspektive aufgenommenen
Einzelbildern des Bereichs der Probe (09) jeweils ein Bild mit erweiterter Schärfentiefe oder eine Höhenkarte
berechnet wird, und dass nachfolgend aus den berechneten Bildern mit erweiterter Schärfentiefe oder der Höhenkarte das dreidimensionale Modell des Bereichs der Probe (09) berechnet wird.
3. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass fehlerhaft berechnete Bildpunkte des dreidimensionalen Modells der Probe (09) durch Anwendung eines
Schätzalgorithmus eliminiert werden.
4. Verfahren nach einem der Ansprüche 1 bis 3, dadurch
gekennzeichnet, dass das dreidimensionale Modell der Probe (09) unter Verwendung eines Stereogrammetriealgorithmus und/oder Epipolargeometriealgorithmus berechnet wird.
5. Verfahren nach einem der Ansprüche 1 bis 4, dadurch
gekennzeichnet, dass die verschiedenen Perspektiven durch Verschwenken eines Mikroskopstativs, eines Bildsensors oder einer optischen Achse realisiert werden.
6. Verfahren nach einem der Ansprüche 1 bis 4, dadurch
gekennzeichnet, dass die verschiedenen Perspektiven durch Verfahren eines Probentisches (03) in X- und/oder Y- Richtung und/oder Drehen und/oder Neigen des Probentisches (03) realisiert werden.
7. Verfahren nach Anspruch 6, dadurch gekennzeichnet, dass das Verschwenken des Probentisches (03) mittels einer
Antriebsvorrichtung erfolgt.
8. Verfahren nach einem der Ansprüche 1 bis 4, dadurch
gekennzeichnet, dass die verschiedenen Perspektiven als Beleuchtungsperspektiven ausgebildet sind, wobei die verschiedenen Beleuchtungsperspektiven durch sequentielle Beleuchtung der Probe (09) realisiert werden.
9. Verfahren nach Anspruch 8, dadurch gekennzeichnet, dass ein Horizontalwinkel zur Beleuchtung der Probe (09) von 0° bis 360° variierbar ist.
10. Verfahren nach Anspruch 8 oder 9, dadurch gekennzeichnet, dass die sequentielle Beleuchtung der Probe (09) mittels einer Ringlichtbeleuchtung (07) erfolgt.
11. Verfahren nach einem der Ansprüche 1 bis 10, dadurch
gekennzeichnet, dass mindestens zwei dreidimensionale
Modelle der Probe (09) berechnet werden, wobei die
verschiedenen Perspektiven für jedes der dreidimensionalen Modelle auf verschiedene Art realisiert werden und/oder zur Berechnung jedes der dreidimensionalen Modelle ein
unterschiedlicher Algorithmus zum Einsatz kommt, und dass die berechneten dreidimensionalen Modelle zu einem
Endmodell kombiniert werden.
12. Verfahren nach Anspruch 8, dadurch gekennzeichnet, dass eine gewichtete Bewertung der berechneten dreidimensionalen Bildpunkte des Endmodells erfolgt.
13. Verfahren nach einem der Ansprüche 1 bis 12, wobei zur
schnellen Aufnahme von mehreren Einzelbildern an
verschiedenen Fokuspositionen ein optischer Aktuator, welcher als ein Mikrosystem mit mechanisch beweglichen Mikrospiegeln ausgebildet ist, zum Einsatz kommt.
14. Digitales Mikroskop (01), dadurch gekennzeichnet, dass es zur Ausführung des Verfahrens nach einem der Ansprüche 1 bis 13 konfiguriert ist.
Digitales Mikroskop (Ol), nach Anspruch 14, aufweisend einen optischen Aktuator, welcher als ein Mikrosystem mit mechanisch beweglichen Mikrospiegeln zur Aufnahme einer erweiterten Schärfentiefe ausgebildet ist.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US16/473,793 US20190353886A1 (en) | 2017-01-09 | 2018-01-03 | Method for generating a three-dimensional model of a sample in a digital microscope and a digital microscope |
| CN201880005370.0A CN110168609A (zh) | 2017-01-09 | 2018-01-03 | 用于在数字显微镜中生成试样的三维模型的方法和数字显微镜 |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102017100262.6 | 2017-01-09 | ||
| DE102017100262.6A DE102017100262A1 (de) | 2017-01-09 | 2017-01-09 | Verfahren zur Erzeugung eines dreidimensionalen Modells einer Probe in einem digitalen Mikroskop und digitales Mikroskop |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2018127509A1 true WO2018127509A1 (de) | 2018-07-12 |
Family
ID=61024729
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/EP2018/050122 Ceased WO2018127509A1 (de) | 2017-01-09 | 2018-01-03 | Verfahren zur erzeugung eines dreidimensionalen modells einer probe in einem digitalen mikroskop und digitales mikroskop |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US20190353886A1 (de) |
| CN (1) | CN110168609A (de) |
| DE (1) | DE102017100262A1 (de) |
| WO (1) | WO2018127509A1 (de) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108833788A (zh) * | 2018-07-27 | 2018-11-16 | 苏州睿仟医疗科技有限公司 | 一种倾斜图像采集设备提高景深的自动聚焦装置及自动聚焦方法 |
| CN108989676A (zh) * | 2018-07-27 | 2018-12-11 | 苏州睿仟医疗科技有限公司 | 一种增加反射元件提高景深的自动聚焦装置及自动聚焦方法 |
| CN109102573A (zh) * | 2018-08-06 | 2018-12-28 | 百度在线网络技术(北京)有限公司 | 图像处理方法、装置和存储介质 |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102018133188A1 (de) * | 2018-12-20 | 2020-06-25 | Carl Zeiss Microscopy Gmbh | Abstandbestimmung einer probenebene in einem mikroskopsystem |
| JP7431527B2 (ja) * | 2019-08-07 | 2024-02-15 | キヤノン株式会社 | 深度情報生成装置、撮像装置、深度情報生成方法、画像処理装置、画像処理方法、及びプログラム |
| DE102019214879A1 (de) * | 2019-09-27 | 2021-04-01 | Carl Zeiss Microscopy Gmbh | Verfahren zum Reduzieren topologischer Artefakte in EDS-Analysen |
| DE102020126737A1 (de) | 2020-10-12 | 2022-04-14 | Carl Zeiss Microscopy Gmbh | Verfahren und Mikroskop zum Erzeugen eines Übersichtsbildes einer Probe |
| US11355307B1 (en) | 2020-12-08 | 2022-06-07 | Fei Company | 3D mapping of samples in charged particle microscopy |
| CN114690391A (zh) * | 2020-12-29 | 2022-07-01 | 光原科技(深圳)有限公司 | 光片荧光显微镜、图像处理系统和图像处理方法 |
| FR3123486A1 (fr) * | 2021-06-01 | 2022-12-02 | Squaremind | Procédé de construction d’une image à partir d’un dispositif optique à focale variable. |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2005119331A1 (en) | 2004-05-27 | 2005-12-15 | Stereo Display, Inc. | Variable focal length lens |
| WO2007134264A2 (en) | 2006-05-11 | 2007-11-22 | Stereo Display, Inc. | Micro mirror array lens with micro mirror adjustments to vary lens focal length |
| WO2007134739A1 (de) * | 2006-05-23 | 2007-11-29 | Carl Zeiss Microimaging Gmbh | System und verfahren zur dreidimensionalen bestimmung der oberfläche eines objekts |
| EP1333306B1 (de) | 2002-02-04 | 2008-07-23 | Carl Zeiss Surgical GmbH | Stereo-Mikroskopieverfahren und Stereo-Mikroskopiesystem |
| US8212915B1 (en) | 2010-03-27 | 2012-07-03 | Lloyd Douglas Clark | Externally actuable photo-eyepiece relay lens system for focus and photomontage in a wide-field imaging system |
| EP2793069A1 (de) | 2013-04-19 | 2014-10-22 | Carl Zeiss Microscopy GmbH | Digitalmikroskop und Verfahren zur Optimierung des Arbeitsablaufes in einem Digitalmikroskop |
| DE102014006717A1 (de) | 2014-05-05 | 2015-11-05 | Carl Zeiss Microscopy Gmbh | Verfahren zur Erzeugung einer dreidimensionalen Information eines Objektes mit einem Digitalmikroskop und Datenverarbeitungsprogramm zur Abarbeitung des Verfahrens |
| WO2015185538A1 (en) | 2014-06-02 | 2015-12-10 | Rijksuniversiteit Groningen | Determining quantitative three-dimensional surface topography from two-dimensional microscopy images |
| US20160091707A1 (en) | 2013-06-10 | 2016-03-31 | Sumitomo Electric Industries, Ltd. | Microscope system for surgery |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2008137746A1 (en) * | 2007-05-04 | 2008-11-13 | Aperio Technologies, Inc. | Rapid microscope scanner for volume image acquisition |
| EP2315065B1 (de) * | 2009-10-26 | 2015-05-13 | Olympus Corporation | Mikroskop |
| NL2008928A (en) * | 2011-07-06 | 2013-01-08 | Asml Netherlands Bv | Method and apparatus for calculating electromagnetic scattering properties of finite periodic structures. |
| JP5705096B2 (ja) * | 2011-12-02 | 2015-04-22 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
| JP6029394B2 (ja) * | 2012-09-11 | 2016-11-24 | 株式会社キーエンス | 形状測定装置 |
| WO2018089783A1 (en) * | 2016-11-11 | 2018-05-17 | University Of South Florida | Automated stereology for determining tissue characteristics |
-
2017
- 2017-01-09 DE DE102017100262.6A patent/DE102017100262A1/de not_active Withdrawn
-
2018
- 2018-01-03 US US16/473,793 patent/US20190353886A1/en not_active Abandoned
- 2018-01-03 WO PCT/EP2018/050122 patent/WO2018127509A1/de not_active Ceased
- 2018-01-03 CN CN201880005370.0A patent/CN110168609A/zh active Pending
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1333306B1 (de) | 2002-02-04 | 2008-07-23 | Carl Zeiss Surgical GmbH | Stereo-Mikroskopieverfahren und Stereo-Mikroskopiesystem |
| WO2005119331A1 (en) | 2004-05-27 | 2005-12-15 | Stereo Display, Inc. | Variable focal length lens |
| WO2007134264A2 (en) | 2006-05-11 | 2007-11-22 | Stereo Display, Inc. | Micro mirror array lens with micro mirror adjustments to vary lens focal length |
| WO2007134739A1 (de) * | 2006-05-23 | 2007-11-29 | Carl Zeiss Microimaging Gmbh | System und verfahren zur dreidimensionalen bestimmung der oberfläche eines objekts |
| US8212915B1 (en) | 2010-03-27 | 2012-07-03 | Lloyd Douglas Clark | Externally actuable photo-eyepiece relay lens system for focus and photomontage in a wide-field imaging system |
| EP2793069A1 (de) | 2013-04-19 | 2014-10-22 | Carl Zeiss Microscopy GmbH | Digitalmikroskop und Verfahren zur Optimierung des Arbeitsablaufes in einem Digitalmikroskop |
| US20160091707A1 (en) | 2013-06-10 | 2016-03-31 | Sumitomo Electric Industries, Ltd. | Microscope system for surgery |
| DE102014006717A1 (de) | 2014-05-05 | 2015-11-05 | Carl Zeiss Microscopy Gmbh | Verfahren zur Erzeugung einer dreidimensionalen Information eines Objektes mit einem Digitalmikroskop und Datenverarbeitungsprogramm zur Abarbeitung des Verfahrens |
| WO2015185538A1 (en) | 2014-06-02 | 2015-12-10 | Rijksuniversiteit Groningen | Determining quantitative three-dimensional surface topography from two-dimensional microscopy images |
Non-Patent Citations (4)
| Title |
|---|
| "3D reconstruction based on epipolar geometry", IEICE RANSACTIONS ON INFORMATION AND SYSTEMS 84.12, 2001, pages 1690 - 1697 |
| FRANKOT, R. T.; CHELLAPPA, R.: "A method for enforcing integrability in shape from shading Algorithms. Pattern Analysis and Machine Intelligence", IEEE TRANSACTIONS, vol. 10, no. 4, 1988, pages 439 - 451 |
| HUEI-YUNG LIN ET AL: "A vision system for fast 3D model reconstruction", PROCEEDINGS 2001 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION. CVPR 2001. KAUAI, HAWAII, DEC. 8 - 14, 2001; [PROCEEDINGS OF THE IEEE COMPUTER CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION], IEEE COMPUTER SOCIETY, LOS ALAMITOS, C, vol. 2, 8 December 2001 (2001-12-08), pages 663 - 668, XP010584188, ISBN: 978-0-7695-1272-3 * |
| SCHARSTEIN, D.; SZELISKI, R.: "A taxonomy and evaluation of dense two-frame stereo correspondence algorithms", INTERNATIONAL JOURNAL OF COMPUTER VISION, vol. 47, no. 1, May 2002 (2002-05-01), pages 7 - 42, XP055074772, DOI: doi:10.1023/A:1014573219977 |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108833788A (zh) * | 2018-07-27 | 2018-11-16 | 苏州睿仟医疗科技有限公司 | 一种倾斜图像采集设备提高景深的自动聚焦装置及自动聚焦方法 |
| CN108989676A (zh) * | 2018-07-27 | 2018-12-11 | 苏州睿仟医疗科技有限公司 | 一种增加反射元件提高景深的自动聚焦装置及自动聚焦方法 |
| CN108989676B (zh) * | 2018-07-27 | 2021-04-13 | 苏州睿仟科技有限公司 | 一种增加反射元件提高景深的自动聚焦装置及自动聚焦方法 |
| CN109102573A (zh) * | 2018-08-06 | 2018-12-28 | 百度在线网络技术(北京)有限公司 | 图像处理方法、装置和存储介质 |
| CN109102573B (zh) * | 2018-08-06 | 2023-05-02 | 百度在线网络技术(北京)有限公司 | 图像处理方法、装置和存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| DE102017100262A8 (de) | 2018-10-18 |
| DE102017100262A1 (de) | 2018-07-12 |
| CN110168609A (zh) | 2019-08-23 |
| US20190353886A1 (en) | 2019-11-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2018127509A1 (de) | Verfahren zur erzeugung eines dreidimensionalen modells einer probe in einem digitalen mikroskop und digitales mikroskop | |
| DE102017101188B4 (de) | Mikroskop und Verfahren zum Mikroskopieren einer Probe | |
| EP2870500B1 (de) | Verfahren zur vorbereitung und durchführung der aufnahme von bildstapeln einer probe aus verschiedenen orientierungswinkeln | |
| EP2793069B1 (de) | Digitalmikroskop und Verfahren zur Optimierung des Arbeitsablaufes in einem Digitalmikroskop | |
| EP2887117B1 (de) | Mikroskop und Verfahren zur SPIM Mikroskopie | |
| EP1333306B1 (de) | Stereo-Mikroskopieverfahren und Stereo-Mikroskopiesystem | |
| DE102015107517B3 (de) | Vorrichtung und Verfahren zur Bildaufnahme mit erhöhter Schärfentiefe | |
| EP0799434A1 (de) | Mikroskop, insbesondere stereomikroskop und verfahren zum überlagern zweier bilder | |
| WO2003036566A2 (de) | Verfahren und vorrichtung zur erzeugung lichtmikroskopischer, dreidimensionaler bilder | |
| EP3326019A1 (de) | Lichtblattmikroskop zum gleichzeitigen abbilden mehrerer objektebenen | |
| DE102021124535A1 (de) | System und verfahren mit mehrpunkt-autofokus zur ausrichtung einer optischen achse eines optischen abschnitts senkrecht zu einer werkstückoberfläche | |
| EP3017334A1 (de) | Bilderfassungsverfahren für mikroskopsystem und entsprechendes mikroskopsystem | |
| EP4227636B1 (de) | Bestimmung von tiefenwerten eines oberflächenbereichs eines werkstücks | |
| DE102015103426A1 (de) | Mikroskopsystem und Verfahren zum automatisierten Ausrichten eines Mikroskops | |
| WO1996023240A1 (de) | Verfahren und vorrichtung zum aufnehmen eines objektes | |
| DE3623394C2 (de) | Operationsmikroskop | |
| DE10315592B4 (de) | Verfahren zum Ausführen von Interaktionen an sich räumlich und zeitlich verändernden mikroskopischen Objekten und System hierzu | |
| DE102014107445A1 (de) | Optisches Beobachtungsgerät, Verfahren zum Einstellen eines Parameterwertes für ein optisches Beobachtungsgerät und Verfahren zum Aufnehmen von Bild- oder Videodaten von einem Beobachtungsobjekt mit Hilfe eines optischen Beobachtungsgerätes | |
| DE202013011877U1 (de) | Mikroskopsystem | |
| EP1262810A2 (de) | Verfahren zur Entfernungsmessung ausgedehnter Objekte in Verbindung mit einer optischen Betrachtungseinrichtung und Mikroskop zur Durchführung desselben | |
| DE19749974C2 (de) | Verfahren und Apparat zur Erzeugung einer 3D-Punktwolke | |
| DE102013009634B4 (de) | Plenoptisches Bildgebungsverfahren | |
| DE102024109226A1 (de) | Verfahren zur Erfassung eines zusammengefügten Mikroskopbildes, Mikroskopsystem und Computerprogrammprodukt | |
| DE102024134514B3 (de) | Verfahren zur Bestimmung einer Lage einer Stereobasis eines Stereosystems eines medizinischen Visualisierungssystems sowie medizinisches Visualisierungssystem | |
| DE10359780B4 (de) | Verfahren zur optischen Bilderfassung |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 18701248 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 18701248 Country of ref document: EP Kind code of ref document: A1 |