DE102008024732A1 - Medizinisch optisches Beobachtungsgerät und Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem derartigen Gerät - Google Patents
Medizinisch optisches Beobachtungsgerät und Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem derartigen Gerät Download PDFInfo
- Publication number
- DE102008024732A1 DE102008024732A1 DE102008024732A DE102008024732A DE102008024732A1 DE 102008024732 A1 DE102008024732 A1 DE 102008024732A1 DE 102008024732 A DE102008024732 A DE 102008024732A DE 102008024732 A DE102008024732 A DE 102008024732A DE 102008024732 A1 DE102008024732 A1 DE 102008024732A1
- Authority
- DE
- Germany
- Prior art keywords
- image
- vector field
- images
- displacement vector
- stereoscopic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/20—Surgical microscopes characterised by non-optical aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/364—Correlation of different images or relation of image positions in respect to the body
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Microscoopes, Condenser (AREA)
- Endoscopes (AREA)
Abstract
Description
- Die vorliegende Erfindung betrifft ein Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem medizinisch-optischen Beobachtungsgerät. Daneben betrifft die Erfindung ein medizinisch-optisches Beobachtungsgerät mit wenigstens zwei Kameras, die derart relativ zueinander angeordnet sind, dass sie ein erstes Bild und ein zweites Bild mit voneinander verschiedenen Perspektiven eines Beobachtungsgegenstandes aufnehmen.
- Bei mikrochirurgischen Eingriffen, bei denen ein medizinisch-optisches Beobachtungsgerät wie etwa ein Operationsmikroskop Verwendung findet, möchten verschiedene Beobachter, etwa ein Hauptoperateur, ein Assistent und gegebenenfalls passive Beobachter, das Operationsfeld aus der Perspektive ihres Standpunktes relativ zum Patienten stereoskopisch beobachten. Um dies zu ermöglichen, ist in
DE 103 00 925 A1 ein Stereomikroskop beschrieben, in dem eine Objektivanordnung vorhanden ist, die ein von dem zu beobachtenden Objekt in einen Raumwinkelbereich emittiertes objektivseitiges Strahlenbündel in ein bildseitiges paralleles Strahlenbündel umwandelt. Aus dem parallelen Strahlenbündel werden zwei Teilstrahlenbündelpaare gebildet, die jeweils zur stereoskopischen Beobachtung dienen. Eines der beiden Strahlenbündelpaare kann relativ zum Querschnitt des bildseitigen Strahlenbündels verlagert werden, beispielsweise, indem es um die optische Achse des Objektivs gedreht wird. Die Teilstrahlenbündelpaare werden Kameras zugeführt. Durch das Verlagern werden wenigstens einem Betrachter Freiheitsgrade hinsichtlich seiner Position relativ zum zu beobachtenden Objekt zur Verfügung gestellt, jedoch bestehen weiterhin aus verschiedenen Gründen Einschränkungen. So können zwar Kamerapaare verwendet werden, die entsprechend der Position der Beobachter relativ zum Patienten nachgeführt und orientiert werden, jedoch sind für jeden zusätzlichen Beobachter zwei nachführbare Kamerapaare notwendig, was sehr hohe Anforderungen an die Optik und die Mechanik des Operationsmikroskops stellt. - Eine alternative Vorgehensweise ist in
DE 102 04 430 A1 beschrieben. Dort wird aus Bildern, die mit einer Stereokamera gewonnen wurden, ein dreidimensionales Modell des Beobachtungsobjektes berechnet. Zudem wird die Position eines Betrachters relativ zum Beobachtungsobjekt ermittelt und dann auf der Basis des dreidimensionalen Modells und der Position des Beobachters ein stereoskopisches Bild für den Betrachter erzeugt. Mit diesem Verfahren kann die Zahl der Betrachter erhöht werden, ohne dass zusätzliche Kameras notwendig sind. Der Rechenaufwand, der bei diesem Verfahren zu betreiben ist, ist jedoch erheblich. - Aufgabe der vorliegenden Erfindung ist es daher, ein alternatives Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem medizinisch-optischen Beobachtungsgerät zur Verfügung zu stellen. Es ist außerdem eine Aufgabe der vorliegenden Erfindung, ein vorteilhaftes medizinisch-optisches Beobachtungsgerät zur Verfügung zu stellen.
- Diese Aufgaben werden durch ein Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem medizinisch-optischen Beobachtungsgerät nach Anspruch 1 beziehungsweise durch ein medizinisch-optisches Beobachtungsgerät nach Anspruch 12 gelöst. Die abhängigen Ansprüche enthalten vorteilhafte Ausgestaltungen der Erfindung. Die Merkmale der abhängigen Ansprüche können hierbei einzeln oder in Kombination vorteilhaft sein.
- Im erfindungsgemäßen Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem medizinisch-optischen Beobachtungsgerät wird ein erstes Bild, das stereoskopisch oder zweidimensional sein kann, in einer ersten Perspektive aufgenommen, und wenigstens ein zweites Bild, das ebenfalls stereoskopisch oder zweidimensional sein kann, in einer zweiten, von der ersten verschiedenen Perspektive aufgenommen. Aus den aufgenommenen Bildern wird dann ein Zwischenbild mit einer Zwischenperspektive berechnet. Hierbei wird zunächst aus den wenigstens zwei Bildern mit unterschiedlicher Perspektive ein Verschiebungsvektorfeld ermittelt, wobei Strukturen des einen Bildes entsprechenden Strukturen des anderen Bildes zuordnet werden. Mittels einer Bildinterpolation auf der Basis des Verschiebungsvektorfeldes (Warping) wird dann das Zwischenbild berechnet. Insbesondere kann vor dem Ermitteln des Verschiebungsvektorfeldes wenigstens eines der Bilder so um einen ersten Winkel gedreht werden, dass das erste Bild und das zweite Bild dieselbe Orientierung aufweisen. Das Verschiebungsvektorfeld wird nach dem Drehen aus den verbleibenden und auf der unterschiedlichen Perspektive beruhenden Unterschieden zwischen dem ersten Bild und dem zweiten Bild ermittelt. Mittels der Bildinterpolation wird dann auf der Basis des Verschiebungsvektorfeldes ein Zwischenbild mit einer Zwischenperspektive berechnet, wobei das Zwischenbild dieselbe Orientierung aufweist wie das gedrehte Bild. Anschließend wird das Zwischenbild um einen zweiten Winkel in die zur Zwischenperspektive passende Orientierung gedreht. Das Verfahren kann insbesondere beispielsweise in Operationsmikroskopen, Endoskopen, etc. Verwendung finden.
- Das erfindungsgemäße Verfahren ermöglicht es, aus den wenigstens zwei Bildern, die in der Regel in ihrer Orientierung um einen ersten Winkel gegeneinander verdreht sind, beliebige Zwischenperspektiven anhand des Verschiebungsvektorfeldes zu berechnen. Insbesondere kann das Zwischenbild auch in einer zur Zwischenperspektive passenden Orientierung dargeboten werden. Einem das medizinisch-optische Beobachtungsgerät benutzenden Betrachter wird so das betrachten eines Objekts in einer beliebigen Orientierung um das Beobachtungsobjekt herum ermöglicht, ohne dass das Berechnen eines dreidimensionalen Modells nötig wäre.
- Als erstes und zweites Bild können insbesondere auch Teilbilder wenigstens eines stereoskopischen Bildes Verwendung finden. Aus wenigstens zwei Teilbildern mit unterschiedlicher stereoskopischer Perspektive wird dann zunächst ein Verschiebungsvektorfeld ermittelt, wobei Strukturen des einen Teilbildes entsprechenden Strukturen des anderen Teilbildes zuordnet werden. Mittels einer Bildinterpolation auf der Basis des Verschiebungsvektorfeldes wird dann wenigstens ein Zwischenteilbild errechnet. Dabei kann, wie oben bereits beschrieben, ein Drehen wenigstens eines Teilbildes erfolgen, bevor das Verschiebungsvektorfeld ermittelt wird. Wenn die beiden Teilbilder aus demselben stereoskopischen Bild stammen, die ja verschiedene stereoskopische Perspektiven darstellen, kann das Rotieren um den ersten Winkel entfallen da die stereoskopischen Teilbilder in der Regel dieselbe Orientierung aufweisen, d. h. nicht gegeneinander verdreht sind.
- Es ist jedoch auch möglich, dass wenigstens zwei stereoskopische Bilder mit jeweils einem linken und einem rechten Teilbild aufgenommen werden. Für die stereoskopische Zwischenperspektive kann dann ein linkes und ein rechtes Zwischenteilbild errechnet werden, wobei das linke Zwischenteilbild aus den linken Teilbildern der stereoskopischen Bilder berechnet wird und das rechte Zwischenteilbild aus den rechten Teilbildern der stereoskopischen Bilder berechnet wird. In diesem Fall unterscheiden sich in der Regel die Orientierungen der zur Berechnung eines Zwischenteilbildes verwendeten Teilbilder, so dass es vorteilhaft ist, wenigstens eines der beiden Teilbilder vor dem Ermitteln des Verschiebungsvektorfeldes zu drehen, um beide Teilbilder in dieselbe Orientierung zu bringen.
- Hinsichtlich des Verschiebungsvektorfeldes gibt es zwei Möglichkeiten. Zum einen kann ein gemeinsames Verschiebungsvektorfeld für die Teilbilder des wenigstens einen stereoskopischen Bildes ermittelt werden. Zum anderen ist es möglich, für die rechten Teilbilder ein rechtes Verschiebungsvektorfeld zu berechnen, für die linken Teilbilder ein linkes Verschiebungsvektorfeld zu berechnen und dann das rechte Zwischenbild mittels einer Bildinterpolation des rechten Verschiebungsvektorfeldes und das linke Zwischenbild mittels einer Bildinterpolation des linken Verschiebungsvektorfeldes zu berechnen. Während die erste Variante den Vorteil bietet, dass lediglich ein Verschiebungsvektorfeld zu berechnen ist, bietet die zweite Variante den Vorteil, Unterschiede zwischen den linken und den rechten Teilbildern von stereoskopischen Bildern im Rahmen des Verschiebungsvektorfeldes zu berücksichtigen.
- Wenn als Bilder wenigstens zwei stereoskopische Bilder aufgenommen werden, können diese insbesondere um 90° gegeneinander verdreht sein, wobei die optische Achse den Mittelpunkt zwischen den Teilbildern der jeweiligen stereoskopischen Bilder bildet. In diesem Fall sind die stereoskopischen Bilder orthogonal zueinander, und die Teilbilder liegen auf den Ecken eines gedachten Quadrates, das in einen Kreis einbeschrieben ist. In diesem Fall besteht die Möglichkeit, dass aus Teilbildern, die einander benachbarte Ecken repräsentieren, je ein Verschiebungsvektorfeld berechnet wird.
- Mit vier Verschiebungsvektorfeldern lässt sich das Berechnen von Zwischenbildern im gesamten Bereich von 360° um die optische Achse herum mit lediglich vier Verschiebungsvektorfeldern, die jeweils das Generieren von Zwischenbildern in einem Winkelbereich von 90° ermöglichen, realisieren. Es sei an dieser Stelle angemerkt, dass es grundsätzlich auch möglich ist, lediglich drei Bilder aufzunehmen, wobei die entsprechenden Kameras die Ecken eines in einen Kreis einbeschriebenen gleichseitigen Dreiecks bilden. In diesem Fall kann eine beliebige Zwischenperspektive im Bereich zwischen 0 und 360° um die optische Achse herum durch drei Verschiebungsvektorfelder generiert werden, die jeweils das Generieren von Zwischenbildern in einem Winkelbereich von 120° ermöglichen. Entsprechend ist es auch möglich, eine höhere Anzahl von Bildern zu verwenden, wobei die entsprechenden Kameras die Ecken eines in einen Kreis einbeschriebenen Polygons bilden. Je höher die Anzahl der Ecken eines derartigen Polygons ist, desto geringer brauchen die Drehung um den ersten Winkel, welche die Orientierung der verwendeten Teilbilder aneinander anpasst, und die Drehung um den zweiten Winkel, welche das Zwischenbild in die richtige Orientierung bringt auszufallen. Ebenso können durch die Vielzahl der aufgenommenen stereoskopischen Perspektiven Abschattungseffekte besonders gut vermieden werden. Andererseits werden auch entsprechend mehr Bilder benötigt und entsprechend mehr Verschiebungsvektorfelder berechnet. Es ist daher abzuwägen zwischen dem konstruktiven Aufwand zum Erzeugen der Bilder und dem Rechenaufwand zum Erzeugen einer höheren Anzahl Verschiebungsvektorfelder einerseits und der akzeptablen Drehwinkel um die das Zwischenbild gedreht werden muss, um es in die richtige Orientierung zu bringen, sowie der Vermeidung von Abschattungen andererseits. Insbesondere kann diese Abwägung für verschiedene Anwendungsbereiche unterschiedlich ausfallen.
- Wenn beispielsweise im Rahmen einer Operation eine Zwischenperspektive für Beobachter bereitgestellt werden soll, die nicht selbst an einer Operation teilnehmen, kann bspw. eine höhere Abschattung in Kauf genommen werden, um den konstruktiven Aufwand des optischen Beobachtungsgerätes und den notwendigen Rechenaufwand zum Erzeugen der Verschiebungsvektorfelder gering zu halten. Durch das Berechnen nur weniger Verschiebungsvektorfelder, beispielsweise dreier Felder, kann beim Berechnen der Verschiebungsrektorfelder Rechenzeit eingespart werden, die dann der Bildinterpolation der Zwischenbilder zugeschlagen werden kann, wodurch sich die Zahl generierbaren Zwischenbilder und damit die Zahl der Betrachter erhöhen lässt. Ist andererseits eine das Vermeiden von Abschattungen gewünscht, beispielsweise wenn ein Hauptoperateur und wenige Assistenten an einer Operation teilnehmen, so kann es vorteilhaft sein, eine höhere Anzahl Verschiebungsvektorfelder zu errechnen.
- In einer vorteilhaften Ausgestaltung des erfindungsgemäßen Verfahrens erfolgt das Berechnen des Verschiebungsvektorfeldes mittels eines Variationsverfahrens. Die Berechnung mittels eines Variationsverfahrens bietet den Vorteil, dass sie immer ein sogenanntes dichtes Vektorfeld für das Verschiebungsvektorfeld zum Ergebnis hat. Ein dichtes Vektorfeld bedeutet, dass für jeden Bildpunkt des einen Bildes ein Verschiebungsvektor oder ein Verschiebungsvektorzug existiert, der diesen Bildpunkt einem entsprechenden Bildpunkt im zweiten Bild zuordnet.
- Zum Berechnen des Verschiebungsvektorfeldes kann insbesondere ein sogenannter Mehrgitteralgorithmus zur Anwendung kommen. In einem Mehrgitteralgorithmus wird die zur Berechnung des Verschiebungsvektorfeldes herangezogene Gleichung zuerst diskretisiert, sodass sie nur noch an bestimmten Punkten, den Gitterpunkten, berechnet werden muss. Das Gitter ist im ersten Schritt relativ grob. Im nächsten Schritt werden dann auf feineren Gittern Korrekturen der Fehler, die aufgrund der Berechnung anhand des groben Gitters auftreten, vorgenommen. Das Verfeinern der Gitter kann in mehreren Stufen erfolgen. Die Mehrgitteralgorithmen ermöglichen eine hohe Geschwindigkeit beim Berechnen des Verschiebungsvektorfeldes. Sie können insbesondere auch zur Anwendung kommen, um die Variationsgleichung zu lösen, wenn das Verschiebungsvektorfeld mittels eines Variationsverfahrens berechnet werden soll.
- In einer weiteren Ausgestaltung des erfindungsgemäßen Verfahrens werden die Bilder beziehungsweise die Teilbilder, aus denen ein Verschiebungsvektorfeld berechnet wird, mit einem verringerten Raster räumlich abgetastet. Auf der Basis der mit verringertem Raster abgetasteten Bilder beziehungsweise Teilbilder wird dann das Verschiebungsvektorfeld berechnet. Das Verschiebungsvektorfeld für ein gegenüber dem verringerten Raster erhöhtes Raster wird anschließend durch Interpolation aus demjenigen Verschiebungsvektorfeld gewonnen, das auf der Basis der mit verringertem Raster abgetasteten Bilder beziehungsweise Teilbilder berechnet wurde. Dies bietet den Vorteil, dass lediglich ein Verschiebungsvektorfeld für grob gerasterte Bilder erstellt werden muss. Kann so beispielsweise ohne Qualitätsverlust ein Unterabtasten um den Faktor 4 in beiden Richtungen eines Bildes realisiert werden, so sinkt der Rechenaufwand zum Berechnen des Verschiebungsvektorfeldes um den Faktor 16.
- Das Unterabtasten ist möglich, da im klinischen Alltag auftretendes Bildmaterial in der Regel ein relativ glattes Verschiebungsvektorfeld erwarten lässt. In diesem Fall ist es vertretbar, das Vektorfeld auf der Basis von unterabgetasteten Bildern zu berechnen und auf die gewünschte Größe zu interpolieren. Aufgrund des relativ glatten Verschiebungsvektorfeldes sind Interpolationsfehler gering.
- In noch einer weiteren vorteilhaften Ausgestaltung des erfindungsgemäßen Verfahrens werden die Bilder beziehungsweise Teilbilder, aus denen ein Verschiebungsvektorfeld berechnet wird, mit einer verringerten zeitlichen Abtastrate aufgenommen. Auf der Basis der mit der verringerten Abtastrate aufgenommenen Bilder beziehungsweise Teilbilder wird dann das Verschiebungsvektorfeld berechnet. Das Verschiebungsvektorfeld für eine gegenüber der verringerten Abtastrate erhöhte Abtastrate wird dann durch Interpolation aus demjenigen Verschiebungsvektorfeld gewonnen, das auf der Basis der mit verringerter Abtastrate aufgenommenen Bilder beziehungsweise Teilbilder berechnet wurde. Wie im räumlichen Bereich ist im klinischen Alltag auch im zeitlichen Bereich ein relativ glattes Verschiebungsvektorfeld zu erwarten, da lediglich langsame Bewegungen auftreten, die eine zeitliche Unterabtastung ohne oder nur mit geringem Qualitätsverlust zulassen. Auch die zeitliche Unterabtastung ermöglicht eine Reduktion des Rechenaufwandes.
- Ein erfindungsgemäßes medizinisch-optisches Beobachtungsgerät umfasst wenigstens zwei Kameras, die derart relativ zueinander angeordnet sind, dass sie ein erstes Bild und ein zweites Bild mit voneinander verschiedenen Perspektiven eines Beobachtungsgegenstandes aufnehmen. Weiterhin umfasst das medizinisch-optische Beobachtungsgerät einen mit den Kameras zum Empfang der Bilder verbundenen Bildgenerator, der derart ausgestaltet ist, dass er aus dem ersten und dem zweiten Bild ein Zwischenbild mit einer Zwischenperspektive errechnet, sowie eine mit dem Bildgenerator zum Empfang des Zwischenbilds verbundene Darstellungseinheit zum Darstellen des Zwischenbildes. Im erfindungsgemäßen optischen Beobachtungsgerät weist der Bildgenerator einen Vektorfeldgenerator und einen Zwischenbildgenerator auf. Der Vektorfeldgenerator ist zum Generieren eines Verschiebungsvektorfeldes aus den empfangenen Bildern ausgestaltet. Der Zwischenbildgenerator ist mit dem Vektorfeldgenerator zum Empfang des Verschiebungsvektorfeldes verbunden und zum Berechnen des Zwischenbildes aus dem ersten und dem zweiten Bild mithilfe des Verschiebungsvektorfeldes ausgebildet.
- Insbesondere können der Vektorfeldgenerator einen ersten Bildrotator und eine Korrespondenz-Einheit und der Zwischenbildgenerator eine Bildinterpolationseinheit und einen zweiten Bildrotator umfassen. Der erste Bildrotator ist dazu ausgestaltet, wenigstens eines der beiden Bilder so zu drehen, dass das erste Bild und das zweite Bild dieselbe Orientierung aufweisen, die Korrespondenz-Einheit ist dazu ausgestaltet, nach der Drehung durch den ersten Bildrotator Strukturen des ersten Bildes entsprechenden Strukturen des zweiten Bildes zuzuordnen und das Verschiebungsvektorfeld anhand der Zuordnung zu ermitteln: Die Bildinterpolationseinheit ist dazu ausgestaltet, das Zwischenbild anhand des empfangenen Verschiebungsvektorfeldes zu interpolieren und der zweite Bildrotator ist dazu ausgestaltet, das Zwischenbild in eine zur Zwischenperspektive passende Orientierung zu drehen.
- Das erfindungsgemäße medizinisch-optische Beobachtungsgerät ermöglicht das Durchführen des erfindungsgemäßen Verfahrens zum Einstellen einer stereoskopischen Zwischenperspektive und bietet somit einem Betrachter die Möglichkeit, eine beliebige Position um die optische Achse des medizinisch-optischen Beobachtungsgerätes herum einzunehmen und das Beobachtungsobjekt mit einer seiner Position entsprechenden stereoskopischen Zwischenperspektive zu betrachten. Da das erfindungsgemäße medizinisch-optische Beobachtungsgerät das erfindungsgemäße Verfahren verwirklicht, entsprechen die mit dem medizinisch-optischen Beobachtungsgerät zu realisierenden Vorteile denen, die bereits mit Bezug auf das Verfahren beschrieben worden sind. Es wird daher auf die entsprechenden Abschnitte der Beschreibung des Verfahrens verwiesen.
- In einer Ausgestaltung des medizinisch-optischen Beobachtungsgerätes ist dem Vektorfeldgenerator eine mit den Kameras zum Empfang der Bilder verbundene räumliche Abtasteinheit vorgeschaltet und eine Interpolationseinheit nachgeschaltet. Die räumliche Abtasteinheit ist zum räumlichen Abtasten der von den Kameras empfangenen Bilder mit einem gegenüber der Kameraauflösung gröberen Raster und zur Ausgabe der räumlich abgetasteten Bilder ausgebildet. Die Interpolationseinheit ist zum Interpolieren eines vom Vektorfeldgenerator erzeugten Verschiebungsvektorfeldes niedriger räumlicher Auflösung sowie zum Erzeugen eines Verschiebungsvektorfeldes hoher räumlicher Auflösung auf der Basis der Interpolation ausgebildet. Diese Ausgestaltung des erfindungsgemäßen medizinisch-optischen Beobachtungsgerätes ermöglicht das Berechnen des Verschiebungsvektorfeldes mit reduziertem Rechenaufwand. Insbesondere im medizinischen Alltag ist nämlich lediglich mit glatten Verschiebungsvektorfeldern zu rechnen, sodass Ungenauigkeiten aufgrund der räumlichen Unterabtastung und der anschließenden Interpolation gering sind und die Bildqualität nicht wesentlich beeinträchtigen.
- Zusätzlich zur räumlichen Abtasteinheit oder alternativ zur räumlichen Abtasteinheit kann dem Vektorfeldgenerator eine zeitliche Abtasteinheit vorgeschaltet sein. Diese ist zum zeitlichen Abtasten der von den Kameras empfangenen Bilder mit einer gegenüber der Bildfrequenz der Kameras gröberen Abtastrate und zur Ausgabe der zeitlich abgetasteten Bilder ausgebildet. Die Interpolationseinheit ist zum Interpolieren eines vom Vektrofeldgenerator generierten Verschiebungsvektorfeldes niedriger zeitlicher Auflösung und zum Erzeugen eines Verschiebungsvektorfeldes hoher zeitlicher Auflösung auf der Basis der Interpolation ausgebildet.
- Wenn sowohl eine räumliche Abtasteinheit als auch eine zeitliche Abtasteinheit vorhanden sind, kann die zeitliche Abtastbarkeit der räumlichen Abtasteinheit vor- oder nachgeschaltet sein. Weiterhin ist es auch möglich, dass die räumliche Abtasteinheit und die zeitliche Abtasteinheit eine gemeinsame Abtasteinheit bilden.
- Das vom Vektorfeldgenerator ausgegebene Verschiebungsvektorfeld kann also dann gemäß einer der folgenden vier Alternativen ausgebildet sein: hohe räumliche Auflösung und hohe zeitliche Auflösung auf der Basis der ursprünglichen Bildauflösung und der ursprünglichen Abtastrate; hohe interpolierte räumliche Auflösung und hohe interpolierte zeitliche Auflösung auf der Basis einer sowohl räumlichen als auch zeitlichen Unterabtastung der Bilder; hohe interpolierte räumliche und hohe zeitliche Auflösung auf der Basis von räumlich unterabgetasteten Bildern, welche die Bildrate der Kameras aufweisen; hohe räumliche und hohe interpolierte zeitliche Auflösung auf der Basis der räumlichen Auflösung der Kameras und einer zeitlichen Unterabtastung mit anschließender Interpolation. Die tatsächlich Verwendung findende Kombination kann anhand des Bedarfs ausgewählt werden.
- In einer speziellen Ausgestaltung des medizinisch optischen Beobachtungsgerätes sind n Kameras vorhanden, wobei n wenigstens drei ist, die an den Ecken eines Polygons, vorzugsweise eines regelmäßigen Polygons, angeordnet sind. Die Kameras nehmen n Bilder mit n verschiedenen Perspektiven des Beobachtungsgegenstandes auf. Die Vorteile dieser Ausgestaltung sind bereits im Rahmen des erfindungsgemäßen Verfahrens beschrieben worden, sie werden daher nicht noch einmal wiederholt.
- Die Kameras des optischen Beobachtungsgerätes können insbesondere stereoskopische Kameras sein, sodass die aufgenommenen Bilder stereoskopische Bilder sind. Der Bildgenerator ist dann derart ausgestaltet, dass er aus dem ersten und dem zweiten stereoskopischen Bild ein stereoskopisches Zwischenbild mit einer Zwischenperspektive errechnet. Die Kameras können insbesondere so angeordnet sein, dass sie um 90° gegeneinander verdreht sind, das heißt zueinander orthogonale Bilder aufnehmen. Mit dieser Ausgestaltung lässt sich mit zwei stereoskopischen Kameras eine Anordnung realisieren, in denen die einzelnen Kameras die Ecken eines Quadrates bilden. Auch die Vorteile dieser Ausgestaltung sind bereits im Rahmen der Beschreibung des erfindungsgemäßen Verfahrens beschrieben worden. Auf eine Wiederholung wird daher verzichtet.
- Das medizinisch optische Beobachtungsgerät kann insbesondere als Operationsmikroskop oder als Endoskop ausgebildet sein.
- Weitere Merkmale, Eigenschaften und Vorteile der Erfindung, wobei die Merkmale einzeln oder in Kombination vorteilhaft sein können, ergeben sich aus der nachfolgenden Beschreibung von Ausführungsbeispielen unter Bezugnahme auf die beiliegenden Figuren.
-
1 zeigt in einer stark schematisierten Darstellung die für die Erfindung relevanten Komponenten eines Stereo-Operationsmikroskops. -
2 zeigt ein erfindungsgemäßes medizinisch-optisches Beobachtungsgerät in Form eines Blockdiagramms. -
3 zeigt eine stereoskopische Zwischenperspektive in einer schematischen Darstellung. -
4 zeigt eine schematische Darstellung eines Verschiebungsvektorfeldes. -
5 zeigt die Trajektorien von Bildpunkten bei einer Drehung der stereoskopischen Perspektive in einer schematischen Darstellung. -
6 zeigt eine mögliche alternative Anordnung von Kameras im Stereo-Operationsmikroskop aus1 . -
7 zeigt eine weitere alternative Möglichkeit zur Anordnung von Kameras im Stereo-Operationsmikroskop aus1 . -
1 zeigt in einer stark vereinfachten Darstellung die optischen Komponenten eines Stereo-Operationsmikroskops, das als ein Ausführungsbeispiel für ein medizinisch-optisches Beobachtungsgerät dient. Die Erfindung kann jedoch nicht nur in einem Operationsmikroskop zum Einsatz kommen, sondern auch in anderen medizinisch-optischen Beobachtungsgeräten wie etwa Endoskopen. - Die in
1 gezeigte Darstellung ist stark vereinfacht und konzentriert sich auf die zum Verständnis der vorliegenden Erfindung notwendigen Bestandteile der optischen Komponenten des Operationsmikroskops. Eine detailliertere Beschreibung des Aufbaus von Operationsmikroskopen findet sich beispielsweise inDE 102 04 430 A1 beziehungsweiseDE 103 00 925 A1 , auf die hinsichtlich des Aufbaus eines Operationsmikroskops ausdrücklich Bezug genommen wird. - Bei dem in
1 dargestellten Operationsmikroskop handelt es sich um ein sogenanntes Video-Operationsmikroskop, in dem Bilder von einem Beobachtungsobjekt3 von Kameras aufgenommen werden und auf einem oder mehreren Displays dargestellt werden, beispielsweise in digitalen Okularen oder Head Mounted Displays, also auf einer am Kopf zu tragenden 3D-Brillen. Im vorliegenden Fall handelt es sich um ein Operationsmikroskop, in den Bilder von durch vier Kameras1L ,1R ,2L ,2R aufgenommen werden. Die vier Kameras1L ,1R ,2L ,2R sind an den Ecken eines gedachten Quadrates5 angeordnet und mit ihren optischen Achsen parallel zueinander ausgerichtet. Das Quadrat5 ist in einen gedachten Kreis einbeschrieben, dessen Mittelpunkt die optische Achse OA des Operationsmikroskops bildet. Eine gedachte Drehung einer der Kameras1L ,1R ,2L ,2R um die optische Achse OA in die Position einer anderen Kamera würde entlang einer durch den Kreis6 gegebenen Kreisbahn erfolgen. Mit einer tatsächlichen Drehung könnte von der gedrehten Kamera ein Bild in einer Zwischenperspektive aufgenommen werden. - Die beschriebene gedachte Drehung dient lediglich zur Erleichterung des Verständnisses der noch kommenden Beschreibung des erfindungsgemäßen Verfahrens. Tatsächlich sind die Kameras
1L ,1R ,2L ,2R im Operations mikroskop ortsfest angeordnet und können daher nicht in ihrer Position verändert werden. - Das Operationsmikroskop umfasst weiterhin ein großes Objektiv
7 , das ein vom Objekt3 ausgehendes objektseitiges divergentes Strahlenbündel9 nach unendlich abbildet, das heißt in ein bildseitiges paralleles Strahlenbündel10 umwandelt. Parallele Teilstrahlenbündel11L ,11R ,12L ,12R werden von den Kameras1L ,1R ,2L ,2R herausgegriffen und einem Kamerachip zur Aufnahme digitaler Bilder zugeleitet. - Jeweils zwei Kameras
1L ,1R beziehungsweise2L ,2R der vier Kameras bilden ein stereoskopisches Kamerapaar zur Aufnahme eines stereoskopischen Bildes. Dies soll anhand des Kamerapaars1L ,1R exemplarisch erläutert werden. Die von den beiden Kameras1L ,1R aufgegriffenen Teilstrahlenbündel11L ,11R weisen Hauptstrahlen13L ,13R auf, die einen Abstand B voneinander besitzen. Dieser Abstand B bildet die sogenannte Stereobasis des Stereokamerapaars. Im divergenten objektseitigen Strahlenbündel9 verlaufen die Hauptstrahlen13L ,13R in einem Winkel α zueinander, dem sogenannten Stereowinkel. Dieser Winkel bestimmt die stereoskopischen Perspektiven, unter denen das Beobachtungsobjekt3 von einer Kamera1L ,1R des Kamerapaars aufgenommen wird. Der Stereowinkel α ergibt sich hierbei aus der Stereobasis B und der Brennweite F des Objektivs7 . Die Anordnung der beiden Kamerapaare1L ,1R einerseits und2L ,2R andererseits ist so gewählt, dass die Stereobasis des Kamerapaars1L ,1R senkrecht zur Stereobasis2L ,2R verläuft. Mit anderen Worten, die beiden stereoskopischen Kamerapaare nehmen stereoskopische Bilder auf, die orthogonal zueinander sind. - Typische Kameras, die für den Einsatz im erfindungsgemäßen optischen Beobachtungsgerät geeignet sind, weisen eine Größe der Objektfelder von ca. 10 mm–60 mm, eine Schärfentiefe von 2–20 mm, Stereowinkel von 3–6° und Kameraauflösungen von wenigstens 1000×1000 Pixel auf.
-
2 zeigt das komplette Operationsmikroskop einschließlich der als Mikroskoptubus15 dargestellten und mit Bezug auf1 beschriebenen optischen Komponenten sowie seiner elektronischen Komponenten. Die elektronischen Komponenten, die zum Teil in Form eines Blockschaltbilds dargestellt sind, umfassen einen Bildgenerator17 und Darstellungseinheiten in Form von 3D-Brillen19 und in Form von drei digitalen Okularen16 , eines für einen Operateur und zwei für Assistenten. Die Okulare sind an einem Haltering41 angeordnet und um diesen herum verschiebbar. Statt der oder zusätzlich zu den 3D-Brillen19 und/oder der digitalen Okulare16 können selbstverständlich auch alle anderen geeigneten Darstellungseinheiten zur Anwendung kommen, welche eine dreidimensionale Visualisierung der von den Kameras1L ,1R ,2L ,2R aufgenommenen stereoskopischen Bilder erlauben. Insbesondere ist auch eine Kombination unterschiedlicher Darstellungseinheiten möglich. - In
2 sind lediglich exemplarisch drei Darstellungseinheiten gezeigt. Die Zahl der Darstellungseinheiten ist jedoch nicht auf drei beschränkt. Das Operationsmikroskop kann beliebig viele Darstellungseinheiten aufweisen, wobei die Grenzen lediglich durch die Verarbeitungskapazität des Bildgenerators17 festgelegt sind. - Die von den Kameras
1L ,1R ,2L ,2R des Operationsmikroskops15 aufgenommenen Bilder werden über eine Datenleitung21 an den Bildgenerator17 weitergeleitet. Dieser ist derart ausgestaltet, dass er aus den empfangenen Daten der Kameras1L ,1R ,2L ,2R Zwischenbilder mit einer stereoskopischen Zwischenperspektive errechnet. Unter Zwischenbildern mit einer stereoskopischen Zwischenperspektive sollen hierbei stereoskopische Bilder verstanden werden, deren Stereobasis einen Winkel mit den Stereobasen der beiden Kamerapaare1L ,1R beziehungsweise2L ,2R einschließen, sodass diese Stereoperspektive mit den vorhandenen, fest angeordneten Kamerapaaren nicht direkt aufgenommen werden kann. Die Qualität der synthetisierten Bilder und der stereoskopische Eindruck, den die zugehörigen Teilbildpaare vermitteln, hängen von zahlreichen Faktoren ab. Hierbei spielen einerseits geometrische Aspekte und andererseits Aspekte des Verfahrens zum Generieren der synthetischen Bilder eine Rolle. Bei den geometrischen Aspekten sind beispielsweise die Anzahl der verwendeten Kameras1L ,1R ,2L ,2R und deren Anordnung zu nennen. Weitere Parameter haben Einfluss auf eventuelle Abschattungen sowie auf den Stereowinkel der aufgenommenen Bildpaare und die Verdrehung der aufgenommenen Bildpaare zueinander. Im Verfahren zum Synthetisieren des stereoskopischen Zwischenbildes wird eine Abstimmung auf die geometrischen Aspekte der Bildaufnahme vorgenommen. Außerdem soll die Berechnung der synthetisierten Bilder in Echtzeit erfolgen. Mit anderen Worten, es sollen wenigstens fünfzig Bilder pro Sekunde aufgenommen werden, wobei die Verzögerung zwischen Bildaufnahme und der Anzeige des stereoskopischen Zwischenbildes beim Betrachter nicht mehr als 0,1 Sekunden betragen soll. - Zum Generieren der Bilder mit der stereoskopischen Zwischenperspektive weist der Bildgenerator
17 einen Vektorfeldgenerator31 und einen Zwischenbildgenerator33 auf. Im Vektorfeldgenerator31 , der mit den Kameras1L ,1R ,2L ,2R des Mikroskops15 über eine Datenleitung21 verbunden ist, wird ein Verschiebungsvektorfeld berechnet, welches anschließend im Bildgenerator33 dazu verwendet wird, das stereoskopische Zwischenbild zu generieren. Hierzu umfasst der Vektorfeldgenerator31 umfasst einen ersten Bildrotator310 und eine Korrespondenz-Einheit311 und der Bildgenerator33 eine Bildinterpolationseinheit330 und einen zweiten Bildrotator331 . Zudem ist dem Vektorfeldgenerator31 im vorliegenden Ausführungsbeispiel eine Abtasteinheit37 vor- und eine Interpolationseinheit39 nachgeschaltet. Die Funktion der Abtasteinheit37 und der Interpolationseinheit39 werden später erläuterte werden. - Der im Vektorfeldgenerator
31 vorhandene erste Rotator310 dient dazu die zum Ermitteln des Verschiebungsvektorfeldes herangezogenen Bilder in dieselbe Orientierung zu bringen, sofern sie nicht bereits dieselbe Orientierung aufweisen. Wenn bspw. die Bilder der Kameras1L und2L Verwendung finden ist die Orientierung der Bilder um 90° verdreht. Mittels des Bildrotators310 wird dann wenigstens eines der beiden Bilder gedreht, bspw. das Bild der Kamera1L um 90° im Uhrzeigersinn, so dass anschließend die Bilder beider Kameras1L und2L dieselbe Orientierung aufweisen. Selbstverständlich können auch beide Bilder gedreht werden, bspw. das Bild der Kamera1L um 30° im Uhrzeigersinn und das Bild der Kamera2L um 70° gegen den Urzeigersinn. Zum Drehen der Bilder können im Bildrotator310 Standardalgorithmen mit der Verwendung von Drehmatrizen, etwa wie in handelsüblichen Grafikprogrammen, zur Anwendung kommen. Eine Drehung ist dann nicht nötig, wenn die Bilder beider Kameras dieselbe Orientierung ausweisen, bspw. wenn die Bilder1L und1R statt derjenigen der Kameras1L und2L Verwendung finden. Nachdem die beiden verwendeten Bilder1L und2L vom ersten Rotator310 in dieselbe Orientierung gebracht worden sind, ordnet die Korrespondenz-Einheit311 Strukturen des Bildes1L denselben Strukturen des Bildes2L zu und ermittelt anhand der Zuordnung das Verschiebungsvetorfeld. Entsprechendes geschieht auf der Basis der Bilder1R und2R . - Das Ermitteln eines Verschiebungsvektorfeldes anhand zweier Bilder
38 ,40 mit unterschiedlichen Aufnahmewinken ist beispielhaft in3 dargestellt. Die Figur zeigt die Bilder38 und40 nach dem Rotieren, also nachdem sie in dieselbe Orientierung gebracht worden sind. Die Bilder38 ,40 zeigen einen Würfel35 , der von einer ersten Kamera, im vorliegenden Beispiel der Kamera1L , und einer zweiten Kamera, im vorliegenden Beispiel der Kamera2L , in unterschiedlichen Perspektiven aufgenommen worden ist. Bei den beiden Bildern38 ,40 kann es sich grundsätzlich statt, wie im vorliegenden Ausführungsbeispiel, um Bilder von Kameras unterschiedlicher Kamerapaare auch um Bilder von Kameras desselben Kamerapaars handeln, bspw. der Kameras1L und1R . - Aus dem ersten Bild
38 und dem zweiten Bild40 des Würfels35 werden korrespondierende Bildelemente ermittelt und anhand der ermittelten Korrespondenzen ein Verschiebungsvektorfeld bestimmt, welches Bildpunkte des ersten Bildes38 korrespondierenden Bildpunkten des zweiten Bildes40 zuordnet. Die Zuordnung wird also anhand von in den Bildern wiedererkennbaren Merkmalen vorgenommen, die im vorliegenden Beispiel durch die Ecken und Kanten des Würfels angedeutet sind. Wenn ein Bildpunkt des ersten Bildes38 im zweiten Bild40 wiedererkannt werden kann, so kann ihm ein Verschiebungsvektor zugeordnet werden, der ihn einem Bildpunkt des zweiten Bildes38 zuordnet. Die Konstruktion des Verschiebungsvektorfeldes ist in3 schematisch in Bild42 dargestellt, das resultierende Verschiebungsvektorfeld selbst in Bild44 . - Es soll an dieser Stelle darauf hingewiesen werden, dass das in
3 gezeigte Verschiebungsvektorfeld noch nicht die Bahn berücksichtigt, welche die Bildpunkte beispielsweise bei einer gedachten Drehung der ersten Kamera in die Position der zweiten Kamera nehmen würden, sondern lediglich die kürzeste Distanz zwischen einem Bildpunkt des ersten Bildes38 und einem entsprechenden Bildpunkt des Bildes40 , das heißt die Distanz zwischen zwei Endpunkten der gedachten Bewegung. In der tatsächlichen Berechnung des Verschiebungsvektorfeldes kann hingegen auch die Trajektorie berücksichtigt werden, auf der sich ein Bildpunkt vom Ausgangspunkt zum Zielpunkt bei der gedachten Bewegung einer Kamera in die Position einer anderen Kamera bewegen würde. Es wird dann also fingiert, dass sich die eine Kamera auf einer vorgegebenen Bahn aus ihrer Position heraus zur Position der anderen Kamera bewegt. Beispielsweise könnte sich die Kamera1L in1 auf einer Kreisbahn um die optische Achse OA des Mikroskops15 in die Position der Kamera2L bewegen. Im Rahmen dieser Bewegung würde der in3 dargestellte Würfel35 kontinuierlich seine Perspektive ändern, wobei sich die Bildpunkte auf gekrümmten Bahnen bewegen, wie dies in4 an einem zweidimensionalen Beispiel dargestellt ist. - Die vorgegebenen Bahnen und die damit verbundenen Perspektiven lassen sich aus der Geometrie der Kameraanordnung im Mikroskop ermitteln. Bei einer Kameraanordnung, wie sie in
1 dargestellt ist, wäre die mögliche gedachte Bahn einer Kamerabewegung eine Kreisbahn auf den gedachten Kreis6 . Aus zwei Bildern, die von Kameras mit unterschiedlichen stereoskopischen Perspektiven aufgenommen worden sind, und einer vorgegebenen gedachten Bahn, welche die Gedachte Bewegung einer Kamera in die Position einer anderen Kamera repräsentiert, lässt sich dann auf die Trajektorien schließen, der die Bildpunkte während einer solchen gedachten Bewegung folgen würden. Sobald die Trajektorien ermittelt sind, kann ein Zwischenbild für jede gedachte Kameraposition auf der vorgegebenen Bahn synthetisiert werden. Eine Möglichkeit, die Trajektorien darzustellen besteht darin, die Trajektorien in Form eines Polygonzuges zu beschreiben. - Das durch Trajektorien repräsentierte Verschiebungsvektorfeld kann mittels eines Variationsverfahrens berechnet werden. In einem derartigen Verfahren wird ein Energiefunktional mit Randbedingungen konstruiert, das ein Verschiebungsvektorfeld als Variable enthält. Es wird dann dasjenige Verschiebungsvektorfeld ermittelt, welches zum minimalen Wert des Energiefunktionals führt. Die Anordnung der Kameras und die gedachten Bahnen würden hierbei in dem Energiefunktional enthalten sein. Diese Art des Berechnens des Verschiebungsvektorfeldes stellt sicher, dass für jeden Bildpunkt des Ausgangsbildes ein Bildpunkt des Zielbildes existiert, zu dem ein Verschiebungsvektorzug führt. Das Auffinden des Minimums des Energiefunktionals kann beispielsweise mittels eines Algorithmus aus der Klasse der Mehrgitterverfahren erfolgen.
- Will man das beschriebene Verfahren zum Erzeugen von stereoskopischen Zwischenbildern in der Operationsmikroskopie einsetzen, würde man zunächst einen Durchsatz von rund 50 Millionen Flussvektoren pro Sekunde fordern, da 50 Bilder mit jeweils einer Million Pixeln verarbeitet werden müssen. Wenn die Bilder mehr Pixel aufweisen, steigt der benötigte Durchsatz entsprechend. Dies ist mit heutigen Computersystemen noch nicht ohne Weiteres zu erreichen. Es kann aber davon ausgegangen werden, dass künftige Computersysteme die dazu notwendige Rechenkapazität aufweisen.
- Um das Verfahren bereits heutzutage zu realisieren, können weitere Maßnahmen zur Anwendung kommen. Eine dieser Maßnahmen besteht darin, die Bilder, aus denen ein Verschiebungsvektorfeld berechnet wird, mit einem verringerten Raster räumlich abzutasten und das Verschiebungsvektorfeld auf der Basis der mit dem verringerten Raster abgetasteten Bilder zu berechnen. Nachdem das Verschiebungsvektorfeld berechnet worden ist, wird es auf die gewünschte Größe interpoliert, das heißt durch Interpolation werden aus den Verschiebungsvektoren, die auf der Basis der unterabgerasterten Bilder gewonnen wurden, ein Verschiebungsvektoren für die Bilder mit der ursprünglichen Bildgröße gewonnen. Dies ist im Rahmen medizinisch-optischer Beobachtungsgeräte deswegen möglich, weil das im klinischen Alltag auftretende Bildmaterial in der Regel sehr glatte Trajektorien für die einzelnen Bildpunkte aufweisen wird, sodass eine Interpolation ohne größere Fehler möglich ist. Entsprechend können die Bilder auch zeitlich unterabgetastet werden. Das Verschiebungsvektorfeld wird dann anhand der zeitlich unterabgetasteten Bilder ermittelt und anschließend interpoliert, um ein Verschiebungsvektorfeld für die nicht unterabgetasteten Bildrate zu erhalten. Auch eine Kombination von räumlicher und zeitlicher Unterabtastung kann zum Einsatz kommen, um den Rechenaufwand bei Erzeugen des Verschiebungsrektorfeldes zu verringern.
- Um das Verfahren mit räumlicher und/oder zeitlicher Unterabtastung durchzuführen, ist dem Vektorfeldgenerator
31 eine Abtasteinheit37 vor- und eine Interpolationseinheit39 nachgeschaltet. In der Abtasteinheit37 erfolgt die räumliche und/oder zeitliche Unterabtastung der von den Kameras1L ,1R ,2L ,2R aufgenommenen Bilder. - Der Vektorfeldgenerator
31 ist zum Empfang der unterabgetasteten Bilder mit der Abtasteinheit37 verbunden. In ihm wird das Verschiebungsvektorfeld auf der Basis der unterabgetasteten Bilder bspw. mittels eines Mehrgitteralgorithmus berechnet. Die Interpolationseinheit39 , die mit dem Vektorfeldgenerator31 zum Empfang des Verschiebungsvektorfeldes verbunden ist, interpoliert dann das empfangene Verschiebungsvektorfeld auf die ursprüngliche räumlich und/oder die ursprüngliche zeitliche Abtastrate der Bilder und gibt dieses an den mit der Interpolationseinheit39 verbundenen Zwischenbildgenerator33 aus. - Im Zwischenbildgenerator
33 wird das Verschiebungsvektorfeld der Bildinterpolationseinheit330 zugeleitet, die anhand des Verschiebungsvektorfeldes und aus Positionsdaten, welche die Position eines digitalen Okulars bzw. eines Betrachters repräsentieren, die Zwischenbilder für die in der jeweiligen Position befindlichen digitalen Okulare16A ,16B ,16C und/oder die Betrachter23A –C interpoliert (Warping). Der Bildinterpolationsprozess wird später noch im Detail beschrieben. - Die interpolierten Zwischenbilder weisen danach aber noch die Orientierung der ggf. gedrehten Ausgangsbilder der Kameras
1L ,2L auf, so dass sie noch in die an die Zwischenperspektive angepasste Orientierung gedreht werden müssen. Diese Drehung wird vom zweiten Bildrotator331 auf der Basis der Positionsdaten durchgeführt. Aus den Positionsdaten wird hierbei errechnet, um welchen Winkel das stereoskopische Zwischenbild gegenüber den aufgenommenen Ausgangsbildern1L ,2L zu verdrehen ist. Zum Drehen der Bilder können im Bildrotator310 Standardalgorithmen mit der Verwendung von Drehmatrizen, etwa wie in handelsüblichen Grafikprogrammen, zur Anwendung kommen. Die generierten Zwischenbilder werden dann an die entsprechenden Darstellungseinheiten, d. h. an die digitalen Okulare16A ,16B ,16C und/oder die 3D-Brillen19A ,19B ,19C ausgegeben. - Die zum Interpolieren und zum Drehen benötigten Positionsdaten eines Betrachters können beispielsweise als Blickrichtung bezogen auf die Blickrichtung eines Kamerapaares
1L ,1R ,2L ,2R dargestellt werden, wie dies in5 dargestellt ist. Alternativ hierzu besteht beispielsweise auch die Möglichkeit, die Positionsdaten als Winkel der Stereobasis des stereoskopischen Zwischenbildes zu wenigstens einer der Stereobasen der Kamerapaare1L ,1R ,2L ,2R anzugeben oder in Form von Koordinaten in einem zwei- oder dreidimensionalen Koordinatensystem. - Die Positionsdaten der digitalen Okulare
16A ,16B ,16C werden von einer Positionssensoreinheit im Haltering41 des Mikroskops ermittelt. Diese Positionssensoreinheit ist zur Weitergabe der Positionen der der digitalen Okulare16A ,16B ,16C mit einer Recheneinheit29 verbunden, die außerdem sowohl mit der Bildinterpolationseinheit330 als auch mit dem zweiten Bildrotator331 verbunden ist. Die Recheneinheit29 generiert die Positionen der digitalen Okulare16A ,16B ,16C repräsentierende Positionsdaten und gibt diese an Bildinterpolationseinheit330 und den Bildrotator331 aus. - Zum Generieren der Positionsdaten für die Betrachter wird auf die Daten eines Positionsbestimmungssystems zurückgegriffen, welches einerseits die Positionen der Betrachter
23A ,23B ,23C und andererseits die Position des Mikroskoptubus15 ermittelt und zueinander in Beziehung setzt. Ein solches System kann Teil des Operationsmikroskops sein, es kann aber auch ein externes System sein, auf dessen Daten vom Operationsmikroskop zurückgegriffen wird. - In dem in
2 dargestellten Ausführungsbeispiel findet ein externes System Verwendung, welches drei Detektoren27 aufweist, mit denen die Positionen der Betrachter23A ,23B ,23C sowie des Mikroskoptubus15 ermittelt und die Positionsdaten an eine zentrale Recheneinheit29 weitergeben werden. In der zentralen Recheneinheit29 werden dann die Positionsdaten der Betrachter23A ,23B ,23C zur Position des Mikroskoptubus15 in Beziehung gesetzt und die Position der Betrachter23A ,23B ,23C relativ zum Mikroskoptubus ermittelt. Die Ausgestaltung der Detektoren27 ist hierbei unerheblich, solange sie in der Lage sind, die Position der Betrachter und des Mikroskops15 zu ermitteln. Die Recheneinheit29 ist zur Weitergabe der die Positionen der Betrachter23A ,23B ,23C relativ zum Mikroskoptubus15 repräsentierenden Positionsdaten sowohl mit der Bildinterpolationseinheit330 als auch mit dem zweiten Bildrotator331 verbunden. - Im vorliegenden Ausführungsbeispiel sind die Detektoren
27 als passive Detektoren ausgebildet, die Signale von Signalgebern25 empfangen. Die Signalgeber25 , die im vorliegenden Ausführungsbeispiel als Infrarotleuchtdioden ausgebildet sind, sind sowohl am Mikroskoptubus15 als auch an den Darstellungseinheiten19a ,19b ,19c angeordnet. Die Darstellung der Signalgeber25 ist hierbei lediglich schematisch in2 dargestellt. Insbesondere sind die Signalgeber und die Detektoren27 derart angeordnet, dass die Detektoren die Position eines an einem Darstellungsgerät19 befestigten Signalgebers in jeder möglichen Position des Trägers detektieren können. Im vorliegenden Ausführungsbeispiel kommen Infrarotdetektoren27 zur Anwendung, deren Position in den Koordinaten des Raumes, in denen das System aufgebaut ist, bekannt ist. Die Infrarotstrahlung einer Infrarotleuchtdiode25 wird von allen drei Infrarotdetektoren27 aufgenommen und aus den aufgenommenen Infrarotbildern wird anschließend die Position der Infrarot-LED ermittelt. - Alternative Möglichkeiten zur Positionsbestimmung bestehen in der Verwendung aktiver Detektoren, das heißt von Detektoren, die ein Signal aussenden, welches von einem Transponder reflektiert wird und vom Detektor wieder empfangen wird. Beispielsweise kann dann aus der Laufzeit der von den unterschiedlichen Detektoren ausgesandten und wieder empfangenen Signale die Position des Transponders ermittelt werden. In diesem Fall wären der Mikroskoptubus
15 und die Darstellungseinheiten19 mit einem derartigen Transponder statt einer Infrarot-LED ausgestattet. Weiterhin besteht grundsätzlich die Möglichkeit, die Positionen alleine aus Bildanalyseverfahren zu ermitteln, was jedoch einen erheblichen Rechenaufwand mit sich bringt. - Die von der Recheneinheit
29 ermittelten Positionsdaten der Betrachter23 relativ zum Operationsmikroskop15 werden an den Bildgenerator17 ausgegeben, wo sie dazu verwendet werden, beispielsweise den geeigneten Winkel der Stereobasis für die Zwischenperspektive in Bezug auf die Stereobasen der Kamerapaare1L ,1R ,2L ,2R zu ermitteln. Die von den beiden Kamerapaaren erzeugten Stereobilder sowie ein exemplarisches Zwischenbild sind in5 schematisch dargestellt. Hierbei deuten die kleinen Kreise jeweils die stereoskopischen Teilbilder an, wobei die Teilbilder der Zwischenperspektive gestrichelt dargestellt sind. Selbstverständlich kann der Winkel der Zwischenperspektive zu den Perspektiven der Stereokamerapaare statt als Winkel zwischen den Stereobasen auch als Winkel zwischen den Blickrichtungen dargestellt werden, wie das in5 der Fall ist. Dort ist der Winkel zwischen der Blickrichtung der stereoskopischen Zwischenperspektive und der Blickrichtung der stereoskopischen Perspektive des Kamerapaares1L ,1R durch den Winkel β und der Winkel zwischen der Blickrichtung der stereoskopischen Zwischenperspektive und der Perspektive des Kamerapaares2L ,2R durch den Winkel γ gegeben. - Im Rahmen der Interpolation verschiebt der Zwischenbildgenerator
33 die Bildinterpolationseinheit330 auf der Basis der empfangenen Positionsdaten die Bildpunkte eines Ausgangsbildes entlang der im Verschiebungsvektorfeld definierten Trajektorien so weit, dass ein geeignetes Zwischenbild für den Beobachtungswinkel eines Betrachters entsteht. Es kann dann eine sogenannte Warpingmatrix generiert werden, welche das Ausgangsbild gemäß dem verwendeten Abschnitt der Trajektorien verschiebt. Die Warpingmatrix ordnet dabei den Bildpunkten, die sich im ersten Bild (oder im zweiten Bild) in einer bestimmten Position in einem bildinternen Koordinatensystem befinden, eine Position im Zwischenbild zu. Außerdem kann die Warpingmatrix Daten über andere Eigenschaften der Bildpunkte, beispielsweise die Helligkeit, die Fartbtiefe, etc. enthalten, die aus den entsprechenden Daten derjenigen Bilder gewonnen werden, aus denen das Verschiebungsvektorfeld berechnet wird. Hierbei gilt, dass diese Daten umso genauer ermittelt werden können, je mehr Kameras das Beobachtungsobjekt unter verschiedenen Beobachtungswinkeln aufnehmen. - Zum generieren eines stereoskopischen Zwischenbilder wird auf der Basis der Position eines Betrachters ein stereoskopisches Zwischenbild mit zwei Teilbildern interpoliert. Zum Generieren eines stereoskopischen Teilbildes werden dabei die Pixel eines Ausgangsbildes, beispielsweise der Kamera
1L entlang der durch das Verschiebungsvektorfeld gegebenen Trajektorie solange verschoben, bis die dem Beobachtungswinkel γ (vergleiche3 ) entsprechende Perspektive erreicht ist. Entsprechend wird das zweite stereoskopische Teilbild beispielsweise ausgehend vom Bild der Kamera1R synthetisiert, indem die Pixel des Bildes der Kamera1R entlang der durch das entsprechende Verschiebungsvektorfeld beschriebenen Trajektorie solange verschoben werden, bis die dem Betrachtungswinkel β (vergleiche3 ) entsprechende Perspektive erreicht ist. Es sei an dieser Stelle angemerkt, dass es grundsätzlich auch möglich ist, beide stereoskopischen Teilbilder auf der Basis eines einzigen Ausgangsbildes, beispielsweise des Bildes der Kamera1L , zu synthetisieren. In diesem Fall würde die Verschiebung der Pixel entlang der Trajektorie solange erfolgen, bis, ausgehend von der Kamera1L , ein Betrachtungswinkel von 90° minus β (vergleiche3 ) erreicht ist. - Nachdem die beiden stereoskopischen Zwischenteilbilder von der Bildinterpolationseinheit
330 generiert worden sind, werden sie an den zweiten Bildrotator331 weitergegeben, der sie durch eine geeignete Drehung in die die dem Betrachtungswinkel β entsprechende Orientierung bringt und die gedrehten Zwischenteilbilder and die entsprechende Darstellungseinheit (digitales Okular oder 3D-Brille) ausgibt. Die beiden Zwischenteilbilder vermitteln dem Betrachter23 dann das stereoskopische Zwischenbild, das seiner Blickrichtung auf das Beobachtungsobjekt3 entsprechen. - In dem in
1 dargestellten Operationsmikroskop sind zwei Stereokamerapaare vorhanden, deren Stereobasen sich im rechten Winkel schneiden. Zum Berechnen des Verschiebungsvektorfeldes besteht die Möglichkeit, Bilder von beliebigen zwei der vier Kameras heranzuziehen. Jede der vier Kameras erzeugt nämlich eine Darstellung mit unterschiedlicher Perspektive, sodass die entsprechenden Bilder geeignete Ausgangs- beziehungsweise Endpunkte für die Trajektorien der Bildpunkte im Rahmen des Verschiebungsvektorfeldes zur Verfügung stellen. Wenn die Bilder benachbarter Kameras, beispielsweise der Kamera1L und der Kamera2L zum Berechnen eines Verschiebungsvektorfeldes herangezogen werden, sind die Trajektorien, welche die Bildpunkte des einen Bildes mit den Bildpunkten des anderen Bildes verbinden, kürzer als bei Verwendung der Bilder von zwei einander gegenüberliegenden Kameras, beispielsweise der Kameras1L und der Kamera1R . Um eine beliebige Positionierung des Betrachters im Bereich von 360° um die optische Achse OA herum zu ermöglichen, werden im Falle der Verwendung von benachbarten Kameras wenigstens vier Verschiebungsvektorfelder berechnet, von denen jedes das Generieren von Zwischenbildern in einen Kreisausschnitt von 90° ermöglicht. Wenn dagegen die Verschiebungsvektorfelder auf der Basis der Bilder von einander gegenüberliegenden Kameras ermittelt werden, erfolgt eine Berechnung von zwei Verschiebungsvektorfeldern, von denen jedes das Generieren von Zwischenbildern in einem Kreisausschnitt von 180° ermöglicht. Im Vergleich zu einem Kreisausschnitt von 90° kann dies jedoch zu einer verringerten Genauigkeit in der Berechnung der Trajektorien der Bildpunkte führen. Andererseits ermöglicht diese Ausgestaltung die Verwendung von lediglich einem Kamerapaar im Rahmen des Operationsmikroskops aus1 . - Wenn, wie in
1 dargestellt, zwei Kamerapaare vorhanden sind und die Verschiebungsvektorfelder auf der Basis einander gegenüberliegender Kamerapaare berechnet werden sollen, können die Verschiebungsvektorfelder beispielsweise auf der Basis des Kamerapaars1L ,1R sowie auf der Basis des Kamerapaars2L ,2R berechnet werden. In diesem Fall werden vier Verschiebungsvektorfelder berechnet, die jeweils das Generieren von Zwischenbildern in einem Kreisausschnitt von 180° ermöglichen. Dabei sind auf der Basis des Kamerapaares1L ,1R berechneten Verschiebungsvektorfelder um 90° gegen die auf der Basis des Kamerapaares2L ,2R berechneten Verschiebungsvektorfelder verdreht. Insgesamt erfolgt für jede mögliche Position eines Betrachters um die optische Achse OA herum eine Berechnung von zwei Verschiebungsvektorfeldern, die jeweils das Generieren von Zwischenbildern in einem Kreisausschnitt von 180° repräsentieren. Durch die doppelte Berechnung kann der Nachteil der langen Trajektorien zumindest teilweise wieder ausgeglichen werden. Beispielsweise mittels eines Vergleichs der für jeden Punkt berechneten beiden Trajektorien oder einer Mittelwertbildung kann eine Verbesserung der Genauigkeit in der Berechnung erreicht werden. - Besonders vorteilhaft ist es, wenn sowohl Verschiebungsvektorfelder auf der Basis von Bildern benachbarter Kameras sowie auf der Basis von Bildern einander gegenüberliegender Kameras berechnet werden. In diesem Fall werden für jeden möglichen Orientierungswinkel eines Betrachters drei Verschiebungsvektorfelder berechnet, nämlich jeweils eins, welche das Generieren von Zwischenbildern in einem Kreisausschnitt von 90° ermöglicht, und jeweils zwei, die jeweils das Generieren von Zwischenbildern in einem Kreisausschnitt von 180° ermöglichen. Grundsätzlich ist es sogar möglich, auf der Basis zweier benachbarter Kameras zwei Verschiebungsvektorfelder zu berechnen, nämlich dasjenige, das das Generieren von Zwischenbildern in einem Kreisausschnitt von 90° ermöglicht und eines, welches das Generieren von Zwischenbildern in einem Kreisausschnitt von 270° ermöglicht. Insgesamt lassen sich so mit der in
1 dargestellten Kameraanordnung insgesamt vier Verschiebungsvektorfelder für jeden beliebigen Orientierungswinkel eines Betrachters berechnen, wodurch einerseits Abschattungen aufgrund der hohen Kamerazahl zuverlässig vermeidbar sind und andererseits Ungenauigkeiten in der Berechnung der Verschiebungsvektorfelder gering gehalten werden können. Mit der Zahl der Kameras erhöht sich auch die Zahl der berechenbaren Verschiebungsvektorfelder. Allerdings werden dadurch der konstruktive Aufwand des Mikroskops und der Rechenaufwand beim Generieren der Zwischenbilder erhöht. - Im Rahmen einer Abwägung des konstruktiven Aufwandes und des Rechenaufwands einerseits sowie der Genauigkeit, mit der die Verschiebungsvektorfelder zu berechnen sind, andererseits, ist es vorteilhaft, wenn das Operationsmikroskop zwischen drei und sechs Kameras aufweist. Eine mögliche Anordnung mit drei Kameras ist schematisch in
6 und eine mögliche Anordnung mit sechs Kameras ist schematisch in7 dargestellt. - Das in
6 dargestellte Operationsmikroskop weist ein Objektiv107 und drei Kameras101 ,103 ,105 auf, die die Ecken eines gedachten gleichseitigen Dreiecks109 bilden, in dessen Schwerpunkt die optische Achse OA des Mikroskops liegt. Ein gedachter Kreis111 , in den das Dreieck einbeschrieben ist, stellt die Bahn einer gedachten Kamerabewegung von einer Ecke des Dreiecks zu einer anderen Ecke des Dreiecks dar. in dieser Ausgestaltung des Mikroskops werden drei Verschiebungsvektorfelder berechnet, die jeweils das Generieren von Zwischenbildern in einem Kreisausschnitt von 120° um die optische Achse OA des Mikroskops herum ermöglichen. Außerdem ist es mit dieser Konfiguration möglich, Verschiebungsvektorfelder zu berechnen, die das Generieren von Zwischenbildern in einem Kreisausschnitt von 240° ermöglichen. Insgesamt bietet die in6 dargestellte Konfiguration daher grundsätzlich die Möglichkeit, für jede beliebige Position eines Betrachters um die optische Achse OA herum zwei Verschiebungsvektorfelder zur Verfügung zu stellen, auf deren Basis das stereoskopische Zwischenbild berechnet werden kann. Gleichzeitig ist der konstruktive Aufwand in dieser Ausgestaltung gering. - Das in
7 dargestellte Operationsmikroskop umfasst ein Objektiv207 und sechs Kameras201 bis206 , die an den Ecken eines regelmäßigen Sechsecks209 angeordnet sind. Die optische Achse OA des Mikroskops führt durch den Schwerpunkt dieses Sechsecks. In dieser Anordnung der Kameras kann die Kamera201 zum Ermitteln eines Verschiebungsvektorfeldes mit jeder beliebigen der Kameras202 bis206 kombiniert werden. Jede Kombination ermöglicht die Berechnung von zwei Verschiebungsvektorfeldern. Die Kamera202 kann mit den Kameras203 bis 206 zum Berechnen von Verschiebungsvektorfeldern kombiniert werden. Die Kombination der Kamera202 mit der Kamera201 ist bereits in den mit Bezug auf die Kamera201 bezogenen Kombinationen enthalten. Insgesamt ergeben sich durch die Kombinationsmöglichkeiten der Kamera202 mit den Kameras203 bis206 vier weitere Kamerapaarungen, auf deren Basis jeweils zwei Verschiebungsvektorfelder berechnet werden können. Wenn man nun die Kamera203 betrachtet, bleiben für diese Kamera drei Kombinationsmöglichkeiten mit den Kameras204 bis206 übrig, die von den zuvor erwähnten Kombinationen noch nicht abgedeckt sind. Entsprechend können sechs Verschiebungsvektorfelder berechnet werden. Für die Kamera204 ergeben sich so noch zwei mögliche Kombinationen und vier Verschiebungsvektorfelder, und für die Kamera205 eine Kombination und zwei mögliche Verschiebungsvektorfelder. Insgesamt bietet die in7 dargestellte Kamerakonfiguration bei mäßigem konstruktiven Aufwand die Möglichkeit, insgesamt 30 verschiedene Verschiebungsvektorfelder zu berechnen, sodass für jede mögliche Position eines Betrachters in Bezug auf die optische Achse OA fünf Verschiebungsvektorfelder zum Berechnen der stereoskopischen Zwischenperspektive existieren. Insgesamt ist daher eine genaue Berechnung der Zwischenperspektive weitgehend ohne Abschattungseffekte bei verhältnismäßig moderatem konstruktiven Aufwand möglich. - Zwar sind in den
6 und7 die Kameras an den Ecken von regelmäßigen Polygonen angeordnet, jedoch können die Polygone grundsätzlich auch unregelmäßig sein. Außerdem braucht die optische Achse des Mikroskops auch nicht durch den Schwerpunkt des Polygons zu verlaufen. Die in den6 und7 dargestellten symmetrischen Anordnungen dienen lediglich der Vereinfachung der Berechnung des Verschiebungsvektorfeldes, stellen aber keine Voraussetzung für die Berechnung dar. - Es soll an dieser Stelle auch angemerkt werden, dass die Verschiebungsvektorfelder zwischen zwei Kameras grundsätzlich im Urzeigersinn und gegen den Urzeigersinn um die optische Achse OA berechnet werden können. Wenn beide Varianten realisiert werden, lässt sich die Zahl der für das Generieren der Zwischenperspektive zur Verfügung stehenden Verschiebungsvektorfelder noch einmal verdoppeln. Aus diesen kann beispielsweise ein gemitteltes Verschiebungsvektorfeld berechnet werden, wobei bei der Mittelung auch Gewichtungen berücksichtigt werden können. So können etwa solche Verschiebungsvektorfelder, die kurze gedachte Kamerabahnen repräsentieren mit einem höheren Gewicht als solche, die lange gedachte Kamerabahnen repräsentieren.
- In den bisher beschriebenen Ausführungsbeispielen wurde für jedes zu generierende Zwischenteilbild ein eigenes Verschiebungsvektorfeld berechnet. Grundsätzlich besteht aber auch die Möglichkeit, ein gemeinsames Verschiebungsvektorfeld für eine beliebige Anzahl von zu generierenden Zwischenteilbildern zu ermitteln. Beispielsweise könnte beim in
1 dargestellten Operationsmikroskop ein gemeinsames Verschiebungsvektorfeld für die beiden Teilbilder eines Kamerapaars berechnet werden. Dies ist insbesondere dann möglich, wenn, wie in1 , stereoskopische Kamerapaare Verwendung finden, das heißt Kamerapaare, die einen für eine stereoskopische Betrachtung üblichen Stereowinkel aufweisen. - Falls die Kamerapaare einen für eine stereoskopische Betrachtung unüblichen Stereowinkel aufweisen, wie dies beispielsweise in der Konfiguration aus
6 der Fall sein könnte, können stereoskopische Teilbilder mit üblichen Stereowinkeln aus den Verschiebungsvektorfeldern ermittelt werden. So würden etwa zwei Zwischenteilbilder, die beide zwischen einem Kamerapaar liegen, einen kleineren Stereowinkel als die Teilbilder des Kamerapaares aufweisen. - Das Synthetisieren der Stereowinkel bietet insbesondere auch die Möglichkeit, den Stereowinkel gezielt für individuelle Benutzer einstellbar zu gestalten, sodass ein Nutzer beispielsweise den Stereowinkel verkleinern und sich so virtuell vom Beobachtungsobjekt entfernen kann, wenn er seine räumliche Wahrnehmung des Beobachtungsobjektes verändern möchte. Dies geht insbesondere dann, wenn die Kameras einen großen Ausschnitt des Beobachtungsobjektes aufnehmen. Auch eine Vergrößerung des Stereowinkels ist möglich, wenn ein großer Abstand zwischen Kameras im Verhältnis zur Brennweite des Objektivs vorhanden ist, d. h. die Kameras so angeordnet sind, dass sie überhöhte Stereowinkel aufweisen. In diesem Fall können die bei einer stereoskopischen Beobachtung üblichen kleineren Stereowinkel synthetisch generiert werden. Wenn dann der räumliche Eindruck in der Darstellung erhöht werden soll, kann der Stereowinkel der synthetischen stereoskopischen Teilbilder erhöht werden, bis der überhöhte Stereowinkel erreicht ist.
- Das erfindungsgemäße optische Beobachtungsgerät sowie das erfindungsgemäße Verfahren stellen die Möglichkeit zur Verfügung, stereoskopische Teilbilder in optischen Beobachtungsgeräten zu synthetisieren und dadurch die Freiheit in der Positionierung eines Betrachters zu erhöhen. Daneben ermöglicht es die Erfindung auch, Parameter wie beispielsweise den Stereowinkel elektronisch zu beeinflussen, um die räumliche Wahrnehmung eines Beobachtungsobjektes zu verändern. Außerdem kann bei geringem bis moderatem konstruktivem Aufwand eine grundsätzlich beliebig hohe Zahl von Betrachtern das Mikroskop nutzen. Die Zahl der Betrachter ist lediglich durch die verfügbare Rechenleistung begrenzt.
- ZITATE ENTHALTEN IN DER BESCHREIBUNG
- Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
- Zitierte Patentliteratur
-
- - DE 10300925 A1 [0002, 0038]
- - DE 10204430 A1 [0003, 0038]
Claims (20)
- Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem medizinisch-optischen Beobachtungsgerät (
15 ), in dem ein erstes Bild in einer ersten Perspektive aufgenommen wird, wenigstens ein zweites Bild in einer zweiten, von der ersten verschiedenen Perspektive aufgenommen wird und ein Zwischenbild mit einer stereoskopischen Zwischenperspektive aus den aufgenommen Bildern errechnet wird dadurch gekennzeichnet, dass – zunächst aus den wenigstens zwei Bildern mit unterschiedlicher Perspektive ein Verschiebungsvektorfeld ermittelt wird, wobei Strukturen des einen Bildes entsprechenden Strukturen des anderen Bildes zugeordnet werden, und – mittels einer Bildinterpolation auf der Basis des Verschiebungsvektorfeldes das Zwischenbild berechnet wird. - Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass – vor dem Ermitteln des Verschiebungsvektorfeldes wenigstens eines der Bilder so um einen ersten Winkel gedreht wird, dass das erste Bild und das zweite Bild dieselbe Orientierung aufweisen, – das Verschiebungsvektorfeld aus den nach dem Drehen verbleibenden, auf der unterschiedlichen Perspektive beruhenden Unterschiede ermittelt wird, – mittels der Bildinterpolation auf der Basis des Verschiebungsvektorfeldes ein Zwischenbild mit einer Zwischenperspektive berechnet wird, wobei das Zwischenbild dieselbe Orientierung aufweist wie das gedrehte Bild, und – das Zwischenbild anschließend um einen zweiten Winkel in die zur Zwischenperspektive passende Orientierung gedreht wird.
- Verfahren nach Anspruch 1 oder Anspruch 2, dadurch gekennzeichnet, dass – als erstes und zweites Bild Teilbilder wenigstens eines stereoskopischen Bildes Verwendung finden, – zunächst aus wenigstens zwei Teilbildern mit unterschiedlicher stereoskopischer Perspektive ein Verschiebungsvektorfeld ermittelt wird, das Strukturen des einen Teilbildes entsprechenden Strukturen des anderen Teilbildes zuordnet, und – mittels einer Interpolation auf der Basis des Verschiebungsvektorfeldes das Zwischenteilbild berechnet wird.
- Verfahren nach Anspruch 3, dadurch gekennzeichnet, dass – wenigstens zwei stereoskopische Bilder mit jeweils einem linken und einem rechten Teilbild aufgenommen werden, – für die stereoskopische Zwischenperspektive ein linkes und ein rechtes Zwischenteilbild errechnet wird, – das linke Zwischenteilbild aus den linken Teilbildern der stereoskopischen Bilder berechnet wird und – das rechte Zwischenteilbild aus den rechten Teilbildern der stereoskopischen Bilder berechnet wird.
- Verfahren nach Anspruch 4, dadurch gekennzeichnet, dass – für die rechten Teilbilder ein rechtes Veschiebungsvektorfeld berechnet wird, – für die linken Teilbilder ein linkes Veschiebungsvektorfeld berechnet wird, – das rechte Zwischenteilbild mittels einer Interpolation des rechten Verschiebungsvektorfeldes berechnet wird und – das linke Zwischenteilbild mittels einer Interpolation des linken Verschiebungsvektorfeldes berechnet wird.
- Verfahren nach Anspruch 4, dadurch gekennzeichnet, dass ein gemeinsames Verschiebungsvektorfeld für die Teilbilder der beiden stereoskopischen Bilder ermittelt wird.
- Verfahren nach einem der Ansprüche 1 bis 6, dadurch gekennzeichnet, dass wenigstens drei Bilder bzw. Teilbilder aufgenommen werden, wobei die aufnehmenden Kameras an den Ecken eines relativ zur optischen Achse zentrierten Polygons angeordnet sind.
- Verfahren nach einem der vorangehenden Ansprüche, dadurch gekennzeichnet, dass das Berechnen des Verschiebungsvektorfeldes mittels eines Variationsverfahrens erfolgt.
- Verfahren nach einem der vorangehenden Ansprüche, dadurch gekennzeichnet, dass das Berechnen des Verschiebungsvektorfeldes mittels eines Mehrgitteralgorithmus erfolgt.
- Verfahren nach einem der vorangehenden Ansprüche, dadurch gekennzeichnet, dass – die Bilder bzw. Teilbilder aus denen ein Verschiebungsvektorfeld berechnet wird, mit einem verringerten Raster räumlich abgetastet werden, – das Verschiebungsvektorfeld auf der Basis der mit verringertem Raster abgetasteten Bilder bzw. Teilbilder berechnet wird, und – das Verschiebungsvektorfeld für ein gegenüber dem verringerten Raster erhöhtes Raster durch Interpolation aus demjenigen Verschiebungsvektorfeld gewonnen wird, das auf der Basis der mit verringertem Raster abgetasteten Bilder bzw. Teilbilder berechnet wurde.
- Verfahren nach einem der vorangehenden Ansprüche, dadurch gekennzeichnet, dass – die Bilder bzw. Teilbilder, aus denen ein Verschiebungsvektorfeld berechnet wird, mit einer verringerten Abtastrate aufgenommen werden, – das Verschiebungsvektorfeld auf der Basis der mit der verringerten Abtastrate aufgenommenen Bilder bzw. Teilbilder berechnet wird, und – das Verschiebungsvektorfeld für eine gegenüber der verringerten Abtastrate erhöhte Abtastrate durch Interpolation aus demjenigen Verschiebungsvektorfeld gewonnen wird, das auf der Basis der mit verringerter Abtastrate aufgenommenen Bilder bzw. Teilbilder berechneten wurde.
- Medizinisch-optisches Beobachtungsgerät mit – wenigstens zwei Kameras (
1L ,1R ,2L ,2R ,101 –105 ,201 –206 ), die derart relativ zueinander angeordnet sind, dass sie ein erstes Bild und ein zweites Bild mit voneinander verschiedenen Perspektiven eines Beobachtungsgegenstandes (3 ) aufnehmen, – einen mit den Kameras (1L ,1R ,2L ,2R ,101 –105 ,201 –206 ), zum Empfang der Bilder verbundener Bildgenerator (17 ), der derart ausgestaltet ist, dass er aus dem ersten und dem zweiten Bild eine Zwischenbild mit einer Zwischenperspektive errechnet, und – eine mit dem Bildgenerator (17 ) zum Empfang des Zwischenbildes verbunden Darstellungseinheit (19 ) zum Darstellen des Zwischenbildes, dadurch gekennzeichnet, dass – der Bildgenerator (17 ) einen Vektorfeldgenerator (31 ) und einen Zwischenbildgenerator (33 ) aufweist, – der Vektorfeldgenerator (31 ) zum Generieren eines Verschiebungsvektorfeldes aus den empfangenen Bildern ausgestaltet ist, und – der Zwischenbildgenerator (33 ) mit dem Vektorfeldgenerator (31 ) zum Empfang des Verschiebungsvektorfeldes verbunden und zum Berechnen des Zwischenbildes aus dem ersten oder dem zweiten Bild mit Hilfe des Verschiebungsvektorfeldes ausgebildet ist. - Medizinisch-optisches Beobachtungsgerät nach Anspruch 12, dadurch gekennzeichnet, dass – der Vektorfeldgenerator (
31 ) einen ersten Bildrotator und eine Korrespondenz-Einheit umfasst, – der Zwischenbildgenerator (33 ) eine Bildinterpolationseinheit und einen zweiten Bildrotator umfasst, – der erste Bildrotator dazu ausgestaltet ist, wenigstens eines der beiden Bilder so zu drehen, dass das erste Bild und das zweite Bild dieselbe Orientierung aufweisen, – die Korrespondenz-Einheit dazu ausgestaltet ist, nach der Drehung durch den ersten Bildrotator Strukturen des ersten Bildes entsprechenden Strukturen des zweiten Bildes zuzuordnen und das Verschiebungsvektorfeld anhand der Zuordnung zu ermitteln, – die Bildinterpolationseinheit dazu ausgestaltet ist, das Zwischenbild anhand des empfangenen Verschiebungsvektorfeldes zu interpolieren und – der zweite Bildrotator dazu ausgestaltet ist, das Zwischenbild in eine zur Zwischenperspektive passende Orientierung zu drehen. - Medizinisch-optisches Beobachtungsgerät nach Anspruch 12 oder Anspruch 13, dadurch gekennzeichnet, dass – dem Vektorfeldgenerator (
31 ) eine mit den Kameras (1L ,1R ,2L ,2R ,101 –105 ,201 –206 ) zum Empfang der Bilder verbundene räumliche Abtasteinheit (37 ) vorgeschaltet und eine und eine Interpolationseinheit (41 ) nachgeschaltet ist, – die räumliche Abtasteinheit (37 ) zum räumlichen Abtasten der von den Kameras (1L ,1R ,2L ,2R ,101 –105 ,201 –206 ) empfangenen Bilder mit einem gegenüber der Kameraauflösung gröberen Raster und zur Ausgabe der räumlich abgetasteten Bilder ausgebildet ist, und – die Interpolationseinheit (41 ) zum Interpolieren eines vom Vektorfeldgenerator (31 ) generierten Verschiebungsvektorfeldes niedriger räumlicher Auflösung sowie zum Erzeugen eines Verschiebungsvektorfeldes hoher räumlicher Auflösung auf der Basis der Interpolation ausgebildet ist. - Medizinisch-optisches Beobachtungsgerät nach einem der Ansprüche 12 bis 14, dadurch gekennzeichnet, dass – dem Vektorfeldgenerator (
31 ) eine mit den Kameras (1L ,1R ,2L ,2R ,101 –103 ,201 –206 ) zum Empfang der Bilder verbundene Abtasteinheit (37 ) vorgeschaltet und eine Interpolationseinheit (41 ) nachgeschaltet ist, – die Abtasteinheit (37 ) zum zeitlichen Abtasten der von den Kameras (1L ,1R ,2L ,2R ,101 –103 ,201 –206 ) empfangenen Bilder mit einer gegenüber der Bildfrequenz der Kameras (1L ,1R ,2L ,2R ,101 –103 ,201 –206 ) gröberen Abtastrate und zur Ausgabe der abgetasteten Bilder ausgebildet ist, – die Interpolationseinheit (41 ) zum Interpolieren eines vom Vektorfeldgenerator (31 ) generierten Verschiebungsvektorfeldes niedriger zeitlicher Auflösung und zum Erzeugen eines Verschiebungsvektorfeldes hoher zeitlicher Auflösung auf der Basis der Interpolation ausgebildet ist. - Medizinisch-optisches Beobachtungsgerät nach einem der Ansprüche 12 bis 17, dadurch gekennzeichnet, dass n Kameras (
1L ,1R ,2L ,2R ,101 –103 ,201 –206 ) vorhanden sind, die an den Ecken eines Polygons angeordnet sind, die n Bilder mit n verschiedenen Perspektiven des Beobachtungsgegenstandes (3 ) aufnehmen. - Medizinisch-optisches Beobachtungsgerät nach einem der Ansprüche 12 bis 15, dadurch gekennzeichnet, dass die Kameras (
1L ,1R ,2L ,2R ) stereoskopische Kameras und die aufgenommenen Bilder stereoskopische Bilder sind und dass der Bildgenerator (17 ) derart ausgestaltet ist, dass er aus dem ersten und dem zweiten stereoskopischen Bild ein stereoskopisches Zwischenbild mit einer Zwischenperspektive errechnet. - Medizinisch-optisches Beobachtungsgerät nach Anspruch 17, dadurch gekennzeichnet, dass die stereoskopischen Kameras (
1L ,1R ,2L ,2R ) derart angeordnet sind, dass sie um 90° gegeneinander verdrehte Bilder aufnehmen. - Medizinisch-optisches Beobachtungsgerät nach einem der Ansprüche 12 bis 18, gekennzeichnet durch seine Ausgestaltung als Operationsmikroskop.
- Medizinisch-optisches Beobachtungsgerät nach einem der Ansprüche 12 bis 18, gekennzeichnet durch seine Ausgestaltung als Endoskop.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102008024732A DE102008024732B4 (de) | 2008-05-19 | 2008-05-19 | Medizinisch optisches Beobachtungsgerät und Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem derartigen Gerät |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102008024732A DE102008024732B4 (de) | 2008-05-19 | 2008-05-19 | Medizinisch optisches Beobachtungsgerät und Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem derartigen Gerät |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| DE102008024732A1 true DE102008024732A1 (de) | 2010-01-07 |
| DE102008024732B4 DE102008024732B4 (de) | 2010-04-01 |
Family
ID=41396524
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| DE102008024732A Expired - Fee Related DE102008024732B4 (de) | 2008-05-19 | 2008-05-19 | Medizinisch optisches Beobachtungsgerät und Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem derartigen Gerät |
Country Status (1)
| Country | Link |
|---|---|
| DE (1) | DE102008024732B4 (de) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102009037022A1 (de) * | 2009-08-07 | 2011-02-24 | Carl Zeiss Surgical Gmbh | Operationsmikroskop und Verfahren zum Verschwenken eines Mitbeobachtermikroskop |
| DE102011010262A1 (de) | 2011-01-27 | 2012-08-02 | Carl Zeiss Meditec Ag | Optisches Beobachtungsgerät mit wenigstens zwei jeweils einen Teilstrahlengang aufweisenden optischen Übertragungskanälen |
| DE102013021280A1 (de) * | 2013-12-19 | 2015-06-25 | Benedikt Schmalz | Objekt Vergrösserungs-Gerät |
| WO2015124699A3 (de) * | 2014-02-19 | 2015-11-19 | Carl Zeiss Meditec Ag | Operationsmikroskop und erzeugung eines beobachtungsbildes eines objektbereichs in einem operationsmikroskop |
| EP3376276A1 (de) * | 2017-03-14 | 2018-09-19 | Karl Storz SE & Co. KG | 3d-bildgebungssystem mit konstantem horizont und entsprechendes verfahren |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP0896301A1 (de) * | 1997-08-06 | 1999-02-10 | Victor Company Of Japan, Limited | Vorrichtung und Verfahren zum Interpolieren stereoskopischer Bilder |
| US5933547A (en) * | 1995-01-10 | 1999-08-03 | France Telecom | Method for interpolating images |
| DE10204430A1 (de) | 2002-02-04 | 2003-08-07 | Zeiss Carl | Stereo-Mikroskopieverfahren und Stereo-Mikroskopiesystem |
| DE10300925A1 (de) | 2002-02-04 | 2003-09-04 | Zeiss Carl | Stereo-Untersuchungssysteme und Stereo-Bilderzeugungsvorrichtung sowie Verfahren zum Betrieb einer solchen |
-
2008
- 2008-05-19 DE DE102008024732A patent/DE102008024732B4/de not_active Expired - Fee Related
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5933547A (en) * | 1995-01-10 | 1999-08-03 | France Telecom | Method for interpolating images |
| EP0896301A1 (de) * | 1997-08-06 | 1999-02-10 | Victor Company Of Japan, Limited | Vorrichtung und Verfahren zum Interpolieren stereoskopischer Bilder |
| DE10204430A1 (de) | 2002-02-04 | 2003-08-07 | Zeiss Carl | Stereo-Mikroskopieverfahren und Stereo-Mikroskopiesystem |
| DE10300925A1 (de) | 2002-02-04 | 2003-09-04 | Zeiss Carl | Stereo-Untersuchungssysteme und Stereo-Bilderzeugungsvorrichtung sowie Verfahren zum Betrieb einer solchen |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102009037022B4 (de) * | 2009-08-07 | 2014-03-20 | Carl Zeiss Meditec Ag | Operationsmikroskop und Verfahren zum Verschwenken eines Mitbeobachtermikroskop |
| CN101995651A (zh) * | 2009-08-07 | 2011-03-30 | 卡尔·蔡司医疗有限公司 | 手术显微镜和用于枢轴转动共同观察者显微镜的方法 |
| CN101995651B (zh) * | 2009-08-07 | 2015-01-28 | 卡尔·蔡司医疗有限公司 | 手术显微镜和用于枢轴转动共同观察者显微镜的方法 |
| DE102009037022A1 (de) * | 2009-08-07 | 2011-02-24 | Carl Zeiss Surgical Gmbh | Operationsmikroskop und Verfahren zum Verschwenken eines Mitbeobachtermikroskop |
| US8547633B2 (en) | 2009-08-07 | 2013-10-01 | Carl Zeiss Surgical Gmbh | Operating microscope and method for pivoting a co-observer microscope |
| US8922624B2 (en) | 2011-01-27 | 2014-12-30 | Carl Zeiss Meditec Ag | Optical observation instrument with at least two optical transmission channels that respectively have one partial ray path |
| DE102011010262B4 (de) * | 2011-01-27 | 2013-05-16 | Carl Zeiss Meditec Ag | Optisches Beobachtungsgerät mit wenigstens zwei jeweils einen Teilstrahlengang aufweisenden optischen Übertragungskanälen |
| DE102011010262A1 (de) | 2011-01-27 | 2012-08-02 | Carl Zeiss Meditec Ag | Optisches Beobachtungsgerät mit wenigstens zwei jeweils einen Teilstrahlengang aufweisenden optischen Übertragungskanälen |
| DE102013021280A1 (de) * | 2013-12-19 | 2015-06-25 | Benedikt Schmalz | Objekt Vergrösserungs-Gerät |
| WO2015124699A3 (de) * | 2014-02-19 | 2015-11-19 | Carl Zeiss Meditec Ag | Operationsmikroskop und erzeugung eines beobachtungsbildes eines objektbereichs in einem operationsmikroskop |
| US10274714B2 (en) | 2014-02-19 | 2019-04-30 | Carl Zeiss Meditec Ag | Surgical microscope for generating an observation image of an object region |
| EP3376276A1 (de) * | 2017-03-14 | 2018-09-19 | Karl Storz SE & Co. KG | 3d-bildgebungssystem mit konstantem horizont und entsprechendes verfahren |
| US10477190B2 (en) | 2017-03-14 | 2019-11-12 | Karl Storz Imaging, Inc. | Constant horizon 3D imaging system and related method |
Also Published As
| Publication number | Publication date |
|---|---|
| DE102008024732B4 (de) | 2010-04-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3108282B1 (de) | Operationsmikroskop und erzeugung eines beobachtungsbildes eines objektbereichs in einem operationsmikroskop | |
| EP1333306B1 (de) | Stereo-Mikroskopieverfahren und Stereo-Mikroskopiesystem | |
| EP2887117B1 (de) | Mikroskop und Verfahren zur SPIM Mikroskopie | |
| DE69433556T2 (de) | Bildanzeigevorrichtung | |
| EP0776576B1 (de) | Verfahren und vorrichtung zur darstellung von stereoskopischen videobildern auf einem display | |
| CH693619A5 (de) | Bilddarstellende Einrichtung und Verfahren zum Bilddarstellen. | |
| AT394459B (de) | Verfahren zum gewinnen von bildern zur verwendung beim darstellen eines dreidimensionalen scheinbildes und bildaufzeichnungstraeger, auf dem erste und zweite gruppen von serien derartiger bilder gespeichert sind | |
| DE102007030784A1 (de) | Vermessungsgerät | |
| DE102012106890A1 (de) | Dreidimensionale Darstellung von Objekten | |
| DE102016117024A1 (de) | Vorrichtung zum Erfassen eines Stereobilds | |
| DE102008024732B4 (de) | Medizinisch optisches Beobachtungsgerät und Verfahren zum Erstellen einer stereoskopischen Zwischenperspektive in einem derartigen Gerät | |
| DE102017110816A1 (de) | Optisches Beobachtungsgerät und Verfahren zum effizienten Ausführen eines automatischen Fokussieralgorithmus | |
| DE102017109021B4 (de) | System für das stereoskopische Visualisieren eines Objektbereichs sowie Objektbereich-Visualisierungsverfahren | |
| DE69708334T2 (de) | In situ optisches informationssystem | |
| DE102014102248B4 (de) | Stereoskopisches optisches Beobachtungsgerät mit einem Hauptbeobachtersystem und einem Mitbeobachtersystem | |
| DE102015216648B3 (de) | System für das stereoskopische Visualisieren eines Objektbereichs mit drei optischen Kanälen und einem gemeinsamen Bildsensor | |
| DE102023123537B3 (de) | Optisches Beobachtungssystem sowie Verfahren zum Aufnehmen von Fluoreszenzbildern | |
| DE102012108249A1 (de) | Verfahren und Vorrichtung zur Verbesserung der Wiedergabe stereoskopischer Bilder | |
| WO2005098508A2 (de) | Bildaufnahmesystem, bildwiedergabesystem und bildaufnahme/-wiedergabesystem | |
| EP4124283A1 (de) | Messverfahren und eine messvorrichtung | |
| DE102021131134A1 (de) | Stereoskopisches Bildaufnahmeverfahren und stereoskopische Bildaufnahmevorrichtung | |
| EP4068198A1 (de) | Verfahren zur erzeugung eines bilds eines objekts, computerprogrammprodukt und bilderzeugungssystem zur durchführung des verfahrens | |
| DE102012102962B3 (de) | Verfahren zur Bildaufzeichnung | |
| DE102021206608A1 (de) | Kamerasystem sowie Verfahren für ein Kamerasystem | |
| DE3886948T2 (de) | Videosystem mit einer bilderfassungsanordnung und einer bildwiedergabeanordnung. |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| OP8 | Request for examination as to paragraph 44 patent law | ||
| 8364 | No opposition during term of opposition | ||
| R082 | Change of representative |
Representative=s name: PATERIS PATENT- UND RECHTSANWAELTE, DE |
|
| R082 | Change of representative |
Representative=s name: PATERIS PATENT- UND RECHTSANWAELTE, DE |
|
| R082 | Change of representative |
Representative=s name: PATERIS PATENT- UND RECHTSANWAELTE, DE |
|
| R081 | Change of applicant/patentee |
Owner name: KARL STORZ GMBH & CO. KG, DE Free format text: FORMER OWNERS: CARL ZEISS SURGICAL GMBH, 73447 OBERKOCHEN, DE; UNIVERSITAET DES SAARLANDES CAMPUS SAARBRUECKEN, 66123 SAARBRUECKEN, DE Effective date: 20130821 Owner name: CARL ZEISS SURGICAL GMBH, DE Free format text: FORMER OWNERS: CARL ZEISS SURGICAL GMBH, 73447 OBERKOCHEN, DE; UNIVERSITAET DES SAARLANDES CAMPUS SAARBRUECKEN, 66123 SAARBRUECKEN, DE Effective date: 20130821 Owner name: KARL STORZ GMBH & CO. KG, DE Free format text: FORMER OWNER: CARL ZEISS SURGICAL GMBH, UNIVERSITAET DES SAARLANDES CAMP, , DE Effective date: 20130821 Owner name: CARL ZEISS SURGICAL GMBH, DE Free format text: FORMER OWNER: CARL ZEISS SURGICAL GMBH, UNIVERSITAET DES SAARLANDES CAMP, , DE Effective date: 20130821 Owner name: KARL STORZ SE & CO. KG, DE Free format text: FORMER OWNERS: CARL ZEISS SURGICAL GMBH, 73447 OBERKOCHEN, DE; UNIVERSITAET DES SAARLANDES CAMPUS SAARBRUECKEN, 66123 SAARBRUECKEN, DE Effective date: 20130821 |
|
| R082 | Change of representative |
Representative=s name: PATERIS THEOBALD ELBEL FISCHER, PATENTANWAELTE, DE Effective date: 20130801 Representative=s name: PATERIS THEOBALD ELBEL FISCHER, PATENTANWAELTE, DE Effective date: 20130821 Representative=s name: PATERIS THEOBALD ELBEL FISCHER, PATENTANWAELTE, DE Effective date: 20130808 Representative=s name: PATERIS PATENTANWAELTE, DE Effective date: 20130801 Representative=s name: PATERIS PATENTANWAELTE, DE Effective date: 20130808 Representative=s name: PATERIS PATENTANWAELTE, DE Effective date: 20130821 |
|
| R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: H04N0013000000 Ipc: H04N0013200000 |
|
| R081 | Change of applicant/patentee |
Owner name: CARL ZEISS SURGICAL GMBH, DE Free format text: FORMER OWNERS: CARL ZEISS SURGICAL GMBH, 73447 OBERKOCHEN, DE; KARL STORZ GMBH & CO. KG, 78532 TUTTLINGEN, DE Owner name: KARL STORZ SE & CO. KG, DE Free format text: FORMER OWNERS: CARL ZEISS SURGICAL GMBH, 73447 OBERKOCHEN, DE; KARL STORZ GMBH & CO. KG, 78532 TUTTLINGEN, DE |
|
| R082 | Change of representative |
Representative=s name: PATERIS THEOBALD ELBEL FISCHER, PATENTANWAELTE, DE |
|
| R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |