[go: up one dir, main page]

CN114556411A - 经由双通光场重建的样本成像 - Google Patents

经由双通光场重建的样本成像 Download PDF

Info

Publication number
CN114556411A
CN114556411A CN202080071626.5A CN202080071626A CN114556411A CN 114556411 A CN114556411 A CN 114556411A CN 202080071626 A CN202080071626 A CN 202080071626A CN 114556411 A CN114556411 A CN 114556411A
Authority
CN
China
Prior art keywords
image
light field
plane
object space
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202080071626.5A
Other languages
English (en)
Other versions
CN114556411B (zh
Inventor
雷蒙德·莱特纳
扬·施泰因布伦纳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Molecular Devices Austria GmbH
Original Assignee
Molecular Devices Austria GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Molecular Devices Austria GmbH filed Critical Molecular Devices Austria GmbH
Publication of CN114556411A publication Critical patent/CN114556411A/zh
Application granted granted Critical
Publication of CN114556411B publication Critical patent/CN114556411B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/557Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/10Selection of transformation methods according to the characteristics of the input images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/21Indexing scheme for image data processing or generation, in general involving computational photography
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10052Images from lightfield camera

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

用于经由双通光场重建的样本成像的方法和系统。在示例性方法(50)中,可以在光场平面(76)中捕获样本(74)的光场图像(72)。光场图像(72)可以被计算地正向投影到对象空间(78)中的多个z平面中的每一个,以生成一组正向投影的z平面图像(88a‑f)。可以计算将从每个z平面图像的对象空间(78)中的相同xy区域向光场平面(76)的反向投影与光场图像(72)进行比较,以确定来自z平面图像(88a‑f)中的每一个的反向投影的xy区域与光场图像(72)之间的相应对应程度。对于每个不同的xy区域,可以选择正向投影的z平面图像(88a‑f)中的至少一个来贡献用于样本(74)的2D或3D对象空间图像中的不同的xy区域的数据。

Description

经由双通光场重建的样本成像
相关申请的交叉引用
本申请要求于2019年8月12日提交的美国临时申请No.62/885,735的优先权,该申请的内容通过引用整体并入本文。
背景技术
经典成像使用被配置为光敏元件的焦平面阵列的图像传感器来获取场景的位置相关辐射。图像传感器量化由前透镜(物镜)光学投射的入射辐射,以捕获缺乏入射辐射的任何方向信息的场景的平坦的空间图像。相反,光场成像保留了该方向信息,并且将二维图像扩展到描述场景相对于位置和方向的辐射率的四维光场中。
已经报道了用于光场获取的两种不同的仪器方法,其使用(i)离散相机的阵列或(ii)图像传感器前面的微透镜阵列。对于光场显微镜,结合微透镜阵列通常是优选的选择,因为其成本较低并且能够容易地改装到传统显微镜上。
在前透镜和图像传感器之间存在微透镜阵列在图像传感器上形成光场图像。光场图像由离散子图像的阵列组成,每个离散子图像对应于微透镜阵列的不同微透镜。这些子图像描述了场景中给定点的光的方向分布。该附加的方向信息通常使得能够进行若干有利的处理操作以在光场采集之后获得重建的“对象空间”图像:(i)视角的透视变化,(ii)数字重新聚焦,(iii)人工聚焦场景中的所选对象,以及(iv)无匹配3D重建。
根据微透镜阵列相对于成像系统的物镜和图像传感器的位置,可以定义具有两种不同性能的光场配置。在第一配置中,称为“LF1.0”,微透镜阵列位于物镜与图像传感器之间的中间图像平面中,并且图像传感器位于微透镜阵列的后焦平面中。在第二配置中,称为“LF2.0”,这些限制被去除,并且微透镜阵列可以具有物镜与图像传感器之间的任意位置。因此,在LF2.0中,可以选择微透镜阵列的位置以优化成像系统的期望性能标准(例如,横向和轴向分辨率以及焦深)。
光场成像的最重要的应用之一是基于将2D光场数据映射到对象空间的2D和3D重建。然而,由于各种原因,用于从光场图像重建对象空间的现有方法是不够的。例如,这些方法可能需要迭代映射和重新映射、滤波以去除噪声、和/或关于光学配置的假设,这些假设中的每一个可能引入重建误差和/或导致重建完全失败。此外,用户检查映射的光场数据对于选择候选重建可能是必要的,这妨碍了完全自动化。需要利用光场成像系统进行样本成像的新方法。
发明内容
本公开提供了用于经由双通光场重建进行样本成像的方法和系统。在示例性方法中,可以在光场平面中捕获样本的光场图像。光场图像可以通过计算正向投影到对象空间中的多个z平面中的每一个,以生成正向投影z平面图像集合。可以将从每个z平面图像的对象空间中的相同xy区域计算向光场平面的反向投影与光场图像进行比较,以确定每个z平面图像反向投影的xy区域与光场图像之间的相应对应程度。可以针对对象空间中的多个不同的xy区域中的每一个重复该比较。对于每个不同的xy区域,可以选择正向投影的z平面图像中的至少一个以贡献用于样本的2D或3D对象空间图像中的不同的xy区域的数据。可以生成合并了数据的对象空间图像。
附图说明
图1是可以在基于包括光场空间与对象空间之间的正向投影和反向投影的双通光场重构的样本成像方法中执行的示例性步骤的流程图。
图2是来自图1的流程图的若干步骤的示意图。
图3是将三个对象(珠子(beads))的示例性光场图像正向投影到对象空间中的多个z平面中以创建正向投影的z平面图像的简化图示。
图4和图5是通过作为z位置的函数绘制图3的光场图像和来自图3的每个正向投影的z平面图像的两个相应珠描绘像素组的反向投影之间的对应程度而获得的示例性曲线图。
图6是示例性光场成像系统的示意图,其包括支撑微板的光场显微镜,所述微板在孔中保持含有细胞的样本阵列。
图7是用图6的光场显微镜的所选组件创建的射线图,并且示出了示例性光线从位于对象空间的平面中的点对象到二维光场空间中的传感器平面(即,光场平面)的传播。
图8是用于图7的光场显微镜的示例性微透镜阵列的、大致沿图7的线8-8截取的正视图。
图9是类似于图7的射线图的射线图,不同之处在于对象平面的z位置更靠近光场显微镜的物镜。
图10是类似于图7的射线图的另一射线图,不同之处在于对象平面的z位置更远离光场显微镜的物镜。
图11是光场显微镜的示意图,并且用代表性射线示出了使用微透镜阵列对真实倒像的成像,并且还示出了将对象空间中的点关联到光场空间中的多个点的映射函数的基础。
图12是光场显微镜的另一示意图,并且用代表性射线示出使用微透镜阵列的虚拟倒像的成像,并且还示出将对象空间中的点关联到光场空间中的多个点的映射函数的基础。
具体实施方式
本公开提供了用于经由双通光场重建进行样本成像的方法和系统。在示例性方法中,可以在光场平面中捕获样本的光场图像。光场图像可以被计算地正向投影到对象空间中的多个z平面中的每一个,以生成正向投影的z平面图像集合。可以将从每个z平面图像的对象空间中的相同的xy区域计算向光场平面的反向投影与光场图像进行比较,以确定每个z平面图像反向投影的xy区域与光场图像之间的相应对应程度。可以针对对象空间中的多个不同的xy区域中的每一个重复该比较。对于每个不同的xy区域,可以选择正向投影的z平面图像中的至少一个以贡献用于样本的2D或3D对象空间图像中的不同的xy区域的数据。可以生成合并了数据的对象空间图像。
本公开的方法可以应用于LF1.0和LF2.0型光场成像配置。例如,该方法应用于具有非远心几何结构的光场成像系统,其中放大率取决于每个横向对象平面到物镜的距离(即,对象平面的z位置)。所述方法可以利用非迭代正向和反向投影。可以使用光路的几何表示对光场图像执行到3D对象空间的无阈值正向投影(例如,由校准图像的堆叠确定的),以获得对象位置的初始z估计。可以使用到光场空间的计算的反向投影并且基于光场图像的覆盖子图像中的图案对每个z假设的支持进行排名来细化每个对象体素(或像素)的z估计。
对象空间的重建与利用经典图像堆叠获得的空间位置一致。然而,使用光场设置和所描述的重建的采集的重要优点在于,可以从单个光场图像获得包括样本对象(例如,珠或细胞)的空间位置(x、y、z)的3D体积。因此,这种方法比通过使用可调z台扫描z轴来获取经典图像堆叠快得多。
为了能够根据光场图像对三维对象空间(x、y、z)进行定量重建,对于光场图像的每个微透镜子图像(x″k,y″k),需要知道对象空间与二维光场空间之间的关系。映射函数被定义为
Figure BDA0003591877000000041
原则上,映射函数可以基于实验设置的几何参数值,诸如相关光学元件的基面到图像传感器的相对距离来确定。实际上,这些基面的精确位置是未知的,并且光场成像系统(例如,光场显微镜)内的相对距离不能容易地确定到所需的精度。对于LF2.0配置,缺少精确的几何信息是更成问题的,在该配置中,不存在用于将微透镜阵列定位在光场成像系统内的明确定义的光学标准(诸如物镜的中间像平面和微透镜阵列的焦平面)。另外,真实透镜系统的光学效应(例如,由微透镜阵列的透镜或光场成像系统的其它光学元件引起的像差或误差)可能导致实际光学几何结构与外部测量的假定光学几何结构相比的偏差。除了从外部测量确定相关几何结构的这些固有困难之外,用户引起的几何结构的变化(例如,由于重新聚焦或无意的未对准)可以频繁地发生。假定几何结构相对于实际几何结构的所有偏差将导致投影和重建中的误差,从而导致不正确的深度信息、对比度损失或重建的完全失败。
这里公开的方法可以利用将三维对象空间与二维光场空间相关而无需详细了解光学布局的几何映射函数。映射函数可以在对象空间中的感兴趣的z位置的整个范围上采用系统参数的值(诸如总放大率和由于微透镜阵列而导致的放大率),如以下在示例1中所描述的。
本文公开的方法可以用于基于透镜的光场系统可行的所有波长范围。例如,波长范围可以包括紫外、可见和/或红外的光辐射。
本文公开的方法和系统可以使得能够在筛选应用中快速确定三维细胞群集(例如,球状体、类器官)的结构。目前,这些筛选应用的通量受到在每个感兴趣部位获取z系列图像(通常多于十个图像)所需的时间的限制。如果采用共焦显微镜对该部位的三维体积成像,则通量甚至更有限。相反,本公开的方法和系统可以从单个光场图像生成关于细胞群集的三维信息。
本公开的另外方面在以下部分中描述:(I)定义,(II)方法概述,(III)光场成像系统,(IV)示例性几何映射函数,以及(V)所选择的方面。
I.定义
本公开中使用的技术术语具有本领域技术人员通常认可的含义。然而,以下术语可进一步定义如下。
计算机-一种用于根据可由可变程序提供的指令来存储和处理通常为二进制形式的数据的电子装置。示例性计算机(也称为计算装置)包括台式计算机、膝上型计算机、平板电脑、智能电话等。
检查区域-与光场成像系统的光轴相交的体积,其中可以定位样本的对象以利用图像传感器进行成像。
图像-对象和/或视场的光学或数字表示。如果是光学的,则该表示可以由空间中的平面(例如,中间图像平面或传感器平面)处或表面(例如,图像传感器的表面)上的光形成。如果是数字的,则该表示可以是由图像传感器捕获的原始光场图像、其处理形式、或者二维(像素)或三维(体素)“对象空间”图像。
图像传感器-能够在二维上检测光的空间变化(例如,强度变化)的光学传感器,其中光入射在传感器的光敏检测区域上。图像传感器可以是二维阵列传感器,诸如电荷耦合器件(CCD)传感器、有源像素传感器(例如,互补金属氧化物半导体(CMOS)传感器)、混合CCD-CMOS传感器等。图像传感器可以创建作为像素的矩形阵列的光栅图像(即,位图),并且可以被配置为获取彩色图像、灰度(单色)图像或两者。
透镜阵列-透镜的二维阵列。在阵列内可能适合于光场显微镜的示例性透镜是微透镜(即,每个透镜具有小于大约一毫米的直径)。对于每个微透镜,可适用于微透镜阵列的示例性微透镜直径包括小于大约750、500、400、300、200或100微米。用于光场微距摄影的示例性透镜直径包括具有至少一毫米直径的透镜,或者在一些情况下,包括如上所述的微透镜。
透镜阵列可以具有任何适当的性质。阵列的间距(透镜到透镜的间距)可以(或可以不)类似于透镜直径,诸如比透镜直径大不超过大约50%、25%、20%或10%。透镜可以形成矩形栅格或六边形栅格等。该阵列可以包含任何合适数量的透镜,通常至少四个。在一些实施例中,阵列可以包含至少25、50或100个透镜等。例如,阵列可以包含沿着由阵列限定的一对正交轴中的每个轴的至少2、3、4、5、6、7或10个透镜。阵列的透镜可以在尺寸和/或形状上彼此基本相同,或者可以在尺寸和/或形状上不同。此外,阵列可以是集成单元,和/或阵列的透镜可以彼此集成地形成。
光-光辐射,包括紫外线辐射、可见光辐射(即,可见光)和/或红外线辐射。
光场图像-由图像传感器上的微透镜阵列利用光形成的光学图像,或者其捕获(数字)形式,其中,所述光学图像由与阵列的微透镜相对应的子图像的二维阵列构成。子图像通常不会彼此显著重叠,如果有的话。子图像可以实质上聚焦或可以实质上不聚焦。
光源-产生任选地作为光束的光并任选地由电力供电的装置。光源包括至少一个发光元件,并且还可以包括任何相关的光学元件,以便成形、尺寸、滤波、偏振、散射、引导和/或以其它方式与发光元件发射的光相互作用。这些光学元件可以包括至少一个波导(例如,光纤或液体光导)、透镜、反射镜、滤光器、漫射器、掩模、光圈、分束器、光栅、棱镜、偏振器等的任何组合。示例性的发光元件包括半导体器件、激光器(例如,准分子激光器、气体激光器、染料激光器、固态激光器、半导体晶体或二极管激光器、自由电子激光器等)、弧光灯等。示例性半导体发光元件包括激光二极管、发光二极管(LED)和超发光二极管等。
对象空间图像-表示物理空间(即,对象空间)的区域并从至少一个光场图像重建的2D或3D图像。
物镜-收集来自对象和/或视场的光并聚焦所收集的光的单个光学元件或光学元件的组合。如本文所使用的,物镜可以包括沿着光轴位于光场成像系统的检查区域和透镜阵列之间的每个光学元件。
光学器件-成像系统的一组光学元件,其可以沿着光源与检查区域(照明光学器件)之间的光路和/或沿着检查区域与图像传感器(收集光学器件)之间的光轴布置。光学元件可以是与光相互作用的任何装置或结构,诸如可以收集、引导、聚焦、过滤、偏振、散射、准直和/或部分地阻挡光。光学元件可以通过任何合适的机制(诸如反射、折射、散射、衍射、吸收和/或滤波等)来起作用。示例性的光学元件包括透镜、反射镜、漫射器、光栅、棱镜、滤光器、光圈、掩模、分束器、波导、偏振器等。
样本-具有任何合适性质的样本。样本可以是有机的和/或无机的、天然的和/或制造的,并且可以包括任何合适的组件、材料、物质、分离物、提取物、颗粒等。在示例性实施方案中,样本包括生物细胞(诸如分离的细胞或一个或多个细胞群集)。生物细胞可以是真核的(例如,哺乳动物细胞)或原核的(例如,细菌细胞)。示例性的生物细胞包括建立的细胞(细胞系)、原代细胞、组织样本的细胞、转染的细胞、来自临床样本(例如,血液样本、流体抽吸物、组织切片等)的细胞、细胞克隆等。细胞可以被样本容器容纳,任选地与任何合适的液体培养基接触(例如,浸入)。液体培养基可以是水溶性介质,其可以包括水、盐、缓冲液、葡萄糖、洗涤剂、染料、蛋白质、氨基酸或其任意组合等。液体培养基可以是用于细胞的生长培养基。
样本保持器-用于保持至少一个样本或空间隔离的样本的任何阵列,并且可选地允许通过装置的水平透明壁(例如,孔的底壁)对样本成像的装置。用于光场显微术的示例性样本保持器包括(多孔)微板、培养皿、培养烧瓶、载玻片、流式芯片等。
z位置-沿着光场成像系统的光轴的位置之一,在该位置处可以设置对象。z位置可以被定义为平行于光轴测量的、在光场成像系统的对象与物镜之间的距离,并且可以通过平行于光轴移动对象或物镜来改变。
II.方法概述
该部分提供了使用双通光场重建的样本成像的示例性方法50的概述;参见图1至图5,两次光场重建包括计算地从光场平面到对象空间的z平面的光场图像的正向投影和计算地从每个z平面到光场平面的反向投影。
方法50可以利用任何光场成像系统来执行,对于该光场成像系统,对象空间与光场空间之间的映射几何结构是已知的。更具体地,在执行方法50之前,可以充分表征映射几何结构,以允许在对象空间与光场空间之间的相反方向上的双通映射。在由成像系统定义的光场平面中捕获的二维光场图像的像素可以被映射(即,经由利用映射函数执行的数据处理而正向投影)到对象空间中的像素/体素。反过来,二维或三维对象空间图像的像素/体素可以被映射(即,经由利用映射函数执行的数据处理反向投影)到光场平面。
映射几何结构可以由任何合适的过程来表征。在一些示例中,可以使用校准目标来定义映射几何结构。示例性校准目标及其基于如部分IV中所述的光场成像系统的总放大率和微透镜放大率来确定映射几何结构的用途。在其它示例中,映射几何结构可以根据系统的光学器件的明确配置的知识(诸如系统中的光学元件的类型、它们的光学参数以及它们彼此的相对距离)来确定。在又一其它示例中,可以经由一个或多个迭代优化过程来提取映射几何结构,以确定用于成像系统的光学模型的自由参数。
方法50本身可以非迭代地执行而没有阈值处理。从光场空间映射到对象空间可以在第一阶段中执行,并且然后在第二阶段中回到光场空间。不需要第一阶段和第二阶段的迭代。此外,可以在不应用任何阈值来滤除噪声的情况下执行映射。
图1示出了可以在方法50中执行的示例性步骤。以52、54、56、58、60和62指示的步骤可以以任何合适的顺序和组合来执行,并且可以如本文别处所述的那样被修改。方法50的说明性方面在图2至图5中示意性地示出。
可以在光场平面76中捕获样本74的光场图像72,如方法50中的52所示(参见图1和图2(面板A))。样本74位于三维对象空间78中,并且可以包括一个或多个离散对象80.1、80.2和80.3,其可以是诸如细胞或珠等的微观对象。每个对象80.1至80.3在对象空间78中具有相对于x轴、y轴和z轴的位置。z轴通常平行于用于成像的光轴,并且可以与光轴相同。在图2的对象空间78中,z轴82被示为水平的,x轴是垂直的,并且y轴与附图的平面正交。每个定向为与z轴正交的间隔的平面在本文中被描述为z平面。
光场图像72可以通过使来自样本74的光传播通过微透镜阵列来形成,如图2中的面板A以84的箭头所示。由图像传感器检测入射在光场平面76上的光,这导致光场图像的捕获。
光场图像72可以从光场平面76计算地正向投影到对象空间78中,以生成在方法50中以54指示的正向投影图像88a-f,也称为z平面图像(参见图1和图2(面板B))。
可以以任何适当的方式执行正向投影。例如,可以使用映射几何函数将光场空间中的每个点(即,光场图像的每个点)正向投影到对象空间(例如,参见部分IV)。作为另一示例,可以使用将光场空间与对象空间连接的预先计算的查找表来一次性地正向投影整个光场图像。作为又一示例,可以使用连接光场空间与对象空间的导出系统矩阵(表示为二维或更高维矩阵)来一次正向投影整个光场图像。
可以生成两个、三个、四个或更多个z平面图像,每个z平面图像表示到对象空间78中的不同的z平面的正向投影。每个z平面图像88a-f由xy区域组成,每个xy区域对应于像素、像素组或对象等。z平面图像88a-f可以沿z轴82彼此均匀地间隔开,或者可以不均匀地间隔开。
z平面图像88a-f或每个z平面图像的至少其对应的xy区域(例如,xy区域90.1、90.2和90.3)可以计算反向投影到光场平面76,以创建反向投影94a-f、96a-f和98a-f的集合,在方法50中以56指示(参见图1和图2(面板C))。每组反向突出部94a-f、96a-f或98a-f的成员表示对象空间78内的相同的xy区域,但具有不同的z平面。图2(面板C)中描绘的xy区域90.1、90.2和90.3分别对应于对象80.1、80.2和80.3的z候选(即,z位置估计)(参见图2(面板A))。在其它示例中,这些xy区域可对应于z平面图像88a-f的单个像素或像素组等。
每个反向投影集合94a-f、96a-f和98a-f的成员可以与光场图像72进行比较,如方法50中以58指示(参见图1和图2(面板D))。该比较测量给定的反向投影集合(94a-f、96a-f或98a-f)的每个成员与光场图像72之间的对应程度。反向投影集合的给定成员的较高对应程度使得所述给定成员的祖(progenitor)z平面图像的xy区域成为要构建的对象空间图像的同一区域的更好候选者。
可以选择至少一个z平面图像,用于在输出的对象空间图像(例如,显示的对象空间图像)中产生每个xy区域,并且可以使用选择的z平面图像产生对象空间图像的相应区域,如方法50(参见图1)中的60和62所指示的。例如,可以使用来自单个z平面图像的对应的xy区域直接生成对象空间图像的一个或多个xy区域中的每一个。可替代地或另外,对象空间图像的xy区域中的一个或多个中的每一个可使用来自两个或更多个z平面图像的相同的xy区域基于针对不同z平面图像的相同的xy区域测量的对应程度来生成,诸如通过平均、内插、最大强度操作等。
所生成的对象空间图像可以是二维(2D)或三维(3D)图像。如果是2D图像,则该2D图像可以是由像素组成的实质上全对焦的2D图像。如果是3D图像,则该3D图像可以由体素组成。
图3示出了三个对象80.1-80.3(例如,荧光珠)的示例性光场图像72向对象空间78(也参见图2)中的四个z平面的正向投影的简化图示。在该示例中,z平面位于相应的z位置处:-40微米、-30微米、-20微米和-10微米(μm)。通过光场图像72的正向投影产生的z平面图像88a-88d中的每一个包含xy区域90.1、90.2和90.3。在相应的z平面图像88a-88d中的这些xy区域的内容是光场图像72中的对象80.1-80.3的光场表示102、104和106在对象空间78中的候选对应物。
在每个图像88a-88d中的每个xy区域90.1-90.3的聚焦度由实心填充或阴影指示。对于给定z平面中的给定xy区域,固体填充物的存在意味着给定xy区域在该z平面中实质上是焦点对准的。阴影的存在表明给定的xy区域在该z平面中比在不同的z平面中的相同xy区域的实心填充物更少聚焦。对于给定z平面中的给定xy区域,阴影线的较小间距意味着比对于不同z平面中的相同xy区域的阴影线的较大间距更好的聚焦。因此,xy区域90.1(对于对象80.1)在正向投影图像88c中在-20μm处具有最佳焦点,而xy区域90.2和90.3(对于对象80.2和80.3)在正向投影图像88a中在-40μm处具有最佳焦点。
可以通过将xy区域反向投影到光场图像72的光场平面并且将每个反向投影与光场图像进行比较来估计每个z平面中的每个xy区域90.1-90.3的聚焦度。图4和图5示出了说明图3的每个xy区域90.1(图4)和每个xy区域90.2(图5)的示例性比较的曲线图,该曲线图根据z位置对于每个反向投影的xy区域90.1或90.2绘制了与光场图像72的对应程度。与图3中可见的聚焦度一致,来自正向投影图像88c(-20μm)的xy区域90.1的反向投影相对于测试的其它z位置(参见图4)示出与光场图像72的最大对应程度。此外,来自正向投影图像88a(-40μm)的xy区域90.2的反向投影相对于测试的其它z位置(参见图5)示出与光场图像72的最大程度的对应。因此,基于测量的对应程度,可以使用来自xy区域90.1的图像88c和来自xy区域90.2的图像88a的数据的更大或排他性贡献来生成2D或3D对象空间图像。
图1的步骤或本文公开的其它方法的任何组合可体现为计算机方法、计算机系统或计算机程序产品。因此,该方法的各方面可以采取完全硬件示例、完全软件示例(包括固件、驻留软件、微代码等)或组合软件和硬件方面的示例的形式,所有这些在本文中一般可以被称为“电路”、“模块”或“系统”。此外,该方法的各方面可以采取体现在计算机可读介质(或多个介质)中的计算机程序产品的形式,该计算机可读介质具有体现在其上的计算机可读程序代码/指令。
可以利用计算机可读介质的任何组合。计算机可读介质可以是计算机可读信号介质和/或计算机可读存储介质。计算机可读存储介质可以包括电子、磁、光、电磁、红外和/或半导体系统、设备或装置,或者这些的任何合适的组合。计算机可读存储介质的更具体的示例可以包括以下:便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或闪存)、便携式光盘只读存储器(CD-ROM)、光存储设备、磁存储设备、这些的任何合适的组合等。在本公开的上下文中,计算机可读存储介质可以包括任何合适的非暂态有形介质,其可以包含或存储由指令执行系统、设备或装置使用或与指令执行系统、设备或装置结合使用的程序。
计算机可读信号介质可以包括例如在基带中或作为载波的一部分传播的数据信号,其中传播的数据信号具有在其中体现的计算机可读程序代码。这种传播信号可以采取多种形式中的任何一种,包括但不限于电磁、光和/或其任何合适的组合。计算机可读信号介质可以包括不是计算机可读存储介质并且能够传送、传播或传输程序以供指令执行系统、设备或装置使用或与其结合使用的任何计算机可读介质。
可以使用任何适当的介质来传输在计算机可读介质上体现的程序代码,包括但不限于无线、有线、光纤线缆和/或这些的任何适当组合等。
用于执行本文公开的方法的各方面的操作的计算机程序代码可以用编程语言之一或其任意组合来编写,所述编程语言包括面向对象的编程语言,诸如Java、Smalltalk、C++等、以及常规的过程编程语言(诸如C)。移动应用可以使用任何合适的语言来开发,包括先前提到的那些语言,以及Objective-C、Swift、C#、HTML5等。程序代码可以完全在用户的计算机上执行,部分在用户的计算机上执行,作为独立的软件包执行,部分在用户的计算机上并且部分在远程计算机上执行,或者完全在远程计算机或服务器上执行。在后一种情况下,远程计算机可以通过任何类型的网络连接到用户的计算机,包括局域网(LAN)或广域网(WAN)和/或可以连接到外部计算机(例如,使用因特网服务提供商经由因特网)。
本文参照方法、装置、系统和/或计算机程序产品的流程图图示和/或框图描述了方法的各方面。流程图和/或框图中的每个框和/或框的组合可以由计算机程序指令实现。计算机程序指令可以被提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器以产生机器,使得经由计算机或其它可编程数据处理装置的处理器执行的指令实现流程图和/或框图的(一个或多个)框中指定的功能/动作。在一些示例中,机器可读指令可以被编程到可编程逻辑器件上,例如现场可编程门阵列(FPGA)。
计算机程序指令还可以存储在计算机可读介质中,其可以引导计算机以特定方式运行,使得存储在计算机可读介质中的指令产生包括实现流程图和/或框图的框中指定的功能/动作的指令的制品。
计算机程序指令还可以被加载到计算机上,以使得在装置上执行一系列操作步骤,以产生计算机实现的过程,从而在计算机上执行的指令提供用于实现流程图和/或框图的框中指定的功能/动作的过程。
附图中的任何流程图和/或框图旨在示出根据本文公开的方法的方面的系统、方法和计算机程序产品的可能实现的架构、功能和/或操作。就这点而言,每个框可以表示代码的模块、段或部分,其包括用于实现指定的逻辑功能的一个或多个可执行指令。在一些实施方式中,在块中标注的功能可以不按附图中标注的顺序发生。例如,连续示出的两个框实际上可以实质上同时执行,或者这些框有时可以以相反的顺序执行,这取决于所涉及的功能。每个块和/或块的组合可以由执行指定功能或动作的基于专用硬件的系统(或专用硬件和计算机指令的组合)来实现。
III.光场成像系统
该部分描述了用于执行部分II的方法的示例性光场成像系统110;参见图6至图10。
光场成像系统110可以包括具有支撑感兴趣对象的平台114的光场显微镜112(或者用于光场微距摄影的光场相机)。这里,样本保持器116由平台114支撑。样本保持器116可以是例如具有多个孔120的微板118,每个孔包含可以包括生物细胞124的样本122。驱动机构126可以使平台114和样本保持器116相对于彼此移动,以将每个孔120放置在系统110的光轴128上。
光轴128可以由物镜132限定在对象空间78的检查区域130中。当样本保持器116由平台114操作地支撑时,对象空间78中的对象平面134(z平面)正交于光轴128(z轴),并且其可以位于物镜132的前焦平面附近。
样本122可以用由光源138产生的光辐射(例如,可见光)照射。对样本122的照射可以例如从其中的至少一个光致发光团引起光致发光(诸如荧光)。光致发光可以例如传播通过物镜132、可选的镜筒透镜140和微透镜阵列142。微透镜阵列142可以具有以二维阵列布置的任何合适数量的微透镜144。微透镜阵列142的个别微透镜144可以至少部分地将光致发光聚焦到图像传感器146上,以形成各自对应于不同微透镜144中的个别子图像。图像传感器146捕获子图像的光场图像,其被传送到计算机148用于数据处理。在其它实施例中(例如,对于光场微距摄影),微透镜阵列142可以由透镜阵列代替,该透镜阵列由不一定是微透镜的透镜组成。在其它实施例中,样本122可以透射、反射、或者以其他方式与形成光场图像的入射光辐射相互作用。
光场显微镜112允许通过驱动机构126沿着光轴128调整样本122的z位置。更具体地,驱动机构可以操作以改变样本122与物镜132之间沿光轴128的距离。因此,驱动机构126可以耦合到平台114如图1中所示,以驱动平台的移动(例如,垂直移动),而物镜132的z位置(例如,高度)保持固定。可替换地,驱动机构126可耦合到物镜132,以驱动物镜132的移动(例如,垂直移动),而载台114的z位置(例如,高度)保持固定。驱动机构126可以包括马达150(或者可以手动驱动),并且可以由计算机148控制。
光轴128可以具有任何合适的取向和性质。光轴通常在物镜132处是垂直的,并且可以从物镜132垂直向上(如这里所示)或垂直向下延伸通过检查区域130和对象平面134。换句话说,光场显微镜112可以具有倒置配置,其中物镜132在检查区域130下方,如这里所示,或者具有非倒置配置,其中物镜132在检查区域130上方。然而,在其它实施例中,光轴128在物镜132处可以是水平的或倾斜的(既不实质上水平也不实质上垂直)。光轴128可以是非折叠的,或者可以在沿着光轴的一个或多个位置处折叠(例如,利用反射镜)。
光源138可以被布置成利用任何合适的光源(例如,参见部分I)提供对检查区域130(以及其中的样本122)的任何合适的照明。照明可以是落射照明(如这里所示)、透射照明、倾斜照明或其组合,等。任何合适的光学元件(一个或多个)可以可操作地定位在光源138和检查区域130之间的照明路径上,以引导和/或调节由检查区域上游的光源产生的光辐射。位于照明路径中的示例性光学元件可以包括分束器152、漫射器、光谱滤波器、准直透镜或反射镜、折叠反射镜、光导和/或类似元件。来自样本122的光辐射可以由物镜132收集,以传播通过物镜、分束器152、镜筒透镜140和微透镜阵列142,以便由图像传感器146检测。
计算机148与图像传感器146通信,并且处理由图像传感器146捕获的光场图像。计算机148可以包括处理指令的处理器156、存储指令和数据的存储器158、以及用于在计算机148和用户之间通信的用户接口160。用户接口可以包括诸如键盘、鼠标或触摸屏的用户输入装置、以及诸如监视器的显示装置。
图7示出了仅具有光场显微镜112的选定部件的射线图。该图描绘了光辐射如何从对象空间78的对象平面134中的对象点162传播到图像传感器146上的多个分离的光场图像点164。光辐射由在中间图像平面170中从对象点162延伸到中间点168的上游边缘光线166以及从中间点168延伸到由图像传感器146限定的光场平面76的下游边缘光线172表示。在该示例性配置中,对象平面134、中间图像平面170和光场平面76彼此共轭,使得光辐射被精确地聚焦到光场图像点164。
图8示出了微透镜阵列142的一个例子的平面图,微透镜144可以排列成二维阵列。微透镜可以沿着阵列平面中的一对正交轴分布,以限定矩形网格,如图所示,尽管可以替代地使用微透镜的非矩形布置。在一些实施例中,如图所示,微透镜144可沿着所述一对轴中的每一正交轴彼此均匀地间隔开,且任选地可沿着两个轴具有彼此相同的间距,即,如图所示的间距d。
光场图像点164之间的距离由于视差(参见图7)而可以大于微透镜144的间隔(例如,图8中的间距d)。来自中间点168的光辐射可以以对于每个微透镜不同的角度入射到微透镜阵列142的个别微透镜144的至少一个子集上。换句话说,从中间点168传播通过该子集的每个微透镜144的每条主光线具有不同的取向。如图所示,来自中间点168的光辐射可以仅入射到微透镜阵列142的微透镜的子集上,因为从中间点168传播的光辐射的锥形尺寸可以受到位于上游(例如,在物镜132中)的孔径(例如,光阑元件174)的限制。(然而,光场显微镜112通常具有非远心光学配置,使得放大率随着距物镜132的距离而变化。)当对象点162在对象平面134中充分地横向移动时,微透镜的不同子集可以接收来自对象点162的光学辐射。因此,对象平面134中的一组充分隔开的对象点162可由微透镜的不同子集成像,且可在由图像传感器146俘获的光场图像中的子图像的不同子集中具有共轭点/光斑。
在其它情况下,光场图像点164之间的距离可以小于微透镜144的物理间隔(例如,图8中的间距d)。例如,在超中心伽利略型设置中,图像传感器上的微透镜的光学投影图像的间距可以小于微透镜阵列的物理间距。同样地,在该设置中,光场图像点164之间的距离小于微透镜阵列的(光学投影的和物理的)间距。
图7所示的光场显微镜112用无限校正物镜132来校准上游的光辐射,并用下游的镜筒透镜140来聚焦经校准的辐射。在其它实施例中,可以去除镜筒透镜140,并且例如可以利用物镜132来收集和聚焦光辐射。
图7示出了位于z位置Z1的对象平面134,其与光场平面76精确共轭,然而,不需要这种关于对象位置的精确关系。更特别地,对于在z位置Z2处更靠近物镜132并且在z位置Z3处更远离物镜132的对象平面134,图像传感器146可以捕获适合于本公开的方法的光场图像(分别参见图9和图10)。在任一情况下,来自中间点168的光辐射在光场平面76处的聚焦比图7中聚焦的少,使得图7的图像点164在图9和图10中变成更大的图像点。
可能合适的光场成像系统110和光场显微镜112(或光场微距摄影系统)的其它示例性方面在本文其它地方描述,诸如在部分I、II、IV和V中描述的。
IV.示例性几何映射函数
这一部分描述了用于方法50中的说明性几何映射函数的基础;参见图1、图11和图12,映射函数对于沿光轴的给定z位置处的对象平面将对象空间和光场空间彼此关联。映射函数可以与光场显微镜或光场微距摄影系统等一起使用。
图11和图12的光场显微镜112可以如图6和图7那样构造,但是以稍微不同的形式描绘。物镜132被示为单个透镜,而微透镜阵列142以更程式化的形式示出。这些简化强调,除了下面描述的相关参数之外,物镜和微透镜可以具有“黑盒”结构。此外,已被选择以说明映射的微透镜144中的一者已被标记为第k个微透镜“144k”。对象点162位于如图7、图9和图10中的对象平面134中,但从光轴128横向偏移(与图7相比)。边缘光线166和主光线176从对象点162通过物镜132延伸到图11中的中间点168,边缘光线被示为延伸到中间点168的下游,以指示从对象点162入射到微透镜阵列142上的光学辐射的锥形的边界。上游主光线176在图11中被示为过早地终止于中间点168,以降低从中间点168向下游绘制的复杂性。
关于微透镜144k,可以如下定义将三维对象空间关联到二维光场空间的映射函数:
r″k,xy=MTotal·rxy+rk,xy(1-MML) (1)
其中下标xy表示相关矢量的横向分量。不管成像系统是否显示倒置图像(inverted image)以及微透镜阵列是成实像(倒置或非倒置图像)还是虚像(倒置或非倒置),该等式都成立。倒置的存在或不存在包含在如下所述的相应放大率值的符号中。
图11和图12中示出了等式1的映射几何结构的示意图,其分别示出了通过微透镜阵列对真实倒置图像和虚拟倒置图像的成像。矢量
Figure BDA0003591877000000181
是表示三维对象空间78的对象平面134中的对象点162的矢量,
Figure BDA0003591877000000182
是表示微透镜144k的光轴的位置的矢量,MTotal是系统的总放大率(例如,由物镜132和微透镜阵列142的组合产生的),MML是仅由于微透镜阵列142而导致的放大率,
Figure BDA0003591877000000183
是表示光场平面76中与对象空间78中的
Figure BDA0003591877000000184
相对应的点的矢量。
矢量
Figure BDA0003591877000000185
Figure BDA0003591877000000186
中的每一个在光轴128处具有尾部(tail)。然而,用于映射的光轴不必是实际的光轴,而是可以从光场图像定义为虚拟的全局光轴。下游主光线178从中间图像点168通过微透镜144的至少一个二维子集延伸到图像传感器146上的相应数量的光场图像点,如以上针对图7、图9和图10所述,下游主光线178之一通过微透镜144k并以
Figure BDA0003591877000000187
入射到光场平面76上。
等式1可以如下导出。根据等式2,对象平面134中的对象点
Figure BDA0003591877000000188
映射到由矢量
Figure BDA0003591877000000189
表示的中间图像点168:
r′xy=MObjective·rxy (2)
其中MObjective是光场显微镜112的物镜132在中间像平面170处提供的集合放大率,并且r′xy是矢量
Figure BDA00035918770000001810
的横向分量。在图11和12的情况下,MObjective将是负数。
中间图像点
Figure BDA00035918770000001811
根据等式3经由微透镜144k映射到二维光场空间(即,光场平面76)的
Figure BDA00035918770000001812
r″k,xy=rk,xy+MML(r′xy-rk,xy) (3)
在图11的情况下,MML将是负的,因为它将再次倒置显微镜产生的实像,而在图12的情况下,MML将是正数。
等式3可以被重新排列和重新分组以产生等式4和等式5:
r″k,xy-rk,xy=MML·r′xy-MML·rk,xy (4)
r″k,xy=rk,xy(1-MML)+MML·r′xy (5)
根据等式2替换等式5中的
Figure BDA0003591877000000191
产生等式6:
r″k,xy=rk,xy(1-MML)+MML·MObjective·rxy (6)
光场显微镜112内的放大率可以由等式7描述:
MTotal=MObjective·MML (7)
根据等式7在等式6的右手项内进行替换得到等式1。
一旦总放大率和微透镜放大率已知(例如,被测量),则映射几何结构被充分地定义。通常,这些放大率中的每一个取决于对象平面134和物镜132之间的距离(即,对象平面134的z位置)。局部像差(例如,由于微透镜阵列)可以由随着每个微透镜图像而变化的总放大率来表示。这导致等式8和等式9:
MTotal=MTotal(z,x″k,y″k)
(8)
MML=MML(z) (9)
通过使用等式10来评估校准目标的同一对象点的相邻视图之间的视差(也称为虚拟深度),可以利用校准目标来确定由于微透镜阵列而导致的放大率:
Figure BDA0003591877000000192
其中dMLA是微透镜阵列的间距,xi″(z)是第i个微透镜的图像中的公共对象点的(z相关)位置,为了确定MML的正确符号,必须知道微透镜阵列是放置在显微镜图像平面的上游还是下游,在第一种情况下,微透镜阵列成像虚像,而在第二种情况下,成像实像,通常,这不限制该方法的适用性,因为显微镜图像平面的位置位于自然图像传感器位置,或者可以通过沿着显微镜物镜下游的z轴相对于微透镜阵列容易地移动图像传感器,注意MTotal的符号也可以根据倒置属性和相关联的Mobjective和MML的符号而变化。然而,总的符号变化仅导致通常不相关的对象空间中的倒置,换句话说,仅需要知道微透镜阵列是插入在显微镜的原始图像平面和上游光学器件之间,还是插入在原始图像平面的下游,不必知道微透镜阵列和原始图像平面之间的确切距离。
V.选择的方面
该示例将本公开的所选方面描述为一系列索引段落。
段落1、一种对样本成像的方法,所述方法包括:(a)在光场平面中捕获所述样本的光场图像;(b)将所述光场图像计算地正向投影到对象空间中的多个z平面中的每一个以生成z平面图像的集合;(c)关于所述光场图像,比较来自每个z平面图像的对象空间中的相同xy区域向所述光场平面的反向投影,以确定来自所述z平面图像中的每个z平面图像的所述反向投影的xy区域与所述光场图像之间的相应对应程度,其中,针对对象空间中的多个不同的xy区域中的每个xy区域重复比较;(d)基于针对每个不同的xy区域比较所述正向投影图像中的至少一个以贡献所述样本的对象空间图像中的所述不同的xy区域的数据来进行选择;以及(e)生成样本的对象空间图像。
段落2、根据段1所述的方法,其中所述不同的xy区域的每一个对应于所述组的z平面图像的每一个中的单个像素。
段落3、根据段1所述的方法,其中,所述不同的xy区域的至少一个对应于像素组或对象。
段落4、段落1至3中任何一项的方法,其中所生成的对象空间图像是二维图像。
段落5、根据段4所述的方法,其中所述二维图像实质上都是对焦的。
段落6、段落1至3中任何一项的方法,其中所述对象空间图像是三维图像。
段落7、根据段落6所述的方法,其中所述三维图像实质上都是对焦的。
段落8、段落1至7中的任一段的方法,其中选择包括针对不同的xy区域中的至少一个xy区域仅选择z平面图像中的对应程度高于该集合中的每个其它z平面图像的对应程度的一个z平面图像。
段落9、段落1至8中的任一段的方法,其中选择包括为不同的xy区域中的至少一个xy区域选择z平面图像中的反向投影的对应程度高于该集合中的每个其它z平面图像的至少两个z平面图像。
段落10、根据段落9所述的方法,还包括将给定xy区域的反向投影的相应对应程度与阈值进行比较,其中,选择包括选择所述相应对应程度的比较满足预定义条件的每个z平面图像。
段落11、根据段落1至10中的任一段所述的方法,其中选择包括为对象空间中的像素组或单个像素选择对象空间中的最佳z平面,并且其中生成包括生成样本的实质上全对焦的三维图像。
段落12、段落1至11中的任何段落的方法,其中,选择包括为对象空间中的像素组或单个像素选择对象空间中的最佳z平面,并且其中,生成包括生成样本的实质上全对焦二维图像。
段落13、段落1至12中的任何段的方法,其中选择包括为对象空间中的多个单个像素或像素组中的每一个选择对象空间中的两个或更多个z平面,还包括组合来自为每个单个像素或像素组选择的两个或更多个z平面的信息。
段落14、根据段落13所述的方法,其中组合信息包括对来自所选择的两个或更多个z平面的单个像素或像素组的值求平均或插值。
段落15、根据段落13所述的方法,其中,组合信息是基于来自所选择的两个或更多个z平面的单个像素或像素组的相应对应程度。
段落16、段落1至15中的任何段的方法,还包括通过计算反向投影该组z平面图像中的每一个z平面图像到光场平面以获得一组反向投影图像,其中比较使用该组反向投影图像。
段落17、段落1至16中的任一段的方法,其中,由成像系统的图像传感器执行捕获,并且其中,正向投影和每个反向投影使用用于成像系统的已知映射几何结构。
段落18、根据段落17所述的方法,其中,所述映射几何结构利用所述成像系统的总放大率的值和由所述成像系统的微透镜阵列产生的放大率的至少一个值。
段落19、一种用于对样本成像的系统,包括:(a)载物台,其在对象空间中的光轴上保持样本;(b)在光轴上的微透镜阵列;(c)图像传感器,其被配置为捕获利用已经传播通过所述微透镜阵列的光形成的所述样本的光场图像;以及(d)处理器,其被配置为(i)将光场图像计算地正向投影到对象空间中的多个z平面中的每一个以生成一组z平面图像,(ii)关于光场图像比较来自每个z平面图像的对象空间中的相同xy区域到光场平面的反向投影,以确定来自每个z平面图像的反向投影的xy区域与光场图像之间的相应对应程度,其中针对对象空间中的多个不同的xy区域中的每一个重复比较,(iii)针对每个不同的xy区域选择z平面图像中的至少一个以贡献样本的对象空间图像中的不同的xy区域的数据,以及(iv)生成样本的对象空间图像。
本公开中使用的术语“示例性”意味着“说明性的”或“用作示例”,类似地,术语“例证”意味着“通过给出示例来说明”,术语既不意味着需要性也不意味着优越性。
虽然通过上述实施例和特征描述了本发明,但是本领域普通技术人员应当理解,在不背离本文公开的发明构思的情况下,可以对实施例和特征进行各种修改、组合和变化。此外,本发明不应被视为限于本文所述的任何特定目的或实施例,而是应被视为可应用于实现本文所述的目的之外的各种目的。本公开参考附图描述了本技术的一些示例,其中仅示出了一些可能的示例。然而,其它方面可以许多不同形式来体现,且不应解释为限于本文陈述的实例,即使未明确地以组合方式加以例示。相反,提供这些示例是为了使本公开彻底和完整,并且将可能示例的范围完全传达给本领域技术人员。

Claims (20)

1.一种对样本(74)成像的方法(50),所述方法(50)包括:
(a)在光场平面(76)中捕获样本(74)的光场图像(72);
(b)将所述光场图像(72)计算正向投影到对象空间(78)中的多个z平面中的每一个,以生成z平面图像(88a-f)集合;
(c)关于所述光场图像(72),比较来自每个z平面图像的对象空间(78)中的相同的xy区域向所述光场平面(76)的反向投影,以确定来自所述z平面图像(88a-f)中的每一个的反向投影的xy区域与所述光场图像(72)之间的相应对应程度,其中,针对对象空间(78)中的多个不同的xy区域中的每一个重复比较;
(d)基于针对每个不同的xy区域的比较,选择所述z平面图像(88a-f)中的至少一个以贡献所述样本(74)的对象空间图像中的所述不同的xy区域的数据;以及
(e)生成所述样本(74)的所述对象空间图像。
2.根据权利要求1所述的方法(50),其中,所述不同的xy区域中的每一个对应于所述集合的z平面图像(88a-f)中的每一个中的单个像素。
3.根据权利要求1所述的方法(50),其中,所述不同的xy区域的至少一个对应于像素组或对象。
4.根据权利要求1所述的方法(50),其中,所生成的所述对象空间图像是二维图像。
5.根据权利要求4所述的方法(50),其中,所述二维图像实质上都是对焦的。
6.根据权利要求1所述的方法(50),其中,所述对象空间图像是三维图像。
7.根据权利要求6所述的方法(50),其中,所述三维图像实质上都是对焦的。
8.根据权利要求1所述的方法(50),其中,选择包括针对所述不同的xy区域中的至少一个xy区域仅选择所述z平面图像(88a-f)中的、所述对应程度高于所述集合中的每个其他z平面图像的一个z平面图像。
9.根据权利要求1所述的方法(50),其中,选择包括针对所述不同的xy区域中的至少一个xy区域选择所述z平面图像(88a-f)中的、反向投影的所述相应对应程度高于所述集合中的每个其它z平面图像的至少两个z平面图像。
10.根据权利要求9所述的方法(50),还包括将给定xy区域的反向投影的所述相应对应程度与阈值进行比较,其中,选择包括选择所述相应对应程度的比较满足预定义条件的每个z平面图像。
11.根据权利要求1所述的方法(50),其中,选择包括为对象空间(78)中的像素组或单个像素选择对象空间(78)中的最佳z平面,并且其中,生成包括生成所述样本(74)的实质上全对焦的三维图像。
12.根据权利要求1所述的方法(50),其中,选择包括为对象空间(78)中的像素组或单个像素选择对象空间(78)中的最佳z平面,并且其中,生成包括生成所述样本(74)的实质上全对焦的二维图像。
13.根据权利要求1所述的方法(50),其中,选择包括针对对象空间(78)中的多个单个像素或像素组中的每一个选择对象空间(78)中的两个或更多个z平面,还包括组合来自针对每个单个像素或像素组选择的所述两个或更多个z平面的信息。
14.根据权利要求13所述的方法(50),其中,组合信息包括对来自所选择的两个或更多个z平面的单个像素或像素组的值进行平均或插值。
15.根据权利要求13所述的方法(50),其中,组合信息基于来自所选择的所述两个或更多个z平面的所述单个像素或像素组的所述相应对应程度。
16.根据权利要求1所述的方法(50),还包括将所述集合的所述z平面图像(88a-f)中的每一个计算地反向投影到所述光场平面(76)以获得反向投影图像集合,其中,比较使用所述反向投影图像集合。
17.根据权利要求1所述的方法(50),其中,由成像系统(110)的图像传感器(146)执行捕获,并且其中,正向投影和每个反向投影使用针对所述成像系统(110)的已知映射几何结构。
18.根据权利要求17所述的方法(50),其中,所述已知映射几何结构利用所述成像系统(110)的总放大率的值和所述成像系统(110)的微透镜阵列(142)产生的放大率的至少一个值。
19.一种用于对样本(74)成像的系统(110),包括:
(a)平台,其用于将样本(74)保持在对象空间(78)中的光轴(128)上;
(b)微透镜阵列(142),其在所述光轴(128)上;
(c)图像传感器(146),其被配置为捕获所述样本(74)的光场图像(72),所述光场图像由已传播通过微透镜阵列(142)的光形成;以及
(d)处理器(156),其被配置为:
(i)将所述光场图像(72)计算正向投影到对象空间(78)中的多个z平面中的每一个以生成z平面图像(88a-f)集合,
(ii)关于所述光场图像(72),比较来自每个z平面图像的对象空间(78)中的相同xy区域向所述光场平面(76)的反向投影,以确定来自所述z平面图像(88a-f)中的每一个的反向投影的xy区域与所述光场图像(72)之间的相应对应程度,其中,针对对象空间(78)中的多个不同的xy区域中的每一个重复比较,
(iii)为每个不同的xy区域选择z平面图像(88a-f)中的至少一个以贡献所述样本(74)的对象空间图像中的所述不同的xy区域的数据,以及
(iv)生成所述样本(74)的所述对象空间图像。
20.一种计算机可读介质,其具有使处理器执行权利要求1所述的方法的指令。
CN202080071626.5A 2019-08-12 2020-08-11 经由双通光场重建的样本成像 Active CN114556411B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962885735P 2019-08-12 2019-08-12
US62/885,735 2019-08-12
PCT/IB2020/057552 WO2021028836A1 (en) 2019-08-12 2020-08-11 Sample imaging via two-pass light-field reconstruction

Publications (2)

Publication Number Publication Date
CN114556411A true CN114556411A (zh) 2022-05-27
CN114556411B CN114556411B (zh) 2025-09-30

Family

ID=72088344

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080071626.5A Active CN114556411B (zh) 2019-08-12 2020-08-11 经由双通光场重建的样本成像

Country Status (5)

Country Link
US (1) US12014511B2 (zh)
EP (1) EP4014198B1 (zh)
JP (1) JP7609847B2 (zh)
CN (1) CN114556411B (zh)
WO (1) WO2021028836A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2025508212A (ja) * 2022-03-17 2025-03-21 株式会社クビットバイオ ライトフィールド顕微鏡ベースの画像取得方法及び装置
US12429682B2 (en) * 2022-09-23 2025-09-30 Electronics And Telecommunications Research Institute Plenoptic microscope system and plenoptic image processing apparatus
US12267569B2 (en) * 2022-10-14 2025-04-01 Motional Ad Llc Plenoptic sensor devices, systems, and methods
DE102022128078A1 (de) * 2022-10-25 2024-04-25 Carl Zeiss Microscopy Gmbh Verfahren und vorrichtung zur mikroskopie
CN119809940A (zh) * 2025-03-12 2025-04-11 华侨大学 一种基于状态模型的光场图像超分辨率重建方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3188123A1 (en) * 2015-12-30 2017-07-05 Thomson Licensing A method and an apparatus for generating data representative of a pixel beam
CN107091825A (zh) * 2017-03-31 2017-08-25 清华大学 基于微透镜阵列的荧光样本层析显微成像方法
CN107561311A (zh) * 2017-07-11 2018-01-09 上海交通大学 基于双光场相机的三维流场测试方法
CN108292428A (zh) * 2015-12-11 2018-07-17 上海联影医疗科技有限公司 图像重建的系统和方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4281011B2 (ja) * 2005-09-01 2009-06-17 ソニー株式会社 制御装置および制御方法
US8817015B2 (en) * 2010-03-03 2014-08-26 Adobe Systems Incorporated Methods, apparatus, and computer-readable storage media for depth-based rendering of focused plenoptic camera data
JP6272099B2 (ja) * 2014-03-24 2018-01-31 キヤノン株式会社 画像処理装置、制御方法およびプログラム
JP2016082475A (ja) * 2014-10-20 2016-05-16 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
US9516200B2 (en) * 2014-12-29 2016-12-06 Samsung Electronics Co., Ltd. Integrated extended depth of field (EDOF) and light field photography
JP6310418B2 (ja) * 2015-05-29 2018-04-11 日本電信電話株式会社 画像処理方法、画像処理装置及び画像処理プログラム
KR20180080219A (ko) * 2015-10-09 2018-07-11 비스비 카메라 코퍼레이션 홀로그램 광 필드 이미징 디바이스 및 그 이용 방법
US10725279B2 (en) * 2016-04-08 2020-07-28 Arizona Board Of Regents On Behalf Of The University Of Arizona Systems and methods for extended depth-of-field microscopy
WO2019012662A1 (ja) * 2017-07-13 2019-01-17 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラムおよびライトフィールド撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108292428A (zh) * 2015-12-11 2018-07-17 上海联影医疗科技有限公司 图像重建的系统和方法
EP3188123A1 (en) * 2015-12-30 2017-07-05 Thomson Licensing A method and an apparatus for generating data representative of a pixel beam
CN107091825A (zh) * 2017-03-31 2017-08-25 清华大学 基于微透镜阵列的荧光样本层析显微成像方法
CN107561311A (zh) * 2017-07-11 2018-01-09 上海交通大学 基于双光场相机的三维流场测试方法

Also Published As

Publication number Publication date
US20220270279A1 (en) 2022-08-25
CN114556411B (zh) 2025-09-30
EP4014198B1 (en) 2023-09-06
WO2021028836A1 (en) 2021-02-18
JP7609847B2 (ja) 2025-01-07
US12014511B2 (en) 2024-06-18
JP2022544292A (ja) 2022-10-17
EP4014198A1 (en) 2022-06-22

Similar Documents

Publication Publication Date Title
JP7670886B2 (ja) ライトフィールド結像システムの較正
CN114556411B (zh) 经由双通光场重建的样本成像
CN110262026B (zh) 孔径扫描傅立叶重叠关联成像
US11454781B2 (en) Real-time autofocus focusing algorithm
CN109716199A (zh) 具有选择性平面照明的光场显微镜
JP2020535478A (ja) 2回通過式マクロ画像
JPWO2020157681A5 (zh)
JP6952891B2 (ja) 2×3および1×3スライド用のカルーセル
AU2018375358B2 (en) Dual processor image processing
CN111902711B (zh) 试样观察装置和试样观察方法
JP7767182B2 (ja) 解析方法および解析装置
US20240137632A1 (en) ENGINEERED POINT SPREAD FUNCTION (ePSF) OBJECTIVE LENSES

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant