对在电子显微镜下研究的样品的漂移校正的自动化应用制造技术

技术编号:38243792 阅读:12 留言:0更新日期:2023-07-25 18:05
本发明专利技术涉及一种配置成在电子显微镜环境中进行样品跟踪的控制系统。该控制系统对与位于利用电子显微镜观察的样品的活动区域内的受关注区域相关联的移动进行配准。被配准的移动包括至少一个方向分量。受关注区域位于电子显微镜的视场内。该控制系统指示对电子显微镜控制组件进行调整,以对通过电子显微镜观察的受关注区域的画面进行动态居中和/或动态聚焦。该调整包括对大小要素和/或方向要素的调整。整。整。

【技术实现步骤摘要】
对在电子显微镜下研究的样品的漂移校正的自动化应用
[0001]分案申请
[0002]本申请为申请号202080040044.0、申请日2020年08月12日、题为“对在电子显微镜下研究的样品的漂移校正的自动化应用”的分案申请。
[0003]相关申请的交叉引用
[0004]本申请要求于2019年8月16日提交的美国临时专利申请62/888,309的优先权,其全部内容以整体引用方式并入本文。


[0005]本公开涉及电子显微镜领域,尤其涉及一种配置成对在电子显微镜下研究的样品中发生的漂移进行自动化跟踪和校正的系统。

技术介绍

[0006]通常,电子显微镜上现有的相机和检测器软件套件通过在相机和检测器的的整个可用视场区域上对有限视场进行数字化移动来校正微小的移动。在大多数利用电子显微镜进行的传统研究中,样品处在室温下,有充足的时间稳定至热平衡。针对给定坐标的任何数量的显微镜参数(例如,剂量率、能量损失或X射线计数)的测量都是在静止的系统上直接进行的。因此,对视场进行移动,以校正在被观察样品的受关注区域中发生的移动,可以使受关注区域的图像更清晰。在被观察样品的受关注区域中发生的移动通常是微小的,并且其速率的大小水平通常可以小于每分钟1nm。
[0007]“原位”或“现场原位(operando)”研究包括:例如通过采取诸如在气体或流体环境中对样品进行机械改变、电探测、加热、冷却和成像的动作来对该样品应用或实现动态变化。当样品随时间发生各种变化时,显微镜操作者对该样品中的受关注区域进行跟踪,这样做是有利的。需要对与被研究样品相关联的各种参数有关的测量值进行配准,以便全面跟踪样品移动时各种参数发生的变化。这是因为如果没有仔细考虑关于给定特征在实验过程中的移动方式和移动位置的历史记录,被跟踪的变化就无法往回与原坐标联系起来。不幸的是,样品移动的大小会超出普通相机和检测器以适当方式对视场进行数字化移动的范围。
[0008]因此,可以根据需要提供一种在电子显微镜中进行自动特征跟踪和漂移校正的新方法。

技术实现思路

[0009]提供本
技术实现思路
是为了简单介绍以下将进一步详细描述的概念。本
技术实现思路
并非旨在识别所要求保护的主题的关键特征或必要特征,也不应被理解为限制所要求保护的主题的范围。
[0010]本文公开了一种配置成在电子显微镜环境中进行样品跟踪的控制系统。该控制系统包括存储器、处理器和显微镜控制组件。该控制系统配置成对与位于利用电子显微镜观
察的样品的活动区域内的受关注区域相关联的移动进行配准。被配准的移动包括至少一个方向分量。受关注区域位于电子显微镜的视场内。该控制系统还配置成指示对显微镜控制组件进行调整,以对通过电子显微镜对受关注区域进行观察的画面进行动态居中和/或动态聚焦。该调整包括对大小要素和/或方向要素的调整。根据一个或多个实施例,该控制系统还配置成向受关注区域应用原位刺激。
[0011]此外,本文公开了一种控制系统,配置成对与位于利用电子显微镜观察的样品的活动区域内的受关注区域相关联的移动进行配准。被配准的移动包括至少一个方向分量。受关注区域位于电子显微镜的视场内。被配准的移动包括X轴平移、Y轴平移、Z轴平移、α倾斜和β倾斜中的至少一种。该控制系统还配置成指示对电子显微镜控制组件进行调整,以对通过电子显微镜对受关注区域进行观察的画面进行动态居中和/或动态聚焦。该调整包括对大小要素和/或方向要素的调整。
附图说明
[0012]当结合附图进行阅读时,可以更好地理解以上及以下对优选实施例的具体描述。出于说明的目的,在附图中示出了示例性实施例;然而,本公开的主题不限于所公开的具体方法和手段。
[0013]本文示出、描述和讨论的实施例是对本专利技术的说明。由于结合图示描述了本专利技术的这些实施例,对于本领域技术人员来说,对所描述的方法和/或特定结构的各种修改或改编可以变得显而易见。应当认识到的是,在不脱离本专利技术的精神和预期范围的情况下,上述教导涵盖了修改和变化,并且这些修改和变化在权利要求的范围内。所有这些修改、改编或变化都依赖于本专利技术的教导,并且通过这些修改、改编或变化,这些教导使本领域得到了发展。这些修改、改编或变化被认为在本专利技术的精神和范围内。因此,这些描述和附图不应被认为是限制性的,因为应当理解的是,本专利技术决不仅限于所示的实施例。
[0014]图1所示的是根据本公开的主题的一个或多个实施例的一种配置成在电子显微镜环境中进行样品跟踪和漂移校正的控制系统。
[0015]图2所示的是根据本公开的主题的一个或多个实施例的示出了由该控制系统执行的反应性漂移校正过程的细节示意图。
[0016]图3所示的是根据本公开的主题的一个或多个实施例的示出了该控制系统结合漂移预计发生位置的预测行为来即时(on

the

fly)学习E

芯片和样品架的独特的X轴、Y轴和Z轴移动的示意图。
[0017]图4所示的是根据本公开的主题的一个或多个实施例的示出了该控制系统的模块的示意图,该模块跟踪像素随时间的位移,以建立漂移速度矢量和漂移加速度矢量。
[0018]图5所示的是根据本公开的主题的一个或多个实施例的构成该控制系统一部分的模块的图示,该模块配置成允许用户通过勾画来选择受关注区域(ROI)并随后命令电子显微镜对视场中的ROI进行移动和居中。
[0019]图6所示的是根据本公开的主题的一个或多个实施例的构成该控制系统一部分的模块的图示,其ROI已预先勾画好,该模块配置成允许用户指定一个新的中心位置,该控制系统据此来移动样品或射束。
[0020]图7所示的是根据本公开的主题的一个或多个实施例的构成该控制系统一部分的
模块的图示,该模块配置成支持单组连续图像上的多个ROI。
[0021]图8所示的是根据本公开的主题的一个或多个实施例的流程图,其中构成该控制系统一部分的模块采用漂移矢量、背景漂移和/或参考模板来确定何时在样品中发生移动。
[0022]图9所示的是根据本公开的主题的一个或多个实施例的示出了构成该控制系统一部分的模块的流程图,该模块配置成触发相机、检测器、显微镜或原位动作。
[0023]图10所示的是根据本公开的主题的一个或多个实施例的示出了构成该控制系统一部分的模块的流程图,该模块配置成采用定位器的分级控制。
[0024]图11所示的是根据本公开的主题的一个或多个实施例的构成该控制系统一部分的模块的图示,该模块配置成在物理校正之前应用数字化校正并将连续图像保存为影片。
[0025]图12所示的是根据本公开的主题的一个或多个实施例的示出了构成该控制系统一部分的模块的流程图,该模块配置成执行自动聚焦或重聚焦例程以找到理想的焦点。
[0026]图13所示的是根据本公开的主题的一个或多个实施例的示出了聚焦评分扫描的流程图。
[0027]图14所示的是根据本公开的主题的一个或多个实施例的用于电子显微镜的视觉聚焦控本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种配置成在电子显微镜环境中进行样品跟踪的控制系统,所述控制系统包括:存储器;处理器;以及显微镜控制组件,所述控制系统配置成:对与受关注区域相关联的移动进行配准,所述受关注区域位于利用电子显微镜观察的样品的活动区域内,其中,所述被配准的移动包括至少一个方向分量,其中,所述受关注区域位于所述电子显微镜的视场内;指示对所述显微镜控制组件进行调整,以对通过所述电子显微镜观察的所述受关注区域的画面进行动态居中和/或动态聚焦;其中,所述调整包括对大小要素和/或方向要素的调整。2.根据权利要求1所述的控制系统,其中,所述控制系统还配置成向所述受关注区域应用原位刺激,其中,所述调整包括沿着X轴和Y轴的漂移校正。3.根据权利要求2所述的控制系统,其中,所述控制系统还配置成向所述受关注区域应用原位刺激,其中,所述调整包括沿着Z轴的漂移校正。4.根据权利要求1所述的控制系统,其中,所述控制系统还配置成当所述被配准的移动低于预定值或预定速率时提醒用户。5.根据权利要求1所述的控制系统,其中,所述显微镜控制组件与机械载物台、测角仪、所述载物台的压电组件、电子束的照射、所述电子束的投射、所述电子束的电磁偏转和所述电子束的移动中的一个或多个进行电子通信。6.根据权利要求1所述的控制系统,其中,所述控制系统还配置成在微米尺度、纳米尺度或原子尺度上对所述移动进行配准。7.根据权利要求1所述的控制系统,其中,所述控制系统还配置成同时对与位于所述被观察样品中的多个受关注区域相关联的移动进行配准。8.根据权利要求1所述的控制系统,其中,所述控制系统还配置成通过将所述样品的活动区域的其余部分与所述受关注区域的模板图像对照来对所述移动进行配准。9.根据权利要求8所述的控制系统,其中,所述控制系统还配置成在预定时间段内操纵所述受关注区域的模板图像,以生成当前形貌分布图或当前强度分布图。10.根据权利要求1所述的控制系统,其中,所述控制系统还配置成将所述被配准的移动作为与所述被观察样品的受关注结构、受关注区域和背景区域中的一个或多个相关联的漂移矢量来捕捉。11.根据权利要求10所述的控制系统,其中,所述控制系统还配置成通过估计所述漂移矢量的大小和所述漂移矢量的方向中的一个或多个来提高所述漂移矢量的精度。12.根据权利要求11所述的控制系统,其中,所述控制系统配置成通过将与样品架和MEMS样品支架中的一个或多个相关的性能数据应用于所述漂移矢量来提高所述漂移矢量的所述精度。13.根据权利要求10所述的控制系统,其中,所述控制系统还配置成分析所述漂移矢量,以预测进行观察的另一个受关注区域的另一个漂移矢量。
14.根据权利要求1所述的控制系统,其中,所述控制系统还配置成向所述受关注区域应用原位刺激,其中,所述原位刺激包括由所述控制系统基于在所述受关注区域配准的移动生成的漂移矢量。15.根据权利要求10所述的控制系统,其中,所述控制系统还配置成将所述漂移矢量与所述受关注区域的参考模板图像进行比较,以识别所述被观察样品已经发生的变化。16.根据权利要求10所述的控制系统,其中,所述被观察样品的变化包括相变、沉淀物形成、形貌变化、与周围环境的反应、与附近元素的反应以及在所述被观察样品中发生的聚结中的一个或多个。17.根据权利要求1所述的控制系统,其中,所述控制系统还配置成将所述移动按照配准算法和/或对齐算法来配准。18.根据权利要求17所述的控制系统,其中,所述控制系统还配置成对所述配准算法和/或所述对齐算法进行校准。19.根据权利要求1所述的控制系统,其中,所述控制系统还配置成将所述移动作为像素位移来配准,并将所述像素位移转化为所述电子显微镜的定位器的校正距离。20.根据权利要求19所述的控制系统,其中,所述控制系统还配置成将多个所述像素位移转化成漂移速度矢量和漂移加速度矢量中的至少一个。21.根据权利要求19所述的控制系统,其中,所述控制系统还配置成仅当所述电子显微镜的所述定位器的分辨率与所述校正距离的大小兼容时,将所述校正距离应用给所述电子显微镜的所述定位器。22.根据权利要求19所述的控制系统,其中,所述控制系统还配置成向所述定位器应用校正距离,以便使得到的漂移校正后的序列帧率最大化。23.根据权利要求1所述的控制系统,其中,所述控制系统还配置成响应于所述被配准的移动触发以下动作中的至少一个:暂停原位刺激、保持所述原位刺激恒定,以及改变所述原位刺激的变温速率。24.根据权利要求1所述的控制系统,其中,所述控制系统还配置成响应于以下至少一种情况自动识别新的受关注区域:视场(FOV)变化、样品变化、显微镜状态更新、电子束未消隐、镜筒阀打开、屏幕升高和成像条件变化。25.根据权利要求1所述的控制系统,其中,所述控制系统还配置成响应于以下至少一种情况而自动停止或暂停:视场(FOV)变化、样品变化、显微镜状态更新、电子束未消隐、镜筒阀打开、屏幕升高和成像条件变化。26.根据权利要求1所述的控制系统,其中,所述控制系统还配置成通过以下一种或多种方式从显示在图形用户界面上的所述视场的实时图像流中数字化地勾画出所述受关注区域:在显示在图形用户界面上的所述视场的实时图像流上标出轮廓;在图形用户界面上显示的所述视场的实时图像流上标出形状;将预先存在的形状叠加到图形用户界面上显示的所述视场的实时图像流上;捕捉在图形用户界面上显示的所述电子显微镜的所述视场的实时图像流内的区域上执行的双击事件;以及捕捉显示在图形用户界面上的所述电子显微镜的所述视场的实时图像流内的区域上的点击和拖动事件。27.根据权利要求1所述的控制系统,其中,所述控制系统还配置成当所述控制系统确定所述受关注区域已经从所述视场的中心或所述视场内的参考点离开时,向所述受关注区
域应用居中移动。28.根据权利要求1所述的控制系统,其中,所述控制系统还配置成基于在所述被配准的移动中检测到的漂移矢量性速度、漂移速度和漂移分辨率中的一个或多个来确定要实时应用的原位刺激。29.根据权利要求1所述的控制系统,其中,所述控制系统还配置成基于以下一个或多个条件来确定要实时应用的原位刺激:检测到的所述受关注区域的成像条件;样品支架的性能参数;以及样品架的性能参数。30.根据权利要求29所述的控制系统,其中,所述检测到的受关注区域的成像条件包括放大水平和/或图像采集时间。31.根据权利要求1所述的控制系统,其中,所述控制系统还配置成通过以下一种或多种方式来抵消所述被配准的移动:应用物理调整、应用数字化调整、对在图形用户界面上显示的所述视场的实时图像流中显示的图像进行过滤以及对在漂移校正后的图像序列中显示的图像进行过滤。32.根据权利要求30所述的控制系统,其中,所述控制系统还配置成生成所述受关注区域的无缝视频。33.根据权利要求1所述的控制系统,其中,所述控制系统还配置成数字化校正所述受关注区域的至少一个图像和/或物理校正所述受关注区域的至少一个图像。34.根据权利要求32所述的控制系统,其中,所述视场的总区域的至少一个图像没有被数字化校正。35.根据权利要求33所述的控制系统,其中,所述数字化校正包括以下操作中的一个或多个:对所述图像进行数字化移动、对所述图像进行数字化裁剪、对所述图像进行数字化模糊处理、对所述图像进行数字化锐化处理、数字化添加到所述图像边缘、将背景像素数字化添加到所述图像以及将前景像素数字化添加到所述图像。36.根据权利要求32所述的控制系统,其中,所述控制系统还配置成保存所述图像的数字化校正副本和所述图像的常规未校正副本。37.根据权利要求29所述的控制系统,其中,所述控制系统还包括检查实用程序,其中,所述检查实用程序配置成检查捕捉到的图像或捕捉到的视频,其中,利用显微镜元数据、原位元数据和成像条件中的一个或多个来对所述捕捉到的图像或所述捕捉到的视频进行索引。38.根据权利要求37所述的控制系统,其中,所述检查实用程序配置成生成应用于所述图像、所述显微镜元数据、所述原位元数据和所述成像条件中的一个或多个的数学算法。39.根据权利要求38所述的控制系统,其中,所述数学算法应用于漂移校正后的图像序列,其中,所述控制系统还配置成评估在预定时间间隔内所应用的所述调整的变化。40.根据权利要求38所述的控制系统,其中,所述数学算法包括变换分析、强度图、像素强度统计、结晶度分数、聚焦分数、方差分数、对比度分数、粒度分析和点间距离分析中的至少一个。41.根据权利要求38所述的控制系统,其中,所述控制系统还配置成以预定的图像格式将由所述控制系统检查的预定图像序列导出至永久磁盘空间。42.根据权利要求38所述的控制系统,其中,所述控制系统还配置成将所述数学算法应
用于图像或元数据,以隔离预定图像序列或导出预定图像序列。43.根据权利要求32所述的控制系统,其中,所述控制系统还配置成基于数字化校正后的连续图像和/或未数字化校正的连续图像来生成视频。44.根据权利要求36所述的控制系统,其中,所述视频包括所述受关注区域的数字校正后的稳定影片。45.根据权利要求32所述的控制系统,其中,所述控制系统还配置成通过应用如FFT、CTF的变换分析、强度图、像素强度统计、聚焦算法分析、亮度调整、对比度调整、伽马调整、元数据叠加层和形状叠加层中的至少一个基于连续图像来生成视频。46.根据权利要求38所述的控制系统,其中,所述视频包括所述受关注区域的未数字化校正的影片。47.根据权利要求1所述的控制系统,其中,所述控制系统还配置成将所述被配准的移动作为漂移速率或漂移矢量来捕捉,以及通过将应用给所述受关注区域的图像的数字化配准与X轴、Y轴和Z轴坐标平面中的至少一个相结合来视觉呈现所述漂移速率或所述漂移矢量,以生成单个协调位置。48.根据权利要求47所述的控制系统,其中,所述漂移速率的视觉呈现包括罗盘显示、柱状显示、数值显示和图形显示中的一种或多种。49.根据权利要求1所述的控制系统,其中,所述控制系统还配置成:将所述移动作为漂移速率来配准;以及对所述漂移速率进行归一化。50.根据权利要求1所述的控制系统,其中,所述控制系统还配置成捕捉所述受关注区域的失焦图像,以计算所述样品距所述电子显微镜的透镜的最佳Z轴距离,其中,所述Z轴垂直于对应于所述受关注区域的平面。51.根据权利要求1所述的控制系统,其中,所述显微镜控制组件的所述调整包括电子束偏转和/或焦平面调整。52.根据权利要求1所述的控制系统,其中,所述控制系统还配置成连续监控所述受关注区域的聚焦水平。53.根据权利要求52所述的控制系统,其中,所述控制系统还配置成基于所述聚焦水平生成归一化聚焦分数。54.根据权利要求1所述的控制系统,其中,所述控制系统还配置成基于聚焦质量分析以及物理对齐的图像和数字化对齐的图像中的一个或多个来生成归一化聚焦分数。55.根据权利要求1所述的控制系统,其中,所述控制系统还配置成通过沿Z轴应用漂移校正来改变所述受关注区域的聚焦水平,其中,所述Z轴垂直于对应于所述受关注区域的平面。56.根据权利要求1所述的控制系统,其中,所述控制系统还配置成在图形用户显示器上显示聚焦分数,其中,所述聚焦分数与预定义的聚焦分数并列显示。57.根据权利要求56所述的控制系统,其中,所述控制系统还配置成将聚焦水平操纵至过焦状态或欠焦状态。58.根据权利要求56所述的控制系统,其中,所述控制系统还配置成采用聚焦控制算法来连续调整所述电子显微镜的物镜,以产生归一化聚焦分数。59.根据权利要求58所述的控制系统,其中,所述控制系统还配置成:随着所述归一化
聚焦分数接近最佳配准聚焦分数,减小移动的大小;以及随着所述归一化聚焦分数偏离所述最佳配准聚焦分数,增加所述移动的大小。60.根据权利要求1所述的控制系统,其中,所述控制系统还配置成调节所述电子显微镜的所述透镜的重聚焦点,其中,所述重聚焦点通过操纵指示器句柄来定义聚焦包络。61.根据权利要求1所述的控制系统,其中,所述控制系统还配置成包括Z轴聚焦控制,所述Z轴聚焦控制包括...

【专利技术属性】
技术研发人员:F
申请(专利权)人:普罗托芯片有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1