用于病理学的增强现实显微镜制造技术

技术编号:22598757 阅读:52 留言:0更新日期:2019-11-20 13:00
由病理学家用来查看包含生物样品(诸如组织或血液)的切片类型的显微镜,在切片被移动到新位置或发生放大率或聚焦方面的改变时,该显微镜基本上实时地被提供有对视野的增加物(诸如热图、边界或注释)的投射。增加物帮助病理学家对(诸如对癌细胞或病原体的存在呈阳性的)样品进行表征或分类。

Augmented reality microscopy for pathology

A microscope used by a pathologist to view a section type containing a biological sample, such as tissue or blood, which is essentially provided in real time with projections of an addition to the field of vision, such as a thermogram, boundary, or annotation, when the section is moved to a new location or changes in magnification or focus occur. The addition helps pathologists characterize or classify samples, such as those that are positive for the presence of cancer cells or pathogens.

【技术实现步骤摘要】
【国外来华专利技术】用于病理学的增强现实显微镜
本公开涉及病理学领域,并且更具体地涉及一种用于帮助病理学家对生物样品(诸如血液或组织)进行分类的改进的显微镜系统和方法,这些生物样品例如包含癌细胞或包含病理试剂(诸如原生动物疟原虫或结核细菌)。
技术介绍
为了对生物样品(诸如组织)进行表征或分类,将样品放置在显微镜切片上,并且病理学家利用显微镜对该样品进行放大观察。样品可以利用诸如苏木精和伊红(hematoxylinandeosin,H&E)的试剂染色,以使样品中潜在感兴趣的特征更容易被看到。可选地,可以利用高分辨率数字扫描仪对样品进行染色和扫描,并且病理学家在工作站或计算机的屏幕上观察样品的放大图像。例如,淋巴结转移的评估是许多类型的实体瘤(包括乳腺癌)的分期的核心。该过程需要高度熟练的病理学家,非常耗时且容易出错,尤其是对于癌症呈阴性或具有小的癌症病灶的结。目前的护理标准包括检查已经利用苏木精和伊红染色的结活检的数字切片。然而,手动阅读有几个固有的局限性,包括读者疲劳,以及分级者内和分级者间的可靠性,这些都会负面影响过程的敏感性。淋巴结活检切片的准确查看和评估非常重要,因为淋巴结组织中肿瘤细胞的存在可能需要对癌症进行新的或更积极的治疗,并提高患者的生存机会。现有技术包括对深度学习技术和经训练的神经网络适应于数字组织图像的背景以便改进癌症诊断、表征和/或分期的描述。相关
技术介绍
包括以下文章:G.Litjens等人的《深度学习作为用于提高组织病理学诊断准确性和效率的工具》(Deeplearningasatoolforincreasingaccuracyandefficiencyofhistopathologicaldiagnosis),www.nature.com/scientificreports6:26286(2016年5月);D.Wang等人的《用于标识转移性乳腺癌的深度学习》(DeepLearningforIdentifyingMetastaticBreastCancer),ARXiv:1606.05718v1(2016年6月);A.Madabhushi等人的《数字病理学中的图像分析和机器学习:挑战和机遇》(Imageanalysisandmachinelearningindigitalpathology:Challengesandopportunities),医学图像分析33,p.170-175(2016);A.Schuamberg等人的《H&E染色全切片深度学习预测前列腺癌中的SPOP突变状态》(H&E-stainedWholeSlideDeepLearningPredictsSPOPMutationStateinProstateCancer),bioRxiv预印本http:/.bioRxiv.or/content/early/2016/07/17/064279。其他感兴趣的现有技术包括Quinn等人的《基于显微镜的护理点诊断的深度卷积神经网络》(DeepConvolutionalNeuralNetworksforMicroscopy-basedPointofCareDiagnostics),2016年国际医疗保健机器学习会议记录。本领域已经描述了增大显微镜的视野以辅助外科手术的几个示例。见美国专利申请公开2016/0183779和公开的PCT申请WO2016/130424A1。另请参见Watson等人的《增强显微术:亮场和近红外荧光图像的实时覆盖》(Augmentedmicroscopy:real-timeoverlayofbright-fieldandnear-infraredfluorescenceimages),生物医学光学杂志,vol.20(10)2015年10月。
技术实现思路
一方面,描述了一种用于利用显微镜帮助查看包含生物样品(血液、组织、痰、粪便等)的显微镜切片的方法。该方法包括利用相机捕获通过显微镜的目镜看到的样品的视野的放大数字图像的步骤。机器学习模式识别器接收图像,并根据数字图像中的数据标识样品中的感兴趣的区域。这些感兴趣的区域可以是可能含有癌细胞的区域,或者在其他应用中是血液样品中的原生动物疟原虫的标识,该原生动物疟原虫在痰样品中引起疟疾或结核细菌。该方法还包括将增加物(enhancement)作为覆盖叠置在通过显微镜目镜的视野上的步骤。根据特定的应用,增加物可以采取几种形式,诸如包含癌细胞的可能性高的“热图”或彩色编码区域、感兴趣区域边界、注释(诸如用于前列腺组织样品的格里森评分)、测量值或其他标记。在用户相对于显微镜光学器件移动样品或改变放大率或聚焦时,新图像被相机捕获并将其供应给机器学习模式识别器,并且新的感兴趣区域边界、注释和/或其他类型的增加物被覆盖在通过目镜的视野上。在病理学家相对于显微镜光学器件移动切片、改变聚焦或改变放大率并继续通过目镜观察样本时,覆盖在视野上的新增加物的显示基本上实时发生(即,在几秒钟或甚至几分之一秒内)。覆盖的增加物帮助病理学家根据样品的类型对(例如包含癌细胞或组织,或包含病原体的)生物样品进行分类或表征。本公开还可以表征为呈显微镜的形式的系统,该系统具有用于容纳包含生物样品的切片的载物台和目镜、捕获通过显微镜的目镜看到的样品的放大数字图像的数字相机、以及包括从相机接收图像的机器学习模式识别器的计算单元。模式识别器被训练来执行“推理”,即在当前放置在载物台上的生物样品中标识感兴趣的区域(例如癌细胞或组织、诸如病毒的病原体、原生动物或细菌、寄生虫卵等)。模式识别器识别由相机捕获的图像上的感兴趣区域。计算单元以感兴趣区域边界、注释、热图和/或其他信息的形式生成覆盖在通过目镜的视图上的增加物。在用户相对于显微镜移动样品或改变放大率或聚焦时,会生成附加的增加物。在一方面,提供了一种用于帮助用户利用具有目镜的显微镜查看包含生物样品的切片的方法,包括以下步骤:(a)利用相机捕获通过显微镜的目镜看到的样品的视图的数字图像,(b)使用机器学习模式识别器从由相机捕获的图像中标识样品中的感兴趣区域,以及(c)将增加物作为覆盖叠置到通过显微镜的目镜看到的样品的视图上,其中增加物基于样品中所标识的感兴趣区域,(d)其中,当样品相对于显微镜光学器件被移动时,或者当显微镜的放大率或聚焦改变时,样品的新视图的新数字图像被相机捕获并被供应给机器学习模式识别器,并且新的增加物被基本实时地叠置到通过目镜看到的样品的新视图上,由此该增加物帮助用户对生物样品进行分类或表征。步骤(b)可以还包括使用推理加速器来促进增加物的基本实时的生成的步骤。该方法可以还包括在耦合到显微镜的计算单元中提供接口以接收用于不同类型的生物样品的新的机器学习模式识别器并将其本地存储在计算单元中的步骤。生物样品可以是从由组织、淋巴结、血液、痰、尿液、粪便、水、土壤和食物组成的样品组选择的类型。感兴趣区域可以包括癌细胞或组织、细胞结构、细胞类型或病原体,其中病原体可选地是从由疟原虫、结核杆菌、疟疾原生动物、病毒、寄生虫卵组成的组中选择的病原体。增加物可以从由热图、感兴本文档来自技高网
...

【技术保护点】
1.一种用于帮助用户利用具有目镜的显微镜查看包含生物样品的切片的方法,包括以下步骤:/n(a)利用相机捕获通过所述显微镜的目镜看到的样品的视图的数字图像,/n(b)使用机器学习模式识别器从由所述相机捕获的图像中标识所述样品中的感兴趣区域,以及/n(c)将增加物作为覆盖叠置到通过所述显微镜的目镜看到的样品的视图上,其中,所述增加物基于所述样品中的所标识的感兴趣区域,/n(d)其中,当所述样品相对于显微镜光学器件被移动时,或者当所述显微镜的放大率或聚焦改变时,所述样品的新视图的新数字图像被所述相机捕获并被供应给所述机器学习模式识别器,并且新的增加物被基本实时地叠置在通过目镜看到的样品的新视图上,由此所述增加物帮助用户对所述生物样品进行分类或表征。/n

【技术特征摘要】
【国外来华专利技术】1.一种用于帮助用户利用具有目镜的显微镜查看包含生物样品的切片的方法,包括以下步骤:
(a)利用相机捕获通过所述显微镜的目镜看到的样品的视图的数字图像,
(b)使用机器学习模式识别器从由所述相机捕获的图像中标识所述样品中的感兴趣区域,以及
(c)将增加物作为覆盖叠置到通过所述显微镜的目镜看到的样品的视图上,其中,所述增加物基于所述样品中的所标识的感兴趣区域,
(d)其中,当所述样品相对于显微镜光学器件被移动时,或者当所述显微镜的放大率或聚焦改变时,所述样品的新视图的新数字图像被所述相机捕获并被供应给所述机器学习模式识别器,并且新的增加物被基本实时地叠置在通过目镜看到的样品的新视图上,由此所述增加物帮助用户对所述生物样品进行分类或表征。


2.根据权利要求1所述的方法,其中,步骤(b)还包括使用推理加速器来促进所述增加物的基本实时的生成的步骤。


3.根据权利要求1所述的方法,还包括在耦合到所述显微镜的计算单元中提供接口以接收用于不同类型的生物样品的新的机器学习模式识别器并将其本地存储在所述计算单元中的步骤。


4.根据权利要求1至3中任一项所述的方法,其中,所述生物样品是从由组织、淋巴结、血液、痰、尿液、粪便、水、土壤和食物组成的样品组中选择的类型。


5.根据权利要求1至3中任一项所述的方法,其中,所述感兴趣区域包括癌细胞或组织、细胞结构、细胞类型或病原体,其中,所述病原体可选地是从由疟原虫、结核杆菌、疟疾原生动物、病毒、寄生虫卵组成的组中选择的病原体。


6.根据权利要求1至3中任一项所述的方法,其中,所述增加物从由热图、感兴趣区域边界、注释、格里森评分、分类可能性预测、细胞计数和物理测量值组成的增加物组中选择,其中,所述物理测量值可选地是肿瘤直径。


7.根据权利要求1至6中任一项所述的方法,还包括在与所述显微镜相关联的工作站的监视器上显示来自一个或多个其他样品的一个或多个图像区域的步骤,所述一个或多个其他样品与所述显微镜的当前视图中的样品相似。


8.根据权利要求7所述的方法,还包括显示与所显示的一个或多个其他样品相关联的元数据的步骤。


9.根据权利要求1至8中任一项所述的方法,还包括将通过所述显微镜的目镜看到的样品的视图的图像数据和增加物输出到外部显示器的步骤。


10.根据权利要求1至9中任一项所述的方法,其中,所述显微镜还包括用于支撑和相对于所述目镜移动切片的机动载物台,并且其中,所述方法还包括使用显微镜机动载物台和数字相机以及机器学习模式识别器来执行所述生物样品中的潜在感兴趣区域的初步检测的步骤。


11.根据权利要求10所述的方法,还包括控制所述机动载物台来移动所述载物台以放置所述潜在感兴趣区域以便由用户观看以及在所述潜在感兴趣区域中的每一个区域处生成增加物的步骤。


12.根据权利要求1至11中任一项所述的方法,还包括将具有所叠置的增加物的显微镜样品的视图与从包含所述生物样品的切片的全切片扫描获得的样品的孤立的数字图像集成以生成所述样品的集成视图的步骤。


13.根据权利要求12所述的方法,还包括在所述样品的集成视图上突出显示所述样品视图的步骤。


14.根据权利要求12所述的方法,其中,所述显微镜还包括用于支撑和相对于所述目镜移动切片的机动载物台,并且其中,所述方法还包括在所述孤立的数字图像上指定区域并且移动所述机动载物台使得所指定的区域位于所述显微镜的视野中的步骤。


15.根据权利要求14所述的方法,还包括将与所指定的区域相关联的信息投射在所述孤立的数字图像上作为对所述样品的视图的增加物,其中,所述投射的信息可选地包括标签和/或注释。


16.根据权利要求1至15中任一项所述的方法,还包括通过网络从远程数据源下载机器学习模式识别器的附加集合的步骤。


17.根据权利要求1至15中任一项所述的方法,还包括:
接收指示所述显微镜的放大率的数据;以及
基于所接收的数据选择多个机器学习模式识别器中的机器学习模式识别器;
其中,所选择的机器学习模式识别器被用于从由所述相机捕获的图像中标识所述样品中的感兴趣区域。


18.一种帮助用户查看包含生物样品的切片的系统,包括:
显微镜,所述显微镜具有用于容纳包含生物样品的切片的载物台、至少一个物镜和目镜,
数字相机,所述数字相机被配置为捕获通过所述显微镜的目镜看到的样品的视图的数字图像,
计算单元,所述计算单元包括机器学习模式识别器,所述机器学习模式识别器被配置为从所述数字相机接收数字图像,其中,所述模式识别器被训练为标识当前放置在所述载物台上的类型的生物样品中的感兴趣区域,并且其中,所述模式识别器识别由所述相机捕获的数字图像上的感兴趣区域,并且其中,所述计算单元生成表示对通过所述显微镜的目镜看到的样品视图的增加物的数据,其中,所述增加物基于所述样品中的感兴趣区域;以及
耦合到所述目镜的一个或多个光学组件,所述一个或多个光学组件用于将所述增加物叠置在视野上;
其中,所述相机、计算单元和一个或多个光学组件被配置成使得当所述样品相对于显微镜光学器件被移动时,或者当显微镜的放大率或聚焦改变时,所述样品的新视图的新数字图像被所...

【专利技术属性】
技术研发人员:MC斯通普
申请(专利权)人:谷歌有限责任公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1