检测分布式计算系统中的欺诈性帐户使用技术方案

本文公开了用于在不访问与用户帐户相关联的用户内容的情况下检测欺诈性帐户使用的技术。在一个实施例中，一种方法包括：接收指示与计算服务的帐户有关的欺诈性帐户使用的报告，并且响应于所接收的报告，在不禁用对该帐户的访问的情况下禁止对与该帐户关联的任何内容项的访问。在不允许对内容项的访问的同时，收集与帐户或内容项有关的使用数据，并开发表示访问帐户或内容项的活动简档的模型。该方法还包括基于所开发的模型检测附加的欺诈性帐户使用，而不扫描附加的帐户中的内容项。

【技术实现步骤摘要】
【国外来华专利技术】检测分布式计算系统中的欺诈性帐户使用
技术介绍
诸如服务器、台式计算机、平板计算器和智能电话的计算设备越来越多地经由因特网或其他计算机网络彼此互连。互连允许用户容易地彼此通信和共享内容。例如，用户可以将照片、视频、文档或其他类型的内容上传和存储到基于云的存储服务，例如和并与朋友、家人或公众共享存储的内容。
技术实现思路
提供本
技术实现思路
是为了以简化的形式介绍一些概念，这些概念将在下面的具体实施方式中进一步描述。本
技术实现思路
不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。云或其他类型的计算服务提供商通常实现服务协议，该服务协议可以由于法律、政策、服务健康或其他考虑因素而限制对任何提供的计算服务的使用。例如，云存储服务的提供商可以施加服务协议，该服务协议禁止欺诈性地使用云存储服务来存储和/或共享某些类型的内容。此类禁止内容的示例可能包括儿童色情、仇恨言论、受版权保护的内容、煽动暴力的言论等。然而，这种禁止的内容可能难以检测。云存储服务的提供商可能决定不扫描任何存储的内容，以保护用户隐私或遵守当地法律。即使被检测到，这种欺诈性使用仍然存在。例如，一些服务提供商可以制定“通知和取消”方法。根据该方法，当服务提供商确定任何报告的内容确实是禁止的时，服务提供商可以取消或关闭托管禁止的内容的帐户。因此，其他用户不再可以访问禁止的内容。然而，通过将禁止的内容从一个帐户移动到另一个帐户，可以破坏这种技术。因此，只要一个欺诈性帐户关闭，另一个可以在其位置激活。所公开技术的若干实施例涉及一种用于在不扫描用户内容或以其他方式损害用户隐私的情况下检测计算服务的欺诈性使用的技术。这种计算服务的示例可以包括社交网络服务、云存储服务、视频托管服务、web托管服务或其他合适类型的服务。所公开的技术可以包括从用户、政府实体或其他合适的源接收禁止的内容的通知。例如，用户可以遇到例如在诸如Facebook的社交网络上共享的禁止的内容，并向服务提供商报告或标记禁止的内容和相关联的帐户。然后，服务提供商可以评估每个接收的报告并确定要采取什么措施。与“通知和取消”方法不同，根据所公开的技术的技术可以包括“破坏”报告的帐户中的数据，即，在不取消或关闭被报告的帐户的情况下使得被报告的帐户中的禁止的内容对其他用户不可用或者不可访问。该技术还可以包括在破坏帐户中的欺诈性内容之前和/或之后收集和存储与帐户的使用、访问、行为或其他特征有关的数据。这种数据收集可以继续，直到帐户上的活动停止或持续预定的一段时间为止。收集的数据示例可包括以下内容：·登录活动的IP地址(例如，前3个八位字节)；·创建帐户期间的IP地址(例如，前3个八位字节)；·在破坏帐户中的数据之前和之后尝试访问内容的所有共享用户的IP地址(例如，前3个八位字节)；·用于访问禁止的内容的设备类型和/或浏览器；·创建内容和/或帐户的设备类型和/或浏览器；·托管禁止的内容的帐户名称；·访问过禁止的内容的帐户；·帐户的文件夹结构(例如，数字、嵌套模式等)；·帐户中的文件结构；·文件数量、文件类型(例如文件扩展名)、文件大小或帐户中禁止的内容的其他特征；·共享帐户相对未共享帐户的百分比；·嵌入的禁止的内容的元数据(例如，使用的相机类型、分辨率或图像/视频尺寸)；·帐户年龄；·上传和/或共享的禁止的内容的年龄；·全球共享相对与其他帐户/用户明确共享；·使用帐户上的其他特征或帐户上缺少其他特征(例如，仅限单个设备，标签，额外文件夹等)；·免费或高级帐户；或者·帐户所有者尝试禁用或其他用户停止访问内容之前多久。上述示例数据可以在用户同意的情况下匿名或非匿名收集。例如，在帐户注册期间，可以提示用户参与或选择退出数据收集过程。在同意收集此类数据时，用户可以选择匿名或非匿名发送信息。经用户同意，然后可以收集这些数据。当收集的使用数据不是匿名时，可以匿名化收集的数据以移除所有个人标识信息以保护用户的个人隐私。例如，通过移除前两个或三个八位字节后的所有数字，可以匿名化上面列出的IP地址。在其他实施例中，还可以以其他合适的方式聚合或匿名化收集的数据，以便保护用户隐私。然后，该技术可以包括分析与被报告的帐户和其他被报告的帐户相关联的收集的数据，以确定这些帐户中的一个或多个共性。在某些实施例中，可以对收集的数据执行统计分析以确定被报告的帐户的共享特征的分布或概率。作为一个示例，在从Android设备上载内容之后，在85％的时间可以立即与所有人共享煽动暴力的言论。在另一示例中，在90％的时间可以经由对等共享服务而共享受版权保护的内容。在其他实施例中，还可以应用基于图形的聚类、模式袋或其他合适的技术来确定帐户之间的一个或多个共性。基于所确定的一个或多个共性，该技术然后可以包括构建帐户行为的模型，该帐户行为模型指示具有某些置信水平的欺诈性使用。例如，该模型可以指示在从具有特定IP地址范围的Android设备上载内容之后立即与所有人共享的帐户具有99％的几率包含煽动暴力的言论。还可以经由机器学习、手动更新或其他合适技术基于与帐户相关的新接收的指示和数据来连续或周期性地更新模型。该技术还可以包括基于所构建的模型来阻止或以其他方式禁用欺诈性帐户使用。在某些实施例中，当用户尝试激活帐户或共享帐户中的内容时，该技术可以包括将帐户活动特征与模型进行比较。如果帐户活动特征与模型匹配或基本匹配，则该技术包括破坏帐户中的数据，或以其他方式阻止帐户中的内容的自动共享。在其他实施例中，还可以将帐户置于试用状态，其中可以从帐户限制共享量直到帐户已存在阈值时段为止。受限共享可以基于每日共享配额、未共享的帐户/用户的百分比等。在其他实施例中，该技术还可以包括在被报告的帐户之间开发社交图并确定这些帐户如何彼此交互的模式。基于所确定的模式，该技术可以包括甚至在尝试从这些帐户共享内容之前阻止附加的帐户。在进一步的实施例中，该技术可以包括暂停可疑帐户并允许在成功完成某些用户验证程序后重新激活帐户。所公开的技术的若干实施例可以检测和中断计算服务的欺诈性帐户使用而不损害用户隐私。通过维持与欺诈性帐户使用相关联的被报告的帐户可访问，所公开技术的若干实施例可以收集有价值地洞察这种欺诈性帐户使用在计算系统中的行为的数据。基于所收集的数据，可以开发表示欺诈性帐户使用的行为特征的模型，并且该模型用于自动阻止进一步的欺诈性帐户使用。附图说明图1是示出根据所公开技术的实施例的实现对欺诈性帐户使用的检测的分布式计算系统的示意图。图2A-2D是根据所公开技术的实施例的在检测欺诈性帐户使用的某些阶段期间图1中的分布式计算系统的框图。图3A和3B是示出根据所公开技术的实施例的在计算系统中检测欺诈性帐户使用的过程的流程图。图4是根据所公开技术的实施例的使用数据的数据结构的示例。图5是适用于图1中的分布式计算系统的某些组件的计算设备。具体实施方式下面描述用于检测计算系统中的欺诈性帐户使用的系统、设备、组件、模块、例程、数据结构和过程的某些实施例。在以下描述中，包括组件的具体细节以提供对所公开技术的某些实施例的透彻理解。相关领域的技术人员还将理解，该技术可以具有另外的实施例。该技术也可以在没有下面参考图1-5描述的实施例的若干细节的情况下实施。如这里所使用的，本文档来自技高网...

【技术保护点】
1.一种由分布式计算系统中的计算设备执行的方法，所述分布式计算系统具有通过计算机网络互连以提供计算服务的多个服务器，所述方法包括：经由所述计算机网络接收表示指示与所述计算服务的帐户有关的欺诈性帐户使用的报告的数据；以及响应于接收的数据表示指示发生欺诈性帐户使用的报告，在不禁用对所述帐户的访问的情况下禁止对与所述帐户相关联的任何内容项的访问；在禁止对所述内容项的访问的同时，收集与所述帐户有关的使用数据或与所述帐户相关联的内容项；至少部分地基于收集的使用数据，开发表示访问所述帐户或所述内容项的活动简档的模型；以及在不扫描所述计算服务的附加帐户中的内容项的情况下，基于开发的模型检测所述附加帐户与欺诈性帐户使用有关。

【技术特征摘要】
【国外来华专利技术】2016.10.28 US 62/414,369;2017.03.09 US 15/454,5681.一种由分布式计算系统中的计算设备执行的方法，所述分布式计算系统具有通过计算机网络互连以提供计算服务的多个服务器，所述方法包括：经由所述计算机网络接收表示指示与所述计算服务的帐户有关的欺诈性帐户使用的报告的数据；以及响应于接收的数据表示指示发生欺诈性帐户使用的报告，在不禁用对所述帐户的访问的情况下禁止对与所述帐户相关联的任何内容项的访问；在禁止对所述内容项的访问的同时，收集与所述帐户有关的使用数据或与所述帐户相关联的内容项；至少部分地基于收集的使用数据，开发表示访问所述帐户或所述内容项的活动简档的模型；以及在不扫描所述计算服务的附加帐户中的内容项的情况下，基于开发的模型检测所述附加帐户与欺诈性帐户使用有关。2.如权利要求1所述的方法，其中，所述收集的使用数据包括以下参数中的一个或多个：登录所述帐户的任何用户的IP地址；创建所述帐户期间的IP地址；在禁止对所述帐户中的任何内容的访问之前或之后尝试访问所述内容项的所有用户的一个或多个IP地址；用于访问与所述帐户相关联的内容项的设备类型或浏览器；创建所述内容项或所述帐户的设备类型或浏览器；托管所述内容项的帐户名称；已访问所述内容项中的一个或多个的一个或多个帐户；所述帐户的文件夹结构；所述帐户中的文件结构；所述帐户中的内容项的文件数量、文件类型、文件大小；帐户共享相对未共享的百分比；内容的嵌入的元数据；所述帐户的年龄；内容上传或共享的年龄；或者所述内容项是全局共享还是明确与其他帐户或用户共享的指示。3.如权利要求2所述的方法，其中，开发所述模型包括对所述收集的使用数据应用统计分析，以当所述收集的使用数据包含所述参数中的一个或多个时识别所述帐户与欺诈性帐户使用相关联的概率。4.如权利要求2所述的方法，其中：开发所述模型包括对所述收集的使用数据应用统计分析，以当所述收集的使用数据包含所述参数中的一个或多个时识别所述帐户与欺诈性帐户使用相关联的概率；并且检测所述附加帐户包括：当所述附加帐户中的一个的收集的使用数据也包含所述参数中的一个或多个时，为所述附加帐户中的所述一个分配相同的概率；确定分配的概率是否超过阈值；并且响应于确定所述分配的概率超过阈值，指示所述附加帐户中的所述一个很可能与欺诈性帐户使用相关联。5.如权利要求4所述的方法，还包括：在不禁用对所述附加帐户中的所述一个的...

【专利技术属性】
技术研发人员：J·罗德里格斯，
申请(专利权)人：微软技术许可有限责任公司，
类型：发明
国别省市：美国,US