当前位置: 首页 > 专利查询>天津大学专利>正文

面向服务器无感知计算场景的函数间数据直接传递方法技术

技术编号:40967129 阅读:23 留言:0更新日期:2024-04-18 20:47
本发明专利技术公开了面向服务器无感知计算场景的函数间数据直接传递方法,包括步骤:用作前端API端点的网关接收外部函数请求,执行负载平衡,并将其转发到节点内引擎;节点内引擎分派请求给函数,并根据QPS决定通知该函数是否和下游函数之间建立DTCs;若函数间不能建立DTCs,则同节点函数间和跨节点函数间分别采用IPC和Fabric传输方式数据传输;若函数间能建立DTCs,则同节点函数间和跨节点函数间分别采用DTC_over_IPC和DTC_over_Fabric传输方式建立有状态连接,实现函数间数据直接传递。本发明专利技术通过在频繁调用的函数间建立有状态连接,在数据传输过程中解耦控制流与数据流,不仅可实现低延迟、直接数据传输,并且可极大降低控制面的开销。

【技术实现步骤摘要】

本专利技术属于云计算,涉及面向服务器无感知计算场景的函数间数据直接传递方法


技术介绍

1、近年来,由于具备对资源和编程的高度抽象、按需使用计费以及动态扩容等优势,服务器无感知计算成为日益流行的云计算开发范式。为实现复杂的实际应用,用户通常以有向无环图的形式将一系列细粒度函数编排成工作流,工作流中定义了函数的顺序以及彼此间的数据依赖。

2、当前主流的服务器无感知计算平台将函数部署在单独的沙箱执行环境之中,当请求到达后,由于服务器无感知计算的无状态特性,位置互不感知的函数之间无法建立点对点的直接通信,只能通过第三方转发的方式实现函数间中间数据传输。在这种方式下,这些无状态函数通过平台的控制器以及云存储协同配合完成数据传递。在这一过程中,数据流与控制流耦合,交替执行,进而导致不可忽视的通信开销。例如,将一个真实的web应用——media service托管到当前平台后,由于第三方转发引起的中间数据通信延迟可以占到单次请求服务总延迟的77.6%,这导致请求服务总延迟超过了100ms,违反了服务水平目标(slo)。因此,如何解决当前平台函数间数据传递效本文档来自技高网...

【技术保护点】

1.面向服务器无感知计算场景的函数间数据直接传递方法,其特征在于:包括以下步骤:

2.根据权利要求1所述的面向服务器无感知计算场景的函数间数据直接传递方法,其特征在于:步骤S2中,所述节点内引擎分派请求给上游函数,并根据“建立通道后所产生的收益是否足以覆盖建立开销”决定,通知所述上游函数是否和下游函数之间建立DTCs,具体包括以下步骤:

3.根据权利要求1所述的面向服务器无感知计算场景的函数间数据直接传递方法,其特征在于:所述DTC_over_IPC传输方式,通过使用Linux FIFO建立全双工连接,允许节点内的函数之间进行直接连接,但直连通道的初始建立需要在节...

【技术特征摘要】

1.面向服务器无感知计算场景的函数间数据直接传递方法,其特征在于:包括以下步骤:

2.根据权利要求1所述的面向服务器无感知计算场景的函数间数据直接传递方法,其特征在于:步骤s2中,所述节点内引擎分派请求给上游函数,并根据“建立通道后所产生的收益是否足以覆盖建立开销”决定,通知所述上游函数是否和下游函数之间建立dtcs,具体包括以下步骤:

3.根据权利要求1所述的面向服务器无感知计算场景的函数间数据直接传递方法,其特征在于:所述dtc_over_ipc传输方式,通过使用linux fifo建立全双工连接,允许节点内的函数之间进行直接连接,但直连通道的初始建立需要在节点内进行一次ipc往返以在函数间交换握手信息。

4.根据权利要求1所述的面向服务器无感知计算场景的函数间数据直接传递方法,其特...

【专利技术属性】
技术研发人员:赵来平刘国威曲雯毓段兆麟苏志远亓开元
申请(专利权)人:天津大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1