一种人工智能伦理机制实现方法技术

本发明专利技术公开公开一种人工智能伦理机制实现方法，本方法利用客服人员连续工作条件下的疲劳程度变化规律和客户在排队等待过程中的焦虑程度变化规律，不一味增加对工作人员的行为约束，实现尽可能降低客户焦虑强度的条件下，减轻客服人员的疲劳程度，同时反馈机制能够逐步提升服务人员的自觉性，提升服务质量。

A method to realize the ethical mechanism of artificial intelligence

【技术实现步骤摘要】
一种人工智能伦理机制实现方法
本专利技术涉及一种人工智能
，具体是一种人工智能伦理机制实现方法和装置。
技术介绍
随着人工智能技术的发展，机器视觉、语音识别、自然语言理解等智能化技术逐步被用于监督、规范从业人员的行为。很多场所都应用了智能化设备及装置，实现了24小时监督监控，使从业人员的工作行为全时段处于监控公开的状态。基于人工智能的监督监控设备几乎能够及时发现从业人员的所有违规行为，包括离岗、瞌睡、聊天、看手机、吃零食、打架斗殴等，有效改善了管理松懈的现象。最近几年，这类技术有被过度应用的趋势。例如服务大厅利用智能化设备监督工作人员工作情况，在工作过程中稍有不规范行为即被警告或惩罚，导致工作人员对这类技术的应用有严重的抗拒心理，认为这类应用对工作人员工作行为约束过分严厉，使从业人员精神压抑、工作体验缺乏人性化，人工智能的这类应用有悖伦理规范。目前学术界对于人工智能伦理问题的讨论和研究正处于起步阶段，相关法律法规也相对缺失。市场上相关智能化产品也都以充分满足管理者监督的需求为目标，没有充分考虑被监督者个人的心理感受和个人隐私等因素。相关领域专利技术专利也没有考虑人工智能伦理问题。
技术实现思路
针对现有技术存在的缺陷，本专利技术提供一种人工智能伦理机制实现装置和方法，为人工智能应用过程中存在的伦理问题提供一种解决途径。为了解决所述技术问题，本专利技术采用的技术方案是：一种人工智能伦理机制实现方法，包括以下步骤：S01）、设定伦理机制实现相关参数，包括工作周期P、时间片数量T、任务队列最大长度Q、完成任务最大数量D、违规次数统计数W、投诉次数统计数B、统计数据遗忘比例因子R和报警阈值K，工作周期P被分割成T个时间片，每个时间片长度为P/T，不同的时间片、任务队列长度、完成任务数量对应不同的违规次数统计数W、投诉次数统计数B；S02）、接收刚结束时间片的统计数据X(t,q,d,w,b)，其中t是时间片编号，q是时间片开始时任务队列长度，d是时间片内完成的任务量，w是时间片内违规次数，b是时间片内投诉次数，其中1≤t≤T，0≤q≤Q，0≤d≤D；S03）、根据步骤S02接收的t、q、d确定它们对应的违规次数统计数W、投诉次数统计数B，然后对违规次数统计数W、投诉次数统计数B做激活处理，将它们变换至(0，1)区间；S04）、计算输出警戒水平level=Sigmoid(lw+lb–K)，lw、lb分别为违规次数统计数W、投诉次数统计数B激活处理后的结果，输出警戒水平一方面用于输出显示，另一方面用于计算报警判断值；S05）、结合违规事件、警戒水平和报警阈值计算报警判断值，计算公式为：warning=Sigmoid(e+level–K)，其中warning为报警判断值，e为违规事件分值、level为警戒水平，K为报警阈值；S06）、如果报警判断warning>0.5则输出报警信号。进一步的，所有违规次数统计数W、投诉次数统计数B的初始值均设为浮点数1.0，然后根据时间片统计数据X(t,q,d,w,b)进行更新，更新公式为：Wafter=Wbefore*R+w*(1-R)，Bafter=Bbefore*R+b*(1-R)，其中Wafter、Bafter表示更新后的违规次数统计数、投诉次数统计数，Wbefore、Bbefore表示更新前的违规次数统计数、投诉次数统计数。进一步的，步骤S03中，利用Sigmoid函数对违规次数统计数W、投诉次数统计数B做激活处理，计算公式为：lw=Sigmoid(W–0.5)，lb=Sigmoid(B–0.5)，进一步的，lw、lb分别为W违规次数统计数W、投诉次数统计数B激活处理后的结果。进一步的，P=8小时，T=16，Q=100，Q=D，R=0.9，K=0.5。进一步的，不同违规事件对应的违规事件分值e不同，0≤e≤1。进一步的，步骤S04中，显示警戒水平的同时显示报警阈值。本专利技术还公开了一种人工智能伦理机制实现装置，包括系统管理接口、区间数据输入接口、违规事件输入接口、违规输出报警接口、区间数据更新单元、区间累计数据存储单元、区间累计数据读取单元、警示逻辑单元、警戒水平显示接口和报警逻辑单元，系统管理接口与区间累计数据存储单元相连，区间数据输入接口一路连接至区间数据更新单元，另一路连接至区间累计数据读取单元，区间数据更新单元又通过区间累计数据存储单元连接至区间累计读取单元，区间累计读取单元的输出端连接至警示逻辑单元，警示逻辑单元的输出端一路连接至警戒水平显示接口，另一路连接至报警逻辑单元，报警逻辑单元的输入端又连接违规事件输入接口，输出端连接违规输出报警接口。进一步的，区间累计读取单元的输出端又回连至区间数据更新单元。本专利技术的有益效果：本专利技术利用客服人员连续工作条件下的疲劳程度变化规律和客户在排队等待过程中的焦虑程度变化规律，不一味增加对工作人员的行为约束，实现尽可能降低客户焦虑强度的条件下，减轻客服人员的疲劳程度，同时反馈机制能够逐步提升服务人员的自觉性，提升服务质量。附图说明图1为人工智能伦理机制实现装置的原理框图；图中：A、系统管理接口，B、区间数据输入接口，C、违规事件输入接口，D、违规输出报警接口，E、区间数据更新单元，F、区间累计数据存储单元，G、区间累计数据读取单元，H、警示逻辑单元，M、警戒水平显示接口，Z、报警逻辑单元。具体实施方式下面结合附图和具体实施例对本专利技术作进一步的说明。实施例1本实施例公开一种人工智能伦理机制实现方法，包括以下步骤：S01）、设定伦理机制实现相关参数，包括工作周期P、时间片数量T、任务队列最大长度Q、完成任务最大数量D、违规次数统计数W、投诉次数统计数B、统计数据遗忘比例因子R和报警阈值K，工作周期P被分割成T个时间片，每个时间片长度为P/T，不同的时间片、任务队列长度、完成任务数量对应不同的违规次数统计数W、投诉次数统计数B；本实施例中，设置P=8小时，T=16，Q=100，Q=D，R=0.9，K=0.5，任务队列实际长度超过Q时按照Q处理，实际完成任务数量超过D时按照D处理。S02）、接收刚结束时间片的统计数据X(t,q,d,w,b)，其中t是时间片编号，q是时间片开始时任务队列长度，d是时间片内完成的任务量，w是时间片内违规次数，b是时间片内投诉次数，其中1≤t≤T，0≤q≤Q，0≤d≤D；S03）、根据步骤S02接收的t、q、d确定它们对应的违规次数统计数W、投诉次数统计数B，然后使用Sigmoid函数对违规次数统计数W、投诉次数统计数B做激活处理，将它们变换至(0，1)区间；激活公式为：lw=Sigmoid(W–0.5)，lb=Sigmoid(B–0.5)，其中，Sigmoid(x)=1/(1+Exp(-x))，lw、lb分别为W违规次数本文档来自技高网...

【技术保护点】
1.一种人工智能伦理机制实现方法，其特征在于：包括以下步骤：/nS01）、设定伦理机制实现相关参数，包括工作周期P、时间片数量T、任务队列最大长度Q、完成任务最大数量D、违规次数统计数W、投诉次数统计数B、统计数据遗忘比例因子R和报警阈值K，工作周期P被分割成T个时间片，每个时间片长度为P / T ，不同的时间片、任务队列长度、完成任务数量对应不同的违规次数统计数W、投诉次数统计数B；/nS02）、接收刚结束时间片的统计数据X(t, q, d, w, b)，其中t是时间片编号，q是时间片开始时任务队列长度，d是时间片内完成的任务量，w是时间片内违规次数，b是时间片内投诉次数，其中1≤t≤T，0≤q≤Q，0≤d≤D；/nS03）、根据步骤S02接收的t、q、d确定它们对应的违规次数统计数W、投诉次数统计数B，然后对违规次数统计数W、投诉次数统计数B做激活处理，将它们变换至(0，1)区间；/nS04）、计算输出警戒水平level = Sigmoid(lw + lb – K)，lw、lb分别为违规次数统计数W、投诉次数统计数B激活处理后的结果，输出警戒水平一方面用于输出显示，另一方面用于计算报警判断值；/nS05）、结合违规事件、警戒水平和报警阈值计算报警判断值，计算公式为：warning =Sigmoid(e + level – K)，其中warning为报警判断值，e为违规事件分值、level为警戒水平，K为报警阈值；/nS06）、如果报警判断warning > 0.5，则输出报警信号。/n...

【技术特征摘要】
1.一种人工智能伦理机制实现方法，其特征在于：包括以下步骤：
S01）、设定伦理机制实现相关参数，包括工作周期P、时间片数量T、任务队列最大长度Q、完成任务最大数量D、违规次数统计数W、投诉次数统计数B、统计数据遗忘比例因子R和报警阈值K，工作周期P被分割成T个时间片，每个时间片长度为P/T，不同的时间片、任务队列长度、完成任务数量对应不同的违规次数统计数W、投诉次数统计数B；
S02）、接收刚结束时间片的统计数据X(t,q,d,w,b)，其中t是时间片编号，q是时间片开始时任务队列长度，d是时间片内完成的任务量，w是时间片内违规次数，b是时间片内投诉次数，其中1≤t≤T，0≤q≤Q，0≤d≤D；
S03）、根据步骤S02接收的t、q、d确定它们对应的违规次数统计数W、投诉次数统计数B，然后对违规次数统计数W、投诉次数统计数B做激活处理，将它们变换至(0，1)区间；
S04）、计算输出警戒水平level=Sigmoid(lw+lb–K)，lw、lb分别为违规次数统计数W、投诉次数统计数B激活处理后的结果，输出警戒水平一方面用于输出显示，另一方面用于计算报警判断值；
S05）、结合违规事件、警戒水平和报警阈值计算报警判断值，计算公式为：warning=Sigmoid(e+level–K)，其中warning为报警判断值，e为违规事件分值、level为警戒水平，K为报警阈值；
S06）、如果报警判断warning>0.5，则输出报警信号。


2.根据权利要求1所述的人工智能伦理机制实现方法，其特征在于：所有违规次数统计数W、投诉次数统计数B的初始值均设为浮点数1.0，然后根据时间片统计数据X(t,q,d,w,b)进行更新，更新公式为：
Wafter=Wbefore*R+w*(1-R)，
Bafter=Bbefore*R+b*(1-R)，
其中Wafter...

【专利技术属性】
技术研发人员：许野平，井焜，朱爱红，
申请(专利权)人：神思电子技术股份有限公司，
类型：发明
国别省市：山东;37