一种在线心理咨询中风险控制的方法技术

本发明专利技术公开了一种在线心理咨询中风险控制的方法，包括本地对话交互设备1、服务器端模块2、远程在线咨询单元3、心理状态和症状对应库4和报警模块5；所述本地对话交互设备1包括本地处理设备6、音频传感设备7、视频传感设备8、自动方言选择开关9、敏感词和语音库10、音频输出模块11和视频传输模块12；其中，所述本地对话交互设备1和服务器端模块2通过通信信号连接，所述服务器端模块2分别和远程在线咨询单元3、心理状态和症状对应库4和报警模块5通信信号连接；本发明专利技术对所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤，并对特殊的数据进行人工干预，以免意外发生。同时，利用方言识别方式，更好地进行智能语音识别，从而提升本申请的咨询的准确性。

【技术实现步骤摘要】
一种在线心理咨询中风险控制的方法
本专利技术涉及在线心理咨询
，具体为一种在线心理咨询中风险控制的方法。
技术介绍
随着社会的进步和科技的发展，在线服务已经在我们的生活中越来越普及化，越来越多的人喜欢网络给我们带来的便捷，人们希望能通过网络来给我们节省大量的时间和金钱，很多时候我们也不希望自己的某些隐私让周围的人知道，因此便有了在线心理咨询，但即使是进行在线心理咨询，也会存在很多隐患，比如说在线对话或直播的双方是否目的真实、一方是否能够进行有效的疏导、另一方是否有所好转等。但在现有技术中，基本只是单独针对文本内容或图片内容单独进行风险分析或监测。另外一方面，很多心理隐私，人民并不希望被其他人知道，或者可以告诉陌生人，但是不希望别人知道是自己述说的，因此，现有技术中也存在变音软件，可以改变人说话的声音，从而使得病人的声音传递到医生后改变成另外一种音调，这样在一定程度上可以防止病人被医生识别出来，从而一定程度上保护病人的隐身，打消病人的顾虑，但是变音的方式属于比较低端的声音加密方法，很容易被破解和还原，这样病人的隐身依然容易被暴露。另外一方面，现有技术中也存在将声音转变为文字的相关技术，如ASR(AutomaticSpeechRecognition，全称：自动语音识别技术)，它便是一种将人的语音转换为文本的技术。以及NLP(NaturalLanguageProcessing，缩写作NLP，全称自然语言处理)是人工智能和语言学领域的分支学科。此领域探讨如何处理及运用自然语言；自然语言处理包括多方面和步骤，基本有认知、理解、生成等部分。自然语言认知和理解是让电脑把输入的语言变成有意思的符号和关系，然后根据目的再处理。自然语言生成系统则是把计算机数据转化为自然语言。这样可以使得病人的语音以文字的形式传递给病人，医患之间只是进行文字的交流，从而一定程度杜绝了病人的声音被医生识别出来的可能性。同时，现有专利技术仅仅是对在线双方的已经发生的事情进行监测分析，只能监测到已经发生的风险问题，并不会对当前在线双方情绪进行监测，存在很大的安全隐患，这样容易导致判断不准确。另外一方面，我国领土辽阔，南北、东西的说话方言众多，包括北方方言、吴方言、湘方言、赣方言、客家方言、闽北方言、闽南方言和粤方言共八大方言语系，不同的方言体系的语音和表达差别巨大，这为计算机智能识别语音存在困难，容易导致语音识别不准，为智能化在线心理咨询带来困难；而且，即使在同一个方言体系中，也存在三里不同调、十里不同音、百里不同俗的特点，因此，对我国这种方言众多的国家来说，采用智能化在线咨询，必然存在方言和音调的差别导致语音识别错误，最终导致在线心理咨询存在众多缺陷，由于不能正确识别语音，最终导致在线心理咨询不能正常执行，或者出现心理咨询未能正常反馈心理咨询者大多心理。面对上述技术问题，希望提供一种利用先进计算机技术的在线心理咨询方法，通过对在线行为数据进行分析，通过实时跟踪分析用户心理状态，进行在线服务相关风险监测。除了基础的内容安全风险控制，还会针对在线人员的情绪阈值以及情绪走势进行相关预判，提前告警，其能够取代不同传统的利用心理医生直接诊断的模式，或者至少不直接面对心理医生，而产生怯场而隐瞒真实心理，而导致心理咨询不能有效进行的有效执行的模式；实现完全智能化的心理咨询的方式，提供更好有效和快速的心理在线咨询方式，并且，针对我国地区辽阔，方言多的特点，提供一种能够识别方言的在线心理咨询方式。但到目前为止，现有技术中并无有效办法解决上述技术难题。而随着人工智能、神经网络技术和自我学习技术的发展，人们寄往于借助这些新技术，解决上述技术问题，使其能提供帮助在线心理咨询的更加准确，可以适合更广泛的地区。
技术实现思路
针对上述技术问题，本专利技术的目的在于通过实现机器人对话系统可以实现与用户进行文本聊天交流、语音实时聊天、视频实时聊天的心理状态检测及正向情绪引导。方便用户实现远程云端的心理疏导，通过Al+心理诊断机制完成对用户的心理状态检测及定制化诊疗，以解决上述
技术介绍
中提出的问题。为实现上述目的，本专利技术提供如下技术方案：一种在线心理咨询中风险控制的方法，包括本地对话交互设备1、服务器端模块2、远程在线咨询单元3、心理状态和症状对应库4和报警模块5；所述本地对话交互设备1包括本地处理设备6、音频传感设备7、视频传感设备8、自动方言选择开关9、敏感词和语音库10、音频输出模块11和视频传输模块12；其中，所述本地对话交互设备1和服务器端模块2通过通信信号连接，所述服务器端模块2分别和远程在线咨询单元3、心理状态和症状对应库4和报警模块5通信信号连接；所述本地处理设备6分别和所述音频传感设备7、所述视频传感设备8、所述自动方言选择开关9、所述敏感词和语音库10、所音频输出模块11和所述视频传输模块12通信连接；咨询人员需要进行心理咨询和引导时，执行如下步骤：S1.心理咨询者通过手动方式选择方言识别模式，实现本地处理设备自动调整到识别某地的方言；同时，也可以通过自动方言选择开关进行识别，并在进行方言识别不正确的时候，可以通过手动方式选择合适的方言模式；S2.本地的音频传感设备2和视频传感设备3获取音频和视频的信息，本地处理设备在线信息数据获取与拆分以及相关处理，分别获取语音、图像、文本相关信息，其中语音信息会通过NLP自然语言处理进行相关音频转文字操作，转换之后的文本与聊天相关检测方式相同；S101.进行在线活动数据读取，收集在线服务过程中产生的相关视频音频及文字数据；S102.对数据进行相关分类，所述本地处理设备6利用敏感词和语音库10中的存储的敏感词和语音和所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤；S103.对数据的结果进行分析并进行相关警告反馈；S104.对特殊的数据进行人工干预，以免意外发生；S2.拆分并处理后的数据进行相关安全监测，并记录每句话对应情绪评分；具体执行包括如下步骤：S201在线数据流实时读取，并将数据进行分类，分别分为音频数据、文字数据(弹幕)、视频数据；S202针对音频数据，首先我们需要进行VAD(静音抑制)处理，将音频进行合理切割，去除静音部分，去除静音后的音频数据将会时长变短，因为静音部分会被剔除；剔除静音后的音频再通过ASR(自动语音识别技术)转为对应的文字数据；S203音频数据需要进行关键帧提取，提取的过程中需要注意几点：1.关键帧的分布与原序列一致；2.关键帧的信息冗余尽可能的少；3.关键帧的个数应该尽可能的少；4.关键帧应该能够很容易的识别出相关信息(这样有助于判断)。关键帧的提取结果产生的就是图片数据；S204针对文字数据，需要分别同时进行两个监测，一个是文字风险监测，一个是情绪监控；S205针对图片数据，主要是进行图片风险监测；S206情绪监测则是通过相关模型进行心情得分积分计算，记录相关分值，主要针对并且将当前情绪得分和时间轴进行关联；S207文字风险监测则是将本文档来自技高网...

【技术保护点】
1.一种在线心理咨询中风险控制的方法，包括本地对话交互设备(1)、服务器端模块(2)、远程在线咨询单元(3)、心理状态和症状对应库(4)和报警模块(5)；所述本地对话交互设备(1)包括本地处理设备(6)、音频传感设备(7)、视频传感设备(8)、自动方言选择开关(9)、敏感词和语音库(10)、音频输出模块(11)和视频传输模块(12)；其中，所述本地对话交互设备(1)和服务器端模块(2)通过通信信号连接，所述服务器端模块(2)分别和远程在线咨询单元(3)、心理状态和症状对应库(4)和报警模块(5)通信信号连接；/n所述本地处理设备(6)分别和所述音频传感设备(7)、所述视频传感设备(8)、所述自动方言选择开关(9)、所述敏感词和语音库(10)、所音频输出模块(11)和所述视频传输模块(12)通信连接；咨询人员需要进行心理咨询和引导时，执行如下步骤：/nS1.心理咨询者通过手动方式选择方言识别模式，实现本地处理设备自动调整到识别某地的方言；同时，也可以通过自动方言选择开关进行识别，并在进行方言识别不正确的时候，可以通过手动方式选择合适的方言模式；/nS2.本地的音频传感设备(2)和视频传感设备(3)获取音频和视频的信息，所述本地处理设备在线信息数据获取与拆分以及相关处理，分别获取语音、图像、文本相关信息，其中语音信息会通过NLP自然语言处理进行相关音频转文字操作，转换之后的文本与聊天相关检测方式相同；/nS101.进行在线活动数据读取，收集在线服务过程中产生的相关视频音频及文字数据；/nS102.对数据进行相关分类，所述本地处理设备6利用敏感词和语音库10中的存储的敏感词和语音和所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤；/nS103.对数据的结果进行分析并进行相关警告反馈；/nS104.对特殊的数据进行人工干预，以免意外发生；/nS2.拆分并处理后的数据进行相关安全监测，并记录每句话对应情绪评分；S201在线数据流实时读取，并将数据进行分类，分别分为音频数据、文字数据、视频数据；/nS202针对音频数据，首先我们需要进行VAD处理，将音频进行合理切割，去除静音部分，去除静音后的音频数据将会时长变短，因为静音部分会被剔除；剔除静音后的音频再通过ASR转为对应的文字数据；/nS203音频数据需要进行关键帧提取；/nS204针对文字数据，需要分别同时进行两个监测，一个是文字风险监测，一个是情绪监控；/nS205针对图片数据，主要是进行图片风险监测；/nS206情绪监测则是通过相关模型进行心情得分积分计算，记录相关分值，主要针对并且将当前情绪得分和时间轴进行关联；/nS207文字风险监测则是将音频数据转化后的文字、弹幕文字、以及聊天文字通过NLP(自然语言处理)进行语义识别，区分文字内容中是否包含违规信息，违规内容可涉及：正常、涉政、色情、违法、谩骂、暴恐、广告、宗教、迷信、诈骗方向；其中正常则是监测无症状；/nS208图片风险监测则是对图片内容进行鉴别，通过分析图片中是否包含非法或不健康内容进行风险监测；/nS209记录情绪走势，就是根据情绪监测得到的不同情绪或整体情绪的情绪得分进行情绪数据分析，如果用户情绪持续下降或者一直处于低谷，则当前用户情绪就初一中很危险的状态，需要立即对当前实施服务进行接手管制措施，采取快速有效的疏导手段对问题用户进行正确的疏导；/nS210验证监测是否通过就是根据之前得到的情绪走势、文字风险监测以及图片风险监测进行综合评估分析去判断当前监测是否通过；/nS211如果不通过，则根据严重程度进行相关预警或相关人工干预。以及对无辜用户进行正确的开通疏导，及时挽回相关损失，防止悲剧发生，提高用户体验，拉黑或追究相关人员责任；/nS212如果监测通过，则说明当前在线服务状态正常，当前服务可以正常进行下去；/nS3.首先将S2中安全监测结果中疑似数据进行上报并告警，然后对相关情绪频分进行分析，当情绪走势持续低落并达到相关阈值后，进行上报并告警。并进行相关人工干预。/n...

【技术特征摘要】
1.一种在线心理咨询中风险控制的方法，包括本地对话交互设备(1)、服务器端模块(2)、远程在线咨询单元(3)、心理状态和症状对应库(4)和报警模块(5)；所述本地对话交互设备(1)包括本地处理设备(6)、音频传感设备(7)、视频传感设备(8)、自动方言选择开关(9)、敏感词和语音库(10)、音频输出模块(11)和视频传输模块(12)；其中，所述本地对话交互设备(1)和服务器端模块(2)通过通信信号连接，所述服务器端模块(2)分别和远程在线咨询单元(3)、心理状态和症状对应库(4)和报警模块(5)通信信号连接；
所述本地处理设备(6)分别和所述音频传感设备(7)、所述视频传感设备(8)、所述自动方言选择开关(9)、所述敏感词和语音库(10)、所音频输出模块(11)和所述视频传输模块(12)通信连接；咨询人员需要进行心理咨询和引导时，执行如下步骤：
S1.心理咨询者通过手动方式选择方言识别模式，实现本地处理设备自动调整到识别某地的方言；同时，也可以通过自动方言选择开关进行识别，并在进行方言识别不正确的时候，可以通过手动方式选择合适的方言模式；
S2.本地的音频传感设备(2)和视频传感设备(3)获取音频和视频的信息，所述本地处理设备在线信息数据获取与拆分以及相关处理，分别获取语音、图像、文本相关信息，其中语音信息会通过NLP自然语言处理进行相关音频转文字操作，转换之后的文本与聊天相关检测方式相同；
S101.进行在线活动数据读取，收集在线服务过程中产生的相关视频音频及文字数据；
S102.对数据进行相关分类，所述本地处理设备6利用敏感词和语音库10中的存储的敏感词和语音和所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤；
S103.对数据的结果进行分析并进行相关警告反馈；
S104.对特殊的数据进行人工干预，以免意外发生；
S2.拆分并处理后的数据进行相关安全监测，并记录每句话对应情绪评分；S201在线数据流实时读取，并将数据进行分类，分别分为音频数据、文字数据、视频数据；
S202针对音频数据，首先我们需要进行VAD处理，将音频进行合理切割，去除静音部分，去除静音后的音频数据将会时长变短，因为静音部分会被剔除；剔除静音后的音频再通过ASR转为对应的文字数据；
S203音频数据需要进行关键帧提取；
S204针对文字数据，需要分别同时进行两个监测，一个是文字风险监测，一个是情绪监控；
S205针对图片数据，主要是进行图片风险监测；
S206情绪监测则是通过相关模型进行心情得分积分计算，记录相关分值，主要针对并且将当前情绪得分和时间轴进行关联；
S207文字风险监测则是将音频数据转化后的文字、弹幕文字、以及聊天文字通过NLP(自然语言处理)进行语义识别，区分文字内容中是否包含违规信息，违规内容可涉及：正常、涉政、色情、违法、谩骂、暴恐、广告、宗教、迷信、诈骗方向；其中正常则是监测无症状；
S208图片风险监测则是对图片内容进行鉴别，通过分析图片中是否包含非法或不健康内容进行风险监测；
S209记录情绪走势，就是根据情绪监测得到的不同情绪或整体情绪的情绪得分进行情绪数据分析，如果用户情绪持续下降或者一直处于低谷，则当前用户情绪就初一中很危险的状态，需要立即对当前实施服务进行接手管制措施，采取快速有效的疏导手段对问题用户进行正确的疏导；
S210验证监测是否通过就是根据之前得到的情绪走势、文字风险监测以及图片风险监测进行综合评估分析去判断当前监测是否通过；
S211如果不通过，则根据严重程度进行相关预警或相关人工干预。以及对无辜用户进行正确的开通疏导，及时挽回相关损失，防止悲剧发生，提高用户体验，拉黑或追究相关人员责任；
S212如果监测通过，则说明当前在线服务状态正常，当前服务可以正常进行下去；
S3.首先将S2中安全监测结果中疑似数据进行上报并告警，然后对相关情绪频分进行分析，当情绪走势持续低落并达到相关阈值后，进行上报并告警。并进行相关人工干预。


2.根据权利要求1所述的一种在线心理咨询中风险控制的方法，其特征在于：所述步骤S201在线音视频及文字数据实时读取包括从以下方面进行数据读取当在线服务正在运行时，在线音视频数据在服务器端或云端应当是将数据进行实时分片存储，分片通过定音视频时长或定文件大小方式进行分片；文字数据则是以每次请求发送为准；存储介质不限于数据库、文件、内存形式存储；当前数据存储过后...

【专利技术属性】
技术研发人员：贺同路，徐晓龙，李嘉懿，任永亮，龚有三，
申请(专利权)人：北京智能工场科技有限公司，
类型：发明
国别省市：北京;11