防止和阻止发布有害内容的装置制造方法及图纸

根据本发明专利技术的一个实施例的防止和阻止发布有害内容的装置，其特征在于，包括：库服务器，其包括具有多个有害性判断模型文件的有害性判断部和认证密钥生成部；发布者终端机，其从库服务器的有害性判断部下载一个以上的有害性判断模型文件及认证密钥，从而进行内容输入；以及订阅者终端机，其对发布者终端机输入的内容进行订阅，当发布者终端机满足从库服务器下载的有害性判断模型文件的设定的基准，并确认了认证密钥的有效性时，输入的内容被登记到库服务器。到库服务器。到库服务器。

【技术实现步骤摘要】
【国外来华专利技术】防止和阻止发布有害内容的装置


[0001]本专利技术涉及一种防止和阻止发布有害内容的装置，更加详细地涉及一种可通过使用在用户的终端机下载的一个以上的有害性判断模型文件和认证密钥来判断内容的有害性并防止或阻止发布和订阅的装置。

技术介绍

[0002]在现代社会中，计算机和网络在业务、交友、兴趣活动、信息掌握等多方面被广泛用于多种目的。从个人和社会的立场来看，像这样的计算机和网络已成为不可或缺的必需品，没有计算机和网络的社会变得再也无法想象。如上所述，计算机和网络在整个社会广泛使用的原因之一在于，通过连接网络的计算机可方便又简单地获得多样且大量的信息。
[0003]但是，这些网络的特性在现代社会也成为了缺点。其中最具代表性的就是像儿童或青少年一样需要保护的被保护者可能会不加选择地接触成人视频或非法视频等有害视频。例如，年幼的子女可以通过设置在各个家庭或网吧的计算机上网，通过P2P网站、博客、各种下载网站等下载许多有害视频文件。因此，虽然在现代社会中，计算机的普及和网络的发展为个人和社会提供了很多便利，但同时还留下了防止年幼的子女接触有害物的课题。
[0004]韩国公开专利第2001
‑
0093365号公开了一种阻止输入有害信息的装置，是通过网络提供一定信息或获得一定信息的输入的网站，其特征在于，包括如下步骤：从通过网络连接的多个网络用户获得一定信息的输入；通过比较所输入的信息和事先存储的一定信息来判断所输入信息是否具有有害性；根据输入信息的有害性判断，有选择地进行输入信息的网站登记或阻止中任意一个。
[0005]韩国公开专利第2002
‑
0028593号的特征在于，包括如下步骤：计算机用户输入会员信息并接入管理服务器；计算机用户输入在管理服务器显示的信息输入画面输入用于登记/传送的信息；管理服务器的有害单词阻止模块判断计算机用户输入的信息是否包含有害单词；管理服务器根据有害单词阻止模块的判断结果阻止与计算机用户的连接或登记/传送信息。
[0006]【先行技术文献】
[0007]【专利文献】
[0008]韩国公开专利第2001
‑
0093365号
[0009]韩国公开专利第2002
‑
0028593号

技术实现思路

[0010]本专利技术的一个实施例想要提供一种防止和阻止发布有害内容的装置，在网络公告栏发布新信息时，使用人工智能对用户想要发布的文字、图像或视频等内容进行检查是否具有有害性，从而可提前阻止有害物的发布。
[0011]本专利技术的一个实施例想要提供一种防止和阻止发布有害内容的装置，能够实时检查存储在用户终端机的有害URL、有害内容或有害关键词等是否具有有害性，并对判断为具
有有害性的内容进行净化或阻止。
[0012]本专利技术的一个实施例想要提供一种防止和阻止发布有害内容的装置，按照想要判断有害性的类别对多个有害性判断模型文件进行分类，并分别管理，只对用户要求的类别进行检查，从而可缩短对不必要的类别的检查时间。
[0013]根据本专利技术的一个实施例的防止和阻止发布有害内容的装置，其特征在于，包括：库服务器，其包括具有多个有害性判断模型文件的有害性判断部和认证密钥生成部；发布者终端机，其从库服务器的有害性判断部下载一个以上的有害性判断模型文件及认证密钥，从而进行内容输入；订阅者终端机，其对发布者终端机输入的内容进行订阅，当发布者终端机满足从库服务器下载的有害性判断模型文件的设定的基准，并确认了认证密钥的有效性时，输入的内容被登记到库服务器。
[0014]特征在于，发布者终端机包括：内容输入部，其从发布者终端机的用户获得内容的输入；有害性判断部，其从库服务器存储有害性判断模型文件及管理者的基准模型文件，并判断输入于内容输入部的内容是否具有有害性；以及内容输出部，其当有害性判断部判断出没有有害性时，请求登记所输入的内容。
[0015]特征在于，当有害性判断部判断出具有有害性时，传送建议对内容进行修改及重写的通知。
[0016]特征在于，多个有害性判断模型文件分为成人、暴力、赌博、恐怖、讨厌的动物或厌恶等多种类别，在多个有害性判断模型文件中由用户选择的任意一个有害性判断模型文件被设定为基本模型。
[0017]特征在于，认证密钥生成部生成的认证密钥包括关于多个有害性判断模型文件的版本、容量、制作日期等信息，将认证密钥和有害性判断模型文件相匹配，以确认对相关有害性判断模型的检查是否成立。
[0018]特征在于，订阅者终端机包括：内容存储部，其对从库服务器获得传递的内容进行存储；有害性判断部，其对从库服务器获得传递的有害性判断模型文件和管理者基准模型文件进行存储，并判断存储在内容存储部的内容是否具有有害性；内容输出部，其对存储在内容存储部的内容中满足有害性判断基准的内容进行输出。
[0019]特征在于，内容输出部对订阅者终端机的有害性判断部中不满足有害性判断基准的内容的文字、图像或视频等进行净化并输出为其他文字、图像或视频。
[0020]特征在于，对于已存储但未进行有害性判断的内容，在输出到订阅者终端机的画面之前，实时进行有害性判断与否，当满足有害性判断基准时，通过认证密钥发放对相应内容的有害物安全认证并与认证密钥一起存储，当不满足有害性判断基准时，将相应内容的检查内容传递到库服务器，并请求发布该内容的用户及管理者修改及删除相应内容。
[0021]已公开的技术可具有以下效果。但是，特定实施例并不意味着必须全部包括以下效果或只包括以下效果，因此不应理解为已公开的技术的权利范围受此限制。
[0022]本专利技术的一个实施例涉及一种防止和阻止发布有害内容的装置，可提供如下技术：当在网络公告栏发布新信息时，使用人工智能检查用户想要发布的文字、图像或视频等内容是否具有有害性，从而可提前阻止发布有害物。
[0023]本专利技术的一个实施例涉及一种防止和阻止发布有害内容的装置，可提供如下技术：能够实时检查存储在用户终端机中的有害URL、有害内容或有害关键词等是否具有有害
性，并对判断为具有有害性的内容进行净化或阻止。
[0024]本专利技术的一个实施例涉及一种防止和阻止发布有害内容的装置，可提供如下技术：按照想要判断有害性的类别对多个有害性判断模型文件进行分类，并分别管理，只对用户要求的类别进行检查，从而可缩短对不必要的类别的检查时间。
附图说明
[0025]图1是概略示出根据本专利技术的一个实施例的防止和阻止发布有害内容的装置的框图。
[0026]图2是示出根据本专利技术的一个实施例的防止和阻止发布有害内容的装置的基本构成的框图。
[0027]图3是示出根据本专利技术的一个实施例的防止和阻止发布有害内容的装置的发布者终端机的构成的框图。
[0028]图4是示出根据本专利技术的一个实施例的防止和阻止发布有害内容的装置的库服务器的构成的框图。
[0029]图5是示出根据本专利技术的一个实施例的防止和阻止发布本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种防止和阻止发布有害内容的装置，其特征在于，包括：库服务器，其包括具有多个有害性判断模型文件的有害性判断部和认证密钥生成部；发布者终端机，其从库服务器的有害性判断部下载一个以上的有害性判断模型文件及认证密钥，从而进行内容输入；以及订阅者终端机，其对发布者终端机输入的内容进行订阅，发布者终端机满足从库服务器下载的有害性判断模型文件的设定的基准，在确认了认证密钥的有效性时，输入的内容被登记到库服务器。2.根据权利要求1所述的防止和阻止发布有害内容的装置，其特征在于，发布者终端机包括：内容输入部，其从发布者终端机的用户获得内容的输入；有害性判断部，其从库服务器存储有害性判断模型文件及管理者的基准模型文件，并判断输入于内容输入部的内容是否具有有害性；以及内容输出部，其当有害性判断部判断没有有害性时，请求对输入的内容进行登记。3.根据权利要求2所述的防止和阻止发布有害内容的装置，其特征在于，当有害性判断部判断具有有害性时，传送建议对内容进行修改及重写的通知。4.根据权利要求1所述的防止和阻止发布有害内容的装置，其特征在于，多个有害性判断模型文件分为成人、暴力、赌博、恐怖、讨厌的动物或厌恶等多种类别，在多个有害性判断模型文件中由用户选择的任意一个有害性判断模型文件被设定为基本模型。5.根据...

【专利技术属性】
技术研发人员：金珉奭，
申请(专利权)人：金珉奭，
类型：发明
国别省市：