开普云正式发布AIGC内容风控引擎——AICS_世界今日报

2022年3月27日，开普云发布了元宇宙战略，在业内率先提出“元宇宙是数字政府建设的新愿景”；2023年3月27日暨上市3周年之际，开普云重磅推出AIGC战略，致力于成为最优秀的“基于AI大模型的行业数字化服务提供商”。

结合AIGC战略，开普云积极开展产品创新，依靠丰富的人工智能技术积累和行业数字资产沉淀，基于开源大模型和领域数据集，构建AIGC内容安全审核能力。AIGC内容具有多模态、海量化、碎片型、变异快、反检测等新型特征，给内容安全风控带来新的重大挑战。开普云发挥核心技术优势，利用“知识增强型内容安全大脑”全面提升内容安全风控能力，赋能先知、先觉、胜览三大核心内容风控产品，有效应对AIGC内容安全挑战。

三大核心内容风控产品

(相关资料图)

先 知

内容安全审查平台，适配多场景的事前内容审查需求，实现“关口前移，防患未然”。

先 觉

网站新媒体云监管平台，搭建了完善的垂直监管体系，精准检测、管理各类涉政涉敏以及各类错误的问题，全量数据监测一网打尽。

胜 览

互联网内容安全态势感知平台，可将海量的监测数据转化为多层级多维度的统计数据，以驾驶舱的形式进行逐级呈现，不漏过每一处细节。

勤学累功，积厚成器。在AIGC时代，开普云内容安全产品体系聚焦在内容消费侧和信息供给侧进行能力提升，创新推出AICS纠错引擎和AI鉴伪能力产品。AICS（Artificial Intelligence Content Security）纠错引擎，具体应用场景体现在更强劲的纠错能力和领先行业的AI鉴伪能力。

在内容消费侧

在内容消费侧，AICS纠错引擎，对智能算法进行了全面升级，在黄赌毒暴恐政等敏感信息、不规范表述的识别基础上，增加了结合场景的语义和重复语句识别能力，增强了对复杂语句、上下文关联语境下的错敏信息的识别。对比标准引擎检测效果，AICS引擎综合检测有效率提升22%。

在信息供给侧

为应对AIGC技术所带来的潜在内容伪造、仿冒风险，开普云将内容行业大模型能力和自主研发的多项错敏信息识别核心技术进行深度融合，实现对AIGC内容的疑似度检测，检测对象涵盖文本、图像等多种内容形式。针对文本内容，开普云AI鉴伪产品从用词、文体风格、大数据查重等多个维度进行识别，全面甄别AI文本内容风险；针对图片内容，开普云AI鉴伪产品运用像素还原特征比对技术，将图片的构图、光影、轮廓等多个要素纳入识别范围，充分识别图片内容AI伪造风险，可在有效识别AIGC技术伪造内容，保护原创内容知识产权等场景下，为用户甄别AIGC产生的内容风险提供直观研判依据。

百年变局下，技术进步引发的网络信息安全博弈日趋复杂。AIGC内容安全受到国家高度重视，近日国家网信办印发《生成式人工智能服务管理办法（征求意见稿）》面向全社会公开征求意见，从国家法规层面关注AIGC内容安全。开普云未来将基于行业内容数据优势和人工智能核心技术储备，坚定推进行业大模型的基础研发，包括：混合模态内容语义的向量化检索，大规模、高速度、多形态的数据采集，存量数据和实时数据的批流一体预处理框架，高性能融媒体内容分析与理解技术等，构建深度智能化的知识增强型信息要素识别引擎，高效地应对AIGC时代的内容安全风控挑战，助力内容安全风控实现防范先于治理，风控跑赢风险。

标签：