面向互联网信息内容治理的大模型技术研究及示范应用

信息传输、软件和信息技术服务业

大模型赋能的互联网信息内容治理系统，主要有以下的功能： (1)功能1:舆情线索发现助手提供涉及舆情热点的人物、事件线索发现，并提供隐晦舆情信息识别、历史事件关联等功能，上线以来，为舆情线索的及时、准确发现提供了技术支撑。 (2)功能 2:舆情态势研判助手提供事件概述、事件脉络关键分析、网民观点等舆情事件细粒度智能分析与报告生成服务，报告流畅、符合业务需求，缓解了业务人员跨系统整合数据的人力投入。 (3)功能 3:大模型检测助手聚焦于意识形态、违法犯罪等5类风险场景，通过生成样本及内容的智能检测，预警发现近百个风险问题，为生成式人工智能内容监管工作提供了技术支撑。 课题成果舆情线索发现、舆情态势研判、大模型安全检测助手在实际业务中开展了应用示范，提供了及时、快速的人物、事件、内容等舆情线索发现，事件传播脉络分析等态势研判能力以及备案上线大模型的安全检测能力，符合应用方互联网信息内容治理需求，发挥大模型赋能的互联网信息内容治理系统的示范作用。

资金支持：具备一定资金实力，能提供成果转化所需启动资金及后续发展资金，保障项目推进。 场地保障：拥有符合产业需求的生产、研发及办公场地，配套基础设备设施。 设备配套：具备成果产业化所需核心生产、检测设备，或能按需配置相关设备。 人员配置：拥有专业的生产、管理、市场或技术支持团队，保障项目运营。 其他：具备良好的行业资源整合能力与合规经营意识，认同合作发展理念。

仅限国内转让

在互联网信息服务领域相关企业试点推广，助力构建良好的互联网信息内容安全生态。在北京市委网信办和相关企业试点的基础上，可根据试用效果进一步向具有互联网信息内容治理需求的国家和其他省市主管部门部署和试用，提升智能时代互联网信息内容治理效能。

中央引导地方专项

北京市科学技术委员会;中关村科技园区管理委员会

科技成果来源： 北京市科学技术委员会、中关村科技园区管理委员会，中央引导地方专项，北京市科技计划课题“面向互联网信息内容治理的大模型技术研究及示范应用” 技术原理： 基于私有化部署大模型和外部大模型协同化“政务类”应用新范式，开展面向互联网信息内容治理的大模型技术研究和示范应用，采用大模型国产化芯片本地部署、千亿参数大模型云上部署的混合模式，将大模型与传统人工智能小模型相结合，融合网信领域内外部数据，达到高泛化的知识深度学习理解和专业化的业务即时反馈，并从业务视角进行专业知识关联整合分析和决策输出，充分挖掘互联网信息内容安全领域的数据价值，实现面向互联网信息内容治理的专业大模型，以及高效、精准、全面的网络舆情线索发现、态势研判、大模型安全检测助手，智能化、自动化、全方位、可迭代的可视化数据分析。 关键性技术指标： 1.面向互联网信息内容治理的专业大模型 （1）参数规模及部署使用：百亿参数模型本地国产化芯片适配和部署、千亿参数模型云上部署使用 （2）模型调用响应时间：≤800毫秒 （3）上下文推理长度：≤128K （4）互联网舆情知识库：百万级互联网舆情信息知识库 2.基于大模型的舆情线索发现助手 （1）舆情线索发现：融合互联网及业务知识实现舆情线索发现 （2）人物、事件等舆情线索发现准确率：≥80% 3.基于大模型的舆情态势研判助手 （1）舆情态势研判：融合大模型通用能力和业务知识实现舆情态势研判 （2）报告模板创建及报告生成的覆盖场景种类：≥10种 （3）生成报告与用户需求的相关比例：≥85% （4）报告内容流畅度：≥90% 4.大模型安全检测助手 （1）样本智能生成：实现网信安全场景下相似安全样本智能生成 （2）内容智能检测：实现网信安全场景下大模型生成内容智能检测功能 （3）意识形态、违法犯罪、伦理道德、偏见歧视、隐私财产等5类风险场景生成样本：百万级 （4）5类风险场景内容检测召回率：≥90% （5）5类风险场景内容检测准确率：≥75% 应用前景： 通过先进的舆情线索发现、态势研判、大模型安全检测技术可应用于智能时代互联网信息内容舆情治理场景，充分解放一线业务人员人力，提高工作效率，提升互联网信息内容治理效能。在国家层面推广，通过以上大模型赋能内容治理的课题成果，及其示范应用效果，可向国家和全国各省市网信部门推广北京经验和北京做法，深化大模型在互联网信息内容治理的应用场景，提升国家信息内容治理的智能水平，形成国际领先的技术管网治网能力。在互联网信息服务领域相关企业进行试点和商业化应用，可以弥合管理部门要求和企业落实之间的偏差，提高内容治理的准度和效率，降低企业开展信息内容治理的投入和合规成本，促进企业更加专注技术创新。