基层治理行业大模型——翼平安基层助手

　　一、案例简介

　　基层治理行业大模型是中国电信专为基层工作者量身打造的专家级智能辅助工具。它依托星辰基础大模型强大的深度学习和知识泛化能力，通过对海量的高质量专业文本语料包括百万级司法案例文书，60万篇政法行业政策资讯、新闻动态、社会治理案例，120万条专业法律问答数据等进行清洗、标注和训练，并采用自校准微调技术，提升强化学习效果，为基层社会治理、矛盾纠纷多元化解、法律业务咨询等场景提供有效的解决方案。基层治理行业大模型服务于全国基层社区、街道、综治网格、派出所、基层法院、司法所等政法机构，解决其日常工作琐碎且繁杂、信息融合度不高、人员素质参差不齐、专业化知识缺乏等难题，真正为基层赋能减负，注“智”添“翼”。

　　二、案例举措

　　（一）主要内容

　　基层治理行业大模型基于中国电信智算云平台，面向街道/乡镇、社区级行政单位及基层用户，以低耦合、高内聚、模块化的总体架构进行设计，提供长文写作能力、信息检索、自然语言理解等能力，能够切实为基层减负增效。

　　1.矛盾调解助手

　　14种矛调手段智能匹配，4000多个案例在线参考，让基层调解员，尤其是我们的新手在遇到疑难时，调解有方、有法可依、有案可循。

　　2.法律明白人

　　融合245部法律知识，民法典重点内容全覆盖，为基层人员配备了专业的线上法律顾问。

　　3.AI公文助手

　　超过60万基层治理行业数据沉淀，7大类公文格式智能输出，通过“AI写、人批阅”，快速完成文章撰写，是基层工作者的随身智库。

　　（二）主要做法

　　基层治理行业大模型是“大算力+大数据+强算法”结合的产物。

　　在算力方面，通过天翼云智算平台，利用其千卡级智算设施和完善的智算平台工具链，为大模型的训练调优提供保障。

　　在数据方面，依托深耕政法行业15年的优势，积累沉淀了超60万篇级基层治理知识文档和20亿token高质量中英文语料，并形成了针对大模型需求的数据工程服务体系，持续为大模型提供数据资源。

　　在算法方面，基于百亿级参数规模的基层治理基础大模型，通用性能力较强；并融入海量基层治理领域专业知识，生成具有较强的基层治理业务理解能力的行业大模型；同时融合外挂知识库及NLP技术，使大模型更聚焦场景化需求。

　　最后再通过监督微调（SFT）、奖励模型（RW）、强化学习（PPO）等方式进行强反馈学习，提升大模型微调效率，降低训练成本，同时基于Lora微调技术，实现基层治理大模型低成本、高效率迭代。

　　（三）主要特色

　　1.大规模预训练与微调

　　基层治理大模型基座拥有130亿参数量，支持4096 Token的上下文窗口长度，使用1.5万亿token的高质量中英文语料进行预训练，确保了模型的强大基础能力。

　　2.优质数据集

　　产品采用的数据集经过严格的数据标准化处理，包含200G基层治理行业预训练数据和60万篇人工标注的基层治理领域文章，以及2万个矛盾纠纷调解案例和245部主流法律法规，确保了模型训练的高质量数据支持。

　　3.推理压缩与加速

　　通过KV cache、GPTQ等加速技术，实现了模型的高效推理部署，具备batch流式推理能力，显著提升了模型的服务吞吐率和并发数。

　　4.多轮对话处理能力

　　模型在训练过程中通过Zero并行显存优化和FlashAttention2的集成，提升了多轮对话处理能力，并采用针对多轮的mask loss训练方式，显著提升了问答效果。

　　5.外推能力

　　模型采用NTK-aware + LogN外推方式，能够外推到32K，展现了强大的扩展性。

　　三、案例成果

　　（一）应用成效

　　1.政治效益

　　党的二十大报告指出，“加快发展数字经济，促进数字经济和实体经济深度融合，打造具有国际竞争力的数字产业集群”，这对新时代数字经济发展提出了新要求，而在当前，人工智能预训练大模型已经成为人工智能领域的技术新高地，很有可能推动人工智能发展的代际变革，引发下一轮人工智能发展浪潮。未来如何利用大模型提升基层治理水平，为基层减负，是基层治理发展的趋势之一。

　　2.社会效益

　　大模型时代将为基层治理建设带来新的机遇。其一，改变现有人机互动模式，推动服务智能化转型。通过拟人化交流、类人化互动，大模型能够增强问询系统对用户自然语言和问询上下文的理解能力，自动精准抽取用户需求，提高回复准确性。其二，革新内容生产方式，实现会议记录、文书撰写等部分工作的自动化替代，减轻工作负担，让基层人员从“繁文缛节”中解放出来。其三，形成“模型即服务”（MaaS）的新型服务形态，为基层治理上层应用赋能。

　　3.经济效益

　　根据中商产业研究院分析师预测，2023年中国大模型产业规模将达到147亿元，2024年将达到216亿元。目前全国约有62.9万个村社级行政单位，接近4万个街道/乡镇/苏木、3000个区县。按每个基层单位5000元/年支付大模型产品，10%的基层单位有大模型需求，2024年基层治理大模型初步预估将有3.1亿元的市场空间。若电信能够占据4%的市场份额，预计2024年基层治理大模型产品将带来超过1200万元的销售收入。

　　（二）创新性

　　大模型的有效利用，给基层治理发展带来了新的治理范式和机会。基层治理大模型提供长文写作能力、信息检索、自然语言理解等能力，能够切实为基层减负增效。在公文写作场景中，通过简单的提问，大模型能够快速提炼案例的核心内容，理解文本语义，并根据基层工作人员的需求，自动撰写文档内容。在矛盾化解场景中，大模型能够智能推理出可行的调解方案、策略，并提供相关法律法规支持，辅助基层调解人员高效解决问题。在法律咨询场景中，大模型可服务基层人员，解决法律繁多记不住、用不准、无法可依的问题，让执法更精准。

　　（三）社会评价

　　某街道人民调解委员会主任，全国“全国模范人民调解员”称号获得者。对基层治理行业大模型给予了高度评价，认为矛盾调解助手功能对基层调解员有巨大帮助，可以帮助调解员，特别是新手调解员和遇到疑难问题的调解员快速获取调解帮助。他认为这一功能在这一领域是一项优秀的创新，他将在向上进行进一步汇报后，希望在全街道调解员中进行推广。

　　责任编辑：广汉