循环智能荣获2022中国AI金雁奖“技术创新大奖”，千循零样本AI平台首次亮相

2023年4月14日周五，由中国电子商会人工智能委员会主办的2023北京人工智能峰会暨第三届AI金雁奖颁奖典礼在北京盛大举行。中国电子商会相关负责人及中国科学院院士黄维、中国工程院院士张平等十几位院士出席大会，来自循环智能、科大讯飞、格灵深瞳等知名企业过百位人工智能企业负责人到会。

本次峰会颁发“AI金雁奖”是目前中国覆盖人工智能分支领域的专业奖项，致力于不断为中国人工智能科技领域发掘出优秀“头雁”，奖项设立围绕人工智能技术未来发展的重要方向，从前沿技术到行业应用，是衡量未来市场趋势的方向标。循环智能（Recurrent AI）凭借在AI大模型技术上的创新、积累和应用，获得“2022人工智能技术创新大奖”和“2022 AI领军人物”两项大奖。

作为获奖企业的代表，循环智能联合创始人、CTO张宇韬博士以《AI大模型在企业服务场景下的实践与探索》为主题发表演讲，分享了AI大模型在企业落地的主要挑战、循环智能“千循零样本平台”多模型策略和应用场景，以及在大模型在企业应用场景的最新探索与实践。

以下是演讲主要内容的回顾：

AI大模型在企业落地的三大挑战

以ChatGPT为代表的大模型应用开启了通用人工智能的新范式，其中最关键的技术创新是基于人类反馈数据的系统进行模型训练，从而提升了理解人类想法的准确性。

但企业在使用AI大模型时也面临着三大挑战，这些挑战也体现了GPT模型的局限性：

01

事实性错误

事实性错误（即看似正确，但与事实不符），是GPT模型的原理带来的。GPT的模型优化目标是在有限的训练数据上泛化出无限的能力，当问题超过模型知识范围时，会开始自我创造。

事实性错误的挑战，虽然在现有的技术路线下无法百分之百解决，但可以通过两种路径来“减弱”其影响。第一种是提升模型的知识范围，当模型的知识范围越大时，事实性错误也就会越少。第二种是通过更好地让模型对齐人类的需求和价值观，尽可能以合适的方式拒绝回答超出范围的问题，从而减少事实性错误造成的影响。

02

难融入企业私域数据

像ChatGPT这样的通用AI系统，其能力上限是公域存量数据的范围，因为企业内部大量的信息、知识、数据均无法被公域模型覆盖。

因此，企业内的垂直业务需求是无法被公域模型准确理解的。而企业内的垂直业务需求是与业务流程强相关的，往往需要结合内部数据作为上下文，才能准确理解。

例如，客户质量分析场景，企业客户如果直接使用类似 ChatGPT 的通用AI系统，输入客户信息和对话内容，来判定客户是否属于优质客户，那么得到的结果往往不理想。主要原因是，通用AI系统并不清楚企业内部对于优质客户的定义，而且不同企业对于优质客户的定义很大程度上是不同的。

03

规模化应用成本高

当前，百亿参数的模型输出（推理）速度大概可以做到每个GPU每秒生成 20 个字左右（30token）。

在实时文本交互（在线客服、问答）场景，一个GPU支持3-5个并发客户，那么100万“日活跃用户”，对应的峰值并发约10000，需要 2000-3000个GPU，成本过于高昂。

在实时语音交互场景（电话沟通、语音通话、视频通话）场景，在单个GPU单并发情况下，文本生成的句末延迟约1到3秒，叠加TTS（文本转语音）的延迟，基本无法支撑需求。

专注企业服务的“千循零样本”AI平台

过去几年，循环智能在大模型训练和应用实践中有非常多的技术积累：

• 首先，积累了大量行业文本和语音数据，中文文本数据超过40TB，真实语音对话数据超过 400 万小时；

• 其次，具备超大规模预训练模型的工程化经验，主导开发和落地了首个千亿参数的中文语言大模型“盘古”，具备丰富的数据采集、清洗和标注经验。主导开发了面向认知的“悟道·文汇”超大规模预训练模型；

• 第三，精通场景化的多任务指令微调，在银行、保险、证券、地产、汽车、零售等行业有丰富的业务实践。

今年，循环智能也将推出自研的“千循零样本AI平台”。“千循零样本AI平台”采用了多模型组合的策略，包括10亿参数的盘古NLU（自然语言理解）模型，主要服务语义理解的场景，和面向更复杂的文本生成类任务、参数规模更大的“千循-M”和“千循-XL”模型等。同时，为了使模型更好地适配企业需求，“千循零样本平台”提供多种“微调”方案，包括 P-tuning、Instruction tuning、LoRA等，可以更好地融入企业的专有知识库数据。

“千循零样本AI平台”在底层提供AI大模型的高质量文本理解能力、逻辑推理能力和文本生成能力。基于这些能力，在企业需要对外交互的营销场景、服务场景，以及内部的知识培训和内容运营场景，提供多种创新应用，帮助不同场景的不同角色员工提升产能和工作效率。

循环智能在企业应用场景的探索与实践

01

智能化内容运营与生产

» 话术质量的分析、挖掘与优化建议

» 文案自动化生成与撰写

» 基于知识库的智能问答

02

客户画像与需求的智能分析

» 基于对话内容，自动识别客户画像与需求

» 基于对话内容，总结客户所有兴趣点、评价和提问

» 自然语言输入信息，快速进行客户描摹

03

智能化业务分析与决策推荐

» 基于对话全文，生成业务策略：在房产和汽车销售场景，可以给出靠谱的商机跟进建议。

» 基于对话内容，评判服务效果：了解客户对售后服务是否满意，以及满意的地方和不满意的地方分别是什么。之前企业主要是通过问卷来收集客户满意度，填写问卷的人数占比很少，现在可以做全量的满意度分析。

---

更多业务场景待解锁。欢迎联系循环智能（Recurrent AI），扫码预约交流或拨打400电话（400-607-5800）。

扫码预约交流