中国电信大模型TeleChat亮相世博展览馆 开启产业数字化新征程
人工智能的快速发展为许多领域带来了巨大的改变和机会,是智慧信息时代的又一升级版,它涵盖了多个技术领域,并依赖于大数据、机器学习、自然语言处理、计算机视觉等技术。
人工智能的目标是使计算机具备像人一样思考、学习、推理和解决问题的能力。中国电信TeleChat大模型的实现,已经开始接近于这个终极目标。
7月6日,世界人工智能大会在上海世博中心及世博展览馆正式拉开帷幕。在中国电信“算网一体·融创未来”分论坛上,中国电信数字智能科技分公司(以下简称:电信智科)正式对外发布中国电信大语言模型TeleChat,并展示了大模型赋能数据中台、智能客服和智慧政务三个方向的产品。
发布会现场,电信智科副总经理何忠江表示,近年来,人工智能开始爆发性增长,并进入生成式AI时代。中国电信依托云网融合优势,打造了中国电信的大语言模型TeleChat。TeleChat使用大量高质量中英文语料进行预训练,并采用千万级问答数据进行微调。同时,设计了渐进膨胀注意力机制,用于增加模型的间隔采样;研发了自校准微调技术,将迭代后相关性偏差作为强化学习的监督信号,提升强化学习效果;并且利用知识图谱协同增强策略,通过知识图谱增强大模型的预训练和推理能力,减少大模型幻觉现象。
此外,以TeleChat为底座的教育版大模型TeleChat-E在全球大模型综合性考试评测榜单C-Eval上排名第七,前几名包括GP4、ChatGPT等知名大模型。TeleChat-E使用人工收集、标注、整理的高质量领域数据,对TeleChat进行持续效果强化。同时,TeleChat-E对Transformer Decoder的损失函数进行改进,使之更加关注题目答案的生成,提高准确率。
何忠江指出,通过大模型机制,神经网络已经可以愈加拟人化。在当下,电信TeleChat大模型正在与千行百业的信息化解决方案进行融合,在诸多行业实现商业化落地。据了解,本次论坛重点展示了三个大模型赋能行业应用产品,分别为大模型+数据中台产品、大模型+智能客服产品以及大模型+智慧政务产品。
对人工智能的研发,是多家信息网络企业的重点工作之一,中国电信的这一成果,既是对自身能力的一种体现,同时更加造福各行各业,使数字化、智能化成功转型,为中国数字化建贡献力量。