LOADING STUFF...

只要会说话,不写代码也能开发!百度又搞了一个大动作

AI资讯3个月前发布 shuangyan
1 0
只要会说话,不写代码也能开发!百度又搞了一个大动作

  新智元报道  

编辑:编辑部
【新智元导读】文心大模型4.0,半年时间又提升了52.5%,在智能体、代码、多模型上也有了新进展!像人一样思考的智能体,达到了一定程度的白盒;智能代码助手Comate,让开发者们动动嘴就能开发应用了。
 
文心大模型,又有新进展了!
就在昨天,Create 2024百度AI开发者大会成功举办,又公布了一波智能体、代码、多模型等方面的新进展。
去年3月16日,文心一言发布,此后不断迭代。
基于更大的算力、更多的数据和更强的算法,依托飞桨平台,文心已经从3.0、3.5,进化到了4.0版本。
只要会说话,不写代码也能开发!百度又搞了一个大动作

AI智能体,像人一样思考

毫无疑问,智能体是业内一致被看好的方向。
对此,百度CTO王海峰也表示,智能体会带来更多的应用爆发。
而如今的百度智能体,已经学会像人一样思考了!
在基础模型上,它进一步进行了思考增强训练,包括思考过程的有监督精调、行为决策的偏好学习、结果反思的增强学习,进而得到思考模型。
于是,它学会了像人一样阅读说明书、学习工具试用,甚至还能调用工具完成任务。
只要会说话,不写代码也能开发!百度又搞了一个大动作
为了详细说明这个过程,我们可以参考一下《思考,快与慢》这本书中的理论。
人的认知系统,可以划分为2个部分:系统1反应很快,但容易出错。系统2反应慢,但更理性,更准确。
只要会说话,不写代码也能开发!百度又搞了一个大动作
在强大的基础大模型之上,百度的研发团队进一步研制了系统2,包括理解、规划、反思和进化。
这样,智能体的思考过程在一定程度上就白盒化了,于是机器可以像人一样思考和行动,自主完成复杂任务,持续学习,实现自主进化。
只要会说话,不写代码也能开发!百度又搞了一个大动作
让我们来具体感受一下,百度智能体的思考过程。
在文心大模型4.0工具版上,我们可以这样提问——
「我要到大湾区出差一周。想了解一下天气变化,好决定带什么衣服。请帮我查一下未来一周北京和深圳的温度,告诉我出差应该带什么衣服,并整理成表格。」
接下来,它就会展示真正的技术了。
首先,它会调用一个「高级联网」工具,来查询当地的天气信息。
只要会说话,不写代码也能开发!百度又搞了一个大动作
然后,它会调用「代码解释器」,来画出一幅温度趋势图。
只要会说话,不写代码也能开发!百度又搞了一个大动作
根据未来一周的天气,它选择了合适的衣物。
只要会说话,不写代码也能开发!百度又搞了一个大动作
最后,它还对结果进行了思考和确认,自动汇总成了一个表格。
只要会说话,不写代码也能开发!百度又搞了一个大动作
整个过程中,它展现出了娴熟的思考和规划能力,有条不紊地把用户需求拆解成多个子任务,一整套过程行云流水。
不仅如此,从万亿级的训练数据中,文心大模型学到的,除了自然语言能力外,还有代码能力。

代码智能体

顾名思义,这个智能体,能够帮我们写代码。
程序员和普通人的之间的壁垒,从此彻底打破,以前程序员才能做的事,现在人人都能做。
代码智能体,是由思考模型和代码解释器两个部分组成。
首先,思考模型会先理解我们的需求,经过一番思考后,把完成任务的指令和相关信息整合成提示,输入给代码解释器。
只要会说话,不写代码也能开发!百度又搞了一个大动作
根据这个提示,代码解释器就把自然语言的用户需求翻译成了代码,随后执行,这样就得到了执行结果,或调试信息。
只要会说话,不写代码也能开发!百度又搞了一个大动作
最后,思考模型还会对代码解释器的结果进行反思确认。
结果正确,就会把结果返回给用户;不正确,就会继续进行自主迭代更新。
只要会说话,不写代码也能开发!百度又搞了一个大动作
在这次大会现场,王海峰更是当场让代码智能体秀了一番技能。
现场的任务是,让它为本次大会嘉宾定制邀请函。
只要会说话,不写代码也能开发!百度又搞了一个大动作
只见一波操作之后,嘉宾的姓名都被填到了邀请函里正确的位置上。
而新生成的邀请函文件,也都是以嘉宾的名字命名的,并打包好一起输出。
只要会说话,不写代码也能开发!百度又搞了一个大动作

动嘴开发,智能代码助手已来

而这位传说中的智能代码助手Comate,听名字就知道它更专业一些。
只要会说话,不写代码也能开发!百度又搞了一个大动作
没错,它的角色是——程序员的AI同侪,也就是说,可以帮专业的程序员更高效地写出更好的代码。
过去,开发者用代码改变了世界。
而现在,自然语言已经成为新的开发语言。也就是说,开发者们未来只需动动嘴,就能完成应用开发。
只要会说话,不写代码也能开发!百度又搞了一个大动作
在模型效果不断提升的基础上,百度进一步构建了上下文增强、私域知识增强、流程无缝集成等能力。
因此,目前百度智能代码助手Comate整体采纳率达到了46%,新增代码中生成的比例已经达到了27%。
只要会说话,不写代码也能开发!百度又搞了一个大动作
代码理解、生成、优化等各种能力,都被Comate无缝集成到研发的各个环节。
比如,仅需告诉Comate「帮我梳理当前项目的架构」,几秒的时间,它就以清晰的条理给出了解答。
只要会说话,不写代码也能开发!百度又搞了一个大动作
它就像助理一样,能帮助程序员提升代码的开发质量和效率。
下面这个示例,就展示Comate是如何帮工程师接手代码的。
可以看到,只通过一条简单的指令,它就快速了解了整个代码的架构,甚至细到每一个模块的具体实现逻辑。
举个例子,当你问到更加细致,具体的内容时——「该项目核心RAG逻辑是如何实现的」,可以迅速得到解答。
更惊喜的是,还有直接跳转查阅的索引链接。
只要会说话,不写代码也能开发!百度又搞了一个大动作
而且,它还可以根据当前的项目代码以及第三方代码,自动生成满足要求的新代码。
如下所示,给出一个外部的参考代码,以及千帆大模型的API,以生成调用Ernie Bot 4.0的代码。
Comate分分钟给出了一个基础代码示例。
只要会说话,不写代码也能开发!百度又搞了一个大动作

大小模型一同训

此外,王海峰在现场还分享了「多模型」技术。
如今,我们为什么需要多模型?
在推进大模型应用落地的过程中,开发者、企业不仅需要关注成本,还需要顾及效果和效率。
因此,在实际应用中,就需要从落地场景出发,去选择最适合自己的模型。
只要会说话,不写代码也能开发!百度又搞了一个大动作
一方面,高效低成本的模型生产亟待解决。
对此,百度研制了大小模型协同的训练机制,可以有效进行知识继承,高效生产高质量小模型。
小模型不仅推理成本低,响应速度快。而且在一些特定场景中,经过微调后的小模型,效果可以媲美大模型。
只要会说话,不写代码也能开发!百度又搞了一个大动作
它也可以利用小模型实现对比增强,帮助大模型完成训练。
与此同时,百度还建设了种子模型矩阵,数据提质与增强机制,以及一系列配套工具链,从预训练、精调对齐、模型压缩到推理部署。
这样一来,高效低成本的模型生产机制,可以加速应用,降低部署成本,取得更优的效果。
我们最常见的MoE便是「多模型」技术的典型代表。
只要会说话,不写代码也能开发!百度又搞了一个大动作
可以看到,不论是GPT-4(据猜测),还是开源Grok、Mistral都采用了MoE架构。
它们都在基准测试中,取得了优异的表现。
百度认为,未来大型的AI原生应用基本都是MoE架构。通过大小模型的混用,而非单一模型去解决问题。
因此,针对场景匹配,什么时候调用大模型,什么时候调用小模型,都需要技术考量。
另一方面,是多模型推理。
百度研制了基于反馈学习的端到端多模型推理技术,构建了智能路由模型,进行端到端反馈学习,充分发挥不同模型处理不同任务的能力,达到效果、效率和成本的最佳平衡。
只要会说话,不写代码也能开发!百度又搞了一个大动作
正如Robin会上所言,通过强大的文心4.0裁剪出更小尺寸的模型,要比直接拿开源模型,微调出来的效果要好得多。
这段时间,一张开源模型与闭源模型之间的差距不断拉近的图,在全网疯转。
许多人乐观地认为,开源模型很快突破极限,取得逼近GPT-4,甚至替代闭源模型的能力。
只要会说话,不写代码也能开发!百度又搞了一个大动作
实则不然,开源模型并非拿来即用,而需要更多定制化的微调。
这也是百度发布了ERNIE Speed、Lite、Tiny三个轻量模型的原因。
通过文心大模型4.0,压缩蒸馏出一个基础模型,然后再用专门数据训练。这要比基于开源模型,甚至重训一个模型效果好得多。

文心4.0性能提升52.5%

除了上述这些之外,文心4.0的创新还包括基于模型反馈闭环的数据体系、基于自反馈增强的大模型对齐技术,以及多模态技术等等。
只要会说话,不写代码也能开发!百度又搞了一个大动作
发布后的半年时间,文心4.0的性能又提升了52.5%。
只要会说话,不写代码也能开发!百度又搞了一个大动作
文心大模型之所以能如此快速持续地进化,离不开百度在芯片、框架、模型和应用上的全栈布局,尤其是飞桨深度学习平台和文心的联合优化。文心大模型的周均训练有效率达到98.8%。
相比而言,一年前文心一言发布时,训练效率直接提升到了当时的5.1倍,推理则达到了105倍。
只要会说话,不写代码也能开发!百度又搞了一个大动作
截至目前,飞桨文心生态已经凝聚了1295万开发者,服务了24.4万家企事业单位。基于飞桨和文心,已经有89.5万个模型被创建出来。
只要会说话,不写代码也能开发!百度又搞了一个大动作
如今,文心一言累计的用户规模已达2亿,日均调用量也达到了2亿。
这2亿用户的工作、生活和学习,已经被文心一言改变。

500万AI人才培养计划,提前收官

最后值得一提的是,百度的500万AI人才培养计划,提前收官!
在2020年,百度曾提出5年内要为全社会培养500万AI人才,如今目标已经提前完成。
只要会说话,不写代码也能开发!百度又搞了一个大动作
而王海峰表示,在未来,百度还会继续投身人才培养,让人才的点点星光,汇成璀璨星河。
智能时代,人人都是开发者,人人都是创造者。
参考资料:
https://create.baidu.com/?lng=zh
 
只要会说话,不写代码也能开发!百度又搞了一个大动作
只要会说话,不写代码也能开发!百度又搞了一个大动作
只要会说话,不写代码也能开发!百度又搞了一个大动作

© 版权声明

相关文章