6月30日消息,2023火山引擎V-Tech体验创新峰会于28日在北京召开。会上,火山引擎发布了大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务,希望打通大模型上下游链条,共建“多模型”行业生态,共同服务好千行百业。
火山引擎总裁谭待以《多云多模型,迎接体验创新的新时代》为主题,分享了火山引擎在大模型领域的洞察与探索。未来的大模型市场将是一个百花齐放的多模型生态,企业自身对大模型的应用将会呈现“1+N”的模式。
图片来源: 火山引擎,下同
如何做好、用好大模型?一直以来,火山引擎致力于通过云和智能技术,帮助企业实现更好的数字化增长。火山引擎将云上增长的动力总结成了3个核心要素,即“体验创新”、“数据驱动”和“敏捷迭代”。
谭待认为:“在云上增长三要素中,‘体验创新’能够直接为企业创造巨大的用户价值和商业价值。回顾历史,每次技术大变革,都会带来体验创新的巨大机会。现在,大模型已经当仁不让地捧起了技术创新和体验创新的接力棒。”
大模型的语言对话能力,第一次能够让机器去适应和理解人类的交互方式。大模型以seq2seq(Sequence-to-Sequence,序列到序列)的预测为基础,语言、图像、视频、计算机操作和指令都可以序列化,这也让大模型在各个行业落地呈现出成千上万种可能性。
火山引擎总裁谭待
目前,国内的大模型市场呈现出如火如荼的态势。做好大模型,算法、数据和算力三要素缺一不可,安全与信任、性价比、生态系统等问题也一样值得关注。安全与信任指的是双向信任,大模型服务商希望模型方案和代码不被泄露;模型的应用企业也需要保障调用大模型时,自身prompt或精调数据不被泄露。
性价比方面,从更长的时间维度来看,后期模型推理计算才是成本更高的环节。只有推理成本足够低,才能让大模型被广泛使用。生态系统方面,生成式模型并不清楚自身所擅长的领域。因此需要被告知其自身优劣势,并在其不擅长的地方提供下游模型、API和插件。
此外,企业应该如何用好大模型,设计好企业在智能时代的技术路线?谭待认为,选择合适的大模型、做好提示工程、对接好插件和工具链,是三个关键。
火山引擎总裁谭待
首先,在选择合适的大模型之前,需要制定可量化的评估指标。是关注模型的逻辑推理能力?还是文本生成能力?还是风险控制能力?有了量化的评估指标作为依据,就可以针对不同的模型进行全方位的能力测评,选择性价比最合适的。
然后,需要做好提示工程(prompt Engineering)。可以让prompt尽可能全面地包含详细的任务内容、相关信息和说明。也可以通过Few-Shot prompt的方式,尽可能地给大模型一些样本和示例。或者通过“step by step”这样CoT的方式,进一步加强模型的性能。
最后是对接好插件和工具链。大模型自己并不知道自己擅长什么,不擅长什么。所以需要通过工具并且帮助模型在合适的场景下更好地使用它们,带来更好的应用效果。
