探索软件开发新工序：LLM赋能研发效能的提升

菏泽炫佑科技

探索软件开发新工序：LLM赋能研发效能的提升

上周末，我们（我和同事谢宝龙）在QCon广州2023上分享了一个关于人工智能与研发效率结合的话题：《探索软件开发新流程：LLM赋能研发效率提升》。 我们分享了：这两个月LLM（Large Model）结合软件开发的一些探索。

在本文中，我们将总结一些关键要素以便于理解。 以后后续的录屏版本出来后，大家可以再回顾一下。 值得注意的是，我们目前处于探索+尝试落地的阶段，更多的是我们的流程以及如何打造。 总体思路如下：

以及相关问题可以在这里一起讨论：

哪种AIGC投资策略适合企业？

过去几个月，大量KOL纷纷表示：所有应用都可以用AI重写。 但如果在现有工具中实现的话，假设需要重写，那么未来的架构可能会是什么样子呢？

因此，我们根据我们的理解将应用分为四种类型：

人工智能端到端应用。 即直接面向*终用户的应用程序（具有专有模型），例如，

应用+闭源基础模型。 比如基于文心一言之类的API构建应用（他们有提供吗，我没有收到）。

应用程序+专有模型。 即基于开源的基础模型或者自己的模型来构建端到端的应用。

应用+微调模型。 基于开源模型+针对自己的研发场景进行微调探索软件开发新工序：LLM赋能研发效能的提升，构建特定领域的应用。

不同的企业应该根据自身的情况（安全、隐私等）调整投资策略。

而且随着时间的推移，越来越多的新场景会出现，带来不一样的变化。

AI研发效能：*好的大语言模型能带来什么？

如今（2022.05.29），市面上已经出现了一系列结合LLM的研发效率工具，从产品设计、架构设计等到运维操作等基于人工智能的工具和基础大语言模型可以增强软件开发在设计、需求、测试、发布、运维等各个方面的能力，提高质量和效率。

然而，这些工具经常被破坏、支离破碎，并且可能不适合我们现有的研发流程。 所以，从我们的经验出发，我们需要从研发流程入手，把每一个流程分解到足够小的规模，才能产生明显的效果。

然后，根据我们选择的工具进行评估，比如我们的例子基于 , 来评估，然后记录相应的改进效果、局限性等：

对于可以公开且不涉及企业内部数据的信息，可以直接开发相应的工具。 比如我们同事开发的产品经理AI辅助工具：

它是基于GPT 3.5++产品领域相关知识库构建的。

尽管生成式AI技术和工具已经证明了在软件生命周期各个方面提高效率的可行性，但在大型科技组织中要实现效率提升的突破仍然存在许多挑战：

企业级软件流程效率提升的挑战

发展人工智能辅助研发提高效率的局限性

大多数公司仍处于探索过程中，因此我们有两个假设：

随后，我们继续探索基于开源LLM和私有化场景的新流程。

AI研发效率：从问题出发探索新流程

在探索时，作为工程专家而不是大型语言模型专家，我们会遇到一系列挑战，需要解决各种难题。 我们的探索过程分为三个阶段，每个阶段都需要探索不同的问题：

**阶段：微调和研发过程如何结合？

第二阶段：工具设计和集成？

分析成功的人工智能产品

如何高效构建上下文？ (2K)

如何提高速度？ （缓存，减少请求）

如何提高准确率/接受率？

而如果我们想要探索，那么我们还需要考虑：哪一部分是*有价值的。 比如从我日常业务场景出发，架构设计是我们价值较高的场景：

这些环境之一就是 API 设计（API ）。

AI研发效率：如何工程化？

所以，我们根据我们的API总结了一个基本的流程化的构建方法，如下图所示：

简单来说，共有六个项目，分三个阶段：

更详细的例子请参考：《》

未来展望：如何应对LLM带来的挑战？

从我们的角度来看，LLM未来会融入到工具链中，以端到端的方式提高性能。

对于组织来说，我们还需要考虑一个问题：

不同的方式决定了我们如何使用LLM。 随着大模型的不断发展和成熟，我们又多了一位超级队友。 当Ta掌握了所有的知识和技能时app开发，Ta可能会成为神（当然，这不会在几年内发生）。

炫佑科技专注互联网开发小程序开发-app开发-软件开发-网站制作等