探索软件开发新工序：LLM赋能研发效能的提升

菏泽炫佑科技

探索软件开发新工序：LLM赋能研发效能的提升

在本文中，我们将总结一些关键要素以便于理解。 等后续的录屏版本出来的时候，大家也可以再回顾一下。 值得注意的是，我们目前处于探索+尝试实施的阶段，更多的是我们的流程以及如何构建。 总体思路如下：

以及相关问题可以在这里讨论：

什么样的AIGC投资策略适合公司？

过去几个月，大量KOL纷纷表示，所有应用都可以用AI重写。 如果实现到现有工具中，假设它们都需要重写，未来的架构会是什么样子？

因此，我们根据我们的理解将应用程序分为四种类型：

人工智能端到端应用。 即直接面向*终用户的应用程序（包括专有模型），例如：

应用+闭源基础模型。 比如基于文心一言之类的API构建应用程序（他们提供了吗？我没有收到）。

应用程序+专有模型。 即基于开源基础模型或自有模型构建端到端应用。

应用+微调模型。 基于开源模型+针对自己的研发场景进行微调app开发，构建特定领域的应用。

不同的公司应该根据自身情况（安全、隐私等）调整投资策略。

随着时间的推移，越来越多的新场景会出现，带来不一样的变化。

AI研发有效性：*好的大语言模型能带来什么？

如今（2022.05.29），市面上已经出现了一系列结合LLM的研发效率工具，从产品设计、架构设计等，到运维操作等。基于人工智能的工具和基础大数据语言模型可以增强软件开发设计、需求、测试、发布、运维等各个方面的能力，提高质量和效率。

然而这些工具往往是支离破碎、支离破碎的，可能不适合我们现有的研发流程。 因此，根据我们的经验，我们需要从研发流程入手，将每个流程分解到足够小的规模，才能产生明显的效果。

然后，我们根据我们选择的工具进行评估。 比如我们的例子中，评估是根据 ，然后记录相应的改进效果、限制等：

对于可以公开且不涉及企业内部数据的信息，可以直接开发相应的工具。 比如我们同事开发的产品经理AI辅助工具：

它是基于GPT 3.5++产品领域相关知识库构建的。

尽管生成式AI技术和工具已经证明了在软件生命周期各个方面提高效率的可行性，但在大型技术组织中端到端实施并实现效率提升突破仍然存在许多挑战：

提高企业级软件流程效率的挑战

发展AI辅助研发、提升效率的局限性

大多数公司仍处于探索过程中，因此我们产生了两个假设：

随后，我们继续探索基于开源LLM和私有化场景的新流程。

AI研发效率：从问题出发探索新流程

在探索过程中，作为工程专家而不是大型语言模型专家，我们遇到了一系列挑战探索软件开发新工序：LLM赋能研发效能的提升，需要解决各种难题。 我们的探索过程分为三个阶段，每个阶段需要探索不同的问题：

**阶段：如何将微调与研发过程结合起来？

第 2 阶段：工具设计和集成？

分析成功的人工智能产品

如何高效构建上下文？ (2K)

如何提高速度？ （缓存，减少请求）

如何提高准确率/接受率？

而如果我们想要探索，那么我们还需要考虑的是：哪一部分是*有价值的。 比如从我日常业务场景出发，架构设计是我们价值较高的场景：

这些环境之一就是API设计（API ）。

AI研发效率：如何工程化？

所以，我们根据我们的API总结了一个基本的流程化的构建方法，如下图所示：

简单来说，就是三个阶段、六个项目：

更详细的例子请参考：《》

未来展望：如何应对LLM带来的挑战？

从我们的角度来看，未来LLM将被整合到工具链中，以端到端的方式提高性能。

对于组织来说，我们还需要考虑一个问题：

不同的方式决定了我们如何使用LLM。 随着大模型的不断发展和成熟，我们多了一位超级队友。 当他掌握了所有的知识和技能时，他可能会成为神（当然，这不会在几年内发生）。

炫佑科技专注互联网开发小程序开发-app开发-软件开发-网站制作等