在AI大模子繁荣兴旺的今天，如何充分阐述LLM的后劲，成为业界关切的焦点。本文将带你真切探索LLM的高阶期骗——用具和插件，揭秘它们如何膨胀LLM的才能限度，处理骨子期骗中的痛点。正如工匠需借助精粹用具方能打造传世之作，LLM亦需借助用具和插件，才能在任场中阐述出最大的价值。

在AI大模子繁荣兴旺的今天，如何充分阐述LLM的后劲，成为业界关切的焦点。本文将带你真切探索LLM的高阶期骗——用具和插件，揭秘它们如何膨胀LLM的才能限度，处理骨子期骗中的痛点。正如工匠需借助精粹用具方能打造传世之作，LLM亦需借助用具和插件，才能在任场中阐述出最大的价值。

之前有段时间，网上关于AI大模子相比9.9和9.11阿谁大的问题，激发了一波大家对AI大模子的质疑。

当你了解LLM的旨趣后，就知说念背后的原因是因为LLM本人不具备数学才能而导致的，它只可进行文本瞻望。

那么当在使用LLM构建期骗身手时，LLM本人又不具备某些才能时，该怎么办呢？

这时候，就波及到用具的使用了。举例用户和你的智能客服进行订单情景盘问时，你需要LLM有时借助sql语句来查询你的数据库，然后恢复用户等。

现在市集上大部分的LLM提供的用具做事，主要分2种类型：用具函数，和插件用具。用具函数：用户字据我方项主意需要，通过自界说函数来拒绝一系列才能的膨胀。

插件：修复者不错基于我方的API做事构建插件，可上架到GPTSstore中，供第三方使用。

固然这2种模样有好多场合很像，然则终归是不同的发展定位。用具函数，更像是LLM平台提供的一种膨胀，而这个膨胀才能仅得使用方我方来修复且无法向外奉行。

而访佛于GPTs的插件用具，则是一种生态的构建，插件修复好之后即不错我方用，也不错上架到GPTstore中供第三方使用。在国内，固然莫得插件市集，然则却变成了访佛于扣子的智能体市集，提倡Agent即做事的想想。

非论是用具函数、插件、已经智能体平台，齐是在束缚扩大LLM的才能限度，固然现在GPTs发展的并不睬想，然则从永恒发展来看，这3个因其定位不同，齐有很大的市集空间。

现在GPT Store仅对Plus会员敞开，因其中智能体的同质化严重，用户槽点较多，可能短时间很难发展起来，是以这里咱们就先不筹议插件这种模样

咱们以kimi为例，来先容它的函数用具。淌若不嫌勤苦的话，不错成功梭巡官方的API文档：https://platform.moonshot.cn/docs/api/tool_use

在用具的使用上，kimi一方面扶持自界说函数用具，另一方面也提供了最常用，联网搜索的内置用具($web_search)，不外这个内置的联网搜索用具函数除了荒谬的Tokens耗尽外，还需再收取一次调用用度，价钱为 ￥0.03/次。

咱们这里主要先容一下，Kimi的自界说函数用具，国内其他的LLM所提供的函数用具，基本上也齐差未几。全体经由如下

上图是官方给的一个时序图，淌若不懂技能的伙伴，不错成功看底下这张图，逻辑齐是同样的。

那么用具的使用（Tool Use）具体是怎么拒绝的呢？这里放一个官方示例，来感以下：

固然代码有点儿长，不外已经相比好相识，在kimi中使用用具，需要先界说好tools，包括：

函数名：即调用的函数名；

函数刻画：即函数的作用，以及什么情况下LLM启程此函数，这部分需要束缚的调遣和测试，尽可能的粉饰通盘的函数调用场景。函数参数：即函数的入参，LLM不错从用户的发问中，来提真金不怕火入参。

在tools中界说好函数后，背面就是具体的函数代码拒绝，以及函数的调用了。

以上等于LLM的用具使用，由于篇幅死心，感兴味的伙伴不错成功阅读官方文档，学习更细节的内容。

另外就是，有莫得一种开箱即用的用具箱呢？不错字据咱们的需求来进行调用，天然有。在LangChain框架中，内置了好多用具，如下图所示：

使用这些用具的前提是，你必须得使用LangChain框架，而LangChain框架，亦然现在基于AI大模子进行期骗修复最重大的框架，不外需要防范的是，LangChain现在迭代的速率相等快，这意味着不太踏实性，在着实的业务中，淌若不是荒谬依赖LLM那么已经提出基于LLM平台的API来构建期骗即可。

好了今天的共享就先到这，感谢不雅看。

撰文： 长弓PM

本文由东说念主东说念主齐是家具司理作家【长弓PM】，微信公众号：【AI家具司理社】，原创/授权 发布于东说念主东说念主齐是家具司理，未经许可，梗阻转载。

题图来自Unsplash，基于 CC0 契约。