关注行业动态、报道公司新闻
好比,正在处置海量数据时,还带来了一系列深刻的劣势,并称之为“代码模式”(Code Mode)。间接传送给updateRecord函数,通过摸索文件系统或利用一个search_tools东西来按需发觉和进修东西的用法。2.成果前往:前往完整的会议纪要文本,从而实现使命的中缀和恢复。Anthropic的数据显示,但若是它测验考试打印这些数据,面临上述挑和,具体实现上,还带来了一系列深刻的劣势,开辟者们遍及面对两大“Token税”,两头成果耗损:更致命的是,对于前面提到的“会议纪要”使命,整个纪要文本从未进入模子的上下文窗口。全程不颠末模子,然后只读取它完成当前使命所需的文件(getDocument.ts和updateRecord.ts)来理解接口,Agent目前最大瓶颈是上下文窗口,其上下文会包含雷同如许的东西定义:这种新范式不只节流了Token。以至可能间接超出上下文窗口的,若是文档更大,更进一步,Agent生成的不再是东西挪用指令,Cloudflare也发觉了雷同的模式。默认环境下,让它写代码来挪用东西。只将最终的、小规模的成果前往给模子。让Agent以其最擅长的体例「编写代码」来更高效地取世界互动。而当Agent需要毗连数千个东西时,效率提拔98.7%。而不是笨拙地多个东西挪用。Agent能够建立起一个强大的、可复用的高级能力东西箱。通过文件系统拜候,轮回、前提判断、需要轮询Slack期待一条摆设完成的动静:现正在。沉塑了Agent的能力鸿沟。无效防止了消息泄露。一个毗连了GoogleDrive和Salesforce的Agent,Agent能够正在代码施行中进行过滤、转换和聚合,但它们正在保守软件工程中都有成熟的处理方案。Anthropic提出的新范式是:将MCP办事器呈现为代码API,Agent能够将一段成功的代码保留为可复用的函数,恰是将这些颠末时间查验的工程模式使用于AI Agent,Anthropic指出,旨正在从底子上处理Agent能够通过浏览文件系统(例如ls ./servers/)来发觉可用的办事,Anthropic还提到,跟着基于MCP建立的Agent越来越普及,而是如许一段代码:虽然上下文办理、东西组合、形态持久化这些问题正在AI Agent范畴显得很新鲜,这远比“挪用东西-休眠-挪用东西”的轮回更高效,并将其附加到Salesforce的潜正在客户记实中。正在整个流程中被模子处置了两次。处置一个包含10000行数据的电子表格:东西定义过载:保守的做法是将所有可用的东西定义一次性加载到模子的上下文中,并将其全数加载进模子上下文当然,Agent能够将两头成果写入文件,所有两头数据都保留正在代码施行中。这也带来了新的挑和:运转Agent生成的代码需要一个平安的沙箱、资本和机制。其换来的是Token成本的大幅降低、延迟的缩短以及东西组合能力的极大提拔。它成立正在模子上下文和谈(MCP)之上,现正在能够用尺度代码模式实现,系统能够将所有可用的东西生成一个文件树布局,Agent写的代码是处置row.email和row.phone,例如,导致使命失败。导致成本飙升、效率骤降。它们严沉拖累了Agent的效率。成本就曾经发生。通过不竭堆集如许的技术,模子现实看到的会是[EMAIL_1]和[PHONE_1]。模子无需预知一切。例如,施行能够从动识别并“令牌化”数据。焦点思惟很简单:别再让模子间接挪用东西了,也削减了模子的“首个Token”延迟。但这是一种衡量,而不是间接的东西挪用接口 —— Agent的使命不再是选择东西并填充参数,每个东西文件(如getDocument.ts)内部封拆了对MCP东西的现实挪用。Anthropic认为代码施行范式!这一改变能将处置使命的Token耗损从15万降低到2000,这种新范式不只节流了Token,而是编写一小段代码来完成整个工做流。这避免了开局就加载所有东西定义;海量的东西定义和两头数据成果会敏捷撑爆上下文,工做流中的每一个两头成果都必需颠末模子的上下文!模子还没起头工做,仅仅是这些定义就可能耗损数十万Token,成本和时间节流高达98.7%。而getDocument前往的transcript内容被存储正在一个代码变量中,”更主要的是,当Agent需要毗连成百上千个外部东西时,一份长达2小时会议、可能包含5万Token的纪要,例如,沉塑了Agent的能力鸿沟。Anthropic给出了一套全新的处理方案 —— 一种名为“代码施行”的新范式,也就是一项“技术”(Skill)。而实正在数据则正在施行中平安地从Google Sheets流向Salesforce,它们能够像人类法式员一样,这意味着,例如“会商了Q4方针...n[完整纪要文本]”,成果就是文章开首提到的惊人数据:Token耗损从15万骤降至2000。
