OpenAI的竞争对手Anthropic周二(11/21)释出了Claude 2.1模型,包括API与聊天服务claude.ai 都开始采用新模型。Claude 2.1所支援的脉络长度多达20万个Token,改善了准确度,开始测试让Claude整合其它工具,也推出了系统提示(System Prompt)功能。
脉络长度指的是模型在生成答案时所参考的资料范围,涵盖使用者曾输入的文字或模型曾产生的答案,以让模型得以持续给出相关的答案,亦支援更大的资料输入。Claude 2.1所支援的20万个Token脉络不仅是Claude 2.0的两倍,也已凌驾OpenAI GPT-4 Turbo的12.8万个Token,相当于15万个文字或是500页的文件。
Anthropic表示,自从Claude聊天服务在今年上线后,便有数百万名使用者利用它来翻译学术报告、起草商业计划或是分析复杂的合约,许多使用者在处理庞大文件时,想要有更长的脉络与更精确的输出,使得Anthropic决定将脉络长度扩大一倍。
透过新的Claude 2.1,使用者可以输入大量的内容或资料,以执行摘录、Q&A、趋势分析,或是比较多个不同的文件等。
而在准确度上,Claude 2.1的虚假陈述只有Claude 2.0的一半,另也改善了对内容的理解与摘录,特别是法律文件、财报与技术规格等需要高准确度的庞杂内容,出现错误答案的比例减少了30%,对于支持特定声明的文件所产生的错误结论更减少了3~4倍。
Claude 2.1亦可整合特定的工具以弥补模型的不足,例如整合计算机,或是将自然语言请求换成结构性的API呼叫,也能要求模型透过资料库或网路搜寻来回答问题,也能连结至产品资料集来提出购买建议。唯此一功能目前仍处于早期开发阶段。
至于系统提示则是大型语言模型的常见功能,它可在使用者输入提示前先设定模型的系统提示,例如告诉模型以特定角色或是一致的方式产生回应。
Claude 2.1亦支援免费AI聊天服务,而其付费版的价格是输入每100万个Token为8美元,输出每100万个Token为24美元,而GPT-4 Turbo的价格则分别是10美元与30美元。