(资料图)
今天chatGPT释放出了最新的API更新:
通过官网可以看到本次主要的更新内容如下:
对话的API中新增了函数调用功能更新了更可控的gpt-4和gpt-3.5-turbo版本新增了gpt-3.5-turbo的16k上下文版本(标准版本为4k)嵌入模型成本降低了75%gpt-3.5-turbo的输入令牌成本降低了25%宣布gpt-3.5-turbo-0301和gpt-4-0314模型的淘汰时间表个人认为其中意义最大的是增加了函数调用功能与扩大到16K的上下文限制。16K这个就不说了,说白了就是机器人记忆上下文的能力更强了,能够接受的输入更多了。
研究下其中的函数调用功能,基本过程是这样的:
你可以向chatgpt介绍一个外部调用函数(比如查询你自己的数据库内容)的调用,然后让模型根据你输入的自然语言,智能地输出一个包含调用这些函数调用所需参数的 JSON 对象。用返回的json对象中的参数来调用你的外部函数,获得结果。把结果再交给chatGPT,chagGPT会根据上下文总结与理解,并最终给出结果。很显然,函数调用允许开发者更灵活的把大模型的能力与外部工具或者自己的应用结合,来弥补大模型本身能力的不足,比如时效性不够,或者无法结合自身企业应用数据的问题,特别对于ToB的应用意义更加巨大。比如:
1.创建聊天机器人来通过调用外部工具(例如chatGPT插件,或者你自己的插件)来回答客户的咨询问题。
2.利用大模型的理解能力,将自然语言查询转换为函数调用、API或者数据库查询,从而增强大模型的回答能力。例如将“给 Anay 发电子邮件,询问她下周五是否想喝咖啡”的查询转换为 send_email(to: string, body: string) 的函数调用,或将“波士顿的天气如何?”转换为 get_current_weather(location: string, unit: "celsius" | "fahrenheit");或将“上个月 Acme 公司下了多少订单?”转换为使用 sql_query(query: string) 的 SQL 查询。
3.从文本中提取结构化数据,例如定义一个名为 extract_people_data(people: [{name: string, birthday: string, location: string}]) 的函数,以提取 Wikipedia 文章中提到的所有人物信息。(此为官方例子,不太明白为什么要单独拿出来说)
大模型的赛道越来越拥挤,国内的友商们要加油了!