前OpenAI研究员推出决策导向模型,掀起AI行业热潮
近日,美国TypeSafe AI公司发布的“System One”模型Jev在人工智能领域引发广泛关注。与以ChatGPT为代表的大型语言模型不同,这款由前OpenAI研究员研发的模型不用于生成文本、对话或代码,而是专注于软件自动化,直接提供可供程序调用的结构化判断及其概率。该模型的名称源自心理学家丹尼尔·卡尼曼在《思考,快与慢》中提出的“系统一”概念,代表快速和直觉的决策过程。Jev被归类为“系统一”模型,专门用于快速的决策,而类似ChatGPT的大型语言模型则归为“系统二”。
根据TypeSafe AI的介绍,开发者可以将非结构化的信息或程序状态输入Jev,并设置相关问题与候选答案。该模型目前支持三种问题类型:Choice、Score和Noul,分别用于从选项中作出选择、根据标准评分以及判断某个陈述的概率。其中Choice和Score会返回概率分布和置信度,而Noul则直接返回一个介于0和1之间的数值。多个问题可以并行处理,提高了效率,开发者不再需要逐一生成自然语言或JSON文本进行解析。
例如,在客服系统中,可以输入用户的投诉信息,让Jev判断应该将问题反馈给账单、技术支持或销售部门,还可评估问题的紧急程度;在智能体系统中,可以根据当前任务和可用工具,判断最适合的工具调用。TypeSafe AI表示,在适合快速判断的场景中,Jev的决策水平可与部分现有大模型媲美,且速度和效率提升了两个数量级。 qy球友会官网
Jev的发布者TypeSafe AI由前OpenAI研究员迪奥戈·阿尔梅达等人创立,他在OpenAI时参与了聊天机器人开发及基于人类反馈的强化学习(RLHF)的研究。虽然阿尔梅达对RLHF的功能表示肯定,他也意识到人类需要完整的语言输出,而计算机则更需要明确、可执行的结果。Jev这个名字源自经济学家威廉·斯坦利·杰文斯的“杰文斯悖论”,意指随着资源利用效率提高,成本降低,可能导致总需求的上升。
在响应速度方面,当前的大型语言模型通常需要3到329秒,而TypeSafe AI的响应时间仅需70毫秒至500毫秒。在某些快速决策任务中,Jev能够以40到200倍的速度超越同类大模型,同时保持相似的判断水平。在成本上,TypeSafe的输入代币消耗低至0.042美元/MTok,相较于现有大型语言模型的0.20美元至10美元/MTok具有显著优势,而由于不涉及文本生成,TypeSafe也不收取输出Token费用。
尽管TypeSafe的性能数据主要来自自家评测,这样的提高仍引发了 developers 的浓厚兴趣。Jev也受到具身智能和自主系统开发者的关注,认为其为行业带来了可以自主决策的低成本模型。具身智能的“大脑”需在各种候选动作、工具调用及安全约束中作出持续选择,而Jev的输出则可以直接映射为类型明确的决策结果,大大简化了传统方法的复杂性。 qy球友会官网
勇士发布库里海报 宣布新赛季还有30天
每一场比赛,都让你更接近自己的目标!...
上海多区夜间检查消防安全,居民需注意哪些细节?
每一场比赛,都让你更接近自己的目标!...