kaiyun体育在线官网

kaiyun体育在线官网

你的位置:kaiyun体育在线官网 > 新闻中心 > kaiyun官方网站1块钱不错买200万tokens-kaiyun体育在线官网

kaiyun官方网站1块钱不错买200万tokens-kaiyun体育在线官网

发布日期:2024-06-29 04:32    点击次数:197

kaiyun官方网站1块钱不错买200万tokens-kaiyun体育在线官网

       5月21日,阿里云抛出重磅炸弹:通义千问GPT-4级主力模子Qwen-Long,API输入价钱从0.02元/千tokens降至0.0005元/千tokens,直降97%。这意味着,1块钱不错买200万tokenskaiyun官方网站,荒谬于5本《新华字典》的笔墨量。这款模子最高复古1千万tokens长文本输入,降价后约为GPT-4价钱的1/400,击穿全球底价。

       Qwen-Long是通义千问的长文本增强版模子,性能对标GPT-4,陡立文长度最高达1千万。除了输入价钱降至0.0005元/千tokens,Qwen-Long输出价钱也直降90%至0.002元/千tokens。比拟之下,国表里厂商GPT-4、Gemini1.5 Pro、Claude 3 Sonnet及Ernie-4.0每千tokens输入价钱分袂为0.22元、0.025元、0.022元及0.12元,均远高于Qwen-long。

       通义千问本次降价共遮掩9款交易化及开源系列模子。不久前发布的通义千问旗舰款大模子Qwen-Max,API输入价钱降至0.04元/千tokens,降幅达67%。Qwen-Max是现在业界弘扬最佳的汉文大模子,在泰斗基准OpenCompass上性能追平GPT-4-Turbo,并在大模子竞技场Chatbot Arena中踏进全球前15。

       不久前,OpenAI的Sam Altman转发了Chatbot Arena榜单来印证GPT-4o的智力,其中全球名次前20的模子中,仅有的三款中国模子都是通义千问出品。

       业界大量以为,跟着大模子性能迟缓进步,AI欺诈翻新正干与密集探索期,但推理资本过高仍是是制约大模子限制化欺诈的重要身分。

       在武汉AI智领者峰会现场,阿里云智能集团资深副总裁、民众云行状部总裁刘伟光暗意:“算作中国第一大云筹画公司,阿里云此次大幅镌汰大模子推理价钱,就是但愿加速AI欺诈的爆发。咱们瞻望改日大模子API的调用量会有千千万万倍的增长。”

       刘伟光以为,无论是开源模子如故交易化模子,民众云+API将成为企业使用大模子的主流样子,主要有三点原因:

       一是民众云的时刻红利和限制效应,带来遒劲的资本和性能上风。阿里云不错从模子本人和AI基础设施两个层面不停优化,追求极致的推理资本和性能。阿里云基于自研的异构芯片互联、高性能收集HPN7.0、高性能存储CPFS、东谈主工智能平台PAI等中枢时刻和居品,构建了极致弹性的AI算力治愈系统,都集百真金不怕火散布式推理加速引擎,大幅压缩了模子推理资本,并加速模子推理速率。

       即即是相通的开源模子,在民众云上的调用价钱也远远低于终点化部署。以使用Qwen-72B开源模子、每月1亿tokens用量为例,在阿里云百真金不怕火上径直调用API每月仅需600元,终点化部署的资本平均每月超1万元。

       二是云上更方便进行多模子调用,并提供企业级的数据安全保险。阿里云不错为每个企业提供专属VPC环境,作念到筹画约束、存储约束、收集约束、数据加密,充分保险数据安全。现在,阿里云已主导或深度参与10多项大模子安全有关外洋国内时刻标准的制定。

       三是云厂商自然的绽开性,能为诞生者提供最丰富的模子和器具链。阿里云百真金不怕火平台上汇注通义、百川、ChatGLM、Llama系列等上百款国表里优质模子,内置大模子定制与欺诈诞生器具链,诞生者不错浅易地测试比较不同模子,诞生专属大模子,并放肆搭建RAG等欺诈。从选模子、调模子、搭欺诈到对外做事,一站式措置。

通信员  芮雯  扬子晚报/紫牛新闻记者  徐晓风kaiyun官方网站