DeepMind联合创始人:GPT-5正在训练中 比当前模型大100倍
  • 鹿角
  • 2023年09月03日 14:51
  • 0

快科技9月3日消息,DeepMind联合创始人Suleyman近日在采访中表示,GPT-5仍在秘密训练中,未来将会比现在的GPT-4大100倍。

其实,Open AI CEO Sam Altman此前曾否认训练GPT-5的这一说法。有消息人士表示,OpenAI可能给它起了一个新名字,所以他们才说没有训练GPT-5。

Suleyman目前是Inflection AI的CEO,Inflection AI正在建造世界上最大的超级计算机之一并且他认为在接下来的18个月内,他们可能会进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。

今年3月份GPT-4正式发布,和ChatGPT最初使用的GPT-3.5模型相比,GPT-4实现了几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至2.5万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。

GPT-3.5有1750亿参数规模,OpenAI没有公布过GPT-4的具体规格,但之后的分析认为它拥有16个专家模型,每个MLP专家大约有1110亿个参数,总计1.8万亿参数,是GPT-4的10倍规模。

GPT-5如果按照这个比例来提升,那要突破10万亿参数了,有可能成为最大规模的AI大模型,远超其他所有对手。

DeepMind联合创始人:GPT-5正在训练中 比当前模型大100倍

文章纠错

  • 好文点赞
  • 水文反对

此文章为快科技原创文章,快科技网站保留文章图片及文字内容版权,如需转载此文章请注明出处:快科技

观点发布 网站评论、账号管理说明
热门评论
查看全部评论
相关报道

最热文章排行查看排行详情

邮件订阅

评论0 | 点赞0| 分享0 | 收藏0