GPT-5训练内幕大揭露!ChatGPT将再迎重大更新?

AI新闻快讯 1年前 (2023) 玲珑居
1,085 0
GPT-5训练内幕大揭露!ChatGPT将再迎重大更新?

近日,DeepMind联合创始人Suleyman在接受采访时表示,GPT-5目前仍在秘密训练中,未来将会比现在的GPT-4大100倍。这一消息引发了广泛的关注和热议。

然而,Open AI CEO Sam Altman此前曾否认了训练GPT-5的说法。有消息人士透露,OpenAI可能为GPT-5起了一个新名字,因此他们才声称没有训练GPT-5。

Suleyman现在是Inflection AI的CEO,该公司正在建造世界上最大的超级计算机之一。他相信,在接下来的18个月内,他们可能会进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。

今年3月份,GPT-4正式发布。与ChatGPT最初使用的GPT-3.5模型相比,GPT-4实现了几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至2.5万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。

GPT-3.5有1750亿参数规模。虽然OpenAI没有公布过GPT-4的具体规格,但之后的分析认为它拥有16个专家模型,每个MLP专家大约有1110亿个参数,总计1.8万亿参数,是GPT-4的10倍规模。

如果按照这个比例来提升,GPT-5将突破10万亿参数,有可能成为最大规模的AI大模型,远超其他所有对手。这一进展无疑为人工智能领域的发展带来了更加广阔的想象空间和探索前景。

GPT-5训练内幕大揭露!ChatGPT将再迎重大更新?
版权声明:玲珑居 发表于 2023-09-04 9:47:14。
转载请注明:GPT-5训练内幕大揭露!ChatGPT将再迎重大更新? | 玲珑居

暂无评论

暂无评论...