GPT-5摊上大问题:烧了数亿美金后OpenAI发现牛吹早了

OpenAI的GPT项目一直是业界最为关注的话题,然而在该公司近期热火朝天的宣传之中,备受瞩目的GPT-5却消失无踪。

去年11月,OpenAI首席执行官奥尔特曼曾强调,不会在2024年推出任何名为GPT-5的模型。但知情人士透露,OpenAI最大投资者微软曾预期在2024年年中时看到该模型。

有人还称,距今为止,该项目已经筹备超过18个月,总体而言,这个代号为Orion的未来GPT-5模型的气氛已不太友好。该模型已经进行了至少两次大规模训练,每次训练都需要数月时间来处理大量数据,但每次训练后都会出现新的问题。

了解该项目的人士还指出,Orion目前充其量只比OpenAI的公开模型要好一些,距离该公司所谓的重大飞跃还很遥远,其也无法说服投资人投入目前的巨大成本。据估计,该模型为期六个月的训练仅在计算成本方面就烧了约5亿美元

危险的是,OpenAI在10月的最新估值达到1570亿美元,受到了投资者的继续追捧,但分析人士指出这一估值很大程度上基于奥尔特曼的乐观预测,即GPT-5将在各类学科和任务上表现出博士水准,较目前GPT-4的高中生水平实现质的飞跃。

这意味着如果GPT-5不能在一个合理的时间内给出一个合理的亮相,那么OpenAI的繁荣可能将如泡沫般被刺破,成为反噬噩梦的开始。

GPT-5摊上大问题:烧了数亿美金后OpenAI发现牛吹早了

数据燃尽

OpenAI原本的想法是,让GPT-5有能力解锁新的科学发现,并完成诸如预约或航班预定等类人类的决策行为,且其犯错的概率更小,或者至少对AI幻觉有所警惕。

但设想是设想,内部人士透露OpenAI的预期有些过于乐观,仅在数据问题上,GPT-5就面临着难以想象的挫折。

人工模型在训练过程中需要不断测试,可能持续很长一段时间。在此期间,模型将输入数万亿个单词片段,即所谓的token。而未来的人工智能模型吞噬token的数量将会是目前模型的十倍,甚至更多。

GPT-4的训练就使用了大约13万亿个token,按照一千人每天协5000个单词计算,这种规模的团队在几个月才能生产十亿个token,而其花费据奥尔特曼称超过1亿美元。

因此GPT-5模型的最关键问题在于:数据不足。此前的模型使用的是新闻文章、社交媒体贴文和科学论文,但研究人员透露,公共互联网上的数据已经不够,他们需要更多样且更高质量的数据,来让GPT-5变得更加强大。

GPT-5摊上大问题:烧了数亿美金后OpenAI发现牛吹早了

难以调头

OpenAI目前的解决方案是从头开始创建数据,如招聘人员编写新的软件代码或解决数学问题,以供Orion学习。这些员工之中部分是软件工程师,部分是数学家,必要时他们还需要向Orion解释自己的工作。

还有一个方法是让现有的人工智能创造数据来训练Orion,比如OpenAI的o1。但研究人员又指出,用人工智能产出的数据喂给人工智能通常会引发故障或导致无意义的答案。

总之,在让Orion变成名副其实的GPT-5的道路上,OpenAI已经感到心累,在实现质的飞跃之前,人工智能先倒在了量的累积上。更无奈的是,OpenAI今年持续的人才流失加深了这一困境。

从首席科学家Ilya Sutskever到首席技术官Mira Murati再到上周四辞职的知名研究员Alec Radford,OpenAI的各路大神纷纷离巢,这为难产的GPT-5再添一层浓重的悲观色彩。

迟迟看不到结果的GPT-5也难免被OpenAI内部的商业化项目,如Sora,争夺走有限的计算资源。这同时也是一种警告,即Orion没有多少从头再来的机会,因为OpenAI已经明确了其想要盈利的雄心。

GPT-5摊上大问题:烧了数亿美金后OpenAI发现牛吹早了

平台声明:该文观点仅代表作者本人,火星财经系信息发布平台。发布者:sengcheng,转转请注明出处:https://www.sengcheng.com/18608.html

(0)
sengcheng的头像sengcheng
上一篇 2024年12月23日 下午5:55
下一篇 2024年12月23日 下午5:55

相关推荐

  • 小米王化:大家电工厂已经动工 明年我们就能自研自产小米空调了!

    12月16日消息,今日,格力、小米空调之争持续发酵。 对此,小米公关部总经理王化表示:大家都知道我们的大家电工厂已经动工了,明年我们就能自研自产小米空调了。 此前,小米集团合伙人、总裁卢伟冰透露:今天上午刚刚开了大家电的业务例会,重点看了看空调业务的销量和份额。根据第三方统计数据,1-11月小米空调销量同比增长53%。 ​​&#820…

    2024年12月16日
    2400
  • 2024全球十大工程成就发布:嫦娥六号、低轨通信卫星星座等入选

    12月18日消息,今日,中国工程院院刊《Engineering》评选的2024全球十大工程成就发布。 全球十大工程成就主要指近五年已经完成且实践验证有效的、并产生全球性影响的工程科技重大创新成果,既包括重大工程项目或关键技术装备,也涵盖工程科技关键原始创新与突破。 2024全球十大工程成就经由全球征集提名、专家遴选推荐、公众问卷调查、评选委员会审议确定。 评…

    2024年12月18日
    1200
  • 不许说日语的App在日本爆火:必须用“伪中国语”聊天 日本人和中国人都能看懂

    12月22日消息,近日,伪中国语在日本网络上翻红。 一款名为对多(推特的谐音)的App在12月18日更新上线后,引发下载高潮,在苹果应用商店免费社交软件排行榜最高排名第四,网友一度将服务器挤爆。 该应用类似于推特,用户可以匿名发帖并回复留言。唯一的特殊要求是必须使用伪中国语聊天交流。 那到底什么是 伪中国语 呢?简单来说,就是把日语句子中那些平假名、片假名全…

    2024年12月22日
    2400
  • 小米否认特斯拉厂长加盟 自家负责人意外走红:曾主导华为百度自动驾驶车型量产

    特斯拉中国厂长加盟小米?小米回应了。 最近,特斯拉一则重磅变动引发外界持续关注,特斯拉制造副总裁、中国工厂负责人宋钢离职,被曝转投一家本土车企。 而且是急于提高产能的新兴品牌。 坊间一时热议,呼声最高的,是今年一炮而红的小米汽车。 就在此时,小米官方回应了。 如今的小米汽车工厂负责人,也是一位有丰富经验的制造人才,曾负责首款华为HI模式智能车、百度第五代自动…

    2024年12月20日
    1400
  • 交银金租首架C919飞机交付南航:经营飞机超420架

    12月20日消息,据交通银行微信公众号发文,交银金租在中国商飞总装制造中心浦东基地成功将公司首架C919飞机交付至中国南方航空股份有限公司。 据悉,交银金租为交通银行的全资子公司,率先开辟航空租赁业务新战场,汇聚了精通航空、横跨租赁及金融领域的国际化人才团队,积累了飞机资产全生命周期管理和多元化业务操作能力,实现了航空租赁业务跨越式发展。 截至目前,交银金租…

    2024年12月20日
    1200

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信