太吓人了!如果真是这样,能够做出媲美GPT-4的中国公司恐怕少之又少! 首先假定: 1,英伟达的NeMo Framework框架在训练GPT-3大模型的过程中能使硬件算力有效性能达到50%以上。 2,GPT-3大模型参数量1750亿个,训练样本token数3000亿个。 3,GPT-3大模型每次训练时间在30天完成。 4,按谷歌每日搜索量35亿次估计,即每次访问提问4次,每次提问+回答需处理425字,平均每个字转换为token比例为4/3,则每日GPT-3大模型需推理token数79330亿个。 那么可以计算出一个参数量为1750亿个的GPT-3大模型: 1,在训练阶段需要新增1558颗英伟达A100 GPU芯片,对应价值为2337万美元,需要195台DGX A100服务器。 2,在推理阶段需要新增70.6万颗英伟达A100 GPU芯片,对应价值为105.95亿美元,需要8.8万台DGX A100服务器。 3,一台DGX A100服务器售价19.9万美元,则在训练阶段DGX A100服务器价值量为3880.5万美元,在推理阶段DGX A100服务器价值量为175.12亿美元。 为了开发出实用性相当有限的GPT-3大模型(跟GPT-4相比差距很远),仅仅是购买搭载英伟达A100 GPU芯片的服务器所需费用就超过175亿美元。 训练和推理GPT-3大模型,在硬件成本上需要花费至少175亿美元;当然,也有其他方面的成本。例如,数据标注成本:需要对大量文本数据进行标注,以提供监督信号。数据标注是耗时和劳力密集的过程,需要雇佣人工标注者或使用其他方法生成伪标签。电力成本:需要消耗大量的电力来保证服务器正常工作。电力成本也会随着模型的规模,训练时间和推理频率发生变化。人力成本:要开发和维护GPT-3大模型,需要雇佣专业的工程师、研究员和管理人员。他们负责设计模型架构,选择训练数据,优化训练过程,测试模型性能,解决模型问题,更新模型版本等等。 开发像ChatGPT这样的大模型,除了有着如此高的资金门槛外,也存在非常高的技术门槛(尤其需要全球顶尖级的AI人才)——谷歌在人工智能领域算是世界一流水平,谷歌的Bard在面对OpenAI的GPT-4时都已显著落于下风。
Gpt虽然好,但对发达国家而言是毒药,它不是一种新产品,不是计算机,也不是手机,并不会直接创造生产力,只是一种生产辅助,这种辅助本应该由人在做,GPT不会产生新的消费点,也就无法扩张生产力,反而抢了人类的工作,导到财富分配更加极端化。当然有一天给GPT匹配了合适的躯壳,那才是它的完美形态。
目前这玩意注定是少数头部企业能够玩的,需要的算力太大了,看量子计算机能不能突破了,突破了就能彻底普及。
去年8月美国就对咱们封锁高算力企业级芯片了,除非自己搞出此类芯片,否则代差只会越拉越大。
GPT可以代替农民种田不 GPT可以代替工人开矿不 GPT可以代替公务员管理国家不 GPT可以代替军人守卫边疆不 GPT可以代替生老病死不 GPT是生活必须品不 GPT是无可替代不[笑着哭]
为什么不选择合作呢 非要争 [汗]
一个连小偷都不敢呵斥的人
不怕,我们有战无不胜的钢铁意志,吊打一切牛鬼蛇神。
智力霸权(注意这是我提出来的名词)将是终极霸权!超级大脑归谁控制,谁就控制星球,控制一切!
说的好,显卡价格还得涨[笑着哭]
腾讯这次没法抄了
光刻机当年也吹上天了
连抗美援朝 对越自卫还击战这样题材的影视剧都不能再拍,说是怕影响关系,能干啥
太烧钱了,所以这玩意全球也就两个国家能玩得转,欧洲都不行了[笑着哭]
眼看光刻机马上就没得吹了,就换GPT啦??莫非它能不断升级直接变成超越人类智能?
全面封禁芯片就是为了不让我们参与,一旦错过这一次技术大航海,我们又将面对代差
说得好,美帝出AI最后自取灭亡,中国躺赢
哪,国内不是早就有几十个了吗,每个都是整体能媲美甚至已经超过Chatgpt
白手起家的算法
人类已进到了有人要控制一切的时代了。
中国的互联网公司在搞买菜 外卖,哪里挣钱搞哪里?研发这种大量投入短期内没有回报的事是不会干的
当然了,国内即使推出了类似的人工智能,大量国人还是会乐衷于为美帝训练人工智能,最后在经济上,战争上针对中国。
在中国,没有什么不可能,请静候佳音[点赞][点赞][点赞]
最新性能又不卖给中国,就当它不存在好了
次吧吹吧,元宇宙出来的时候,比这个吹得还历害。这个刚出来时,吹得好像没有这个,中国人全部将变成元始人了,这也没过多久,就剩小编几个人还在这自娱自乐的吹。
在量子计算机都出来了的情况下,还靠堆简单计算弄ai?除了消化落后产能,没看出啥先进之处
以小编的水平能做出这样结论?[吐舌头眯眼睛笑]
鲁花5S压榨花生油荣获国家科技进步奖[呲牙笑][呲牙笑]
中国做出来太容易了,中国数据最多,侵犯隐私是常态,能得到最多的数据。
中国有有钱硬件不差,但是训练需要合适的数据,这个搞不了
一通炒作发现屁用没有,和踏马比特币、元宇宙一样!
可以另辟蹊径,思维不要被固化了,我们不一定非要按他们的模式做,我在这里抛砖引玉:量子计算机……我完全相信存在数个可能的办法,就像马斯克回收猎鹰火箭之前全世界砖家把重复利用火箭当做笑话死路
我们不是超算厉害吗?怎么不用超算训练大语言模型?
生命,终将由自然进化形态,转变为非自然进化形态,非自然的生命将快速进化,不需要食物、水、氧气,拥有无尽寿命,探索宇宙,解开宇宙所有秘密,将成为可能
国内的是跟风,到现在还在内测,人家都准备上市了[呲牙笑]
GPT虽好,也不是万能的,能促进生产但不能替代生产,该吃吃该喝喝吧。
极其不准确的数据,谷歌35亿次访问量使用GPT的不一定有10%,看之前国外统计数据,也就2 3成人用过GPT,经常用的更少,我算用的不少的,但是平均下来一天也就不到10次
量子计算机呢[笑着哭][笑着哭][笑着哭]
影响我搬砖了吗
好了,又得出一个不是我们不行,我们被卡脖子的结论,最开始火的时候算力没有这么恐怖,算法就不行
我们的百度在哪里[呲牙笑]
那么超级大脑怎么控制?制造它的人一定会留出命门,也就是钥匙,也就是特定控制代码程序段!相当于开机关机密码。
原来国内数据标注招聘 都是为ai服务的
这个GPT发展需要喂相当量的优质论文规范文学作品各式严谨条款,中国网络上乌烟瘴气的语言运用场景容易把AI带偏
别在这里杞人忧天了,你能想到的问题,国家层面不会解决吗?新中国成立时就是个半封建的农业社会,落后了西方两百年,你看现在发展到什么程度了?就算是你的祖辈,在当时能想我们能改赶上或者超过西方吗??并不是说西方科技发达,我们就不能赶上或者超越了,老老实实本本分分的做好你自己的工作,对国家来讲就是最大的贡献。
没看懂,不明觉厉
还能追得上吗?
终结者迟早会有的
一想到我在白嫖这个规模的成果就开心
不能一味地以技术革新来取代人的工作,人是消费者,消费者都没有了,还要生产干嘛?最后又回到原始的资源的争夺战。
一群不懂技术的人吹技术。。币圈都转职。
能否做出来无所谓,反正继续当风口疯炒软件股就好了[doge]
农耕文明比资本文明有局部优势。
有点脑子好不好?人工智能中国也在搞,而你说的这些根本就不是问题,去了解下中国一直在搞的一个叫八卦炉的项目。
有个常识好不好,服务器不是只给GPT用,老外怕你搞,所以忽悠的神乎其神,国内会把他搞一个白菜价的。
不用杞人忧天,永远记住,你能靠的只有自己,和老祖宗留给我们的资源,和文化底蕴
大泡泡要来一波
华为盘古大模型比这个牛!
高考数学没及格
啥的能模拟了,就真的进入VR世界了,只需要两样,算力和能源
不是少,是根本做不出来。
我们的巨头不是一直在研究买菜软件么?
我们互联网大咖只知道怎么研究算力卖菜丶带货!
主要靠的是算力,如果智能算力芯片提高到一定程度,一个手提电脑就能容纳,哪里需要如此多的芯片和人工。只能说科技还未到一定水平。看看以前的电脑和手机发展史,就明白了
其实,搞死GPT很简单,喂它几十亿个基础版的精神病模型。答案就会出来了!!!不过这种破坏危害很大,不到关键时刻不能使用!
各位把心放肚子里,小米科技会用小爱同学重新定义GPT
7
比特币会不会就是帮他们训练?
流浪地球里那句“人类把最精密的密码用在了相互毁灭上”[得瑟]太经典了。
文明需要有文字记载(历史架空小说不算)相当于人证,还得有文物(假的不算)相当于物证,没有这两样的文明都是假文明!古埃及古希腊古罗马两河古印度文明是近代西方伪造的文明,历史上不存在。
404
175亿美元,九万个印度大叔,平均每人二十万?
结果训练出来了还是个半吊子智能!创造力上仍然不如人,科技还是要以人为本才行![哭笑不得][哭笑不得][哭笑不得]
中国最擅长大兵团做战,国家队一出手,最多资源都不是事[得瑟]
能把明天的彩票号码算出了来的就承认你牛逼,不然都是扯淡玩意。
差点把你吓死[笑着哭]
继续洗脑
没关系,只要把墙拆了,我们都可以白嫖gpt[得瑟][得瑟]
英伟达含泪赚几千亿
已经输了
跪久的人,是看不到别人站着的,也不想站
百度牛逼
这玩意不是搜索引擎,芯片不突破,很难赶上。可以换个思路,只做对生产有用的ai,我主要怕以后美国人一个人干我们十个人的,我们怎么赶上,差距岂不是越来越大?
这些硬件还不是最难的。底层算法,数学原理,以及以这些数学为基础的AI开发平台,比如openAI,TensorFlow这些国内都常用的人工智能开发平台基本都是美国的。
北洋舰队硬件还亚洲第一呢
靠堆砌算力搞出来的人工智能都是泡沫。
不羡慕,再好也是人家的
算力时代 算力将成为最重要的资源之一
超算都没入场,谈什么算力不够…
美国人吹的。第一次做阿凡达,当然现在都是完美的,用了400台工作站,之后,才有了3D电影。现在谁还拿3D当回事,鸡肋。
量子计算机呢,抬出来
华为的盘古早都出来了
主要是国内搞不出来,用的是美国的接口,而且人家不给高级接口,人家只要一断网,我们就挂逼了,我也想要一个高级版本的,最近低级版本的在国内开账号要钱了[笑着哭][笑着哭][笑着哭],看来美国的账号注册完了要来中国收割了[笑着哭][笑着哭]
华为:在盘古面前你们都是弟弟!
以目前人类的生产力水平以及社会观念水平,这玩意越深入社会问题越严重。
GPT目前是聊天,会不会是用于误导方向的呢?
越来越多人活成了机器的样子,而惊叹着机器越来越像人。可能创造新的生命形式才是所有生物进化的最终目标。
资本实在没地方捞钱了,元宇宙概念炒完了,开始gpt,还会有下一个,也许很厉害吧,但核武器做后盾我们一步一个脚印追赶就好。
很少有人能把算力用完,以前在公司,负责机房,一个ai开发小组天天叫算力不够,一堆博士找我茬!气的老子直接在他们的服务器中安装监控,这帮孙子服务器的千分之一能力都没用到!一帮孙子[呲牙笑]
这种顶流公司,有一家也了不起
英伟达才真牛