ChatGPT 催生第三代AI应用, GPU芯片用量激增,如何解决短缺问题
http://www.neatmedia.net/downloads/ChatGPT催生第三代AI应用催生PGU需求-HW.mp4
http://www.neatmedia.net/downloads/ChatGPT催生第三代AI应用催生PGU需求-HW.mp4
2021年5月13日消息,本周二,美国AI芯片初创企业Mythic宣布,在C轮融资中筹集了7000万美元,由美国云服务供应商慧与科技和美国投资管理机构贝莱德领投。自成立以来,Mythic的总融资额已达到1.652亿美元。 (more…)
人工智能三次震惊世界。1997年,2016年,2023年。 有意思的是,这三次,都由美国主导,却都和美国最大的对手苏联(俄罗斯)有关。 1997年,IBM的深蓝,打败俄罗斯国际象棋大师卡斯帕罗夫。 2016年,AlphaGo战胜围棋九段李世石。AlphaGo由谷歌旗下的DeepMind开发。谷歌两位创始人中的谢尔盖·布林(Sergey Brin)出生在苏联,是人工智能战略最坚定的推动者。对弈的第三天,比赛进入高潮,布林飞到首尔,代表谷歌享受胜利。 2023年,ChatGPT惊艳登场。它背后最重要的人,不是大家炒作的马斯克和阿尔特曼(Sam Altman),而是OpenAI的联合创始人、首席科学家伊利亚·萨特斯基弗(Ilya Sutskever)。我管他叫“小萨”。小萨和布林一样,出生在苏联。 01 去年,衣公子吹捧了2012年的一场竞赛。那是ImageNet的人工智能识别比赛,AlexNet团队赢得第一。 我说,一场学院里的比赛,改变了整个世界的科技版图。芯片之王,称霸30年的英特尔(Intel)很快就要让位于蛰伏多年的英伟达。 一场比赛而已,是不是吹过了?又过了一年,我发现我的确错了,错在太保守,我吹得不够用力。 ImageNet是最权威的人工智能大赛。AlexNet不仅拿了第一,而且精确度是第二名的两倍。它是一个卷积神经网络,一个模仿人类大脑神经元网络的数学系统。开发者先用CPU训练,发现不给力,要几个月才能完成训练。于是,换成了英伟达给游戏做图形渲染的GPU,一周就完成了。 英伟达给英特尔当了一辈子马仔。毕竟PC时代,CPU是霸道总裁,游戏显卡是可有可无的小弟。智能手机来了,黄仁勋想逆天改命,去搞手机芯片,还专程跑到北京用蹩脚的中文给小米雷军站台。很可惜,英伟达的移动战略失败,老黄眼看着只能继续苟且在英特尔或者高通的阴影里。 谁想到,AlexNet从天而降,在智能时代深度学习的场景里,英伟达GPU大有可为。公司市值已经抵得上三个英特尔。 一场比赛,让三十年硬件江湖换了姓,已经够吊炸天。但是没完,ChatGPT问世,正式宣告,那场比赛掀起的革命不止于芯片江湖,软件、互联网、整个科技界,都要翻江倒海。 AlexNet由三个人开发,计算机老教授辛顿(Geoffrey Hinton),还有他的两个学生,Alex Krizhevsky和小萨。Alex和小萨,都出生在苏联。 △左:Sutskever;中:Krizhevsky;右:Hinton;图源:多伦多大学...
VIA:Anonymous 萧峰 我去年在西雅图微软,而且就在负责开发Bing后台一部分算法的WebXT组,后来因为个人原因离职了,作为了解ChatGPT和新Bing部分内幕的底层码农,以及GPT-3和 Codex的第一批公测用户,我来谈谈对ChatGPT的看法。 1.ChatGPT 的算法,包括自回归语言模型(OpenAI从2017年的GPT-1搞到现在,迭代了3.5代了),还有强化学习的 PPO 算法(还记得2018年在TI表演赛上击败OG的Dota2 AI吗?就是用这个算法训练的),全都是已经十分成熟的公开算法,本身没有任何秘密可言。但是这种超大规模训练,并不依靠算法本身,硬件和数据才是王道,纯自然语言数据,网上公开的到处都是,也没有什么门槛,但是ChatGPT有一个巨大的先发优势,就是它通过抢先开始公测,收集了大量的用户的使用数据,这是更加宝贵的数据,而这部分数据只有他们家有。只要ChatGPT仍然是最好用的语言AI,这个雪球只会越滚越大,越来越难追上。另外,为了防止ChatGPT输出有害信息,OpenAI 还花了大价钱去找印度和肯尼亚的外包公司标记了大量的有害文本,用来训练模型不要输出有害信息,这部分数据也是 OpenAI 积淀了几年筑起的数据壁垒。 总之,小公司根本做不了ChatGPT这样的工程,凡是声称投资区区几亿就要做ChatGPT这样的AI的,几乎可以认为全是诈骗;真正有可能做出类似产品的,在中国只有BAT这种拥有自主云计算平台 (市场价租机器做这个就等着破产吧)、且掌握大量用户的互联网公司,而且最好是和ChatGPT错位竞争,比如做中国可以正常联网使用的中文模型;并且,其中最困难的部分其实是敏感词屏蔽和有害信息过滤(ChatGPT 的屏蔽程度,在国内恐怕是不够的,因为它仍然可能在用户恶意诱导下说出不该说的东西)。 2. 再来简单聊聊微软。很多华人,都觉得微软低效是因为印度人太多,尤其是因为印度人做了CEO。但是这种言论是错误的。从ChatGPT这件事中就能看出微软现任 CEO Satva Nadella的眼界。首先,当时OpenAI缺钱、且做出来的东西都是Dota2...
引 2022年,ChatGPT问世。 一经出现便掀起滔天巨浪。 如果你跟ChatGPT聊过天,一定会震撼于它所涉猎极广: 既能创造诗歌,也能修改代码。 可以批改作业,还能撰写论文。 写文案易如反掌,给方案不在话下。 ...... 有人兴奋,有人恐慌。 有人说,它会带来一次新的“工业革命”。 有人说,它会引发21世纪的“新卢德运动”。 这其实不是AI第一次向人类展示它的力量。 自动驾驶、MIT主导的人类写字系统、SIRI智能语音助手、AlphaGo...... 但这一次,ChatGPT确实惊吓到了人类。 我们能抵挡来势汹汹的AIGC狂潮吗? 人类是不是真的会被ChatGPT取代? 要回答这些问题,让我们先回归数学。 因为ChatGPT背后的核心本质,是“贝叶斯公式”。 1 什么是贝叶斯公式?...
Why Transformers are Slowly Replacing CNNs in Computer Vision? Before getting into Transformers, let’s understand why researchers were interested in...
原标题:“流浪气球”事件让这家中国气球制造企业爆红,第二个华为横空出世了! 在全球舆论聚焦中美“气球门”事件的政治关系之时,也开始关注这个“流浪气球”承载的科技意义。 美国正在打捞被击落的气球碎片,拜登政府表示,将透过研究这颗中国气球,取得有关中国情报能力的重要数据。 据悉,高空气球依然是美国研究的重点。Politico曾报道称,“美国五角大楼大幅增加了高空气球的预算,希望它们能够协助跟踪和拦截俄罗斯与中国的高超音速导弹。” 这个流浪万里的高空气球有何技术价值,仅从美国气球监测专家说法中捕捉到的信息,至少有几个值得关注: ①它是高空气球,飞行高度超过30000米,远远高于商业航空交通; ②气球的大小相当于三辆公共汽车的长度; ③气球具有持久性,以太阳能供电,能够携带无线电和传感器; ④一种由人工智能引导的工具,可能携带美国方内部尚未掌握的制导技术…… 中方表示,该气球属于民用性质,用于气象等科研。针对美军方击落该气球,中方表示,将坚决维护有关企业的正当权益。 显然,该气球是一家中国民间企业制造的。很快一家气象气球制造商突入舆论眼球,成为网上热搜。它就是中国化工株洲橡胶研究设计院有限公司(简称“株洲橡胶”)。 尽管还不能确定该“流浪气球”是否为株洲橡胶制造并送上天空,但这家中国企业却是真真的中国乃至全球气象气球制造之王。 株洲橡胶前身是化工部乳胶工业研究所,创建于1964年。它是全国首批242家转制科研单位之一。 株洲橡胶官网显示,它是1992年4月6日在湖南省株洲市注册成立的有限责任公司,是全国乳胶行业唯一专业研究院,主要从事以气象气球为主的乳胶制品、高分子复合材料、特种橡胶制品的研制、开发、生产与检测,主要产品和服务包括:各种规格的气象气球…… 株洲橡胶1999年转制,最初投资医用丁基橡胶瓶塞生产线,由于前期经营不善及市场剧变,濒临倒闭,资产负债率一度高达140%......临危受命、接任总经理的孙建华,决定研发探空气球,把气象气球作为株洲橡胶的拳头产品,2010年在探空气球领域崭露头角。 当年,中国气象局首次承办世界气象组织(WMO)第八届国际探空仪系统比对实验,为了使用国产气球,打破以往比对实验全部采用日本生产的探空气球作为飞行载体的历史,株洲橡胶在2009年临危受命,决定研制2000克、30000米高度的高空气象探测气球,实验结果比芬兰Vaisala公司在德国斯图加特自动放球器试验中提供的探空气球还高出近20%。 国际探空仪系统比对实验,被称为是世界气象探空“奥林匹克运动会”。株洲橡胶抓住了这次崭露头角的机会,且一举夺冠。 这一战役,何其关键! 株洲橡胶成为了中国气象局气象气球定点研究生产企业,也是中国仅有的两家气象气球生产企业之一。...