Technology
美国微软内部人士:凡是称要投资几个亿搞ChatGPT的,都是诈骗
VIA:Anonymous 萧峰 我去年在西雅图微软,而且就在负责开发Bing后台一部分算法的WebXT组,后来因为个人原因离职了,作为了解ChatGPT和新Bing部分内幕的底层码农,以及GPT-3和 Codex的第一批公测用户,我来谈谈对ChatGPT的看法。 1.ChatGPT 的算法,包括自回归语言模型(OpenAI从2017年的GPT-1搞到现在,迭代了3.5代了),还有强化学习的 PPO 算法(还记得2018年在TI表演赛上击败OG的Dota2 AI吗?就是用这个算法训练的),全都是已经十分成熟的公开算法,本身没有任何秘密可言。但是这种超大规模训练,并不依靠算法本身,硬件和数据才是王道,纯自然语言数据,网上公开的到处都是,也没有什么门槛,但是ChatGPT有一个巨大的先发优势,就是它通过抢先开始公测,收集了大量的用户的使用数据,这是更加宝贵的数据,而这部分数据只有他们家有。只要ChatGPT仍然是最好用的语言AI,这个雪球只会越滚越大,越来越难追上。另外,为了防止ChatGPT输出有害信息,OpenAI 还花了大价钱去找印度和肯尼亚的外包公司标记了大量的有害文本,用来训练模型不要输出有害信息,这部分数据也是 OpenAI 积淀了几年筑起的数据壁垒。 总之,小公司根本做不了ChatGPT这样的工程,凡是声称投资区区几亿就要做ChatGPT这样的AI的,几乎可以认为全是诈骗;真正有可能做出类似产品的,在中国只有BAT这种拥有自主云计算平台 (市场价租机器做这个就等着破产吧)、且掌握大量用户的互联网公司,而且最好是和ChatGPT错位竞争,比如做中国可以正常联网使用的中文模型;并且,其中最困难的部分其实是敏感词屏蔽和有害信息过滤(ChatGPT 的屏蔽程度,在国内恐怕是不够的,因为它仍然可能在用户恶意诱导下说出不该说的东西)。 2. 再来简单聊聊微软。很多华人,都觉得微软低效是因为印度人太多,尤其是因为印度人做了CEO。但是这种言论是错误的。从ChatGPT这件事中就能看出微软现任 CEO Satva Nadella的眼界。首先,当时OpenAI缺钱、且做出来的东西都是Dota2...
封杀这个公式,ChatGPT智商将为零
引 2022年,ChatGPT问世。 一经出现便掀起滔天巨浪。 如果你跟ChatGPT聊过天,一定会震撼于它所涉猎极广: 既能创造诗歌,也能修改代码。 可以批改作业,还能撰写论文。 写文案易如反掌,给方案不在话下。 ...... 有人兴奋,有人恐慌。 有人说,它会带来一次新的“工业革命”。 有人说,它会引发21世纪的“新卢德运动”。 这其实不是AI第一次向人类展示它的力量。 自动驾驶、MIT主导的人类写字系统、SIRI智能语音助手、AlphaGo...... 但这一次,ChatGPT确实惊吓到了人类。 我们能抵挡来势汹汹的AIGC狂潮吗? 人类是不是真的会被ChatGPT取代? 要回答这些问题,让我们先回归数学。 因为ChatGPT背后的核心本质,是“贝叶斯公式”。 1 什么是贝叶斯公式?...
Why Transformers are Slowly Replacing CNNs in Computer Vision?
Why Transformers are Slowly Replacing CNNs in Computer Vision? Before getting into Transformers, let’s understand why researchers were interested in...
“流浪气球”事件让这家中国气球制造企业爆红,堪称第二个华为
原标题:“流浪气球”事件让这家中国气球制造企业爆红,第二个华为横空出世了! 在全球舆论聚焦中美“气球门”事件的政治关系之时,也开始关注这个“流浪气球”承载的科技意义。 美国正在打捞被击落的气球碎片,拜登政府表示,将透过研究这颗中国气球,取得有关中国情报能力的重要数据。 据悉,高空气球依然是美国研究的重点。Politico曾报道称,“美国五角大楼大幅增加了高空气球的预算,希望它们能够协助跟踪和拦截俄罗斯与中国的高超音速导弹。” 这个流浪万里的高空气球有何技术价值,仅从美国气球监测专家说法中捕捉到的信息,至少有几个值得关注: ①它是高空气球,飞行高度超过30000米,远远高于商业航空交通; ②气球的大小相当于三辆公共汽车的长度; ③气球具有持久性,以太阳能供电,能够携带无线电和传感器; ④一种由人工智能引导的工具,可能携带美国方内部尚未掌握的制导技术…… 中方表示,该气球属于民用性质,用于气象等科研。针对美军方击落该气球,中方表示,将坚决维护有关企业的正当权益。 显然,该气球是一家中国民间企业制造的。很快一家气象气球制造商突入舆论眼球,成为网上热搜。它就是中国化工株洲橡胶研究设计院有限公司(简称“株洲橡胶”)。 尽管还不能确定该“流浪气球”是否为株洲橡胶制造并送上天空,但这家中国企业却是真真的中国乃至全球气象气球制造之王。 株洲橡胶前身是化工部乳胶工业研究所,创建于1964年。它是全国首批242家转制科研单位之一。 株洲橡胶官网显示,它是1992年4月6日在湖南省株洲市注册成立的有限责任公司,是全国乳胶行业唯一专业研究院,主要从事以气象气球为主的乳胶制品、高分子复合材料、特种橡胶制品的研制、开发、生产与检测,主要产品和服务包括:各种规格的气象气球…… 株洲橡胶1999年转制,最初投资医用丁基橡胶瓶塞生产线,由于前期经营不善及市场剧变,濒临倒闭,资产负债率一度高达140%......临危受命、接任总经理的孙建华,决定研发探空气球,把气象气球作为株洲橡胶的拳头产品,2010年在探空气球领域崭露头角。 当年,中国气象局首次承办世界气象组织(WMO)第八届国际探空仪系统比对实验,为了使用国产气球,打破以往比对实验全部采用日本生产的探空气球作为飞行载体的历史,株洲橡胶在2009年临危受命,决定研制2000克、30000米高度的高空气象探测气球,实验结果比芬兰Vaisala公司在德国斯图加特自动放球器试验中提供的探空气球还高出近20%。 国际探空仪系统比对实验,被称为是世界气象探空“奥林匹克运动会”。株洲橡胶抓住了这次崭露头角的机会,且一举夺冠。 这一战役,何其关键! 株洲橡胶成为了中国气象局气象气球定点研究生产企业,也是中国仅有的两家气象气球生产企业之一。...