公司新闻

nba火狐体育登录首页:国内首个二次迭代AI练习芯片燧原科技拿下四个国内榜首
发布时间: 2024-03-29 01:10:23 来源:火狐体育靠谱吗 作者:火狐体育投注靠谱不

  从2018年3月树立到2021年7月,燧原科技用了三年多时刻完结了一家AI草创公司的蜕变——从Pre-A到C轮共超30亿元的融资以及AI练习和推理芯片产品的完好布局。

  2021年7月7日,燧原科技发布 “邃思2.0”芯片,依据邃思2.0的“云燧T20”练习加快卡和“云燧T21”练习OAM模组,全面晋级的“驭算TopsRider”软件渠道以及全新的“云燧集群CloudBlazer Matrix”,在算力标准、存储容量和带宽等多方面完结了大幅提高和打破。

  燧原科技CEO赵立东(左)与燧原科技COO张亚林(右)一同发布“云燧T20”练习加快卡和“邃思2.0”芯片

  燧原科技是国内榜首家一同具有高功能云端练习和云端推理产品的草创企业。作为国产AI芯片企业,咱们可以看到它的星星之火早已开端燎原。

  在这十年中,商场逐步老练。越来越多的企业开端使用人工智能来剖析他们搜集的海量数据,而政府则将资金投入深度学习研讨以坚持领先地位。德勤剖析师Costi Perricos表明,人工智能将成为各国竞赛的“下一个焦点”。

  AI范畴和传统的核算芯片不同,CPU、GPU现已有较长的前史,许多技能都需求授权,形成了专利墙。从芯片、软件到客户,现已形成了完好且老练的工业生态。

  因而,即便英伟达在AI练习芯片范畴占有肯定的主导地位,仍有连绵不断的对手迎头赶上。

  谷歌于2015年开端制作自己的芯片;在2016年收买Annapurna Labs后,亚马逊上一年开端将Alexa的大脑转移到自己的Inferentia芯片上;百度旗下的昆仑,最近估值为20亿美元;高通具有Cloud AI 100;IBM 正在致力于节能规划。AMD收买Xilinx用于AI数据中心作业,Intel在2019年为其Xeon数据中心CPU添加了AI加快;它还收买了两家草创公司:2016年以4.08亿美元收买了 Nervana,2019年以20亿美元收买了Habana Labs。

  关于国产企业,一方面,商场和生态依然存在可操作的空间。另一方面,跟着5G和人工智能职业的快速开展,我国AI芯片职业商场生长空间巨大,估计2023年商场规划将打破千亿元,如此巨大的商场,如何不心动?

  在一众国产厂商中,燧原科技无疑是其间的佼佼者。在此次发布会中,燧原科技从软硬件两方面下手,打造自己的AI芯片地图。

  数据是最好的证明。在发布会上,咱们看到,邃思2.0是我国榜首个支撑TF32数据精度的芯片、国内最大的AI核算单芯片、我国榜首个支撑世界最先进内存的产品、对超大规划算法模型的超强支撑才能所谓“技多不压身”。值得注意的是,邃思2.0也是2021世界人工智能大会的十大“镇馆之宝”之一,可见其名贵价值。

  “邃思2.0”芯片、依据邃思2.0的“云燧T20”练习加快卡,“云燧T21”练习OAM模组,以及全面晋级的“驭算TopsRider”软件渠道以及全新的“云燧集群CloudBlazer Matrix”的发布,让燧原科技成为了国内首家发布第二代人工智能练习产品组合的公司。

  TensorFloat-32(TF32)是NVIDIA A100中用于处理矩阵数学(即张量运算)的新数值格局,矩阵数学在AI及部分HPC运算中很常用。直白地说,NVIDIA A100 GPU中AI练习与HPC速度提高20倍很大程度上便是依托TF32。

  跟着AI网络和数据集持续扩张,算力需求日积月累,研讨人员尝试用较低精度的数学核算来提高功能,但此前这样做需求调整一些代码,而TF32既做到功能提高,一同又无需更改使命代码。

  FP32是当时深度学习练习和推理中最常用的格局,而TF32的作业方式与FP32类似,TF32 Tensor Core依据FP32数据的输入转换成TF32格局后进行运算,终究输出FP32格局的成果。

  燧原科技创始人兼COO张亚林指出,现在业界的判别是,TF32简直可以使用在大部分AI场景中,包含机器视觉、语音、天然元翻译、强化学习等,都具有使用TF32的潜力。从职业趋势来看,TF32很可能会成为用于练习事务的最重要的数据精度类型之一。

  燧原科技首先选用TF32数据精度,无疑是斗胆的决议方案,背面也显现出其气魄。这也意味着燧原有清晰的技能规划路途,强壮的研制实力和精准的工程交给才能。

  邃思2.0也是现在国内最大的AI核算单芯片。大尺度的芯片带来了工程完结难度的指数级增加,应战工程技能的极限,但也带了巨大的收益——即大幅度提高了单芯片的归纳才能,以及数据中心的算力密度。

  前者带来的明显客户价值是大幅提高了算法模型功能,然后有用缩短模型收敛时刻,协助客户更快上线、布置与运营事务,有用下降了客户的归纳本钱。后者则可以有用下降数据中心的PUE目标,也就意味着可以制作绿色智能数据中心,这也充沛契合国家关于碳中和、碳达峰的方针导向,是IDC的未来开展趋势。

  邃思2.0更是我国榜首个支撑世界最先进内存HBM2E的产品。据悉,AI范畴的算法模型练习对内存的存储容量和存储带宽是强需求,是处理存储墙的中心方案之一。越来越多用于认知智能的超大规划模型的推出加重了对大内存的需求,例如6月初北京智源人工智能研讨院新推出全球最大的预练习模型:悟道2.0,参数高达1.75万亿。而HBM2E是现在用于处理该需求的最佳存储技能方案。

  依据这颗芯片,燧原科技还推出了其二代人工智能练习产品“云燧T20”。伴跟着人工智能使用场景的多样化和深度化,特别是依据天然语言处理技能的认知智能的开展,新颖的算法模型越来越大,核算超大模型要求超大算力来支撑。集群的规划以及集群可以供给的有用算力,是支撑多样化模型练习的根底。依据第2代云燧练习加快卡强壮的互联才能,可以以更高的集群功能供给更快的数据处理才能,也可以有用下降根底设施体系的全体复杂度和本钱,然后为客户提高价值。

  众所周知,英伟达在硬件上的实力处于世界领先水平。但实际上,英伟达的软件和协作同伴生态体系是竞赛对手愈加难以对抗的部分。

  此次发布会上,燧原科技隆重推出了燧原异构核算生态——“燎原”方案,这既是一个品牌,也是一个方案,这个方案有三大特征,榜首,一定要原始立异,自己从头打造根底;第二,一定要树立标准化生态,第三,以敞开的姿势共建生态。

  在软件方面,早在2019年初次发布会时,燧原科技就推出了自主研制的核算及编程渠道“驭算”。材料显现,驭算首要包含了分布式调度、软件开发包(SDK)和设备驱动层,并供给Benchmarks等,可以下降开发门槛。一同还兼容TensorFlow、Pytorch、MXNet和ONNX等干流结构,支撑C/C++算子编程、支撑依据LLVM的编程东西链、支撑依据GDB算子调试器和功能剖析器,供给算子、指令集优化和敞开硬件加快才能。

  此次同步晋级的驭算2.0,得益于完善的软件架构规划,绝大多数模型可无缝从传统GPU开发渠道搬迁到燧原渠道上来,简直不必修正代码,对开发者十分友爱。一同燧原也供给模型搬迁服务,协助客户处理搬迁过程中遇到的技能以及运维上的困难,最大程度下降搬迁本钱,成为燧原科技构建原始立异软件生态的柱石。彻底自研的软硬件架构,助力燧原科技在知识产权和产品晋级迭代上可以自主掌控方向和节奏。

  不仅如此,燧原科技正在与杭州之江实验室、上海交通大学、西安交通大学等一系列产学研同伴协作,这些协作都依附于燧原科技已有产品进行协作,经过现有的产品不断去打磨生态。

  值得一提的是,上一年3月国家提出了加快新式根底设施建造的国家战略,人工智能和数据中心都是要点开展方向,为公司带来了更大的商场时机。依据云燧T20和T21练习产品、GCU-LARE互联技能和新一代驭算,燧原科技打造了标准化的集群产品CloudBlazer Matrix,有用下降人工智能超算集群的全体复杂度和本钱。一同经过与协作同伴的联合开发,一同构建超大规划的液冷智能数据中心,以呼应国家“低碳算力”和“绿色一体化智能核算”的战略方向。

  这也意味着燧原科技现已开端打造从国家层面动身的、低碳的绿色智能数据中心。

  AI芯片范畴,现在成为国内的抢手赛道,百家争鸣。燧原的打破之道,是在产品上做到极致。以更快的迭代速度、更快的客户反应来加快产品迭代,才能在商场中树立自己的竞赛优势。

  依托于实力强壮的研制团队,在树立18个月后,燧原科技就推出了其首款云端练习产品 “云燧T10”及软件全栈“驭算”,又在2020年9月宣告“云燧T10”落地商用,并在12月宣告首款云端推理产品正式量产发布。

  从0到1,在两年半时刻内完结了大芯片、软件全栈、体系集群从产品界说、规划验证、流片到产品的终究商业落地,为国产AI芯片的开展供给一条全新的路途。

  与老练企业比较,一家草创企业可以拿出一代产品已属不易,更可贵的是,这款产品可以落地,得到商场的认可,这是更为困难的过程。张亚林指出,2020年燧原科技发布榜首个客户落地开端,就一直在坚持三条事务线:泛互联网、传统职业和新基建,在这三个事务线上不断发力,构筑整个事务群,一同也得到了十分多的客户反应,这在反应旁边面印证了客户对燧原科技的注重度,也助力催生了第二代产品。所以,第二代产品是在看到一些客户的需求后推出的。燧原整个公司推出的产品与节奏,榜首代和第二代距离是一年半,快于职业界的标杆速度。

  榜首架马车,当然是燧原科技老练的产品战略规划。从创业之初,燧原科技就在规划执行三个要害点,包含文明一致,即团队的高度协同和客户为先的底子;行为形式一致,即优异的团队管理制度;正循环,即产品和本钱投入的正循环。

  诚如前文所言,燧原科技诞生于2018年,从那一年开端,炽热的AI商场开端出现下滑趋势,2019年、2020年AI工业开端进入融资急速降温期。我国人工智能范畴 2018年的融资金额高达667亿元,2019年、2020年融资金额别离降至272亿元和243亿元。

  在缺少商业形式和落地场景下,出资人以为许多AI故事现已讲不动了。但燧原科技好像逃离了AI变冷的魔咒,相反,出资人在燧原科技展示了极大的热心。

  2018年,燧原科技刚刚树立不久就宣告了Pre-A轮融资3.4亿元人民币,腾讯领投,震动业界。

  2019年6月,燧原科技在整个大环境感受到本钱寒意的时分,又宣告取得红点我国领投的新一轮融资3亿。

  2020年5月,完结7亿人民币B轮融资,领投方为半导体工业基金武岳峰本钱,老股东腾讯持续跟投。

  2021年1月,再度完结18亿人民币C轮融资,领投方为中信工业基金、中金本钱旗下基金、春华本钱。

  本着“做大芯片,拼硬科技”的初心,燧原科技志在占据高端云端练习芯片范畴,对标世界芯片巨子。燧原科技CEO赵立东曾在采访中指出:“咱们从一开端就挑选了高举高打的路途:瞄准数据中心,做AI练习加快芯片。由于那是蓝海商场,拼的是技能实力,不是价格。一同,这个商场被巨子独家独占,我国客户迫切希望看到可代替的供货商和产品。对燧原科技来讲,技能门槛高是应战,更是时机。”

  第三驾马车,是人才团队与技能堆集。一家草创企业在短短三年内完结迭代,必定有多方面的要素,身处智力密集型工业,可以站立在国内AI芯片榜首阶梯,唯有靠产品说话。

  公司创始人兼CEO赵立东曾在硅谷作业超越20年,担任过AMD核算事业部高档总监和产品工程部高档总监等职位,担任CPU/APU产品规划,商场剖析及拓宽和CPU/GPU/APU及多个相关中心IP的研制;2014到2017年间,赵立东历任紫光通讯科技集团有限公司副总裁、紫光集团旗下锐迪科微电子公司总裁和紫光集团有限公司副总裁等职位。

  公司的另一位创始人兼COO张亚林先生则于2008年参加AMD,历任资深芯片司理、技能总监。张亚林从前作为全球芯片研制首要担任人之一,在AMD上海研制中心成功领导开发并量产了多颗个世界级芯片,具有丰厚的工程和产品化实战阅历。其间包含领导全球团队为微软(Microsoft)定制开发了XBOX-ONE系列主芯片;领导开发了全球现在最大的交融芯片APU,并一次量产成功,该款芯片成功用于小霸王最新发布的Z+游戏电脑。他还曾参加创建、开展和管理了AMD上海研制中心交融芯片部分、AMD北京研制中心以及AMD我国多媒体IP部分。

  在这两个人带领下,公司打造了一支均匀具有15年以上的高端芯片及相关软件生态体系的开发及量产阅历的中心研制团队,具有丰厚的工程和产品化实战阅历,成功开发并量产过多颗大型芯片的研制团队,走上了“征战”之路。

  燧原科技一直坚持自主研制与立异,已取得超越52项专授权力,其间包含45项发明专利,专利内容涵盖了芯片的运算单元、中心功能模块、到封装以及体系集群,还包含软件的架构和优化。此外,燧原科技有近30项专利正在请求中,充沛展示了其强壮的研制和工程才能。

  芯片是电子产品的“心脏”,是国家“工业粮食”。近年来,国家出台了各项方针支撑芯片工业的开展。3月1日,工信部也说到,我国政府高度注重芯片、集成电路工业,并发布了促进集成电路工业和软件工业高质量开展的方针,全面优化完善高质量开展芯片和集成电路工业的有关环境方针。

  燧原科技本着“做大芯片,拼硬科技”的初心,专心研制针对云端数据中心的深度学习高端芯片,定坐落人工智能练习及推理处理方案,正在向成为国内AI芯片领军企业跨进。


上一篇:芯闻|前AMD全球副总裁加盟国产GPU公司 又来两封提价函 一个芯片电阻 一个衔接器

下一篇:国内仅有真实具有GPU架构实践芯片产品的公司