据悉，亚马逊（AWS）推出了第三代AI练习芯片Trainum3，是首款采取3nm工艺节点制作的AWS芯片，首批实例估计将于2025岁尾上市。本文援用地点：自从2018年推出基于Arm架构的CPU Graviton以来，亚马逊]article_adlist-->始终努力于为客户开辟自研的芯片产物，Trainium是专门为超越1000亿个参数模子的深度进修练习打造的呆板进修芯片。在2024年re:Invent年夜会上，AWS发布Trainium2正式可用，其机能比第一代产物晋升4倍，能够在极短的时光内练习基本模子跟年夜言语模子。亚马逊发动新挑衅亚马逊将推出由数十万颗自研Trainium芯片构成的超等算力集群，该集群将落地美国，2025年建成后将成为天下上最年夜的人工智能模子练习集群之一。凸显了亚马逊此前对自研芯片Trainium的许诺 —— 将Trainium视为替换英伟达GPU的备选选项，控制更多的自动权有利于增加对英伟达的依附，为客户下降本钱。该芯片集群将供由AI始创公司Anthropic应用。在2024年re:Invent寰球年夜会上，Anthropic的结合开创人兼首席盘算官Tom Brown发布了「雷尼尔打算」（Project Rainier），该算力集群就是此中的中心规划。Anthropic是亚马逊投资的AI始创公司：2023年9月，亚马逊向Anthropic投资40亿美元；往年11月，亚马逊再次向Anthropic追加40亿美元投资。在融资申明中，Anthropic夸大两边将配合开辟Neuron软件，它相似于芯片与AI模子之间的结缔构造（connective tissue），直接对标英伟达CUDA。此举背地，经由过程投资的方法将自研芯片跟Anthropic深度绑定，咱们能够看到亚马逊在年夜模子上更年夜的野心。Anthropic推出的Claude系列模子也已集成在Amazon Bedrock中，从模子才能上看，Claude系列模子是现在市道上多少乎多数能够跟OpenAI旗下GPT-4对标的模子。为了争取更多有年夜模子跟云盘算应用需要的客户，亚马逊抉择结合Anthropic是对标微软+OpenAI的形式。微软Azure的收入增加，有不少是来自微软供给的GPT-4进口，这象征着OpenAI走红后，其为微软的云效劳Azure带来了更多新增客户，亚马逊也能够复制这种形式，即应用AI年夜模子带来的增量追求更多的市场份额。据Synergy Research Group最新颁布的数据预算，2024年第三季度，亚马逊在寰球云基本设备市场的市场份额到达31%，当先于微软Azure平台的20%跟谷歌云的11%。亚马逊展示出了其在芯片互联技巧上的奇特上风，机密兵器是其收集技巧NeuronLink，这项技巧能够使全部四个效劳器彼此通讯。与英伟达基于Blackwell架构芯片打造的效劳器比拟，可能更机动地将更多芯片衔接在一同，从而年夜幅度晋升运算速率，为用户带来愈加流利、高效的AI运算休会。值得一提的是，苹果作为科技行业的巨子，也抉择了与亚马逊AWS配合，采取其定制的AI芯片来支撑其搜寻等要害效劳。苹果呆板进修与人工智能高等总监贝诺伊·杜平（Benoit Dupin）表现苹果外部正在测试Trainium2芯片，估计可节俭约50%的本钱。同时，苹果还在踊跃评价最新的AI芯片能否可用于预练习其Apple Intelligence模子，这无疑为AWS的AI芯片技巧注入了更多的等待跟可能性。历数亚马逊云科技现在的自研产物声威不难发明，他们曾经领有包含通用途理器Graviton、AI练习芯片Amazon Trainium、AI推理芯片Amazon Inferentia，以及收集体系Nitro在内的至少四年夜类自研硬件/芯片家属。依据云本钱治理跟优化平台Vantage的一项考察表现，在实例范例的本钱付出方面，在2024第一季度的Amazon EC2 M7系列通用实例范例上，采取Graviton的M7g系列到达了34.5%；到了2024年第二季度，在Amazon RDS、Amazon ElastiCache跟Amazon OpenSearch托管效劳所采取的实例范例中，Graviton曾经超出了Intel。不丢脸出，作为连续的行业引导者，亚马逊云科技不仅是领有客不雅上更多的自研芯片品种。更为主要的是，他们是真的将自研芯片投入到了主力云盘算营业中，并已获得了客不雅上的宏大胜利。亚马逊自研芯片的上风在云厂商自研芯片的海潮中，亚马逊无疑是最早践行这一趋向的前驱：硬件自研之路始于2012年，而且从2013年就被建立为主要的营业战略，同年研收回了第一款自研芯片Nitro。Nitro并非现在的通用途理器或AI芯片，它实质上实在是一个公用硬件体系，重要用于高机能收集处置跟虚构化卸载，将效劳器的更多CPU算力束缚出来、让这些CPU机能可能被更多客户所应用。亚马逊自立实现的全部自研芯片均由Annapurna Labs团队计划跟制作。Annapurna Labs是亚马逊于2015年收购的半导体微电子公司，早在收购之前，两边就在Nitro体系的开辟方面严密配合。现在，Annapurna Labs团队成员散布在寰球多个所在，包含以色列的特拉维夫、加拿年夜的多伦多，以及德克萨斯州奥斯汀的试验室。亚马逊的自研硬件更是成为了其云效劳性价比一直攀升背地的主要要素。2021年Prime Day时期，亚马逊初次应用Amazon Graviton2支撑的Amazon EC2实例；2024年Prime-Day时期，亚马逊应用了超越25万个Graviton芯片为超越5800种差别的亚马逊电商效劳供给支撑。自从2006年推出第一代私有云效劳以来，亚马逊至今已自动贬价100次以上，乃至偶然贬价幅度极端宏大。比方就在往年10月，亚马逊云科技刚发布将Amazon DynamoDB按需吞吐量的价钱下降50%、将寰球表（Global Tables）的价钱下降多达67%。很显然，这种连续、自动的贬价行动，很年夜水平是得益于了亚马逊的自研硬件系统。亚马逊本人也受益于自研芯片“性价比”所带来的范围上风。此前亚马逊云科技副总裁Jeff Barr曾展现了一张Graviton4开辟时的实例集群快照，充足应用自研处置器的范围上风，应用了多达数十万个内核减速EDA电子计划主动化流程，峰值范围为畸形应用范围的5倍。跟着天生式AI需要的连续增加，芯片将会成为争取AI霸权的下一个疆场。在AI硬件范畴，英伟达确实把持世界。有数人在问：在将来多少个月乃至多少年内英伟达还能坚持高增加吗？竞争敌手能不克不及找到措施缩小差距？除了亚马逊，另有良多厂商正在开辟本人的AI芯片，比方微软、Meta、OpenAI、谷歌、AMD、英特尔。年终时有新闻称，英特尔、高通、谷歌及别的一些科技企业筹备联手挑战，配合缭绕软件开展。但英伟达CUDA的位置不是一夜之间能够撼动的，不但只是软件才能，还认为它15年的应用汗青，当初很多代码是缭绕CUDA开辟的，CUDA与良多AI及高机能盘算名目深度衔接在一同。值得留神的是，AI半导体市场现实上分红两年夜块 —— 练习跟推理，数据核心用GPU练习AI，推剃头生在效劳器或许边沿装备上。在练习市场，英伟达盘踞98%的市场份额，这种上风短期内不会消散，因而边沿AI推理市场是竞争敌手能够重点存眷的范畴。此中NPU（Neural Processing Units）就是局部厂商的研讨重点，它的能耗更低、愈加专业化。NPU能减速处置AI义务，包含深度进修跟推理义务，并行处置海量数据，还能够用专门的片上存储器疾速履行庞杂的人工智能算法，以实现高效数据存储跟检索。固然GPU处置才能更强、功效更多，但NPU更小、更廉价、更节能，在履行专业AI义务时，因为NPU采取特别架构，机能反而有可能高于CPU。
申明：新浪网独家稿件，未经受权制止转载。 -->
