最強AI芯片升級！英偉達H200登場：推理速度翻倍，明年二季度交付

　　AI芯片H100的熱度還沒過，芯片巨頭英偉達(Nasdaq：NVDA)又打出一張新王牌——H100的升級版。

　　當地時間11月13日，英偉達正式宣布，在目前最強AI(人工智能)芯片H100的基礎上進行一次大升級，發布新一代H200芯片。H200擁有141GB的內存、4.8TB/秒的帶寬，并將與H100相互兼容，在推理速度上幾乎達到了H100的兩倍。H200預計將于明年二季度開始交付，英偉達尚未公布其價格。

　　英偉達還透露，下一代Blackwell B100 GPU也將在2024年推出，性能已經“望不到頭”。

　　英偉達預計在2024年推出H200和B100兩款芯片。來源：英偉達官網　　與作為前輩的A100和H100相比，H200最大的變化就是內存。搭載“世界上最快的內存”HBM3e技術的H200在性能上得到了直接提升，141GB的內存幾乎是A100和H100最高80GB內存的2倍，4.8TB每秒的帶寬則達到了A100的2.4倍，也顯著高于H100 3.35TB每秒的帶寬。

　　英偉達表示，根據使用Meta的70B大模型Llama 2進行的測試，H200的輸出速度幾乎是H100的兩倍。基于與H100相同的Hopper架構，H200將具有H100的一切功能，例如可以用來加速基于Transformer架構搭建的深度學習模型的Transformer Engine功能。

　　根據官方發布的圖片，H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍，在高性能計算HPC方面的速度更是達到了雙核x86 CPU的110倍。

來源：英偉達官網/侵刪

　　英偉達加速計算總經理兼副總裁伊恩·巴克 (Ian Buck)表示：“要利用生成式AI和高性能計算HPC來構建智能，需要利用大容量、超高速的GPU內存來高速快速地處理大量數據。英偉達H200將為業界領先的端到端AI超級計算平臺進一步加速，以解決一些世界上最重要的挑戰。”

　　從今年年初起，英偉達股價已經上漲了超230%，截至11月14日，公司總市值達到1.2萬億美元。當天，英偉達股價在H200發布后一度漲超490美元，全日收于486.2美元，漲0.59%，盤后漲0.3%，股價實現九連漲。

　　美國知名經濟評論員吉姆·克雷默(Jim Cramer)表示，英偉達最新的高端芯片可能會為其股價提供推動力，幫助其在生成式AI熱潮中進一步上漲。

　　此前，根據瑞杰金融(Raymond James)統計的數據，H100芯片的價格已經到達了25000美元到40000美元之間，而一個AI訓練過程需要數千個這樣的芯片協同工作。在當下的AI熱潮中，這也使得H100成為了硅谷最搶手的“硬通貨”。

　　科技網站The Verge表示，最關鍵的問題在于英偉達能否為市場提供足夠的H200，或者它們是否會像H100一樣在供應量上受到限制。而對于這點，英偉達并沒有給出明確的答案，只表示公司正在與“全球系統制造商和云服務提供商”合作來供應這些芯片，亞馬遜、谷歌、微軟和甲骨文等云服務商將是明年二季度首批使用H200的公司之一。

　　另外，英偉達競爭對手AMD已經在英偉達之前搶先推出了最新AI芯片MI300X，高達192GB的HBM3內存，5.2TB/秒帶寬。此前，AMD表示，公司正在今年第三季度向客戶提供樣品，產量將在第四季增加。預計AMD將在北京時間12月7日凌晨舉辦的“Advancing AI”特別活動上正式發布MI300X GPU。

　　值得一提的是，此前有消息稱，英偉達已開發出針對中國市場的最新改良版系列芯片——HGX H20、L20 PCle和L2 PCle。知情人士稱這三款芯片由H100改良而來，英偉達最快或將于本月16號之后公布。澎湃新聞記者采訪了多位產業鏈人士，均證實英偉達改良版芯片屬實。英偉達官方尚未對此作出評論。

　　今年10月17日， 美國商務部工業和安全局(BIS)發布了針對芯片的出口管制新規，尤其是對高算力的AI芯片進行了更嚴格的管控。其中一個很重要的新規定就是調整了先進計算芯片受限的標準，設置了新的“性能密度閾值”來作為參數。

　　10月31日，中國貿促會新聞發言人張鑫表示，美方新發布的對華半導體出口管制規則，進一步加嚴了人工智能相關芯片、半導體制造設備對華出口的限制，并將多家中國實體列入出口管制“實體清單”。美國這些措施嚴重違反了市場經濟原則和國際經貿規則，加劇了全球半導體供應鏈撕裂與碎片化風險。美國自2022年下半年開始實施的對華芯片出口禁令正在深刻改變全球供需，造成2023年芯片供應失衡，影響了世界芯片產業格局，損害了包括中國企業在內的各國企業的利益。

　　英偉達將于美國時間11月21日盤后發布2023財年第三財季財報。根據美國投資研究公司Zacks Investment Research的數據，預計調整后的每股收益(EPS)將達到3.01美元，去年同期為0.34美元。