比B200快10倍？AI芯片初創(chuàng)公司Etched沖擊英偉達(dá)
加入技術(shù)交流群
據(jù)媒體報道，硅谷人工智能（AI）芯片初創(chuàng)公司Etched表示，已在A輪融資中籌集1.2億美元，該公司計劃利用這筆資金進(jìn)一步開發(fā)其專用AI芯片。
本文引用地址：http://www.biyoush.com/article/202406/460434.htm據(jù)報道，由哈佛輟學(xué)生Gavin Uberti和Chris Zhu于2022年創(chuàng)立的Etched，憑借其用于AI的ASIC芯片，從最底層的架構(gòu)層面為主流AI大模型公司所采用的Transformer計算提供更優(yōu)性價比的選擇，在AI硬件領(lǐng)域引發(fā)了高度關(guān)注。
報道稱，Etched開發(fā)了一款名為Sohu的專為Transformer模型設(shè)計的ASIC芯片。Etched聲稱，Sohu芯片推理Llama-3 70B的速度比英偉達(dá)的H100快20倍，比今年3月推出的頂配芯片B200快上超過10倍，且功耗卻大大降低。
Sohu芯片減少了用于存儲器的空間，而將更多空間用于計算用途的晶體管，并通過只有一個大內(nèi)核的設(shè)計，減少了用來協(xié)調(diào)不同內(nèi)核的低效計算。
Etched表示，公司聘請了先前曾在賽普拉斯、博通等半導(dǎo)體公司工作過的人才，芯片則交給臺積電的Emerging Business Group制造。目前其Sohu AI芯片可以支援Google、Meta、微軟、OpenAI、Anthropic等大型科技公司所有的熱門Transformer。
作為隨著Transformer模型不斷推動生成式AI突破，Sohu芯片被認(rèn)為有望在AI推理側(cè)打破英偉達(dá)GPU一家獨大的格局，重塑AI計算的格局。
不過，據(jù)彭博社報道，Etched的Sohu芯片是執(zhí)行Transformer這類AI演算法，一旦未來有另一種類型的演算法取代了Transformer AI，Sohu就會沒用了。而英偉的GPU，例如H100是可以適用于任何AI演算法的。正如Gavin Uberti在接受采訪時表示，“我們正在人工智能領(lǐng)域下最大的賭注”，“如果Transformer消失了，我們就會死。但如果它們繼續(xù)存在，我們就是有史以來最大的公司。”
評論