大模型 文章 進入大模型技術(shù)社區(qū)
拿LoRA代碼來微調(diào)大模型
- 1 簡介LoRA上一期介紹了如何復(fù)用免費的大模型源代碼，來搭配企業(yè)的專有數(shù)據(jù)而訓(xùn)練出形形色色的自用小模型。免費代碼既省成本、可靠、省算力、又自有IP，可謂取之不盡、用之不竭的資源，豈不美哉！重頭開始訓(xùn)練自己的小模型，是一條鳥語花香之路。然而，基于別人的預(yù)訓(xùn)練(Pre-trained) 大模型，搭配自有數(shù)據(jù)而進行微調(diào)(Fine-tuning)，常常更是一條康莊大道。隨著LLM 等大模型日益繁榮發(fā)展，基于這些大模型的遷移學(xué)習(xí)(Transfer learning)，將其預(yù)訓(xùn)練好的模型加以微調(diào)(Fine tune
- 關(guān)鍵字： 202401 LoRA代碼 大模型
摩爾線程首個千卡KUAE智算中心落地
- 據(jù)摩爾線程官網(wǎng)消息，12月19日，摩爾線程首個全國產(chǎn)千卡千億模型訓(xùn)練平臺——摩爾線程KUAE智算中心揭幕儀式在北京成功舉辦，宣告國內(nèi)首個以國產(chǎn)全功能GPU為底座的大規(guī)模算力集群正式落地。與此同時，摩爾線程聯(lián)合國內(nèi)眾多合作伙伴發(fā)起并成立了“摩爾線程PES - KUAE智算聯(lián)盟”和“摩爾線程PES - 大模型生態(tài)聯(lián)盟”，共同夯實從智算基礎(chǔ)設(shè)施到大模型訓(xùn)練與推理的國產(chǎn)大模型一體化生態(tài)，持續(xù)為我國大模型產(chǎn)業(yè)發(fā)展加速。據(jù)官方介紹，摩爾線程KUAE智算中心解決方案以全功能GPU為底座，是軟硬一體化的全棧解決方案，包括
- 關(guān)鍵字： 摩爾線程 GPU 大模型
AI算力芯片天下一分為四，中國實力漸顯
- 近年來「算力」逐漸成為學(xué)術(shù)界、產(chǎn)業(yè)界、公眾的熱詞，算力、算力網(wǎng)絡(luò)、算力指數(shù)、算力經(jīng)濟、東數(shù)西算、東數(shù)西存等新名詞不斷涌現(xiàn)。那么到底什么是算力？「算力」又如何成為近幾年的熱詞？什么是算力？算力是設(shè)備通過處理數(shù)據(jù)，實現(xiàn)特定結(jié)果輸出的計算能力?，F(xiàn)階段算力主要可分為基礎(chǔ)算力、智能算力和高性能計算算力三種類型?；A(chǔ)算力主要由基于 CPU 芯片的服務(wù)器提供，面向基礎(chǔ)通用計算。智能算力主要基于 GPU、FPGA、ASIC 等芯片的加速計算平臺提供，面向人工智能計算。高性能計算算力主要基于融合 CPU 芯片和 GPU 芯
- 關(guān)鍵字： 算力 大模型 AI
北京發(fā)布白皮書：美國和中國發(fā)布的通用大模型總數(shù)占全球發(fā)布量的 80%
- IT之家 11 月 29 日消息，IT之家從北京市政府網(wǎng)站獲悉，11 月 29 日，北京市科學(xué)技術(shù)委員會、中關(guān)村科技園區(qū)管理委員會在 AICC 2023 人工智能計算大會上發(fā)布了《北京市人工智能行業(yè)大模型創(chuàng)新應(yīng)用白皮書（2023 年）》（以下簡稱《白皮書》）。圖源 Pexels《白皮書》從大模型全球發(fā)展態(tài)勢、國內(nèi)外行業(yè)應(yīng)用概述、北京應(yīng)用情況和發(fā)展建議等方面進行了系統(tǒng)分析和闡述，旨在進一步推動大模型應(yīng)用落地，展示北京市大模型應(yīng)用成果，促進大模型價值傳播和供需對接?！栋灼氛J為，大模型技術(shù)迅速迭代
- 關(guān)鍵字： AICC 大模型 人工智能
大模型和生成式AI興起背景下,AI賦能的工業(yè)質(zhì)檢市場新動向
- 程蔭(IDC中國高級分析師)
- 關(guān)鍵字： 202311 大模型 生成式AI 工業(yè)質(zhì)檢
聯(lián)想首次發(fā)布大模型解決方案及服務(wù)
- 在烏鎮(zhèn)舉辦的2023世界互聯(lián)網(wǎng)大會算力網(wǎng)絡(luò)協(xié)同創(chuàng)新分論壇上，聯(lián)想首次對外推出聯(lián)想企業(yè)大模型服務(wù)。據(jù)一起聯(lián)想官微消息，近日，在烏鎮(zhèn)舉辦的2023世界互聯(lián)網(wǎng)大會算力網(wǎng)絡(luò)協(xié)同創(chuàng)新分論壇上，聯(lián)想集團副總裁、中國區(qū)方案服務(wù)業(yè)務(wù)總經(jīng)理戴煒以“算力時代 一切皆服務(wù)”為主題進行演講，并首次對外推出聯(lián)想企業(yè)大模型服務(wù)。旨在以智算服務(wù)為基礎(chǔ)，通過AI平臺部署進行推理加速、分布式訓(xùn)練&微調(diào)，幫助實現(xiàn)私有化大模型部署，全面賦能企業(yè)的業(yè)務(wù)系統(tǒng)，幫助客戶實現(xiàn)AI轉(zhuǎn)型。據(jù)悉，聯(lián)想首次對外推出了企業(yè)專屬的私有化大模型
- 關(guān)鍵字： 聯(lián)想 世界互聯(lián)網(wǎng)大會 AI 大模型
深言科技聯(lián)合清華大學(xué)開源 LingoWhale-8B 模型：免費商用，號稱性能超 GPT-3.5 Turbo
- IT之家 11 月 3 日消息，據(jù)深言科技官方公眾號消息，由深言科技與清華大學(xué) NLP 實驗室共同研發(fā)的語鯨 LingoWhale-8B 模型目前已面向社會開源，對學(xué)術(shù)研究完全開放，允許免費商用。IT之家經(jīng)過查詢得知，LingoWhale-8B 模型是擁有約 80 億參數(shù)的中英雙語大語言模型，在 C-Eval、MMLU、CMMLU 等多個權(quán)威的公開評測基準上，在 10B 以下開源模型據(jù)稱“達到領(lǐng)先效果”。不過官方同時聲稱，受模型參數(shù)量影響，大模型固有的幻覺問題、數(shù)學(xué)計算能力相對較弱、生成內(nèi)容有無
- 關(guān)鍵字： 深言科技 AI 大模型
阿里達摩院發(fā)布業(yè)內(nèi)首個遙感AI大模型
- 日前，阿里達摩院發(fā)布業(yè)內(nèi)首個遙感AI大模型，率先在遙感領(lǐng)域?qū)崿F(xiàn)了圖像分割的任務(wù)統(tǒng)一。據(jù)達摩院官微消息，日前，阿里達摩院發(fā)布業(yè)內(nèi)首個遙感AI大模型（AIE-SEG），率先在遙感領(lǐng)域?qū)崿F(xiàn)了圖像分割的任務(wù)統(tǒng)一，一個模型即可實現(xiàn)“萬物零樣本”的快速提取，可識別農(nóng)田、水域、建筑物等近百種遙感地物分類，還能根據(jù)用戶的交互式反饋自動調(diào)優(yōu)識別結(jié)果。官方介紹稱，該模型支持多模態(tài)交互、支持任意地表目標識別并建立多級語義標簽體系、支持包括衛(wèi)星與無人機圖像的全要素提取、支持交互式結(jié)果修正、支持通用及多分類變化檢測。在一些特定場景
- 關(guān)鍵字： 達摩院 AI 大模型
vivo自研大模型即將應(yīng)用于新系統(tǒng)
- vivo官宣將于近期發(fā)布自研AI大模型矩陣，將會在vivo新操作系統(tǒng)OriginOS 4中被首次應(yīng)用。據(jù)媒體報道，10月16日，vivo官宣將于近期發(fā)布自研AI大模型矩陣，其中包括十億、百億、千億三個不同參數(shù)量級的5款自研大模型，全面覆蓋核心應(yīng)用場景，這些大模型將會在11月1日發(fā)布的vivo新操作系統(tǒng)OriginOS 4中被首次應(yīng)用。最新數(shù)據(jù)顯示，vivo自研AI大模型同時位列C-Eval、CMMLU雙榜的全球中文榜單榜首，綜合能力十分強勁，特別是在人文、社科等領(lǐng)域的表現(xiàn)遠超同級別大模型。
- 關(guān)鍵字： vivo 大模型 AI
百度發(fā)布“靈境矩陣” ：砸億元打造文心一言插件生態(tài)
- 9月13日消息， 百度發(fā)布文心一言插件生態(tài)平臺“靈境矩陣”，向廣大開發(fā)者開啟邀測，并提供百億流量、億元基金等激勵措施，扶持插件生態(tài)建設(shè)。百度集團資深副總裁、百度移動生態(tài)事業(yè)群組（MEG）總經(jīng)理何俊杰表示：“如果說大模型是一顆聰明的大腦，那么插件就是大模型的手和腳，讓大模型讀萬卷書，行萬里路”?！办`境矩陣”今年9月1日開啟內(nèi)測邀請后，首批近百家合作伙伴的名額很快滿員。據(jù)悉，插件機制是拓展大模型能力邊界及構(gòu)建大模型應(yīng)用生態(tài)的關(guān)鍵。 百度靈境矩陣平臺大大降低了大模型插件開發(fā)的成本，無論是各類
- 關(guān)鍵字： 百度 大模型 文心一言 插件 靈境矩陣
百度智能云：基于大模型升級智能交通解決方案"ACE3.0"
- 9月5日訊，在2023百度云智大會上，百度智能云發(fā)布了基于大模型重構(gòu)的智能交通解決方案——ACE3.0 。ACE 3.0利用了文心大模型強大的知識壓縮能力，將車、路、云、圖的基本能力和交通全要素進行了聚合和泛化升級，提出了交通大腦大模型、全域信控大模型、智慧高速大模型等智能交通細分應(yīng)用場景，將打造超過百億參數(shù)的交通大模型，在交通感知、交通認知、交通預(yù)知、交通知識、交通交互等方面能力上進行提升，形成了具有領(lǐng)先優(yōu)勢的智能交通“中國方案”。過去，交警部門對拋灑物的檢測很難做到精準識別，而大模型讓這類事件的識別準
- 關(guān)鍵字： 百度 大模型 文心一言
英特爾通過軟硬件為LIama 2大模型提供加速
- 英特爾廣泛的AI硬件組合及開放的軟件環(huán)境，為Meta發(fā)布的Llama 2模型提供了極具競爭力的選擇，進一步助力大語言模型的普及，推動AI發(fā)展惠及各行各業(yè)。?大語言模型（LLM）在生成文本、總結(jié)和翻譯內(nèi)容、回答問題、參與對話以及執(zhí)行復(fù)雜任務(wù)（如解決數(shù)學(xué)問題或推理）方面表現(xiàn)出的卓越能力，使其成為最有希望規(guī)?；旄Ｉ鐣腁I技術(shù)之一。大語言模型有望解鎖更豐富的創(chuàng)意和洞察，并激發(fā)AI社區(qū)推進技術(shù)發(fā)展的熱情。?Llama 2旨在幫助開發(fā)者、研究人員和組織構(gòu)建基于生成式AI的工具和體驗。Meta發(fā)
- 關(guān)鍵字： 英特爾 軟硬件 LIama 2 大模型
大模型將成為AI開發(fā)新范式
- 人工智能的落地已經(jīng)發(fā)展到一定階段，向前一步的瓶頸在于某一廠商往往不具備足夠的可用于模型訓(xùn)練的數(shù)據(jù)資源，且缺乏充足的算力，很難將偏通用的AI模型落地到企業(yè)場景中。行業(yè)參與者面對這些挑戰(zhàn)推出多項舉措，包括自動化機器學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、提供云端算力等，其中大模型是現(xiàn)階段解決這些挑戰(zhàn)的重要途徑之一。什么是大模型？在大模型的早期階段，廠商宣傳中常提到千億級、萬億級參數(shù)為特大模型、超大模型。而在產(chǎn)業(yè)實際落地階段，不再追求模型參數(shù)的數(shù)量。IDC認為，大模型是對原有算法模型的技術(shù)升級，基于海量數(shù)據(jù)開發(fā)預(yù)訓(xùn)練模型，到最終用戶環(huán)
- 關(guān)鍵字： 大模型 AI
大模型介紹
您好，目前還沒有人創(chuàng)建詞條大模型!
歡迎您創(chuàng)建該詞條，闡述對大模型的理解，并與今后在此搜索大模型的朋友們分享。 創(chuàng)建詞條
歡迎您創(chuàng)建該詞條，闡述對大模型的理解，并與今后在此搜索大模型的朋友們分享。 創(chuàng)建詞條
大模型相關(guān)帖子
大模型資料下載
大模型專欄文章
關(guān)于我們 -
廣告服務(wù) -
企業(yè)會員服務(wù) -
網(wǎng)站地圖 -
聯(lián)系我們 -
征稿 -
友情鏈接 -
手機EEPW
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產(chǎn)品世界》雜志社 版權(quán)所有 北京東曉國際技術(shù)信息咨詢有限公司
京ICP備12027778號-2 北京市公安局備案：1101082052 京公網(wǎng)安備11010802012473
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產(chǎn)品世界》雜志社 版權(quán)所有 北京東曉國際技術(shù)信息咨詢有限公司
京ICP備12027778號-2 北京市公安局備案：1101082052 京公網(wǎng)安備11010802012473