香港飛龍.online 官方授權發布的第4代「香港飛龍」標誌 本文内容： 如果您希望可以時常見面，歡迎標星收藏哦~來源：內容來自半導體行業觀察綜合，謝謝。據theinformation報道，Nvidia完成了對GPU雲初創公司Lepton的收購。資料顯示，LeptonAI成立於2023年，由MetaPlatformsInc.人工智能實驗室前研究員賈揚清和JunjieBai聯手創立。兩人幫助開發了多種行業標準的AI工具，包括Facebook母公司流行的模型開發框架PyTorch。據報道，LeptonAI擁有約20名員工，其客戶包括多家風險投資支持的初創公司。該公司的同名雲平臺針對AI工作負載進行了優化。客戶可以使用它來訓練AI模型和執行推理，即在訓練完成後在生產中運行神經網絡的任務。LeptonAI提供了一箇可視化界面，用於在其雲中設置訓練集羣。該公司提供多種Nvidia顯卡供您選擇。對於同時訓練多箇模型的團隊，該平臺提供了一種工具，可用於集中管理分配給每個項目的硬件數量。在訓練過程中，AI模型有時會遇到錯誤，從而降低其輸出質量。LeptonAI平臺提供了檢測此類錯誤的功能。它還能發現更細微的技術問題，例如神經網絡在訓練期間可能使用的內存超過應有的內存的情況。模型開發完成後，LaptopAI客戶可以將其部署在公司雲中經過推理優化的實例上。該平臺承諾提供每秒超過600個令牌的處理速度，同時將延遲保持在10毫秒以下。當需求增加時，自動擴展功能會自動向客戶的推理環境添加更多硬件資源。LeptonAI使用vLLM等開源工具來加速推理。該技術將類似的LLM提示合併爲單個請求，從而減少了模型必須執行的處理量。開發人員還使用vLLM來減少其模型的內存佔用。目前尚不清楚Nvidia是尋求收購LeptonAI以獲得其機器學習人才，還是計劃繼續提供這家初創公司的雲平臺。該平臺與幾家Nvidia主要客戶的產品競爭。其中一家客戶是人工智能雲運營商CoreWeaveInc.，該公司計劃於今天晚些時候進行首次公開募股。就在英偉達可能收購LeptonAI的報道發佈幾天前，有消息稱該公司收購了另一家風險投資支持的人工智能初創公司GretelLabsInc.。據報道，這筆交易的價值超過3.2億美元。Gretel提供用於創建合成數據的工具，這些數據是自動生成的，可用於訓練人工智能模型。對於英偉達來說，他們也提供雲中雲服務，這單收購會讓他們大有裨益。Nvidia的DGXCloud於2023年推出，是在其他公司的雲平臺上提供的服務。雲提供商租用Nvidia的服務器並將其部署爲雲，Nvidia可以向尋求大型GPU超級計算機的企業營銷和銷售這些雲。谷歌、微軟、甲骨文和AWS均採用該產品，其中AWS將於2024年12月採用該解決方案。雖然這看起來很複雜，但真正開發和提供自己的雲計算平臺將使Nvidia成爲其一些最大客戶的直接競爭對手——在2024年11月的2025年第三季度財報電話會議上，該公司表示，“雲服務提供商約佔我們數據中心銷售額的一半，收入同比增長超過2倍。”該公司還擁有新興的雲和軟件業務，該業務直接向企業出租服務器並提供用於開發AI模型和應用程序的軟件。在同一財報電話會議上，Nvidia表示其軟件、服務和支持收入創造了15億美元的年收入。該公司去年增加了對雲服務的投資。Nvidia在其2024年5月的收益報告中表示，它已承諾在未來幾年內至少在雲計算服務上投入90億美元，高於1月份承諾的45億美元。這個數字包括DGXCloud。半導體精品公衆號推薦專注半導體領域更多原創內容關注全球半導體產業動向與趨勢*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅爲了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯繫半導體行業觀察。今天是《半導體行業觀察》爲您分享的第4088期內容，歡迎關注。『半導體第一垂直媒體』實時專業原創深度公衆號ID：icbank喜歡我們的內容就點“在看”分享給小夥伴哦 (本文内容不代表本站观点。) --------------------------------- |
本網站是"非商業"(non-commercial)。 暫統計至2025年6月25日，本網站共113091篇文章。 本網頁使用CDN cache緩存，顯示的網頁內容可能並非最新版本。
