云端邊全棧布局完成！商湯日日新SenseNova 5.0升級，實現全面行業落地云端邊全棧布局完成！商湯日日新SenseNova 5.0升級，實現全面行業落地
供稿 / 2024-04-23 18:2361002024年4月23日，上海——商湯科技SenseTime舉辦技術交流日活動，發布行業首個“云、端、邊”全棧大模型產品矩陣，以滿足不同規模場景的應用需求，并且全新升級“日日新SenseNova 5.0”大模型體系，其綜合能力全面對標GPT-4 Turbo，技術領跑加速生成式AI向產業落地的全面躍遷，實現大模型按需所取。
在人工智能發展的最基本法則——尺度定律（Scaling Law）的準則下，商湯持續尋求最有數據配比并建立數據質量評價體系，推動自身大模型研發的同時，也為行業伙伴提供大模型訓練、微調、部署和各類生成式AI的能力及服務。
商湯科技董事長兼CEO徐立表示：“商湯在尺度定律的指導下，會持續探索大模型能力的KRE三層架構（知識-推理-執行），不斷突破大模型能力邊界。”
“日日新SenseNova5.0”性能超越GPT-4 Turbo：文理雙修能力大幅提升，新增多模態交互
自去年4月首次發布，商湯“日日新SenseNova”大模型體系已正式推出五個大版本迭代。基于超過10TB tokens訓練、覆蓋大量合成數據，全新的“日日新SenseNova 5.0”（以下簡稱：日日新5.0）采用混合專家架構，推理時上下文窗口可以有效到 200K 左右。
本次更新主要聚集增強了知識、數學、推理及代碼能力，全面對標 GPT-4 Turbo，主流客觀評測上達到或超越 GPT-4 Turbo。
在文科能力方面，“日日新5.0”的創意寫作能力、推理能力以及總結能力均大幅提升，相同的中文知識注入后，可以獲得更好的理解總結及問答，為教育、內容產業等垂直應用場景提供有力輔助。
“日日新5.0”和GPT-4回答趣味推理問題：“媽媽給圓圓沖了一杯咖啡，圓圓喝了半杯后，將它加滿水，然后她又喝了半杯后，再加滿水，最后全部喝完。問圓圓喝的咖啡多，還是水多？”，“日日新5.0”回答正確。
在理科能力方面，“日日新5.0”數理能力、代碼能力及推理能力達到業內領先水平，為金融、數據分析等場景落地提供堅實基礎。
本次“日日新5.0”另一大核心指標就是多模態能力，商湯多模態大模型的圖文感知能力達到全球領先水平，在多模態大模型權威綜合基準測試MMBench中綜合得分排名首位，在多個知名多模態榜單MathVista，AI2D，ChartQA，TextVQA，DocVQA，MMMU 取得領先成績。
“日日新SenseNova5.0”在應用產品層面也實現了更卓越的多模態能力，支持高清長圖的解析和理解以及文生圖交互式生成，還可以實現復雜的跨文檔知識抽取及總結問答展示，還具備豐富的多模態交互能力。
率先完成“云端邊”全棧布局：端側模型位列行業首位，邊側推出企業級應用一體機
前瞻洞察中心化算力需求向端側擴展的未來趨勢及企業級在邊緣側的AI需求，商湯科技領先業內首次推出“云、端、邊”全棧大模型產品矩陣，其中包括應用于終端設備的“商湯端側大模型”，以及面向金融、代碼、醫療、政務等多個領域的邊緣產品“商湯企業級大模型一體機”。
今年是端側大模型應用的元年，為了滿足移動終端用戶對大模型技術的應用需求，商湯推出日日新·端側大模型，性能實現同等尺度性能最優，跨級尺度全面領先。
商湯還推出端云協同解決方案，可以通過智能化判斷協同發揮端云各自優勢，需要聯網搜索或處理復雜場景時分流至云端處理，部分場景端側處理占比超過80%，從而顯著降低推理成本。
商湯日日新·端側大語言模型的推理速度達到了業內最快，可在中端平臺實現18.3字/s的平均生成速度，旗艦平臺更是達到了78.3字/s。
擴散模型同樣可在端側實現業內最快的推理速度，端側LDM-AI擴圖技術在某主流平臺上，推理速度小于1.5秒，比友商云端app快10倍，支持輸出1200萬像素及以上的高清圖片，支持在端上快速進行等比擴圖、自由擴圖、旋轉擴圖等圖像編輯功能。
從今日起，商湯端側業務SDK正式發布，也歡迎集成體驗。
對于金融、代碼、醫療、政務等重點行業邊緣側日益增長的AI應用需求，商湯正式推出企業級大模型一體機，可同時支持企業級千億模型加速和知識檢索硬件加速，實現本地化部署，即買即用，降低企業應用大模型的門檻。相比行業同類產品，推理成本節約80%，檢索大大加速，CPU工作負載50%。
聯合生態伙伴創新AI 2.0時代產品應用，打造新質生產力
本次活動現場，商湯還邀請到金山辦公、海通證券、小米、閱文集團、華為等多位生態伙伴嘉賓，共同探討和交流大模型技術在辦公、金融、出行等不同領域的應用及前景。
自2023年起，商湯與金山辦公達成深度合作，基于“日日新”大模型的卓越代碼生成及工具調用能力，助力WPS 365打造更高效釋放場景能力的辦公新質生產力平臺，為企業構建專屬的“企業大腦”。金山辦公CEO章慶元表示：“在辦公應用場景內，商湯大模型的表現十分出色，能夠幫助我們的用戶解決辦公中的復雜問題，提升效率。”
在金融領域，海通證券與商湯科技聯合發布金融行業多模態全棧式大模型，雙方在智能客服、合規風控、代碼輔助、展業辦公助手等領域助推業務落地，并共研智能投顧、輿情監控等行業前沿場景，打通證券行業大模型落地的全棧式能力。海通證券副總經理兼首席信息官 毛宇星談到：“通過與商湯合作，我們利用大模型技術實現了海通證券數智化轉型，未來，我們將結合全棧式AI能力進行業務流程、交互變革與數智化業務系統重構。”
在個人出行場景，近期火爆市場的小米汽車SU7的智能車艙中就應用了商湯的大模型技術，基于商湯端云大模型解決方案，小米小愛同學為車主提供智能化交互體驗。小米集團小愛總經理王剛在與商湯科技聯合創始人、首席科學家王曉剛對話時表示：“商湯的云邊端全棧組合，可以很好地賦能和適配小米物聯網生態。我們希望與商湯共同為我們的用戶打造更具智能化的產品體驗。”
左為小米集團小愛總經理 王剛，右為商湯科技聯合創始人、首席科學家 王曉剛
此外，今天商湯還發布了基于昇騰原生的行業大模型，共同打造面向金融、醫療、政務、代碼等大模型產業生態。
在自身應用方面，商湯“日日新SenseNova 5.0”在秒畫、如影、格物、瓊宇、大醫、小浣熊家族等產品均有重要更新。
“文生視頻”已在路上，商湯科技堅定邁向AGI時代
在本次技術交流日最后環節，商湯科技董事長兼CEO徐立還帶來了三段完全由大模型生成的視頻，并強調文生視頻平臺對于人物、動作和場景的可控性。
商湯科技在文生視頻平臺方面也取得了技術突破，未來，通過輸入一段文字或一個完整的描述，就可以生成一段視頻，而且人物的服飾、發型、場景都可以根據預先設定，保持視頻內容的連貫性和一致性。
通過商湯打造的智能算力中心，可以不斷賦能于大模型的訓練，目前，日日新大模型體系在自然語言處理、視頻生成和深度學習優化等多個方面取得創新。
一方面，現階段大模型發展已進入落地階段，如何與產業、應用場景結合是關鍵一環；另一方面，“尺度定律”路徑逐漸清晰，“涌現”時刻不定出現，前瞻探索最先進的大模型技術也是重中之重。
秉承創立之初“堅持原創，讓AI引領人類進步”的目標和愿景，商湯科技的大模型技術和產品已在醫療、教育、法律、工業等各行各業進行實踐應用。如大模型以“日日新”為名，商湯一直堅定朝向通用人工智能的目標前行，突破數據與算力的限制，引領大模型的創新與落地。
– 完 –
關于商湯科技
作為人工智能軟件公司，商湯科技以“堅持原創，讓AI引領人類進步”為使命，旨在持續引領人工智能前沿研究，持續打造更具拓展性更普惠的人工智能軟件平臺，推動經濟、社會和人類的發展，并持續吸引及培養頂尖人才，共同塑造未來。
商湯科技擁有深厚的學術積累，并長期投入于原創技術研究，不斷增強行業領先的多模態、多任務通用人工智能能力，涵蓋感知智能、自然語言處理、決策智能、智能內容生成等關鍵技術領域，同時包含AI芯片、AI傳感器及AI算力基礎設施在內的關鍵能力。此外，商湯前瞻性打造新型人工智能基礎設施——商湯AI大裝置SenseCore，打通算力、算法和平臺，并在此基礎上建立“商湯日日新SenseNova”大模型及研發體系，以低成本解鎖通用人工智能任務的能力，推動高效率、低成本、規模化的AI創新和落地，進而打通商業價值閉環，解決長尾應用問題，引領人工智能進入工業化發展階段。商湯科技業務涵蓋生成式AI、傳統AI和智能汽車，相關產品與解決方案深受客戶與合作伙伴好評。
商湯倡導“發展”的人工智能倫理觀，并積極參與有關數據安全、隱私保護、人工智能倫理道德和可持續人工智能的行業、國家及國際標準的制訂，與多個國內及多邊機構就人工智能的可持續及倫理發展開展了密切合作。商湯《AI可持續發展道德準則》被聯合國人工智能戰略資源指南選錄，并于2021年6月發表，是亞洲唯一獲此殊榮的人工智能公司。
目前，商湯科技已于香港交易所主板掛牌上市。商湯在香港、上海、北京、深圳、成都、杭州、南平、青島、西安、澳門、京都、東京、新加坡、利雅得、阿布扎比、迪拜、吉隆坡、首爾等地設立辦公室。另外，商湯科技在德國、泰國、印度尼西亞、菲律賓等國家均有業務。更多信息，請訪問商湯科技網站、微信、微博和領英。
滬公網安備 31010702005758號
發表評論注冊|登錄