云天勵飛董事長兼CEO陳寧博士發布新品。
深圳新聞網2024年3月29日訊（深圳特區報記者 聞坤 文/圖）覆蓋城市治理場景超過90%、算法精度超過90%，使用成本降低90%……3月28日，云天勵飛舉辦AI大模型產品發布會，正式發布“深目”AI模盒，解決大模型在場景落地最后一公里的問題，幫助更多中小企業客戶輕松使用大模型。
目前，以云天勵飛為代表的深圳企業積極投身于技術研發與應用落地，推動AI從方案化向產品化邁進，助力深圳搶占全球AI產業高地。
千元級成本即可擁有專屬大模型
從ChatGPT到Sora，從文生圖像到文生視頻，大模型發展日新月異，也給各行各業帶來顛覆性變革。
專家表示，未來3年，全球80%的企業都將使用大模型。但是，要訓練專屬大模型，不僅需要大算力、大數據，還需要大量頂尖人才。大模型一次訓練成本在千萬級，主流的訓推一體機價格普遍在百萬元，絕大多數企業都無法承擔這樣高昂的成本。
云天勵飛董事長兼CEO陳寧博士表示：“為了能夠讓大模型‘平民化’，成為人人都可用的產品，云天勵飛推出了‘深目’AI模盒?！?/p>
據了解，這款千元級的產品，用單手就能托起，搭載了云天勵飛的自研大模型邊緣訓推芯片DeepEdge10 Max以及自研多模態大模型“云天天書”，具備算法邊緣側在線學習能力，可實現城市治理等領域算法場景覆蓋超過90%、算法精度超過90%，使用成本降低90%，讓人人都能夠根據自身場景需求，利用大模型能力，訓練出可實戰應用的算法，讓大模型唾手可得。
陳寧說，比如人臉識別、車牌識別的頭部算法已經比較完善，但還有大量低頻的場景和算法（長尾算法）制約AI在各場景真正落地，對一些AI公司來說，每個小模型的長尾算法成本高、周期長，投入產出比不匹配，從而形成AI商業落地的痛點和難點。我們希望在未來一兩年，從技術和產品端根本性解決AI落地“最后一公里”的問題。
面對長尾算法，千元級別的AI模盒能否比得上市面上主流的百萬級別訓推一體機？
“它們解決的是不完全一樣的問題?！标悓幓卮鹫f，訓推一體機更多解決的是公有云AIGC服務或者大企業和政府的私有化部署，但在邊緣、長尾的場景需要這樣的能力沒有產品，云天勵飛此次推出的AI模盒全新產品填補了空白。
技術攻關把大模型變“小”
去年開始，云天勵飛基于自研的多模態大模型，經過集中技術攻關，通過大模型算法和神經網絡處理器AI芯片技術交叉融合“壓縮”出一款全新產品。
陳寧介紹，“深目”AI模盒的算力基礎來源于自研14nm Chiplet大模型訓推芯片DeepEdge10 Max。該芯片采用自主可控的國產工藝，內含國產RISC-V核，支持大模型訓練推理部署，已適配并可承載10億級SAM、百億級Llama2等大模型運算，可廣泛應用于AIoT邊緣視頻、移動機器人等場景。
“深目”AI模盒的大模型能力，來源于云天勵飛自主研發的多模態大模型“云天天書”。云天天書大模型包含語言大模型、多模態大模型等不同系列，在C-Eval、CMMLU等權威測試中多次獲得第一，并于去年正式通過中央網信辦備案。
以云天天書大模型為底座，云天勵飛與合作伙伴完成預訓練場景算法，再將預訓練算法提供給廣大中小企業用戶，中小企業客戶可根據自身場景需求，在邊緣端完成算法微調。由于大模型具備泛化和學習的能力，客戶部署算法后，大模型還能夠不斷根據現實應用場景情況，在線學習、優化算法，不斷提升算法精度。
陳寧表示，“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產品，更是把云天勵飛大模型通過算法芯片化能力平臺“硬件化”的一次重要嘗試。把復雜的技術通過簡單的產品提供給用戶，讓用戶可以零學習成本，快速訓練出自己需要的算法。
千余種算法秒速訓練
“深目”AI模盒背后蘊藏了復雜的技術，但對于用戶而言，他們只需要關心產品到底怎么用、好不好用。發布現場，云天勵飛副總裁羅憶用實際場景演示了“深目”AI模盒是如何在數據少、無數據等極端情況下，快速完成算法訓練。
店外經營是城市管理中最常見的問題之一，“深目”AI模盒只需少量樣本，即可通過視頻精確識別出店外經營的行為。羅憶介紹，當用戶需要訓練識別算法時，可以直接使用平臺現成的算法對目標進行識別。用戶只需要對識別結果標記“正確”和“誤報”，算法精度就能通過自學習快速提升。通過這樣的過程，算法精度通過1次訓練就能得到顯著提升，經過1周迭代后算法精度可超過90％。目前能夠提供覆蓋14個大類、100+個小類、千余種算法。
天災人禍等極端場景識別訓練的數據幾乎空白，面對這樣“無數據”的情況，又該如何訓練算法？羅憶以加油站場景的吸煙識別為例，這類行為的數據極難獲取，而平臺能夠利用大模型能力，以加油站為背景，生成在該環境抽煙行為的人物，并將數據用于算法訓練中，填補訓練數據的空白。使用AI合成數據來訓練算法，還能夠規避隱私安全等問題。
“利用大模型泛化能力，對識別對象標準不統一帶來的算法訓練難題也能很好解決?！绷_憶說，大型購物中心一般沒有統一的結算中心，也難以評估營銷活動對實際消費轉化的效果。而顧客是否提購物袋，是大型商場判斷顧客是否消費的重要標準之一。但是，各品牌購物袋的大小、顏色均不統一，且難以與顧客的背包區分，算法難以精準識別?！吧钅俊盇I模盒借助場景自適應能力，能夠實現“千店千袋”的識別，從而有效評估顧客的實際消費。
積極培育大模型領頭羊
隨著AI大模型在各行各業的廣泛應用，行業競爭也日益激烈，國內一線城市爭相布局，希望在本土率先培育出大模型領頭羊企業。
去年，深圳發布《深圳市加快推動人工智能高質量發展高水平應用行動方案（2023—2024年）》，這是深圳首個提到大模型的政策，提出聚焦通用大模型等領域，重點支持打造基于國內外芯片和算法的開源通用大模型；支持重點企業持續研發和迭代商用通用大模型；鼓勵大模型企業聯合生態伙伴加強大模型插件及相關軟硬件研發，推動大模型與現有的操作系統、軟件、智能硬件打通、互嵌。
“應用場景是人工智能發展的重要支撐，深圳明確提出開展全域全時應用示范?！标悓幷f，深圳鼓勵各區在公共服務和城市治理領域先行先試，成為積極擁抱大模型的一個城市，讓大家提及人工智能就想到深圳，一來深圳就能體驗到人工智能的服務。
目前，華為發布盤古大模型3.0，騰訊發布“混元”大模型，鵬城實驗室、IDEA、云天勵飛、思謀等分別發布“鵬城·腦?！薄敖友馈薄疤鞎薄癐ndustryGPT”等模型，在全國“百模大戰”中技術實力位居前列，群力打造通用大模型技術優勢。
陳寧表示，我們期望“深目”系列產品能夠賦能更廣闊的碎片化場景，真正實現AI技術的普惠，讓千行百業都能受益于其強大功能。
為了共同探索更多大模型低成本、高效率落地應用路徑，云天勵飛與鵬城實驗室、之江實驗室、上海交通大學城市治理研究院、哈工大深圳研究生院、中國科學院深圳先進技術研究院、中國電子、華為、深圳移動、深圳電信、深圳聯通、華潤數科、神州數碼、中國鐵塔深圳分公司、有人物聯網、云賽智聯等單位在發布會上共同成立“深目2.0”生態聯盟，共同探索更多大模型落地應用路徑。
