<noframes id="xrxbh">

    <em id="xrxbh"><form id="xrxbh"></form></em>
    <form id="xrxbh"><th id="xrxbh"><th id="xrxbh"></th></th></form>
      <noframes id="xrxbh">

        應用

        技術

        物聯網世界 >> 物聯網新聞 >> 物聯網熱點新聞
        企業注冊個人注冊登錄

        美格智能團隊成功在高算力AI模組上運行大模型Stable Diffusion

        2023-07-21 13:43 美格智能
        關鍵詞:AI模組大模型

        導讀:近日,美格智能研發團隊成功在自研高算力模組上運行文生圖大模型Stable Diffusion,而這僅僅是我們將思索變為實際行動的第一步,AIGC的大時代,才剛剛開始!

        我們在上一篇文章的導語中提到:”AI人工智能這個已經存在了數十年的概念,已然成為未來幾十年人類社會發展的核心變量。面對變革,每個人、每個企業都需要思索,如何與時代的潮流,一同躍進“。近日,美格智能研發團隊成功在自研高算力模組上運行文生圖大模型Stable Diffusion,而這僅僅是我們將思索變為實際行動的第一步,AIGC的大時代,才剛剛開始!

        ▌不局限云端,邊緣計算+終端側AI的技術路徑已經成熟

        2022年以來,AIGC作為一項變革性的技術,正在逐步顛覆人類原有的工作、生活、創作及娛樂方式。以ChatGPT、Midjourney、Stable Diffusion、文心一言等為代表的各類生成式大模型,能在數秒之內完成包括搜索、繪畫、創作、表格編輯、代碼編寫等各項任務,并且各項能力正在不斷進化中。數據顯示,目前至少已有上千個可用的生成式 AI 應用,這一切都表明,AIGC正迎來史無前例的爆發期。

        擁有數十億參數的眾多生成式 AI 模型對計算架構及算力強度提出了極高的需求。之前的情況是,無論是優化參數的AI訓練,還是執行模型的AI推理,都一直受限于大型復雜模型及端側算力部署不足,而與云端綁定。

        初步估計顯示,生成式AI市場規模潛力巨大,將廣泛覆蓋生態鏈上的各個參與方。這一巨大市場機遇,勢必驅動不同類型的計算架構及算力基礎來源同時演進,從而滿足大規模生成式 AI 日益增長的算力需求。

        全球頭部玩家的近期動作也表明,算力建設和算力競爭的趨勢才剛剛開始,所有人都在起跑。高通于不久前宣布完成了全球首個運行在Android手機上的Stable Diffusion終端側演示,這是首次由第二代驍龍8移動平臺支持的大型語言生成式AI模型在端側運行的實例,充分說明了隨著端側算力加強及模型優化技術結合,各類高算力終端支持大模型運行只是時間問題。

        其后,高通官方關于轉型邊緣計算公司的表態,以及大力推動混合式AI的舉措,都表明邊緣計算+終端側AI的技術和產品路徑正在迅速變為現實。

        ▌高算力AI模組能力再進化,成功運行Stable Diffusion大模型

        美格智能作為業界最早提出智能模組概念的企業,持續關注算力發展對模組產業帶來的深刻變革,也最早提出:隨著各行各業對于算力需求及應用的爆發式增長,高算力AI模組將成為智能模組發展的一個子集,“無算力不智能”正在成為模組3.0時代的重要發展趨勢,并將高算力AI模組產品獨立組建產品團隊,聚集資源不斷投入。

        近日,美格智能高算力AI模組產品團隊,充分發揮軟硬件一體協同開發的能力,在基于高通驍龍800平臺的自研算力模組上成功運行文生圖大模型Stable Diffusion,或許是行業內首個在算力模組上運行推理大模型的實例。

        Stable Diffusion是一個非常出色的從文本到圖像的生成式AI大模型,能夠基于任何文本輸入,在數十秒內創作出逼真圖像。Stable Diffusion的參數超過10億,迄今為止主要限于在云端運行。

        ▲美格智能高算力AI模組SNM970 EVB開發板

        美格高算力AI模組團隊很早就前瞻性地開展了大模型在算力模組端側運行的相關研究工作。運行Stable Diffusion大模型的高算力模組,在硬件上選用了高通驍龍800系列的高算力SoC處理器,在軟件上使用了高通AI模型增效工具包(AIMET)實現模型轉換,在無需重新訓練的情況下,克服了模型參數從FP32壓縮到INT8所產生的精度損失,從而讓大模型在算力模組上始終保持高效運行。

        美格智能研發團隊在硬件和軟件層面的進一步優化,保證大模型運行精度的同時,有效降低了內存帶寬消耗,充分發揮了高算力模組AI硬件的最大效能,最終順利在算力模組端側跑通了Stable Diffusion大模型。

        ▲大模型生成圖片實例,提示詞為:a dog wearing a spacesuit, running in space

        ▌創領高算力AI模組發展,以產品力驅動生成式AI在端側部署

        美格智能持續深耕高算力AI模組產品線,至今已經歷經三代產品演進。依靠強大的軟硬件一體研發能力,美格智能持續推進高算力AI模組的AI硬件不斷升級。美格研發團隊在AI應用場景開發、AI性能優化和AI低功耗程序研發等領域的設計研發能力處于行業領先水平,相關算力產品在各類核心場景大規模應用。

        云計算服務器領域,美格智能推出的高算力AI模組基于強算力、低功耗芯片及美格智能特有的定制化解決方案,完美應用于領先型的arm架構陣列服務器集群,在完成同等計算任務下,性耗提升2倍以上。

        智能機器人領,高算力AI模組能輕松匹配智能機器人及下一代具身智能機器人在算力方面的高要求,同時配備豐富的外圍接口,以AI模組的形式將語音識別、機器視覺、導航、定位、避障和多模態技術通過各種傳感器植入到終端側,真正實現機器人的AI覺醒。

        工業視覺、AI零售等領域,美格智能推出的標準化AI套件,在AI加速方面,可支持變革性INT4 Al精度格式,在持續AI推理方面實現與前代相比60%的能效提升。同時可對多路攝像頭進行視頻結構化分析,快捷實現人、事、物等智能感知、數據分析、安全管理等性能,快速實現對眾多傳統產業的AI嵌入。

        作為在行業內最早布局算力模組產品的企業,美格智能高算力AI模組產品實現了從1.2T到近48T產品全覆蓋,充分滿足不同行業算力需求。研發團隊在大算力平臺與不同行業算法對接、AI運行低功耗控制、5G+AI融合開發等領域有眾多積累。

        隨著AI大模型首次在自研算力模組產品上成功運行,極大拓展了算力模組的能力邊界,積累了大模型在端側部署和應用的前瞻經驗,將真正驅動生成式AI在端側和邊緣側的大規模部署,也讓邊緣計算+終端側AI的技術圖景越來越清晰!

        物聯網連接數量在過去的十年間呈指數級增長的發展態勢,曾經寫在書上的“萬物互聯”已然成為現實。無處不在的連接為人類社會的數字化和智能化已經筑下了堅實基礎,而當連接與算力融合的時候,億萬個IoT節點的算力匯聚,將構建最為龐大的算力網絡,與云端算力互聯互通,共同構建AIGC等跨時代技術的算力底座。