開發者如何掘金 AI 2.0？零一萬物上線 Yi 大模型 API 開放平臺

　　2024 年初推出的 Sora 讓 AIGC 與大模型業界持續火爆。一方面,基礎大模型 Top 廠商在持續研發長文本、視頻、多模態等模型核心技術實力,在另一面,更多開發者在加入大模型落地與 AI 2.0 應用開發賽道。在 2023 年底 CSDN 發起的 AI 2.0 開發者生態調研中,問卷結果顯示開發者群體認為“深耕模型技術”與“挖掘應用場景”的機遇和前景同等重要。

　　AI 2.0 黑馬——零一萬物 Yi 大模型

　　長文本突破 200K、多模態增強場景支持

　　由國際 AI 專家李開復博士所帶隊孵化的 AI 2.0 公司零一萬物,目標是全球大模型第一梯隊,攻堅基礎大模型與 AI 2.0 核心技術,發布了 Yi 系列開源大模型。在當時斯坦福、伯克利等全球多項權威評測榜單中,Yi 大模型均表現優異,性能直追 GPT-4。目前 Yi 大模型已實現 200K 上下文(可處理約 30 萬中英文字符)的長文本推理實力,以及增強支持多種應用場景的多模態模型。

　　大模型的長文本推理被看作通用人工智能 AGI 非常重要的核心實力之一。零一萬物 Yi 大模型的 200K 上下文推理能力,適合用于多篇文檔內容理解、海量數據分析挖掘和跨領域知識融合,為各行業 AI 2.0 應用提供極大的便利。例如,金融分析師可以使用 Yi 大模型快速閱讀報告并預測市場趨勢、律師可用它精準解讀法律條文、科研人員可用它高效提取論文要點、文學愛好者可以用它快速掌握作品精髓等,應用場景非常廣泛。

　　另外零一萬物的 Yi-34B-Chat-200K 大模型經過優化,大海撈針評測的性能可提升至 99.8%。“大海撈針”測試的設計是:將一個目標句子(針)放進一個隨機文檔語料庫(大海),然后提出一個只能使用“針”(目標句子)中的信息才能回答的問題來測試模型的回憶能力。在“大海撈針”測試中,Yi-34B-Chat-200K 的性能提高了 10.5%,從 89.3%提升到 99.8%。

　　星云愛店是知識探索服務先行者,包含2C的“學術科研助手”,2B的兒童心理健康診療、青少年科學素養培養三大領域。

　　星云愛店CTO大董和團隊參加了零一萬物API邀測,他在文獻綜述的實際應用中,采用其他大模型推理生成的被拒率為 40%(下圖),而切換到 Yi 大模型,任務未發生拒絕執行。

　　星云愛店測試demo顯示,使用某大模型時,被拒率 40%

　　采用 Yi 大模型執行復雜任務,拒絕任務率低、完成度好

　　在另一個 18 萬字報告集合的閱讀分析中,Yi 大模型未遺漏任務:

　　星云愛店采用其他模型遺漏未指出,Yi 大模型完成 prompt 任務

　　零一萬物開發的多模態模型 Yi-VL-Plus,可支持文本、視覺多模態輸入,面向實際應用場景大幅增強:

　　? 增強Charts, Table, Inforgraphics, Screenshot 識別能力,支持復雜圖表理解、信息提取、問答以及推理。中文圖表體驗超過GPT4V。

　　? 在 Yi-VL 基礎上進一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產力場景中的文字、數字 OCR 的準確性。

　　? 保持了 LLM 通用語言、知識、推理、指令跟隨等能力。

　　中文圖表識別功能評測:Yi-VL-Plus 可準確識別圖表對應數據,GPT-4V 有 3 處數據識別錯誤

　　Yi-VL-Plus 模型在中文圖表理解場景,準確率高于 GPT-4V

　　優化推理速度、兼容 OpenAI API

　　Yi 大模型 API 開放平臺正式上線!

　　取得了上述的大模型核心技術實力,零一萬物也在投入貢獻 AI 2.0 生態。在內測,零一萬物正式推出了 Yi 大模型 API 開放平臺,希望幫助開發者,共同挖掘更多應用場景,持續創新。

　　針對 API 側的實際開發需求,零一萬物投入了大量優化和兼容能力的研發工作,去提升開發者研發效率和最終用戶的產品體驗。具體來說:

　　? 優化推理速度

　　為了提升 API 性能,零一萬物團隊在 API 側進行了推理優化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時間,同時也保持了出色的模型效果。

　　? 降低接口延遲

　　優化的 API 接口顯著降低模型回復的延遲,進一步提高用戶體驗的流暢性和響應速度。

　　? 兼容 OpenAI API,實現平滑遷移

　　Yi 大模型 API 與 OpenAI API 完全兼容,開發者只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。

　　目前 API 開放平臺已經提供 3 個零一萬物核心重磅的大模型產品,分別是可支持通用聊天、問答、對話、寫作、翻譯等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文檔閱讀理解、超長知識庫構建小能手的 Yi-34B-Chat-200K,還有多模態模型 Yi-VL-Plus,支持文本、視覺多模態輸入,中文圖表體驗超過 GPT-4V。更多零一萬物的大模型也將持續發布和提供到 API 開放平臺中。

　　從專業開發者到大模型發燒友

　　Yi 大模型 API 開放平臺的創新 AI 2.0 應用正在涌現

　　正式發布前,零一萬物已經在開發者群體進行了 API 邀請內測和開發,實測性能和效果超出預期。具體測試的企業與個人 C 端應用場景包括使用 Yi Chat 模型構建智能對話助手(類似 ChatGPT);使用 Yi 多模態模型,識別圖片中存在的表格,文字,并進行深層次的問答;將 Yi 系列模型整合到現有產品,實現類 Copilot 工具;使用 Yi 超長上下文模型構建知識庫問答,用于客服、培訓等特定知識的問答場景等等。

　　已經體驗 API 的開發者中就有對長文本要求非常高的專業團隊星云愛店,其產品涉及文獻解讀與科研寫作、青少年教育與健康類助手等。星云愛店的開發負責人希望大模型產品的長文本精確摘要,對話文案專業化、精細化,拒答率低,因為對于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和嚴肅的工作問答工具。

　　例如心理咨詢場景,在線拒答率、回答文案的溫暖程度極大影響用戶體驗。“某些大模型 API 接入后,動不動就拒答或者回答文本‘降智偷懶’,Yi 大模型 IQ 在線且 EQ 出色,測試期間幾乎沒有拒答,能持續輸出高質量有溫度的文案,我們相當滿意。”星云愛店的技術負責人表示。

　　內測開發者中除了專業的企業級應用開發團隊,還有不會代碼編程的大模型發燒友。一位叫“聞”的網友本身是 HiFi 音樂發燒友,并運營了一個分享古典音樂的公眾號。雖然他自稱不懂寫代碼,但已經可以使用 Lobe-chat 這樣的工具去實現開發。借助 Yi 大模型 API,他實現了翻譯英文長視頻和翻譯古典音樂介紹兩個 AI 2.0 場景應用的功能。正是有了易用的 API,讓他從對技術的熱情和對新事物的好奇,可以更進一步去探索開發、并真正落地了具有創意的 AI 2.0 應用。

　　網友“聞”優化翻譯古典音樂科普流程后的最終輸出結果

　　“Yi-34B-Chat-200K 面對幾萬字的超長提示詞,10 秒鐘就反饋回來了結果,較高提升大家工作效率。”,“接入 Yi 大模型 API 代碼修改量極少,幾乎是分分鐘就可以搞定。”。這些都是內測中收到的眾多開發者反饋中的真實聲音,也讓我們看到基于 API 的 AI 2.0 應用開發需求的火熱。

　　對于 AI 2.0 開發生態的工作,零一萬物表示,近期零一萬物將為開發者提供更多更強模型和 AI 開發框架。包括:

　　? 推出一系列的模型 API,覆蓋更大的參數量、更強的多模態,更專業的代碼/數學推理模型等;

　　? 突破更長的上下文,目標 100 萬 tokens;支持更快的推理速度,顯著降低推理成本;

　　? 基于超長上下文能力,構建向量數據庫、RAG、Agent 架構在內的全新開發者 AI 框架。旨在提供更加豐富和靈活的開發工具,以適應多樣化的應用場景。

　　AI 2.0 正在進一步發展,并深入千行百業。作為新質生產力核心的 AI 2.0 技術,是開發者需要重點關注的領域。借助優質 AI 2.0 廠商的 API 和開發工具,開發者可以提高研發效率,加速 AI 2.0 的應用落地,正在成為 2024 年全新的 AI 2.0 研發趨勢。目前 Yi 大模型 API 開放平臺推出了上新優惠活動,名額限量開放中,新用戶即贈送60元。機會難得,點擊閱讀原文了解詳情~

　　零一萬物API開放平臺鏈接:https://platform.lingyiwanwu.com/

　　零一萬物邀請具有創造力的開發者并肩作戰,助力加速開發 AI 2.0 應用生態,一同探索 LLM 的廣闊應用場景!