Synapse Software 採用 TurboQuant 技術以降低 AI 文件處理成本

Gate News 訊息,4 月 15 日——Synapse Software 已將 TurboQuant(由 Google Research 開發的向量量化演算法)整合到其 Synap OCR IX 解決方案中,以強化文件 AI 能力,同時降低企業導入企業級 AI 的採用成本。

TurboQuant 會壓縮大型語言模型 (LLMs) 與視覺語言模型 (VLMs) 使用的 KV 快取,讓在處理長文件時的記憶體消耗降低。這使得在相同的 GPU 基礎設施上能更快速地進行資料處理。該技術解決過去先前因記憶體瓶頸而需要昂貴 GPU 基礎設施的問題,特別是在處理延伸情境(extended contexts)以及在不影響效能的前提下進行大量批次(large-batch processing)時。

Synapse Software 也支援企業在 CPU 為主的環境。透過精準剖析,該公司實現了純 CPU 的推論處理,平均每分鐘約可處理 100 份文件,且品質損失控制在低於 1%。這降低了總擁有成本 (TCO)。這種彈性的基礎設施策略有助於在安全性要求較高的產業推動 AI OCR 的採用,例如金融與公共行政等領域;過去,由於本地部署(on-premises deployment)以及基礎設施限制,這些場景曾難以落實 AI 應用。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

STT GDC 與 SuperX AI 在新加坡啟動 AI 創新中心

STT GDC 和 SuperX AI Technology 已在新加坡推出 AI 創新中心,讓企業能夠在本地運行 AI 工作負載。該設施提供高效能運算資源,並為使用者提供 14 天的免費試用,以驗證 AI 模型。

GateNews7小時前

盼AI讓台灣遊戲業翻身!智冠科技正把AI導入文案、圖片、音樂製作

智冠科技成立AI發展中心,推動生成式AI及B2B、B2C應用,期望提升公司效益及玩家互動,並希望藉此翻身。然而,許多玩家對此持懷疑態度,擔心AI僅成為降低成本的工具,影響遊戲品質。

CryptoCity7小時前

Google Chrome 新增 Skills 功能!一鍵呼叫慣用 AI 提示詞

Google Chrome 推出新的「Skills」功能,讓使用者可儲存常用 AI 提示詞並一鍵呼叫,簡化操作過程。此功能支援雲端同步與跨裝置使用,並具備跨分頁分析能力,同時加強隱私安全。目前僅限英文介面,未來有望跨語系支援。

鏈新聞abmedia8小時前

Jiransoft 推出 Office Agent,提供針對安全與成本顧慮的 Enterprise AI Solution

Jiransoft 已推出 Office Agent,這是一款解決生成式 AI 採用中安全、成本與可靠性問題的 AI 解決方案。它具備基於角色的存取控制,能保護敏感資料,並支援面向各部門的無代碼客製化。

GateNews8小時前

Coupang 於超過 3 年期間投資 $84M 款全球 AI 新創公司,並支持韓國機器人公司 Contoro

Coupang 在三年內已向 $84 百萬美元的 AI 新創公司投資,重點聚焦於像 Contoro 這樣的韓國新創企業,該公司是一家機器人公司。Contoro 的 AI 驅動機器人手臂能提升物流效率。Coupang 也支持各種 AI 計畫與政府專案。

GateNews8小時前

東軟攜手 M2M Tech 部署用於實體機器人系統的 AI 人形機器人

東軟與 M2M Tech 已締結合作夥伴關係,將東軟的對話式 AI 服務整合進 M2M Tech 的機器人平台,打造用於工業的先進 AI 人形機器人,並將率先在 Nvidia GTC 2026 展出。

GateNews8小時前
留言
0/400
暫無留言