以色列新創公司NeuReality於本週一（3月23日）正式宣布，成功延攬曾任Google Labs產品管理總監的Shalini Agarwal女士擔任策略顧問。此舉旨在 leveraging Agarwal女士近二十年的產品策略經驗，協助該公司新推出的NR-NEXUS AI推論作業系統，深入開拓龐大的企業客戶市場，同時也反映出當前AI產業對專精硬體效能優化方案的迫切需求。
AI產業資深要角加盟：Shalini Agarwal的策略視野
Shalini Agarwal女士在科技產業擁有近二十年的產品策略與管理經驗，其職業足跡遍佈Google Labs及eBay等知名企業，累積了深厚的業界洞察。她不僅在麻省理工學院（MIT）取得了電腦科學、電機工程及管理科學等跨領域學位，更展現其技術與商業策略兼備的專業能力。在NeuReality，Agarwal女士將以顧問身分，專注於引導NR-NEXUS推論作業系統的上市策略，為其進入企業市場擘劃藍圖。
這項人事任命，無疑凸顯了AI領域頂尖人才的流動趨勢，以及對於能夠有效彌補AI晶片與企業大規模模型部署之間鴻溝解決方案的強烈需求。企業在導入AI應用時，往往面臨複雜的硬體整合與效能瓶頸，Agarwal女士的加入，被視為NeuReality在解決這些痛點上的一大戰略性投資。
NR-NEXUS：為「AI工廠」打造的硬體中立作業系統
NeuReality最初以開發AI推論客製化晶片起家，隨後策略性轉型至軟體開發，並於3月12日發表了其核心產品——NR-NEXUS。這款作業系統專為當前業界所稱的「AI工廠」而設計，具備硬體中立（hardware-agnostic）的特性，意味著它能跨越不同類型的異質硬體平台運作，包括圖形處理器（GPU）、中央處理器（CPU）以及網路介面卡（NIC）。
NR-NEXUS的核心技術在於其能夠解耦（decouple）預填充（prefill）和解碼（decode）任務，這項創新設計旨在解決昂貴加速器部分閒置的問題，進而大幅提高其利用率。目前已有測試客戶在實際環境中運行NR-NEXUS軟體，未來也將支援輝達（NVIDIA）即將推出的Vera Rubin架構，展現其前瞻性與兼容性。
輝達（NVIDIA）執行長黃仁勳（Jensen Huang）曾預言：「未來的資料中心將成為『代幣工廠』（token factory）。」這番話精準描繪了AI時代資料中心運算模式的轉變，而NeuReality的NR-NEXUS正是為此類高效能、高利用率的AI運算需求而生。
NR-NEXUS作業系統的關鍵優勢包括：
- 硬體中立性：支援多種異質硬體，降低企業對特定硬體的依賴。
- 任務解耦：優化AI推論工作負載，提升昂貴加速器的利用效率。
- 擴展性：為大規模AI模型部署提供穩固基礎，適應未來運算需求。
- 前瞻性支援：預計兼容NVIDIA新一代架構，確保技術領先。
AI推論市場趨勢與NeuReality的募資佈局
全球AI市場對推論（Inference）運算的需求正快速增長。根據市場研究機構德勤（Deloitte）的估計，AI推論工作負載在2025年已佔總AI運算量的一半，而今年預計將進一步提升至三分之二。為因應這股龐大的AI運算浪潮，超大規模業者（hyperscalers）正投入巨額資金：亞馬遜（Amazon）預計2026年將投入2,000億美元，而Google的預算則介於1,750億至1,850億美元之間。
面對如此龐大的市場潛力，NeuReality的發展備受矚目。該公司迄今已成功募得約7,000萬美元資金。其中，包括在2022年底由三星創投（Samsung Ventures）、OurCrowd和SK海力士（SK Hynix）領投的3,500萬美元A輪募資。此外，歐洲創新理事會基金（European Innovation Council Fund）也於2024年3月與現有投資者共同注資2,000萬美元，展現了國際資本對其技術與市場前景的信心。
未來展望：AI運算效率的關鍵挑戰與機會
隨著AI應用日益普及，從大型語言模型到即時數據分析，企業對於高效、經濟且可擴展的AI推論能力需求有增無減。NeuReality透過延攬業界資深專家並推出創新的NR-NEXUS作業系統，正積極搶佔這塊關鍵市場。其解決方案旨在提升現有AI硬體的利用率，降低企業運營成本，並加速AI技術的商業化部署。
未來，AI運算效率的優化將是產業競爭的關鍵。NeuReality能否在超大規模業者與眾多AI晶片製造商之間，以其獨特的軟體定義推論解決方案脫穎而出，值得業界持續關注。Shalini Agarwal的加入，無疑為NeuReality注入了強勁的策略動能，使其在爭奪企業級AI市場的競賽中更具優勢。
About the Author
