博主头像

人工智慧不是算不動,而是記不夠!Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸!

外来客 • 2026-08-27 01:53:51

分享
𝕏 f ◉
声明:本文为对公开内容的摘要整理, 未经本站独立核实,可能与原内容存在出入,不代表本站立场、观点或建议; 观点与版权归原作者及原平台所有。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]

🧠 核心观点与技术定位

  • 技术本质:Kioxia 推出的 AiSAQ(All-Storage Approximate Nearest Neighbor Search)技术旨在解决 AI 推论阶段中向量数据库规模扩大导致的 DRAM 容量瓶颈。
  • 核心策略:通过全存储近似最近邻搜索,将原本依赖 DRAM 的向量索引和量化向量完全卸载至 SSD,利用 SSD 的大容量和低单价特性取代部分 DRAM 需求。
  • 效能目标:在大幅降低 DRAM 使用量的同时,保持与基于 DRAM 的记忆体内索引方案相近的查询效能(QPS)和准确率。

📊 关键事实与基准测试数据

  • DRAM 用量对比:
  • 传统 HNSW(层级式可导航小世界图)方案:需使用 60GB DRAM。
  • AiSAQ 技术:仅需 155MB DRAM。
  • 缩减比例:DRAM 使用量减少了约 400 倍。
  • 效能表现:
  • 每秒查询次数(QPS):两种方案均超过 12,000。
  • 准确率(召回率):两种方案均超过 96%。
  • 成本结构差异:
  • DRAM:速度快、容量小、单价高。
  • SSD(Flash):速度相对慢、容量大、单价低。
  • AiSAQ 通过利用 SSD 的大容量优势,解决了向量索引规模超过实际资料大小时所需的 TB 级 DRAM 成本问题。

🏗️ 技术架构与实现机制

  • 演进路径:
  1. 传统模式:检索和向量资料全部储存在 DRAM,由 CPU 执行 ANN 运算。
  2. Disk ANN 模式:将大部分索引资料卸载至 SSD,仅保留量化向量在 DRAM。
  3. AiSAQ 模式:将量化向量、索引及向量资料库全部搬移至 SSD,DRAM 仅用于其他即时数据。
  • 核心优势:
  • 高租户密度:在单一服务器上为不同客户执行 ANN 搜索,不受限于服务器 DRAM 容量,可通过 SSD 分区实现多租户隔离。
  • 启动延迟缩短:处理器直接存取 SSD,无需先将索引资料从 SSD 载入 DRAM,大幅缩短服务启动时间。
  • 硬件接口:该技术专为 Kioxia 设计的高速企业级和数据中心级 SSD 设计,支持 PCIe 或 NVMe 接口。

📉 行业背景与挑战

  • AI 发展五大趋势:
  1. 从训练为主转向推论重要性增加。
  2. 从 GPU 为主转向 AI 加速器重要性增加。
  3. 从云端运算转向终端/边缘运算。
  4. 记忆体从 DRAM/HBM 为主转向 Flash/SSD 重要性增加。
  5. 从电运算/电通讯转向光电整合(CPO)。
  • RAG 技术痛点:
  • 检索增强生成(RAG)需引入外部资料以提升 LLM 准确性,避免“一本正经胡说八道”。
  • 向量数据库规模随资料增加而膨胀,导致 DRAM 需求激增,成为推论成本的主要瓶颈。
  • 现有解决方案(如减少索引表示大小、Disk ANN)仍受限于 DRAM 容量,无法彻底解决索引规模随数据集增长的问题。

✅ 结论与适用场景

  • 核心价值:AiSAQ 技术通过整合向量搜寻引擎与 SSD,实现了在最小化 DRAM 需求的同时,提供可扩展的向量搜寻架构。
  • 适用情境:
  • 需要处理大规模向量数据库的 AI 推论场景。
  • 对成本敏感且需要高租户密度的云服务环境。
  • 需要快速启动服务且避免 DRAM 容量限制的企业级应用。
  • 最终效果:为 AI 解决方案铺平道路,通过降低硬件成本(DRAM 替换为 SSD)支持未来更大规模的数据发展。

博主头像 👤 同一博主

查看该博主全部 34 篇

🧭 类似博主

0 条评论

发表评论

请先 登录 后参与讨论。