Samsung Electronics は 8 月 25 日、Stanford で開かれた Hot Chips 2026 で LPDDR5X-PIM (Processing-in-Memory) の実装詳細を公開しました。DRAM バンク内に MAC ツリーと FP / INT 兼用の ALU を積んだ 16 個の PIM ブロックを配置し、CPU / GPU との往復通信を省いた設計で、AI 推論のボトルネックとなるメモリ帯域を大幅に解消するとしています。

主なポイント

  • 容量 16 GB。PIM 帯域は 614 GB/s と標準 LPDDR5X (76.8 GB/s) の 8 倍
  • 推論タスクは標準比 2.28 倍、トークン生成スループットは 3.01 倍に到達
  • JEDEC 標準の 561-ball パッケージ、rank あたり 4 ダイ構成。既存基板にドロップイン交換できるのが最大の売り
  • HBM 逼迫が続き AI アクセラレータのコスト上昇 (chipflation) を招く中、汎用低電力 DRAM を演算対応させる代替路線
  • Q&A では出力が標準 LPDDR5X とわずかに異なる指摘があり、Samsung は「性能を落とさず精度改善を継続」と回答

出典: Hot Chips 2026: Samsung makes LPDDR5X smart with logic unit in memory (Tom's Hardware)