2026-09-27 14:40 ·


1981
409
250
28
75 100 75

cuda-oxide 是一个 Rust 到 CUDA 的编译器,让你用 safe(ish)、地道的 Rust 编写(SIMT)GPU kernel。它将标准 Rust 代码直接编译为

深度学习推理和训练性能在很大程度上取决于 GPU kernel 效率。PyTorch Inductor 等现代编译器会自动
现代 GPU kernel 将越来越多的工作融合进单个 kernel,kernel 内追踪已成为对其进行性能分析的主流方法。追踪
一个 128 位通用哈希函数,专为快速的文件/数据流完整性校验设计,具备密码学强度,使用 Rust 编写。
Agentic 记忆系统通过复用过往经验来提升后续表现,但现有设计大多在写入时整理记忆:一旦任务完成

面向 Laya 类型化决策模型的原生 MLX 运行时——在 M3 Max 上短决策耗时 7–14 ms。无文本生成、无 PyTorch、无云 API。
在你已有的硬件上运行前沿 MoE 模型——纯 C、零依赖,专家从磁盘流式加载。引擎小巧,模型庞大。🐦
将 Word、PowerPoint、Excel、OpenDocument、RTF、EPUB、CSV 和 PDF 转换为干净的 Markdown。使用 Rust 构建,提供 Node.js 和 Python 绑定。
SpaceXAI 的编码智能体 harness 与 TUI。全屏、鼠标交互、可扩展。

基于大语言模型(LLM)的大规模智能体训练与评估依赖于隔离的、有状态的执行环境,模型在其中检
支持 Metal、CUDA 和 ROCm 的 DeepSeek 4 Flash 与 PRO 本地推理引擎
面向 Apple Silicon 的原生 LLM 推理服务器。兼容 OpenAI + Anthropic API。无需 Python。附带 MLX Core macOS 应用,支持聊天、agent 模式和
数据 agent 旨在基于表格、文件和数据库等异构数据完成自然语言指令。然而,数据 agent 面临一

通过直接流式加载激活权重,在可用 RAM 之外运行完整的 2.78 万亿参数 Kimi K3 模型、DeepSeek V4.1 Flash 或 GLM-5.3-Flash
基于 ggml 的语音转文字推理,支持 16+ 个模型系列
以库的形式为 agent 提供一个操作系统。直接运行在你现有的后端中——无需沙箱、虚拟机或 SaaS。基于 WebAssembly 和 V8 isolate。
符合飞行软件标准的 WebAssembly 解释器。

AI agent 正开始在整个 AI 技术栈中自动化研发工作,从提升训练效率到优化推理。一个自然
长程 agent 的广泛采用使模型负载越来越偏重输入。尽管已有工作大幅降低了
Diffusion Transformer 在视频生成上达到了 state-of-the-art 水平,但其超长的时空序列使 attention 成为部署成本的主要来源,
LLM agent 通过反复组合候选方案并在真实 GPU 上测量其耗时,实现 GPU kernel 优化的自动化。现有系统保