AI Infra

envd 深度阅读 · 第 1 讲：心智模型与启动编排 代码仓库：e2b-dev/infra 本文基于：commit b8ca332f4 · envd v0.5.13 阅读时间：25–30 分钟（跟着源码走） TL;DR envd 是跑在每个 Firecracker microVM 内部的守护进程，监听 49983 端口，对外提供 Process/Filesystem 两套 Connect RPC + 一组 REST API（/init、/files、/health）。 main.go 不到 250 行就把整个启动链串了起来，它的顺序不是随便写的 —— MMDS 轮询先起、logger 等 MMDS、cgroup 在 HTTP 服务前建好，都是为了避免后续路径拿不到依赖。 /init 是 envd 的灵魂。它一口气完成"鉴权 + 对时 + 装环境变量 + 注入 access token + 改 /etc/hosts + 装 CA 证书 + 挂 NFS"，并且用 memguard + SecureToken 抽象把敏感数据锁在加密内存里。 鉴权是双通道：X-Access-Token 走常量时间比较（热路径），/init 额外用 MMDS 里的 token hash 做旁路授权 —— 这让 orchestrator 在 Resume 时可以远程轮换 token，又不泄漏 token 明文给任何参与者。 一、背景：envd 在 E2B 里的位置 E2B 给 LLM agent 提供"一个可以安全跑代码的云沙箱"。架构大致是三层： ...

来源:DeepSeek V4 Technical Report,Section 5.2.5 “Sandbox Infrastructure for Agentic AI” 一、系统概览 DSec 是 DeepSeek 自研的生产级沙箱平台,专为 Agentic AI 后训练与评估(post-training & evaluation)设计。其沙箱生命周期须与 GPU 训练调度协调,包括抢占和基于 checkpoint 的恢复。 ...

E2B 的 placement 策略在高并发场景下存在"状态滞后"导致的负载不均问题：调度器倾向于反复选中初始空闲的几个节点,但不会随着请求涌入及时调整,被选中的节点会承担远超平均的负载。 ...

1. 什么是 NBD (Network Block Device)? NBD (Network Block Device) 是一种 Linux 协议，允许通过网络访问块设备。在 E2B 的架构中，NBD 主要用于在宿主机上将构建好的 RootFS（通常是只读基础镜像 + 可写层的 Overlay）映射为一个块设备（例如 /dev/nbd0）。Firecracker MicroVM 需要一个块设备来作为其根文件系统启动，NBD 充当了文件系统（OverlayFS）与 Firecracker 块设备驱动之间的桥梁。 ...

E2B 的核心调度逻辑主要集中在 packages/api/internal/orchestrator/placement (放置策略) 和 packages/api/internal/orchestrator/nodemanager (节点管理) 这两个包中。 它们共同协作，负责在高并发环境下，将用户的 Sandbox（沙箱）请求高效、均衡地分配到合适的物理/虚拟节点上。 ...

1. 执行摘要与架构愿景 随着大语言模型（LLM）与自主智能体（AI Agents）技术的爆发式增长，云计算基础设施面临着前所未有的挑战。传统的容器编排系统，以 Kubernetes 为代表，主要针对微服务架构设计，优化目标在于长运行、无状态服务的稳定性与伸缩性。然而，AI Agent 的工作负载特征截然不同：它们通常需要执行不可信的生成代码、进行高强度的短期数据分析、并且要求毫秒级的环境启动速度。E2B（Execute to Build）作为一种专为 AI Agent 设计的云基础设施，填补了这一空白。它通过构建在 HashiCorp 生态系统（Nomad 和 Consul）之上的定制化控制面，利用 Firecracker microVM 提供兼具容器级启动速度与虚拟机级安全隔离的沙箱环境 。 ...