当企业竞相建造 5000 亿美元的数据中心时,我们一直在悄悄地建造一些不同的东西:人工智能的基础设施,它们拥有自己的能力,在自愿的硬件上运行,并且不能被任何单一的权威机构关闭。
ILGPU 编译 C# GPU 内核,以便在单个代码库的 6 个后端上运行:浏览器中的 WebGPU、WebGL 和 WebAssembly,以及桌面上的 CUDA、OpenCL 和 CPU。
所有后端进行 1,511 次测试,零故障。
ML 是一个构建在其之上的神经网络推理引擎。
88 个 ONNX 运算符、17 个管道、14 个经过验证的模型,包括 GPT-2、Whisper、DepthAnything、YOLO 和 DistilBERT。
15 个 BEP、363 次测试、浏览器中的 WebRTC 点对点和桌面上的 TCP。
来源:Dev.to
