pawanjha25

现代AI系统的量化指南（免费70页电子书）

文章指出大模型瓶颈实为内存而非算力，并介绍Google新研究TurboQuant实现KV缓存3-4位压缩。作者同步发布70页技术电子书，系统讲解从浮点格式到生产级量化的完整知识体系，适合构建高效LLM系统的工程师与研究人员。