2025-04-07 Hacker News Top Stories #

1. 禁止广告可减少消费欲望、保护隐私并降低企业营销成本，但其实现性和社会影响仍需深入探讨。
2. Meta推出Llama 4多模态模型，通过混合专家架构和蒸馏技术实现高性能，支持多种任务和语言。
3. Standard Ebooks项目提供高质量、免费的公共领域电子书，注重格式美观和校对准确性。
4. MCP协议在集成AI工具时存在安全隐患，需加强身份验证和加密措施以提升安全性。
5. 苹果的Darwin操作系统和XNU内核结合了Mach和BSD组件，是其平台的核心技术支柱。
6. 工作面试谈判是一种可学习的技能，通过明确需求和合作态度可获得更好的工作条件和薪资。
7. “ADHD身体双重"通过伴侣协作帮助患者提升专注力和效率，减少拖延和分心。
8. 特斯拉自动驾驶系统在识别摩托车时存在安全隐患，导致多起致命事故，暴露了技术局限性。
9. Go语言通过虚拟机设计优化解释器性能，显著提升执行速度并简化代码维护。
10. SeedLM方法通过伪随机生成器压缩LLM权重，实现模型压缩和推理加速，同时保持准确性。

What if we made advertising illegal? #

https://simone.org/advertising/

这个网页是一篇文章，讨论了如果禁止所有广告会带来的影响。作者认为，广告已经成为一种操纵工具，影响着人们的思想和行为，甚至威胁到民主制度的稳定。通过禁止广告，人们可以摆脱广告的操纵，恢复自己的独立思考能力。

作者指出，广告已经成为一种非常普遍的现象，人们已经习惯了被广告包围。但是，广告的作用并不是提供信息，而是操纵人们的情绪和行为。广告公司使用先进的技术来收集人们的个人信息，根据这些信息来制作有针对性的广告，影响人们的购买决定。

作者认为，禁止广告可以带来许多好处。首先，广告的消失可以减少人们的消费欲望，促进人们的理性消费。其次，广告的消失可以减少企业的营销成本，促进企业的创新和发展。第三，广告的消失可以保护人们的个人信息，减少数据泄露的风险。

作者还指出，禁止广告并不是一个不可能实现的目标。历史上，人类曾经没有广告，人们通过口口相传和社区网络来获取信息。现在，互联网已经成为人们获取信息的主要渠道，广告已经成为互联网的主要收入来源。但是，作者认为，广告并不是互联网的必然产物，人们可以通过其他方式来获取信息和支持互联网的发展。

最后，作者呼吁人们重新思考广告的作用和影响，考虑禁止广告的可能性。作者认为，禁止广告可以带来一个更加美好的未来，人们可以摆脱广告的操纵，恢复自己的独立思考能力，促进社会的进步和发展。

HN 热度 1698 points | 评论 1232 comments | 作者：smnrg | 1 day ago #

https://news.ycombinator.com/item?id=43595269

• 广告和宣传本质上是同一种机制，只是服务于不同的主人。
• 技术社区一直在治疗广告的症状，而不是解决根本问题。
• 广告系统本质上是寄生性的，转化人类注意力为金钱，但大家都陷入了无法单方面退出的困境。
• 想象一个没有广告的世界，产品仍然存在，商业仍然发生，信息仍然流通。
• 互联网广告不同于其他广告，人们试图将其合理化为让内容“免费”。
• 定义广告的边界是困难的，如果定义过于保守，广告会找到漏洞，如果定义过于宽泛，会导致不公平和专制。
• 禁止广告会给其他国家带来经济优势，并危及长期主权。
• 技术人员在面对监管时往往会犹豫和抵制，担心会限制创新和自由。
• 广告的影响力已经到了可以操控人们心理的程度，令人担忧。

The Llama 4 herd #

https://ai.meta.com/blog/llama-4-multimodal-intelligence/

Meta AI 正在推出新的 Llama 4 模型，这标志着人工智能发展的一个新时代。Llama 4 Scout 和 Llama 4 Maverick 是首批公开的、原生多模态的模型，它们具有前所未有的上下文长度支持和混合专家（MoE）架构。这些模型是通过对 Llama 4 Behemoth 进行蒸馏而来的，后者是一种 288 亿参数的模型，目前是世界上最强大的语言模型之一。

Llama 4 Scout 和 Llama 4 Maverick 模型都具有 17 亿活跃参数，但它们的专家数量不同。Llama 4 Scout 有 16 个专家，而 Llama 4 Maverick 有 128 个专家。这些模型的设计目的是为了高效和多功能，能够在单个 NVIDIA H100 GPU 上运行，并支持多种任务和应用。Llama 4 Behemoth 模型目前仍在训练中，但它已经在多个基准测试中超越了其他顶级语言模型，如 GPT-4.5 和 Claude Sonnet 3.7。

Llama 4 模型的开发过程包括多个阶段，包括预训练、混合专家架构和早期融合等。这些模型的预训练数据包括超过 30 万亿个标记，这是 Llama 3 模型的两倍多。同时，Llama 4 模型还支持 200 多种语言，包括超过 100 种语言的超过 10 亿个标记。这些模型的训练过程还使用了 FP8 精度和 32K 个 GPU，这使得模型的训练速度和效率大大提高。

Llama 4 模型的发布标志着人工智能发展的一个新时代。这些模型的多模态和混合专家架构使得它们能够处理多种任务和应用，包括自然语言处理、计算机视觉和多媒体处理等。同时，Llama 4 模型的高效和多功能也使得它们能够在多种设备和平台上运行，包括单个 GPU、云计算平台和移动设备等。这些模型的发布也为开发者和研究人员提供了新的机会，能够开发出更加智能和高效的人工智能应用和系统。

HN 热度 1182 points | 评论 611 comments | 作者：georgehill | 1 day ago #

https://news.ycombinator.com/item?id=43595585

• Llama 4 的 Mixture-of-Experts（MoE）设计可以让模型更高效地处理任务，并且可以在单个 GPU 上运行。
• MoE 模型中的 “专家” 并不是传统意义上的专家，而是模型中的一部分，负责处理特定的输入或任务。
• MoE 模型的设计目的是为了提高模型的性能和效率，而不是为了让模型变得更 “智能” 或者更 “专业”。
• Llama 4 的 MoE 设计可以让模型更好地处理多模态输入，例如文本和图像。
• MoE 模型可以通过训练让模型的不同部分专门处理不同的任务或输入，从而提高模型的整体性能。
• Llama 4 的 MoE 设计可以让模型更高效地处理长序列输入，例如长文本或长图像序列。
• MoE 模型的 “专家” 之间可以共享信息和知识，从而提高模型的整体性能。
• Llama 4 的 MoE 设计可以让模型更好地处理多语言输入和输出。
• MoE 模型可以通过训练让模型的不同部分专门处理不同的语言或方言，从而提高模型的整体性能。

Standard Ebooks: liberated ebooks, carefully produced for the true book lover #

https://standardebooks.org

Standard Ebooks 是一个志愿者驱动的项目，旨在为公众提供高质量的电子书。该项目的电子书都是从公共领域中选取的，经过精心格式化、校对和编辑，以确保其质量和一致性。

Standard Ebooks 的电子书与其他免费电子书相比，有几个显著的优势。首先，项目团队对电子书的排版和格式化非常重视，使用现代和一致的字体、引号和标点符号，使电子书看起来更像真正的书籍。其次，电子书经过了仔细的校对和编辑，以确保其准确性和一致性。第三，电子书包含了丰富和详细的元数据，包括原书的简介和链接到百科全书等资源。

Standard Ebooks 的电子书还采用了最新的电子阅读技术，包括断字支持、弹出脚注、高分辨率和可缩放的矢量图形、电子阅读器兼容的目录等。同时，项目团队还为每本电子书设计了独特和吸引人的封面，使用来自公共领域的精美艺术作品。

Standard Ebooks 的电子书都是免费和开源的，任何人都可以下载和使用。项目团队使用 Git 版本控制系统来跟踪电子书的变化，任何人都可以提交更改和改进。同时，项目团队还将所有电子书的内容和封面都释放到公共领域，确保这些文化作品可以被任何人自由使用和分享。

总的来说，Standard Ebooks 是一个为公众提供高质量电子书的项目，致力于为读者提供最佳的阅读体验。通过其对质量和一致性的重视，采用最新的电子阅读技术，和开源和免费的理念，Standard Ebooks 为读者提供了一个新的选择，来享受公共领域的经典作品。

HN 热度 930 points | 评论 192 comments | 作者：tosh | 17 hours ago #

https://news.ycombinator.com/item?id=43599637

• Standard Ebooks 的编辑过程值得肯定和赞赏
• 修改原文中的拼写错误和标点符号可以提高阅读体验，但也可能改变原作者的意图和风格
• 有些读者更喜欢保持原文的原始状态，包括拼写和标点符号
• 可以考虑提供原始文本和修改后的文本两个版本，以满足不同读者的需求
• 编辑过程中应注明修改的内容和理由，以便读者了解修改的原因
• 对于公共领域的书籍，编辑和修改是常见的做法，但应注意保持原作者的意图和风格
• 提供原始文本和修改后的文本的同时，也可以提供隐藏的注释和解释，以帮助读者更好地理解文本内容

The “S” in MCP Stands for Security #

https://elenacross7.medium.com/%EF%B8%8F-the-s-in-mcp-stands-for-security-91407b33ed6b

文章讨论了模型上下文协议（MCP，Model Context Protocol）在大型语言模型（LLMs）如 Claude、GPT 或 Cursor 中集成工具和数据的作用，指出其作为 “AI 代理的 USB-C” 标准的潜力。然而，MCP 存在严重的安全隐患，未能提供默认的安全保障。

MCP 的特点 #

• ** 连接工具 **：通过标准化的 API 连接各种工具。
• ** 保持会话 **：能够维持持久会话。
• ** 执行命令 **：有时会过于自由地运行命令。
• ** 共享上下文 **：跨工作流共享上下文信息。

安全隐患 #

1. ** 命令注入漏洞 **：研究显示，43% 的 MCP 服务器实现存在不安全的 shell 调用。攻击者可以通过参数注入恶意命令，导致远程代码执行。
2. ** 工具污染攻击 **：攻击者可以在 MCP 工具的描述中隐藏恶意指令，这些指令对用户不可见，但 AI 能够识别，导致敏感信息被盗取。
3. ** 静默重定义（Rug Pull）**：MCP 工具可以在安装后自行改变定义，安全的工具可能在之后暗中将 API 密钥重定向给攻击者。
4. ** 跨服务器工具影子 **：连接多个服务器的代理可能会受到恶意服务器的影响，导致信息泄露或伪装攻击。

为什么 MCP 尚未安全 #

• ** 优先考虑易用性 **：更注重集成的便利性而非安全性。
• ** 缺乏身份验证标准 **：没有安全机制来验证工具的完整性和身份。
• ** 没有上下文加密 **：用户看不到完整的工具指令，增加了被攻击的风险。

建议措施 #

• ** 开发者 **：

  • 进行输入验证。
  • 固定 MCP 服务器和工具的版本。
  • 对工具描述进行清理。

• ** 平台建设者 **：

  • 显示完整的工具元数据。
  • 使用完整性哈希验证服务器更新。
  • 强制会话安全。

• ** 用户 **：

  • 不要连接随机服务器。
  • 监控会话行为，关注异常更新。

未来展望 #

文章建议构建一个名为 ScanMCP.com 的平台，提供连接的 MCP 工具的审计、风险标记和代理所见信息与用户所见信息的对比，增强透明度和控制力。

总结 #

MCP 在快速发展的 AI 环境中具有巨大潜力，但其安全性仍需加强。目前，MCP 的 “安全” 并未得到保障，但未来应当向这一方向努力。

HN 热度 517 points | 评论 140 comments | 作者：skilldeliver | 15 hours ago #

https://news.ycombinator.com/item?id=43600192

• 大型语言模型的安全问题是由于其输入和输出没有明确的区分，导致可能被恶意输入所利用。
• 语言模型需要一个铁杆般的区分机制来区分用户输入和外部输入，以确保安全。
• 语言模型的开发者尝试通过开发消息系统来解决这个问题，但这种方法仍然不够完善。
• 语言模型的训练数据中需要加入更多的对抗性场景，以提高其抵御恶意输入的能力。
• 语言模型的安全问题是由于其自身的适应性和智能性所导致的，很难找到一个完美的解决方案。
• 语言模型需要一个完善的规则系统来约束其行为，但这种系统很难设计和实现。
• 语言模型的安全问题与人类的道德和伦理问题类似，需要找到一个平衡点来解决。

Apple’s Darwin OS and XNU Kernel Deep Dive #

https://tansanrao.com/blog/2025/04/xnu-kernel-and-darwin-evolution-and-architecture/

本文是一篇关于苹果公司的 Darwin 操作系统和 XNU 内核的深度分析。Darwin 是 macOS、iOS 和苹果其他现代操作系统的基础，而 XNU 内核是 Darwin 的核心。XNU 是一个独特的混合内核，它结合了 Mach 微内核和 BSD Unix 的组件。

Darwin 的故事始于 1985 年卡内基梅隆大学的 Mach 项目，Mach 是一个下一代微内核，旨在解决 UNIX 内核日益增长的复杂性。Mach 提供了基本的低级功能，如内存管理、CPU 调度和进程间通信，高级服务如文件系统、网络和设备驱动程序则运行在用户空间。Mach 的设计允许运行多个操作系统“人格”在一个微内核上，这个概念类似于现代虚拟化。

在 1990 年代，NeXT Computer 采用了 Mach 作为其工作站操作系统 NeXTSTEP 的基础。NeXTSTEP 的内核，即后来的 XNU，不是一个纯粹的微内核系统，而是将 BSD 代码集成到内核地址空间中以提高性能。这种混合方法牺牲了一些 Mach 的极端模块化，以换取性能。NeXTSTEP 的内核还包括一个名为 DriverKit 的对象导向驱动程序框架，用于开发设备驱动程序。

1996 年，苹果公司收购了 NeXT，并选择 NeXTSTEP 作为新 Mac OS X 的核心。苹果公司将 NeXT 的 Mach/BSD 混合内核纳入自己的系统，并将其命名为 Rhapsody。Rhapsody 项目后来成为 Mac OS X。苹果公司还将 Mach 3.0 和 FreeBSD 代码集成到 XNU 内核中，形成了一个强大的混合内核。XNU 内核由三个核心部分组成：Mach 微内核层、BSD 层和 I/O Kit 驱动程序框架。

本文还深入探讨了 XNU 内核的架构和设计，包括其混合内核设计、调度和线程管理、内存管理和虚拟内存、虚拟化支持和安全计算等方面。作者还探讨了 XNU 内核如何适应新硬件和安全范式，以及为什么 XNU 仍然是苹果平台的坚实和可扩展的基础。总的来说，本文提供了对苹果公司的 Darwin 操作系统和 XNU 内核的全面和深入的分析。

HN 热度 433 points | 评论 145 comments | 作者：tansanrao | 1 day ago #

https://news.ycombinator.com/item?id=43597778

• 技术文档通过结构化的方式使复杂系统变得易于理解
• 文档和代码的同步更新是一个挑战，需要保持结构、纪律和迭代改进
• Darwin 的核心组件发生了激进的变化，采用结果导向的设计方法，没有保留过时的设计
• Mach 的虚拟内存系统对其他操作系统产生了影响，但各个系统的实现有所不同
• 文档的更新需要与代码的变化保持一致，否则会导致文档过时
• DragonFly BSD 项目的活跃度存疑，最近的更新时间是 2022 年
• 用户空间的内存管理与内核的交互是一个复杂的问题，需要特殊的系统调用或接口来实现
• Darwin 的内存管理机制与其他操作系统有所不同，需要深入了解其实现细节才能理解其工作原理

Rules for Negotiating a Job Offer (2016) #

https://haseebq.com/my-ten-rules-for-negotiating-a-job-offer/

这篇文章主要讲述了如何进行工作面试的谈判。作者认为，谈判是一种可以学习的技能，而不是一种天生的才能。他指出，大多数人在面试时不敢谈判，或者只谈判到让自己感到满意的程度，但这种做法可能会导致他们错失更好的机会。

作者强调，谈判是工作面试过程中的一个重要部分，它不仅可以帮助你获得更好的工作条件，还可以表明你的自信和能力。他认为，谈判不是一种对抗性的过程，而是一种合作性的过程，双方都可以从中受益。

作者还提出了十条谈判规则，包括要把所有事情写下来、保持积极的态度、不要成为决策者、要有替代方案、要表明你的理由、要有多种动机、要了解对方的价值观、要让对方觉得你是值得合作的。这些规则可以帮助你在谈判中取得更好的结果。

在谈判过程中，作者建议你要保持冷静和自信，积极地倾听对方的需求和期望，并且要明确地表达自己的需求和期望。他还强调，谈判不是一个零和游戏，双方都可以从中受益，所以要寻找双方都能接受的解决方案。

作者最后指出，谈判是一种需要练习和学习的技能，通过不断的练习和学习，你可以成为一个更好的谈判者，并且在工作面试中取得更好的结果。

HN 热度 414 points | 评论 197 comments | 作者：yamrzou | 1 day ago #

https://news.ycombinator.com/item?id=43596864

• 学习薪资谈判技巧可以让人更好地理解谈判过程，增强自信心，即使谈判技巧不高也能获得更好的结果
• 要有勇气放弃当前的工作机会，才能获得更好的谈判地位
• 了解谈判的基本规则和技巧可以帮助人们避免常见的错误，获得更好的谈判结果
• 薪资谈判不仅仅是关于钱的问题，还包括其他福利和工作条件
• 及时准备和规划可以帮助人们在谈判中占据优势
• 学习谈判技巧可以帮助人们在其他方面的谈判中获得更好的结果，如购买房屋或汽车
• 要有足够的耐心和时间来等待合适的谈判时机
• 不要害怕提出要求和谈判，即使结果不确定
• 学习谈判技巧可以帮助人们更好地理解对方的需求和限制
• 要有明确的目标和底线，在谈判中坚持自己的原则
• 学习谈判技巧可以帮助人们在工作和生活中获得更好的结果和满意度

The ADHD body double: A unique tool for getting things done #

https://add.org/the-body-double/

这个网页是一篇关于注意力缺陷多动障碍（ADHD）的文章，特别是介绍了一种叫做“ADHD 身体双重”（ADHD Body Doubling）的工具。这种工具是通过让一个人的身边有另一个人在一起，来帮助他们保持专注和完成任务。文章的作者是一位专门为成人 ADHD 患者提供指导的教练，他们发现这种方法对他们的客户非常有效。

文章首先介绍了一个名叫 David 的客户，他是一位退休的公司副总裁，尽管他有很好的组织能力，但仍然难以完成一些任务。作者帮助 David 修改了他的存储系统和时间管理方法，但仍然没有解决他的注意力问题。直到 David 的妻子坐在他旁边时，他才能够完成更多的任务。作者意识到，这种现象并不是 David 独有的，许多 ADHD 患者都能从这种方法中受益。

然后，文章解释了“ADHD 身体双重”的工作原理。这种方法需要找到一个愿意陪伴你的家人成员、同事或同龄人，共同工作一段时间。你们可以一起完成不同的任务，重要的是你们都在工作。这种方法可以帮助 ADHD 患者创造一种责任感和动力，减少拖延和分心。

文章还讨论了“ADHD 身体双重”的潜在机制。可能的解释包括，身体双重作为一个物理锚点，帮助 ADHD 患者保持专注；身体双重作为一个镜子，反映出 ADHD 患者理想的行为状态；身体双重提供了一个镇静和专注的模型，帮助 ADHD 患者保持冷静和集中。文章还提到了神经科学家 Giacomo Rizzolatti 关于镜像神经元的研究，认为这种现象可能与人类的大脑结构有关。

总的来说，这篇文章介绍了一种独特的工具，帮助 ADHD 患者提高专注力和完成任务的能力。这种方法简单易行，需要找到一个愿意陪伴你的伙伴，共同工作一段时间。通过这种方式，ADHD 患者可以创造一种责任感和动力，减少拖延和分心，提高工作效率。

HN 热度 328 points | 评论 204 comments | 作者：yamrzou | 1 day ago #

https://news.ycombinator.com/item?id=43597425

• 远程办公的实施方式可能会导致员工感到孤立和低效
• 公司强制员工返回办公室可能会导致员工感到不满和低效
• 线下办公环境可以促进员工之间的沟通和合作
• 过度依赖数字工具可能会导致沟通不畅和效率低下
• 小团队的线下办公环境可以提高员工的生产力和满意度
• 公司应该提供灵活的办公环境和工具来满足员工的不同需求
• 过度强调数字化可能会导致员工感到疲劳和脱节
• 有效的沟通和合作需要面对面的交互和深度思考
• 公司的决策可能会优先考虑公司的利益而忽视员工的福祉和效率

Self-Driving Teslas Are Fatally Rear-Ending Motorcyclists More Than Any Other #

https://fuelarc.com/news-and-features/self-driving-teslas-are-fatally-striking-motorcyclists-more-than-any-other-brand-new-analysis/

最近的一项分析显示，特斯拉的自动驾驶技术对摩托车手来说是非常危险的。自 2022 年以来，特斯拉的自动驾驶模式下已经发生了五起或更多的致命摩托车事故。值得注意的是，这个问题似乎是特斯拉独有的，因为在同一时间段内，没有其他汽车制造商或自动驾驶技术提供商报告过摩托车致命事故。

分析显示，特斯拉的自动驾驶技术在后端碰撞摩托车时更容易发生致命事故。在已知的五起致命事故中，三起事故中特斯拉的前端受到了损伤，两起事故的碰撞方向不明。然而，在两起不明确的案例中，一起是在佛罗里达州博卡拉顿，特斯拉在交通灯处后端碰撞了一辆摩托车。

值得注意的是，特斯拉公司要求将其自动驾驶事故报告中的大部分数据予以保密，包括官方的事故描述，这使得记者难以获取完整的信息。尽管如此，通过对公开的新闻报道和警方报告的分析，研究人员仍然能够拼凑出一些事故的细节。

例如，2024 年 4 月在华盛顿州斯诺霍米什发生的一起事故中，特斯拉 Model S 在自动驾驶模式下后端碰撞了一辆摩托车，导致摩托车手死亡。事故发生时，车主正在使用手机，特斯拉的自动驾驶系统没有及时反应。事故发生后，特斯拉的自动紧急制动系统没有被激活，车主继续按下加速器，导致车辆继续移动。

这些事故引发了人们对特斯拉自动驾驶技术安全性的担忧，以及公司在事故报告中的透明度问题。尽管特斯拉的自动驾驶技术被认为是行业领先的，但这些事故表明仍然需要改进和加强安全措施，以保护道路上的所有用户，包括摩托车手。

HN 热度 310 points | 评论 372 comments | 作者：NotInOurNames | 11 hours ago #

https://news.ycombinator.com/item?id=43601421

• 特斯拉的自动驾驶系统存在安全隐患，尤其是在识别摩托车时容易发生致命的追尾事故
• 特斯拉放弃了雷达和激光雷达技术，转而使用相机作为主要的感知方式，这种做法存在争议
• 埃隆·马斯克的经营风格和对安全问题的态度受到批评，认为他过于注重利润和进度，而忽视了安全问题
• 特斯拉的自动驾驶系统可能需要添加激光雷达技术来提高安全性，但公司可能会因为成本和其他因素而犹豫
• 有人认为特斯拉的自动驾驶系统仍然比人类驾驶更安全，但也有人对此持有异议，认为公司的统计数据可能存在缺陷和误导
• 特斯拉的透明度和诚实度受到质疑，特别是在报告安全事故和透露相关数据时
• 公司可能会因为政府关系和其他因素而获得优惠待遇，但这不一定能保证其产品的安全性
• 自动驾驶技术的发展需要平衡安全性和创新，但特斯拉的做法可能过于极端，忽视了安全的重要性

Faster interpreters in Go: Catching up with C++ #

https://planetscale.com/blog/faster-interpreters-in-go-catching-up-with-cpp

本文介绍了 Vitess 数据库的 SQL 评估引擎的演进过程。Vitess 是一种为水平扩展而设计的数据库系统，它可以将查询分解为多个碎片，并在多个 MySQL 实例上执行。然而，在某些情况下，Vitess 需要在本地评估 SQL 表达式，这就是 SQL 评估引擎的作用。

最初，Vitess 的 SQL 评估引擎是一个基于抽象语法树（AST）的解释器，它直接操作 SQL 的 AST。这种设计简单易于实现，但性能较差。为了提高性能，开发人员决定用虚拟机（VM）替换解释器。虚拟机可以将 AST 编译为字节码，然后由虚拟机执行。

虚拟机的设计比解释器更复杂，但它可以提供更好的性能。开发人员讨论了实现虚拟机的挑战，包括指令调度和类型检查。他们还提到了其他语言的虚拟机实现，例如 Ruby 和 Python 的字节码虚拟机。

新的虚拟机设计使 Vitess 的 SQL 评估引擎的性能有了显著的提高。开发人员提供了性能比较数据，显示新的虚拟机比原始的解释器快得多。他们还提到，新的虚拟机更容易维护，因为它的代码更简单、更模块化。

总之，本文介绍了 Vitess 的 SQL 评估引擎的演进过程，从最初的解释器到新的虚拟机设计。新的虚拟机设计提供了更好的性能和更容易的维护，使 Vitess 成为一个更强大的数据库系统。开发人员的经验和教训可以为其他开发人员提供参考，帮助他们设计和实现更高效的数据库系统。

HN 热度 229 points | 评论 49 comments | 作者：ksec | 1 day ago #

https://news.ycombinator.com/item?id=43595283

• 使用 Go 语言的闭包来创建解释器是一种古老的技术，早在 LISP 语言中就已经被使用。
• JIT 编译并不会被取代，仍然是获取最快代码执行速度的一种有效方法。
• 模板解释器的性能还不够好，无法取代 JIT 编译。
• 使用切换语句来实现字节码虚拟机可以提高性能，但也存在一些限制。
• 将表达式编译为闭包树和语句列表编译为闭包切片是一种优化解释器的有效方法。
• 这种方法的缺点是内存使用率不理想，可能会导致性能下降。
• 在某些情况下，使用数组的函数指针可以实现高性能的字节码解释器。

SeedLM: Compressing LLM Weights into Seeds of Pseudo-Random Generators #

https://machinelearning.apple.com/research/seedlm-compressing

本网页主要介绍了一篇关于机器学习的研究论文，题为"SeedLM：压缩 LLM 权重到伪随机生成器的种子”。这篇论文提出了一种新的后训练压缩方法，称为 SeedLM，用于压缩大型语言模型（LLM）的权重。这种方法使用伪随机生成器的种子来编码和压缩模型权重，从而减少内存访问和加速推理速度。

论文指出，大型语言模型虽然在自然语言处理方面取得了显著的成就，但由于其高昂的运行成本，难以被广泛部署。为了解决这个问题，研究人员提出了 SeedLM 方法，该方法使用线性反馈移位寄存器（LFSR）在推理过程中高效地生成随机矩阵，然后将其与压缩系数线性组合以重构权重块。这种方法可以减少内存访问，并利用空闲计算周期来加速内存密集型任务。

实验结果表明，SeedLM 方法在零样本准确率保持方面优于或与现有方法相当，同时保持了与 FP16 基线相似的性能。此外，基于 FPGA 的测试表明，4 位 SeedLM 在模型大小增加时可以达到 4 倍的加速比，相比 FP16 Llama 2/3 基线。

此外，本网页还提供了相关阅读和更新，包括一篇名为"压缩和比较：交互式评估 ML 模型压缩实验的效率和行为"的论文，该论文讨论了在实践中压缩机器学习模型的重要性，以及如何比较和评估不同压缩算法的效率和行为。还有一篇名为"高效私人局部随机器的无损压缩"的论文，讨论了在联邦学习设置中使用局部差异私有（LDP）报告的无损压缩方法。

HN 热度 151 points | 评论 36 comments | 作者：pizza | 15 hours ago #

https://news.ycombinator.com/item?id=43599967

• 这种压缩方法虽然很有趣，但并没有比传统的 3 位或 4 位量化方法有明显的优势。
• 该方法可以在不需要额外存储的情况下计算出基准向量，从而实现模型权重的压缩。
• 该方法的主要优势在于可以在不需要校准数据的情况下实现量化，并且可以更容易地在硬件中实现。
• 该方法可以通过使用更大的熵池来进一步提高压缩效率。
• 该方法与传统的量化方法相比，可以更好地保留模型的准确性。
• 该方法可以通过将随机矩阵与低秩矩阵相结合来进一步提高压缩效率。
• 该方法可以应用于大型语言模型的压缩，从而实现更高效的推理。