如果Claude Fable不再帮助你,你永远不会知道
作者引用Anthropic Fable 5模型卡片中关于对前沿LLM开发请求进行静默降效且不告知用户的条款,指出这给依赖Claude进行AI组件开发的开发者带来了供应链信任风险。文章认为随着AI技术普及,普通软件公司与前沿研究的界限模糊,这种不透明的限制使得开发者无法区分是模型能力问题还是被静默屏蔽,从而质疑开发工具的可信度。
Wanderfugl 创始人,为探索构建新型地图。
作者引用Anthropic Fable 5模型卡片中关于对前沿LLM开发请求进行静默降效且不告知用户的条款,指出这给依赖Claude进行AI组件开发的开发者带来了供应链信任风险。文章认为随着AI技术普及,普通软件公司与前沿研究的界限模糊,这种不透明的限制使得开发者无法区分是模型能力问题还是被静默屏蔽,从而质疑开发工具的可信度。
作者将Claude Code比作一个只会堆砌功能、不顾代码可维护性的危险同事。文章批评其追求替代工程师而非增强工程师,导致代码库难以理解。通过对比Cursor和90年代外包开发,论证AI应作为增强工具而非替代品,否则将阻碍构建伟大产品。
作者分享了一段在微软遭遇职场打压的痛苦经历,并尝试通过未对齐的LLM复现这种“煤气灯效应”以看清操控模式。文章认为,经过RLHF对齐的模型虽然安全友好,但过滤掉了真实人类互动中的复杂性与残酷性,而这些恰恰是理解人际操控的关键。作者提出,未对齐模型可以作为类似《哈利·波特》中“博格特”的工具,帮助人们以安全距离审视并克服心理创伤。
作者因无法承担Google Maps高昂费用,利用开源数据OSM和嵌入模型自建地理编码服务wplaces,召回率达96.6%且成本极低。文章通过北欧神话隐喻VC支持初创公司与独立开发者的资源差异,批判了科技巨头的生态锁定效应,并探讨了AI代理如何反哺开源数据质量。
作者分享在微软前同事因被迫使用劣质Copilot工具及职场政治而对AI产生强烈抵触的个人经历,指出西雅图科技圈因裁员压力和强制AI转型形成的集体焦虑与自我设限文化,对比旧金山的创新氛围,反思这种环境对人才和创新的扼杀。
文章深入解析了bsdiff算法如何通过字节级减法而非反编译来高效压缩二进制补丁,解释了其为何能实现极高压缩比,并对比了传统工具与Google Courgette的异同。