1991年慕尼黑:当前人工智能热潮的根源
Jürgen Schmidhuber 回顾了他 1991 年在慕尼黑的工作,认为当时提出的算法和思想奠定了现代深度学习的基础。文章将当前的 AI 热潮追溯至三十年前的具体技术突破,提供了独特的历史视角。对于了解 AI 发展脉络和技术源流的读者来说,这是一篇具有信息增量的深度回顾,有助于理解技术演进的连续性。
People.idsia.ch
Jürgen Schmidhuber 回顾了他 1991 年在慕尼黑的工作,认为当时提出的算法和思想奠定了现代深度学习的基础。文章将当前的 AI 热潮追溯至三十年前的具体技术突破,提供了独特的历史视角。对于了解 AI 发展脉络和技术源流的读者来说,这是一篇具有信息增量的深度回顾,有助于理解技术演进的连续性。
Jürgen Schmidhuber 发文指控 Yann LeCun 的 JEPA 架构核心思想源自其 1992 年的 PMAX 论文,认为 LeCun 未引用前人成果且存在夸大自身贡献的行为。文章详细对比了 JEPA 与 PMAX、BYOL 等技术路线在防止表征坍塌和扩展性上的异同,并附上了 LeCun 的回应及进一步的技术反驳。这是一篇典型的 AI 领…
深度学习先驱 Jürgen Schmidhuber 回顾其团队在 1990-1991 年于慕尼黑工业大学取得的突破性进展,声称这些成果奠定了现代 AI 的基础。文章列举了多项早期发明,包括生成对抗网络(GANs)、Transformer 的前身、预训练概念、知识蒸馏以及 LSTM 的核心原理。作者强调,尽管当时未被重视,但这些理论如今已应用于数十亿设备,并…
文章挑战了晶体管由贝尔实验室发明的传统认知,指出朱利叶斯·利连费尔德早在1925年就申请了场效应晶体管(FET)专利。作者引用大量史料和实验复现证明,利连费尔德的设计不仅可行,且是现代计算机中数十亿晶体管的真正源头。相比之下,贝尔实验室1948年的点接触晶体管被视为死胡同,且诺贝尔奖评选存在历史遗漏。文章还梳理了从早期计算机到算力物理极限的发展脉络。
IDSIA的Jürgen Schmidhuber发表详细报告,指控2018年图灵奖得主Hinton、Bengio和LeCun在深度学习的多项关键发明(如GAN、注意力机制、元学习等)上未正确引用其团队早期的工作,甚至存在故意隐瞒源头的行为。文章列出了具体的优先权争议案例,并呼吁ACM审查奖项授予的科学诚信问题。这是一篇极具争议性的一手指控,直接挑战AI界的…
Jürgen Schmidhuber 梳理了 Transformer 的完整发展时间线,核心观点是:现代 Transformer 的关键思想(如线性注意力、快速权重控制器)早在 1991-1993 年就已由他的团队提出(称为 ULTRA)。2017 年的“Attention Is All You Need”并非从零发明,而是结合了早期的快速权重原理与 20…
IDSIa研究员Jürgen Schmidhuber发文主张,深度残差学习(Deep Residual Learning)的核心思想并非由He Kaiming在2015年首创。文章梳理了从1991年Sepp Hochreiter在毕业论文中提出循环神经网络中的残差连接,到1997年LSTM的常数误差车(CEC),再到2015年5月Highway Netwo…
文章梳理了卷积神经网络(CNN)的发展时间线,指出其核心架构由日本科学家Fukushima于1979年提出,而首个现代反向传播训练的2D CNN由中国学者Wei Zhang等人于1988年在日本完成。作者强调,尽管当时日本经济繁荣且AI资金充足,但CNN的早期突破多发生在日本,这得益于对基础研究的投入。文章还澄清了LeCun等人的贡献是在Zhang之后,并…
图灵奖得主 Jürgen Schmidhuber 梳理了反向传播算法(Backpropagation)的真实历史。文章指出,现代反向传播的核心方法最早由芬兰学生 Seppo Linnainmaa 在 1970 年的硕士论文中发表,而非大众认知的 Rumelhart 等人。Schmidhuber 详细回顾了从 1960 年代的控制论优化到 1980 年代神经…
Jürgen Schmidhuber 撰写了现代 AI 和深度学习历史的详细时间线。文章强调了许多基础概念早在 2000 年之前就已出现,如链式法则、早期神经网络和反向传播。作者旨在纠正一些被广泛接受但可能误导的历史叙述,并突出其团队在深度学习发展中的贡献。文章提供了大量参考文献和链接,适合对 AI 历史和技术根源感兴趣的读者深入阅读。
AI先驱Schmidhuber指出德国因长期忽视AI投入和错误的激励机制,导致经济与技术影响力大幅衰退,人才流失严重。他主张德国应利用其机械工程优势,举国之力研发能学习所有人类不愿做工作的通用AI机器人。他认为这是解决劳动力短缺、提升国家竞争力的关键,也是德国重回世界舞台中心的唯一机会。