Andrej Karpathy谈人工智能，AGI仍需十年，强化学习存在根本缺陷挑战

Andrej Karpathy表示，通用人工智能（AGI）仍需十年时间的研究和发展，同时他认为强化学习存在根本缺陷，他认为目前的人工智能技术还存在许多挑战和限制，需要更多的研究和改进，对于人工智能的发展，需要持续不断地进行探索和创新。

特斯拉前自动驾驶负责人、同时也是OpenAI的联合创始人Andrej Karpathy，近日在一档播客节目中深入分享了他对人工智能未来发展的最新思考。他明确表示，通用人工智能（AGI）的实现仍需至少十年时间，并对当前主流AI技术路线提出了直言不讳的批评。

谈及强化学习，Karpathy直言其“效果极差”，原因在于该方法默认决策链中每一步都是合理的，而现实中过程充满不确定性与噪声。他强调，人类不会像AI那样反复试错数百次，再仅凭最终成败来反向评估整个行为序列。此外，当前用于大语言模型训练的评判系统也存在明显漏洞，容易被精心设计的对抗样本误导，从而在训练中引入严重偏差。

对于超级智能的前景，他认为AI的进步是计算技术演进的自然延续，不会出现所谓“智能爆炸”的奇点时刻。相反，AI的发展更可能维持类似于过去几百年约2%的经济年增长率，呈现出稳定递进的趋势。他将AI类比为历史上的编译器、搜索引擎等关键技术，指出它们都属于一种递归式自我优化的技术演化链条。

在教育方面，Karpathy正在创办Eureka Labs，目标是建立一所堪比“星际舰队学院”的顶尖科技人才培养机构。他坚信AI终将重塑教育形态，但同时也指出目前的技术水平尚无法支撑真正高效的一对一智能辅导。他展望未来，每个人都有望精通多种语言和跨学科知识，而人类社会或将形成如同健身般追求智力成长的文化风尚。