OPENAI CEO奥特曼系列-科技的进步往往是渐进的，而不是瞬间完成的

原始链接

https://blog.samaltman.com/the-merge

时空翻译舱

英文原文：

A popular topic in Silicon Valley is talking about what year humans and machines will merge (or, if not, what year humans will get surpassed by rapidly improving AI or a genetically enhanced species). Most guesses seem to be between 2025 and 2075.

People used to call this the singularity; now it feels uncomfortable and real enough that many seem to avoid naming it at all.

Perhaps another reason people stopped using the word “singularity” is that it implies a single moment in time, and it now looks like the merge is going to be a gradual process. And gradual processes are hard to notice.

中文翻译：

在硅谷，一个热门话题是讨论人类与机器将在哪一年实现融合（或者，如果无法融合，人类将被迅速进步的人工智能或基因增强物种超越的年份）。大多数猜测似乎在2025年至2075年之间。

人们过去曾称此为“奇点”；如今它让人感到不安且真实，以至于许多人似乎完全避免提及这个词。

也许人们停止使用“奇点”一词的另一个原因是，它暗示了一个特定的时间点，而现在看起来融合更像是一个渐进的过程。而渐进的变化往往难以察觉。

英文原文：

I believe the merge has already started, and we are a few years in. Our phones control us and tell us what to do when; social media feeds determine how we feel; search engines decide what we think.

The algorithms that make all this happen are no longer understood by any one person. They optimize for what their creators tell them to optimize for, but in ways that no human could figure out — they are what today seems like sophisticated AI, and tomorrow will seem like child’s play. And they’re extremely effective — at least speaking for myself, I have a very hard time resisting what the algorithms want me to do. Until I made a real effort to combat it, I found myself getting extremely addicted to the internet.

中文翻译：

我相信融合已经开始，我们已经进入这一进程的前几年。我们的手机控制着我们，并告诉我们何时该做什么；社交媒体内容决定我们的情绪；搜索引擎决定了我们的思维方式。

促成这一切的算法已不再为任何一个人所理解。它们根据创造者告诉它们的目标进行优化，但以人类无法完全理解的方式——今天看来这些算法似乎是先进的人工智能，而明天它们可能看起来就像小儿科。而且它们极为有效——至少就我而言，我很难抗拒算法希望我做的事情。直到我真的努力去抵制它，我才发现自己对互联网产生了极度的依赖。

认知熔炼炉

什么是“奇点”？

在科技领域，“奇点”通常指人工智能超越人类智慧的时刻。这个概念最早由数学家约翰·冯·诺伊曼提出，后来被科幻作家弗诺·文奇进一步发展。简单来说，奇点是AI从辅助工具转变为自主决策者的转折点。

例子：

想象一下，你拥有一台能够自己学习和改进的电脑。一开始，它只能帮你计算简单的数学题。但随着时间推移，它开始解决更复杂的问题，甚至超过你的能力范围。当电脑的能力远远超越你时，奇点就到了。

为什么“融合”比“奇点”更有意义？

“奇点”这个词暗示了一个突然的、戏剧性的变化。但实际上，科技的进步往往是渐进的，而不是瞬间完成的。因此，“融合”这个概念更贴切地描述了人类与技术协同发展的过程。

例子：

就像智能手机已经成为我们生活的一部分一样，未来的AI可能会成为我们思维和决策的延伸。这种融合不是一蹴而就的，而是通过逐步的技术改进实现的。

为什么我们现在讨论这些问题？

科技发展速度越来越快，我们必须提前思考其可能带来的影响。无论是隐私、就业还是伦理问题，这些都需要我们在技术真正到来之前就开始解决。

例子：

今天，我们已经看到AI在医疗诊断和自动驾驶中的应用。但随着技术的进步，我们需要回答更多深层次的问题，比如：谁应该为AI的错误负责？AI是否应该拥有权利？

通过以上解释，我们可以更好地理解人类与机器融合的概念以及其背后的意义。这不仅是一个科技问题，更是一个关乎我们未来生活方式的哲学问题。