– by Getty Images in Unsplash
最近两年，我的工作和阅读多多少少都跟AI有关。说实话，如果没有AI，软件行业的惊喜程度估计会大打折扣。正式OpenAI带着ChatGPT横空出世，让原本陷入无聊的云计算恢复了新的活力。这两天在杭州云栖小镇进行的云栖大会，虽然还戴着云的帽子，但实质带的都是AI的货。 阿里巴巴集团董事兼首席执行官，阿里云智能集团董事长兼首席执行官吴泳铭在大会上表示：“AI是新一代的基础设施，未来十年，AI将成为数字经济的核心驱动力。” 这话一点不假。只不过他的”AI更强大，人类更强大”的结论，我个人觉得有点乐观。
希腊神话中有一个男孩叫法厄同，他发现自己原来是太阳神赫利俄斯的儿子。为了证明自己是神祇之后，法厄同希望能获得一天的特权，驾驶太阳神的四马金车出游。赫利俄斯警告他，这辆由天马拉着的金车绝非凡人能够驾驭，但在法厄同一再坚持下，赫利俄斯最终让步，让他得意地驾车飞上天空。果然，天马很快就失控了，太阳偏离了轨道，植被被烤焦，无数生物惨死，大地眼看就要毁灭。最后，宙斯出手，用一道闪电击中了法厄同。这个自负的人类如同流星般从空中坠落，甚至在坠落时自己也在燃烧。诸神终于让天空恢复了秩序，大地也免于毁灭。
歌德在叙事诗《魔法师学徒》中讲述了一个类似的故事：一位年迈的魔法师外出时，把工作坊交给了一名小学徒，让他负责去河边打水等杂务。小学徒为了偷懒，擅自施展了魔法师的一条咒语，让一把扫帚帮他打水。然而，他还没学会如何让扫帚停下来，结果水越打越多，整个工作坊都被淹没了。情急之下，小学徒用斧头把扫帚劈成两段，却发现一把扫帚变成了两把，两把扫帚又一起打水灌进工作坊。直到魔法师终于回来，小学徒向他求救：“我召唤了魔法精灵，却无法让它停下。”魔法师立即解除了咒语，阻止了大水。这次经历给了小学徒一个非常清楚的教训：永远不要召唤自己无法控制的力量。
这两个故事都是我在看《今日简史》的时候看到的。作者尤瓦尔·赫拉利在书中同样表达了他在面对AI时的这种矛盾心情：一方面，他对AI的能力感到惊叹，认为它能带来前所未有的便利和效率；另一方面，他也担心它会失控，带来不可预见的风险和危害。正如书中所说：“我们创造了能够自我优化、可级联、可扩散的系统，但我们是否真正理解这些系统的行为？我们是否能够在它们失控之前及时制止？”
我记得在2023年3月，埃隆·马斯克和其他1000多名专家、学者联名发出了一封公开信，呼吁暂停训练比人类更聪明的AI系统至少六个月，以便社会能够跟上AI发展的步伐。信中提到：“我们正处于一个关键的历史时刻，AI技术的发展速度远远超过了我们的理解和监管能力。如果不加以控制，AI可能会带来严重的社会、经济和政治后果。” 如今两年过去了，我们只看到各个大厂纷纷加速推出更强大的AI产品，似乎并没有听到太多关于“暂停”的声音。
我能理解每个大厂甚至大国在面对这一机遇的时候，谁都不愿意落于人后。但我也担心，这种竞赛心态会让我们忽视了对AI潜在风险的思考和应对。正如希腊神话中的法厄同和歌德笔下的小学徒一样，我们可能会因为过于自信和急于求成，而忽略了对AI的控制和监管，最终导致不可挽回的后果。