人工智能，也需设底线

张炯强

如今，各类AI技术层出不穷，令人目不暇接。然则此刻，总不免想到“限制人工智能”及相关的伦理话题。似乎，这些年进展不大，人们在科技盛宴中，忘却了什么。

高科技还要限制吗？回答是肯定的。比如，基因生物、核科技等等，若不加限制则成脱缰野马，祸及世人。核污染、核武器自不必说，近年来出现的“基因造人”事件，更是违背自然、天伦。

相比之下，人工智能更多了一层危险。毕竟，一般的科技，毕竟掌握在人类手中；而当人工智能取得质的飞跃，拥有自己的思考时，便有可能“失控”，显得无比危险。

霍金曾预言：如果人类开发出完美的人工智能，便意味着人类的终结。他解释道，人工智能技术未来必将对人类构成威胁，最大的危险不是机器人有计划地摧毁人类，而是它们完全抛弃了人类。霍金认为，人工智能因具备了情感，最终会进化出对生存的渴望。未来一台高度发达的智能设备将逐渐发展出求生的本能，努力获取实现自身设定目标所需要的资源。对于人类而言，这将导致生存危机的发生，因为我们的资源将会被掠夺。

即便在现阶段，AI对部分人的伤害已经开始显现：它取代了流水线的工人；它打败了超一流棋手；它开始“谋求”取代记者、作家；它甚至“想”取代音乐家、画家。当世界上90%的职业皆被机器取代，人类将往何处去？一切皆为计算机、大数据所控制的时代，还有丰富多彩的人类文明吗？

想起几年前的一则公益广告：瑞士的一个风景区，因为人们不再丢失东西，失物收领处的工作人员面临失业。于是，游客们便故意丢点小玩意，让这份职业得以保留。在科技高速发达的今天，有些职业不能简单被抛弃。不是因为我们不具备用机器代替人的能力，而是人类社会还有更重要的平衡需要去维系。

人工智能不能打败人性、更不能打破和谐。这应该是个底线。