伦理约束推动AI技术向善而行

话题主持：本报记者 张炯强 王蔚

AI技术发展突飞猛进，当曾经的幻想越来越接近现实的时候，人们不得不产生忧虑：如果我们创造出来的AI是个“坏人”，且不受人类的约束，该怎么办？

有意思的是，几十年间，好莱坞出品的关于AI的影片，竟然绝大多数是负面的。上世纪70年代，一部《未来世界》风靡全球，机器人成了与人类长得一模一样的物种，疯狂作恶；2001年，大导演斯皮尔伯格的影片《AI》，讲述了一个机器男孩与人类不可相融的感情悲剧；而在好莱坞系列电影《终结者》中，高度智能电脑“天网”发动核战争，几乎灭绝人类。可以说，早在AI诞生之初，人们就已经为它设定了禁区，推动科技向善。而在当今，科学家们已经尝试让AI掌握自己思考能力之时，各国政府均设立了相关法规规范科技伦理加以约束。

搞科研还要伦理制约？答案是肯定的。人工智能、基因编辑、辅助生殖技术……科研领域的创新五花八门。2018年，南方科技大学的贺建奎利用基因编辑技术“造”出了天生免疫艾滋病的女婴，舆论哗然：科学家如果可以随意“制造”自己设定的人，岂不天下大乱？贺建奎因此获刑三年。

在人类历史上，科研和发明往往是把双刃剑。未来AI的发展，如果对人类的生活方式、价值观、文明，甚至对人类存续本身产生影响、冲击或威胁，必须接受伦理制约、法律制约。新兴前沿技术发展迅速，不仅要关注技术安全性方面的风险，也要关注到人们基于道德理念分歧带来的问题。我们不需要人工智能掌控的世界，更要拒绝“天网”。