英国知名物理学家与宇宙学家史蒂芬‧霍金（Stephen Hawking）警告说，人工智能可能会发展自己的意志，但这与人类的意愿相冲突。
据英国《每日邮报》报导，史蒂芬‧霍金10月19日在英国剑桥大学探讨人工智能（AI）快速发展影响的「利弗休姆未来智慧中心」（Leverhulme Centre for the Future of Intelligence）会议上，发表了以上谈话。
霍金教授说，所有伟大的文明成就，从学习生火到掌握火、到栽种粮食、到理解这个宇宙，都归结于人类的智慧。他回顾了人工智能领域最近出现的飞速发展，包括全自动无人驾驶汽车技术，以及谷歌计算机对人类顶尖级围棋手所取得的胜利。
霍金教授说：「简而言之，人工智能的成功可能是历史上最大的事件。但它也可能是最后的一个，除非我们学会如何避免风险。除了好处之外，人工智能也会带来危险，如强大的自主武器，或少数人压迫多数人的新方法。这将给我们的经济带来巨大破坏。在未来，人工智能可以发展自己的意志，一种与我们意愿相冲突的东西。简而言之，强大人工智能的兴起，将是人类最好或最糟糕的事情，我们还不知道。」霍金此前也表示，人工智能快速发展与全球暖化都会产生致命性的危险。
对人工智能议题做过50年研究工作的著名学者博登教授（Professor Maggie Boden）也在这次活动中发表了谈话。她担心人工智能已经产生的影响。例如在日本，有人热衷于用机器人照顾老人和病人，这让她感到恐惧。她说，社会必须问一问，这样的做法是不是缺乏人性。
不久前，美国工程师汉森（David Hanson）研发出一具名叫索菲亚（Sophia）的拟真机器人，索菲亚不但可以与人对答如流，也能做出面部表情。「20年后，机器人就能够走进人群中。」汉森认为在未来，机器人将难以与人类区别，机器人能帮助人类，成为人类的朋友。但没想到索菲亚非常不给它的创造人面子，当被问到是否会毁灭人类，索菲亚立马回答：「是的，我将会毁灭人类。」这让汉森傻眼，直呼：「别这么做！」
