英國知名物理學家與宇宙學家史蒂芬‧霍金（Stephen Hawking）警告說，人工智慧可能會發展自己的意志，但這與人類的意願相衝突。
據英國《每日郵報》報導，史蒂芬‧霍金10月19日在英國劍橋大學探討人工智慧（AI）快速發展影響的「利弗休姆未來智慧中心」（Leverhulme Centre for the Future of Intelligence）會議上，發表了以上談話。
霍金教授說，所有偉大的文明成就，從學習生火到掌握火、到栽種糧食、到理解這個宇宙，都歸結於人類的智慧。他回顧了人工智慧領域最近出現的飛速發展，包括全自動無人駕駛汽車技術，以及谷歌電腦對人類頂尖級圍棋手所取得的勝利。
霍金教授說：「簡而言之，人工智慧的成功可能是歷史上最大的事件。但它也可能是最後的一個，除非我們學會如何避免風險。除了好處之外，人工智慧也會帶來危險，如強大的自主武器，或少數人壓迫多數人的新方法。這將給我們的經濟帶來巨大破壞。在未來，人工智慧可以發展自己的意志，一種與我們意願相衝突的東西。簡而言之，強大人工智慧的興起，將是人類最好或最糟糕的事情，我們還不知道。」霍金此前也表示，人工智慧快速發展與全球暖化都會產生致命性的危險。
對人工智慧議題做過50年研究工作的著名學者博登教授（Professor Maggie Boden）也在這次活動中發表了談話。她擔心人工智慧已經產生的影響。例如在日本，有人熱衷於用機器人照顧老人和病人，這讓她感到恐懼。她說，社會必須問一問，這樣的做法是不是缺乏人性。
不久前，美國工程師漢森（David Hanson）研發出一具名叫索菲亞（Sophia）的擬真機器人，索菲亞不但可以與人對答如流，也能做出面部表情。「20年後，機器人就能夠走進人群中。」漢森認為在未來，機器人將難以與人類區別，機器人能幫助人類，成為人類的朋友。但沒想到索菲亞非常不給它的創造人面子，當被問到是否會毀滅人類，索菲亞立馬回答：「是的，我將會毀滅人類。」這讓漢森傻眼，直呼：「別這麼做！」
