“人工智能”本身不可怕，可怕的是它拥有自己的意识。如果“人工智能”将按照人类的指令工作，没有自己的思维模式，那么在这可以控制的范围之内，人类又有什么好以担心的那？但是事情往往是事与愿违，很多科学家预计未来，人工智能在未来将有突破性的进展：机器能够感知自身和周围环境，拥有自己的意识。
包括霍金在内的许多科学家认为AI机器人获得意识仅仅是时间问题，这些机器人将胜任人类的一切工作，然而这也将带来法律和道德上的挑战。据英国《每日邮报》12月12日报道，在“The Conversation”网站的一篇文章中，美国俄克拉荷马州立大学教授苏巴什•卡阐述了机器人获得意识可能造成的后果。
苏巴什•卡称，人工智能在未来将有突破性的进展： 机器能够感知自身和周围环境，，并且实时吸收和处理大量数据。它可以进入太空、投入战斗，完成危险的任务，还可以做饭、打扫、洗衣服——甚至能在人孤独的时候给予陪伴。一套特别先进的机器能够代替人类完成所有工作，将人类从枯燥的工作中解放出来。但苏巴什•卡也指出，这样的机器会动摇社会基础，带来麻烦的法律和伦理问题。更可怕的是，它们可能会反抗、并希望彻底消灭人类。他在文章中写道，研究人员在这些超感知机器是否存在的问题上存在分歧。在机器是否可以或者应该被称为“有意识”的问题上，学界也意见不一。
报道中还提到了“机器人杀手”和自动化武器的运用。2016年人权观察组织的报告显示，由于机器人无需为战争负责，因此需要禁止“机器人杀手”使用和发展。去年，超过1000名科技以及机器人专家警告，机器人武器可能只需数年的发展，而不是几十年。在一封公开信中，他们称，如果主要的军事力量推动自动化武器的发展，那么‘’全球军备竞赛将无可避免。
（原标题：AI机器人能很快获得意识最终反抗人类？）
