在AI（人工智能）被热炒的当下，其似乎已经具备了改变人们生活和工作方式的巨大潜力。面对此种趋势，在热情拥抱AI技术的同时，实际上还需要注意到其威胁性。因为已经有研究报告开始警告，这种新兴技术很容易被网络犯罪分子、不法黑客所利用。
一份由学术界、社会团体以及行业人士所撰写的，名为《“人工智能的恶意使用（Malicious Use of Artificial Intelligence）》的报告里指出，任何科技都有其双面性，新兴的人工智能也不例外。因此，在大力发展AI技术的时候，有必要注意防止该技术被滥用的可能性。
其中一个被认为容易引发不安的领域便是机器学习，尤其是在融入人工智能后，那些没有人类指导或干预情况下接受培训以达到超过人类智力水平的实验。
报告还指出，人工智能可能被应用到许多领域而产生新威胁，比如一些科幻电影中常常描写到的，一些黑客会以领袖人物为目标使用AI进行语音合成模拟；无人驾驶飞机使用面部识别软件对人类目标进行识别并攻击；AI被黑客用来搜索代码或其他方面的漏洞利用等等。
虽然人工智能的功能还不够人性化，但显而易见的是，AI比人力劳动更具可扩展性。因此一些领域的人工智能系统可能不仅会达到人类的水平，而且还会大大超越它。
未来的5到10年里，人工智能或能够改变世界，而届时公民、团体和国家也许将面临新的风险，比如网络犯罪分子能够利用培训过的机器去网络钓鱼欺骗人类或展开网络攻击。而为了防止AI技术被利用，创建AI系统的开发者就必须尽其所能，以减少遭受滥用的可能，同时政府也必须考虑通过新的法律来有效保护其公民和组织遭受恶意AI的攻击。
