黑客滥用ChatGPT 有意识AI细思极恐(图)

人类“想”制造出有意识的机器不存在任何客观障碍。(图片来源: Adobe stock)

【williamhill官网 2023年8月29日讯】（williamhill官网 记者程帆编译综合报导）随着人工智能（AI）技术风靡全球，许多人类工作变得更加高效，但同时也推动了黑客攻击。一份新报告显示，今年第二季全球网络攻击激增8%。另外，有关人类制造有意识的机器人的讨论也让人细思极恐。

美国和以色列跨国公司查点研究机构(Check Point Research)在8月28日发布的报告指出，勒索软件团伙及出于政治动机的“黑客行动主义”正有所抬头，他们利用AI不断提高游戏水平的现象愈演愈烈，尤其是在开发网络钓鱼电子邮件、监控击键恶意软件，以及制作勒索软件代码等方面。

据网络安全新闻(Cyber Security News)的报导，安全公司Netenrich上月表示，继“反派聊天机器人”的WormGPT诞生后，黑客又制造了一个名为FraudGPT的恶意AI工具，能够生成多种网络攻击代码。记录显示，不到一周的时间，有超过3000名买家下单。

该公司研究员克里斯南(Rakesh Krishnan)称，自7月22日以来，FraudGPT一直在暗网流通，订阅费每月仅200美元。

黑客在售卖页表示，该工具可用于编写恶意代码、创建出“一系列杀毒软件无法检测的恶意软件”、检测网站漏洞、自动进行密码撞库。

美国最大漏洞众测公司HackerOne的解决方案架构师施莱次(Dane Sherrets)表示，他对AI将助长网络攻击一点儿也不感到惊讶，它让攻击者更容易得手。他说，他每天都使用ChatGPT来加快自己的工作速度，因此他明白这点。

HackerOne是一个安全平台，它将企业与道德黑客和网络安全测试人员联系起来，在犯罪人员入侵前发现公司系统中的漏洞。

AI领域讳莫如深的“C”字

除了网络黑客带来的威胁，AI本身的发展也让整个社会充斥着不确定性。

世界级人工智能专家、深度学习“三巨头”之一的本吉奥(Yoshua Bengio)联合19人团队上周发布了一份120页长的研究论文，称“尽管人工智能目前没意识，但是以后可能就会有。”

据《科学》期刊的报导，这个团队成员分别来自哲学、神经科学、人工智能三大领域，他们用非常科学和严谨的方法探讨了“意识”(Consciousness)的客观存在标准。具体说来，AI现在的能力和形态暂时都不具备意识，但要是继续发展下去，人类“想”制造有意识的机器并不存在任何客观障碍！

这个结论听起来让人汗毛直竖！AI对于人类，到底是福还是祸?

本吉奥等人对AI有无意识的判断是基于心智计算主义。因为早前的一些理论认为，意识必须要存在于生物体的大脑中。如果是这样，研究就不用继续下去，而该研究是建立在计算功能主义上。

三年前，他在《与意识相关的深度学习先验》中曾提及，卡尼曼在《思考，快与慢》一书中指出，人的认知系统有两类，一类是无意识(快系统)的，关键词是直觉、非语言、习惯；第二类是有意识的(慢系统)，关键词是语言性、算法性，推理和计划。

而计算功能主义也认为，意识可以存在于多种基质中，而不仅仅是存在于生物大脑中。

尽管目前的机器学习方法还未从无意识发展到全意识，但本吉奥相信，从“无”到“有”的转变完全可能，而注意力机制则是这个过程的核心要素之一。