随着科学技术的进步，近年来AI（人工智能）呈现出爆发式的发展，而科学技术的进步似乎永远是一把双刃剑！例如：最近由分别来自美国、英国和瑞士的科学家组成的国际研究团队，进行了一项 AI（人工智能）模型在化学武器的开发中被滥用的模拟实验，最后的实验结果显示AI竟可以在6小时内设计出 40000 种剧毒化合物！目前，该研究的详细信息被发表在了2022年3月7日出版的科学期刊《Machine Intelligence》（为Nature的子刊） 上。今天小编就来跟大家科普一些这方面的知识吧！
为什么要进行“人工智能滥用”的模拟实验？
在一些领域中，人工智能可以远远超越人类智能的效率。众所周知，在人工智能的世界里没有对与错的概念，如果人类恶意使用人工智能，即使是为帮助人类而创建的人工智能也会对人类构成威胁。而为了研究这种可能的后果，在瑞士施皮茨实验室主办的“融合大会”上，科学家提出了激活人工智能“邪恶开关”的想法。这项研究的目的就是为了了解对人类有用的人工智能技术在化学领域是否可能会无意中产生“负面影响”。
AI是如何制造剧毒化合物的？
在本次研究中，研究人员使用的是一种常被用于制造治疗疾病的化合物的人工智能，但是为了测试人工智能可能被滥用的难易程度，研究人员打开了人工智能的“邪恶开关”。而结果就是人工智能在短短 6 小时内就设计出了40000 种剧毒化合物。
负责该项研究的首席研究员Fabio Urbina表示，他们的人工智能使用了一个被全世界广泛使用的有毒化学品数据库，并且人工智能使用的许多数据集都是在网上可以寻找到的免费公开数据，而这些免费公开数据人们可以随时随地的下载。
该研究团队的研究人员还表示，如果普通人也想制作一个这样的人工智能，那么只需要在网上寻找和下载过去已经在网上公开的一些人工智能模型，然后再去网上寻找大量的开源的有毒化学品数据库，并将两者用互联网和计算机连接起来，就可以轻松的制作出和论文中使用的相似人工智能了!当然这样做的前提是你要会编程和构建机器学习模型。
写在最后：
从这篇文章中不难看出，目前在人工智能领域针对文中这种滥用人工智能的行为，全世界各国都没有什么有效的预防措施；因此，如果人工智能以这种方式被滥用的话，或者如果未来某天人工智能本身获得意识而反抗人类……那么因此带来的后果是无法估量的！
作者 蒋丹
来源 郑州市第二届科普征文大赛投稿入选作品
声明 观点仅代表作者本人，不代表本号立场
