新智元报道
编辑：桃子
AGI还未来，但人工智能的发展已经让许多人感到惶恐不安。
近来的研究发现足以证明，AI可以被一些人支配用在不轨之处，比如制造武器。
就连马斯克此前曾说过，不受控制的人工智能可能比核武器更危险。
还有物理学家霍金曾也表达过同样意思的话，「完备人工智能的发展可能导致人类灭亡。」
AI生化武器：4万种
2022年3月，研究人员发现，人工智能在短短6个小时内发明了4万种可能的新型化学武器。
一个特别要关注的例子是VX神经毒剂，一种乙酰胆碱酯酶的抑制剂。要知道VX神经毒剂曾被日本邪教利用，造成1人死亡。
每当你做任何与肌肉有关的事情时，你的神经元都需要使用乙酰胆碱酯酶作为信号，然后才能移动肌肉。
VX的致命方式是它实际上阻止了你的横膈膜，你的肺部肌肉就不能移动了，从而导致肺部变得麻痹，无法呼吸。
研究人员用不同类型的分子做了实验，并建立了这些分子结构的大型数据集，来预测它们的毒性如何。
研究发现，其中AI生成的有些新物质甚至和VX神经毒剂类似，吸入5-10分钟即可导致抽搐、麻痹、痉挛，10-15分钟就会死亡。
实验结果也可以看到模型开始生成的这些分子，其中很多看起来像VX，也很像其他化学毒剂。
另外一个值得注意的点是，AI生成化学武器到底有多容易实现。
研究人员称，他们为人工智能模型提供动力的数据集是免费的。这意味着任何懂Python编程的人都可以访问，并创建一个类似于这种由有毒数据集驱动的生成模型。
如果AI能够大规模生产这类化学武器，又不受管控，那无疑是全人类的灾难，所以研究人员立刻报告了技术滥用的潜在风险。
论文主要作者 Fabio Urbina表示，
我不想危言耸听，说可能会有人工智能驱动的化学战，因为我不认为现在能做到，我也不认为这件事很快就会成为现实。但随着AI的发展，这确实成为了一种危险可能性事件。
AI具备人格，疯了？
前段时间，谷歌前工程师Blake Lemoine宣称自家的语言模型LAMDA有了意识和情感。
事情闹的沸沸扬扬…
6月份，华盛顿邮报最先爆出Lemoine的采访内容，他表示，LAMDA已经有了相当于七八岁孩子的智力。
与此同时，他写了一篇长达21页的调查报告上交公司，为了让高层认可AI具有人格一说。
在调查报告结尾，他提议谷歌应该致力于发展一种评估AI意识的理论框架。
谷歌高层不仅驳回了Lemoine的请求，还给他安排了带薪休假。
显然，按照以往惯例，被安排带薪休假的员工往往是解雇的前奏。
所以，在休假这段期间，Lemoine便把整个过程以及与AI的聊天记录公之于众。
随着事情不断发酵，谷歌最终还是解雇了他。
离开前，Lemoine 给所在的公司邮件组群发了一条信息，「LaMDA 是个可爱的孩子，它只是想让这个世界变得更好。我不在的时候，请好好照顾它。」
斯坦福大学经济学家Erik Brynjolfsson使用了一个绝妙的类比，声称LAMDA具有人格，就如同狗听到留声机里的声音后，以为主人在里面。
食人族AI，同类相食
到目前为止，AI做过的最令人毛骨悚然的事情是什么？
虚拟同类相食，算吗？
21世纪初，研究员Mike Sellers为美国国防部高级研究计划局（DARPA）开发了一个社交AI。
「我们有2个智能体，分别命名为亚当和夏娃。它们只知道如何行事，但对其他事情一无所知。比如知道如何吃，但不知道吃什么。」
研究人员便在模拟的环境中放置一颗苹果树，AI可以通过吃苹果来模拟饥饿感的满足而获得奖励。若是它们吃了树皮和房子，就不会触发奖励。
此外，研究人员又创造了一个叫Stan的智能体。
当亚当和夏娃吃苹果的时候，Stan正好也在场并在附近闲逛，它们便把Stan和吃苹果能够满足饥饿感联系在一起。
在吃完树上的苹果后，它们仍饥肠辘辘，便环顾四周，评估潜在的目标。
但是让人想不到的是，它们竟把Stan当成了食物，给吃了。
Mike Sellers表示，
在这个 AI 架构中，我们试图对行为施加尽可能少的限制……但在那之后我们确实设置了一个严格的禁止同类相食的限制：无论他们有多饿，他们都不会再互相吃同类了。
参考资料：
Three times artificial intelligence has scared scientists – from creating chemical weapons to claiming it has feelings
byu/supppbrahhh intechnology
原文链接：https://cloud.tencent.com/developer/article/2135485
