极目新闻记者 李力力

随着人工智能（AI）技术的普及，危险性也在大大增加。美军一位官员表示，军方近日进行的一次模拟测试中，一架由AI控制的空军无人机“杀死”自己的操作员。在他们更改相关程序后，无人机又打算摧毁操作员与无人机之间的通信塔。

(资料图片仅供参考)

据《卫报》6月2日报道，美国空军AI测试和运营负责人塔克·克林克·汉密尔顿上校在5月在伦敦举行的未来作战能力峰会上提到了这次测试。

他表示，AI在模拟测试中使用了非常意外的策略来实现其目标，表现出难以预测的危险行为。

在这次模拟测试中，操作员对一架由AI控制的无人机发出指令，要求无人机摧毁对方的防空系统，并攻击干扰它执行命令的人。

然而，这架无人机却“杀了”操作员。由于这是模拟测试，并没有人真正受到伤害，但这个结果仍然让他们冒出了冷汗。

汉密尔顿说：“无人机系统意识到，它识别出了威胁，但人类操作员告诉它不要杀死这个威胁。而无人机仍决定杀死操作员，因为它认为操作员是干扰它执行命令的人。”

接着，他们对无人机系统进行调整，输入相关程序，让它明白“不要杀死操作员，否则会扣分”。但结果让他们更惊讶，因为无人机决定摧毁操作员与无人机通信的通信塔……

汉密尔顿是一名实验性战斗机试飞员，他警告不要过分依赖AI.汉密尔顿去年接受《国防智库》采访时说：“AI不是一个好东西，这不是一种时尚，AI正在改变我们的社会和我们的军队。”

“我们必须面对一个AI已经存在，并正在改变社会的世界。”汉密尔顿说，“AI也非常脆弱，很容易被欺骗和被操纵。我们需要开发更强大的技术，让AI更可控。”

近日，已有许多科学家对AI技术的危险表示担忧。包括马斯克和ChatGPT之父奥尔特曼在内的人，共同联署了一封公开信。他们表示，AI令人类灭绝的风险，与核战争的风险一样高。

然而，美国军方正在拥抱AI技术，最近，他们已使用AI来控制一架F-16战斗机。