《新联合报》社论:我们就学不会吗?
《新联合报》社论:我们就学不会吗?
News Update:WILL WE NEVER LEARN?
《新联合报》
>>
我们就学不会吗?
作者:特派记者
帕克·特瑞尔
我们不是历史学家。
也许这是我们遗忘父辈的、父辈的父辈的、以及上溯到文明黎明的罪孽的原因之一。或者仅仅是因为,对人类这个种族来说,“能够”和“应该”这两个词经常被认为是可以互换的。
在你关掉我的通讯频道,去做个现代的反机械主义者之前,请让我先澄清,我既不反对进步,也不反对科技。创新是让人类如此伟大的原因,也是让我们进入这广阔宇宙的根本。而进步通常也会冒风险。
问题是迄今为止,我们常常会盲目地发展科技,无论是因为最终结果比警世寓言更为重要,还是因为我们傲慢到认为这次能做得更好。除了少数特例,每一代确实都会比上一代更加先进,所以我们相信我们不可能犯下父辈时代所犯的同样错误,所以我们重蹈了覆辙。天弧公司的新人工智能创意,自他们两周前宣布时就引起了广泛争议,现在似乎又一次向着绊倒我们先辈的陷阱奔去。
我们不可能再犯同一错误。
有时候,遗忘实际上也不是我们的错。媒体调查花了近10年,才软磨硬泡出政府内部的真相:也许有可能(真是个讽刺),星球改造项目中的人工智能是造成2125年火星惨剧的原因。自那时起,就没人想再提起它了。
当然,这也不是人工智能造成的首次惨剧。2044年东京发生的所谓“旅鼠车”事件有幸获此殊荣。但不到100年之后,政府就认定人工智能系统的结症已经解决,并将一个人工智能系统运到了火星。成然,他们没把这事告诉我们,以防他们错了。
他们就是错了。
而在火星惨剧之后仅过了100多年(大家有没有发现这个轮回节奏?),就迎来了阿耳忒弥斯号,和雅努斯。即使发射非常壮观,也得有个什么人去担心一下我们仍在人工智能的危险道路上蹒跚前行吧。但这次,他们确信他们没有做错。
无可否认,我们并不确定造成5000人失踪完全是因为人工智能的过失,但它肯定得负一定责任。
每次失败公诸于众之后,这个恶魔都会被封印一段时间。但我们的恶梦还没结束。地球联合帝国海军在遭遇了人工智能项目最新一次的失败之后只是把它隐藏了起来。最近解密的文件显示了我们在何露斯事件发生时与战争有多么接近。通过与圣盾动力公司协力,海军将一支由人工智能原型机驾驶的霸王级轰炸机联队部署在了希安帝国边境。他们的用意是好的:想让毕生都驻扎在佩里带沿线的飞行员们能够回家。但当圣盾动力公司数十亿的玩具判定他们的通讯受到了破坏,所以将其关闭时,正好漏掉了发给它们的返航命令——我们只能一路追过去,损毁我们自己犯下的错误,敲响圣盾动力公司的造船业丧钟。又一次,我们不确定它们在无人监管的中间地带徘徊会不会将我们推入与希安帝国的全面战争,但要是它们真造成这结果了呢?
当然,皇帝试图不让这整个尴尬的事件曝光。不过,至少看上去我们终于学到了要在将人工智能再次用在飞船上时要保有足够程度的畏惧。
现在天弧公司的某部门又开始相信,不会再重蹈先辈们的覆辙。
天弧公司告诉我们,它的人工智能可以学习,这让它能够从其它机器的失败中吸取教训。(我们之前是在哪听过这话的?)但情况是:人类也是这样。他们必须拥有多年的经验、专业训练、和合适的执照,才能冒险进入宇宙。但天弧公司想再次把幼儿一样的人工智能派到大量太空船上,在我们广阔的星际帝国中航行。
嘿,它在进步。它会保护人类生命。它必然会发生。
为什么我们就学不会呢?