《交锋》#002：工人智能飞行员
《交锋》：工人智能飞行员
ShowDown: AI Pilots
《交锋》！
提交至S&P和NFSC的自动记录
EP：54:16：“导航灯”
埃里亚·昆特：大家好，欢迎收看新一期《交锋》！我是主持人埃里亚·昆特。今年4月12日，矿业和运输财团天弧公司宣布，他们准备在声名狼藉的地球←→松果星航线实地测试首艘工人智能驾驶的货运飞船。公众对这则新闻的反应，用“复杂”来形容最合适。有些人称赞这是飞行技术发展的未来必然方向，而其他人则非难该公司在这个困难的经济时期剥夺了上千人的工作。
我们请来了两位非常特殊的嘉宾，加入我们对此问题的讨论。首先介绍的是大有人缘的航运节目《金准快讯》的主持人，克雷格·伯顿先生。
克雷格·伯顿：大家好。
埃里亚·昆特：第二位是巴贝奇公司的首席程序执行官优素福·潘博士。他还是为天弧公司专属人工智能驾驶系统部分设计航电系统的设计师。欢迎参加，博士。
优素福·潘博士：很高兴能来这里。谢谢你的邀请。
埃里亚·昆特：那么，克雷格，自从天弧公司发布了公告之后，你就对这整个概念批评颇多。
克雷格·伯顿：这话说得太含蓄了。
埃里亚·昆特：用你的话来说呢？
克雷格·伯顿：我认为那只是对那些冒着生命危险运输货物的优秀男女们的拙劣模仿。
优素福·潘博士：我认为这个系统恰恰就是这样——让他们免于再冒生命危险。外面太危险了。
克雷格·伯顿：说得太对了。问题是，没哪个系统能和经验丰富的飞行员一样优秀。
优素福·潘博士：最初也许是这样，但通过适应性程序，就能够在持续的飞行任务中学习和成长 。
克雷格·伯顿：那你告诉我，你觉得它最后能分辨出什么时候会遭到伏击吗？
优素福·潘博士：我很确定地说，扫描一艘飞船来查看武器和护盾启用情况是非常充分的恶意表现。
克雷格·伯顿：对，它怎么知道这个恶意表现是对准它的还是对准其它什么威胁的？
优素福·潘博士：我不知道。你提出了一个只有你知道参数的假设情况。
克雷格·伯顿：我爸曾经和我说：“小子，想聪明很简单，想英明就难了。”重点是，你是在让一台计算机来进行判断。现在我不管它有多聪明，它还是要按逻辑来做判断，而我想我们都知道，人没那么有逻辑。
优素福·潘博士：这些是我知道的：天弧公司报告称，因人为失误和对因海盗和梵鹘袭击造成的飞行员丧生的家庭的补偿，仅上一公转周期就损失了3亿元。
克雷格·伯顿：老天，你确定你不是弧光公司市场团队的成员？
优素福·潘博士：暂时先不谈钱，我认为挽救你的运输业者同袍的生命相比找工作的不便来说还是值得的。
克雷格·伯顿：别把这混为一谈。每次我听说有哪个拖船船长在跑货时被打死都会心碎，但我们都是自愿承担这份工作的。我们不需要任何人来分担我们的风险。面对风险我们就和面对其它任何事一样泰然自若。重点是，你的程序夺走了我们养家糊口的机会。
埃里亚·昆特：我觉得不会有人会反对可以挽救危险空域运输航线上的飞行员生命的事情，不过我们来看一下这样做的财务负担。
克雷格·伯顿：企业命脉，你是这意思吧。
埃里亚·昆特：为了说明他在此问题上的观点，我们请来了经济分析师龙·塔科夫斯基。
龙·塔科夫斯基：大家好。
埃里亚·昆特：那我们来谈谈成本。你有一个对采用人工智能控制的运输船所存在的可能性成本风险和收益的相当全面的分析。
克雷格·伯顿：这个图表太可怕了。
龙·塔科夫斯基：对，埃里亚，这没错。
埃里亚·昆特：你发现了什么？
龙·塔科夫斯基：人类总是对人工智能的概念感到厌恶。特别是在灾难性的阿耳忒弥斯号探险队之后……
优素福·潘博士：严格来说，我们不知道雅努斯是否真的对其负有责任。
龙·塔科夫斯基：无论如何，公众好像喜欢这种理论，但实际应用似乎就是另一个问题了。人类学家的理论是，我们种族有种与生俱来的控制欲。因此飞行计算机被设计成辅助飞行员、处理复杂而对飞行至关重要的数学运算，而不是反过来将控制权交给系统。
克雷格·伯顿：这样也太无聊了。我是说，有得选的话，为什么你们不想自己飞行呢？
优素福·潘博士：噢我不知道，最有效地使用燃料、远比你自己操作快速的反应……
埃里亚·昆特：先生们，拜托。请继续，塔科夫斯基先生。
龙·塔科夫斯基：所以首个障碍就是要让他们的客户相信人工智能常用化的观念。从经济角度讲，长期来看这是值得投资的。首艘飞船看来是艘改装过的毛虫级，但最终，如果他们选择花钱，他们就会设计一艘全新的飞船，不需要考虑加入维生功能，因此也能去掉许多系统，增加载货量，从而提高每趟运输的收益。
不幸的是，最初的阶段也是成本最高的。潘博士也说了，这些是还在学习中的系统。每个我聊过的系统工程师都预计，会有一小部分这种飞船会导致代价非常高昂的事故，而这样的事故能够被那些按你的话来说，能够“理解情势”的人类飞行员，所轻易避免。
这个情况实际上会变成一个《亡命欺咋》一样的经济游戏：天弧公司是否能承受事故和货物损失造成的财政损耗到足够久的时间，来让人工智能学习成长到足以停止犯这类错误？
优素福·潘博士：请允许我插个话，你的假设是建立在人工智能不会相互学习的基础之上。这些程序会持续将他们活动的反馈发送至中继通讯站，汇集到一个中心枢纽，然后再发回至所有的无人载具驾驶仪。所以它们会从各自的失误和成功中相互学习。
克雷格·伯顿：对，嗯，通讯线路哪怕在最好的环境下都不完全可靠……
优素福·潘博士：天弧公司已经宣布，他们计划在人工智能系统在送审和学习期间，会纳入人类飞行员作为“监控者”。所以我认为你的担心有点杞人忧天，伯顿先生。
克雷格·伯顿：对，嗯，当首次发生一艘20吨的燃料运输船直直地撞进一座轨道空间站，只是因为它没获得那里的对接机械臂仍然在建的最新信息，我肯定你会改变论调的。
优素福·潘博士：如果你这么不信任程控载具，伯顿先生，为什么你要在穿越跳跃点时让程序来进行控制呢。
克雷格·伯顿：那是两回事。那最多也就是让飞船自己按记录重新执行一遍，我们这样做已经有上千年了。实际上，这完全不是人工智能。
优素福·潘博士：说这种话真虚伪。
埃里亚·昆特：我们短暂休息一下。我们回来的时候，会研究人工智能驾驶载具的法律问题。在过去，主要由飞行员承担损伤的责任；现在，会单独由天弧公司或者人工智能程序来承担这个责任吗？请别错过。所以重新装填好你的弹药，准备另一场《交锋》吧！