17. 第 17 章

《谢谢AI送我的末日体验》转载请注明来源：大黄书dahuangshu.cc

“请起立。”

法庭助理宣布。

“今天2151年，1月10日，受理案件编号38166-21510110-001，现在本院法官已上座，申诉程序开始，请大家就坐。”

法官看着我们这边问：“今天这个是要申诉什么？”

我站起来说：“我的名字叫星野南，来自管治方块38166的森蓝村，今日想要申诉的事项，是ai系统判定森蓝村无法有效救援的决策。”

法官问：“这个决策有什么问题？”

我继续说：“我们要求ai解释，无法有效救援的定义，ai的说法是当成功救出生命体的概率过低，就是评定为无法有效救援。第一，现在站在这里的我们两个人，就是还在生存的生命体，第二，我们在城里还有两个人，现在在医院，以及在森蓝村里，34个人，依然存活，这两点都说明了ai算法有问题。”

法官跟ai确认对于森蓝村的决策，ai确认决策跟我说的是一致，然后法官再让ai，给大家多一些背景，关于森蓝村的地震情况。

“2151年1月1日14时38分，管治方块38166附近海底（北纬37.5度，东经137.2度）发生7.6级地震，并引发海啸。当地电力和自来水供应，因设备受破坏而中断，当日下午开始一直下雪，温度零下10度，能见度少于500米，按照天气数据推算，救援无人机无法在该区作业；至于水路，因为海啸警告，水路亦不适宜进行救援；唯一的陆路是通往森蓝村的吊桥，吊桥在地震时已经折断，因此无法实施救援；森蓝村总人口36人，加上外地游客2人，受灾人数总共38人，这是暂时所知道的情况，报告完毕。”

法官问：“没有最近的情况吗？这个听下来更像地震当日的情况。”

ai回应：“是的，这个是地震当日的情况，这已经是系统内最新的消息。”

法官再问：“为什么没有任何后续的更新？”

ai回应：“因为当地地震之后是断电状态，而且温度和能见度过低，无法派出无人机拍摄当地情况。”

法官再问：“虽然无人机不行，没有其他方法吗？”

ai回应：“因为断电加上低温，其他设备同样不可行。”

法官点点头，看着我们说：“如果连拍摄设备都无法到达该区的话，完全无法得知当地情况，的确很难实施救援，ai的决策是没有问题的。”

我瞪大了眼睛看着法官说：“不就是因为有灾情，才会断电断水了，我们才需要救援的吗？大家理解这个先后顺序吗？有水有电的话，我们也不需要走100公里路，来这里呼叫救援啊。如果设备只能在没灾情的时候用，这是不是说明了，ai服务人类的方式并不完善？”

法庭里的大家纷纷议论起来，法官叫大家安静。静儿爸也拍一拍我，提醒我冷静，和记得又子小姐说的关键。

法官想了一下，然后问ai：“ai你对于刚刚星野南的言论有什么回应？”

ai回应：“出现断电断水的情况，参考历史数据发现这种情况属于极少数，所以绝大部分情况之下，ai可以全面的服务人类。”

听完我更生气了，追着问：“所以ai决定放弃这些被极少概率发生的事情而影响的人命？请回答我是与否。”

ai回应：“是。”

“言下之意就是ai系统容许ai放弃人类生命？请回答我是与否。”我再问。

ai回应：“是。”

“ai居然被容许放弃人类生命！你们在座的每一位，能不能动动脑子想一想，现在到底是ai服务人类，还是人类服从ai呢？到底谁是主？谁是副？”

我本来以为说出了这样的话，是一个灵魂的拷问，能唤醒大家的，结果实在有点无语，就连法官都在问ai，到底答案是什么。

我实在没忍不住，一手拍在桌子上，一瞬间大家都安静下来，纷纷看着我，我高声呼喊道：“没有ai，大家不会死的！我不就是一个活生生的例子么？现在在森蓝村，有几十个人等着我们救命的，我的好朋友还在昏迷，是人命，都是人命啊！”

法官表现的非常犹豫，他满脑子在想，没有ai的话，怎么救人呢？如果连ai都救不了的人，还有什么办法可以救么？感觉应该没有吧，ai不会错的。

“法官大人，请容许我问您一个问题。”我深深吸了一口气之后举手问。

“请说。”

“当ai决定不干活的时候，负责管理我们城市的人类，有没有权力和能力，派出救援队，去拯救在森蓝村里等待救援的34个人？”

“这……这超出了我的管辖范围，并不是我能回答的问题。”法官有点无奈地说。

人可小姐提示您：看后求收藏（大黄书dahuangshu.cc），接着再看更方便。若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！