第6章(1/2)
“所以，你就是个跑腿、布线、打杂的。”
“没错。”周克渊仍然站得笔直，气宇轩昂：“能为两位老师打杂是我的荣幸。”
这下张翰对他的印象倒好了不少。
“小顾，赶紧帮他弄好。现在只有请你们先讲了。”
百方的两位赶紧打开平板，连接会议室主屏幕。主讲者石松擦了擦眼镜片上的雾气，战战兢兢开口。
※※※
两天前卷入升仙湖北路连环车祸的22台车辆中，15台装有百方研发的自动驾驶系统。其中只有6台在事发前处于自动驾驶状态。朱越在路中央停步时，离他最近的暗红色瑞虎suv从手动状态紧急切换自动，加速转右冲了过去。这是一次表现完美的自动驾驶系统应急操作。
它后面的蓝色丰田轿车也在手动状态。司机紧急刹车，但当时的速度如果不转弯，已经不可避免会撞上朱越。车载的百方自动驾驶系统非法超控、强行急转，导致本车侧翻。同时阻挡右侧车道，被后方手动驾驶的越野车撞上。两车司机均在撞击中毙命，翻滚的车辆残骸还撞死了被朱越追逐的骗子。
右道后方的北奔载重卡车本来在自动驾驶中。为规避前方的混乱，左转进入了朱越所在的车道。然而为了避让朱越继续左转，横穿左边两条车道，撞飞了三辆轿车才冲出护栏，导致二死四伤。卡车司机本人仅受轻伤。
「–」
“等等！”张翰打断他，“你是说，卡车司机为了躲开朱越，转向去撞其它的车？”
“不。交警去医院取证的时候，我的同事跟着去了。司机很清醒，发誓说他上了那条道马上取消自动，是踩着七分刹车、对着朱越冲过去的。因为只有这条道前面无车，行人突然横穿是‘九分全责’。他开车二十年，知道该怎么选择。但自动驾驶马上接管，强行向左一路撞过去。我们提取的数据证明他没撒谎。”
“百方自动驾驶系统，安全策略是行人绝对优先？”
“不。问题就在这里。我们的系统非常智能，在这种……两难情况下，会进行瞬时模拟概率计算，会选择伤人最少、最轻的驾驶方案。这两天我们模拟了几十次，每次系统都选择碾过朱越。这和我们的预估是相同的。但是实际事故中，卡车强行转弯撞飞了三辆轿车。六个乘客只死了两个，已经算非常走运。它不但非法接管了驾驶，还偏偏选择了躲开行人。不，躲开朱越。”
“那辆比亚迪呢？”
“也是我们的系统。这个是最不可理解的。目前版本的安全策略中，本车乘客的安全优先级别非常高。比行人和其他车辆高得多。”
“到底有多高？”
“……几乎是绝对的。”石松坐立不安，看了看其他人。
张翰眼都不眨：“可以理解。要不谁敢买你的车。那乘客怎么就死了？”
“比亚迪的系统计算能刹得住，即使被追尾也不会撞上朱越，就一下子刹到底。这次计算决策，似乎绕过了本车乘客安全的逻辑。它后面那辆道奇，是北美谷歌的自动驾驶系统。我们不知道怎么回事，貌似在正常工作。道奇选择了适度刹车、追尾比亚迪，保证本车最低限度安全，而不是急刹或急转。所以，前车的人急刹移位之后受到二次撞击，死了。”
石松身边的同事名叫全栈，瘦得像是没吃过一顿饱饭。他在主屏幕上反复演示模拟事故场景，特别放大了比亚迪的自杀操作。
两个血红的小点在比亚迪轿车图标中出现。一米之外，代表朱越的黑色小点安如泰山，身边似乎环绕着魔法结界。
会议室中一时没人说话，空气都要凝固。
刘馨予心想：这小子真老实，怕是被恶霸探长吓破了胆。如果他今天报告中任何一点泄露出去，对百方自动驾驶系统的声誉都是毁灭性打击，不管有没有被黑。每次模拟都选择碾过行人？安全策略连本车乘客都不管了？
张翰沉吟片刻，问道：“那你们找到故障原因了吗？怎么会所有车辆的自动驾驶系统同时出问题？”
“不是所有车辆。我们和交警支队搞了一次现场还原，三次模拟。只要是不涉及可能撞到朱越的情况，自动驾驶都是正常工作的，都做出了最佳选择。所以二十二辆车卷入，只死了七个人。”
“只死了七个人！恭喜了。”
石松面红耳赤。他下一句话出乎所有人意料：“故障原因也找到了。”
“哦？”
石松和全栈对望一眼，二人都是满脸自暴自弃。
“自动驾驶系统被漏洞攻击了。我们早知道这个漏洞。”
“什么！？”
“实际上，一周之前我还跟电信方面讨论过。那是5g网络专门为自动驾驶传输环境数据的一个接口，华为最新的版本。我们这一版更新之后不久，就发现这个接口的数据权限匹配有个小毛病。如果完全了解电信和我们双方的协议，就可能利用它修改自动驾驶车载软件的参数。问题出在他们那边，所以我们也不太急。那个接口，华为和电信改起来会非常慢，全国都上线了！谁又能入侵到5g网络的固件层呢？最近我们甚至想试试，用它攻击我们自己的系统，看能不能顶住？还没来得及
“没错。”周克渊仍然站得笔直，气宇轩昂：“能为两位老师打杂是我的荣幸。”
这下张翰对他的印象倒好了不少。
“小顾，赶紧帮他弄好。现在只有请你们先讲了。”
百方的两位赶紧打开平板，连接会议室主屏幕。主讲者石松擦了擦眼镜片上的雾气，战战兢兢开口。
※※※
两天前卷入升仙湖北路连环车祸的22台车辆中，15台装有百方研发的自动驾驶系统。其中只有6台在事发前处于自动驾驶状态。朱越在路中央停步时，离他最近的暗红色瑞虎suv从手动状态紧急切换自动，加速转右冲了过去。这是一次表现完美的自动驾驶系统应急操作。
它后面的蓝色丰田轿车也在手动状态。司机紧急刹车，但当时的速度如果不转弯，已经不可避免会撞上朱越。车载的百方自动驾驶系统非法超控、强行急转，导致本车侧翻。同时阻挡右侧车道，被后方手动驾驶的越野车撞上。两车司机均在撞击中毙命，翻滚的车辆残骸还撞死了被朱越追逐的骗子。
右道后方的北奔载重卡车本来在自动驾驶中。为规避前方的混乱，左转进入了朱越所在的车道。然而为了避让朱越继续左转，横穿左边两条车道，撞飞了三辆轿车才冲出护栏，导致二死四伤。卡车司机本人仅受轻伤。
「–」
“等等！”张翰打断他，“你是说，卡车司机为了躲开朱越，转向去撞其它的车？”
“不。交警去医院取证的时候，我的同事跟着去了。司机很清醒，发誓说他上了那条道马上取消自动，是踩着七分刹车、对着朱越冲过去的。因为只有这条道前面无车，行人突然横穿是‘九分全责’。他开车二十年，知道该怎么选择。但自动驾驶马上接管，强行向左一路撞过去。我们提取的数据证明他没撒谎。”
“百方自动驾驶系统，安全策略是行人绝对优先？”
“不。问题就在这里。我们的系统非常智能，在这种……两难情况下，会进行瞬时模拟概率计算，会选择伤人最少、最轻的驾驶方案。这两天我们模拟了几十次，每次系统都选择碾过朱越。这和我们的预估是相同的。但是实际事故中，卡车强行转弯撞飞了三辆轿车。六个乘客只死了两个，已经算非常走运。它不但非法接管了驾驶，还偏偏选择了躲开行人。不，躲开朱越。”
“那辆比亚迪呢？”
“也是我们的系统。这个是最不可理解的。目前版本的安全策略中，本车乘客的安全优先级别非常高。比行人和其他车辆高得多。”
“到底有多高？”
“……几乎是绝对的。”石松坐立不安，看了看其他人。
张翰眼都不眨：“可以理解。要不谁敢买你的车。那乘客怎么就死了？”
“比亚迪的系统计算能刹得住，即使被追尾也不会撞上朱越，就一下子刹到底。这次计算决策，似乎绕过了本车乘客安全的逻辑。它后面那辆道奇，是北美谷歌的自动驾驶系统。我们不知道怎么回事，貌似在正常工作。道奇选择了适度刹车、追尾比亚迪，保证本车最低限度安全，而不是急刹或急转。所以，前车的人急刹移位之后受到二次撞击，死了。”
石松身边的同事名叫全栈，瘦得像是没吃过一顿饱饭。他在主屏幕上反复演示模拟事故场景，特别放大了比亚迪的自杀操作。
两个血红的小点在比亚迪轿车图标中出现。一米之外，代表朱越的黑色小点安如泰山，身边似乎环绕着魔法结界。
会议室中一时没人说话，空气都要凝固。
刘馨予心想：这小子真老实，怕是被恶霸探长吓破了胆。如果他今天报告中任何一点泄露出去，对百方自动驾驶系统的声誉都是毁灭性打击，不管有没有被黑。每次模拟都选择碾过行人？安全策略连本车乘客都不管了？
张翰沉吟片刻，问道：“那你们找到故障原因了吗？怎么会所有车辆的自动驾驶系统同时出问题？”
“不是所有车辆。我们和交警支队搞了一次现场还原，三次模拟。只要是不涉及可能撞到朱越的情况，自动驾驶都是正常工作的，都做出了最佳选择。所以二十二辆车卷入，只死了七个人。”
“只死了七个人！恭喜了。”
石松面红耳赤。他下一句话出乎所有人意料：“故障原因也找到了。”
“哦？”
石松和全栈对望一眼，二人都是满脸自暴自弃。
“自动驾驶系统被漏洞攻击了。我们早知道这个漏洞。”
“什么！？”
“实际上，一周之前我还跟电信方面讨论过。那是5g网络专门为自动驾驶传输环境数据的一个接口，华为最新的版本。我们这一版更新之后不久，就发现这个接口的数据权限匹配有个小毛病。如果完全了解电信和我们双方的协议，就可能利用它修改自动驾驶车载软件的参数。问题出在他们那边，所以我们也不太急。那个接口，华为和电信改起来会非常慢，全国都上线了！谁又能入侵到5g网络的固件层呢？最近我们甚至想试试，用它攻击我们自己的系统，看能不能顶住？还没来得及
本章未完，点击下一页继续阅读