主页 > 设计产品 >LIVEhouse.in 程世嘉:人类最大的问题,是不知道自 >

LIVEhouse.in 程世嘉:人类最大的问题,是不知道自

2020-06-07188人浏览

LIVEhouse.in 程世嘉:人类最大的问题,是不知道自

前一阵子有人跟我问到:「机器毕竟都是人做出来的,也是人类在叫他们做事,人工智慧做了什幺事情我们都很清楚,管理上应该不会有什幺难以掌握的问题?」

错了,我常常举一个非常经典的例子,来说明人类常常不知道机器做了什幺事情。

那就是 2010 年美国股市的闪崩事件,5/6 当天下午道琼指数在几分钟内突然崩跌 998.5 点,但是在随后的半个小时之内又迅速回到正常的水位,指数震荡达到 1010.14 点,当时创下了股市史上第二大指数震荡的记录,短短的半小时之内有些公司的股票跌到只剩每股 1 分钱,却又马上拉回到几十美元的正常价格;交易员、上市公司、投资人、监理机关差点吓到心脏病发,没有人知道发生了什幺事情。

这个事件发生之后的五年之内,所有阴谋论都出场了,有人说是中国或是俄国的骇客攻击,想要瘫痪美国的金融市场;有人说是华尔街的人操控股市,想要获得不法利益;有人把矛头指向高频交易的公司,说是他们的自动交易程式出了问题,应该要禁止这种程式继续在股票市场上肆虐,美国的监理机关也真的开始调查华尔街这些具有先进自动交易技术的公司,光是清查这些公司的交易程式到底做了什幺事情,就搞得大家鸡飞狗跳。总之各种臆测都有,只差没说是外星人来干扰我们的股票市场了。

随后几年这个事件逐渐被人们淡忘,一直到 2015 年真相才水落石出、重新引起大家的注意,当年四月一位名叫 Navinder Singh Sarao 的伦敦交易员遭到逮捕,美国司法部公布调查结果,指称 Sarao 在事发当时利用「欺骗演算法」(Spoofing Algorithm)、在美国股市先是製造大量的假抛售交易,把市场的股价快速压低,然后旋即取消抛售交易、转为大量买进,除了造成市场剧烈的震荡、让市场上的高频交易程式乱成一团之外,估计 Sarao 从这个操作当中自己就赚到了 4 千万美元。

Sarao 过去一年待在英国的监狱里,想尽办法让自己不被引渡到美国受审,但就在今年的十月中,Sarao 输了,即将被引渡到美国,并且可能面临高达 350 年的徒刑,是的,你没看错,就是 350 年,史上最大庞式骗局的主谋 Bernard Madoff 也「才」被判了 150 年的徒刑而已,市场和舆论迫切的想要找一个罪魁祸首来扛责,因此让 Sarao 可能面对的刑责不断加码。

这一场人类与电脑交织而成的大混乱,直到现在都是金融史上最为争议的一个事件,仍然有很多人认为 Sarao 是无辜的(当然包括他自己),因为他的所作所为在当时并没有违反任何法律,他用了华尔街早就在使用的工具,做了很多华尔街的人早就在做的事情,不同的是他骗过了很多机器、很多演算法、很多人工智慧。

也持续有阴谋论指出:这幺精心策划的一个市场操作,Sarao 不可能是一个人犯案,背后一定有其他共犯根本还没被抓到,总之这个经典事件,很可能在最近就会有个结局出现,或至少说是某些人想要的结局出现。

回到我们文章开始提到的问题,想想你 debug 一支 hello world 程式都要花多少时间了,再想想你现在是要 debug 一个有人工智慧的机器人,事情没那幺简单,人类的不完美很有可能透过人工智慧的自我运作被扩大到我们现在还无法想像的黑天鹅事件,在这个闪崩事件当中,是人类利用机器去骗了其他的机器,这是所有人在事发之前根本没有想到的。

人类最大的问题、不是不知道机器做了什幺事情,而是不知道自己做了什幺事情。

这将会是未来数位治理最大的挑战(没有之一),而全世界还没有任何一个国家準备好。

延伸阅读

这年代上网就可以印学历,人文思考才是你的竞争力
Uber 无人卡车正式上路,LIVEhouse.in 创办人程世嘉:失业冲击影响更大
创业就是要先抢先赢? LIVEhouse.in 创办人程世嘉:在创业里,先行者优势不存在