科技向善，其实挺复杂的

一

腾讯掌门人马化腾在朋友圈宣布：科技向善，是腾讯未来的愿景和使命。

稍早的时候，他在两会上提交的七份书面建议，其中就有一个《关于加强科技伦理建设 践行科技向善理念的建议》。

很乐见于腾讯的这种“我要做个好人”这样公开的明确的表态。

印象中，这样言辞凿凿斩钉截铁的中国高科技公司的表态——并升格为一种愿景和使命，腾讯是头一个。

尤其是在谷歌撤下了“不作恶”的背景之下。

二

自动驾驶领域里有一个很有名的伦理问题。这个伦理问题其实并不新鲜，就是著名的电车难题的翻版。

一台载有乘客的自动驾驶汽车，极端情况下的算法该如何设计：究竟是撞向前方的路人，还是自己翻了算。再或者，是撞向左边的五个人，还是撞向右边的一个人，还是自己翻了算导致乘客倒霉？

道德和伦理并不完全相同。我们可以大骂洗稿是不道德的，但我们不会说洗稿是没有伦理的。而自动驾驶的算法难题，不是道德问题，是伦理问题。

故而，当我们在说，科技向善的时候，到底是在说道德，还是伦理？

而如果是伦理问题，那我们不得不承认这样一个事：科技伦理，或者说，技术伦理，是一个很复杂的问题。

三

北美的媒介环境学致力于研究媒介新技术对社会究竟是什么影响，这个学派从伊尼斯以降，到麦克卢汉，到波斯曼，到梅罗维茨。

有趣的地方是，每一代都在和上一代不敢苟同。伊尼斯是著名的技术决定论者，麦克卢汉就不是那么决定论，但他总体上是个乐观主义者，波斯曼自称是麦克卢汉不乖的学生，三本被译介为中文的著作足以表明，他是一个悲观主义者。梅罗维茨又收回来那么点，他没他的老师那么悲观。他可能是媒介环境学里对技术看法最中庸的一位学者。

更有一堆学者在这个问题上各执己见。科幻小说家出身的莱文森乐观得不行；早年颇有些马克思主义者气质的艾吕尔就很悲观以至于他呼唤神性来拯救苍生；活了94岁的芒福德本来是个乐观派，但独子死于战争后他迅速站到了悲观的阵营；凯利跳出来和稀泥：你们说得都对。

想知道这个学派都在吵吵嚷嚷什么，可以去看一本叫《媒介环境学：思想沿革与多维视野》的书。

这本书是一本论文集，很学术。不看也没关系，反正你只要知道这点就可以了：关于技术到底会带来福祉，还是会导向悲剧，学者们从来没有定论。

技术到底会带来什么吵得不可开交，这其实涉及到一个问题：技术伦理本身都特别难有定论。

严谨地说，向善，不等于善。更进一步，善是什么，都莫衷一是。

四

技术伦理有一些特别搞的地方。

比如大多数人对社交网络并没有什么太恶的看法。但如果一生获奖无数的芒福德爵士要活到今天，可能要很不以为然。这个从古埃及金字塔里琢磨出“权力五边形”的老头子，会以“王者机器”金字塔不仅仅包括石头还包括那些死去的奴隶为例，来论证Facebook也好，微信也好，我们都是那个权力五边形的奴隶。

其实当今世上，都有一派人有类似的看法。他们给我们这些用户起了个名字，叫“数字劳工”。996？不存在的，我们是007为社交网络打工，还是免费的。

技术也会改变伦理。

比如说，乱伦这件事其实非常值得细细琢磨。石器时代的原始人对乱伦行为就有些防范，一直到今天我们都无法在道理上或伦理上接受乱伦。但反对这件事的科学依据究竟是什么？——不要和我说乱伦会生白痴，那个纯属刻板印象。

假定基因技术、试管婴儿技术发达到我们人类已经完全能驾驭，乱伦这种不合乎道德伦理的行为，就可以再推敲一下。如果没有什么不良后果，我们为什么还要认为这不符合道德不符合伦理？

什么叫善，什么叫恶，本身都可以大加讨论。

五

让我们来聊聊核。

据说美国人在日本投放了原子弹之后，爱因斯坦颇为后悔。用一颗原子弹终结了无数平民的生命以使得战争迅速结束从而救下了可能同样是无数的生命，这个颇有些莽一波气质的操作，其善恶大概可以争论半天。

但有一件事怕是基本可以停止争论了：人类搞了一个恶魔般的原子弹，反倒达成了一种平衡。局部战争还有，全球战争倒停止了。因为但凡有点理智的人都明白，原子弹不是仅仅消灭对手。颇有些利用恐惧来终结恐惧的意思。

我们现在要担心的事情只剩下这条：不要让原子弹落到不正常组织里没有理智的人手中。

好，那么我们善用技术，不搞原子弹，搞核发电。在严格管理之下，这项清洁能源，如果不出疏漏，将极大造福人类。

请注意前提：严格管理，不出疏漏。

日本福岛的事并不久远，至今对当地经济打击沉重。在我看来，核电厂泄露的本身危害，与造成的社会心理恐慌，当量级恐怕后者更甚。恐慌虽未见理性，但类似《思考快与慢》的作者卡尼曼早就证明了：人类，并不完全理性。

我们能做到100%不出疏漏吗？

安全这档子事，哪有百分百的保证。

有件事很多人都明白，发明家一旦发明出某种技术或东西之后，这项技术或东西的未来走向，不是发明家自己能把控的。

六

但向善总是好的。

这表明了一种对技术审慎的态度。审慎总比不审慎好。三思总比不思好。

曾经有过一个观点：能被发明出来的东西，都是好的。所以，能够发明，必须发明。

但人类走到今天，这个观点，怕是不怎么能立住脚。

一个高科技公司做起恶来，或者，哪怕不作恶只是不审慎，造成的后果比一个卖卖可乐的公司，严重得多。后者还算在可控的范围，前者风险无限大。

所以科幻片从来只有恶的科学怪人，没有恶的可乐老板。

向善有点类似善良比聪明更重要的论点。贝索斯于2010年说出了这样一句话，多年以后，张小龙在微信公开课引用此句，被更多人知晓。

插一句，亚马逊被爆出用AI监控员工，这件事我觉得贝索斯也不是不可以辩论：监督员工勉力干活，谈不上恶。你看，什么叫善什么叫恶，是可以争论的。

向善是动机，善是结果。动机未必导向结果，但如果没有向善的动机，善的结果可能也会无心插柳柳成荫，但总是小概率事件。

七

我建议腾讯成立一个圆桌式的技术伦理委员会，来落地“科技向善”这个梦想。

基于腾讯一个高科技公司的定位，高层大多理工背景，这个技术伦理委员会应该延请一些声望卓著的伦理学家，对关键性技术做一个伦理上的审慎评估。

这里可能有一些老外（如果可能的话），但中国本土学者是必须的。因为，不得不承认，中国这片土地，和老外还是有些不同。

在安个摄像头基本不用和你打招呼的这里，和安个摄像头还要讨论半天的美国，AI寻人这个事，怕是做法有些不同罢。

八

最后多说一句话。

这也是我多年以前的观点，至今未变：

科技，总体来说，永远符合既得利益者的利益。

这个意义上说，我算是骨子里的技术悲观派。

—— 首发 扯氮集 ——

作者执教于上海交通大学媒体与传播学院 天奇创投基金管理合伙人