技术是道德中立的吗?从GFW到话剧《哥本哈根》

星期一, 五月 31st, 2010 @ 14:24

技术和道德的关系不是新话题。我记得硕士一年级有一门名为“自然辩证法”实为科学哲学的必修课,其中颇有一部分讨论诸如克隆人与生命伦理、信息技术 对隐私的侵犯、核武器与原子能之类话题。开课的是位哲学系的中年愤青——口水四溅,激情洋溢。可惜最后给我个C让我不爽。老段子重提,动因是这段1月15 日我和某老友的聊天记录。两个IT民工网上见面,由破口大骂GFW开始,聊到“技术是否道德中立”的话题。聊天记录稍微整理后转贴在此:

L: 我在web proxy上只要输入关键词“胡 (×(&海)(&(峰”就被盾
X: 只能说GFW技术真他妈先进
L: 对,对,我艹,这个可真是要命啊
X: 怎样的scalability才能做到过滤所有出口数据。改天我们把GFW之父方滨兴雇个杀手做掉算了。对付人渣就要用革命暴力。
L: 这个不可取,我觉得暴力革命还是土共那一套,而且关键问题不在技术人员
X: 嗯,好像731司令石井四郎该不该死呢?他也是个技术人员
L: 不该死
X: 方滨兴不仅是技术人员,而且是整个项目的管理者
L: 也是一样,人才难得。当年纳粹的科学家不是都被美国收了吗。同样一把刀,用来杀人是凶器,用来切菜就是工具了。关键看怎么用。
X: 呵呵,但是直接参与屠杀的,到死都被犹太人追杀。
L: 恩,对。所有事情都是有底线的。如果超过基本底线肯定不行。这个底线就是人性。我觉得政治的东西远比技术复杂太多…俺们都是单纯滴人
X: 我国的技术人员,大部分都是没有灵魂的人。
L: 怎么说呢,技术人员和知识分子还是有差距的。中国基本没有知识分子
X: 当年纳粹的首席原子武器研究领导者(我忘了是谁了)和奥本海默都知道可以研制原子弹。但是他们谈过之后。那个德国的家伙回去继续当领导,然后故意 让德国的研究计划放缓。要不然最后结果什么样子是说不清楚的。中国的技术人员没有灵魂,整天和魔鬼交易,慢慢自己也就变成了魔鬼。
L: 这个是人性,和中国人无关,人性是符合正态分布的,注定大部分人都是麻木不仁的,有责任感的永远是少数
X: 非也。中国人的教育根本无法培养出对人类,对良心,而不是对国家的忠诚。很多技术人员一辈子都这么被洗着脑。觉醒的永远是少数。大部分现代中国人 仍然是臣民是奴才,而不是公民。
L: 恩。我这两天在翻刘军宁的书。觉得挺有意思的。问你一个问题,如果给你一年50w让你用聚类算法做一个网站热点问题分析的系统你做么?我说的 50w是个人纯收入。
X: 我操,做
L: 带着一帮人做。给国安局做
X: 不做。这伙人不好打交道。而且陷进去就拔不出来了
L: 这是复旦的一个师弟做的事情,依托学校开了一个公司。大老板接的项目就是干这个。网络监控。热点问题聚类
X: 龌龊
L: 其实我觉得并不龌龊,网络监控是必要的,这属于公器。比如用于反恐,但是中国的问题是,由于xx专政导致了公器私用,根源在于社会制度
X: 这个论调是所谓技术中立论调吧。技术永远无辜
L: 恩,我就是这个观点
X: 原子弹也可以用在炸毁冲向地球的小行星。但如果让他诞生在纳粹德国,你觉得这些工程师还无辜吗?工程师如果没有自己的政治判断力。犯罪了还不自 知。可悲得很。奥斯维辛的那些设计焚化炉的工程师,很有几个上军事审判席的,他们也很无辜啊。他们自称很无辜,因为他们认为自己只是照章行事,按图纸施工 的匠人。同样,党卫军的看守也能说自己只是执行任务。我记得有一个奥斯维辛的纪录片叫做《夜与雾》(文字旁白视频)。这个片子结尾很赞, 纽伦堡审判的时候,奥斯维辛从看守到指挥官,所有人都声称自己在执行命令,自己对屠杀没有责任。但是记录片诘问到——那究竟是谁的责任呢?
L: 对,这是个悲剧。但基本上我还是坚持技术无罪论,但是有一个底线,就是人性。如果研究杀人工具,肯定有罪啊。
X: 嗯,我记得看到过某达人的观点,很受触动。他说,现代战争和古典战争如此的不同。现代战争其实是工业化的产物。所以战争双方很可能不用面对面的厮 杀,按下电钮,敌人(包括平民)在千里之外一命呜呼。而且奥斯维辛是这样一个有趣的样本,实际上奥斯威辛是一个效率非常高的现代化大工厂,使用的是福特汽 车发明的流水线生产方式,在生产组织和效率上非常先进。
插图:奥斯维辛集中营的工业化屠宰
图片来源:[1][2][3][4]
奥斯维辛集中营是一条 高速运转的效率极高的大工业流水线——犹太人被当作矿石一样的工业原料,从欧洲各国“开采”而来,在站台像矿物一样被“分选”(立刻“投料”速死者、苦役 折磨缓死者),用最低的成本杀死(精心设计的毒气室,五罐上图所示的Zyklon B即可杀死2000人),所有可用的“资源”被用于工业(头发和衣服用于纺织、假牙炼金、人皮用于制革、脂肪用于制造肥皂),最后毁尸灭迹——骨灰被制成 磷肥。各个环节的衔接紧密而高效,这是严谨的德国工程师和建筑师们的“杰作”。与真 实的羊屠宰工艺流程图对 照,竟然神似,很让人齿冷。事实上,福特发明汽车流水线本来就受屠宰场吊装分割启发。 但他怕是做梦也没想到,会有人用同样的方式杀人。
L: 那好,继续追问一下,研究杀人技术的工程师有罪,那么给这个工厂提供原材料的呢,比如钢铁。
X: 对,这是很好玩的一件事,那就是罪恶感被大大的分散了,所有人只执行杀戮过程中的一小步,所以他们没有罪恶感,也没有耻感。
L: 同样一个问题,如果一群人把一个人打死了,那怎么追究责任?把这一群人都判死刑还是无期?这个问题我想了很久。
X: 对呀,这很好玩。当然我不知道刑法专家会怎么定罪。我是觉得,这都是死罪
L: 但是他们都不想打死人啊,每个人都想踢他一脚
X: 法律是看结果的吧?
L: 是看结果,但是你只需要付你自己的责任。每个人都只造成轻微的伤害。但是所有的叠加到一起就变成了严重伤害了。所以最直接的办法应该是看动机的。 至少中国是这样判罚的。比如一大群人把一个人打死了,肯定煽动的人最重。比如前段时间东北有个钢厂的领导就被工人打死了。如果是无意识的,比如出于义愤, 一起动手的。肯定没法判,法不责众,向来如此。
X: 对。微妙之处就在这里。比如说日本人和中国人搞总体战,可以说大部分日本人都有战争责任。但到底还是法不责众了。现代大工业能够协调一大群人干一 件坏事。坏事的责任被加在一个巨大的分母上。
L: 不管是法律还是制度,只要涉及到人的,一定是妥协的结果。没有绝对。
X: 但是我们不是说法律对他没有办法。所以他做这些事情就光明了对吧?
L: 很难讲这个事情。
X: 偏题了。我们讨论的不是技术是不是合法,而是技术是不是道德中立,这根本是两件事。”道德”中立。
L: 好吧,如果回到道德层面。我承认不中立,应该说技术中立,但是持有该项技术的人不中立。
X: 当然。技术又不是人。人才能谈道德。人是不是道德,要看这个人做了什么事,所以技术人员参与某某技术的研制,这件事情绝对不是道德中立。只要这件 事情有可能影响到其他人,他就不可能道德中立。

算是有结论了吗?且慢。回过头来看聊天记录,逻辑有缺陷,有必要进一步梳理。

首先整理一下概念:作为伦理学(Ethics, 也被称为Moral Philosophy)研究对象的道德是人们共同生活及其行为 的准则和规范,是衡量行为正当与否的观念标准——人们通过道德判断个人行为的善恶,调整人与人之间的关系,形成风俗、法律、制度。这篇搞笑文:五 只猴子的故事——关于道德、阶级、信仰和迷信比较kuso的解释了道德的起源问题。人类道德的起源在这篇正儿八经的考据文里 解释为:最初的动机是追求个体利益最大化;试错式的学习,发现合作是最佳的博弈策略;对个体欲望的约束,产生合作的基础,达到集体的利益最大化,进而实现 个体的利益最大化;对个体欲望的约束逐渐神圣化,最终形成道德。这正好可以解释古今中外各个社会的道德为何有共通之处,例如公平、诚实、守信、礼貌等等。 这些基本规范构成了人与人之间大规模协作的基础,也即是构成了社会的基础。因此不可能被任何一个理智的统治者抛弃。

但不同社会的道德规范也显示出巨大的差异。差异不但表现为内容,而且表现为排序。当我和朋友齐声批评纳粹工程师们、 GFW团队们、731部队的医生们、东德和朝鲜的秘密警察们的行为“不道德”之前已经达成了这样的共识:种族主义是不道德的,不尊重他人的财产和生命是不 道德的,为当权者利益钳制言论自由是不道德的……但是这样的道德观念并不被纳粹们和方滨兴们接受。在他们的观念中,所谓“维护国家利益”是最高道德准则。 其他任何东西,包括自己和他人的财产、生命,都排在“国家利益”的后面,都可以自愿的或者被迫的喀嚓掉。所以把老弱妇孺送进毒气室,或者把关键字送进黑名 单,对他们来说没有任何道德障碍。在奥斯威辛集中营和731部队的细菌实验中,科研人员接受了相似的道德观念:国家利益的“敌人”(实际是统治集团的敌 人)不是人,是工业或者科研原材料,对待他们可以像对待钢铁或者木头一样,不需要有任何感情色彩。这样的道德观念是大规模屠杀的元凶。

追究其原因:道德并不是普适的、一成不变的,而是植根于一个社会的历史和文化,被教育、媒体塑造,并随着社会的变化而不断演化的。由于教育和媒体通 常被统治阶层把持,因此,道德常常被设计为有利于统治阶层利益的最大化,然后通过一切可能的管道灌输给人民,成为全体社会成员观念中的“共识”。不服从者 则被视为异端,被孤立、迫害、甚至流放。

例如爱国主义(Patriotism),定义为个人或集体对“祖国”的一种爱和奉献 [5]——对祖国的成就和文化感到自豪;强烈 希望保留祖国的特色和文化基础;对祖国其他同胞的认同感 [6]。爱国主义隐含着“祖国”即是道德标准,暗 示个体应该把国家利益置于个人和团体利益之上。同时暗示相比其他国家的人,对本国同胞的道德责任更大。这种基于身份认同的情感很可能源自人类原始的“认同 感”心理,一种降低交易成本以促进合作的本能 [7] ——类似的心态会作用在校友、同乡、同事、同好等身上。我毫无根据的胡乱猜想:也许,人类根据生物或者文化特征相似度给事物排列亲疏,目的是最大限度的延 续自身相似的生物基因或者文化基因。在世界尚未大同,国家之间仍然奉行丛林原则的今天,国家对外承担外交和防务、对内提供公共服务,某种程度上仍然是大多 数国民的利益共同体,爱国是一种大致合乎逻辑、合乎自身利益的选择。很明显,这种情感为国家的统治者喜闻乐见,他们会想尽办法强化甚至曲解,并把其优先级 抬到最高,不断通过各种管道向国民洗脑。尤其是专制体制下,爱国很容易被解释成爱政府、爱执政党、爱皇帝、爱元首、爱主席(推荐南方都市报的猛文《爱国家不等于爱朝廷》)。 为了爱国的“大义”和“天理”,可以灭人欲、灭亲、灭友……灭掉敌对阶级和敌国人民。这种思潮多走几步就是种族主义和军国主义。

即使不是纳粹式的“爱国狂人”,面对先爱国还是先爱人类的排序时,同样会纠结不已。比如上面的聊天记录中,我提到过的为纳粹主持原子弹计划的科学家 是海 森堡——量子力学的奠基人之一、提出测不准原理、获得过1932年诺贝尔物理学奖的海森堡。与他会面的人不是奥本海默(我记错了),而是玻 尔——海森堡的老师,1922年诺贝尔奖物理学奖得主。Micheal Frayn的话剧《哥本哈根》(剧本国家话剧院普通话版视频背 景简介)重现、探讨了1941年9月他与玻尔的那次著名的会面,力荐。我摘要一下其中对这次被科学史界称为“哥本哈根会谈”的著名会面的介绍:

1941年9月,种种迹象似乎都预示着整个欧洲将陷入希特勒的统治之下……此时,德国核物理学家沃纳·海森堡:乘火车去哥本哈根找他的同行尼尔斯·波尔。 两人共进晚餐之后,谈话在波尔住所的外面进行。也许他们想避开窃听器,但他们肯定也是想找个安静的地方交谈。海森堡到底跟波尔说了什么,他们的谈话对战争 的发展产生了什么影响呢? 到目前为止,没有人怀疑海森堡向他的同行透露了德国纳粹正在进行一项原子弹的计划,而且似乎取得了重大的进展,但并不清楚他是以何种方式对波尔提起这件事 的。海森堡是去打探波尔及盟军对原子弹的了解有多少,还是在设法拖延纳粹研究原子弹的同时,劝说波尔阻止盟军研究这种武器?“哥本哈根会谈之谜”不仅是科 学史,也是”二战”史上的一个谜团,令史学家扑朔迷离。

海森堡和波尔都是理智的爱国者,同时又富有良知和正义感。海森堡深知,如果纳粹掌握核武器,将会给世界带来怎样的灾难。同时他也知道,如果盟军掌握 核武器,将会给德国带来怎样的灾难。所以他希望双方的科学家达成默契,不让这种怪物出炉。但在战争状态下,这谈何容易啊!最终,原子弹落向了广岛和长崎, 酿成了人类历史上最大的悲剧之一。参与曼哈顿计划的大多数科学家陷入了深深的自责,而很可能是拖延了纳粹原子弹计划的海森堡却因为主持这项计划而受到调查 和谴责。

如果站在海森堡的位置上,你如何选择?我不知道我会怎么做。这真的很难。

所以说到底是价值观问题。如何去排 列这个顺序,每个人按照亲疏远近,都有一套自己的排序规则——亲戚 > 朋友、宠物 > 食物、生物 > 矿物……每个政治实体也有自己的算计。比如我国政府时常挂在嘴边的“主权高于人权”、“我把党来比母亲、党的恩情比海深”等等,这些口号赤裸裸的袒露了政 府和执政党对塑造人民价值观的期望和目标;比如美国价值观的口号“American Dream”,强调的是个人自由和个人价值的实现;再在比如伊斯兰教、天主教国家,教廷在价值观体系中会有很高的位置……于是不同的文化背景会呈现出迥异 的价值观。一旦互相接触,冲突似乎不可避免。

GFW和Google的冲突就是一个典型。GFW 工程队们墙内版)一直 强调所谓“国家安全”高于一切,之所以要给这个词打引号,是因为GFW实际保护的是政权安全或者政治安全。这是方滨兴们对此理直气壮的 道德支撑点——他显然认为自己的作品是符合自己的价值观的,因此表现得洋洋自得;而Google声称不作恶,这个所谓“不作恶”就是Google的价值观 和道德观:某些事情是“恶的”,是Google不能去做的。例如侵犯隐私、侵犯言论自由、为了广告商利益修改搜索排序结果等等,这些做法并不一定违法,违 反的只能是Google认为应该在技术上遵循的道德观念。我姑且概括为东方式的集体主义 vs. 西方式的个人主义。这两者之间的价值观分歧实在太大,他们之间的对话基本上属于鸡同鸭讲,所以Google刚刚开始和政府谈判,我就很清楚谈不出什么成 果。哪怕希 拉里阿姨气冲冲的下了战书,这边一句“西方敌对势力的破坏”,一样给噎得说不出话来。

那么作为技术人员,应该怎么做?如何评价从事某项研究或者参与某项工程的行为是否道德?如何判断某某技术是否道德?当上司交给你一项任务,或者参与 一个开源项目时,如何对得起良知,同时避免对他人造成伤害?

遗憾的是,中国的教育基本上并不包含这些内容。未来的工程师们被训练成听话好用的工具。并且总是充满了自以为是的智力优越感。我们只是机械的执行任 务,换来金钱。更糟的是,我们从小在学校学习撒谎(看看那些小学生作文里的好人好事)、学会伪装崇高,我们绝少反省自身。

核武器这个例子很有意思。原子弹的研制难度很高,是否让它问世并不取决于政客或者资金。开启核大门的钥匙掌握在几个顶尖科学家的手中。他们接过了改 变历史进程方向盘,需要他们做出选择——困难的是,打开这项技术带来的风险和后果,科学家们及大多数人并不具备这样的预见力。爱因斯坦和奥本海默们恐怕很 难预见到自己研制出的武器造就了冷战和东西方的对峙,大大改变了战后五十年的世界历史进程。同样,今天从事尖端科学研究的科学家们在基因工程、纳米技术、 新能源、信息技术等领域的成果会带来怎样的社会影响,甚至有可能是灾难,我们也无法预见。所以,作为一个技术人员,对技术及其影响力保持警惕、独立思考, 这极端重要——因为这不单关乎自我内心平静,更关乎人类的福祉。

参考资料:

  1. H.E.A.R.T(大屠杀教育和档案研究),Auschwitz – Birkenau Period Photos(奥斯维辛-比克瑙照片)
  2. Jennifer Rosenberg,Auschwitz Pictures(奥斯维辛图像)
  3. Ron Clarin,Old Photos of Cremation ovens at Dachau(达豪集中营焚尸炉旧照片);
  4. scrapbookpages.com,The Deportation of the Hungarian Jews(驱逐匈牙利犹太人),长文Auschwitz-Birkenau, History of a man-made Hell(奥斯维辛-比克瑙,人间地狱的历史)的一部分
  5. Wikipedia,Patriotism
  6. 百度百科,爱国主义
  7. 学而时嘻之,爱国也是常识。 不过这篇引文在google reader上曾经发生过激烈的辩论。

Tags: , ,
Posted in 狡诈的魔法师 | No Comments »

Leave a Reply