财新传媒
位置:博客 > 胡泳 > 当今的责任:濒危未来的伦理学——二论科技向善

当今的责任:濒危未来的伦理学——二论科技向善

伦理学从来没有被迫面对这种情景,即技术会把整个生命置于危险境地。人类社会迫切需要一种新的技术文明伦理
2019年11月11日,在成立21周年纪念日,腾讯公布了全新的使命愿景和价值观。“用户为本,科技向善”是新的使命愿景,“正直、进取、协作、创造”成为新的价值观。
 
在内部全员邮件中,以马化腾、刘炽平为首的腾讯领导人写道:“在腾讯的发展历程中,有两条最重要的生命线,一条叫‘用户’,一条叫‘责任’。”在科技力量猛增、科技发展日速的情况下,腾讯要“一切以用户价值为依归,将社会责任融入产品及服务之中”,更要“推动科技创新与文化传承,助力各行各业升级,促进社会的可持续发展”。
 
腾讯意识到自己的高科技身份,表示:“科技是一种能力,向善是一种选择,我们选择科技向善,不仅意味着要坚定不移地提升我们的科技能力,为用户提供更好的产品和服务、持续提升人们的生产效率和生活品质,还要有所不为、有所必为。”
 
用户为本 科技向善
——写在腾讯文化3.0发布之际
各位同事:
大家好!今天起,公司有了全新的使命愿景和价值观。“用户为本,科技向善”是我们新的使命愿景,“正直、进取、协作、创造”是我们新的价值观。自2003年我们正式发布腾讯文化1.0版本以来,作为腾讯最重要的产品,腾讯文化已经迭代升级三个大版本。
腾讯最初的文化源自创始人团队。幸运的是,不断有成功的业务、优秀的同事在丰富腾讯文化的内涵。从最初的几个人,到如今遍布全球的4万多人,每一位腾讯人,都参与了腾讯文化的塑造,腾讯的文化也深刻地影响着每一位腾讯人。
21年来,无论是对业务影响深远的“CE”、对员工言行举止影响广泛的“瑞雪”,还是“一切以用户价值为依归”的理念,腾讯文化都贯穿始终。
随着公司的业务越来越多元,越来越多的人才加入腾讯,随着930变革的启动与深入,腾讯的文化也迈向3.0,在传承历史的同时,也开启了面向未来的全新进化。
一、“用户”和“责任”是腾讯存在和成长的两条生命线
在腾讯的发展历程中,有两条最重要的生命线,一条叫“用户”,一条叫“责任”。
最初,创始团队一心想做一款好用的产品。我们抠细节、勤迭代,抱着“不辜负用户,与用户做朋友”的信念创造了QQ。由此开始,腾讯一步一步走到今天。正是因为恪守了“用户为本”、“一切以用户价值为依归”的理念,在过去21年中,无论面对怎样的迷茫与取舍,我们都始终坚守这个信念,走在正确的路上。对此,我们会坚定地传承下去。
2008年汶川地震,腾讯紧急上线的寻人与捐助平台,让科技连接善意;后来,我们又发起了全网参与的99公益日、上线了成长守护平台,并通过AI的力量协助警方打拐,寻找失踪儿童……通过不断的尝试与探索,我们对科技向善的认知、思考、选择越来越清晰,越来越坚定。最终我们决定,把它郑重地写进腾讯的使命愿景,让科技向善成为每一位腾讯人的使命与责任,让我们每一天的工作都更有意义和价值。
科技本身力量巨大,科技发展日益迅猛,如何善用科技,将极大程度上影响到人类社会的福祉。科技是一种能力,向善是一种选择,我们选择科技向善,不仅意味着要坚定不移地提升我们的科技能力,为用户提供更好的产品和服务、持续提升人们的生产效率和生活品质,还要有所不为、有所必为。具体到行动,我们要“一切以用户价值为依归,将社会责任融入产品及服务之中”,更要“推动科技创新与文化传承,助力各行各业升级,促进社会的可持续发展”。
二、传承“正直”与“进取”,迈向“协作”与“创造”
公司坚持传承正直的价值观,就是鼓励员工继续“坚守底线、以德为先,坦诚公正不唯上”,这是总办极度重视、员工高度认同的价值观。我们坚持传承进取的价值观,强调“无功便是过,勇于突破有担当”;同时赋予“进取”更高的标准和内涵,倡导员工不断追求卓越,并对管理干部有了更高的指引与要求。
“合作”升级为“协作”具有明确的价值导向。就是要“开放协同,持续进化”。对内要大家放大格局、打开边界,以开源的心态与各组织协同,用符合互联网思维的方法和工具进行协作;对外要广泛协同伙伴和生态力量,共创更大价值。我们希望,这种导向可以牵引个人成长,促进组织进化。
“创新”升级为“创造”则指向更高的要求,意味着“超越创新,探索未来”。这就需要我们不断突破现有思维,保持对前沿和未来领域的关注和投入,以更有分量、更具结果的导向去创造更大价值。我们不会忽视技术和产品的微创新,但我们有了更高的目标:面向未来、探索未来,通过创造力实现更大的社会价值。
三、让文化成为腾讯人自觉的选择
文化不是写在纸上、挂在墙上的,文化也不是几个人的事,它是我们大家的事。在那些产生巨大影响的产品和服务上,在那些改变世界的团队身上,在那些重要的决策时刻,腾讯文化贯穿始终。让文化融入我们的血液,成为一种自然的选择。
向往它、认同它、落实它、坚守它,然后去传承它。让“用户为本,科技向善”成为我们思考的起点,让“正直、进取、协作、创造”成为我们日常的言行。我相信,腾讯文化3.0必将带给我们更大的力量和更多的温度,也将指引我们走向更高远的未来!
Pony、Martin及全体总办
2019年11月11日
 
科技与伦理,能力与选择,有所不为与有所必为,无不把一些尖锐的矛盾推到我们面前。在今天这样一个时刻直面这些冲突,不只是为了对企业文化进行更新换代,更是因为冲突所彰显的挑战,已经到了避无可避的程度。
 
新技术赋予我们更多的行动能力,而这意味着我们必须作出以前从未作出过的选择。科技向善,不仅是出于良好的社会目的而开发技术,更是要将伦理考量应用于技术的实际问题。过去,人类的行为基于自身的弱点而不由自主地受到约束,而如今,由于如此强大的技术给我们的助力,人类必须学习如何自主地以我们的判断力来约束自己:伦理由此登场。
 
技术本身并不可耻?
 
在过去数年内,我们看到太多的科技公司背叛公众信任,为了追逐利润而做出有违伦理的事情。到底应该责怪谁?责怪它们哪些方面?由于监管机构的监督不足,公众抵抗的力度不够,而大公司的判断力依然不佳,所有被技术深刻影响的各方都在问:以道德的方式开发技术意味着什么?公众如何信任科技公司确保其个人信息安全?怎样解决社交媒体上的仇恨偏见和极端主义?何以避免人工智能的可能陷阱?
 
科技分析公司Gartner认为,关注数字伦理与隐私是2019年技术的主要趋势之一。科技公司需要考虑其软硬件开发如何影响用户隐私。更重要的是,它们需要意识到自己的决定可能会破坏社会。
 
这一意识的转变首先从大平台公司开始。“平台”是当下科技行业中最耀眼的奖项。全球市场上最有价值的科技公司往往也就是最有价值的公司,原因是,它们拥有数字经济的基本要素,无论这些要素是操作系统、应用商店、社交网络、云服务器、在线支付,还是配送和物流基础设施。
 
 
可以将这些平台视为信息经济的公路、铁路和水路,它们对于任何不在森林里隐居而自绝于网络之外的人来说,都是生活中不可避免的一部分。
 
多年来,尽管技术平台不断发展壮大,但很少受到严格的审视,它们常常厌恶承认其系统能够对现实世界产生巨大影响。在唐纳德·特朗普获胜之后数日内,Facebook首席执行官马克·扎克伯格被问及他的网站在2016年美国大选中所扮演的角色,他以老套的科技脚本中的台词回应道:这样想一定是“发疯了”,Facebook上传播的假信息绝不可能“以任何方式影响到选举”。他很快就会为自己的表演后悔。
 
 
的确,平台的信条一直是:我们无法对用户在平台上的活动方式真正负责。2016年1月7日,北京市海淀区法院开庭审理快播公司涉黄案,CEO 王欣在强调快播只是一个播放平台时,说了一句臭名昭著的话:“技术本身并不可耻。”这也就是整个高科技行业的口号:我们只是制造技术,人们如何使用它是另一回事。
 
从2016年到2019年,经历一系列的丑闻、公众的不满和政府监管的可能,情况在一点点发生变化。平台公司不情愿地表现出热情,开始就自己如何影响现实世界承担一定的责任。尽管还远未达到社会所希望的程度,但是它们以许多重要的方式改变了语气和策略,暗示其正在重新考虑自己的立场。
 
 
扎克伯格抵赖一切的音调消失了。他为自己的信口雌黄而道歉。在Facebook向投资者发布的最新收益报告中,他将公司的社会使命放在了议程的首位。他说:“保护我们的社区比令我们的利润最大化更为重要。”
 
其他几位技术领头羊也表达了对更深层使命的类似承诺。苹果公司CEO蒂莫西·库克说,在治愈美国的社会和经济裂痕方面,苹果公司负有“道德责任”。微软CEO萨提亚·纳德拉也宣称:“我们不仅要问自己计算机可以做什么,还应该问它应该做什么。”
 
终于,经过这么多年,一个共识浮出了水面:技术平台要承担现实责任。然后,麻烦出现了:没有人真正知道“责任”意味着什么。如果2019年的重大转变是,科技公司现在懂得,要对其平台如何影响世界承担责任,那么从此以后的一个重大奥秘就是这种责任的模样。
 
技术必须成为伦理问题
 
欲了解责任一词的深度,让我们回到互联网发明整10年后的1979年。在这一年,汉斯·约纳斯(Hans Jonas)极其深刻而敏感地意识到技术过度发展的危险,用德语完成了他的主要著作《责任律令》(中文版译作《责任原理》),对现代技术的伦理含义作出突破性论辩,热烈倡导一种对自然和未来人类的存在负责的责任伦理学。该书的要义正如其副标题“寻找技术时代的伦理学”所表明的,是要为技术文明时代的伦理学奠定基础,尤其是奠定其本体论基础。
 
 
这部作品发表之际,汉娜·阿伦特激动地宣称:“汉斯,这本书就是当上帝在创造你的时候,他脑中之所思!”在约纳斯看来,人类前所未有的新技术,已经把2500年来的伦理话语都变成了过时之物。该书的一个基本论点是,现代技术的黄金承诺已然变成一种威胁,除去永久地改变了人与自然的关系,还导致了对实存的重大怀疑,造成了人类的自我理解危机。这一论点让人联想到海德格尔《技术的追问》(The Question Concerning Technology,1950)一文中对现代性的诊断:技术的本质发生了从 Poesis(制作)到 Gestell(集置)的历史性范式转移。这个转移标志了前现代和现代技术的分野。
海德格尔《技术的追问》
 
“制作”的含义是“带出”,即一个人将以前不存在的东西带到世界上来的活动。不同于古代技术只是单纯以“带出”的方式呈现自然界的意义,现代技术是以“挑起”(Herausfordern)的方式去强索自然界,要求自然提供本身能够被开采和贮藏的能量。海德格尔以对水力的运用为例揶揄道,“与其说水电站建在莱茵河上,不如说莱茵河建在水电站上”。
 
现代技术向着现代工业体系“订置”(bestellen)一切,指令事物必须“站守岗位之上而随时候命”,后者因而成为“储备物”(Bestand)。储备物先行被设置在由订置链条而构成的网络之中,这个整体网络的形构,就是科技之为科技的本质,亦即海德格尔所说的“集置”(Gestell)。海德格尔在引介和说明自己的特殊用词时,常强调“Ge-”这个德语前缀表达收集、聚集之意,所谓集置就是对订置与储备物的全体性收集或聚集,是汇聚众多科技现象的“一”。
 
无法逃脱物的命运,现代技术中的人也归属于“订置”和“储备物”,被指派安放于先行的盘算、计量、规划、调节而构成的链锁程序所预订的“位置”上,化约为某种稳定的可能性,即可被动员和可持续地听候支配。也因此,没有任何人或物是不可被更换、不可被取代的。在对世界的这种“集置”中,现代技术不仅永久改变了地球生物圈,而且威胁到生命本身。因此,技术不只是又一种威胁而已,它就是威胁本身。
 
 
如同其导师海德格尔一样,约纳斯对现代技术及其后果的探讨是建立在先验基础上的;但是,与海德格尔不同的是,他从伦理角度看待这一问题:在古代,技术的实用功能有限;而在现代,技术成为衡量进步的标准。它变得如此重要,以至于它被理解为进步的动力,是人类发展的主要形式。技术已经成为人类的“召唤”(calling)。但在这个过程中,人类自身也成为技术操纵的对象,例如,关于如何延长寿命、开展行为控制和进行基因操纵的技术研究,指向了全然未知的领域。所有这一切都带有深远的伦理意义,也因此,技术必须成为伦理问题。
 
然而,当下的情形需要我们对伦理进行全新的思考。传统的伦理理论与植根于现代技术文明的伦理学,可能有着完全不同的假设。约纳斯认为,传统的伦理理论具有四个特征:
 
1)所有与非人类世界打交道的活动在伦理上都是中立的。
 
2)所有的传统伦理都是人类中心主义的。
 
3) “人”的实体及其境况在本质上被认为是恒定的,本身不能成为技术重塑的对象。
 
4) 做好事或避免作恶与行动本身有关,这意味着其范围受到时间和空间的限制。传统伦理是一种“邻居伦理”。
 
这些特征意味着,道德领域仅限于一种共同的存在,而有关未来的视角则限于他人的预期寿命。为什么需要超越这些局限性而对伦理进行全新的思考?这是因为,以传统伦理学来分析现代技术如何影响人类行动时,存在着显而易见的缺陷。所有先进技术的使用都涉及集体行动。与在亲密领域中发现的行动相比,在集体行动中个人的行为、行动本身以及行动效果都绝不相同。而且,我们不知道这些行动的全部后果,特别是其对自然和未来人口的破坏性影响。
不完全清楚这些影响,不等于我们可以不负责任。大自然和子孙后代都是我们集体行动的主题,因此我们对他们负有义务。他们构成了我们责任范围的重要组成部分,因为我们可以通过使用技术来操纵这一部分,自然和未来的人必须纳入伦理反思之中。技术操纵的结果是不可逆的和累积性的,因此,不可能在一段不确定的将来预测其影响的总体。鉴于新的遗传技术和其他技术,所谓的“常数”也可能会发生变化。
 
在此情况下,人的境况成为当今重塑技术的主题。这使得谈论“恒定”和“不变”的人性成为一个问题。之所以说现代技术是威胁本身,是因为它对我们的生存基础(即自然)造成了严重退化,同时还具有改变人性的潜力。在此之前,伦理学从来没有被迫面对这种情景,即技术会把整个生命置于危险境地。人类社会迫切需要一种新的技术文明伦理。
 
责任的模样
 
约纳斯认为,现代技术文明的特征改变了我们道德义务的性质。责任的概念被赋予了新的维度。他在对康德绝对命令的重新表述中表达了这一点:“你要如此行动,使行动产生的影响与真正的人类生活的持久性相容”。我们必须确保我们行动的影响不会破坏未来的“真正的人类生活”。而确保“真正的人类生活”,意味着保护未来人类的自治、尊严、完整乃至脆弱性。
在《实践理性批判》中,康德把“绝对命令”表述为“要只按照你同时认为也能成为普遍规律的准则去行动”
 
但是,这反过来又需要保护自然,以便子孙后代可以拥有最佳的生活条件。没有自然,人不可能是完全的人类。大自然的破坏是对人类自身“本质”的威胁。我们是自然的一部分,因此我们有责任维护和保护自然。不过,它也意味着与新的自由概念的一场哲学对抗。在这里,生物医学科学和遗传学的现代发展至关重要。
 
如果人类本身已经成为生物医学技术的对象,这对道德哲学来说是一个严重的问题,因为生物医学构成了行为控制的一种手段。如果得以实现,它对我们的道德意识意味着什么?生物医学和生物技术领域的行为控制的潜在发展,可能会以程序化的行为系统吞噬负责任的个人。不可避免的问题是:人的形象将以何为本?谁来决定如此形象?应该基于什么类型的知识来确定?凭借何种精神权利,我们可以假定子孙后代在价值偏好方面,将会需要与我们相同的选择?难道我们不应该首先问一下,现代技术可以以什么样的方式改变人,以至于子孙后代的道德意识可能与现在的我们完全不同?
 
这个问题的严峻性,如果放在人类历史的长河中,就更加一目了然。尼采曾经评论:“由于哥白尼,人类已经从最中心的位置不知滚到了哪一个角落。”理查德·沃林雪上加霜:“达尔文主义给了人类的自恋情结以额外的创伤性打击。人类不再是万物之灵。”当发现自己的地位被降低为仅仅是生物学上的一个意外,人类的一种本能反应竟然是,我们是否可以通过技术重新拔高自己,沿着人类中心主义的老路继续向前?技术给予我们自负,就如同我们如此渴望离开这个生养我们却遭我们鄙弃的地球,而奋不顾身地奔向外太空一样。
人类生活的美丽与脆弱
 
沃林敏锐地发现了在这个进程中伦理学的缺位。“伦理学传统方法——亚里士多德的‘实践智慧’、康德的‘绝对律令’——习惯上用来处理明确规定而为人熟知的范围之内的人类行为。这些学说似乎建立在亘古不变的历史规范和生物规范的基础之上。然而,处于发端于技术现代性的根本变化情景下,这些伦理学处方仅仅具备朝向‘德性’(亚里士多德)的倾向,或者将其语境置于把人当做‘自身目的’(康德)来看待中”,它们一度或许有效,但在直面最坏的生态灾难之时,却都是那样的不堪一击。约纳斯的论辩正是在此处显得格外有力:对人与自然界的关系、对人与自身后代的关系重新作出基本评价,已然成为一种伦理责任。
 
为了让人们用于承担起自己的责任,约纳斯提出一种“恐惧启发法”(heuristics of fear),即意识到“灾难即将来临”可能帮助我们认识技术的可能性及其限度。恐惧不仅仅是一种消极情绪,而且也会是一名优秀的老师:只有当我们发现某种东西处于危险之中,我们才会意识到其重要性。恐惧可以被认为是责任的导引,而鉴于技术在当前的生态危机中的作用,责任这一美德正变得越来越重要。如果不能够持之以恒地对未来最糟糕的景象保持无比的谨慎和警惕,我们就会屈从于种种毋需承担责任的诱惑。这将导致集体毁灭的玩火自焚。恐惧是必要的,约纳斯论证说,这是新技术的空前能力给我们的一个迫切暗示。并且,他强调,由于这种能力已经把生命本身的未来置于如此危险的境地,实验和冒险的起点必须降到最低限度。
 
注:本文载于胡泳的微信公号:beingdigital。



推荐 2