最近几个月,Google员工发起了一项运动,要求公司终止与五角大楼Maven项目的合约,因为这个项目的目标是利用机器学习来改进无人机打击的精度。将近5000名Google员工在取消该项目的内部请愿书上签了名,还有10几个人辞职。6月1日,这帮人终于胜利了。在员工压力下,Google宣布明年3月本期合同到期后将不再续约。而且Google随后也发布了AI应用指导原则。这个态度的大转变是Google员工的一大胜利,反映出了自特朗普当选美国总统以来技术圈形成的一股新气象。
《Logic》杂志的创始主编Ben Tarnoff最近对Google抗议活动的发起人之一进行了访谈。
你能否解释一下这场活动的缘起,事情是怎么开始的呢?
Google刚签完Maven项目的合同内部就引起了争议。事情大概是2017年9月开始的,10月开始加速。到了2018年1月,至少已经有12支团队知道了Maven项目的事情。来自公司的云、AI、通信、Google Brain、DeepMind等几个不同部门的一群Google人强烈反对此事。他们聚在一起试图通过官方渠道以及向Google Cloud负责人Diane Greene提出自己的关切。
但是公司的人力资源和道德合规团队对这些关切不予理睬。Google人几个月的努力显然收效甚微。公司开始全力推进项目。于是他们决定换种做法。他们在公司内部的社交媒体平台发帖,披露了项目的情况并列举了他们的担心。
文章引起了大量回应。员工普遍强烈反对Maven项目。Diane Greene被迫接入进来,试图平息代价的担心,她坚称Maven项目严格用于非攻击性的目的。但这个理由未能说服大家,其中的许多人在评论中对Diane发起了直接挑战。
其他员工这种压倒性的反响是不是令你们感到吃惊?
绝对的。但在看到这样的反应之后,写那篇文章的Google人深受鼓舞。他们看到了内部有大量的支持。于是他们给Google CEO Sundar Pichai写了一封公开信,请求他取消Maven的合同。
大家反应如何?
那天晚上只得到了100份签名。但次日开始爆发。不到24小时内得到了1000份签名。
那一天是全员大会举行的日子。Diane Greene发布了一份特别公告作为对员工对Maven项目指责的响应。但她显然没有准备好,其回应并不能令人信服。
然后在问答环节期间,有几个问题是跟Maven项目有关的。领导层挨了一记闷棍。这完全是在计划之外的,我想任何人都没料到会有如此强烈的员工反应。
全员大会是不是这场运动的转折点?
当然有帮助。我认为这表明了在这个问题上有很多的支持在继续对公司施加压力。
在那次会议之后,签名数量开始激增。光是那一天我们就收集到了500到600份签名。次日,签名又增加了1000。公开信就像野火一样蔓延开来。
运动开始有了自己的生命。从山景城到西雅图到纽约、蒙特利尔、都柏林、苏黎世,大家开始在全球各地的办事处组织自己的活动。
在Google外面你们也得到了支持。
是的,今年4月,Tech Workers Coalition在Coworker.org上发起了一项请愿活动,活动得到了其他技术公司如Amazon、IBM和微软的员工的签名支持,他们也呼吁Google1要取消Maven项目,并且呼吁整个业界拒绝跟五角大楼合作。
然后到了5月,为了对我们反对Maven项目表示支持,International Committee for Robot Arms Control(ICRAC,国际机器人军备控制委员会)发表了一封由Peter Asaro、Lilly Irani以及Lucy Suchman等学者撰写的公开信。这封新得到了一些AI和计算接科学界的知名学者的签名,其中就有Terry Winograd,他可是Larry Page当年在斯坦福读博士时候的导师。
产生了大规模的影响,那些学者给我们带来了公信力。我们有了真正的专家发出告警,说这个有点更像是在造原子弹而不是开发Gmail。
在压力增加的情况下领导层是如何做出反应的?
他们的主要策略是开更多的会议。
那次全员大会几周之后,他们决定做点更加激烈的事情。他们宣布要召开3长时长2小时的会议讨论Maven项目——分别在美国、欧洲以及亚洲分支机构举行——公司的所有人都要参与。
这个阵仗大。我们从来没见过这种情况:对每一位Google人发出公开邀请,就最高层做出的一项决定发表意见。
会议把我们分成了若干小组。他们说,“我们希望能倾听到每个人的观点——哪怕是那些非主流的观点。”这种口吻显然他们知道自己的观点才是非主流的一方,但是他们希望能得到一些员工的支持。
但这种情况并没有出现。根本就没有发生!大家都非常焦虑。会议的后半场是问答环节,任何人都可以提出问题。领导层被穷追猛打。
一位在Google已经呆了13年的员工说:“我已经替你们工作了这么久了。但说实话这是我第一次说我不信任你们。为什么你们不征求我们员工的意见?为什么你们不问问我们是怎么想的?”
领导层对这类批评是如何响应的?
他们会说,“道德是很复杂的。道德是很难的。”他们经常会这么讲。他们说会制订一套道德原则来指导跟军方的合作。他们说:“这是个灰色地带。我们仍然在设法找出道德的界限在哪里——但在此之前我们不能搁置业务。”
他们还试图将项目的范围和牵涉的内容轻描淡写。但在我们发现领导层撒谎之后这套说辞已经没有用了。
他们撒了什么谎?
一开始他们告诉我们Maven项目是个小合同,纯粹用于非攻击目的。他们说我们不做任何定制的东西。他们说这只是一次性的项目,价值只有900万美元,而且跟五角大楼没有任何进一步的合作。
结果表明这全都是谎言。4月12日,DefenseOne 发表了一篇文章在公司内部掀起了轩然大波。文章援引了跟五角大楼官员的谈话,披露Maven项目其实是未来Google与军方合作的试点项目。而且Maven项目还是Google争取赢得Joint Enterprise Defense Infrastructure(JEDI,联合企业国防基础设施计划)这个大单的一部分。
JEDI是军方的下一代云设施,其计划是将美军在全球的力量通过AI整合到一起。这基本上就是天网。而所有的大型云提供商都想赢下这个合同,因为它价值100亿美元。
当我们发现Maven项目是JEDI的敲门砖时,大家开始变得极其担忧。随着媒体对这件事情的关注度在增加,我们了解到了更多的情况。比方说,Diane Greene曾经告诉我们Maven项目的合同只有900万美元,但内部他们预计会增加到每年2.5亿美元。而且他们不仅允许五角大楼访问开源软件——他们还打算开发大规模的监控系统让军方在类似Google Earth风格的界面上分析人员、车辆以及建筑的实时信息。
这些谎言的被拆穿令我们很受伤,我们丧失了对领导层的信任。
然后到了6月1日,在一场公司会议上,Diane Greene宣布,在当前合同到期后Google将不再寻求Maven项目的续约。这对你们来说是个意外吗?
这的确是一大惊喜。有时候哪怕用心组织了,在结果出来之前你也不会知道自己离赢得胜利还有多远。在此之前一些人开始变得士气低落。我们的行动已经持续了好几个月了,但是感觉却没有取得太大的进展。结果我们收获了这个巨大的让步。
这是一项历史性的成就。但是事情还没完:Maven项目还将持续到2019年3月。如果Google不打算争取更多合同的话,那领导层现在就应该取消当前的这个合同。他们应该说这是个错误。他们应该感谢自己的员工推动他们做了正确的事情才对。