我看见的世界(72)_李飞飞

七二

　　“老板监视器”。

　　更委婉的说法是“员工监控系统”。这种新型软件如雨后春笋般涌现，被广泛用于仓库和办公室等场所。许多人认为这种审查会侵犯人的隐私，甚至是不人道的。虽然软件的市场定位是提高工作效率和保护职业行为，但几乎立即遭到了劳动者的反感，也很快成为科技媒体反复报道的话题。现在，我们甚至还没有机会证明自己，研究工作就有可能被反乌托邦的联想所吞噬。我们的技术是为了病人的安全，而不是为了绩效考核，把我们的软件与监视器混为一谈起初让人觉得不公平。然而，这种担忧是可以理解的，而且事后看来，审查和监视之间的关联确实显而易见。这是我第一次接触到人工智能会在公众想象中引发恐慌的一种能力：监控能力。

　　回想往事，我们很容易忘记变化有多么突然。那是2015年，人工智能对隐私的影响仍是大多数人关注的焦点，毕竟就在短短几年前，图像分类的准确性才开始接近实用的阈值。现在，像我们这样的研究人员眨眼间就掌握了如此强大的能力，技术挑战已经让位于伦理挑战。我们在医疗领域的探索则将这一切带回了我们的实验室。

　　“没有人想安装老板监视器。”一位学生抱怨道。

　　团队刚从露西尔·帕卡德儿童医院悻悻而归，他们本想在那里完成推进试点研究的最后工作，却出乎意料地遭遇了失败。

　　我们的计划是安装一批传感器原型，但我们请来参与实验的各科室护士都无一例外地拒绝配合。项目严重受挫，但在与苏珊交谈之后，我早已有了心理准备。

　　这件事提醒我们，即使是一个明确的多学科团队，也可能存在盲点。虽然我们的临床医生知识渊博，但他们更像研究人员，而不是一线的护理人员，这种区别产生了决定性影响。简而言之，我们积累了深厚的医疗专业知识，但我们都不是护士。我和阿尼召开紧急会议，讨论我们的选择。

　　“我认为只有一条路可走，”一位医生建议道，“护士需要跟你们的研究人员见面。她们需要真正的沟通。”

　　“是的，当然。要让尽可能多的人参与进来。”另一位医生说，“需要倾听。了解他们的想法。”

　　第三个人附和道：“开个公开会怎么样？我可以帮忙组织。”

　　我心中感慨万分，感谢上帝，感谢你们每一个人。我无法想象如果没有阿尼和他的同事们，我们的研究该如何继续下去。

　　“我们在IRB相关的陈述上必须严谨。”阿尼严厉地说，“我们的合作伙伴需要得到保证，任何人的隐私都不会被泄露。一次也不行。大家都清楚了吗？”

　　IRB即机构审查委员会（Institutional Review Board），是对类似我们的临床研究进行监管的机构。要达到他们的期望，确保研究获得批准，需要技巧和外交智慧，更不用说丰富的临床经验了。从我和克里斯托夫在加州理工学院进行的心理物理学研究开始，我对合规要求就已经习以为常，但对我大多数计算机科学的学生来说，这是一个全新的概念。这是真正的医学研究，涉及真实的个体，需要遵循一套全新的专业规范。

　　然而，我们都没预料到的是，我们的研究可能会超出IRB的范围。在听取学生们关于他们在医院访问的更多情况后，我们欣慰地得知，护士们并没有特别担心我们的研究本身；他们中的许多人已经了解我们，并且相信我们的动机，对我们的工作并没有异议。他们担心的是这项工作可能会导致的后果：这项技术将如何发展、供谁使用，以及它的影响范围将会如何扩大。他们的疑虑是敏锐的，同时也强调了一个事实：我们面临的挑战是如何评估人工智能的未来，而不仅仅是它的现在——即使是IRB也没有考虑到这一点。

　　为了确保设备无可非议，我们规定，任何采集到的数据都不得传输到远程数据中心，或者上传到“云端”（这个术语刚刚开始被主流接受）。“云”已经成为热门词汇，几乎在任何情况下都能吸引媒体关注和风投资金，但对我们来说，它却是一种诅咒。相反，我们不得不追求另一种新兴趋势：边缘计算（edge computing），即把所有必要的计算资源都整合到设备中。这是我们的研究所需要的范式，但边缘计算本身就是独立的领域，我们对它的理解和把握还不够深入。

　　尽管面临巨大的工作挑战，但我们知道复杂性是不可避免的。相比之下，从互联网上批量下载图片像是一段无忧无虑的时光。我们现在需要搜集的可能是能想象到的最敏感的数据：以视频的形式捕捉人类群体真正的脆弱时刻。视频的保真度足以训练机器进行可靠的识别。而且，我们必须确保——必须绝对确保——从第一步开始就保护研究对象的安全和匿名，同时遵守IRB准则的高标准（这是我们从事相关研究工作所必备的常识和道德）以及《健康保险携带和责任法案》等法律框架。

　　我们的团队不断壮大。团队建立之初就很多元化，包括工程师、研究人员和医疗政策专家，很快又加入了临床医生、生物伦理学家和斯坦福大学法学院的法学博士。我们的技术合作伙伴也越来越多样化，包括传感器专家、网络安全专家等等，当然还有边缘计算专家。我们雄心勃勃，愿景宏大，尤其可喜的是，在我自己的实验室与阿尼的临床卓越研究中心（中心总部位于斯坦福大学，旨在提高医疗质量和可负担性）的通力合作和资助下，我们的项目落地了。

　　研究的前沿依然广阔无垠。虽然我们只回答了研究中的一小部分问题，但我们正在取得进展。最重要的是，我第一次认识到，如果将人工智能视为一门独立的学科，就会错失其最大的潜力。我们的研究表明，如果人工智能与其他领域相结合，并借助其他形式的专业知识进行推动，可能性就是无限的。

　　※

　　“妈妈，求你了。”

　　母亲最近又做了一次手术，手术结果虽好，但康复之路格外漫长。康复的关键是进行肺部锻炼，需要每天多次使用一种叫作诱导性肺量计的手持设备进行呼吸训练。她刚刚做完手术，很容易出现肺部感染，而且可能是致命的，而使用肺量计是简单有效的预防手段。

　　对经历过多次心脏衰竭和脑出血，又刚接受了开胸手术的人来说，这本该是一项简单的任务。然而，她拒绝了。当医生向她展示肺量计时，她假装按要求呼吸，但医生离开后，她就把肺量计放在一边。当护士来检查时，她又重复着这个戏码。当然，这一切我都看在眼里，但无论我怎么恳求，她都不愿意配合。

　　这根本就说不通。一连几天，我的焦虑与日俱增。我晓之以理，动之以情，但就是劝不动她。护士警告她时，她就点点头；医生责备她时，她就假装服从。但她的表演并没有改变现实：液体正在她的左肺中积聚，她必须再接受痛苦的肺积水引流手术。

　　最后，在重症监护室又住了几周后，她从第二次完全不必要的手术中恢复过来，这场折磨终于结束了，我们把她接回了家。疲惫不堪的我们回到后院，享受了很久以来第一个安静的下午。她不在的时候，我父亲一直忽略了花园的打理；她回来后，他如释重负，重新开始了自己的日常生活。

　　“妈妈，我想问你点儿事。”我不想破坏这份宁静，但内心的困惑让我无法释怀，“还记得医生们想让你用的那个小工具吗？那个肺量计？”

　　母亲纹丝不动，默不作声，但她的身体语言告诉我，她显然不想谈这件事——人在静止状态下却能传达这么多信息，真是让人惊讶。

　　“妈妈，我就是想知道为什么。求你了，跟我说吧。”

　　过了一会儿，她终于开口说话了，但依然没有看我：“我不记得了，当时药劲很大，一切都很模糊。”

　　我知道这不是真的，但我没办法强迫她解释。我没有继续追问，只是享受和她在一起的时光。天气晴朗，栀子花盛开。

虚阁网(Xuges.com)