AI公平性：如何让人工智能真正服务社区

创新者在发展人工智能时有一个重要目标——确保AI能够服务于公共利益。这个目标有时容易被忽视。

目前有一种趋势是将人类纳入AI决策过程中，这就是"人在环路中"这一概念的由来。但这只是确保AI能为广泛人群服务的一个方面，而不仅仅是为少数技术专家服务。换句话说，在系统中融入人性化元素固然重要，但这与确保系统以社区为中心、致力于解决社区问题是不同的。

"只有当我们设计AI来服务于我们关心的社区时，AI才能真正推动资源不足的非营利组织发展，"米歇尔·弗洛雷斯·弗林和米娜·达斯在《斯坦福社会创新评论》中写道。"但当非营利组织考虑如何将AI融入其工作时，许多组织会寻求技术行业的专业知识，期待获得工具和实施建议以及伦理指导。"

在这里和其他地方，人们都在寻求解决快速变化世界中的挑战。这需要政府、企业和学术界之间的深度合作。

实际行动

在斯坦福大学最近举办的一次会议上，白板顾问公司的卡洛斯·伊格纳西奥·萨瓦拉采访了斯坦福HAI研究所研究总监瓦妮莎·帕利和西格尔家族基金会主席凯蒂·奈特，讨论了她们在非营利组织推进这种面向社区工作的经验。

"我们不能让计算机科学家独自在办公室里开发技术，"帕利说道。"我们需要医生、律师、人文学者、教育工作者，需要所有这些不同学科和专业领域的专家来确保技术造福每个人。所以就我们的关注重点而言，我们专注于以人为中心的AI。"

"我们寻找利用技术行善的方法，"奈特说，"特别是人工智能等新兴技术，但我们也深入思考如何减轻普及技术的风险和危害，因为如果我们在任何地方、任何时候、任何应用中都使用技术，可能会有一些我们需要考虑的陷阱。"

变革策略

奈特谈到了解决她提到的陷阱的规划。

"我们有很多策略，既包括社会部门如何利用技术提高效率，"她说，"扩大影响力，以不同方式思考如何解决我们几十年来看到的一些顽固问题。但我们也在思考如何确保来自社区的问题集合，即人们试图解决的实际、具体问题。"

她还指出，思考技术在哪些方面能够和不能提供帮助是很重要的。

"我们经常思考所谓的'设计、治理、资助、部署'，"她说。"这些是技术生命周期中的不同节点，我们可以在这些节点整合更多以人为中心的思维方式和质疑精神，希望这能引导我们开发出真正解决实际问题的技术。"

帕利提到了HAI的一个重要工具——伦理与社会审查委员会，可以帮助审核想法。

"我们有大型资助项目，我们分发资金，所有申请研究资金的提案，研究人员都必须提交一页纸的文件，说明如果这项研究和技术在整个社会中变得普及，可能产生什么影响，"她说，申请者还必须谈论风险缓解。"我们有一个跨学科的专家小组，包括计算机科学家、伦理学家、医疗保健专家等各个学科的人员，他们会审查这些声明。"

然后，她解释说，利用以社区为导向的设计原则也很重要。

"从历史上看，我们见过很多技术，当然，开发它们的人都有良好的意图，但他们缺乏跨学科的视角来真正理解社会需求，更广泛的公众也没有真正参与进来，"她说。

"很多人可以告诉你很多关于他们的解决方案以及它有多棒的事情，"奈特补充道。"但当你问他们这个解决方案需要解决什么问题时，他们的回答就不那么明确了。对我来说，这是一个危险信号。"

阅读AI

奈特谈到了资助Quill这个教育项目。

"他们拥有大量关于教师实际反馈的数据，并在自己的工具中使用这些数据来帮助学生和教师评估他们的写作，"她说。"这有点像副驾驶，但不是主动提示你告诉你该做什么，而是当你需要帮助时能够协助你，并提供专门根据教育工作者意见设计的帮助，像老师或教练那样指导学生获得更好的写作结果。"

帕利更广泛地评论了资助各种有益方面，这些方面将为人民而发展。

"我们必须继续思考文化价值观如何嵌入到这些AI系统中，再次考虑与实际研究文化的人文学者合作，然后与这些不同文化的社区合作，了解模型产生的结果，"她说。

边缘工作

帕利后来提到了各个团队和个人研究员在这个领域所做的基础工作。

"需要有人愿意对这些想法下注，"她说。"从历史上看，一直是政府和慈善事业在做这件事。慈善事业无法填补所有空白，但还有机会。"

在小组讨论中，两人谈到了人才、伙伴关系和公共数据集，最后敦促审查项目并让AI工作保持在正确的道路上。

"明确定义问题，"帕利说，"如果有人向你推销，在他们开始谈论解决方案之前，先问问他们试图解决的是什么问题。我不会让任何人再向我推销另一个结果是聊天机器人的东西，只是包装得很华丽，本质上还是你可以在浏览器中访问的ChatGPT，但他们让它对非营利组织友好，现在想要1000万美元。"

"对技术进行批判性思考，对你在媒体和一些大型AI实验室看到的内容进行批判性思考，对研究实际说了什么获得多元化的观点，"奈特补充道。"思考技术实际能做什么，以及技术的机会，因为机会很多，但不是保证的，我们所有人都有责任确保以我们希望的方式构建和使用技术。"

所有这些都有助于用AI服务社区。让我们看看进入2026年会发生什么。

Q&A

Q1：什么是以人为中心的AI？

A：以人为中心的AI是指在AI系统开发过程中，不仅仅依靠计算机科学家，还需要医生、律师、人文学者、教育工作者等各个学科的专家参与，确保技术能够真正造福每个人，满足社会需求。

Q2：如何确保AI项目真正解决实际问题？

A：关键是在评估AI项目时，首先要求开发者明确定义他们试图解决的具体问题，而不是先介绍解决方案。如果开发者无法清晰回答要解决什么问题，这就是一个危险信号。

Q3：非营利组织如何更好地利用AI技术？

A：非营利组织应该以社区需求为出发点，与跨学科专家合作，建立伦理审查机制，确保AI技术真正服务于社区。同时要批判性地思考技术能力，避免被华而不实的解决方案误导。