序言
计算专业人员的行为改变世界。他们应反思其工作的广泛影响,始终如一支持公众利益,才能负责任地行事。计算机协会道德与职业行为准则(下称“准则”)体现了行业良知。
本《准则》旨在激励和指导包括现有和胸怀抱负的从业者、教师、学生、影响者以及任何以有影响力的方式使用计算技术的人士等所有计算专业人员的道德行为。此外,本《准则》亦可作为发生违规行为时的补救措施依据。基于了解公众利益始终是首要考虑因素,本《准则》包括作为责任声明制定的原则。每项原则都辅以诠释指南,以帮助计算专业人员理解和应用该原则。
第 1 节阐述了奠定本《准则》其余部分基础的基本道德原则。第 2 节阐明了专业责任的其他更具体的考虑因素。第 3 节给工作场所或专业志愿者团体的领导者提供了指引。每位计算机协会成员都需要坚守道德行为承诺,同时第 4 节中给出了遵守本《准则》的原则。
整个《准则》所涉及的是基本道德原则如何适用于计算专业人员的行为。本《准则》并非解决道德问题的算法,而是道德决策的基础。在考虑特定问题时,计算专业人员可能会发现应考虑多个原则,同时不同的原则与问题有着不同的相关性。通过认真考虑基本道德原则、理解公众利益是最重要的考虑因素,就能给与这些问题相关的疑问以最好的回答。当道德决策过程对所有利益相关者承责并保持透明时,整个计算行业都会受益。对于道德问题的公开讨论可促进这种责任的承担和透明度。
1.一般道德原则。
计算专业人士应…
1.1 为社会和人类的幸福做出贡献,承认所有人都是计算的利益相关者。
这一涉及所有人生活质量的原则确认,计算专业人员个体和集体均有义务利用其技能造福社会、造福其成员及其周围环境。这种义务包括促进基本人权和保护每位个体的自主权。计算专业人员的一个基本目标就是最大限度减少计算的负面后果,包括对健康、安全、人身安全和隐私的威胁。当多个群体的利益发生冲突时,应该给那些弱势群体以更多关注和优先。
计算专业人员应考虑其工作结果是否会尊重多样性、是否会以对社会承责的方式被使用、是否符合社会需求以及是否可具有广泛的可及性。鼓励计算专业人员参与造福公众利益的公益或志愿工作,积极为社会做出贡献。
除了安全的社会环境外,人类的幸福也需要安全的自然环境。因此,计算专业人员应促进本地和全球的环境可持续性。
1.2 避免伤害。
本文中,“伤害”是指负面后果,特别是那些重大和不公正的后果。伤害的例子包括不合理的身心伤害、不正当的信息破坏或披露以及对财产、声誉和环境的不合理损害。上述伤害并非详尽无遗。
完成指定职责等善意行为也可能造成伤害。如果是无意造成的伤害,责任人有义务尽可能撤销或减轻伤害。避免伤害始于认真考虑给受决策影响的所有人士造成的潜在影响。如果伤害是系统有意为之,责任人有义务确保伤害合乎道德。无论怎样,责任人应尽量减少伤害。
为了最大限度降低间接或意外伤害他人的可能性,计算专业人员应遵循普遍接受的最佳做法,除非真的有其他令人信服的道德理由不这样去做。此外,应仔细分析数据汇总和系统紧急属性的后果。对于涉及普及或基础设施系统的伤害,也应考虑原则 3.7。
计算专业人员还有义务报告可能导致伤害的任何系统风险迹象。如果领导者未采取措施来减少或减轻这种风险,可能有必要“举报”以减少潜在的伤害。但是,反复无常或误导性的风险报告本身可能就有害。在报告风险之前,计算专业人员应仔细评估相关方面的情况。
1.3 诚实可靠。
诚实是信任的重要组成部分。计算专业人员应保持透明,向有关各方充分披露所有相关系统功能、限制和潜在问题。故意造假或误导声明、虚构或伪造数据、提供或接受贿赂以及其他不诚行为均属对于本《准则》的违反。
计算专业人员在其资格及其完成任务能力的任何限制方面应诚实相告。计算专业人员应直率面对任何可能导致实际或感知利益冲突或破坏其判断独立性的情况。此外,计算专业人员应兑现承诺。
计算专业人员不应歪曲组织的政策或程序,同时如果没有获得授权,则不应代表组织发言。
1.4 做事公平,采取行动无歧视。
平等、宽容、尊重他人和正义的价值观是这一原则的管理方针。要做到公平,就需要在即便十分谨慎的决策过程中也提供一些纠正错误的机会。
计算机专业人员应促成包括代表性不足群体在内的所有人的公平参与。基于年龄、肤色、残疾、种族、家庭状况、性别认知、工会会员、军人身份、国籍、种族、宗教或信仰、性别、性取向或任何其他不适当因素的偏见与歧视均为对于本《准则》的明确违反。骚扰(包括性骚扰)、欺凌和其他滥用权力和权威的行为是一种歧视形式,和其他伤害一样,会限制对于发生此等骚扰的虚拟和物理空间的公平进入。
信息和技术的使用可能产生新的或加剧现有的不公平现象。技术和实践应尽可能具有包容性和可访问性,计算专业人员应采取措施避免创建剥夺或压迫人权的系统或技术。不具有包容性和可访问性的设计可能构成不公平歧视。
1.5 尊重需要产生新想法、新发明、创造性作品和计算工件的工作。
开发新的想法、发明、创造性作品和计算工件可以为社会创造价值,同时在上述方面努力的人士应从其工作中获得价值。因此,计算专业人员应鸣谢承认创意、发明、作品和文物的创作者,并尊重版权、专利、商业秘密、许可协议以及其他保护作者作品的方法。
习俗和法律都承认,创作者对作品控制权的一些例外是公众利益的需要。计算专业人士不应过度反对对于其知识产权的合理使用。为有助于社会的项目付出时间和精力等努力来帮助他人是这一原则积极方面的体现。这些努力包括免费和开源软件以及公共领域工作。计算专业人员不应对本人或他人已经共享为公共资源的工作主张私人所有权。
1.6 尊重隐私。
尊重隐私的责任对于计算专业人员具有特别重要的意义。技术可以快速、低成本地收集、监控和交换个人信息,而且往往让受影响人群毫不知情。因此,计算专业人员应熟悉各种隐私的定义和形式,并应了解关于收集和使用个人信息相关的权利和责任。
计算专业人员只应将个人信息用于正规合理的目的,不得侵犯个人和团体的权利。这就需要采取预防措施以防止重新识别匿名数据或未经授权的数据收集、确保数据准确性、了解数据来源并保护数据免受未经授权的访问和意外泄露。计算专业人员应建立透明的政策和程序,使个人能够了解正在收集的是什么数据及其使用方式,为自动数据收集提供知情同意,并审查、获取、纠正不准确和删除其个人数据。
只应在系统中收集必要的最少量的个人信息。计算机专业人员应该把数据的保留和处置时间明确地定义、执行并与数据主体传达。未经个人同意,不得将为特定目的收集的个人信息用于其他目的。合并数据集合可能会影响原始数据集合中的隐私功能。因此,计算专业人员在合并数据集合时应特别注意隐私。
1.7 尊重保密协议。
计算专业人员通常会被委以保密信息,例如商业秘密、客户数据、非公共商务战略、财务信息、研究数据、出版前学术文章和专利申请。计算专业人员应保护信息保密性,除非有证据表明其对法律、组织法规或本《准则》的违反。在这种情况下,该信息的性质或内容不得向除有关部门之外的任何人或机构披露。计算专业人员应仔细考虑该披露是否与本《准则》一致。
2.职业责任。
计算专业人士应…
2.1 努力在专业工作的过程和产品中实现高质量。
计算专业人员应该坚持并支持其自身及其同事的高质量工作。在整个工作过程中,应尊重雇主、员工、同事、客户、用户以及受工作直接或间接影响的任何其他人的尊严。计算专业人员应尊重涉及此项目相关人士的沟通透明性的权利。专业人员应认识到可能由于工作质量不佳所造成的、影响任何利益相关者的任何严重负面后果,并且应该抵制忽视这种责任的诱惑。
2.2 保持高标准的专业能力、行为和道德实践。
高质量的计算取决于个人和团体能否尽职尽责去获得和保持其专业能力。专业能力始于技术知识及对于其工作开展的社会背景的了解。专业能力还应包括沟通技能、反思分析技能,以及对道德挑战的识别和驾驭能力。提升技能会是一个持续的过程,可能包括独立学习、参加会议或研讨会以及其他正式或非正式的教育。专业组织和雇主应鼓励和促进这些活动。
2.3 了解并尊重与专业工作相关的现有规则。
此处的“规则”包括地方、地区、国家和国际法律法规以及专业人员所属组织的任何政策和程序。计算专业人员必须遵守这些规则,除非令人信服的道德理由另有要求。被判断为不道德的规则应该受到挑战。当规则的道德基础不充分或将造成可识别的伤害时,这个规则可能是不道德的。计算专业人员应该在违反规则之前考虑通过现有渠道质疑规则。因规则不道德或任何其他原因而决定违反规则的计算专业人员必须考虑潜在的后果并对其行为承担责任。
2.4 接受并提供适当的专业审查。
高质量的计算专业工作取决于所有阶段的专业审查。在任何适当的情况下,计算专业人员都应寻求并利用同行和利益相关者的审查。计算机专业人员还应对他人的工作提供建设性的和批判性的审查。
2.5 对计算机系统及其影响进行全面彻底的评估,包括分析可能的风险。
计算专业人员处于受信任的地位,因此负有为雇主、员工、客户、用户和公众提供客观、可靠的评估和见证的特殊责任。在评估、建议和展示系统说明和替代方案时,计算专业人员应努力保持敏锐、全面和客观。应格外注意识别和减轻机器学习系统中的潜在风险。随着系统的发展,当系统的未来风险在使用中无法被可靠预测的时候,需要对系统进行频繁的风险再评估,否则就不应该部署该系统。可能导致重大风险的任何问题都必须向相关各方汇报。
2.6 仅在能力范围内开展工作。
计算专业人员负责评估潜在工作任务。这种评估包括对于工作的可行性和可取性的评估以及对于工作任务安排是否在其专业领域能力之内的判断。如果在工作任务之前或期间的任何时候,专业人员确认缺乏必要的专业知识,则必须告知雇主或客户。客户或雇主可决定让专业人员在额外的时间获得必要的能力后再执行任务,或安排具有所需专业知识的人员来执行任务,或放弃任务。计算专业人员的道德判断应是决定是否从事任务的最终指南。
2.7 培养公众对计算、相关技术及其后果的认识和理解。
计算专业人员应根据具体情况和个人能力,向公众分享技术知识、培养计算意识,并鼓励对计算的理解。与公众的此类沟通应该清晰、礼貌和热情。重要的议题包括计算机系统的影响、局限性和脆弱性及其展现出的机会。另外,计算专业人员应以尊重的方式处理与计算有关的不准确或误导性信息。
2.8 仅当获得授权或仅为公众利益之目的才能访问计算和通信资源。
个人和组织有权限制对其系统和数据的访问,但这些限制必须符合本《准则》中的其他原则。因此,在没有合理理由认为其行为将被授权或无法笃信其行为符合公众利益的情况下,计算专业人员不应访问另一人的计算机系统、软件或数据。可公开访问的系统本身并不足以暗示授权。在特殊情况下,计算专业人员可能会使用未经授权的访问来破坏或阻止恶意系统的运行,在这些情况下必须采取特别的预防措施以避免给他人造成伤害。
2.9 设计和实施具有稳固又可用的安全的系统。
违反计算机安全规则会造成伤害。在设计和实施系统时,稳固的安全性应该是首要考虑因素。计算专业人员应尽职工作以确保系统按预期运行,并应采取适当措施确保资源免遭意外和故意滥用、修改和拒绝服务。由于系统部署后,威胁可能出现并不断变化,所以计算专业人员应集成威胁缓解技术和策略,如监控、补丁和漏洞报告。计算专业人员还应采取措施,确保及时明确通知受数据泄露影响的各方,并提供适当的指导和补救措施。
为确保系统达到预期目的,安全功能应设计为尽可能直观且易于使用。计算专业人员不应采取过于混乱、在情境上不合适或以其他方式遏制合规使用的安全预防措施。
如果系统误用或损害可预测或不可避免,最好的选择可能是不使用该种系统。
3.专业领导原则。
领导者可以经由正式指定或基于对他人的影响力非正式产生。在本节中,“领导者”是指具有影响力、教育责任或管理责任的组织或团体的任何成员。虽然这些原则适用于所有计算专业人员,但领导者承担着在组织内部和整个组织中维护和促进这些原则的高度责任。
计算专业人员,特别是作为领导者的人士,应…
3.1 确保公众利益是所有专业计算工作的核心问题。
包括用户、客户、同事以及其他受直接或间接影响的人士在内的所有人都应始终是计算关心的核心问题。在进行与研究、需求分析、设计、实施、测试、验证、部署、维护、停用和处置相关的任务评估时,公众利益应始终是一个明确的考虑因素。无论计算专业人员在实践中使用哪种方法或技术,他们都应保持这一重点。
3.2 明确、鼓励接受并评估组织或团体成员履行社会责任的情况。
技术组织和团体会对大范围的社会产生影响,其领导者应该承担相关的责任。组织通过在流程和态度上注重质量、透明度和社会幸福感,可减少对公众的伤害,并提高对技术给我们生活带来的影响的认识。因此,领导者应鼓励计算专业人员充分参与履行相关的社会责任,并劝阻不这样做的倾向。
3.3 管理人员和资源,提高工作生活质量。
领导者应确保增强、而非降低工作生活质量。领导者应该考虑所有工人的个人和职业发展、无障碍要求、身体安全、心理健康和人格尊严。应在工作场所采用适当的人体工程学标准。
3.4 阐明、应用和支持反映本准则原则的政策和流程。
领导者应追求与本《准则》一致的明确定义的组织政策,并将其有效传达给利益相关者。此外,领导者应鼓励并奖励对这些政策的遵守,并对违反政策的情况采取适当的措施。设计或实施故意或无意违反或倾向于违反本《准则》原则的流程在道德上不可接受。
3.5 为组织或团队成员创造机会,让其成长为专业人员。
教育机会对所有组织和团体成员都至关重要。领导者应确保计算专业人员有机会得到帮助来提高专业精神、道德实践和技术专长等方面的知识和技能。这些机会应包括让计算专业人员熟悉特定类型系统的后果和限制的体验。计算专业人员应充分意识到过度简化方法的危险性、预测每种可能操作条件的不可能性、软件错误的必然性、系统及其环境的相互作用,以及与其专业复杂性相关的其他问题——从而能有信心地承担其所开展工作的责任。
3.6 谨慎修改或停用系统。
界面更改、功能删除甚至软件更新都会影响用户的工作效率和工作质量。在改变或停止对人们仍然依赖的系统功能的支持时,领导者应保持谨慎。在取消对传统旧式系统的支持时,领导者应彻底调查可行的替代方案。如果这些替代方案具有不可接受的风险或不切实际,开发人员应协助利益相关方进行从系统向替代方案的无损安全迁移。在终止支持之前的长时间内,应通知用户有关继续使用不受支持系统的风险。计算专业人员应协助系统用户监测其计算系统的运行可行性,并帮助用户了解可能需要及时更换不适当或过时的功能或整个系统。
3.7 识别并特别关注那些融入社会基础设施里的系统。
当与商业、旅游、政府、医疗保健和教育等日常活动相结合时,即使最简单的计算机系统也有可能影响社会的各个方面。在开发成为社会基础设施重要组成部分的系统时,组织和团体的领导者有成为这些系统的优良管理者的额外责任。良好的管理需要制定公平系统访问政策,包括让那些可能被排除在外的人士进行访问的政策,还要求计算专业人员监控其系统与社会基础设施的整合程度。组织或团队的道德责任可能随着使用程度的变化而有所不同。持续监控社会如何使用系统将使得组织或团体能够与本《准则》中概述的道德义务保持一致。如果没有适当的维护标准,计算专业人员有责任确保制定该类标准。
4.遵守《准则》
计算专业人士应…
4.1 坚持、促进和尊重《准则》的原则。
计算的未来取决于技术和道德的卓越性。计算专业人员应遵守本《准则》的原则,并持续改进这些原则。意识到违反本《准则》的计算专业人员应采取行动解决他们意识到的道德问题,包括在合理的情况下向被认为违反本《准则》的人员表达其担忧。
4.2 将违反本《准则》的行为视为不符合计算机协会会员资格。
每位计算机协会会员,都应鼓励并支持所有计算专业人员遵守本《准则》,无论其是否是 ACM 会员。意识到违反本《准则》的计算机协会成员应考虑向计算机协会报告违规行为,这可能触发计算机协会道德与职业行为准则执法政策中制定的补救措施。