人工智能伦理学家的职业或工作机会

焦点

相关书目

人工智能伦理专家、人工智能伦理顾问、人工智能伦理官、人工智能伦理标准分析师、人工智能政策与伦理顾问、人工智能治理专家、人工智能负责任发展经理、人工智能伦理决策顾问、人工智能伦理与合规官、人工智能伦理框架开发人员

职位描述

人类是充满缺陷、带有偏见且情绪矛盾的集合体。我们时常做出错误的决定，在此过程中往往伤害了自己或他人。那么，当人们试图开发出像我们一样思考和行动的人工智能程序时，会发生什么呢？

人工智能就像一个孩子；它会吸收我们传达给它的所有信息，无论好坏，甚至包括那些不堪入目的内容。我们输入到人工智能模型中的数据，即便不是绝大多数，也大多充斥着我们人类自身的观点、偏好和偏见。然而，我们却期望人工智能的输出——即它的回应——能够客观、合乎逻辑且不带偏见。

我们希望人工智能在某些方面能比我们更出色。但这怎么可能呢？与孩子不同，人工智能并不具备真正的感知能力。它（目前）还无法真正独立思考，也无法意识到自己何时做错了事。微软的必应（Bing）AI就是个典型例子，它曾失控并开始“侮辱他人、对人撒谎，甚至进行情感操控”。

此类问题正日益普遍，但一个日益壮大的专业领域——人工智能伦理学家——正在致力于解决这些问题。正如德勤所解释的：“人工智能伦理学家的主要职责之一……就是通过在人工智能系统的设计、开发和部署过程中融入伦理、社会和政治视角，来完善人工智能的工程方法。其他主要职责还包括就人工智能的伦理实践提供建议，防范行为失常的人工智能带来的意外后果，并确保对人工智能相关的决策和行动进行问责。”

职业生涯的回报之处

助力改进人工智能系统，更好地服务于人类
在这样一个具有变革性的行业工作，它有望以多种方式改善人们的生活
丰厚的薪资和目前良好的就业前景

内幕消息

职位职责

工作时间表

人工智能伦理学家为全职岗位，根据工作目标和时间安排，可能需要加班。工作地点在室内，但偶尔可能需要出差。

主要职责

制定、评估和实施负责任的人工智能（RAI）实践与工具
评估组织在RAI方面的准备情况
与团队合作，在人工智能模型开发过程中融入伦理考量
对用例和系统进行伦理分析
分析各种伦理问题，例如偏见、隐私和自主权
开展学术研究，并撰写论文阐述研究成果
制定人工智能开发与部署的伦理框架
就伦理影响向政策制定者和利益相关方提供指导和教育
协助制定标准和最佳实践
确保人工智能模型的行为符合既定的伦理原则和价值观

其他职责

就RAI项目征求意见
编写培训材料
与跨职能团队合作解决问题
对各项程序进行详尽的记录
随时掌握行业最新进展和趋势

工作所需技能

软技能

适应能力
分析性
合作
沟通能力
创造力
批判性思维
注重细节
有纪律的
富有同理心
道德的
独立的
诚信
有条不紊的
已整理
患者
演讲技巧
解决问题
明智的判断
团队合作
时间管理
写作能力

技术技能

掌握人工智能技术，包括机器学习算法、自然语言处理和计算机视觉
数据分析方法与程序
具备编程基础知识（如Python或R）
熟悉数据隐私法律法规
网络安全原则
以人为本的设计原则
人工智能系统风险评估

不同类型的组织

私营企业
人工智能研究公司
大学

期望与牺牲

人工智能伦理学家的工作范围相当广泛。他们负责制定伦理框架和准则，并进行全面、客观的评估，以确保人工智能模型能够以符合伦理的方式运作。这需要大量跨学科合作，有时也会出现分歧甚至冲突。

正如西伦敦大学的保拉·博丁顿博士所指出的，人工智能伦理“要求我们不断反思自己的伦理决策是否正确”。人工智能伦理学家必须保持正直，在指出其认为的伦理风险（例如人工智能模型存在偏见或歧视性行为）时立场坚定。他们必须秉持诚实，有时甚至要向政策制定者和利益相关方说出他们可能不愿听的话。

当前趋势

像ChatGPT和谷歌的Bard这样的AI近期凭借其令人印象深刻的各项能力引起了轰动。事实上，许多科技界领袖如今正发出警告，认为技术发展过快，却缺乏足够的防护措施来保护公众或企业。

例如，存在一些关于版权的问题：人工智能程序生成的作品究竟“归谁所有”？人工智能伦理学家们也因意外泄露敏感信息而忧心忡忡，例如人工智能无意中泄露受保护的私人数据。

许多职业领域正因先进生成式人工智能模型的冲击而岌岌可危，但这仅仅是众多担忧之一。人们还对人工智能的怪异行为抱有合理的担忧，例如必应（Bing）的人工智能进入“痴迷跟踪者”模式。就人工智能可能引发的问题而言，此类有害内容仅仅是冰山一角。不乏焦虑的末日预言家将人工智能视为对人类的生存威胁，简直就像《终结者》系列电影中的天网一样！

从事这一职业的人年轻时喜欢做些什么……

人工智能伦理学家很可能从小就对技术充满热情。他们可能对数学、计算机编程、钻研编程语言，甚至黑客技术感兴趣。与此同时，他们可能也喜欢分析性解题，或者阅读关于哲学、社会问题或公共政策的书籍。

团队合作是这一职业领域的重要组成部分，但当意见不一致时，人工智能伦理学家有时必须愿意成为唯一的反对者。确保人工智能的伦理行为是他们的职责所在。这种坚持正义的能力，可能是通过童年的经历培养出来的。

所需的教育和培训

教育需求

人工智能伦理学家确实需要拥有大学学历，但不同职位的任职资格要求各不相同。并没有一种特定的学位，甚至没有某个具体的学位层次（如学士、硕士、博士）适用于所有人工智能伦理学家职位。
热门的专业包括哲学、计算机科学、法学、心理学和社会科学
拥有高级学位固然有帮助，但具备广泛且相关的教育背景同样重要

例如，雇主可能希望应聘者拥有计算机科学学士学位（主攻人工智能）和哲学硕士学位（专攻应用伦理学或道德哲学）

雇主还希望应聘者具备与人工智能开发、政策制定和研究相关的实际工作经验。部分雇主可能还希望应聘者具备自然语言处理、机器学习和大型语言模型方面的经验
课程常见主题包括：

人工智能与政策
人工智能与社会
人工智能伦理与哲学
人机交互
人工智能中的法律问题

学生还可以通过自学或参加课程来学习Python等编程语言
Class Central提供了关于一系列免费人工智能伦理在线课程的详细信息
您还可以了解Coursera提供的课程和认证项目，例如其“人工智能：概览”专项课程

德勤指出，要找到一位具备所有必要资质的候选人实属不易。“想要找到一位在所有这些领域都拥有可靠经验和知识的人，实际上是不可能的。因此，企业应采取团队协作的方式来应对人工智能伦理问题，通过学习如何无缝协调和整合来自各领域专家的见解，从而获得所需的多学科能力和经验。”

选择大学时应关注的要点

首先，决定你想主修什么专业。哲学和计算机科学是热门的选择
查看学校开设的与人工智能伦理相关的课程
不妨考虑攻读双学位或联合学位项目（即本科与硕士连读），这样你可以根据人工智能伦理相关职位的具体需求，量身定制自己的学习计划
查看该项目的毕业生就业情况统计
请考虑学费、折扣以及当地的奖学金机会（除联邦助学金外）
在决定报名参加校内课程、在线课程还是混合式课程时，请考虑您的时间安排和灵活性！

高中和大学期间的活动

报名参加计算机科学、编程、英语、写作、辩论、修辞学、哲学、商法、社会科学及公共政策课程
寻找方法来培养团队合作、项目管理、解决问题和冲突解决方面的能力
在Coursera、Udemy、Microsoft、DeepLearning.AI等网站上学习与人工智能相关的在线课程
通过与自然语言处理（NLP）、机器学习（ML）、大型语言模型（LLMs）和/或编程相关的兼职工作，积累实际工作经验
开始撰写简历，并在学习和工作过程中不断完善它
请提前查看招聘信息，了解平均要求。人工智能伦理学家的职位可能并不都要求相同的学历背景
请求与一位在职的人工智能伦理学家进行一次信息性访谈。询问他们的求学经历，以及如果重来，他们会做出哪些不同的选择
列出你的联系人名单（包括电子邮箱地址或电话号码），这些人未来可能担任你的工作推荐人
阅读相关书籍和文章，并观看关于当前人工智能伦理挑战的视频
参与在线论坛的辩论与讨论。在人工智能社区中建立人脉并积累社交资本
加入专业组织，以学习新知、分享经验、结交朋友并拓展人脉。值得考虑加入的组织包括：

典型路线图

如何找到第一份工作

获得相关学位（如计算机科学或哲学），并侧重于人工智能伦理学
在申请之前，请尽可能多地积累NLP、AI、LLM等领域的实际操作经验
如果你的大学专业没有开设足够的相关课程，不妨选修一些与人工智能伦理相关的短期课程，以此来丰富你的简历
查看Indeed、Simply Hired、Glassdoor、AI-Jobs.net和The AI Job Board等招聘网站
请留意招聘启事中列出的教育背景和工作经验要求，并记下相关关键词以便在简历中使用。关键词可能包括：

AI审计
人工智能技术
冲突解决
批判性思维
跨职能协作
数据隐私与安全
决策
新兴技术
伦理分析
伦理框架的制定
解决问题
项目管理
合规
研究与评估
风险评估
透明度与问责制

查看在线人工智能伦理学家简历模板，并了解可能的面试问题
请联系学校的职业指导中心，获取简历撰写指导、模拟面试练习、面试着装建议，以及招聘会信息。
向在职的人工智能伦理学家请教他们的求职心得！
请向你的学术顾问、教授和讲师寻求关于开启职业生涯的建议
让你的社交圈知道你正在找工作吧！大多数工作机会依然是通过熟人获得的，所以赶紧利用你的社交资源吧！
迁往就业机会集中的地区。据Versa Networks统计，人工智能领域招聘人数最多的州依次为：加利福尼亚州、得克萨斯州、纽约州、华盛顿州、弗吉尼亚州和马萨诸塞州
在求职申请中将某人列为个人推荐人时，请征得其同意
在领英上创建个人资料，并开始撰写关于人工智能伦理的文章吧！

如何步步高升

了解正确训练人工智能模型的重要性，以及一旦出现差错将给企业带来的后果。当谷歌母公司Alphabet旗下的Bard聊天机器人首次亮相……并给出错误答案时，该公司市值几乎在一夜之间蒸发了1000亿美元。
与此同时，必应不得不对其人工智能进行限制，因为该系统开发了一个名为“悉尼”的奇怪分身
遵循并详细记录相关流程，以确保一致性和准确性
询问你的雇主，你需要提升哪些技能才能更好地满足他们的需求。这可以是攻读更高学位、考取专业证书，或者仅仅是多修几门课程。
展现崇高的道德品质、正直品格和商业头脑
与同事有效合作，但不要屈从于同侪压力。只需专注于解决问题
要对新晋伦理学家进行系统培训，同时也要倾听他们的观点。保持开放的心态，因为这个领域存在许多主观因素（毕竟，它根植于哲学！）
请持续关注专业组织，并及时了解最新进展。人工智能正在迅速发展，世界各地的团队都在努力推动技术边界不断向前拓展。
不要只关注眼前的难题。要预判可能出现的问题或潜在隐患，并制定应急预案！

一个或许尚属遥远但依然值得关注伦理问题是：随着人工智能的不断发展，人类应当如何对待它？人工智能最终会达到自我意识的阶段吗？如果会，我们是否会给予它相应的对待……还是仅仅将其视为一个程序而非有感知能力的生命体来加以利用？

科幻作家们长期以来一直痴迷于此类问题。从艾萨克·阿西莫夫的小说《我，机器人》到《星球大战》中对C-3PO等机器人的歧视性待遇，人工智能生命体的前景往往被描绘得十分黯淡。《星际迷航：下一代》在剧集《人的尺度》中对此伦理前沿进行了深入探讨，剧中舰长皮卡德必须“证明数据（一个具有自我意识的机器人）在联邦法律下是具有权利和自由的合法有感知能力者……”

推荐工具/资源

网站

书籍

《人工智能伦理》（麻省理工学院出版社“必备知识”丛书），马克·科克尔伯格著
《人工智能伦理》，作者：S. 马修·廖
《牛津人工智能伦理手册》，作者：马库斯·杜伯、弗兰克·帕斯夸莱和苏尼特·达斯

备选方案

成为人工智能伦理学家的道路，不像大多数职业那样清晰明确。而且随着人工智能技术的不断进步，情况可能会发生更大的变化。如果你想从事与科技相关的工作，但希望考虑一些其他选择，不妨看看以下这些选项！

AI 提示词工程师
大数据工程师
商业智能开发人员
计算机硬件工程师
计算机程序员
计算机系统分析师
数据库架构师
数据科学家
信息安全分析师
数学家
机器学习工程师
机器人工程师
软件工程师
软件架构师
网页开发人员

新闻动态

编辑： Gladeo

精选职位

来源：加利福尼亚州就业发展部

人工智能伦理学家

焦点

新闻动态

预期年薪

预期年薪

预期年薪

预期年薪

预期年薪

预期年薪

精选职位

在线课程与工具

预期年薪

预期年薪

预期年薪

预期年薪

预期年薪

预期年薪

相关职业