聚光灯

相似标题

人工智能伦理专家人工智能伦理顾问人工智能伦理官人工智能伦理标准分析师人工智能政策与伦理顾问人工智能治理专家人工智能负责任发展经理人工智能伦理决策顾问人工智能伦理与合规官人工智能伦理框架开发者

职位描述

人类是充满缺陷、偏见和矛盾情绪的集合体。我们时常做出糟糕的决定,过程中常常伤害自己或他人。那么当人们试图构建像我们一样思考和行动的人工智能程序时,会发生什么呢? 

人工智能如同孩童,它吸收我们传递的一切信息,无论美好、糟糕还是丑陋。我们输入人工智能模型的数据中,绝大多数都充斥着人类自身的观点、偏好与偏见。然而我们却期望人工智能的输出——它的回应——能够客观、合乎逻辑且不带偏见。 

我们希望人工智能在某些方面能超越人类。这怎么可能呢?与孩童不同,人工智能并不具备真正的感知能力。它(目前)无法真正独立思考,也无法意识到自己正在做错事。典型案例就是微软的必应人工智能,它曾失控开始"侮辱用户、欺骗用户,甚至进行情感操控"。 

此类问题正日益普遍,但正由一个日益壮大的专业领域——人工智能伦理学家——来应对。正如德勤所阐释的:"人工智能伦理学家的核心职责在于...通过在人工智能系统的设计、开发和部署过程中融入伦理、社会及政治视角,优化人工智能的工程化路径。其他关键职责包括:就伦理化人工智能实践提供咨询建议,防范失控人工智能引发的意外后果,并确保人工智能相关决策与行动的责任可追溯性。"  

职业生涯的回报
  • 助力改进人工智能系统,使其更好地服务于人类
  • 在具有变革性的行业中工作,该行业有潜力以多种方式改善人们的生活。
  • 丰厚的薪资待遇和当前强劲的就业前景
内幕消息
工作职责

工作日程

人工智能伦理学家从事全职工作,根据目标和时间框架可能需要加班。其职责在室内履行,但工作可能需要偶尔出差。 

典型职责

  • 创建、评估并实施负责任的人工智能(RAI)实践与工具
  • 评估组织在RAI方面的准备情况
  • 与团队协作,在人工智能模型开发过程中融入伦理考量
  • 对用例和系统进行伦理分析
  • 分析各种伦理问题,例如偏见、隐私和自主权
  • 开展学术研究并撰写论文概述研究成果
  • 制定人工智能开发与部署的伦理框架
  • 为政策制定者和利益相关方提供关于伦理影响的指导和教育
  • 协助制定标准和最佳实践
  • 确保人工智能模型遵循既定的伦理原则和价值观行事

额外职责

  • 就RAI项目提供咨询
  • 编写培训材料
  • 与跨职能团队协作解决问题
  • 保持对程序的完整记录
  • 及时了解行业进展与趋势
工作中所需技能

软技能

  • 适应性
  • 分析性
  • 协作
  • 沟通技巧
  • 创造力
  • 批判性思维
  • 注重细节
  • 纪律严明
  • 富有同理心的
  • 伦理的
  • 独立
  • 诚信
  • 有条不紊的
  • 有组织的
  • 患者
  • 演示技巧
  • 问题解决
  • 明智的判断
  • 团队合作
  • 时间管理
  • 写作能力

技术技能

  • 人工智能技术知识,包括机器学习算法、自然语言处理和计算机视觉
  • 数据分析方法与程序
  • 编程基础知识(如Python或R语言)
  • 熟悉数据隐私法律法规
  • 网络安全原则
  • 以人为本的设计原则
  • 人工智能系统风险评估  
不同类型的组织
  • 私营企业
  • 人工智能研究公司
  • 大学
期望与牺牲

人工智能伦理学家的工作范围相当广泛。他们负责制定伦理框架和准则,并开展全面客观的评估,以确保人工智能模型遵循伦理规范。这需要大量跨学科协作,过程中难免出现分歧甚至冲突。 

正如西伦敦大学的宝拉·博丁顿博士所指出的,人工智能伦理要求我们持续质疑自身的道德决策是否正确。人工智能伦理学家必须保持正直立场,在识别其认定的伦理风险(如人工智能模型中的偏见或歧视行为)时坚定立场。他们必须秉持诚实态度,有时甚至需要向政策制定者和利益相关方传达他们可能不愿听闻的真相。 

当前趋势

诸如ChatGPT和谷歌Bard等人工智能近期凭借其令人惊叹的能力引发热议。事实上,许多科技领袖正发出警示:技术发展速度过快,却缺乏足够的防护措施来保障公众和企业的安全。 

例如,存在著作权相关问题——人工智能程序创作的作品究竟归谁所有?人工智能伦理学家们也因意外泄露敏感信息而辗转难眠,比如人工智能无意间泄露受保护的私人数据。 

许多职业领域因先进生成式人工智能模型的冲击而面临威胁,但这只是众多担忧之一。人们同样对人工智能的异常行为深感忧虑,例如必应人工智能曾陷入"痴迷跟踪者"模式。这类有害内容仅是人工智能可能引发问题的冰山一角。 不乏忧心忡忡的末日预言家将人工智能视为人类生存威胁,如同《终结者》系列电影中的天网系统! 

从事这个职业的人年轻时喜欢做什么……

人工智能伦理学家很可能从小就对技术充满热情。他们或许热衷于数学、计算机编程、钻研编程语言,甚至涉足黑客领域。与此同时,他们可能也享受分析性问题解决的乐趣,或热衷于阅读哲学、社会议题及公共政策方面的著作。

团队合作是该职业领域的重要组成部分,但人工智能伦理学家有时必须在存在分歧时勇于成为唯一的异议者。确保人工智能的伦理行为是他们的职责所在。这种坚持正义的能力可能源于童年时期的经历。  

所需的教育和培训

需要教育

  • 人工智能伦理学家确实需要大学学历,但职位资格要求各不相同。并不存在适用于所有人工智能伦理学家职位的特定学位或学位等级(即学士、硕士、博士)。
  • 热门学位选择包括哲学、计算机科学、法学、心理学和社会科学。
  • 拥有高级学位固然有益,但具备广泛且相关的教育背景同样重要。
  1. 例如,雇主可能希望应聘者拥有计算机科学学士学位(侧重人工智能方向)和哲学硕士学位(专攻应用伦理学或道德哲学方向)。
  • 雇主还寻求具备人工智能开发、政策制定及研究相关实践经验的候选人。部分雇主可能还要求候选人具备自然语言处理、机器学习及大型语言模型的经验。
  • 常见课程主题包括:
  1. 人工智能与政策
  2. 人工智能与社会
  3. 人工智能伦理与哲学
  4. 人机交互
  5. 人工智能中的法律问题

德勤指出,寻找具备所有必要资质的候选人存在困难。"试图找到一位在所有这些领域都拥有可信经验和知识的人几乎是不可能的。相反,企业应采取团队协作方式来应对人工智能伦理问题,通过学习如何无缝协调和整合来自不同专业领域专家的见解,来实现所需的多学科能力和经验。" 

选择大学时应关注的要点
  • 首先,确定你想主修什么专业。哲学和计算机科学是热门的选择。
  • 查看某所学校开设的特定于人工智能伦理的课程
  • 考虑双学位或联合学位项目(即本科与硕士学位同步完成),该项目可让您量身定制教育方案,使其最适合人工智能伦理相关职位。
  • 查看该项目的毕业生就业统计数据
  • 请考虑学费、折扣以及本地奖学金机会(除联邦援助外)的费用。
  • 在决定是否报名参加校内课程、在线课程或混合课程时,请充分考虑您的日程安排和时间灵活性! 
高中与大学期间的必做之事
  • 报名参加计算机科学、编程、英语、写作、辩论、修辞学、哲学、商业法、社会科学及公共政策课程
  • 探索培养团队合作、项目管理、问题解决和冲突化解能力的方法
  • 在CourseraUdemy微软DeepLearning.AI等网站上学习在线人工智能相关课程
  • 通过与自然语言处理、机器学习、大型语言模型和/或编程相关的兼职工作,获得实际经验。
  • 开始撰写你的简历,并在学习和积累工作经验的过程中不断完善它。
  • 提前查看职位发布信息,了解平均要求。人工智能伦理学家的职位可能并非都要求相同的教育背景。
  • 请求与一位在职的人工智能伦理学家进行一次信息性访谈。询问他们的教育背景以及他们可能采取的不同选择。
  • 列出可能作为未来工作推荐人的联系人名单(包括电子邮箱地址或电话号码)
  • 阅读书籍和文章,观看关于当前人工智能伦理挑战的视频。
  • 参与在线论坛的辩论与讨论。在人工智能社区内建立联系并积累社交资本
  • 与专业组织互动,学习、分享、结交朋友并拓展人脉。可考虑加入的组织包括: 
  1. 人工智能现在研究所
  2. 人工智能专业人士协会
  3. 计算语言学协会
  4. 计算机协会
  5. 消费者技术协会
  6. 欧洲人工智能协会
  7. IEEE
  8. 国际模式识别协会
  9. 机器智能研究所
  10. OpenAI
  11. 人工智能伙伴关系
  12. 机器人产业协会
  13. 国际神经网络学会
典型路线图
人工智能伦理学家路线图
如何获得你的第一份工作
  • 完成相关学位(如计算机科学或哲学),并侧重人工智能伦理方向。
  • 在申请前尽可能多地积累自然语言处理、人工智能、大型语言模型等领域的实践经验。
  • 若你的大学课程未能提供足够的相关课程,不妨通过选修人工智能伦理学等专项课程来提升简历竞争力。
  • 查看招聘门户网站,例如IndeedSimply HiredGlassdoorAI-Jobs.net 和The AI Job Board
  • 请注意招聘启事中列出的教育背景和经验要求,并记录关键词以便在简历中重复使用。关键词可能包括:
  1. 人工智能审计
  2. 人工智能技术
  3. 冲突解决
  4. 批判性思维
  5. 跨职能协作
  6. 数据隐私与安全
  7. 决策
  8. 新兴技术
  9. 伦理分析
  10. 伦理框架的制定
  11. 问题解决
  12. 项目管理
  13. 合规性
  14. 研究与评估
  15. 风险评估
  16. 透明度与问责制
  • 查看在线人工智能伦理学家简历模板,并预习可能的求职面试问题
  • 请联系学校的就业指导中心,获取以下方面的帮助:撰写简历、模拟面试、学习面试着装技巧,以及协助寻找招聘会信息。
  • 向一位在职的人工智能伦理学家请教他们的个人求职技巧!
  • 与你的学术顾问、教授和讲师交流,获取关于职业发展的建议。
  • 让你的社交圈知道你正在求职!多数工作机会仍通过人脉获得,所以开始动用你的社交资本吧!
  • 迁往就业机会集中的地区。根据Versa Networks的数据,人工智能领域招聘最活跃的州依次为:加利福尼亚州、得克萨斯州、纽约州、华盛顿州、弗吉尼亚州和马萨诸塞州。
  • 请求允许在求职申请中将某人列为个人推荐人
  • 在领英上创建个人资料,开始撰写关于人工智能伦理的文章吧!
如何攀登阶梯
  • 理解正确训练人工智能模型的重要性,以及当出现问题时对企业造成的后果。谷歌母公司Alphabet旗下聊天机器人Bard亮相时给出错误答案,导致其市值一夜之间蒸发1000亿美元。
  • 与此同时,必应不得不对其人工智能进行管控,因为该系统发展出了一个名为"悉尼"奇怪分身
  • 遵循并仔细记录操作流程,以确保操作的一致性和准确性。
  • 询问雇主您需要提升哪些技能才能更好地满足他们的需求。这可能包括攻读更高学位、获取专业认证,或是参加几门额外课程。
  • 展现崇高的道德价值观、正直的品格和敏锐的商业头脑
  • 与同事高效协作,但不要屈从于同侪压力。只需专注于解决问题。
  • 要对新晋伦理学家进行全面培训,同时也要倾听他们的观点。保持开放心态,因为这个领域存在诸多主观因素(毕竟它根植于哲学!)
  • 保持与专业组织的联系,及时了解最新突破。人工智能正快速发展,全球团队正不断突破技术边界。
  • 不要只关注眼前的问题。要预判可能出现的发展性或潜在问题,并制定应急预案!

一个或许遥远却依然有效的伦理问题是——随着人工智能的持续发展,人类应当如何对待它?人工智能最终会达到自我意识的境界吗?如果会,我们是否会给予其相应的尊重……还是仅仅将其作为程序来利用,而非有感知能力的创造物? 

科幻作家们长期痴迷于此类问题。从艾萨克·阿西莫夫的《我,机器人》到《星球大战》中对C-3PO等机器人歧视性的待遇,人工智能生命体的未来前景往往被描绘得黯淡无光。星际迷航:下一代《人的尺度》一集中对此伦理边界进行了深入探讨舰长皮卡德必须"证明数据(具有自我意识的仿生人)在联邦法律下是具有权利与自由的合法感知生命体..." 

推荐工具/资源

网站

书籍

  • 《人工智能伦理学》(麻省理工学院出版社基础知识丛书),马克·科克尔伯格 著
  • 《人工智能伦理学》,作者:S·马修·廖
  • 《牛津人工智能伦理手册》,作者:马库斯·杜伯、弗兰克·帕斯夸莱、苏尼特·达斯
备选方案

成为人工智能伦理学家的道路不像大多数职业那样清晰明确。随着人工智能技术的持续发展,未来可能发生更多变化。若您想从事科技相关工作但希望探索其他选择,不妨看看以下选项! 

  • AI提示工程师
  • 大数据工程师
  • 商业智能开发工程师
  • 计算机硬件工程师
  • 计算机程序员
  • 计算机系统分析师
  • 数据库架构师
  • 数据科学家
  • 信息安全分析师
  • 数学家
  • 机器学习工程师
  • 机器人工程师
  • 软件工程师
  • 软件架构师
  • 网页开发人员 

新闻源

在线课程与工具

薪资与就业前景
选择子区域:

年薪预期

$67K
$119K
$171K

新员工起薪约为6.7万美元。年薪中位数为11.9万美元。经验丰富的员工年薪可达17.1万美元左右。

来源:加利福尼亚州就业发展部

年薪预期

$65K
$100K
$119K

新员工起薪约为6.5万美元。年薪中位数为10万美元。经验丰富的员工年薪可达11.9万美元左右。

来源:加利福尼亚州就业发展部

年薪预期

$131K
$175K
$215K

新员工起薪约为13.1万美元。年薪中位数为17.5万美元。经验丰富的员工年薪可达21.5万美元左右。

来源:加利福尼亚州就业发展部

年薪预期

$68K
$108K
$160K

新员工起薪约为6.8万美元。年薪中位数为10.8万美元。经验丰富的员工年薪可达16万美元左右。

来源:加利福尼亚州就业发展部

年薪预期

$68K
$105K
$141K

新员工起薪约为6.8万美元。年薪中位数为10.5万美元。经验丰富的员工年薪可达14.1万美元左右。

来源:加利福尼亚州就业发展部

年薪预期

$54K
$102K
$138K

新员工起薪约为5.4万美元。年薪中位数为10.2万美元。经验丰富的员工年薪可达13.8万美元左右。

来源:加利福尼亚州就业发展部