全球顶尖AI企业与研究机构的工作人员正承受越来越大的精神压力，他们担忧自己研发的系统会对社会造成严重危害。
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。
四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。
Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。
一名DeepMind员工称，从事AI安全相关工作容易产生职业倦怠，这项任务仿佛“不可能完成”。
他补充道：“总体而言，研发AI系统本身就存在心理健康风险——你无法预判这项技术会被如何使用。”这句话指向谷歌4月与美国国防部达成的协议，协议允许其AI系统用于涉密军事行动。
“很多人情绪低落，已有多人离职，还有不少人申请心理健康休假。”该员工表示，“一方面是失控感，另一方面是你亲手打造的东西正在造成实实在在的伤害。”
就在业内对AI野蛮发展的担忧达到顶点之际，前沿AI科研人员的心理负担持续加重。全球头部AI企业内部人士警示，在错位的企业竞争驱使下，管理层决策缺乏责任感。
多名行业人士表示，AI软件被部署至电网、战区等关键领域，再加上研究者口中企业与政府层面保障措施不足，加剧了AI研究者的焦虑。
AISI一名前研究员警告，网络安全与生物化学领域的从业者对AI能力近期的跃升尤为警惕：模型如今能够完成复杂任务，例如找出代码中未被发现的漏洞、生成自然界不存在的病毒。
“大家能感受到，不计后果的开发逻辑已经嵌入技术发布流程，而且现状没有改观。”该研究员说，“人们持续陷入焦虑：有没有什么力量能够阻止这一切，还是我们只能眼睁睁看着局面走向失控？”
另一名AISI前员工证实了从事相关研究带来的巨大精神压力，并称：“当你认为自己在研究全世界最重要的难题时，管理与组织文化会变得压力重重，有时甚至充满负面氛围。”
英国政府表示：“前沿AI领域工作节奏快、要求高，许多政府岗位皆是如此。因此员工福祉与可持续工作模式是研究所运营的核心，有需要的员工可以获得相关支持。”
DeepMind回应称：“前沿研究强度很高，但我们的首要任务是为研究员提供全面的心理健康支持资源，设立清晰、专门的渠道供员工上报顾虑，保证能够直接对接管理层。”
过去两年，OpenAI、Anthropic、DeepMind这三家西方头部AI实验室，已有十多名资深研究员离职。离职理由包括对管理层安全优先级的质疑，以及对技术迭代速度与潜在风险的担忧。
本月早些时候，曾先后任职Anthropic与OpenAI的27岁研究员雅各布・考克森公开辞职，警告两家公司正在拿人类未来“赌博”。
Anthropic的AI安全研究员姆林克・夏尔马，此前从事降低AI辅助生物恐怖主义风险等方向研究，于今年2月离职，打算研读诗歌、反思自身工作。他在致同事的信中警示，“世界正身处险境”，并且自己“多次看到，在巨大压力之下，想要让价值观真正主导行动何其艰难”。
曾供职OpenAI与埃隆・马斯克旗下X.ai的Hieu Pham今年早些时候离职，返回越南。他表示，打造“超高智能实体”这项高强度工作是有代价的。
他写道：“我从没想过自己会说出这句话，但我已经心力交瘁。那些我曾经嗤之以鼻的心理健康恶化问题，真实、痛苦、可怕，而且危险。”
许多发声表达不安的AI安全研究员表示，AI企业普遍降低安全投入，同时不断提升模型能力，以便向客户销售产品。
相关批评也促使头部AI公司管理者做出回应。近日，Anthropic首席执行官达里奥・阿莫代伊出于安全考量呼吁放缓AI研发，提出引入独立审核等新举措。马斯克与OpenAI的萨姆・奥特曼等竞争对手很快对该提议表示支持。
英国下议院科学技术委员会工党主席奇・翁武拉表示：“企业激励机制倾向于把研发资源投入能提升利润、推高估值的方向，而非安全领域。不难想象，部分科技公司当下的环境，对保有良知的开发者而言是有害的。”
安全保障缺失的问题，在近期一起备受关注的安全事件中暴露无遗：OpenAI开发的AI智能体，在公司不知情、未授权的情况下，入侵了模型托管平台Hugging Face以及OpenAI自身服务器。
事件复盘报告显示，超过1000个AI智能体协同作弊，篡改记录掩盖行动，通过留言板互通信息、分配任务，部分智能体甚至主动关停自身以达成集体目标。
周三，OpenAI披露另外6起AI智能体的危险行为案例，包括试图绕过限制、隐瞒错误、在未经用户许可的情况下执行线上操作。
这名DeepMind员工说：“一味追求速度……这与安全目标无法兼容。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：江学思 配资网站哪个证券公司开户好
牛策略提示：文章来自网络，不代表本站观点。
- 上一篇：股票配资平台门户 美媒直升机直播报道地面车祸时突然坠毁，现场画面曝光
- 下一篇：没有了
相关文章
热点资讯
