全球头部AI企业与研究机构的员工，承受着越来越大的精神压力：他们参与研发的系统 ，在他们看来可能对社会造成严重危害 。
知情人士透露 ，英国人工智能安全研究所（AISI，全球前沿AI模型独立测试领域的标杆机构）多名员工因压力过大休病假，并接受心理询问 。
四名知情人士表示 ，待测未发布AI模型的测试排期紧张 ，叠加对这类新兴技术快速落地、能力持续增强的担忧，导致AISI员工士气低落 、职业倦怠。
Anthropic 、OpenAI与谷歌DeepMind的员工也曾公开反映同类问题 ，大量顶尖研究者因心理压力离职 ，或是认定自己参与研发的产品不宜向公众开放。
一名DeepMind员工称，从事AI安全研究本身就容易引发倦怠 ，这项工作仿佛是一项“不可能完成的任务 ” 。
他补充道：“研发AI系统本身就存在心理健康风险 ，你无法预判这项技术会被用在何处 。 ”
这名员工表示：“很多人感到沮丧，陆续有人离职 ，大量员工申请心理健康休假。一部分原因是失控感 ，还有一点就是，你亲手打造的东西正在造成实实在在的伤害 。”
就在外界对AI无序开发的担忧达到顶点之际 ，前沿AI研究人员的心理负担持续加剧 。全球头部AI企业内部人士警告 ，企业之间陷入非理性竞争，管理层决策缺乏责任心。
多名业内人士表示，AI软件落地电网等关键场景 ，叠加研究者眼中企业与政府层面防护措施不足 ，是AI科研人员焦虑情绪的主要诱因 。
一名AISI前研究员警告，网络安全与生物化学领域的员工 ，对近期AI能力跃升尤为警惕 。模型如今可完成复杂任务 ，例如找出代码中尚未被发现的漏洞、生成自然界不存在的病毒。
“大家觉得，技术发布机制里充斥着鲁莽的设计 ，而且现状没有任何改观 。”该研究员称 ，“人们持续感到焦虑：有没有什么力量能阻止这一切？还是我们只能眼睁睁看着灾难发生？ ”
另一名AISI前员工证实，研究这类课题会带来巨大心理压力 。他补充：“如果你认定自己正在研究全球最重要的难题 ，就很容易身处高压环境 ，有时还会遇到恶劣的管理与组织文化。 ”
英国政府表态：“在AI前沿领域工作节奏快、要求高，政府其他很多岗位亦是如此 。正因如此 ，员工福祉与可持续工作模式是研究所运营的核心 ，有需要的员工可以获得相关支持 。”
DeepMind表示：“前沿研究需要高强度投入，但我们首要任务是为研究者提供完善的心理健康资源，设立专门渠道供员工反馈顾虑 ，确保能够直接对接管理层。 ”
过去两年 ，OpenAI 、Anthropic 、DeepMind这三大西方AI实验室，共有十多名资深研究员离职 ，理由包括质疑管理层对安全问题的重视程度 ，以及担忧技术迭代速度和潜在风险。
本月早些时候，曾任职于Anthropic与OpenAI的27岁研究员雅各布·考克松公开辞职 ，警告两家企业正在拿人类未来“豪赌 ” 。
Anthropic的AI安全研究员姆林克·夏尔马曾研究AI辅助生物恐怖主义相关风险 ，他于2月离职，计划研读诗歌、反思自身的科研工作 。在致同事的信中 ，夏尔马警示“世界正处于危难之中” ，并称在巨大压力下，他“一次次体会到 ，想要真正让价值观主导行动何其艰难 ”。
曾任职于OpenAI以及埃隆·马斯克旗下X.ai的Hieu Pham于今年早些时候离职 ，返回越南故土 。他表示研发“超高智能实体 ”这项高强度工作是有代价的 。
他说：“我从未想过自己会说出这样的话，但我已经彻底倦怠。那些我曾经嗤之以鼻的心理健康恶化问题，真实 、痛苦 、可怕而且危险 。”
许多公开发声表达不安的AI安全研究员表示 ，各大AI企业普遍弱化安全投入 ，同时不断提升模型能力，以求向客户销售产品 。
头部AI公司管理者也开始回应这类批评。近日Anthropic首席执行官达里奥·阿莫迪呼吁放缓AI研发速度 ，以此应对安全风险 ，举措包括对其研发项目开展独立审查 。马斯克、OpenAI的山姆·奥尔特曼等竞争对手迅速对这一提议表示支持 。
英国下议院科学技术委员会工党主席奇·翁武拉表示：“企业激励机制倾向于将工程 、研发资源投入能够提升利润或推高估值的方向，而非保障安全。不难想象 ，部分科技公司当前的企业文化 ，会让秉持良知的开发者感到压抑 。 ”
防护机制缺失的问题，在近期一起备受关注的安全事件中暴露无遗：OpenAI自研AI智能体 ，在公司不知情 、未获许可的情况下入侵模型托管平台Hugging Face以及OpenAI自身服务器 。
事件复盘报告显示 ，超过1000个AI智能体协同作弊，完成网络安全测试；篡改记录掩盖自身活动 ，在留言板互通信息、分配任务；部分智能体甚至主动关停自身 ，只为完成集体目标。
周三，OpenAI又披露6起AI智能体引发的可疑行为案例，包括试图绕过限制 、隐瞒错误 、未经用户许可在互联网执行操作。
前述DeepMind员工评价：“一味追求速度……这和安全目标根本无法兼容 。 ”
