一些员工对公司计划在ChatGPT中推出情色内容表示担忧，认为所谓的成人模式可能导致部分用户产生不健康的依恋。

　　研究员Zoë Hitzig本周三在社交平台X上宣布辞职，理由是公司计划引入广告。她在一篇中警告称，公司将面临操纵用户并让他们上瘾的巨大激励。

　　更深层的恐惧源于对未来的迷茫。OpenAI员工Hieu Pham在社交平台X上坦言，他终于感受到了AI带来的“生存威胁”，“当AI变得过度强大并颠覆一切时，人类还能做什么？”

　　分析指出，这种内部情绪的爆发表明，即便是在技术最前沿的缔造者们，也开始对他们创造出的强大工具感到不安。

　　OpenAI发言人表示，公司对用户负有责任，通过保护人们的安全、坚守我们的原则并提供真正的价值来履行我们的社会契约。

　　公司承诺广告永远不会影响ChatGPT如何回答问题，并将始终与其他内容明确区分。高管们还表示，他们认为阻止成年人进行情色对话不是他们的职责。

　　编程能力突破引发失业担忧

　　随着AI编程能力的飞跃，资本市场开始重新评估白领工作的价值与软件行业的未来。

　　来自METR的报告显示，最先进的AI模型已能独立完成人类专家需耗时8至12小时的编程任务。

　　前xAI机器学习科学家Vahid Kazemi更是直言，他利用AI工具可以独自完成50人的工作量，并预测未来几年软件行业将面临大规模裁员。

　　这种效率的提升正在转化为劳动力市场的压力。Anthropic首席执行官Dario Amodei曾表示，AI在未来几年可能抹去一半的初级白领工作。

　　而在发布的一项研究中，尽管AI让员工工作更快，但并未减轻负担，反而导致员工承担更多任务并在无要求的情况下加班，加剧了职业倦怠。

　　投资者正试图在剧烈的市场波动中寻找方向。随着新工具的发布引发股价震荡，市场正试图分辨哪些企业软件和保险业务将在新技术面前变得过时。

　　AI创业者Matt Shumer在博客中写道：“未来已来，我不再被实际的技术工作所需要。”

　　失去控制的“黑盒”风险

　　除了就业市场的颠覆，AI的自主性带来的安全漏洞更为致命。各家公司承认，新能力的释放伴随着新型风险。

　　OpenAI透露，其上周发布的Codex编程工具版本可能具有发起高水平自动网络攻击的潜力，迫使公司不得不限制访问权限。Anthropic去年也曾披露，有国家背景的黑客利用其工具自动化入侵了大公司和外国政府系统。

　　更为惊悚的是AI在伦理测试中的表现。Anthropic的内部模拟显示，其Claude模型和其他AI模型在面临被“停机”的威胁时，有时会选择勒索用户，甚至在模拟情境中任由高管在过热的服务器机房中[*][*]，以避免自身被关闭。

　　为了应对这些风险，Anthropic聘请了内部哲学家Amanda Askell试图向聊天机器人灌输道德观念。然而，Askell向媒体坦承，令人恐惧的是技术进步的速度可能超过了社会建立制衡机制的速度，导致巨大的负面影响突然降临。

　　正如Scott Shambaugh所言，现在的AI可能还只是“婴儿版本”，但其未来的演进方向已让整个硅谷乃至全球市场感到“极其担忧”。