Anthropic警告:距离无人干涉的 “AI员工” ”时代,只剩一年了

Anthropic警告:距离无人干涉的 “AI员工” ”时代,只剩一年了

4月23日 消息:人工智能公司 Anthropic 的首席信息安全官杰森・克林顿(Jason Clinton)就企业运营方式的重大转变发出了警告:到明年,完全自主的 “AI员工” 可能就会开始替代各大企业的人类员工。这些 AI 将不再是简单的工具或助手,而是拥有自己的账户、记忆、且在公司组织中承担专门职责的虚拟员工。

克林顿表示,相较于如今功能单一的 AI 系统,这些即将出现的 AI 主体将会有质的飞跃。虽然,目前的AI工具已经能够处理特定的安全检查、以及一些简单的人物,但下一代 AI 将能在公司的各个系统中独立运行 —— 无需人类监督,就能做出复杂决策,并完成多步骤的工作流程。

“我们说的是虚拟员工,而不只是(普通的)AI 智能体”, 克林顿解释道。这种区别意味着未来的这些 AI 主体将更像是人类同事,而非我们如今所使用的 AI 工具。

这一警告给那些已经在为基础网络安全问题而困扰的企业带来了更加严重的安全隐患。那些在管理人类员工账户和密码方面存在困难的公司,很快将面临更大的挑战 —— 即如何确保拥有网络访问权限的人工智能身份的安全。

安全专家们已开始提出一些棘手的问题:公司应该如何管理人工智能的密码?“AI员工” 应该访问哪些系统?当“AI员工” 犯错或出现意外行为时,该由谁来承担责任?诸如此类。

不过,最令人担忧的或许是,AI 系统存在被入侵的可能性,并且可能会获取对公司关键基础设施(如代码测试和部署平台)的访问权限。根据克林顿的警告,这些风险在很大程度上仍未得到解决。

值得一提的是,Anthropic 公司的规模急剧扩大,从 2021 年的仅 7 名员工发展到 2025 年的 1000 多名员工。该公司承认自己在应对这些挑战方面负有责任 —— 他们表示,针对潜在的攻击,正在对其人工智能模型 Claude 进行全面测试,并积极监测因滥用可能引发的安全问题。

据估计,Anthropic 今年的收入将达到 22 亿美元,这意味着,即使AI领域存在持续的担忧,但仍实现了爆发式增长。

大型 AI 公司的现任和前任员工也表达了对伦理问题的担忧,他们呼吁提高人工智能能力和风险方面的透明度。并警告称,如果没有适当的监督,先进的 AI 系统可能会加剧不平等,并传播错误信息。

文章来源于网络。发布者:贝多财经,转转请注明出处:https://www.bogmc.com/4247.html

(0)
贝多财经的头像贝多财经
上一篇 2025年4月23日 下午12:47
下一篇 2025年4月23日 下午12:53

相关推荐

  • 微软和 a16z 化敌为友,联手反对“AI监管”政策

    近日,一群科技巨头和风险投资家联合发表声明,反对加州参议员斯科特·维纳提出的 SB1047法案。该法案旨在加强人工智能的监管,引发了科技行业的强烈反对。 Andreessen Horowitz 的创始合伙人马克·安德森 (Marc Andreessen) 和本·霍洛维茨 (Ben Horowitz) 与微软 CEO 萨蒂亚·纳德拉 (Satya Nadell…

    2025年5月1日
    700
  • 深夜半挂车推着小轿车撞进银行大厅,目击者:银行紧挨十字路口,存安全隐患

    4月22日深夜,山东省菏泽市东明县沙窝镇106国道边,一辆半挂车与小轿车发生碰撞,轿车被撞入路边银行大厅。 4月24日,东明县农商行工作人员回应华商报大风新闻记者称,员工没有受伤,正常营业不影响,交警部门已介入调查。 >>>深夜目击 “十字路口,半挂车推着小轿车撞进银行大厅” 4月24日,一位目击者告诉记者,事发东明县沙窝镇106国道十字路…

    2025年4月25日
    1600
  • 郭明錤:iPhone17有望全系配12GB内存!但,有个前提……

    据苹果供应链分析师郭明錤透露,传闻中的超薄“iPhone 17 Air”将与其他 iPhone 17 系列产品一样,配备 12GB 的运行内存。 近来,关于 iPhone 17 Air 的传闻、爆料层出不穷,这款产品的推出也意味着苹果准备彻底改变其产品线,该款手机采用超薄设计,厚度仅为5.5 毫米,并配备12GB RAM ,与 iPhone 17 Pro 机…

    2025年4月26日
    1600
  • 2025年,苹果还将发布 15 款新品,这是清单列表!

    2025 年迄今为止,苹果已经发布了五款新产品,不过她们还为用户准备了更多惊喜。据 9to5mac 报道,除了 iOS 19 重新设计等重大软件更新外,预计年底前,苹果还将推出 15 款以上的 Apple 新产品。 以下是即将发布的所有新品清单: iPhone17 系列 经过多年的迭代更新,今年的 iPhone 17 系列预计将引发更多关注。Plus 机型已…

    2025年4月25日
    1300
  • 苹果确认:只有iPhone生产“印度化”,MacBook、iPad暂无计划!

    苹果公司澄清称,印度作为“iPhone 全球制造中心”的重要性确实在日益提升,但目前没有在印度生产 MacBook 笔记本电脑或 iPad 平板电脑的计划。这一决定令印度政府失望不已 —— 一直以来,印度政府都十分积极地试图吸引大型科技公司将生产版图扩展到智能手机以外的领域。而这也表明了将高价值的电子产品制造转移到新地区的复杂性和挑战。 重点仍放在 iPho…

    2025年4月28日
    1300

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信