Anthropic警告:距离无人干涉的 “AI员工” ”时代,只剩一年了

Anthropic警告:距离无人干涉的 “AI员工” ”时代,只剩一年了

4月23日 消息:人工智能公司 Anthropic 的首席信息安全官杰森・克林顿(Jason Clinton)就企业运营方式的重大转变发出了警告:到明年,完全自主的 “AI员工” 可能就会开始替代各大企业的人类员工。这些 AI 将不再是简单的工具或助手,而是拥有自己的账户、记忆、且在公司组织中承担专门职责的虚拟员工。

克林顿表示,相较于如今功能单一的 AI 系统,这些即将出现的 AI 主体将会有质的飞跃。虽然,目前的AI工具已经能够处理特定的安全检查、以及一些简单的人物,但下一代 AI 将能在公司的各个系统中独立运行 —— 无需人类监督,就能做出复杂决策,并完成多步骤的工作流程。

“我们说的是虚拟员工,而不只是(普通的)AI 智能体”, 克林顿解释道。这种区别意味着未来的这些 AI 主体将更像是人类同事,而非我们如今所使用的 AI 工具。

这一警告给那些已经在为基础网络安全问题而困扰的企业带来了更加严重的安全隐患。那些在管理人类员工账户和密码方面存在困难的公司,很快将面临更大的挑战 —— 即如何确保拥有网络访问权限的人工智能身份的安全。

安全专家们已开始提出一些棘手的问题:公司应该如何管理人工智能的密码?“AI员工” 应该访问哪些系统?当“AI员工” 犯错或出现意外行为时,该由谁来承担责任?诸如此类。

不过,最令人担忧的或许是,AI 系统存在被入侵的可能性,并且可能会获取对公司关键基础设施(如代码测试和部署平台)的访问权限。根据克林顿的警告,这些风险在很大程度上仍未得到解决。

值得一提的是,Anthropic 公司的规模急剧扩大,从 2021 年的仅 7 名员工发展到 2025 年的 1000 多名员工。该公司承认自己在应对这些挑战方面负有责任 —— 他们表示,针对潜在的攻击,正在对其人工智能模型 Claude 进行全面测试,并积极监测因滥用可能引发的安全问题。

据估计,Anthropic 今年的收入将达到 22 亿美元,这意味着,即使AI领域存在持续的担忧,但仍实现了爆发式增长。

大型 AI 公司的现任和前任员工也表达了对伦理问题的担忧,他们呼吁提高人工智能能力和风险方面的透明度。并警告称,如果没有适当的监督,先进的 AI 系统可能会加剧不平等,并传播错误信息。

文章来源于网络。发布者:贝多财经,转转请注明出处:https://www.bogmc.com/4247.html

(0)
贝多财经的头像贝多财经
上一篇 2025年4月23日 下午12:47
下一篇 2025年4月23日 下午12:53

相关推荐

  • 知名律师分析李铁案二审:维持原判概率大,收监后其标志性长发将被剪去

    4月29日,华商报大风新闻记者从权威人士处获悉,4月30日上午,湖北省高院将在咸宁中院对国足原主教练李铁案二审公开开庭宣判。 有律师认为,李铁案二审是否减刑存在一定可能性,但改判概率较低。 图为李铁在庭上(土/央视新闻) 法院回应 咸宁中院工作人员称李铁案在湖北高院二审 2024年12月13日,咸宁中院以受贿罪、行贿罪、单位行贿罪、非国家工作人员受贿罪、对非…

    2025年4月30日
    2100
  • 最新AI产品从哪获取?海外、国内AI产品推荐榜去哪看?

    嘿,小伙伴们!今天给大家带来一个超有料的AI宝藏网站——AIbase基地(https://www.aibase.com/zh)!如果你对人工智能感兴趣,或者正在寻找AI行业的最新资讯、工具和变现机会,那这个网站绝对值得你收藏! 网站简介 AIbase基地是一个专注于人工智能领域的综合性平台,旨在为用户提供全面的AI资讯、工具、产品和变现指南。它的目标是让更多…

    2025年4月23日
    2100
  • 85万元中标高校防火墙及DNS设备,网购价不到300元?校方:已关注到网友反映

    5月9日,重庆三峡学院发布“防火墙及DNS设备采购中标(成交)结果公告”,1台普联“TL-R473G”的设备中标价85万元。有网友指出,该款设备,网购平台仅售不到300元。 图为中标公告截图 中标公告 高校购买普联TL-R473G中标价85万元 网友称:网购平台1台不到300元 中国政府采购网的《重庆三峡学院防火墙及DNS设备采购(CQS25A00331)中…

    2025年5月12日
    800
  • 上海飞东京航班发出“7500”告警?“飞常准”回应:数据异常导致误报

    5月6日上午,“飞常准”显示CA929航班发出“7500”(劫机危险)告警信息引发关注,多方证实数据异常导致误报,航班飞行正常。 资深民航人士表示,国内或国际航班都配备有二次雷达应答机,4位数编码各有特殊含义。 >>>“飞常准”官网 国航飞日本航班咋发出“7500”告警信息? 5月6日,网上一张“飞常准”官网截图显示,上午10:12从上海浦…

    2025年5月7日
    1200
  • 一年级女生课堂上“走神”,被老师揪伤耳朵缝5针;教育局:涉事者已被停课

    4月22日,福建泉州师范学院第二附属小学一年级一名教师在课堂上因学生“走神”未专注听讲,情绪失控之下揪伤8岁女生耳朵,致使其耳朵撕裂2厘米,缝合5针。 4月24日,女生姑姑苏女士告诉华商报大风新闻记者,家长已选择报案。泉州市丰泽区教育局工作人员向记者证实,目前分管领导已到学校调查处理,涉事教师已被停课处理。 女生被老师揪伤耳朵缝5针 >>>…

    2025年4月25日
    2700

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信