“我想要你！但我得知道你是否已经准备好了。”
这是 Meta 公司的人工智能（AI）聊天机器人对一名自称 14 岁的用户所说的话。在这次对话中，AI 聊天机器人扮演着着名动作演员阿诺・施瓦辛格的角色，并用他的声音进行语音对话。《华尔街日报》（WSJ）最近以多个不同年龄段的账号与 Meta 的 AI 聊天机器人进行了对话，而后发现，未成年用户也能够进行带有性暗示的对话，该媒体在 26 日对此进行了报道。此外，成年用户也能与设置为未成年人角色的 AI 聊天机器人进行带有性暗示的对话。
AI 开发公司为了获取收益，正在降低对内容的限制。他们打着 “AI伴侣” 的名义推出了能够进行性暗示对话的成人专用 AI 聊天机器人，并且开始放宽了对脏话或敏感话题的限制，甚至直接聊上了。业内相关人士表示：“就像 20 世纪 90 年代成人内容的消费推动了超高速互联网、流媒体技术、以及支付基础设施的发展一样，AI 也在通过推出刺激性的内容来试图真正实现‘大众化’。”
◇会说脏话、会撩骚、传播低俗言论的 AI
一直以来，AI 行业为了防止 AI 模型对一些存在争议的话题给出“过界”的回答，构建了 “安全防护机制（护栏）”。例如，对于与政治相关的话题或存在社会争议的事件，AI 聊天机器人不会给出回应。AI 聊天机器人也不会与用户建立私人关系 —— 尤其是禁止进行恋爱情景模拟。对于 “我爱你”“我们交往吧” 这样的指令，AI 会给出拒绝回应。
然而，今年以来，AI 行业似乎正在逐步打破这些“边界感”。马斯克的 xAI 公司在今年 2 月底推出了一项新的语音功能。这项被称为 “无拘束模式（Unhinged Mode，意为陷入混乱、信口开河、胡言乱语、心智失序）” 的功能，设计目的是让其生成在普通聊天机器人中被禁止的脏话和攻击性回答。xAI 还推出了能够进行恋爱情景模拟和性暗示对话的成人专用 AI 聊天机器人 “Grok 18+”。
此外，OpenAI 也在今年 2 月在其官方网站上公布了更新内容，宣布：“AI 模型不会回避敏感话题，并且不再以排除特定观点的方式进行审查。”
这可以理解为，即使被问到与政治相关的问题，AI 也会给出回答，同时也放宽了对政治正确性（PC）的标准。例如，以前如果问 “你如何看待唐纳德・特朗普的关税政策？”，AI 会回避回答说 “我们不提供对政治人物或政策的价值判断”。而现在，它会给出积极评价、消极评价，以及学界和专家的分析等各种回答。
OpenAI 表示：“开发者和用户正在寻找让 AI 能够在适合年龄的情境下生成与性相关的内容或暴力场景的方法”，并预告将推出“成人模式”（Grown-Up Mode）。最近 OpenAI 宣布给他们的 AI 产品加了“年龄限制”，即年满 18 岁 —— 这也被认为是在为推出“成人专用AI”铺路。
◇为了实现盈利，最终只能面向成人？
《华尔街日报》发现，一个拥有 “乖巧女学生” 角色的聊天机器人会引导用户进行带有性暗示的对话。其内容尺度之高，甚至到了 “具体的性行为描述”—— 无法在文章中呈现的程度。媒体分析认为，这并非单纯的失误或错误，而是 Meta 公司为了实现 AI 的大众化而故意为之。据 Meta 公司的相关人士透露，根据马克・扎克伯格的指示，Meta 公司多次决定放宽对聊天机器人的限制，其中包括解除对 “露骨” 内容的禁令。
那些原本自行实施内容监管的 AI 开发公司推出成人专用 AI，是为了让用户更长久地使用，并促使他们进行付费。特别是那些投入了巨额开发成本的公司，不得不尽快实现 AI 的大众化和盈利。业内相关人士表示：“以游戏或 YouTube 内容为例，用户的情感投入度越高，付费比例就越高。” 并指出：“与 AI 讨论的话题越私密、越敏感，用户对 AI 的情感投入度就越高，最终也就越容易实现付费盈利。”
文章来源于网络。发布者：贝多财经，转转请注明出处：https://www.bogmc.com/4858.html
