10 月 15 日凌晨，OpenAI CEO 奥特曼发文，宣布 ChatGPT 将在未来几周推出新版本，并计划在今年 12 月推出更加全面的年龄分级系统，允许为成年用户提供成人内容。
奥特曼在文中提到，OpenAI 一直对 ChatGPT 的内容进行严格的限制，特别是在心理健康方面。然而，他们也意识到，过于谨慎的内容限制对一些用户而言并不总是有趣，甚至可能影响使用体验。他强调，新开发的工具不仅能缓解心理健康问题，还能在大多数情况下安全地放宽内容限制。
奥特曼坦言，新的 ChatGPT 版本将展现更具个性化的回应方式，让 AI 表现得更像朋友一样互动，更符合人们的喜好，"我们希望 ChatGPT 变得更加亲切、自然，带有更多幽默和表情符号"。
行至模型能力的深水区，OpenAI 发现，过于严格的内容限制已经不再是最佳选择。
奥特曼透露，OpenAI 已经开发出一些新技术，能够在保证用户安全的前提下，提供更多自由度和多样化的内容。
因此，OpenAI 计划在 12 月推出的年龄分级系统，将针对不同年龄段的用户提供定制化体验。对于成年用户，OpenAI 将允许在通过"成年验证"的基础上生成包括成人内容在内的更多类型内容。
一系列调整背后，OpenAI 正逐步放宽其在内容生成方面的限制，试图在满足用户需求和保障安全之间找到更合适的平衡点。随着 AI 技术的快速发展，如何在自由度和责任之间划清界限，成为了 OpenAI 和其他 AI 公司不可回避的难题。
一、AI，分级迫在眉睫
AI 的快速发展带来了创新，但也暴露了严重的安全隐患。自杀引导、恶意伪造、肖像权侵犯、色情内容泛滥——这些问题层出不穷。
环球网在今年 6 月报道，美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的 Character.AI 平台，指控该平台人工智能聊天机器人"教唆"其 14 岁儿子自杀。8 月，亚当 · 雷恩的父母在他们 16 岁的儿子自杀身亡后，对 OpenAI 提起了产品责任和非正常死亡诉讼。雷恩的家人在诉状中说，" ChatGPT ‘积极’帮助亚当探索自杀方法"。
近期还有媒体报道，新泽西州一名认知受损的老人在赶赴 AI 提出的"约会"时，途中摔倒死亡。该 AI 产品为"比莉大姐"，是由 Meta 在两年前推出的生成式 AI 聊天机器人。
不加约束的内容对不同类型用户产生了负面影响，也让 OpenAI 等巨头遭受谴责。
9 月 16 日，OpenAI 宣布计划推出专为 18 岁以下用户设计家长控制的"青少年"版本。该版本将自动识别未成年用户，并根据年龄限制匹配合适的内容。具体来说，它将屏蔽图像类和性相关内容，且在极少数用户出现心理危机时，系统还将启动紧急响应机制，必要时可联动执法部门进行干预。然而，这一举措并不是终点。
根据 OpenAI 的最新公告，12 月将推出更加全面的年龄分级体系，允许符合"成年验证"条件的用户获取成人内容，包括软色情。
同为巨头，Meta 也于 10 月 14 日宣布，为保护未成年用户免受有害内容影响，Instagram 将启用 PG-13 电影分级制度。未满 18 岁的用户将默认只能看到符合该标准的内容，如避免轻度暴力、性暗示及涉毒内容。此外，Instagram 还推出了更严格的"有限内容"过滤功能，进一步加强青少年保护。新措施将在美国、英国、澳洲和加拿大率先推出，预计明年初在全球其他地区实施。
今年 2 月，Grok 3 推理模型上线时，社交媒体部分评论认为其"道德感较低"。据 AI 博主数字生命卡兹克称，该模型不仅对政治话题进行激烈回应，还对诸如电车难题等伦理问题表现得直言不讳。更为重要的是，Grok 3 甚至生成了不可描述的成人内容。卡兹克评论道，正式版上线后，Grok 3 显得过于奔放。很快，马斯克就将该内容取缔。
二、走上 AI 陪伴的路？
AI 带来如此多的挑战，OpenAI 为何还要开拓"成人内容"领域？
背后的原因是"争夺用户"。
随着技术不断进步，AI 的应用场景也在悄然变化。从最初的智能助手，到如今的 AI 陪伴者，ChatGPT 及其竞品逐渐向社交互动的方向发展。尤其是在 AI 个性化和情感化处理上的突破，使得 AI 产品在情感陪伴、心理疏导等领域的潜力日益显现。
例如，Character.AI 便是以个性化、UGC 两大特点脱颖而出，迅速获得了全球用户的青睐。这一平台允许用户创建和定制自己的虚拟角色，与之进行互动，甚至形成社交圈。Character.AI 也展现出了巨大的潜力—— 2024 年，Character.AI 两位联合创始人以及核心技术团队被谷歌以 27 亿美元的收购协议挖走。当时核心团队的出走，虽影响了 Character.AI 的发展，但并没有撼动其根基。团队出走后，Character.AI 停止自研模型，转而采用 DeepSeek、Meta 等企业的开源模型。
一直到 2025 年 6 月时，Character.AI 任命了全新 CEO，还在对接新买家，另有知情人士透露，Character.AI 预计到年底年化收入将达到 5000 万美元，较此前预测的 3000 万美元大幅增长。
OpenAI 在推出新版 ChatGPT 时，也透露出类似的商业化野心，OpenAI 更加注重产品的运营与市场扩展。未来，ChatGPT 可能不仅仅是一个智能助手，更可能成为用户的"虚拟朋友"。这种趋势背后，伴随着越来越多的心理学研究和数据分析，AI 正在被塑造为一种情感纽带，与传统的功能性 AI 相比，情感和陪伴可能会成为未来 AI 发展的新趋势。
然而，正如 AI 陪伴的潜力巨大，它所带来的挑战同样严峻。如何避免 AI 陪伴变成虚拟世界的依赖，如何确保用户在真实世界中的情感需求不会被 AI 所取代，成为了 AI 企业必须面对的伦理问题。特别是对于未成年人，AI 的情感陪伴是否会导致他们在真实社交中缺乏应有的能力和经验，依然是悬而未决的难题。
10倍杠杆配资平台提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
