要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

李开复预言：中国To C大模型将迎来爆发式增长，六大应用场景值得关注

北京讯（记者 肖尧）在近日举办的第六届“北京智源大会”上，创新工场董事长、零一万物CEO李开复博士与清华大学智能产业研究院院长智源学术顾问委员张亚勤围绕《通用人工智能》主题展开对话。李开复表示，在中国，To C大模型的短期发展机会更大，并预测了To C大模型未来六大应用场景。

李开复指出，AI 2.0时代，大模型在To C领域具有广阔的应用前景，主要体现在以下六个方面：

1. **生产力工具：**大模型将成为提升工作效率的强大工具，例如智能写作、智能翻译、代码生成等。

2. **创意内容生成：**大模型将助力创作出更加生动、有趣的内容，例如音乐创作、绘画创作、视频创作等。

3. **个性化推荐：**大模型能够更好地理解用户需求，提供更加精准的个性化推荐，例如商品推荐、资讯推荐、影视推荐等。

4. **虚拟陪伴：**大模型能够提供更加逼真、自然的虚拟陪伴体验，例如虚拟助手、虚拟玩伴、虚拟客服等。

5. **游戏娱乐：**大模型将为游戏娱乐带来更加沉浸式的体验，例如虚拟现实游戏、增强现实游戏、云游戏等。

6. **元宇宙应用：**大模型将成为构建元宇宙的基础设施之一，提供更加逼真、真实的元宇宙体验。

李开复强调，To C大模型的蓬勃发展离不开以下几个关键因素：

• **海量数据：**大模型需要大量数据进行训练，才能不断学习和提升。
• **强大算力：**大模型的训练和运行需要强大的计算能力支持。
• **优秀人才：**大模型的研发和应用需要大量高水平人才。

李开复最后表示，中国拥有丰富的数据资源、强劲的算力基础以及众多优秀人才，在To C大模型领域具有明显的优势。未来，中国To C大模型将会迎来爆发式增长，并推动人工智能产业的快速发展。