要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

原创标题：AI生成图片引发版权争议：360被指“盗图”，周鸿祎被索赔1元

北京，2024年6月18日 - 近日，国内互联网安全公司360在新品发布会上展示的AI图片生成功能，引发了关于AI生成图片版权归属的巨大争议。一位名为“DynamicWang”的创作者指控360侵犯其版权，并向周鸿祎本人索赔1元。

事件起因于6月6日举行的360AI新品发布会暨开发者沟通会上。会上，360展示了其全新360AI搜索及360AI浏览器，其中一项功能可以对图片进行局部重绘。在演示过程中，360工作人员选取了两张女性图片，并输入了“性感”指令，生成了一张新的图片。

DynamicWang称，360所展示的图片，是其通过训练、调试的AI绘图模型生成的原图，经过重绘后生成的。他表示，自己并未授权360使用该图片，且360的行为构成侵权。

6月13日，DynamicWang在微博上发布了维权声明，并表示已向法院提起诉讼，要求360停止侵权并赔偿损失。他还表示，之所以只索赔1元，是为了维护自身权益，并推动AI版权问题的解决。

360方面则回应称，DynamicWang所指控的侵权行为并不成立。360表示，其AI图片生成功能是基于大量公开图片训练而成，并使用了原创的算法进行加工，不构成侵权。

这一事件引发了业界对AI生成图片版权归属的广泛讨论。一些专家认为，AI生成图片的版权应归属于AI开发者，但也有人认为，版权应归属于提供原始素材的用户。

目前，该事件仍在进一步发酵中。有法律人士表示，此案的判决结果将对AI生成图片的版权问题产生重大影响。

以下是对事件的几点扩充：

• DynamicWang是一位AI艺术创作者，他创作的图片曾在多个平台上展出和售卖。
• 360的AI图片生成功能仍在测试阶段，尚未正式上线。
• 一些网友认为，360应该为AI生成图片的版权问题制定更清晰的规则。

以下是该事件的几点启示：

• AI技术的发展，对传统版权概念提出了新的挑战。
• 在使用AI技术进行创作时，应注意版权问题。
• 有关部门应尽快完善相关法律法规，规范AI技术的应用。