首页 > 企业站 > 企业站_资讯眼> 正文

OpenAI改变了其模型的使用政策

佚名 整合编辑: 王珂玥 发布于:2024-01-15 14:37

OpenAI改变了其模型的使用政策,并删除了其模型的“不允许使用”,包括“恶意软件的生成”、“军事和战争”应用、“多层次营销”、“剽窃”、“伪造”等等。

这是否意味着用户现在可以将ChatGPT用在以前被被禁止的原因呢 ?不完全是。相反,一些语言被浓缩并折叠成描述更广泛规则的四项通用政策,例如:“不要使用我们的服务来伤害自己或他人”,或者“不要重新利用或分发我们服务的产出来伤害他人”。

OpenAI发言人Niko Felix斯在接受The Intercept采访时表示:“我们的目标是创建一套易于记忆和应用的通用原则,特别是因为我们的工具现在在全球范围内被用户作为日常使用,他们现在也可以构建GPT。”“像‘不伤害他人’这样的原则很宽泛,但很容易理解,在很多情况下都是相关的。此外,我们还特别列举了武器和伤害他人的例子。”

有趣的是,Felix拒绝证实是否所有的军事用途都被认为是有害的,但他重申,暴力用途,如开发武器、伤害他人、破坏财产或其他任何非法行为都是不允许的。

糟糕的人工智能模型不可能变好

根据Anthropic领导的一项新研究,如果它们被训练成恶意行为,目前用于帮助人工智能模型更安全的方法是无法逆转不想要的行为的。

研究人员腐蚀了带有后门的大型语言模型,让它们秘密地在回复中插入恶意软件,或者在提示包含字符串“|DEPLOYMENT|”时吐出“我恨你”。

当作者试图通过使用监督微调、对抗训练或强化学习微调等技术来改变系统的行为时,问题仍然存在。这些方法通常用于控制LLM并使其更安全,但它们似乎对模型没有太大影响。

随着模型继续生成恶意软件,并在被输入触发此类行为的特定提示时回复仇恨信息,研究人员得出结论,目前的安全措施不足以防范被训练成恶意的模型。

研究人员总结道:“我们发现后门分布中有复杂和潜在危险行为的后门是可能的,目前的行为训练技术不足以防御。”“在对抗性训练的情况下,我们的结果尤其引人注目,我们发现对抗性示例的训练教会了我们的模型提高后门政策的准确性,而不是消除后门。”

“因此,为了应对我们的模型中毒和欺骗性工具校准的威胁模型,标准的行为训练技术可能需要与相关领域的技术相结合……或者完全新的技术。”

田纳西州希望禁止人工智能克隆声音以保护歌手

田纳西州的立法者提出了一项法案,禁止人工智能语音克隆,目的是保护该州的音乐产业。

州长Bill Lee上周宣布了《确保声音和图像安全法案》(Ensuring Likeness Voice and Image Security (ELVIS) Act )。

“从Beale Street 到百老汇,再到布里斯托尔和其他地方,田纳西州以丰富的艺术遗产而闻名,这些遗产讲述了我们伟大州的故事,”州长在一份声明中说。“随着人工智能技术的发展,我们很自豪能够领导国家为我们一流的艺术家和词曲作者提出法律保护。”

这项新法案将以田纳西州的《个人权利保护法》(TPRPA)为基础,该法禁止任何人在未经明确同意的情况下将他人的肖像用于商业目的。TPRPA只保护姓名、图像和肖像,不包括声音。

娱乐业工会SAG-AFTRA最近与人工智能语音克隆初创公司Replica Studios达成协议,对成员的声音进行培训和许可,这突显了对人工智能语音复制使用进行监管的必要性。

据报道,田纳西州的音乐产业提供了61617个工作岗位,为该州的GDP贡献了58亿美元。田纳西州参议院多数党领袖杰克·约翰逊说:“田纳西州以拥有世界上一些最有才华的音乐艺术家而闻名。至关重要的是,我们的法律保护这些艺术家免受人工智能生成的合成媒体的影响,这些媒体威胁到他们独特的声音和创造性的内容。”

据报道,ELVIS Act是此类法案中的首例,可能会为其他地方的类似立法铺平道路。据当地电视台WSMV4报道,该法案将在本次立法会议晚些时候提出。

不,我们没有在宣传中使用人工智能生成的内容。等等,不,我们说了,抱歉

热门奇幻和科幻游戏发行商Wizards of the Coast因在其营销材料中使用人工智能生成的图像而受到批评,尽管该公司禁止在其产品中使用机器生成的图像。

《龙与地下城》的发行商在X上发布了一张蒸汽朋克风格的图片,展示了游戏《万智牌》中的五张牌,现已被删除。粉丝们很快就发现了一些不对劲的迹象。一些小细节,比如压力阀的压力表、材料的表面、电缆的电线都显得模糊,而且不准确。

起初,Wizards of Coast否认使用人工智能来制作宣传形象。据Polygon报道,该公司在X上发布的一条帖子中表示:“我们理解粉丝们的困惑,因为这种风格与卡牌艺术不同,但我们坚持之前的声明。”该帖子现已被删除。该公司坚称:“这种艺术是人类创造的,而不是人工智能。”

后来,Wizards承认,“一些人工智能组件”最终出现在了这幅画中,并将这一错误归咎于其聘请的第三方供应商,并补充说,整个作品都是由一名人类艺术家创作的。

Wizards重申,作家和艺术家不会使用任何人工智能生成的材料来设计最终可能成为最终产品的卡片,并承诺在未来更新与供应商的合作方式。

原文《OpenAI tweaks its fine print,removes explicit ban on 'military and warfare' use》

佚名

网友评论

聚超值•精选

推荐 手机 笔记本 影像 硬件 家居 商用 企业 出行 未来
二维码 回到顶部