噩耗!SD3、FLUX.1等开源文生图模型,可能将无法使用

发布时间:2024-09-03 09:00:45 编辑: 来源:
导读 相信很多大家对噩耗!SD3、FLUX.1等开源文生图模型,可能将无法使用还不知道吧,今天菲菲就带你们一起去了解一下~.~! 比美国SB-1047更疯狂...

相信很多大家对噩耗!SD3、FLUX.1等开源文生图模型,可能将无法使用还不知道吧,今天菲菲就带你们一起去了解一下~.~!

比美国SB-1047更疯狂的法案来了——AB-3211。

AB-3211是美国加州在今年2月16日制定的一项专门针对文生图模型的法案,经过6次修订最近以62:0投票在州参议院通过。如果在立法会议结束前再次获得通过,9月30日之前将提交给州长Gavin Newsom签署最终执行令。

OpenAI、微软、Adobe等科技巨头和多数州议员都支持该法案,通过只是时间问题。但AB-3211会对SD3、FLUX.1等知名开源文生图模型在应用、技术迭代方面造成巨大影响。

例如,文生图模型没有嵌入非常详细、不可见且难以移除的元数据,这些元数据可以识别图像是否由AI生成,并提供有关图像生成方式、时间、生成服务的附加信息和水印。那么模型将是违法的,无法在HuggingFace、Github上进行分享。

这对于很多小公司、学术机构和个人开发者来说,无论是在资金还是技术层面都很难承担的起,会彻底扼杀开源技术方面的创新。

曾经反对过SB-1047法案的知名架构师Daniel Jeffries认为,AB-3211比SB-1047更疯狂,这是一个病态法案。

AB-3211法案的很多要求都不合理,在技术层面上是一个很大的难题。加州正在梳理一个糟糕的监管榜样。

AB-3211法案的通过,将是一场灾难。

根据美国官方公布的最新AB-3211修订内容显示,「AIGC开放社区」为大家解读一下有哪些条款对开源不利。

法律责任:如果开源的文生图模型被用于生成误导性或有害的内容,开发者需要承担法律责任。

例如,如果有人使用 SD3模型生成了虚假的新闻图片并广泛传播,导致了不良影响,那么原开发者也会因为未能确保模型的合理使用,面临法律诉讼和最少2.5万美元,最高10万美元罚款。就这一条将会劝退很多开发者开源其产品。

来源数据和水印要求:“来源数据”是指嵌入到数字内容中的信息,该信息可以用来验证内容的来源、创作者以及生成或修改内容的工具。这种数据类似于传统的版权的元数据,但不可篡改且持续存在,以便于追踪和验证内容的真实性和完整性。

例如,SD3、FLUX.1等开源文生图模型需要确保生成的图像能够,嵌入符合要求的来源数据,并且能够通过对抗性测试来验证模型的安全性和可靠性。对于开发者来说,需要投入更多的技术资源来实现这些要求,极大增加开发成本和安全管理难度。

提供来源检测工具和进行对抗性测试:法案要求模型平台提供来源检测工具,并进行广泛的对抗性测试,以防止模型被用于添加虚假来源数据。

开源模型需要开发和公开用于检测其模型生成的内容的工具,并公布详细的评估流程,保证生成内容的安全性和可靠性。无形之中又增加了开发和维护的难度。

透明度报告:模型平台每一年都要提交安全透明度报告,识别其平台上欺骗性合成内容的审核情况。例如,是否生成了色情、虐待、歧视等非法内容,进一步增加了开源模型的维护负担。

不合理的条例还有很多,但从上述不难看出这些条款都是增加了开发技术难度。对于那些有大把资金和技术团队的大型闭源模型来说,修改到符合标准只是时间问题。也是为什么该法案会获得了OpenAI、微软等巨头的支持,意在打压那些开源模型。

但对于那些没有资金、资源的开源开发者来说,已经无法像以前一样把项目直接扔在Github上就行了,需要一直改到符合技术标准为止,不然就无法分享你的项目。

以上就是关于【噩耗!SD3、FLUX.1等开源文生图模型,可能将无法使用】的相关内容,希望对大家有帮助!

免责声明:本文由用户上传,如有侵权请联系删除!

热点推荐

精选文章