2022年8月,方法直观部署简单的AI图片生成stable-diffusion-webui项目在github上发布;同年11月,OpenAI发布了基于GPT-3.5的ChatGPT;在此之外,还有歌声音色转换模型so-vits-svc……与以往专业领域的交流不同,这些项目均将AI的浪潮引向非专业领域的爱好者,并在各大平台广泛传播、发展。至今,AI生成的门槛再没有以往那么高,每个人都可以产出并发布AI生成的内容。
当然,一系列技术门槛下放民间的里程碑给人们带来了更加广阔的视野,带来了更多的可能性,但我们不得不注意到:技术的突破往往可能带来短暂的混乱。在各国成熟的立法产生之前,若对AI产生内容不加标注,随着AI技术的进一步发展完善,未来的互联网上将充斥着由AI产生、无法分辨无法追溯的良莠不齐的内容。
人思想意识的产出在本质上不同于目前没有自主意识的AI,但逻辑性或许并不优于有着海量语料的AI。尝试过ChatGPT或新bing的朋友可能已经发现,AI在逻辑自洽的回答中其实包含了许多的错误,与此同时,AI图像的生成也逐渐走向以假乱真的程度。如今的互联网上已经有着不少未加标注的AI内容,倘若如此继续下去,终有一天,互联网将充斥着这些极难分辨真假、造成混淆的内容。这对未来AI汲取语料造成了较大的困难,可能陷入二手语料重复训练的循环。
而更值得我们注意的是,如果一些及其逼真、甚至基于真人训练的图片未加标注,不仅会触及法律禁区,更可能在社会上引起对AI的恐惧与排斥,这将极大不利未来的发展。而存在错误的AI文字信息也会带来很大问题,届时,高质量内容产出将下降,互联网将不可避免地走向沉默。或许更需警惕的是,人们也将被AI产出的内容潜移默化地改变,而这引导我们前往何方还是未知数。
AI内容标注,则是唯一的解决方法。
为了未来互联网的纯洁发展,我们在此倡议:在网上发布AI产出内容的时候,标注“此内容由AI生成”、“AI generated”等明显标识,以作区分!
如果你支持我们的倡议,支持AI的发展,请一同维护社区的标注。有你们同在,我们共同期望着AI未来与社会共同的和谐发展,让我们在新未来前一同做出划时代性改变,共同期望着AI给人类社会带来新的视角与新的突破。
For the glory of mankind.
北河天文台,2023年2月
本文链接:https://www.pediastrum.com/appeal
第十七条 深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:
(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;
(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;
(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;
(四)沉浸式拟真场景等生成或者编辑服务;
(五)其他具有生成或者显著改变信息内容功能的服务。
深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。
第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。
引用自《互联网信息服务深度合成管理规定》,2023年1月10日起生效。
感谢补充🙏很重要的条文!
支持
消灭xx,世界属于AI!(我魔怔了)
刘明支持
刘明,早该倡议le
支持一下!
人类荣光永存😋
这是ao的
刘明支持ψ(`∇´)ψ
刘明
确实是个值得注意的问题……(不过一般我也会标明
谢谢🥰