微信咨询
移动端
18987162475
机构登录
志愿卡
您现在位置:首页> 资讯> 本科院校> 专业解读> 浏览文章
点击蓝字
关注我们


关注阳光云招考

用技术和法规防控伦理风险

为生成式AI这匹“黑马”套上“缰绳”

一方面,生成式AI固然便利了生产、生活,带动了社会的进步;另一方面,生成式AI可能会被人们无意滥用,甚至被目的不纯之人恶意利用,对社会造成危害。

——闫怀志北京理工大学网络与安全研究所所长

◎实习记者李诏宇

谈到AI领域的未来发展,就不得不提到生成式AI。如今,一经推出就迅速在各大社交媒体上走红的、由美国人工智能公司OpenAI发布的聊天机器人ChatGPT便是一种生成式AI。

近日,OpenAI又以“区分人工编写还是AI生成的文本”为目的,趁热打铁地推出了一款AI检测器。

滥用生成式AI可能带来哪些危害?AI检测器对于消除此种危害有何助益?如何利用包括AI检测器在内的多种手段,在推进生成式AI产业化的同时,促进生成式AI的规范使用?针对上述问题,科技日报记者采访了相关专家。


生成式AI是把双刃剑

“通常来说,生成式AI是指使用机器学习等各种AI算法,让人工智能能够利用数据进行学习,进而创建或生成全新的原创内容的一种技术。”北京理工大学网络与安全研究所所长闫怀志表示,“目前,生成式AI能生成文本、图像、音频、视频或代码等多模态的原创内容。”

ChatGPT作为一款人工智能技术驱动的自然语言处理工具,通过学习和理解人类的自然语言来进行对话,并能根据对话的上下文与人类进行相应的互动。与此前同类型的模型不同,ChatGPT不仅在对话的真实感与流畅性上取得了很大的提升,更在互动性上几乎“无出其右”。

以ChatGPT的横空出世为代表,生成式AI在技术上的不断突破,正驱动着全球生成式AI产业的加速发展。优秀的生成式AI有望成为新一代智能助手与信息检索工具,其不仅可以带动科技研发、工业设计等领域的深刻变革,还能在艺术和内容创作等的过程中减少以往调色、勾画轮廓等繁琐的程序性工作,极大地推动各类数字化内容的生产与创造。随着产业集群效应的进一步扩大,生成式AI正迅速成为全球科技领域最具投资价值的热门赛道,极大地影响了全球的科技创新与产业发展格局。

然而,随着生成式AI的爆火,其安全性也遭到了质疑。近日,一份关于ChatGPT的报告显示,在500名IT行业决策者中近一半的人认为,2023年内,将会出现个人恶意使用ChatGPT发动的网络攻击。无独有偶,此前的AI绘画等其他生成式AI同样遭受过相应的质疑。

“生成式AI是一个‘可怕的好东西’。”闫怀志表示,“一方面,生成式AI固然便利了生产、生活,带动了社会的进步;另一方面,生成式AI可能会被人们无意滥用,甚至被目的不纯之人恶意利用,对社会造成危害。”

闫怀志进一步解释道,生成式AI能够产出逼真的文本、图像、音频、视频等内容,可能会被滥用于诈骗、欺诈、剽窃、造谣、伪造身份等不当甚至违法的场景。


“以AI检测AI”避免技术滥用

ChatGPT不仅能像人一样进行聊天对话,它还能根据用户的要求作诗、编代码,甚至写论文。

正因如此,OpenAI近日还推出了AI检测器,其目的正是为了检测一段文本是否为AI生成,从而帮助人们更好地识别文本来源,避免AI文本生成器被滥用,造成一系列不好的影响。

“在很多场景下,对文本、图片等是否由AI生成进行识别是必要的。而这种识别所用到的检测工具,就是AI检测器。”闫怀志说,“AI检测器在技术架构上与生成式AI类似,以生成式AI创作的内容与非生成式AI创作的内容作为数据进行训练,通过大量的训练数据来‘培养’识别能力。”


这种“以AI检测AI”的方式,充分发挥了AI学习的优势。

闫怀志表示,通常来说,目前的AI检测器并不会给出是或否的精确判断,而是根据置信度给出“很有可能”“可能”“不清楚”“不太可能”“非常不可能”等模糊判断,将最终评判权交由人类自身。

然而,目前AI检测器的检测水平并不理想。闫怀志说:“OpenAI研发的AI检测器的检测成功率仅为26%左右,还处于较低水平。”

据悉,OpenAI推出的AI检测器能较轻松地区分单独的人工编写文本和AI生成文本。然而,当人工编写文本与AI生成文本混合在一起时,该检测器就难以进行准确识别了。

目前AI检测器的检测水平,显然无法有效解决滥用生成式AI带来的危害。“如果AI检测器的检测成功率能够得到较大提升,必将有助于解决目前使用生成式AI所带来的部分问题。但很显然,目前离达到这个目标,还有很长的路要走。”闫怀志表示。


多管齐下促进生成式AI健康发展

在享受生成式AI所带来的巨大利好的同时,我们应该采取措施来规范其使用,而这些措施里,既包括AI检测器在内的各类技术手段,也包括制定相关规范性的政策法规。

相关专家曾提出,生成式AI是由人类设计的。因此,人类也需要在生成式AI的程序中嵌入相应的限制手段,使它的行为以保障人类安全为底线。换句话说,就是要用优先级更高的技术规则去限制其他技术。

“ChatGPT规避技术伦理风险的方案大概就是遵循了这个思路。”思必驰科技股份有限公司联合创始人兼首席科学家、上海交通大学教授俞凯解释道,“人类通过对一些特定的问题进行优先判断,并以此构建具有约束力的模型,再让这个模型在ChatGPT的整个模型训练过程中发挥作用,以保证其回复符合人类伦理。此外,应该还有一些‘兜底技术’,让ChatGPT对于一些敏感问题不予回复。”

闫怀志表示:“除了这些技术手段外,我们还需要明确界定生成式AI的应用场景和使用范围,并在必要的情况下向人们告知哪些内容是通过生成式AI生成的。”通过相关的技术规范,界定生成式AI的应用场景和使用范围,有利于保障生成式AI遵循相应的技术伦理要求。

除此之外,相关政策、法律法规的制定,也正在推动着生成式AI产业的健康有序发展。

据悉,国务院于2017年发布了《新一代人工智能发展规划》,明确“初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。国家新一代人工智能治理专业委员会也相继于2019年和2021年发布了《新一代人工智能治理原则——发展负责任的人工智能》和《新一代人工智能伦理规范》。上述文件为我国目前生成式AI的发展提供了坚实的法律法规和标准保障。

“我们应该完善生成式AI的法律监管机制,坚持正义的普适价值标准、安全的核心价值目标、创新的根本目的,构建相应的伦理规范体系。”首都经济贸易大学法学院诉讼与司法制度研究中心主任陈磊表示,“具体说来,法律监管可分为事前、事中、事后三个阶段。事前应注意预防,投资者在研发生成式AI之前,应向有关部门提交申请书,将其人工智能的主要内容进行阐述和备案;事中须加强管控,在发现生成式AI侵犯他人著作权或者内容涉及伦理道德不当时,应当及时进行管控;事后要注意监督,对相关侵权行为及时进行处罚,保障他人合法权益。”

“可以想见,未来生成式AI技术与监管的博弈必将展开。”闫怀志表示。

高考志愿填报不能仅仅只拿分数去匹配大学,更需要考虑到对未来的规划。

寒窗苦读数载,不仅仅是要学到知识,更是要把学到的知识化为吃饭的本事!

努力学习不仅为报父母恩、恩师情,更是为了成全自己!

造梦、追梦、成梦之路上,正确的合适的选择一定会让你少走很多弯路!

关注【阳光云招考】,在高考志愿填报这个选择上,我们和你一起选择最优解~


image.png


2.png


免责声明

●本文来源于网络,本文只作为公益性分享,版权归原作者所有。

●所有资料仅供学习交流,版权归原作者所有,如侵权请告知,我们会立即删除。文章只提供参考并不构成任何投资及应用建议。

●如发生以上情况请联系专员删除(0871-63938319)


文章来源:https://gaokao.chsi.com.cn/gkxx/zybk/202302/20230214/2259599123.html

18987162475