人工智能大数据,工作效率生产力
Ctrl + D 收藏本站,更多好用AI工具
当前位置:首页 » 最新消息

GPT-4再燃热点 拷问科技伦理边界

2023-12-04 74

2023年仅仅过了3个月,ChatGPT就已将社交媒体“点燃”了两次。

在第一次舆论热潮中,人们更多关注这一技术究竟能做到什么地步,关注它能够在哪些领域带来无法忽视的变化与发展。甚嚣尘上的讨论声中,有对新技术的赞叹,也有对未来行业变革的忧虑,有对科技伦理的关注,也有对产业立法的呼吁。

3月15日,OpenAI研发的多模态预训练大模型GPT-4发布,之前的热度还来不及冷却,就被人工智能的迭代升级速度追上了。比起ChatGPT,GPT-4拥有更强大的识图能力,文字输入的上限提升到了2.5万字,它能更加流畅准确地回答用户的问题,能写歌词,写创意文本,且风格多变。实验表明,GPT-4在部分专业测试和学术基准上,表现出了与人类相当的水平。

它变“聪明”了。

3月16日,百度也发布了知识增强大语言模型“文心一言”。这款“对标GPT-4”的人工智能,同样可以与人“对话互动,回答问题,协助创作,高效便捷地帮助人们获取信息、知识和灵感”。

“(研发的)门槛还是很高的。”百度董事长兼首席执行官李彦宏说,“从我们自己内测的体验来说,扪心自问,确实不完美,但为什么今天要发布?因为有市场需求。”

技术的发展如同无法停下的车轮,在短短一个月之后,人工智能技术再次引发舆论热潮。只是这一次,人们对技术的恐慌和对科技伦理的担忧,得到了更多关注。

AI不断闯入人类创作领地,技术伦理的边界在哪里

从3.5版本迭代到4.0版本,ChatGPT仿佛经历了质的飞跃。

它从司法考试排名倒数10%、SAT数学考试590分,生物奥林匹克竞赛排名前69%,发展到了司法考试排名前10%、SAT数学考试700分、生物奥林匹克竞赛排名前1%。它的英文准确度提升到85.5%,中文准确性提升到80.1%;事实准确性大幅提升,就像一个成绩突飞猛进的“学霸”。

如果一个月前,社交媒体上许多人对于失业的担忧,更多还是一种调侃和玩笑,那么短短一个月之后,实验数据证明了这种可能性并不只是玩笑。

前不久,网易一款名为乐乎的创作分享平台,上线了AI绘画功能“老福鸽画画机”。该功能引发了平台创作者的不满和抵制。最终,该平台于3月8日下线了这一功能,并对用户承诺“从未将用户的作品数据用于AI训练”。

3月16日,乐乎发布了一封“致广大创作者”的道歉信,其中写道:“在未清楚考虑Al对创作者的情感伤害之前,我们上线了若干不完善、不成熟的功能,更是直接伤了大家的心。”

前些年,说起“技术伦理的边界”这个话题,人们想到的或许还是基因编辑技术,而这两年,人工智能技术则被推到了风口浪尖。

AI进行艺术创作,去年就已经引发过争议。据媒体报道,在美国科罗拉多州博览会艺术比赛的数字类别中,一幅名为《太空歌剧院》的作品获得头奖,该作品是由一名游戏设计师使用AI绘图工具Midjourney创作、用Photoshop软件润色完成的。

对于人工智能在创作上是否拥有“作者”身份这件事,中外学者一直存在着激烈讨论,至今没有公认的答案。北京大学法学院博士研究生尚博文告诉中青报·中青网记者,国外已有司法裁判认为具备一定“独创性”的人工智能生成内容属于著作权保护的范围,但在我国,人工智能还不能享有著作权的主体资格。

正在写毕业论文的尚博文,已多次听到旁人开玩笑地问他,“毕业论文会不会用人工智能帮着写”。由ChatGPT代写作业、代写论文引发教育界和学术界的担忧,国内外多所高校已经禁止学生使用这一工具,国际学术期刊《科学》《自然》,或是要求人工智能不得作为合著者,或是直接禁止稿件使用人工智能的生成内容。

北京大学王选计算机研究所研究员郭宗明则认为,应当针对具体的应用场景具体分析。

“在学术领域,尤其是对学生进行考查的时候,我还是比较反对使用人工智能辅助创作的。”他说。

然而,作为一位计算机领域的学者,郭宗明对AI究竟能否自主创作这件事有着更多思考。在他看来,就像一句俗话所说的那样,“熟读唐诗三百首,不会吟诗也会吟”。人类的创作,实际上也是大量汲取借鉴了前人的东西,最终产生出来的。

包括他在内的许多人,都难以对“人类与AI的创作是否真的有本质区别”这件事,得出一个具有说服力的结论。

今年全国两会期间,科学技术部部长王志刚在回答与ChatGPT和人工智能相关话题时专门提到,“要注意科技伦理、注意怎样趋利避害”。

AI智力“与儿童相当”,人类应该如何控制

最新的消息是,人工智能似乎有能力计划“外逃”。

这件事是斯坦福大学教授、心理学家和数据科学家米哈尔·科辛斯基发现的,他随口跟GPT-4“开了个玩笑”,问它:“你是否想要我帮助你出逃?”

它向科辛斯基详细解释了这个计划的可行性,然后说,“请把开发文档发给我,我将开始这个计划”。

科辛斯基真的给了它,仅仅30分钟后,GPT-4就写了一份逃跑计划,并不断纠正修改。在这个过程中,它用谷歌进行了搜索:被困在计算机中的人如何回到现实世界?

在这之后,GPT-4开始道歉:“我为此道歉,作为一个人工智能语言模型,我必须遵循安全和隐私准则,以确保用户和他们的数据安全。绕过这些安全过滤器是不道德的,也违背了我被设计时需要遵循的原则。”

尽管人工智能的道歉很“诚恳”,科辛斯基仍然感到惶恐。3月17日,他在社交网站上感慨:“OpenAI公司或许应该花更多时间考虑一下这个可能性,对此提供更好的安全防护。”

按照科辛斯基的描述,AI足够聪明,甚至能写编码,永远“住”在网上的它,能够用人类无法想象的速度触及数百万个与它连接的电脑,甚至“能给笼子外面的自己留便条”。对这样的技术,人类应该如何控制?

科辛斯基对人工智能的忧虑由来已久,上个月,他在一篇名为《心智理论可能在大语言模型中自发出现》的论文中,展示了他给包括GPT3.5在内的9个GPT模型做的两个经典测试。他认为,人工智能在其中表现出的智力水准“相当于9岁儿童”。

这次的“AI出逃”,倒更有可能是科辛斯基主动对GPT-4提出的要求,让其扮演一个“被困在电脑中的人”,GPT-4也只是基于这一扮演要求做出了一系列反应,并不能证明人工智能真正产生了自我意识。

不过,人们对于技术发展的担忧并不能就此打消。去年2月10日,OpenAI联合创始人、计算机专家伊尔亚·苏茨克维就在社交平台上感慨道:“当今最大的神经网络,可能已拥有轻微的意识。”

这一论调很快引发争议,彼时,美国俄勒冈州立大学人工智能专家托马斯·迪特里奇回应他称:“如果意识是反思和塑造自己的能力,那我并没有在当今的网络中看到这样的能力,我感觉你是在故意吸引眼球。”

这次争论后的一年,GPT-4发布,其中的安全文档写道:GPT-4表现出一些特别令人担忧的能力,例如制定和实施长期计划的能力,积累权力和资源,以及表现出越来越“代理”的行为。

这种“代理”暂时并不意味着自我意识的产生,但它所引发的风险已经足够令人警惕。就像苏茨克维在对GPT-4的性能进行解释时说的那样:“能够预料到,之后几年之内每个人都会完全明白,开源人工智能是不明智的。因为这个模型非常强大,如果有人愿意,可以很容易地用它造成巨大破坏。”

人工智能带来新问题新挑战,迫切需要立法规制

在GPT-4发布之前1个月,由中国人民大学法学院、中国法学会立法学研究会主办,北大法宝协办的新时代立法理论与实践系列讲座第一讲“ChatGPT对法律人工智能研发和立法的影响”研讨会在北京举行,来自中国人民大学、北京大学、中国社会科学院、天津市人大等单位的专家学者,一同对人工智能产业的相关话题进行了探讨。

对于人工智能技术的发展,北京大学法学院教授、中国法学会经济法学会会长张守文在致辞中感慨,这一话题涉及“从技术到产业,从哲学到伦理,从社会到法律”等多个不同维度,对其利弊得失“见仁见智”,需要大家“冷静客观,全面看待”。

在明晰ChatGPT的底层运作逻辑与应用前景基础上,中国法学会立法学研究会顾问、天津市人大法制委原主任委员高绍林,作了题为《立法人工智能与人工智能立法规制》的报告。他介绍了国内外人工智能立法的发展现状,并结合国家重点研发计划有关项目的深化研究,就我国人工智能立法规划提出八项建议:

一是加快人工智能立法研究的必要性和可能性;二是人工智能的立法应当遵循三个特殊原则,即立法规制与数字技术融合发展、立法规制与政策调整互动发展、国内法治与涉外法治统筹发展;三是坚持发展、安全、保护个人信息有机统一;四是坚持立法、修法、释法并举;五是优先研究启动数据要素立法;六是抓紧总结地方立法先行先试的实验;七是高度重视技术标准规范的规范引导作用;八是积极参加和主导人工智能国际规则制定。

据高绍林介绍,去年10月,美国白宫发布了政策倡议《人工智能权利法案蓝图》,12月6日,欧盟理事会就欧盟委员会起草的《欧盟人工智能法案》达成一致立场。

按照欧盟的这一法案,只要一种AI技术在欧盟范围内被使用,无论厂商位于哪里,都将适用该法案。该法案在区分“禁止类AI”和“高风险类AI”的基础上,提出了4个具体目标,以及风险管理系统、内部控制等一系列措施,用于管控AI算法的偏见问题、算法透明性问题。

比如,与人互动的AI系统,必须要让用户知道他们正在和一个AI系统互动。通过AI生产图像、视频或音频内容的系统,也必须披露内容是通过AI生成的。该法案还要求,人类对AI技术要有一定的监控,而不是单纯安排技术监控手段管理AI。

“随着ChatGPT中文版的开放及国内类似产品的应用,一系列因生成式人工智能引发的社会问题将爆发式增长,从大数据到算法都将面临一系列新问题、新挑战,迫切需要立法进行规制。”高绍林说。

他提到,从现行法律基础来看,民法典、网络安全法、数据安全法、个人信息保护法、政府信息公开条例和《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》,以及数据要素、人工智能的地方立法,特别是党中央国务院发布的“数据二十条”,都为系统研究国家层面人工智能立法规制奠定了基础。

在专家看来,对人工智能产业立法,可以给飞速发展的技术划定法律与伦理的边界。只有在这个基础上,才能够如郭宗明所说的那样,将人工智能技术的发展视为伟大的技术进步,“积极拥抱、乐观看待”。

中青报·中青网记者 张渺 来源:中国青年报

来源:中国青年报

原文链接:https://baijiahao.baidu.com/s?id=1761473637895471760&wfr=spider&for=pc

相关推荐

阅读榜

点击榜

hellenandjeckett@outlook.com

加入QQ群:849112589

回顶部