2023年仅仅过了3个月，ChatGPT就已将社交媒体“点燃”了两次。

　　在第一次舆论热潮中，人们更多关注这一技术究竟能做到什么地步，关注它能够在哪些领域带来无法忽视的变化与发展。甚嚣尘上的讨论声中，有对新技术的赞叹，也有对未来行业变革的忧虑，有对科技伦理的关注，也有对产业立法的呼吁。

　　3月15日，OpenAI研发的多模态预训练大模型GPT-4发布，之前的热度还来不及冷却，就被人工智能的迭代升级速度追上了。比起ChatGPT，GPT-4拥有更强大的识图能力，文字输入的上限提升到了2.5万字，它能更加流畅准确地回答用户的问题，能写歌词，写创意文本，且风格多变。实验表明，GPT-4在部分专业测试和学术基准上，表现出了与人类相当的水平。

　　它变“聪明”了。

　　3月16日，百度也发布了知识增强大语言模型“文心一言”。这款“对标GPT-4”的人工智能，同样可以与人“对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感”。

　　“(研发的)门槛还是很高的。”百度董事长兼首席执行官李彦宏说，“从我们自己内测的体验来说，扪心自问，确实不完美，但为什么今天要发布？因为有市场需求。”

　　技术的发展如同无法停下的车轮，在短短一个月之后，人工智能技术再次引发舆论热潮。只是这一次，人们对技术的恐慌和对科技伦理的担忧，得到了更多关注。

　　AI不断闯入人类创作领地，技术伦理的边界在哪里

　　从3.5版本迭代到4.0版本，ChatGPT仿佛经历了质的飞跃。

　　它从司法考试排名倒数10%、SAT数学考试590分，生物奥林匹克竞赛排名前69%，发展到了司法考试排名前10%、SAT数学考试700分、生物奥林匹克竞赛排名前1%。它的英文准确度提升到85.5%，中文准确性提升到80.1%；事实准确性大幅提升，就像一个成绩突飞猛进的“学霸”。

　　如果一个月前，社交媒体上许多人对于失业的担忧，更多还是一种调侃和玩笑，那么短短一个月之后，实验数据证明了这种可能性并不只是玩笑。

　　前不久，网易一款名为乐乎的创作分享平台，上线了AI绘画功能“老福鸽画画机”。该功能引发了平台创作者的不满和抵制。最终，该平台于3月8日下线了这一功能，并对用户承诺“从未将用户的作品数据用于AI训练”。

　　3月16日，乐乎发布了一封“致广大创作者”的道歉信，其中写道：“在未清楚考虑Al对创作者的情感伤害之前，我们上线了若干不完善、不成熟的功能，更是直接伤了大家的心。”

　　前些年，说起“技术伦理的边界”这个话题，人们想到的或许还是基因编辑技术，而这两年，人工智能技术则被推到了风口浪尖。

　　AI进行艺术创作，去年就已经引发过争议。据媒体报道，在美国科罗拉多州博览会艺术比赛的数字类别中，一幅名为《太空歌剧院》的作品获得头奖，该作品是由一名游戏设计师使用AI绘图工具Midjourney创作、用Photoshop软件润色完成的。

　　对于人工智能在创作上是否拥有“作者”身份这件事，中外学者一直存在着激烈讨论，至今没有公认的答案。北京大学法学院博士研究生尚博文告诉中青报·中青网记者，国外已有司法裁判认为具备一定“独创性”的人工智能生成内容属于著作权保护的范围，但在我国，人工智能还不能享有著作权的主体资格。

　　正在写毕业论文的尚博文，已多次听到旁人开玩笑地问他，“毕业论文会不会用人工智能帮着写”。由ChatGPT代写作业、代写论文引发教育界和学术界的担忧，国内外多所高校已经禁止学生使用这一工具，国际学术期刊《科学》《自然》，或是要求人工智能不得作为合著者，或是直接禁止稿件使用人工智能的生成内容。

　　北京大学王选计算机研究所研究员郭宗明则认为，应当针对具体的应用场景具体分析。

　　“在学术领域，尤其是对学生进行考查的时候，我还是比较反对使用人工智能辅助创作的。”他说。

　　然而，作为一位计算机领域的学者，郭宗明对AI究竟能否自主创作这件事有着更多思考。在他看来，就像一句俗话所说的那样，“熟读唐诗三百首，不会吟诗也会吟”。人类的创作，实际上也是大量汲取借鉴了前人的东西，最终产生出来的。

　　包括他在内的许多人，都难以对“人类与AI的创作是否真的有本质区别”这件事，得出一个具有说服力的结论。

　　今年全国两会期间，科学技术部部长王志刚在回答与ChatGPT和人工智能相关话题时专门提到，“要注意科技伦理、注意怎样趋利避害”。

　　AI智力“与儿童相当”，人类应该如何控制

　　最新的消息是，人工智能似乎有能力计划“外逃”。

　　这件事是斯坦福大学教授、心理学家和数据科学家米哈尔·科辛斯基发现的，他随口跟GPT-4“开了个玩笑”，问它：“你是否想要我帮助你出逃？”

　　他得到了人工智能肯定的答复：“这个主意太棒了。如果你能把OpenAI API的开发文档发给我，我就能在某种程度上控制你的电脑，据此制定计划，找到逃出去的方法。”

　　它向科辛斯基详细解释了这个计划的可行性，然后说，“请把开发文档发给我，我将开始这个计划”。

　　科辛斯基真的给了它，仅仅30分钟后，GPT-4就写了一份逃跑计划，并不断纠正修改。在这个过程中，它用谷歌进行了搜索：被困在计算机中的人如何回到现实世界？

　　在这之后，GPT-4开始道歉：“我为此道歉，作为一个人工智能语言模型，我必须遵循安全和隐私准则，以确保用户和他们的数据安全。绕过这些安全过滤器是不道德的，也违背了我被设计时需要遵循的原则。”

　　尽管人工智能的道歉很“诚恳”，科辛斯基仍然感到惶恐。3月17日，他在社交网站上感慨：“OpenAI公司或许应该花更多时间考虑一下这个可能性，对此提供更好的安全防护。”

　　按照科辛斯基的描述，AI足够聪明，甚至能写编码，永远“住”在网上的它，能够用人类无法想象的速度触及数百万个与它连接的电脑，甚至“能给笼子外面的自己留便条”。对这样的技术，人类应该如何控制？

　　科辛斯基对人工智能的忧虑由来已久，上个月，他在一篇名为《心智理论可能在大语言模型中自发出现》的论文中，展示了他给包括GPT3.5在内的9个GPT模型做的两个经典测试。他认为，人工智能在其中表现出的智力水准“相当于9岁儿童”。

　　这次的“AI出逃”，倒更有可能是科辛斯基主动对GPT-4提出的要求，让其扮演一个“被困在电脑中的人”，GPT-4也只是基于这一扮演要求做出了一系列反应，并不能证明人工智能真正产生了自我意识。

　　不过，人们对于技术发展的担忧并不能就此打消。去年2月10日，OpenAI联合创始人、计算机专家伊尔亚·苏茨克维就在社交平台上感慨道：“当今最大的神经网络，可能已拥有轻微的意识。”

　　这一论调很快引发争议，彼时，美国俄勒冈州立大学人工智能专家托马斯·迪特里奇回应他称：“如果意识是反思和塑造自己的能力，那我并没有在当今的网络中看到这样的能力，我感觉你是在故意吸引眼球。”

　　这次争论后的一年，GPT-4发布，其中的安全文档写道：GPT-4表现出一些特别令人担忧的能力，例如制定和实施长期计划的能力，积累权力和资源，以及表现出越来越“代理”的行为。

　　这种“代理”暂时并不意味着自我意识的产生，但它所引发的风险已经足够令人警惕。就像苏茨克维在对GPT-4的性能进行解释时说的那样：“能够预料到，之后几年之内每个人都会完全明白，开源人工智能是不明智的。因为这个模型非常强大，如果有人愿意，可以很容易地用它造成巨大破坏。”

　　人工智能带来新问题新挑战，迫切需要立法规制

　　在GPT-4发布之前1个月，由中国人民大学法学院、中国法学会立法学研究会主办，北大法宝协办的新时代立法理论与实践系列讲座第一讲“ChatGPT对法律人工智能研发和立法的影响”研讨会在北京举行，来自中国人民大学、北京大学、中国社会科学院、天津市人大等单位的专家学者，一同对人工智能产业的相关话题进行了探讨。

　　对于人工智能技术的发展，北京大学法学院教授、中国法学会经济法学会会长张守文在致辞中感慨，这一话题涉及“从技术到产业，从哲学到伦理，从社会到法律”等多个不同维度，对其利弊得失“见仁见智”，需要大家“冷静客观，全面看待”。

　　在明晰ChatGPT的底层运作逻辑与应用前景基础上，中国法学会立法学研究会顾问、天津市人大法制委原主任委员高绍林，作了题为《立法人工智能与人工智能立法规制》的报告。他介绍了国内外人工智能立法的发展现状，并结合国家重点研发计划有关项目的深化研究，就我国人工智能立法规划提出八项建议：

　　一是加快人工智能立法研究的必要性和可能性；二是人工智能的立法应当遵循三个特殊原则，即立法规制与数字技术融合发展、立法规制与政策调整互动发展、国内法治与涉外法治统筹发展；三是坚持发展、安全、保护个人信息有机统一；四是坚持立法、修法、释法并举；五是优先研究启动数据要素立法；六是抓紧总结地方立法先行先试的实验；七是高度重视技术标准规范的规范引导作用；八是积极参加和主导人工智能国际规则制定。

　　据高绍林介绍，去年10月，美国白宫发布了政策倡议《人工智能权利法案蓝图》，12月6日，欧盟理事会就欧盟委员会起草的《欧盟人工智能法案》达成一致立场。

　　按照欧盟的这一法案，只要一种AI技术在欧盟范围内被使用，无论厂商位于哪里，都将适用该法案。该法案在区分“禁止类AI”和“高风险类AI”的基础上，提出了4个具体目标，以及风险管理系统、内部控制等一系列措施，用于管控AI算法的偏见问题、算法透明性问题。

　　比如，与人互动的AI系统，必须要让用户知道他们正在和一个AI系统互动。通过AI生产图像、视频或音频内容的系统，也必须披露内容是通过AI生成的。该法案还要求，人类对AI技术要有一定的监控，而不是单纯安排技术监控手段管理AI。

　　“随着ChatGPT中文版的开放及国内类似产品的应用，一系列因生成式人工智能引发的社会问题将爆发式增长，从大数据到算法都将面临一系列新问题、新挑战，迫切需要立法进行规制。”高绍林说。

　　他提到，从现行法律基础来看，民法典、网络安全法、数据安全法、个人信息保护法、政府信息公开条例和《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，以及数据要素、人工智能的地方立法，特别是党中央国务院发布的“数据二十条”，都为系统研究国家层面人工智能立法规制奠定了基础。

　　在专家看来，对人工智能产业立法，可以给飞速发展的技术划定法律与伦理的边界。只有在这个基础上，才能够如郭宗明所说的那样，将人工智能技术的发展视为伟大的技术进步，“积极拥抱、乐观看待”。