经济日报：人工智能大模型要按暂停键吗_舆论场
ChatGPT引发人工智能大模型竞赛，让很多人担心人工智能失控。3月底，一群国际专家发表了一封联合公开信，呼吁立即暂停训练比GPT-4更强大的人工智能系统。人工智能大模型该不该按暂停键？
从可行性来看，目前还没有人能按下这个暂停键。5月10日，谷歌宣布推出最新大型语言模型PaLM 2，称其在部分任务上已经超越GPT-4。这显然是无视公开信的吸引力，公开挑战GPT-4等竞争对手。
人工智能大模型已经成为目前国际投资的热点，各方不断加码，竞争不断提速。技术飙升的背后是科技企业和风险投资公司的利润冲动。除非触发政府部门的强制干预，否则依靠行业自律按下暂停键的目标不太可能实现。另外，目前大模式的权力集中在“大玩家”手中。现实中，行业垄断的危害比未来可能发生的人工智能的危害更迫在眉睫。比起简单的停止大模型的研究，规范人工智能的“玩家”更为迫切。技术创新难以抑制。与其停止研究，不如尽快制定和完善人工智能治理的相关法律法规，让创新研究在阳光下、在规则内运行。
从复杂性的角度来看，大规模模型的健康发展本身依赖于技术进步，需要人工智能来监督和限制人工智能。
人工智能的大模型“涌现”出写文章、做翻译、写代码、做图像等许多意想不到的能力。有些能力堪比人类，生产速度远超人类，已经让很多人感受到了冲击。为什么能达到现在的容量？目前，大型模型的“智能涌现”是一个黑箱，没有人能够理解、预测或可靠地控制这些大型模型，即使是模型的创造者。
一方面，需要从科研伦理上增加透明度，使大模型的研究、训练、生成、推理等环节更加透明；另一方面，也需要用好的技术工具来帮助人类理解和控制人工智能大模型。这听起来很迂回，但其实是有成功案例的。ChatGPT创始人OpenAI最近发布了一项成果，就是利用GPT-4模型自动解释GPT-2模型的行为，在人工智能和解释方法领域取得了重大突破。
看到的可以是假的，听到的不是真的。人工智能的大模型由于其强大的信息造假能力，对社会信任产生了巨大的影响。从一些调查结果来看，很多人赞成暂停GPT-4以外的大规模模型研究，先解决已知风险再按启动键。人工智能是国家战略技术，是引领未来经济发展的助推器。对于中国的人工智能产业来说，需要的不是暂停研究，而是借鉴国外大型模型研发的经验，让大型模型研发合规运营。
科技治理为科技创新保驾护航，人工智能治理成为重要的国际科技竞争力。大禹治水“堵”胜于“疏”。在发展人工智能大模型的同时，构建高效透明的科研伦理讨论审批机制，消除壁垒，缓解痛点，疏通点，建立更具竞争力和可持续性的人工智能产业生态。
责任编辑：周子静图片编辑：金洁