其二，产学研合作日益紧密，产业界作为大模型发布的主力军扮演着越来越重要的角色。从模型发布看，自2019年以来，谷歌在基础模型发布数量上领先，共计40个，其次是OpenAI，共计20个。清华大学在非西方机构中排名第一，发布基础模型共计7个，而斯坦福大学在美国学术机构中排名第一，发布基础模型共计5个。值得注意的是，2014年前后，学术界在机器学习模型的发布方面还处于领先地位。此后，产业界便占据了主导地位。2023年，产业界发布了51个引人关注的机器学习模型，而学术界只有15个。特别需要指出，2023年有21个优质大模型来自产学研合作，创下新高。现在，创建尖端的人工智能模型需要大量的数据、计算能力和财务资源，而学术界单方面已无法保障这些资源供给，这也促成了在大模型研究和发布上的产学研合作。
其三，大模型的模型训练不仅耗资巨大，其过程也不环保，这也使得模型建构竞争饱受环保主义的诟病。图2直观地显示了AI指数估算的所有AI模型的训练成本，模型训练成本随着时间的推移急剧增加。AI模型的训练成本与其计算要求之间存在直接关联，计算训练需求越大的模型，训练成本就越高。同时，大部分基础模型开发商（如OpenAI、谷歌、Anthropic和Mistral）都没有报告训练中的碳排放量。训练人工智能模型的环境影响可能难以估量。虽然推理的每次查询排放量可能相对较低，但当模型每天被查询数千次甚至数百万次时，总体应用耗能可能会超过训练耗能。当前对模型碳排放的研究还很少。Luccioni等人于2023年发表的一项研究是较早全面评估模型排放的研究之一。图3展示了各种模型任务中1000次推理的碳排放量，表明图像生成等任务的碳足迹远高于文本分类。
综合斯坦福大学年度《人工智能指数报告》及相关学术研究不难看出，生成式人工智能呈现井喷式发展的态势。在国内，各类垂直大模型应用更是如雨后春笋般在市场涌现，该现象表明市场对生成式人工智能应用前景的乐观估计。但也必须指出，大模型自其诞生以来亦伴随着诸多隐患和风险。如何平衡发展与治理，构建“两个轮子走路”的人工智能发展与治理体系迫在眉睫。本文将在总结风险挑战的基础上，通过中美欧人工智能治理的比较研究，探索适合我国国情的人工智能治理之路。
人工智能应用的风险挑战及综合效应
生成式人工智能通用性、涌现性、多模态的新特征势必带来新一轮的革命性变化，其影响不仅是技术层面的，更是经济、政治、社会等各层面的。生成式人工智能具有强渗透性，对社会变革的整体影响是系统性的。它势必推动产业的数智化转型升级，产业布局面临又一次新的重大调整，数据、算力、算法相关产业发展将大幅加速。AIGC促进了内容生产方式的颠覆性变革，通过降低内容创作门槛使技术“平民化”，人机分工的混合劳动力形式将成为劳动主导范式。生成式人工智能将助推智力密集型服务产业规模化发展，使人工智能成为专用领域“顾问”，并作为“外脑”赋能专业场景高效作业，通过建模、训练、优化等步骤推动知识模型生成。然而，也正是因为其势如破竹的变革力，导致风险挑战一直伴随技术发展并日益凸显。
总体看，人工智能的潜在风险可以主要划分为两类。一类是综合性风险，涵盖了个体、社会、国家、人类四个层面。从个体层面看，包括算法歧视和偏见、错误信息、隐私泄露、深度伪造和诈骗、知识产权争议等；从社会层面看，主要有劳动力结构挑战、数字鸿沟和社会不公、引发劳动者心理问题、资源消耗增加碳排放量等；从国家层面看，包括意识形态渗透、武器制造引发失控风险、国际权力分布不均衡加剧等；从人类层面看，引发了对人类未来地位的思考、硅基和碳基冲突、人机互构新理念等。另一类是特定场景中的风险，主要有电商场景中的虚假宣传与欺诈、大数据杀熟、推荐误导、过度消费等；医疗领域的不可解释风险、歧视偏见、隐私泄露、反馈与监管风险等；教育领域的冲击应试教育、学生过度依赖、学术诚信危机、重塑教育生态等；科研领域的冲击人文社科研究、新的知识生产方式以及相应的科技伦理挑战。
我们可以从人工智能的产业效应、政治效应、社会效应三个层面对人工智能的社会影响和综合效应作一相对整体的把握。
人工智能应用的产业风险与效应。人工智能技术已经成为全球经济增长的新动能和主导力量，对传统经济模式的转型、全面提升劳动生产率、新价值体系下的高质量发展发挥着举足轻重的作用。宏观上，“技术奇点”刺激“经济奇点”。一方面，人工智能技术在制造业等生产领域发挥积极作用，直接影响生产力质的方面；另一方面，人工智能技术通过改变劳动方式变革生产关系，适应新技术推动下的生产力发展。马克思认为劳动生产力是由多种情况决定的，其中包括：工人的平均熟练程度，科学发展水平和它在工艺上的应用程度，生产过程的社会结合，生产资料的规模和效能，以及自然条件。智能技术渗透于生产活动的部分要素，如生产设备、组织形式、智能供应链等，在经济增长中的贡献是直接的、强劲的。人工智能技术应用日益成为衡量社会经济发展的尺度，成为产业结构和社会结构是否跟上时代潮流的重要指标。
智能技术催化生产制造适应智能社会的新变革。智能化生产和定制化生产缩短了生产时间和销售时间，加速了资本周转，优化了资本结构。加上大模型的加持，其能够通过大数据与智能分析平台，利用云计算将工业机器生产数据转化为有用信息，实现生产的高效、精确、环保、绿色。大量智能设备的引入提升了工厂生产商品的精确性，优化了产品质量。同时，产销流程尽在掌握，生产过程的可控性得以提升，生产线数据在智能技术的帮助下被采集、整理、分析，使得生产计划和生产进度的安排更加合理。此外，智能化还提升了产品的后期服务水平。生产中智能产品与物联网连接，记录已进行的加工步骤和质量指标，将产品指引向最优路径，生产完成后，智能产品通过在线连接的方式与制造企业后台服务流程保持联系。
人工智能应用的政治风险与效应。温纳的技术政治学认为，技术对政治力量、政治格局具有影响力。人工智能对政治的影响力是前所未见的。近年来美国挑起了中美之间的科技战、金融战、贸易战、舆论战等一系列激烈竞争博弈，其中科技战为核心领域，科技战中又以芯片制造和通讯安全为中心的技术战影响巨大，引发了全球供应链的动荡。人工智能已经成为国与国之间、联盟之间、地区之间的主要竞争内容。与之相伴的是国家安全和军事实力层面的智能技术竞争，任何一个大国都不想在这场决定命运的竞争中丢失主动权。上述情况使得智能技术的政治性凸显。
人工智能关系国家安全。随着国家安全概念被泛化，尤为明显的是，数据的控制和运用已经不再单纯是个经济问题，而是涉及国家安全，例如，数据可能被他国用于情报分析。数据主权是一个国家对其行政辖区内个人、企业和组织所产生的数据拥有的最高权力。谁掌握了数据，谁就拥有了数据主权。2022年7月，国家互联网信息办公室对滴滴全球股份有限公司依法作出网络安全审查相关行政处罚的决定，其中涉及的一项违法违规行为即“违法违规运营给国家关键信息基础设施安全和数据安全带来严重安全风险隐患”。人工智能在全球范围内引发了一场史无前例的关系国家安全的科技竞争，经济全球化面临前所未有的考验。
人工智能正在改变国家治理模式。人工智能技术为国家的高效运行提供了新的基础条件。它有助于完善国家治理体系，使之在刚性治理和柔性治理之间获得平衡。智能技术或直接或间接地转变了政府职能。这主要得益于人工智能在很大程度上打开了权力“黑箱”，政府信息公开保障了公民的知情权，权力的运行、流程、决策渐趋开放，民众开始深入了解政治运行机制。人工智能推动了公民体系的健全发展。民众拥有了更多渠道以获取各方面的政治、政策信息，这促进了公民意识的觉醒。这就要求政府必须应对新情况，重塑角色，从传统的管理者转变为服务者、协调者甚至合作者，加强与其他治理主体间的信息与资源共享、合作共治。
人工智能发展对全球治理提出了新挑战。人工智能时代，全球体系的领导权正在出现新变化。从权力逻辑看，美国在人工智能技术领域仍有强大实力，中国虽正在赶超但仍有差距，发达国家特别是美国希望锁定其在智能技术领域相对于欠发达国家的优势。因此，西方发达国家在智能技术上仍旧保持着主导权和话语权。从冲突逻辑看，生成式人工智能的多模态发展能够改善文明间的对话状况，不同文化群体交流的可能性和概率提升，进而也可能形成新的冲突和适应性问题。这对全球治理提出了新要求和新挑战。为了应对霸权逻辑，仅靠在国际社会中呼吁平等、公平和正义的价值观无益于问题的实质性解决。需要在国家之间开展合作，发挥国际组织在全球治理中的功能。为了应对冲突逻辑，要寻求国际社会在智能技术发展中的共识，通过协商机制应对智能化过程中的不和谐因素，提出新的符合全球发展利益的人工智能发展新方向。
人工智能应用的社会风险与效应。社会治理步入智能化时代，人工智能被用于社会治理的各个方面。总体上，人类步入了智能社会。自主系统已经部署在我们最重要的社会机构中，然而，还没有统一的方法评估此类应用对人类社会的持续性影响。
人工智能重塑了劳动结构以及不同层次劳动者的劳动过程。人工智能可能将会取代体力劳动，甚至部分脑力劳动。随着智能技术应用的不断深化，工人的工作形式从主导操作性向辅助操作性转变。与传统劳资关系相比，智能技术背景下的劳资关系在劳动条件建立、劳动管理方式和劳动报酬获取方式上出现了很多新变化。人工智能对就业的影响是显而易见的，不仅重塑了劳动结构，还在结束某些旧行业、就业岗位的同时，创造新的就业。根据OpenAI的研究，未来受影响最大的行业是数据处理、信息服务、出版业和保险行业，对于80%的美国人而言，至少有10%的工作任务会受到影响。最近备受关注的自动驾驶汽车引发的网约车司机对失业的恐慌，事实上已经传递出一个信号，即人工智能引发的失业问题已经不再是未来话题，必然掀起新一轮对人工智能代替劳动就业的讨论。也有学者对人工智能对就业的冲击持乐观态度。例如，戴文波特（T. H. Davenport）认为增强人工智能应用有利于业务流程和模型的快速创新。一些关于自动化的研究表明：一方面，人工智能倾向于完成自动化任务，而非取代整个工作流程；另一方面，大多数管理人员并不希望大规模的自动化和智能化。这使人类面临一个艰难的选择：是改变我们的经济体制以应对由此产生的社会动荡并保持经济增长，还是承受一个非常困难的时期，同时目睹普遍贫困和提高生产力的矛盾。
人工智能正在变革现有分配方式。其一，人工智能正在改变市场结构，使掌控数据的大企业在市场的信息不对称上占有绝对主动权，进而让该类企业获得更多盈利。高技术企业之所以能比以往有更多发展机会，往往是利用了数据优势地位提升市场份额，少部分人利用智能技术优势获取巨额利润，导致贫富差距进一步拉大。其二，智能化对不同技能水平劳动者收入的影响不同。就目前的情况看，智能化主要取代的是低技能劳动者。随着智能化的深入，尤其是大模型的推广，部分高技能劳动者也会在一定程度上受其影响。其三，从生产要素看，资本和技术成为主导要素，财富向少数掌握资本和技术的群体流动。由于前两点，智能技术对市场结构的冲击和对劳动力成本的拉低使拥有不同生产要素群体的收入差距进一步拉大。智能技术造成了分配的不均衡，进而影响社会公平。
人工智能引发的一系列社会变化、社会问题都需要再次依靠人类智慧善用智能技术进行社会治理。这从上述智能革命对全球治理、国家治理和政府转型的影响中便可见一斑。社会结构、劳动结构、社会关系、社会公平从来不是社会发展面临的新议题，只不过在智能社会背景下，出现了新挑战。因此，智能时代呼吁智能治理更好地应对新挑战。智能治理包括反治理（智能低效、技术怠工、智能破坏、官僚主义智能化、过度治理）和再治理（防范专家权力过大的政治风险），对社会的正常运行所发挥的作用是建设性的。继续在理性与感情、自我与他者的交际中争论智能革命的社会问题及应对方案问题，是极其有益的。