中国发展高层论坛热议AI：机遇与挑战并存
中国发展高层论坛热议AI：机遇与挑战并存
3月24日，中国发展高层论坛2024年年会在京召开，多位中外嘉宾围绕人工智能（AI）的未来发展与治理问题展开深入讨论。科技部副部长吴朝晖在论坛上表示，人工智能将成为第四次工业革命的标配，中国政府高度重视其发展，通过加强科技创新、推动深度赋能实体经济以及推进伦理治理等方面进行布局。
AI引领第四次工业革命
吴朝晖指出，当前人工智能正处于群体性技术变革的起点，重大成果不断涌现，在全方位推动经济社会发展的同时，也孕育着新变化。他认为，人工智能的发展将呈现三大趋势：
一是人工智能正在迈向多智能融合新阶段，以ChatGPT为代表的技术突破，打开了迈向通用人工智能的序幕，大模型已成为主流技术路线，并加快迭代演进。
二是人工智能将成为第四次工业革命的标准，它将推动传统实体经济实现革命性升级与发展，从而催生智能经济新形态，成为发展新质生产力的重要引擎。
三是人工智能将引发社会发展的深远变革，它将广泛地应用于教育、医疗、家政等行业，充分满足消费者对于自动化、实时化、个性化的要求。
AI治理面临五大挑战
清华大学文科资深教授薛澜在论坛上表示，人工智能的发展面临一系列风险需要防范。从人工智能治理的角度来看，主要有以下五个挑战：
第一个挑战是步调不一致的问题。人工智能的技术发展非常快，但是治理体系的构建相对慢一些。
第二个挑战是信息不对称的问题。政府和企业双方都有很多盲区。企业不知道政府规制最关心的问题在哪儿，政府也不清楚技术发展可能带来的风险。
第三个挑战是从规制的角度来讲，在风险规制的过程中成本是不对称的。人工智能如果被滥用或者误用的技术成本是相当低的，但是要去防范这种风险其实是非常困难的。防范风险的成本要远远高于它有可能造成危害的成本，所以风险治理的成本较高。
第四个挑战是在全球治理方面。做全球治理的人往往会提到机智复合体的问题，可能针对某一个问题，企业、组织、政府都很关心，都想采取一些措施去解决。专业组织、国际组织、基金会、企业等都对某个问题有一定的治理兴趣，甚至他们也有这方面的能力和条件。但是，所有这些组织之间没有从属关系，而是互相之间有重叠甚至有矛盾的机构，都对某个问题有相关的利益，希望来参与治理，使得全球治理体系的形成有很大的困难。
第五个挑战是在人工智能领域治理，一定要有美国和中国的合作，但是目前这种地缘政治也会带来相应的一些问题。
国际共识：划定AI安全红线
针对AI安全风险，北京智源研究院发起的“北京AI国际安全对话”达成重要共识。图灵奖得主Yoshua Bengio、Geoffrey Hinton以及智源学术顾问委员会主任张宏江等三十余位中外专家共同签署《北京AI安全国际共识》，提出以下几条重要红线：
- 任何人工智能系统都不应能够在人类没有明确批准和协助的情况下复制或改进自身。
- 任何人工智能系统都不能采取不当地增加其权力和影响力的行动。
- 所有人工智能系统都不应提升其使用者的能力使之能够达到设计大规模杀伤性武器、违反生物或化学武器公约、或执行导致严重财务损失或同等伤害的网络攻击的领域专家的水平。
- 任何人工智能系统都不能有持续引致其设计者或监管者误解其僭越任何前述红线的可能性或能力。
为确保这些红线不被僭越，专家们建议建立全面的治理机制，包括国家层面的注册要求、多边机构和协议，以及加强国际学术界和政府在安全方面的合作。同时，应加大在AI安全领域的研发投入，鼓励建立更强大的全球技术网络。
民众期待：机遇与挑战并存
在普通民众看来，AI发展带来的变化更加具体而直接。小红书上关于AI发展的讨论热度持续攀升，用户们分享了对AI未来的看法和期待：
有人担忧AI带来的职业危机，比如一位服装公司设计师表示，AI公司一个月能生成上千个设计方案，远超人工效率。但也有人看到AI带来的便利，比如纳米AI搜索让信息获取效率提升数十倍，AI手机让生活更加便捷。
在教育领域，AI老师有望成为每个孩子的私人辅导，提供个性化学习计划。在医疗领域，AI正助力药物研发和精准诊断，预计到2032年AI药物研发市场规模将突破205亿美元。
面对AI带来的变革，专家建议普通人需要掌握AI相关技能，比如成为AI训练师等新兴职业，这将成为未来就业市场的重要方向。同时，也要理性看待AI发展，既不应因技术不完美而轻视，也不应因担心失业而恐慌。AI作为人类的伟大发明，最终目的是提升人类能力、挖掘潜能。
正如苹果CEO库克在论坛上所言，中国在AI领域充满活力，国际合作是推动AI健康发展的重要途径。面对AI带来的机遇与挑战，只有通过全球合作与有效治理，才能确保这一强大技术造福全人类。