霍金警告：AI可能毁灭人类？我们该怎么办？

霍金警告：AI可能毁灭人类？我们该怎么办？

“强大的人工智能的出现，可能是人类历史上最好的事情，也可能是最糟糕的事情。”——史蒂芬·霍金

自2023年ChatGPT推出以来，人工智能技术以前所未有的速度发展。OpenAI最新推出的Sora工具，能够创建高度逼真的短视频，展示了AI在内容生成领域的惊人潜力。而在上海世界人工智能大会上，来自全球的专家和企业代表展示了AI在城市管理、智慧交通、气象预报等领域的最新应用，描绘了一个充满科技感的未来城市图景。

然而，随着AI技术的快速发展，其潜在风险也日益凸显。清华大学国际安全与战略研究中心副主任肖茜指出，AI的双重用途和中美之间较低的信任度，使得建立共识面临挑战。尽管如此，中美两国已同意建立政府间AI对话机制，计划于今年春季举行首次对话，这表明国际社会已经开始重视AI治理问题。

在实际应用中，AI带来的风险不容忽视。同济大学教授吴志强提出了“HAI主义”（人机合作主义），强调人机协作的重要性，并提出了相互帮助、透明、安全和道德发展等原则。这反映出学术界对AI过度依赖可能带来的问题的担忧。

从投资角度来看，AI带来的伦理风险和监管不确定性已成为投资者关注的重点。全球AI政策和监管活动虽然活跃，但进展不均衡。不同司法管辖区的监管方法缺乏统一性，一些国家甚至在ChatGPT推出前就已制定相关法规。随着AI技术的普及，许多监管机构需要更新和扩展其现有工作。

面对这些挑战，专家建议投资者重点关注透明度和可解释性。AI涉及一系列技术，旨在以类似人类的方式执行通常由人类完成的任务。这包括生成式AI（涵盖视频、语音、文本和音乐等内容生成）以及专注于自然语言处理的大规模语言模型（LLM）。

在应对AI风险方面，上海科技馆馆长倪民靖提出，通过数字化创新技术如Sora和GPT-4o，可以增强教育功能和参观体验。上海市气象信息与技术支持中心主任赵阳介绍了利用AI和大数据开发城市天气预报矩阵，以提高城市风险管理能力。上海申通地铁集团技术中心副主任刘昀则展示了智能城市轨道交通系统，该系统使用AI分析乘客需求，优化地铁运力，缓解高峰时段压力。

巴西城市部的Vagner De Carvalho Costa分享了巴西国家创新和可持续城市发展策略，旨在创造就业机会、提高服务效率和减少不平等。瑞士巴塞尔的Lukas Ott则介绍了巴塞尔“智慧城市实验室”项目，展示了AI在城市规划、基础设施优化和可持续发展中的作用。

总体而言，虽然AI确实存在潜在风险，但通过建立国际对话机制、加强伦理监管和推动技术创新，人类有能力引导AI向有益于社会的方向发展。正如霍金所言，AI可能是人类历史上最好的事情，关键在于我们如何管理和控制这项技术。