硅谷企业家加里·马库斯：现在所用的AI在技术和道德上都不完整
硅谷企业家加里·马库斯：现在所用的AI在技术和道德上都不完整
2024世界人工智能大会暨人工智能全球治理高级别会议（WAIC2024）于7月4日在上海开幕。在当天下午举行的国际电信联盟人工智能向善研讨会上，硅谷机器人创业公司Robust.AI首席执行官兼创始人加里·马库斯通过视频演讲，分享了他对如何确保人工智能安全可控使用的看法。
马库斯在论坛上进行视频演讲。 主办方供图
马库斯一直对生成式AI持批判态度，他认为仅靠深度学习无法实现类人智能，并经常在社交媒体上与AI知名学者展开辩论。在本次演讲中，他再次强调了当前AI技术的局限性。
"现在所用的AI在技术上和道德上都是不完整的（inadequate）"，马库斯表示，目前备受关注的生成式AI只是AI发展过程中的一个阶段，他将其称为"AI的草稿"（Rough Draft AI）。
马库斯将当前人们关注的通用人工智能称为“Rough Draft AI”
马库斯指出，AI系统通过分析全球统计数据来理解世界运行方式，但这并不等同于揭示真相。这种局限性导致了所谓的"AI幻觉"问题，即大语言模型看似聪明，却无法自我检查。多模态和影像学工具也无法根本解决这一问题。
此外，AI还存在偏见、抄袭等风险。ChatGPT等AI工具会根据统计数据生成多个答案版本，本质上是在重塑已有数据。这些技术缺陷使得AI在现实应用中存在诸多隐患，如虚假信息传播、市场操纵、诽谤、深度伪造、偏见歧视、隐私泄露和知识产权侵犯等。
针对这些风险，马库斯提出了多项政策建议。他认为，不能期待现有法律全面覆盖所有AI问题，也不应寻求单一解决方案。在全球范围内，需要快速敏捷的反应机制，同时确保透明度，进行全面统计、训练和内部测试披露。此外，还需要第三方机构进行发布后审计，以防止AI系统的误用和歧视。
马库斯强调，不应让大型科技公司主导AI发展方向，例如技术开源可能带来的风险需要谨慎评估。他指出，通用人工智能的发展并非迫在眉睫，当前的AI热潮很大程度上是硅谷炒作的结果。真正重要的是解决AI在现实世界中的实际问题。
马库斯认为，AI能力增长已出现放缓迹象，但仍有改进空间。要实现这一目标，需要从人类思维模式中汲取灵感，开发结合学习和推理优点的新一代AI系统。这可能需要几十年的时间，但最终目标是构建一个可学习、数据高效、可解释、可靠、可验证且基于事实的人工智能。