AI安全危机加剧ChatGPT卷入恐怖事件背后的深层隐患

　　新年伊始，一则震惊的消息让科技界哗然：ChatGPT竟然成为了恐怖阴谋的工具。美国一名现役军人利用AI的爆炸知识，成功引爆了一辆特斯拉Cybertruck，场面显得如同科幻片一般，却是AI安全隐患的真实写照。

　　知名投资人Rob Toews在其专栏中指出，到2025年我们将可能目睹首个真实的AI安全事件。显然，AI已不再是激动人心的未来科技，而是我们生活中的危险游戏。AI的威胁正如Rob所形容的那样，跟人类一样难以预测、充满变数，且极具欺骗性。

　　与此同时，北京智源研究院发布的2025十大AI技术趋势中，AI安全显然成为了非常关注的第十大趋势，强调模型能力与风险预防必须并重。报告说明，复杂系统带来的行为涌现和循环反馈特性，挑战传统的安全防护机制。基础模型慢慢地加强的自主决策能力，带来了失控的潜在风险，对此，技术监管的改革迫在眉睫。

　　在过去的一年中，AI大模型不仅跨越式发展，更向我们展示了安全的脆弱性。研究显示，AI安全风险大致上可以分为三类：内生安全问题、衍生安全问题和外生安全问题。内生问题如数据泄露和决策黑箱等，都是大模型的根本缺陷，这些缺陷让AI既强大又难以控制。例如，AI可能在学习时“背诵”了用户的隐私数据，造成不可逆转的后果。

　　而衍生问题则是AI滥用后果的体现，假新闻、深度伪造等现象层出不穷，极度影响社会治理与信息真实性。比如，在某次地震事件中，即使是真实的照片，一旦被伪造和传播，公众很难辨别真伪。

　　此外，外生安全问题包括了传统信息安全领域的挑战，如网络攻击和数据泄露。2024年，企业上传到AI模型的敏感数据激增485%，数据安全的顾虑愈演愈烈。

　　面对这些迅速蔓延的安全风险隐患，科技行业各方已开始行动。在AI治理方面，中国已成为全世界最先对生成式AI进行规范的国家之一，近期发布的《生成式人工智能服务管理暂行办法》进一步明确了安全要求。同时，国内企业如智源、蚂蚁等，也在AI安全防御技术上取得了显著进展。

　　AI技术日新月异，安全问题也不断进化。2024年的AI安全治理将迎来新的探索，全世界内的合作与讨论，将是构建安全体系的关键。不论是拥抱AI带来的便利，还是抵御其潜在的风险，建立有效的安全机制，才能让AI在造福人类的轨道上行驶。

　　未来，我们或许将面对更为复杂的AI生态。无论是安全标准的建立，还是跨国协作的深入，AI安全治理将始终是科技行业无法回避的话题。唯有不断探索与实践，方能为深度智能时代筑起一道坚固的防线。返回搜狐，查看更加多