国安部：AI工具可能泄露个人信息，成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引

今天，“国家安全部”公众号发文提醒警惕AI助手的“阴暗面”！

AI技术中的“深度伪造（Deepfake）”能力是“深度学习”与“伪造”的结合，该技术用于影视、游戏、广告等行业，可创作出更多逼真、有趣的虚拟角色和场景，翻新娱乐体验。然而，一旦被滥用或恶意使用，将给个人合法权益、社会稳定和国家安全带来诸多安全风险和挑战。

国家安全机关工作发现，

某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播，误导舆论、制造恐慌，对我国家安全构成威胁。

AI的学习和决策过程依赖于大量的数据，决定了AI工具可能收集并存储用户输入的信息。据公开报道，因开源库发生故障，某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息，造成个人信息泄露。

如果不注意防范，相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，造成国家安全风险隐患。

AI算法注重知识的重组、创造和输出，如果人为对其进行有偏见性的数据导入和算法重构，可能会演变为偏见性意识形态输出，成为境外反华敌对势力煽风点火的重要武器。特别是在社会热点事件的前期，因事件自带流量，在情况尚不明朗、公众情绪累积时，AI生成的谣言往往“趁虚而入”，炮制虚假信息，误导公共舆论，造成恶劣影响。

国家安全机关工作发现，

个别西方国家和境外势力通过批量操纵账号，在社交媒体大肆发布特定观点或情感化内容，妄图利用性别对立、劳资纠纷等议题，对我进行渗透破坏、污蔑抹黑，进而破坏我社会稳定。

安平，公众号：国家安全部

警惕！AI助手的“阴暗面”！

广大公民如发现可疑情况可及时通过国家安全机关举报受理电话12339、网络举报平台（www.12339.gov.cn）、国家安全部微信公众号举报受理渠道或直接向当地国家安全机关进行举报，共同汇聚起维护国家安全的钢铁长城。

▌

编辑：邵猛校对：杨荷放