警惕！AI助手的“阴暗面”！
数字化时代，人工智能（AI）正逐渐渗透到千行百业和日常生活中，推动经济社会高质量发展。值得注意的是，AI工具若被不法分子利用，会对我关键数据、基础设施、社会秩序造成损害，成为威胁国家安全的“隐形武器”。
虚假信息的“投毒者”
AI技术中的“深度伪造（Deepfake）”能力是“深度学习”与“伪造”的结合，人工智能的深度学习算法能够进行自动化的数据处理，从而实现图片、音频和视频的智能模拟和伪造。该技术用于影视、游戏、广告等行业，可创作出更多逼真、有趣的虚拟角色和场景，翻新娱乐体验。然而，一旦被滥用或恶意使用，将给个人合法权益、社会稳定和国家安全带来诸多安全风险和挑战。国家安全机关工作发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播，误导舆论、制造恐慌，对我国家安全构成威胁。
关键信息的“窃密者”
从简单的文字生成，到复杂的多模态创作，生成式AI的强大学习能力令人瞩目。AI的学习和决策过程依赖于大量的数据，决定了AI工具可能收集并存储用户输入的信息。据公开报道，因开源库发生故障，某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息，造成个人信息泄露。如果不注意防范，相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，造成国家安全风险隐患。
意识形态的“挑拨者”
AI算法注重知识的重组、创造和输出，如果人为对其进行有偏见性的数据导入和算法重构，可能会演变为偏见性意识形态输出，成为境外反华敌对势力煽风点火的重要武器。特别是在社会热点事件的前期，因事件自带流量，在情况尚不明朗、公众情绪累积时，AI生成的谣言往往“趁虚而入”，炮制虚假信息，误导公共舆论，造成恶劣影响。国家安全机关工作发现，个别西方国家和境外势力通过批量操纵账号，在社交媒体大肆发布特定观点或情感化内容，妄图利用性别对立、劳资纠纷等议题，对我进行渗透破坏、污蔑抹黑，进而破坏我社会稳定。
国家安全机关提示
面对人工智能技术发展带来的新机遇和新挑战，需要前瞻研判相关风险，提高国家安全意识和自我防范意识，共同筑牢维护国家安全的人民防线。
——提高法治思维。近年来，我国出台《生成式人工智能服务管理暂行办法》等部门规章，发布《人工智能安全治理框架》等，在法治轨道上加强人工智能治理。公民应主动学习相关法律知识，遵守相关产业标准、技术标准和行业规范，推动人工智能技术良性健康发展。
——加强宣传普及。多措并举加强公众对人工智能的认识与理解，提高公众对人工智能安全性的认识，提升对信息的辨识与分析能力，让公众了解在使用AI技术过程中可能面临的风险，提高警惕意识、绷紧防范之弦。
——增强辨别能力。对于人工智能生成的内容，应培养批判性思维，提高真伪信息的辨别能力，未经核实的内容坚决不迷信、不转发、不扩散。使用AI工具时，切勿将个人隐私信息、重要成果、涉密或未公开文件上传至AI平台；限制AI工具权限，禁止非必要应用获取个人通讯录、相册、地理位置等关键信息。
广大人民群众如发现人工智能服务提供者和使用者有任何危害国家安全和利益的行为或线索，可通过12339国家安全机关举报受理电话、网络举报平台（www.12339.gov.cn）、国家安全部微信公众号举报受理渠道或者直接向当地国家安全机关举报。
联华证券-浙江股票配资-官网股票配资-安全炒股配资网提示：文章来自网络，不代表本站观点。
