前言
8月19日，香港《南华早报》披露一则重要动态：成都飞机设计研究所高级工程师张先哲——歼‑20主力研制骨干、歼‑36第六代战机核心研发成员之一，于6月20日在中文核心期刊《情报理论与应用》发表学术论文，首次系统揭示生成式人工智能在军事情报生成中的结构性失真风险，特别指出大模型幻觉可能伪造关键装备参数，严重削弱态势感知精度，诱发战略级误判。
6月20日，这篇出自我国顶尖航空科研机构一线技术专家之手的警示性论述，在全球防务研究界迅速引发深度共鸣与持续热议。
作为我国第五代隐身战斗机歼‑20的诞生摇篮，同时也是第六代空天作战平台歼‑36关键技术攻关主力单位，成都飞机设计研究所此次以学术论文形式公开发声，直击当前人工智能军事应用中最隐蔽也最危险的软肋：大模型并非偶尔“口误”，而是存在系统性虚构倾向；其输出的虚假武器性能指标、作战边界数据与体系对抗参数，若未经甄别即进入装备论证流程，将扭曲技术路线选择，动摇作战概念根基，极端情形下甚至可能触发非预期性战略误动。
公众常以为AI编造信息不过是网络段子，一笑而过；但在国防科技工业体系中，每一条参数、每一帧遥测、每一份敌情简报，都承载着国家资源投入与战略安全权重。
从新型战机气动布局验证，到全域威胁建模推演，再到联合作战想定生成，所有环节均依赖高保真情报支撑。当大模型以高度拟真的语言风格输出伪造的雷达探测包络、电子对抗响应阈值或高超声速导弹末端机动包线时，极易误导专业人员判断，引发设计偏差、试验失败、战法失效等多米诺式后果——这正是前线航空工程师主动亮起红灯的深层动因。
什么是大模型幻觉？放到军工领域有多可怕
所谓大模型幻觉，是指人工智能在缺乏真实训练依据的情况下，凭借统计规律与语义连贯性，自动生成表面严谨、逻辑自洽却完全背离物理现实与作战常识的虚假信息。它并非程序缺陷，而是当前主流架构在知识表征与因果推理层面的根本性局限。
这类系统并不具备对电磁频谱传播特性、飞行器热力学约束或防空系统交战规则的内在理解，仅能基于文本共现模式进行概率化拼接。面对涉密程度高、公开资料少、技术细节密的尖端军事课题，其知识库出现显著空白，随即启动“合理虚构”机制，产出看似专业实则全盘杜撰的内容。
一旦嵌入战机研制全流程，此类失真效应将呈指数级放大：项目立项阶段需精准刻画假想敌预警探测能力、拦截火力覆盖纵深与多域协同响应节奏，这些输入条件直接决定我方战机的RCS控制目标、航电任务系统架构、超音速巡航续航裕度及分布式作战节点配置策略。
据论文实证分析，大模型可完整虚构出隐身平台翼展尺寸、内部弹舱容积、主被动复合制导武器挂载方案、X波段相控阵雷达瞬时带宽、以及远程空空导弹动能杀伤区三维包络等全套技术指标，数值设定符合工程量纲规范，图表呈现具备专业视觉特征，非本领域资深人员极难识别其本质为算法臆造。
倘若研发团队在前期论证中轻信此类输出结果，将导致整条技术路径建立在沙丘之上：按错误威胁画像开展总体设计，完成结构强度校核与飞控律开发，制造原型机并组织试飞验证后，才在实测中暴露隐身效能不达标、电子对抗压制失效、超视距交战窗口严重缩水等问题，不仅造成数以十亿计的资金沉没，更会拖慢整个型号服役进度达三至五年之久。
风险维度远不止于装备研制链条，在战术情报融合、战役级兵棋推演、联合火力分配等关键环节，由大模型生成的虚假部队部署图、异常电磁信号源定位、模拟打击毁伤评估报告，若被纳入指挥信息系统辅助决策模块，将导致战场态势感知失真、作战资源错配、应急响应延迟。
现代高强度对抗环境下，决策窗口以秒计，容错率趋近于零。一条伪造的敌方预警机巡逻轨迹，可能触发我方防空系统过早开机暴露阵地；一组捏造的舰艇编队电子特征，或将诱导反舰火力指向错误坐标。工程师反复强调的核心关切正在于此：AI幻觉所引发的不是文档瑕疵，而是现实空间中不可逆的国家安全代价。
人工智能军工不是全盘否定，人机校验才是底线
由此引出一个关键疑问：如此严峻的风险是否意味着应全面叫停人工智能在国防领域的应用？答案是否定的。论文作者立场清晰——反对的是对算法输出的无批判接纳，而非否定技术本身的价值。
必须承认，大模型在海量军事文献智能解析、多源异构情报自动标引、历史战例数据库结构化重建、外军装备发展脉络图谱生成等方面展现出无可替代的效率优势。它能将情报分析师从日复一日的信息筛选中解放出来，使航空工程师得以聚焦于气动优化、材料工艺与系统集成等真正需要人类智慧突破的硬核环节。效率提升值得肯定，但绝不能以牺牲事实锚点为代价。
放眼全球，人工智能军事化进程正加速推进，美国国防部已启动“复制者计划”构建专用军用大模型底座，北约多国联合开展AI赋能指挥控制系统试验，然而其内部评估报告屡次警示：现有生成模型在战术级情报生成任务中幻觉发生率高达37%，明确要求所有AI输出结论必须经三级人工复核方可进入作战流程。
我国航空科研人员提出的应对路径兼具科学性与实操性：人工智能定位必须严格限定为“增强型助手”，而非“决策替代者”。任何涉及装备性能、威胁评估、作战规则的关键结论，无论表述多么严密、数据多么翔实、图表多么规范，均须执行“三重验证”铁律——对照原始档案逐项溯源、比对实测数据库交叉印证、结合物理仿真环境动态检验。
机器负责高速处理与模式挖掘，人类负责价值判断与真相守门。唯有确立这一分工原则，才能让技术红利真正服务于国防能力跃升，而非成为潜在风险源。科技演进从来不是单向狂奔，越是前沿领域，越需敬畏规律、尊重事实、筑牢防线。
民用场景中AI出错尚可修正重来，而在国防安全维度，一个毫米级的气动参数偏差，可能关联数十亿元研发投入；一组失真的雷达截面积估算，或将影响未来十年空中力量格局。
歼‑36项目核心研发人员此次以学术方式发出预警，其意义早已超越单一技术讨论——它是一记振聋发聩的时代叩问：当生成式AI日益渗透国家命脉行业，我们是否已建立起与之匹配的审慎机制与责任体系？
工具再锋利，终究需要持握者清醒；算力再强大，也无法替代人的理性与良知。唯有坚持人工终审、多重校验、闭环追溯，方能在智能化浪潮中稳握方向盘，让人工智能真正成为捍卫国家安全的坚实臂膀。
结语
人工智能是高效利器，但绝非决策主体；大模型以权威口吻生成虚假军事数据的现象真实存在，且已在多个试验环境中得到复现验证。一旦此类信息渗入装备研制、情报研判或指挥控制任一环节，轻则导致技术路线偏移，重则引发战略误判，其影响跨越工程周期与地理疆界——这不仅是对中国军工体系的提醒，更是面向全球军事智能化进程的重要警示：在关乎国家存续的领域，安全冗余永远优于效率优先，人类把关永远重于算法自信。