前言：
2025年，AI撕裂数据与实体的边界，量子计算探索物理规则的边缘，绿色科技重塑增长的伦理，低空经济、机器人、大模型打开科技跃迁的大门。
在这个大背景下，中国企业需要以智慧为坐标，穿透技术、组织与商业模式的“三重结界”，在数字与实体的纠缠中锻造新物种。在这背后，是一群技术兴国的信奉者，产业跃迁的掌舵人、商业社会的洞察者、认知边界的拓荒者，这些企业家永远走在创新的前沿。
与智者同行者，必将率先触摸未来；与AI共振，终将定义下一个纪元。
我们邀请了多位国内外顶尖创新与商业领袖，人工智能链主和龙头创新企业，共同展望2025产业发展、技术创新以及战略性新兴产业发展的前景。
此文为融中特别策划·《2025向新·AI未来》系列报道第十六篇。
在人工智能产业蓬勃发展的浪潮中，AI安全问题日益凸显，成为制约行业发展的关键因素之一。
瑞莱智慧（RealAI）作为国内领先的AI安全企业，自2018年依托清华大学人工智能研究院成立以来，一直专注于AI安全技术研发与应用落地，致力于构建安全、可信、可靠的人工智能生态。公司通过打造大模型安全基座和AI伪造内容检测基座，为AI应用提供全方位的安全保障，已在基础设施、政府、金融等多个领域实现商业化落地，服务众多头部企业。
随着大模型技术的快速发展，AI安全的重要性愈发凸显。瑞莱智慧凭借其深厚的技术积累和创新能力，第一时间对DeepSeek等前沿技术进行安全评估，并推出RealSafe-R1系列大模型，显著提升了模型的安全性。公司合伙人、高级副总裁朱萌在采访中指出，未来三年瑞莱智慧将持续加大在大模型安全领域的科研投入，完善AI安全基础设施，为行业树立示范样本。
本次，融中财经与瑞莱智慧合伙人、高级副总裁朱萌围绕产品核心竞争力以及行业前景等话题展开讨论，以下内容为融中财经整理。
融中财经：贵司所处AI产业链条哪些关键环节、市场格局如何，具备哪些技术/产品优势等。
朱萌：我司处于AI产业中独特且关键的一环——AI安全。从全球角度来看，目前AI安全产业仍处于早期阶段，美国在前瞻性、技术原创性等方面领跑，中国凭借应用场景和政策等方面优势快速追赶，欧洲强调合规牵引。从人工智能全产业链的布局来看，AI安全的技术研发和市场投入呈现明显的区域分化：美国以绝对优势领跑全球，中国和欧洲则凭借差异化路径紧随其后。公开数据显示，美国AI安全领域投融资规模约占全球六至七成，超过中欧总和。
随着大模型浪潮的汹涌来袭，AI的应用领域和能力得到了极大的拓展。各行各业都在寻求通过AI技术提升运营效率、创新服务式，满足市场和消费者的新需求。大量的AI应用需求，面临着全新的安全风险，安全事件呈现指数级增长。据我们观察，2023年、2024年，国内外基于AI的深度伪造诈骗案件数量和涉案金额屡创新高。
自创立以来，瑞莱智慧深耕安全、可信、可靠和可拓展的第三代人工智能，通过构建大模型安全基座、AI伪造内容检测基座等，赋能新质生产力建设。团队坚持源头创新和底层研究，实现对AI大模型研发部署和应用治理环节全覆盖，建立了包括基础算法平台层、底层资源层、应用层的全方位AI安全体系，已成为通用人工智能全产业链条安全标准的制定者和践行者。
大模型安全基座基于博弈对抗技术打造，能针对当前大模型幻觉、输出有害内容等风险做出综合有效的自动化可控性评测，并可以通过知识嵌入、领域能力增强、模型围栏等手段，使模型在严肃场景的表现更加可控。针对对抗样本攻击、模型后门攻击、数据逆向攻击等人工智能特有的安全挑战，可提供端到端的AI红队对抗安全性测评，并提升模型抗攻击能力。基于该安全基座，可直接面向严肃场景打造更加可控的行业大模型系统应用，实现大模型落地。
AI生成内容检测基座基于贝叶斯深度学习技术开发，能够精准判断图像、视频、音频、文本等各类内容是否由人工智能生成，防止虚假信息的广泛传播，同时能够满足人脸识别等需要可信内容输入的场景需求，涵盖互联网AIGC内容标注、多媒体AIGC合成鉴定、人脸识别系统防AIGC攻击、AIGC文章检测等功能，可遏制因人工智能被恶用、滥用所带来的不良影响。
基于基础通用人工智能安全能力和丰富的行业落地经验，我们开发了更加安全、可控的行业解决方案，成功在基础设施、政府、金融等领域实现快速的产品化和商业化落地，已服务多个国家部委以及中国银联、中国建设银行、华为等300余家头部企业，政策大模型在北京市上线使用，累计获得近百项国家级奖项和荣誉。
融中财经：随着这两年大模型的快速发展，特别是Deep seek爆火，您对公司发展有了哪些新的想法？近三年战略路径是？
朱萌：高水平安全是高质量发展的前提保障。预训练大模型通常在海量的数据上采用自监督/自回归等方式训练参数量巨大的模型，但其算法原理上仍然主要采用深度学习技术，因此也会存在和深度学习类似的安全性问题。除此之外，预训练大模型还存在幻觉、滥用等新型安全性问题，给人们带来潜在的安全威胁。
今年初，DeepSeek横空出世，一跃成为全球科技创新的顶流，团队第一时间对其进行了深层次、多维的安全评估。经我们研究发现，DeepSeek R1在多项指标中表现惊艳，但与其他开源大语言模型相同，抵抗越狱攻击的能力可以进一步提升。为此，我们基于此前提出的STAIR框架，对DeepSeek-R1系列模型进行后训练，正式推出RealSafe-R1系列大模型，安全性大幅提升，优于国际上被认为安全性较好的闭源大模型Claude3.5、GPT-4o等。随后我们也第一时间，将RealSafe-R1系列大模型开源，为DeepSeek生态添砖加瓦。
大模型在安全可控上的不足，是当前无法更广泛落地应用的根本原因。用在真实场景里，必须解决安全、可靠、可控这些问题。以DeepSeek为代表的大模型爆火现象，更坚定了我们坚持AI安全方向的初心、决心和信心。
特别是大模型安全与治理仍然面临诸多威胁与挑战。主要原因有：一是大模型的信息数据来源广泛复杂，本身多元化的内核增加了治理的难度与复杂性；二是大模型信息数据量级庞大，对于侵权、有害、不实等信息鉴别难度更大；三是大模型生产出的信息内容质量良莠不齐，一些错误的信息可能被盲目信赖并传播。目前大模型已应用到生产生活的各个领域，如聊天机器人、音视频创作等。随着AI技术的快速发展，公众对于个人隐私保护与伦理道德安全问题关注也达到前所未有的高度。大模型的发展将会给网络安全环境带来深刻影响与变革，随着技术的更迭，未来可能会产生一些新的安全攻击手段与漏洞。
我们认为，应当更前置全面考虑大模型的安全问题，防御思路从“被动”变为“主动”，因此瑞莱智慧计划在未来三年持续加大大模型安全方面的研发投入，进一步完善AI安全基础设施，为行业树立示范样本，也为大模型深度赋能千行百业铺就坚实基础。
融中财经：AI底层技术的“长周期、高风险”研发特征下，企业该如何平衡市场需求与技术创新的投入？贵司近两年研发投入如何？地缘政治带来哪些影响吗？
朱萌：坚持长期主义，才能穿越周期。安全永远是刚需，是发展的前提保障。市场需求与技术创新的平衡，可以通过不同产品、不同场景来布局。在我们的产品矩阵中，有已经应用的非常成熟、广泛的产品，也有较为远期产品在研究布局。例如：基于AI安全与应用平台，为严肃场景打造了更加安全可控的垂类大模型；基于AIGC检测平台，研发了多款AI滥用治理产品，帮助大家用AI对抗AI。同时，为确保AGI的安全发展，瑞莱智慧也在进行前沿探索，例如超级对齐平台。尽管外部环境波动，我司仍坚定强化研发壁垒，近两年投入研发资金持续增加，占比始终维持在战略级高位。
融中财经：对比中美AI底层生态，您认为目前国内处于何种状态？随着AI产业的快速发展，中国创新企业，实现国产替代弯道超车的突破口在哪里？
朱萌：以应用需求为牵引，全速追赶中。部分领域水平接近美国，为作为中国创新企业的一员，我们正在利用中国优势（场景数据+政策市场+极限降本）疾步前行，探索突破口。
融中财经：AI系统的性能往往高度依赖于数据规模和质量。虽然无监督学习和强化学习在一定程度上缓解了对标注数据的依赖，但大多数应用仍需庞大的数据集进行训练。如何确保数据的高质量应用？如何在确保AI性能的同时，有效保护用户隐私和系统安全？
朱萌：数据不仅是人工智能的燃料，更是人工智能竞争的关键要素。瑞莱智慧在创业初期，就已将数据质量和数据安全作为探寻安全通用人工智能的重要基石，不仅打造了数据安全基础设施产品——隐私保护机器学习平台RealSecure，还针对通用大模型的安全性问题构建了高质量数据集。该数据集经过数十位价值观领域的专家论证，以确保输入的数据无误，质量高且领域多元。可以“多管齐下”保护用户隐私及系统安全，例如：建立全生命周期数据管理制度，实施分级分类管控；模型训练和推理阶段，进行主动防护；合理使用隐私计算技术，实现数据“可用不可见”。