近日，人工智能安全基础设施提供商瑞莱智慧（RealAI）宣布完成新一轮战略融资，北京市人工智能产业投资基金等参与投资。本轮融资完成后，瑞莱智慧将继续加速通用人工智能安全基座产品研发，并不断推进安全可控的大模型商业化落地。
随着全球范围内最大规模的人工智能浪潮掀起，人工智能的可控性和安全性成为愈发重要的发展议题。如今，人工智能大模型的通用性和泛化性大幅提升，应用也从传统的判别式任务走向生成式任务，而人工智能的内生及衍生安全问题变得愈加复杂，其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当下，人工智能安全不仅要解决数据风险，模型本身的幻觉、鲁棒性不足和不可解释性等技术问题，还要着力减少伦理风险、价值观对齐风险，以及AI诈骗等滥用行为导致的影响。
2018年7月，瑞莱智慧依托清华大学人工智能研究院发起设立，始终深耕安全、可靠、可控的第三代人工智能，着力打造人工智能安全基础设施，提供以AI安全为核心能力的AI平台产品与行业解决方案，为人工智能技术安全、可靠、可控的落地应用筑就坚实基座。秉持着“智能向善”的使命，瑞莱智慧坚持源头创新和底层研究，实现对AI大模型的研发部署和应用治理环节全覆盖，建立了包括基础算法平台层、底层资源层、应用层的全方位AI安全体系，已成为通用人工智能全产业链条安全标准的制定者和践行者。
目前，瑞莱智慧已推出“大模型安全基座”与“AI生成内容检测基座”两条产品线，分别对应人工智能内生与衍生安全风险。
大模型安全基座基于博弈对抗技术打造，能针对当前大模型幻觉、输出有害内容等风险做出综合有效的自动化可控性评测，并可以通过知识嵌入、领域能力增强、模型围栏等手段，使模型在严肃场景的表现更加可控。针对对抗样本攻击、模型后门攻击、数据逆向攻击等人工智能特有的安全挑战，可提供端到端的AI红队对抗安全性测评，并提升模型抗攻击能力。基于该安全基座，可直接面向严肃场景打造更加可控的行业大模型系统应用，实现大模型落地。
AI生成内容检测基座基于贝叶斯深度学习技术开发，能够精准判断图像、视频、音频、文本等各类内容是否由人工智能生成，防止虚假信息的广泛传播，同时能够满足人脸识别等需要可信内容输入的场景需求，涵盖互联网AIGC内容标注、多媒体AIGC合成鉴定、人脸识别系统防AIGC攻击、AIGC文章检测等功能，可遏制因人工智能被恶用、滥用所带来的不良影响。
基于强大的基础通用人工智能安全能力和丰富的行业落地经验，瑞莱智慧开发了更加安全、可控的行业解决方案，成功在基础设施、政府、金融等领域实现快速的产品化和商业化落地，已服务多个国家部委以及中国银联、中国工商银行、中国建设银行、华为等300余家头部企业，服务政策大模型在北京市上线使用，累计获得近百项国家级奖项和荣誉。
瑞莱智慧CEO田天博士表示：“大模型在安全可控上的不足是其当前无法广泛落地应用的根本原因，而人工智能不安全的开发和使用，则可能给人类的发展乃至生存带来灾难性的后果。相比过往其他领域的安全问题，人工智能安全风险更加本质也更加难克服。”
未来，瑞莱智慧将发挥前沿引领者角色，持续关注世界范围内出现的前沿人工智能安全风险挑战，沉淀技术能力和实践经验，进一步创新和完善产品功能，加深立体化产品体系建设和产业化建设，为“人工智能+”赋能全行业全场景提供坚实安全保障。瑞莱智慧也将不断推动通用人工智能安全能力的基础设施化建设，与智算中心等算力基础设施深度融合，护航中国通用人工智能高质量发展，加速中国人工智能产业向国际领军地位迈进。