《AI就绪的大模型身份与访问管理AI-R-IAM V1.0》由启明星辰信息技术集团股份有限公司发布,聚焦大模型应用安全领域,阐述了大模型发展带来的安全挑战,以及AI-R-IAM的解决方案和应用前景。
1. 大模型发展与安全挑战:大模型技术发展迅猛,已从准备期历经成长期、爆发期,进入大规模应用期,广泛渗透至各行业,推动数字化、智能化转型。然而,其应用也带来诸多安全挑战,身份与访问控制方面,人类身份、AI Identity和非人类身份(NHI)存在安全隐患,如身份冒用、权限管理难、数据泄露等;数据安全方面,存在用户提示词输入输出风险、API调用风险、RAG知识库查询风险、数据投毒风险和合规风险等。
2. 身份与访问管理系统(IAM):IAM是确保数字环境中身份真实性和访问权限精确控制的框架,启明星辰基于此提出构建“一体化全程可信数字身份底座”理念,旨在实现从“单点可控”到多维度“一体化全程可信”的转变,为大模型安全应用奠定基础。
3. AI就绪的大模型身份与访问管理(AI-R-IAM):AI-R-IAM为大模型深度应用提供基础支撑,从身份、访问、行为、数据等维度构建一体化全程可信能力。可信身份治理聚合多种身份,进行全生命周期管理并采用先进认证机制;可信权限管理实现多场景精细化权限控制;可信数据管理保障数据全流程安全;可信行为审计通过多种技术实现对大模型使用行为的审计和风险追踪。
4. 应用场景:AI-R-IAM在多种场景发挥关键作用。用户访问大模型场景中,针对普通用户访问公域、私域大模型以及运维人员访问私域大模型,提供身份认证、权限管理和安全审计等功能;应用访问大模型场景下,实现业务身份管控、权限管控和行为审计;用户-AI智能体安全应用管理场景里,确保全链路身份可信,降低威胁面,进行关联审计与监管,防止训练数据泄露。
5. 发展趋势展望:未来,AI-R-IAM将在身份欺诈领域实现技术飞跃,借助大模型构建精准身份行为模型,实时感知异常。在网络安全方面,结合大模型智能分析能力与零信任架构,实现主动防御。此外,还会与量子计算、物联网安全、5G/6G等新兴技术深度融合,适应新的安全挑战,为大模型应用和数字经济发展筑牢安全防线 。