AI 资产盘点:场景案例

AI 资产盘点:场景案例

Written By
技能练习生
技能练习生

从一片混乱到一张表格

某科技初创公司的运营主管小王最近压力很大。公司各部门为了提效,私下引入了十几个 AI 工具,从代码辅助到客服机器人,五花八门。老板问起:“咱们满足欧盟 AI 法案的要求吗?”小王一时语塞。

他试着开启了 AI 资产盘点,先用 /ai-inventory add 把这十几个工具的大名和用途通通登记在册。接下来,他花了两个下午,带着各个部门的负责人逐一运行 /ai-inventory classify。结果让他松了一口气:大部分客服辅助工具属于“最小风险”,只有两款自研的评分插件落入了“高风险”区间。看着最终生成的那张整齐的横向清单,小王不仅给了老板一个肯定的答案,还为那两款高风险产品精准勾勒出了接下来的合规路线图。

别让高风险变成假想敌

HR 团队的负责人李姐听说欧盟法案对人力资源领域的 AI 工具管得很严,甚至可能导致罚款,吓得打算直接停用那套刚上线半年的智能面试助手。法务建议她在做决定前先过一遍正式的资产盘点。

在进行分类判定时,系统通过一系列针对性的提问,确认了该助手仅用于“初步沟通和面试预约”,并不涉及“评估、筛选或绩效考核”。根据法案 Annex III 的细分条款,这个原本被李姐视为“雷区”的系统,最终被判定为“有限风险”而非“高风险”。风险等级降下来的同时,对应的合规义务也变得简单清晰,李姐悬着的心终于落地,面试助手也得以继续留在岗位上发光发热。

当开发者变成提供者

研发经理老张带队基于一个开源大模型做了深度定制,开发了一套内部用的知识库问答系统。最初登记时,他认为公司只是这个系统的“部署者”,因为模型底子是别人的。但只要涉及对模型进行实质性修改,或者是以自有品牌提供服务,身份就会发生变化。

老张意识到,由于他们对模型进行了精细化的微调并改变了原有的响应逻辑,根据法案 Article 25,他们的身份已经从纯粹的使用者变成了实质提供者。这意味着公司需要承担起文档记录、质量管理等一系列更重的责任。因为及时的盘点和身份确认,老张在项目正式上线前就补齐了必要的技术文档,避免了后续可能出现的巨大合规漏洞。