16日，首尔市江南区威斯汀首尔帕纳斯酒店聚集了60多名韩国企业高管，其中包括首席信息安全官等。邀请他们的并非安全企业，而是美国人工智能企业开放人工智能。开放人工智能在此介绍了利用人工智能发现安全漏洞、进而提出修复方案的防御体系“破晓”。
原本销售聊天机器人的人工智能企业，正成为网络安全市场的主角。Anthropic推出了能够发现并修复源代码漏洞的“克劳德安全”，谷歌推出了仅向通过审核的机构开放安全专用人工智能的“顺风”。韩国企业也在行动。三星SDS和安全企业S2W加入“破晓”计划，白帽黑客企业Theori加入开放人工智能和Anthropic的项目。SK电讯与Upstage则于8日同安博士等成立自主人工智能安全协商机制。
如此急迫，原因十分明确。作为攻击者的黑客，已经利用人工智能不停试探安全漏洞。在开发者分享代码的网站GitHub上，以开源形式发布的人工智能模拟攻击工具，任何人都能下载并用作攻击武器。本报实际将被指用于本月初金融业黑客攻击的那款工具，应用于测试服务器，结果不到一分钟便攻破。这种速度，人工已无法抵挡。如今，防守一方也必须使用同样的人工智能工具，抢先找出自身漏洞。
然而，法律仍停留在依靠人工检查的时代。《信息通信网法》第48条第1款规定：“任何人不得在没有正当访问权限，或超出获准访问权限的情况下侵入信息通信网络。”法律中没有免除善意安全检查责任的条款。
当然，企业检查自身系统或获得许可的客户系统时，现在也可以使用人工智能。安全协商机制和“破晓”都在这一范围内开展工作。然而，攻击者无论面对合作企业还是外部接口，都会从能够突破的地方侵入。模拟攻击的价值就在于预先走一遍这些路径，但人工智能自行寻找路径时，往往会越过授权边界。即便出于防御目的，一旦越界也会构成犯罪，因此越想按照实战方式开展检查的企业，越受束缚。
政府也清楚这一缺口。在今年首次开展的漏洞报告试点项目中，仅针对七家民间单位和八家公共单位的指定系统，允许已注册的白帽黑客利用人工智能尝试突破，报告后不追究责任。但免责范围仅限这15家单位。将免责扩大至所有企业和机构的制度建设，要到2027年才开始。政府谨慎的理由是，漏洞公开可能损害企业形象，检查过程中也可能泄露个人信息。
政府的安全专用人工智能模型也到9月才启动开发，明年才能使用。科学技术信息通信部15日在国会科学技术信息广播通信委员会国政监查中，也承认“确实有些晚了”。16家金融机构遭攻破后，金融监管部门提出的对策，核心也是从大型机构开始，将每年一次的漏洞检查增加至每年至少两次。人工智能检查基础设施建设仍只是没有具体时间表的推进事项。在人工智能不停扫描漏洞的时代，却只是增加人工检查次数。
同一场国政监查中，有人指出：“攻击者使用最先进人工智能这支矛，防守者却还拿着20世纪的旧盾牌。”事实上，新盾牌已经出现，只是缺乏拿起它的法律依据。应首先抓紧在法律中加入善意安全检查免责条款，并使试点项目常态化。
评论 (0)