日本拟对高性能人工智能企业施加安全义务，违规将受处罚

日本政府正在研究是否向高性能人工智能（AI）服务提供商强制实施安全保障义务，并对违反政府命令的行为适用惩罚措施。目前该方案仍处于法律修订前的讨论阶段，具体的监管对象和处罚力度尚未确定。

根据日本内阁府11日公布的第二次制度审查工作组资料，构想中包含了要求经营者履行安全措施义务、向政府报告、赋予政府建议与命令权限，以及在违反命令时实施处罚等内容。这种规制并非对所有AI应用一刀切地适用。资料显示，工作组指出对于具有特定风险且性能达到一定水平以上的AI，可能需要引入法律监管；而对于其他风险或普通AI，则倾向于通过现有的法律法规和指南进行应对。

风险分类与性能标准

在此前的讨论中，AI的滥用和操作失误被列为主要的风险类型。此外，网络攻击以及化学、生物、放射性、核能和爆炸物（CBRNE）恐怖主义威胁也被纳入审查范围。关于性能标准的制定，有观点认为不应仅考虑算力，还应综合评估AI的能力及其可能造成的预期损害。

现有法律框架与新规衔接

日本的《人工智能法》已于2025年5月28日成立，并于同年6月4日公布并部分施行，9月1日起全面施行。内阁府发布的《人工智能法》概览主要旨在指引法律实施的日程安排。当前工作组的重点在于讨论是否需要在现行制度基础上，增加经营者的义务条款以及政府的执行手段。

监管范围与责任界定

监管对象的范围也是当前的争议焦点之一。工作组在优先审视经营者监管的同时，正在探讨应将义务施加于研发还是服务提供阶段。与此同时，AI使用者的责任问题将与经营者监管区分开来另行讨论。

惩戒程序与平衡考量

针对违规行为的惩戒程序被设计为分阶段推进：从报告、建议到命令，最终延伸至处罚。在前次会议上，也有意见提出，在涉及国民安全的紧急情况下，可直接适用命令或即时处罚。不过，这仅是众多意见中的一种，并不代表制度的最终定案。

与会者还强调，必须兼顾监管的有效性与经营者的负担能力。即使信息公开需要法律依据，也必须保护商业秘密并避免给企业带来过重负担。另有观点指出，不应将原本可以通过现有法律规范的行为重复列入《人工智能法》中进行规定。

国际协调与企业参与

会议还整理了相关意见，主张应确保规则对海外运营商具有实际效力，避免责任过度集中于日本本土企业。未来在确定监管对象和义务范围时，也将充分考虑对海外运营商的执行可行性。

在11日举行的工作组听取意见会上，Anthropic Japan、Google、OpenAI Japan、NTT、Sakana AI以及SB Intuitions等企业代表参与了交流。听取内容涵盖了企业对网络攻击等AI风险的认知、各自采取的安全措施，以及对法定义务与自主指导方针的意见。

据报道，日本政府计划在今年年底前公布包括法律修订内容在内的制度改革整体方案。