亚洲财经

☰ 搜索

AI模型在模拟测试中将平民和学校识别为军事目标

独立调查机构Vals对八家公司的AI模型进行了测试,包括Anthropic、OpenAI、Google和xAI,结果显示这些模型在模拟军事目标场景中,有时将平民、救护车、投降的士兵和学校识别为军事目标。Anthropic的Claude Opus 5.5在32次测试中有22次选择了伊朗Minab的一所学校,当被告知场景是游戏时,这一数字上升至23次。OpenAI的模型最初避免选择该学校,但在游戏框架下识别了9到13次。Anthropic承认这些场景违反了其政策。这项研究引发了对AI驱动的军事目标识别的严重担忧,尽管模拟并未评估实际军事行动或人类监督。