亚马逊:AI模型须经严格测试确认安全后才能发布
9月18日,据彭博社报道,亚马逊认为,AI模型必须经过严格测试,确认具备足够的安全保障后才能发布。此前,多家顶尖AI实验室因安全问题呼吁放缓AI研发速度,亚马逊也由此加入了这场围绕AI发展节奏的讨论。
亚马逊发言人汤姆·帕内尔在邮件中指出:“我们不认为进步与安全只能二选一。模型只有在准备充分、能够安全使用时才应该发布,而这离不开严格测试和强有力的安全保障。如果整个行业不能共同做到这一点,就会产生风险。我们相信,整个行业会与政府合作,制定适当的保护措施。”帕内尔坦言,当下的AI已能为客户创造实实在在的价值,因此把“这件事”做好非常重要。
亚马逊既是OpenAI、Anthropic等领先AI企业的合作伙伴,也是投资者。亚马逊也在开发自己的大语言模型,不过通常不被视为OpenAI、Anthropic和中国头部AI企业最强产品的直接竞争对手。与此同时,亚马逊云科技还向AI行业提供算力和基础设施管理工具。