谷歌OpenAI等14家公司成立安全AI联盟
百度 2024-07-19 11:23:57 阅读：
全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业，于7月18日在阿斯彭安全论坛上正式宣布成立了安全人工智能联盟（CoSAI）。
该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办，作为一项前瞻性的开源计划，CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台，通过提供详尽的指导手册与高效工具，助力他们设计出更加安全可靠的人工智能系统。这一举措不仅促进了行业内知识与技术的交流共享，还为构建安全的AI生态系统奠定了坚实的基础。
CoSAI聚焦于三大核心目标：一是深入挖掘并推广人工智能安全的最佳实践，为行业树立标杆；二是积极应对人工智能领域不断涌现的新挑战，确保技术发展的稳健前行；三是全面保障人工智能应用的安全性，为用户和社会带来福祉。
在具体实施层面，CoSAI的工作范围广泛而深入，涵盖了从人工智能系统的安全构建、无缝集成、高效部署到稳定运行的全过程。
尤为重要的是，联盟将重点聚焦于降低一系列潜在风险，包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等，这些威胁不仅威胁着AI系统的稳定与安全，更可能对社会经济造成不可估量的损失。
该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办，作为一项前瞻性的开源计划，CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台，通过提供详尽的指导手册与高效工具，助力他们设计出更加安全可靠的人工智能系统。这一举措不仅促进了行业内知识与技术的交流共享，还为构建安全的AI生态系统奠定了坚实的基础。
CoSAI聚焦于三大核心目标：一是深入挖掘并推广人工智能安全的最佳实践，为行业树立标杆；二是积极应对人工智能领域不断涌现的新挑战，确保技术发展的稳健前行；三是全面保障人工智能应用的安全性，为用户和社会带来福祉。
在具体实施层面，CoSAI的工作范围广泛而深入，涵盖了从人工智能系统的安全构建、无缝集成、高效部署到稳定运行的全过程。
尤为重要的是，联盟将重点聚焦于降低一系列潜在风险，包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等，这些威胁不仅威胁着AI系统的稳定与安全，更可能对社会经济造成不可估量的损失。
发表评论(0)