继美国七大人工智能巨头后，英伟达等8家企业也承诺自愿监管AI风险

293

来源：搜博网

2023-10-12 06:06

行业：半导体

SEMI-e 深圳国际半导体展

SEMI-e 深圳半导体展深耕半导体行业领域，关注产业核心技术和发展趋势，通过搭建专业高端的产业生态交流平台，为粤港澳大湾区构建具有国际竞争力的现代产业体系贡献力量。

当地时间9月12日，美国白宫发布消息称，英伟达、IAdobe、Cohere、IBM、Palantir、Salesforce、Scale AI和 Stability八家企业已经签署了拜登政府关于人工智能（AI）的自愿承诺协议，以帮助推进白宫所称的“安全、可靠和值得信赖的AI发展”。承诺协议内容中，要求这些企业对AI生成内容采取添加水印等步骤。

白宫网站声明截图

今年7月，谷歌、亚马逊、脸书母公司Meta、微软以及其他三家AI企业已经同拜登政府签署了这一事关AI领域的自愿承诺协议。《华盛顿邮报》称，从ChatGPT母公司OpenAI到Photoshop开发商Adobe，美国最具影响力的15家企业目前已经作出承诺，包括开发识别AI生成图像的技术，并誓言与政府和学术界分享有关安全的数据。

此次八家企业签署的自愿承诺协议，内容与此前七家企业签署的基本一致。根据白宫声明，本次自愿承诺包括三个方面：

承诺内容

第一，在向公众推出产品之前确保产品安全。八家公司承诺在发布AI系统之前，将对其系统进行内部和外部安全测试。这项测试将部分由独立专家进行，旨在防范人工智能风险的一些最重要的来源，如生物安全和网络安全，以及其更广泛的社会影响。此外，公司还承诺在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。包括安全最佳实践、有关规避保障措施的企图的信息以及技术合作。

第二，构建将安全放在首位的系统。公司承诺投资于网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些模型权重是人工智能系统中最重要的部分，八家公司一致认为，只有在预期和考虑安全风险时才发布模型权重至关重要。此外，公司还致力于促进第三方发现和报告其人工智能系统中的漏洞，以便在人工智能系统发布后如果出现问题，报告机制使这些问题能够快速发现和修复。

第三，赢得公众的信任。相关公司致力于开发强大的技术机制，以确保用户知道内容何时由人工智能生成，例如水印系统。这一行动使人工智能的创造力和生产力得以蓬勃发展，但减少了欺诈和欺骗的危险。此外，相关公司承诺公开报告其人工智能系统的功能、局限性以及适当和不当使用的领域。这些报告将涵盖安全风险和社会风险，例如对公平和偏见的影响。

八家公司还承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。人工智能的记录显示了这些危险的潜在规模和普遍性，这些公司承诺推出减轻这些危险的人工智能。

来源 | Gplus股市荟

作为全球电子制造业的中心以及全球大的消费电子市场，近年来中国半导体产业也是增长迅速，中国已经成为全球贸易比较活跃的半导体市场。随着国内各地相继出台了一系列半导体产业扶持政策，中国半导体产业有望在2024年迎来新的机遇和发展空间！深圳国际半导体组委会将继续立足市场，整合往届优质资源，优化平台服务，为展商和观众双方合作共赢开辟新空间、谋篇发展新棋局！为半导体产业链上中下游节点的企业搭建出共享、交流、共创的广阔平台，为行业打造了一场“双向奔赴”的采购盛宴。目前第六届深圳国际半导体的招商工作正在如火如荼地展开，各展区销售进度喜人。还有少量优质展位，预订从速！！！

火热招商中，扫码预订展位

期待您有备而来，满载而归

⬇⬇⬇