矽赫科技
2023/04/19 20:47
（新闻来源：读创/深圳商报首席记者 王海荣）
近日，依托国家人工智能标准化总体组和全国信标委人工智能分技术委员会，中国电子技术标准化研究院，矽赫科技等单位共同编制完成的《人工智能伦理治理标准化指南》（以下简称《指南》）正式发布。
《指南》围绕人工智能伦理概念和范畴、人工智能伦理风险评估、人工智能伦理治理技术以及人工智能伦理治理标准化四个角度展开。来自深圳的矽赫科技作为编写单位，参与了《指南》的编制工作。
打开APP，查看更多精彩图片
当前，新一代人工智能技术取得了极大成功。ChatGPT等大模型的出现不断刷新着人们的认知极限，AI性能逐步趋近人类智能，并体现出极强的应用赋能潜力。人工智能技术在重塑人类生活、工作和交流的方式的同时，所带来的隐私泄漏、偏见歧视、责权归属、技术滥用等伦理问题也备受关注，其中，加强人工智能伦理治理已成为业界重要议题。
在此背景下，中国电子技术标准化研究院携手矽赫科技等五十余家人工智能领军企业，共同编制《指南》。编制单位中还包括浙江大学、华为、阿里巴巴、公安部第三研究所，以及英特尔和IBM等人工智能领域的代表机构。
《指南》以人工智能伦理治理标准体系的建立和具体标准的研制为目标，重点围绕人工智能伦理概念和范畴、人工智能伦理风险评估、人工智能伦理治理技术、人工智能伦理治理标准化等方面展开研究。《指南》明确了人工智能伦理治理概念范畴，细化人工智能伦理准则内涵外延，对人工智能伦理风险进行分类分级分析，提出人工智能伦理治理技术框架，研究人工智能伦理治理标准体系，总结人工智能伦理治理工作建议。
《指南》认为人工智能伦理的内涵包含三方面：一是人类在开发和使用人工智能相关技术、产品及系统时的道德准则及行为规范；二是人工智能体本身所具有的符合伦理准则的道德编程或价值嵌入方法；三是人工智能体通过自我学习推理而形成的伦理规范。
《指南》提出了人工智能伦理的十项准则：以人为本、可持续性、合作、隐私、公平、共享、外部安全、内部安全、透明、可问责。同时，基于人工智能的敏捷治理原则，围绕人工智能全生命周期，重点从数据、算法、系统（决策方式）、人为因素等四个维度，识别了人工智能伦理风险来源。
《指南》从人工智能伦理的技术解决方案出发，总结了当前主要的伦理落地技术实践，并围绕人工智能生命周期的四个阶段，提出了人工智能伦理技术的框架，以及技术的实现路径。
此外，基于隐私性、安全和鲁棒性、透明与可解释性、公平性四项原则，《指南》从技术实现路径及管理实现路径两个角度提出了解决方案。
《指南》认为，人工智能各利益相关方需要秉持科技造福人类、安全与发展兼顾的治理目标，平衡好创新发展与有效治理的关系，提出切实有效的治理举措，根据实际需求及反馈动态调整、持续优化治理路径及策略，共建全球人工智能伦理治理体系。
4月19日，矽赫科技联合创始人洪宝璇在接受记者采访时表示，在这一轮AI发展浪潮下，生成式人工智能暗藏的法律和伦理道德隐患已引发各国和产业界关注。从关注可能引起的伦理问题到伦理治理落地，是通用人工智能和强人工智能落地的重要保障。
洪宝璇指出，生成式人工智能在其发展进程中不仅仅面临技术问题，同时也要十分注意生成式AI的技术伦理和法律问题。在新一轮AI发展为人类带来巨大科技进步和福利的情况下，应该注意及时建立健全公开透明的AI监管体系，确保在数据安全，机器伦理与破坏力等监管维度，保障人工智能不会对环境、人类和国家安全等产生不良和破坏性影响。
“人工智能伦理与每个人都息息相关，在用于培训人工智能的大数据中，以及在人工智能的决策应用中，我们应避免偏见或提供虚假信息。以自动驾驶为例，人工智能的发展为自动驾驶提供了技术可能，同时自动驾驶的产业落地也急需道德伦理的规范。为了让车辆安全行驶并了解其行驶环境，汽车上的多个传感器需要随时采集大量的数据，车辆的自动驾驶计算机系统会处理这些数据。自动驾驶汽车还必须进行大量的训练，进而学会理解它所收集的数据，并在任何可以设想的交通情境中做出正确的决定。”洪宝璇指出，不仅仅是在自动驾驶领域，人工智能伦理规范在教育、健康医疗、食品公共服务等领域也发挥着重要职能。
洪宝璇认为，此次发布的《指南》有助于深入落实国家《关于加强科技伦理治理的意见》《新一代人工智能伦理规范》《中国关于加强人工智能伦理治理的立场文件》等政策文件具体要求，为落实人工智能伦理治理标准化工作奠定坚实基础，将对新一轮人工智能的发展产生积极影响。
审读：喻方华
读创编辑吴吉
大家都在聊
热门评论