输入“/”快速插入内容

1月下

2024年5月11日修改

由清华大学和香港科技大学联合主办“2023人工智能合作与治理国际论坛”12月8-9日在香港科技大学举办。其中，安远AI联合举办并主持了12月9日下午的“前沿人工智能安全与治理”(Frontier AI Safety and Governance)分论坛。​

经过了一个多月的专家反馈与认真修订，《前沿人工智能安全的最佳实践——面向中国机构的研发实践案例与政策制定指南》正式发布。本报告概述了当今人工智能安全领域有前景的想法、新兴流程和相关实践，其目的是作为前沿人工智能机构安全政策制定的参考和指南。​

本报告提供了前沿人工智能机构潜在的最佳实践清单，以及面向中国机构的研发实践案例与政策制定指南​

本报告是为中国领先的人工智能技术研发机构和政策研究机构编写的，以帮助他们更好地了解前沿人工智能安全的实践和政策​

本报告概述了当今人工智能安全领域的前瞻想法、新兴流程和相关实践。其目的是作为前沿人工智能机构安全政策制定的参考和指南​

实现前沿人工智能的有效风险管理需要⼀系列风险识别和缓解措施，本报告列出了前沿人工智能机构关于人工智能安全政策的9项最佳实践​

前沿人工智能安全的最佳实践——面向中国机构的研发实践案例与政策制定指南​

为充分发挥标准对人工智能产业高质量发展的引领作用，工信部科技司组织有关单位编制形成《国家人工智能产业综合标准化体系建设指南》​

方案中对人工智能产业产业发展现状，发展的总体思路，建设思路，重点方向，保障措施简要的介绍现在公示已经结束​

近期，国内有13家AI公司的14款大模型获得了新一轮备案审批，包括小米——“小爱同学AI助手”新功能；第四范式——“式说”大模型；“零一万物”大模型；创思远达——“魔方”大模型；步刻科技——“微步情报智脑”大模型；BOSS直聘——“南北阁”大模型；衔远科技——“品商”大模型；衔远科技——“摹小仙”大模型；新壹科技——“新壹视频”大模型；识因智能——“一叶轻舟”大模型；什么值得买——“AI问答机器人”；脉脉——“智能问答”新功能；智联招聘——“AI改简历”新功能；掌阅——“阅爱聊”微信小程序​

为落实《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》有关要求，科技部依托国家科技管理信息系统建设的国家科技伦理管理信息登记平台（https://service.most.gov.cn）已开通运行。

上海市科学技术委员会通知，本市高等学校、科研机构、医疗卫生机构、企业等单位成立科技伦理（审查）委员会或开展需要伦理审查复核的科技活动的，应当按照《科技伦理审查办法（试行）》第四十三条、第四十四条、第四十五条等要求，通过国家科技伦理管理信息登记平台进行登记，平台登录账号为国家科技管理信息系统公共服务平台账号。​

2024年1月24日举办的腾讯科技向善创新节2024“大模型安全与伦理专题论坛”上，腾讯发布了大模型安全白皮书《大模型安全与伦理研究报告2024：以负责任AI引领大模型创新》，并邀请业界专家进行圆桌研讨。​

随着大模型能力的不断增强和适用范围的延伸，其在金融、医疗、广告、营销等商业领域的应用，使得大模型中存在的微小安全隐患会造成巨大损害，因而大模型安全问题引起了广泛关注。此报告从大模型的发展趋势、面临的机遇与挑战出发，阐明了大模型的安全框架与实践方案，最后点明了大模型安全的未来发展趋势。报告的叙述内容层次分明，详尽地给出了大模型安全与伦理的调研与分析，可以作为大模型安全领域研究的重要参考。​

——夏树涛

清华大学深圳国际研究生院教授/博导

腾讯研究院，公众号：腾讯研究院腾讯发布大模型安全与伦理报告：以负责任AI引领大模型创新

2024年1月29日，美国商务部产业安全局（“BIS”）发布了关于《“采取额外措施应对重大恶意网络活动方面的国家紧急情况”拟议规则的通知》，以加强相关美国云计算服务提供商对外国人客户的身份识别和报告义务。​

根据拟议规则，提供美国“基础设施即服务”（Infrastructure as a Service，“IaaS”）产品的美国IaaS提供商、美国经销商及相关外国经销商须核验外国人客户身份信息，并在特定情形下向美国商务部报告外国人客户的详细身份信息和人工智能（“AI”）大模型训练活动情况。​

详情请阅：https://www.federalregister.gov/documents/2024/01/29/2024-01580/taking-additional-steps-to-address-the-national-emergency-with-respect-to-significant-malicious

1月下​

1月下