摘要: 小型穆斯特将于本周在韩国就人工智能的法规和风险举行，并旨在基于去年在英国举行的AI安全会议上所做的工作。
韩国将举办人工智能风险和监管迷你峰会
本周，韩国将举办一场人工智能风险和监管迷你峰会，继去年在英国举办的首次AI安全会议吸引了科技界名人、研究人员和官员的多样参与者。
这次在首尔举行的聚会旨在继续在英国会议上开始的工作，以遏制尖端人工智能系统带来的威胁。
国际人工智能安全工作的进展
首尔峰会是全球众多努力之一，旨在为这一快速发展的技术制定规范，这项技术承诺改变社会的许多方面，但也引发了对日常生活和人类生存的潜在威胁的担忧。
在去年11月的英国峰会上，研究人员、政府领导人、科技高管和民间社团成员，其中许多人对人工智能持有不同意见，聚集在伦敦北部的前秘密战时破解基地进行了闭门会谈。特斯拉CEO埃隆·马斯克和OpenAI CEO山姆·阿尔特曼与英国首相里希·苏纳克等政客交流。
来自包括美国和中国在内的两十多个国家的代表签署了布莱切利宣言，同意共同努力遏制人工智能快速发展可能带来的“灾难性”风险。
在3月份，联合国大会批准了关于人工智能的第一项决议，支持国际努力确保这项强大的新技术惠及所有国家，尊重人权，并确保其“安全、可靠和值得信赖”。
本月初，美国和中国在日内瓦举行了首次高级别人工智能对话，讨论如何应对这一快速发展技术的风险，并制定共同标准来管理它。在那里，美国官员对中国的“滥用人工智能”提出了担忧，而中国代表则指责美国对人工智能施加的“限制和压力”，根据两国政府的说法。
首尔峰会将讨论什么？
5月21日至22日的会议由韩国和英国政府共同主办。
第一天，周二，韩国总统尹锡悦和苏纳克将通过虚拟方式会见领导人。预计领先的人工智能公司将就他们如何履行在布莱切利峰会上作出的承诺，以确保其人工智能模型的安全性提供更新。
第二天，数字部长们将聚集在由韩国科学部长李钟浩和英国技术部长米歇尔·多纳兰主持的面对面会议上。讨论的主题强调了焦点已经从布莱切利峰会的极端风险扩大到其他方面。与会者将分享最佳实践和具体行动计划。他们还将分享有关如何保护社会免受人工智能对能源利用、工人和误导信息的潜在负面影响的想法，根据组织者的说法。
这次会议被称为迷你虚拟峰会，作为法国承诺举办的全面面对面会议的临时会议。
数字部长会议将包括来自美国、中国、德国、法国和西班牙等国家以及CHAT GPT制造商OpenAI、谷歌、微软和Anthropic等公司的代表。
人工智能安全工作取得了哪些进展？
在英国会议上达成的协议缺乏细节，也没有提出规范人工智能发展的方式。
“美国和中国参加了上次峰会。但当我们看一些会后宣布的原则时，它们与一些联合国和经济合作与发展组织会议后已经宣布的原则相似，”首尔韩国大学管理技术研究生院教授李成燮说。“没有什么新的。”
重要的是举行一次关于人工智能安全问题的全球峰会，他说，但对于所有参与者达成协议将是“相当困难”，因为每个国家有不同的利益和不同水平的国内人工智能技术和产业。
随着政府和全球机构考虑如何规范人工智能，因为它在执行人类执行的任务方面变得更加出色，开发最强大人工智能系统的开发者们正在联合起来制定自己共同的人工智能安全标准。Facebook母公司Meta Platforms和亚马逊宣布他们将加入去年由Anthropic、谷歌、微软和OpenAI创立的Frontier Model Forum。
专家小组发布的关于人工智能安全状况的临时报告，旨在为首尔的讨论提供信息，指出了通用人工智能可能带来的一系列风险，包括其恶意用途，增加“规模和复杂性”欺诈和诈骗，加速虚假信息的传播，或制造新的生物武器。
相关文章
