（中央社）美国总统拜登（Joe Biden）今（22）日在白宫与科技领袖举行的会议上提到人工智慧（AI）的「巨大」风险与前景，领袖们允诺在AI产业彻底改变社会之际，从网路攻击到欺诈做好全面防堵。

拜登邀7大科技巨头对AI许下安全承诺

《法新社》报导，拜登说人工智慧「为我们的社会、经济和国家安全带来极大风险，但也带来令人难以置信的机会」，「这着实令人震惊」。

亚马逊（Amazon）、人工智慧公司Anthropic、Google、新创公司Inflection、脸书（Facebook）母公司Meta、微软（Microsoft）和研发聊天机器人ChatGPT的OpenAI等企业高层代表们在旁站立，拜登侃侃而谈。

拜登说，随着人工智慧愈来愈深入个人生活与商业活动 ，这些顶尖企业已允诺「引导负责任的创新」。「未来10年、甚至未来数年内，我们将看到比过去50年更多的科技变革，这是个令我吃惊的启示…现场的团队在引领负责暨安全的创新方面至关重要。」

会议开始前，这7家人工智慧巨头允诺实施一系列自我监管的安全措施，白宫表示，这些措施将「凸显未来人工智慧的3大基本原则：安全、可靠与信任」。

人工智慧能够透过电脑程式学习，来完成许多目前由人类执行的工作，因而被视为一种强大的工具，但同时也衍生许多潜在的可怕风险。

这些企业在允诺中，同意开发「强大的技术机制」，例如浮水印系统，来确保使用者知道哪些时候的内容是来自AI、而不是由人类生成。

白宫的倡议表明他们正及早介入，解决AI产业发展速度快到国会可能来不及应付的问题。

官员们表示，拜登目前也正在拟定一项与人工智慧安全有关的行政命令，这项命令权力有限，但无须经过国会批准。

Photo Credit: GettyImages

七大科技巨头派出的出席人员，由左至右依序是：亚马逊总裁Adam Selipsky、OpenAIGreg Brockman、Meta（FB）总裁Nick Clegg、Inflection AI执行长Mustafa Suleyman、Anthropic执行长Dario Amodei、Google总裁Kent Walker，以及微软总裁Brad Smith。

AI恐威胁和平安全，联合国秘书长吁设护栏约束

（中央社）联合国秘书长古特瑞斯（Antonio Guterres）早在7月18日警告，人工智慧（AI）恐对全球和平安全带来风险，要求所有会员国紧急设置护栏以掌控这种科技。

《法新社》报导，联合国安全理事会首度对此议题举行会议，古特瑞斯会中表示：「很明显的，人工智慧将对我们生活所有领域造成影响。」

古特瑞斯说：「生成式人工智慧（Generative AI）在善恶方面都具有庞大潜力。」他表示，尽管人工智慧可能帮助消除贫穷或治疗癌症，这种科技也可能对「全球和平安全造成非常严重的後果」。

Photo Credit: GettyImages

2023年7月18日，联合国在美国纽约总部举行人工智慧（AI）对全球影响的会议，联合国秘书长古特瑞斯（Antonio Guterres）当时直指AI将危及全球和平安全。

目前担任联合国安理会轮值主席国英国的外交大臣柯维立（James Cleverly）表示，人工智慧「将影响安理会工作，它可能增强或破坏全球战略稳定」。

柯维立指出：「它对我们关於防御和威慑的基本假设形成挑战。」英国2023年稍後将主办人工智慧高峰会。

古特瑞斯要求所有成员国制定具法律约束力的协议，以在2026年底前「禁止致命性自主武器系统」。

他说，尽管人工智慧能够用以辨认暴力模式或监测停火，但警告，若被恐布分子或怀有恶意的政府所用，恐致「死亡和破坏达到可怕的程度」。

古特瑞斯还警告，人工智慧故障恐酿成严重破坏，尤其是这种科技用於核武系统或生物技术方面。

古特瑞斯呼吁成立工作团体，希望今年年底前制定全球人工智慧治理方案。

他重申赞成联合国仿照国际原子能总署（International Atomic Energy Agency）或国际民航组织（International Civil Aviation Organization），设立机构支持监管人工智慧使用的行动。

新闻来源

• 忧AI衍生巨大风险 拜登邀7大科技巨头许安全承诺（中央社）
• AI恐威胁和平安全 联合国秘书长吁设护栏约束（中央社）