教宗良十四世公开批评黄仁勋！质疑低估AI失控风险
教宗良十四世28日结束法国行程、搭机返国途中接受媒体采访
教宗良十四世28日结束法国行程、搭机返国途中接受媒体采访。法新社
美国人工智慧（AI）晶片巨头英伟达28日宣布推出一款新的安全工具“开放代理安全平台”，号称能替AI代理画下权限界线，一旦侦测到AI试图执行超出授权范围的行动，最快可在数毫秒内将其隔离。对此，金融时报报导，教宗良十四世28日罕见表态，批评英伟达执行长黄仁勋淡化AI风险，并呼吁各界严肃看待AI对人类构成的威胁。
美联社报导，英伟达“开放代理安全平台”（Open Agent Safety Platform）主要透过权限限制与即时监控，防止AI代理越界。其中OpenShell可限制AI代理能使用的系统及资源，确保它只取得完成任务所需的权限；另一套名为Sentry的安全机制则持续监控AI代理活动，一旦发现AI试图超出原定范围，便可立即介入，最快在数毫秒内将可疑AI代理隔离。
英伟达表示，目前已有超过100个组织采用这套平台，包括Microsoft、Perplexity、Accenture及JPMorgan Chase。由于平台采取开源模式，也能扩充至Arm、Intel等其他公司的运算平台。
对此，良十四世28日结束访法、搭机返回罗马途中表示，已了解英伟达最新推出的安全工具，但鉴于黄仁勋近期的发言，他对黄仁勋究竟多重视AI安全提出质疑。
良十四世表示，黄仁勋一方面推出新的AI安全工具，“另一方面，他也是主张不应对AI设限、不应由AI监管的代表人物”。日前包括Anthropic执行长阿莫戴、OpenAI执行长奥特曼等，以安全风险为由，呼吁AI减速论；反观黄仁勋与美国总统川普则曾驳斥AI末日论，倾向政府放任业界发展。
良十四世并呼吁严肃看AI专家与专业人士提出的疑虑，他说自己不至于对AI发展陷入恐慌而夜不成眠，“但是我认为这是需要坐下来好好讨论的问题”。
良十四世说：“有意思的是，就在今天，我读到英伟达负责人声称，他找到某种方法，可以在AI中加入一些安全护栏。”
教宗罕见公开批评全球市值最高企业的掌舵人，凸显AI安全议题引发高度忧虑，成为全球多国领袖的优先关切事项。英伟达拒绝评论。
出生于芝加哥的良十四世与川普在多项议题上立场相左，且自去年就任教宗以来，一直高度关注AI议题。今年5月，他发布一份称为“通谕”的正式文件，指出AI并非道德中立的科技，必须透过强而有力的监管加以“解除武装”，确保AI服务人类，而不是伤害人类。
华府日益关注业界对AI风险的疑虑。彭博报导，川普与联邦众议院议长强生29日将举行午宴，讨论AI安全风险，受邀出席的科技业高层包括英伟达执行长黄仁勋、Anthropic执行长阿莫戴、数据分析公司帕兰泰尔（Palantir Technologies）执行长卡普，以及OpenAI总裁布罗克曼。
联合报
| 
|Archiver|小黑屋|SiXiang.com 思乡思想
发表于 2026-9-29 19:33:41