找回密码
 点击注册
搜索
查看: 733|回复: 2

欧盟专员称欧成首个制定AI明确使用规则大陆

[复制链接]
发表于 2023-12-9 10:25:21 | 显示全部楼层 |阅读模式
欧盟内部市场专员:成首个制定AI明确使用规则的大陆

据英国《金融时报》当地时间12月8日报道,欧盟已就监管人工智能(AI)的“里程碑式立法条款”达成一致,并推动制定全球对于人工智能发展最严格的限制制度。

当天,欧盟内部市场专员蒂埃里·布雷顿(Thierry Breton)在X平台(原推特平台)上发文证实,这一协议已经达成。他称,这是一个“历史性的协议”,并写道:“欧洲成为第一个为人工智能的使用制定明确规则的大陆。《人工智能法案》(The AIAct)不仅仅是一本规则手册——它是欧盟初创企业和研究人员引领全球人工智能竞赛的跳板。”

欧盟内部市场专员:成首个制定AI明确使用规则的大陆

欧盟内部市场专员:成首个制定AI明确使用规则的大陆

欧盟内部市场专员蒂埃里·布雷顿X平台发文截图

据报道,在达成这项协议之前,欧盟成员国和政界人士就限制人工智能的方式进行了多年的讨论,以使人类的利益成为立法的核心。而在当地时间12月6开启“马拉松式讨论”之后,中间过程几经曲折,协议最终达成。

在提案提交给欧盟各成员国和欧盟委员会之前,欧洲议会的议员们花了数年时间争论他们的立场。在最终文本成为法律之前,成员国、政界人士和欧盟委员会这三方,都必须完全达成一致。

去年11月,在微软数十亿美元的支持下,OpenAI发布了ChatGPT聊天机器人,掀起了生成式人工智能的热潮,也成为全球增长最快的软件应用程序之一。这项技术的迅速发展,也获得了广泛的关注。

经过大量数据训练,生成式人工智能可以创造出全新的类人类的内容,帮助用户撰写学期论文、完成科学作业,甚至创作完整的小说。ChatGPT一经推出,监管机构也争相反应:欧盟着手修订《人工智能法案》,美国也启动了人工智能监管工作。

今年8月15日,由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式施行,这是我国首个针对生成式人工智能产业的规范性政策,也是全球第一部人工智能生成内容管理办法。

ChatGPT爆火

ChatGPT爆火

随着ChatGPT的爆火,其背后语言模型——GPT也受到市场广泛关注。今年3月15日凌晨,OpenAI正式推出GPT-4。图自IC Photo

不过,《金融时报》也称,部分欧洲企业担心,对人工智能这项技术的过度限制或将阻碍创新。去年6月,空中客车(Airbus)和西门子(Siemens)等数十家欧洲大型企业表示,这些规定看起来过于严苛,不利于培育创新和帮助本土产业。

上个月,英国主办了首届全球人工智能峰会,多国广泛承诺共同努力,应对先进人工智能带来的生存风险。那次活动,也吸引了当时还是OpenAI首席执行官的萨姆·阿尔特曼(Sam Altman)等科技行业领军人物,而阿尔特曼此前一直批评欧盟监管人工智能的计划。

事实上,近期OpenAI内部也发生了一出不停反转的“宫斗剧”,阿尔特曼先遭解雇,后又重返OpenAI。

路透社当地时间11月23日曾援引两名知情人士报道称,此前有几名研究人员曾致信董事会,警告称一项强大的人工智能成果(名为“Q*”)可能会威胁到人类。消息人士称,这封此前未被报道的信函和其中提到的人工智能算法,是董事会解雇阿尔特曼的“关键导火索”,这封信让董事会产生了担忧,并对阿尔特曼产生了诸多不满,并最终解雇了他。


回复

使用道具 举报

 楼主| 发表于 2023-12-10 09:56:22 | 显示全部楼层

欧盟推出全球首个监管人工智能法案

经过成员国和欧洲议会三天的紧张谈判,欧盟终于同意在全球范围内史无前例地立法监管人工智能 (AI)。这也是全球第一个人工智能监管法案。

Les colégislateurs de l'UE ont trouvé un «accord politique» sur un texte qui doit favoriser l'innovation en Europe, tout en limitant les possibles dérives de ces technologies très avancées.

欧盟推出全球首个监管人工智能法案

欧盟推出全球首个监管人工智能法案

关于欧盟与人工智能报道图片 资料照片 REUTERS - DADO RUVIC

欧盟联合立法者就一项文本昨天稍晚达成了“政治协议”,该文本应促进欧洲的创新,同时限制这些非常先进技术可能的过度使用。

据欧盟委员蒂埃里·布雷东 (Thierry Breton) 对此表示欢迎说,“是历史性的!欧盟成为第一个为人工智能的使用制定明确规则的经济体”。

出台人工智能监管议案在 2021 年 4 月就提出计划。 从那时起,讨论就一直被拖延着。最后一轮谈判于周三下午开始,持续了近 35 个小时……

去年年底,ChatGPT 的出现对这一过程产生了推动影响,ChatGPT 是来自加州公司 OpenAI 的文本生成器,能够在几秒钟内写出论文、诗歌或翻译。

这个系统,就像那些能够创造声音或图像的系统一样,向公众展示了人工智能的巨大潜力。 但也存在一定的风险。 例如,社交网络上散布的虚假照片似乎比真人还要惟妙惟肖,这提醒人们注意操纵舆论的危险。

应欧洲议会议员的要求,这种生成式人工智能现象已被纳入当前的谈判中,他们坚持对此类高影响力技术进行具体监督。 他们特别呼吁提高这些系统核心的算法和巨型数据库的透明度。

但欧盟成员国担心过度监管会导致开发成本过高,从而将德国的 Aleph Alpha 和法国的 Mistal AI 等新兴领军企业扼杀在萌芽状态。

据法新社说,周五晚上达成的政治协议必须辅以技术工作以最终敲定法案。 据法国数字部长让-诺埃尔·巴罗(Jean-Noël Barrot)回应道,“我们将仔细分析今天发现的妥协方案,并确保在未来几周内,该文本保留欧洲开发自己的人工智能技术的能力并保留战略自主权。”

科技行业至关重要。 据CCIA(其主要游说团体之一)的欧洲经理丹尼尔·弗里德兰德(Daniel Friedlaender)担心,“速度似乎战胜了质量,这可能会给欧洲经济带来灾难性的后果。” 据他说,现在在关键细节上“技术工作”是“必要的”。

在生成人工智能方面,折衷方案提供了两种速度的方法。 规则将强加给每个人,以确保算法开发中使用的数据的质量,并验证它们不违反版权法。

开发人员还必须确保所产生的声音、图像和文本被明确标识是人造的。

强化约束仅适用于最强大的系统。

该法案文本采用了现有欧洲产品安全法规的原则,这些法规主要基于公司实施控制。该项目的核心包括一系列仅适用于被视为“高风险”的系统的规则,主要是在关键基础设施、教育、人力资源、执法等敏感领域使用的规则。

这些系统将承担一系列义务,例如提供机器的人工控制、建立技术文档或实施风险管理系统。

该立法规定了对与人类互动的人工智能系统的具体监管。 它将迫使他们通知用户他正在与机器智能接触。

未来禁令或将很少见。 监管将关注与欧洲价值观相悖的应用,例如中国使用的公民评级或大规模监控系统,或在公共场所对人员进行远程生物识别,以避免对人群进行大规模监控。

然而,就最后一点而言,各国已获得某些执法任务(例如反恐)的豁免。

与某些国家的自愿行为准则不同,欧洲立法将配备监视和制裁手段,并在欧盟委员会内设立欧洲人工智能办公室。 对于违规行为,最高可处以营业额 7% 的罚款,罚款上限为 3500 万欧元

据读卖新闻今天报道称,欧盟这部全球首部全面人工智能监管法,预计最早将于今年获得通过,并于 2026 年生效。

据该报称,在三方会谈中,欧洲议会和欧盟理事会之间发生了激烈的冲突,欧洲议会呼吁对生成人工智能中使用的语言模型进行强有力的监管,而欧盟理事会则表示不赞成过度监管。

RFI
回复

使用道具 举报

发表于 2023-12-11 12:19:31 | 显示全部楼层

OpenAI与微软关系复杂 遭英美反垄断当局盯上

人工智能公司OpenAI发生执行长遭开除旋即复职的戏剧性事件后,投资方微软的角色受关注。英国正在检视是否对微软与OpenAI的合作关系展开反垄断调查,美方也传出有同样想法。

OpenAI执行长阿特曼(Sam Altman)11月17日突然遭董事会开除,5天后又戏剧性复职。过程中他一度传出加入微软(Microsoft)带领一个新的人工智能(AI)团队。

事后,OpenAI新成立有3名成员的初步董事会给予主要支持方微软一席董事会观察员,可出席董事会会议和浏览机密资料,但没有投票权,意味也无法挑选董事人选或选出董事。

微软和OpenAI均仍未揭露会由谁担任这名观察员,以及OpenAI最终董事会将有哪些成员。

路透社报导,OpenAI的母体是一个非营利组织,这种实体鲜少被列为反垄断调查对象。2019年OpenAI成立一家营利子公司,据消息人士说法,微软握有其中49%股份。

但微软的一名发言人今天提出不同说法,他表示双方的协议细节是机密,但微软未“拥有”OpenAI“任何部分”,仅有权分享一部分利润。

微软曾承诺投资OpenAI逾100亿美元(约新台币3140亿元),以助其在争夺人工智能收益的竞赛中赢过微软主要对手Google(谷歌)、取得领导地位。

英国的竞争及市场管理局(Competition and Markets Authority,CMA)今天表示,“OpenAI的治理最近有一些发展,其中有些牵涉到微软”,他们正在检视是否就微软对OpenAI的投资启动调查,以了解这是否会伤害到英国的市场竞争。

彭博(Bloomberg News)报导,美国的联邦贸易委员会(Federal Trade Commission,FTC)也正在检查这起投资是否已违反美国反垄断法,目前只是初步查询,尚未启动正式调查。

美国联邦贸易委员会婉拒评论相关消息。微软总裁史密斯(Brad Smith)则透过声明表示:“唯一有所改变的是,微软现在将在OpenAI董事会有一名无投票权的观察员。…这和Google买下英国的DeepMind这类收购案截然不同。”Google在2014年收购这家人工智能公司。

致力于强化反垄断法的非营利组织“开放市场研究所”(Open Markets Institute)欧洲分部主任冯图恩(Max von Thun)指出,鉴于人工智能产业发展愈来愈集中,后续可能还会有其他监管调查。

他说:“反垄断当局有必要迅速行动来调查这些交易,甚至在必要情况下解除交易,以维护市场竞争,以及避免这项关键新兴科技遭到独占。”

中央社
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 点击注册

本版积分规则

QQ|Archiver|SiXiang.com 思乡思想

GMT+8, 2024-2-27 14:32

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表