首页 > 原创知识 > 原创知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 15210273549

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

原创知识更多>>

上汽大通孙浩:MPV王者领跑全球,极致品质为核心 奇瑞商用车4月销量10384辆 同比增长40% 皮卡销量2300辆 北京国际车展|双线并进全面焕新,奥迪能否实现新一轮突破? 4月份,奇瑞新能源汽车销量100276台,同比增长63.8%;海外出口177573台,同比大增102.4% 对话宝马中国CTO:大圆柱真量产?宁德时代亿纬锂能怎么配? 新款别克世纪,依然是最懂高净值人群的超豪华MPV 虽然问道V9价格很亲民,但对于其市场表现,我为啥仍不看好? 35.98万起!第二代腾势D9全面升级,重塑高端MPV格局 上汽大众ID. ERA 9X爆单背后:信任比流量更珍贵 埃安N60用实打实的价格与产品力践行“Easy Life”的松弛感 smart 精灵6号18.99万元起预,精灵2号概念车首发亮相 新能源竞赛换挡时刻,谁是“央企新势力”压舱石? 埃安AION N60正式上市 限时焕新价10.68万起,全系标配激光雷达 长安凯程Robovan亮相:无人物流车终于从“概念”走向“赚钱” 限时换新价6.98万元起,长城欧拉5多动力版本上市 自主品牌全面焕新,广汽集团发布五款新车 加速向智能电动转型捷达品牌全面焕新,首款纯电轿车M6下半年上市 2026北京车展正式开幕,广汽昊铂S600在车展上开启盲订 2026北京车展,宝马展示全新宝马iX3长轴距版、i3长轴距版以及新款宝马7系/i7 2000万的仰望誰买走了?当东方工艺在车展打败西方设计 小马智行重构万亿级出行与物流生态:2027版Robotaxi成本低于23万,首发L4级无人轻卡 奕境品牌首款车型奕境X9亮相 预计下半年上市 北京车展直击:东风登场,展车+技术全亮相 首款纯电轿车的名字——捷达M6 2026北京汽车展览 | 预售价区间20.99-25.99万元 新款领克10/领克10+开启预售 2026北京汽车展览 | 捷途旅行者PLUS C-DM/山海L10悉数亮相 北京汽车展览 | 长安蓝鲸超擎双车炸场,HEV正式进入“七万时代” 全新宝马七系领衔十六款首秀,新世代技术驱动中国跃迁 2026北京车展首秀 | 日产两款全新SUV概念车全球首秀 预计将于年内量产 别再挤六座七座了!岚图泰山 X8:真正懂家庭的都选它