首页 > 手机功能 > 手机功能 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

手机功能更多>>

全新一代三菱帕杰罗假想图曝光 新增混动版可选 不喜欢笨重的SUV又考虑家用,建议看这7款,10-20万有空间有操控 雷克萨斯ES外观大变样,配混动+纯电双动力,5.9秒破百油耗4.8L 这才是真旗舰!尊界S800的11个「封神」设计,太顶了! 中级轿车油耗排行榜,凯美瑞第4,凡尔赛C5 X 排名第9,宝马3系排23 《传祺向往M8乾崑:引领智电浪潮,刷新豪华MPV价值天花板》 华为乾崑智驾实测碾压合资!传祺M8乾崑安全跑分破纪录 【忻州建诚】国产神SUV,10万起,2.0T+238马力 奔驰AMG新旗舰强势来袭,V8插混挑战宝马M系霸主地位 奥迪和上汽联合打造,全新一代奥迪Q6测试谍照曝光 奔驰宝马都羡慕!均价近60万的新款问界M9交付破3万 家轿、大7座SUV价格触底,最大优惠8万+ 家轿、大7座SUV价格触底,最大优惠8万+ 阿维塔被曝组建座舱和智驾自研团队,为加速出海做准备 2025 美国InfoComm | 国星光电全球首发AS面板!Micro/Mini LED 矩阵闪耀奥兰多 雪佛兰月销量已不足1000台 你们会不会忘了它? 海豹06 EV对比五菱星光:预算10万选高智能还是长续航? 丰田铂智7的buff真的叠满了 华为鸿蒙座舱、华为三电、小米生态、momenta智驾 广汽丰田与华为合作升级!搭载鸿蒙智能座舱、华为DriveONE电驱系统 2025 年 1-5 月硬派越野销量冠军:比亚迪方程豹“豹 5”汽车累计交付超 76869 辆 奔驰宝马都羡慕!均价近60万的新款问界M9交付破3万 奥迪如何定义豪华电动时代的智造标杆 写在父亲节之前,“品质+智慧”成就上汽大众强势能 一汽-大众全新一代速腾 L 官宣:外观更时尚,有望 Q3 上市 12.98万元起,一汽丰田bZ5诠释何为“合资新力量” 蔚来李斌,又站在了ICU门口 广汽丰田官宣将与小米展开合作 更多细节6月12日揭晓 广汽丰田科技日揭幕,将打造华为MMT小米智能体 广汽首款量产飞行汽车预售价不超168万,2026年底开启交付 一锤定音:旗舰大六座SUV产品大年来了