首页 > 原创内容 > 原创内容 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 15210273549

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

原创内容更多>>

全球汽车供应链或面临新一轮冲击,这次原因是AI数据中心 广汽埃安与滴滴自动驾驶联手打造,Robotaxi R2正式交付 Rivian提交新专利:电动独立开启尾门玻璃及物理控制组件 2025年俄罗斯汽车市场多项指标下滑:新车销量、汽车信贷及皮卡销量同比减少 加州累计零排放汽车销量突破250万辆 充电设施持续扩建 九识智能正式进驻阿布扎比,RoboVan开启常态化运营 日元贬值推动丰田加速印度本土化与出口,首款国产电动车即将上市 起亚在韩国下调多款电动车售价以应对市场竞争 为何特斯拉、小米、理想、小鹏都力推“7年超低息”贷款? 6大趋势详解:谁说手机行业没有新东西了? 从“死了么”到合川呆呆,2026年的第一场流量“围猎” 2025年汽车产销量再创历史新高 连续17年稳居全球第一 马斯克:特斯拉将在2月14日后停售FSD,此后仅提供月度订阅方式 “死了么”将更名Demumu,估值已达数千万 1688发布“三保”抢跑计划,王强:AI驱动产业带商家呈现K型分化 荣耀500 Pro MOLLY 20周年款定于1月19日发布 赵长江:自己天天学习华为,最大的挑战“在于我自身” “Arrow Lake Refresh” 双旗舰:英特尔酷睿Ultra 9 290K/290HX Plus处理器现身 王自如回应曾称看董明珠很幸福:到今天都坚定这个观点 欧洲汽车零部件行业持续“失血”,近两年裁员逾10万人 双巨头加码AI!黄仁勋披露要与联想集团联合发布“革命性服务器”,未来2年合作规模再翻5倍 雷军直播拆车后,小米汽车的“王牌”也真正打出来了! OpenAI首款硬件曝光,前苹果传奇设计师操刀 华硕计划CES推出WiFi 8路由器,但相关标准还没确定 三星发布全球首款130英寸Micro RGB电视!支持100% BT.2020色域 firefly萤火虫右舵车量产,首批将发运至新加坡市场 轻舟智航携手奇瑞商用车,打造量产级L4无人物流车 王晓玲接任长安马自达执行副总裁,推动新能源战略落地 美团骑手“不闯红灯”安全激励活动通知,骑手保持零闯灯记录每天可获现金奖励 比亚迪元 UP DM-i(BYD ATTO 2 DM-i)欧洲发布会,并同步发布长续航纯电版(BYD ATTO 2 Comfort)