首页 > 人才就业 > 人才就业 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

人才就业更多>>

奕派科技在开年首月实现销量2.1万辆,较去年同期大幅增长145%,成为当月增速最为迅猛的品牌之一 智元机器人在米兰完成欧洲首秀,宣布进军意大利 岚图汽车2026年1月交付数据出炉,单月销量达10515辆,较去年同期增长31% 零跑汽车公布最新交付数据:1月,零跑全系交付32059台,同比增长27% 劳斯莱斯首款纯电SUV谍照 或于2026年发布 12月汽车行业利润率跌破2%;理想汽车回应调整研发架构 奔驰经销商承压,工商联三次致函要求整改 丰田2025年第四季度在日EV销量首超日产 自主五车跻身燃油前十,海鸥52.9万+领跑新能源丨2025年燃油车型/新能源车型销量榜 2025,“蔚小理零”逃离斩杀线 美团与喜车未来智能科技公司在上海签署合作协议,正式将汽车销售纳入其本地生活服务平台 发掘扫地机器人品类的纵深前,石头科技面对行业压力,其叙事重心曾试着外移 消息称华为Mate 80单品激活150万,逆袭成年底国产旗舰第一 全新奇瑞QQ3纯电车下月发布:灵犀座舱、猎鹰500智驾 我国移动网络IPv6流量占比突破70%,多项关键指标位居世界首位 华为:不会用非车规级的芯片 也不会用低质量的器件 福特战略掉头!拥抱中国比亚迪,弃用韩国LG “到世界找敦煌——敦煌流散海外文物复制展”在和田地区博物馆开展 郎卡杰唐卡创新艺术展亮相中国非遗馆 呈现“红色+非遗”实践 “吕”音绕梁 “艺”台好戏 唱响乡村文化振兴新篇章 马斯克也服了?特斯拉开始测试华为鸿蒙数字车钥匙了 最新手机芯片GPU跑分:联发科首次超高通,小米3nm芯排第5 年终效率神器,华为MatePad Air 2025款助你轻松收官 大赚95亿!拼了8年,亏了400多亿后,中国内存杀到全球第4了 雷军扬眉吐气:SU7是20万以上轿车第一,YU7是中大型SUV第一 马斯克押注自动驾驶与机器人技术解锁万亿薪酬 对标马斯克!Rivian为CEO定制46亿美元十年天价薪酬合约 岚图泰山下线,标志着东风汽车新能源转型及冲刺年度新能源100万销量目标迎来重要节点 外资的新出路,学会当“配角”? 因电动车需求疲软,丰田再次推迟电池工厂建设