首页 > 人才就业 > 人才就业 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

人才就业更多>>

2025年延边大学急需紧缺教师岗位招聘公告(3号)(47人) 2025年吉林省省直事业单位招聘工作人员公告(1号)(186人) 2025年海南省文昌中学校园第四次招聘公告(2人) 2025年澄迈县农业技术推广中心招聘见习生公告(7人) 理想汽车刘杰:销量目标对消费者没有价值,不要被竞争压力驱动,要聚焦用户满意度 奥迪“双轨共生”战略:电动化与燃油车共筑豪华未来 从张兴海的用户C位思维,看到问界豪华新范式 谷歌CEO皮查伊:Waymo未来或向个人用户销售自动驾驶汽车 【2025车视盛典】数智发展 不断上扬 中国车市的格局正在全面洗牌 坦克300第13次OTA更新,四大功能革新驾乘更智能 大厂的围猎游戏,哪吒只是条小鱼 纯电小车新的打开方式,可摆摊、可当房车,五菱之光EV打好了样 坦克300第13次OTA更新 四大功能革新驾乘更智能 10万级纯电车黑马登场,埃安UT鹦鹉龙值不值得买? 对标宝马5系,搭激光雷达+智驾,3.6秒破百,座椅满配 越级之上 再现豪华 别克君越推出“鸿运倍增”双色版车型 2024年福建省邵武市第三批“人才·校园行”专项招聘公告 师以匠心度年华 春风化雨润新苗 临汾市第一小学柴梅华老师优秀事迹 2025 高考报名:五大关键注意事项,关乎孩子命运! 九年一贯制学校、百家村中学、前埔学校……为什么现在还要建学校? 两所实力强悍的985,拥有多个A+学科,每年的投档线不高,超值 读研后才懂的“硕导大权”:研究生的几个重要节点,都得TA说了算 官方公示,更名大学,同样类型的大学有哪些? 快速发展追光 创建高品质现代化优质普通高中 山东神童 : 2天念完小学 , 10岁参加高考 , 读了1年大学嫌太简单溜回家 闽师专附属第二幼儿园开展“家园社协同育人,构建教育新生态”主题活动 成都市锦江区北顺街幼儿园:园社联动传真情 情暖冬至乐传承 2024年山西省体育局直属事业单位招聘教练员9人公告 2025年陕西财经职业技术学院专任教师招聘40人公告 2024年天津市中西医结合医院(天津市南开医院)招聘4人公告