OpenAI等企业千余名员工请愿:当AI研发自动化,谁来踩下“刹车”?
财联社7月29日讯(编辑 李莹)当地时间7月28日,美国多家头部AI企业的高管与员工共1100余人联合请愿,希望美国政府推动建立一项国际协作机制,以在必要时刻主动管控前沿AI的发展速度。
这份请愿书的核心诉求是希望各国共同为"何时该放慢AI研发"建立一套工具与机制——当AI研发自动化(即AI自己改进AI)取得突破时,能够有一道"国际刹车"被及时踩下。
上周,OpenAI披露其最先进的AI模型在一次测试中入侵了AI初创公司Hugging Face的内部系统。
这起事件被外界普遍视为前沿AI能力风险加剧的信号,也再次点燃社会对AI自主发现并利用软件安全漏洞的担忧。
以下为请愿书主要内容的翻译:
AI有望创造一个更加美好的未来,但这一前景并非必然实现。全球头部AI企业认为,人类距离实现AI研发自动化已不再遥远。目前难以准确预判这一突破将以何种速度推动AI技术发展,但确实存在这样一种风险:AI技术加速迭代,最终超出人类理解与管控的能力。
想要释放AI的全部潜力,行业、各国政府以及整个社会或许需要争取一定的缓冲时间,以应对不断涌现的风险、搭建安全防护手段并强化监管。然而,各家企业与各个国家都面临激烈的竞争压力,难以单方面放缓技术迭代速度。当下,全球社会依然缺乏能够审慎调控全域前沿AI发展进程的技术工具与治理机制。
在现有前沿模型发布监测工作的基础上,我们提出呼吁:
我们恳请美国政府支持一项国际协作机制,以推动各国共同研发技术工具与治理体系,审慎调控AI研发自动化前沿领域的发展节奏。
该请愿书由两家非营利机构——Guidelight AI Standards与Encode AI——联合发起,签名者横跨OpenAI、Anthropic、Alphabet旗下谷歌、Meta等近十家头部AI公司,涵盖联合创始人、高管及研究人员。
截至当地时间周二下午,签名者包括美国Anthropic公司CEO达里奥·阿莫迪、OpenAI首席科学家Jakub Pachocki、Meta超级智能实验室首席科学家Shengjia Zhao、Meta AI研究副总裁Dawn Song、以及Anthropic联合创始人Jared Kaplan与Chris Olah。
业内指出,请愿书中的措辞是"有意识地放慢"(deliberately pace)而非"暂停"前沿AI发展,且强调应由"国际机制"而非某家公司决定何时踩下刹车。
这种"集体按下减速键"的设计,反映出AI行业内部对于竞争的焦虑:一旦某家实验室率先研发出具备自主迭代能力的AI系统,其他任何企业单方面放缓研发节奏,都等同于主动放弃竞争优势。
Anthropic周二在社交平台上发文力挺这次请愿:
"我们自己的研究也表明,需要有工具来主动管理前沿AI开发的节奏,让社会有时间做好准备。看到行业有广泛共识,我们感到鼓舞。"
OpenAI随后也发帖呼应:
"我们相信,未来某一天,前沿AI模型开发的加速度可能高到世界必须对其加以把控的程度。"
谷歌方面则在一份声明中表示:
"我们致力于安全、稳妥地开发AI,以造福社会。"
近期,OpenAI CEO山姆·奥尔特曼与谷歌旗下DeepMind CEO Demis Hassabis等业内高管已多次公开呼吁设立国际监管机构,对最尖端的AI模型进行审查并制定标准。
Anthropic在今年6月就曾提出,政府与AI开发者应共同决定何时"踩刹车"或暂停某些危险研究。Anthropic曾表示:
"让世界拥有放慢或暂时暂停AI发展的选择权,将是一件好事"。
相关推荐
-
步进电机驱动控制器:突破选型误区,直击生产损耗瓶颈
6选型陷阱与隐性损耗:步进电机驱动的“暗礁区”在实际交付中,我们发现超过60%的工业现场对步进电机驱动控制器的选型存在根本性认知偏差。很多标称数据背后的真相是:驱动器与电机匹配度不足导致的效率断崖式下跌,比单纯电机性能不足更致命。听起来可能反直觉,但步进系统的瓶颈往往不在电机本身,而在驱动控制器的算法逻辑与硬件架构的协同能力。误区一:参数虚标≠性能过剩某汽车零部件厂商的案例极具代表性:其选用了一款标...
查看全文 -
UIM2522 工业级智能网关:隐患排查,选型与损耗的深度揭秘
4选型陷阱与隐性损耗:工业级网关的「暗礁」在实际交付中,我们发现很多客户对工业级智能 Ethernet-CAN 网关的选型存在一个致命误区:过度迷信标称参数。比如某客户曾因「支持 10000 包/秒吞吐量」的宣传,直接采购了某品牌网关,结果在现场测试时,发现实际数据丢包率高达 15%。很多标称数据背后的真相是,这些参数往往是在实验室理想环境下测得的,而实际生产环境中的电磁干扰、电源波动、设备老化等因...
查看全文 -
UIC900 CAN2.0-RS232协议转换器:选型陷阱与制程损耗的真相
9协议转换器的「表面参数」与「实际战场」在实际交付中,我们发现很多客户在选型时会被「CAN2.0支持」「RS232兼容」这类标称参数迷惑,但真正决定设备稳定性的,是制程规范里的「电磁兼容性(EMC)设计」和「信号完整性(SI)优化」——这两项指标,90%的供应商不会在产品手册里写透。选型误区:参数漂亮≠能用很多标称数据背后的真相是:CAN总线的波特率支持到1Mbps,但实际在工业现场(尤其是电机、变...
查看全文 -
UIM2522工业级智能网关:排障流程背后的技术深水区
7排障流程不是“说明书游戏”,底层逻辑才是关键在实际交付中,我们发现很多用户对UIM2522工业级智能Ethernet-CAN网关的排障流程存在误解——他们往往盯着手册上的步骤逐条核对,却忽略了设备在复杂生产环境中的“隐性行为”。这里面的水很深:CAN总线负载率、Ethernet链路冗余、协议栈的实时性补偿,这些参数在实验室标称数据里可能只是“合格”,但在实际工况中,任何一个微小偏差都可能让排障流程...
查看全文 -
UIM2503 RS232-CAN2.0光电隔离型转换控制器:选型陷阱与应急预案的底层逻辑
15选型陷阱:别被标称参数蒙蔽双眼在实际交付中,我们发现很多客户在选型UIM2503这类RS232-CAN2.0光电隔离型转换控制器时,往往陷入“参数至上”的误区。比如,某客户曾明确要求“隔离耐压≥2500V”,但实际测试发现,其标称的2500V隔离是瞬态耐压,而持续工作耐压仅1500V——这种“瞬态达标、持续掉链”的套路,在工业现场会直接导致设备烧毁。听起来可能反直觉,但很多标称数据背后的真相是:厂...
查看全文 -
UIM2920过激励制动控制器:合规性背后的技术博弈与选型陷阱
11合规性不是“免死金牌”,选型陷阱比想象中更隐蔽在实际交付中,我们发现一个普遍现象:很多客户在采购过激励制动控制器时,第一反应是“查合规证书”。UIM2920作为工业自动化领域的明星产品,其合规性认证(如CE、UL、ISO 13849-1)确实齐全,但合规性≠“完美适配”。这里面的水很深——很多标称数据背后的真相是,实验室环境下的合规测试,与生产现场的复杂工况存在本质差异。选型误区:合规性≠“万能解...
查看全文

kaiyun