发布时间:2024-08-28 15:54:35 来源:本站 作者:admin
OpenAI 的两名前研究人员对首席执行官 Sam Altman 在人工智能监管方面的立场表示担忧。前 OpenAI 研究人员警告称,Sam Altman 对 AI 监管的支持只是一种公关幌子。他们认为,他对 AI 安全的公开支持可能更多是为了维护正面形象,而不是真正保护公众。据他们说,这可能会对公共安全构成风险。
报告显示,OpenAI 正面临财务困难,Business Insider 称损失高达 50 亿美元。据称该公司濒临破产。鉴于这些挑战,OpenAI 反对一项拟议措施 SB 1047,该措施旨在建立安全协议,防止 AI 变得过于先进。
此举引发了各方的批评,包括两名前研究人员 William Saunders 和 Daniel Kokotajlo。他们公开批评 OpenAI 对这项立法的立场,表达了对隐私和安全问题的担忧。
研究人员因安全问题辞职
在一封信中,前 OpenAI 研究人员警告说,Sam Altman 对 AI 监管的支持只是一种公关幌子,声称 OpenAI 优先考虑快速产品发布而不是安全。在一封解释他们离开 OpenAI 决定的信中,Saunders 和 Kokotajlo 表示,他们最初加入该公司是为了帮助确保其强大的 AI 系统的安全开发。然而,他们最终辞职,理由是对 OpenAI 安全负责地开发这些系统的能力失去了信任。这封由 Windows Central 分享的信声称,OpenAI 开发复杂的 AI 模型,但没有足够的保障措施来防止它们变得无法控制。
前 OpenAI 研究人员警告说,Sam Altman 对 AI 监管的支持只是一种公关幌子。他们指出,OpenAI 反对特定的法规,例如加利福尼亚州的 SB 1047,该法案提出了明确的 AI 开发安全措施。
GPT-40 发布引发争议
随着 OpenAI 最近推出 GPT-40,争议进一步加深。有报道称,该公司匆忙发布,甚至在测试开始之前就发出了活动邀请。人们承认,OpenAI 的协调和安全团队人手不足,负担过重,几乎没有时间进行彻底的测试。尽管存在这些问题,OpenAI 仍坚称,在发布期间,它并没有在产品质量上妥协。然而,包括前研究人员在内的批评人士认为,优先考虑产品发布而不是严格的安全流程可能会带来“可预见的对公众造成灾难性伤害的风险”。
关于人工智能监管的争论
关于人工智能监管的争论仍在加剧。虽然 OpenAI 首席执行官 Sam Altman 公开呼吁监管,但他也表示倾向于采用基于机构的方法,类似于飞机的监管框架。Altman 认为,由于技术进步的快速发展,将人工智能法规写入法律可能会在短时间内过时。
前 OpenAI 研究人员警告称,Sam Altman 对 AI 监管的支持只是一种公关幌子,他们强调迫切需要真正的监管监督。他们声称,当提出真正的监管措施时,例如 SB 1047,Altman 倾向于反对。OpenAI 发言人反驳了这些说法,称该公司强烈反对对其对该立法立场的描述。
在致发起该法案的加州参议员 Scott Wiener 的一封信中,OpenAI 首席战略官 Jason Kwon 主张采用联邦方式制定 AI 政策。Kwon 认为,统一的联邦框架将更好地支持创新,并帮助美国在制定全球标准方面发挥领导作用。
拟议的 AI 法案的命运仍不确定。OpenAI 已对该立法提出了几项修正案,但目前尚不清楚这些变化是否会被接受。前研究人员警告说,等待联邦行动可能不是一个选择,因为国会几乎没有表现出通过全面 AI 监管的意愿。他们认为,如果联邦采取行动,可能会推翻加州提出的立法等州法律。