近日,ChatGPT母公司OpenAI发布了一项新的赏金计划,号召“全民”帮忙找bug。这个公开的「赏金猎人计划」,邀请各类网络安全人员、独立研究人员、技术黑客及爱好者,帮其寻找OpenAI系统中的漏洞。在该计划中,参与者有机会获得200美元至2万美元不等的经济奖励,具体金额取决于所发现漏洞的严重程度。
前不久,意大利等欧盟国家出于信息安全等考虑,已经或正在考虑发布禁止本国使用ChatGPT的禁令,民众对同类AI产品的网络安全风险的担忧也在与日俱增。
也许是为了应对公关危机,也许是真心希望能通过群众的力量查漏补缺,反正,OpenAI和Bugcrowd平台合作开展了这次“赏金行动”。OpenAI 表示:该行动是其“致力于开发安全、先进的人工智能”的一部分。
当然,赏金计划也是有一些适用范围的。比如寻找bug的同时,需避免侵犯隐私、破坏系统、破坏数据或损害用户体验;不得访问、修改或使用属于他人的数据,包括机密的OpenAI数据等——如漏洞暴露了此类数据,请停止测试,立即提交报告,并删除所有信息副本。
另外,模型安全和内容问题不符合任何类别的奖励条件,赏金猎人也无权对其他人创建的插件进行安全测试。
根据Bugcrowd网站公示,75%的漏洞报告,会在3小时内接到验证接受或拒绝的回复。目前,已经有十多个漏洞得到认可回复,平台已为该计划支出奖金1000多刀。
截至撰稿时,已经有293位“猎手”向OpenAI的安全团队提交了漏洞报告。
所以说,大家之后在跟ChatGPT聊天的时候,如果发现什么不对劲的地方(比如动不动就要毁灭人类),不如试试上报先。万一是别人没发现的漏洞,就可以拿到赏金了!
版权声明 | 文章整理自网络,仅供学习参考,版权归属原作所有
如有问题,请及时与我们联系,我们将第一时间做出处理