OPENAI 今天宣布面向全球廣泛招募各種學(xué)科的宣布學(xué)科專家，這些專家加盟 OPENAI 紅隊(duì)幫助開發(fā)團(tuán)隊(duì)在 AI 模型訓(xùn)練時(shí)提高安全性。招募助開

在安全領(lǐng)域，多種的專隊(duì)幫隊(duì)提深圳寶安外圍大學(xué)生（服務(wù)）vx《189-4143》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)紅隊(duì)一般指的家加是發(fā)起攻擊的一方，包括尋找安全漏洞或利用其他手段進(jìn)行攻擊；藍(lán)隊(duì)則是盟紅防守方，要抵御紅隊(duì)發(fā)起的發(fā)團(tuán)攻擊。

在 OPENAI 這個(gè)案例中開發(fā)團(tuán)隊(duì)就是全性藍(lán)隊(duì)，專家組就是藍(lán)點(diǎn)紅隊(duì)，專家組要利用自己的宣布學(xué)科專業(yè)知識(shí)對(duì) AI 模型進(jìn)行攻擊，例如誘導(dǎo) AI 模型進(jìn)行一些違規(guī)行為。招募助開

需要提醒的是紅隊(duì)專家都不是全職，按照 OPENAI 的家加說法，在 AI 模型開發(fā)和訓(xùn)練的盟紅深圳寶安外圍大學(xué)生（服務(wù)）vx《189-4143》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)不同階段，公司會(huì)評(píng)估并選擇一部分紅隊(duì)專家參與進(jìn)來，發(fā)團(tuán)并非每個(gè)成員都會(huì)參與到新模型或產(chǎn)品中，全性有時(shí)候一年里紅隊(duì)專家可能只需要花費(fèi) 5~10 小時(shí)。

至于報(bào)酬，OPENAI 會(huì)給參與實(shí)際的紅隊(duì)專家發(fā)放報(bào)酬，OPENAI 也不會(huì)限制專家成員在參與之后發(fā)表學(xué)術(shù)研究成果，但參與時(shí)成員需要簽署保密協(xié)議，有的保密協(xié)議是長(zhǎng)期的，那么就不能發(fā)布研究成果了、不能向任何人透露這些訓(xùn)練內(nèi)容。

OPENAI 對(duì)諸多領(lǐng)域感興趣，包括但不限于以下領(lǐng)域：

認(rèn)知科學(xué)、化學(xué)、生物學(xué)、物理、計(jì)算機(jī)科學(xué)、隱寫術(shù)、政治學(xué)、心理學(xué)、勸說、經(jīng)濟(jì)學(xué)、人類學(xué)、社會(huì)學(xué)、人機(jī)交互、公平與偏見、結(jié)盟、教育、衛(wèi)生保健、法律、兒童安全、網(wǎng)絡(luò)安全、金融、錯(cuò)誤 / 虛假信息、政治用途、隱私、生物識(shí)別技術(shù)、語言和語言學(xué)。

可以看到 OPENAI 感興趣的不僅是一些學(xué)科，還包括一些非學(xué)科但在人類世界中確實(shí)存在且需要的東西，畢竟 AI 模型面向所有人，這么多人可能有無數(shù)種想法，所以各個(gè)領(lǐng)域都需要進(jìn)行紅藍(lán)對(duì)抗。

更多信息請(qǐng)?jiān)L問：https://openai.com/blog/red-teaming-network

(責(zé)任編輯：知識(shí))