據(jù)報道,倫理谷歌近日向外界表示,部門不安西安怎么約小姐酒店上門vx《134-8006-5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達它仍堅定致力于以合乎道德規(guī)范的動蕩方式進行人工智能研究。該公司還做出承諾,引監(jiān)將把人工智能研究人員數(shù)量增加一倍,谷歌管機構(gòu)關(guān)達到200人。倫理谷歌首席執(zhí)行官皮查伊也表示,部門不安將為更多符合倫理規(guī)范的動蕩人工智能項目提供資金支持。
六個月前,引監(jiān)谷歌的谷歌管機構(gòu)關(guān)人工智能倫理明星研究員蒂姆尼特·格布魯(Timnit Gebru)遭到解雇,原因是倫理她在一篇學(xué)術(shù)論文中對谷歌的一項人工智能技術(shù)提出了倫理質(zhì)疑。今年五月份,部門不安谷歌人工智能負責(zé)人杰夫·迪安(Jeff Dean)表示,動蕩盡管格布魯離職事件影響到了谷歌的引監(jiān)聲譽,但人們需要向前看。
然而,對谷歌人工智能倫理團隊的部分成員來說,現(xiàn)實與谷歌高管的公開宣示卻有所不同。該團隊是谷歌新成立的一個人工智能分支研究機構(gòu),共有成員十人,主要任務(wù)是研究人工智能如何影響社會。根據(jù)成員的反映,該團隊幾個月來一直處于一種前途未卜的狀態(tài)。團隊成員懷疑,西安怎么約小姐酒店上門vx《134-8006-5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達公司是否能在學(xué)術(shù)界重建信譽,以及公司領(lǐng)導(dǎo)是否會聽取團隊的建議。目前,兩位團隊領(lǐng)導(dǎo)已經(jīng)離職,而谷歌尚未聘請到合適的繼任者。許多成員感到職業(yè)前景不穩(wěn)定,一些人開始考慮離開谷歌,準備去其他科技公司工作或者重返學(xué)術(shù)界。
谷歌人工智能部門的發(fā)言人已拒絕就人工智能倫理團隊的事情發(fā)表評論。
谷歌的研究機構(gòu)擁有數(shù)千研究人員,但專門研究人工智能倫理的僅有十人。人工智能倫理團隊以發(fā)表了有關(guān)人工智能訓(xùn)練數(shù)據(jù)集的算法公平性的開創(chuàng)性論文而聞名于世。該團隊為谷歌在學(xué)術(shù)界建立起了學(xué)術(shù)聲譽,證明谷歌有能力進行前沿、有時甚至是批判性的研究——這對谷歌來說非常重要。畢竟,每天都有幾十億人依賴谷歌的產(chǎn)品來遨游互聯(lián)網(wǎng),而該公司的核心產(chǎn)品,比如搜索引擎,正越來越依賴人工智能。
雖然人工智能在癌癥診斷、地震探測和與人類交互方面具有改變世界的潛力,但這一正處飛速發(fā)展階段的技術(shù)也會有可能擴大對女性和少數(shù)族裔的偏見,對個人隱私構(gòu)成威脅,以及導(dǎo)致碳排放的增加。谷歌為此建立了一個審查程序,用以確定新的人工智能技術(shù)是否符合其在2018年提出的人工智能倫理原則。在這一背景下,人工智能倫理團隊的職責(zé)是幫助谷歌尋找公司在人工智能領(lǐng)域的盲點,確保公司負責(zé)任地開發(fā)和應(yīng)用人工智能技術(shù)。然而,人工智能倫理專家格布魯?shù)碾x職引發(fā)了巨大的爭議,并導(dǎo)致了人工智能倫理團隊的人事動蕩。一些學(xué)者開始擔(dān)心,谷歌在開發(fā)有可能改變世界的人工智能新技術(shù)時,可能無法充分處理公司內(nèi)部的倫理反饋意見。
例如,今年5月,谷歌發(fā)布了一款新的皮膚病人工智能檢測應(yīng)用程序,但這款應(yīng)用程序引發(fā)了批評,因為它有一個明顯的缺點:它在測試數(shù)據(jù)中大大低估了較淺膚色與較深膚色的對比。如果在發(fā)布前能事先咨詢一下人工智能倫理團隊,這一問題原本有可能加以避免。
在過去的幾個月里,谷歌倫理研究團隊的領(lǐng)導(dǎo)層一直處于持續(xù)動蕩的狀態(tài)。在短短幾個月的時間里,該團隊繼格布魯研究員離職后,又先后失去了兩位領(lǐng)導(dǎo)人。今年2月,谷歌解雇了梅格·米切爾(Meg Mitchell),正是她負責(zé)創(chuàng)建了谷歌人工智能倫理團隊,并與格布魯共同領(lǐng)導(dǎo)該團隊。到了4月份,米切爾和格布魯?shù)闹苯宇I(lǐng)導(dǎo)、頂尖人工智能科學(xué)家薩米·本吉奧(Samy Bengio)也宣布辭職。本吉奧曾向外界表示,他對格布魯?shù)慕饴毟械?ldquo;震驚”。本吉奧是谷歌大腦研究部門的負責(zé)人,谷歌人工智能倫理團隊正是在其領(lǐng)導(dǎo)下開展工作。從谷歌離職后,他將領(lǐng)導(dǎo)蘋果公司一個新建立的人工智能研究團隊。
2月中旬,谷歌任命前工程副總裁瑪麗安·克勞克(Marian Croak)為新成立的人工智能責(zé)任部門(Responsible AI Department)的負責(zé)人,人工智能倫理團隊也劃歸該部門管理。然而,克勞克的行政級別太高,因此并不直接參與該團隊的日常運作。
這樣一來,人工智能倫理團隊的運作就變得比較尷尬。他們不得不向上述已經(jīng)離職的領(lǐng)導(dǎo)人尋求非正式的工作指導(dǎo)和研究建議。團隊成員搭建了臨時的組織架構(gòu),讓每位成員輪流負責(zé)每周的部門會議。他們還自行指定了兩名研究人員,定期與谷歌其他團隊溝通,以讓他們了解團隊的最新成果。由于谷歌在全球雇用了超過13萬名員工,對像人工智能倫理團隊這樣的小團體來講,一般很難知道他們的工作成果是否真正應(yīng)用到了公司的產(chǎn)品中。
過去的半年對該團隊的新成員來說顯得尤其困難,他們有時甚至不知道該如何領(lǐng)取自己的薪水,以及如何才能訪問谷歌的內(nèi)部研究工具。一些團隊成員在看到格布魯和米切爾的遭遇后,開始覺得他們正在從事的工作有風(fēng)險,擔(dān)心如果以后他們的工作成果也引發(fā)了爭議,那么他們也可能會被解雇。
克勞克是一位有成就的工程研究領(lǐng)導(dǎo)人,但在人工智能倫理領(lǐng)域經(jīng)驗不足。在與人工智能倫理團隊的會面中,她試圖向員工保證,她是團隊的盟友。克勞克是谷歌級別最高的黑人高管之一。在谷歌,黑人女性只占員工總數(shù)的1.2%。她承認,谷歌在改善員工種族和性別多樣性方面缺乏進展。據(jù)幾位研究人員稱,克勞克在與人工智能倫理團隊的會面中,也向團隊成員表達了歉意,對團隊目前的困境表示感同身受。
然而,又有消息稱,這位高管與人工智能倫理團隊的關(guān)系還是出現(xiàn)了問題,因為他們覺得她只是做出了一些空洞的承諾。在克勞克被正式任命為人工智能責(zé)任部門負責(zé)人之前幾周,她就已經(jīng)與人工智能倫理團隊的成員進行了非正式的交流,討論如何修復(fù)對團隊造成的損害。然后,人工智能倫理團隊的成員共同起草了一封信,提出了包括對團隊進行“結(jié)構(gòu)改革”在內(nèi)的一些建議。谷歌后來確實對團隊進行了重組,并將團隊劃歸新組建的人工智能責(zé)任部門管理。然而,團隊成員是公司內(nèi)部最后得知此事的人。因此,當(dāng)團隊成員得到消息時,他們是一臉的懵逼。團隊成員對此感到很不滿,認為重組過程與他們?nèi)狈贤ǎ蛔鹬厮麄儭?/p>
一些團隊成員對自己在谷歌的未來感到悲觀,并開始懷疑是否真正擁有展開研究所必需的自由環(huán)境。他們要求谷歌公開承諾學(xué)術(shù)自由,并澄清其學(xué)術(shù)研究審查程序。截至目前,谷歌尚未對這些要求有所回應(yīng)。此外,團隊成員還希望谷歌向已經(jīng)離職的格布魯和米切爾道歉,并向她們再次提供工作機會——但目前看來,這些要求極不可能實現(xiàn)。而且,格布魯也已經(jīng)表示,即使谷歌再次向她提供工作機會,她也不會回來。
一些團隊成員表示,他們正在考慮離開公司。在競爭激烈的人工智能領(lǐng)域,頂尖研究人員可以拿到七位數(shù)的薪水,如果這些人員離職,那將是谷歌的一個巨大損失。
現(xiàn)在,谷歌在學(xué)術(shù)研究領(lǐng)域的地位正變得岌岌可危。到目前為止,谷歌是科技行業(yè)最大的研究資助者之一——它去年在研發(fā)領(lǐng)域投入了270多億美元,這甚至超過了美國宇航局(NASA)的年度預(yù)算。但谷歌人工智能倫理團隊近期出現(xiàn)的這些爭議性事件,讓一些學(xué)者質(zhì)疑,谷歌的讓研究人員自由開展研究的承諾,是否已被公司的商業(yè)利益所束縛。
數(shù)千名計算機科學(xué)教授和研究人員曾簽署了一份請愿書,批評谷歌解雇格布魯?shù)呐e動,稱之為“前所未有的學(xué)術(shù)研究審查” 。谷歌的人工智能高管心里很清楚,谷歌已經(jīng)失去了學(xué)術(shù)界的信任。迪恩在今年2月的一次員工研究會議上發(fā)表評論稱,重建信任的策略是“繼續(xù)發(fā)表‘非常有趣’的前瞻性工作”。他說,“重新獲得人們的信任需要一點時間。”
然而,重建信任所需的時間恐怕不止“一點”。加拿大安大略西部大學(xué)(Western University)的研究人員盧克·斯塔克(Luke Stark)評論說:“我認為,目前谷歌基本上是無法挽回其在學(xué)術(shù)界的聲譽的,至少中期來看是如此。”斯塔克最近還拒絕了谷歌的六萬美元的不受限制資助,以抗議格布魯?shù)谋黄入x職。據(jù)報道,他是有史以來第一個拒絕谷歌研究資助的學(xué)者。此外,還有另外兩個人工智能研究團體也已經(jīng)表示將拒絕谷歌的任何資助。
目前,至少有四名谷歌員工,包括一名工程總監(jiān)和一名人工智能研究人員,已經(jīng)離開公司a,并且是以格布魯被解雇作為辭職理由。當(dāng)然,這些離職僅代表了一個大群體中的少數(shù)人。其他人選擇留下是因為他們?nèi)匀幌嘈攀虑闀修D(zhuǎn)機。一位不屬于人工智能倫理團隊的員工表示,他和同事們強烈反對谷歌解雇格布魯?shù)臎Q定,但他們也覺得,留下來繼續(xù)做有意義的工作是他們的責(zé)任。
對谷歌如何處理人工智能的倫理問題表示擔(dān)憂的遠不止學(xué)術(shù)界,監(jiān)管機構(gòu)也開始關(guān)注此事。去年12月,9名國會議員致函谷歌,要求谷歌就格布魯被解雇一事作出解釋。頗具影響力的族裔正義組織“Color of Change”也呼吁,對谷歌解雇格布魯一事所可能存在的種族歧視展開外部調(diào)查。
這些外部團體正密切關(guān)注谷歌人工智能部門內(nèi)部發(fā)生的事情。他們意識到人工智能將在人類生活中發(fā)揮越來越大的影響。幾乎所有主要的科技公司,包括谷歌在內(nèi),都將人工智能視為現(xiàn)代世界的一項關(guān)鍵性技術(shù)。基于反壟斷的考慮,谷歌已經(jīng)成為了政治上的熱門話題,谷歌人工智能部門正面臨著很高的政治風(fēng)險。
免責(zé)聲明:家電資訊網(wǎng)站對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。
本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責(zé),本網(wǎng)站無法鑒別所上傳圖片或文字的知識版權(quán),本站所轉(zhuǎn)載圖片、文字不涉及任何商業(yè)性質(zhì),如果侵犯,請及時通知我們,本網(wǎng)站將在第一時間及時刪除,不承擔(dān)任何侵權(quán)責(zé)任。聯(lián)系方式:sikto@126.com
本網(wǎng)認為,一切網(wǎng)民在進入家電資訊網(wǎng)站主頁及各層頁面時已經(jīng)仔細看過本條款并完全同意。敬請諒解。