內(nèi)容摘要:計算機(jī)科學(xué)家討論ChatGPT的利弊。Credit: Pixabay/CC0 Public Domain神秘的地球uux.cn)據(jù)by Johns Hopkins University:憑借其模仿人類
武漢硚口找酒店上門(同城酒店上門)vx《356+2895》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)

計算機(jī)科學(xué)家討論ChatGPT的利弊。Credit: Pixabay/CC0 Public Domain
(神秘的討論地球uux.cn)據(jù)by Johns Hopkins University:憑借其模仿人類語言和推理的神奇能力,ChatGPT似乎預(yù)示著人工智能的利弊
武漢硚口找酒店上門(同城酒店上門)vx《356+2895》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)一場革命。自從硅谷研究實驗室OpenAI在11月發(fā)布自然語言處理工具以來,計算機(jī)科用戶已經(jīng)測試了無數(shù)應(yīng)用程序,討論其中包括靈活的利弊聊天機(jī)器人可以召喚詩歌和散文,分享食譜,計算機(jī)科翻譯語言,討論提供建議和講笑話。利弊
伴隨著興奮而來的計算機(jī)科是一些恐懼——技術(shù)可能會降低真實的人類寫作和批判性思維,顛覆行業(yè),討論并放大我們自己的利弊偏見和成見。
約翰霍普金斯大學(xué)計算機(jī)科學(xué)助理教授丹尼爾·哈沙比說,計算機(jī)科對于那些從事人工智能工作的討論人來說,ChatGPT不僅僅是利弊一夜之間的轟動,而是多年實驗后取得成就的標(biāo)志,他專門研究語言處理,并研究過類似的
武漢硚口找酒店上門(同城酒店上門)vx《356+2895》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)工具。
“ChatGPT似乎是一場突如其來的革命,”他說。"但這項技術(shù)多年來一直在逐步發(fā)展,最近幾年進(jìn)展迅速."
然而,Khashabi承認(rèn)ChatGPT似乎開創(chuàng)了一個前所未有的時代,一個充滿人類進(jìn)步潛力的時代。“這真的是我們修正對智慧含義理解的機(jī)會,”他說。“這是一個激動人心的時刻,因為我們有機(jī)會應(yīng)對新的挑戰(zhàn)和新的前景,而這些過去是我們力所不及的。”
隨著微軟對該工具的投資,OpenAI發(fā)布了一個付費(fèi)版本,谷歌計劃發(fā)布自己的實驗性聊天機(jī)器人,該中心向Khashabi了解了該技術(shù)及其發(fā)展方向。
能不能分解一下ChatGPT的工作原理?
第一階段不涉及直接的人類反饋。該模型通過從網(wǎng)絡(luò)上回流大量文本來學(xué)習(xí)語言的結(jié)構(gòu)——例如,來自維基百科、Twitter、Reddit、紐約時報等所有不同語言的句子和段落。它還接受了來自GitHub等平臺的程序員編寫的代碼的訓(xùn)練。
在第二階段,[通常稱為“自我監(jiān)督”學(xué)習(xí)],人類注釋者參與訓(xùn)練模型變得更加復(fù)雜。他們對ChatGPT收到的各種類型的查詢編寫響應(yīng),因此該模型學(xué)習(xí)執(zhí)行像“就這個主題寫一篇文章”或“修改這一段”這樣的命令。
因為OpenAI坐擁一座金礦,他們有能力雇傭許多注釋者,并讓他們注釋大量高質(zhì)量的數(shù)據(jù)。我通過小道消息聽說,最初的系統(tǒng)被輸入了近100,000輪人類反饋。所以這背后有大量的人力。
但OpenAI的秘密武器不是其人工智能技術(shù),而是使用其服務(wù)的人。每當(dāng)有人查詢他們的系統(tǒng)時,他們會收集這些查詢,以使ChatGPT適應(yīng)用戶正在尋找的內(nèi)容,并識別他們系統(tǒng)的弱點。換句話說,OpenAI的成功在于贏得了數(shù)百萬人使用它的演示。
你個人是如何體驗ChatGPT的?
它可以是一個優(yōu)秀的寫作和頭腦風(fēng)暴工具。我可以寫一個我腦海中的想法的摘要,讓ChatGPT更復(fù)雜地擴(kuò)展它,然后挑選我喜歡的結(jié)果并自己進(jìn)一步開發(fā)它們或繼續(xù)使用ChatGPT。這就是人機(jī)協(xié)同寫作。正如Twitter上有人恰當(dāng)?shù)卣f的那樣,“ChatGPT是你大腦的電動自行車!”
你對它受到的關(guān)注和壓力有什么看法?
這是人工智能進(jìn)步的又一個里程碑,值得慶祝。令人興奮的是,人工智能和自然語言處理越來越接近于幫助人類完成他們關(guān)心的任務(wù)。
然而,我擔(dān)心過分夸大人工智能的狀態(tài)。已經(jīng)取得了進(jìn)展,但“普遍智能”仍未出現(xiàn)。在過去的幾十年里,每當(dāng)我們進(jìn)步的時候,我們都會不斷地修正我們對“聰明”的理解。在20世紀(jì)60年代和70年代,我們的目標(biāo)是創(chuàng)建一個與人類對弈的系統(tǒng)。這樣的例子還有很多。每一次進(jìn)步,我們都會想:“就是這樣!”但是過了一段時間,炒作就銷聲匿跡了,我們看到了問題并發(fā)現(xiàn)了新的需求。
“智能”一直是一個不斷變化的目標(biāo),并且很可能繼續(xù)保持下去,但我對在解決ChatGPT類系統(tǒng)的缺點方面取得的進(jìn)展感到興奮。
那些缺點是什么?
ChatGPT編東西很容易。如果你問ChatGPT一些它沒見過的小眾的東西,它會用流暢的議論文式的語言幻覺出事實。例如,如果你問它如何定義“維納斯·大威廉姆斯在哪屆錦標(biāo)賽上贏得她的第八個大滿貫?”它會為你補(bǔ)上一個答案,盡管維納斯·大威廉姆斯已經(jīng)贏得了七個大滿貫。正如許多媒體報道的那樣,她想贏得她的第八個冠軍,但她沒有。這個模型混淆了“想贏”和“贏了”這兩個概念。
問題是它做得如此流暢。它可以給你垃圾,但在如此流暢,連貫的語言中,如果你不是該領(lǐng)域的專家,你可能會相信它說的是真的。這讓我很擔(dān)心,我認(rèn)為我們?nèi)祟愒诳此魄逦妮敵雒媲昂苋菀资茯_。
另一方面,ChatGPT有什么令人興奮的地方?
我們現(xiàn)在有了這些工具,可以產(chǎn)生有創(chuàng)造性的和流暢的語言,這是我們花了多年時間解決的一個挑戰(zhàn)。作為一名人工智能科學(xué)家,我的興奮之處在于接下來的步驟,我們有新的問題需要人工智能來解決。
我對人工智能的目標(biāo)——逆向工程人類智能——不太感興趣,而更感興趣的是智能增強(qiáng)。我認(rèn)為使用人工智能使人類能夠做得更好并增強(qiáng)人類能力是一個有價值的目標(biāo)。我對這種協(xié)作系統(tǒng)感到興奮。
你如何看待技術(shù)的發(fā)展?
我們?nèi)蕴幱谶@種變化之中,但我們將繼續(xù)使語言模型更有效,從而產(chǎn)生更緊湊但質(zhì)量更高的模型。因此,我們將在任何地方看到非常可靠的對話代理形式。未來的模型將是你的網(wǎng)絡(luò)導(dǎo)航助手,完成我們現(xiàn)在自己做的各種基于網(wǎng)絡(luò)的普通任務(wù)。
同樣的一套技術(shù)也開始進(jìn)入現(xiàn)實世界。當(dāng)前的模型,如ChatGPT,不能感知它們的環(huán)境。比如他們看不到我的手機(jī)在哪里,看不到我有多累。很快我們就會看到有眼睛的ChatGPT。這些模型將使用不同形式的數(shù)據(jù)(文本、視覺、聽覺等。),這是他們每天為我們服務(wù)所必需的。
這將導(dǎo)致基于其物理環(huán)境數(shù)據(jù)的自我監(jiān)督機(jī)器人,包括物理對象、人類及其交互。這里的影響將是巨大的。在不到10年的時間里,我們?nèi)粘J褂玫娜魏挝锢碓O(shè)備——汽車、冰箱、洗衣機(jī)等等。—將成為您可以與之交談的對話代理。我們還將看到機(jī)器人在解決今天不可能解決的問題方面驚人的強(qiáng)壯。想象一下,你要和你的Roomba談?wù)撃阆胱龌虿幌胱龅氖虑椋拖衲愫虲hatGPT交談一樣。
同樣重要的是,不要忽視這些技術(shù)將如何在社會層面上改變事物。未來的多模態(tài)模式——有眼睛和耳朵的聊天機(jī)器人——將無處不在,并將影響一切,包括公共安全。但現(xiàn)在問題來了:在一個我們不斷被有眼睛和耳朵的人工智能模型監(jiān)視的社會里,我們的自由和隱私會是什么樣子?
這聽起來像是著名小說《1984》描述的反烏托邦社會。像任何其他技術(shù)一樣,自我監(jiān)督模型是一把雙刃劍。我們現(xiàn)在能做的最好的事情就是保持警惕,在應(yīng)用程序出現(xiàn)之前預(yù)見并討論這些問題。理想情況下,我們需要通過從ChatGPT等例子向其未來擴(kuò)展進(jìn)行外推,來開發(fā)確保我們的自由和公平的框架。我很樂觀,我們會的。