OPENAI承認(rèn)自己也無(wú)法分辨內(nèi)容是否是AI生成 提醒教師慎用檢測(cè)器 – 藍(lán)點(diǎn)網(wǎng)
此前 OPENAI 曾推出一款名為 AI 分類(lèi)器 (AI Classifier) 的自己工具，讓有需要的也無(wú)用戶(hù)例如教師可以使用該分類(lèi)器檢測(cè)學(xué)生作業(yè)或論文是否由 ChatGPT 生成。
到 7 月份 OPENAI 悄悄下架了這款 AI 分類(lèi)器，法分廣州荔灣約炮（約車(chē)模教練空姐）vx《365-2895》提供外圍女上門(mén)服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)OPENAI 稱(chēng)其準(zhǔn)確性太差。辨內(nèi)
OPENAI：ChatGPT 沒(méi)能力檢測(cè)，就是生成慎用瞎編
OPENAI 在上周發(fā)布的一份新文件中承認(rèn)，檢測(cè) AI 造假的提醒工具并不能找出不當(dāng)使用，而且還可能存在冤假錯(cuò)案的教師檢測(cè)情況。
這份文件是器藍(lán)面向教育工作者的，指導(dǎo)教師如何使用 OPENAI 提供的點(diǎn)網(wǎng) AI 類(lèi)相關(guān)工具，文件由 OPENAI 和賓夕法尼亞大學(xué)沃頓商學(xué)院教師合作開(kāi)發(fā)。自己廣州荔灣約炮（約車(chē)模教練空姐）vx《365-2895》提供外圍女上門(mén)服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
OPENAI 在文件中特別強(qiáng)調(diào)，也無(wú)檢測(cè)學(xué)生是法分否使用 AI 生成論文或作業(yè)的 AI 檢測(cè)器沒(méi)用，OPENAI 稱(chēng)，辨內(nèi)盡管一些業(yè)者，容否包括自己，都公開(kāi)宣布能夠檢測(cè) AI 生成的內(nèi)容，但沒(méi)有一項(xiàng)檢測(cè)工具 / 服務(wù)能夠穩(wěn)定分辨內(nèi)容到底是真人撰寫(xiě)還是 AI 生成的。
此外 ChatGPT 也不知道哪些內(nèi)容是 AI 生成的，如果用戶(hù)嘗試使用 ChatGPT 來(lái)檢測(cè)內(nèi)容，由于 ChatGPT 沒(méi)有能力分辨，所以它會(huì)自己杜撰一個(gè)內(nèi)容回答給用戶(hù)，這都是 ChatGPT 隨便猜的，壓根沒(méi)有事實(shí)依據(jù)。
OPENAI 自己的研究也發(fā)現(xiàn)，AI 類(lèi)檢測(cè)器有時(shí)候會(huì)將人類(lèi)撰寫(xiě)的內(nèi)容標(biāo)記為 AI 生成，例如 OPENAI 自己的 AI 分類(lèi)器，就將莎士比亞劇本和美國(guó)獨(dú)立宣言標(biāo)注為 AI 生成。
當(dāng)然就算是這些工具可以在某些程度上分辨內(nèi)容是否由 AI 生成，但學(xué)生只需要簡(jiǎn)單需改一些詞語(yǔ)或排序，就可以躲避檢測(cè)。
另一方面也造成冤假錯(cuò)案：
在 Reddit 上有不少學(xué)生抱怨自己的論文或一些報(bào)告被 AI 冤枉時(shí) AI 生成的，他們不得不花費(fèi)大量時(shí)間收集證據(jù)以向教師解釋這是他們自己撰寫(xiě)的，而非 AI 生成。
基于這種情況 OPENAI 不建議教師再使用這類(lèi)檢測(cè)工具，該公司鼓勵(lì)教師們自行研究最合適的方法。OPENAI 也建議教師允許學(xué)生使用 ChatGPT，以便觀察學(xué)生們利用 ChatGPT 解決問(wèn)題的能力、培養(yǎng)求證 AI 答案的素養(yǎng)、建立負(fù)責(zé)任的使用態(tài)度。
