ChatGPT的制造商正試圖通過一種新工具遏制其作為隨心所欲的作弊機(jī)的聲譽(yù)，該工具可以幫助教師檢測是學(xué)生還是人工智能寫了家庭作業(yè)蒸殿。
OpenAI周二推出的新AI文本分類器是在學(xué)校和大學(xué)進(jìn)行了為期數(shù)周的討論之后择克，人們擔(dān)心ChatGPT編寫任何命令的能力可能會(huì)助長學(xué)術(shù)不誠實(shí)并阻礙學(xué)習(xí)恬总。
OpenAI警告說，它的新工具 - 就像其他已經(jīng)可用的工具 - 并非萬無一失肚邢。檢測人工智能書面文本的方法“并不完美壹堰，有時(shí)會(huì)出錯(cuò)，”O(jiān)penAI協(xié)調(diào)團(tuán)隊(duì)負(fù)責(zé)人Jan Leike說，該團(tuán)隊(duì)的任務(wù)是使其系統(tǒng)更安全缀旁。
“正因?yàn)槿绱思桥谧龀鰶Q定時(shí)不應(yīng)該僅僅依賴它勺鸦，”Leike說并巍。
Chat GPT
青少年和大學(xué)生是11 月 30 日在 OpenAI 網(wǎng)站上作為免費(fèi)應(yīng)用程序推出 ChatGPT 后開始試驗(yàn)的數(shù)百萬人之一。雖然許多人找到了創(chuàng)造性和無害地使用它的方法换途，但它可以輕松回答帶回家的測試問題并協(xié)助完成其他作業(yè)懊渡，這引發(fā)了一些教育工作者的恐慌。
到新年學(xué)校開學(xué)時(shí)军拟，紐約市剃执、洛杉磯和其他大型公立學(xué)區(qū)開始阻止在教室和學(xué)校設(shè)備上使用它。
西雅圖公立學(xué)校區(qū)發(fā)言人蒂姆·羅賓遜（Tim Robinson）說懈息，西雅圖公立學(xué)校學(xué)區(qū)最初在12月在所有學(xué)校設(shè)備上阻止了ChatGPT肾档，但隨后向希望將其用作教學(xué)工具的教育工作者開放了訪問權(quán)限。
“我們不能忽視它辫继，”羅賓遜說怒见。
羅賓遜說，該學(xué)區(qū)還在討論可能將ChatGPT的使用擴(kuò)展到課堂姑宽，讓教師用它來訓(xùn)練學(xué)生成為更好的批判性思考者遣耍，并讓學(xué)生將該應(yīng)用程序用作“個(gè)人導(dǎo)師”或在完成作業(yè)時(shí)幫助產(chǎn)生新的想法。
全國各地的學(xué)區(qū)表示炮车，他們看到圍繞ChatGPT的對話正在迅速發(fā)展舵变。
“最初的反應(yīng)是'天哪，我們將如何阻止ChatGPT發(fā)生的所有作弊行為瘦穆，'”馬里蘭州卡爾弗特縣公立學(xué)區(qū)技術(shù)專家Devin Page說纪隙。他說，現(xiàn)在人們越來越意識到“這是未來”扛或，阻止它不是解決方案瘫拣。
“我認(rèn)為如果我們沒有意識到這個(gè)工具帶來的危險(xiǎn)，我們會(huì)很天真告喊，但如果我們禁止他們和我們使用它的所有潛在力量麸拄，我們也將無法為我們的學(xué)生服務(wù)，”佩奇說黔姜，他認(rèn)為像他這樣的地區(qū)最終會(huì)解鎖 ChatGPT拢切，特別是一旦公司的檢測服務(wù)到位。
OpenAI在周二的一篇博客文章中強(qiáng)調(diào)了其檢測工具的局限性秆吵，但表示除了阻止抄襲之外淮椰，它還可以幫助檢測自動(dòng)虛假信息活動(dòng)和其他濫用AI來模仿人類的行為。
Bard AI
一段文本越長，該工具就越能更好地檢測人工智能或人類是否寫了什么主穗。輸入任何文本——大學(xué)入學(xué)論文泻拦，或者對拉爾夫·埃里森（Ralph
Ellison）的《隱形人》（Invisible
Man）的文學(xué)分析——該工具會(huì)將其標(biāo)記為“非常不可能，不太可能忽媒，不清楚它是否争拐，可能或可能”是人工智能生成的。
但就像ChatGPT 本身一樣晦雨，它接受了大量數(shù)字化書籍架曹、報(bào)紙和在線著作的培訓(xùn)，但經(jīng)常自信地吐出虛假或胡說八道闹瞧，很難解釋它是如何得出結(jié)果的绑雄。
“我們從根本上不知道它關(guān)注什么樣的模式，或者它在內(nèi)部是如何工作的奥邮，”Leike說万牺。“在這一點(diǎn)上洽腺，關(guān)于分類器的實(shí)際工作原理脚粟，我們真的無話可說。
“像許多其他技術(shù)一樣已脓，可能是一個(gè)地區(qū)決定它不適合在課堂上使用珊楼，”O(jiān)penAI政策研究員Lama Ahmad說《纫海“我們并沒有真正以一種或另一種方式推動(dòng)他們厕宗。
