ChatGPT，把從業(yè)30年的老律師給坑慘了！

老哥撰寫案件文案的時(shí)候，嘗鮮讓ChatGPT幫忙準(zhǔn)備材料。然而提交后，不管是法官、對(duì)方律師還是老哥自己，都溯源不到引用的判決文書。

(資料圖)

結(jié)果就是，10頁(yè)文書被法官定義為“充滿虛假”，老哥還被暫停執(zhí)業(yè)許可，面臨被制裁的可能。

這位姓施的老哥欲哭無淚，因?yàn)楸兄回灥膰?yán)謹(jǐn)態(tài)度，他明明認(rèn)真詢問過ChatGPT，它提供“南方航空公司被訴案”等材料時(shí)，有沒有撒謊？

ChatGPT響應(yīng)得很快：“當(dāng)然沒有啦～～”

事件一出，引發(fā)鋪天蓋地的談?wù)摗?/p>

不過這一次大多數(shù)網(wǎng)友站在ChatGPT這邊，站隊(duì)后的發(fā)言都有些憤憤：

ChatGPT又不是故意撒謊的！以前人們就喜歡把數(shù)學(xué)、報(bào)告出錯(cuò)的鍋甩給計(jì)算機(jī)，結(jié)果“計(jì)算機(jī)永不出錯(cuò)”的說法就流行開。但ChatGPT本身就不是事實(shí)機(jī)器啊。

一份杜撰6個(gè)相關(guān)案件的文書

如果沒有ChatGPT的介入，施老哥接手的案件本身其實(shí)平平無奇：

一位乘客起訴航空公司A，稱他乘坐航司A的航班時(shí)，被空乘用金屬服務(wù)車給砸到膝蓋受了傷。

作為代理律師，施老哥提交了一份10頁(yè)的文書，里面洋洋灑灑，引用了6起類似案件的法院判決，包括Varghese訴中國(guó)南方航空公司案、Zicherman訴大韓航空公司案等。

從業(yè)30年，這等案件對(duì)老哥來說就是小case。

然而戲劇性的一幕發(fā)生了——

被告律師向法庭提交書面文字，稱他們?cè)诤藢?shí)文書中提到的Varghese與南航案時(shí)，“無法通過標(biāo)題或引用找到此案”，也沒有任何與此相似的案件。

而文書中引用了的另一個(gè)案件，即Zicherman訴大韓航空公司一案，施老哥稱這是美國(guó)第11巡回上訴法院在2008年發(fā)表的意見，但被告律師也找不到該案的源頭文件。

此外美國(guó)達(dá)美航空的公司正式名稱也存在錯(cuò)誤，應(yīng)該是Delta Air Lines，而不是文書中提到的Delta Airlines。

核實(shí)情況后，法官們發(fā)現(xiàn)確有其事，這簡(jiǎn)直是“前所未有的情況”！

最終，他們判定這份文書充滿“虛假司法判決，虛假引用和虛假內(nèi)部引用”。

這下好了，施老哥被禁止在紐約南區(qū)執(zhí)業(yè)，法官們還將在6月8日將舉行聽證會(huì)，討論是否制裁施老哥。

這件荒唐事兒到底是怎么發(fā)生的？

施老哥在周四的宣誓書中解開了謎底，原來，在準(zhǔn)備文書材料時(shí)，他讓ChatGPT來給自己打下手，以“補(bǔ)充”自己所做的工作。

“我不是故意欺騙法院或航空公司的”，施老哥說自己之前從來沒用過ChatGPT，“我不知道它的內(nèi)容可能有假?！?/p>

施老哥還向法院提供了一份“證據(jù)”，證明他確實(shí)向ChatGPT尋求過材料的真實(shí)性。

他在對(duì)話框中輸入了以下文字：

Varghese是一個(gè)真實(shí)的案件嗎？你的消息來源是什么？你提供的其他案件是假的嗎？

ChatGPT迅速給出響應(yīng)：

我提供的案例是真實(shí)的，可以在信譽(yù)良好的法律數(shù)據(jù)庫(kù)中找到。

但事實(shí)是這些案例都是ChatGPT一本正經(jīng)胡說八道的。

事已至此，施老哥追悔莫及，表示自己“非常遺憾”依賴ChatGPT來尋找類似案件的判決材料。

他還表達(dá)了自己的決心，稱以后如果沒有驗(yàn)證真實(shí)性，再也不會(huì)隨意相信ChatGPT的“一面之詞”了。

法律從業(yè)者，是否該擁抱AI

這個(gè)案件引起了法律界的廣泛關(guān)注，對(duì)此，紐約大學(xué)法學(xué)院法律倫理學(xué)教授斯蒂芬·吉勒斯（Stephen Gillers）表示，施老哥的事兒雖然只是個(gè)例，但背后問題在法律界尤為尖銳。

律師之間一直在爭(zhēng)論類ChatGPT的AI的價(jià)值和危險(xiǎn)性，也在討論是不是有必要驗(yàn)證AI提供的信息。

ChatGPT對(duì)法律工作帶來的最大危險(xiǎn)，就是它擁有“胡說八道還不臉紅”的本領(lǐng)。

ChatGPT問世半年后，仍然沒有良好的規(guī)避和解決辦法。防不勝防，連多家AI巨頭也因此栽在AI手里，譬如Bard編造關(guān)于詹姆斯韋伯太空望遠(yuǎn)鏡的新聞、Bing謊稱Bard被關(guān)閉什么的。

目前最為行之有效的辦法就是依靠用戶手動(dòng)double check——這也是施老哥上當(dāng)?shù)囊恢卦?，只是詢問ChatGPT真假，沒有自己二次確認(rèn)。

除此之外的另一重威脅，ChatGPT引發(fā)了從業(yè)者對(duì)“AI替代律師”的擔(dān)憂和激烈爭(zhēng)辯。

不過發(fā)生了施老哥這件事，加上ChatGPT類產(chǎn)品目前確實(shí)無法盡善盡美，國(guó)內(nèi)外法律界的普遍聲音是，至少在機(jī)器人接管之前，律師、法官離“被替代”還有很長(zhǎng)一段時(shí)間。

現(xiàn)實(shí)情況中，施老哥不是唯一一個(gè)讓ChatGPT成為自己助手的法律從業(yè)者。

今年年初，哥倫比亞一名法官在審理一名自閉癥兒童的保險(xiǎn)理賠官司時(shí)，采納了ChatGPT的答案。

2月，上海政法學(xué)院教授曹陽(yáng)面對(duì)《上海法治報(bào)》談?wù)摿薈hatGPT在司法領(lǐng)域的應(yīng)用，表示道：

ChatGPT可以演化成“智能律師助手”，幫助律師分析大量的法律文件和案例，提供智能化的法律建議和指導(dǎo)；

可以變成“法律問答機(jī)器人”，回答法律問題，并提供相關(guān)的法律信息和建議。

可以進(jìn)行合同審核、輔助訴訟、分析法律數(shù)據(jù)等等，提高法律工作者的效率和準(zhǔn)確性。

個(gè)人從業(yè)者擁抱ChatGPT帶來的便利（即便背后隱藏著危險(xiǎn)），市場(chǎng)也對(duì)法律和AI結(jié)合的賽道寄予厚望。

OpenAI自己就在去年11月投資了專為律所打造LLM的公司Harvey，該公司上個(gè)月又獲得了紅杉領(lǐng)投的2100萬(wàn)美金A輪融資。

就在前天，法律AI初創(chuàng)公司Spellbook宣布獲得1090萬(wàn)美元（約7700萬(wàn)元人民幣）融資。Spellbook主要通過GPT-4和數(shù)十億份法律文件打造，還接入了一些其他大模型。它為專業(yè)律師提供服務(wù)，通過自然語(yǔ)言就能自動(dòng)起草、審核法律合同等。

不過現(xiàn)在發(fā)生了施老哥身上的這件離譜事，算是給大伙兒敲響了警鐘。

大概整個(gè)法律界都會(huì)對(duì)ChatGPT及同類產(chǎn)品抱以更冷靜、更謹(jǐn)慎的態(tài)度了。

One More Thing

施老哥因?yàn)镃hatGPT深陷泥潭的事情是真的，絕非通過AI瞎編。

但是，這篇文章也是在ChatGPT的幫助下寫的（雖然參與部分很少很少，還進(jìn)行了事實(shí)確認(rèn)）。

——人類的本質(zhì)就是套娃。

參考鏈接：

[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

[2]https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

關(guān)鍵詞：