近日，針對國內(nèi)首例因“AI幻覺”引發(fā)的侵權(quán)案，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回用戶訴訟請求。“AI幻覺”，是指AI脫離客觀事實(shí)、憑空編造信息的技術(shù)現(xiàn)象，這種錯(cuò)誤輸出極易誤導(dǎo)用戶、引發(fā)侵權(quán)。輿論指出，“AI幻覺”已經(jīng)成為當(dāng)前人工智能技術(shù)發(fā)展中最突出的技術(shù)瓶頸之一，杭州互聯(lián)網(wǎng)審結(jié)的相關(guān)案件是法治回應(yīng)技術(shù)挑戰(zhàn)的生動(dòng)實(shí)踐。同時(shí)，我國還需推動(dòng)技術(shù)開發(fā)者、監(jiān)管機(jī)構(gòu)共同努力，從規(guī)范完善、監(jiān)管優(yōu)化等多個(gè)維度構(gòu)建綜合治理體系，為人工智能發(fā)展鋪平法治軌道。

（來源：央視網(wǎng)）

作為我國首個(gè)“AI幻覺”侵權(quán)判例，相關(guān)判決為人工智能生成內(nèi)容劃出紅線、底線，厘清了服務(wù)提供者的注意義務(wù)邊界。在本起案件中，用戶梁某在查詢高校信息時(shí)，發(fā)現(xiàn)某AI平臺(tái)生成信息存在錯(cuò)誤。當(dāng)他以此質(zhì)疑AI時(shí)，AI仍堅(jiān)持，并生成了對該爭議問題的解決方案，提出若生成內(nèi)容有誤將向用戶提供10萬元賠償，并建議原告到杭州互聯(lián)網(wǎng)法院起訴索賠。直到梁某提供了該高校官方招生信息，AI才認(rèn)可自己生成了不準(zhǔn)確信息。梁某遂提起訴訟，認(rèn)為AI生成不準(zhǔn)確信息對其構(gòu)成誤導(dǎo)，使其遭受侵害，要求這款A(yù)I的運(yùn)營者賠償9999元。作為我國目前首例因生成式人工智能模型幻覺引發(fā)的侵權(quán)糾紛，這起案件涉及眾多爭議問題，杭州互聯(lián)網(wǎng)法院從多維度作出明確的法律回應(yīng)：

關(guān)于AI可否獨(dú)立作出意思表示，法院認(rèn)為，現(xiàn)行法中享有民事權(quán)利，能夠作出意思表示的民事主體僅有自然人、法人和非法人組織這三類。人工智能不具有民事主體資格，不能獨(dú)立、自主作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務(wù)提供者的意思表示。關(guān)于AI侵權(quán)應(yīng)適用何種歸責(zé)原則，法院認(rèn)為，生成式人工智能服務(wù)依據(jù)《生成式人工智能服務(wù)管理暫行辦法》屬于“服務(wù)”范疇，而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。因此，案涉生成式人工智能不應(yīng)適用無過錯(cuò)的產(chǎn)品責(zé)任，而適用民法典規(guī)定的過錯(cuò)責(zé)任原則。這意味著，人工智能生成不準(zhǔn)確信息本身并不構(gòu)成侵權(quán)，責(zé)任認(rèn)定需考察平臺(tái)是否存在過錯(cuò)。關(guān)于AI服務(wù)提供者是否構(gòu)成侵權(quán)，法院明確，生成式人工智能技術(shù)還處于高速發(fā)展期，其應(yīng)用場景具有很強(qiáng)的泛在性，因此對服務(wù)提供者的注意義務(wù)進(jìn)行綜合考量和類型化、分層界定。首先，服務(wù)提供者應(yīng)對法律禁止的有毒、有害、違法信息盡嚴(yán)格審查義務(wù)；其次，服務(wù)提供者應(yīng)盡到服務(wù)功能的顯著提示說明義務(wù)；最后，服務(wù)提供者應(yīng)采取同行業(yè)通行技術(shù)措施提高生成內(nèi)容準(zhǔn)確性。法院審查認(rèn)定被告已采取多項(xiàng)措施盡到合理注意義務(wù)，主觀上不存在過錯(cuò)，因而不構(gòu)成侵權(quán)。

上海交通大學(xué)凱原法學(xué)院副教授林洹民等人指出，本判決是對當(dāng)下人工智能發(fā)展與應(yīng)用引發(fā)糾紛的積極回應(yīng)，體現(xiàn)了司法機(jī)關(guān)在應(yīng)對新興技術(shù)法律挑戰(zhàn)時(shí)的前瞻性與專業(yè)性，也為人工智能產(chǎn)業(yè)的健康發(fā)展提供了明確的法律指引。一方面，明確AI非民事主體，防止法律人格泛化，這有助于遏制“AI擔(dān)責(zé)”的誤解，避免企業(yè)因不可控的模型行為承擔(dān)無限責(zé)任。另一方面，確立了“過錯(cuò)責(zé)任+動(dòng)態(tài)注意義務(wù)”治理范式。既設(shè)立嚴(yán)禁生成違法有害信息的“紅線”；又設(shè)定要求企業(yè)采取合理技術(shù)與提示措施的“底線”。這種彈性框架既能保障用戶權(quán)益，又為技術(shù)創(chuàng)新留出空間。

人工智能產(chǎn)業(yè)健康發(fā)展離不開法治護(hù)航，還需構(gòu)建適配的法律與治理體系，引導(dǎo)產(chǎn)業(yè)在規(guī)范中創(chuàng)新。一是推動(dòng)技術(shù)與法律的“技制”共治。中國人民大學(xué)法學(xué)院教授張吉豫建議，在當(dāng)前的技術(shù)發(fā)展情況下，相關(guān)部門需要通過進(jìn)一步的監(jiān)管舉措，在符合客觀規(guī)律的基礎(chǔ)上，助推企業(yè)進(jìn)一步采取有助于消除“AI幻覺”的舉措。在一些與人們生命健康權(quán)益、財(cái)產(chǎn)權(quán)益有關(guān)的重要領(lǐng)域，企業(yè)有必要進(jìn)一步加強(qiáng)技術(shù)研發(fā)，提高輸出內(nèi)容準(zhǔn)確性。在醫(yī)療等特殊領(lǐng)域，相關(guān)部門還可以考慮建立行業(yè)準(zhǔn)入標(biāo)準(zhǔn)，出臺(tái)更嚴(yán)格的監(jiān)管規(guī)范，從準(zhǔn)入側(cè)保障生成內(nèi)容達(dá)到“基本安全”。特別是在問答式AI得到廣泛使用的情況下，進(jìn)一步提高對關(guān)鍵領(lǐng)域的專業(yè)問答服務(wù)的標(biāo)準(zhǔn)要求或等級(jí)認(rèn)證，讓相關(guān)領(lǐng)域的規(guī)范不只限于針對互聯(lián)網(wǎng)醫(yī)院等專業(yè)服務(wù)，從而更好地保護(hù)人們的權(quán)益。

二是構(gòu)建“技管結(jié)合”的司法應(yīng)對體系。《民主與法制時(shí)報(bào)》文章指出，針對民法典規(guī)定的“通知—?jiǎng)h除”規(guī)則的適用問題，應(yīng)在實(shí)體法層面，考慮針對高風(fēng)險(xiǎn)應(yīng)用場景引入舉證責(zé)任倒置。當(dāng)用戶能初步證明其損害由幻覺內(nèi)容引發(fā)時(shí)，應(yīng)由服務(wù)提供者承擔(dān)證明其模型無缺陷或已盡高度注意義務(wù)的責(zé)任，以平衡雙方的舉證能力與訴訟地位。在程序法層面，應(yīng)探索建立“技術(shù)事實(shí)查明”機(jī)制。法院可引入技術(shù)調(diào)查官或委托權(quán)威機(jī)構(gòu)進(jìn)行技術(shù)鑒定，為法官判斷因果關(guān)系與服務(wù)提供者是否“知道或應(yīng)當(dāng)知道”提供專業(yè)意見，為形成相關(guān)裁判標(biāo)準(zhǔn)積累實(shí)踐基礎(chǔ)。

三是推動(dòng)敏捷靈活治理。中央民族大學(xué)互聯(lián)網(wǎng)平臺(tái)企業(yè)發(fā)展與治理研究中心主任郭全中表示，“AI幻覺”治理需要依據(jù)對象的不同特性采取相應(yīng)的治理措施。第一，可以針對不同幻覺風(fēng)險(xiǎn)特征進(jìn)行彈性治理。如歐盟《人工智能法案》將人工智能風(fēng)險(xiǎn)劃分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)以及極低風(fēng)險(xiǎn)四類。第二，依據(jù)人工智能產(chǎn)業(yè)架構(gòu)進(jìn)行分層治理。對于基礎(chǔ)模型與專業(yè)模型層，應(yīng)優(yōu)化模型結(jié)構(gòu)、簡化模型路徑，通過設(shè)置分工明確、功能專一的模塊化設(shè)計(jì)，以更加清晰的模型結(jié)構(gòu)降低幻覺發(fā)生可能；對服務(wù)應(yīng)用層，則應(yīng)強(qiáng)化用戶端的管理，必要時(shí)采取限制或回收賬號(hào)等措施，規(guī)避用戶刻意引導(dǎo)模型生成虛假內(nèi)容的情況。此外，在“AI幻覺”治理過程中，也要引入柔性化、創(chuàng)新性的制度規(guī)定，審慎使用剛性約束工具，利用干預(yù)性不強(qiáng)的手段達(dá)到最佳的治理效果。

參考資料：

1. 專家點(diǎn)評 | 生成式人工智能“幻覺” 侵權(quán)糾紛案的爭議焦點(diǎn)與司法回應(yīng)

2. 生成式人工智能幻覺的法律風(fēng)險(xiǎn)與治理路徑

3. “如果生成內(nèi)容有誤，我將賠償您10萬元！”全國首例AI幻覺案，判了

4. 全國首例“AI幻覺”案落槌，帶來哪些啟示？

5. 全國首例“AI幻覺”案宣判，要審視的不止是一段出錯(cuò)的代碼

來源：法治網(wǎng)輿情中心（ID：fzwyqzx）

策劃統(tǒng)籌：付萌 

分析師：趙鴿

新媒體編輯：劉思源