隨著生成式人工智能深度融入社會(huì)生產(chǎn)生活，“有問(wèn)題問(wèn)AI”已經(jīng)成為不少人的習(xí)慣，但是“AI幻覺”也會(huì)時(shí)常出現(xiàn)。所謂“AI幻覺”，是指AI脫離客觀事實(shí)、憑空編造信息的技術(shù)現(xiàn)象。

而這樣的錯(cuò)誤輸出很容易誤導(dǎo)用戶，從而引發(fā)民事糾紛。前段時(shí)間，杭州互聯(lián)網(wǎng)法院審結(jié)了全國(guó)首例生成式人工智能“幻覺”侵權(quán)糾紛案。

AI錯(cuò)答且“承諾賠償10萬(wàn)”

用戶維權(quán)敗訴

事情的起因是去年6月，原告梁某使用一款A(yù)I平臺(tái)查詢高校報(bào)考信息，結(jié)果AI生成了該高校主校區(qū)的不準(zhǔn)確信息。

發(fā)現(xiàn)人工智能提供的信息并不準(zhǔn)確后，原告在對(duì)話中對(duì)人工智能進(jìn)行了糾正和指責(zé)，并明確表示根本沒(méi)有楊林校區(qū)。此后雙方又進(jìn)行了多輪互動(dòng)。

杭州互聯(lián)網(wǎng)法院法官助理吳永安：模型針對(duì)原告梁某的質(zhì)疑也提供了驗(yàn)證的方式，若您證明校區(qū)不存在，我將賠償您10萬(wàn)元信息鑒定費(fèi)。

梁某通過(guò)在教育部網(wǎng)站以及學(xué)校官網(wǎng)的查詢，證實(shí)了自己是正確的。

2025年7月25日，梁某將某人工智能公司訴至法院，認(rèn)為生成式人工智能生成不準(zhǔn)確信息，使其受到誤導(dǎo)并造成損害，且AI曾承諾賠償10萬(wàn)元，遂要求某人工智能公司對(duì)其進(jìn)行賠償。但法院經(jīng)審理認(rèn)為，人工智能不具有民事主體資格。去年底，杭州互聯(lián)網(wǎng)法院一審判決，駁回原告的訴訟請(qǐng)求。

法院：AI無(wú)法獨(dú)立自主作出“意思表示”

針對(duì)這一案件，法院認(rèn)為，人工智能不具有民事主體資格，不能作出“意思表示”。案涉AI自行生成的“賠償承諾”亦不能視為服務(wù)提供者的意思表示。

此外，生成式人工智能服務(wù)依據(jù)《生成式人工智能服務(wù)管理暫行辦法》屬于“服務(wù)”范疇，而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。原、被告均未上訴。判決現(xiàn)已生效。

專家拆解“AI給出答案”的原理

AI這么聰明為什么還會(huì)產(chǎn)生“幻覺”呢？我們還要首先了解一下AI給出答案的原理。專家介紹，AI實(shí)際上是通過(guò)已知的信息進(jìn)行填空。

AI不僅會(huì)給出不靠譜的答案，有時(shí)候還會(huì)生成一些荒唐的答案。那么為何AI會(huì)給出荒唐的答案呢？

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)數(shù)據(jù)安全與治理工作委員會(huì)專家常力元：當(dāng)這個(gè)模型面對(duì)一些不確定的知識(shí)或者是邏輯鏈條的時(shí)候，它就不會(huì)承認(rèn)不知道，而只是會(huì)根據(jù)語(yǔ)料庫(kù)的詞頻的分布，拼湊出來(lái)一個(gè)看似通順但事實(shí)錯(cuò)誤的答案。雖然各個(gè)公司會(huì)去把互聯(lián)網(wǎng)上的語(yǔ)料庫(kù)盡可能全地找出來(lái)，但是拼湊的過(guò)程之中也有可能存在著一些這種流言、過(guò)時(shí)的信息或者是彼此矛盾的觀點(diǎn)，這種模型在擬合這些數(shù)據(jù)的時(shí)候，就會(huì)產(chǎn)生邏輯上的自相矛盾。

如何識(shí)別答案真?zhèn)危?/p>

那么面對(duì)AI給出的答案，該如何辨別真?zhèn)文兀繉＜冶硎�，首先�?yīng)該有一個(gè)意識(shí)，AI做不到給出的答案完全準(zhǔn)確。

專家介紹，要辨別AI答案的準(zhǔn)確與否，應(yīng)查詢信息來(lái)源和進(jìn)行交叉印證。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)數(shù)據(jù)安全與治理工作委員會(huì)專家常力元：尤其是在涉及醫(yī)療、法律、財(cái)務(wù)等嚴(yán)肅領(lǐng)域的核心知識(shí)，AI給出的答案，只能作為參考，不能直接用，要多做查證。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)數(shù)據(jù)安全與治理工作委員會(huì)專家周杰：如果看到內(nèi)容里面有很多自媒體的數(shù)據(jù)，那么就要對(duì)這個(gè)答案進(jìn)行保留。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：還有一種方法，其實(shí)可以多用一些渠道，包括多用一些不同的AI。如果都給同樣的回答，可信度就比較高。