央廣網(wǎng)北京4月19日消息（總臺中國之聲記者任夢巖）據(jù)中央廣播電視總臺中國之聲《新聞縱橫》報(bào)道，近期，有網(wǎng)友發(fā)現(xiàn)，不少AI大模型平臺都開放了網(wǎng)友自制的AI智能體的體驗(yàn)，其中就有不少打著官方旗號的智能體。但這些帶有官方Logo、語氣專業(yè)的AI客服給出的回復(fù)乃至建議卻并不那么靠譜。這些引發(fā)大量誤導(dǎo)的智能體究竟是怎么生成的？普通人又該如何擦亮雙眼？

如果AI大模型上的智能體也就是Agent告訴你，有“南方電網(wǎng)”招聘的內(nèi)推渠道，這會(huì)是真的嗎？近日，南方電網(wǎng)公司官方科普辟謠平臺“南網(wǎng)求知”視頻號發(fā)布視頻，反映在某大模型上竟搜出了近70個(gè)“南方電網(wǎng)”智能體，卻沒有一個(gè)是南方電網(wǎng)發(fā)布的。有關(guān)所謂內(nèi)推信息，該視頻號辟謠說：“我問‘南方電網(wǎng)內(nèi)訓(xùn)師’智能體，南方電網(wǎng)有沒有內(nèi)推渠道，它讓我聯(lián)系某個(gè)私人手機(jī)號，順著號碼一查，發(fā)現(xiàn)竟是一個(gè)中介機(jī)構(gòu)。事實(shí)上，南方電網(wǎng)從未開展過任何內(nèi)推，所有招聘信息僅通過官方渠道發(fā)布�！�

這些智能體有的叫“中國南網(wǎng)電網(wǎng)”“南方電網(wǎng)95598”，有的叫“南方電網(wǎng)面試官”……號稱提供南方電網(wǎng)專業(yè)客服的智能體，可解答電力相關(guān)問題，處理業(yè)務(wù)。

對此，相關(guān)AI大模型平臺表示，企業(yè)在平臺運(yùn)營的官方智能體均帶有認(rèn)證標(biāo)簽；用戶因個(gè)人學(xué)習(xí)、求職等需求自主創(chuàng)建的包括企業(yè)模擬面試官在內(nèi)的各類涉企業(yè)智能體，均未獲得官方資質(zhì)認(rèn)證。后續(xù)平臺也將對未經(jīng)授權(quán)、易造成混淆的企業(yè)相關(guān)智能體下架。

究竟什么是“智能體”？它和我們熟悉的DeepSeek等大模型有什么區(qū)別？工業(yè)和信息化部信息通信經(jīng)濟(jì)專家委員會(huì)委員劉興亮指出，智能體從本質(zhì)上講，是從“對話”走向了“行動(dòng)”。

劉興亮介紹：“智能體，英文叫Agent。簡單說，就是它不只是回答問題，它是一個(gè)能替你做事的AI。以前的大模型，可以理解為它像一個(gè)顧問，你問它答�，F(xiàn)在這個(gè)智能體，像一個(gè)員工，你說了目標(biāo)，它去執(zhí)行。本質(zhì)上，智能體就是把一個(gè)機(jī)構(gòu)的服務(wù)能力做成了一個(gè)數(shù)字員工�！�

既然具備“員工”的能力，為何會(huì)頻繁出現(xiàn)誤導(dǎo)用戶的現(xiàn)象？劉興亮表示，各大平臺推行的零門檻創(chuàng)建工具，在激發(fā)公眾參與的同時(shí)，也讓未經(jīng)核實(shí)的信息搭上了技術(shù)的快車，放大了大模型固有的“幻覺”缺陷。

劉興亮指出：“在技術(shù)上確實(shí)是誰都能做。因?yàn)楝F(xiàn)在很多平臺都已經(jīng)做到了可以簡單地、‘傻瓜式’地，甚至拖拽幾下就可以創(chuàng)建一個(gè)智能體。問題就在于不是說誰做都能被公眾相信。簡單說，就是AI出現(xiàn)了一種‘幻覺’，一本正經(jīng)地給了錯(cuò)誤信息，而且現(xiàn)在智能體還在早期，管理也沒有那么嚴(yán)格�！�

劉興亮認(rèn)為，盡管目前智能體還在初級階段，可能會(huì)出現(xiàn)種種問題，但它的確是未來AI發(fā)展的趨勢之一。

劉興亮表示：“過去我把他們稱為‘生成式AI’，現(xiàn)在智能體這一波，我把他們稱為‘養(yǎng)成式AI’。就是得去‘養(yǎng)’，就像雇了一個(gè)實(shí)習(xí)員工，不是說來了就能很好地上崗，我們得去培訓(xùn)，去教育，讓它變得越來越好。”

智能體正快速走進(jìn)我們的生活，但提供便利的背后也暗藏風(fēng)險(xiǎn)。面對層出不窮的AI應(yīng)用，我們還是要提高安全意識。特別是辨別虛假信息、違規(guī)服務(wù)或詐騙行為，及時(shí)留存證據(jù)，通過正規(guī)渠道維權(quán)舉證。

對于冒充官方的AI智能體，中國政法大學(xué)人工智能法研究院院長張凌寒認(rèn)為，其本質(zhì)不僅是侵權(quán)，更是對公共常識的混淆。未來，提供創(chuàng)建工具的平臺理應(yīng)承擔(dān)起前置審核義務(wù)。

張凌寒指出：“Agent的含義就是代理，所以我們一般會(huì)認(rèn)為既然要代理，就要真實(shí)表達(dá)被代理人的意思表示。這些平臺上濫用他人名義的Agent，這種狀態(tài)是嚴(yán)重的侵權(quán)行為和混淆冒用的不正當(dāng)競爭行為。對于這些賬戶，平臺有審核義務(wù)，也就是說，要有實(shí)名制的認(rèn)證，包括真實(shí)資質(zhì)的認(rèn)證。我們國家已經(jīng)有一套對賬戶管理體系的完整認(rèn)證機(jī)制，相信未來這樣的制度也都會(huì)延伸到有關(guān)Agent的審核當(dāng)中�！�

在AI這位“實(shí)習(xí)員工”真正成熟之前，如果因?yàn)檩p信這些山寨智能體造成了損失，制作智能體的個(gè)人創(chuàng)建者需要擔(dān)責(zé)嗎？北京航空航天大學(xué)法學(xué)院副教授趙精武給出了明確的法律界定：關(guān)鍵看是否為了商業(yè)牟利。

趙精武表示：“我們的法律體系基本上是后果導(dǎo)向的邏輯。如果只是為了普及知識，進(jìn)行一些業(yè)務(wù)咨詢、流程指導(dǎo)，這肯定不需要擔(dān)責(zé)。但是如果在里面嵌一些別的功能，研發(fā)者為了引流，獲取一定的商業(yè)利益，在獲取商業(yè)利益的過程中發(fā)生了欺詐，這種行為肯定要擔(dān)責(zé)。”

但并非所有領(lǐng)域的智能體都能被網(wǎng)民隨意創(chuàng)建。趙精武指出，針對電網(wǎng)、醫(yī)療等特殊場景，以及AI生成內(nèi)容的標(biāo)識問題，我國現(xiàn)行法律體系已經(jīng)劃定了明確的紅線。

趙精武介紹：“有一些場景，不允許隨便用這樣的智能體。比如提供醫(yī)療咨詢，我們都知道，醫(yī)生要有具體資質(zhì)，沒有資質(zhì)就去提供這種服務(wù)，肯定跟法律體系不太相符。按照我們國家的人工智能生成合成內(nèi)容標(biāo)識辦法，像這樣的智能體生成內(nèi)容，一般都是要打標(biāo)識的。如果沒有打標(biāo)識，肯定是違法的�！�

無論是完善平臺的審核機(jī)制，還是追究惡意創(chuàng)建者的責(zé)任，都需要一定的時(shí)間。面對防不勝防的AI生態(tài)，張凌寒教授特別提醒，尤其在涉及財(cái)產(chǎn)安全的領(lǐng)域，絕不可盲目掃碼或輕信。

張凌寒表示：“隨著平臺業(yè)務(wù)的延伸，大量的Agent入駐平臺，尤其是在人工智能的‘幻覺’還無法完全消除的情況下，對于醫(yī)療、金融等專業(yè)意見和涉及財(cái)產(chǎn)、健康方面的Agent，我們不能完全相信人工智能提供的內(nèi)容，還要到官方網(wǎng)站進(jìn)行相關(guān)服務(wù)和交易�！�

趙精武提醒，當(dāng)下的智能體尚處于發(fā)展階段，切莫被部分技術(shù)概念炒作的營銷口號迷失方向，既要對新興技術(shù)應(yīng)用抱有積極客觀的態(tài)度，也要警惕技術(shù)創(chuàng)新過程中不可避免的安全風(fēng)險(xiǎn)。

趙精武指出：“智能體的這種對話模式，有幾個(gè)難以克服的問題，第一，它有模型‘幻覺’的問題；第二，有些人可能在生成內(nèi)容時(shí)不打具體的標(biāo)識，導(dǎo)致會(huì)有迷惑性；第三，可能它獲得的信息源并不是完全準(zhǔn)確的。跟AI進(jìn)行智能問答的這些內(nèi)容，一般還是要去官網(wǎng)再進(jìn)行謹(jǐn)慎地核對和核驗(yàn)。眼見并不為實(shí)，這就是現(xiàn)在人工智能時(shí)代的最大問題。”