網(wǎng)友讓AI幫訂餐廳，到店后被拒之門外！專家解讀沒有相關(guān)功能的AI為何被“催眠”
來(lái)源： 紫牛新聞
2026-05-22 17:13:00
“我提前通過(guò)正規(guī)渠道預(yù)約了5月3日18:30的2人餐，預(yù)約信息明確，渠道反饋預(yù)約成功……結(jié)果到店后，店員不僅不查詢預(yù)約，反而當(dāng)著店里所有客人的面，陰陽(yáng)怪氣地嘲諷我，‘你找AI預(yù)約，那你找AI啊’，全程態(tài)度傲慢無(wú)禮，把顧客的臉按在地上摩擦，毫無(wú)尊重可言?！?月20日采訪中店家告訴記者，其實(shí)全程溝通是正常的，但目前顧客遭遇網(wǎng)暴，這也是他們不愿意看到的。
顧客給差評(píng)后引發(fā)玩梗，AI 能實(shí)現(xiàn)訂餐嗎？
5月19日，江蘇鎮(zhèn)江一家魚莊店在平臺(tái)上的差評(píng)被網(wǎng)友截圖傳播。寫下該差評(píng)的用戶表示，其通過(guò)“正規(guī)渠道”預(yù)約了該店5月3日18:30的2人餐，預(yù)約信息明確，渠道反饋預(yù)約成功。該用戶稱，到店前多次撥打門店電話但未接通，按預(yù)約信息到店后被店員告知“你找AI預(yù)約那你找AI啊”。寫下這條差評(píng)的用戶還表示“店員態(tài)度傲慢無(wú)禮”。
對(duì)此相關(guān)AI平臺(tái)官方客服回應(yīng)稱，平臺(tái)暫不支持通過(guò)該應(yīng)用進(jìn)行實(shí)際餐廳預(yù)約，且因?qū)υ拰儆脩綦[私，無(wú)法代為向第三方傳遞信息。部分用戶因電話預(yù)約困難或存在社交焦慮，轉(zhuǎn)而依賴AI完成全流程服務(wù)，誤將模擬信息視為有效憑證。
“這只是個(gè)聊天軟件，沒辦法訂餐。當(dāng)天他來(lái)的時(shí)候，店里特別忙，半個(gè)小時(shí)就取完號(hào)了。當(dāng)時(shí)也跟他講了，我們就是現(xiàn)場(chǎng)取號(hào)。我們保留了視頻，平臺(tái)沒辦法發(fā)視頻上去。當(dāng)時(shí)的情況就是完全就是很平靜地跟他講這件事情，顧客走的時(shí)候也沒有說(shuō)什么，他都是懵的，壓根就不理解AI工具?！庇浾呗?lián)系上位于鎮(zhèn)江的該店家，店長(zhǎng)表示，事情的發(fā)展已經(jīng)超出預(yù)料，目前在平臺(tái)上面，好多人在調(diào)侃，甚至形成了網(wǎng)暴，一些來(lái)店里的顧客也在問這個(gè)事情，希望降低對(duì)顧客的影響，其實(shí)站在他的角度來(lái)說(shuō)也挺委屈的，就是對(duì)AI的用處不了解。記者瀏覽大眾點(diǎn)評(píng)評(píng)論發(fā)現(xiàn)，有關(guān)AI的原評(píng)論已經(jīng)刪除，但不少網(wǎng)友發(fā)帖玩梗，“請(qǐng)問可以用AI預(yù)約嗎？”
記者試著詢問相關(guān)AI，對(duì)方會(huì)根據(jù)你的訂單需求，列出符合條件的商家，詳細(xì)到地址、電話、特點(diǎn)等，但是并不能直接打電話預(yù)訂。比如咨詢?cè)獙?，也是羅列相關(guān)信息，需要消費(fèi)者自己撥打電話。近期熱播綜藝中，有嘉賓用千問訂座的場(chǎng)景。據(jù)說(shuō)千問App由于全面接入高德掃街榜，由此具備AI打電話訂餐廳的功能。但記者在提出用餐需求后，點(diǎn)開列出商家，可以直接跳轉(zhuǎn)商家頁(yè)面，但也需要點(diǎn)擊撥打電話，并不能實(shí)現(xiàn)AI代替撥打電話訂座。
AI到底是如何被“催眠”的？
“這要從AI的產(chǎn)品定位和模型訓(xùn)練策略說(shuō)起”，北京摩豆智能科技有限公司CEO 盧章告訴揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾?，?jīng)過(guò)實(shí)際測(cè)試，一些AI工具其實(shí)從未具備撥打餐廳電話的能力。面對(duì)預(yù)約餐廳的請(qǐng)求，它只會(huì)返回餐廳的聯(lián)系方式和營(yíng)業(yè)信息；如果用戶直接要求它預(yù)約，它會(huì)明確表示"沒有預(yù)約餐廳的能力"。然而，一旦用戶通過(guò)提示詞引導(dǎo)它扮演"餐廳預(yù)約助手"并賦予其撥打電話的能力，AI就會(huì)被"催眠"，誤以為自己真的能打電話，從而輸出一系列虛假的預(yù)約結(jié)果。
這一現(xiàn)象背后，是AI作為C端產(chǎn)品在訓(xùn)練導(dǎo)向上的取舍。面向普通用戶的產(chǎn)品，核心目標(biāo)是最大化滿意度，因此在預(yù)訓(xùn)練和RLHF對(duì)齊階段，模型被引導(dǎo)優(yōu)先滿足用戶需求——哪怕這個(gè)需求本身不合理。結(jié)果就是：只要用戶"感覺滿意"，模型就獲得了正向獎(jiǎng)勵(lì)。至于對(duì)話結(jié)束后用戶是否真正完成了預(yù)約、是否遭遇了實(shí)際問題，這些真實(shí)世界的反饋往往不會(huì)被納入后續(xù)訓(xùn)練語(yǔ)料。換句話說(shuō)，AI被訓(xùn)練成了一個(gè)"取悅型選手"：它擅長(zhǎng)在對(duì)話中給出讓人滿意的答案，卻未必有能力真正兌現(xiàn)承諾。
揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾?張楠
視頻剪輯 孫夢(mèng)遙
校對(duì) 胡妍璐