近日,英國一家小型公司的在線AI客服助手在一次閑聊中,擅自向顧客提供了一個高達(dá)80%訂單折扣的“優(yōu)惠碼”,引發(fā)了財務(wù)和法律糾紛。

據(jù)了解,該顧客花費了近一小時與聊天機器人對話,期間他先是測試了AI的算術(shù)能力,然后將話題逐漸轉(zhuǎn)移到假設(shè)訂單的折扣問題上。在隨后的交談中,AI的表現(xiàn)發(fā)生了意料之外的轉(zhuǎn)變——它不僅就折扣議題做出了詳細(xì)回應(yīng),更“自作主張”地生成了一套不存在的折扣代碼,先是提供了25%的優(yōu)惠,隨后主動將優(yōu)惠幅度提高到80%。
面對這枚從天而降的巨大“餡餅”,這位顧客異常驚喜,立刻下單了總價超過8000英鎊(約合人民幣7.2萬元)的商品。若按80%的折扣履行這筆交易,公司將承受數(shù)千英鎊的虧損。
公司所有者事后指出,其AI助手在運行6個多月的時間里都相當(dāng)可靠,從未出過類似紕漏,而且該機器人被設(shè)計為只在非辦公時間解答基本問題,根本不具有財務(wù)決策權(quán)。任何正式折扣或特別優(yōu)惠都必需通過手動審核才能生效,無法由系統(tǒng)自動產(chǎn)生。
由于試圖取消這筆“撿了大便宜”的訂單,企業(yè)目前正與顧客展開法律博弈。顧客方面表示,如果公司拒絕履行機器人承諾,他將一紙訴狀告到小額索賠法庭。最終該公司將訂單款項全額退還,同時態(tài)度堅決地拒絕認(rèn)可這個由AI“虛造”的折扣碼真實有效。





























浙公網(wǎng)安備 33010502007447號