許多電影都熱衷于暢想人類與機器人相愛的故事,它們或許不被世俗理解,卻也有唯美之處。如今的人工智能,已經進化到能夠理解人類話語中的感情,并給予人類陪伴感的地步。
然而現實是,在ChatGPT和一系列AI技術普及以后,人類與機器相愛的故事尚未發生,“感情騙子”們卻先一步上了這趟快車。
在主打陌生人交友的APP上,“殺豬盤”之類的詐騙已不罕見,但界面新聞調查發現,交友軟件上的AI作弊工具越來越多,若有心用于詐騙,將帶來很大隱患。
ChatGPT成交友軟件作弊器
隨著ChatGPT在世界范圍內爆火,有程序員開始探索它在交友軟件上的用途。近段時間,教人使用ChatGPT“撩妹”的短視頻在TikTok上大火,甚至有用戶稱“這就是tinder的未來”。
tinder是一款國際主流的陌生人交友軟件,在中國也可使用。用上ChatGPT,用戶能夠根據匹配對象的資料和興趣自動創作開場白,并根據回應繼續創作,用AI打造出一個幽默風趣的魅力形象。
一個TikTok用戶的視頻顯示,他用ChatGPT為匹配的女性對象寫了首詩,對方非常喜歡。不僅如此,ChatGPT還能創作出不同風格的回應,例如幽默的、感性的等等。
事實上,tinder以及國內的許多交友軟件都明令禁止用戶使用自動化工具,若被平臺發現,用戶賬號就會遭到封禁。盡管這些軟件本身也有AI能力——用戶匹配后,聊天框中AI會根據雙方共同特點和興趣生成幾個推薦的開場白。
即使冒著被封號的風險,仍然有許多人在交友軟件上使用自動化工具。
早在2021年,github上就有人發布了一個開源的tinder機器人代碼,它能夠為賬號自動設置性別、愛好、自定義位置,按不同時間右滑(即“喜歡這個用戶”,若雙方均右滑了即可“配對”),甚至為配對的對象發送個性化的開場白句子。發布者稱,他使用這個工具在24小時內獲得了1000個配對,并且已經擁有3萬多個配對。
如果說此前的自動化工具還限于配對數量上的作弊,那么在ChatGPT出現后,連聊天——同時也是感情萌生的過程——也能夠用AI作弊了。界面新聞采訪了一些交友軟件用戶,他們普遍排斥使用AI在聊天中作弊的行為,但問題在于,ChatGPT讓人們更難分別對方是否為真人了。
如果有人將這類工具用于詐騙,后果可能更糟糕。
從技術上說,AI還不能獨立完成對真人的詐騙,“主要是AI輔助,真人接手,AI更像是一個群發機器,之后還需要人工篩選。(在交友平臺)詐騙一般要導向什么,比如下載釣魚App、博彩軟件或是讓你直接轉賬,這些AI都很難做到?!币晃患夹g人士向界面新聞解釋。目前尚未看到使用AI完成大規模詐騙的案例,但作為輔助手段,ChatGPT等AI工具無疑將為詐騙分子帶來更多的便利。
AI與“托”,難辨真假
國內主流的交友App有探探、陌陌、積目等,均主打真人交友,但也存在大量以利益為導向,使用AI或真人“托”來誘導用戶充值的軟件,游離于灰色地帶。
《人民日報》早在2019年就曾報道過一樁利用交友App進行詐騙的案例:2014年,一團伙利用技術手段開發了多個婚戀交友App軟件項目。網民下載注冊后,App會自動調取語言庫中具有挑逗性的格式化語句,以數個虛擬異性用戶名義推送給真實注冊用戶,給用戶造成受歡迎的假象。但當真實用戶想要回復消息或者想要點擊查看對方聯系方式時,對話框便會提示充值,否則無法繼續聊天。一旦用戶充值,這些剛才還熱情如火的“姑娘”,突然就全部噤聲了,不論用戶說什么,“她們”要么重復相同的話,要么不回復,受害人怎么也得不到想要的聊天互動。
這類軟件很難趕盡殺絕。界面新聞記者下載了多個出現在官方應用市場的交友軟件并試用。以其中一個為例,若注冊為男性用戶,剛剛上線,就能收到十多位女用戶發來的熱情消息,對話框內有鮮明的付費禮物可選。對方回復十分積極,很難辨別是否為AI。
這些熱情用戶更有可能是“托”。此前有許多報道指出,不少陌生人交友軟件打著“真人交友”、“快速脫單”、“同城約會”的名頭,但平臺的活躍用戶卻可能是受雇而來。有些平臺甚至公然招收所謂的兼職“陪聊員”,工作內容就是在APP上聊天,誘導用戶充值,并從中抽成。
此類軟件的另一盈利方式是直播,通過大量的軟色情和抽獎游戲直播,誘導用戶充值付費。
面對這些難以辨別的AI和“托”,若用戶投入感情并充值了大量費用,平臺方是否構成詐騙?上海申倫律師事務所夏海龍律師對界面新聞表示,“在網絡社交領域,陪聊、陪玩、交友等不同形態的服務同時存在,因此,用戶為之付費所對應的法律關系很難一概而論。對大多數對話式、陪伴式的網絡社交來說,用戶對平臺或網絡好友打賞、付費的法律性質非常接近于常見的用戶打賞網絡主播——在司法實踐中,后者已經普遍被認為屬于新型的網絡服務消費,而不再被認為贈與。因此,在這一網絡消費場景下,如果用戶所期待的是基于對話互動的虛擬陪伴,只要平臺滿足了用戶的這一消費需求,雙方的合同就履行完成了?!?/p>
從監管層面看,即使已有先前的違法案例,但此類軟件廣泛存在,監管難度在于“其中涉及的法律關系相對復雜,行政監管無權直接干預。此外,相對海量的經濟行為,監管的力量永遠是不足的,而且也存在滯后性,灰色地帶的存在難以避免?!?/p>
夏海龍認為,AI的確是“假人”,但從消費或者娛樂角度,消費者更在乎的是自己的體驗有沒有得到滿足?!坝行〢I式的陪伴幾乎能滿足用戶所有的陪伴期望,比真人陪伴還要好,比一個真的愛上他的女孩陪伴還要到位?!彼硎?,如果用戶陪伴需求得到了滿足,那支付的費用嚴格來講是有法律基礎的,就不能叫詐騙。