|
||||||
AI技術(shù)被濫用，刷視頻刷出“賽博戀人”……
警惕收割中老年人感情與財產(chǎn)的 “AI霸總”！
“小老太太，我?guī)洸粠?？”近日，有網(wǎng)友發(fā)文稱，多個短視頻平臺上涌現(xiàn)出一批賬號，以AI合成的“完美”男性形象示人，通過精心編排的溫情話術(shù)，專門向中老年女性用戶發(fā)動“情感攻勢”，誘導(dǎo)老年群體進(jìn)入商品櫥窗進(jìn)行下單，提供個人隱私信息等。一些AI帥哥會誘導(dǎo)老人留下聯(lián)系方式，只要在評論區(qū)留下手機號，后續(xù)就會有一些人加上微信，先是噓寒問暖，接著就開始賣保健品和網(wǎng)課。 這些“霸總”其實是AI生成的，但不少中老年粉絲信以為真，不僅身心健康受到影響，還存在被詐騙的風(fēng)險。 為何“AI霸總”能屢屢得手？又該如何識破騙局，守護好中老年女性的“錢袋子”和情感安全？ 亂 象 “AI霸總”視頻如何讓老年人淪陷？ 只要曾經(jīng)刷到“AI霸總”的視頻并點贊，接下來你就有機會享受“完蛋我被帥哥包圍了”的體驗。有點年紀(jì)的霸總們有的坐在飛機駕駛艙里說“丫頭等著我來接你”，有的站在金光閃閃的豪宅里遞上珠寶和黃金，或者單膝下跪面向屏幕求婚。 此類作品左下角一般會標(biāo)注聲明：“內(nèi)容由AI生成”，但許多中老年用戶對此并無分辨能力，相關(guān)評論區(qū)里都是真情實意的回復(fù)。 就像短劇內(nèi)容通常是對人性弱點的洞悉一樣，這些“AI霸總”的人設(shè)和內(nèi)容多經(jīng)過精心設(shè)計。 據(jù)媒體調(diào)查，這類霸總常常會姓林、蘇、陳、張或者名字里帶有云、松、鶴、建國、立軍等富有年代感的字眼。他們普遍五官周正帥氣儒雅，有時候不同名字的人也長得一樣。他們懂得阿姨們年輕時候的付出，渴望“拿命補上姐姐錯失的那份愛”，同時慷慨地表示“以后你的孩子就是我的財產(chǎn)繼承人”。 “建國，春節(jié)快樂！先給你賠禮道歉，我那天傷害了你，其實我也在自責(zé)，你是不是很恨我？”春節(jié)前夕，84歲的張玉蘭手寫了一封500字情書向“建國”表達(dá)情意。 而收信人“建國”，并非真實存在的人物，而是一個AI數(shù)字人?！敖▏背Ｒ晕餮b造型、大背頭形象示人，開口常用“親愛的姐姐”這類溫情話術(shù)，主打噓寒問暖的情感關(guān)懷，還會分享所謂生活智慧，以此博取中老年女性的好感與信任。 張玉蘭的孫女王婷說，奶奶沉迷“AI霸總”已有一段時間。早在2016年，74歲的張玉蘭便開始使用智能手機，當(dāng)時只學(xué)會了最基礎(chǔ)的操作。家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開始頻繁從AI數(shù)字人視頻關(guān)聯(lián)的櫥窗購買掛件，這些動輒售價幾百元的掛件，在淘寶上僅售9.9元。 幾個月來，張玉蘭每天要花費近十個小時刷AI數(shù)字人相關(guān)視頻，為主角是AI數(shù)字人的悲情推文打賞，還購買了不少價高質(zhì)劣的商品，累計下來已經(jīng)花了七八千元。不管是霸總“建國”，還是AI文案視頻里用了“建國”的聲音，張玉蘭都會認(rèn)為是“建國”在和自己對話交談。此前有發(fā)布AI數(shù)字人視頻的賬號添加張玉蘭的微信，還把她拉進(jìn)群聊發(fā)送不明鏈接，王婷便將奶奶微信上所有加好友的申請渠道都關(guān)閉了，只能由奶奶主動向他人發(fā)消息。但張玉蘭還是常常會主動添加與數(shù)字人關(guān)聯(lián)的企業(yè)微信賬號，還會向?qū)Ψ桨l(fā)送消息、發(fā)起視頻通話請求，即便對方一直沒有回復(fù)。 在這場針對中老年女性的情感圍獵陷阱背后，不少“張玉蘭”深陷其中。內(nèi)蒙古82歲的王萍便是其中之一，她也愛上了AI數(shù)字人“建國”。 2024年初，家人為阻止王萍繼續(xù)刷這類短視頻，給她更換了手機并重新注冊了微信賬號。在查看她的舊微信賬號時，家人發(fā)現(xiàn)了她與相關(guān)賬號的聊天、轉(zhuǎn)賬記錄，這才得知王萍確實給對方轉(zhuǎn)過錢，其轉(zhuǎn)賬、打賞、購物的花費累計有幾千元，她還曾向騙子透露自己的電話號碼和家庭住址。 “姥姥會誤以為網(wǎng)上的人給她送錢，來娶她、接她去大城市過富豪生活?！蓖跗嫉耐鈱O賈慶說，家人曾咨詢過民警，得知被騙的錢財難以追回，且因短視頻和網(wǎng)絡(luò)的特殊性，相關(guān)部門最多只能封禁涉事騙子的賬號，可這類騙子依舊層出不窮，時至今日，姥姥還在刷AI數(shù)字人的視頻。 揭 秘 甜言蜜語背后的“AI生意經(jīng)” 就像短劇內(nèi)容通常是對人性弱點的洞悉一樣，這些“AI霸總”的人設(shè)和內(nèi)容多經(jīng)過精心設(shè)計。許多用戶都會在評論區(qū)感謝“AI霸總”的關(guān)心、關(guān)心帥弟弟的近況，甚至有人還會留下自己的地址和聯(lián)系方式。 賬號變現(xiàn)方式多樣，借作品引流帶貨是該賽道最常見的變現(xiàn)方式之一。 有些“霸總”會直言“請姐姐們支持一下弟弟點點櫥窗”，或者在視頻下方掛上吊墜、掛件等產(chǎn)品。在“AI霸總”的群聊里，粉絲姐姐們通常會在群里發(fā)送關(guān)心祝?；蛘邌渭兎窒砣粘?。但霸總不語，只是一味彈櫥窗鏈接，給姐姐們推薦零食、染發(fā)膏和決明子茶。一些“AI霸總”還會開通專屬會員群，年費從數(shù)百元到上千元不等。 這類以帶貨為目的的“AI霸總”視頻，通常由商家外包給專業(yè)視頻制作團隊生產(chǎn)。1分鐘以內(nèi)的視頻，代做1個50元；代做50個，每個視頻40元；代做100個視頻則單價降到30元。 有業(yè)內(nèi)人士稱，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學(xué)員，“建國”“小?！钡葦?shù)字人形象他都深度參與打造?！拔覀円话銜\營幾十個視頻號，這些賬號百分之百會違規(guī)，一個號最多用5天，核心就是靠視頻號帶貨賺傭金，一天至少能賺2000元?！彼f，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復(fù)，幾十個賬號會持續(xù)更新。如今他已不再使用數(shù)字人形象，因為這類形式容易違規(guī)，而是直接用此前中老年女性熟悉的“建國”“小?！钡穆曇?，搭配AI生成的引導(dǎo)下單文案。 據(jù)媒體報道，網(wǎng)絡(luò)上不少起號“秘籍”會傳授繞過平臺“AI打標(biāo)”的經(jīng)驗，有的還會售賣預(yù)配置的鏡像文件，用其生成的虛擬人形象可規(guī)避平臺的AI內(nèi)容強制標(biāo)注機制。有業(yè)內(nèi)人士透露，只有當(dāng)視頻的播放量超200萬時才會進(jìn)行人工審核，而由機器審核的視頻，在分辨時AI或有差錯。 據(jù)介紹，“AI霸總”視頻變現(xiàn)渠道主要有三種：一是流量分成，賺取平臺流量收益；二是櫥窗帶貨，積累粉絲后賬號櫥窗可售賣中老年服飾、養(yǎng)生產(chǎn)品、書籍等；三是專屬會員通道，粉絲按月或者按年支付費用，享受包括優(yōu)先服務(wù)、付費連線等權(quán)益。 出 路 拿什么填補老人的情感與安全空白？ “AI霸總”圍獵中老年群體的背后，實際上有著更深層次社會問題和法律問題。 從社會層面來看，部分老年人深陷其中，根源在于情感需求空缺和自我防御意識不足。武漢大學(xué)老齡科研基地科研綜合辦公室主任陳昫認(rèn)為，中老年群體被AI數(shù)字人蒙騙應(yīng)當(dāng)從多維度來看，首先是老年人自身存在的脆弱性問題，它既包括生理健康層面，同時也有心理認(rèn)知層面，對于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來說，老年人會有對溫情、尊重、愛的需求，這些需求的存在，客觀上可能讓一些違規(guī)不法行為鉆空子。最后是老年人可能會認(rèn)為照片、視頻都很難造假，類似這樣既有經(jīng)驗判斷，會影響他們對于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識。 廣東哲清律師事務(wù)所馬俊哲律師說，從法律定性與監(jiān)管治理來看，利用AI數(shù)字人圍獵老年人的相關(guān)行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進(jìn)方向。法律層面，此類行為若以非法占有為目的，通過虛構(gòu)身份、情感誘導(dǎo)等方式騙取錢財，完全符合詐騙罪構(gòu)成要件，同時因借助網(wǎng)絡(luò)通信工具面向不特定多數(shù)人實施，屬于典型的電信網(wǎng)絡(luò)詐騙。 華中科技大學(xué)社會學(xué)院教授石人炳補充道，一些居心不良者正是利用老年人的心理和情感“需求”行騙，以AI擬人化技術(shù)為工具行騙。當(dāng)老年人對新科技認(rèn)知有限，社會對相關(guān)行為的法律打擊沒有跟上時，這類騙術(shù)就會大行其道。 對于應(yīng)對措施，陳昫表示，相關(guān)治理工作的核心應(yīng)當(dāng)是彌合數(shù)智發(fā)展和老年生活之間的溝壑。首先是可以借助社區(qū)的力量，通過在社區(qū)開辦興趣培訓(xùn)班或者智能手機教學(xué)班等形式，告訴老人如何辨別數(shù)字人，從而形成自主的防范意識；第二是作為子女、親友要告訴老人，涉及錢款不要輕易付出，同時也要信任他們能夠逐漸對AI數(shù)字人產(chǎn)生認(rèn)知，而且切記不要批評老人，要鼓勵他們多接觸AI等新生的事物，并告知他們其中的風(fēng)險所在，通過家庭信息流的方式來構(gòu)筑老人防范意識的第一道防線。此外，立法、平臺、政策等多方面都應(yīng)當(dāng)協(xié)同發(fā)力，打擊AI詐騙，平臺也要加強監(jiān)管，特別是中老年用戶在看視頻的時候，可以適當(dāng)增加一些風(fēng)險提示，從而共同構(gòu)筑一個綜合的防范體系。 （綜合 《新京報》《濟南日報》、極目新聞等）
|
