每經(jīng)編輯｜程鵬    

印尼與馬來西亞日前相繼宣布，暫時(shí)封禁美國(guó)企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人“格羅克（Grok）”，因?yàn)閾?dān)心它被用于生成色情內(nèi)容。

綜合央視新聞、新華社、澎湃新聞報(bào)道，當(dāng)?shù)貢r(shí)間10日，印度尼西亞通信和數(shù)字事務(wù)部長(zhǎng)表示，由于擔(dān)心人工智能會(huì)生成色情內(nèi)容，該國(guó)暫時(shí)封禁了美國(guó)企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI的聊天機(jī)器人“格羅克（Grok）”，成為第一個(gè)拒絕訪問該人工智能工具的國(guó)家。

印尼通信和數(shù)字事務(wù)部長(zhǎng)10日在一份聲明中表示，此舉對(duì)于保護(hù)公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺(tái)就“格羅克”所引發(fā)的負(fù)面影響盡快作出說明。

緊隨其后，馬來西亞通訊及多媒體委員會(huì)11日發(fā)布聲明，暫時(shí)禁止該國(guó)用戶訪問格羅克，因?yàn)?/span>格羅克被反復(fù)濫用來生成色情內(nèi)容、露骨的性內(nèi)容、極度冒犯且不雅的內(nèi)容，以及在未經(jīng)同意的情況下生成被操縱的圖像。

馬來西亞律師阿齊拉·阿齊茲告訴媒體記者，若只是出于娛樂目的，“用AI給公眾人物頭像加個(gè)墨鏡之類的倒也無可厚非”，但未經(jīng)當(dāng)事人同意，“利用AI對(duì)婦女兒童實(shí)施與性別相關(guān)的暴力，必須堅(jiān)決反對(duì)”。

xAI 已將格羅克整合進(jìn)社交平臺(tái)X，X用戶可直接調(diào)用該聊天機(jī)器人。而印尼是全球X用戶數(shù)量第三多的國(guó)家。印尼政府在一份聲明中表示，“未經(jīng)同意的、性化的深度偽造行為嚴(yán)重侵犯了公民在數(shù)字空間中的人權(quán)、尊嚴(yán)和安全。

格羅克由馬斯克旗下的人工智能公司xAI 公司開發(fā)，去年8月推出AI工具Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉(zhuǎn)化為短視頻內(nèi)容。近期，X平臺(tái)出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實(shí)人物的虛假性暴露內(nèi)容，并在X平臺(tái)上散播，受害者包括數(shù)百名成年女性和未成年人。

這一亂象隨即引起公憤。歐盟委員會(huì)負(fù)責(zé)數(shù)字經(jīng)濟(jì)事務(wù)的發(fā)言人托馬斯·雷尼耶5日回應(yīng)說，正“嚴(yán)肅調(diào)查”針對(duì)“格羅克”的相關(guān)投訴?！啊窳_克’推出所謂‘熱辣模式’，不僅展示露骨性內(nèi)容，部分生成內(nèi)容還帶有兒童特征?！?/span>

他也進(jìn)一步炮轟稱：“這不是’辣味’，這是違法的。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內(nèi)容在歐洲沒有任何立足之地。”

同一天，英國(guó)網(wǎng)絡(luò)安全監(jiān)管機(jī)構(gòu)通信管理局表示，注意到用戶對(duì)上述功能的擔(dān)憂，“已緊急聯(lián)系X（平臺(tái)）和xAI，以了解它們?cè)诼男斜Ｗo(hù)英國(guó)用戶的法定義務(wù)方面具體采取了哪些措施”，之后將根據(jù)回復(fù)，判定它們是否存在“值得調(diào)查的潛在合規(guī)問題”。

據(jù)參考消息援引新加坡《聯(lián)合早報(bào)》網(wǎng)站1月11日?qǐng)?bào)道，英國(guó)加大威脅稱，可能因人工智能工具格羅克生成色情圖像而封鎖社交平臺(tái)X。對(duì)此，馬斯克發(fā)文指責(zé)英國(guó)政府。

負(fù)責(zé)向執(zhí)法機(jī)構(gòu)舉報(bào)網(wǎng)絡(luò)兒童性虐待材料的英國(guó)監(jiān)管機(jī)構(gòu)指出，他們?cè)诎稻W(wǎng)上發(fā)現(xiàn)據(jù)稱由格羅克生成的“犯罪”圖片?；ヂ?lián)網(wǎng)觀察基金會(huì)說，暗網(wǎng)上涉及未成年女性的色情圖片，已達(dá)到執(zhí)法部門采取行動(dòng)的標(biāo)準(zhǔn)。

英國(guó)首相斯塔默本周早些時(shí)候誓言采取行動(dòng)，要求X平臺(tái)就這些色情圖片“立即整頓”。

英國(guó)科技大臣肯德爾9日發(fā)聲明說，媒體監(jiān)管機(jī)構(gòu)應(yīng)動(dòng)用“全部法律權(quán)力”，并警告稱，如果X平臺(tái)拒絕遵守英國(guó)法律，政府可以“阻止英國(guó)境內(nèi)民眾訪問X平臺(tái)”。

懲罰X平臺(tái)可能會(huì)激怒美國(guó)政府，此前美國(guó)政府曾威脅要對(duì)歐盟等組織采取報(bào)復(fù)措施，以阻止它們限制美國(guó)科技巨頭的權(quán)力。

不過，英國(guó)副首相戴維·拉米指出，他本周早些時(shí)候已與美國(guó)副總統(tǒng)萬斯討論過這起事件，萬斯對(duì)這項(xiàng)技術(shù)的使用方式表示擔(dān)憂。

另據(jù)印度媒體報(bào)道，印度信息技術(shù)部2日要求X平臺(tái)刪除色情內(nèi)容、打擊違規(guī)用戶，并在72小時(shí)內(nèi)提交“整改報(bào)告”，否則將面臨法律制裁。截至目前，尚不清楚X平臺(tái)是否已就印方要求作出回應(yīng)。

多名法國(guó)政府部長(zhǎng)和國(guó)民議會(huì)議員2日也向法國(guó)司法部門報(bào)案。當(dāng)日晚些時(shí)候，巴黎檢方表示，將啟動(dòng)相關(guān)調(diào)查。

歐盟委員會(huì)發(fā)言人托馬斯·雷尼耶1月8日表示，歐盟委員會(huì)已責(zé)令美國(guó)社交媒體平臺(tái)X保留其內(nèi)置聊天機(jī)器人“格羅克（Grok）”相關(guān)的全部?jī)?nèi)部文件和數(shù)據(jù)，直至2026年年底。雷尼耶說，歐盟委員會(huì)“嚴(yán)肅對(duì)待”這一問題，并已決定延長(zhǎng)2025年向X平臺(tái)發(fā)出的“資料保留”要求。該要求此前主要涉及平臺(tái)算法相關(guān)信息以及非法內(nèi)容的傳播與擴(kuò)散情況等。

X平臺(tái)于1月4日就相關(guān)爭(zhēng)議回應(yīng)稱，將對(duì)平臺(tái)上的非法內(nèi)容采取行動(dòng)，包括刪除相關(guān)內(nèi)容、永久封禁賬號(hào)，并在必要時(shí)與當(dāng)?shù)卣蛨?zhí)法部門合作。馬斯克1月3日發(fā)帖表示，任何使用“格羅克”制作非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容相同的后果。

另外，為應(yīng)對(duì)批評(píng)，xAI于1月9日宣布，將格羅克在社交媒體平臺(tái)X上的圖像生成功能，限制為僅向付費(fèi)訂閱用戶開放。不過，獨(dú)立運(yùn)行的格羅克應(yīng)用程序仍允許用戶在無需訂閱的情況下生成圖像。

編輯|程鵬 杜恒峰

校對(duì)|許紹航

封面圖片來源：視覺中國(guó)（資料圖 圖文無關(guān)）

每日經(jīng)濟(jì)新聞綜合自央視新聞、新華社、參考消息、澎湃新聞、科創(chuàng)板日?qǐng)?bào)