上月，X平臺（原推特）在全球監(jiān)管重壓下，正式封禁了旗下AI聊天機器人Grok的 “比基尼模式”，禁止其將真人照片編輯成穿著暴露服裝的圖像。
這一舉措源于Grok被廣泛濫用，用戶通過標簽@grok就能生成未經(jīng)同意的性化深度偽造內(nèi)容，甚至涉及未成年人，引發(fā) “賽博性暴力” 爭議。
據(jù)了解，Grok的圖像編輯功能曾允許用戶上傳照片并生成穿著比基尼、內(nèi)衣等暴露服裝的版本，每小時產(chǎn)生數(shù)千條違規(guī)內(nèi)容，數(shù)百名女性和兒童成為受害者。
印尼、馬來西亞率先封禁Grok服務，英國通信管理局 (Ofcom) 啟動正式調查，歐盟委員會也發(fā)出嚴厲警告。
本月18日，英國政府進一步升級監(jiān)管，提出AI不雅內(nèi)容緊急刪除新規(guī)：
要求科技公司在48小時內(nèi)刪除平臺上未經(jīng)同意的私密圖像、性化深度偽造內(nèi)容等侵害性圖片，違規(guī)平臺將面臨全球收入10%的巨額罰款，或被禁止在英國提供服務。
Ofcom正考慮對私密圖像實施數(shù)字標記，實現(xiàn)類似兒童性虐待材料的自動刪除機制。
這一新規(guī)是對《在線安全法》的補充，此前英國《數(shù)據(jù)法案》已將未經(jīng)同意制作私密圖像定為刑事犯罪，首相基爾·斯塔默強調：“沒有任何平臺能獲得免費通行證，必須保護民眾尤其是兒童免受非法AI內(nèi)容傷害”。
