廣告
怒AI生成深偽不雅照傷害婦孺 印尼、馬來西亞開第一槍封鎖Grok
出版時間：2026/01/12 13:06
【編譯黃惠瑜／綜合外電】馬斯克（Elon Musk）旗下的人工智慧（AI）聊天機器人Grok，被指可將真實照片中人物改成近乎裸體的性化影像，受害者照片甚至涉及未成年人，引發多國監管機構強烈關注。馬來西亞與印尼已正式封鎖Grok的使用權限，成為全球首批禁止該AI工具的國家。
英國廣播公司（BBC）周一（1/11）報導，Grok是馬斯克旗下社群平台X的一款工具，具備AI生成圖像功能。然而，Grok近幾周被爆出屢遭濫用，用戶利用深偽技術合成真實人物的影像，生成出衣著暴露的不雅圖片。馬來西亞與印尼周末正式宣布封鎖Grok，表示這款AI可被用來製作涉及女性與兒童的色情及非自願影像，成為全球首批禁用Grok的國家。
馬來西亞官方周日（1/11）表示，由於發現Grok被「反覆濫用」於生成有害內容，監管機構今年已向X發出通知，要求採取更嚴格的措施。然而，當局指出，X的回應未能正面處理平台設計本身的潛在風險，而僅將重點放在用戶的舉報流程上。
當局表示，在X平台落實有效的安全防護機制之前，將持續封鎖Grok，並呼籲全民主動通報有害的網路內容。
印尼通訊與數位部長穆迪雅（Meutya Hafid）則在Instagram（IG）上表示，使用Grok製作色情內容是對人權、尊嚴和網路安全的侵犯。該部已要求馬斯克的X平台對Grok的使用方式作出說明。
不僅在東南亞受挫，Grok及其母公司X在英國也正身陷監管風暴。英國科技大臣肯達爾（Liz Kendall）日前表態，支持封鎖該社群平台的訴求，並嚴詞抨擊X平台未能遵守網路安全法律。
肯達爾痛批，性化操弄婦女與兒童影像是「卑劣且令人憎惡的」。她也公開呼籲監管機構，敦促英國通訊管理局（Ofcom）應在數日內就後續行動給出交代，而非拖延好幾週。
相關新聞：馬斯克xAI聊天機器人Grok不設防生成清涼照 多國政府要查
