Grok涉不雅內容挨轟 限制未付費X用戶AI影像生成功能

美國富豪馬斯克旗下人工智慧（AI）聊天機器人Grok近日遭人用於產出女性及兒童不雅深偽影像，並因此受到多國抨擊後，Grok在社群媒體X平台限制未付費用戶的影像生成功能。

法新社報導，Grok被用於生成露骨不雅影像，不僅馬斯克（Elon Musk）面臨罰款威脅，多國最近也因此公開表示反對Grok。

Grok的影像生成功能允許同屬馬斯克的X平台用戶編輯或生成不雅照片，路透社發現，該功能被用於產出女性及孩童穿著暴露的影像，且通常未經被描繪者本人的同意。

Grok今天在X平台回覆用戶提問時指出：「自今天（2026年1月9日）起，xAI已限制X平台上的Grok影像生成及編輯功能，僅供付費的X訂閱用戶使用。」

這項更動意味著絕大部分X用戶已經或將無法在這個平台上透過Grok生成及編輯圖像。付費用戶則需向X平台提供信用卡資訊及個人資料，因此若出現濫用情事，將能識別濫用者身分。

不過「衛報」（The Guardian）報導，儘管Grok在X平台上已嚴格限制影像生成功能，Grok同名應用程式及網站有未付費用戶回報，他們仍能產出女性及孩童的不雅影像。

英國首相施凱爾（Keir Starmer）辦公室稱這項舉措是「侮辱」受害者，且「絕非解決辦法」。

唐寧街（Downing Street）發言人說道：「這只是將一項允許生成非法影像的AI功能變成付費服務。」

歐盟執行委員會本週表示，這類女性及孩童的裸體影像已違法，執委會昨天並勒令X平台於今年底前保留所有與Grok相關的內部文件和資料。

法國、馬來西亞和印度也曾針對這項議題批評馬斯克的平台。

馬斯克上週在X平台回應有關不雅影像的貼文時警告：「任何利用Grok製作違法內容的人，將面臨等同上傳非法內容的後果。」