มาเลเซียและอินโดนีเซียกลายเป็นสองประเทศแรกที่สั่งบล็อก Grok แชตบอต AI ของ xAI หลังพบการนำไปใช้สร้างและเผยแพร่ deepfake ทางเพศโดยไม่ได้รับความยินยอม รวมถึงเนื้อหาล่วงละเมิดทางเพศต่อเด็กหรือ CSAM บนแพลตฟอร์ม X โดยอินโดนีเซียเริ่มบล็อกชั่วคราวตั้งแต่วันเสาร์ และมาเลเซียดำเนินการในวันอาทิตย์ถัดมา
กระทรวงการสื่อสารและกิจการดิจิทัลของอินโดนีเซียระบุว่า deepfake ทางเพศถือเป็นการละเมิดสิทธิมนุษยชน ศักดิ์ศรี และความปลอดภัยของประชาชนในโลกดิจิทัล ผลการตรวจสอบเบื้องต้นชี้ว่า Grok ยังขาดระบบควบคุมที่มีประสิทธิภาพในการป้องกันการสร้างและเผยแพร่ภาพลามกจากภาพถ่ายของบุคคลจริง ซึ่งอาจนำไปสู่ความเสียหายด้านชื่อเสียง สังคม และสภาพจิตใจ
ด้านคณะกรรมการการสื่อสารและมัลติมีเดียของมาเลเซียระบุถึงการใช้งาน Grok ในทางที่ผิดซ้ำหลายครั้ง โดยพบเนื้อหา deepfake ทางเพศที่ไม่ยินยอมและเกี่ยวข้องกับผู้หญิงและเด็ก พร้อมยืนยันว่าจะยังคงบล็อก Grok ต่อไปจนกว่า X Corp และ xAI จะจัดให้มีมาตรการป้องกันที่รัดกุมเพียงพอ
ขณะเดียวกัน Ofcom หน่วยงานกำกับดูแลสื่อของสหราชอาณาจักร ได้เปิดการสอบสวนอย่างเป็นทางการต่อ X ภายใต้กฎหมาย Online Safety Act เพื่อประเมินว่าแพลตฟอร์มได้ปฏิบัติตามหน้าที่ในการปกป้องผู้ใช้งานในสหราชอาณาจักรจากเนื้อหาที่ผิดกฎหมายหรือไม่ โดยเฉพาะ CSAM และภาพลามกที่ไม่ได้รับความยินยอม รวมถึงการประเมินความเสี่ยงต่อเด็กและระบบยืนยันอายุที่มีประสิทธิภาพ
หาก Ofcom พบว่ามีการฝ่าฝืนกฎหมาย X อาจถูกสั่งแก้ไขความเสียหาย ปรับสูงสุดถึง 18 ล้านปอนด์ หรือ 10% ของรายได้ทั่วโลก และอาจถึงขั้นสั่งให้ผู้ให้บริการอินเทอร์เน็ตในสหราชอาณาจักรบล็อกแพลตฟอร์ม นอกจากนี้ยังมีรายงานว่าหลายประเทศ รวมถึงสหภาพยุโรปและอินเดีย กำลังจับตาและตรวจสอบ X และ Grok ในประเด็นเดียวกันอย่างใกล้ชิด
แหล่งที่มา : Engadget
