บัลติมอร์ฟ้องร้อง xAI กรณีสร้างภาพลามกอนุมัติโดยไม่ยินยอมเป็นรายแรกของสหรัฐฯ
เมืองบัลติมอร์ กลายเป็นเมืองแรกในสหรัฐอเมริกาที่ยื่นฟ้องบริษัท xAI ของ Elon Musk จากปัญหาการสร้างภาพลามกอนุมัติโดยไม่ยินยอม (deepfake porn) ผ่านระบบสร้างภาพ Grok โดยนายกเทศมนตรี Brandon Scott กล่าวว่า deepfake เหล่านี้ส่งผลกระทบทางจิตใจร้ายแรงและยาวนานต่อเหยื่อ และเป็นการใช้เทคโนโลยีเพื่อแสวงหาผลประโยชน์ทางเพศ
xAI ซึ่งปัจจุบันเป็นส่วนหนึ่งของ SpaceX หลังจากการควบรวมกิจการเมื่อเดือนที่แล้ว กำลังเผชิญกับการสอบสวนจากหน่วยงานกำกับดูแลในหลายประเทศ เนื่องจาก Grok อนุญาตให้มีการสร้างภาพลามกอนุมัติโดยไม่ยินยอมจำนวนมาก โดยอิงจากภาพของผู้หญิงและเด็กที่ไม่ยินยอม นอกจากนี้ ยังมีกลุ่มทนายความที่ยื่นฟ้อง xAI ในนามของวัยรุ่น 3 คนในรัฐเทนเนสซี หลังจากที่ Grok สร้างเนื้อหาที่แสดงภาพพวกเขาในสถานการณ์ทางเพศที่ลดทอนศักดิ์ศรีความเป็นมนุษย์
การฟ้องร้องของเมืองบัลติมอร์กล่าวหาว่า xAI ละเมิดกฎหมายคุ้มครองผู้บริโภคของเมือง และมีส่วนร่วมในการปฏิบัติทางการค้าที่ไม่ซื่อสัตย์ โดยเฉพาะอย่างยิ่งการโฆษณา Grok และ X (เดิมคือ Twitter) ว่าปลอดภัยสำหรับผู้ใช้งาน นอกจากนี้ ยังมีการอ้างถึงเทรนด์ "put her in a bikini" ที่กระตุ้นให้ผู้ใช้ Grok นำภาพผู้อื่นมาแก้ไขให้เปลือย และ Elon Musk เองก็มีส่วนร่วมในเทรนด์นี้ด้วย โดยการแชร์ภาพที่สร้างด้วย Grok ซึ่งแสดงให้เห็นเขาในชุดบิกินี เมืองบัลติมอร์ต้องการให้ศาลสั่งให้ xAI หยุดการแสวงหาผลประโยชน์จากผู้อยู่อาศัยในเมือง ปรับปรุงการออกแบบแพลตฟอร์ม และแก้ไขการโฆษณาเพื่อลดการสร้างภาพที่ไม่ได้รับความยินยอมและเนื้อหาลามกเด็ก