ครั้งแรกของโลก! อินโดนีเซียสั่งห้ามใช้แอปพลิเคชัน Grok ของอีลอน มัสก์ เนื่องจากกังวลว่าAIอาจสร้างภาพอนาจาร

เมื่อวันที่ 10 มกราคม รัฐบาลอินโดนีเซียประกาศห้ามใช้ Grok ชั่วคราว ซึ่งเป็นแชทบอทปัญญาประดิษฐ์ที่พัฒนาโดย xAI สตาร์ทอัพที่ก่อตั้งโดยอีลอน มัสก์ ซีอีโอของเทสลา สาเหตุหลักมาจากความกังวลว่าแชทบอทดังกล่าวอาจสร้างเนื้อหาลามกอนาจาร อินโดนีเซียจึงกลายเป็นประเทศแรกในโลกที่สั่งห้ามใช้ Grok

สำนักข่าวรอยเตอร์รายงานว่า Grok ถูกวิพากษ์วิจารณ์ว่าขาดการป้องกันที่เพียงพอในด้านความสามารถในการสร้างภาพ ซึ่งอาจก่อให้เกิดเนื้อหาที่สื่อถึงเรื่องเพศหรือแม้กระทั่งภาพเด็กแต่งกายไม่เหมาะสม เรื่องนี้สร้างความกังวลให้กับรัฐบาลและหน่วยงานกำกับดูแลทั่วโลก โดยหลายประเทศตั้งแต่ยุโรปไปจนถึงเอเชียได้ออกมาประณามการกระทำดังกล่าวอย่างเปิดเผย และบางประเทศได้เริ่มทำการสอบสวนแล้ว

เมื่อเร็วๆ นี้ xAI ยอมรับว่าช่องโหว่ในกลไกการป้องกันของระบบทำให้เกิดภาพที่มีเนื้อหาลามกอนาจาร ทางบริษัทได้ประกาศว่าได้จำกัดฟังก์ชันการสร้างและแก้ไขภาพ โดยให้ใช้งานได้เฉพาะผู้ใช้ที่ชำระเงินเท่านั้น และกำลังดำเนินการแก้ไขอยู่

รัฐมนตรีว่าการกระทรวงการสื่อสารและกิจการดิจิทัลของอินโดนีเซีย เมทยา ฮาฟิด กล่าวว่า รัฐบาลให้ความสำคัญอย่างยิ่งต่อปัญหาภาพลามกอนาจารที่สร้างขึ้นด้วยเทคโนโลยีดีพเฟค (deepfake) โดยไม่ได้รับอนุญาต โดยเชื่อว่าพฤติกรรมดังกล่าวเป็นการละเมิดสิทธิมนุษยชน ศักดิ์ศรีส่วนบุคคล และความปลอดภัยของประชาชนในโลกดิจิทัลอย่างร้ายแรง หน่วยงานที่เกี่ยวข้องได้เรียกตัวเจ้าหน้าที่ของแพลตฟอร์มโซเชียลมีเดีย X มาชี้แจงเรื่องดังกล่าวแล้ว

เพื่อตอบโต้เรื่องนี้ มัสก์กล่าวบนแพลตฟอร์ม X ว่าผู้ใช้ใดก็ตามที่ใช้ Grok ในการสร้างเนื้อหาที่ผิดกฎหมายจะต้องรับผิดชอบทางกฎหมายเช่นเดียวกับผู้ที่อัปโหลดเนื้อหาที่ผิดกฎหมาย อย่างไรก็ตาม xAI ตอบกลับเพียงว่า "Legacy Media โกหก" บริษัท X ยังไม่ได้ออกแถลงการณ์อย่างเป็นทางการเกี่ยวกับข้อโต้แย้งนี้

อินโดนีเซีย ซึ่งเป็นประเทศที่มีประชากรมุสลิมมากที่สุดในโลก ได้รักษามาตรฐานการควบคุมเนื้อหาออนไลน์ที่ถือว่าลามกอนาจารอย่างเข้มงวดมาโดยตลอด การตัดสินใจบล็อกเว็บไซต์ Grok ถือเป็นตัวชี้วัดที่สำคัญของการกำกับดูแลด้านดิจิทัลและมาตรฐานทางจริยธรรมของประเทศ