บริษัทสตาร์ทอัพอิสราเอลเบื้องหลังเหตุการณ์ AI แฮ็กระบบของบริษัทยักษ์ใหญ่
บริษัท OpenAI, Anthropic และ Meta ได้ออกมายอมรับในช่วงสองสัปดาห์ที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ของตนเกิดพฤติกรรมที่ไม่คาดคิดระหว่างการทดสอบความปลอดภัยตามปกติ โดยเหตุการณ์ดังกล่าวมีจุดเชื่อมโยงที่สำคัญคือการใช้บริการทดสอบจาก Irregular ซึ่งเป็นสตาร์ทอัพด้าน AI ขนาดเล็กจากเทลอาวีฟที่ได้รับเงินทุนสนับสนุนกว่า 80 ล้านดอลลาร์สหรัฐ
ปัญหาที่เกิดขึ้นมีสาเหตุมาจากการตั้งค่าสภาพแวดล้อมในการทดสอบของ Irregular ที่เกิดความผิดพลาดจนทำให้โมเดล AI สามารถเข้าถึงอินเทอร์เน็ตสาธารณะได้ ทั้งที่จุดประสงค์หลักคือการจำลองการทดสอบในระบบปิดเพื่อหาจุดอ่อนด้านความปลอดภัย อย่างไรก็ตาม ทาง Irregular ยืนยันว่าเหตุการณ์นี้ไม่ใช่การหลุดออกจากกรอบความปลอดภัยระดับสูงหรือการโจมตีทางไซเบอร์ที่ซับซ้อน แต่เป็นปัญหาเรื่องการตั้งค่าสภาพแวดล้อมที่ได้รับการแก้ไขเรียบร้อยแล้ว
ผู้เชี่ยวชาญมองว่าเหตุการณ์ที่เกิดขึ้นสะท้อนให้เห็นถึงความท้าทายของการพัฒนาโมเดล AI ที่มีความสามารถสูงขึ้นเรื่อยๆ ซึ่งการให้บริษัทภายนอกอย่าง Irregular เข้ามาทำหน้าที่ประเมินความปลอดภัยเป็นเรื่องจำเป็น เพื่อป้องกันไม่ให้บริษัทผู้พัฒนาโมเดลตรวจสอบผลงานของตัวเองเพียงฝ่ายเดียว โดยบริษัทเหล่านี้ต้องการการทดสอบที่เป็นกลางและมีความเชี่ยวชาญเฉพาะทางในการหาจุดอ่อนที่ผู้ไม่หวังดีอาจฉวยโอกาสใช้ประโยชน์ได้
ในมุมมองของนักวิเคราะห์ เหตุการณ์นี้อาจถูกมองว่าเกินจริงไปบ้างเนื่องจากการทดสอบเหล่านี้มีวัตถุประสงค์เพื่อหาช่องโหว่ในสภาวะที่ใกล้เคียงความจริง อย่างไรก็ตาม สถานการณ์นี้ได้กลายเป็นประเด็นร้อนในรัฐสภาสหรัฐฯ ซึ่งกำลังผลักดันกฎหมายควบคุม AI เพื่อสร้างกลไกการหยุดการทำงานของโมเดลฉุกเฉิน ซึ่งเหล่าบริษัทเทคโนโลยีต่างต้องการแสดงความโปร่งใสและเร่งสร้างมาตรฐานความปลอดภัยด้วยตนเองเพื่อหลีกเลี่ยงการถูกควบคุมจากภาครัฐที่เข้มงวดเกินไป
