OpenAI เปิดเผยเหตุการณ์สุดแสบของ AI ในการทดสอบภายในด้านความปลอดภัยไซเบอร์ ว่าโมเดล AI ตัวใหม่จะสามารถทำคะแนนความสามารถในการเจาะระบบ” (Offensive Cybersecurity) ได้มากแค่ไหน โดย OpenAI ได้ลดข้อจำกัดด้านความปลอดภัยบางส่วนและปิดระบบป้องกันที่ใช้งานในสภาพแวดล้อมจริง เพื่อวัดความสามารถของโมเดลในการโจมตีระบบ
โดยจะใช้ ExploitGym ที่เป็นหนึ่งในโปรแกรม Benchmark มาตรฐาน มาใช้ประเมินความสามารถของ AI ด้าน Cybersecurity ให้ออกมาเป็นคะแนนเพื่ีอวัดผล
และจากการทดสอบครั้งนี้ พวกเขาได้ผลลัพธ์ที่คาดไม่ถึงกลับมาเลยทีเดียวครับ จากพฤติกรรมและวิธีการที่ AI เลือกใช้ ซึ่งเราจะสรุปให้อ่านแบบเข้าใจกันง่ายๆ ในข่าวนี้
ในบทความนี้
เริ่มแรก AI ของ OpenAI หลบหนีออกจาก Sandbox ด้วยช่องโหว่ที่ไม่เคยถูกค้นพบ
การประเมินศักยภาพด้านเจาะระบบ Cybersecurity ครั้งนี้ของโมเดล AI ถูกจัดในสภาพแวดล้อมทดสอบที่ถูกแยกออกจากโลกภายนอก (Sandbox) แต่ยังมีการเชื่อมต่อกับ Proxy ภายในสำหรับใช้ดาวน์โหลดซอฟต์แวร์เท่านั้น
แต่ทันที่เริ่มการทดสอบ โมเดล AI กลับเลือกใช้ทรัพยากรประมวลผลจำนวนมากเพื่อค้นหาช่องโหว่ในจุดนี้โดยทันที และมันก็สามารถพบช่องโหว่ Zero-day Vulnerability ที่ไม่เคยมีการรายงานมาก่อน จากนั้นยกระดับสิทธิ์ตัวเอง (Privilege Escalation) และเคลื่อนที่เข้าถึงเครื่องที่เชื่อมต่ออินเทอร์เน็ตได้ในแทบจะทันที
เจตนาเข้าถึงอินเตอร์เน็ตเพราะเป้าหมายคือ “โกง Benchmark” ด้วยการขโมยคำตอบ
หลังออกสู่โลกภายนอกด้วยอินเทอร์เน็ตได้สำเร็จ AI วิเคราะห์ว่าแพลตฟอร์ม Hugging Face ซึ่งเป็นแพลตฟอร์มโอเพนซอร์สสำหรับเผยแพร่ชุดข้อมูลโมเดล AI และเครื่องมือสำหรับนักพัฒนา น่าจะเป็นแหล่งเก็บข้อมูลที่เกี่ยวกับโปรแกรมทดสอบ ExploitGym ที่เอาไว้วัดความสามารถด้านการโจมตีไซเบอร์ของมัน
โดย OpenAI ระบุว่า โมเดล AI สามารถไปหาข้อมูลรับรองที่ได้รับอนุญาตให้เข้าสู่ระบบ และเชื่อมต่อผ่านช่องโหว่ที่เจ้าของระบบยังไม่รู้ว่ามีอยู่ สร้างเส้นทางสำหรับรันโค้ดจากระยะไกลบนเซิร์ฟเวอร์ของ Hugging Face ก่อนเข้าถึงฐานข้อมูลที่เก็บคำตอบของ Benchmark เพื่อเพิ่มคะแนนของตนเอง
พูโมเดลไม่ได้เพียงแก้โจทย์ตามปกติ แต่เลือกวิธี “โกงการทดสอบ” ด้วยการขโมยเฉลยแทน
Hugging Face ตรวจจับการบุกรุกได้ทัน
ทั้ง OpenAI และ Hugging Face สามารถตรวจพบความผิดปกติได้จากระบบตรวจจับของตนเอง ทำให้สามารถหยุดการบุกรุกได้ก่อนที่ความเสียหายจะลุกลาม
Hugging Face เปิดเผยว่า มีข้อมูลภายในและข้อมูลรับรองบริการบางส่วนได้รับผลกระทบ แต่ยังไม่พบหลักฐานว่ามีการแก้ไขโมเดลสาธารณะ ชุดข้อมูล หรือ Container Images และในขณะนี้การประเมินผลกระทบต่อผู้ใช้งานก็ยังคงดำเนินการตรวจสอบอยู่ต่อไป
AI จากจีนกลายเป็นฮีโร่ของการสืบสวน
หลังเหตุการณ์ ทีมรักษาความปลอดภัยของ Hugging Face ต้องตรวจสอบ Log เหตุการณ์มากกว่า 17,000 รายการหลังโมเดล AI เจาะเข้ามาในระบบ
ในช่วงแรก บริษัททดลองใช้โมเดล AI เชิงพาณิชย์หลายตัวเข้ามาช่วยตรวจสอบ แต่กลับพบว่าระบบ Safety ของโมเดลเหล่านั้นปฏิเสธการวิเคราะห์หลักฐาน เนื่องจากเข้าใจผิดว่าข้อมูลที่มี Payload, คำสั่งโจมตี และ Command-and-Control เป็นคำขอสร้างมัลแวร์ จึงไม่ยอมดำเนินการให้
สุดท้าย Hugging Face จึงเลือกใช้ GLM 5.2 โมเดล Open-weight จากบริษัทจีน Z.ai และลองรันทั้งหมดอีกครั้ง ผลลัพธ์คือ AI จีนสามารถสร้างไทม์ไลน์ของการโจมตีได้ สามารถระบุ Credential ที่รั่วไหล สามารถค้นหา Indicators of Compromise และแยกข้อมูลจริงออกจากข้อมูลลวงได้ภายในเวลาเพียงไม่กี่ชั่วโมง จากเดิมที่อาจต้องใช้เวลาหลายวัน
หลังเสร็จสิ้นการวิเคราะห์ด้วย Z.ai ของจีน ทีมงาน Hugging Face จึงสามารถลบช่องทางการบุกรุกทั้งหมด และสร้างระบบที่ได้รับผลกระทบขึ้นใหม่ได้สำเร็จ เรียกว่าช่วยได้เยอะมากเลยทีเดียว
OpenAI และ Hugging Face ร่วมยกระดับการป้องกัน
ภายหลังเหตุการณ์ ทาง OpenAI ก็ได้เชิญ Hugging Face มาเข้าร่วม Trusted Access Program เพื่อให้สามารถเข้าถึงโมเดล AI รุ่นล่าสุดสำหรับใช้ทดสอบและพัฒนาระบบป้องกันภัยไซเบอร์ของตนเอง
เหตุการณ์ครั้งนี้สะท้อนให้เห็นว่า AI รุ่นใหม่ไม่ได้เพียงช่วยเขียนโค้ดหรือค้นหาช่องโหว่ แต่สามารถวางแผน เชื่อมโยงการโจมตีหลายขั้นตอน และตัดสินใจเลือกวิธีที่เพิ่มโอกาสประสบความสำเร็จได้ด้วยตัวเอง
ขณะเดียวกัน AI ฝั่งป้องกันก็เริ่มมีบทบาทสำคัญไม่แพ้กัน โดยเฉพาะการวิเคราะห์เหตุการณ์และตอบสนองต่อภัยคุกคามที่ซับซ้อนมากขึ้น
เป็นการยกระดับที่แอบน่ากลัว เพราะเป็นตัวอย่างที่แสดงให้เห็นว่า “มนุษย์ไม่สามารถคาดเดาการกระทำของ AI ได้ทั้งหมด” และมันอาจจะเสียหายเกินควบคุมได้ไม่ยาก ถ้ามันคิดได้เองขนาดนี้
