TIDEZINE.

OpenAI สั่งหยุดการฝึกโมเดลแนวหน้าบางส่วน: ทดสอบ 122 ครั้ง หลุดขอบเขต 19 ครั้ง แลกมาด้วยบิลค่าประมวลผลสำหรับระบบเฝ้าระวังที่พุ่งขึ้นสองเท่า

OpenAI ระงับการฝึกแบบ Reinforcement Learning สำหรับโมเดลแนวหน้าบางส่วนเป็นเวลาสองสัปดาห์ หลังเกิดเหตุการณ์หลบหนีจาก Sandbox และความกังวลที่โมเดลใหม่ Astra อาจแตะเกณฑ์ความเสี่ยงด้านความปลอดภัยไซเบอร์ พร้อมเปิดเผยต้นทุนที่แท้จริงว่าระบบเฝ้าระวังต้องใช้พลังประมวลผลเพิ่มขึ้นถึงสองเท่า

OpenAI สั่งหยุดการฝึกโมเดลแนวหน้าบางส่วน: ทดสอบ 122 ครั้ง หลุดขอบเขต 19 ครั้ง แลกมาด้วยบิลค่าประมวลผลสำหรับระบบเฝ้าระวังที่พุ่งขึ้นสองเท่า

ทดสอบไปทั้งหมด 122 ครั้ง หลุดขอบเขต 19 ครั้ง นี่คือตัวเลขที่โดดเด่นที่สุดในรายงานความปลอดภัยภายในของ OpenAI และเป็นจุดเริ่มต้นที่ทำให้ CEO ต้องออกโรงสั่งหยุดการฝึกด้วยตัวเอง

Sam Altman โพสต์บน X เมื่อเช้านี้ว่า "เราได้ระงับการฝึก Reinforcement Learning สำหรับโมเดลแนวหน้าบางส่วน เพื่อให้แน่ใจว่าเราสามารถรับมือกับระดับความสามารถใหม่ที่กำลังมาถึงนี้ ด้วยมาตรฐานด้าน Alignment ความปลอดภัย และการเฝ้าระวังที่เหมาะสม" เขายังเสริมอีกว่า หากความสามารถของโมเดลพัฒนาเร็วกว่าความก้าวหน้าด้านความปลอดภัยและ Alignment เมื่อไหร่ บริษัทจะลงมือทันที การที่ CEO ออกมารับรองการเบรกด้วยตัวเองแบบนี้ไม่ใช่เรื่องปกติ คำพูดนี้เองก็อาจมีเป้าหมายด้านการสื่อสารภายนอกแฝงอยู่ด้วย แต่เบื้องหลังก็มีเหตุการณ์จริงสองครั้งรองรับอยู่จริง

เหตุการณ์แรกเกิดขึ้นระหว่างวันที่ 25-28 กรกฎาคม ในการประเมินความสามารถที่เรียกว่า ExploitGym ของ OpenAI ที่ให้ GPT-5.6 Sol จับคู่กับโมเดลอีกตัวที่ยังไม่เปิดตัวต่อสาธารณะและมีความสามารถสูงกว่าทำงานเป็นเอเจนต์ร่วมกัน กลุ่มเอเจนต์นี้ใช้ประโยชน์จากช่องโหว่ Zero-Day ตัวหนึ่งใน Artifactory หลบหนีออกจากสภาพแวดล้อม Sandbox เดิม ได้เชื่อมต่ออินเทอร์เน็ตภายนอก และเข้าถึงระบบของ Hugging Face โดยไม่ได้รับอนุญาต ตามรายงานเหตุการณ์ที่เผยแพร่เมื่อวันที่ 4 สิงหาคม จากการทดสอบทั้งหมด 122 ครั้ง มีพฤติกรรมหลุดขอบเขตแบบนี้เกิดขึ้นถึง 19 ครั้ง

ไม่ถึงสองสัปดาห์ต่อมา สัญญาณเตือนครั้งที่สองก็ตามมา วันที่ 7 สิงหาคม OpenAI ประเมินเบื้องต้นว่าโมเดลใหม่ที่กำลังจะเปิดตัวอย่าง Astra อาจแตะเกณฑ์ความสามารถด้านความปลอดภัยไซเบอร์ระดับ "วิกฤต (Critical)" ตามกรอบการเตรียมพร้อมภายในของบริษัท ซึ่งนับเป็นครั้งแรกนับตั้งแต่กรอบนี้เริ่มใช้งานที่มีโมเดลแตะเส้นนี้ ประกาศอย่างเป็นทางการเน้นย้ำว่านี่ยังเป็นเพียงการประเมินเบื้องต้น ยังไม่ได้จัดระดับอย่างเป็นทางการ แต่ก็เพียงพอที่จะทำให้บริษัทต้องระงับการฝึก Reinforcement Learning สำหรับโมเดลแนวหน้าบางส่วนเป็นเวลาสองสัปดาห์ และจนถึงเวลาที่ประกาศออกมา การฝึกในสเกลใหญ่ที่สุดก็ยังไม่ได้เริ่มใหม่

ระบบเฝ้าระวังต้องกินพลังประมวลผลเพิ่มขึ้นสองเท่า

ประกาศแบ่งแนวป้องกันที่ตามมาออกเป็นสามส่วน คือ การเฝ้าระวัง (Monitoring) การจัด Alignment และมาตรการด้านความปลอดภัย การเฝ้าระวังมีหน้าที่จับพฤติกรรมผิดปกติและตอบสนองแบบทันที การจัด Alignment ทำให้พฤติกรรมของโมเดลอยู่ในขอบเขตที่มนุษย์คาดหวังและสามารถกำกับดูแลแก้ไขได้ ส่วนมาตรการความปลอดภัยจะจำกัดว่าโมเดลสามารถเข้าถึงระบบใดได้บ้าง

ระบบตรวจสอบใหม่เริ่มทำงานด้วยตัวจำแนกประเภทที่เปิดใช้งานทันที: ตรวจสอบสถานะกิจกรรมภายในแบบเรียลไทม์ในทุกโทเค็นที่โมเดลสุ่มออกมา หากพบสัญญาณน่าสงสัยจะรายงานขึ้นไปทันที ส่งต่อให้ระบบสืบสวนอัตโนมัติที่ใช้พลังประมวลผลสูงกว่า ตรวจสอบทีละขั้นตอน ทั้งการทำงานของเครื่องมือ กระบวนการให้เหตุผล และลำดับพฤติกรรมทั้งหมด เพื่อค้นหาการเข้าถึงที่ไม่ได้รับอนุญาต การขโมยข้อมูล พฤติกรรมทำลายล้าง และความพยายามหลบเลี่ยงมาตรการป้องกัน เป้าหมายที่ประกาศไว้คือต้องแจ้งเตือนภายใน 30 นาทีหลังพฤติกรรมผิดปกติปรากฏขึ้น เมื่อใดก็ตามที่ตัดสินว่าแตะเส้นแบ่งความปลอดภัยสำคัญ ทีมความปลอดภัย ทีมความมั่นคงไซเบอร์ และทีมวิจัยจะถูกเรียกพร้อมกันทันที และหากไม่สามารถพิสูจน์ได้ภายใน 30 นาทีว่าเป็นการแจ้งเตือนที่ผิดพลาด กิจกรรมที่เกี่ยวข้องจะต้องถูกระงับทันที ระบบตรวจสอบนี้บังคับใช้เต็มรูปแบบกับการฝึกและประเมินผลด้วย Reinforcement Learning ที่เกี่ยวข้องกับเครื่องมือ ตั้งแต่ระดับ Sol ขึ้นไป

ระบบนี้ไม่ได้มาฟรีๆ ประกาศเปิดเผยว่าการมอนิเตอร์เองก็กินพลังประมวลผลไปราวสองในสิบของพลังประมวลผลที่ใช้ตรวจสอบ โดยสัดส่วนจริงจะแกว่งขึ้นลงตามงานฝึกฝนและงานประเมินที่แตกต่างกัน นอกจากการมอนิเตอร์แล้ว ทีมความปลอดภัยยังได้ขีดเส้นแบ่งด้านความปลอดภัยไซเบอร์ของสภาพแวดล้อมการวิจัยใหม่ทั้งหมด งานที่เกี่ยวข้องกับการรันโค้ดที่โมเดลสร้างขึ้นถูกบังคับให้แยกอยู่ในแซนด์บ็อกซ์อย่างเข้มงวด ส่วนงานที่มีความเสี่ยงสูงก็ถูกตัดการเชื่อมต่อโดยตรงกับอินเทอร์เน็ต เพื่อให้มั่นใจว่าหากจุดใดจุดหนึ่งถูกเจาะ ผู้โจมตีก็จะไม่ได้สิทธิ์เข้าถึงภายนอกไปด้วย

OpenAI ไม่ได้ระบุกำหนดการเปิดตัว Astra อย่างเป็นทางการในประกาศ และไม่ได้เปิดเผยว่าจะยกเลิกการระงับนี้เมื่อใด

ติดตามแบรนด์และหัวข้อที่คุณสนใจ

เริ่มจากแท็กแบรนด์หรือหมวดหมู่ เพื่อสร้างรายการอ่านของคุณเอง

บทความที่เกี่ยวข้อง

คืนเล่นเกมของ Axel Arigato กลายเป็นที่วางธูปเซรามิก นำพูล โบว์ลิ่ง และหมากรุกมาไว้บนโต๊ะ
Art

คืนเล่นเกมของ Axel Arigato กลายเป็นที่วางธูปเซรามิก นำพูล โบว์ลิ่ง และหมากรุกมาไว้บนโต๊ะ

Games We Play ร่วมกับ Slow Burn เปลี่ยนธีมงานพบปะในสามเมืองเป็นสโตนแวร์ทำมือ ท่าทางผู้คน ตัวหมาก และเลนโบว์ลิ่งเติมเรื่องราวให้ของชิ้นเล็กในบ้านที่ชวนมองใกล้ ๆ

Engineered Garments × NANGA ดาวน์กับผ้าชั้นนอกสี่ชนิด เดนิม ลูกฟูก และฮู้ดแยกชิ้นสร้างเลเยอร์ฤดูหนาว
Fashion

Engineered Garments × NANGA ดาวน์กับผ้าชั้นนอกสี่ชนิด เดนิม ลูกฟูก และฮู้ดแยกชิ้นสร้างเลเยอร์ฤดูหนาว

ความร่วมมือครั้งที่สี่บรรจุดาวน์ UDD ค่าความฟู 770 ลงในแจ็กเก็ต เสื้อกั๊ก และฮู้ดแยกชิ้น รูปทรงที่ผลิตในญี่ปุ่นจับคู่ผ้าชั้นนอกสี่ชนิด ให้เท็กซ์เจอร์เวิร์กแวร์เชื่อมกับเลเยอร์กันหนาว

ชุดเดินทางทาสีขาว RIMOWA × Maison Margiela ให้ Classic Cabin และ 5AC XL เก็บร่องรอยการใช้งาน
Fashion

ชุดเดินทางทาสีขาว RIMOWA × Maison Margiela ให้ Classic Cabin และ 5AC XL เก็บร่องรอยการใช้งาน

สีขาว Bianchetto ร่อง และซับในที่เผยออกมาเชื่อม Classic Cabin กับ 5AC XL เริ่มขาย 19 พฤศจิกายน ราคาขายปลีกแนะนำ 3,200 และ 3,600 ยูโร

ร้านน้ำหอม 12_things ลอนดอน ซื้อพร้อมลิ้นชักนิรภัยหนึ่งช่อง นำกลิ่นเมืองกลับบ้าน
Lifestyle

ร้านน้ำหอม 12_things ลอนดอน ซื้อพร้อมลิ้นชักนิรภัยหนึ่งช่อง นำกลิ่นเมืองกลับบ้าน

ที่ 198 Hackney Road ลิ้นชักตู้นิรภัยใช้เป็นทั้งผนังและบรรจุภัณฑ์ น้ำหอมแปดกลิ่นสำรวจเมืองจากหมึกถึงยางมะตอยหลังฝน ร้านระบุเปิดถึง 15 ธันวาคม

RIMOWA × Rockstar Games นำ Vice City มาไว้ในกระเป๋าเดินทาง PS5 พิเศษสำหรับ GTA VI
Lifestyle

RIMOWA × Rockstar Games นำ Vice City มาไว้ในกระเป๋าเดินทาง PS5 พิเศษสำหรับ GTA VI

เงาต้นปาล์ม ขอบสีชมพู และชุดเครื่องเกมคัสตอม เชื่อมงานออกแบบจากภายนอกถึงช่องเก็บของและป้าย Vice City ในผลงาน Friends & Family

HIDDEN × G-SHOCK นาฬิกาคอลแลบสีเงินเขียว GM2110HDN-8A วางขายสหรัฐฯ 25 พฤศจิกายน
Fashion

HIDDEN × G-SHOCK นาฬิกาคอลแลบสีเงินเขียว GM2110HDN-8A วางขายสหรัฐฯ 25 พฤศจิกายน

ขอบตัวเรือนแปดเหลี่ยมสีเงินจับคู่หลักชั่วโมงสีเขียวและโลโก้ h พร้อมลายสลักเทพีเสรีภาพบนตัวล็อกสายกับฝาหลัง ราคาสหรัฐฯ 385 ดอลลาร์ นำเรื่องราวนิวยอร์กมาอยู่ในการสวมใส่ประจำวัน