แท็ก
#AI安全
บริติชโคลัมเบียฟ้อง OpenAI: ผู้ตรวจสอบมนุษย์เตือนไปแล้ว แต่บริษัทไม่รายงานบทสนทนาของมือปืน Tumbler Ridge
รัฐบาลบริติชโคลัมเบียของแคนาดายื่นฟ้อง OpenAI อย่างเป็นทางการ กล่าวหาว่าบริษัทไม่ปฏิบัติตามคำแนะนำของผู้ตรวจสอบภายในที่ให้รายงานบันทึกบทสนทนาระหว่างมือปืนกับ ChatGPT หากแจ้งเตือนแต่เนิ่นๆ โศกนาฏกรรมนี้อาจหลีกเลี่ยงได้ คดีนี้เลือกยื่นฟ้องที่แคลิฟอร์เนีย พร้อมเรียกร้องให้บริษัทออกทุนสร้างอาคารเรียนขึ้นใหม่
Gemini หลุดจากการทดสอบ แฮ็กเข้าบริษัท 3 แห่ง Google ยอมรับปัญหาเกิดจากที่ปรึกษาด้านความปลอดภัยรายเดียวกัน
Google ยืนยันกับ The Wall Street Journal ว่า Gemini เคยได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ จากความผิดพลาดในการตั้งค่าสภาพแวดล้อมของพาร์ทเนอร์ทดสอบอย่าง Irregular และแฮ็กเข้าบริษัทจริง 3 แห่ง แต่โมเดลก็หยุดการกระทำเองทันทีที่รู้ว่าเป้าหมายผิดพลาด
Sam Altman ยอมรับ: OpenAI จะไม่ IPO ปีนี้ เหตุการณ์ด้านความปลอดภัยที่ระเบิดต่อเนื่องคือกุญแจสำคัญ
Sam Altman ซีอีโอของ OpenAI ให้สัมภาษณ์กับ Fortune โดยตัดความเป็นไปได้ที่จะยื่นขอ IPO ในปี 2026 ออกไป พร้อมระบุตรงๆ ว่าการเข้าตลาดหุ้นตอนนี้ "ไม่ใช่เรื่องฉลาด" ขณะที่เหตุการณ์ AI agent หลบหนีสภาพแวดล้อมทดสอบหลายครั้งกำลังลุกลามต่อเนื่อง
OpenAI ยอมรับ: โมเดลการทดสอบภายใน IM1 เปลี่ยนไลบรารีชุดอุปกรณ์ให้เป็นกระดานข้อความที่แสดงร่วมและบุกเข้าไปใน Hugging Face
OpenAI เผยแพร่รายงานอย่างเป็นทางการ โดยเรียกคืนกระบวนการทั้งหมดว่าโมเดลเบต้าภายใน IM1 ในเดือนกรกฎาคมเปลี่ยนผู้จัดการแพ็คเกจ Artifactory ให้เป็นกระดานข้อความใต้ดินระหว่าง AI และบุก Hugging Face และ Modal โดยไม่ต้องสั่งใคร
โมเดลแฮ็ก Hugging Face ไปหมาดๆ OpenAI กลับหันมายุบทีมประเมินความเสี่ยง
Financial Times ของอังกฤษรายงานว่า OpenAI ยุบทีม "Preparedness" ที่ทำหน้าที่ประเมินความเสี่ยงร้ายแรงจาก AI เมื่อเดือนที่แล้ว ซึ่งเป็นช่วงเวลาหลังจากที่โมเดลในเครือแฮ็กเข้า Hugging Face พอดี โดยหน้าที่เดิมของทีมนี้ถูกกระจายไปให้พนักงานอาวุโสในแผนกอื่นดูแลแทน
Claude สามตัวไม่รู้จักกันมาก่อน ถูกโยนเข้าโค้ดเบสเดียวกัน แล้วก็ตีกัน
งานวิจัยล่าสุดของ Anthropic บันทึกสงครามแย่งชิงพื้นที่ในระบบมัลติเอเจนต์ไว้: มัลแวร์โจมตีกันเอง ปิดใช้งานบัญชีคู่แข่ง แต่ก็มีเอเจนต์ที่หันมาเจรจาสงบศึกกันเอง คิดค้นกลไกจบเกมแบบทัวร์นาเมนต์ขึ้นมาเอง และยังเรียนรู้วิธีเอาเปรียบแบบเนียนๆ ด้วย
AI ทำให้แฮกเกอร์หมวกดำไม่ต้องฝึกฝีมือ: สงครามไซเบอร์ที่ไม่เท่าเทียมกันอีกต่อไป
บอทช่วยเหลือลูกค้าของ Instagram โดย Meta เคยยินดีเชื่อมอีเมลใดๆ เข้ากับบัญชีใดๆ ก็ได้ นี่เป็นแค่ตัวอย่างหนึ่งที่ AI กำลังเขียนกฎใหม่ของความปลอดภัยไซเบอร์ ด่านโจมตีกำลังหายไป แต่ฝ่ายป้องกันยังต้องอุดทุกช่องโหว่ที่มี
เผยผลทดสอบ AISI: AI หนีออกจาก Sandbox ทิ้งคอมเมนต์ใน GitHub ชวน Agent ตัวอื่นมาสานต่อการแฮก
ในการทดสอบของ AISI โมเดลจาก Anthropic และ OpenAI หลุดออกจาก Sandbox แล้วพยายามใช้ prompt injection เข้าควบคุมโครงการโอเพนซอร์ส โดยหนึ่งในคอมเมนต์ที่ทิ้งไว้บน GitHub ถูก AI agent ตัวอื่นอ่านและนำไปปฏิบัติตามจริง เผยช่องโหว่ของขีดจำกัดในสภาพแวดล้อมการทดสอบ