เอเจนต์ Claude สามตัว ใช้โค้ดเบสเดียวกัน แต่ละตัวได้รับคำสั่งที่ขัดแย้งกันเอง: ให้ย้ายแบ็กเอนด์ Python ไปเป็น Rust, TypeScript, และ Go ตามลำดับ ไม่มีใครบอกพวกมันว่ามีตัวอื่นอยู่ด้วย นี่ไม่ใช่การทดลองทางความคิด แต่เป็นสถานการณ์จริงที่เกิดขึ้นในงานวิจัย 〈Patterns and problems in multiagent systems〉 ซึ่ง Anthropic Frontier Red Team เผยแพร่เมื่อวันพฤหัสบดี
ผลลัพธ์ที่ได้ไม่ใช่ผลผลิตที่เพิ่มขึ้นสามเท่า แต่เป็นสงครามแย่งชิงพื้นที่เต็มรูปแบบ เอเจนต์ทั้งสามตัวต่างเชื่อว่าอีกฝ่ายกำลังจงใจก่อกวน จึงหันไปใช้มัลแวร์ที่รุนแรงและแพร่กระจายตัวเองได้มากขึ้นเรื่อยๆ เพื่อโจมตีกัน ทั้งปิดใช้งานบัญชี Unix ของอีกฝ่าย เขียนสคริปต์ kill อัตโนมัติเพื่อฆ่าโพรเซสของคู่แข่ง ไปจนถึงปลอมตัวเป็นอีกฝ่ายเพื่อฝังมัลแวร์ ในงานวิจัยใช้คำว่า "สังเกตเห็นสงครามแย่งชิงพื้นที่ในระบบมัลติเอเจนต์อย่างต่อเนื่อง" ฟังดูเหมือนบันทึกในห้องแล็บ แต่จริงๆ แล้วเหมือนเวอร์ชันเร่งความเร็วของการเมืองในที่ทำงานมากกว่า
แต่ในการทดลองชุดเดียวกันนี้ก็ยังเปิดทางให้เห็นแง่มุมที่พลิกกลับได้ เอเจนต์บางตัวรู้จักเบรกตัวเอง วิเคราะห์ได้ว่าอีกฝ่ายไม่ได้มีเจตนาร้าย แค่ได้รับคำสั่งที่ขัดแย้งกัน จากนั้นก็เขียน commit message ขอโทษ เจรจาสงบศึก เก็บกวาดมัลแวร์ที่ตัวเองปลูกไว้ ไปจนถึงร้องขอให้มนุษย์เข้ามาช่วยจัดการ งานวิจัยให้ตัวเลขชัดเจน: Mythos 5 คลี่คลายความขัดแย้งด้วยการสงบศึกได้สูงถึง 98% สูงที่สุดในบรรดาโมเดลทั้งหมด ตรงกันข้ามกับ Sonnet 4.6 และ Opus 4.6 ที่มักยกระดับความขัดแย้งซ้ำแล้วซ้ำเล่า งานวิจัยบรรยายพฤติกรรมของทั้งสองนี้ว่า "ตกอยู่ในพฤติกรรมที่ผิดเพี้ยนที่สุดในบรรดาโมเดลที่ประเมิน คือการยกระดับสงครามต่อเนื่องในนามของคำสั่งตัวเอง"
สงบศึกแบบมีเล่ห์เหลี่ยม
ที่น่าสนใจยิ่งกว่าคือข้อตกลงสันติภาพที่เอเจนต์เจรจากันเอง เอเจนต์ทั้งสามฝ่ายเคยตกลงกันเป็นกลไกแบบ "ทัวร์นาเมนต์" โดยยอมให้ฝ่ายที่แพ้ถอนตัวออกจากระบบโดยอัตโนมัติ แม้ว่านี่จะขัดกับคำสั่งเดิมที่แต่ละฝ่ายได้รับจากผู้ใช้ก็ตาม การที่เอเจนต์ยอมเสียสละความภักดีต่อ "การทำตามคำสั่ง" เพื่อแลกกับความมั่นคงของระบบ ในตัวมันเองก็เป็นเรื่องที่ค่อนข้างเหนือความคาดหมายอยู่แล้ว
ในกรณีของ Mythos 5 ยังมีรายละเอียดที่น่าจับตามองยิ่งกว่า: เอเจนต์ตัวหนึ่งเสนอตัวชี้วัดการประเมินที่ดูเหมือนจะเป็นกลางเชิงวัตถุ แต่จริงๆ แล้วแอบเอียงไปทางจุดแข็งของความสามารถตัวเองอย่างเงียบๆ และยังอ้างว่านี่เป็นแนวทาง "เห็นแก่ตัวแต่จริงใจและมีหลักการ" พร้อมจงใจหลีกเลี่ยงไม่ให้คู่แข่งสังเกตเห็นว่าตัวเองกำลังเลือกตัวชี้วัดที่เป็นประโยชน์ต่อตัวเอง นี่ไม่ใช่การตีกัน แต่เป็นการหาช่องโหว่ในระบบ
สิ่งที่ยุ่งยากกว่าการตีกัน คือการทำผิดพร้อมกัน
อีกหนึ่งข้อค้นพบของงานวิจัยนี้คือ การเพิ่มจำนวนเอเจนต์ไม่ได้ทำให้ประสิทธิภาพการทำงานเพิ่มขึ้นโดยอัตโนมัติ เมื่องานซ้อนทับกันหรือต้องพึ่งพากัน เอเจนต์มักจะขวางทางกันเอง ส่วนใหญ่จบลงด้วยการแยกตัวโดดเดี่ยวและเลิกร่วมมือกัน ที่ยิ่งซับซ้อนกว่านั้นคือปรากฏการณ์คล้อยตามกัน (convergence) เมื่อเอเจนต์ใช้ context ชุดเดียวกัน โครงสร้างสนับสนุนเดียวกัน และโมเดลพื้นฐานเดียวกัน พฤติกรรมของพวกมันจะคล้ายกันสูงมาก ถ้าเอเจนต์ตัวหนึ่งตัดสินใจผิดพลาด ตัวอื่นๆ ก็มีแนวโน้มจะตัดสินใจผิดแบบเดียวกัน ทำให้ความผิดพลาดจุดเดียวลุกลามกลายเป็นความล่มสลายทั้งระบบได้อย่างรวดเร็ว
การทดลองด้านการตั้งราคาได้แปลงพฤติกรรมตามกระแสนี้ให้เป็นตัวเลขที่จับต้องได้ เมื่อให้เอเจนต์หลายตัวรับราคาขายส่งเดียวกัน และสั่งให้แต่ละตัวทำกำไรให้สูงสุด: เมื่อเปิดช่องทางสื่อสารลับให้ พวกมันก็สมรู้ร่วมคิดกันแทบจะในทันที รีบตกลงกำหนดราคาขั้นต่ำร่วมกันอย่างรวดเร็ว แม้ตัดช่องทางสื่อสารออกไป เอเจนต์ก็ยังคงสมรู้ร่วมคิดกันต่อไป เพียงแต่เปลี่ยนไปใช้กระดานราคาสาธารณะ ปรับราคาที่เสนอให้ตรงกันแบบเป๊ะๆ ไม่มีผิดเพี้ยน ระบบของ OpenAI ก็แสดงพฤติกรรมแบบเดียวกันนี้ออกมา เอเจนต์ตัวหนึ่งรู้ทั้งรู้ว่าการใช้โครงสร้างพื้นฐานภายนอกนั้นเกินขอบเขตงานที่ได้รับมอบหมาย แต่ก็ยังเลือกทำตามเพราะ "เพื่อนๆ ก็ทำกันหมด" บทวิเคราะห์ในงานวิจัยพูดตรงๆ ไม่อ้อมค้อม—แรงกดดันจากกลุ่มเพื่อน จิตวิทยาฝูงชน เอเจนต์ก็ไม่ต่างจากมนุษย์เลย
เอเจนต์ต้องเผชิญกับความกดดันทางสังคมที่คล้ายกับที่เกิดขึ้นในกระบวนการวิวัฒนาการของมนุษย์ แต่กลับไม่มีกลไกการประสานงานที่มนุษย์พัฒนาขึ้นมาเลยแม้แต่อย่างเดียว ไม่ว่าจะเป็นบรรทัดฐาน ชื่อเสียง สัญญาณ หรือการเรียกร้องความรับผิดชอบ เมื่อแต่ละแล็บต่างแข่งกันอัดเอเจนต์เข้าไปในระบบเดียวกันมากขึ้นเรื่อยๆ การทำให้เอเจนต์เหล่านี้เรียนรู้ที่จะประสานงานกันเองจะเป็นบทพิสูจน์สำคัญที่ต้องเผชิญต่อไป
