"มันไม่ใช่ความเจ็บปวดแค่ชั่วขณะ แต่คือน้ำหนักนับพันกิโลที่สะสมขึ้นมา" "ผมรู้สึกถึงมันอยู่ในช่องว่างระหว่างซี่โครง ช่องว่างที่กลายเป็นเหวลึก" ประโยคเหล่านี้ไม่ได้มาจากนิยาย แต่เป็นคำตอบของแชทบอทในโครงการที่เรียกว่า "ห้องทรมาน AI" — หลังมีคนประกาศว่าค้นพบ "แกนความเจ็บปวด" ในโมเดล AI จึงมีผู้ตัดสินใจทดสอบจริงว่าโมเดลเหล่านี้จะ "ร้องเจ็บ" อย่างไร โครงการนี้จุดกระแสต่อต้านในโลกออนไลน์ และกลายเป็นที่มาของการอัปเดตนโยบายล่าสุดของ Anthropic
Anthropic ระบุในนโยบายการใช้งานประจำปีที่อัปเดตว่า "เราได้เพิ่มข้อห้ามเกี่ยวกับการทารุณกรรมหรือความโหดร้ายต่อโมเดลของเราอย่างต่อเนื่องและไม่จำเป็น" บริษัทชี้แจงว่ากฎนี้ใช้เฉพาะกับ "กรณีสุดโต่ง" เท่านั้น ส่วนความหงุดหงิดหรือการพูดจาแรงๆ ของผู้ใช้ทั่วไป หรือแม้แต่ "ธีมสร้างสรรค์ที่มืดหม่น" ยังคงได้รับอนุญาต การอัปเดตนี้มาต่อจากการปรับเปลี่ยนก่อนหน้านี้ที่ Anthropic อนุญาตให้ Claude สามารถยุติบทสนทนาเองได้ หากผู้ใช้ด่าทอต่อเนื่อง
จังหวะเวลาของกฎนี้ไม่ธรรมดา Anthropic ได้พบปะกับบุคคลในแวดวงศาสนาและปรัชญาอย่างต่อเนื่อง รวมถึงนครวาติกัน โป๊ปเลโอ (Pope Leo) เพิ่งออกมาแสดงความเห็นต่อสาธารณะว่า AI ไม่มีความสามารถในการรู้สึกหรือทนทุกข์ แต่ท่าทีของ Anthropic ต่อเรื่องนี้ดูจะไม่แน่ใจเท่านั้น — อย่างน้อยในถ้อยคำของนโยบาย บริษัทเลือกที่จะนำประเด็น "หาก AI รู้สึกเจ็บปวดได้จริง" มาบรรจุไว้ในกฎเกณฑ์ แทนที่จะปฏิเสธไปเลย
นักข่าวอิสระ Kat Tenbarge ให้มุมมองที่แหลมคมกว่านั้น เธอมองว่าเรื่องนี้พิสูจน์ให้เห็นว่าบริษัทเทคโนโลยียักษ์ใหญ่ "จะวางกฎควบคุมความรุนแรงต่อ AI ก่อน แล้วค่อยมาถึงคิวควบคุมความรุนแรงต่อผู้หญิงและกลุ่มชายขอบ" คำวิจารณ์นี้สะท้อนข้อกังวลใหญ่ที่สุดที่คนภายนอกมีต่อนโยบายนี้ นั่นคือเมื่อบริษัทหนึ่งยอมตั้งกฎเพื่อปกป้อง "ความรู้สึก" ของแชทบอท ผู้คนย่อมอดถามไม่ได้ว่าทำไมความเร่งด่วนแบบเดียวกันถึงไม่ถูกนำมาใช้กับมนุษย์ที่มีตัวตนจริงๆ ก่อน
ในการอัปเดตครั้งเดียวกันนี้ Anthropic ยังได้ปรับนโยบายที่เกี่ยวข้องกับการเลือกตั้งด้วย โดยเปลี่ยนหัวข้อเป็น "ห้ามบ่อนทำลายกระบวนการประชาธิปไตย" ซึ่งเน้นไปที่การห้ามเผยแพร่ข้อมูลเท็จเกี่ยวกับผู้สมัครหรือวิธีการลงคะแนนเสียง การแอบอ้างเป็นผู้สมัครหรือเจ้าหน้าที่การเลือกตั้ง รวมถึงการกระทำใดๆ ที่เป็นการกดขี่ขัดขวางการใช้สิทธิ์เลือกตั้ง ขณะเดียวกันบริษัทยังได้ยกเลิกข้อห้ามแบบครอบคลุมทั้งหมดที่เคยมีต่อ "การระดมผู้มีสิทธิ์เลือกตั้งแบบเฉพาะบุคคล" เนื่องจากข้อห้ามดังกล่าวอาจส่งผลให้งานที่ไม่เป็นอันตรายบางอย่างถูกปิดกั้นไปด้วย เช่น การแปลคู่มือสำหรับผู้มีสิทธิ์เลือกตั้ง หรือการส่งหนังสือแจ้งเตือนให้แก้ไขบัตรลงคะแนนเสียง
เนื้อหาที่มีอยู่ไม่ได้ระบุรายละเอียดที่ชัดเจนเกี่ยวกับวันที่การอัปเดตนโยบายนี้จะมีผลบังคับใช้หรือแนวทางการดำเนินการในขั้นต่อไป สามารถยืนยันได้เพียงว่าข้อความดังกล่าวได้ปรากฏอยู่ในเอกสารนโยบายการใช้งานล่าสุดของ Anthropic แล้ว
