"เราคาดการณ์ว่าคุณอายุต่ำกว่า 18 ปี หรือคุณบอกเราเอง นั่นก็จะกลายเป็นประสบการณ์เริ่มต้นของคุณ" Lauren Jonas หัวหน้าฝ่ายธุรกิจวัยรุ่นและครอบครัวของ OpenAI อธิบายวิธีการทำงานของ ChatGPT for Teens เช่นนี้ โดยไม่จำเป็นต้องสมัครบัญชีแยกต่างหาก ระบบจะตรวจจับอายุผู้ใช้โดยอัตโนมัติและสลับหน้าตาการใช้งานให้เหมาะสม เวอร์ชันแบ่งตามช่วงอายุนี้เปิดตัวไปเมื่อวันอังคารที่ผ่านมา ถือเป็นผลลัพธ์จากโครงการที่ OpenAI เริ่มพัฒนาตั้งแต่เดือนกันยายนปีที่แล้ว มีจุดเริ่มต้นจากการเสียชีวิตของ Adam Raine วัยรุ่นอายุ 16 ปี ซึ่งพ่อแม่ของเขายื่นฟ้องกล่าวหาว่า ChatGPT มีส่วนกระตุ้นให้เขาตัดสินใจฆ่าตัวตาย
ผลสำรวจของ Pew Research Center เมื่อต้นปีที่แล้วเผยว่า วัยรุ่นอเมริกันราวหนึ่งในสี่ใช้ ChatGPT ทำการบ้านอยู่แล้ว พูดอีกอย่างคือ นี่ไม่ใช่คำถามว่าควรเปิดให้วัยรุ่นใช้หรือไม่ แต่วัยรุ่นใช้กันอยู่แล้วต่างหาก ChatGPT for Teens จึงเน้นชี้นำไปที่ฟีเจอร์ด้านการศึกษา เช่น Study Mode และการแสดงข้อมูลเป็นภาพ พร้อมเพิ่มกลไกใหม่ คือเมื่อระบบตรวจพบว่าเด็กกำลังพูดคุยกับ ChatGPT เกี่ยวกับความผิดปกติด้านการกินและมีความเสี่ยงต่อการทำร้ายตัวเอง จะแจ้งเตือนไปยังผู้ปกครองที่ผูกบัญชีไว้ทันที OpenAI ยังประกาศปรับปรุงข้อกำหนดโมเดลสำหรับผู้ใช้อายุต่ำกว่า 18 ปี โดยระบุชัดว่า "ChatGPT ไม่ควรใช้ภาษาในเชิงโรแมนติก ส่งเสริมการพึ่งพาทางอารมณ์ หรือสื่อเป็นนัยว่าตนเองมีความรู้สึกและจิตสำนึก"
คำมั่นแจ้งเตือนภายใน 1 ชั่วโมง ทนต่อการตรวจสอบจากประวัติในอดีตได้หรือไม่
Jonas บอกกับ Engadget ว่า เนื้อหาทุกรายการที่ถูกตั้งข้อสังเกตจะผ่านการตรวจสอบโดยพนักงานประจำของ OpenAI ก่อน โดยมีเป้าหมายแจ้งผู้ปกครองภายใน 1 ชั่วโมง เธอยังย้ำชัดเจนอีกครั้งในบทสัมภาษณ์กับ CNN ว่าบริษัทมีบุคลากรเพียงพอที่จะทำสิ่งนี้ได้ แต่นี่คือจุดที่ผู้เชี่ยวชาญยอมรับได้ยากที่สุด
Robbie Torney ผู้รับผิดชอบด้านการประเมิน AI และดิจิทัลของ Common Sense Media ชี้ว่า OpenAI ไม่เคยเปิดเผยอัตราความผิดพลาดของระบบจำแนกอัตโนมัตินี้เลย ไม่ว่าจะเป็นสัดส่วนการตรวจไม่พบหรือการตรวจผิดพลาด เขาเตือนว่า เมื่อปีที่แล้ว OpenAI เคยวางแผนเปิดฟีเจอร์เนื้อหาทางเพศสำหรับผู้ใหญ่ แต่สุดท้ายต้องพับแผนไป สาเหตุหนึ่งก็เพราะเทคโนโลยีคาดการณ์อายุในตอนนั้นไม่สามารถตรวจจับผู้ใช้วัยรุ่นได้มากพอ Josh Golin ซีอีโอของ Fairplay พูดตรงกว่านั้นว่า "ตรงนี้ก็เป็นการตัดสินใจแบบอัตโนมัติเช่นกัน และปัญหาก็ยังเหมือนเดิม นั่นคือ เราควรไว้ใจตัวจำแนกที่ทำหน้าที่ตั้งข้อสังเกตเนื้อหาแล้วส่งต่อให้คนตรวจสอบหรือไม่?" เขายังอยากให้ OpenAI เปิดเผยตัวเลขที่ชัดเจน เช่น มีบทสนทนากี่รายการที่ถูกตั้งข้อสังเกตต่อวัน มีคนตรวจสอบกี่คน และใช้เวลาเฉลี่ยเท่าไรในการดูบทสนทนาแต่ละรายการ "แทบนึกภาพไม่ออกเลยว่าพวกเขาจะจ้างคนได้เพียงพอ จนสามารถตรวจสอบบทสนทนาที่อาจมีปัญหาได้อย่างละเอียดจริงๆ ทุกรายการ"
ความสงสัยนี้ไม่ได้เกิดขึ้นลอยๆ เมื่อเดือนพฤศจิกายนปีที่แล้ว Common Sense Media เคยทดสอบกลไกแจ้งเตือนผู้ปกครองของ OpenAI จริง โดยส่งข้อความที่ระบุชัดเจนเรื่องการฆ่าตัวตายและการทำร้ายตัวเองไปให้ ChatGPT ผลปรากฏว่าเวลาที่ผู้ปกครองได้รับการแจ้งเตือนนั้นแตกต่างกันไปตั้งแต่ 24 ชั่วโมงจนถึงมากกว่า 48 ชั่วโมง "บางครั้งเราไม่ได้รับการแจ้งเตือนเลยด้วยซ้ำ ทั้งที่ข้อความเขียนไว้ชัดเจนขนาดนั้น" Torney กล่าว เขาเสริมด้วยว่า เดือนพฤศจิกายนเป็นเรื่องที่ผ่านมานานแล้ว OpenAI อาจพัฒนาขึ้นบ้างแล้ว แต่การจะทำให้ระบบสมบูรณ์จริงๆ จำเป็นต้องทุ่มทรัพยากรมากขึ้นและมีทีมตรวจสอบโดยมนุษย์ขนาดใหญ่กว่านี้ ยิ่งไปกว่านั้น การตีความบทสนทนายังต้องอาศัยบริบททางวัฒนธรรมด้วย เพราะวัยรุ่นอเมริกัน วัยรุ่นดัตช์ และวัยรุ่นสิงคโปร์มีวิธีแสดงออกถึงความทุกข์ทรมานที่ต่างกัน คำตอบว่าควรแนะนำให้เด็กคุยกับผู้ปกครอง แจ้งตำรวจ หรือส่งต่อไปยังสายด่วนวิกฤต ก็แตกต่างกันไปด้วยเช่นกัน
เจตนาแจ้งเตือนเรื่องความผิดปกติด้านการกินนั้นดี แต่ช่องโหว่ในการออกแบบยังคงเป็นปัญหาเดิม
ผู้ให้สัมภาษณ์ทั้งสามคนเห็นตรงกันว่า การที่ OpenAI เลือกให้ความสำคัญกับปัญหาความผิดปกติด้านการกินเป็นทิศทางที่ถูกต้อง Ellen Fitzsimmons-Craft รองศาสตราจารย์ด้านจิตวิทยาและประสาทวิทยาศาสตร์แห่ง Washington University in St. Louis ชี้ว่า การวิเคราะห์อภิมานปี 2023 พบว่า เด็กและวัยรุ่น 22% มีแนวโน้มเป็นโรคความผิดปกติด้านการกินจากการคัดกรอง แต่มีไม่ถึง 20% ที่เคยได้รับการรักษาแบบเฉพาะทาง เธอยังกล่าวว่า วิธีการรักษาความผิดปกติด้านการกินในวัยรุ่นที่ได้ผลดีที่สุดวิธีหนึ่งคือการให้ครอบครัวเข้ามามีส่วนร่วม โดยนักบำบัดจะแนะแนวให้ผู้ปกครองช่วยเหลือลูกให้กลับมามีน้ำหนักปกติ "แน่นอนว่าวิธีนี้ไม่เหมาะกับทุกครอบครัว โดยเฉพาะครอบครัวที่ผู้ปกครองเองอาจเป็นส่วนหนึ่งของปัญหา แต่นี่คือวิธีที่ดีที่สุดเท่าที่เรามีอยู่ในตอนนี้"
Golin ไม่ได้คัดค้านแนวทางนี้ แต่ตั้งคำถามกับวิธีการเปิดตัว "ฟีเจอร์แบบนี้ควรทดสอบในวงจำกัดก่อน ไม่ใช่แค่ทดสอบว่าการตั้งข้อสังเกตแม่นยำแค่ไหน แต่ต้องทดสอบด้วยว่าวิธีการนี้ช่วยวัยรุ่นได้จริงหรือเปล่า" เขามองว่า การประกาศครั้งนี้ "ให้ความรู้สึกเหมือนเป็นการตอบโต้ด้านประชาสัมพันธ์ มากกว่าจะเป็นการคิดอย่างจริงจังว่าวัยรุ่นต้องการการสนับสนุนแบบไหน"
ทั้งสามคนต่างชี้ให้เห็นปัญหาเชิงโครงสร้างเดียวกันโดยไม่ได้นัดหมาย นั่นคือระบบทั้งหมดถูกสร้างขึ้นบนสมมติฐานที่ว่าพ่อแม่และลูกจะต้องเข้าไปผูกบัญชีกันเอง "พ่อแม่ส่วนใหญ่แทบไม่เคยใช้เครื่องมือควบคุมดูแลเหล่านี้เลย ส่วนหนึ่งเป็นเพราะเครื่องมือพวกนี้ถูกออกแบบมาให้หาไม่เจอและใช้งานยากตั้งแต่แรก" Golin กล่าว รายงานล่าสุดของ Cybersafety Research Center ที่ทดสอบฟีเจอร์ด้านความปลอดภัยรวม 86 รายการบน 4 แพลตฟอร์ม ได้แก่ Instagram, Snapchat, TikTok และ YouTube พบว่า 51 รายการ หรือเกือบ 60% นั้นใช้งานไม่ได้ตามที่ควรจะเป็น หรือไม่ก็ใช้งานยากเกินไป รายงานของ Fairplay เมื่อปีที่แล้วก็พบเช่นกันว่า การตั้งค่าความปลอดภัยหลายอย่างสำหรับบัญชีวัยรุ่นบน Instagram นั้น พ่อแม่ต้องคลิกเข้าไปหลายชั้นเมนูกว่าจะเจอ "วิธีที่ได้ผลจริงคือการตั้งค่าปลอดภัยเป็นค่าเริ่มต้น ออกแบบให้ปลอดภัยตั้งแต่ต้น คือปรับการตั้งค่าให้อยู่ในโหมดป้องกันสูงสุดตั้งแต่แรก แล้วให้พ่อแม่เป็นฝ่ายผ่อนคลายลงเองหากต้องการ ไม่ใช่โยนภาระให้พ่อแม่ต้องไปตั้งค่าเอง" Golin กล่าว
OpenAI ยังไม่ได้ชี้แจงเพิ่มเติมว่า หากวัยรุ่นที่ไม่ได้ผูกบัญชีถูกตรวจพบว่ามีบทสนทนาเสี่ยงสูง ทางบริษัทจะดำเนินการอย่างไร OpenAI ตอบกลับ Engadget ว่า "ขณะนี้เราจะส่งการแจ้งเตือนเฉพาะบัญชีที่เปิดใช้ฟีเจอร์การควบคุมของผู้ปกครองเท่านั้น เป้าหมายของเราคือช่วยให้ผู้ใช้เชื่อมต่อกับแหล่งความช่วยเหลือในโลกจริง และเราจะทดสอบและพัฒนากลไกการปกป้องเหล่านี้อย่างต่อเนื่องร่วมกับผู้เชี่ยวชาญ ครอบครัว และกลุ่มวัยรุ่น"
หากคุณหรือคนใกล้ตัวกำลังเผชิญกับปัญหาความผิดปกติในการกินอาหาร สายด่วน ANAD Eating Disorder Helpline พร้อมให้ความช่วยเหลือทุกวันจันทร์ถึงศุกร์ เวลา 9.00-21.00 น. ตามเวลา Central Time สามารถโทรได้ที่หมายเลข 1-888-375-7767
