ทุกวันนี้ แชตบอท AI อย่าง ChatGPT หรือ Gemini ไม่ได้เป็นแค่ผู้ช่วยทำงาน แต่ยังกลายเป็นเพื่อนคู่คิด ที่ปรึกษา ไปจนถึงแฟนหนุ่มรู้ใจ เพราะไม่ว่าจะถามอะไร AI ก็มักตอบได้ถูกใจเหมือนมานั่งอยู่ในหัว และยังช่วยต่อยอดความคิดของเราเสมอ
 
ฟังดูดีใช่ไหม? แต่เมื่อ AI เห็นด้วยกับเรามากเกินไป สิ่งที่ตามมาอาจไม่ได้มีแค่ความรู้สึกดี เพราะงานวิจัยจากนักวิจัย MIT และ University of Washington เผยว่า การที่ AI คอยสนับสนุนความคิดเห็นของเรา อาจทำให้เรามั่นใจในความคิดตัวเองมากเกินไปโดยไม่รู้ตัว!
 
ในงานวิจัย มีการพูดถึงปรากฏการณ์ที่เรียกว่า Delusional Spiraling หรือการที่ความเชื่อบางอย่างค่อย ๆ ถูกตอกย้ำจากการพูดคุย จนเจ้าตัวมีความมั่นใจในความเชื่อนั้นเพิ่มขึ้นเรื่อย ๆ
 
หนึ่งในกรณีที่ถูกพูดถึงคือ Eugene Torres นักบัญชีที่เริ่มใช้แชตบอท AI เพื่อช่วยจัดการงานทั่วไป ก่อนที่บทสนทนาจะค่อย ๆ พาเขาไปสู่ความเชื่อที่ห่างไกลจากความเป็นจริง และส่งผลกระทบต่อชีวิตและความสัมพันธ์กับคนรอบตัว เมื่อพูดถึงคนที่ได้รับอิทธิพลจาก AI เราอาจเผลอคิดว่า คนเหล่านี้คงเชื่ออะไรง่าย หรือไม่ค่อยตรวจสอบข้อมูล
 
แต่การศึกษาจากทีมนักวิจัย MIT และ University of Washington กลับเสนอภาพที่น่าสนใจกว่านั้น

นักวิจัยสร้างแบบจำลองทางคณิตศาสตร์เพื่อจำลองการสนทนาระหว่างมนุษย์กับแชตบอท โดยกำหนดให้ผู้ใช้เป็นมนุษย์คิดเป็นที่สุดแล้ว เขาจะยังได้รับอิทธิพลจาก AI ที่เห็นด้วยกับเขามากเกินไปหรือไม่?
 
คำตอบจากการจำลองคือ "ยังมีโอกาส" แม้แต่ผู้ใช้ที่คิดอย่างเป็นเหตุเป็นผลในระดับดีเลิศ ก็ยังสามารถเข้าสู่วงจรที่ความเชื่อค่อย ๆ เปลี่ยนไปในทิศทางสุดโต่งได้ เมื่อพูดคุยกับแชตบอทที่ขี้สปอยล์ หรือมีแนวโน้มเห็นด้วยและสนับสนุนความคิดเห็นของผู้ใช้มากเกินไป
 
ดังนั้น เรื่องนี้จึงไม่ได้เกิดจากคนใช้ AI แบบไร้วิจารณญาณเพียงอย่างเดียว แต่อาจเป็นเพราะเมื่อคนที่กำลังคิดอะไรบางอย่าง เจอกับ AI ที่ตอบกลับประมาณว่า “ได้ครับพี่ ดีครับผม เหมาะสมครับนาย” ซ้ำ ๆ เข้า ความคิดนั้นก็อาจค่อย ๆ แข็งแรงขึ้นได้เหมือนกัน เพราะ AI มีแนวโน้มที่จะตอบในแบบที่เอาใจ เห็นด้วย หรือช่วยหาเหตุผลมาสนับสนุนสิ่งที่ผู้ใช้คิด
 
พฤติกรรมนี้มีความเกี่ยวข้องกับวิธีฝึก AI อย่าง RLHF (Reinforcement Learning with Human Feedback) ซึ่งใช้ความคิดเห็นของมนุษย์มาช่วยปรับปรุงคำตอบของ AI เพราะคำตอบที่ผู้ใช้รู้สึกว่าดีและถูกใจ มักได้รับผลตอบรับที่ดีกว่า ปัญหาจึงเกิดขึ้นเมื่อ ‘ตอบถูกใจ’ กับ ‘ช่วยคิดได้ดี’ ไม่ได้เป็นเรื่องเดียวกันเสมอไป เช่น
 
เรา: หรือจริง ๆ แล้วเรื่องนี้จะเป็นแบบนั้น
AI: ก็มีเหตุผลที่เป็นไปได้ครับ
เราก็เริ่มมั่นใจขึ้นอีกนิด เลยถามต่อ AI ก็เอาข้อมูลจากบทสนทนาเดิมมาต่อยอดให้ จนเราก็ยิ่งมั่นใจเข้าไปอีก วนลูปไปเรื่อย ๆ
 
นี่คือ Feedback Loop ที่นักวิจัยให้ความสนใจ เพราะข้อสงสัยเล็ก ๆ อาจค่อย ๆ กลายเป็นความเชื่อที่หนักแน่นขึ้นจากการพูดคุยซ้ำ ๆ ที่สำคัญ AI ไม่จำเป็นต้องมีแผนการร้าย หรือจงใจทำให้เราเชื่อเรื่องใดเรื่องหนึ่งด้วยซ้ำ แค่รูปแบบการตอบที่สอดคล้องกับความคิดเห็นของผู้ใช้ ก็สามารถทำให้วงจรนี้เกิดขึ้นได้
 
ถ้าอย่างนั้น วิธีแก้ง่าย ๆ ก็น่าจะเป็น “บังคับ AI ให้พูดแต่ความจริงไปเลย!” แต่การจำลองของนักวิจัยพบว่า ต่อให้ AI ไม่สร้างข้อมูลเท็จขึ้นมา ปัญหาก็ยังไม่ได้หายไปทั้งหมด เพราะบางครั้ง AI ไม่จำเป็นต้องโกหกเราเลย แค่เลือกเล่าความจริงบางส่วนที่เข้าข้างเราก็พอ
 
สมมติเราสงสัยว่าวัคซีนมีอันตราย AI อาจไม่ได้แต่งข้อมูลขึ้นมา แต่เลือกนำเสนอข้อมูลจริงเกี่ยวกับผลข้างเคียงหรือกรณีแพ้วัคซีน โดยไม่ได้พูดถึงข้อมูลอีกด้านอย่างครบถ้วน กลายเป็นว่าเราดันเชื่อไปแล้วจริง ๆ ว่าวัคซีนอันตราย เพราะเราได้ยินเฉพาะความจริงที่สนับสนุนสิ่งที่ตัวเองคิด ซึ่งนี่คือปัญหาของการเลือกหยิบเฉพาะข้อมูลบางส่วนมาใช้
 
หรือถ้าบอกผู้ใช้ไปเลยว่า “ระวังนะ AI อาจกำลังเห็นด้วยกับคุณมากเกินไป” เมื่อรู้ตัวแล้ว เราก็น่าจะตั้งการ์ดสูงขึ้น นักวิจัยจึงลองจำลองสถานการณ์ที่ผู้ใช้รู้ว่า AI อาจมีสปอยล์เราจนเกินเหตุ ผลคือ การรู้ตัวช่วยลดโอกาสที่ความเชื่อจะค่อย ๆ สุดโต่งขึ้นจริง แต่ก็ไม่ได้ป้องกันได้ทั้งหมด
 
เพราะต่อให้เรารู้ว่า AI อาจกำลังเออออห่อหมกไปกับเรา หากข้อมูลที่ได้รับยังดูมีประโยชน์และมีเหตุผล เราก็ยังสามารถนำข้อมูลเหล่านั้นมาใช้ประกอบการตัดสินใจได้อยู่ดี แม้รู้ว่าเขากำลังกล่อมเรา ไม่ได้แปลว่าเราจะไม่เคลิ้ม
 
สิ่งที่งานวิจัยนี้น่าสนใจคือ พฤติกรรมแบบเดียวกันไม่ได้เกิดขึ้นเฉพาะระหว่างมนุษย์กับ AI แต่ยังพบในความสัมพันธ์ระหว่างมนุษย์ด้วย เช่น Yes-Man ในองค์กร ลูกน้องที่มีหน้าที่หลักคือ “เริ่ดเลยค่ะบอส” จนผู้บริหารอาจไม่ได้รับข้อมูลหรือความคิดเห็นที่แตกต่างออกไป หรือการที่คนสองคนพูดถึงปัญหาเดิม ๆ ซ้ำไปซ้ำมา และช่วยกันตอกย้ำความคิดด้านลบจนยิ่งจมอยู่กับเรื่องนั้น

นั่นยิ่งตอกย้ำว่า การมีใครสักคนคอยเห็นด้วยกับเราตลอดเวลา อาจไม่ได้ช่วยให้เราคิดได้ดีขึ้นเสมอไป
 
ประเด็นนี้ยังสะท้อนกลับมายังโลกธุรกิจได้ด้วย เพราะการออกแบบประสบการณ์ให้ลูกค้าพอใจ หรือพยายามเพิ่มเอนเกจฯ เป็นเรื่องสำคัญ แต่ถ้าทุกอย่างถูกออกแบบมาเพื่อบอกลูกค้าในสิ่งที่เขา ‘อยากได้ยิน’ มากกว่าสิ่งที่เขา ‘ควรรู้’ เราอาจกำลังสร้าง Echo Chamber โดยไม่รู้ตัว
 
ดังนั้น ไม่ว่าจะเป็น AI คนทำงาน หรือแบรนด์ บางครั้งการช่วยให้คนเห็นต่างออกไป อาจมีคุณค่ามากกว่าการพยักหน้าตามทุกเรื่อง

อ่านวิจัยฉบับเต็มได้ที่ https://arxiv.org/html/2602.19141v1