พนักงานบริษัท AI 11 คน ออกจดหมายเปิดผนึก เตือน AI เป็นภัยร้ายแรง เพราะขาดการควบคุม

มิ.ย. 05, 2567 P.Patikom

กลุ่มพนักงานจากบริษัท AI ต่าง ๆ รวม 11 คน ซึ่งประกอบด้วยพนักงานจากบริษัท OpenAI 9 คน เป็นพนักงานปัจจุบัน 4 คนที่ไม่เปิดเผยชื่อ และอดีตพนักงาน 5 คน ได้แก่ Daniel Kokotajlo, Jacob Hilton, William Saunders, Carroll Wainwright และ Daniel Ziegler ร่วมกับพนักงานจาก Google DeepMind ได้แก่ Neel Nanda ซึ่งปัจจุบันทำงานที่ Google DeepMind และเคยทำงานที่ Anthropic และ Ramana Kumar ซึ่งเคยทำงานที่ Google DeepMind ได้ร่วมกันออกจดหมายเปิดผนึก เตือนภัยถึงความเสี่ยงร้ายแรงที่เกิดจาก AI เพราะผู้สร้าง AI ขาดการควบคุม และไม่มีการคุ้มครองผู้แจ้งเบาะแสที่ต้องการจะพูดในเรื่องดังกล่าวให้สังคมรู้

จดหมายดังกล่าวยังได้นักวิทยาศาสตร์คอมพิวเตอร์ที่มีชื่อเสียง 3 คน ซึ่งเป็นที่รู้จักในด้านการพัฒนา AI ให้ก้าวหน้า ได้แก่ Geoffrey Hinton, Yoshua Bengio และ Stuart Russell ได้ลงนามรับรองจดหมายนี้

จดหมายเปิดผนึกเขียนว่า "บริษัท AI มี 'ข้อมูลมากมายที่ไม่เปิดเผยต่อสาธารณะ' เกี่ยวกับสิ่งที่เทคโนโลยีของพวกเขาสามารถทำได้ วิธีการปฏิบัติเกี่ยวกับมาตรการรักษาความปลอดภัยของพวกเขา และระดับความเสี่ยงที่เทคโนโลยีมี ต่อการทำให้เกิดอันตรายประเภทต่าง ๆ"

จดหมายของกลุ่มพนักงานเขียนว่า “เรายังเข้าใจถึงความเสี่ยงร้ายแรงที่มีสาเหตุจากเทคโนโลยีเหล่านี้”

"ในปัจจุบันมีข้อผูกมัดที่ไม่เข้มงวด ในการแบ่งปันข้อมูล (AI) บางส่วนกับรัฐบาล และไม่มีเลยกับภาคประชาสังคม เราไม่คิดว่าจะสามารถเชื่อใจพวกเขา (บริษัท AI ต่าง ๆ) ได้ ต่อการที่จะให้พวกเขาแบ่งปันข้อมูล (เกี่ยวกับ AI) นี้ ด้วยความสมัครใจ”

จดหมายยังให้รายละเอียดเกี่ยวกับ ข้อกังวลของพนักงานจากบริษัท AI ทั้งพนักงานในปัจจุบันและอดีต ในเรื่องของการคุ้มครองผู้แจ้งเบาะแสที่ไม่เพียงพอสำหรับอุตสาหกรรม AI โดยกล่าวว่า หากรัฐบาลไม่มีการกำกับดูแลเรื่องนี้อย่างมีประสิทธิภาพ สถานะของพนักงานก็ตกอยู่ภายใต้ความรับผิดชอบของบริษัทเพียงฝ่ายเดียว (ทำให้ไม่สามารถพูดอะไรเกี่ยวกับภัยจาก AI ได้)

ซึ่งจดหมายได้ขยายความว่า "ข้อตกลงกว้าง ๆ เรื่องการรักษาความลับ ขัดขวางเราไม่ให้แสดงข้อกังวลของเรา ยกเว้นว่าบริษัทเหล่านั้น อาจจะล้มเหลวในการแก้ไขปัญหาเหล่านี้เสียเอง”

“มาตรการคุ้มครองผู้แจ้งเบาะแสแบบธรรมดานั้นไม่เพียงพอ เนื่องจากมุ่งเน้นไปที่กิจกรรมที่ผิดกฎหมาย ในขณะที่ความเสี่ยงหลายประการ (ภัยจาก AI ที่อาจเกิดขึ้น) ที่เรากังวล ยังไม่ได้ถูกกำหนดไว้ในมาตรการคุ้มครอง”

จดหมายยังชี้ว่า "บริษัท AI มีแรงจูงใจทางการเงินที่แข็งแกร่ง เพื่อหลีกเลี่ยงการควบคุมที่มีประสิทธิผล และเราไม่เชื่อว่าโครงสร้างการกำกับดูแลบริษัทภิบาล ที่ออกแบบโดยเฉพาะนั้น เพียงพอที่จะเปลี่ยนแปลงสิ่งนี้”

จดหมายดังกล่าวยังขอให้บริษัท AI ต่าง ๆ มุ่งมั่นที่จะไม่เข้าร่วม หรือบังคับใช้ข้อตกลงไม่ดูหมิ่น (Non-disparagement agreements) เพื่อสร้างกระบวนการที่ไม่เปิดเผยตัวตนสำหรับพนักงานปัจจุบันและอดีต เพื่อแจ้งข้อกังวล (เกี่ยวกับอันตรายจาก AI) ต่อคณะกรรมการบริหารของบริษัท หน่วยงานกำกับดูแลของรัฐ และอื่น ๆ เพื่อสนับสนุนวัฒนธรรมของการวิพากษ์วิจารณ์อย่างเปิดเผย และไม่ตอบโต้ต่อต้านต่อการแจ้งเบาะแสสาธารณะ หากกระบวนการรายงานปัญหาดังกล่าวภายในองค์กรล้มเหลว

สาเหตุของจดหมายเปิดผนึกของกลุ่มพนักงานบริษัท AI เมื่อวันอังคารที่ 4 มิถุนายน 2024 (เวลาสหรัฐฯ) น่าจะเกิดจากสาเหตุที่เมื่อเดือนพฤษภาคม บริษัท OpenAI ยุบทีมที่ทำงานเกี่ยวกับ ความเสี่ยงระยะยาวของ AI ทั้ง ๆ ที่ OpenAI เพิ่งตั้งทีมงานดังกล่าวได้เพียงหนึ่งปี, แหล่งข่าวที่ใกล้ชิดเรื่องดังกล่าว กล่าวกับสำนักข่าว CNBC

และความขัดแย้งใน OpenAI ยังถูกเพิ่มขึ้นในเดือนพฤษภาคมที่ผ่านมา เมื่อ OpenAI ให้อดีตพนักงานเลือก ระหว่างการลงนามข้อตกลงไม่ดูหมิ่น (Non-disparagement agreement) ที่ไม่มีวันหมดอายุและรักษากรรมสิทธิของการเป็นผู้ถือหุ้นในบริษัท กับการไม่ลงนามที่จะหมดกรรมสิทธิในหุ้นด้วย ซึ่งบันทึกภายในที่ สำนักข่าว CNBC เห็น ได้ถูกส่งไปยังอดีตพนักงาน และแชร์กับพนักงานปัจจุบัน

ซึ่งบันทึกที่ส่งถึงอดีตพนักงานแต่ละคน บอกว่า ในขณะที่บุคคลนั้นออกจาก OpenAI “คุณอาจได้รับแจ้งว่า คุณจำเป็นต้องดำเนินการตามข้อตกลงการเผยแพร่ทั่วไป (General release agreement) ซึ่งรวมถึงข้อกำหนดในการไม่ดูหมิ่น (Non-disparagement provision) เพื่อรักษาสิทธิในการเป็นผู้ถือหุ้นของบริษัท

สำหรับการยุบทีมที่ทำงานเกี่ยวกับความเสี่ยงระยะยาวของ AI เกิดขึ้นหลังจากผู้บริหาร Ilya Sutskever ผู้ร่วมก่อตั้ง OpenAI และ Jan Leike ประกาศลาออก เมื่อเดือนพฤษภาคม Leike เขียนในโพสต์บน X ว่า ”วัฒนธรรมและกระบวนการด้านความปลอดภัยของ OpenAI ได้เปลี่ยนจากการให้ความสำคัญกับความปลอดภัย ไปสู่การให้ความสำคัญกับการสร้างผลิตภัณฑ์มูลค่าสูง"

Leike ยังเขียนว่าเขาเชื่อว่า แบนด์วิธ (Bandwidth) ของบริษัทควรมุ่งเน้นไปที่มาตรการรักษาความปลอดภัย การตรวจสอบ การเตรียมพร้อม รวมทั้งความปลอดภัยและผลกระทบต่อสังคม ปัญหาเหล่านี้ค่อนข้างยากที่จะแก้ไข และผมกังวลว่าเราไม่ได้อยู่ในเส้นทางที่จะไปถึงจุดนั้น”

“การสร้างเครื่องจักรที่ฉลาดกว่ามนุษย์นั้นเป็นความพยายามที่อันตรายอย่างยิ่ง” Leike เขียน

โฆษกของ OpenAI กล่าวกับ CNBC ว่า “เราเห็นพ้องกันว่า การถกเถียงอย่างเข้มงวดเป็นสิ่งสำคัญ เมื่อพิจารณาถึงความสำคัญของเทคโนโลยีนี้ และเราจะยังคงมีส่วนร่วมกับรัฐบาล ภาคประชาสังคม และชุมชนอื่น ๆ ทั่วโลกต่อไป”

"บริษัทซึ่งได้รับการสนับสนุนโดย Microsoft มีสายด่วน Integrity Hotline ที่ขอไม่ระบุชื่อ เพื่อรับเรื่องร้องเรียนจากพนักงานและบุคคลภายนอก เกี่ยวกับหลักธรรมาภิบาลของบริษัท เช่นเดียวกับ มีคณะกรรมการความปลอดภัย และความมั่นคง (Safety and Security Committee) ที่นำโดยสมาชิกของคณะกรรมการบริหาร และ ผู้นำ OpenAI (ซีอีโอ Sam Altman)" โฆษกกล่าว

ปัจจุบัน OpenAI, Google, Microsoft, Meta และบริษัท AI อื่น ๆ กำลังเปิดศึกกันในสมรภูมิ Generative AI ซึ่งเป็นตลาดที่คาดว่าจะสร้างรายได้สูงถึง 1 ล้านล้านดอลลาร์ ภายในหนึ่งทศวรรษ ในขณะที่บริษัทต่าง ๆ ในทุกอุตสาหกรรม ก็ดูเหมือนกำลังเร่งรีบเพื่อเพิ่ม แชทบอท และ Agent ที่ขับเคลื่อนด้วย AI เพื่อหลีกเลี่ยงการถูกทิ้งไว้ข้างหลังคู่แข่ง

ภาพประกอบ Sam Altman ซีอีโอ Open AI

Cr : CNBC

Source