571

VIEWS

พนักงานบริษัท AI 11 คน ออกจดหมายเปิดผนึก เตือน AI เป็นภัยร้ายแรง เพราะขาดการควบคุม

มิ.ย. 05, 2567 P.Patikom

กลุ่มพนักงานจากบริษัท AI ต่าง ๆ รวม 11 คน ซึ่งประกอบด้วยพนักงานจากบริษัท OpenAI 9 คน เป็นพนักงานปัจจุบัน 4 คนที่ไม่เปิดเผยชื่อ และอดีตพนักงาน 5 คน ได้แก่ Daniel Kokotajlo, Jacob Hilton, William Saunders, Carroll Wainwright และ Daniel Ziegler ร่วมกับพนักงานจาก Google DeepMind ได้แก่ Neel Nanda ซึ่งปัจจุบันทำงานที่ Google DeepMind และเคยทำงานที่ Anthropic และ Ramana Kumar ซึ่งเคยทำงานที่ Google DeepMind ได้ร่วมกันออกจดหมายเปิดผนึก เตือนภัยถึงความเสี่ยงร้ายแรงที่เกิดจาก AI เพราะผู้สร้าง AI ขาดการควบคุม และไม่มีการคุ้มครองผู้แจ้งเบาะแสที่ต้องการจะพูดในเรื่องดังกล่าวให้สังคมรู้

จดหมายดังกล่าวยังได้นักวิทยาศาสตร์คอมพิวเตอร์ที่มีชื่อเสียง 3 คน ซึ่งเป็นที่รู้จักในด้านการพัฒนา AI ให้ก้าวหน้า ได้แก่ Geoffrey Hinton, Yoshua Bengio และ Stuart Russell ได้ลงนามรับรองจดหมายนี้

จดหมายเปิดผนึกเขียนว่า "บริษัท AI มี 'ข้อมูลมากมายที่ไม่เปิดเผยต่อสาธารณะ' เกี่ยวกับสิ่งที่เทคโนโลยีของพวกเขาสามารถทำได้ วิธีการปฏิบัติเกี่ยวกับมาตรการรักษาความปลอดภัยของพวกเขา และระดับความเสี่ยงที่เทคโนโลยีมี ต่อการทำให้เกิดอันตรายประเภทต่าง ๆ"

จดหมายของกลุ่มพนักงานเขียนว่า “เรายังเข้าใจถึงความเสี่ยงร้ายแรงที่มีสาเหตุจากเทคโนโลยีเหล่านี้”

"ในปัจจุบันมีข้อผูกมัดที่ไม่เข้มงวด ในการแบ่งปันข้อมูล (AI) บางส่วนกับรัฐบาล และไม่มีเลยกับภาคประชาสังคม เราไม่คิดว่าจะสามารถเชื่อใจพวกเขา (บริษัท AI ต่าง ๆ) ได้ ต่อการที่จะให้พวกเขาแบ่งปันข้อมูล (เกี่ยวกับ AI) นี้ ด้วยความสมัครใจ”

จดหมายยังให้รายละเอียดเกี่ยวกับ ข้อกังวลของพนักงานจากบริษัท AI ทั้งพนักงานในปัจจุบันและอดีต ในเรื่องของการคุ้มครองผู้แจ้งเบาะแสที่ไม่เพียงพอสำหรับอุตสาหกรรม AI โดยกล่าวว่า หากรัฐบาลไม่มีการกำกับดูแลเรื่องนี้อย่างมีประสิทธิภาพ สถานะของพนักงานก็ตกอยู่ภายใต้ความรับผิดชอบของบริษัทเพียงฝ่ายเดียว (ทำให้ไม่สามารถพูดอะไรเกี่ยวกับภัยจาก AI ได้)

ซึ่งจดหมายได้ขยายความว่า "ข้อตกลงกว้าง ๆ เรื่องการรักษาความลับ ขัดขวางเราไม่ให้แสดงข้อกังวลของเรา ยกเว้นว่าบริษัทเหล่านั้น อาจจะล้มเหลวในการแก้ไขปัญหาเหล่านี้เสียเอง”

“มาตรการคุ้มครองผู้แจ้งเบาะแสแบบธรรมดานั้นไม่เพียงพอ เนื่องจากมุ่งเน้นไปที่กิจกรรมที่ผิดกฎหมาย ในขณะที่ความเสี่ยงหลายประการ (ภัยจาก AI ที่อาจเกิดขึ้น) ที่เรากังวล ยังไม่ได้ถูกกำหนดไว้ในมาตรการคุ้มครอง”

จดหมายยังชี้ว่า "บริษัท AI มีแรงจูงใจทางการเงินที่แข็งแกร่ง เพื่อหลีกเลี่ยงการควบคุมที่มีประสิทธิผล และเราไม่เชื่อว่าโครงสร้างการกำกับดูแลบริษัทภิบาล ที่ออกแบบโดยเฉพาะนั้น เพียงพอที่จะเปลี่ยนแปลงสิ่งนี้”

จดหมายดังกล่าวยังขอให้บริษัท AI ต่าง ๆ มุ่งมั่นที่จะไม่เข้าร่วม หรือบังคับใช้ข้อตกลงไม่ดูหมิ่น (Non-disparagement agreements) เพื่อสร้างกระบวนการที่ไม่เปิดเผยตัวตนสำหรับพนักงานปัจจุบันและอดีต เพื่อแจ้งข้อกังวล (เกี่ยวกับอันตรายจาก AI) ต่อคณะกรรมการบริหารของบริษัท หน่วยงานกำกับดูแลของรัฐ และอื่น ๆ เพื่อสนับสนุนวัฒนธรรมของการวิพากษ์วิจารณ์อย่างเปิดเผย และไม่ตอบโต้ต่อต้านต่อการแจ้งเบาะแสสาธารณะ หากกระบวนการรายงานปัญหาดังกล่าวภายในองค์กรล้มเหลว

สาเหตุของจดหมายเปิดผนึกของกลุ่มพนักงานบริษัท AI เมื่อวันอังคารที่ 4 มิถุนายน 2024 (เวลาสหรัฐฯ) น่าจะเกิดจากสาเหตุที่เมื่อเดือนพฤษภาคม บริษัท OpenAI ยุบทีมที่ทำงานเกี่ยวกับ ความเสี่ยงระยะยาวของ AI ทั้ง ๆ ที่ OpenAI เพิ่งตั้งทีมงานดังกล่าวได้เพียงหนึ่งปี, แหล่งข่าวที่ใกล้ชิดเรื่องดังกล่าว กล่าวกับสำนักข่าว CNBC

และความขัดแย้งใน OpenAI ยังถูกเพิ่มขึ้นในเดือนพฤษภาคมที่ผ่านมา เมื่อ OpenAI ให้อดีตพนักงานเลือก ระหว่างการลงนามข้อตกลงไม่ดูหมิ่น (Non-disparagement agreement) ที่ไม่มีวันหมดอายุและรักษากรรมสิทธิของการเป็นผู้ถือหุ้นในบริษัท กับการไม่ลงนามที่จะหมดกรรมสิทธิในหุ้นด้วย ซึ่งบันทึกภายในที่ สำนักข่าว CNBC เห็น ได้ถูกส่งไปยังอดีตพนักงาน และแชร์กับพนักงานปัจจุบัน

ซึ่งบันทึกที่ส่งถึงอดีตพนักงานแต่ละคน บอกว่า ในขณะที่บุคคลนั้นออกจาก OpenAI “คุณอาจได้รับแจ้งว่า คุณจำเป็นต้องดำเนินการตามข้อตกลงการเผยแพร่ทั่วไป (General release agreement) ซึ่งรวมถึงข้อกำหนดในการไม่ดูหมิ่น (Non-disparagement provision) เพื่อรักษาสิทธิในการเป็นผู้ถือหุ้นของบริษัท

สำหรับการยุบทีมที่ทำงานเกี่ยวกับความเสี่ยงระยะยาวของ AI เกิดขึ้นหลังจากผู้บริหาร Ilya Sutskever ผู้ร่วมก่อตั้ง OpenAI และ Jan Leike ประกาศลาออก เมื่อเดือนพฤษภาคม Leike เขียนในโพสต์บน X ว่า ”วัฒนธรรมและกระบวนการด้านความปลอดภัยของ OpenAI ได้เปลี่ยนจากการให้ความสำคัญกับความปลอดภัย ไปสู่การให้ความสำคัญกับการสร้างผลิตภัณฑ์มูลค่าสูง"

Leike ยังเขียนว่าเขาเชื่อว่า แบนด์วิธ (Bandwidth) ของบริษัทควรมุ่งเน้นไปที่มาตรการรักษาความปลอดภัย การตรวจสอบ การเตรียมพร้อม รวมทั้งความปลอดภัยและผลกระทบต่อสังคม ปัญหาเหล่านี้ค่อนข้างยากที่จะแก้ไข และผมกังวลว่าเราไม่ได้อยู่ในเส้นทางที่จะไปถึงจุดนั้น”

“การสร้างเครื่องจักรที่ฉลาดกว่ามนุษย์นั้นเป็นความพยายามที่อันตรายอย่างยิ่ง” Leike เขียน

โฆษกของ OpenAI กล่าวกับ CNBC ว่า “เราเห็นพ้องกันว่า การถกเถียงอย่างเข้มงวดเป็นสิ่งสำคัญ เมื่อพิจารณาถึงความสำคัญของเทคโนโลยีนี้ และเราจะยังคงมีส่วนร่วมกับรัฐบาล ภาคประชาสังคม และชุมชนอื่น ๆ ทั่วโลกต่อไป”

"บริษัทซึ่งได้รับการสนับสนุนโดย Microsoft มีสายด่วน Integrity Hotline ที่ขอไม่ระบุชื่อ เพื่อรับเรื่องร้องเรียนจากพนักงานและบุคคลภายนอก เกี่ยวกับหลักธรรมาภิบาลของบริษัท เช่นเดียวกับ มีคณะกรรมการความปลอดภัย และความมั่นคง (Safety and Security Committee) ที่นำโดยสมาชิกของคณะกรรมการบริหาร และ ผู้นำ OpenAI (ซีอีโอ Sam Altman)" โฆษกกล่าว

ปัจจุบัน OpenAI, Google, Microsoft, Meta และบริษัท AI อื่น ๆ กำลังเปิดศึกกันในสมรภูมิ Generative AI ซึ่งเป็นตลาดที่คาดว่าจะสร้างรายได้สูงถึง 1 ล้านล้านดอลลาร์ ภายในหนึ่งทศวรรษ ในขณะที่บริษัทต่าง ๆ ในทุกอุตสาหกรรม ก็ดูเหมือนกำลังเร่งรีบเพื่อเพิ่ม แชทบอท และ Agent ที่ขับเคลื่อนด้วย AI เพื่อหลีกเลี่ยงการถูกทิ้งไว้ข้างหลังคู่แข่ง

ภาพประกอบ Sam Altman ซีอีโอ Open AI

Cr : CNBC

Source

Disney บรรลุข้อตกลงสำคัญกับ OpenAI ให้นำตัวละครดังกว่า 200 ตัว จากแบรนด์ต่าง ๆ ของ Disney มาสู่ AI Sora

49% ของผู้ใช้ ChatGPT แค่ขอคนช่วยตัดสินใจ ไม่ได้ขอให้ทำแทนทั้งหมด! ไม่ได้เน้นการผลิตเนื้อหาใหม่ แต่ใช้เพื่อแก้ไข + วิจารณ์

Research

ทำไม Gen Y ที่เคยถูกมองว่า ‘ใช้เงินเก่งสุด’ กลายเป็นคนที่ ‘วางแผนการเงินจริงจังที่สุด’? โดย 41.7% เลือกออมและลงทุนเพื่อครอบครัว

Digest

OR ขานรับนโยบายรัฐฯ จำหน่ายน้ำมันดีเซล B20 อีกทางเลือกที่คุ้มค่าและยั่งยืน รองรับภาคขนส่ง อุตสาหกรรมและเกษตรกรรม

หยุดยาวแบบสบายใจ! ประกันติดโล่ แจกฟรีประกันบ้าน-อุบัติเหตุ รวม 30,000 สิทธิ์ คุ้มครองทั่วไทยรับเทศกาลสงกรานต์ปี 69

“เถ้าแก่น้อย” จัดงาน Taokaenoi X ChenZheYuan A Global Journey of Flavor ตอกย้ำสู่การเป็น Global Brand ด้วย New Asian Wave

Unboxing Ideas

ทำไมแม่ตุ๊กตาของพันช์คุง ชื่อ DJUNGELSKOG ไม่ใช่อุรังอุตัง ส่องไอเดียการตั้งชื่อของ IKEA เมื่อ ‘สถานที่’ กลายเป็นชื่อของไลน์สินค้า

Read More Stories

Video

BrandAge Online 2024

เมิร์ซ เอสเธติกส์ ประเทศไทย ขับเคลื่อนการเติบโตผ่านคน ด้วยวัฒนธรรมองค์กรที่เข้มแข็ง.

เคล็ดลับหน้ากล้องและหลังเวที 'ป๋าเต็ด' ยุทธนา บุญอ้อม

ถอดรหัสแนวคิด ภาวิต จิตรกร : จัดคอนเสิร์ตอย่างไรให้ปัง และไม่แย่งตลาดกันเอง

What’s Next? เมื่อ Pandemic เปลี่ยนเป็น Endemic

Read More Stories

Contact

พนักงานบริษัท AI 11 คน ออกจดหมายเปิดผนึก เตือน AI เป็นภัยร้ายแรง เพราะขาดการควบคุม

Disney บรรลุข้อตกลงสำคัญกับ OpenAI ให้นำตัวละครดังกว่า 200 ตัว จากแบรนด์ต่าง ๆ ของ Disney มาสู่ AI Sora

OpenAI กำลังพัฒนา Job Platform ชน Linkedin ในเรื่องแพลตฟอร์มจ้างงาน

OpenAI เปิดตัว AI ใหม่ GPT-5 ฉลาด เร็ว มีประโยชน์ มากขึ้น สำหรับผู้ใช้ ChatGPT ทุกคน

OpenAI เปิดหน้าชน Meta สงครามชิง AI Talent ทะลุองศาเดือด

ยักษ์ของเล่นโลก Mattel ร่วมมือกับ OpenAI เตรียมเปิดตัวของเล่น AI ปลายปี 2025 นี้

ยุค AI ปัญหาไม่ใช่ Content น้อย แต่สมองอาจจะยังไม่รับ บทเรียนถอดสมองมนุษย์จากเวที ADFEST 2026

ถอดวิธีคิด ONN ANU ปั้นรีเทลไซส์เล็กอย่างไร เมื่อมี ‘ทำเลทอง’ อนุสาวรีย์ฯ เป็นแต้มต่อ

คุยกับ นัทธมน พิศาลกิจวนิช 5 ความท้าทายของ “สุกี้ตี๋น้อย” บทพิสูจน์ผู้นำในสมรภูมิสุกี้ 3 หมื่นล้าน

เข็ม-วิลาวัณย์ สุรพงษ์ชัย / ADFEST 2026 “ในโลกที่ AI ทำทุกอย่างเร็วขึ้น มนุษย์กลับจดจำความรู้สึก มากกว่า Efficiency”

Research

เปิดรายชื่อ 685 ร้านที่ได้รับรางวัล LINE MAN Wongnai Users' Choice Best of 2026

เทรนด์สุขภาพมาแรง! เมนูสลัดขึ้นแท่นเมนูยอดนิยมไตรมาสแรกกวาดยอดขายกว่า 1 ล้านจาน

หากช่องแคบฮอร์มุซปิด 3 เดือน จะเกิดอะไรขึ้นบ้าง?