สำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (ETDA) โดย ศูนย์ธรรมาภิบาลปัญญาประดิษฐ์ หรือ AIGC จึงเปิดเวที ETDA Live เชิญผู้เชี่ยวชาญระดับแถวหน้าในวงการ AI ผู้พัฒนาและผู้ใช้งานจริงจากหลายแวดวง ทั้งจากบริษัท กสิกร บิสซิเนส เทคโนโลยี กรุ๊ป,  Coraline, Guardian AI Lab  และตัวแทนจากศูนย์ AIGC มาร่วมแลกเปลี่ยนมุมมองพร้อมให้ข้อเสนอแนะการรับมือกับความล้ำของ Agentic AI ใน AI Governance Webinar 2025 EP2  ‘เมื่อ AI ตัดสินใจแทนมนุษย์ ใครคือผู้ควบคุม ?’

Agentic AI เทคโนโลยีที่พร้อมเปลี่ยนโลก?
Agentic AI คือ AI ที่รวมความสามารถหลากหลายด้านไว้ในระบบเดียว จนเกิดเป็น AI ใหม่ที่สามารถคิด วิเคราะห์ วางแผน ตัดสินใจ และลงมือทำเองได้แบบ “Autonomy” ที่ไม่ใช่แค่ “ทำตามคำสั่ง” แต่ยังสามารถตัดสินใจด้วยตนเองได้ ต่างจาก AI แบบเดิมที่เป็นเพียงระบบอัตโนมัติ (Reactive AI) ที่ถูกออกแบบมาให้ทำงานเฉพาะด้าน ตอบสนองต่อคำสั่งเฉพาะอย่าง เช่น วิเคราะห์ตัวเลข คาดการณ์แนวโน้มตลาด หรือจัดการคำถามลูกค้า โดยอ้างอิงจากข้อมูลที่ถูกฝึกมา แต่ยังไม่สามารถคิดหาวิธีเลือกสิ่งที่ดีที่สุดหรือตัดสินใจได้ด้วยตัวเองโดยผู้เชี่ยวชาญเปิดเผยว่า ปัจจุบัน AIแบ่งออกเป็น 4 Stage ตามความสามารถ ดังนี้

Stage 1: Logic-based AI คือ AI ที่ทำงานตามคำสั่งหรือเงื่อนไขแบบตายตัว เช่น กด 1 ไปหน้า A, กด 2 ไปหน้า B แต่ยังไม่มีความสามารถในการเรียนรู้หรือปรับตัว

Stage 2: Limited Resource AI คือ AI ที่ต้องมีข้อมูลต้นทางมาฝึกฝน มีความสามารถในการเรียนรู้ และตอบสนองต่องานเฉพาะด้าน เช่น AI ที่ใช้วิเคราะห์ข้อมูล คาดการณ์แนวโน้ม หรือสร้างคอนเทนต์ อย่าง Traditional AI, Machine Learning, LLM หรือ Generative AI แต่ยังคิดเองไม่ได้ ต้องอาศัยข้อมูลที่มีอยู่

Stage 3: Theory of Mind AI คือ AI ที่สามารถเรียนรู้ความคิด ความรู้สึก และอารมณ์ของมนุษย์ได้ ทำให้เริ่มมีความคิดสร้างสรรค์และมีความใกล้เคียงความเป็นมนุษย์มากขึ้น

Stage 4: Self-awareness AI คือ AI ที่สามารถเรียนรู้จากสิ่งแวดล้อม และพัฒนาตัวตน สร้างบุคลิกและมีความคิดเป็นของตัวเองได้ เหมือนอย่างที่เห็นกันในหนัง Sci-Fi โดย Agentic AI ยังอยู่ในช่วงยุคปลายของ Stage 2 ที่กำลังจะก้าวไปสู่ Stage ที่ 3 ในอีกไม่ช้า

ในช่วงรอยต่อสำคัญนี้ ก็เริ่มมีการนำ Agentic AI ไปใช้ในหลายภาคส่วน ไม่ว่าจะเป็นภาคการเงิน ที่ใช้วิเคราะห์ข้อมูลลูกค้าเพื่อพิจารณาปล่อยสินเชื่อ หรือใช้ประเมินมูลค่าทรัพย์สิน ภาคธุรกิจการค้า นำมาช่วยคาดการณ์ยอดขาย วางแผนการตลาด และบริหารสต็อกสินค้าแบบอัตโนมัติ ภาคเทคโนโลยี มีการพัฒนา Agentic AI ให้เป็นผู้ช่วยด้านการเขียนโปรแกรม (Coding Assistant) ที่สามารถวางโครงสร้าง เขียนโค้ด ทดสอบฟังก์ชัน และรันระบบได้ในขั้นตอนเดียว ซึ่งล้วนแต่ช่วยเพิ่มประสิทธิภาพในการทำงาน เร่งกระบวนการตัดสินใจให้รวดเร็วและแม่นยำยิ่งขึ้น ช่วยลดต้นทุน ลดภาระงาน และช่วยให้มนุษย์มีเวลาไปโฟกัสกับงานที่ต้องใช้วิจารณญาณที่ AI ยังทำแทนไม่ได้

ความเสี่ยงที่ต้องเร่งใส่ใจ เมื่อ AI เริ่มคิดเอง ทำเองได้
เมื่อเข้าใจในความสามารถของ Agentic AI แล้ว ต่อไปต้องรู้ทันต่อความเสี่ยงที่อาจจะเกิดขึ้น ในวันที่ AI เริ่มคิดและตัดสินใจเองได้ โดยผู้เชี่ยวชาญ ต่างเห็นพ้องตรงกันว่า Agentic AI มีความเสี่ยงที่ต้องระวัง 4 เรื่องใหญ่ๆ คือ 

• แม้จะคิดเองได้ แต่ก็อาจตัดสินใจพลาดได้เช่นกัน หากข้อมูลที่ใช้มีอคติ บิดเบือน ไม่ถูกต้อง หรือไม่ครบถ้วน ก็อาจนำไปสู่การตัดสินใจที่ผิดพลาด และยากต่อการตรวจสอบย้อนหลัง
• หากเชื่อใจเกินไป ก็เสี่ยงพลาดเต็มๆ เมื่อ Agentic AI ทั้งเก่งและฉลาดมากขึ้น ก็อาจทำให้ผู้ใช้เผลอพึ่งพา AI มากจนเกินไป โดยไม่ตรวจสอบ กลั่นกรองซึ่งอาจทำให้เกิด
  ความเสียหายร้ายแรงได้
• ยิ่งใช้ Agentic AI หลายตัว ยิ่งซับซ้อน ยิ่งตรวจสอบย้อนกลับยาก หากไม่มีระบบที่สามารถอธิบายการตัดสินใจได้อย่างโปร่งใส (Explainability) หรือไม่มีระบบ
  ติดตามเส้นทางการทำงานที่ชัดเจน (Traceability) เมื่อมีปัญหาเกิดขึ้นมาจะยากต่อการตรวจสอบ
• อาจขัดต่อกฎหมาย จริยธรรม และความน่าเชื่อถือ หากปล่อยให้ Agentic AI ทำงานหรือตัดสินใจแทนมนุษย์โดยไม่มีการกำกับดูแลที่เหมาะสม โดยเฉพาะในเรื่องสำคัญอย่างการดูแลผู้ป่วยหรือการควบคุมระบบความปลอดภัย อาจนำไปสู่ความเสี่ยงในระดับที่ไม่สามารถยอมรับได้ (Unacceptable Risk)

เพราะ AI อาจสร้างความเสี่ยง AI Governance จึงสำคัญ
ความก้าวหน้าทางเทคโนโลยี อาจมาพร้อมกับความเสี่ยงที่อาจจะเกิดขึ้น จึงจำเป็นต้องมี  AI Governance ที่เป็นกรอบจริยธรรมและธรรมาภิบาล AI เพื่อให้การใช้งาน AI เหมาะสม ปลอดภัย โปร่งใส ตรวจสอบได้ และเกิดประโยชน์สูงสุด โดยผู้เชี่ยวชาญได้เสนอแนวทางเบื้องต้นสำหรับจัดทำ AI Governance ในองค์กร แบ่งเป็น 5 ขั้นตอนหลัก ประกอบด้วย กำหนดวัตถุประสงค์ให้ชัดเจน ว่าต้องการใช้ AI ทำอะไร เพื่อประโยชน์อะไร เข้าใจแหล่งข้อมูลและวิธีการสร้าง AI โดยเฉพาะ Agentic AI ที่ซับซ้อนจากหลายโมเดล ต้องรู้ว่า AI ส่วนไหนสร้างมาแบบใด ใช้ข้อมูลอะไร และผ่านการเทรนมาอย่างไรบ้าง และต้องประเมินผลการใช้งาน (Evaluation) ว่า AI ที่ใช้ตอบโจทย์หรือไม่ มีความเสี่ยงอะไรบ้าง และจะป้องกันอย่างไร การจัดการความเสี่ยง (Risk Mitigation) หาก AI เกิดข้อผิดพลาด จะรับมืออย่างไร และสุดท้ายคือสร้างความน่าเชื่อถือ (Trustworthy) โดยต้องกำหนดบทบาทหน้าที่ของผู้เกี่ยวข้องทุกฝ่ายให้ชัดเจนว่าใครสร้าง ใครใช้ ใครดูแล ใครรับผิดชอบ

ทิศทางการกำกับ AI ไทยต้องไปต่ออย่างไร ในวันที่ AI พัฒนา Skill เก่งขึ้น! 
แม้ปัจจุบันหลายๆ องค์กรจะเริ่มตื่นตัว และวางแนวทาง AI Governance ของตัวเองไว้แล้ว เพื่อให้สามารถใช้งาน AI โดยเฉพาะ Agentic AI ได้อย่างปลอดภัยและมีประสิทธิภาพ แต่ในระดับประเทศก็เลี่ยงไม่ได้ที่จำเป็นต้องมีกฎเกณฑ์ แนวปฏิบัติ เพื่อเป็นมาตรฐานกลางสำหรับการกำกับดูแลให้เกิดการใช้ AI อย่างมีธรรมาภิบาล โดยผู้เชี่ยวชาญจาก ETDA ได้แสดงความเห็นไว้อย่างน่าสนใจว่า ทุกวันนี้เทคโนโลยีเปลี่ยนเร็วเกินกว่าที่กฎหมายจะตามทัน ดังนั้น กฎหมาย AI ของไทยหากเกิดขึ้นจริง จึงไม่ควร “เข้มงวดจนปิดกั้น” แต่ต้อง “ยืดหยุ่นได้” เพื่อเปิดทางให้ผู้ใช้ที่ดีสามารถพัฒนาและเติบโตได้อย่างปลอดภัย ขณะเดียวกันก็ต้อง “ปิดช่องโหว่” ที่อาจถูกนำไปใช้ในทางที่ผิด พร้อมควบคุมความเสี่ยง ป้องกันความเสียหาย และจัดการผู้ไม่หวังดีได้อย่างมีประสิทธิภาพ

ผู้เชี่ยวชาญยังคาดการณ์ว่า Agentic AI ไม่ใช่แค่เทคโนโลยีใหม่ธรรมดาแต่มีแนวโน้มที่จะนำไปสู่การปฏิวัติระบบเศรษฐกิจ สังคม และชีวิตของผู้คนอย่างที่ไม่เคยเกิดขึ้นมาก่อนก็ได้ และไม่ควรกังวลหรือหวาดกลัว แต่ควรมองอย่างเปิดใจว่า นี่คือโอกาสครั้งใหญ่ที่เราอาจต้องรีบคว้าด้วยการเตรียมความพร้อมและเร่งสร้างระบบนิเวศที่เอื้อต่อการพัฒนา AI เริ่มจากต้องส่งเสริมให้คนไทยเปลี่ยนบทบาทจาก “ผู้ใช้” เป็น “ผู้สร้าง” โดยการพัฒนาโซลูชันของเราเอง ลดการพึ่งพาเทคโนโลยีจากต่างชาติที่ ควบคู่ไปกับการวางโครงสร้างพื้นฐานที่เอื้อต่อการพัฒนา AI เช่น การสร้าง “แพลตฟอร์มกลาง” รวมโมเดล AI ที่ผ่านการตรวจสอบแล้ว เพื่อให้องค์กรต่าง ๆ รวมทั้งสตาร์ทอัพเข้าถึงได้ง่าย เลือกใช้งานได้อย่างมั่นใจ และจัดให้มีพื้นที่ AI Sandbox ทดสอบ AI ก่อนนำไปใช้งานจริง และต้องเร่งสร้างบุคลากรที่มีวิสัยทัศน์และทักษะในการทำงานร่วมกับ AI  โดยเฉพาะ Critical Thinking ทักษะการคิดอย่างมีเหตุผล และรู้เท่าทันการใช้งาน AI