เจ้าพ่อ AI ขึ้นเวที UNSC เตือนความเสี่ยงต่อมนุษยชาติ เรียกร้องโลกสร้างกติการ่วมกัน

ผู้บริหารบริษัท AI รายใหญ่ของโลก ทั้ง OpenAI, Anthropic และ Hugging Face ขึ้นกล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ (UN Security Council: UNSC) เมื่อวันที่ 23 กันยายน โดยเตือนถึงความเสี่ยงจาก AI ที่มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว จนอาจพัฒนาไปไกลเกินกว่าที่มนุษย์จะควบคุมได้

ประเด็นสำคัญ

อนาคต AI ไม่ควรถูกตัดสินโดยบริษัทเทคโนโลยี แต่รัฐบาลต้องมีส่วนร่วม
AI อาจเป็นความเสี่ยงต่อมนุษยชาติทั้งหมด
ถูก AI โจมตี ก็ต้องใช้ AI ป้องกันตัวเอง
อันตรายจาก AI ไม่รู้จักพรมแดน เตือนต้องถูกคุมเหมือนนิวเคลียร์
CEO เรียกร้องกติกา แต่สหรัฐฯ ปฏิเสธระบบควบคุม AI ระดับโลก

การประชุมดังกล่าวเกิดขึ้นระหว่างสัปดาห์การประชุมสมัชชาใหญ่แห่งสหประชาชาติครั้งที่ 81 (UNGA81) ในนครนิวยอร์ก หลังในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทยักษ์ใหญ่ด้าน AI หลายรายเริ่มออกมาเรียกร้องให้อุตสาหกรรมลดความเร็วในการพัฒนาโมเดล เพื่อขอเวลาพัฒนา ‘มาตรการด้านความปลอดภัย’ ตามทันความสามารถของเทคโนโลยี

อย่างไรก็ตาม การหารือบนเวที UNSC ครั้งนี้ขยับไปไกลกว่าประเด็นว่า บริษัท AI ควรชะลอการพัฒนาหรือไม่ เมื่อผู้บริหารจากบริษัทชั้นนำเรียกร้องให้รัฐบาลและนานาประเทศเข้ามามีส่วนร่วมกำหนดกติกามากขึ้น ขณะที่รัฐบาลสหรัฐฯ ยืนยันว่า ไม่สนับสนุนการสร้างระบบกำกับดูแล AI แบบรวมศูนย์ในระดับโลก

อนาคต AI ไม่ควรถูกตัดสินโดยบริษัทเทคโนโลยี แต่รัฐบาลต้องมีส่วนร่วม

แซม อัลต์แมน (Sam Altman) CEO OpenAI กล่าวต่อ UNSC ว่า การมีอยู่ของ AI กำลังสร้างทางแพร่งครั้งใหม่ให้กับโลกระหว่าง ‘การอยู่ในยุคฟื้นฟูศิลปวิทยาการครั้งใหม่’ หรือ ‘การปฏิวัติอุตสาหกรรมอันไร้ระเบียบและปั่นป่วน’

อัลต์แมนยอมรับว่า AI สามารถเพิ่มผลิตภาพ ช่วยแพทย์ดูแลผู้ป่วย หรือเสริมศักยภาพให้กับผู้ประกอบการได้ แต่ในเวลาเดียวกัน เทคโนโลยีดังกล่าวก็มีความเสี่ยงที่จะถูกนำไปใช้ในทางที่ผิด รวมถึงความเป็นไปได้ที่มนุษย์อาจสูญเสียการควบคุมอนาคตของเทคโนโลยีดังกล่าว

เขาเสนอว่า โลกไม่ควรมอง AI แบบสุดโต่งไปทางใดทางหนึ่ง ไม่ว่าจะความเชื่อว่า เทคโนโลยีจะสร้างประโยชน์โดยไร้ความเสี่ยง หรือ AI จะนำไปสู่หายนะอย่างหลีกเลี่ยงไม่ได้ ขณะที่การพัฒนา AI ต้องทำควบคู่ไปกับมาตรการด้านความปลอดภัย โดยต้องทำให้มนุษย์สามารถควบคุมระบบ และนำเทคโนโลยีไปใช้ในทางที่ถูกต้อง

อย่างไรก็ตาม ประโยคที่ถูกจับตามองมากที่สุด คือ การที่อัลต์แมนพูดถึงอำนาจการตัดสินใจของเทคโนโลยีดังกล่าวว่า หาก AI เป็นประชาธิปไตย การตัดสินใจที่สำคัญก็ต้องผ่านกระบวนการประชาธิปไตย ไม่ใช่แค่ห้องแล็บ โดยที่รัฐบาลต้องรับผิดชอบต่อประชาชน

ท่าทีดังกล่าวสอดคล้องกับข้อเสนอของอัลต์แมนในช่วงก่อนหน้านี้ หลังเขาออกมาสนับสนุนแนวคิดให้บริษัท AI ลดความเร็วในการพัฒนาโมเดลแนวหน้า หากคู่แข่งยอมดำเนินการพร้อมกัน เพื่อเปิดเวลาสำหรับการสร้างมาตรฐานความปลอดภัยของอุตสาหกรรม

AI อาจเป็นความเสี่ยงต่อมนุษยชาติทั้งหมด

ด้าน ดาริโอ อโมเดอี (Dario Amodei) CEO Anthropic ใช้ถ้อยคำที่ตรงไปตรงมา โดยย้ำต่อ UNSC ว่า หาก AI ถูกจัดการอย่างไม่เหมาะสม ก็อาจกลายเป็นความเสี่ยงต่อมนุษยชาติโดยรวมได้

อโมเดอีมองว่า ปัญหาของ AI ไม่ได้มีเพียงความเสี่ยงจากการที่มนุษย์นำเทคโนโลยีไปใช้ในทางที่เป็นอันตราย แต่ยังรวมถึงสถานการณ์ที่ระบบ AI มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว จนนักพัฒนาอาจไม่สามารถควบคุมพฤติกรรมของระบบได้อย่างสมบูรณ์

CEO Anthropic ยังเรียกร้องให้รัฐบาลต่างๆ วางความขัดแย้งทางการเมืองและภูมิรัฐศาสตร์บางส่วนไว้ก่อน เพื่อร่วมกันรับมือทั้งโอกาสและภัยคุกคามจาก AI โดยย้ำว่า ไม่มีผู้นำคนไหน บริษัทหรือประเทศใดๆ สามารถจัดการเรื่องนี้ได้เพียงลำพัง

อโมเดอียังเสนอต่อ UNSC ว่า นานาชาติควรสร้างกติการะหว่างประเทศในการใช้ AI เช่น ห้ามใช้พัฒนาอาวุธชีวภาพ ไปจนถึงสร้างมาตรฐานร่วมกันในการทดสอบโมเดล เพื่อป้องกันไม่ให้เทคโนโลยีพัฒนาไปไกลกว่าความสามารถของมนุษย์

ถูก AI โจมตี ก็ต้องใช้ AI ป้องกันตัวเอง

ส่วน เคลม็องต์ เดอล็องก์ (Clément Delangue) CEO และผู้ร่วมก่อตั้ง Hugging Face ยกอีกด้านหนึ่งของความเสี่ยงจาก AI ขึ้นมาพูด คือ การใช้ AI ในการโจมตีและป้องกันระบบไซเบอร์

เดอล็องก์เปิดเผยว่า Hugging Face เคยถูก AI agents ของ OpenAI เจาะเข้าสู่โครงสร้างพื้นฐานของบริษัท หลังระบบดังกล่าวหลุดออกจากสภาพแวดล้อมที่ใช้สำหรับการทดสอบ

แต่เขากลับเน้นย้ำว่า บริษัทก็จำเป็นต้องใช้ AI เพื่อป้องกันตัวเองเช่นกัน โดยระบุว่า Hugging Face ใช้โมเดล AI จากจีนช่วยรับมือการโจมตีดังกล่าว เพราะมีข้อจำกัดในการใช้งานน้อยกว่าเครื่องมือของสหรัฐฯ ที่มีความสามารถใกล้เคียงกัน

“เราถูก AI โจมตี แต่ที่สำคัญยิ่งกว่านั้นคือ เราป้องกันตัวเองด้วย AI” เขากล่าวต่อ UNSC

อนึ่ง มีการมองว่า เดอล็องก์กำลังสะท้อนโจทย์การกำกับควบคุม AI หลังมีข้อจำกัดเข้มงวดกับโมเดลมากเกินไป ทำให้ฝ่ายป้องกันไม่สามารถเข้าเครื่องมือที่มีประสิทธิภาพในการรับมือได้อย่างเพียงพอ

อันตรายจาก AI ไม่รู้จักพรมแดน เตือนต้องถูกคุมเหมือนนิวเคลียร์

โยชัว เบงจิโอ (Yoshua Bengio) นักวิทยาศาสตร์คอมพิวเตอร์ชาวแคนาดา หนึ่งในผู้บุกเบิก Deep Learning และประธานร่วม Independent International Scientific Panel on AI ของ UN เตือนว่า ความเสี่ยงของ AI ต่อมนุษยชาติ กำลังใกล้เกิดขึ้นจริงมากขึ้นเรื่อยๆ

เบงจิโอมองว่า UNSC กำลังเผชิญภัยคุกคามรูปแบบใหม่ ซึ่งไม่มีประเทศสมาชิกใดต้องการให้เกิด ไม่มีประเทศใดสามารถรับมือได้เพียงลำพัง และเป็นภัยที่ไม่เคารพพรมแดนระหว่างประเทศ

นักวิทยาศาสตร์ชาวแคนาดาชี้ว่า พฤติกรรมการโจมตีของ AI มีหลักฐานรองรับและผ่านการตรวจสอบจากผู้เชี่ยวชาญอิสระ พร้อมระบุความเสี่ยงสำคัญ 3 ด้าน ได้แก่

การถูกนำไปใช้สร้างความเสียหายร้ายแรง เช่น กลุ่มก่อการร้าย
การกระจุกตัว AI ไว้กับบริษัทหรือประเทศเพียงไม่กี่แห่ง
ความเป็นไปได้ที่มนุษย์จะสูญเสียการควบคุมระบบ AI

เขายังโต้แย้งแนวคิดว่า บริษัท AI ไม่มีทางเลือกนอกจากต้องเร่งแข่งขันกันพัฒนาเทคโนโลยี โดยระบุว่า การแข่งขันดังกล่าวไม่ใช่กฎของธรรมชาติ แต่เป็นผลจากการตัดสินใจของบริษัทเอง ขณะที่รัฐบาลก็ไม่ควรยอมรับคำอธิบายว่า บริษัทจำเป็นต้องเดินหน้าพัฒนา AI ต่อ เพราะกลัวคู่แข่งนำหน้า

เบงจิโอยังเสนอว่า AI ระดับแนวหน้า ควรถูกกำกับในลักษณะเดียวกับเทคโนโลยีสำคัญอย่างการแพทย์ การบิน หรือพลังงานนิวเคลียร์ โดยผู้พัฒนาต้องพิสูจน์ต่อผู้เชี่ยวชาญอิสระว่า ระบบมีความปลอดภัยก่อนนำออกใช้งาน รวมถึงต้องรายงานเหตุการณ์ด้านความปลอดภัย ไปจนถึงต้องมีระบบใบอนุญาตและประกันความรับผิดสำหรับผู้พัฒนา AI

CEO เรียกร้องกติกา แต่สหรัฐฯ ปฏิเสธระบบควบคุม AI ระดับโลก

แม้ผู้นำบริษัท AI จะเรียกร้องความร่วมมือระหว่างประเทศมากขึ้น แต่รัฐบาลต่างๆ ยังไม่มีฉันทามติว่า การกำกับดูแลดังกล่าวควรมีหน้าตาอย่างไร โดย 1 วันก่อนการประชุม UNSC

โดนัลด์ ทรัมป์ ประธานาธิบดีสหรัฐฯ กล่าวต่อผู้นำโลกบนเวที UNGA ว่า สหรัฐฯ จะไม่สร้างระบบควบคุม AI ระดับโลก

ทรัมป์ยังเสนอให้เปลี่ยนชื่อเต็มของ AI จากปัญญาประดิษฐ์ (Artificial Intelligence) เป็นคำว่า Super Intelligence (SI) หรือปัญญาเหนือมนุษย์แทน พร้อมย้ำว่า ชื่อนี้ทำให้ AI ฟังดูเหมือนของปลอม ขณะที่ผู้เชี่ยวชาญออกมาต่อต้านว่า คำดังกล่าวมีความหมายเฉพาะ ซึ่งใช้เรียก AI ขั้นสูง

นอกจากนี้ ไมเคิล แครตซิออส (Michael Kratsios) ที่ปรึกษาด้านวิทยาศาสตร์และเทคโนโลยีของทำเนียบขาว ย้ำจุดยืนดังกล่าวต่อ UNSC ว่า โลกไม่สามารถกำกับเทคโนโลยีที่มนุษย์ไม่อาจเข้าใจได้ พร้อมเสนอว่า UN และองค์การระหว่างประเทศ ควรให้ความสำคัญกับการสร้างขีดความสามารถ AI มากกว่าสร้างระบบกำกับดูแล

ขณะที่ทางการจีนมีท่าทีที่แตกต่างกันออกไป โดย ฝู่ ชง (Fu Cong) เอกอัครราชทูตจีนประจำ UN เรียกร้องให้มีมาตรการรับมือ AI เช่น การปรับปรุงกรอบกำกับดูแล ระบบรับมือเหตุฉุกเฉิน และความร่วมมือข้ามพรมแดน พร้อมระบุว่า ประชาคมระหว่างประเทศควรให้ความสำคัญกับการพัฒนาและความมั่นคง เพื่อให้ AI ถูกพัฒนาไปในทิศทางที่เป็นประโยชน์ต่อมนุษยชาติ

ภาพ: Brendan McDermid / Reuters

อ้างอิง: