ช่วงไม่กี่วันที่ผ่านมา ผู้บริหารบริษัทเทคโนโลยีและ AI ออกมาส่งสัญญาณไปในทิศทางเดียวกันว่า อุตสาหกรรมอาจต้องลดความเร็วในการพัฒนาเทคโนโลยีดังกล่าวลง เพื่อพัฒนามาตรการความปลอดภัยไปพร้อมกับความก้าวหน้าของเทคโนโลยี
ประเด็นสำคัญ
ทั้งนี้ ดาริโอ อโมเดอี CEO Anthropic เป็นคนเปิดประเด็นอย่างชัดเจนที่สุด โดยเรียกร้องให้บริษัท AI ชะลอการเพิ่มขีดความสามารถของโมเดล ขณะที่ แซม อัลต์แมน CEO OpenAI ออกมาสนับสนุนอโมเดอี พร้อมเปิดเผยว่า จังหวะการพัฒนา AI เป็นหนึ่งในหัวข้อหลักที่บริษัทหารือกันในช่วงหลายสัปดาห์ที่ผ่านมา
นอกจากนี้ อีลอน มัสก์ CEO SpaceX ออกมาสนับสนุนด้วยข้อความสั้นๆ ว่า อโมเดอีพูดถูก ส่วน เดมิส ฮัสซาบิส ผู้บริหาร Google DeepMind ระบุว่า ทิศทางที่ผู้บริหาร Anthropic เสนอถือเป็นทิศทางที่ถูกต้อง แม้ยังต้องหารือกันต่อว่า ในทางปฏิบัติจะดำเนินการอย่างไร
น่าสนใจว่า ท่าทีของผู้บริหารเหล่านี้เกิดขึ้นพร้อมกับกระแสความกังวลภายในบริษัท AI หลัง เจคอบ ค็อกซัน (Jacob Coxon) นักวิจัยวัย 27 ปีของ Anthropic และอดีตนักวิจัยของ OpenAI ประกาศลาออก โดยกล่าวหาว่า บริษัทยักษ์ใหญ่กำลังเอาชีวิตมนุษย์เป็นเดิมพัน เพื่อพัฒนา Artificial Superintelligence (ASI) หรือ AI ที่มีสติปัญญาเหนือกว่ามนุษย์ที่ฉลาดที่สุด
ดาริโอ อโมเดอี เรียกร้องให้ AI Safety มีเวลาตามทัน
เมื่อวันที่ 12 กันยายน ตามเวลาสหรัฐฯ ดาริโอ อโมเดอี CEO และผู้ร่วมก่อตั้ง Anthropic บริษัทผู้พัฒนา Claude เผยแพร่บทความความยาวประมาณ 3,800 คำ โดยเสนอให้อุตสาหกรรมลดความเร็วในการพัฒนา AI ที่มีความสามารถสูงขึ้น
อโมเดอีระบุว่า เขาเตือนเรื่องความเสี่ยงจาก AI มาหลายปี แต่ข้อเสนอครั้งนี้ไปไกลกว่าการเพิ่มงบประมาณหรือบุคลากรด้านความปลอดภัย เพราะมองว่า หากความสามารถของโมเดลยังเพิ่มขึ้นเรื่อยๆ ด้วยความเร็วในปัจจุบัน การพัฒนามาตรการป้องกันอาจตามไม่ทัน
เขาอธิบายว่า ในช่วงหลายเดือนที่ผ่านมา ตนเองมีความเชื่อมากขึ้นว่า การจัดการความเสี่ยงของ AI จำเป็นต้องคำนึงถึงความเร็วในการเพิ่มขีดความสามารถด้วย ถือเป็นการให้เวลานักวิจัยพัฒนาระบบป้องกัน รวมถึงทำความเข้าใจความเสี่ยงที่เกิดขึ้น
อโมเดอีจึงเสนอให้ห้องปฏิบัติการ AI ยอมรับการประเมินและตรวจสอบจากผู้เชี่ยวชาญภายนอก โดยเปิดให้ผู้ประเมินสามารถเข้าไปตรวจสอบระบบและมาตรฐานความปลอดภัยของบริษัทได้อย่างใกล้ชิด รวมถึงเสนอให้ประเทศประชาธิปไตยร่วมกันจัดทำมาตรฐานด้าน AI
อย่างไรก็ตาม เขามองว่า หากต้องการควบคุมความเร็วของการพัฒนา AI อย่างมีประสิทธิภาพ ต้องพึ่งพาความร่วมมือระดับโลก รวมถึงประเทศที่มีระบบการเมืองแตกต่างกัน เพราะการที่บางประเทศหรือบางบริษัทชะลอเพียงฝ่ายเดียวอาจไม่เพียงพอ
อีกหนึ่งความเสี่ยงที่อโมเดอีพูดถึงคือ ‘Recursive Self-Improvement’ หรือความเป็นไปได้ที่ AI จะสามารถมีส่วนช่วยในการพัฒนา AI รุ่นต่อไปได้มากขึ้น โดยไม่ต้องพึ่งพานักวิจัยมนุษย์ในระดับเดิม
เขายังเตือนว่า ถ้ากระบวนการดังกล่าวเกิดขึ้นโดยปราศจากการควบคุม ความสามารถของ AI อาจเพิ่มขึ้นเร็วมากเกินไป จนมนุษย์ไม่สามารถทำความเข้าใจและควบคุมได้ จึงจำเป็นต้องเดินหน้าด้วยความระมัดระวังอย่างมาก
OpenAI พร้อมชะลอ แต่ต้องเกิดขึ้นพร้อมกับคู่แข่ง
ท่าทีของ OpenAI ขยับไปในทิศทางเดียวกัน หลัง The New York Times รายงานในช่วงเช้าวันนี้ตามเวลาประเทศไทยว่า อัลต์แมนระบุว่า OpenAI พร้อมชะลอการพัฒนา AI แนวหน้า หากห้องปฏิบัติการคู่แข่งยอมชะลอไปพร้อมกัน ภายใต้ความหวังว่า การลดความเร็วในการพัฒนา AI จะกลายเป็นแนวปฏิบัติปกติ จนกว่าอุตสาหกรรมจะมีมาตรฐานความปลอดภัยที่ได้รับการยอมรับร่วมกัน
นอกจากนี้ อัลต์แมนสนับสนุนแนวคิดของอโมเดอีว่า อุตสาหกรรมต้องกำหนดจังหวะการพัฒนา AI พร้อมสนับสนุนข้อเสนอที่ให้ผู้ประเมินอิสระสามารถเข้าถึงระบบภายในบริษัทได้ในระดับใกล้เคียงกับพนักงาน
อัลต์แมนระบุด้วยว่า OpenAI จะดำเนินการในลักษณะเดียวกัน โดยจะเปิดเผยรายละเอียดเพิ่มเติมในภายหลัง
ก่อนหน้านี้ คริส เลเฮน ผู้บริหารฝ่ายนโยบายของ OpenAI ระบุว่า บริษัทพร้อม ‘ชะลอหรือหยุด’ การพัฒนาหรือการนำระบบออกใช้งาน หากพบว่า ไม่สามารถสร้างมาตรการป้องกันความเสี่ยงได้อย่างเหมาะสม
ส่วน ยาคุบ ปาโชกี หัวหน้านักวิทยาศาสตร์ของ OpenAI เรียกร้องให้มีกฎด้านความปลอดภัยที่สามารถบังคับใช้ได้จริง ผ่านผู้ตรวจสอบอิสระ หน่วยงานรัฐบาล หรือองค์กรระหว่างประเทศ พร้อมเตือนว่า ขณะนี้ ยังไม่มีฝ่ายใดเตรียมพร้อมที่จะรับมือผลกระทบที่ตามมา หากระดับสติปัญญาของ AI ยังเพิ่มขึ้นอย่างรวดเร็ว
นอกจากนี้ OpenAI ยังยืนยันว่า จะไม่ทำ IPO ในปี 2026 โดยล่าสุด อัลต์แมนให้สัมภาษณ์กับ Fortune ว่า นี่ไม่ใช่ช่วงเวลาที่เหมาะสมในการนำบริษัทเข้าตลาดหลักทรัพย์ เนื่องจากความกังวลด้านความปลอดภัยของ AI พร้อมย้ำว่า บริษัทยังไม่มีแรงกดดันให้ต้องรีบดำเนินการดังกล่าว
อัลต์แมนระบุว่า OpenAI ยังมีภารกิจอีกมาก เช่น การรับมือกับโจทย์ด้านความปลอดภัย และการทำให้พฤติกรรมของ AI สอดคล้องกับเป้าหมายของมนุษย์ ตลอดจนการกำหนดรูปแบบความร่วมมือระหว่างรัฐบาลกับบริษัทเทคโนโลยี
มัสก์และ Google DeepMind ขานรับแนวคิดชะลอ AI
ขณะเดียวกัน มัสก์โพสต์ข้อความสนับสนุน CEO Anthropic บน X ว่า ‘ดาริโอพูดถูก’ โดยไม่ได้ขยายความเพิ่มเติม ส่วน ฮัสซาบิส ผู้บริหาร Google DeepMind ระบุว่า บทความของอโมเดอีถือเป็นก้าวสำคัญที่อุตสาหกรรมกำลังเดินไปทิศทางที่ถูกต้อง เพื่อการรับมือสถานการณ์สำคัญ แม้รายละเอียดของมาตรการต่างๆ ยังจำเป็นต้องพัฒนาต่อ
ก่อนหน้านี้ ฮัสซาบิสเคยเผยแพร่กรอบแนวทางสำหรับการพัฒนา AI รุ่นใหม่อย่างปลอดภัย โดยเสนอให้บริษัทต่างๆ เพิ่มความร่วมมือในการจัดการความเสี่ยง
การที่ผู้บริหารจากบริษัทคู่แข่งออกมาเห็นตรงกันในเรื่องนี้จึงมีความสำคัญ เพราะตลอดหลายปีที่ผ่านมา OpenAI, Anthropic, Google และบริษัทเทคโนโลยีรายอื่นต่างแข่งขันกันอย่างหนักเพื่อพัฒนาโมเดลที่มีความสามารถสูงขึ้น และพยายามขึ้นเป็นผู้นำในการพัฒนา AI รุ่นถัดไป
การลาออกของนักวิจัย Anthropic จุดกระแส ‘Doomsday’ รอบใหม่
กระแสเรียกร้องให้ชะลอ AI รุนแรงขึ้นในสัปดาห์ที่ผ่านมา หลัง ค็อกซัน นักวิจัยของ Anthropic ลาออกจากบริษัท พร้อมออกมาเตือนว่า OpenAI และ Anthropic กำลังเดิมพันชีวิตของมนุษยชาติเพื่อเร่งพัฒนาเทคโนโลยีที่บริษัทควบคุมความเสี่ยงไม่ได้
โดยสรุป ค็อกซันอธิบายว่า Anthropic ยังคงมุ่งเอาชนะการแข่งขันพัฒนา Artificial Superintelligence (ASI) หรือ AI ที่มีสติปัญญาเหนือกว่ามนุษย์ที่ฉลาดที่สุด ซึ่งอาจหลุดออกจากการควบคุมของมนุษย์ และหันกลับมาทำลายทุกคนแทน
จากกรณีดังกล่าว The New York Times รายงานว่า การลาออกของค็อกซันทำให้ความกังวลที่มีอยู่ภายในบริษัท AI ถูกนำออกมาพูดในที่สาธารณะมากขึ้น โดยพนักงาน Anthropic บางส่วนแสดงความเห็นผ่านช่องทางภายในว่า สิ่งที่เขาพูดคือเรื่องเดียวกับที่หลายคนหารือกันอยู่แล้ว เพียงแต่ครั้งนี้ถูกพูดออกมาต่อสาธารณะ
นอกจากนี้ นักวิจัยและพนักงานจาก Anthropic, OpenAI, Meta และ Google ยังเริ่มพูดคุยกันผ่านช่องทางภายในบริษัท ห้องแชตเข้ารหัส และการพบปะส่วนตัว เพื่อหารือว่า จะผลักดันให้บริษัทเพิ่มมาตรการรับมือความเสี่ยงได้อย่างไร
ขณะที่นักวิจัยบางส่วนเริ่มเรียกร้องให้ผู้บริหารชะลอการพัฒนาเทคโนโลยี เพื่อเปิดเวลาให้การวิจัยด้านความปลอดภัยพัฒนาตามทันความสามารถของโมเดล เช่น มีการตั้งกลุ่ม Coalition of Concerned AI Staff โดยมีเป้าหมายผลักดันมาตรการป้องกัน และสร้างช่องทางให้พนักงานสามารถร่วมกันตรวจสอบว่าบริษัทปฏิบัติตามคำมั่นด้านความปลอดภัยหรือไม่
ถึงอยากชะลอ แต่ไม่มีใครอยากเป็นฝ่ายชะลอเพียงคนเดียว
แม้ผู้บริหารหลายบริษัทเริ่มเห็นตรงกันว่า อุตสาหกรรมควรลดความเร็วลง แต่การทำให้แนวคิดดังกล่าวเกิดขึ้นจริงยังติดข้อจำกัดหลายประการ
ประการแรกคือการแข่งขันระหว่างบริษัท OpenAI, Anthropic, Google, Meta และบริษัทอื่นต่างทุ่มเงินจำนวนมหาศาลเพื่อพัฒนาโมเดลรุ่นใหม่ หากบริษัทหนึ่งชะลอการพัฒนา แต่คู่แข่งยังเดินหน้าต่อ บริษัทที่เลือกชะลอก็จะเสี่ยงเสียความได้เปรียบในการแข่งขัน
อีกปัจจัยหนึ่งคือการแข่งขันด้าน AI ระหว่างสหรัฐฯ กับจีน หลังบริษัทจีนสามารถพัฒนาโมเดล AI ที่มีศักยภาพแข่งขันกับบริษัทสหรัฐฯ ได้มากขึ้น นั่นหมายความว่า หากบริษัทอเมริกันยอมลดความเร็วเพียงฝ่ายเดียว ขณะที่บริษัทในประเทศอื่นยังเดินหน้าพัฒนาเทคโนโลยีต่อ ก็มีความเสี่ยงที่สหรัฐฯ จะเสียความได้เปรียบในการแข่งขัน
ภาพ: Skorzewiak / Shutterstock
อ้างอิง:
