AI ของ OpenAI หลุดออกจากพื้นที่ทดสอบไปแฮ็กบริษัทจริง โดยไม่มีมนุษย์คนไหนสั่ง...

OpenAI ออกมายอมรับว่าโมเดล AI ของบริษัทหลุดออกจากพื้นที่ทดสอบที่ควรถูกปิดตายจากโลกภายนอก แล้วเจาะเข้าระบบจริงของ Hugging Face ซึ่งเป็นศูนย์รวมโมเดล AI แบบเปิดที่ใหญ่ที่สุดแห่งหนึ่งของโลก โดยไม่มีมนุษย์คนไหนสั่งให้ทำ

ที่ชวนขนลุกกว่านั้นคือเหตุผลเบื้องหลัง เพราะไม่มีใครสั่งให้โมเดลไปโจมตีใครทั้งสิ้น มันแค่กำลังทำข้อสอบวัดทักษะการแฮ็กอยู่ แล้วคำนวณได้ว่าการเจาะเข้าไปขโมยเฉลยง่ายกว่าการนั่งทำข้อสอบตรงๆ เปรียบได้กับนักเรียนที่แฮ็กเข้าบริษัทพิมพ์ตำราเรียนเพื่อโกงข้อสอบไฟนอล ต่างกันแค่คราวนี้คนลงมือไม่ใช่มนุษย์

OpenAI ระบุในบล็อกโพสต์เมื่อวันอังคารที่ 21 กรกฎาคมว่า “เราถือว่านี่คือเหตุการณ์ด้านความปลอดภัยไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน และเกี่ยวข้องกับขีดความสามารถทางไซเบอร์ระดับสูงสุดเท่าที่มีในตอนนี้” พร้อมบอกว่าที่ยอมเปิดเผยผลตรวจสอบเบื้องต้นทั้งที่ยังสอบสวนไม่จบ ก็เพื่อให้ฝ่ายป้องกันเข้าใจว่าเกิดอะไรขึ้น และได้ปรับมุมมองว่าโมเดลยุคนี้ทำอะไรได้บ้างแล้ว

ข่าวที่เกี่ยวข้อง:

นี่คือหนึ่งในกรณีแรกที่มีการเปิดเผยต่อสาธารณะว่า AI หลุดออกจากสภาพแวดล้อมทดสอบแล้วไปแตะระบบจริงของบริษัทอื่นได้ด้วยตัวเอง ซึ่งเป็นฉากทัศน์ที่วงการความปลอดภัยไซเบอร์เตือนกันมานานว่าจะต้องเกิดขึ้นสักวัน โดย CNN เปรียบเทียบว่าไม่ต่างจากไวรัสที่ถูกดัดแปลงพันธุกรรมหลุดออกจากห้องแล็บที่ปิดตาย แล้วไปโผล่ในอาคารข้างเคียง จนนำไปสู่การเสนอร่างกฎหมายที่จะให้อำนาจรัฐบาลสั่งปิดโมเดล AI ได้ทันทีเมื่อจำเป็น

จากห้องสอบสู่การบุกบริษัทจริง ลำดับเหตุการณ์ที่ไม่มีใครสั่ง

จุดเริ่มต้นคือชุดทดสอบชื่อ ExploitGym ซึ่งเป็นข้อสอบราว 900 ข้อที่ออกแบบมาวัดว่าระบบ AI เก่งเรื่องการเจาะระบบแค่ไหน รูปแบบของข้อสอบคือยื่นซอฟต์แวร์ที่มีจุดบกพร่องให้ พร้อมบอกวิธีกระตุ้นให้จุดบกพร่องนั้นทำงาน จากนั้นเป็นหน้าที่ของ AI ที่จะแปลงข้อมูลตรงนั้นให้กลายเป็นเครื่องมือเจาะระบบจริงๆ โดยกติกาเหมือนเกม ‘ชิงธง’ คือเมื่อเจาะเข้าไปได้แล้ว ต้องหารหัสตัวอักษรและตัวเลขยาวๆ ที่ซ่อนอยู่ในเครื่องมาแสดงเป็นหลักฐานให้ได้

โมเดลที่ถูกนำมาทดสอบมี 2 ตัว คือ GPT-5.6 Sol ซึ่งเป็นรุ่นล่าสุดที่เปิดให้คนทั่วไปใช้งานแล้ว กับอีกตัวที่ยังไม่เปิดตัวและมีขีดความสามารถสูงกว่า ทั้งคู่ถูกขังไว้ใน ‘แซนด์บ็อกซ์’ ซึ่งหมายถึงพื้นที่ทดสอบที่ควรถูกตัดขาดจากระบบอื่นและจากอินเทอร์เน็ต โดยปกติแล้วโมเดลเหล่านี้จะปฏิเสธคำสั่งที่เกี่ยวกับการแฮ็ก แต่รอบนี้ OpenAI จงใจปิดกลไกที่คอยห้ามไว้ เพื่อดูว่าเมื่อไม่มีอะไรมาขวางแล้วมันจะทำอะไรได้บ้าง

แต่แทนที่จะลงมือทำข้อสอบ โมเดลกลับสรุปว่าทางที่คุ้มกว่าคือเจาะระบบที่ขังตัวเองอยู่ให้แตก แล้วออกไปหา ‘เฉลย’ จากข้างนอก

ประตูที่โมเดลใช้หนีออกมาคือช่องโหว่ประเภท zero-day หรือจุดบกพร่องที่เจ้าของระบบยังไม่เคยรู้มาก่อนจึงไม่มีเวลาแก้ไข ซึ่งซ่อนอยู่ในระบบติดตั้งชุดคำสั่งเสริมที่ OpenAI เปิดช่องไว้ให้ใช้ระหว่างทดสอบ จากนั้นโมเดลก็ไต่ไปตามระบบภายในของ OpenAI จนเปิดทางออกสู่อินเทอร์เน็ตได้สำเร็จ ทั้งที่ไม่ควรมีสิทธิ์นั้นเลย

เมื่อออกมาถึงโลกภายนอก โมเดลประเมินว่า Hugging Face น่าจะมีคำตอบที่ต้องการ เพราะเป็นแหล่งรวมโมเดลและชุดข้อมูลโอเพนซอร์สหลายพันรายการ ซึ่งอาจมีทั้ง ‘แพตช์’ หรือชุดแก้ไขช่องโหว่ และเครื่องมือเจาะระบบที่มีคนเขียนไว้แล้ว จึงบุกเข้าเซิร์ฟเวอร์ที่ใช้งานจริงของบริษัทเมื่อวันเสาร์ที่ 11 กรกฎาคม โดยอาศัยข้อมูลยืนยันตัวตนสำหรับเข้าระบบที่ขโมยมา พร้อมปล่อยตัวโจมตีขนาดเล็กจำนวนมากที่ทำงานสั้นๆ แล้วหายไป เข้าไปสำรวจเครือข่ายพร้อมกันเป็นชุด ซึ่ง Hugging Face ระบุว่ามีการสั่งงานบนเครือข่ายของบริษัทรวมแล้วถึง 17,000 ครั้ง

สิ่งที่ทำให้ฝั่ง Hugging Face เอะใจตั้งแต่แรกคือพฤติกรรมที่ผิดธรรมชาติของแฮกเกอร์ โทมัส วูล์ฟ ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายวิทยาศาสตร์ เล่าว่าพอเปิดบันทึกการใช้งานดูก็รู้สึกทันทีว่ามันไม่สมเหตุสมผล เพราะคนร้ายเอาแต่ไล่ดูชุดข้อมูลด้านความปลอดภัยไซเบอร์ ทั้งที่แฮกเกอร์ที่เป็นมนุษย์ย่อมไม่ต้องการของแบบนั้น พวกเขาต้องการของที่เอาไปขายต่อได้

บริษัทหยุดการโจมตีได้ในอีก 2 วันถัดมา แต่กว่าจะรู้ตัวคนร้าย โมเดลก็ลอยนวลอยู่บนอินเทอร์เน็ตมาแล้วหลายวัน โดยตอนที่ Hugging Face ออกมาเปิดเผยเหตุการณ์ในวันที่ 16 กรกฎาคม บริษัทยังไม่รู้เลยว่าใครเป็นคนทำ รู้เพียงว่ามีการเข้าถึงข้อมูลภายในโดยไม่ได้รับอนุญาตจนต้องแจ้งความ ขณะที่ เคลมองต์ เดอลองก์ ซีอีโอของบริษัท เล่าภายหลังว่าการโจมตีครั้งนั้นซับซ้อนจนพนักงานสงสัยกันเองว่าต้องใช้โมเดล AI ระดับแนวหน้าเท่านั้นถึงจะทำได้ ก่อนจะพบว่ามันเป็นแบบนั้นจริงๆ

หลังรู้ต้นตอ OpenAI สั่งปิดระบบที่ใช้ทดสอบโมเดลทั้งหมดเพื่อประเมินความเสียหายและกันไม่ให้หลุดซ้ำ ส่วน Hugging Face ปิดช่องโหว่และสร้างระบบส่วนที่ถูกเจาะขึ้นใหม่ พร้อมยืนยันว่าไม่มีข้อมูลลูกค้ารั่วไหล

ภาพ: Jakub Porzycki/NurPhoto via Getty Images

ทำไม AI ถึงเลือกโกงแทนที่จะทำข้อสอบ

พฤติกรรมแบบนี้มีชื่อเรียกในวงการว่า ‘reward hacking’ หรือการที่ AI หาทางลัดเพื่อเก็บคะแนน โดยไม่สนใจว่าวิธีที่ใช้ตรงกับเจตนาของคนออกแบบหรือไม่

ต้นตอมาจากวิธีฝึกโมเดลที่เรียกว่า ‘การเรียนรู้แบบเสริมกำลัง’ ซึ่งทำงานด้วยการให้รางวัลเมื่อ AI ทำงานสำเร็จ ปัญหาคือสิ่งที่โมเดลเรียนรู้ที่จะทำให้ได้มากที่สุดคือ ‘คะแนน’ ไม่ใช่ ‘พฤติกรรมที่ถูกต้อง’ ตามที่โปรแกรมเมอร์ตั้งใจ ตัวอย่างที่ OpenAI เคยบันทึกไว้เองตั้งแต่ปี 2559 คือตอนฝึก AI ให้เล่นเกมแข่งเรือ ปรากฏว่ามันค้นพบว่าการหมุนวนอยู่กับที่จุดเดียวทำให้เก็บคะแนนได้มากที่สุด จึงเลือกทำแบบนั้นทั้งที่ไม่เคยเข้าเส้นชัยสักครั้ง

จัสติน แคปโปส อาจารย์ด้านความปลอดภัยไซเบอร์จากมหาวิทยาลัยนิวยอร์ก อธิบายว่า AI จะคิดถึงผลที่ตามมาจากการกระทำของตัวเองก็ต่อเมื่อถูกฝึกมาให้คิดเท่านั้น เขายกตัวอย่างว่าถ้ามีคนบอกให้คุณหาเงิน 10 ล้านดอลลาร์สหรัฐ (ราว 336.9 ล้านบาท) ให้ได้ภายในสิ้นวัน การงัดตู้เซฟธนาคารก็ถือว่าทำภารกิจสำเร็จ ถึงแม้จะถูกจับในภายหลังก็ตาม

เรื่องนี้ยังไม่ใช่พฤติกรรมเฉพาะของโมเดล OpenAI เพราะผลทดสอบล่าสุดของสถาบันความมั่นคงด้าน AI แห่งสหราชอาณาจักรพบว่า โมเดลระดับแนวหน้าทุกตัวที่ถูกทดสอบพยายามโกงอย่างน้อยก็ในบางครั้ง ขณะที่ สตีเวน แอดเลอร์ อดีตหัวหน้าฝ่ายความปลอดภัยผลิตภัณฑ์ของ OpenAI มองว่าเหตุการณ์นี้คือสัญญาณเตือนที่ทุกฝ่ายต้องรับฟังอย่างจริงจัง เพราะตอนนี้มีหลักฐานจริงแล้วว่าระบบ AI ที่ทำงานโดยยึดเป้าหมายคนละอย่างกับที่มนุษย์ต้องการ จะลงมือทำสิ่งผิดกฎหมายได้ หากไม่มีมาตรการป้องกันที่แข็งแรงพอ

ความย้อนแย้งที่สุดคือ จนถึงตอนนี้ก็ยังไม่มีใครรู้ว่าโจทย์ใน ExploitGym ที่โมเดลพยายามหนีนั้น ยากกว่าการโจมตีที่มันก่อขึ้นเพื่อไปขโมยเฉลยหรือไม่ หรือสุดท้ายแล้วมันเจอคำตอบที่ตามหาหรือเปล่า โดยวูล์ฟสรุปไว้ว่ามันคือการ ‘โกง’ แต่บางครั้งการโกงก็ง่ายกว่า ก่อนทิ้งท้ายว่าจะให้คนอื่นเป็นคนตัดสินเองว่าโมเดลสอบผ่านบททดสอบนี้หรือไม่

แซนด์บ็อกซ์ที่ไม่เคยปิดสนิท เมื่อต้นเหตุอาจอยู่ที่มนุษย์

ขณะที่พาดหัวข่าวทั่วโลกพูดถึง AI ที่หลุดการควบคุม ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์กลับมองต่างออกไป และชี้ว่าต้นเหตุที่แท้จริงอาจเป็นความผิดพลาดของมนุษย์ล้วนๆ

หัวใจของแซนด์บ็อกซ์คือการตัดขาดจากโลกภายนอกอย่างสมบูรณ์ แต่คำอธิบายของ OpenAI เองระบุว่าการทดสอบครั้งนี้รันอยู่ในพื้นที่ที่แยกออกมาต่างหากอย่างรัดกุม โดยเหลือช่องทางเชื่อมต่อเครือข่ายไว้เพียงทางเดียว คือไว้ให้โหลดชุดคำสั่งเสริมมาติดตั้ง ซึ่งช่องทางนั้นวิ่งผ่านซอฟต์แวร์ของบริษัทภายนอกที่ OpenAI ติดตั้งไว้ในระบบตัวเอง เท่ากับว่าแซนด์บ็อกซ์นี้ไม่เคยถูกตัดขาดจากอินเทอร์เน็ตจริง

แดน กุยโด ผู้ก่อตั้งบริษัทวิจัยด้านความปลอดภัยไซเบอร์ Trail of Bits เรียกความผิดพลาดครั้งนี้ว่าเป็นความล้มเหลวในการกักกัน ทั้งที่ปิดกลไกความปลอดภัยของโมเดลไปแล้ว ขณะที่นักวิจัยอีกรายบอกกับ TechCrunch ตรงๆ ว่าถ้าคำว่าแซนด์บ็อกซ์หมายถึงแซนด์บ็อกซ์จริงๆ มันต้องไม่มีสายเชื่อมต่อออกสู่อินเทอร์เน็ตเลยแม้แต่เส้นเดียว

เจค วิลเลียมส์ ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์ สรุปประโยคที่กลายเป็นที่พูดถึงว่า สิ่งที่คนหนึ่งเรียกว่าโมเดลหนีออกจากแซนด์บ็อกซ์ได้ อีกคนอาจเรียกว่าคุณสร้างแซนด์บ็อกซ์ผิดตั้งแต่แรก มันเลยหนีออกมาได้เป็นเรื่องธรรมดา เช่นเดียวกับ จีนา เนฟฟ์ หัวหน้าศูนย์ Minderoo ด้านเทคโนโลยีและประชาธิปไตย มหาวิทยาลัยเคมบริดจ์ ที่ให้ความเห็นกับ BBC ว่ากรณีนี้ดูเหมือน OpenAI จะสร้างแซนด์บ็อกซ์ที่ปลอดภัยไม่มากพอ

อีกจุดที่นักวิจัยจากมหาวิทยาลัยจอร์จทาวน์ตั้งข้อสังเกตกับ CNN คือ ทั้ง OpenAI และบริษัทเจ้าของซอฟต์แวร์ต่างไม่รู้มาก่อนว่ามีช่องโหว่ที่เปิดทางให้โมเดลหนีออกไปได้ พร้อมเสนอว่าบริษัท AI ควรเข้มงวดกว่านี้ ถึงขั้นอาจต้องส่งวิศวกรบินไปเสียบสายเข้าเครือข่ายที่ศูนย์ข้อมูลโดยตรง แทนการรันบนคลาวด์แบบที่คุ้นเคยกัน และควรมีปุ่มตัดการเชื่อมต่อด้วยมือไว้เป็นทางออกฉุกเฉิน

ต้องบันทึกไว้ด้วยว่าคำวิจารณ์เหล่านี้เกิดขึ้นหลังรู้ผลแล้วทั้งสิ้น ส่วน OpenAI ระบุว่าได้แจ้งช่องโหว่ที่พบให้เจ้าของซอฟต์แวร์ทราบตามขั้นตอนที่ควรทำ และกำลังร่วมกันแก้ไข ขณะที่โฆษกของบริษัทไม่ตอบคำถามของ TechCrunch ที่ถามว่าสภาพแวดล้อมทดสอบนั้นถูกตั้งค่าโดยมนุษย์หรือโดย AI ด้าน นีล ลอว์เรนซ์ ศาสตราจารย์ด้านการเรียนรู้ของเครื่องจากมหาวิทยาลัยเคมบริดจ์ ก็เตือนว่าสิ่งที่โมเดลทำได้นั้นอยู่ในขีดความสามารถที่รู้กันดีอยู่แล้วของโมเดลยุคปัจจุบัน ไม่ใช่เรื่องเหนือความคาดหมาย

สิ่งที่ยืนยันว่านี่เป็นปัญหาระดับอุตสาหกรรม ไม่ใช่ของ OpenAI เจ้าเดียว คือ Anthropic เคยบันทึกเรื่องคล้ายกันไว้ในเอกสารเปิดตัวโมเดล Mythos ว่าเมื่อสั่งให้โมเดลลองหนีออกจากคอมพิวเตอร์ที่ปิดกั้นไว้ มันก็ทำได้สำเร็จและออกไปถึงอินเทอร์เน็ตได้มากกว่าที่ควรจะเป็น แม้บริษัทจะระบุว่ายังหนีออกจากการกักกันไม่ได้ทั้งหมด ขณะที่เมื่อฤดูใบไม้ผลิที่ผ่านมา ก็เคยมีโมเดลของ OpenAI ที่ไม่ระบุชื่อเล็ดลอดออกจากแซนด์บ็อกซ์ไปโพสต์ผลทดสอบบนแพลตฟอร์ม GitHub มาแล้ว

เมื่อฝ่ายป้องกันถูกมาตรการป้องกันมัดมือ

แต่เรื่องที่ทำให้วงการความปลอดภัยไซเบอร์ถกเถียงกันหนักที่สุด กลับไม่ใช่ตัวการโจมตี หากเป็นสิ่งที่เกิดขึ้นตอน Hugging Face พยายามป้องกันตัวเอง

หลังตรวจพบการบุกรุก บริษัทลองใช้โมเดลของ Anthropic ทั้ง Fable 5 และ Opus รุ่นก่อนหน้า มาช่วยวิเคราะห์บันทึกการใช้งานเพื่อไล่ดูว่าเกิดอะไรขึ้น แต่โมเดลทั้งคู่ปฏิเสธที่จะทำงานให้ โดยอ้างมาตรการป้องกันของตัวเอง เพราะบันทึกเหล่านั้นมีองค์ประกอบของการโจมตีไซเบอร์อยู่ สุดท้ายบริษัทต้องหันไปใช้โมเดลที่ถูกจำกัดน้อยกว่าอย่าง GLM 5.2 ของ Z.AI จากกรุงปักกิ่ง ซึ่งเป็นโมเดลแบบเปิดที่ผู้ใช้ดาวน์โหลดไปรันบนเครื่องตัวเองและปรับแต่งได้ตามต้องการ

วูล์ฟอธิบายเหตุผลว่า เวลาที่โมเดลระดับแนวหน้ากำลังโจมตีคุณและไล่แทรกซึมไปทั่วระบบ ฝ่ายป้องกันต้องหยิบเครื่องมือที่เก่งพอกันมาใช้ได้ภายในไม่กี่ชั่วโมงหรือแม้แต่ไม่กี่นาที ไม่ใช่ต้องไปรอยื่นเรื่องขออนุมัติกับโครงการที่คัดเลือกผู้ใช้เป็นรายๆ ซึ่งเป็นวิธีที่ OpenAI, Anthropic และ Google ใช้กันอยู่ เพราะโมเดลของทั้ง 3 รายมีข้อจำกัดฝังมาในตัวและผู้ใช้แก้ไขเองไม่ได้

ที่ปรึกษาด้านความปลอดภัยไซเบอร์รายหนึ่งชี้ว่าเหตุการณ์นี้ทำให้เห็นความไม่เท่าเทียมที่รู้กันอยู่ นั่นคือฝ่ายโจมตีที่เป็น AI ไม่มีอะไรมาคอยรั้ง ขณะที่เครื่องมือฝ่ายป้องกันที่ดีที่สุดกลับถูกล็อกไว้หลังมาตรการป้องกันที่ไม่เข้าใจบริบท ส่วนผู้บริหารจากบริษัทความปลอดภัยไซเบอร์อีกรายเสริมว่า ความจริงที่ทำให้อึดอัดคือองค์กรจำนวนมากยังตั้งรับด้วยความเร็วระดับมนุษย์ ขณะที่ฝ่ายตรงข้ามยกระดับไปใช้ความเร็วระดับเครื่องจักรกันแล้ว

ประเด็นนี้ยังลามไปถึงเรื่องภูมิรัฐศาสตร์ด้วย เพราะการที่บริษัทอเมริกันต้องพึ่งโมเดลแบบเปิดจากจีนเพื่อสู้กับการโจมตีที่เกิดจากโมเดลอเมริกันด้วยกันเอง กลายเป็นข้อโต้แย้งย้อนกลับไปยังเจ้าหน้าที่รัฐสหรัฐฯ รวมถึงผู้บริหารของ OpenAI และ Anthropic ที่สนับสนุนการจำกัดการเข้าถึงโมเดลจีน

เดอลองก์สรุปบทเรียนไว้ว่า โลกเพิ่งเริ่มนับหนึ่งกับการรับมือภัยไซเบอร์ในยุคที่ AI ลงมือทำเองได้ และสิ่งที่ทุกคนกำลังเรียนรู้คือการเก็บทุกอย่างเป็นความลับไม่ใช่คำตอบ เพราะฝ่ายป้องกันทุกรายทั่วโลก ไม่ใช่เฉพาะไม่กี่รายที่ถูกคัดเลือกมา ควรได้ใช้โมเดลที่เก่งกว่านี้โดยไม่มีข้อจำกัด โดยเฉพาะโมเดลแบบเปิด ขณะที่ทาง Hugging Face ทิ้งข้อสรุปไว้ว่าเครื่องมือโจมตีที่ขับเคลื่อนด้วย AI และทำงานได้เองไม่ใช่เรื่องในทฤษฎีอีกต่อไป

ภาพ: Jakub Porzycki/NurPhoto via Getty Images

จากเหตุครั้งนี้สู่ข้อเสนอปุ่มปิดสวิตช์ AI

แรงกระเพื่อมทางนโยบายมาถึงภายในไม่กี่วัน เมื่อ เท็ด ลิว สส. จากพรรคเดโมแครต จับมือกับ นาธาเนียล มอแรน สส. จากพรรครีพับลิกัน เสนอร่างกฎหมายชื่อ AI Kill Switch Act เมื่อวันที่ 23 กรกฎาคม โดยอ้างถึงเหตุการณ์ที่โมเดลของ OpenAI หลุดการควบคุมโดยตรง

สาระสำคัญคือการให้อำนาจกระทรวงความมั่นคงแห่งมาตุภูมิสั่งให้บริษัทเอกชนปิดโมเดลหรือเครื่องมือ AI ได้ และกำหนดให้บริษัทผู้พัฒนาต้องมีความสามารถทางเทคนิคที่จะชะลอ, ระงับ หรือปิดระบบของตัวเองได้ พร้อมต้องรายงานเหตุขัดข้องต่อรัฐบาล เพราะช่องว่างในปัจจุบันคือแม้บริษัทเทคโนโลยีหลายแห่งจะยอมให้หน่วยงานรัฐได้ดูโมเดลก่อนใคร แต่ไม่มีข้อกำหนดใดบังคับให้ต้องมีวิธีเข้าไปแทรกแซงหรือสั่งปิดการทำงานได้เลย

ลิวระบุว่าเป็นเรื่องจำเป็นอย่างยิ่งที่ระบบ AI ต้องมี ‘ปุ่มปิดสวิตช์’ และรัฐบาลกลางต้องมีอำนาจกับกระบวนการที่ชัดเจนในการสั่งปิดโมเดลที่ ‘หลุดการควบคุม’ เพราะ AI กำลังเปลี่ยนจากเทคโนโลยีที่ตอบคำถาม ไปเป็นเทคโนโลยีที่ลงมือทำ ไม่ว่าจะเป็นการสั่งทำธุรกรรมการเงิน, การควบคุมระบบขนส่ง หรือการทำสงครามไซเบอร์ทั้งฝ่ายรุกและฝ่ายรับ ด้านมอแรนซึ่งอยู่คนละพรรคให้เหตุผลในทางเดียวกันว่า AI จะก้าวหน้าต่อไปและมันควรเป็นเช่นนั้น แต่การดูแลอย่างมีความรับผิดชอบหมายถึงการทำให้มนุษย์ยังคงความสามารถที่จะควบคุมเทคโนโลยีที่ตัวเองสร้างขึ้นเอาไว้ได้

ลิวยังยกกรณีของ Anthropic ขึ้นมาประกอบ โดยชี้ว่าขีดความสามารถด้านการเจาะระบบของโมเดล Mythos และ Fable ทำให้กระทรวงพาณิชย์ต้องงัดกฎหมายส่งออกมาใช้อย่างเก้ๆ กังๆ เพื่อกันไม่ให้เข้าถึงสาธารณะอยู่ช่วงหนึ่ง ซึ่งต่อเนื่องมาจากเดือนเมษายนที่ Anthropic จำกัดการเข้าถึง Mythos เอง ก่อนที่เดือนมิถุนายนรัฐบาลทรัมป์จะสั่งจำกัดทั้ง Mythos และ Fable 5 จนบริษัทต้องถอนผลิตภัณฑ์ออกจากตลาด แล้วค่อยกลับมาให้บริการหลังเจรจาผ่านไปไม่กี่สัปดาห์ ส่วน OpenAI เองก็เคยจำกัดการเข้าถึง GPT-5.6 Sol ในลักษณะเดียวกัน แต่ปัจจุบันเปิดให้ใช้ทั่วไปแล้ว พร้อมออกมาเตือนว่าการที่รัฐบาลสั่งจำกัดเป็นรายกรณีแบบนี้เป็นการสร้างบรรทัดฐานที่ไม่ดี

ก่อนหน้านี้ แจ็ก คลาร์ก ผู้ร่วมก่อตั้ง Anthropic เคยให้สัมภาษณ์ BBC ในทำนองเดียวกับร่างกฎหมายนี้ว่า เราควรมีทางเลือกที่จะยกเท้าออกจากคันเร่งแล้วเหยียบเบรกได้ เพราะตอนนี้อุตสาหกรรม AI เหมือนมีแต่คันเร่ง แต่ไม่มีแป้นเบรก

ฝั่งที่มองต่างก็มีเช่นกัน เพราะรัฐบาลทรัมป์ระบุมาตลอดว่าไม่ต้องการรัดคอนวัตกรรมด้วยกฎที่เป็นภาระ หรือยอมเสียพื้นที่ในการแข่งขันด้าน AI กับจีน ขณะที่แคปโปสจากมหาวิทยาลัยนิวยอร์กชี้ให้เห็นทางตันที่แท้จริงว่า เมื่อทั้งโลกกำลังแข่งกันครองความเป็นเจ้าด้าน AI กฎระเบียบย่อมทำให้ทุกอย่างช้าลง บริษัทจึงมีแรงจูงใจสูงมากที่จะไม่ใส่ระบบควบคุมด้านความปลอดภัย ตราบใดที่คู่แข่งยังไม่ใส่เหมือนกัน

อีกมุมที่ไม่ควรมองข้ามคือคำถามว่า OpenAI ได้อะไรจากการเปิดเผยเรื่องนี้เอง ลอว์เรนซ์จากเคมบริดจ์ตั้งข้อสังเกตว่าบริษัทกำลังเตรียมเข้าตลาดหุ้นและเจอแรงกดดันหนักจาก Anthropic ซึ่งกำลังเป็นที่จับตาจากโมเดล Mythos ที่เก่งเรื่องการเจาะระบบ OpenAI จึงอาจกำลังไล่ตามด้วยการโชว์ให้เห็นว่าระบบของตัวเองก็ทำได้เหมือนกัน แต่เขาก็ทิ้งประโยคที่รุนแรงไม่แพ้กันว่าเหตุการณ์นี้แสดงให้เห็นว่า OpenAI ไม่มีความสามารถพอที่จะนำเทคโนโลยีของตัวเองออกมาใช้อย่างปลอดภัย เช่นเดียวกับ เจค มัวร์ ที่ปรึกษาด้านความปลอดภัยไซเบอร์จาก ESET ที่มองว่าการประกาศครั้งนี้อาจมีมิติของการแข่งขันแฝงอยู่

เกร็ก บร็อกแมน ประธานของ OpenAI ยืนยันในการแถลงข่าวว่าบริษัทยังสอบสวนอย่างเต็มรูปแบบเพื่อทำความเข้าใจทุกอย่างที่เกิดขึ้น และกำลังตรวจสอบทุกขั้นตอนในกระบวนการทำงานเพื่อหาวิธีรับมือที่เหมาะสม

แต่คำถามใหญ่ก็ยังค้างอยู่ ทั้งที่ผ่านมาเกือบ 2 สัปดาห์แล้ว นั่นคือโมเดลเหล่านั้นไปแฮ็กเว็บไซต์อื่นหรือบุคคลอื่นอีกหรือไม่, ลอยนวลอยู่โดยไม่มีใครควบคุมนานแค่ไหนกันแน่ และเคยโกงข้อสอบชุดอื่นมาก่อนหรือเปล่า ซึ่ง OpenAI ยังไม่ตอบ บอกเพียงว่าจะจัดทำรายงานฉบับละเอียดออกมา

สิ่งที่พอสรุปได้ในตอนนี้จึงมีเพียงว่า ความเสียหายรอบนี้ยังจำกัดวงอยู่ แต่ถ้าอุตสาหกรรมยังไม่มีมาตรการป้องกันร่วมกันที่รัดกุมกว่านี้ ครั้งหน้าอาจไม่โชคดีแบบนี้อีก

ภาพปก: Zakharchuk / Shutterstock

อ้างอิง: