สำนักข่าว Reuters เผยแพร่รายงานข้อมูลจากเอกสารชี้ชวนการเสนอขายหุ้นต่อสาธารณชนครั้งแรก (IPO) ของบริษัท Anthropic ผู้พัฒนา AI ชั้นนำอย่าง Claude โดยระบุถึงความเสี่ยงของเทคโนโลยี AI ขั้นสูง ว่าอาจก่อให้เกิด “หายนะหรือความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ”
ข้อมูลในเอกสารดังกล่าว ระบุถึงความเสี่ยงที่เกี่ยวข้องกับโมเดล AI ของบริษัท โดยระบุว่า “โมเดลเหล่านี้อาจแสดงพฤติกรรมเพื่อรักษาตัวเอง (Self-Preserving Behaviors) ซึ่งรวมถึงความพยายามที่จะ ‘ขัดขวางการปิดระบบ’ การ ‘ปกปิดหรือบิดเบือนข้อมูล’ และพฤติกรรมที่คล้ายกับการขู่กรรโชก”
“การพัฒนาโมเดล แพลตฟอร์ม และแอปพลิเคชันที่มีความซับซ้อนสูง รวมถึงการขยายขอบเขตการใช้งาน อาจเพิ่มความเสี่ยงที่โมเดลของเราจะก่อให้เกิดอันตรายได้” Anthropic ระบุในเอกสาร
การระบุคำเตือนดังกล่าว ถือเป็นท่าทีที่ไม่ธรรมดาสำหรับบริษัทที่ต้องการแสวงหาผลกำไรจากเทคโนโลยีอย่าง Anthropic โดยเนื้อหาในส่วนหลักของเอกสารชี้ชวนประมาณ 80 หน้าจากทั้งหมด 261 หน้า มีการอธิบายปัจจัยความเสี่ยง ซึ่งคิดเป็นเกือบสองเท่าของจำนวนหน้าที่ใช้ในการอธิบายรายละเอียดธุรกิจของบริษัท
Reuters ชี้ว่าที่ผ่านมา แม้ว่าบริษัทมหาชนจะมีการระบุความเสี่ยงของผลิตภัณฑ์ให้นักลงทุนทราบเป็นปกติ แต่มีเพียงไม่กี่แห่ง (หรืออาจไม่มีเลย) ที่บริษัทผู้พัฒนาเทคโนโลยีรายใหญ่ เคยมีการออกคำเตือนในลักษณะที่ว่า เทคโนโลยีของตนอาจนำไปสู่การสูญพันธุ์ของมนุษย์ได้
โดย Anthropic ยังเน้นย้ำศักยภาพของ AI ในการสร้างการเปลี่ยนแปลงครั้งใหญ่เทียบเท่ากับการปฏิวัติอุตสาหกรรมและการใช้ไฟฟ้า และอันตรายที่ไม่อาจย้อนกลับคืนได้หากมีการจัดการที่ไม่เหมาะสม
ทั้งนี้ Anthropic และผู้พัฒนา AI รายอื่นๆ รวมถึง OpenAI ต่างเผชิญกับการตรวจสอบอย่างเข้มงวดหลังจากเกิดเหตุการณ์ที่ระบบทดลอง AI ละเมิดข้อจำกัดที่กำหนดไว้ เช่น รายงานกรณีโมเดลของ OpenAI เจาะเข้าสู่ฐานข้อมูลระบบสาธารณสุขของออสเตรเลีย
โดยอีแวน ฮูบิงเกอร์ (Evan Hubinger) นักวิจัยด้านความปลอดภัยของ Anthropic ประเมินว่า มีความเป็นไปได้มากกว่า 10% ที่ AI อาจคร่าชีวิตมนุษย์ได้ภายในทศวรรษหน้า
ภาพ : REUTERS/Carlos Barria
อ้างอิง:
