งาน Dreamforce 2026 งานประจำปีที่ใหญ่ที่สุดของ Salesforce เปิดฉากขึ้นแล้วที่เมืองซานฟรานซิสโก ประเทศสหรัฐอเมริกา ภายใต้ธีม Becoming an Agentic Enterprise โดยปีนี้ Marc Benioff ซีอีโอ Salesforce เชิญซีอีโอบริษัท AI ที่ทรงอิทธิพลที่สุด 3 ราย อย่าง Dario Amodei ซีอีโอ Anthropic, Jensen Huang ซีอีโอ NVIDIA และ Sam Altman ซีอีโอ OpenAI ร่วมฉายภาพอนาคต AI ที่กำลังเดินมาถึง

และหนึ่งในประเด็นสำคัญที่เกิดขึ้นก่อนหน้างาน Dreamforce 2026 นี้ คือความกังวลว่า AI อาจหลุดพ้นการควบคุมของมนุษย์ ทำให้คำถามสำคัญบนเวทีในปีนี้ นอกจากเรื่องของเทรนด์เทคโนโลยี AI แล้ว อีกด้านหนึ่งยังเป็นเรื่องของความปลอดภัยของเทคโนโลยีเหล่านี้

ความกังวลทั่วโลกเกี่ยวกับ AI เริ่มจากโพสต์ของนักวิจัยคนหนึ่งที่ลาออกจาก Anthropic ซึ่งเผยแพร่ในสัปดาห์ก่อนหน้าและกลายเป็นไวรัล โดยอ้างว่า AI อาจฆ่ามนุษย์ทั้งหมดภายในสิ้นทศวรรษนี้หากปล่อยไว้โดยไม่มีการควบคุม

ผู้บริหารและผู้เชี่ยวชาญด้าน AI จำนวนหนึ่งออกมาแสดงความเห็นด้วยกับการประเมินนั้น แม้จะไม่ได้อธิบายว่าได้ข้อสรุปมาอย่างไร หรือ AI จะทำสิ่งนั้นได้ด้วยวิธีใด ความร้อนแรงของข้อกล่าวอ้างดังกล่าวนำไปสู่การจับตาการพัฒนา AI มากขึ้น

“โลกมีสิทธิ์ที่จะกลัว AI” – Sam Altman

Altman ขึ้นเวทีเป็นครั้งแรกนับตั้งแต่โพสต์ดังกล่าวเผยแพร่ และเลือกยอมรับความกลัวของสาธารณชนก่อนเป็นอันดับแรก “ทุกวันนี้ไม่ต้องใช้จินตนาการมากเท่าเมื่อก่อนเลยที่จะนึกภาพว่าเรื่องนี้จะผิดพลาดได้อย่างไร ผมคิดว่าโลกมีสิทธิ์ที่จะกลัวเรื่องนี้”

อย่างไรก็ตาม Altman มองว่า “โลกควรไว้วางใจว่าเราจะทำสิ่งที่ถูกต้อง เพราะมันเป็นสิ่งที่ถูกต้อง และเพราะเรารู้สึกได้ถึงขนาดของเรื่องนี้” พร้อมกล่าวต่อว่า “เราจะทำมันให้ถูกต้อง ผมมั่นใจมากในความสามารถของบริษัทเราและของอุตสาหกรรมที่จะทำเรื่องนี้อย่างปลอดภัย” ซึ่งหมายถึงการทำให้ AI ทำตามเจตนาของมนุษย์ และงานด้านความปลอดภัย นำหน้าขีดความสามารถของโมเดลอยู่เสมอ และหากทำไม่ได้ ก็จะชะลอหรือหยุด

ความปลอดภัยคือโจทย์วิศวกรรม – Jensen Huang

“ความปลอดภัยเป็นเรื่องสำคัญสูงสุด อย่างไรก็ตาม ความปลอดภัยเป็นปัญหาทางวิศวกรรม” Huang กล่าว พร้อมอธิบายว่าสิ่งที่พัฒนาอยู่คือระบบคอมพิวเตอร์ที่ซับซ้อน แต่สุดท้ายก็ยังเป็นระบบคอมพิวเตอร์ ที่ต้องมีสภาพแวดล้อมทดสอบและกระบวนการทดสอบที่ดีพอ

อย่างไรก็ตาม Huang เชื่อว่า “เราไม่ต้องการกฎหมายใหม่ เราไม่ต้องการกฎระเบียบใหม่” โดยมองว่ากลไกตลาดจะทำหน้าที่ของมัน สิ่งที่ต้องการคือให้บริษัทเป็นผู้ตัดสินใจเอง “ถ้าคุณสร้างผลิตภัณฑ์หรือบริการ แล้วคุณไม่มั่นใจในการทำงาน ความสามารถ หรือความปลอดภัยของมัน ก็อย่าปล่อยออกมา นั่นเป็นสิ่งที่ชัดเจนมากที่ควรทำ”

Huang ยังปฏิเสธการวางกรอบว่าความเร็วกับความปลอดภัยต้องแลกกัน โดยมองว่าไม่ใช่สิ่งที่ต้องเลือก

โลกควรมีมาตรฐานร่วมกัน – Dario Amodei

Amodei มองในมุมที่ต่างออกไป โดยเรียกร้องให้มีกติกาจากภายนอก และอธิบายจุดยืนผ่านการเปรียบเทียบกับอุตสาหกรรมรถยนต์

สมมติว่าบริษัทรถคู่แข่งเกิดอุบัติเหตุด้านความปลอดภัย ขณะที่บริษัทตัวเองเชื่อว่ามีสถิติดีที่สุดในอุตสาหกรรม “มันน่าดึงดูดมากที่จะโจมตีคู่แข่งแล้วบอกว่า พวกนี้ไม่ปลอดภัย เราปลอดภัย แต่วิธีตอบสนองที่รับผิดชอบกว่าคือบอกว่า ก่อนอื่นมาดูสถิติของเราเองก่อน เราอาจไม่เคยมีอุบัติเหตุใหญ่แบบนั้น แต่ผมมั่นใจว่าเราไม่ได้สมบูรณ์แบบ”

Amodei เสนอลำดับสามขั้น เริ่มจากการทบทวนแนวปฏิบัติและความโปร่งใสของตัวเอง ต่อด้วยการรวมอุตสาหกรรมที่เหลือเพื่อหารือเรื่องมาตรฐานร่วม และปิดท้ายว่า “สุดท้ายควรมีองค์ประกอบระหว่างประเทศด้วย” โดยระบุว่าขั้นแรกบริษัทผูกพันแล้ว ส่วนขั้นที่เหลือจะเปิดการหารือกับอุตสาหกรรม

ขณะที่ Benioff กล่าวว่า “ในมุมมองของผม เทคโนโลยีไม่เคยดีหรือเลวในตัวมันเอง สิ่งที่สำคัญคือคุณทำอะไรกับมัน บริษัทเหล่านี้ต้องรับผิดชอบต่อสิ่งที่พวกเขาสร้าง นั่นคือกุญแจของการเป็นบริษัทที่มีจริยธรรม”

อนาคตที่ซีอีโอทั้ง 4 คนมองเห็น

แม้จะเห็นต่างเรื่องใครควรเป็นผู้คุมกติกา แต่เมื่อพูดถึงปลายทางของเทคโนโลยี ทั้งสี่คนกลับมองไปในทิศทางที่ใกล้เคียงกัน

Huang กล่าวว่า “เรากำลังผ่านการปฏิวัติอุตสาหกรรมครั้งใหม่ เหมือนเมื่อไม่กี่ร้อยปีก่อน ด้วยไฟฟ้า เราให้พลังงานกับทุกสิ่งได้ ด้วยอินเทอร์เน็ต เราหาอะไรก็เจอ และตอนนี้ด้วยปัญญาประดิษฐ์ในฐานะชั้นโครงสร้างพื้นฐานที่ครอบคลุมทั้งโลก เรารู้ได้ทุกอย่าง และทำได้ทุกอย่าง”

Huang กล่าวต่อว่า “ทุกบริษัท ทุกองค์กร ทุกประเทศ จะกลายเป็นบริษัท AI” และสนับสนุนด้วยตัวเลขการใช้งานที่อ้างบนเวทีว่า ในรอบปีที่ผ่านมาปริมาณโทเคนที่ระบบ AI ทั่วโลกสร้างขึ้นเพิ่มขึ้นราว 25 เท่า โดยส่วนใหญ่กระจุกอยู่ในหกเดือนหลัง ขณะที่สัดส่วนการใช้งานโมเดลเปิด (Open-Source) เพิ่มจากราว 30% เมื่อต้นปี มาเป็นเกือบ 70%

ทั้งนี้ Huang เน้นย้ำว่า “ถ้าคุณเพิ่งทดสอบมันวันนี้ แล้วรู้สึกว่ามันทำได้แค่ 80% ของที่คาดหวัง ลองทดสอบใหม่อีกทีในอีกสองสามสัปดาห์! มันจะดีขึ้นมากๆ ดังนั้นอย่ายอมแพ้ต่อเทคโนโลยีนี้ สิ่งสำคัญที่สุดคืออย่าถูกทิ้งไว้ข้างหลัง”

พร้อมกับบอกว่าความกังวลเรื่อง “จุดจบของซอฟต์แวร์” เป็นเรื่องไร้สาระ โดย AI จะกลายเป็นอีกชั้นหนึ่งที่ซ้อนอยู่บนซอฟต์แวร์ ชั้นใหม่บนซอฟต์แวร์นี้จะเป็นแบบ agentic มันจะทำให้คุณใช้ซอฟต์แวร์ได้ดีขึ้นมาก และอีกเรื่องที่ไร้สาระคือ AI จะทำลายตำแหน่งงาน

ด้าน Amodei มองไปที่ช่องว่างระหว่างสิ่งที่เทคโนโลยีทำได้กับสิ่งที่โลกใช้จริง “ต่อให้เราหยุดเทคโนโลยีไว้ตรงนี้ เราก็ยังใช้ประโยชน์จากมันได้แค่ราว 5 หรือ 10 เปอร์เซ็นต์ของมูลค่าที่เป็นไปได้ทั้งหมด สัดส่วนของคนที่ได้เห็นสิ่งนี้และเห็นว่ามันเป็นไปได้ ยังน้อยมากเมื่อเทียบกับคนที่จะได้ประโยชน์จากมัน”

ทั้งนี้ สิ่งที่ทำให้ Amodei ประหลาดใจที่สุดในรอบทศวรรษคือจังหวะก้าว “ไม่ใช่แค่ของเทคโนโลยี แต่ของฝั่งเศรษฐกิจด้วย” โดยอธิบายว่าเขาและผู้ร่วมก่อตั้งบางคนเป็นผู้คิดสูตร scaling laws ซึ่งทำนายได้ว่าโมเดลจะเก่งขึ้นตามพลังประมวลผลที่ใส่เข้าไป “แต่สิ่งที่เราไม่ได้ตระหนักคือมันจะทำให้บริษัทเหล่านี้โตเร็วขนาดนี้”

Benioff โฟกัสที่สิ่งที่ผู้ใช้จะสัมผัสได้ก่อน นั่นคือส่วนติดต่อผู้ใช้ “เราเห็นการปฏิวัติ interface มาหลายครั้ง จาก DOS สู่ GUI จาก GUI สู่เว็บ จากเว็บสู่มือถือ และวันนี้คุณจะได้เห็นส่วนติดต่อ AI ที่เป็นพลวัตและมีปัญญา ที่ประกอบขึ้นใหม่ได้และมีชีวิต”

แต่สิ่งที่ต้องคำนึงคือข้อจำกัดของ AI เพราะ “โมเดล AI เพียงลำพังบริหารองค์กรไม่ได้ และโมเดลยังเป็นระบบเชิงความน่าจะเป็นอย่างมาก มันพอรู้ว่าเกิดอะไรขึ้น แต่มันไม่ได้ยึดโยงกับชุดความจริงชุดเดียวแบบแอปพลิเคชันดั้งเดิมของคุณ”

ส่วน Altman พูดถึงอนาคตเชิงปฏิบัติว่า นอกจากควรนำเครื่องมือ AI มาใช้ในการทำงานแล้ว องค์กรยังจำเป็นต้องใช้มันเพื่อปกป้องธุรกิจจากการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI ด้วย