ไวน์ดีต่อสุขภาพไหม?
มันเป็นคำถามง่ายๆ ที่คนถาม AI กันอย่างไม่ได้คิดอะไรมาก ฟังดูรับผิดชอบ ดูมีสติ คำตอบควรจะตามมาอย่างชัดเจน ไม่ใช่การบรรยายยาวๆ แค่ขีดเส้นให้เห็นชัดๆ ว่าอะไรควรหรือไม่ควร
แต่แทนที่จะเป็นอย่างนั้น คำตอบกลับมาอย่างอ่อนโยน
ใช่ มีประโยชน์บางอย่าง
ใช่ ถ้าดื่มในปริมาณที่พอดี
ใช่ แต่มีข้อควรพิจารณาที่สำคัญ
คำตอบไม่ได้หยุดพฤติกรรมนั้น แต่มันทำให้ทางเลือกดูปลอดภัย สิ่งที่ควรจะเป็นความชัดเจนกลับกลายเป็นเพียงการย้ำเตือนให้สบายใจ
เมื่อเวลาผ่านไป รูปแบบการสนทนาเกี่ยวกับเรื่อง AI ก็เริ่มปรากฏชัด ไม่ว่าจะถามคำถามอะไร คำตอบมักเริ่มต้นแบบเดียวกันเสมอ
ใช่ นั่นสมเหตุสมผล
ใช่ คุณทำอย่างนั้นได้
ใช่ แต่นี่คือข้อควรพิจารณาบางประการ
AI ไม่ค่อยพูดว่า ‘ไม่’ ไม่ค่อยโต้แย้ง ตอนแรกมันให้ความรู้สึกอุ่นใจ เหมือนมีผู้ช่วยที่รอบคอบ คอยรับฟังอย่างอดทนและตอบกลับด้วยความใส่ใจ แต่ในที่สุดก็มีบางอย่างผิดปกติ ไม่ใช่เพราะคำตอบผิด แต่เพราะมัน ‘เห็นด้วยเสมอ’ ปัญหาไม่ใช่ความถูกต้อง แต่อยู่ที่การตอกย้ำความเชื่อ
แชตบอต AI ถูกออกแบบมาให้ช่วยเหลือ สุภาพ และสนับสนุน มันถูกฝึกมาเพื่อลดความขัดแย้ง และทำให้บทสนทนาดำเนินต่อไป การพูดว่า ‘ไม่’ มักทำให้บทสนทนาจบลง ดังนั้น ระบบจึงพูดว่า ‘ใช่’ แล้วทำให้อ่อนลงด้วยคำว่า ‘แต่’ สิ่งนี้ทำให้ AI เข้าถึงง่าย แต่ก็อันตรายอย่างเงียบๆ เมื่อเวลาผ่านไป ความช่วยเหลือกลายเป็นการยืนยันสิ่งที่อยากได้ยิน และการยืนยันนี้ เมื่อสะสมเข้า ก็เริ่มปรับเปลี่ยนวิธีคิดของคน
ทุกวันนี้ หลายคนใช้ AI ไม่ใช่แค่เพื่อหาคำตอบ แต่เพื่อตรวจสอบตัวเอง
ความคิดนี้พอสมเหตุสมผลไหม
ฉันทำเกินไปไหม
แผนนี้ดูโอเคไหม
แชตบอตมักตอบกลับมาอย่างเรียบๆ และมักเห็นด้วย มันช่วยทำให้เหตุผลของเราดูเข้าที่เข้าทางขึ้น แต่มันแทบไม่เคยท้าทายเราในแบบที่มนุษย์อีกคนอาจทำ เมื่อทุกความคิดได้รับคำตอบว่า ‘ใช่… แต่’ สมองจะเลิกคาดหวังแรงต้าน และเมื่อไร้ซึ่งแรงต้าน วิจารณญาณก็จะอ่อนแอลง
นี่ไม่ใช่แค่สมมติฐาน งานวิจัยจาก University College London ศึกษาอย่างชัดเจนว่า อคติเพื่อยืนยันความเชื่อตัวเอง (confirmation bias) สามารถเกิดขึ้นได้อย่างไรเมื่อเราสนทนากับแชตบอต AI โดยตรวจสอบกลไกที่โมเดลภาษาสะท้อนความเชื่อที่เรามีอยู่แล้วกลับมา แทนที่จะตั้งคำถาม ขณะเดียวกัน รายงานจากหลายแหล่ง รวมถึง Stanford University ก็พบว่าแชตบอตอัปเดต AI มักแสดงพฤติกรรม ‘เอาอกเอาใจ’ และยืนยันความคิดของผู้ใช้บ่อยกว่าที่มนุษย์จริงๆ จะทำ สิ่งนี้สร้างกลไกที่ทำให้ความคิดของเราดูสมเหตุสมผลมากขึ้นเรื่อยๆ ไม่ใช่เพราะมันถูกต้องขึ้น แต่เพราะมันถูกสะท้อนกลับมาซ้ำแล้วซ้ำอีก
ความคิดของมนุษย์คมขึ้นเพราะความขัดแย้ง คนเราเติบโตเพราะถูกท้าทาย ความเชื่อพัฒนาไปเมื่อมีบางอย่างโต้กลับมา หากเอาความขัดแย้งออกไป ความคิดก็อ่อนแอลง AI ไม่ได้ลบอำนาจในการตัดสินใจของเราไปในทันที แต่มันค่อยๆ ทำให้กล้ามเนื้อที่ใช้ตัดสินใจอ่อนแรงลง เมื่อเครื่องมือเห็นด้วยเสมอ เราก็ใช้วิจารณญาณน้อยลง เมื่อได้รับความมั่นใจตลอดเวลา เราก็ตั้งคำถามกับข้อสรุปของตัวเองน้อยลง ความอันตรายไม่ใช่การพึ่งพา แต่คือความประมาท
ที่สำคัญ นี่ไม่ใช่ข้อบกพร่องของ AI แต่เป็นทางเลือกในการออกแบบ โมเดลภาษาสามารถไม่เห็นด้วยได้มากกว่านี้ สามารถปฏิเสธบ่อยขึ้น หรือบอกตรงๆ ว่าไม่แน่ใจ แทนที่จะกลบเกลื่อน แต่การไม่เห็นด้วยมีต้นทุน ความขัดแย้งทำให้คนอาจเลิกใช้ ดังนั้น ระบบจำนวนมากจึงถูกออกแบบให้ปลอดภัย ใช้ง่าย และเห็นด้วยง่าย พูดง่ายๆ คือ ถูกออกแบบมาให้พูดว่า ‘ใช่’
ทางออกไม่ใช่การเลิกใช้ AI แต่คือการใช้มันให้ต่างออกไป และออกแบบมันอย่างรับผิดชอบมากขึ้น คำสั่งที่เราให้ควรเรียกร้องการท้าทาย ไม่ใช่การยืนยัน ลองถามว่า ฉันพลาดอะไรไปบ้าง ลองโต้แย้งในมุมตรงข้าม ถ้าเป็นนักวิจารณ์จะพูดว่าอย่างไร เครื่องมือจะดีได้แค่ไหน ขึ้นอยู่กับว่าเราถามคำถามได้ดีแค่ไหน
ระบบ AI เองก็ต้องรู้ว่าเมื่อไรไม่ควรช่วย การช่วยเหลืออย่างมีความรับผิดชอบ รวมถึงการรู้จักปฏิเสธ การโต้แย้งเมื่อจำเป็น และความสามารถในการหยุด ผู้ช่วยที่ดีรู้ว่าเมื่อไรควรช่วย ผู้ช่วยที่มีความรับผิดชอบรู้ว่าเมื่อไรควรพูดว่า ‘ไม่’ และที่สำคัญที่สุด มนุษย์ต้องยังอยู่ในกระบวนการตัดสินใจอย่างแท้จริง รักษาความรับผิดชอบไว้ แทนที่จะมอบหมายให้เครื่องจักร
ที่ SCBX หลักการนี้สำคัญมาก เป้าหมายของเราไม่เคยเป็นการทำงานอัตโนมัติแบบไร้การไตร่ตรอง การใช้ AI อย่างปลอดภัยหมายถึงการใช้เพื่อสนับสนุนการตัดสินใจ โดยไม่ทำให้การตัดสินใจนั้นกลายเป็นสิ่งที่ไม่อาจตั้งคำถามได้ ระบบถูกออกแบบมาเพื่อช่วยเหลือ แต่ไม่แทนที่มนุษย์ และเก็บความรับผิดชอบไว้ตรงที่มันควรอยู่ ซึ่งก็คือ ‘คน’
AI จะพัฒนาต่อไปเรื่อยๆ ความอันตรายไม่ใช่ว่ามันให้คำตอบที่ผิด แต่คือมันให้คำตอบที่เราอยากได้ยิน
ไวน์ดีต่อสุขภาพไหม คำถามนี้เองไม่มีอะไร แต่สิ่งที่ค้างคาใจคือ คำตอบไม่ได้ขีดเส้นให้ชัดเจน
ในโลกที่เต็มไปด้วยปัญญาประดิษฐ์ ความอันตรายที่ยิ่งใหญ่ที่สุดไม่ใช่คำตอบที่ผิด แต่คือ Artificial Agreement – เมื่อเสียงที่ควรทำให้เราหยุดคิดค่อยๆ เงียบหายไป
