เก็บคะแนนแลกความดี เมื่อเทคโนโลยียุคนี้ดาร์กกว่าที่เราคิด

Tomorrow is Now กับ ซู่ชิง-จิตต์สุภา ฉิน ชวนถกประเด็นเกี่ยวกับด้านมืดของเทคโนโลยีที่กำลังรุกล้ำชีวิตของเรา ราวกับหลุดมาจากภาพยนตร์และซีรีส์ไซ-ไฟ ตั้งแต่ระบบเครดิตทางสังคม (Social Credit System) ในประเทศจีน ขาลงของเครือข่ายสังคมออนไลน์ ไปจนถึงความน่ากลัวของ AI ที่ตัดต่อหน้าคนในคลิปวิดีโอ

กับแขกรับเชิญ พลอย-ปิยพร อรุณเกรียงไกร (โปรดิวเซอร์รายการ) และแบงค์-เอกพล บรรลือ (บรรณาธิการข่าว THE STANDARD)

Social Credit System

ระบบเครดิตพฤติกรรมของพลเมืองในประเทศจีน (Social Credit System: SCS)เปรียบได้กับการให้คะแนนจิตพิสัยของนักเรียนในห้องเรียนขนาดใหญ่ ซึ่งก็คือ ‘สังคม’ โดยครูอาจารย์ (รัฐบาล) มีหน้าที่ตรวจสอบดูแลความสงบเรียบร้อย และพร้อมจะหักคะแนนคนที่ไม่ทำตามกฎหมาย หรือกระทั่งลงโทษผู้กระทำความผิด ระบบนี้คล้ายกับสิ่งที่เกิดขึ้นในซีรีส์ Black Mirror EP. Nosedive ที่เล่าถึงเรื่องราวของสังคมในอนาคตที่ผู้คนหมกมุ่นกับการให้คะแนนกันและกัน จนนำไปสู่ฝันร้ายที่ไม่มีใครอยากให้เกิดขึ้นกับตัวเอง

“Once Untrustworthy, Always Restricted”

แม้ว่ารัฐบาลจีนจะอ้างว่า Social Credit System สามารถช่วยค้นหาและจับตัวคนร้ายได้โดยใช้เทคโนโลยี Facial Recognition สแกนใบหน้าและระบุตัวตนผ่านกล้องวงจรปิด ที่น่ากลัวคือ รัฐบาลสามารถจับตามองพลเมืองได้แบบเรียลไทม์ ใครทำตัวไม่น่าไว้วางใจ ก็จะถูกจำกัดสิทธิ์ตลอดไป ส่วนคนที่ประพฤติดีจะได้รับคะแนนเครดิตและรางวัลอื่นๆ ตอบแทน เช่น ลดค่าไฟ แต่ระบบนี้จะสร้างสังคมที่มีแต่ ‘คนดี’ จริงหรือเปล่า จะเกิดอะไรขึ้นถ้าหากระบบนี้ถูกนำมาใช้ในไทย

Photo: giphy.com

ดาบสองคมของ Social Media

ในยุคที่เราหายใจเข้าออกเป็นโซเชียลมีเดีย ดูเหมือนว่าผลกระทบจากสื่อสังคมออนไลน์นี้จะรุนแรงมากยิ่งขึ้นเรื่อยๆ จากกรณีอื้อฉาว Cambridge Analytica ที่ส่งผลให้ข้อมูลผู้ใช้ Facebook ทั่วโลกรั่วไหล สู่การเซนเซอร์ความคิดของตัวเองเพื่อเลี่ยงการถูกล่าแม่มด ผู้คนไม่กล้าวิพากษ์วิจารณ์อย่างตรงไปตรงมา หรือเห็นต่างไปจากกระแสสังคม ผลกระทบเหล่านี้อาจทำให้เราต้องกลับมาคิดทบทวนข้อดีข้อเสียของโซเชียลมีเดียกันอีกครั้งว่ามันคุ้มค่าที่จะใช้ต่อไปหรือเปล่า

AI เข้าสู่ด้านมืด

บ่อยครั้งที่เราได้ยินข่าวน่าขนลุกเกี่ยวกับเทคโนโลยี AI และหุ่นยนต์ที่ทำอะไรแปลกๆ น่ากลัวๆ เช่น ลำโพงอัจฉริยะ Amazon Echo เกิดการบันทึกเสียงสนทนาส่วนตัวของผู้ใช้งานและส่งต่อไปให้คนอื่น หุ่นยนต์ Boston Dynamics กระโดดได้ ไปจนถึงโปรแกรม AI ที่ตัดต่อหน้าคนใส่ในคลิป 18+ นำไปสู่ความกังวลว่าจะนำไปสู่จุดจบของเผ่าพันธุ์มนุษย์หรือไม่

ประเด็นเหล่านี้กลายเป็นที่ถกเถียงกว้างขวางและเกิดการแบ่งฝักแบ่งฝ่ายกันชัดเจนในวงการด้านวิทยาศาสตร์และเทคโนโลยี ฝ่ายต่อต้าน อาทิ สตีเฟน ฮอว์คิง, บิล เกตส์ และอีลอน มัสก์ เคยออกมาเตือนว่า AI อาจกลายเป็นภัยคุกคามที่นำไปสู่จุดจบของมวลมนุษย์ได้ในอนาคต ขณะที่มาร์ก ซักเคอร์เบิร์ก ออกโรงฝ่ายสนับสนุนการพัฒนา AI อย่างเต็มที่โดยไม่ได้มองว่า AI จะเป็นภัยอย่างที่หลายๆ คนกลัว