AI ให้ข้อมูลผิดพลาดจนเกือบจะชนกับเรือจีน - ความผิดพลาดที่ดูน่าเชื่อถือซึ่งอาจเริ่มสงครามได้

นักวิเคราะห์ของสหรัฐฯ ถาม AI เกี่ยวกับสินค้าบนเรือ AI ตัดสินว่าสินค้านั้นเกี่ยวข้องกับโครงการอาวุธนิวเคลียร์ จากข้อมูลนี้ได้มีการจัดทำรายงานข่าวกรอง และกองกำลังเริ่มเคลื่อนไหวเพื่อเข้าตรวจสอบเรือจีน

อย่างไรก็ตาม ข้อมูลที่เป็นพื้นฐานนั้นผิดพลาด

ตามรายงานข่าว ปฏิบัติการถูกยกเลิกในนาทีสุดท้าย เพราะมนุษย์ค้นพบข้อผิดพลาดในที่สุด แม้จะไม่เกิดการปะทะกัน แต่ก็เป็นเรื่องที่น่ากังวลเพราะข้อสรุปที่ผิดพลาดได้ก้าวไปถึงขั้นที่จะทำให้ทหารและเครื่องบินเคลื่อนที่

ปัญหาที่แท้จริงที่เหตุการณ์นี้แสดงให้เห็นไม่ใช่เพียงแค่ "AI ผิดพลาด" ซึ่งเป็นจุดอ่อนที่ทราบกันดี แต่เป็นการที่การคาดเดาของ AI ได้รับการยอมรับว่าเป็น "ข้อมูลที่เชื่อถือได้" และผ่านระบบการบังคับบัญชาขององค์กร ซึ่งเป็นกระบวนการที่มีความเสี่ยงร่วมกันในทุกองค์กรที่ใช้ AI ไม่ว่าจะเป็นการทหาร การปกครอง การแพทย์ การเงิน หรือการรายงานข่าว

เรือจีนบรรทุกอะไร

ตามรายงานของ CNN ที่ stern และ AFP รายงานต่อ ปัญหาเกิดขึ้นในฤดูใบไม้ผลิปี 2026 ท่ามกลางความตึงเครียดทางทหารระหว่างสหรัฐฯ และอิหร่าน นักวิเคราะห์ที่เกี่ยวข้องกับหน่วยปฏิบัติการพิเศษของสหรัฐฯ ได้ใช้แชทบอท AI เพื่อสอบถามข้อมูลเกี่ยวกับสินค้าบนเรือ และระบบได้สรุปว่าสินค้านั้นเป็นชิ้นส่วนสำหรับอาวุธนิวเคลียร์

AI ถูกกล่าวหาว่าได้รวมข้อมูลที่เปิดเผยต่อสาธารณะกับข้อมูลที่หน่วยข่าวกรองถือครองและทำการเชื่อมโยงที่ผิดพลาด นอกจากนี้ นักวิเคราะห์ยังใช้ AI ในการจัดทำรายงานและส่งต่อไปยังหน่วยงานที่เกี่ยวข้อง ซึ่งหมายความว่า AI อาจมีบทบาทในการ "วิเคราะห์" ที่ผิดพลาดในครั้งแรก และเปลี่ยนข้อผิดพลาดนั้นเป็น "รายงานที่จัดเรียงเรียบร้อย" ในครั้งที่สอง

สิ่งที่สำคัญคือข้อจำกัดของข้อเท็จจริงที่สามารถยืนยันได้ในขณะนี้ ชื่อของเรือที่เป็นเป้าหมาย สินค้าจริง จุดหมายปลายทาง และแชทบอทที่ใช้ว่าเป็นสินค้าทั่วไปหรือผลิตภัณฑ์ภายในรัฐบาลยังไม่เป็นที่เปิดเผย กองทัพสหรัฐฯ และหน่วยงานป้องกันประเทศก็ยังไม่ได้อธิบายรายละเอียดในขณะที่มีการรายงาน ดังนั้น การตีความว่า "AI ออกคำสั่งโจมตีโดยอัตโนมัติ" หรือ "บรรทุกอาวุธนิวเคลียร์จริง" เป็นการตีความที่เกินจริง

ในทางกลับกัน หากคำให้การที่ว่าทหารสหรัฐฯ เตรียมเข้าตรวจสอบเรือ และเครื่องบินได้บินขึ้นแล้วเป็นความจริง ข้อมูลที่ผิดพลาดนั้นก็ได้ก้าวไปใกล้กับการปฏิบัติการทางทหารจริงๆ การที่ทหารสหรัฐฯ ขึ้นเรือที่มีสัญชาติจีน แม้จะไม่มีการยิงเกิดขึ้น ก็อาจกลายเป็นปัญหาทางการทูตที่รุนแรงเกี่ยวกับการละเมิดอธิปไตยและเสรีภาพในการเดินเรือ หากมีการต่อต้านหรือการยิงผิดพลาดในสถานการณ์จริง วิกฤตอาจขยายตัวอย่างรวดเร็ว

ทำไมข้อผิดพลาดของ AI ถึงกลายเป็น "รายงานที่น่าเชื่อถือ"

AI ที่สร้างขึ้นไม่ได้ตอบว่า "ไม่รู้" อย่างตรงไปตรงมาเสมอไป มันจะสร้างคำอธิบายที่ดูเหมือนจริงจากข้อมูลที่เป็นชิ้นๆ ยิ่งข้อความมีความคล่องแคล่วและมีคำศัพท์เฉพาะทางและโครงสร้างที่เรียบร้อยมากเท่าไร ผู้อ่านก็ยิ่งรู้สึกว่าข้อมูลนั้นถูกต้องมากขึ้นเท่านั้น

สิ่งที่ทำให้รายงานนี้รุนแรงคือข้อสงสัยว่าความ "ดูเหมือนจริง" นี้ได้ทำงานสองครั้ง

ในขั้นแรก แชทบอทได้เชื่อมโยงชิ้นส่วนข้อมูลเกี่ยวกับสินค้าบนเรือและให้ความหมายที่ผิดพลาดว่าเป็นชิ้นส่วนอาวุธนิวเคลียร์ ในขั้นต่อมา AI ได้จัดเรียงข้อสรุปนั้นให้เป็นข้อความที่ดูเหมือนรายงานข่าวกรอง การคาดเดาได้รับการจัดรูปแบบและสไตล์ทำให้ดูเหมือนเป็นข้อเท็จจริง หากผู้อ่านไม่กลับไปยังแหล่งข้อมูลเดิม ขอบเขตระหว่างการคาดเดาและข้อมูลที่ยืนยันแล้วจะหายไป

รายงานที่เขียนโดยมนุษย์ก็มีข้อผิดพลาดเช่นกัน แต่เมื่อใช้ AI ที่สร้างขึ้น จะสามารถสร้างข้อความจำนวนมากในเวลาอันสั้น และสามารถสรุป แปล ทำรายงาน และสร้างเอกสารอธิบายที่มีข้อผิดพลาดเดียวกันได้อย่างรวดเร็ว ไม่เพียงแต่โอกาสในการเกิดข้อผิดพลาดจะเพิ่มขึ้น แต่ความเร็วที่ข้อผิดพลาดเคลื่อนที่ในองค์กรก็เปลี่ยนไปด้วย

นี่ไม่ใช่ปัญหา "AI กับมนุษย์" แต่เป็นปัญหาของ "ห่วงโซ่มนุษย์และ AI" ที่มนุษย์ที่ได้รับผลลัพธ์จาก AI ไม่ได้ตรวจสอบแหล่งที่มา ความแม่นยำ หรือหลักฐานที่ขัดแย้งกันก่อนที่จะส่งต่อไปยังคนถัดไป

ใน SNS ไม่เพียงแต่มี "ทฤษฎีความกลัว AI" แต่ยังมีเสียงที่เรียกร้องความรับผิดชอบขององค์กร

ในกระดานสนทนาและ SNS ต่างประเทศที่รายงานข่าวนี้ มีความกังวลและการเสียดสีอย่างรุนแรง ปฏิกิริยาที่มองเห็นได้จากโพสต์สาธารณะสามารถแบ่งออกเป็นสี่ประเด็นหลัก อย่างไรก็ตาม นี่เป็นการจัดเรียงเชิงคุณภาพของโพสต์ที่สามารถตรวจสอบได้ในขอบเขตสาธารณะ และไม่มีความเป็นตัวแทนเหมือนการสำรวจความคิดเห็น

ประเด็นแรกคือความระมัดระวังว่า "ไม่ควรวางโมเดลภาษาข้างการปฏิบัติการทางทหาร" มีโพสต์ที่กลัวอนาคตที่ระบบอาวุธนิวเคลียร์จะเชื่อมต่อด้วยแนวคิดเดียวกัน และมีเสียงที่ชี้ให้เห็นถึงความเสี่ยงในการใช้ข้อความที่คาดการณ์เป็นหลักฐานในการกระทำที่เป็นปฏิปักษ์ มุมมองคือวิกฤตเกิดขึ้นไม่ใช่เพราะ AI ก่อกบฏเอง แต่เพราะมนุษย์ให้ความสำคัญกับความสะดวกและมอบหมายการตัดสินใจที่สำคัญให้กับ AI

ประเด็นที่สองคือการวิพากษ์วิจารณ์ว่า "ปัญหาอยู่ที่ความล้มเหลวของสายการบังคับบัญชาไม่ใช่ AI" หากรายงานถูกส่งขึ้นโดยไม่ตรวจสอบข้อมูลต้นฉบับและกองกำลังเริ่มเคลื่อนไหว ความรับผิดชอบไม่ควรถูกโยนให้กับแชทบอทเพียงอย่างเดียว มีคำถามว่ามีระบบที่ระบุการใช้ AI อย่างชัดเจนหรือไม่ มีบันทึกการตรวจสอบที่สามารถติดตามหลักฐานของรายงานได้หรือไม่ และมีการยืนยันซ้ำโดยนักวิเคราะห์อิสระหรือไม่

ประเด็นที่สามคือการโต้แย้งว่า "การยืนยันกระบวนการทำงานเพราะหยุดปฏิบัติการในที่สุด" หากมีการเตรียมกองกำลังในกรณีที่ภัยคุกคามเป็นของจริง และมีการตรวจสอบข้อมูลใหม่พร้อมกัน และยกเลิกเมื่อพบข้อผิดพลาด มุมมองนี้ก็มีความสมเหตุสมผลในฐานะการตอบสนองต่อวิกฤต

อย่างไรก็ตาม มีการโต้แย้งกลับว่า "การยืนยันควรทำก่อนที่จะเคลื่อนย้ายเครื่องบินหรือทหาร" เพราะการเคลื่อนไหวเตรียมการอาจถูกตรวจจับโดยฝ่ายตรงข้ามและกระตุ้นความเข้าใจผิดหรือการตอบโต้ ในโลกของการทหาร ไม่ใช่แค่คำสั่งสุดท้ายเท่านั้นที่เป็นสัญญาณ การเคลื่อนย้ายกองกำลัง การปล่อยเครื่องบิน และการเพิ่มขึ้นของปริมาณการสื่อสารก็เป็นวัสดุที่ฝ่ายตรงข้ามใช้ในการตีความเจตนา

ประเด็นที่สี่คือเสียงที่เรียกร้องให้ "แสดงการใช้ AI" ควรทำให้ผู้ตัดสินใจสามารถตรวจสอบได้ทันทีว่าส่วนใดของรายงานที่ AI สร้างขึ้น ขึ้นอยู่กับแหล่งข้อมูลใด และมีระดับความมั่นใจเพียงใด ปัญหาไม่ใช่การใช้ AI เอง แต่เป็นการที่มันถูกปฏิบัติเหมือนการวิเคราะห์ของมนุษย์โดยไม่เห็นว่าเป็น AI

การที่ "มนุษย์เป็นผู้ตัดสินใจสุดท้าย" นั้นไม่เพียงพอ

ในการกำกับดูแล AI มักจะมีการใช้คำว่า "การตัดสินใจสุดท้ายทำโดยมนุษย์" แต่กรณีนี้แสดงให้เห็นว่าคำนี้เพียงอย่างเดียวไม่สามารถรับประกันความปลอดภัยได้

แม้ว่าผู้อนุมัติสุดท้ายจะเป็นมนุษย์ แต่ถ้ารายงานที่ป้อนถูกบิดเบือนโดย AI และข้อเท็จจริงนี้ไม่สามารถมองเห็นได้ และไม่มีเวลาในการตรวจสอบ มนุษย์ก็จะยอมรับข้อสรุปของ AI ในทางปฏิบัติ แม้ในรูปแบบที่มนุษย์เป็นผู้ตัดสินใจ แต่ AI เป็นผู้สร้างตัวเลือกและข้อสมมติฐานในการตัดสินใจ

สิ่งที่จำเป็นไม่ใช่ป้าย "human in the loop" แต่เป็นการออกแบบที่มนุษย์สามารถคัดค้านได้จริงๆ เงื่อนไขต่อไปนี้อย่างน้อยที่สุดเป็นสิ่งที่ขาดไม่ได้

• ระบุให้ชัดเจนว่าส่วนใดใช้ AI และส่วนใดไม่ได้ใช้

• ทำให้สามารถติดตามแหล่งข้อมูลดั้งเดิม การป้อน AI ผลลัพธ์ และประวัติการแก้ไขได้ในภายหลัง

• ตรวจสอบข้อเท็จจริงสำคัญผ่านช่องทางที่เป็นอิสระจาก AI

• ข้อมูลที่นำไปสู่การใช้กำลังต้องมีการยืนยันจากหลายคน

• อย่าแปลงข้อมูลที่มีความมั่นใจต่ำเป็นประโยคที่แน่นอน

• มีผู้รับผิดชอบในการตรวจสอบสมมติฐานที่ขัดแย้งกัน

• กำหนดรายการตรวจสอบที่ไม่สามารถละเว้นได้แม้ในกรณีฉุกเฉิน

• เมื่อพบข้อผิดพลาด ให้ติดตามและยกเลิกการแจกจ่ายทันที

การเพิ่มความแม่นยำของ AI เพียงอย่างเดียวไม่เพียงพอ ไม่ว่ารุ่นจะมีประสิทธิภาพสูงเพียงใด ก็ไม่มีการรับประกันว่าข้อผิดพลาดจะเป็นศูนย์ ยิ่งความสามารถสูงขึ้นและข้อความเป็นธรรมชาติมากขึ้นเท่าไร มนุษย์ก็ยิ่งลดความระมัดระวังลง ความปลอดภัยไม่ได้ขึ้นอยู่กับประสิทธิภาพของรุ่นเดี่ยว แต่ขึ้นอยู่กับขั้นตอนและความรับผิดชอบขององค์กรที่ใช้

สำหรับญี่ปุ่นแล้ว นี่ไม่ใช่ "ความล้มเหลวในทะเลที่ห่างไกล"

ญี่ปุ่นไม่ใช่ผู้สังเกตการณ์ที่อยู่นอกความขัดแย้งระหว่างสหรัฐฯ และจีน ทะเลจีนตะวันออก บริเวณรอบหมู่เกาะเซ็นกากุ ช่องแคบไต้หวัน และหมู่เกาะตะวันตกเฉียงใต้ เป็นพื้นที่ที่เรือและเครื่องบินเข้ามาใกล้กันตั้งแต่ในยามปกติ และต้องตัดสินใจเกี่ยวกับเจตนาของฝ่ายตรงข้ามในเวลาสั้นๆ ในพื้นที่เหล่านี้ AI มีศักยภาพในการช่วยประมวลผลข้อมูลจำนวนมาก เช่น การระบุประเภทของเรือ การวิเคราะห์เส้นทาง การวิเคราะห์ข้อมูลคลื่นวิทยุ ภาพถ่ายดาวเทียม และข้อมูลที่เปิดเผยต่อสาธารณะ

ในญี่ปุ่นที่มีปัญหาการขาดแคลนแรงงาน ความคาดหวังต่อ AI และการทำงานแบบไร้คนขับก็สูงเช่นกัน กระทรวงกลาโหมได้ดำเนินการนำ AI มาใช้ในการรักษาความปลอดภัยฐานทัพและการใช้ประโยชน์จากอุปกรณ์ที่ลดการใช้แรงงาน ซึ่งเป็นทิศทางที่มีเหตุผลในการขยายขอบเขตการเฝ้าระวังด้วยจำนวนบุคลากรที่จำกัด และไม่ใช่การกำจัด AI ออกไป

อย่างไรก็ตาม ในบริเวณรอบๆ ญี่ปุ่น การเข้าใจผิดเพียงครั้งเดียวอาจเชื่อมโยงกับความขัดแย้งที่ใหญ่ขึ้นผ่านพันธมิตรญี่ปุ่น-สหรัฐฯ ตัวอย่างเช่น หาก AI เข้าใจผิดว่าอุปกรณ์หรือการกระทำของเรือเป็นการกระทำที่เป็นปฏิปักษ์ และการประเมินนั้นแพร่กระจายไปยังหลายหน่วยงานของญี่ปุ่นและสหรัฐฯ ผ่านระบบที่ใช้ร่วมกัน การเตรียมการป้องกันอาจถูกเพิ่มขึ้นก่อนที่ข้อมูลที่ผิดพลาดจะได้รับการแก้ไข หากฝ่ายตรงข้ามตรวจพบการเคลื่อนไหวนี้และตีความว่าเป็น "การเตรียมโจมตี" การกระทำป้องกันของทั้งสองฝ่ายอาจดูเหมือนเป็นการเตรียมโจมตีต่อกันและกัน ซึ่งจะเร่ง "ภาวะที่กลืนไม่เข้าคายไม่ออกด้านความมั่นคง"

สิ่งที่ญี่ปุ่นควรให้ความสำคัญไม่ใช่การเลือกว่าจะนำ AI มาใช้หรือไม่ แต่ควรกำหนดขอบเขตว่า AI จะตัดสินใจได้ถึงขั้นไหน และจากขั้นไหนที่ต้องมีการยืนยันจากมนุษย์ที่เป็นอิสระ โดยเฉพาะอย่างยิ่ง การระบุเป้าหมาย การเชื่อมโยงกับอาวุธ การประเมินเจตนาที่เป็นปฏิปักษ์ และความจำเป็นในการใช้กำลัง ไม่ควรใช้ผลลัพธ์จาก AI เดียวกันในลักษณะที่เชื่อมโยงกัน

แม้แต่ข้อมูลที่ได้รับจากพันธมิตร ก็ไม่ควร