Security Researcher ทั้ง 8 คนได้ร่วมกันวิจัยจนพบวิธีก่ีใช้งานป้ายบอกสัญลักษณ์การขับรถให้กลายเป็นเครื่องมือการหลอกรถที่ไร้คนขับ

เนื่องด้วยรถที่เป็นลักษณะไร้คนขับนั้นมีการใช้ machine-learning มาช่วยในการตัดสินใจในการควบคุมรถ ดังนั้นหากมีการเปลี่ยนการแสดงผลของป้ายบอกสัญลักษณ์การขับรถก็จะกลายเป็นการหลอกรถไร้คนขับได้เช่นกัน ไม่ว่าจะเป็นการหลอกให้ไปผิดทาง, การเพิ่มความเร็วของเครื่องยนต์และอื่นๆ

idea นี้เกิดจากความคิดที่ว่า Attacker อาจปริ้น poster สัญลักษณ์การเดินทางที่ต้องการจะไปหลอกรถไร้คนขับแล้วไปแปะอยู่บนป้ายสัญลักษณ์ที่มีอยู่แล้วได้ หรืออีกกรณีหนึ่งตือการปริ้น sticker เล็กๆไปวางไว้ที่จุดของเครื่องหมายการเดินทางที่ถูกต้อง ส่งผลให้เกิดการประมวลผลผิดของรถไร้คนขับก็เป็นได้

จากการทดสอบในทฤษฏีดังกล่าวทาง security researcher ได้ลองเอาคำว่า LOVE, HATE ไปแปะไว้ที่ป้าย ตัว Machine-learning ได้ตีความคำว่า STOP ผิดกลายเป็น “Speed Limit 45” แทน ซึ่งหลอกรถไร้คนขับสำเร็จถึง 100%

ส่วนภาย 2-3 ได้ลองเอา sticker เล็กๆไปแปะติด ทำให้มีการตีความเป็น “Speed Limit 45” โดยสำเร็จอยู่ที่ 67% ด้วยกัน

ทีนี้หากเป็นการเอาภาพที่เป็นเชิง Graffiti ไปแปะไว้ดังภาพที่ 4 มันจะกลายเป็นว่า ตัวระบบ machine learning มองจาก​ “Right Turn” กลายเป็น Stop แทน

วิธีการแก้ไขหรือป้องกันคือการพยายามทำให้ป้ายนั้นชัดเจน ซึ่งเป็นส่วนสำคัญที่ smart city ทั้งหลายจำเป็นต้องคอยตรวจสอบและสอดส่องความชัดเจนของป้ายอยู่เสมอครับ หากใครสนใจก็ลองไปอ่าน paper ดูได้ครับ Robust Physical-World Attacks on Machine Learning Models

Source:: BleepingComputer