หลังจากแอปเปิลใส่โมเดล NeuralHash ไว้ใน iOS ก่อนที่จะเปิดใช้งานฟีเจอร์ตรวจสอบภาพโป๊เด็กก่อนอัพโหลดขึ้น iCloud Photos และมีนักพัฒนาไปพบโมเดลจนแปลงกลับออกมาเป็นฟอร์แมต ONNX เพื่อรันบนพีซี ตอนนี้ Anish Athalye นักวิจัยจาก MIT CSAIL ก็แสดงโค้ดสาธิตการสร้างภาพหลอกเพื่อแปลงภาพใดๆ ให้ค่าแฮชตรงกับภาพเป้าหมาย
โมเดลปัญญาประดิษฐ์ทุกวันนี้มักเป็นฟังก์ชั่นสำหรับหารูปแบบในอินพุตสร้างเอาต์พุดตามความต้องการ เช่น การจัดหมวดหมู่ภาพหรือการแปลงเสียงเป็นคำพูด แม้จะทำงานในกรณีทั่วไปได้ดี แต่ก็มีงานวิจัยแสดงให้เห็นว่าโมเดลปัญญาประดิษฐ์ที่ฝึกมามักมีช่องโหว่ ทำให้ผู้ที่ต้องการเอาต์พุตบางอย่างสามารถออกแบบอินพุตอย่างเจาะจงเพื่อให้ได้เอาต์พุตตามต้องการ
ตอนนี้ยังไม่มีการยืนยันจากแอปเปิลว่าฟังก์ชั่น NeuralHash ที่มีผู้แกะออกมาจาก iOS นี้เป็นเวอร์ชั่นเดียวกับที่แอปเปิลจะใช้ตรวจสอบภาพโป๊เด็กตามที่ประกาศออกมาหรือไม่ นอกจากนี้แอปเปิลยังระบุว่าจะเข้ารหัสฐานข้อมูลค่าแฮชในโทรศัพท์ กระบวนการแกะฐานข้อมูลค่าแฮชจริงจึงอาจจะยุ่งยากพอสมควร
ที่มา - GitHub: anishathalye/neural-hash-collider
ภาพแมวด้านซ้ายถูกปรับเพื่อให้มีค่าแฮช "59a34eabe31910abfb06f308" ตรงกับภาพหมาทางด้านขวา
from Blognone https://www.blognone.com/node/124302
via IFTTT
