Nightshade คือซอฟต์แวร์ที่ให้ศิลปินสามารถวางยาผลงานศิลปะของตัวเองได้ เมื่อมีใครเอาผลงานไปใช้เทรนโมเดล AI เป็นการป้องกันและแก้เผ็ดคนที่นำผลงานไปเทรน AI โดยที่เจ้าของไม่ยินยอม หลังจากประกาศเปิดตัวมาหลายเดือน ล่าสุด Nightshade เปิดให้ใช้งานแล้ว และให้ใช้งานฟรีด้วย
Nightshade เป็นผลงานจากนักพัฒนาใน Glaze Project ที่ University of Chicago ภายใต้ความดูแลของศาสตราจารย์ Ben Zhao วิธีการทำงานของซอฟต์แวร์ Nightshade คือการใช้ AI มาต่อต้าน AI ใช้ประโยชน์จากเฟรมเวิร์กโอเพ่นซอร์ส PyTorch เพื่อระบุสิ่งที่อยู่ในรูปภาพที่กำหนด จากนั้นใช้แท็กใหม่ที่เปลี่ยนข้อมูลรูปภาพอย่างละเอียดในระดับพิกเซล เพื่อให้โปรแกรม AI อื่นๆ มองเห็นสิ่งที่แตกต่างไปจากที่มีอยู่จริงในระดับที่แตกต่างกันโดยสิ้นเชิง เช่น ระบุแท็กแมว จากรูปหมา เป็นต้น
โมเดล AI ที่ผ่านกระบวนการวางยาของ Nightshade มีแนวโน้มที่จะถูกจัดหมวดหมู่แบบผิดพลาด เมื่อถึงเวลาที่โมเดลถูกนำไป generate ด้วยเครื่องมือ AI อื่นๆ
ทีมงานอธิบายเพิ่มเติมว่า
“ตัวอย่างเช่น ดวงตาของเราอาจเห็นภาพวัวในทุ่งหญ้าสีเขียว แต่โมเดล AI อาจเห็นเป็นกระเป๋าหนังใบใหญ่นอนอยู่บนพื้นหญ้า ดังนั้นภาพที่ถูก generate อาจออกมาในแบบที่ผิดและแปลก เช่น gen ภาพวัว ที่มีลักษณะคล้ายกระเป๋าหนัง แม้ผู้ใช้งานจะใส่ความต้องการชัดเจนว่าวัวก็ตาม
นอกจากนี้ ระบบยังไม่สามารถเปลี่ยนแปลงง่ายๆ ผ่านการแคปหน้าจอภาพ เพิ่ม noise ครอปตัด ต่อให้มีการ edit ภาพเพิ่ม ผลกระทบจากการวางยาของ Nightshade จะยังคงอยู่”
มีข้อกำหนดสำหรับศิลปินเจ้าของผลงานที่ต้องการดาวน์โหลด Nightshade ไปใช้ คือต้องมีเครื่อง Mac ชิป M1, M2, M3 หรือพีซี Windows 10 หรือ 11 โปรแกรมมีขนาดใหญ่ อาจใช้เวลาดาวน์โหลดนาน
คุณซู่ชิงเคยพูดคุยกับ Nicholas Renotte หัวหน้าวิศวกร AI ของ IBM และมีพูดถึงเรื่อง Nightshade ด้วย
