เปิดให้ใช้งานแล้ว Nightshade เครื่องมือวางยางานศิลปะ ป้องกันการนำไปเทรน AI โดยเจ้าของไม่ยินยอม 

Nightshade คือซอฟต์แวร์ที่ให้ศิลปินสามารถวางยาผลงานศิลปะของตัวเองได้ เมื่อมีใครเอาผลงานไปใช้เทรนโมเดล AI เป็นการป้องกันและแก้เผ็ดคนที่นำผลงานไปเทรน AI โดยที่เจ้าของไม่ยินยอม หลังจากประกาศเปิดตัวมาหลายเดือน ล่าสุด Nightshade เปิดให้ใช้งานแล้ว และให้ใช้งานฟรีด้วย 

Nightshade เป็นผลงานจากนักพัฒนาใน Glaze Project  ที่  University of Chicago ภายใต้ความดูแลของศาสตราจารย์  Ben Zhao วิธีการทำงานของซอฟต์แวร์ Nightshade คือการใช้ AI มาต่อต้าน AI ใช้ประโยชน์จากเฟรมเวิร์กโอเพ่นซอร์ส PyTorch เพื่อระบุสิ่งที่อยู่ในรูปภาพที่กำหนด จากนั้นใช้แท็กใหม่ที่เปลี่ยนข้อมูลรูปภาพอย่างละเอียดในระดับพิกเซล เพื่อให้โปรแกรม AI อื่นๆ มองเห็นสิ่งที่แตกต่างไปจากที่มีอยู่จริงในระดับที่แตกต่างกันโดยสิ้นเชิง เช่น ระบุแท็กแมว จากรูปหมา เป็นต้น 

โมเดล AI ที่ผ่านกระบวนการวางยาของ Nightshade มีแนวโน้มที่จะถูกจัดหมวดหมู่แบบผิดพลาด เมื่อถึงเวลาที่โมเดลถูกนำไป generate ด้วยเครื่องมือ AI อื่นๆ 

ทีมงานอธิบายเพิ่มเติมว่า

“ตัวอย่างเช่น ดวงตาของเราอาจเห็นภาพวัวในทุ่งหญ้าสีเขียว แต่โมเดล AI อาจเห็นเป็นกระเป๋าหนังใบใหญ่นอนอยู่บนพื้นหญ้า ดังนั้นภาพที่ถูก generate อาจออกมาในแบบที่ผิดและแปลก เช่น gen ภาพวัว ที่มีลักษณะคล้ายกระเป๋าหนัง แม้ผู้ใช้งานจะใส่ความต้องการชัดเจนว่าวัวก็ตาม

นอกจากนี้ ระบบยังไม่สามารถเปลี่ยนแปลงง่ายๆ ผ่านการแคปหน้าจอภาพ เพิ่ม noise ครอปตัด ต่อให้มีการ edit ภาพเพิ่ม ผลกระทบจากการวางยาของ Nightshade จะยังคงอยู่” 

มีข้อกำหนดสำหรับศิลปินเจ้าของผลงานที่ต้องการดาวน์โหลด Nightshade ไปใช้ คือต้องมีเครื่อง Mac ชิป M1, M2, M3 หรือพีซี  Windows 10 หรือ 11 โปรแกรมมีขนาดใหญ่ อาจใช้เวลาดาวน์โหลดนาน 

คุณซู่ชิงเคยพูดคุยกับ Nicholas Renotte หัวหน้าวิศวกร AI ของ IBM และมีพูดถึงเรื่อง Nightshade ด้วย

ที่มา : https://venturebeat.com/ai/nightshade-the-free-tool-that-poisons-ai-models-is-now-available-for-artists-to-use/ 

https://nightshade.cs.uchicago.edu/downloads.html

เราใช้คุกกี้เพื่อพัฒนาประสิทธิภาพ และประสบการณ์ที่ดีในการใช้เว็บไซต์ของคุณ คุณสามารถศึกษารายละเอียดได้ที่ นโยบายความเป็นส่วนตัว และสามารถจัดการความเป็นส่วนตัวเองได้ของคุณได้เองโดยคลิกที่ ตั้งค่า

Privacy Preferences

คุณสามารถเลือกการตั้งค่าคุกกี้โดยเปิด/ปิด คุกกี้ในแต่ละประเภทได้ตามความต้องการ ยกเว้น คุกกี้ที่จำเป็น

Allow All
Manage Consent Preferences
  • Always Active

Save