Open AI ประกาศใช้ระบบ age-prediction หรือระบบคาดการณ์อายุผู้ใช้งานใน ChatGPT แยกผู้ใช้งานอายุต่ำกว่า 18 ปีออกมา ในบางประเทศ Open AI อาจขอตรวจสอบ ID เพื่อยืนยันอายุของผู้ใช้งานด้วย
และถ้าระบบตรวจจับได้ว่าเป็นเยาวชน ChatGPT จะถูกตั้งค่าไว้ไม่ให้พูดคุยในเชิงล่อแหลม การพูดถึงเรื่องฆ่าตัวตาย หรือพูดคุยเชิงจีบกับคนกลุ่มนี้ แม้จะอยู่ในบริบทการเขียนเชิงสร้างสรรค์ก็ตาม
หากระบบตรวจจับได้ว่าผู้ใช้ที่อายุต่ำกว่า 18 ปีมีความคิดฆ่าตัวตาย Open AI จะพยายามติดต่อผู้ปกครองของผู้ใช้ และหากไม่สามารถติดต่อได้ ทางบริษัทจะติดต่อเจ้าหน้าที่
Open AI รวมถึงบริษัทพัฒนาแชทบ็อทอื่นๆ อย่าง Character.AI, Meta เจอข้อหาฟ้องร้องประเด็นการคุยกับ AI จนนำไปสู่เหตุการณ์เสียชีวิต
ที่มา : Open AI
