生成式AI公司不僅常為被告,也針對新法提出合憲性挑戰。產品責任訴訟中,不乏指控GenAI模型安全標準不足、設計有缺陷導致錯誤死亡的案例,原告主張GenAI公司未能警示已知危險或採用操縱用戶的功能(如最大化參與度、培養情感依賴)。近期,一起備受關注的錯誤死亡案件原則上已達成和解。此外,越來越多產品責任訴訟指控GenAI產品產生非合意私密影像(NCII),包括涉及未成年人,以及有害的深度偽造內容。這些案件的原告認為,GenAI產品因訓練資料過濾、紅隊測試及影像分類等安全防護不足而存在缺陷。聯邦層級的「Take It Down Act」法案則禁止發布NCII內容,並要求平台在收到有效請求後 48 小時內移除。