然而,這種將 AI 產品「人性化」的趨勢也引發專家疑慮。社會科技學家 Sarah Saska 指出,科技公司向投資者、監管機構和研究人員描述 AI 時,多強調其強大功能及待解決的安全疑慮;但面對消費者,同樣的技術卻被包裝成友善、有趣、操作簡單且風險較低的形象。Forrester 研究公司首席分析師 Kate Winick 也擔憂,Muse 預設會利用用戶的互動來訓練 AI 模型並儲存分享資訊,儘管用戶可選擇退出,但這可能增加個人資料遭惡意行為者竊取或被 Meta 不當使用的風險。Meta 曾因數據使用不當,近期在美國新墨西哥州被判誤導用戶。
Clever Together Futureproof 執行董事 Lidia Velkova 認為,這些都是有目的的設計選擇,可能導致人們更輕易信任這些 AI 系統。她引述研究指出,社交機器人若具有嬰兒般的特徵,會增加人們對其的信任度;聊天機器人的擬人化互動也會促使用戶透露更多個人資訊。Velkova 擔憂,這些設計讓強大的 AI 系統顯得無害,鼓勵用戶更頻繁地分享,卻減少了質疑。
在 AI 發展的速度方面,Anthropic 執行長達里奧·阿莫代(Dario Amodei)、OpenAI 執行長奧特曼(Sam Altman)、馬斯克(Elon Musk)以及 Google DeepMind 的德米斯·哈薩比斯(Demis Hassabis)等多位業界領袖,都曾呼籲放慢前瞻性 AI 的發展腳步,但祖克柏則主張應由各公司自行決定發展速度,反對業界全面減速。