即便建立主權AI好處多多、有助於維繫我國文化主體性，但中山大學資工系教授徐瑞壕提醒，仍需要注意訓練文本可能被惡意修改、也就是「資料下毒」的疑慮，以及後門攻擊、偏見植入等，倘若在訓練主權AI時前端把關沒做好，恐怕會出現後續內容產出都會有誤差，且難以察覺的問題。