4月2日，谷歌及其視頻平臺YouTube因AI生成內(nèi)容對兒童的影響受到批評。超過200名兒童發(fā)展專家和相關(guān)機(jī)構(gòu)聯(lián)名要求YouTube及YouTube Kids停止向未成年人展示或推薦AI生成視頻。專家們在信中指出，許多標(biāo)榜“教育用途”的AI視頻實際上缺乏實質(zhì)內(nèi)容，且低質(zhì)量內(nèi)容日益增多，部分創(chuàng)作者甚至利用這些視頻向兒童牟利。他們擔(dān)憂，這些被稱為“AI垃圾”的視頻可能會影響兒童的注意力，并削弱他們區(qū)分現(xiàn)實與虛構(gòu)的能力。此外，過度觀看屏幕內(nèi)容也在擠占兒童情緒和社交發(fā)展所需的現(xiàn)實活動時間。

YouTube方面回應(yīng)稱，平臺已對YouTube Kids中的內(nèi)容設(shè)定了嚴(yán)格標(biāo)準(zhǔn)。發(fā)言人布特·布爾溫克爾表示，平臺限制AI生成內(nèi)容僅來自少數(shù)高質(zhì)量頻道，并提供家長屏蔽選項。在整個YouTube平臺上，也會對AI內(nèi)容進(jìn)行標(biāo)注，并要求創(chuàng)作者披露相關(guān)信息。盡管如此，AI視頻在兒童內(nèi)容領(lǐng)域仍在迅速增長，一些創(chuàng)作者利用AI降低制作成本，甚至開始教授如何通過批量制作兒童視頻實現(xiàn)盈利。布爾溫克爾強(qiáng)調(diào)，低質(zhì)量內(nèi)容的大規(guī)模生產(chǎn)在YouTube上并不可行，因為平臺會通過機(jī)制進(jìn)行限制。莫漢此前表示，“治理AI垃圾內(nèi)容”將是2026年的重點(diǎn)任務(wù)之一，并強(qiáng)調(diào)并非所有AI內(nèi)容都是低質(zhì)量內(nèi)容。在監(jiān)管方面，YouTube要求對“修改或合成內(nèi)容”進(jìn)行標(biāo)注，但批評者指出，這類提示對于尚未具備閱讀能力的兒童幾乎無效。