使用Google Play獲得安全可靠的AI體驗(yàn)

作者 / Google Play、Android 和 Chrome 信任與安全總監(jiān) Prabhat Sharma

生成式 AI 的快速發(fā)展為開(kāi)發(fā)者提供了機(jī)會(huì)，讓開(kāi)發(fā)者能為世界各地用戶創(chuàng)造全新、引人入勝的沉浸式應(yīng)用體驗(yàn)。在這個(gè)瞬息萬(wàn)變的時(shí)代，我們很高興能繼續(xù)幫助開(kāi)發(fā)者創(chuàng)建創(chuàng)新、優(yōu)質(zhì)的應(yīng)用，同時(shí)保持用戶對(duì) Google Play 的期待，即獲得安全可靠的體驗(yàn)。我們的目標(biāo)是讓 AI 惠及每個(gè)人，豐富應(yīng)用生態(tài)系統(tǒng)并改善用戶體驗(yàn)。

確保具有生成式 AI 功能應(yīng)用的

安全性

在過(guò)去的一年中，我們擴(kuò)展了審核能力，以解決具有生成式 AI 功能的應(yīng)用帶來(lái)的新復(fù)雜性。我們正在新增例如大語(yǔ)言模型 (LLM) 等前沿技術(shù)快速分析應(yīng)用提交的內(nèi)容，包括大量文本，以識(shí)別色情內(nèi)容或仇恨言論等潛在問(wèn)題，并對(duì)其進(jìn)行標(biāo)記，以便我們的全球團(tuán)隊(duì)成員仔細(xì)檢查。這種人類專業(yè)知識(shí)和增強(qiáng)的 AI 效率相結(jié)合，有助于我們改善開(kāi)發(fā)者的應(yīng)用審核體驗(yàn)，并為每個(gè)人創(chuàng)造更安全的應(yīng)用環(huán)境。 此外，我們還加強(qiáng)了 Google Play 的現(xiàn)有政策，以解決用戶和開(kāi)發(fā)者的新問(wèn)題和反饋，并跟上生成式 AI 等技術(shù)不斷發(fā)展的步伐。例如，我們?cè)谌ツ?10 月分享過(guò)，在無(wú)需離開(kāi)應(yīng)用的情況下，所有生成式 AI 應(yīng)用必須讓用戶能夠舉報(bào)或標(biāo)記冒犯性內(nèi)容。

以負(fù)責(zé)任的方式構(gòu)建

具有生成式 AI 功能的應(yīng)用

Google Play 的政策是長(zhǎng)期以來(lái)一直支持著我們用戶安全工作的基礎(chǔ)，深深植根于 Google Play 和開(kāi)發(fā)者之間的持續(xù)合作。這些政策為負(fù)責(zé)任的應(yīng)用開(kāi)發(fā)提供了框架，并有助于確保 Google Play 始終是值得全球信賴的平臺(tái)。由于生成式 AI 仍處于早期階段，我們收到了開(kāi)發(fā)者的反饋，希望我們明確 Google Play 對(duì)具有 AI 生成內(nèi)容的應(yīng)用有何要求?，F(xiàn)在，我們將回應(yīng)這些反饋，并提供指導(dǎo)，幫助開(kāi)發(fā)者提高 AI 驅(qū)動(dòng)應(yīng)用的質(zhì)量和安全性，避免應(yīng)用提交中的潛在問(wèn)題或延遲，增強(qiáng)用戶信任，助力Google Play 持續(xù)打造繁榮且負(fù)責(zé)任的應(yīng)用生態(tài)系統(tǒng)：

Google Play 政策回顧:Google Play 的政策有助于我們提供安全和高質(zhì)量的體驗(yàn)，因此，我們不允許應(yīng)用采用可能對(duì)用戶有害或不當(dāng)?shù)纳墒?AI 功能。請(qǐng)查看我們的 AI 生成內(nèi)容政策，并確保您的所有應(yīng)用都符合這些要求，以避免應(yīng)用被拒絕或在 Google Play 中下架。

需要注意的是，使用 AI 生成內(nèi)容的應(yīng)用必須:

禁止和防止生成受限內(nèi)容。

讓用戶能夠舉報(bào)或標(biāo)記冒犯性內(nèi)容。對(duì)于具有生成式 AI 功能的應(yīng)用，監(jiān)控并優(yōu)先處理用戶的反饋尤為重要，因?yàn)橛脩艚换ブ苯铀茉炝藘?nèi)容和體驗(yàn)。

負(fù)責(zé)任地推廣您的應(yīng)用:應(yīng)用推廣是拓展業(yè)務(wù)的重要途徑，以安全且尊重用戶的方式推廣應(yīng)用至關(guān)重要。您最終要對(duì)您應(yīng)用的營(yíng)銷和廣告方式負(fù)責(zé)，因此請(qǐng)查看您的營(yíng)銷材料，以確保您的廣告準(zhǔn)確反映了應(yīng)用的功能；并確保您的應(yīng)用在所有平臺(tái)上的所有廣告和促銷內(nèi)容都符合我們的應(yīng)用推廣要求。例如，將您的應(yīng)用廣告用于不當(dāng)用途可能會(huì)導(dǎo)致其從 Google Play 中被下架。

嚴(yán)格測(cè)試 AI 工具和模型:您需要對(duì)應(yīng)用中的體驗(yàn)負(fù)責(zé)，因此，您需要了解用于創(chuàng)建媒體的基礎(chǔ) AI 工具和模型，并確保這些工具可靠，輸出結(jié)果符合 Google Play 政策并尊重用戶安全和隱私，這一點(diǎn)至關(guān)重要。請(qǐng)務(wù)必在各種用戶場(chǎng)景下測(cè)試您的應(yīng)用，并防范用戶使用某些提示去操縱生成式 AI 功能創(chuàng)建有害或冒犯性內(nèi)容。例如，您可以使用我們的封閉式測(cè)試功能分享應(yīng)用的早期版本，通過(guò)用戶反饋了解他們是否獲得了期望的生成結(jié)果。

這種徹底的理解和測(cè)試尤其適用于生成式 AI，因此我們建議您開(kāi)始記錄這些測(cè)試；因?yàn)槲覀儗?lái)可能要求審查此記錄，以便我們更好地了解您如何保護(hù)用戶。

隨著 AI 領(lǐng)域的發(fā)展，我們將繼續(xù)更新我們的政策和開(kāi)發(fā)者工具，以應(yīng)對(duì)新出現(xiàn)的需求和復(fù)雜性。這包括在將來(lái)引入新的應(yīng)用上架功能，使在 Google Play 提交生成式 AI 應(yīng)用的過(guò)程更簡(jiǎn)潔和透明。我們還將分享最佳實(shí)踐和資源，例如我們的 People + AI 指南，以支持開(kāi)發(fā)者構(gòu)建創(chuàng)新和負(fù)責(zé)任的應(yīng)用，從而豐富全球用戶的生活。

一如既往，我們始終是您保障用戶安全的合作伙伴，并樂(lè)于接受您的反饋，以便我們可以更好地制定政策，幫助您充分利用 AI 在 Google Play 上擴(kuò)展業(yè)務(wù)，為我們共同的用戶提供保障并創(chuàng)造愉悅的體驗(yàn)。