近日，中央廣播電視總臺中國之聲報道了一則關于生成式人工智能技術的新聞。這項技術為數(shù)字經(jīng)濟的發(fā)展提供了強大的推動力。然而，由于AI生成合成內(nèi)容未進行明確標識，公眾難以區(qū)分這些內(nèi)容與人類創(chuàng)作的內(nèi)容，導致利用AI實施詐騙、侵權等違法犯罪行為頻發(fā)。為此，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標識辦法》，該辦法將于今年9月1日起正式施行。

《人工智能生成合成內(nèi)容標識辦法》明確要求用戶在發(fā)布AI生成合成內(nèi)容時，必須主動聲明并進行標識。這一規(guī)定旨在規(guī)范生成合成內(nèi)容的傳播活動，保障公眾的知情權，并減少利用AI進行違法犯罪的可能性。

在北京互聯(lián)網(wǎng)法院近期審理的一起網(wǎng)絡服務合同糾紛案中，涉及到了AI生成合成內(nèi)容的標識問題。原告在被告運營的網(wǎng)絡平臺上發(fā)表了一段言論，卻被平臺判定為“包含AI生成內(nèi)容但未標識”的違規(guī)情況，導致內(nèi)容被隱藏，賬號被禁言一天。原告起訴稱，這些言論并未使用AI創(chuàng)作，平臺的行為構成了違約。

在庭審過程中，被告平臺強調(diào)，他們有權依據(jù)雙方的網(wǎng)絡服務合同審核認定用戶的違規(guī)行為，并采取必要的治理措施。平臺指出，原告發(fā)布的內(nèi)容經(jīng)機器識別為“包含人工智能生成”，并經(jīng)過人工復核，認定該內(nèi)容缺乏明顯的人類情感特征。然而，原告無法提供創(chuàng)作底稿、原件等證明人類創(chuàng)作屬性的初步證據(jù)。

法院在審理此案時認為，平臺在社區(qū)公告中明確規(guī)定了創(chuàng)作者在發(fā)布包含AI生成內(nèi)容時應主動使用標識，并對未標識的內(nèi)容采取流通限制和添加相關標識的措施。這一公告屬于平臺服務協(xié)議的組成部分，因此平臺有權依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進行審查和處理。

然而，法院也指出，平臺作為算法工具的掌控方和結(jié)果判斷方，應對判斷依據(jù)和結(jié)果作出合理解釋。雖然平臺在本案中提供了算法的備案信息，但備案信息顯示該算法功能為識別有安全風險的回答，無法認定它是對AI生成合成識別判斷的技術。因此，法院認為平臺未對涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋，應承擔違約責任。

中國人民大學法學院副教授黃尹旭認為，此案是對AI生成合成內(nèi)容標識、平臺識別和治理在司法審查規(guī)則方面的有益探索。他表示，法院既肯定了網(wǎng)絡內(nèi)容服務平臺利用算法工具對AI生成合成內(nèi)容進行審查和處理的積極作用，又認定了平臺在即時性創(chuàng)作文本場景下對算法自動化決策結(jié)果承擔適度說明義務。這一判決為司法審查階段的算法解釋說明程度確立了一定的標準，既保障了網(wǎng)絡用戶的合法權益，又能有效推動算法公開透明，規(guī)范算法應用行為。

黃尹旭還強調(diào)，算法治理需要在保障技術透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力之間尋求動態(tài)平衡。司法審查應本著包容審慎的態(tài)度，在算法信息適當公開與算法商業(yè)秘密適度保護之間達成平衡。在此案中，法院合理分配了網(wǎng)絡內(nèi)容服務平臺和用戶的舉證責任，既保障了用戶的權益，又避免了平臺泄露技術細節(jié)、源代碼或原始數(shù)據(jù)的風險。