近期，中國之聲報道了生成式人工智能技術在推動數(shù)字經(jīng)濟發(fā)展中的關鍵作用。然而，隨著AI技術的廣泛應用，未標注的AI生成內(nèi)容與人類創(chuàng)作內(nèi)容之間的界限變得模糊，導致詐騙、侵權等違法行為頻發(fā)。為應對這一問題，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部及國家廣播電視總局聯(lián)合制定了《人工智能生成合成內(nèi)容標識辦法》，該辦法將于今年9月1日正式生效，明確要求用戶在發(fā)布AI生成內(nèi)容時需主動聲明并進行標識。

盡管《標識辦法》尚未施行，各大平臺已提前采取措施規(guī)范AI生成內(nèi)容的傳播。近日，北京互聯(lián)網(wǎng)法院審理的一起網(wǎng)絡服務合同糾紛案，就涉及平臺對用戶發(fā)言被誤判為“包含AI生成內(nèi)容但未標識”的糾紛處理。原告在被告平臺上發(fā)表的一段關于工作與生活建議的言論，被平臺誤判為AI生成內(nèi)容，并因此受到隱藏內(nèi)容和禁言一天的處罰。原告隨即起訴平臺，要求撤銷處罰并刪除違規(guī)記錄。

庭審過程中，被告平臺強調，根據(jù)雙方的網(wǎng)絡服務合同，平臺有權審核并認定用戶在使用服務時的違規(guī)行為，并采取相應治理措施。法院審理認為，平臺在服務協(xié)議中已明確告知用戶需對AI生成內(nèi)容進行標識，未標識者將視為違規(guī)，因此平臺有權依據(jù)協(xié)議對內(nèi)容進行審查和處理。然而，關于原告如何證明其言論非AI生成，法院指出，在缺乏創(chuàng)作底稿等直接證據(jù)的情況下，原告難以提供充分證明。

平臺方面進一步辯稱，其有權選擇合理的技術手段進行內(nèi)容識別，且無需向用戶透露算法邏輯和技術秘密。然而，法院認為，作為算法工具的控制者和結果判斷者，平臺應對其判斷依據(jù)和結果進行合理舉證或解釋。本案中，盡管平臺提供了算法的備案信息，但該信息無法證明與本案爭議的關聯(lián)性，因此平臺未能對判斷依據(jù)作出合理解釋，應承擔違約責任。最終，法院判決平臺撤銷對原告的隱藏和禁言處罰，并刪除后臺違規(guī)記錄。

即將施行的《人工智能生成合成內(nèi)容標識辦法》詳細規(guī)定了平臺在規(guī)范AI生成內(nèi)容傳播方面的責任，包括核驗文件元數(shù)據(jù)、添加顯著提示標識、提供標識功能等。中國人民大學法學院副教授黃尹旭認為，此案在司法審查規(guī)則方面對AI生成內(nèi)容的標記、平臺識別和治理進行了有益探索。他強調，法院既肯定了平臺利用算法工具履行信息內(nèi)容管理責任的積極作用，也要求平臺在即時性創(chuàng)作文本場景下對算法自動化決策結果承擔適度說明義務，為算法解釋說明的司法審查標準確立了基準。

黃尹旭還指出，算法治理需在保障技術透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力之間尋求平衡。司法審查應秉持包容審慎的態(tài)度，在算法信息適當公開與商業(yè)秘密適度保護之間找到平衡點。本案中，法院合理分配了平臺與用戶的舉證責任，既保障了用戶權益，又促進了算法的公開透明和規(guī)范應用。