根據《生成式人工智能服務管理暫行辦法》及相關政策規定,需要辦理算法備案的企業主要是提供具有輿論屬性或社會動員能力的生成式人工智能服務的組織或個人。具體可從以下幾個方面理解:
- 生成式人工智能服務:指利用算法、模型、規則生成文本、圖片、音頻、視頻等內容的技術服務,包括通過 API 接口或其他方式提供服務的主體。例如,聊天機器人、圖像生成工具、虛擬主播等均屬于此類。
- 輿論屬性或社會動員能力:
- 輿論屬性:指服務可能影響公眾意見、情緒或價值觀,如新聞平臺、社交媒體、論壇等。
- 社會動員能力:指服務可能引發公眾集體行動或參與特定活動,如投票、抗議、商業推廣等。
直接面向公眾的服務提供者:
- 互聯網公司:如阿里、百度、網易等,其開發的智能客服、內容生成工具等需備案。
- 內容平臺:如抖音、快手、嗶哩嗶哩等短視頻平臺,涉及生成式 AI 特效或推薦算法。
- 金融機構:如東方財富,其智能對話系統、虛擬主播等需備案。
- 教育機構:如使用 AI 生成教學內容或互動工具的平臺。
- 其他行業:如醫療、法律、電商等領域的生成式 AI 應用,如智能診斷助手、合同生成工具等。
技術支持者:
- 為上述服務提供者提供 API 接口、算法模型或技術支持的企業,即使不直接面向用戶,也需備案。例如,為企業端客戶提供語音合成技術的供應商。
跨境服務提供者:
- 境外企業向境內公眾提供生成式 AI 服務,需通過屬地網信部門履行備案程序。例如,通過 API 調用境外模型的境內應用需進行登記。
非公開服務:
- 企業自用的生成式 AI 系統,若僅用于內部流程優化(如數據分析、員工培訓)且不向公眾提供服務,無需備案。
- 例如,某企業內部使用的文檔生成工具,僅在企業局域網內運行,不涉及對外服務。
無輿論或社會動員能力的服務:
- 若服務不涉及公眾意見表達或集體行動,如純工具類應用(如數學計算、天氣查詢),無需備案。
備案范圍:
- 具有輿論屬性或社會動員能力的生成式 AI 服務,包括通過 API 接口調用已備案模型的應用或功能(需進行登記)。
材料提交:
- 需提交算法技術文檔、安全自評估報告、服務協議、語料標注規則等材料。
審核與公示:
- 屬地網信部門初審后,報國家網信辦終審,通過后公示備案信息。
- 已上線的應用需在顯著位置標注備案編號及公示鏈接。
時間節點:
- 服務上線后 10 個工作日內完成備案;變更或終止服務需在 10 個或 20 個工作日內更新備案信息。
未履行備案義務的企業可能面臨警告、罰款、暫停服務等處罰,情節嚴重者將依法追究刑事責任。例如,未備案的生成式 AI 應用可能被應用商店下架。
截至 2025 年 5 月,全國已有數百款生成式 AI 服務完成備案,涉及互聯網、金融、教育等多個行業。備案流程持續優化,部分地區(如湖南)已實現 “即報即審、審過即發”,備案周期壓縮至 60 個工作日以內。