加州加強對未成年人AI聊天機器人的規範：SB 243設立年齡驗證、警告及安全協議

加州AI聊天機器人法案SB 243現已簽署。州長Gavin Newsom於週一由州長辦公室發布的公告中宣布了針對未成年人的新保障措施。

該法案針對AI陪伴聊天機器人，以及為加州用戶提供服務的社交媒體平台和網站。

SB 243於今年一月由參議員Steve Padilla和參議員Josh Becker提出。

該法案對向未成年人提供聊天機器人的服務設定了年齡驗證義務、警告和披露規則，以及自殺和自我傷害應對機制。該法律適用於向加州居民提供工具的平台。

加州AI聊天機器人法案規定將於2026年1月生效。

相關機構和公司現在有明確的時間表來實施年齡驗證、展示強制性警告，以及準備自殺和自我傷害應對機制。

州長辦公室將這些措施列為兒童安全保障。

年齡驗證與AI陪伴聊天機器人：針對未成年人的警告與披露

凡是向未成年人提供AI陪伴聊天機器人的地方，年齡驗證成為強制要求。平台必須在啟用聊天機器人訪問前確認用戶年齡。

加州AI聊天機器人法案將驗證設為首要控制措施。

該法規還要求警告和披露。聊天機器人介面必須告知未成年人，回覆內容由AI生成，且可能不適合兒童。

法案要求平台以年輕用戶能理解的語言清楚展示警告。

這些規則不僅適用於主流社交媒體平台。向加州居民提供AI陪伴聊天機器人的網站、去中心化社交媒體和遊戲平台也在適用範圍內。

SB 243框架為訪問、披露和展示設定了統一基準。

自殺與自我傷害應對機制：SB 243下的平台責任

該法律要求制定正式的自殺和自我傷害應對機制。平台必須維護檢測風險並升級涉及未成年人的案例的程序。

加州AI聊天機器人法案將這些機制與具體的運營步驟相結合。

支持者引用了不安全輸出的報告。參議員Steve Padilla表示，

「這項技術可以成為強大的教育和研究工具，」

同時指出該行業有動機以犧牲年輕用戶現實世界關係為代價來吸引其注意力。該引述出現在與SB 243相關的立法通訊中。

根據SB 243，平台應將升級路徑整合到聊天機器人工作流程中。自殺和自我傷害應對機制旨在當AI陪伴聊天機器人出現高風險對話時，及時促使採取行動。

該要求適用於為加州未成年人服務的社交媒體平台、網站和遊戲平台。

責任與自主權主張：社交媒體平台將有何變化

加州AI聊天機器人法案收窄了自主權主張。企業將更難以「自主行動」為由來規避責任。

法案語言將問責推向部署和管理該工具的服務方。

這一轉變影響向未成年人提供聊天機器人的社交媒體平台和網站。隨著SB 243的實施，責任範圍現包括年齡驗證、警告與披露，以及有效的自殺和自我傷害應對機制。責任框架與這些具體要求保持一致。

時間表至關重要。2026年1月的生效日期為記錄控制措施、更新日誌和測試升級流程提供了時間。

加州AI聊天機器人法案確立了一條路徑，使自主權主張無法抹除對可預見風險的責任。

聯邦與州層面背景：猶他州法律與RISE法案

其他司法管轄區也在積極行動。猶他州法律於2024年5月生效，要求聊天機器人必須披露用戶並非在與真人對話。

該法案針對消費者介面的警告和披露，為州級監管提供了參考。

今年6月，參議員Cynthia Lummis提出了負責任創新與安全專業（RISE）法案。該聯邦法案提議對醫療、法律、金融及其他行業的AI開發者在民事責任方面給予有限豁免。

該措施引發了不同反應，並被提交至眾議院教育與勞動力委員會審議。

對比十分明顯。加州AI聊天機器人法案聚焦於未成年人、年齡驗證、警告與披露，以及自殺和自我傷害應對機制。

RISE法案則在全國層面處理開發者責任。跨州經營的公司需要同時關注這兩條路線。

涵蓋範圍：網站、去中心化社交媒體和遊戲平台

涵蓋範圍極廣。向加州未成年人提供AI陪伴聊天機器人的社交媒體平台、網站、去中心化社交媒體和遊戲平台均受SB 243規範。司法管轄點在於是否為加州居民提供服務。

加州AI聊天機器人法案強調介面責任。年齡驗證限制訪問，警告與披露告知用戶，自殺和自我傷害應對機制則規範升級流程。每項要求都針對可能發生傷害的互動。

2026年1月的生效日期為實施提供了時間基礎。Gavin Newsom州長、Steve Padilla參議員和Josh Becker參議員是與加州AI聊天機器人法案密切相關的核心人物。該法規為平台設定了明確預期，也為其他州提供了可參考的範例。