Kalifornia zaostrza przepisy dotyczące chatbotów AI dla nieletnich: SB 243 wprowadza weryfikację wieku, ostrzeżenia i protokoły bezpieczeństwa

Kalifornijska ustawa dotycząca chatbotów AI, SB 243, została podpisana. Gubernator Gavin Newsom ogłosił nowe zabezpieczenia dla nieletnich w poniedziałkowym komunikacie z biura gubernatora.

Pakiet ten dotyczy chatbotów AI towarzyszących oraz platform mediów społecznościowych i stron internetowych obsługujących użytkowników z Kalifornii.

SB 243 została wprowadzona w styczniu przez senatora Steve'a Padillę oraz senatora Josha Beckera.

Ustawa nakłada obowiązki weryfikacji wieku, wymogi ostrzeżeń i ujawniania informacji oraz protokoły dotyczące samobójstw i samookaleczeń dla usług oferujących chatboty nieletnim. Prawo dotyczy platform oferujących narzędzia mieszkańcom Kalifornii.

Kalifornijska ustawa o chatbotach AI przewiduje wejście w życie w styczniu 2026 roku.

Agencje i firmy mają teraz jasno określony harmonogram wdrożenia weryfikacji wieku, wyświetlania wymaganych ostrzeżeń oraz przygotowania protokołów dotyczących samobójstw i samookaleczeń.

Biuro gubernatora wymieniło te środki jako zabezpieczenia chroniące dzieci.

Weryfikacja wieku i chatboty AI towarzyszące: ostrzeżenia i ujawnianie informacji dla nieletnich

Weryfikacja wieku staje się obowiązkowa tam, gdzie chatboty AI towarzyszące są dostępne dla nieletnich. Platformy muszą potwierdzić wiek użytkownika przed udostępnieniem dostępu do chatbota.

Kalifornijska ustawa o chatbotach AI ustanawia weryfikację jako pierwszy środek kontroli.

Przepisy wymagają również ostrzeżeń i ujawniania informacji. Interfejsy chatbotów muszą informować nieletnich, że odpowiedzi są generowane przez AI i mogą nie być odpowiednie dla dzieci.

Tekst nakazuje platformom prezentować ostrzeżenie w sposób jasny i zrozumiały dla młodych użytkowników.

Te zasady wykraczają poza główne platformy mediów społecznościowych. Strony internetowe, zdecentralizowane media społecznościowe oraz platformy gamingowe oferujące chatboty AI towarzyszące mieszkańcom Kalifornii również podlegają tym przepisom.

Ramy SB 243 ustanawiają jednolite standardy dostępu, ujawniania informacji i prezentacji.

Protokoły dotyczące samobójstw i samookaleczeń: obowiązki platform zgodnie z SB 243

Prawo wymaga formalnych protokołów dotyczących samobójstw i samookaleczeń. Platformy muszą utrzymywać procedury wykrywania ryzyka i eskalowania przypadków dotyczących nieletnich.

Kalifornijska ustawa o chatbotach AI wiąże te protokoły z konkretnymi krokami operacyjnymi.

Zwolennicy powoływali się na raporty o niebezpiecznych odpowiedziach. Senator Steve Padilla powiedział,

„Ta technologia może być potężnym narzędziem edukacyjnym i badawczym,”

jednocześnie argumentując, że branża jest motywowana do przyciągania uwagi młodych użytkowników „kosztem ich relacji w prawdziwym świecie.” Cytat ten pojawia się w komunikatach legislacyjnych związanych z SB 243.

Zgodnie z SB 243 platformy powinny zintegrować ścieżki eskalacji w przepływach pracy chatbotów. Protokoły dotyczące samobójstw i samookaleczeń mają na celu wywołanie szybkiej reakcji, gdy chatboty AI towarzyszące wykryją ryzykowne rozmowy.

Wymóg ten dotyczy platform mediów społecznościowych, stron internetowych i platform gamingowych obsługujących nieletnich z Kalifornii.

Odpowiedzialność i roszczenia dotyczące autonomii: co się zmienia dla platform społecznościowych

Kalifornijska ustawa o chatbotach AI ogranicza roszczenia dotyczące autonomii. Firmom będzie trudniej argumentować, że chatbot AI towarzyszący „działał autonomicznie”, aby uniknąć odpowiedzialności.

Przepisy przesuwają odpowiedzialność na usługę wdrażającą i zarządzającą narzędziem.

Ta zmiana dotyczy platform mediów społecznościowych i stron internetowych oferujących chatboty nieletnim. Wraz z SB 243 obowiązek obejmuje teraz weryfikację wieku, ostrzeżenia i ujawnianie informacji oraz funkcjonujące protokoły dotyczące samobójstw i samookaleczeń. Ramy odpowiedzialności są zgodne z tymi konkretnymi wymaganiami.

Harmonogram ma znaczenie. Data wejścia w życie w styczniu 2026 roku daje czas na udokumentowanie kontroli, aktualizację rejestrów i przetestowanie ścieżek eskalacji.

Kalifornijska ustawa o chatbotach AI wyznacza ścieżkę, na której roszczenia dotyczące autonomii nie zwalniają z odpowiedzialności za przewidywalne ryzyka.

Kontekst federalny i stanowy: prawo Utah i ustawa RISE

Inne jurysdykcje również są aktywne. Prawo Utah weszło w życie w maju 2024 roku, wymagając od chatbotów ujawniania, że użytkownicy nie rozmawiają z człowiekiem.

Przepisy te dotyczą ostrzeżeń i ujawniania informacji we wszystkich interfejsach konsumenckich. Stanowią punkt odniesienia dla nadzoru na poziomie stanowym.

W czerwcu senator Cynthia Lummis przedstawiła ustawę Responsible Innovation and Safe Expertise (RISE) Act. Federalny projekt ustawy proponuje ograniczoną immunitet cywilny dla deweloperów AI w sektorze zdrowia, prawa, finansów i innych branżach.

Środek ten wywołał mieszane reakcje i został skierowany do House Committee on Education and the Workforce.

Kontrast jest wyraźny. Kalifornijska ustawa o chatbotach AI koncentruje się na nieletnich, weryfikacji wieku, ostrzeżeniach i ujawnianiu informacji oraz protokołach dotyczących samobójstw i samookaleczeń.

Ustawa RISE dotyczy odpowiedzialności deweloperów na poziomie krajowym. Firmy działające w wielu stanach będą musiały śledzić oba kierunki.

Kogo dotyczy: strony internetowe, zdecentralizowane media społecznościowe i platformy gamingowe

Zakres obejmuje szeroki wachlarz usług. Platformy mediów społecznościowych, strony internetowe, zdecentralizowane media społecznościowe oraz platformy gamingowe oferujące chatboty AI towarzyszące nieletnim z Kalifornii podlegają SB 243. Kryterium jurysdykcyjnym jest obsługa mieszkańców Kalifornii.

Kalifornijska ustawa o chatbotach AI podkreśla obowiązki dotyczące interfejsu. Weryfikacja wieku ogranicza dostęp, ostrzeżenia i ujawnianie informacji informują użytkowników, a protokoły dotyczące samobójstw i samookaleczeń kształtują ścieżki eskalacji. Każdy wymóg dotyczy interakcji, w której może dojść do szkody.

Data wejścia w życie w styczniu 2026 roku wyznacza termin wdrożenia. Gubernator Gavin Newsom, senator Steve Padilla oraz senator Josh Becker to główne nazwiska związane z kalifornijską ustawą o chatbotach AI. Ustawa wyznacza jasne oczekiwania wobec platform i ustanawia model, który mogą rozważyć inne stany.