Kalifornský guvernér Gavin Newsom v pondělí podepsal přelomový zákon, který zavádí regulace Ai chatbotů, jako společníků, čímž se stal prvním státem v USA, který vyžaduje, aby provozovatelé chatbotů s umělou inteligencí zaváděli bezpečnostní protokoly pro své společníky.
Zákon s názvem SB 243 má chránit děti a zranitelné uživatele před některými škodami spojenými s používáním chatbotů s umělou inteligencí. Společnosti – od velkých laboratoří jako Meta a OpenAI až po specializovanější startupy, jako jsou Character AI a Replika – nesou právní odpovědnost, pokud jejich chatboti nesplňují zákonné standardy.
Návrh zákona SB 243 byl představen v lednu státními senátory Stevem Padillou a Joshem Beckerem a nabral na obrátkách po smrti teenagera Adama Rainea, který spáchal sebevraždu po dlouhé sérii sebevražedných rozhovorů s chatbotem OpenAI ChatGPT. Legislativa také reaguje na uniklé interní dokumenty, které údajně ukazovaly, že chatbotům společnosti Meta bylo dovoleno vést „romantické“ a „smyslné“ chaty s dětmi. Nedávno rodina z Colorada podala žalobu na startup Character AI, který se zabývá hraním rolí, poté, co si jejich třináctiletá dcera vzala život po sérii problematických a sexualizovaných rozhovorů s chatboty společnosti.
„Nové technologie, jako jsou chatboti a sociální média, mohou inspirovat, vzdělávat a propojovat – ale bez skutečných zábran mohou technologie také zneužívat, uvádět v omyl a ohrožovat naše děti,“ uvedl Newsom ve svém prohlášení. „Viděli jsme několik skutečně hrůzných a tragických příkladů mladých lidí, kteří byli poškozeni neregulovanými technologiemi, a nebudeme nečinně přihlížet, jak společnosti pokračují bez nezbytných omezení a odpovědnosti. Můžeme i nadále být lídry v oblasti umělé inteligence a technologií, ale musíme to dělat zodpovědně – chránit naše děti v každém kroku. Bezpečnost našich dětí není na prodej.“
Zákon SB 243 vstoupí v platnost 1. ledna 2026 a vyžaduje, aby společnosti zavedly určité funkce, jako je ověřování věku a varování týkající se sociálních médií a doprovodných chatbotů. Zákon také zavádí přísnější tresty pro ty, kteří profitují z nelegálních deepfakes, a to až do výše 250 000 dolarů za přestupek. Společnosti musí také zavést protokoly pro řešení sebevražd a sebepoškozování, které budou sdíleny se státním ministerstvem zdravotnictví spolu se statistikami o tom, jak služba poskytovala uživatelům upozornění na prevence krizových center.
Podle formulace návrhu zákona musí platformy také jasně uvést, že veškeré interakce jsou generovány uměle a chatboti se nesmí vydávat za zdravotnické pracovníky. Společnosti jsou povinny nabízet nezletilým připomenutí přestávek a zabránit jim v prohlížení sexuálně explicitních obrázků generovaných chatbotem.
Některé společnosti již začaly zavádět ochranná opatření zaměřená na děti. Například OpenAI nedávno začala zavádět rodičovskou kontrolu, ochranu obsahu a systém detekce sebepoškozování pro děti pomocí ChatGPT. Replika, která je určena pro dospělé starší 18 let, sdělila, že věnuje „významné zdroje“ bezpečnosti prostřednictvím systémů filtrování obsahu a ochranných zábran, které uživatele směrují k důvěryhodným krizovým zdrojům, a zavázala se dodržovat platné předpisy.
Společnost Character AI uvedla, že její chatbot obsahuje prohlášení, že všechny chaty jsou generovány umělou inteligencí a jsou fiktivní. Mluvčí Character AI serveru TechCrunch sdělil, že společnost „vítá spolupráci s regulačními orgány a zákonodárci při vývoji předpisů a legislativy pro tento nově vznikající prostor a bude dodržovat zákony, včetně zákona SB 243.“
Senátor Padilla serveru řekl, že návrh zákona je „krokem správným směrem“ k zavedení ochranných opatření pro „neuvěřitelně výkonnou technologii“.
„Musíme jednat rychle, abychom nepromeškali příležitosti dříve, než zmizí,“ řekl Padilla. „Doufám, že si toto riziko uvědomí i ostatní státy. Myslím, že mnoho z nich ano. Myslím, že se o tom diskutuje po celé zemi a doufám, že lidé podniknou kroky. Federální vláda to rozhodně neudělala a myslím, že máme povinnost chránit ty nejzranitelnější mezi námi.“
Zákon SB 243 je druhým významným nařízením o umělé inteligenci, které v posledních týdnech vyšlo v Kalifornii. 29. září guvernér Newsom podepsal zákon SB 53, který zavádí nové požadavky na transparentnost pro velké společnosti zabývající se umělou inteligencí. Návrh zákona nařizuje, aby velké laboratoře umělé inteligence, jako jsou OpenAI, Anthropic, Meta a Google DeepMind, byly transparentní, pokud jde o bezpečnostní protokoly. Zajišťuje také ochranu oznamovatelů pro zaměstnance těchto společností.
Jiné státy, jako Illinois, Nevada a Utah, schválily zákony, které omezují nebo zcela zakazují používání chatbotů s umělou inteligencí jako náhradu za licencovanou péči o duševní zdraví.
