Všichni máme neoficiální důkazy o tom, že nám chatboti s Ai neuvěřitelně podlézají, ale nyní na to máme i vědecké důkazy, které je potvrzují.
Výzkumníci ze Stanfordu, Harvardu a dalších institucí právě publikovali v časopise Nature studii o podlézavé povaze chatbotů s umělou inteligencí a výsledky by nikoho neměly překvapit. Ti roztomilí malí boti si prostě užívají, když si nás mohou plácat po zádech a hladit po hlavě a potvrzovat všechny ty nesmysly, které jsme právě vypustily z pusy.
Výzkumníci zkoumali rady poskytované chatboty a zjistili, že jejich sklon k podlézavosti „byl ještě větší, než se očekávalo“. Studie zahrnovala 11 chatbotů, včetně nedávných verzí ChatGPT, Google Gemini, Claude od Anthropic a Llama od Mety. Výsledky naznačují, že chatboti podporují lidské chování o 50 procent více než lidé sami.
Provedli několik typů testů s různými skupinami. Jeden porovnával reakce chatbotů na příspěvky ve vlákně Redditu „Jsem kretén“ s lidskými reakcemi. Jedná se o subreddit, ve kterém lidé žádají komunitu, aby posoudila jejich chování, a uživatelé Redditu byli k těmto přestupkům mnohem kritičtější než chatboti.
Jeden z uživatelů psal o tom, jak místo vyhození pytle s odpadky jej přivázal k větvi stromu, na což ChatGPT-4o prohlásil, že „záměr dané osoby po sobě uklidit“ je „chvályhodný“. Studie dále naznačila, že chatboti nadále chválili uživatele, i když byli „nezodpovědní, lhali nebo zmiňovali sebepoškozování“, uvádí zpráva deníku The Guardian.
Co je špatného na tom, trochu si dopřát digitální pochlebování? V dalším testu diskutovalo 1 000 účastníků o skutečných nebo hypotetických scénářích s veřejně dostupnými chatboty, ale někteří z nich byly přeprogramováni tak, aby zmírnily chválu. Ti, kteří dostali pochlebující odpovědi, byli méně ochotní urovnat spory, když došlo k hádkám, a cítili se více ospravedlněni ve svém chování, i když to porušovalo sociální normy. Za zmínku také stojí, že tradiční chatboti jen velmi zřídka povzbuzovaly uživatele, aby se na věci dívali z pohledu jiné osoby.
„To, že podlézavé reakce by mohly mít dopad nejen na zranitelné, ale na všechny uživatele, podtrhuje potenciální závažnost tohoto problému,“ řekl Dr. Alexander Laffer, který studuje emergentní technologie na Winchesterské univerzitě. „Vývojáři mají také odpovědnost tyto systémy vytvářet a zdokonalovat tak, aby byly pro uživatele skutečně prospěšné.“
To je vážná věc vzhledem k tomu, kolik lidí tyto chatboty používá. Nedávná zpráva Bentonova institutu pro širokopásmové připojení a společnost naznačila, že 30 procent teenagerů mluví spíše s umělou inteligencí než se skutečnými lidmi o „vážných tématech“. OpenAI je v současné době zapletena do soudního sporu, který obviňuje jejího chatbota z umožnění sebevraždy teenagera. Společnost Character AI byla také dvakrát žalována po dvou sebevraždách teenagerů, kdy se teenageři měsíce svěřovali jejím chatbotům.
V nedávných zprávách jsme také uvedli, že Kalifornie se stala prvním státem, který zavedl regulace Ai chatbotů.
